identifier
stringlengths 11
32
| pdf_url
stringlengths 17
4.62k
⌀ | lang
stringclasses 120
values | error
stringclasses 1
value | title
stringlengths 2
500
⌀ | source_name
stringlengths 1
435
⌀ | publication_year
float64 1.9k
2.02k
| license
stringclasses 3
values | word_count
int64 0
1.64M
| text
stringlengths 1
9.75M
|
|---|---|---|---|---|---|---|---|---|---|
https://openalex.org/W1976887661
|
https://europepmc.org/articles/pmc3494559?pdf=render
|
English
| null |
Augmenting intraoperative ultrasound with preoperative magnetic resonance planning models for percutaneous renal access
|
BioMedical engineering online
| 2,012
|
cc-by
| 8,840
|
Augmenting intraoperative ultrasound with
preoperative magnetic resonance planning
models for percutaneous renal access Zhi-Cheng Li1*, Kai Li2, Hai-Lun Zhan3, Ken Chen1, Jia Gu1 and Lei Wang1 * Correspondence: zc.li@siat.ac.cn
1Shenzhen Key Laboratory for Low-
cost Healthcare, Key Lab for Health
Informatics, Shenzhen Institutes of
Advanced Technology, Chinese
Academy of Sciences, Xueyuan
Avenue 1068, Shenzhen 518055,
China RESEARCH Open Access Li et al. BioMedical Engineering OnLine 2012, 11:60 Li et al. BioMedical Engineering OnLine 2012, 11:60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 © 2012 Li et al.; licensee BioMed Central Ltd. This is an Open Access article distributed under the terms of the Creative Commons
Attribution License (http://creativecommons.org/licenses/by/2.0), which permits unrestricted use, distribution, and reproduction in
any medium, provided the original work is properly cited. Full list of author information is
available at the end of the article Background In minimally invasive urology, optimal outcomes of several interventional surgeries such
as Percutaneous Nephrolithotomy (PCNL) and tumor radiofrequency ablation (RFA)
highly depend on a successful percutaneous renal access (PRA) [1]. PRA is a difficult pro-
cedure, requiring an accurate, safe and rapid needle puncture from skin to an intrarenal
target. Intraoperative image guidance is crucial for a successful PRA, because needle puncture
without image guidance is imprecise and an injury to vital structure could take place [2]. Traditionally, the PRA is performed under the X-ray guidance [3]. The main disadvantage
is the radiation exposure for patient and medical personnel especially. The ultrasound (US)
has been proven to be a good alternative, as it is radiation-free, real-time and easy-to-use
and [4]. However, the abdominal US is often related to limited anatomy identification and
targeting abilities, providing only two-dimensional (2D) anatomical information with poor
quality. Furthermore, the US guided PRA may become difficult or even impossible when
the target lesion is sonographically obscure or surrounded by confounding tissues [5]. Other imaging modalities for guiding PRA such as C-arm system and intraoperative com-
puter tomography (CT) were also reported [3]. The main drawbacks are the harmful radi-
ation exposure and high deployment cost. Currently, new image guidance for PRA with
explicit anatomy identification and accurate target localization is still on demand. One promising solution is to augment real-time US images with preoperative image mo-
dalities such as CT or magnetic resonance (MR) [6]. This technique (1) allows surgeons to
calculate an optimal puncture trajectory preoperatively with the 3D reconstructed CT or
MR, and (2) provides surgeons with more accurate targeting ability and more intuitive 3D
guidance. Urologists have found that a puncture trajectory planning can significantly facili-
tate an accurate and safe PRA [7]. A major challenge here is to register the preoperative
images and the real time US [6]. After such a registration, the spatial correspondence be-
tween pre- and intraoperative image modalities can be known. The preoperative planning
models can then be transferred onto the in situ patient in the operating room (OR). When registration technique is used for the purpose of PRA, it requires the registra-
tion to be accurate, robust and easy to manipulate, considering the kidney shift and de-
formation due to respiratory motion. Abstract Background: Ultrasound (US) is a commonly-used intraoperative imaging modality
for guiding percutaneous renal access (PRA). However, the anatomy identification
and target localization abilities of the US imaging are limited. This paper evaluates
the feasibility and efficiency of a proposed image-guided PRA by augmenting the
intraoperative US with preoperative magnetic resonance (MR) planning models. Methods: First, a preoperative surgical planning approach is presented to define an
optimal needle trajectory using MR volume data. Then, a MR to US registration is
proposed to transfer the preoperative planning into the intraoperative context. The
proposed registration makes use of orthogonal US slices to avoid local minima while
reduce processing time. During the registration, a respiratory gating method is used
to minimize the impact of kidney deformation. By augmenting the intraoperative US
with preoperative MR models and a virtual needle, a visual guidance is provided to
guarantee the correct execution of the surgical planning. The accuracy, robustness
and processing time of the proposed registration were evaluated by four urologists
on human data from four volunteers. Furthermore, the PRA experiments were
performed by the same four urologists on a kidney phantom. The puncture accuracy
in terms of the needle-target distance was measured, while the perceptual quality in
using the proposed image guidance was evaluated according to custom scoring
method. Full list of author information is
available at the end of the article Results: The mean registration accuracy in terms of the root mean square (RMS)
target registration error (TRE) is 3.53 mm. The RMS distance from the registered
feature points to their average is 0.81 mm. The mean operating time of the
registration is 6'4". In the phantom evaluation, the mean needle-target distance is
2.08 mm for the left lesion and 1.85 mm for the right one. The mean duration for all
phantom PRA tests was 4'26". According to the custom scoring method, the mean
scores of the Intervention Improvement, Workflow Impact, and Clinical Relevance
were 4.0, 3.3 and 3.9 respectively. Conclusions: The presented image guidance is feasible and promising for PRA
procedure. With careful setup it can be efficient for overcoming the limitation of
current US-guided PRA. Page 2 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 2 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 3 of 16 Page 3 of 16 execution of the planning. Finally, the system is evaluated in two stages. First, registration
performance in terms of accuracy, precision and processing time are measured on human
data from four volunteers. Second, four urologists are asked to perform the image-guided
PRA on a kidney phantom. Both puncture accuracy and perceptual quality in using the
presented image guidance are evaluated. The rest of the paper is organized as follows. Section 2 presents the image guidance
framework in details, including the preoperative planning and the intraoperative guid-
ance. Section 3 describes the experimental studies and related evaluation results and
discussions. Section 4 concludes this paper. Background Existing feature-based registration methods such
as the volume navigation (VNav) method used in commercial ultrasound machine often
suffer from inaccuracy, mainly because it uses less efficient registration landmarks and
does not take the breathing motion into account [8,9]. On the other hand, the image
intensity-based registration methods were reported to be less reliable, as the intensity
correlation between different modalities is not that explicit [10,11]. This paper evaluates the feasibility and efficiency of a proposed augmented US-based
image guidance framework for PRA. A key consideration in designing this framework is
the acceptability and feasibility in clinical environment. The major features of the pro-
posed framework are: 1) A preoperative surgical planning approach is presented to define
an optimal needle trajectory with 3D kidney surface and vascular structures extracted
from the MR volume; 2) An accurate and robust MR to US rigid registration using or-
thogonal geometry is proposed to transfer the preoperative planning into the intraopera-
tive context, where the breathing motion is tracked to minimize the impact of kidney
deformation; 3) A 3D visual guidance is implemented by augmenting the intraoperative
US with preoperative MR planning models and a virtual needle, in order to aid the correct Overview of the proposed PRA workflow The proposed augmented ultrasound-based image-guided framework comprises a diag-
nostic ultrasound device, an optical tracker with reflective markers, and a main computer. The proposed image-guided surgical workflow is as follows. First, an MR scanning is performed on the patient, where the vessels exhibit high con-
trast relative to their background. The kidney, vessels, and skin are then extracted from the
MR volume as a 3D model. Then surgeons can preoperatively define a needle trajectory
that avoids vital vessels and facilitates an effective treatment. During the surgery, the US
slices of the kidney are acquired at the maximum exhalation positions of each respiratory
circle. The preoperative data and the surgical planning are then registered to the calibrated
US images using two pairs of orthogonal slices, such that the planning can be transferred
into the OR. The position of the needle tip is read by the optical tracker in real time. By
augmenting the US with the MR models and a virtual needle, a 3D visual guidance is pro-
vided to facilitate the hand-eye coordination of the treating surgeon, such that the PRA can
be performed accordance with the planning. The overview of the entire framework is
shown in Figure 1. Next, we will describe in details the proposed framework. Figure 1 Overview of the proposed image-guided renal intervention. Figure 1 Overview of the proposed image-guided renal intervention. Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 4 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 The MR-based preoperative planning In this subsection, we present a 3D visualized environment that combines convincing
virtual representation of the kidney surface and the renal vascular structures from pre-
operative MR, allowing surgeons to plan an optimal needle trajectory. Here “optimal”
means suitable and safe for the interventional puncture. The precondition of such a
planning is to obtain abdominal volumetric MR images with high contrast and high
spatial resolution and then to extract the 3D geometric description of the kidney and
renal vessels. Thusly, we use the True Fast Image with Steady-state Precession (true-
FISP) MR sequence [12] to acquire the volume data, as shown in Figure 2a. Note that
other contrast-enhanced imaging modalities such as MRA (Magnetic Resonance Angi-
ography) are also suitable for the planning. Due to the high contrast relative to the background, here we segment the vascular struc-
tures using a neighbourhood connected region growing algorithm for the sake of less
manual interaction. Specifically, the algorithm starts with placing one or two seeds in the
vessel region and incrementally segments the vessels by recruiting neighbouring voxels
according to an intensity threshold [13]. As the contrast-to-noise ratio of the kidney is not
that high, the kidney is segmented in a manual way. After manually segmenting the skin,
all segmented models are then smoothed using a 3D Gaussian kernel and converted into
triangulated meshes by means of the marching cubes algorithm [14]. Then, the Figure 2 The preoperative surgical planning using MR data. (a) The true-FISP MR abdominal images. The vessels exhibit relatively high contrast. (b) 3D visualization of the extracted kidney and vessels as
geometric models. For clarity, the skin is not shown. Figure 2 The preoperative surgical planning using MR data. (a) The true-FISP MR abdominal images. The vessels exhibit relatively high contrast. (b) 3D visualization of the extracted kidney and vessels as
geometric models. For clarity, the skin is not shown. Figure 2 The preoperative surgical planning using MR data. (a) The true-FISP MR abdominal images. The vessels exhibit relatively high contrast. (b) 3D visualization of the extracted kidney and vessels as
geometric models. For clarity, the skin is not shown. Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 5 of 16 triangulated meshes, including vessels, kidney, and skin, are fused and merged into one
geometric model, as shown in Figure 2b. The MR-based preoperative planning Based on such a visualized anatomy, a needle tra-
jectory planning that is optimal for the PRA can be defined as an entry point on the skin
and a target point in the kidney. Generally, the needle entry on the skin is near the 11th
intercostal space, while the trajectory should avoid all large vessels. (i). US calibration The intraoperative processing starts with the US calibration that maps the pixel pos-
ition set XUS to the intraoperative space Stra. In particular, we first determine a homoge-
neous transformation TC that maps pixel positions from the 2D US slices to the local
3D space defined by the optically-tracked markers mounted on the US probe. Let yUS,i
denote the location of pixel xUS,i in the local probe space, then we have yUS;i ¼ TC xUS;i
ð1Þ ð1Þ yUS;i ¼ TC xUS;i After a further transformation TT from the probe space to the tracker space, all US
slices can be localized in the same space Stra as zUS;i ¼ TT yUS;i
ð2Þ ð2Þ zUS;i ¼ TT yUS;i The calculation of TC and TT will be given later in Section 3. After the calibration,
each pixel in all acquired US slices can be positioned in the intraoperative space as
ZUS = {zUS,i}. ZUS = {zUS,i}. ZUS = {zUS,i}. The augmented US-based intraoperative guidance We expect to provide intraoperative guidance by transferring the preoperative planning
to the intraoperative conditions and augmenting the US with preoperative anatomical
models. The critical problem here is to register the MR volume to the US slices consid-
ering the patient respiration. This problem can be formulated as follows: Let xUS,i be a pixel position in the intraoperative US plane while xMR,j be a voxel pos-
ition within the preoperative MR volume. Given two point sets XUS = {xUS,i} and XMR =
{xMR,j}, i = 1,. . ., N, j = 1,. . ., M, we aim to find a transformation TR that represents the
spatial correspondence from the preoperative MR volume SMR to the intraoperative
space Stra defined by the tracker. Based on TR, the preoperative models such as the
planning and the 3D geometric anatomy can be transferred into the intraoperative
space. Therefore, the puncture can be guided to be coincident with the planning. Next,
we will describe the navigated intervention in detail. Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 6 of 16 plane is approximately parallel to the transverse section of the human body. At this
position, we define a cranio-caudal line l0 that is perpendicular to the transverse section
of the human body and passes through the central point of the US transducer face. The
line l0 is considered as a reference axis. In order to acquire one US slice of interest at
the maximum exhalation, the probe is placed at the specified location, and a certain
number of slices are acquired and stored at a stable acquiring rate. Meanwhile, the in-
stantaneous distance from the centroid of the optically-tracked markers mounted on
the probe to the reference axis l0 is calculated. The US slice with the minimum distance
is considered as the required maximum exhalation slice, as shown in Figure 3. In such
a case, the maximum exhalation serves as a trigger for slice selection, accounting for
the breathing motion and ensuring consistency of all used US slices. (ii). Respiratory gating Because of the organ motion due to respiration, inconsistency will occur between the
positions of the anatomical features such as vascular structures in different US slices. This will lead to significant registration error. Therefore, we expect to acquire US slices
at the same stages of the respiration cycles. It has been shown that for free respiration
the kidney assumes the same positions at equivalent lung volumes [15]. Moreover, the
end-exhale represents the longest natural pause in a cycle [16]. Thus, we expect to use
only US slices at the maximum exhalation positions. This can be achieved by an optical tracking based respiratory gating technique. First,
the US probe is placed on the caudal end of the patient’s sternum, where the US slice Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 7 of 16 Page 7 of 16 Page 7 of 16 inefficient and leads to inaccurate registration, mainly because it utilizes insufficient
“geometrical information”. In order to overcome these limitations, we propose an
orthogonal-slice ICP (OICP) algorithm detailed as follows. First, the US probe is swept near the 11th intercostal space. A few US images are
acquired at the maximum exhalation positions based on the respiratory gating
described above. Two pairs of almost orthogonal images, U1, U2, U3 and U4 are
selected, where U1, U2 are approximately parallel to the transverse section of the body
and U3, U4 are acquired with the probe along the midaxillary line. U1, U2 contain
clearly visible hilum vein, inferior vena cava (IVC), and a transverse kidney contour
while U3, U4 contain a clearly visible longitudinal kidney contour. Note that both the
transverse and longitudinal contours should better be complete, or at least represent
most of the kidney. The kidney surface and large vessel surface are used as registration features for the best
alignment of the US slices and the MR volume. The target features XMR consist of kidney
surface denoted as KMR = {kMR,j}, j = 1,. . . K1, and vessels including hilum vein surface
and IVC surface denoted as VMR = {vMR,j}, j = 1,. . . V1. All are preoperatively segmented
from the MR data, as shown in Figure 2b. The source feature ZUS is a set of manually-
picked points, including a subset of point KUS = {kUS,i}, i = 1,. . . K2 selected on kidney
contours (including transverse and longitudinal contours) in all used US slices, and a sub-
set of points VUS = {vUS,i}, i = 1,. . . V2 on hilum vein and IVC surfaces in U1, U2. Because
we only use two pairs of orthogonal slices, the point selection will be completed within
reasonable time. The categorized feature data will aid the registration by avoiding local
minima and reducing computation time. Let cki and cvi be the closest points to kUS,i and
vUS,i, respectively. (iii). MR to US affine registration We aim to transfer the preoperative planning onto the patient in situ by means of MR to
US registration. With respect to clinical demand, surgeons prefer an effective image guid-
ance that optimizes the surgeon's hand-eye coordination, but are often reluctant to accept
over complicated workflow. To this end, we do not use a MR to densely-sampled US vol-
ume registration studied by several groups, which requires overlong intraoperative proces-
sing time [17]. Meanwhile, we decide not to use the VNav method after careful
consideration, which often suffer from less accuracy [8]. Instead, we propose an efficient
approach on top of an affine registration based on two pairs of orthogonal US images. The affine registration is equivalent to find a transformation TR that best aligns the
target point set XMR with the source point set ZUS. The iterate closest point (ICP) algo-
rithm [18] is often used to estimate a transformation that minimizes the mean square
distance between two point sets. However, the original ICP is sensitive to the initial
pose and could be prone to fall into local minima, especially for noisy feature sets, e. g.,
a point-cloud selected in US images. Moreover, the free landmark extraction is often Figure 3 The respiratory gating result. The distance from marker centroids to reference axis l0 is shown. The hollow circles denote the US slices acquiring. 87 slices are acquired at a rate of 20 slices per second. As
for this group of slices, the 72nd slice that corresponds to the minimum distance is selected as the
maximum exhalation US slice, as shown by the red circle. Figure 3 The respiratory gating result. The distance from marker centroids to reference axis l0 is shown. The hollow circles denote the US slices acquiring. 87 slices are acquired at a rate of 20 slices per second. As
for this group of slices, the 72nd slice that corresponds to the minimum distance is selected as the
maximum exhalation US slice, as shown by the red circle. Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Three pairs of landmark points are selected from the cranial end,
caudal end and kidney hilum to initialize the registration. 1. Compute the closest point cki ¼ C Tn1kUS;i; KCT
for i = 1,. . ., K2 and cvi ¼
C Tn1vUS;i; VCT
for i = 1,. . ., V2; 1. Compute the closest point cki ¼ C Tn1kUS;i; KCT
for i = 1,. . ., K2 and cvi ¼
C Tn1vUS;i; VCT
for i = 1,. . ., V2; 2. Compute an update Tn that minimizes the MSE between Tn-1ZUS and {cki}[{cvi}
with translation within ± A and rotation within ± α. End the iteration when n = nmax or the decrease of the MSE is below a threshold h. 3. End the iteration when n = nmax or the decrease of the MSE is below a threshold h. With the final estimate of TR, the transformation from the US plane to the MR image
space SMR can be given by T ¼ T i
RTTTC. Figure 5 shows the corresponding US and MR
slices from a healthy volunteer, where the longitudinal kidney contour is well aligned. Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Then, the OICP registration can be estimated as T
reg ¼ arg min
1
K2
X
K2
i¼1
TregkUS;i ck
"
#
þ 1
V2
X
V2
i¼1
TregkUS;i ck
;
ð3Þ ð3Þ The estimate starts with calculating an initiate transformation T0 by aligning three pairs
of landmark points selected from the cranial end, caudal end and kidney hilum on both
the US slices and the MR segmentation images, as shown in Figure 4. The initial align-
ment can be calculated using the Procrustes analysis [19]. This preprocessing allows quick
algorithm convergence without falling into local minima. Assuming a fine initial registra-
tion, the following optimization can be constrained within a small translation range ± A
and a small rotation angle range ± α, thus reducing the computing time while improving
the reliability. The translation and rotation are then further optimized to minimize the
mean square error (MSE). The entire optimization is summarized below. Input: KUS and VUS manually picked from orthogonal US slices U1, U2, U3 and U4,
KMR, VMR preoperatively segmented from the MR volume;
Output: TR;
Initiation: The starting registration T0 is obtained by aligning the three pairs of
landmark points. Iteration: for n = 1 to nmax or until convergence do Input: KUS and VUS manually picked from orthogonal US slices U1, U2, U3 and U4,
KMR, VMR preoperatively segmented from the MR volume;
Output: TR;
Initiation: The starting registration T0 is obtained by aligning the three pairs of
landmark points. Iteration: for n = 1 to nmax or until convergence do Input: KUS and VUS manually picked from orthogonal US slices U1, U2, U3 and U4,
KMR, VMR preoperatively segmented from the MR volume;
Output: TR;
Initiation: The starting registration T0 is obtained by aligning the three pairs of
landmark points. Iteration: for n = 1 to nmax or until convergence do Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 8 of 16 Page 8 of 16 Figure 4 The registration initialization. Three pairs of landmark points are selected from the cranial end,
caudal end and kidney hilum to initialize the registration. Figure 4 The registration initialization. Three pairs of landmark points are selected from the cranial end,
caudal end and kidney hilum to initialize the registration. Figure 4 The registration initialization. (iv). Augmented US-based guidance Based on TR, the planning and MR anatomical models can be transferred from the pre-
operative space SMR into intraoperative space Stra. A puncture trestle is mounted to the US
probe to restrict the needle trajectory to several given angles within the US plane. The nee-
dle position can be precisely measured by the tracker in real time and fused in the guidance Li et al. BioMedical Engineering OnLine 2012, 11:60 Page 9 of 16 Page 9 of 16 http://www.biomedical-engineering-online.com/content/11/1/60 Figure 5 The corresponding US and MR slices from a healthy volunteer. Central: the US slice
containing a complete kidney. Left: the corresponding MR slice cut from the MR volume. Right: overlay the
US slice onto the corresponding MR slice. Figure 5 The corresponding US and MR slices from a healthy volunteer. Central: the US slice
containing a complete kidney. Left: the corresponding MR slice cut from the MR volume. Right: overlay the
US slice onto the corresponding MR slice. image as a virtual model. The visual guidance is provided by augmenting the US images
with 3D anatomical models, the planning and the virtual needle, as shown in Figure 6. One should notice that the transformation TR is calculated using only US slices at
the maximum exhalation positions. Therefore, at the other stages of the respiratory cir-
cle, the accuracy of registered needle trajectory cannot be guaranteed because of the
organ shift and soft-tissue deformation. In such a case, we expect to perform the punc-
ture at maximum exhalation positions. To this end, we make use of the respiratory gat-
ing technique proposed above to plot the respiratory curve (as shown in Figure 3) in
real time. The maximum exhalation positions can then be detected by visual inspection
of the surgeon. Meanwhile, the needle is inserted rapidly into the intrarenal target. Under the presented image guidance, the puncture trajectory can be guided and guar-
anteed to be coincident with the planning. (i). Registration evaluation Here, we aim to measure the registration accuracy in terms of the root mean square
(RMS) target registration error (TRE) on MR and US data provided by volunteers. Be-
cause no gold standard is available, the MR to densely-sampled US volume registration
proposed in [17] was used as a bronze standard [20]. The true-FISP MR data was acquired by scanning four healthy volunteers (distinguished
by A, B, C, and D) on a Siemens MAGNETOM Trio Tim 3.0 T machine. Written
informed consent from all volunteers was obtained. The voxel resolution was set to
1.12× 1.12 × 1.00 mm3 to approximate the isotropy. The US images were acquired using a
Mindray DC-7 machine with a 3.5 MHz abdominal probe and then captured using an
EDIUX NX video grabber from CANOPUS. A passive Polaris system from Northern
Digital Incorporation (NDI) was used for position tracking. The US probes was mounted
with optically-tracked reflective markers such that the position of the probe can be
tracked. The Mindray US machine provides a built-in calibration application to output the
distance from the left bottom of the US slice to the center of the arc-shaped probe surface,
such that the transformation TC can be calculated directly. Note that for each imaging
depth, the built-in US calibration algorithm only need to run once before the surgery. Then, the output can be stored in a mapping table between transformation TC and im-
aging depth for future use. The transformation TT was calculated automatically by means
of the tracker’s real time output. Given TC and TT, all US slices can be calibrated and
located in the tracker space Stra, as described in section 2. For acquiring one desired US slice at the maximum exhalation via the proposed re-
spiratory gating, 50 to 100 slices were acquired at a stable rate of 20 slices per second
using the video grabber. For calculating the bronze standard registration, 125 US
images were selected at the maximum exhalation positions from each volunteer, cover-
ing from transverse to longitudinal views of the kidney. Four urologists with expertise
in US-guided renal intervention were asked to individually conduct the proposed regis-
trations and the bronze standard registration for each volunteer (denoted as Test 1–4). For calculating the OICP registration, the translation range and the rotation range are
set to A = 28 mm and α = 30°, respectively. (i). Registration evaluation The threshold h for terminating the itera-
tions was set to 0.1. The accuracy can then be measured as follows. All voxel positions within the kidney
model were transformed from SMR into Stra, using both the proposed registration
method and the bronze standard. The RMS error between the two corresponding pos-
ition sets was then calculated. Thus, the accuracy in terms of RMS TRE was obtained. To evaluate the precision, or repeatability of the proposed method, the RMS distance
from the transformed positions to their average, i.e., the standard deviation, was calcu-
lated. The processing time for the proposed registration was also recorded, including
the Procrustes initial registration and OICP optimization. Experiments and evaluations The proposed image guidance framework is evaluated in two stages: (i) evaluation of
the registration performance in terms of the accuracy, precision and processing time
measured on human data, (ii) evaluation in terms of puncture accuracy and perceptual
quality assessed by four urologists on kidney phantom trials. Figure 6 The US-augmented PRA guidance interface. Left top: preoperative MR models of kidney and
skin. Right top: registration features extracted from orthogonal US slices. Right bottom: US slice. Left
bottom: augmented US-based intraoperative guidance. Figure 6 The US-augmented PRA guidance interface. Left top: preoperative MR models of kidney and
skin. Right top: registration features extracted from orthogonal US slices. Right bottom: US slice. Left
bottom: augmented US-based intraoperative guidance. Page 10 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 10 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 (ii). Phantom trials A triple-modality (CT, MR, US) abdominal phantom model 057 from Computerized
Imaging Reference Systems (CIRS) was used for the phantom trials. The internal struc-
ture of the model 057 includes partial abdominal aorta, partial vena cava, spine and
two partial kidneys each with a lesion. The lesions are high contrast relative to the
background in MR and can be barely identified in US. Each lesion can be punctured 3– Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 11 of 16 Page 11 of 16 5 times. These features make it a useful tool for evaluating the targeting accuracy of a
multimodality image-guided PRA. First, the phantom was scanned with the same Simons MR machine. The MR volume
data was then pulled onto the augmented-US based guidance system for surgery plan-
ning. With the 3D reconstruction of the segmented kidney, lesions, spine and skin, two
planning trajectories were defined, each including an entry point on the skin and a tar-
get point within a lesion. The same four interventionists were asked to perform the RFA on the phantom (Test
1–4). Two pairs of orthogonal US slices containing longitudinal and transverse con-
tours of the kidney were selected from real time US data for MR-US registration. Be-
cause the phantom is approximately rigid, the breathing gate technique was not used
here. Three points from the cranial end, the middle, and the caudal end of the kidney
were used for the initial alignment. 8 to 15 points from the kidney surface and the vena
cava were used for the OICP registration. A rigid plastic needle equipped with four
fixed optically-tracked markers was used. A puncture trestle was mounted to the US
probe such that the needle trajectory was restricted, as shown in Figure 7. This needle
can be located in real time in space Stra and was intended to reach the target lesion. By
observing the proposed visualized guidance, each interventionist performed two needle
punctures. The environment of the phantom test is shown in Figure 8. After each PRA
trial, MR scanning was performed to assess the puncture accuracy. The distance be-
tween the needle tip and the lesion center, denoted as needle-target distance (NTD),
was measured based on the multiplanar reconstructed images. The perceptual quality of the image guidance system for surgeons is very important,
as their satisfaction relates to the therapeutic impact in selecting the system in clinical
practice. (ii). Phantom trials The perceptual quality for the proposed PRA was rated in terms of three cri-
teria according to a custom scoring system, as follows: Intervention Improvement from 5 to 1 respectively denotes significant, meaningful,
moderate, fair, and little localization improvement when the proposed guidance is
employed. Workflow Impact indicates the acceptability of the proposed workflow,
where 5 to 1 respectively denote positive, acceptable, acceptable after training, accept-
able with reluctance, and unacceptable. Clinical Relevance denotes the clinical value of Figure 7 Ultrasound probe mounted with the optically-tracked markers and the puncture trestle. Figure 7 Ultrasound probe mounted with the optically-tracked markers and the puncture trestle. Page 12 of 16 Page 12 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60 Li et al. BioMedical Engineering OnLine 2012, 11:60 http://www.biomedical-engineering-online.com/content/11/1/60 Figure 8 The image-guided intervention trial on an abdominal phantom. Figure 8 The image-guided intervention trial on an abdominal phantom. the proposed framework, where scores 5 to 1 correspond to values of high, moderately
high, medium, moderately low to low. The evaluators were allowed to rate x.5 that
represents an assessment between x and x + 1. Registration evaluation This problem may be solved by using the real-time 3DUS probes
instead of the freehand method [22]. Table 2 Measurement of the registration standard deviation (in millimeters)
Volunteers
A
B
C
D
Mean
SD
0.77
0.51
0.81
1.16
0.81 Table 2 Measurement of the registration standard deviation (in millimeters)
Volunteers
A
B
C
D Table 2 Measurement of the registration standard deviation (in millimeters) based on the vessel probability images. They used similar bronze standard and accuracy
criteria to assess the registration performance. The RMS TRE was reported to be 3.6 mm
with a relatively high mean failure rate of 5.6%. Furthermore, all these methods in
[10,11,21] need to acquire relatively dense US slices intraoperatively. It is difficult to be
accepted in clinical use. This problem may be solved by using the real-time 3DUS probes
instead of the freehand method [22]. In the study in [9], the spatial accuracy of the commercial registration technique
VNav was examined via clinical trials of radiofrequency ablation of liver tumors. The
max difference (denoted as Dmax) between the target lesions in both aligned CT and
US was measure. The mean Dmax was 6.55 mm when CT was performed immediately
before VNav. The authors claimed that it was considered to be clinically accepted for
liver tumor ablation. However, a small Dmax meant a small distance between the
aligned US and CT but not an accurate registration, because the gold standard of the
registration was not available. No literatures on the accuracy of VNav in kidney inter-
vention were found. We believe it is a reasonable hypothesis that our method would be
superior because the registration landmarks for VNav are insufficient and less efficient
in selection, especially in the US images of kidney. The results in Table 1 imply that for different data the proposed registration is rather
robust. Specifically, for different surgeons and volunteers (presenting variability of pose
initiation, landmark identification and interindividual anatomy) the registration accur-
acy does not change largely. In other words, no evident outliers were found. Table 1
also shows the operation can be completed within a reasonable time (on average 6'4"). Note that the bronze standard registration took about 37 minutes on average. The bet-
ter accuracy and less operating time validate the high efficiency of the orthogonal slices
in MR to US registration of the kidney. Registration evaluation All results are given in Table 1 and Table 2. The results in Table 1 show a good conver-
gence to the bronze registration with a mean RMS TRE of 3.53 mm. We believe the
proposed approach has benefited from the orthogonal geometry of the used US slices,
where local minima can be avoided. A positive factor is the fine initiate registration
conducted by the expert urologists. A previous study presented an intensity-based registration of CT and three-dimensional
(3D) US kidney images and the average error was 5.36 mm [10]. The bronze standard and
accuracy criteria used were similar, so the comparison with our method makes sense. The
different results can be explained by the following. This previous work used correlation
ratio (CR) between the intensity CT images and the gradient US as similarity measure. We believe the correlation between CT and US is not that explicit and the accuracy will
be influenced. On the other hand, this previous work did not take the breathing motion
into account. In another prior study on computer-assisted access to the kidney, kidney
surface-based registration was used to align CT and freehand 3DUS [21]. They did not re-
port the RMS error but found failed examples. A prior work in [11] evaluated the accuracy
and precision of their registration between MR and freehand 3DUS for human livers Table 1 Measurement of RMS TRE accuracy (in millimeters) and processing time (in
minutes plus seconds)
Volunteers
Criteria
Test 1
Test 2
Test 3
Test 4
Mean
A
RMS TRE
2.29
1.37
2.95
2.70
2.33
time
302200
1001000
701600
900200
702800
B
RMS TRE
3.73
3.11
4.10
3.27
3.55
time
501500
805200
502100
604100
603200
C
RMS TRE
3.32
2.93
3.06
3.44
3.19
time
301500
803600
502200
701500
60700
D
RMS TRE
4.52
5.24
4.72
5.76
5.06
time
504200
801700
603800
802600
701600 Table 1 Measurement of RMS TRE accuracy (in millimeters) and processing time (in
minutes plus seconds) Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 13 of 16 based on the vessel probability images. They used similar bronze standard and accuracy
criteria to assess the registration performance. The RMS TRE was reported to be 3.6 mm
with a relatively high mean failure rate of 5.6%. Furthermore, all these methods in
[10,11,21] need to acquire relatively dense US slices intraoperatively. It is difficult to be
accepted in clinical use. Phantom trials The results of the accuracy in terms of NTD are shown in Table 3. The mean NTD
over the four tests was 2.08 mm for the left lesion and 1.85 mm for the right one. It
can be seen that the distance was smaller than the registration error measured on
human data. One major reason is that the phantom is a rigid body with clear registra-
tion features. The mean duration for all phantom PRA tests was 4'26". It implies that
the accurate RFA can be finished within acceptable time. The difference between the
four tests was relatively small, indicating a robust registration for different operators. The previous phantom study on kidney intervention in [21] reported a NTD of
4.7 mm. Our method achieved a better accuracy with less US slices used. The previous
study claimed that the main inaccuracy came from symmetrical shape of the phantom
which introduced potential indeterminations and from the needle deformation during
puncture. In our test, a puncture trestle was used to restrict the needle trajectory. This
may reduce the needle deformation, at least to some extent. In previous study in [5],
the accuracy of the VNav was evaluated via puncture tests on a customized phantom. The mean NTD was 2.7 mm for the trials performed by an experienced radiologist
while 3.1 mm for a medical resident without experience. As the phantom is a rigid
body with clear and fixed anatomical landmarks, the accuracy difference on phantom
tests for VNav and our proposed method is not significant. Furthermore, real-time 3D US has shown a promising future in guiding PRA proced-
ure. In the pioneer study in [23], the authors determined the feasibility and accuracy of
3D US reconstruction of the pelvicaliceal system (PCS) in an in vitro porcine kidney. A
further study in [24] has demonstrated that 3D US is more accurate than 2D US for
PCS measurements on a customized phantom. The authors in [24] then performed 3D
US-guided punctures on that phantom and proved the feasibility. Therefore, it is a na-
ture idea that the accuracy and repeatability would be improved further by intruding a
3D US system into our guidance framework. Registration evaluation It should be pointed out that the processing
time for intensity-based registration is less due to its property of automatic calculation
without manual feature extraction. For example, the prior work in [10] reported a
registration time of 80s. Note that this time did not count the freehand 3DUS data ac-
quisition duration. Although there is no evident outlier, the results indicate that the registration accuracy
is to some extent affected by the volunteers. It is mainly because of the fact that the
anatomical features of kidney, hilum vessels, and IVC vary between people, which will
lead to different US imaging quality. Similar findings have been reported by others [21]. For example, it is difficult to clearly identify kidney contours and vessels in US images
of obese people. That is exactly why the registration for volunteer D was less accurate. It suggests that a patient selection may be required for optimal outcomes. On the other
hand, the duration of operation exhibits an observable dependence on the surgeons. For example, among all the tests, the elapsed time for the first surgeon is the shortest
while that for the second surgeon is relatively long. Note that the registration feature
point selection is the most time-consuming procedure. The results in Table 2 show that the registration is repeatable for the tested volun-
teers. In other words, the results are not significantly related to the surgeons Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 14 of 16 Page 14 of 16 performing the registration. A reasonable explanation is that the orthogonal geometry
of the US slices reduces the random fluctuation in the initial landmark selection and
the feature point selection. All these results in Table 1 and Table 2 suggest that the
hilum vessels, IVC and kidney contour together can be used as preferred landmarks. Note that the above evaluation method cannot detect the presence of errors induced
by the segmentation and calibration. Considering the pixel per millimeter ratio and the
physical size of the MR image, it is reasonable to conclude a less than 1.6 mm (or 1.5
pixels) error for the segmentation. The typical error for the calibration method used is
less than 1 mm. Note that the experimental results cannot account for the system error
for both tested registration methods. Phantom trials Moreover, to fuse the 3D US images with Table 3 Measurement of the NTD (in millimetres) and the operating time
(in minutes plus seconds) for the kidney phantom test
Target
Criteria
Test 1
Test 2
Test 3
Test 4
Mean
Left lesion
NTD
2.9
1.6
2.1
1.7
2.08
time
501500
304000
305600
500200
402800
Right lesion
NTD
2.2
1.7
1.9
1.6
1.85
time
402500
403200
30100
504100
402400 Table 3 Measurement of the NTD (in millimetres) and the operating time
(in minutes plus seconds) for the kidney phantom test Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 Page 15 of 16 Table 4 Assessment of the perceptual quality on a kidney phantom
Criteria
Test 1
Test 2
Test 3
Test 4
Mean
Intervention Improvement
4
3.5
4.5
4
4.0
Workflow Impact
3.5
3
3.5
3
3.3
Clinical Relevance
4
4
4
3.5
3.9 Table 4 Assessment of the perceptual quality on a kidney phantom preoperative planning such as CT pyelography [25] and MR urography [26] should be
more accurate and intuitive for guiding PCNL. On the other hand, in the case of percu-
taneous renal ablation where the lesion is invisible in US images, image fusion of 3D
US and CT/MR planning should be a more accurate solution compared with the use of
2D US. To this end, further evaluation on in vivo human kidneys should be conducted. The scoring results shown in Table 4 imply that they appreciated the use of the pro-
posed image guidance tool in renal intervention due to the accuracy improvement and
especially the intuitive 3D guidance, although maybe special training is needed. All sur-
geons agreed that careful setups including optimal planning, landmark selection and
patient selection were required for satisfactory outcomes. One surgeon suggested im-
proving the respiratory gating technique, as the respiratory tracking is less sensitive
when the US probe is placed along the midaxillary line. It was also pointed out that
one impediment in delivering the presented guidance system in clinical practice is the
distance between the preoperative planning workstation (often located at the doctor’s
room) and the operating room. In such a case, hospital network that efficiently trans-
fers planning data between the planning workstation and the OR is required. Authors' contributions
d
b
d ZCL and KL contributed equally to this work. They together implemented the presented image guided framework,
conducted the experimental study, and were responsible for the for the data analysis. HLZ participated in the
designing of the experiment, performed the registration test and phantom trials. KC implemented the registration
algorithm and the image reconstruction algorithm. JG participated in the registration algorithm design and
experimental data analysis. LW provided the experiment infrastructure and contributed to the result discussion. All
authors read and approved the final manuscript. Acknowledgements
Thi
k Acknowledgements
This work was supported by the National Basic Research Program 973 (No. 2010CB732606), the National Natural
Science Foundation of China (No. 61102086, No. 61103165, No. 81171402), Guangdong Innovation Research Team
Fund for Low-cost Healthcare Technologies (GIRTF-LCHT), and the Guangdong Innovative Research Team Program
(No. 2011S013), China. Competing interests
The authors declare that they have no competing interests. Competing interests
The authors declare that they have no competing interests. Conclusions The presented image guidance is feasible and promising for PRA procedure. With care-
ful setup, it can be efficient for overcoming the limitation of current US-guided PRA
by providing accurate and robust target localization abilities, intuitive guidance inter-
face and satisfactory perceptual quality. Received: 29 June 2012 Accepted: 21 August 2012
Published: 24 August 2012 References 1. Troccaz J, Baumann M, Berkelman P, et al: Medical image computing and computer-aided medical
interventions applied to soft tissues: work in progress in urology. Proc IEEE 2006, 94(9):1665–1677. 2. Ukimura O: Image-guided surgery in minimally invasive urology. Curr Opin Urol 2010, 20:136–140. 3. Kalogeropoulou C, Kallidonis P, Liatsikos EN: Imaging in percutaneous nephrolithotomy. J Endourol 20
23(10):1571–1577. 4. Hosseini MM, Hassanpour A, Farzan R, Yousefi A, Afrasiabi MA: Ultrasonography-guided percutaneous
Nephrolithotomy. J Endourol 2009, 23(4):603–607. 5. Lee JY, Choi BI, Chung YE, Kim MW, Kim SH, Han JK: Clinical value of CT/MR-US fusion imaging for
radiofrequency ablation of hepatic nodules. Eur J Radiol 2011, available online. ,
,
g
,
,
,
radiofrequency ablation of hepatic nodules. Eur J Radiol 2011, available online. 6. Baumhauer M, Feuerstein M, Meinzer H-P, Rassweiler J: Navigation in endoscopic soft tissue surgery:
perspectives and limitations. J Endourol 2008, 22(4):751–766. 6. Baumhauer M, Feuerstein M, Meinzer H-P, Rassweiler J: Naviga
perspectives and limitations. J Endourol 2008, 22(4):751–766. 6. Baumhauer M, Feuerstein M, Meinzer H-P, Rassweiler J: Navig perspectives and limitations. J Endourol 2008, 22(4):751–766 7. Sandhu C, Anson KM, Patel U: Urinary tract stones-Part I: role of radiological imaging in diagnosis and
treatment planning. Clin Radiol 2003, 58:415–421. p
g
8. Jung EM, Friedrich C, Hoffstetter P, Dendl LM, Klebl F, Agha A, Wiggermann P, Stroszcynski C, Schreyer AG:
Volume navigation with contrast enhanced ultrasound and image fusion for percutaneous interventio p
g
8. Jung EM, Friedrich C, Hoffstetter P, Dendl LM, Klebl F, Agha A, Wiggermann P, Stroszcynski C, Schreyer AG:
Volume navigation with contrast enhanced ultrasound and image fusion for percutaneous interventions: first
results. PLoS One 2012, 7(3):e33956. 9. Hakime A, Deschamps F, Carvalho EGMD, Teriitehau C, Auperin A, Baere TD: Clinical evaluation of spatial
accuracy of a fusion imaging technique combining previously acquired CT and real-time US for imaging of
liver metastases. Cardiovasc Intervent Radiol 2011, 34:338–344. 10. Leroy A, Mozer P, Payan Y, Troccaz P: Rigid registration of freehand 3D ultrasound and CT-scan kidney images. Proc Int Conf (MICCAI) 2004, 3216:837–844. (
)
,
11. Penny GP, Blackall JM, Hamady MS, Sabharwal T, Adam A, Hawks DJ: Registration of freehand 3D ultrasound
and magnetic resonance liver images. Med Image Anal 2004, 8(1):81–91. 12. Deshpande VS, Shea SM, Laub G, Simonetti OP, Finn JP, Li D: 3D magnetization-prepared True-FISP: A new
technique of the MR imaging of coronary arteries. References Magn Reson Med 2001, 46(3):494–502. q
g g
y
g
13. Lesage D, Angelini ED, Bloch I, Funka-Lea G: A review of 3D vessel lumen segmentation techniques: models,
features and extraction schemes. Med Image Anal 2009, 13:819–845. 14. Lorensen WE, Cline HE: Marching cubes: a high resolution 3D surface construction algorithm. ACM Siggraph
Computer Graphics 1987, 21:163–169. 15. Brandner ED, Wu A, Chen H, Heron D, Kalnicki S, Komanduri K, Gerszten K, Burton S, Ahmed I, Shou Z: Abdominal
organ motion measured using 4D CT. Int J Radiat Oncol Biol Phys 2006, 65(2):554–560. 16. Balter JM, Lam KL, McGinn CJ, Lawrence TS, Haken RKT: Improvement of CT-based treatment-planning models
of abdominal targets using static exhale imaging. Int J Radiat Oncol Biol Phys 1998, 41(4):939–943. g
g
g g
y
17. Penney GP, Blackall JM, Hayashi D, Sabharwal T, Adam A, Hawkes DJ: Overview of an ultrasound to CT or MR 17. Penney GP, Blackall JM, Hayashi D, Sabharwal T, Adam A, Hawkes DJ: Overview of an ultrasound to CT or MR
registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001 17. Penney GP, Blackall JM, Hayashi D, Sabharwal T, Adam A, Hawkes DJ: Overview of an ultrasound to CT or MR
registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001. B
l P
D
h d f
f
D h
P
l
d
h
ll y
y
registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001. 18
Besl PJ McKay ND: A method for registration of 3-D shapes IEEE Trans Patt Anal and Mach Intell 1992 registration system for use in thermal ablation of liver metastases. Proc Med Image Underst Anal 2001. 18. Besl PJ, McKay ND: A method for registration of 3-D shapes. IEEE Trans Patt Anal and Mach Intell 1992,
14(2) 239 256 18. Besl PJ, McKay ND: A method for registration of 3-D shapes. IEEE Trans Patt Anal and Mach Intell 1992,
14(2):239–256. 19. Dryden IL, Mardia KV: Statistical shape analysis. New York: Wiley; 1998. 20. Jannin P, Fitzpatrick JM, Hawkes DJ, Pennec X, Shahidi R, Vanniew MW: Validation of medical image processing
in image-guided therapy. IEEE Trans Med Imag 2002, 21(12):1445–1449. 21. Mozer P, Leroy A, Payan Y, Troccaz J, Chartier-Kastler E, Richard F: Computer-assisted access to the kidney. doi:10.1186/1475-925X-11-60
Cite this article as: Li et al.: Augmenting intraoperative ultrasound with preoperative magnetic resonance
planning models for percutaneous renal access. BioMedical Engineering OnLine 2012 11:60. Author details
1 1Shenzhen Key Laboratory for Low-cost Healthcare, Key Lab for Health Informatics, Shenzhen Institutes of Advanced
Technology, Chinese Academy of Sciences, Xueyuan Avenue 1068, Shenzhen 518055, China. 2Department of Medical
Ultrasonics, The Third Affiliated Hospital of Sun Yat-Sen University, Guangzhou 510630, China. 3Department of Urology,
The Third Affiliated Hospital of Sun Yat-sen University, Guangzhou 510630, China. Page 16 of 16 Li et al. BioMedical Engineering OnLine 2012, 11:60
http://www.biomedical-engineering-online.com/content/11/1/60 References Int J
Med Robot Comp 2005, 1(4):58–66. 22. John BS, Rowland D, Ratnam L, Walkden M, Nayak S, Patel U, Anson K, Nassiri D: Percutaneous renal 22. John BS, Rowland D, Ratnam L, Walkden M, Nayak S, Patel U, Anson K, Nassiri D: Percutaneous renal
intervention: comparison of 2-D and time-resolved 3-D (4-D) ultrasound for minimal calyceal dilatio 22. John BS, Rowland D, Ratnam L, Walkden M, Nayak S, Patel U, Anson K, Nassiri D: Percutaneous renal
intervention: comparison of 2-D and time-resolved 3-D (4-D) ultrasound for minimal calyceal dilation us
an ultrasound phantom and fluoroscopic control. Ultrasound Med Biol 2008, 34(11):1765–1769. ,
,
,
,
y
,
,
,
intervention: comparison of 2-D and time-resolved 3-D (4-D) ultrasound for minimal calyceal dilation using
an ultrasound phantom and fluoroscopic control. Ultrasound Med Biol 2008, 34(11):1765–1769. 23. Ghani KR, Pilcher J, Patel U, Rowland D, Nassiri D, Anson K: Three-dimensional ultrasound reconstruction of the
pelvicaliceal system: an in-vitro study. World J Urol 2008, 26(5):493–498. 23. Ghani KR, Pilcher J, Patel U, Rowland D, Nassiri D, Anson K: Three-dimensional ultrasound reconstruction of the
pelvicaliceal system: an in-vitro study. World J Urol 2008, 26(5):493–498. y
y
24. Rowland D, Patel U, Pilcher J, Anson K, Nassiri D: Evaluation of the accuracy of 3-dimensional ultrasonography
of the kidney using an in vitro renal model. J Ultrasound Med 2009, 28(2):155–162. 24. Rowland D, Patel U, Pilcher J, Anson K, Nassiri D: Evaluation of the accuracy of 3-dimensional ultrasonography
of the kidney using an in vitro renal model. J Ultrasound Med 2009, 28(2):155–162. 4. Rowland D, Patel U, Pilcher J, Anson K, Nassiri D: Evaluation of the 25. Ghani KR, Patel U, Anson K: Computed tomography for percutaneous renal access. J Endourol 2009,
23(10):1633–1639. 26. Silverman SG, Leyendecker JR, Amis ES Jr: What is the current role of CT urography and MR urography in the
evaluation of the urinary tract? Radiology 2009, 250(2):309–323.
|
https://openalex.org/W1986052049
|
https://journals.plos.org/plosgenetics/article/file?id=10.1371/journal.pgen.1000669&type=printable
|
English
| null |
A Yeast Two-Hybrid Screen for SYP-3 Interactors Identifies SYP-4, a Component Required for Synaptonemal Complex Assembly and Chiasma Formation in Caenorhabditis elegans Meiosis
|
PLOS genetics
| 2,009
|
cc-by
| 11,511
|
Abstract Competing Interests: The authors have declared that no competing interests exist nding: This work was supported in part by research grant 5-FY05-1214 from the March of Dimes Birth Defects Foundation and by Natio
nt R01GM072551 to MPC. The funders had no role in study design, data collection and analysis, decision to publish, or preparation o Competing Interests: The authors have declared that no competing interests exist. Competing Interests: The authors have declared that no competing interests exist. * E-mail: mcolaiacovo@genetics.med.harvard.edu * E-mail: mcolaiacovo@genetics.med.harvard.edu However, central region components notoriously lack a significant
level of sequence conservation throughout species, which has
hindered sequence-based efforts in identifying novel components. Remarkably though, the SC is highly conserved at the ultrastruc-
tural level. Specifically, studies in mice, flies and yeast suggest that
the central region of the SC is comprised of pairs of central region
proteins arranged in a head-to-head orientation with their
N-termini positioned at the center of the SC [6–8]. Therefore,
the assembly of multiple units along the chromosomes results in a
zipper-like
organization. Since
coiled-coil
domains
show
a
propensity to dimerize it has been proposed that central region
proteins form parallel dimers through their coiled-coil domains
[7,9]. Studies of the yeast TF protein Zip1 revealed dimers and
high-order multimers forming in vitro [8], further supporting this
model. Detailed deletion studies in yeast revealed that TFs span
the distance between homologous chromosomes, specifically
demonstrating that the coiled-coil domain is the main determinant
of the width of the SC [9]. Zip1 is the only TF protein reported
thus far for yeast and is therefore the sole component of the central
region in this organism [10]. Flies have two central region
proteins: C(3)G and CONA, but only C(3)G was proposed to act
as the Drosophila TF protein [11,12]. In C. elegans, three central
region proteins have already been identified: SYP-1, SYP-2, and
SYP-3, but due to their relatively small size it is reasonable to
speculate that these proteins act cooperatively as TFs [2,13,14]. Sarit Smolikov, Kristina Schild-Pru¨ fert, Mo´ nica P. Colaia´covo* Sarit Smolikov, Kristina Schild-Pru¨ fert, Mo´ nica P. Colaia´covo* Sarit Smolikov, Kristina Schild-Pru¨ fert, Mo´ nica P. Colaia´covo* Department of Genetics, Harvard Medical School, Boston, Massachusetts, United States of America PLoS Genetics | www.plosgenetics.org Abstract The proper assembly of the synaptonemal complex (SC) between homologs is critical to ensure accurate meiotic
chromosome segregation. The SC is a meiotic tripartite structure present from yeast to humans, comprised of proteins
assembled along the axes of the chromosomes and central region (CR) proteins that bridge the two chromosome axes. Here
we identify SYP-4 as a novel structural component of the SC in Caenorhabditis elegans. SYP-4 interacts in a yeast two-hybrid
assay with SYP-3, one of components of the CR of the SC, and is localized at the interface between homologs during
meiosis. SYP-4 is essential for the localization of SYP-1, SYP-2, and SYP-3 CR proteins onto chromosomes, thereby playing a
crucial role in the stabilization of pairing interactions between homologous chromosomes. In the absence of SYP-4, the
levels of recombination intermediates, as indicated by RAD-51 foci, are elevated in mid-prophase nuclei, and crossover
recombination events are significantly reduced. The lack of chiasmata observed in syp-4 mutants supports the elevated
levels of chromosome nondisjunction manifested in high embryonic lethality. Altogether our findings place SYP-4 as a
central player in SC formation and broaden our understanding of the structure of the SC and its assembly. Citation: Smolikov S, Schild-Pru¨fert K, Colaia´covo MP (2009) A Yeast Two-Hybrid Screen for SYP-3 Interactors Identifies SYP-4, a Component Required for
Synaptonemal Complex Assembly and Chiasma Formation in Caenorhabditis elegans Meiosis. PLoS Genet 5(10): e1000669. doi:10.1371/journal.pgen.1000669
Editor: Mathilde Grelon, Institut Jean-Pierre Bourgin, INRA de Versailles, France Editor: Mathilde Grelon, Institut Jean-Pierre Bourgin, INRA de Versailles, France Editor: Mathilde Grelon, Institut Jean-Pierre Bourgin, INRA de Versailles, France Received April 24, 2009; Accepted September 1, 2009; Published October 2, 2009 Received April 24, 2009; Accepted September 1, 2009; Published October 2, 2009 Copyright: 2009 Smolikov et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: This work was supported in part by research grant 5-FY05-1214 from the March of Dimes Birth Defects Foundation and by National Institutes of Health
grant R01GM072551 to MPC. The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. SYP-4 Is Essential for Chromosome Synapsis and Chiasma
Formation during C. elegans Meiosis Electron microscopy (EM) analyses performed in various model
systems revealed an electron-dense linear structure, called the
central element, located along the middle of the central region of
the SC [4]. Until recently, it was unclear whether this structure
resulted from the overlap between the globular domains of the
central region proteins, or was formed by central element-specific
proteins localizing only at the middle of the SC. However, studies
performed in mice revealed the identity of several proteins
specifically localizing to the central element and identified their
function in promoting the assembly of the SC as a 3-dimensional
structure [15,16]. Central element proteins may therefore not only
act as ‘‘clamps’’ holding the transverse filaments of the SC, but
may also have a role in promoting SC assembly in a particular
direction, determining its height (SYCE1) [16,17] or length
(SYCE2 and TEX12) [15,18]. Although a central element has
not yet been observed by EM analysis in C. elegans, it is possible
that some of the central region proteins in this system perform a
similar function to central element proteins from mice (K.P.S. and
M.P.C. unpublished data). g
g
We applied a yeast two-hybrid approach to identify novel
proteins functioning in the SC in C. elegans. Specifically, we
screened a cDNA library prepared from mixed-stage worms,
utilizing SYP-1, SYP-2 and SYP-3 full-length constructs as well as
N- and C-terminal truncations as baits (see Materials and
Methods). As a result, we identified SYP-4 (encoded by open
reading frame H27M09.3) as a protein that interacts with both the
full-length and C-terminal truncation constructs of SYP-3. Screens
performed with SYP-1 and SYP-2 as baits failed to identify SYP-4
as an interacting protein. In addition, when directly tested for a
yeast two-hybrid interaction, SYP-4 failed to interact with the full
length, as well as the C- or N-terminal truncation constructs of
SYP-1 and SYP-2 (Figure 1, Figure S1). SYP-4 encodes for a 605
amino acid protein. It is predicted to contain three stretches of
coiled-coil structure in the region between residues 115 and 410,
based on analysis using the COILS program [25]. SYP-4 lacks any
other evident structural domains or shared homology with other
proteins in C. elegans or other organisms (Figure 2A). To further investigate the role of SYP-4 in meiosis we examined
the phenotype of syp-4(tm2713) mutants. SC Structural Protein in C. elegans To further investigate the structure of the SC in C. elegans, we
performed a yeast two-hybrid screen utilizing the known SC
central region proteins as baits. This has resulted in the
identification of SYP-4, a novel component of the central region
of the SC, and the first example of the identification of a SC
structural protein through the yeast two-hybrid approach. Here,
we show that SYP-4 displays all the hallmark features of an SC
component. Specifically, SYP-4 is essential for chromosome
synapsis, and in its absence, chromosomes initiate pairing
interactions that cannot be stabilized. These defects result in
increased germ cell apoptosis due to impaired DSB repair
progression. In addition, crossover frequencies are severely
reduced in syp-4 mutants, resulting in increased chromosome
nondisjuction. SYP-4 localizes at the interface between homolo-
gous chromosomes during meiosis and this localization requires
axis morphogenesis and is interdependent with the SYP-1, SYP-2
and SYP-3 proteins. Moreover, SYP-4 interacts with SYP-3 in a
yeast two-hybrid assay, suggesting that the function of SYP-4 is
executed through its role as a member of the CR of the SC. Our
discovery of SYP-4 therefore sheds new light on the structure of
the SC in C. elegans and the roles its proteins play in meiosis. Author Summary Meiosis is a two-part cell division program that ensures the
formation of haploid gametes (e.g. eggs and sperm), which
can then reconstitute a species’ ploidy through fertiliza-
tion. A critical step towards accomplishing this task is the
accurate segregation of homologous chromosomes away
from each other during meiosis I. This requires the
formation of at least one obligatory crossover event
(genetic exchange) between each pair of homologous
chromosomes. In most organisms, the formation of all
crossover events greatly relies on the synaptonemal
complex (SC). This ‘‘zipper-like’’ structure holds the pairs
of homologous chromosomes together during meiotic
prophase I, and crossover recombination is completed in
the context of the fully formed SCs. Here, we identify SYP-4
as a novel structural component of the SC in the nematode
C. elegans. In its absence, SCs fail to form, resulting in a lack
of crossover formation and increased errors in chromo-
some segregation. SYP-4 interacts in a yeast two-hybrid
assay with SYP-3, one of the SC proteins, and its
localization onto chromosomes is interdependent with
SYP-1, SYP-2, and SYP-3 proteins. SYP-4 therefore plays a
critical role during C. elegans meiosis in generating the
ultrastructurally conserved SC that is ubiquitously present
from yeast to humans. Results SYP-4 Is Essential for Chromosome Synapsis and Chiasma
Formation during C. elegans Meiosis Introduction The synaptonemal complex (SC) is a proteinaceous structure
formed between each pair of homologous chromosomes during
meiotic prophase I. Meiotic recombination unfolds, and crossover
events are completed, in the context of this structure. The
formation of these crossover events is a prerequisite for accurate
chromosome segregation at the first meiotic division since it
ensures that homologous chromosomes will be held together until
anaphase I. Subsequently, sister chromatids separate in the second
meiotic division resulting in the formation of haploid gametes. Without a functional SC these events are impaired, resulting either
in a meiotic arrest or in increased chromosome nondisjunction. The SC is composed of two main parts: the axes and the central
region. The axes-associated proteins assemble along the chromo-
somes, followed by the central region proteins, which proceed to
connect homologous chromosomes axes thereby completing
synapsis. This temporal separation in the assembly of these two
SC sub-structures is supported by the observation made in various
organisms that the lack of axis assembly results in severe defects in
the recruitment of central region proteins [1–3]. The central region of the SC is comprised of proteins that form
transverse filaments (TF) connecting or bridging homologous
chromosomes. These TF proteins share a common structure: a
central coiled-coil domain flanked by globular domains [4,5]. October 2009 | Volume 5 | Issue 10 | e1000669 1 PLoS Genetics | www.plosgenetics.org SYP-4 Is Essential for Chromosome Synapsis and Chiasma
Formation during C. elegans Meiosis These mutants carry a
213 bp
out-of-frame
deletion
in
the
N-terminus
of
syp-4
(Figure 2A), predicted to result in the absence of a fully functional
SYP-4 protein in these worms. In addition, genetic analysis
indicates that tm2713 is a null allele of syp-4 (see Materials and
Methods). syp-4(tm2713) mutants exhibit high levels of embryonic
lethality (97.5%, n = 1855) and a high percentage of males (40%)
among their surviving progeny compared to wild type (0% and
0.2%, respectively, n = 1798), which are phenotypes suggestive of
errors in meiotic chromosome segregation. The formation of the SC is tightly coordinated with the
progression of recombination. The SC starts to form at the entry
to meiotic prophase I during leptotene. The first meiotic DNA
double-strand breaks (DSBs) are observed at this stage, and in
some organisms, such as in yeast, plants and mice, DSB formation
is essential for SC assembly [19,20]. In contrast, both in D. melanogaster and C. elegans, recombination is dispensable for SC
formation [21,22]. Throughout these various organisms, the
mature SC is observed at the pachytene stage where crossover
recombination is completed. Deletion of genes encoding SC
central region proteins results in lack of synapsis and defects in the
progression of recombination. In yeast mutants lacking the central
region protein Zip1, crossovers are reduced to 25% of the levels
observed in wild-type [23], while male mice lacking SYCP1
proteins exhibit a pachytene arrest accompanied by an accumu-
lation of mid to late recombination markers [24]. In D. melanogaster
and C. elegans, synapsis is also crucial for recombination, given that
crossover formation is impaired and chiasmata are not observed in
SC-deficient mutants [2,12–14]. Analysis
of
chromosome
morphogenesis
in
syp-4(tm2713)
mutant gonads revealed defects in the progression of meiotic
prophase I. As observed in wild type, chromosomes clustered
towards one side of the nuclei upon entering into prophase I in
syp-4(tm2713) mutants, therefore acquiring the polarized config-
uration that is characteristic of transition zone (leptotene/
zygotene) nuclei (Figure 2B, 2C, and 2F). However, in contrast
to wild type, chromosomes failed to redisperse throughout the
nuclear periphery upon entrance into pachytene in syp-4(tm2713) PLoS Genetics | www.plosgenetics.org PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 2 SC Structural Protein in C. elegans were not apparent, and instead, thin DAPI-stained tracks were
present suggesting defects in synapsis. SYP-4 Localizes to Chromosomes in a SYP-1–, SYP-2–, and
SYP-3–Dependent Manner SYP-4 Is Essential for Chromosome Synapsis and Chiasma
Formation during C. elegans Meiosis In addition, transmission
electron microscopy (TEM) analysis revealed a lack of SC
formation in syp-4(tm2713) mutants, suggesting that the defects
in synapsis stem from an inability to form the SC structure in the
absence of SYP-4 (Figure S2). As nuclei progressed into diakinesis,
a complete lack of chiasmata was observed. Therefore, instead of
the 6 DAPI-stained bodies present in wild type diakinesis oocytes,
corresponding to the six pairs of attached homologous chromo-
somes, 11.9 DAPI-stained bodies (n = 31) were observed in syp-4
mutants (Figure 2E and 2H). Altogether, this analysis implicates
SYP-4 in playing a crucial role in chromosome synapsis and
chiasma formation. Figure 1. A yeast two-hybrid approach reveals that SYP-4
interacts with SYP-3 through its N-terminal domain. The yeast
two-hybrid system was used to test for protein interactions between
SYP-1, SYP-2 and SYP-3 full length, N- (DN) and C-terminal (DC)
truncations fused to the DNA binding domain (DB) of GAL4, and SYP-4
full length fused to the activation domain (AD) of GAL4. Positive yeast
two-hybrid interactions were assessed by b-galactosidase activity. This
approach revealed an interaction between SYP-4 and SYP-3. Numbers 1
to 5 represent standard controls: 1, DB and AD without any fusion; 2,
DB-pRB and AD-E2F1; 3, DB-Fos and AD-Jun; 4, Gal4p and AD; and 5,
DB-DP and AD-E2F1. doi:10.1371/journal.pgen.1000669.g001 SYP-4 Localizes to Chromosomes in a SYP-1–, SYP-2–, and
SYP-3–Dependent Manner To examine the immunolocalization of SYP-4 on whole
mounted germlines, an a-SYP-4 antibody was raised against the
N-terminus (first 27 amino acids) of SYP-4. The specificity of this
antibody was confirmed by detecting the presence of SYP-4 signal
on meiotic chromosomes in wild type nuclei (Figure 3A–3C) and
not in syp-4(tm2713) mutants (Figure 3D). In wild type, SYP-4 was
first detected upon entrance into meiosis as foci or short tracks on
chromosomes in transition zone nuclei (Figure 3A). SYP-4
remained associated with chromosomes throughout pachytene
where it was observed between synapsed chromosomes (Figure 3B)
[2,13,14,26,27]. During the transition from late pachytene into
diplotene,
the
SC
starts
to
disassemble
and
chromosome
remodeling unfolds around the crossover site [28–30]. At this
transition, SYP-4 signal was greatly reduced throughout most of
the length of the chromosomes, becoming mostly concentrated
towards
one
end
of
each
chromosome. This
asymmetric
localization pattern is similar to that observed for the other SYP
proteins during this transition [28]. Given that a single crossover
(obligate crossover) is formed between each pair of homologous
chromosomes in C. elegans [31] and this crossover is off-center,
chromosome remodeling then results in bivalents at diakinesis with
a cross-shaped configuration composed of a long and a short axes
intersecting at the chiasma [28]. By early diakinesis, SYP-4
localization was restricted to the short axes (short arms; the region
distal to the chiasma) (Figure 3C), and by the end of diakinesis it
was no longer detectable on chromosomes. This distinct pattern of
localization is unique to SC central region proteins, as lateral
element proteins remain on both arms of the bivalent through the
end of diakinesis [2,13,14,26,27]. PLoS Genetics | www.plosgenetics.org The region deleted in the tm2713 mutant allele
Coiled-coil domains, with start and end points identified through the COILS program are shaded in dark gray. T
region used for antibody production. (B) Low magnification images of DAPI-stained nuclei of whole-mount gon
syp-4(tm2713) adult hermaphrodites. The extended transition zone chromosome configuration is observed
Progression from early to mid-prophase is observed from left to right. (C–H) High magnification images of DAPI-
pachytene (D,G), and diakinesis (E,G) in wild type (C–E) and syp-4(tm2713) mutants (F–H). Bars, 5 mm (B) and 2
doi:10.1371/journal.pgen.1000669.g002 Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic prophase I nuclei in syp-4 mutants. (A) Schematic representation of the predicted SYP-4 protein. The region deleted in the tm2713 mutant allele is indicated (codons 28 through 84). Coiled-coil domains, with start and end points identified through the COILS program are shaded in dark gray. The black bar indicates the N-terminal
region used for antibody production. (B) Low magnification images of DAPI-stained nuclei of whole-mount gonads from age-matched wild type and
syp-4(tm2713) adult hermaphrodites. The extended transition zone chromosome configuration is observed until late pachytene in the latter. Progression from early to mid-prophase is observed from left to right. (C–H) High magnification images of DAPI-stained nuclei at transition zone (C,F),
pachytene (D,G), and diakinesis (E,G) in wild type (C–E) and syp-4(tm2713) mutants (F–H). Bars, 5 mm (B) and 2 mm (C–H). doi:10 1371/journal pgen 1000669 g002 Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic prophase I nuclei in syp-4 mutants. Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic prophase I nuclei in syp-4 mutants. (A) Schematic representation of the predicted SYP-4 protein. The region deleted in the tm2713 mutant allele is indicated (codons 28 through 84). Coiled-coil domains, with start and end points identified through the COILS program are shaded in dark gray. The black bar indicates the N-terminal
region used for antibody production. (B) Low magnification images of DAPI-stained nuclei of whole-mount gonads from age-matched wild type and
syp-4(tm2713) adult hermaphrodites. The extended transition zone chromosome configuration is observed until late pachytene in the latter. Progression from early to mid-prophase is observed from left to right. (C–H) High magnification images of DAPI-stained nuclei at transition zone (C,F),
pachytene (D,G), and diakinesis (E,G) in wild type (C–E) and syp-4(tm2713) mutants (F–H). Bars, 5 mm (B) and 2 mm (C–H). doi:10.1371/journal.pgen.1000669.g002 (Figure 4E–4L and data not shown). This interdependency of
SYP-4 with the other SYP proteins is in agreement with a role for
SYP-4 in central region assembly, as all SYP proteins exhibit
similar interdependencies [2,13,14]. suggests that SYP-4 depends on normal axis morphogenesis for its
assembly onto chromosomes. Central region proteins were also
essential for SYP-4 localization, given that SYP-4 localization was
not observed in syp-1, syp-2 or syp-3 null mutants (Figure 3I–3K). In contrast, the localization of axis-associated proteins, such as
HIM-3 [27] or HTP-3 [34], was not affected in syp-4(tm2713)
mutants (Figure 4A–4D and data not shown), suggesting that SYP-
4 acts downstream of axis morphogenesis. However, all three
known central region components (SYP-1, SYP-2 and SYP-3)
failed to localize to chromosomes in the syp-4(tm2713) mutants PLoS Genetics | www.plosgenetics.org Figure 1. A yeast two-hybrid approach reveals that SYP-4
interacts with SYP-3 through its N-terminal domain. The yeast
two-hybrid system was used to test for protein interactions between
SYP-1, SYP-2 and SYP-3 full length, N- (DN) and C-terminal (DC)
truncations fused to the DNA binding domain (DB) of GAL4, and SYP-4
full length fused to the activation domain (AD) of GAL4. Positive yeast
two-hybrid interactions were assessed by b-galactosidase activity. This
approach revealed an interaction between SYP-4 and SYP-3. Numbers 1
to 5 represent standard controls: 1, DB and AD without any fusion; 2,
DB-pRB and AD-E2F1; 3, DB-Fos and AD-Jun; 4, Gal4p and AD; and 5,
DB-DP and AD-E2F1. d i 10 1371/j
l
1000669 001 To further examine if SYP-4 acts as a central region protein, we
tested whether SYP-4 localizes to unsynapsed chromosomes in a
scenario in which lateral element assembly is normal, but the
central region is not formed. In him-8 mutants, all autosomes are
synapsed and exhibit normal localization of central region
proteins, while the X chromosome remains unsynapsed and
shows no localization of central region proteins despite normal axis
morphogenesis [32]. We did not detect any SYP-4 association with
the unsynapsed pair of chromosomes in the him-8 mutants
(Figure 3E–3G). These results further support a role for SYP-4
as a central region protein of the SC. doi:10.1371/journal.pgen.1000669.g001 We next examined the requirements for SYP-4 localization. First, we determined whether SYP-4 localization is dependent on
the lateral element protein HIM-3 [27] and on the SC central
region proteins SYP-1, SYP-2 and SYP-3 [2,13,14]. In the
absence of HIM-3, SYP-4 was observed only as a dot or short
patch
associated
with
chromosomes
in
pachytene
nuclei
(Figure 3H), similarly to the localization of SYP-1, SYP-2 and
SYP-3 in him-3(RNAi) or him-3 null mutants [2,13,14,33]. This mutants. Instead, they remained mostly clustered until late
pachytene in an ‘‘extended transition zone’’ morphology charac-
teristic of null mutants for genes encoding proteins that constitute
the central region of the SC [2,13,14] (Figure 2B, 2D, and 2G). Moreover, when chromosomes redispersed in late pachytene
nuclei in syp-4(tm2713) mutants, the thick parallel DAPI-stained
tracks indicative of synapsed chromosomes observed in wild type October 2009 | Volume 5 | Issue 10 | e1000669 3 SC Structural Protein in C. elegans Figure 2. Extended transition zone chromosome morphology and lack of chiasmata in meiotic pr
(A) Schematic representation of the predicted SYP-4 protein. The Stabilization of Homologous Pairing Interactions
Requires SYP-4 In C. elegans, synapsis is crucial for the stabilization of chromosome
paring interactions [2,13,14]. Since our immunolocalization studies PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 4 SC Structural Protein in C. elegans Figure 3. SYP-4 localizes to chromosomes during prophase I, and its localization requires both axis-associated and CR proteins. (A–
C) High magnification images of nuclei stained with DAPI and anti-SYP-4. Wild type nuclei at transition zone (A), late pachytene (B), and diakinesis (C),
showing immunolocalization of SYP-4 on chromosomes throughout meiotic prophase I. Arrow in (A) indicates a premeiotic nucleus adjacent to the
meiotic transition zone nuclei. Arrow in (C) indicates two superimposed bivalents. Inset in (C) indicates a single bivalent at high magnification, co-
immunostained with SYP-4 (red) and HTP-3 (green). SYP-4 localizes to the region distal to the chiasma (short arms of the bivalent). (D) Pachytene
nuclei exemplifying the lack of SYP-4 immunolocalization on chromosomes observed in syp-4 mutants. (E–G) SYP-4 is excluded only from unsynapsed
chromosomes (arrows) observed in him-8 mutants. (H–K) SYP-4 localization in pachytene nuclei is perturbed in him-3 (H), syp-1 (I), syp-2 (J), and syp-3
(K) mutants, indicating that SYP-4 localization requires both normal axis-morphogenesis and the presence of central region proteins. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g003 Figure 3. SYP-4 localizes to chromosomes during prophase I, and its localization requires both axis-associated and CR proteins. (A–
C) High magnification images of nuclei stained with DAPI and anti-SYP-4. Wild type nuclei at transition zone (A), late pachytene (B), and diakinesis (C),
showing immunolocalization of SYP-4 on chromosomes throughout meiotic prophase I. Arrow in (A) indicates a premeiotic nucleus adjacent to the
meiotic transition zone nuclei. Arrow in (C) indicates two superimposed bivalents. Inset in (C) indicates a single bivalent at high magnification, co-
immunostained with SYP-4 (red) and HTP-3 (green). SYP-4 localizes to the region distal to the chiasma (short arms of the bivalent). (D) Pachytene
nuclei exemplifying the lack of SYP-4 immunolocalization on chromosomes observed in syp-4 mutants. (E–G) SYP-4 is excluded only from unsynapsed
chromosomes (arrows) observed in him-8 mutants. (H–K) SYP-4 localization in pachytene nuclei is perturbed in him-3 (H), syp-1 (I), syp-2 (J), and syp-3
(K) mutants, indicating that SYP-4 localization requires both normal axis-morphogenesis and the presence of central region proteins. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g003 p,0.0001 for all loci in zones 6 and 7). PLoS Genetics | www.plosgenetics.org The Stabilization of Homologous Pairing Interactions
Requires SYP-4 This inability to stabilize
pairing interactions was more pronounced for chromosome I than
for the X chromosome, as exemplified by the observation of
homologous pairing at the PC end of chromosome I in only 74% of
the nuclei examined in zone 4, compared to 94% at the PC end of
the X chromosome in the same zone (Figure 5C, p,0.0001). These
differences probably reflect the yet unexplained propensity of the X
chromosomes to pair more efficiently compared to the autosomes
when SC formation is impaired, as seen in other mutants in C. elegans
[35–37]. In addition, significantly higher levels of pairing were
observed in the PC regions compared to the non-PC regions
(Figure 5C). Specifically, pairing levels were 25% and 56% higher at
the PC end compared to the non-PC end of chromosomes I and X,
respectively (for Chromosome I, zone 3, p = 0.0061; for the X
chromosome, zone 4, p,0.0001). The higher levels of pairing
observed at the PC ends most likely stem from the fact that the place SYP-4 as a central region protein, we used fluorescence in situ
hybridization (FISH) to monitor its role in chromosome pairing
throughout prophase. We divided gonads from wild type and syp-
4(tm2713) mutants into 7 zones and analyzed the percentage of
nuclei carrying paired chromosomes in each one of these zones
(Figure 5A). Specifically, we monitored pairing at opposite ends (the
pairing center (PC) and non-PC ends) of chromosomes I and X. Levels of homologous pairing progressively increased in wild type
nuclei as they entered meiosis in zones 2 to 3. In early pachytene
(zone 4), chromosomes I and X were observed pairing with their
homologous partners in approximately 100% of the nuclei examined
and this level was maintained throughout late pachytene (zone 7)
(Figure 5C). In contrast, although an increase in homologous pairing
levels was detected in syp-4(tm2713) mutants initiating at the same
time as in wild type, pairing levels failed to reach 100% and
decreased as prophase progressed (Figure 5C, and Table S2, PLoS Genetics | www.plosgenetics.org PLoS Genetics | www.plosgenetics.org PLoS G October 2009 | Volume 5 | Issue 10 | e1000669 5 SC Structural Protein in C. elegans Figure 4. Central region proteins, but not axis-associated proteins, localize to chromosomes in a SYP-4-dependent manner. High
magnification images of pachytene nuclei in wild type (A,B,E,F,I,J) and syp-4 mutants (C,D,G,H,K,L). The Stabilization of Homologous Pairing Interactions
Requires SYP-4 DAPI-stained chromosomes are immunostained
with anti-HTP-3 to observe the lateral elements (A–D), and anti-SYP-1 (E–H) or anti-SYP-3 (I–L) to visualize the central region of the SC. In syp-4
mutants, HTP-3 is observed localizing continuously along chromosomes (C,D), indicating that lateral element formation is normal. In contrast, SYP-1
and SYP-3 signals are not observed on chromosomes in syp-4 mutants (G,H,K,L), indicating lack of central region formation. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g004 Figure 4. Central region proteins, but not axis-associated proteins, localize to chromosomes in a SYP-4-dependent manner. High
magnification images of pachytene nuclei in wild type (A,B,E,F,I,J) and syp-4 mutants (C,D,G,H,K,L). DAPI-stained chromosomes are immunostained
with anti-HTP-3 to observe the lateral elements (A–D), and anti-SYP-1 (E–H) or anti-SYP-3 (I–L) to visualize the central region of the SC. In syp-4
mutants, HTP-3 is observed localizing continuously along chromosomes (C,D), indicating that lateral element formation is normal. In contrast, SYP-1
and SYP-3 signals are not observed on chromosomes in syp-4 mutants (G,H,K,L), indicating lack of central region formation. Bars, 2 mm. doi:10.1371/journal.pgen.1000669.g004 first observed with a similar timing to wild-type, suggesting that the
initiation of meiotic recombination is not dependent on SYP-4
(Figure 6C). However, levels of RAD-51 foci were significantly
higher in mid-pachytene in syp-4(tm2713) mutants compared to
wild type (Figure 6B and 6C, zone 5, 10.2 foci/nucleus; p,0.0001,
two-tailed Mann-Whitney test, 95% C.I.) and remained elevated
up to late pachytene (Figure 6C, zone 7, 2.1 foci/nucleus;
p,0.0001, two-tailed Mann-Whitney test, 95% C.I.). The defect
in DSB repair progression observed in syp-4(tm2713) mutants
probably stems from the lack of chromosome synapsis and
therefore a lack of close and stable proximity to a homologous
template for repair. However, DSB repair is eventually accom-
plished in syp-4(tm2713) mutants, as RAD-51 foci were absent in
diplotene nuclei and chromosome fragments were not apparent in
oocytes at diakinesis (Figure 2H). This delayed repair may proceed
in part through recombination with the sister chromatid, as
previously demonstrated for syp-2 and syp-3 mutants [13,40]. initiation of homologous pairing events occurs at the PCs in a SYP-
independent manner [2,13,14,38]. Taken together, our observations
indicate that unlike axis-associated proteins, SYP-4 is dispensable for
the initiation of paring interactions, but as meiosis progresses it is
crucial for the stabilization of pairing interactions. Our studies,
therefore, further support a role for SYP-4 as a central region
component of the SC. PLoS Genetics | www.plosgenetics.org Discussion Mann-Whitney test, 95% C.I.), but did not differ significantly from
syp-3(ok758) (n = 22) (p = 0.8471). The elevated germ cell apoptosis
levels are dependent on meiotically induced DSBs, as in the absence
of spo-11, syp-4(RNAi) failed to increase apoptosis to the levels
observed for syp-4(RNAi) in the spo-11/nT1 heterozygous back-
ground. Taken together, this analysis suggests that the defects in
DSB repair progression observed by monitoring the levels of
RAD-51 foci throughout prophase, are sufficient to activate a DNA
damage checkpoint response, and that such a checkpoint is intact in
the syp-4(tm2713) mutants. Normal Progression of Meiotic Recombination Requires
SYP-4 (A) Diagram of a C. elegans germline indicating the
position of the zones scored in the time-course analysis of homologous pairing. The color codes indicate the genotypes examined in (C). (B) High
magnification images of pachytene nuclei from wild type and syp-4 mutants stained with DAPI and hybridized with FISH probes recognizing either
the PC end or the non-PC end of chromosome I (green and red, respectively). FISH signals are frequently unpaired in syp-4 mutants. Bars, 2 mm. (C)
Graphs depicting the percentage of nuclei carrying paired homologous chromosomes (y-axis) within each zone along the germline (x-axis). The
regions being recognized by each of the FISH probes are indicated above the graphs. doi:10.1371/journal.pgen.1000669.g005 Figure 5. SYP-4 is required for the stabilization of homologous pairing interactions. (A) Diagram of a C. elegans germline indicating the
position of the zones scored in the time-course analysis of homologous pairing. The color codes indicate the genotypes examined in (C). (B) High
magnification images of pachytene nuclei from wild type and syp-4 mutants stained with DAPI and hybridized with FISH probes recognizing either
the PC end or the non-PC end of chromosome I (green and red, respectively). FISH signals are frequently unpaired in syp-4 mutants. Bars, 2 mm. (C)
Graphs depicting the percentage of nuclei carrying paired homologous chromosomes (y-axis) within each zone along the germline (x-axis). The
regions being recognized by each of the FISH probes are indicated above the graphs. doi:10.1371/journal.pgen.1000669.g005 Normal Progression of Meiotic Recombination Requires
SYP-4 Interhomolog recombination resulting in crossover events is
dependent on chromosome synapsis [2,13,14]. Therefore, we
examined the progression of meiotic recombination in the syp-4
(tm2713) mutants by immunostaining whole mounted germlines
with an anti-RAD-51 antibody (RAD-51 is required for strand
invasion/exchange during double-strand break repair; [39]). Specifically, wild type and syp-4(tm2713) mutant germlines were
divided into 7 zones and levels of RAD-51 foci/nucleus were
quantitated for all nuclei in each zone (Figure 6A). In wild type
gonads, levels of RAD-51 foci started to increase as nuclei entered
into meiotic prophase and peaked in early to mid pachytene
(Figure 6C, zone 5, 3.7 foci/nucleus), after which they gradually
declined (Figure 6C, zone 7, 0.5 foci/nucleus). As nuclei exited
pachytene, RAD-51 foci were no longer observed. In syp-4
(tm2713) mutants, the increase in the levels of RAD-51 foci was Unrepaired meiotic DSBs that persist until late pachytene may
activate a DNA damage checkpoint, resulting in an increase in germ
cell apoptosis at that stage [41]. Therefore, we examined the levels
of germ cell apoptosis in syp-4(tm2713) mutants compared to wild
type, spo-11 mutants, that lack DSB formation, and syp-3 null
mutants, which have significantly impaired DSB repair (Table 1). syp-4(tm2713) mutants (n = 57) showed a significant increase in the
levels of apoptosis compared to wild type (n = 42) and spo-11(n = 17)
worms (p,0.0001 for both pairwise combinations, two-tailed PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 6 SC Structural Protein in C. elegans Figure 5. SYP-4 is required for the stabilization of homologous pairing interactions. (A) Diagram of a C. elegans germline indicating the
position of the zones scored in the time-course analysis of homologous pairing. The color codes indicate the genotypes examined in (C). (B) High
magnification images of pachytene nuclei from wild type and syp-4 mutants stained with DAPI and hybridized with FISH probes recognizing either
the PC end or the non-PC end of chromosome I (green and red, respectively). FISH signals are frequently unpaired in syp-4 mutants. Bars, 2 mm. (C)
Graphs depicting the percentage of nuclei carrying paired homologous chromosomes (y-axis) within each zone along the germline (x-axis). The
regions being recognized by each of the FISH probes are indicated above the graphs. doi:10.1371/journal.pgen.1000669.g005 Figu
posit
mag
the P
Grap
regio Figure 5. SYP-4 is required for the stabilization of homologous pairing interactions. PLoS Genetics | www.plosgenetics.org SYP-4 Is a Component of the Central Region of the SC in
C. elegans Here we report the first example of the identification of a novel
structural protein of the SC through the yeast two-hybrid
approach. We succeeded in uncovering SYP-4 through its physical
interaction with SYP-3. We provide multiple lines of evidence
suggesting that SYP-4 is a novel structural component of the SC
participating in central region formation. The localization pattern
of SYP-4 is distinct from that of meiosis-specific cohesin or lateral
element
components. Specifically,
SYP-4
is
only
observed
associating onto chromosomes upon entrance into meiosis and
not earlier as observed for cohesin. Moreover, in contrast to axis-
associated components, SYP-4 remains localized only to the short
axes, instead of both long and short axes, of the bivalents following
chromosome remodeling in late pachytene, and SYP-4 is no
longer chromosome-associated by the end of diakinesis. Further-
more, analysis of the syp-4(tm2144) mutants supports a role for
SYP-4 downstream of axis formation. First, SYP-4 localization to
chromosomes depends on axis-associated proteins and is absent
from unsynapsed chromosomes (him-8 mutants), while axis-
associated proteins still localize to the unsynapsed chromosomes
of the syp-4(tm2144) or him-8 mutants. Second, our analysis of To examine whether SYP-4 is required for crossover recombi-
nation we measured crossover frequencies in syp-4(tm2713) mutants
for intervals spanning ,80% of the X chromosome (Table 2) and
,70% of chromosome V (Table S3), utilizing genetic markers and
single-nucleotide polymorphism (SNP) markers, respectively. As
expected, given the lack of chromosome synapsis, the lack
of chiasmata, and the defects observed with the progression of
meiotic recombination, crossover levels were significantly reduced
for the genetic intervals examined on both chromosomes in the
syp-4(tm2713) mutants compared to wild type (p,0.0001, respec-
tively, by the two-tailed Fisher’s Exact Test, 95% C.I.) (Table 2,
Table S3). Altogether, these results suggest that the crucial role that
SYP-4 plays in chromosome synapsis is essential for the normal
progression of meiotic recombination and crossover formation. PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 7 SC Structural Protein in C. elegans Figure 6. Progression of meiotic recombination is impaired in syp-4 mutants. (A) Diagram of a C. elegans germline depicting the seven
zones throughout which RAD-51 foci were scored for all nuclei. Levels of RAD-51 foci are indicated by the color code. (B) High magnification images
of pachytene nuclei in wild type and syp-4 mutants stained with DAPI and RAD-51. SYP-4 Is a Component of the Central Region of the SC in
C. elegans Elevated levels of RAD-51 foci are observed on pachytene nuclei in
syp-4 mutants. Bars, 2 mm. (C) Histograms depict the quantitation of RAD-51 foci in wild type and syp-4 mutant germlines. The percentage of nuclei
observed for each category indicated by the color code (y-axis), are depicted for each zone along the germline (x-axis). doi:10.1371/journal.pgen.1000669.g006 Figure 6. Progression of meiotic recombination is impaired in syp-4 mutants. (A) Diagram of a C. elegans germline depicting the seven
zones throughout which RAD-51 foci were scored for all nuclei. Levels of RAD-51 foci are indicated by the color code. (B) High magnification images
of pachytene nuclei in wild type and syp-4 mutants stained with DAPI and RAD-51. Elevated levels of RAD-51 foci are observed on pachytene nuclei in
syp-4 mutants. Bars, 2 mm. (C) Histograms depict the quantitation of RAD-51 foci in wild type and syp-4 mutant germlines. The percentage of nuclei
observed for each category indicated by the color code (y-axis), are depicted for each zone along the germline (x-axis). doi:10.1371/journal.pgen.1000669.g006 Figure 6. Progression of meiotic recombination is impaired in syp-4 mutants. (A) Diagram of a C. elegans germline depicting the seven
zones throughout which RAD-51 foci were scored for all nuclei. Levels of RAD-51 foci are indicated by the color code. (B) High magnification images
of pachytene nuclei in wild type and syp-4 mutants stained with DAPI and RAD-51. Elevated levels of RAD-51 foci are observed on pachytene nuclei in
syp-4 mutants. Bars, 2 mm. (C) Histograms depict the quantitation of RAD-51 foci in wild type and syp-4 mutant germlines. The percentage of nuclei
observed for each category indicated by the color code (y-axis), are depicted for each zone along the germline (x-axis). doi:10.1371/journal.pgen.1000669.g006 prophase and involved in the crossover-dependent chromosome
remodeling process observed in late prophase [36,37], and ZHP-3,
the
ortholog
of
budding
yeast
Zip3
proposed
to
couple
recombination with SC morphogenesis in C. elegans [43] (data
not shown). Furthermore, an interaction between SYP-4 and
either SYP-1 or SYP-2 was not detected when assessing for these
pairwise interactions via the yeast two-hybrid system. These
interactions were also not detected when we used SYP-1 and SYP- homologous pairing levels in the syp-4(tm2144) mutants clearly
points to SYP-4 acting downstream of the establishment of pairing,
which is dependent on axis-associated proteins. SYP-4 Is a Component of the Central Region of the SC in
C. elegans Third, syp-
4(tm2713) mutants exhibit several phenotypes observed in null
mutants for central region components such as the extended
transition zone morphology and the accumulation of high levels of
RAD-51
foci
accompanied
by
increased
apoptosis
in
late
pachytene nuclei [2,13,14]. These phenotypes are clearly distinct
from those of mutants in axis-associated proteins, which show a
shortened transition zone and low levels of RAD-51 foci [33,34]. Altogether, these data render strong support for a role of SYP-4 as
a central region protein of the SC, and point to its crucial function
in promoting stable interactions between homologous chromo-
somes leading to crossover formation. Table 1. Germ cell apoptosis is elevated in syp-4 mutants. Table 1. Germ cell apoptosis is elevated in syp-4 mutants. Genotype
n
Mean Number of Germ Cell
Corpses +/- Standard Error
wild type
42
2.49+/20.26
spo-11/spo-11
17
1.95+/20.37
spo-11/nT1a
20
1.6+/20.39
spo-11/spo-11a
19
2.26+/20.47
syp-4(tm2713)/syp-4(tm2713)
57
7.89+/20.83
syp-3(ok748)/syp-3(ok748)
22
8.29+/20.35
syp-4(RNAi);spo-11/nT1
51
5.04+/20.47
syp-4(RNAi);spo-11/spo-11
58
3.47+/20.34
acontrol RNAi with empty pL4440 vector. Germ cell corpses were scored in
adult hermaphrodites 20 hours post-L4 as in [59]. Statistical comparisons
between genotypes were conducted using the two-tailed Mann-Whitney test. syp-4(tm2713) (n = 57; where n = number of gonad arms scored/genotype)
differed significantly from wild type (n = 42) (p,0.0001), and from spo-11(n = 17)
(p,0.0001), but did not differ significantly from syp-3(ok758) (n = 22)
(p = 0.8471). syp-4(RNAi);spo-11/nT1 (n = 51) differed significantly from syp-
4(RNAi);spo-11/spo-11 (n = 58) (p = 0.0122), spo-11/nT1(n = 20) (p,0.0001), and
spo-11/spo-11(n = 17) (p = 0.0016). syp-4(RNAi);spo-11/spo-11 and spo-11/spo-
11(n = 17) did not differ significantly from each other (p = 0.0905). doi:10.1371/journal.pgen.1000669.t001 SYP-4 and SYP-3 May Form a Module of the Central
Region of the SC g
The fact that SYP-4 is interdependent with SYP-1, SYP-2 and
SYP-3, suggests that these proteins act in a complex. This is
further supported by our identification of SYP-4 via a yeast two-
hybrid interaction with SYP-3. Our yeast two-hybrid analysis
suggests that SYP-3 may interact with SYP-4 through its N-
terminal domain, since a C-terminal truncated SYP-3 can still
interact with SYP-4, but a N-terminal truncation cannot. We were
unable to detect any interaction between SYP-3 and any truncated
version of SYP-4, implying that the full length of the protein is
likely required for this interaction. In addition, using the yeast two-
hybrid system, we did not observe an interaction between SYP-4
and HIM-3, an axis-associated component and yeast Hop1
homolog [27], HTP-3, an axis-associated component and HIM-
3 paralog proposed to link DSB formation with homologous
pairing and synapsis [34,42], HTP-1, a HIM-3 paralog implicated
in coordinating the establishment of pairing and synapsis in early acontrol RNAi with empty pL4440 vector. Germ cell corpses were scored in
adult hermaphrodites 20 hours post-L4 as in [59]. Statistical comparisons
between genotypes were conducted using the two-tailed Mann-Whitney test. syp-4(tm2713) (n = 57; where n = number of gonad arms scored/genotype)
differed significantly from wild type (n = 42) (p,0.0001), and from spo-11(n = 17)
(p,0.0001), but did not differ significantly from syp-3(ok758) (n = 22)
(p = 0.8471). syp-4(RNAi);spo-11/nT1 (n = 51) differed significantly from syp-
4(RNAi);spo-11/spo-11 (n = 58) (p = 0.0122), spo-11/nT1(n = 20) (p,0.0001), and
spo-11/spo-11(n = 17) (p = 0.0016). syp-4(RNAi);spo-11/spo-11 and spo-11/spo-
11(n = 17) did not differ significantly from each other (p = 0.0905). doi:10.1371/journal.pgen.1000669.t001 acontrol RNAi with empty pL4440 vector. Germ cell corpses were scored in
adult hermaphrodites 20 hours post-L4 as in [59]. Statistical comparisons
between genotypes were conducted using the two-tailed Mann-Whitney test. syp-4(tm2713) (n = 57; where n = number of gonad arms scored/genotype)
differed significantly from wild type (n = 42) (p,0.0001), and from spo-11(n = 17)
(p,0.0001), but did not differ significantly from syp-3(ok758) (n = 22)
(p = 0.8471). syp-4(RNAi);spo-11/nT1 (n = 51) differed significantly from syp-
4(RNAi);spo-11/spo-11 (n = 58) (p = 0.0122), spo-11/nT1(n = 20) (p,0.0001), and
spo-11/spo-11(n = 17) (p = 0.0016). syp-4(RNAi);spo-11/spo-11 and spo-11/spo-
11(n = 17) did not differ significantly from each other (p = 0.0905). PLoS Genetics | www.plosgenetics.org Possible Roles for the Multiple Central Region Proteins in
C. elegans g
Studies in various model organisms are revealing the identity of
the proteins forming the central region of the SC: C(3)G and
CONA in Drosophila [11,12], Zip1 in S. cerevisiae [10], SYCP1,
SYCE1, SYCE2 and TEX12 in mouse [15,16,18,24], and the
duplicated ZYP1a and ZYP1b proteins in Arabidopsis [45]. In mice,
specific functions have been assigned to each one of four known
CR proteins based on their distinct mutant phenotypes. A null
Sycp1 mutant results in a lack of CE formation and in the absence
of any recruitment of CR proteins onto chromosomes, whereas
foci for some of the CR components are still observed in Syce2,
Syce1 and Tex12 mutants [17,24,46]. This is further supported by
the observation of partial CR structures by EM in the case of Syce2
and Tex12 mutants [17,24,46]. In addition, SYCP1 (993 amino
acids) is three to four times larger than any other CR protein. Thus, these studies, complemented by a detailed immuno-EM
analysis, have led to the conclusion that SYCP1 acts as a transverse
filament, contributing to most of the width of the CR structure,
while SYCE1, SYCE2 and TEX12 are central element proteins
that play an essential role in the assembly of the SC, but do not
contribute much to the width of the structure. The Drosophila CR
proteins, C(3)G and CONA, are structurally distinct from each
other. Specifically, CONA (207 amino acids) is almost a quarter of
the size of C(3)G and lacks any coiled-coil domain. Nevertheless,
both c(3)G and cona mutants exhibit similar phenotypes [11], [12]. Thus, extrapolating from the mouse data, C(3)G may be the fly TF
protein, while CONA may be a non-TF CR protein. The studies In summary, our studies have identified SYP-4 as a novel
component of the SC and revealed a key protein-protein
interaction required between the central region proteins SYP-4
and SYP-3 to form the mature SC structure in C. elegans. SYP-4 and SYP-3 May Form a Module of the Central
Region of the SC cerevisiae (68.16 nm)
and SYCP1 in M. musculus (87.76 nm) [12]. However, the width of the SC is
conserved across most species (,100 nm), including C. elegans
[4,35,47,48]. One possible scenario is that all the SYP proteins
assemble into a single complex that can span the width of the SC. Therefore, the shorter lengths predicted for the coiled coils of each
central region protein may be compensated by their additive value
in C. elegans. This model suggests that in C. elegans multiple proteins
may have evolved out of the need to conserve the width of the SC. An alternative, albeit not mutually exclusive model, is that in C. elegans different central region proteins play different roles in the 3-
dimensional context of the SC, similarly to what is observed for
central element proteins in mice. It is tempting to speculate that
SYP-2 (213 amino acids) and SYP-3 (224 amino acids), the smaller
proteins of the central region in C. elegans, which are similar in size
to the mammalian central element proteins, take over a similar
role in SC assembly. However, unlike what is observed in synapsis-
defective mutants in mice, syp null mutants do not show a
separation of function phenotype. This would be consistent with
the notion that instead of each SYP protein loading individually
onto chromosomes, the two SYP protein subunits (SYP-1/SYP-2
and SYP-3/SYP-4) preassemble into one complex and then load
onto chromosomes as one unit composed of all four SYP proteins. Therefore, loss of either one of the two subunits will lead to defects
in loading of the other SYP proteins, consequently leading to a
complete perturbation of CR assembly. Either model would
explain the interdependency between the various SYP proteins
observed by our analysis, and both models predict that, albeit
taking the yeast two-hybrid assay limitations into account, a yet
non-identified additional component may exist linking SYP-1/
SYP-2 and SYP-3/SYP-4. Possible Roles for the Multiple Central Region Proteins in
C. elegans SYP-4 and SYP-3 May Form a Module of the Central
Region of the SC doi:10.1371/journal.pgen.1000669.t001 PLoS Genetics | www.plosgenetics.org PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 8 SC Structural Protein in C. elegans Table 2. Crossover recombination is reduced on the X chromosome in syp-4 mutants. Genotype
Recombinant progeny
Total No. of progeny scored
Map distance (cM)
+/syp-4; dyp-3 unc-3/++
656 hermaphrodites
2288 hermaphrodites
34.7
0 males
1 male
syp-4/syp-4; dyp-3 unc-3/++
2 hermaphrodites
323 hermaphrodites
0.6
1 male
154 males
Recombination analysis was performed as in [59]. doi:10.1371/journal.pgen.1000669.t002 Recombination analysis was performed as in [59]. doi:10.1371/journal.pgen.1000669.t002 2 as baits in yeast two-hybrid screens of both cDNA and
ORFeome libraries [44], nor reported by any other large genomic
screen published in the literature. Therefore, these observations
suggest that SYP-4 might interact exclusively with SYP-3. However, taking the limitations of the yeast two-hybrid system
into account, we cannot exclude the possibility that other
interactions were missed by this approach and may be detected
using other experimental techniques. In addition, pull-down assays
revealed that SYP-1 interacts with SYP-2 (K.S-P. and M.P.C
unpublished results), but we were unable to test other pairwise
combinations by this approach due to technical limitations. Taken
together, these observations lead us to hypothesize that the central
region of the SC in C. elegans may be comprised of at least two
modules: one consisting of SYP-1 and SYP-2, and the other
formed by SYP-3 and SYP-4. However, given that all SYP
proteins are interdependent [13,14, this study], these two sub-
complexes must be either directly or indirectly interconnected,
forming the higher-order structure of the central region of the SC. Alternatively, it is possible that all proteins assemble into a single
complex lacking any sub-modules. Future studies are required to
conclude which of these models accurately describes the structure
of the SC in C. elegans. of the SC structure in C. elegans result in a more complex picture in
which it is still hard to distinguish which of the SYP proteins act as
bona fide TF proteins and which, if any, are central element-like
proteins. In C. elegans, the total length of the coiled coils is predicted
to be higher in SYP-1 (34.16 nm) compared to SYP-2 (5.05 nm),
SYP-3 (13.51 nm) and SYP-4 (12.92 nm). Interestingly, the total
length of the coiled coils in SYP-1 is smaller than that predicted for
C(3)G in D. melanogaster (67.86 nm), Zip1 in S. PLoS Genetics | www.plosgenetics.org Characterization of Allele Identical cytological defects to those observed in syp-4(tm2713)
homozygotes were observed in syp-4(RNAi) worms, including an
extended transition zone phenotype and up to 12 univalents at
diakinesis. Moreover, trans-heterozygotes for tm2713 and hDf8, a
deficiency encompassing the syp-4 locus, were indistinguishable
from tm2713 homozygotes, as determined by examining their
DAPI-stained germlines and scoring for the embryonic lethality
and the percent of males observed among their surviving progeny
(98.6% embryonic lethality, p = 0.2713, and 29% male progeny,
p = 0.6006, by the two-tailed Mann-Whitney test, 95% C.I.;
n = 1598). Finally, SYP-4 signal was not detected upon immuno-
staining syp-4 mutant germlines with an N-terminal anti-SYP-4
antibody. Taken together, these results suggest that syp-4(tm2713)
is a null. FISH and Time Course Analysis of Chromosome Pairing
FISH probes were generated as in [21] from the following
pooled cosmids obtained from the Sanger Center: D1037, ZC535,
F21A9 (I, left); F14B11, F32A7 (I, right); F28C10, F57C12,
F13C5, M6, M02A10, C02H7, T04G9, F25E2, C03F1, F56F10,
ZC13 (X, left); T23E7, F20B4, F15G10, K09G11 (X, right). Cosmids were labeled with either fluorescein-12-dCTP (PerkinEl-
mer) or Digoxigenin-11-dUTP (Roche). Homologous pairing was
monitored quantitatively as in [57], with FISH signals considered
paired when separated by #0.75 mm. The average number of
nuclei scored per zone (n) from three gonads each for wild type
and syp-4 (tm2713) are as follows: zone 1 (n = 53), zone 2 (n = 67),
zone 3 (n = 88), zone 4 (n = 96), zone 5 (n = 104), zone 6 (n = 94),
and zone 7 (n = 78). tm2713 is a recessive syp-4 allele. DAPI-stained germlines of syp-4/+
hermaphrodites were identical to wild type germlines. The levels
of embryonic lethality and males observed among syp-4/+ progeny
were not statistically significant when compared to those observed
for wild type (3.9% embryonic lethality, p =0.0789, and 0.08% male
progeny, p =0.6439, two-tailed Mann-Whitney test; n=2521). SC Structural Protein in C. elegans SC Structural Protein in C. elegans nucleotide polymorphism (SNP) markers. The following mutations
and chromosome rearrangements were used ([2,13,14,27,50–52];
this work): nucleotide polymorphism (SNP) markers. The following mutations
and chromosome rearrangements were used ([2,13,14,27,50–52];
this work): Yeast Two-Hybrid Screen The images were acquired using the DeltaVision wide-field
fluorescence microscope system (Applied Precision) with Olympus
406/1.35 and 1006/1.40 lenses. Optical sections were collected
at 0.20 mm increments with a coolSNAPHQ camera (Photometrics)
and SoftWoRx 3.3.6 software (Applied Precision), and decon-
volved using SoftWoRx 3.3.6 software. Images are projections
halfway through 3D data stacks of whole nuclei (15 to 30 0.2 mm
slices/stack), except for diakinesis images, which encompass entire
nuclei, prepared using SoftWoRx 3.3.6 and SoftWoRx Explorer
1.3.0 software (Applied Precision). Full-length cDNAs of the syp-1, syp-2 and syp-3 open reading
frames, as well as C- and N-terminal truncations that retain the
coiled-coil domains, were amplified by PCR. The amplification
was performed from a cDNA library generated from mixed-stage
C. elegans
using
primers
that
contain
Gateway
compatible
sequences and a gene specific sequence as in [55] and indicated
in Table S1. Gateway cloning, cDNA and ORFeome library
screening, and X-Gal and 3AT assays for examining yeast two-
hybrid interactions were performed as in [56]. Electron Microscopy Wild type and syp-4(tm2713) adult hermaphrodites (20–24 hr
post-L4) were prepared for high pressure freezing as described in
[2]. 100 nm-thick longitudinal sections of three wild type worms
and three syp-4 mutant worms were examined for the presence of
SC in nuclei at the late pachytene region. Distances between
electron-dense chromatin patches arranged in parallel were
measured and the presence of an SC was only scored positively
when distances were within the range observed in wild type
(90 nm–125 nm; [35]) for all points measured along a given pair
of patches (between 1 to 4 points were measured for each pair). SC
stretches were observed in 64% of the wild type nuclei in late
pachytene (n = 70). In contrast, dispersed patches of electron dense
chromatin, indicating a lack of SC, were observed in 96.4% of the
syp-4(tm2713) nuclei at this stage (n = 83). )
LGI: syp-3(ok758), hDf8, syp-4(tm2713), ccIs4251, hT2[bli-4(e937)
qIs48] (I;III) LGIV: him-3(gk149), spo-11(ok79), nT1[unc-?(n754) let-?(m435)]
(IV;V) LGV: syp-2(ok307), syp-1(me17) The tm2713 allele was generated by the C. elegans National
Bioresource Project in Japan. It contains a 213 base pair out-of-
frame deletion including exon 2 and extending halfway into exon
3 of open reading frame H27M09.3. Antibody Preparation, DAPI Analysis, and
Immunostaining The rabbit a-SYP-4 N-terminal polyclonal antibody was
generated using the following peptide antigen: MSFPTLQ-
VRPNEKNPKVLRCHEFLRQS. Animals were immunized and
bled by Sigma-Genosys, The Woodlands, TX. Affinity purification
of this antibody was performed using SulfoLinkH from Pierce
following the manufacturers instructions. Coiled-Coil Analysis The presence of coiled-coil domains within CR proteins was
predicted utilizing the COILS program [25]. This program was
run using the MTIDK matrix with a 21-residue window and
applying an unweighted scan. Protein regions were predicted to
adopt a coiled-coil conformation if the amino acids within those
regions had scores of 0.5 or higher. To estimate the physical length
of the coiled-coil domain in nm, the number of amino acids
identified by this analysis was multiplied by 0.1485 nm, the mean
axial rise per residue in a coiled-coil [54]. DAPI staining, immunostaining and analysis of stained meiotic
nuclei were performed as in [13]. Primary antibodies were used at
the following dilutions: rabbit a-SYP-1 (1:100), rabbit a-SYP-2
(1:100), rabbit a-SYP-3 (1:100), rabbit a-RAD-51 (1:100), rabbit a-
HIM-3 (1:100), guinea pig a-HTP-3 (1:500), and mouse a-REC-8
(1:100). The secondary antibodies used were: Cy3 anti-rabbit, FITC
anti-guinea pig and FITC anti-mouse (Jackson Immunochemicals),
each at 1:100. PLoS Genetics | www.plosgenetics.org Genetics All C. elegans strains were cultured at 20uC under standard
conditions [49]. Bristol N2 worms were utilized as the wild type
background, while Hawaiian CB4856 wild type worms were used
for assessing recombination frequencies when utilizing single- PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 9 References 1. Yuan L, Liu JG, Zhao J, Brundell E, Daneholt B, et al. (2000) The murine SCP3
gene is required for synaptonemal complex assembly, chromosome synapsis, and
male fertility. Mol Cell 5: 73–83. 16. Costa Y, Speed R, Ollinger R, Alsheimer M, Semple CA, et al. (2005) Two
novel proteins recruited by synaptonemal complex protein 1 (SYCP1) are at the
centre of meiosis. J Cell Sci 118: 2755–2762. y
2. MacQueen AJ, Colaiacovo MP, McDonald K, Villeneuve AM (2002) Synapsis-
dependent and -independent mechanisms stabilize homolog pairing during
meiotic prophase in C. elegans. Genes Dev 16: 2428–2442. 17. Bolcun-Filas E, Speed R, Taggart M, Grey C, de Massy B, et al. (2009) Mutation
of the mouse Syce1 gene disrupts synapsis and suggests a link between
synaptonemal complex structural components and DNA repair. PLoS Genet
5: e1000393. doi:10.1371/journal.pgen.1000393. 3. Smith AV, Roeder GS (1997) The yeast Red1 protein localizes to the cores of
meiotic chromosomes. J Cell Biol 136: 957–967. 18. Bolcun-Filas E, Costa Y, Speed R, Taggart M, Benavente R, et al. (2007)
SYCE2 is required for synaptonemal complex assembly, double strand break
repair, and homologous recombination. J Cell Biol 176: 741–747. 4. Zickler D, Kleckner N (1999) Meiotic chromosomes: integrating structure and
function. Annu Rev Genet 33: 603–754. 19. Bhuiyan H, Schmekel K (2004) Meiotic chromosome synapsis in yeast can occur
without spo11-induced DNA double-strand breaks. Genetics 168: 775–783. 5. de Boer E, Heyting C (2006) The diverse roles of transverse filaments of
synaptonemal complexes in meiosis. Chromosoma 115: 220–234. 20. Romanienko PJ, Camerini-Otero RD (2000) The mouse Spo11 gene is required
for meiotic chromosome synapsis. Mol Cell 6: 975–987. 6. Anderson LK, Royer SM, Page SL, McKim KS, Lai A, et al. (2005)
Juxtaposition of C(2)M and the transverse filament protein C(3)G within the
central region of Drosophila synaptonemal complex. Proc Natl Acad Sci U S A
102: 4482–4487. 21. Dernburg AF, McDonald K, Moulder G, Barstead R, Dresser M, et al. (1998)
Meiotic recombination in C. elegans initiates by a conserved mechanism and is
dispensable for homologous chromosome synapsis. Cell 94: 387–398. 7. Liu JG, Yuan L, Brundell E, Bjorkroth B, Daneholt B, et al. (1996) Localization
of the N-terminus of SCP1 to the central element of the synaptonemal complex
and evidence for direct interactions between the N-termini of SCP1 molecules
organized head-to-head. Exp Cell Res 226: 11–19. 22. Time Course Analysis for RAD-51 Foci RNAi-mediated depletion of syp-4 was performed at 20uC as
described in [53], except that 1 mM IPTG was utilized. SYP-4
cDNA was cloned into the pL4440 feeding vector. Control RNAi
was performed by feeding worms with HT115 bacteria carrying
the empty pL4440 vector. Quantitation of RAD-51 foci was performed for all seven zones
composing the germline as in [13]. The average number of nuclei
scored per zone (n) from three gonads each for wild type and
syp-4(tm2713) were: zone 1 (n = 172), zone 2 (n = 243), zone 3 October 2009 | Volume 5 | Issue 10 | e1000669 10 SC Structural Protein in C. elegans (n = 238), zone 4 (n = 200), zone 5 (n = 166), zone 6 (n = 131) and
zone 7 (n = 119). electron-dense patches of chromatin, which are aligned in wild
type nuclei, but are randomly positioned in syp-4 mutants where
SC structures are absent. Bars, 500 nm. Found at: doi:10.1371/journal.pgen.1000669.s002 (4.45 MB TIF) electron-dense patches of chromatin, which are aligned in wild
type nuclei, but are randomly positioned in syp-4 mutants where
SC structures are absent. Bars, 500 nm. Found at: doi:10.1371/journal.pgen.1000669.s002 (4.45 MB TIF) Acknowledgments Some strains and clones were kindly provided by the Japanese National
BioResource for C. elegans, the Caenorhabditis Genetics Center, and the
Sanger Center. We thank M. Zetka for the HIM-3 and HTP-3 antibodies. We are grateful to S. Hawley, T. Saito, S. Zaaijer, and C. Wang for critical
reading of this manuscript. Supporting Information Table S3
Crossover recombination is reduced on chromosome
V in syp-4 mutants. Figure S1
A yeast two-hybrid approach reveals that SYP-4
interacts with SYP-3 through its N-terminal domain. Yeast two-
hybrid analysis using growth on 20 mM 3-AT plates to identify
protein-protein interactions between the SYP proteins. Testing the
interactions between SYP-1, SYP-2, and SYP-3 full length, N-
(DN) and C-terminal (DC) truncations fused to the DNA binding
domain (DB) of GAL4, and SYP-4 full length fused to the
activation domain (AD) of GAL4, revealed an interaction between
SYP-4 and SYP-3. Numbers 1 to 5 represent standard controls: 1,
DB and AD without any fusion; 2, DB-pRB and AD-E2F1; 3, DB-
Fos and AD-Jun; 4, Gal4p and AD; and 5, DB-DP and AD-E2F1. Found at: doi:10.1371/journal.pgen.1000669.s001 (0.68 MB TIF) Found
at:
doi:10.1371/journal.pgen.1000669.s005
(0.02
MB
DOC) Author Contributions Figure S2
TEM analysis reveals a lack of SC formation in syp-4
mutants. TEM images of equatorial sections of late pachytene
nuclei from wild type (left) and syp-4 (right) germlines. The
nucleolus, a large dark body slightly off-center, is surrounded by Conceived and designed the experiments: SS KSP MPC. Performed the
experiments: SS KSP. Analyzed the data: SS KSP MPC. Wrote the paper:
SS MPC. Conceived and designed the experiments: SS KSP MPC. Performed the
experiments: SS KSP. Analyzed the data: SS KSP MPC. Wrote the paper:
SS MPC. References McKim KS, Hayashi-Hagihara A (1998) mei-W68 in Drosophila melanogaster
encodes a Spo11 homolog: evidence that the mechanism for initiating meiotic
recombination is conserved. Genes Dev 12: 2932–2942. 8. Dong H, Roeder GS (2000) Organization of the yeast Zip1 protein within the
central region of the synaptonemal complex. J Cell Biol 148: 417–426. 23. Storlazzi A, Xu L, Schwacha A, Kleckner N (1996) Synaptonemal complex (SC)
component Zip1 plays a role in meiotic recombination independent of SC
polymerization along the chromosomes. Proc Natl Acad Sci U S A 93:
9043–9048. 9. Tung KS, Roeder GS (1998) Meiotic chromosome morphology and behavior in
zip1 mutants of Saccharomyces cerevisiae. Genetics 149: 817–832. 24. de Vries FA, de Boer E, van den Bosch M, Baarends WM, Ooms M, et al. (2005)
Mouse Sycp1 functions in synaptonemal complex assembly, meiotic recombi-
nation, and XY body formation. Genes Dev 19: 1376–1389. 10. Sym M, Engebrecht JA, Roeder GS (1993) ZIP1 is a synaptonemal complex
protein required for meiotic chromosome synapsis. Cell 72: 365–378. 11. Page SL, Khetani RS, Lake CM, Nielsen RJ, Jeffress JK, et al. (2008) Corona is
required for higher-order assembly of transverse filaments into full-length
synaptonemal complex in Drosophila oocytes. PLoS Genet 4: e1000194. doi:10.1371/journal.pgen.1000194. 25. Lupas A, Van Dyke M, Stock J (1991) Predicting coiled coils from protein
sequences. Science 252: 1162–1164. 26. Pasierbek P, Jantsch M, Melcher M, Schleiffer A, Schweizer D, et al. (2001) A
Caenorhabditis elegans cohesion protein with functions in meiotic chromosome
pairing and disjunction. Genes Dev 15: 1349–1360. 12. Page SL, Hawley RS (2001) c(3)G encodes a Drosophila synaptonemal complex
protein. Genes Dev 15: 3130–3143. 27. Zetka MC, Kawasaki I, Strome S, Muller F (1999) Synapsis and chiasma
formation in Caenorhabditis elegans require HIM-3, a meiotic chromosome core
component that functions in chromosome segregation. Genes Dev 13:
2258–2270. 13. Colaiacovo MP, MacQueen AJ, Martinez-Perez E, McDonald K, Adamo A, et
al. (2003) Synaptonemal complex assembly in C. elegans is dispensable for loading
strand-exchange proteins but critical for proper completion of recombination. Dev Cell 5: 463–474. 28. Nabeshima K, Villeneuve AM, Colaiacovo MP (2005) Crossing over is coupled
to late meiotic prophase bivalent differentiation through asymmetric disassembly
of the SC. J Cell Biol 168: 683–689. 14. Smolikov S, Eizinger A, Schild-Prufert K, Hurlburt A, McDonald K,
et al. (2007) SYP-3 restricts synaptonemal complex assembly to bridge
paired chromosome axes during meiosis in C. elegans. Genetics 176: 2015–
2025. Determining Crossover Frequencies Meiotic crossover recombination frequencies for chromosome V
were assayed utilizing single-nucleotide polymorphism (SNP)
markers, with the pkP5076 and snp_Y17D7B DraI SNP primers
as in [58]. syp-4 homozygous cross-progeny were detected by
mating to the ccIs4251 strain as described in [42]. Table S1
Primers used for the yeast two-hybrid experiments. Found
at:
doi:10.1371/journal.pgen.1000669.s003
(0.02
MB
DOC) Table S2
Statistical analysis for FISH data. Found
at:
doi:10.1371/journal.pgen.1000669.s004
(0.04
MB
DOC) SC Structural Protein in C. elegans that is linked to two-step loss of sister chromatid cohesion. Genes Dev 22:
2886–2901. 44. Walhout AJ, Boulton SJ, Vidal M (2000) Yeast two-hybrid systems and protein
interaction mapping projects for yeast and worm. Yeast 17: 88–94. 31. Albertson DG, Rose AM, Villeneuve AM (1997) Chromosome organization,
mitosis, and meiosis. Cold Spring Harbor, NY: Cold Spring Harbor Laboratory
Press. pp 47–78. 45. Higgins JD, Sanchez-Moran E, Armstrong SJ, Jones GH, Franklin FC (2005)
The Arabidopsis synaptonemal complex protein ZYP1 is required for
chromosome synapsis and normal fidelity of crossing over. Genes Dev 19:
2488–2500. pp
32. Phillips CM, Wong C, Bhalla N, Carlton PM, Weiser P, et al. (2005) HIM-8
binds to the X chromosome pairing center and mediates chromosome-specific
meiotic synapsis. Cell 123: 1051–1063. 46. Hamer G, Wang H, Bolcun-Filas E, Cooke HJ, Benavente R, et al. (2008)
Progression of meiotic recombination requires structural maturation of the
central element of the synaptonemal complex. J Cell Sci 121: 2445–2451. y
p
33. Couteau F, Nabeshima K, Villeneuve A, Zetka M (2004) A component of C. elegans meiotic chromosome axes at the interface of homolog alignment, synapsis,
nuclear reorganization, and recombination. Curr Biol 14: 585–592. 47. Colaiacovo MP (2006) The many facets of SC function during C. elegans meiosis. Chromosoma 115: 195–211. nuclear reorganization, and recombination. Curr Biol 14: 585–592 34. Goodyer W, Kaitna S, Couteau F, Ward JD, Boulton SJ, et al. (2008) HTP-3
links DSB formation with homolog pairing and crossing over during C. elegans
meiosis. Dev Cell 14: 263–274. 48. von Wettstein D, Rasmussen SW, Holm PB (1984) The synaptonemal complex
in genetic segregation. Annu Rev Genet 18: 331–413. g
g
g
49. Brenner S (1974) The genetics of Caenorhabditis elegans. Genetics 77: 71–94. 49. Brenner S (1974) The genetics of Caenorhabditis elegans. 35. Smolikov S, Schild-Prufert K, Colaiacovo MP (2008) CRA-1 uncovers a double-
strand break-dependent pathway promoting the assembly of central region
proteins on chromosome axes during C. elegans meiosis. PLoS Genet 4:
e1000088. doi:10.1371/journal.pgen.1000088. 50. McKim KS, Peters K, Rose AM (1993) Two types of sites required for meiotic
chromosome pairing in Caenorhabditis elegans. Genetics 134: 749–768. chromosome pairing in Caenorhabditis elegans. Genetics 134: 749–768. 51. McKim KS, Starr T, Rose AM (1992) Genetic and molecular analysis of the dpy-
14 region in Caenorhabditis elegans. Mol Gen Genet 233: 241–251. 14 region in Caenorhabditis elegans. Mol Gen Genet 233: 241–25 j
pg
36. SC Structural Protein in C. elegans Martinez-Perez E, Villeneuve AM (2005) HTP-1-dependent constraints
coordinate homolog pairing and synapsis and promote chiasma formation
during C. elegans meiosis. Genes Dev 19: 2727–2743. 52. Fire A, Xu S, Montgomery MK, Kostas SA, Driver SE, et al. (1998) Potent and
specific genetic interference by double-stranded RNA in Caenorhabditis elegans. Nature 391: 806–811. g
g
37. Couteau F, Zetka M (2005) HTP-1 coordinates synaptonemal complex assembly
with homolog alignment during meiosis in C. elegans. Genes Dev 19: 2744–2756. 53. Timmons L, Court DL, Fire A (2001) Ingestion of bacterially expressed dsRNAs
can produce specific and potent genetic interference in Caenorhabditis elegans. Gene 263: 103–112. 38. MacQueen AJ, Phillips CM, Bhalla N, Weiser P, Villeneuve AM, et al. (2005)
Chromosome sites play dual roles to establish homologous synapsis during
meiosis in C. elegans. Cell 123: 1037–1050. 54. Steinert PM, Marekov LN, Fraser RD, Parry DA (1993) Keratin intermediate
filament structure. Crosslinking studies yield quantitative information on
molecular dimensions and mechanism of assembly. J Mol Biol 230: 436–452. 39. Sung P (1994) Catalysis of ATP-dependent homologous DNA pairing and strand
exchange by yeast RAD51 protein. Science 265: 1241–1243. 55. Boxem M, Maliga Z, Klitgord N, Li N, Lemmens I, et al. (2008) A protein
domain-based interactome network for C. elegans early embryogenesis. Cell 134:
534–545. 40. Smolikov S, Eizinger A, Hurlburt A, Rogers E, Villeneuve AM, et al. (2007)
Synapsis-defective mutants reveal a correlation between chromosome confor-
mation and the mode of double-strand break repair during C. elegans meiosis. Genetics 176: 2027–2033. 56. Walhout AJ, Vidal M (2001) High-throughput yeast two-hybrid assays for large-
scale protein interaction mapping. Methods 24: 297–306. 41. Gartner A, Milstein S, Ahmed S, Hodgkin J, Hengartner MO (2000) A
conserved checkpoint pathway mediates DNA damage–induced apoptosis and
cell cycle arrest in C. elegans. Mol Cell 5: 435–443. 57. MacQueen AJ, Villeneuve AM (2001) Nuclear reorganization and homologous
chromosome pairing during meiotic prophase require C. elegans chk-2. Genes Dev
15: 1674–1687. y
g
42. Nabeshima K, Villeneuve AM, Hillers KJ (2004) Chromosome-wide regulation
of meiotic crossover formation in Caenorhabditis elegans requires properly
assembled chromosome axes. Genetics 168: 1275–1292. 58. Davis MW, Hammarlund M, Harrach T, Hullett P, Olsen S, et al. (2005) Rapid
single nucleotide polymorphism mapping in C. elegans. BMC Genomics 6: 118. 59. References 29. de Carvalho CE, Zaaijer S, Smolikov S, Gu Y, Schumacher JM, et al. (2008)
LAB-1 antagonizes the Aurora B kinase in C. elegans. Genes Dev 22: 2869–2885. 15. Hamer G, Gell K, Kouznetsova A, Novak I, Benavente R, et al. (2006)
Characterization of a novel meiosis-specific protein within the central element of
the synaptonemal complex. J Cell Sci 119: 4025–4032. 30. Martinez-Perez E, Schvarzstein M, Barroso C, Lightfoot J, Dernburg AF, et al. (2008) Crossovers trigger a remodeling of meiotic chromosome axis composition PLoS Genetics | www.plosgenetics.org 11 October 2009 | Volume 5 | Issue 10 | e1000669 October 2009 | Volume 5 | Issue 10 | e1000669 SC Structural Protein in C. elegans Kelly KO, Dernburg AF, Stanfield GM, Villeneuve AM (2000) Caenorhabditis
elegans msh-5 is required for both normal and radiation-induced meiotic crossing
over but not for completion of meiosis. Genetics 156: 617–630. 43. Jantsch V, Pasierbek P, Mueller MM, Schweizer D, Jantsch M, et al. (2004)
Targeted gene knockout reveals a role in meiotic recombination for ZHP-3, a
Zip3-related protein in Caenorhabditis elegans. Mol Cell Biol 24: 7998–8006. PLoS Genetics | www.plosgenetics.org October 2009 | Volume 5 | Issue 10 | e1000669 PLoS Genetics | www.plosgenetics.org 12
|
https://openalex.org/W2994943259
|
http://centreofexcellence.net/J/JBM/pdfs/jbm.2020.8.1.1.19.pdf
|
English
| null |
The Effect of Intellectual Capital on Competitive Advantage in the Jordanian Telecommunication Sector
|
Journal of business & management
| 2,020
|
cc-by
| 7,735
|
Abstract: This paper sought to examine the effect of intellectual capital on competitive
advantage in the Jordanian telecommunication sector. Indeed, intellectual
capital is generally assumed to be an important aspect of the organization and
one of the most conducive to innovative activity and unrestrained competition. The paper finds that the tripod of intellectual capital, namely, human capital,
structural capital, and relational capital has a significant influence on achieving a
competitive advantage. Among these three dimensions, relational capital is the
most influential component in enhancing the competitive advantage. Considering these results, the research presented many recommendations for
future research, the most important ones is implementing this study on other
sectors, resort to multi-method of data collection, and the use of probability
sampling techniques. Journal of Business & Management (COES&RJ-JBM)
ISSN (E): 2306-7179 ISSN (P): 2306-8043
Publisher: Centre of Excellence for Scientific & Research Journalism, COES&RJ LLC
Online Publication Date & Issue: 1st Jan. 2020, Vol.8, No.1, January 2020
https://doi.org/10.25255/jbm.2020.8.1.1.19 Journal of Business & Management (COES&RJ-JBM)
ISSN (E): 2306-7179 ISSN (P): 2306-8043
Publisher: Centre of Excellence for Scientific & Research Journalism, COES&RJ LLC
Online Publication Date & Issue: 1st Jan. 2020, Vol.8, No.1, January 2020
https://doi.org/10.25255/jbm.2020.8.1.1.19 Journal of Business & Management (COES&RJ-JBM) The Effect of Intellectual Capital on Competitive Advantage in the
Jordanian Telecommunication Sector
Raed Kareem Kanaan
Amman Arab University, Jordan, rk@aau.edu.jo
Ulya Nawaf Obeidat
Department of Business Management, University of Jordan, Amman, Jordan,
youlia_obeidat@hotmail.com
Bader Yousef Obeidat
Faculty of Business and Law, The British University in Dubai, Department of
Business Management, The University of Jordan (Unpaid Leave),
b.obeidat@ju.edu.jo
Mohammad Orsan Al-Zu'bi
Department of Business Management, University of Jordan, Amman, Jordan,
m.alzoubi@ju.edu.jo
Mohammd Abuhashesh
E-Marketing and Social Media Department, Princess Sumaya University for
Technology (PSUT), Amman, Jordan, m.abuhashesh@psut.edu.jo
Abstract: 1. Introduction In the presence of a hyper competitive environment, intellectual capital has been
drawing more attention than ever before in recent years. Intellectual capital
consisting of human, relational, and structural capital is widely recognized as an
important contributor to achieve better economic growth (Wang, et al., 2014). Moreover, it is increasingly being considered by both scholars and practitioners
as a major factor to gain a competitive advantage for knowledge organizations
(Chahal and Bakshi, 2014; Karajeh and Maqableh, 2014; Maqableh, et al., 2015;
Abualoush et al., 2018a,b). Amiri, et al. (2010) postulated that intellectual capital
is one of the main organizational capabilities that have a positive impact on
competitive advantage. Barney (1991) claims that organizations that possess and
exploit resources and capabilities that are valuable, rare, inimitable, and
organizational supported will be in a better competitive position. Likewise, Newbert (2008) has linked the organizational resources and capabilities
with a competitive advantage. In a narrower business context, resources refer to
the basic building block that can be divided into tangible and intangible assets
(Masa’deh, et al., 2015; Wheelen, et al., 2015) whereas capabilities mean the
organization’s ability to deploy and combine those resources to enhance the
productivity and accomplish the strategic goals (Makadok, 2010). Therefore, the
combination of intangible resources and capabilities in a way that enhance the
ability to exploit market opportunities help an organization to establish and
sustain a core competency in the form of competitive advantage (Chahal and
Bakshi, 2015). Intellectual capital has become widely acknowledged as
knowledge assets within an organization. Competitive advantage will not be
sustainable unless an organization uses these assets effectively and efficiently. Accordingly, competitive advantage does not only occur from producing product
and services to the customers, but also from the resources to produce them
(Porter, 2008; Abuhashesh e al., 2019a, b). Keywords: Intellectual Capital, Competitive Advantage, Telecommunication Sector, Jordan
Cit ti Intellectual Capital, Competitive Advantage, Telecommunication Sector, Jordan
Citation: Kanaan, Raed Kareem; Obeidat, Ulya Nawaf; Obeidat, Bader Yousef; Al-Zu'bi,
Mohammad Orsan; Abuhashesh, Mohammd (2020); The Effect of Intellectual
Capital on Competitive Advantage in the Jordanian Telecommunication Sector;
Journal of Business & Management (COES&RJ-JBM) Vol.8, No.1, pp.1-19,
https://doi.org/10.25255/jbm.2020.8.1.1.19. Kanaan, Raed Kareem; Obeidat, Ulya Nawaf; Obeidat, Bader Yousef; Al-Zu'bi,
Mohammad Orsan; Abuhashesh, Mohammd (2020); The Effect of Intellectual
Capital on Competitive Advantage in the Jordanian Telecommunication Sector;
Journal of Business & Management (COES&RJ-JBM) Vol.8, No.1, pp.1-19,
https://doi.org/10.25255/jbm.2020.8.1.1.19. This work is licensed under a Creative Commons Attribution 4.0 International License. Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 2.1 Intellectual Capital Several definitions have been proposed to conceptualize intellectual capital. Hall
(1992) posited that intellectual capital is a value driver that transforms
production resources into valuable assets. Stewart (1997) referred to intellectual
capital as the combination of everything in an organization knows that grants it a
competitive advantage. Intellectual capital can be also defined as composed of
the human aspect that consists of knowledge, experience, and skills of
employees, and the organizational aspect that involves the knowledge resources
stored in databases, systems, culture, and philosophy. Marr (2004) viewed
intellectual capital as the collection of knowledge resources that are the premise
behind giving an organization a competitive edge. Subramaniam and Youndt (2005) claimed that intellectual capital is the
combination of knowledge used in firm’s operations to occupy a competitive
position. This definition is consistent with another definition developed by Sofian
(2004) who stated that intellectual capital is the interrelationship between
professional knowledge and skills, goal relationships, and technological
capabilities that enhance its competitive position. The European Commission
(EC) (2006a) considered intellectual capital as the sum of human, structural, and
relational resources that are related to the external ties of an organization such
as with customers, suppliers, and other stakeholders. Intellectual capital as a
merged
of
intelligence,
wisdom,
flexibility,
distinctive
capabilities,
entrepreneurship, and creativity that are needed to succeed in progressively
competitive global economy where technology and knowledge lead
(Manzaneque, et al., 2017). Indeed, it has been observed that the tradition view
toward the intellectual capital has been dramatically changed. These changes
occurred due to the presences of such forces like the financial crisis that take
place at the end of 2007. As well as, the shortening in the product life cycle the
puts organizations on a jeopardy to be driven out of the market. Accordingly,
organizations should pay much attention on exploiting the resources especially
the tacit resources as intellectual capital and fit with the market demands. In todays’ business environment, the concept of intellectual capital has been
much concerned by scholars. Rodrigues and Romero (2015) conceived that
intellectual capital is the interconnectedness among human capital (e.g. Skill,
experience, competences, and knowledge), structural capital (e.g. organizational
processes, software databases, and business processes), and relational capital
(e.g. customers, suppliers, creditors, investors, and other stakeholders) that
create value for an organization. 2. Literature Review Currently, the quest for a sustainable competitive advantage has received a
remarkable attention by scholars at different fields in general, and scholars at
strategic management in particular. Moreover, it is necessary for any
organization to seek toward building a competitive advantage that is difficult to
be imitated by competitors. In fact, obtaining a superior competitive position can
be occurred through an effective utilizing of the firm’s tangible and intangible
resources. Due to the economic issues in the business environment, intellectual
capital was considered as an opportunity for an organization to obtain a
competitive edge (Al-Dmour, et al., 2015; Chahal and Bakshi, 2015). 2 2.1 Intellectual Capital Dženopoljac (2016), Shed the light on the
nature of intellectual capital since it is considered as an opportunity to affect the
firm’s performance if the managers utilize it. Noticeably scholars from different
majors focus on conceptualizing intellectual capital as consisting of human, 3 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 relational, and structural capital. In one way or another, these three aspects are
interconnected to represent the intellectual capital (Chahal and Bakhshi, 2015). 2.2 Dimensions of Intellectual Capital In fact, it has been asserted that intellectual capital refers to the knowledge
capital. Regarding the conceptual dimensions of intellectual capital, this study
follows the framework that views intellectual capital as a synergic set of human
capital, structural capital, and relational capital. 2.2.1 Human Capital Human capital is considered as a pivotal aspect that drives the other aspect of
intellectual capital (Li and Chang, 2010). Human capital is the organizational
knowledge owned by employees but does not stay in the organization when they
go home. Moreover, human capital is the professional competences, employees’
skills, and leadership abilities that add value to the organizational processes. In
this context, human capital is considered a key element to gain a competitive
edge (Mehralian, et al., 2013). Human capital refers to the knowledge,
experience, and capabilities that employees bring to the organization. According
to Alwert (2006) he asserted that human capital covers the knowledge, skills, and
motivation of employees that can be taken into home or to the next employer. Rocha (2012) developed a comprehensive description of human capital where it
is defined as a combination of skills, competences, talents and know-how,
ethics, values, and attitudes of both employees and managers. Human capital is
also referred to the implicit knowledge that is deeply rooted in the employees
(Kamukama, 2013; Wang, et al., 2014). 2.2.3 Relational Capital At its core, relational capital concerns with the deployment of knowledge and
relationships through social structure (Hsu and Wang, 2012). Relational capital
revolves around linking the internal intellectual resources with the external
stakeholders such as customers and investors, Thus, it enhances the
organization’s ability to generate value (Wang, et al., 2014). Indeed, since
relational capital stems from such norms as collaboration, communication, and
sharing of information, it tends to remain in the organization regardless the
changes the individual activities (Putnam, 1995).In addition, , relational capital
considered as the knowledge that is utilized by the collaboration among
individuals and their external relationships. It is also referred to the knowledge
embedded in relationships with the organization’s stakeholders that affect its life
(Dahiyat, et al., 2014). The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. databases, information systems, patents, copyrights, and so on (Sharabati, et al.,
2013). It is also described as the reflection of organizational knowledge in terms
of technologies, patents, work processes, and cultures (Dahiyat, et al., 2014). As
a conclusion, structural capital can be referred as knowledge created by an
organization (Obeidat, et al., 2017). databases, information systems, patents, copyrights, and so on (Sharabati, et al.,
2013). It is also described as the reflection of organizational knowledge in terms
of technologies, patents, work processes, and cultures (Dahiyat, et al., 2014). As
a conclusion, structural capital can be referred as knowledge created by an
organization (Obeidat, et al., 2017). 2.3.1 Competitive Advantage Barney (1991) stated that competitive advantage is the development of a value
creating strategy that cannot be implemented by any other competitors
simultaneously. He further suggested that organization is said to have a
sustainable competitive advantage when it is able to develop a value creating
strategy that cannot be implemented, nor duplicated by current or potential
competitors. Ma (2004) defined competitive advantage as the set of physical and
financial resources that are effectively utilized. According to Grimaldi, et al. (2012) competitive advantage is the result of integration between external
opportunities and internal resources and abilities of an organization. Dess, et al. (2014) stated that competitive advantage is the set of resources and capabilities
that enable an organization to overcome the competitive forces. Sudrajat (2015)
posited that competitive advantage is the successful design and implementation
of value creating strategy that competitors cannot use. 2.2.2 Structural Capital Structural capital (also called the organization capital) concerns with the
mechanisms and structures of an organization which remarkably enhances its
innovative abilities. Hence, making it a vital organizational source. The
distinguishing feature of structural capital is that it remains in the organization
even when employees leave it (Edvinson, 1997). Moreover, structural capital is
considered as the backbone of human capital to improve the employees’
productivity. The premise behind this argument is that structural capital acts as a
supportive infrastructure of human capital by providing employees with the
necessary skills to invest their capabilities. Regarding its definition, academic scholars have developed several definitions
for structural capital. For instance, Bontis (1998) defined structural capital as
non-human warehouses that contain the databases, organizational structure,
work manuals, strategies, procedures, and any other thing whose value to the
organization is greater than its material value. In a similar vein, structural capital
is referred to the organizational storehouses that include its culture, policies, 4 2.3.4 Rarity Competencies that are valuable but available for other competitors are unlikely
to provide an organization with a competitive advantage (Johnson, et al., 2016). Therefore, organizational competences should be characterized by rarity. Rare
competences are those owned uniquely by one organization or by a few other
organizations. The premise behind developing rare competencies is that once the
competences are become valued by customers, competitors would seek to
introduce these competencies by accessing to the same technology (Barney,
1991; Wheelen, et al., 2015). 2.3.3 Value According to Johnson, et al. (2016), competencies are considered valuable when
that develop products or services that are of value for customers. Therefore, it
can be concluded that valuable competencies include three main components. First, these competencies should be exploited in order to take the advantage of
opportunities and avoid threats (Hinterhuber, 2013). Second, the organizational
competences should be seen valuable in the eyes of the customers. Third, the
competences should allow an organization to obtain a reasonable return while
reducing the cost (Hesterly and Barney, 2010). 2.3.5 Inimitability An organization should seek to develop competencies that are imperfectly
imitable. Inimitable competences are those that other competitors find
complicated and costly to duplicate, acquire, or substitute (Newbert, 2008). Strategically speaking, (Hesterly and Barney, 2010) pointed out that the barriers
to duplication are deeply rooted in the organization in relationships between
actions, skills and employees. Therefore, these relationships make it difficult for
competitors to copy the organizational competencies (Johnson, et al., 2016; Al-
dalahmeh, et al., 2018). 2.3.2 Dimensions of Competitive Advantage Drawing on Resource-Based View (RBV) (Barney,1991), this study would suggest
that a firm is said to have a competitive advantage once it acquires resources
that are valuable, rare, imperfectly imitable, and organizational supported. In a
narrower business context, organizations should understand how to differ
themselves from other competitors in a way that could be the base for occupying
a competitive position (Johnson, et al., 2016). The competitive advantage of an
organization is attributed to the distinctiveness of its capabilities. Capabilities 5 5 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 refer to abilities of an organization to enhance its long-term competitive
advantage (Winter, 2014). The two main components of strategic capabilities are
resources and competences (Wheelen, 2015). Resources are the organizational
assets that can call upon, whereas competencies refer to the effective utilization
of the organizational resources. When these competencies are considered as
superior to current and potential competitors, they are called distinctive
competencies. 2.3.6 Organizational Support Creating value to customers and acquiring competencies that are rare and
complicated to copy provides a potential for a competitive edge (Johnson, et al.,
2016). However, an organization should concentrate on taking a fully
competitive advantage. Therefore, it should support its strategic competencies. 6 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian. Teece and Leih (2016) defined the organizational support as the appropriate set
processes and formal and informal management control system that are adopted
to support the strategic competences in obtaining a competitive advantage. The
organization’s formal and informal functions are the backbones to protect its
strategic assets. 2.4 Intellectual Capital and Competitive Advantage p
p
g
Scholars and practitioners are concerned with understanding the linkage
between intellectual capital and competitive advantage. Accordingly, Chen
(2008) conducted a study to investigate the positive effect of intellectual capital
on firms’ competitive advantage. The study filled a gap of not examining the
intellectual capital about green innovation or environmental management of an
organization. In a narrow context, the researcher argued that the continuous
changes dramatically increase the industrial competition. These changes put on
the shoulders of organizations a remarkable responsibility to find out solutions
to enhance the corporate image, reputation, the productivity, sell the know-how
and services of environmental protection. Therefore, developing a novel
construct of green intellectual capital is necessary in achieving a competitive
edge. Green intellectual capital consisting of green human capital, green
structural capital, and green relational capital are considered the main drivers
behind building a competitive advantage. In words, green human capital as
composed of employees’ knowledge, skills, attitudes, ethics, commitments about
environmental awareness or green innovation can support an organization to
gain a competitive advantage. Regarding the green structural capital, the
researcher
hypothesized
that
the
organizational
capabilities,
culture,
commitments, and processes can help an organization to occupy a competitive
position. On the same hand, the green relational capital in terms of the
relationships with the external stakeholders about green innovation and
environmental management can lead to a competitive advantage (Duoduand
Rowlinson,2016). Scholars have moved further to better understand the nature of the relationship
between intellectual capital and competitive advantage using advanced
statistical tools. For instance, Kamukama (2013) investigated the linkage among
intellectual capital, financial performance, and competitive advantage. The study
aims to examine the mediating effect of competitive advantage on the
relationship between intellectual capital and firm financial performance in
Uganda microfinance institutions. The researcher suggested that intellectual
capital can enhance the firms’ financial performance (Abuhashesh et al., 2019c,
d). Furthermore, it has been asserted that intellectual capital encompasses
resources that are valuable, rare, imperfectly imitable, and non-substitutable
(Guthrieand Petty, 2004; Masa'deh, 2012). 7 7 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Kamukama (2013) examined the relationship between intellectual capital and
competitive advantage and argued that intellectual capital is the invisible source
toward achieving a competitive advantage. What distinguishes this study is that
it aims to analyze the individual contribution of intellectual capital components
to competitive advantage. 2.4 Intellectual Capital and Competitive Advantage Therefore, it is hypothesized that intellectual capital
through its main aspects has a positive influence on the firm’s competitive
advantage. Theoretically, the study has established that the dimensions of
intellectual capital work on a synergic approach to influence the firm’s
competitive advantage. The study recommended to use different methodological
approaches such as the interview to triangulate the data collection methods in
this study. Furthermore, adapting a longitudinal approach enhance the reliability
of study findings. Clearly, the relationship between intellectual capital and competitive is
extensively studied in western business settings. However, Yaseen, et al. (2016)
assessed the effect of intellectual capital on competitive advantage in Jordanian
telecommunication sector. They stated that organizations owned various
resources that enhance their performance. these resources can be tangible or
intangible. Intellectual capital as the intangible assets can be exploited to gain a
sustainable competitive advantage. Data on this study was collected using a
questionnaire distributed to the companies in the telecommunication sector. The multiple regression analysis revealed that the structural capital and
relational capital have a positive influence on achieving a competitive advantage. It is somewhat surprising that human capital does not significantly influence the
competitive advantage. The researchers proposed that presence of other
variables can enhance the influence of human capital on competitive advantage. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. capital, structural capital, and relational capital enhances the chance of obtaining
a competitive advantage. In this chapter, data will be presented, analyzed and
interpreted. Data were collected using questionnaire as the main study
instrument. 335 employees at all managerial levels in the Jordanian
telecommunication sector participated in this research. Moreover, data was
statistically analyzed using SPSS and AMOS. Then, descriptive statistics of the
main variables and their dimensions will be presented using the arithmetic
mean, standard deviation, and the ranking equation. Thereafter, to assure that
the independents variables are not strongly correlated; multi co-linearity analysis
was established using the variance of inflation and tolerance value (Blumberget
al., 2014). 3. Methodology This research used the Statistical Package for social science (SPSS) and the
Analysis of Moment Structure (AMOS) to examine the data gathered for this
study. Testing study hypotheses requires determining the appropriate statistical
methods (Sekaran and Bougie, 2016). Moreover, determining the appropriate
statistical methods rely on the number of study variables. Thus, multivariate
statistical techniques since it includes more than one independent variable
(intellectual capital) to explain the variance in the dependent variable
(Competitive Advantage). The population of this study consists of all employees
at all managerial levels working in the three major telecommunication
companies operating in Jordan (Orange, Zain, Umniah). As per to the annual
reports of these companies at the end of 2016, it has been reported that the
total number of employees working in the telecommunication companies was
3119 employees. Few studies analyzed the influence of intellectual capital on
achieving a competitive advantage. Furthermore, this study aims to introduce
additional evidence that intellectual capital through its main dimensions: human 8 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. 3.1 Descriptive Statistics of the Main Variables Traditionally, the level of significant in the scientific business research is (0.05). Thus, the confidence level is (95%). H01: Intellectual Capital has no statistical effect on Competitive Advantage. H01.1: Human Capital has no statistical effect on Competitive Advantage. H01.2: Structural Capital has no statistical effect on Competitive Advantage. H
: Relational Capital has no statistical effect on Competitive Advantage To test these hypotheses, multiple regression analysis was conducted. Traditionally, the level of significant in the scientific business research is (0.05). Thus, the confidence level is (95%). H01: Intellectual Capital has no statistical effect on Competitive Advantage. H01.1: Human Capital has no statistical effect on Competitive Advantage. H01.2: Structural Capital has no statistical effect on Competitive Advantage. H01 3: Relational Capital has no statistical effect on Competitive Advantage. H01: Intellectual Capital has no statistical effect on Competitive Advantage. Table 2. Multiple regression of the first hypotheses
R
R2
Adjusted
R2
F-
value
Sig
t
Sig
Beta
0.77
0.59
0.59
160.92 0.000
Constant
1.496 0.136 0.260
Human
Capital
2.519 0.012 0.192
Structural
Capital
4.394 0.000 0.360
Relational
Capital
5.325 0.000 0.361 Table 2. Multiple regression of the first hypotheses
R
R2
Adjusted
R2
F-
value
Sig
t
Sig
Beta
0.77
0.59
0.59
160.92 0.000
Constant
1.496 0.136 0.260
Human
Capital
2.519 0.012 0.192
Structural
Capital
4.394 0.000 0.360
Relational
Capital
5.325 0.000 0.361
Further to the above table, it can be noticed that the multiple correlation
coefficient R is (0.770). This indicates a positive correlation between intellectual
capital and competitive advantage. The coefficient of determination R2 is
(0.593). This value presents that the tripod of intellectual capital explained 59.3%
of the variation in competitive advantage. Moreover, it is evident that the
adjusted R2 is (.590). If the adjusted R2 is subtracted from R2 (0.593-0.590) =
0.003. This little shrinking (0.003) proves that if the model has been fitted when
the whole population participates in the study, the higher possible variance
would be (0.003). The probability of F-Value (160.929) refers to the association
among human capital, structural capital, and relational capital. This association
has a significant effect on competitive advantage at (α ≤ 0.05). Accordingly, the
first main hypothesis is rejected. Table 2. 3.1 Descriptive Statistics of the Main Variables The descriptive statistics present the attitudes of respondents toward the main
variables in the study and the questions they were asked. To do this, the
arithmetic mean, standard deviation, and the relative importance should be
calculated. The Likert-scale from (1 to 5) was adapted to allow respondents to
express their agreement or disagreement regarding the questions in the
instrument. This scale enables the research to transform qualitative data into
quantitative data. Therefore, variables can be statistically assessed. According to the study equations, the variable within the range between (1 to
2.33) is considered low important. The variable within the range between (2.34
to 3.67) is considered moderately important, whereas, the variable within the
range between (3.68 to 5) is considered highly important. The following table presents the arithmetic mean, standard deviation, the level
of importance, and the rank for main variables: Table 1. Means and standard deviations of the main variables Table 1. Means and standard deviations of the main variables
Variable
Mean
Standard
Deviation
Relative
Importance
Rank
Intellectual Capital
4.05
0.721
High
1
Competitive Advantage
3.96
0.863
High
2 Referring to the above table, it can be observed that the main variables are
highly important for the respondents in the telecommunication companies in
Jordan. In words, intellectual capital has an arithmetic mean of (4.05). This is an
evidence that the majority of respondents “agree” with the questions regarding
the intellectual capital. The standard deviation of intellectual capital is (0.721)
which is statistically confirmed. Respondents on the competitive advantage exert
positive attitude regarding the questions where the arithmetic mean is (3.96)
and standard deviation is (0.863) which is relatively above the average. Further
to above, the relative importance and ranks have been estimated. Intellectual 9 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 capital has the highest level of importance, followed by competitive advantage
and organizational innovation (Liao et al, 2017). 3.2 Inferential Statistics: Hypotheses Testing
To test these hypotheses, multiple regression analysis was conducted. Traditionally, the level of significant in the scientific business research is (0.05). Thus, the confidence level is (95%). H01: Intellectual Capital has no statistical effect on Competitive Advantage. H01.1: Human Capital has no statistical effect on Competitive Advantage. H01.2: Structural Capital has no statistical effect on Competitive Advantage. H01.3: Relational Capital has no statistical effect on Competitive Advantage. To test these hypotheses, multiple regression analysis was conducted. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian. As for the structural capital, it can be observed that structural capital has
significant value of (0.000) at (α ≤ 0.05). the t-calculated is (4.394) and
significantly greater than the value of t-tabulated (1.96). Based on these findings. Accordingly, the null hypothesis is rejected. Indeed, it can be argued that
documenting the organizational knowledge and promoting effective culture and
work system would enhance the ability to acquire a competitive advantage in the
telecommunication companies. In terms of relational capital, the previous table shows that relational capital has
significant value of (0.000) at (α ≤ 0.05). The value of t-calculated is (5.325) is
greater than (1.96). Building on these finding, the null hypothesis is rejected. In
general, enhancing the collaboration among employees to exchange ideas and
build two-way communication channels to obtain clients’ feedback would
promote the ability of telecommunication companies to occupy a competitive
position. The following table presents the decisions that can be made regarding
the first null hypotheses: yp
Table 3. The results of testing the first null hypotheses
H01.1: Human Capital has no statistical effect on Competitive
Advantage. Rejected
H01.2: Structural Capital has no statistical effect on
Competitive Advantage
Rejected
H01.3: Relational Capital has no statistical effect on
Competitive Advantage. Rejected
Consequently, the study shows that intellectual capital has a significant influence
on competitive advantage where the coefficient value is (.9198). Table 3. The results of testing the first null hypotheses
H01.1: Human Capital has no statistical effect on Competitive
Advantage. Rejected
H01.2: Structural Capital has no statistical effect on
Competitive Advantage
Rejected
H01.3: Relational Capital has no statistical effect on
Competitive Advantage. Rejected
Consequently, the study shows that intellectual capital has a significant influence
on competitive advantage where the coefficient value is (.9198). Consequently, the study shows that intellectual capital has a significant influence
on competitive advantage where the coefficient value is (.9198). Consequently, the study shows that intellectual capital has a significant influence
on competitive advantage where the coefficient value is (.9198). 3.1 Descriptive Statistics of the Main Variables Multiple regression of the first hypotheses
R
R2
Adjusted
R2
F-
value
Sig
t
Sig
Beta
0.77
0.59
0.59
160.92 0.000
Constant
1.496 0.136 0.260
Human
Capital
2.519 0.012 0.192
Structural
Capital
4.394 0.000 0.360
Relational
Capital
5.325 0.000 0.361 Table 2. Multiple regression of the first hypotheses Further to the above table, it can be noticed that the multiple correlation
coefficient R is (0.770). This indicates a positive correlation between intellectual
capital and competitive advantage. The coefficient of determination R2 is
(0.593). This value presents that the tripod of intellectual capital explained 59.3%
of the variation in competitive advantage. Moreover, it is evident that the
adjusted R2 is (.590). If the adjusted R2 is subtracted from R2 (0.593-0.590) =
0.003. This little shrinking (0.003) proves that if the model has been fitted when
the whole population participates in the study, the higher possible variance
would be (0.003). The probability of F-Value (160.929) refers to the association
among human capital, structural capital, and relational capital. This association
has a significant effect on competitive advantage at (α ≤ 0.05). Accordingly, the
first main hypothesis is rejected. Regarding the effect of human capital on competitive advantage, it is evident
from the previous table that significant value of human capital at (α ≤ 0.05) is
(0.012). The t-calculated is (2.519) is greater than the value of t-tabulated (1.96). This proves that the human capital has a remarkable effect on competitive
advantage. Therefore, the null hypothesis is rejected at (α ≤ 0.05). 10 4. Discussion and Conclusions Analyzing the data collected from 335 employees’ at all managerial levels
working in the telecommunication sector reveals that intellectual capital
significantly effects on the organizational ability in attaining a competitive
advantage at (α ≤ 0.05). This finding supported the conclusions of Yaseen, et al.,
(2016). Theoretically speaking, drawing on the RBV as suggested by Barney
(1991), it has been stated that intellectual capital as a substantial intangible
resource within an organization have a direct and indirect impact on enhancing
the competitive position of the firm. Intellectual capital is considered as the
combination and exchange of intellectual resources that can be presented either
in an explicit or implicit knowledge. This knowledge is considered as the
fundamental base in building a competitive advantage. Furthermore, RBV
stressed that competitive advantage can be achieved through acquiring
resources that are valuable, rare, imperfectly imitable, and organizational
supported. Therefore, the organizational ability in integrating and creating a 11 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 congruence among the intellectual component can help companies achieve
competitive advantage in the telecommunication sector in Jordan. Regarding the tripod of intellectual capital, it has been found that human capital
has a significant effect on achieving a competitive advantage at (α ≤ 0.05). Indeed, this finding is supported by somescholars (e.g. Jaradat, et al., 2012;
Chahal and Bakshi, 2015). The premise behind this finding is that human capital
comprises all business capabilities embedded in the individual and not owned by
the organization. It is also the individual stock of an organization as represented
by employees. In this context, human capital is associated with the innate ability,
intelligence, creation and talent brainpower and considered as a core
component of intellectual capital. Therefore, it is the main source in building a
competitive advantage. As for the structural capital, it has been found that
structural capital has a remarkable effect in enhancing the competitive position
at (α ≤ 0.05). This finding is supported the conclusion of Kavida and Sivakoumar
(2009) work. Structural capital includes the tacit knowledge or codified knowledge artifacts. It
is considered as the pool of knowledge and the supportive infrastructure that
facilitates exploiting human and relational capital. Indeed, organizations with
effective structural capital can find a better harmonization among the
components of intellectual capital. Therefore, it can be postulated that
enhancing the structural capital is useful to achieve a sustainable competitive
advantage. 4. Discussion and Conclusions it has also been found that relational capital has a significant
influence on achieving a competitive advantage at (α ≤ 0.05). This finding is
highly consistent with the findings of. Schiuma and Marr,(2001), Chen (2008),and
Jaradat et al. (2012) who argued that among the components of intellectual
capital, relational capital is considered that most favorable and influential
component in achieving a competitive advantage. At its core, relational capital is
concerned with the mobilization of resources and knowledge through a social
structure. Thus, it can be argued that building strong ties with all stakeholders’
help in achieving a competitive edge. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. From theoretical perspective, the distinguishing feature of this study is the solid
theoretical framework that built on a clear methodology. In other words,
intellectual capital has been assessed using the most popular tripod of human,
structural, and relational capital as suggested by as (SubramaniamandYoundt,
2005; Seleim and Khalil, 2011; Dahiyat, et al., 2014). This construct achieved a
high degree of acceptance among researchers as it covers the concept of
intellectual capital and enhances the parsimonies of the study. 4.1 Contribution of the Study This research was built on previous literature regarding the role of intellectual. Indeed, the findings of this study have practical and theoretical contribution in a
significant way. From practical perspective, researches were conducted in
different countries with different cultures and different work settings. However,
this study was conduct in Jordan as one of the developing countries as limited
efforts have been exerted to study the nature of this relationship in developing
countries. In addition, thispaper highlights the critical role of intellectual capital
on competitive advantage in such intensive based-technology as the
telecommunication sector. 12 4.2 Limitations and Recommendations Despite the remarkable importance of this study, it holds some limitations. These
limitations should be acknowledged to help researchers fill the gaps. First, this
study adopts the questionnaire as a major instrument to collect data regarding
intellectual capitaland competitive advantage. Indeed, every data collection
method has its own built-in biases. As for the questionnaire, respondents may
have overemphasized the positive aspect of intellectual capitaland competitive
advantage. Therefore, it is recommended resorting to multi-method of data
collection that may help researchers to overcome these biases. Second, it has
been observed that some respondents provide inconsistent and illogical answers
in questionnaire. However, these respondents have been scientifically treated as
suggested by Sekaran and Bougie (2016). Third, the current study employed
cross-sectional survey design. The purpose of this design is to collect data that
would be pertinent to addressing the answer to research question. It is advised
to adapt the longitudinal survey design in future studies. A longitudinal study can
provide further insight on how individuals perceive intellectual capitaland
competitive advantage at more than one time. It may also show other
relationships among variable at different points of testing. Fourth, the sampling
design chosen in this study may influence the generalizability of the findings. Convince sampling is characterized by quick, and efficiency. However, this
sampling design is the least reliable of all sampling designs regarding the
generalizability. To overcome this limitation, it is recommended to use other
probability sampling techniques as simple random or stratified random sampling
to obtain more useful and generalized findings. Finally, this research was
conducted in the Jordanian telecommunication sector as one of the most
competitive sectors in Jordan (Abuhashesh et al., 2019a). It is recommended to
conduct this research in other sectors as the banking or pharmaceutical sectors. Also, it is advisable to represent the importance of this study by conducting this
research at the country level. From theoretical point of view, the current study
concentrates on the three dimensions of intellectual capital namely, human
capital, structural capital, and relational capital. Other intellectual capital
dimensions are recommended to be used in measuring the importance of
intellectual capital (Ding, 2010). 13 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 From practical point of view, managers in the telecommunication companies
should be aware about the importance of exploiting the intellectual resources as
they have a crucial influence on attaining a competitive advantage. 4.2 Limitations and Recommendations it is also
important for the telecommunication companies to comprehend the vital role of
intellectual capital in achieving a sustainable competitive advantage. Therefore,
this puts on the shoulders of managers in the telecommunication companies a
huge responsibility to improve performance by investing more resources in
human capital, relational capital and structural capital (Al-Syaidh et al., 2016;
Barney et al,. 2016; Abuhashesh et al., 2019b). Moreover, in a swiftly moving
world, the telecommunication companies should encourage employees with the
tacit or intangible knowledge that in their heads as it tremendously helps firms
to create valuable goods and services. References Abualoush, S., Bataineh, K., & Alrowwad, A. (2018a).The role of knowledge
management process and intellectual capital as intermediary variables between
knowledge
management
infrastructure
and
organization
performance. Interdisciplinary Journal of Information, Knowledge, and Management, 13, 279-
309. Abualoush, S., Obeidat, A., & Tarhini, A. (2018b). The role of employees’
empowerment as an intermediary variable between knowledge management
and information systems on employees’ performance. VINE Journal of
Information and Knowledge Management Systems, 48(2), 217-237. Abualoush, S., Obeidat, A., & Tarhini, A. (2018b). The role of employees’
empowerment as an intermediary variable between knowledge management
and information systems on employees’ performance. VINE Journal of
Information and Knowledge Management Systems, 48(2), 217-237. Abuhashesh, M., Al-Dmour, R., & Masa'deh, R. (2019a). Factors that affect
employees job satisfaction and performance to increase customers’ satisfactions. Journal of Human Resources Management Research, 1-23. Abuhashesh, M., Al-Dmour, R., & Masa'deh, R. (2019b). Factors that impact job
satisfaction and performance among employees in the Jordanian industrial
sector. Proceedings of the 32nd International Business Information Management
Association Conference, IBIMA 2018-Vision 2020: Sustainable Economic
Development and Application of Innovation Management from Regional
expansion to Global Growth, 4285-4305. Abuhashesh, M., Al-Khasawneh, M., & Al-Dmour, R., (2019c). The impact of
Facebook on Jordanian consumers’ decision process in the hotel selection. IBIMA
Business Review, 1-16. Abuhashesh, M., Mohammad, S.J., & Al Khasawneh, M. (2019d). The attitude of
Jordanian customers towards virtual stores. Int. J. Islamic Marketing and
Branding, 4(1), 59-75. 14 14 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. Al-dalahmeh, M., Khalaf, R., & Obeidat, B. (2018). The effect of employee
engagement on organizational performance via the mediating role of job
satisfaction: The case of IT employees in Jordanian banking sector. Modern
Applied Science, 12(6), 17-43. Al-Dmour, R., Obeidat, B., & Almajali, D. (2015). The practice of HRIS applications
in business organizations in Jordan: An empirical study. 4th Scientific & Research
Conference on New Trends in Business, Management and Social Sciences
(COES&RJ-TK15/1). Al-Syaidh, N., Al- Lozi, M., & AlHarrasi, J. (2016). Transformational leadership and
its role on the effectiveness of employees’ behavior: A theoretical study. Journal
of Business & Management (COES&RJ-JBM), 4(1), 14-35. Amiri, A.N., Jandghi, G., Alvani, S.M., Hosnavi, R., & Ramezan, M. (2010). Increasing the intellectual capital in organization: Examining the role of
organizational learning. European Journal of Social Sciences, 14(1), 98-108. Barney, J. (1991). Firm resources and sustained competitive advantage. Journal
of Management, 17(1), 99-120. Barney, J.B., & Turk, T.A. (2016). 5 superior performance from implementing
merger and acquisition strategies: A resource-based. The Management of
Corporate Acquisitions: International Perspectives, 105. Blumberg, B., Cooper, D.R.,& Schindler, P.S. (2014). Business Research Methods
(4th ed). United States: McGraw Hill Higher Education Bontis, N. (1998). Intellectual capital: An exploratory study that develops
measures and models. Management Decision, 36(2), 63-76. Chahal, H., & Bakshi, P. (2014). Effect of intellectual capital on competitive
advantage and business performance: Role of innovation and learning
culture. International Journal of Learning and Intellectual Capital, 11(1), 52-70. Chahal, H., & Bakshi, P. (2015). Examining intellectual capital and competitive
advantage
relationship:
Role
of
innovation
and
organizational
learning. International Journal of Bank Marketing, 33(3), 376-399. Chen, Y.S. (2008). The positive effect of green intellectual capital on competitive
advantages of firms. Journal of Business Ethics, 77(3), 271-286. 15 15 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Ding, Y. (2010). Study on the management of intellectual capital. International
Journal of Business and Management, 5(2), 213. Ding, Y. (2010). Study on the management of intellectual capital. International
Journal of Business and Management, 5(2), 213. Duodu, B., & Rowlinson, S. (2016, June). Intellectual capital and innovation in
construction organizations: A conceptual framework. In the Engineering Project
Organization Conference (EPOC2016). Dženopoljac, V., Janoševic, S., & Bontis, N. (2016). Intellectual capital and
financial performance in the Serbian ICT industry. Journal of Intellectual
Capital, 17(2), 373-396. Edvinson, L.M. (1997). MS, intellectual capital: Realizing your company’s true
value by finding it’s hidden roots. The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. European Commission (2006a). Innovation policy in a knowledge-based
economy, Merit Study commissioned by the European Commission Enterprise
Directorate General, EUR 17023, available at: www.cordis.lu/innovation-
smes/src/studies.html Grimaldi, M., Cricelli, L., & Rogo, F. (2012). A methodology to assess value
creation in communities of innovation. Journal of Intellectual Capital, 13(3), 305-
330. Guthrie, J., Petty, R.M., & Ricceri, F. (2004). External intellectual capital
reporting: Contemporary evidence from Hong Kong and Australia. Hall, R. (1992). The strategic analysis of intangible resources. Strategic
Management Journal, 13(2), 135-144. Hesterly, W., & Barney, J. (2010). Strategic management and competitive
advantage. Upper Saddle River, NJ. Hinterhuber, A. (2013). Can competitive advantage be predicted? Towards a
predictive definition of competitive advantage in the resource-based view of the
firm. Management Decision, 51(4), 795-812. Hsu, L.C., & Wang, C.H. (2012). Clarifying the effect of intellectual capital on
performance: The mediating role of dynamic capability. British Journal of
Management, 23(2), 179-205. Jaradate, O.M., Al-Samralie, F.A., & Jadallah, N.A. (2012). Intellectual capital and
its role in achieving competitive advantage: A field study for the Jordanian
income tax service. European Journal of Scientific Research, 69(3), 399-415. 16 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. Johnson, G., Scholes, K., & Whittington, R. (2016). Exploring corporate strategy:
Text and cases. Pearson Education. Kamukama, N. (2013). Intellectual capital: Company's invisible source of
competitive advantage. Competitiveness Review: An International Business
Journal, 23(3), 260-283. Kavida, V., & Sivakoumar, N. (2009). Intellectual capital: A strategic management
perspective. IUPJournal of Knowledge Management, 7(5/6), 55. Karajeh, H., & Maqableh, M. (2014). Security of cloud computing environment. Proceedings the 23rd IBIMA Conference on Vision 2020: Sustainable Growth,
Economic Development, and Global Competitiveness, 2202-2215. Li, Q., & Chang, C. (2010). The customer lifetime value in Taiwanese credit card
market. African Journal of Business Management, 4(5), 702. Liao, S.S., Chen, C.C., Hu, D.C., Chung, Y.C., & Liu, C.L. (2017). Assessing the
influence of leadership style, organizational learning and organizational
innovation. Leadership & Organization Development Journal, 38(5). Ma, H. (2004). Toward global competitive advantage: Creation, competition,
cooperation, and co-option. Management Decision, 42(7), 907-924. Makadok, R. (2010). The interaction effect of rivalry restraint and competitive
advantage on profit: Why the whole is less than the sum of the
parts. Management Science, 56(2), 356-372. Manzaneque, M., Ramírez, Y., & Diéguez-Soto, J. (2017). Intellectual capital
efficiency, technological innovation and family management. Innovation, 19(2),
167-188. Maqableh, M., Rajab, L., Quteshat, W., & Khatib, T. (2015). The impact of social
media networks websites usage on students’ academic performance. Communications and Network, 7(4), 159-171. Marr, B. (2004). Measuring and benchmarking intellectual capital. Benchmarking:
An International Journal, 11(6), 559-570. Masa'deh, R. (2012). The impact of management information systems (MIS) on
quality assurance (QA): A case study in Jordan. International Journal of
Information, Business and Management, 4(2), 93-110. 17 Journal of Business & Management (COES&RJ-JBM), 8(1), pp. 1-19 Masa’deh, R., Obeidat, B., Zyod, D., & Gharaibeh, A. (2015). The associations
among transformational leadership, transactional leadership, knowledge sharing,
job performance, and firm performance: A theoretical model. Journal of Social
Sciences (COES&RJ-JSS), 4(2), 848-866. Masa’deh, R., Obeidat, B., Zyod, D., & Gharaibeh, A. (2015). The associations
among transformational leadership, transactional leadership, knowledge sharing,
job performance, and firm performance: A theoretical model. Journal of Social
Sciences (COES&RJ-JSS), 4(2), 848-866. Mehralian, G., Rasekh, H.R., Akhavan, P., & Ghatari, A.R. (2013). Prioritization of
intellectual capital indicators in knowledge-based industries: Evidence from
pharmaceutical
industry. International
Journal
of
Information
Management, 33(1), 209-216. Mertins, K., Alwert, K., & Will, M. (2006, September). Measuring intellectual
capital in European SME. In Proceedings of I-Know (Vol. 6, pp. 6-8). Newbert, S.L. (2008). The Effect of Intellectual Capital on Competitive Advantage in the Jordanian.. Value, rareness, competitive advantage, and performance:
A conceptual‐level empirical investigation of the resource‐based view of the
firm. Strategic Management Journal, 29(7), 745-768. Obeidat, B., Tarhini, A., & Aqqad, N. (2017). The impact of intellectual capital on
innovation via the mediating role of knowledge management: A structural
equation modelling approach. International Journal of Knowledge Management
Studies, 8(3-4), 273-298. Porter, M.E. (2008). Competitive advantage: Creating and sustaining superior
performance. Simon and Schuster. Putnam, R.D. (1995). Tuning in, tuning out: The strange disappearance of social
capital in America. PS-WASHINGTON-, 28, 664-664. Rocha, E.A. (2012). The impact of the business environment on the size of the
micro, small and medium enterprise sector: Preliminary findings from a cross-
country comparison. Procedia Economics and Finance, 4, 335-349. Rodrigues, L.L., Tejedo-Romero, F., & Craig, R. (2017). Corporate governance and
intellectual capital reporting in a period of financial crisis: Evidence from
Portugal. International Journal of Disclosure and Governance, 14(1), 1-29. Schiuma, G., & Marr, B. (2001). Measuring and managing intellectual capital and
knowledge assets in new economy organizations. Bourne M., Performance
Measurement Handbook, GEE Publishing Ltd. Sekaran, U., & Bougie, R.J. (2016). Research methods for business: A skill building
approach. John Wiley and Sons. 18 The Effect of Intellectual Capital on Competitive Advantage in the Jordanian. Seleim, A.A., &Khalil, O.E. (2011). Understanding the knowledge management-
intellectual capital relationship: a two-way analysis. Journal of Intellectual
Capital, 12(4), 586-614. Sharabati, A.A., Nour, A.N., & Shamari, N.S. (2013). The impact of intellectual
capital
on
Jordanian
telecommunication
companies'
business
performance. American Academic & Scholarly Research Journal, 5(3 special
issue), 32. Sofian, S., Tayles, M., & Pike, R.H. (2004). Intellectual capital: An evolutionary
change in management accounting practices. University of Bradford, School of
Management. Stewart, T. (1997). Intellectual capital: The new wealth of organizations. New
York: Doubleday Dell Publishing Group. Subramaniam, M., & Youndt, M.A. (2005). The influence of intellectual capital on
the types of innovative capabilities. Academy of Management Journal, 48(3),
450-463. Sudrajat, D. (2015). Competitiveness improvement of Indonesian logistics service
providers: A conceptual model and future research framework. Advanced
Science Letters, 21(4), 1049-1052. Teece, D., Peteraf, M., & Leih, S. (2016). Dynamic capabilities and organizational
agility: Risk, uncertainty, and strategy in the innovation economy. California
Management Review, 58(4), 13-35. Wang, Z., Wang, N., & Liang, H. (2014). Knowledge sharing, intellectual capital
and firm performance. Management Decision, 52(2), 230-258. Wheelen, T.L., Hunger, J.D., Hoffman, A.N., & Bamford, C.E. (2015). Strategic
management and business policy: Globalization, innovation, and sustainability,
Global Edition. Winter, S.G. (2014). The future of evolutionary economics: Can we break out of
the beachhead?. Journal of Institutional Economics, 10(4), 613-644. Yaseen, S.G., Dajani, D., & Hasan, Y. (2016). The impact of intellectual capital on
the competitive advantage: Applied study in Jordanian telecommunication
companies. Computers in Human Behavior, 62, 168-175. 19
|
https://openalex.org/W2115362377
|
https://europepmc.org/articles/pmc4168566?pdf=render
|
English
| null |
High and equitable mass vitamin A supplementation coverage in Sierra Leone: a post-event coverage survey
|
Global health science and practice
| 2,013
|
cc-by
| 5,487
|
ABSTRACT
B
k
d Background: In Sierra Leone, children ages 6–59 months receive twice-yearly vitamin A supplementation (VAS)
through Maternal and Child Health Week (MCHW) events. VAS coverage in 2011 was calculated using government
tally sheets of vitamin A capsule distribution and outdated population projections from the 2004 census. We conducted a
national post-event coverage (PEC) survey to validate coverage and inform strategies to reach universal coverage of VAS
in Sierra Leone. Methodology: Immediately following the November 2011 MCHW event, we conducted a national PEC survey by
interviewing caregivers with children ages 6–59 months using a randomized 30X30 cluster design (N5900). We also
interviewed one health worker and one community health worker in each cluster to determine their knowledge about
VAS (N560). Methodology: Immediately following the November 2011 MCHW event, we conducted a national PEC survey by
interviewing caregivers with children ages 6–59 months using a randomized 30X30 cluster design (N5900). We also
interviewed one health worker and one community health worker in each cluster to determine their knowledge about
VAS (N560). Results: VAS coverage was 91.8% among children ages 6–59 months, which was lower than the 105.1% reported
through tally sheets. Coverage was high and equitable among all districts and between age groups (98.5% for infants
ages 6–11 months and 90.5% for children ages 12–59 months). Major reasons for not receiving VAS were that the child
was out of the area (42.4%), the household was not visited by community health workers (28.0%), and the caretaker was
not aware of the event (11.9%). Conclusion: Twice-yearly delivery of VAS through MCHW events achieved consistently high and equitable coverage in
Sierra Leone. Universal coverage may be achieved through continued focus on communication and targeted outreach to
hard-to-reach areas during the MCHWs. a Helen Keller International, Freetown, Sierra Leone
b Ministry of Health and Sanitation, Freetown, Sierra Leone
c Helen Keller International, Regional Office for Africa, Nairobi, Kenya
Correspondence to Mary Hodges (mhodges@hki.org).
Global Health: Science and Practice 2013 | Volume 1 | Number 2 High and equitable mass vitamin A supplementation
coverage in Sierra Leone: a post-event coverage survey Mary H Hodges,a Fatmata F Sesay,a Habib I Kamara,a Mohamed Turay,a Aminata S Koroma,b Jessica L
Blankenship,c Heather I Katcherc In Sierra Leone, an intensive mass vitamin A supplementation (VAS) campaign to reduce under-5 mortality
reached over 90% of children ages 6–59 months, eliminating coverage disparities among districts and
between age groups. Delivering VAS with other essential maternal and child health interventions was key
to the success. BACKGROUND A study in India carried out in a programmatic setting
did not demonstrate such impact, but the study and
related expert comments underscore the important of
validating VAS coverage data to drive programs.5–6 A study in India carried out in a programmatic setting
did not demonstrate such impact, but the study and
related expert comments underscore the important of
validating VAS coverage data to drive programs.5–6 V
itamin A supplementation (VAS) is one of the
most cost-effective child survival strategies in
areas where vitamin A deficiency (VAD) exists.1–2
Strong evidence shows that in settings where VAD is
prevalent, twice-yearly receipt of VAS by at least 80%
of children ages 6–59 months reduces risk of mortality
from measles by an average of 50%, from diarrhea by
an average of 40%, and from all causes by 24%.3–4 V VAS delivery through integrated events, such as
Maternal and Child Health Weeks (MCHWs), is the
most efficient method for reaching high and equitable
coverage. Over the past 15 years, roughly 80 countries
have scaled up vitamin A interventions, including 41
of 45 priority countries in sub-Saharan Africa that
have high under-5 mortality rates and/or high VAD
prevalence.7 In 1999, Sierra Leone had one of the highest under-
5 mortality rates in the world (242 per 1,000 live 172 Vitamin A supplementation in Sierra Leone www.ghspjournal.org Integrating VAS
campaigns with
other essential
maternal and child
health interven-
tions provides
maximum effi-
ciency and cover-
age. Integrating VAS
campaigns with
other essential
maternal and child
health interven-
tions provides
maximum effi-
ciency and cover-
age. births)8 and an estimated VAD prevalence of 47%
among children ages 6–59 months.9 That year,
the Ministry of Health and Sanitation (MoHS)
initiated large-scale VAS as part of its strategy to
reduce
child
mortality.10–11
Although
locally
produced palm oil (rich in carotenes, which are
vitamin A precursors) is widely available in
Sierra Leone, its use in infant and young
children’s diets appears limited. sheets (based on 2004 census projections). BACKGROUND The
sustained high coverage of VAS and other
essential child survival interventions may have
contributed to under-5 mortality reduction in the
country, from 214/1,000 live births in 2005 to
200/1,000 in 2008 and to 185/1,000 in 2011.8 These major reductions in child mortality
indicate that the measure of VAS coverage by
tally sheets—while based on census projections
from 2004—is still imprecise as it uses the 2005
child mortality rate of 214/1,000 to determine the
projected population. The Ministry estimated VAS coverage from
events implemented between 1999 and 2003, but
they were based on tally sheets using outdated
1985 census data. To better assess VAS coverage
and
inform
strategies
to
improve
coverage
nationally and among hard-to-reach popula-
tions, the MoHS, Helen Keller International
(HKI), and the United Nations Children’s Fund
(UNICEF) implemented a post-event coverage
(PEC) survey in 2004. According to the survey,
VAS coverage among children 6–59 months of
age was 68.2% compared with the reported 83.0%
coverage
based
on
tally
sheets,
with
large
disparities found among districts.12 Coverage
also varied between age groups, with only 41%
of infants ages 6–11 months receiving VAS
compared with 73% of children ages 12–59
months. To validate VAS coverage and inform strate-
gic planning of the MCHWs, the MoHS and HKI
conducted a national PEC survey immedi-
ately after the November 2011 MCHW. The
survey used EpiSurveyor technology (currently
called Magpi; https://www.magpi.com/) to collect
data through mobile phones on VAS coverage
and characterize the children who did not receive
VAS during the November 2011 MCHW. The
survey also evaluated the level of VAS awareness
among
caregivers
and
health
care
workers,
including from where caregivers heard about
VAS, to evaluate the quality of MCHW social
mobilization activities. Coverage data from the
PEC survey was compared with tally sheet data
and population projections to determine the
reliability of administrative data. As a result of these findings, the MoHS, with
technical support from HKI and UNICEF, revised
their distribution plan for VAS events at both
national and district levels and launched an
intensive
communication
campaign
targeting
caregivers and health care workers. In addition,
the
MoHS
Nutrition
Department
and
the
Expanded Programme on Immunizations (EPI)
strengthened their partnership, so that VAS,
catch-up vaccinations,
and
deworming were
integrated into twice-yearly MCHWs. The aim
of the MCHWs was to deliver a package of child
survival interventions with universal coverage
among children 6–59 months of age. BACKGROUND This paper discusses the 2011 PEC survey and
how the findings will inform VAS program
design in Sierra Leone. Global Health: Science and Practice 2013 | Volume 1 | Number 2 PEC Sampling, Sample Size, and Survey
Sites PEC Sampling, Sample Size, and Survey
Sites Ten enumerators attended a one-day training
session on vitamin A, VAS, PEC survey metho-
dology, the survey questions, and EpiSurveyor. We paired the enumerators into 5 teams, with 2
teams conducting the PEC survey in the north
and one team each conducting the PEC survey in
the east, south, and west regions. We adapted the World Health Organization-EPI
(WHO-EPI) cluster sampling methodology to
determine the sample size for the PEC sur-
vey.13–14 Using probability proportional to size
sampling
(PPS)
methodology,
we
randomly
selected 30 enumeration areas (EAs) represent-
ing all 14 districts in Sierra Leone, with support
from the National Statistics Office using popula-
tion data from the 2004 national census.13 Each team of enumerators received 2 Nokia
X2-01 mobile phones to enter data, hard copies
of the questionnaires, chalk to mark the houses
visited, and vitamin A capsules to help mothers
recall VAS receipt. Surveyors marked each house
with a code: Of the 30 EAs sampled, 11 were in the north,
7 in the east, 6 in the south, and 6 in the west. In
each EA, we selected 30 households by going to a
central location (for example, a church, mosque,
or communal center), spinning a pen, counting
the number of houses to the end of the cluster in
the direction the pen pointed, and selecting a
random house to start. In addition, we randomly
sampled and interviewed one HW from the
nearest health facility and one CHW in each EA
(N560). 3 PECS for a completed house
3 PECS for a house to be revisited N5PECS for a house with no eligible children N
PECS for a house with no eligible children
The enumerators first recorded the data onto
hard copies of the questionnaires and then
subsequently entered the data into the mobile
phones at the end of each day. We deemed it
safer in remote, hard-to-reach sites for enumera-
tors to use hard copies rather than to use the
mobile phones in public places. The EpiSurveyor
account administrator cross-checked the data on
the hard copies with the database data before
analysis to ensure quality control. Enumerators
completed data collection within one week, and
we held a debriefing session a day later with
them to get feedback on their challenges with
conducting the PEC survey and with using
EpiSurveyor. Questionnaire Development and Training
of Enumerators We developed a standard, coded survey for
caregivers and another for both HWs/CHWs and
translated both into 3 local languages: Krio,
Mende,
and
Themne. We
programmed
the Ethical Considerations We did not offer compensation or any other
incentive to survey respondents. To protect the
confidentiality of respondent information, the
enumerators did not record names or addresses. The MoHS responsible for medical research and
ethics
approved
the
study
monitoring. The
enumerators made courtesy calls to traditional
village chiefs to explain the purpose of the PEC
survey and to obtain their permission to conduct
the survey. Because literacy rates are low in
Sierra Leone,15–16 we obtained informed verbal
consent from caregivers, HWs, and CHWs and
interviewed only those who gave their consent to
participate in the study. We selected HWs and CHWs based on their
availability at the nearest PHU. When there was
more
than
one
HW
or
CHW
present,
we
randomly selected one using the simple ballot
system described above. Questionnaire Development and Training
of Enumerators
We developed a standard, coded survey for
caregivers and another for both HWs/CHWs and
translated both into 3 local languages: Krio,
Mende,
and
Themne. We
programmed
the MCHWs and Mass Vitamin A
Supplementation pp
Mass VAS for the November 2011 MCHW was
conducted over 5 days using mixed delivery
methods, including fixed distribution points by
health workers (HWs) and door-to-door distri-
bution by teams of community health workers
(CHWs) consisting of one distributor and one
record keeper. Other interventions administered
concurrently included deworming with albenda-
zole of children ages 12–59 months, screening
and referral of underweight children using mid-
upper arm circumference (MUAC), delivery of
tetanus toxoid for women of childbearing age
(15–49 years), and testing and management of
pregnant women with HIV infection to prevent
mother-to-child
transmission
(PMTCT). HWs
and CHWs collected and reported daily tallies of
vitamin A capsules distributed to primary health To
measure
the
impact
of
the
refined
strategy, the partners implemented a follow-up
PEC survey in 2005. National VAS coverage
among
children
6–59
months
of
age
had
increased from 68.2% in 2004 to 95.0% in 2005,
with
high
coverage
across
districts.12
Additionally, coverage disparities between age
groups had declined, with 91.8% of infants ages
6–11 months and 95.5% of children ages 12–59
months receiving VAS. Since 2005, high VAS coverage has been
sustained, with over 80% coverage consistently
obtained in all districts as measured by tally 173 Vitamin A supplementation in Sierra Leone www.ghspjournal.org units
(PHUs),
District
Health
Management
Teams (DHMTs), and the EPI Unit of the MoHS. English version of the questionnaire into Nokia
X2-01 mobile phones using the EpiSurveyor
mobile phone program. PEC Sampling, Sample Size, and Survey
Sites Caregivers were eligible to participate in the
survey if they had a child who was 6–59 months
old in November 2011 (N5900). If there was
more than one caregiver in the household, we
chose one at random by writing down each
eligible caregiver’s name on a slip of paper,
putting the paper slips in a hat or basket, and
selecting one at random. If the caregivers had
multiple children ages 6–59 months, we ran-
domly selected one child to be the focus of the
interview using the same methodology that we
used
for
randomly
selecting
caregivers. We
verified children’s ages with health cards when-
ever possible. When health cards were not
available, we estimated children’s ages using a
local event calendar. Global Health: Science and Practice 2013 | Volume 1 | Number 2 Caregivers
received informa-
tion about VAS
mostly through
health care work-
ers and the radio. Statistical Analysis All data were downloaded from mobile phones to
the EpiSurveyor program, exported to Microsoft 174 174 Global Health: Science and Practice 2013 | Volume 1 | Number 2 Vitamin A supplementation in Sierra Leone www.ghspjournal.org Excel, and then cleaned by comparing the
uploaded data to the responses on the hard
copies. Frequencies and percentages were calcu-
lated to estimate VAS coverage and chi-squared
tests were conducted to test for differences
between groups. Proportions for caregiver data
were weighted using the inverse of the prob-
ability of selecting a household within a cluster. Because the selection and clusters were done
using PPS, sample weighting was implemented
only at the household level. All data were
analyzed using SPSSH Version 20. significantly more Muslim (64%) than Christian
caregivers (36%) (P50.001). Caregivers had child
health cards in 86% of households. Of the CHWs and HWs interviewed, 23 (38%)
were men and 37 (62%) were women. Nearly
half had more than 5 years of health work
experience, one-third had 3–5 years of experi-
ence, and about 18% had 1–2 years of experience. VAS Knowledge Among Caregivers and
Health Care Workers When asked about the benefits of VAS, care-
givers said that it prevents sickness (42%),
prevents
blindness
(22%),
improves
growth
(9%), and reduces risk of death (6%). Of the
caregivers surveyed, 24% correctly stated the first
age at which infants should receive VAS (6
months), and 15% correctly stated how often
VAS should be received (every 6 months until 59
months or at every MCHW). Major sources of
information about VAS included HWs (38%),
radio (30%), and CHWs (27%), with TV, posters,
and friends and family listed as minor sources. Global Health: Science and Practice 2013 | Volume 1 | Number 2 Demographic Characteristics of Survey
Respondents We interviewed a total of 900 caregivers, 26 HWs,
and 34 CHWs. Of the 900 caregivers sampled, we
could not confirm the exact age for 5 children
(0.6%) from the enumerators’ forms. In addition,
we determined that 16 children (1.8%) were
under 6 months of age at the time of the MCHW
based on their birth date or estimation of age by
the local calendar of events. Of the 879 children
confirmed
to
be
6–59
months
during
the
November MCHW, 16% were 6–11 months old
and 84% were 12–59 months old (see Table). HWs and CHWs responded that VAS prevents
sickness and/or improves health (67%), prevents
blindness (53%), reduces risk of death (28%),
and helps with vision (18%). The majority of
HWs/CHWs correctly cited the age of first VAS
(93%) and the VAS dosage for children ages 6–11
months and 12–59 months (85% and 83%,
respectively). There was no significant difference between
the number of boys (50.4%) and girls (49.6%)
selected as the focus child of the interviews with
caregivers. Of the 879 caregivers interviewed,
80% were mothers of the selected child, 11%
were grandmothers, 4% were fathers, 1% were
siblings, and 4% were other relatives. There were Of the HWs/CHWs interviewed, 85% could
correctly state how often VAS should be received. The major sources of information about VAS
among HWs and CHWs were in-service training TABLE. Demographic Characteristics of Sampled Children and Caregivers
Characteristics
Male
Female
Total
Age, n (%)
6–11 months
81 (57.0%)
61 (43.0%)
142 (16.2%)
12–59 months
362 (49.1%)
375 (50.9%)
737 (83.8%)
Religion, n (%)
Muslim
277 (49.3%)
285 (50.7%)
562 (63.9%)
Christian
164 (52.2%)
150 (47.8%)
314 (35.7%)
Prefer not to say
2 (66.7%)
1 (33.3%)
3 (0.3%)
Total, n (%)
443 (50.4%)
436 (49.6%)
879 (100%) 175 Vitamin A supplementation in Sierra Leone www.ghspjournal.org Validating admin-
istrative data with
post-campaign
surveys helps to
refine planning,
supply chain man-
agement, and
implementation of
future VAS cam-
paigns. (67%) and job aids (10%). Minor sources of
information included radio messages, pre-service
training, and policy documents. (2004, 2005, and 2011) were useful to validate
VAS coverage through the MCHWs and to refine
the planning and strategic development process
of VAS events to ensure high coverage. VAS Coverage According to the PEC Survey
Overall, 91.6% of caregivers reported that their
child received VAS during the last MCHW. VAS Coverage Reported by the Ministry of
Health Based
upon
tallies
of
capsules
utilized
(1,266,861) and a target population projection
from the 2004 census (1,205,077), VAS coverage
reported by the MoHS for the November 2011
MCHW was 105.1%. Demographic Characteristics of Survey
Respondents PEC surveys will be necessary to measure future
changes in coverage since administrative data is
prone to over-reporting.15 Of the 5.9% of caregivers who reported their
children did not receive VAS: N
42.4% had been out of the area at the time of
the MCHW N
28.0% had homes that were not reached by
the teams N
11.9% were not aware of the MCHW N
11.9% were not aware of the MCHW
N
17.7% cited other reasons: the child was sick,
the head of the family had refused, the family
was busy, or VAS supplies had run out
Sources of VAS included:
N
94.1% via door-to-door
N
4.4% via health centers
N
0.8% at nursery schools
N
0.7% from mobile teams N
11.9% were not aware of the MCHW
N
17.7% cited other reasons: the child was sick,
the head of the family had refused, the family
was busy, or VAS supplies had run out
Sources of VAS included:
N
94.1% via door-to-door
N
4.4% via health centers
N
0.8% at nursery schools
N
0.7% from mobile teams N
11.9% were not aware of the MCHW
N
17.7% cited other reasons: the child was sick,
the head of the family had refused, the family
was busy, or VAS supplies had run out
Sources of VAS included:
N
94.1% via door-to-door
N
4.4% via health centers
N
0.8% at nursery schools
N
0.7% from mobile teams Validating admin-
istrative data with
post-campaign
surveys helps to
refine planning,
supply chain man-
agement, and
implementation of
future VAS cam-
paigns. Success Factors to High VAS Coverage Programmatic
barriers to receiv-
ing VAS include
lack of health
worker outreach
to certain loca-
tions and lack of
caregiver aware-
ness about the
campaigns. The high VAS and deworming coverage during
the MCHWs in Sierra Leone is likely the result of
many factors, including monthly macroplanning
meetings at the national level, sufficient funding
and distribution of resources to enable VAS
distribution in hard-to-reach areas, social mobi-
lization involving high-level dignitaries as well as
community leaders, and daily debriefings to
enable rapid responses to weak performing areas
(see Box). Similar to other countries, integration of VAS
with other child survival strategies, including
measles and polio immunizations, deworming,
and MUAC screening, has been successful in
increasing VAS coverage.17 These interventions
have been consistent over the years in Sierra
Leone, making it difficult to single out the
intervention that has had the greatest impact
on mortality. It is likely that improvements in all
child survival services have contributed to the
decrease in under-5 mortality observed in Sierra
Leone (see Figure). Global Health: Science and Practice 2013 | Volume 1 | Number 2 Demographic Characteristics of Survey
Respondents Few
caregivers (2.5%) could not remember if their
child had received VAS, and 5.9% reported their
child
did
not
receive
VAS
during
the
last
campaign. Coverage for infants 6–11 months
old was 98.5% and for children 12–59 months
old, 90.5%. While the study did not have enough
power to measure coverage in each district,
coverage in all selected clusters was considered
high, ranging from 86.7% to 97.8%. Using the number of vitamin A capsules
distributed as reported from tally sheets and the
estimated coverage from the PEC survey, we
estimate the actual target population of children
6–59 months of age as 1,369,579. This is 14%
higher than the current target population of
1,205,077 used by the MoHS. The
modified
population
estimate
is
an
important adjustment to ensure that the appro-
priate number of vitamin A capsules, albenda-
zole, and vaccines for measles and polio are
ordered
for
upcoming
MCHWs
to
prevent
shortages during the events. This may help to
increase coverage, since in the PEC survey, 35%
and 17% of HWs/CHWs reported a shortage of
100,000 and 200,000 IU capsules, respectively. DISCUSSION VAS coverage during the November 2011 MCHW
event was 91.6% based on results of the PEC
survey. This level was not drastically lower than
the 105.1% reported through MoHS tally sheets,
suggesting that the higher VAS coverage reported
through the tally sheets may be due to under-
estimation of the target population from inaccu-
rate census projections. The 3 PEC survey rounds Across countries, institutional support, lea-
dership, and ownership have been crucial to the
success of MCHWs.18–19 In Sierra Leone, the
MoHS and partners show their support and
leadership by mobilizing resources to provide a
platform for the campaign. In addition, launch-
ing the MCHWs at national, chiefdom, and zonal 176 Global Health: Science and Practice 2013 | Volume 1 | Number 2 Global Health: Science and Practice 2013 | Volume 1 | Number 2 Vitamin A supplementation in Sierra Leone www.ghspjournal.org receipt. These barriers are similar to those found
in the 2004 PEC survey, suggesting that addi-
tional targeted strategies are needed to deliver
the MCHW package of services to these last hard-
to-reach populations. BOX.
High
VAS
Coverage
in
Sierra Leone: Success Factors N
Regular
planning
and
coordination
meetings by a MCHW taskforce, chaired
by the Ministry of Health and starting at
least 6 months prior to the MCHW In addition, caregivers’ knowledge of the
impact
of
VAS
on
mortality
needs
to
be
strengthened. Increasing caregivers’ awareness
of VAS benefits and ensuring that key informa-
tion on the MCHW events is disseminated may
increase demand for these services. From the
PEC survey, suggested effective forms of com-
munication include radio broadcasting and tra-
ditional
methods,
including
message
dissemination through HWs and CHWs. N
Availability and use of microplanning
tools N
Inclusion of MCHW into national and
district workplans N
Use of a pre-verification questionnaire
that is sent to all District Medical Officers
(DMOs) to assess their district’s prepa-
redness for the MCHW Experiences With Mobile Phone Data Entry
We
had
a
very
positive
experience
using
EpiSurveyor for the PEC survey, as it allowed
the investigators to view raw data and summary
statistics in real time, address questionable data
while enumerators were still in the field, and
quickly prepare the final report since the time
needed for data entry was greatly reduced. Over
99%
of
the
data entered
with EpiSurveyor
matched data from the paper surveys. N
Interactive trainings for supervisors, vac-
cinators, and distributors prior to the
MCHW N
Use
of
door-to-door
and
temporary
fixed-post
strategies
to
reach
target
children N
Provision of fuel and transportation costs
to DHMTs and national supervisors, as
well as provision of boat hire for districts
with riverine populations N
Extensive social mobilization including
promotion by the President of Sierra
Leone, the First Lady, Minister of Health,
jingles, banners, press releases, radio
discussions in 4 languages, announce-
ments by town announcers, and perfor-
mances by music and drama groups Limitations EA selection for the PEC survey was based on the
2004 national census—the most recent compre-
hensive population count for Sierra Leone avail-
able at the time. But the census data are widely
acknowledged to be unrepresentative of the post-
conflict situation, which includes rapid urbani-
zation, unmonitored settlement of internally
displaced people, and recent labor migrations
due mostly to the mining sector.20 As a result,
random selection of EAs was likely based on
imprecise data, potentially leading to the selec-
tion of clusters with more populations that have
migrated and the selection of fewer clusters in
recently urbanized areas. Since 2012, it has
become accepted at the national level to use a
census conducted for mass drug administration
to adjust population projections for VAS cam-
paigns. N
Supervision at all levels and daily meet-
ings at the DHMT level during imple-
mentation to identify gaps and solve
problems N
Post-event reporting of results and shar-
ing
lessons
learned
at
district
and
national Task Force levels levels provides the opportunity to solicit the
participation of politicians and opinion, tradi-
tional, and religious leaders. Global Health: Science and Practice 2013 | Volume 1 | Number 2 Acknowledgments: UNICEF funds the VAS campaigns and
MCHWs in Sierra Leone, along with the MoHS and other partners
including HKI. This study was funded by the Canadian International
Development Agency (CIDA). The funders had no role in study design,
data collection and analysis, decision to publish, or preparation of the
manuscript. The authors would like to thank HKI staff Mariama Bah,
Emmanuel Nyorkor, Anita Kargbo, and Umu Jalloh for data collection
in the field. Global Health: Science and Practice 2013 | Volume 1 | Number 2 REFERENCES 1. Horton S, Begin F, Greig A, Lakshman A. Micronutrient
supplements for child survival (vitamin A and zinc). Denmark:
Copenhagen Consensus Center; 2008. Available from: http://
www.copenhagenconsensus.com/research/best-practice-
papers/micronutrient-supplements-for-child-survival 13. World Health Organization (WHO), Department of
Immunization, Vaccines and Biologicals, Vaccine Assessment
and Monitoring Team. Immunization coverage cluster survey:
reference manual. Geneva: WHO; 2005. Available from:
http://www.measlesrubellainitiative.org/mi-files/Tools/
Guidelines/WHO/Immunization%20Coverage%20Cluster%20
Survey%20-%20Reference%20Manual.pdf 2. Horton R. Maternal and child undernutrition: an urgent
opportunity. Lancet. 2008;371(9608):179. CrossRef. Medline 3. Imdad A, Herzer K, Mayo-Wilson E, Yakoob MY, Bhutta ZA. Vitamin A supplementation for preventing morbidity and
mortality in children from 6 months to 5 years of age. Cochrane
Database Syst Rev. 2010;(12):CD008524. CrossRef. Medline 14. World Health Organization (WHO), Expanded Programme on
Immunization. Training for mid level managers: the EPI coverage
survey. Geneva: WHO; 1991. Available from: http://www. who.int/immunization_monitoring/routine/EPI_coverage_
survey.pdf 4. Beaton GH, Martorell R, Aronson KJ, Edmonston B, McCabe G,
Ross AC, et al. Effectiveness of vitamin A supplementation in the
control of young child morbidity and mortality in developing
countries – Nutrition policy discussion paper No. 13. Geneva:
United Nations, Administrative Committee on Coordination/
Subcommittee on Nutrition (ACC/SCN); 1993. Available from:
http://www.unscn.org/layout/modules/resources/files/Policy_
paper_No_13.pdf 15. Koroma DS, Turay AB, Moigua MB; Statistics Sierra Leone (SSL),
United Nations Population Fund, European Union. Republic of
Sierra Leone: 2004 population and housing census: analytical
report on population projection for Sierra Leone. Freetown,
Sierra Leone: SSL; 2006. 16. Statistics Sierra Leone (SSL), ICF Macro. Sierra Leone
Demographic and Health Survey 2008. Calverton, MD: SSL and
ICF Macro; 2009. Available from: http://www.measuredhs. com/pubs/pdf/FR225/FR225.pdf 5. Awasthi S, Peto R, Read R, Clark S, Pande V, Bundy D. Vitamin A
supplementation every 6 months with retinol in 1 million pre-
school children in north India: DEVTA, a cluster-randomised trial. Lancet. 2013;381(9876):1469–1477. CrossRef. Medline 17. Murray CJL, Shengelia B, Gupta N, Moussavi S, Tandon A,
Thieren M. Validity of reported vaccination coverage in 45
countries. Lancet. 2003;362(9389):1022–1027. CrossRef. Medline 6. Sommer A, West KP Jr, Martorell R. Vitamin A supplementation
in Indian children. Lancet. 2013;pii:S0140-6736(13)60645-5. CrossRef. Medline 7. United Nations Children’s Fund (UNICEF). Vitamin A
supplementation: a decade of progress. New York: UNICEF;
2007. Available from: http://www.unicef.org/publications/
files/Vitamin_A_Supplementation.pdf 18. Aguayo VM, Garnier D, Baker SK. Drops of life: vitamin A
supplementation for child survival: progress and lessons learned
in West and Central Africa. Dakar, Senegal: UNICEF Regional
Office for West and Central Africa; 2007. Available from:
http://www.unicef.org/wcaro/english/WCARO_Pub_
DropsLifeVitA.pdf 8. Barriers to VAS Receipt High VAS coverage has been achieved in Sierra
Leone through twice-yearly delivery of VAS
through MCHW events. The MCHW events have
driven
equitable
access
to
VAS
and
other
essential child survival services in Sierra Leone. Only a small number of children in Sierra Leone
do not receive VAS services during MCHWs. The
2011 PEC survey identified lack of caregiver
awareness of the MCHW event and lack of
household visits by CHWs as barriers to VAS 177 Vitamin A supplementation in Sierra Leone www.ghspjournal.org FIGURE. Changes in Under-5 Mortality and Coverage of Major Child Survival Interventions,
Sierra Leone, 1999–2011
Abbreviations: VAS, vitamin A supplementation; DPT3, 3rd dose of the diphtheria, pertussis, and tetanus vaccine. FIGURE. Changes in Under-5 Mortality and Coverage of Major Child Survival Interventions,
Sierra Leone, 1999–2011 URE. Changes in Under-5 Mortality and Coverage of Major Child Survival Interventions
rra Leone, 1999–2011 Abbreviations: VAS, vitamin A supplementation; DPT3, 3rd dose of the diphtheria, pertussis, and tetanus vaccine. Results of the PEC survey indicate that outdated
population data have led to higher VAS coverage
reported through tally sheets and suggest that
population data be reviewed to improve supply
procurement estimates and increase the quality
of coverage estimates. Results of the PEC survey indicate that outdated
population data have led to higher VAS coverage
reported through tally sheets and suggest that
population data be reviewed to improve supply
procurement estimates and increase the quality
of coverage estimates. events has most likely contributed to the reduc-
tion in child mortality observed in Sierra Leone
since 2005. Continuing the trajectory of high and
equitable coverage of VAS through the MCHW
events may enable Sierra Leone to achieve
Millennium Development Goal 4: reducing child
mortality by two-thirds to 90/1,000 by 2015.21–22 The 2011 PEC survey confirms the major
improvements in VAS coverage recorded between
2004 and 2005. Coverage in all districts was high,
which demonstrates consistent quality of MCHW
implementation nationally. Efforts to increase
coverage
among
hard-to-reach
populations
should focus on increasing awareness of MCHW
events and the impact of VAS on mortality. High coverage of VAS and other essential
child
survival
interventions
through
MCHW Competing Interests: None declared. 178 Vitamin A supplementation in Sierra Leone www.ghspjournal.org 2005. p. 42–45. Available from: http://www.givewell.org/
files/Cause1-2/+Helen%20Keller%20International/VAS_
Sierra%20Leone_2005.pdf Peer Reviewed Received: 2012 Nov 8; Accepted: 2013 Feb 14; First published online: 2013 Jun 26 REFERENCES Childinfo: Monitoring the situation of children and women
[Internet]. New York: UN Inter-agency Group for Child Mortality
Estimation (IGME).1970 - . Under-five mortality dashboard;
[cited 2013 Jan 29]. Available from: http://www.childinfo.org/
mortality_underfive_dashboard.html 19. Aguayo VM, Baker SK, Crespin X, Hamani H, Mamadou l,
Taı¨bou A. Maintaining high vitamin A supplementation coverage
in children: lessons from Niger. Food Nutr Bull. 2005;26(1):26–
31. Medline 9. United Nations Children’s Fund (UNICEF), The Micronutrient
Initiative. Vitamin and mineral deficiency: a global progress
report. Ottawa, Canada and New York: The Micronutrient
Initiative and UNICEF; 2004. Available from: http://www. micronutrient.org/CMFiles/PubLib/VMd-GPR-English1KWW-
3242008-4681.pdf 20. Hodges MH, Sonnie M, Turay H, Conteh A, MacCarthy F, Sesay
SS. Maintaining effective mass drug administration for lymphatic
filariasis through in-process monitoring in Sierra Leone. Parasit
Vectors. 2012;5:232. CrossRef. Medline 10. Donnelly J. How did Sierra Leone provide free health care? Lancet. 2011;377(9775):1393–1396. CrossRef. Medline 21. Lozano R, Wang H, Foreman KJ, Rajaratnam JK, Naghavi M,
Marcus JR, et al. Progress towards Millennium Development
Goals 4 and 5 on maternal and child mortality: an updated
systematic analysis. Lancet. 2011;378(9797):1139–1165. CrossRef. Medline 11. Bhutta ZA, Ahmed T, Black RE, Cousens S, Dewey K, Giugliani E,
et al. What works? Interventions for maternal and child
undernutrition and survival. Lancet. 2008;371(9610):417–440. CrossRef. Medline 22. UN Inter-agency Group for Child Mortality Estimation (IGME). Levels and trends in child mortality: report 2010. New York:
IGME; 2010. Available from: http://www.childinfo.org/files/
Child_Mortality_Report_2010.pdf 12. Ag Bendech M, Baker SK, Cusack G, Scott S, Tucker M, Bangura
M. Rapid vitamin A supplementation coverage surveys drive
program improvement in Sierra Leone. Sight and Life Newsletter; Peer Reviewed Received: 2012 Nov 8; Accepted: 2013 Feb 14; First published online: 2013 Jun 26 Cite this article as: Hodges M, Sesay F, Kamara H, Turay M, Koroma A, Blankenship J, et al. High and equitable mass vitamin A supplementation
coverage in Sierra Leone: a post-event coverage survey. Glob Health Sci Pract. 2013;1(2):172-179. http://dx.doi.org/10.9745/GHSP-D-12-
00005. Cite this article as: Hodges M, Sesay F, Kamara H, Turay M, Koroma A, Blankenship J, et al. High and equitable mass vitamin A supplementation
coverage in Sierra Leone: a post-event coverage survey. Glob Health Sci Pract. 2013;1(2):172-179. http://dx.doi.org/10.9745/GHSP-D-12-
00005. Hodges et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits unrestricted
use, distribution, and reproduction in any medium, provided the original author and source are properly cited. To view a copy of the license, visit
http://creativecommons.org/licenses/by/3.0/ 179 Global Health: Science and Practice 2013 | Volume 1 | Number 2
|
https://openalex.org/W4388707670
|
http://jurnal.umb.ac.id/index.php/jamekis/article/download/5601/3458
|
Indonesian
| null |
DETERMINAN DIVIDEND PAYOUT RATIO PADA PERUSAHAAN MANUFAKTUR YANG TERDAFTAR DI BURSA EFEK INDONESIA
|
Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam
| 2,023
|
cc-by-sa
| 83,427
|
J A M – E K I S
JURNAL ILMIAH AKUNTANSI. MANAJEMEN, & EKONOMI ISLAM
Pelindung
: Rektor Universitas Muhammadiyah Bengkulu (UMB)
Penanggung Jawab
: Dekan Fakultas Ekonomi dan Bisnis UMB
Ketua Dewan Redaksi
: Dr. Meilaty Finthariasari, M.M
Sekretaris Dewan Redaksi
: Marini, S.E., M. EK
Dewan Redaksi
:
1. Prof. Lizar Alfansi, Ph.D
2. Dr. Arfan Ikhsan
3. Karona Cahya Susena, S.E., M.M
4. Dr. Afi Parnawi
5. Dr. Willy Abdilla
6. Dr. Rumanintya Lisaria Putri, S.E., M.M
7. Dr. Mochammad Arif Budiman, S. Ag., M.E.I.,
CIRR., CIIQA
8. Dr. Sugiyanto. S.Sos. MM
9. Dr. Arfan Ikhsan, M.Si
10. Dr. Asep Risman
11. Dr. Nurlaila, S.E., MA., CMA
12. Dr. Fachruzzaman
13. Dr. Onsardi, M.M
14. Dr. Nizwan Zukri
Executive Editors
: 1. Dr. Muhammad Kristiawan
2. Berto Usman, Ph.D
Dewan Editor
: 1. Marliza Ade Fitri, S.E., M.M
2. Yulius Wahyu Setyadi, M.M
3. Diah Khoiriah, M.Acc
4. Tezar Arianto, M.M
Secretariat and Administration
: 1. Ade Tiara, M.M
2. Merta Kusuma, M.M
SEMUA TULISAN YANG ADA DALAM JURNAL PENELITIAN INI BUKAN
MERUPAKAN CERMINAN SIKAP ATAU PENDAPAT DEWAN REDAKSI
TANGGUNGJAWAB TERHADAP ISI ATAU AKIBAT DARI TULISAN TETAP
TERLETAK PADA PENULIS CIRR., CIIQA 11. Dr. Nurlaila, S.E., MA., CMA Secretariat and Administration JAM-EKIS E-ISSN: 2656-436 ISSN: 2655-6359 JURNAL ILMIAH AKUNTANSI, MANAJEMEN, & EKONOMI ISLAM DAFTAR ISI
TINJAUAN EKONOMI ISLAM TERHADAP KELAYAKAN BISNIS PERKREDITAN PADA
UD. MENTARI KREDIT KOTA BENGKULU
204-215
Maharani
Desi Isnaini
Badaruddin Nurhab
PENGARUH
MOTIVASI
DAN
LINGKUNGAN
KERJA
TERHADAP
KINERJA
KARYAWAN PADA PT. CURUP MANDIRI JAYA TV KABEL
216-228
Khairul Bahrun
Fauzi Afriansyah
ANALYSIS OF THE APPLICATION OF BALANCED SCORECARD TO THE
PERFORMANCE OF MICRO SMALL MEDIUM ENTERPRISES ENGGAL FURNITURE
INDUSTRY
228-241
Ikbal Mahadi Aziz
Ummul Khair
PENGARUH SERVICE RECOVERY DAN PRODUCT QUALITY TERHADAP CUSTUMER
RETENTION (STUDI KASUS PT. BINTANG MOTOR KOTA BENGKULU)
242-258
Reni Indriani
Alvin Nia
PENGARUH
GAYA
HIDUP
DAN
LABEL
HALAL
TERHADAP
KEPUTUSAN
PEMBELIAN
259-268
Ema Yara
Meiffa Herfianti
PENGARUH MOTIVASI DAN PENGALAMAN KERJA TERHADAP PENGEMBANGAN
KARIR KARYAWAN DI PT SANDABI INDAH LESTARI SELUMA
269-278
Marliza Ade Fitri
Richy Pranaditya Faiztawali
STRATEGI MARKETING SYARIAH DALAM UPAYA MENINGKATKAN PENJUALAN
DI TOKO ADZKIA KELURAHAN KEBUN GERAN KOTA BENGKULU
279-286
Sovita Alfioni
Idwal
Faisal Muttaqin
ANALISIS PENILAIAN KINERJA KEUANGAN BANK MENGGUNAKAN TEKNIK DU
PONT SYSTEM (STUDI PT. BANK TABUNGAN DAN PENSIUNAN NEGARA (BTPN)
SYARIAH PERIODE 2017-2020)
287-296
Febri Syafly Fadhilah
Nurul Hak
Kustin Hartini
STRATEGI DIGITAL BAURAN PEMASARAN 4P TERHADAP KINERJA UMKM KOTA
SAMARINDA
297-309
M. Risal
Damayanti DAFTAR ISI JULI 2023 JAM-EKIS ISSN: 2655-6359 E-ISSN: 2656-436 REVIEW OF ISLAMIC ECONOMICS ON THE FEASIBILITY OF
CREDIT BUSINESS AT UD. MENTARI QREDIT BENGKULU CITY Pagar Dewa Kota Bengkulu
Corresponding email: maharaniiainbkl@gmail.com Pagar Dewa Kota Bengkulu
Corresponding email: maharaniiainbkl@gmail.com ABSTRACT This study aims to determine the feasibility of credit
business at UD. Mentari Qredit Bengkulu City in
terms of Islamic Economics. This type of research,
namely field research which is descriptive-analytic
in nature, uses a qualitative approach, and the
sampling technique is carried out purposively. As for
the business feasibility aspects analyzed, such as
legal aspects, technical/operational aspects, market
and marketing aspects, financial aspects, as well as
economic, social and environmental aspects. The
results of the study show that when viewed from an
Islamic economic perspective, UD. Mentari Qredit
Bengkulu City is in accordance with the principles of
Islamic economics, because it has implemented
honesty in every business activity, clear trade goods
specifications,
transparency
of
agreements,
agreements apply voluntarily (no coercion), set
prices transparently and clearly, avoid usury, as well
as adhering to the principle of ta'awun (mutual help)
in buying and selling activities. Riwayat Artikel:
Diterima : 1 Desember 2022
Direvisi : 25 Juni 2023
Disetujui : 30 Juni 2023 Keywords:
Business Feasibility, Credit,
Islamic Economics. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu JURNAL ILMIAH AKUNTANSI, MANAJEMEN, & EKONOMI ISLAM
EFEKTIVITAS PENYALURAN DANA PROGRAM KELUARGA HARAPAN (PKH)
DALAM UPAYA PENGENTASAN KEMISKINAN
310-327
Yuli Handika
Desi Isnaini
Yunida Een Fryanti
STRATEGI PEMASARAN SYARIAH PADA AILA FASHION SERBA TIGA PULUH LIMA
RIBU KECAMATAN SINGARAN PATI KOTA BENGKULU
328-339
Wahyu Anugraha Jaya
Supardi Mursalin
Makmur
PENERAPAN MAQASHID SYARIAH DALAM EKONOMI ISLAM
340-354
Intan Permata Sari
Eka Sri Wahyuni
Kustin hartini
DETERMINAN DIVIDEND PAYOUT RATIO PADA PERUSAHAAN MANUFAKTUR
YANG TERDAFTAR DI BURSA EFEK INDONESIA
355-365
Martihen Supriyadi
Fenty Fauziah
Fitri Darmayani Manoy
ANALISIS PEMBIAYAAN MURABAHAH PADA KOPERASI JASA BERKAH BERSAMA
SYARIAH KOTA BENGKULU
366-382
Amir Mukadar
Dharma Setiawan
Nazar
Muhammad Said Romadhon
MANAJEMEN PENGELOLAAN KOS-KOSAN DI LINGKUNGAN UINFAS BENGKULU
DALAM PERSPEKTIF EKONOMI ISLAM
383-394
Yeni Nurhayati
Supardi Mursalin
Evan Stiawan JURNAL ILMIAH AKUNTANSI, MANAJEMEN, & EKONOMI ISLAM EFEKTIVITAS PENYALURAN DANA PROGRAM KELUARGA HARAPAN (PKH)
DALAM UPAYA PENGENTASAN KEMISKINAN
310-327
Yuli Handika
Desi Isnaini
Yunida Een Fryanti
STRATEGI PEMASARAN SYARIAH PADA AILA FASHION SERBA TIGA PULUH LIMA
RIBU KECAMATAN SINGARAN PATI KOTA BENGKULU
328-339
Wahyu Anugraha Jaya
Supardi Mursalin
Makmur
PENERAPAN MAQASHID SYARIAH DALAM EKONOMI ISLAM
340-354
Intan Permata Sari
Eka Sri Wahyuni
Kustin hartini
DETERMINAN DIVIDEND PAYOUT RATIO PADA PERUSAHAAN MANUFAKTUR
YANG TERDAFTAR DI BURSA EFEK INDONESIA
355-365
Martihen Supriyadi
Fenty Fauziah
Fitri Darmayani Manoy
ANALISIS PEMBIAYAAN MURABAHAH PADA KOPERASI JASA BERKAH BERSAMA
SYARIAH KOTA BENGKULU
366-382
Amir Mukadar
Dharma Setiawan
Nazar
Muhammad Said Romadhon
MANAJEMEN PENGELOLAAN KOS-KOSAN DI LINGKUNGAN UINFAS BENGKULU
DALAM PERSPEKTIF EKONOMI ISLAM
383-394
Yeni Nurhayati
Supardi Mursalin
Evan Stiawan JULI 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ABSTRAK Penelitian ini bertujuan untuk mengetahui kelayakan
bisnis perkreditan pada UD. Mentari Qredit Kota
Bengkulu ditinjau dari Ekonomi Islam. Jenis
penelitian ini, yaitu field research yang bersifat
deskriptif-analitik,
menggunakan
pendekatan
kualitatif, dan teknik penentuan sampel dilakukan 204 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis secara sengaja (purposive). Adapun aspek-aspek
kelayakan bisnis yang dianalisis, seperti aspek
hukum, aspek teknis/operasi, aspek pasar dan
pemasaran, aspek keuangan, serta aspek ekonomi,
sosial,
dan
lingkungan. Hasil
penelitian
menunjukkan bahwa jika dilihat dari tinjauan
ekonomi Islam, maka UD. Mentari Qredit Kota
Bengkulu telah sesuai dengan prinsip ekonomi
Islam, karena sudah menerapkan kejujuran dalam
setiap kegiatan usaha, spesifikasi barang dagang
jelas, transparansi perjanjian, kesepakatan berlaku
atas suka sama suka (tidak ada paksaan),
menetapkan harga dengan transparan dan jelas,
menghindari riba, serta berpegang teguh pada prinsip
ta’awun (tolong-menolong) dalam kegiatan jual beli. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 PENDAHULUAN Mentari Qredit merupakan salah satu contoh bentuk
usaha mikro yang bergerak dibidang perdagangan atau penjualan kredit alat-alat
kebutuhan rumah tangga/barang elektronik (televisi, mesin cuci, kulkas, handphone,
laptop, dan lain-lain), yang dilakukan dengan cara mengirimkan barang yang sesuai
dengan orderan yang diterima dari pembeli dengan pembayaran dalam jangka waktu
tertentu, sehingga munculnya tagihan tiap bulan kepada pembeli tersebut sesuai
kesepakatan. bermuamalah dengan sesama termasuk jual beli kredit. Jual beli kredit diperbolehkan,
asalkan tempo atau waktu ditentukan dan jumlah pembayaran telah ditentukan sesuai
kesepakatan (Tarmizi, 2017). UD. Mentari Qredit merupakan salah satu contoh bentuk
usaha mikro yang bergerak dibidang perdagangan atau penjualan kredit alat-alat
kebutuhan rumah tangga/barang elektronik (televisi, mesin cuci, kulkas, handphone,
laptop, dan lain-lain), yang dilakukan dengan cara mengirimkan barang yang sesuai
dengan orderan yang diterima dari pembeli dengan pembayaran dalam jangka waktu
tertentu, sehingga munculnya tagihan tiap bulan kepada pembeli tersebut sesuai
kesepakatan. p
Dalam perkembangannya, bisnis tersebut juga tidak luput dari yang namanya
pasang surut perekonomian. Mulai dari adanya masalah internal, eksternal, untung-rugi,
kebangkrutan, dan masalah-masalah lain yang tak terduga, seperti halnya Pandemi Covid-
19. Oleh karena itu, pentingnya setiap pengusaha untuk memperkirakan secara saksama
prospek bisnis ke depannya. Dengan demikian, diperlukannya suatu pemahaman dan
pengkajian terhadap studi kelayakan bisnis. Studi kelayakan bisnis merupakan langkah
awal yang menjadi titik acuan dalam memutuskan pembangunan sebuah usaha, dengan
mempelajari secara mendalam usaha yang akan dijalankan untuk menentukan layak atau
tidaknya suatu bisnis dijalankan. Tidak seolah hanya melihat dari teori ekonomi saja,
melainkan harus menilai dari sudut pandang Islam, bagaimana bisnis tersebut dikatakan
halal atau tidak. Studi kelayakan bisnis mempunyai manfaat yang besar dalam
memprediksi usaha akan berhasil atau tidak. Jika berhasil dapat diprediksi sampai titik
mana keberhasilan itu dicapai dan jika gagal dapat diprediksi dengan berbagai
kegagalannya, sehingga dapat dihindari dan dilakukan studi kelayakan bisnis yang lain
(Busro, 2017). Oleh karena itu, penulis dalam hal ini tertarik dan ingin mengangkat
sebuah penelitian yang berjudul “Tinjauan Ekonomi Islam Terhadap Kelayakan Bisnis
Perkreditan Pada UD. Mentari Qredit Kota Bengkulu”, dengan tujuan untuk
menganalisis layak atau tidaknya bisnis yang dijalankan oleh UD. Mentari Qredit Kota
Bengkulu ditinjau dari segi Ekonomi Islam. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Indonesia merupakan salah satu negara berkembang di dunia, tengah dihadapkan
pada masalah pengangguran dan kemiskinan yang jumlahnya semakin bertambah. Dampak dari masalah tersebut tidak hanya menjadi sumber kriminalitas, tetapi berakibat
juga pada produktivitas dan daya saing bangsa yang rendah (Fitri et al., 2022; Mukadar
et al., 2021). Untuk mengatasi masalah tersebut, pilihan tepat yang dapat diambil adalah
menciptakan lapangan kerja dengan memaksimalkan potensi dan keterampilan angkatan
kerja (Sulastri, 2016). Diera modernisasi saat ini, sudah sepatutnya bagi bangsa Indonesia
untuk
mulai
menumbuhkan
jiwa
kewirausahaan
agar
dapat
meminimalkan
ketergantungan pada pencarian kerja yang semakin ketat persaingannya. Oleh karena itu,
pemerintah menekankan pentingnya penciptaan lapangan kerja baru oleh para pelaku
usaha/wirausahawan di Indonesia (Tito et al., 2018). Mencari penghidupan yang layak agar perekonomian membaik dapat dilakukan
oleh setiap insan, salah satunya dengan cara berbisnis. Menurut Hughes dan Kapoor,
bisnis merupakan suatu kegiatan usaha individu yang terorganisasi untuk menghasilkan
serta menjual barang dan jasa guna mendapatkan keuntungan dalam memenuhi
kebutuhan masyarakat dan industri (Hughes & Kapoor, 1987). Didukung oleh kondisi
Indonesia yang merupakan salah satu negara dengan penduduk yang cukup banyak di
dunia ini menjadikannya sebagai kawasan pasar yang sangat potensial dalam usaha. Salah satu jenis usaha/bisnis yang cukup populer, adalah bisnis dibidang perkreditan. Bisnis perkreditan dapat berkembang pesat di Indonesia karena ditunjang dengan
keadaan masyarakatnya yang berpenghasilan rendah. Ditambah juga tingkat kebutuhan
yang semakin meningkat, serta budaya konsumtif yang semakin meluas ditengah-tengah
masyarakat. Tidak jarang untuk memenuhi kebutuhan hidup sering dilakukan pembelian
dengan cara kredit (Lubis & Wajdi, 2012). Secara umum, bisnis perkreditan merupakan suatu usaha yang dilakukan dengan
penjualan suatu barang yang pembayaran dilakukan tidak secara tunai (diangsur; dicicil;
pembayaran ditangguhkan). Dalam Islam juga diajarkan bagaimana tata cara 205 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis bermuamalah dengan sesama termasuk jual beli kredit. Jual beli kredit diperbolehkan,
asalkan tempo atau waktu ditentukan dan jumlah pembayaran telah ditentukan sesuai
kesepakatan (Tarmizi, 2017). UD. Teori Kredit dalam Islam Dalam fiqh muamalah, kredit berasal dari istilah fiqh al-qardh, yang berarti
meminjamkan uang ataupun barang atas dasar kepercayaan (Karim, 2001). Bila ditinjau
dari sudut istilah, al-qardh seperti memberikan harta kepada seseorang yang
membutuhkan dan bisa diminta kembali dengan jumlah yang sama, atau meminjamkan
uang tanpa mengharapkan imbalan apapun (Antonio, 2001). Dengan demikian, al-qardh
pada intinya ialah pemberian pinjaman dari seseorang pada pihak lain dengan tujuan
untuk menolongnya, sehingga al-qardh bukan akad komersial, melainkan akad sosial. Pada zaman Rasulullah Saw. jual beli dengan cara mengangsur pembayaran dalam kurun
waktu tertentu belum ada. Tetapi, pada abad VII M, masyarakat Arab mulai mengenal
jual beli tangguh bayar (al-Bai’ila Ajalin), tetapi belum sampai pada cara mengangsur
(Khaer & Nurhayati, 2019). Dalam bahasa Arab, penjualan dengan harga tangguh atau penjualan dengan
bayaran angsur juga disebut al-Bai Bitsaman Ajil (Direktorat Perbankan Syariah, 2006). al-Bai Bithaman Ajil, yaitu menjual sesuatu dengan disegerakan penyerahan barang yang
dijual kepada pembeli dan ditangguhkan pembayarannya hingga ke satu waktu yang
ditetapkan atau dengan bayaran berangsur. Tujuan dari penjualan ini ialah untuk memberi
kemudahan kepada pembeli yang tidak mampu membayar tunai (Rivai & Dkk., 2011). Jadi, dapat dipahami bahwa al-Bai Bithaman Ajil merupakan transaksi yang berlangsung
dimana tidak serentaknya akad dengan pemberian harga atau penyerahan barang, dan
tentunya atas kesepakatan bersama (Rusyd, n.d.). Dalam literatur fiqh kontemporer, bisnis perkreditan dikenal dengan istilah Ba’i al-
Taqsith. Secara bahasa, al-Taqsith artinya membagi-bagi sesuatu dan memisah-
misahkannya menjadi beberapa bagian yang terpisah. Menurut istilah, Bai’ al-Taqsith
adalah menjual sesuatu dengan pembayaran yang diangsur dengan cicilan tertentu, pada
waktu tertentu dan lebih mahal daripada pembayaran kontan, atau praktik jual beli dengan
harga bertempo yang dibayarkan kepada penjual dalam bentuk cicilan yang disepakati
(Muhammad, 1998). Penjual menyerahkan barang dagangan yang dijualnya kepada
pembeli saat itu juga pada waktu terjadinya akad dan pembeli wajib membayarkan harga
untuk barang yang dibeli dalam bentuk cicilan berjangka. Disebut dengan istilah bai’
taqsith, karena memuat sebuah bentuk transaksi jual beli dengan ciri harga yang
disepakati, secara umum harga yang berlaku lebih tinggi dibanding harga jual pasar. PERKREDITAN
Teori Kredit Konvensional Teori Kredit Konvensional Kredit berasal dari kata credere yang berarti percaya atau to believe/to trust,
maksudnya yaitu pihak kreditur mempunyai suatu kepercayaan kepada pihak debitur,
bahwa dalam waktu dan syarat-syarat yang telah disetujui bersama, pihak debitur dapat
mengembalikan atau membayar kembali kredit yang bersangkutan (Usman, 2001). Kredit
sebagai suatu reputasi seseorang, dimana memungkinkan ia bisa memperoleh uang atau
barang, dengan jalan menukarkannya dengan suatu janji untuk membayar disuatu masa
yang akan datang (Tarmizi, 2017a). Menurut ilmu ekonomi, kredit diartikan sebagai
penundaan pembayaran karena pengembalian atas penerimaan uang, dana atau suatu
barang tidak dilakukan bersamaan pada saatnya menerima, melainkan pengembaliannya
dilakukan pada masa tertentu yang akan datang (Ibrahim, 2004). Dalam UU Nomor 10
Tahun 1998 tentang Perubahan Atas UU Nomor 7 Tahun 1992 tentang Perbankan Pasal
1 angka 11 menjelaskan bahwa kredit adalah penyediaan uang atau tagihan yang dapat 206 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dipersamakan dengan itu, berdasarkan persetujuan atau kesepakatan pinjam-meminjam
antara bank dengan pihak lain yang mewajibkan pihak peminjam untuk melunasi
utangnya dengan pemberian bunga (Bank Indonesia, 1998). dipersamakan dengan itu, berdasarkan persetujuan atau kesepakatan pinjam-meminjam
antara bank dengan pihak lain yang mewajibkan pihak peminjam untuk melunasi
utangnya dengan pemberian bunga (Bank Indonesia, 1998). Hukum Kredit Jual beli kredit telah lama dikenal oleh masyarakat. Secara umum, jual beli kredit
sendiri diperbolehkan oleh syariat tergantung bagaimana sistemnya. Apabila terdapat
unsur ribawi, gharar, dan maysir, maka haram hukumnya. Sedangkan, jika murni akad
kredit yang syar’i, maka hukumnya halal. Jumhur ulama membolehkan jual beli dengan
menaikkan harga karena temponya, karena pada asalnya boleh dan tidak ada nash yang
mengharamkannya (Abdullah, 2019). Sebagai bagian dari bentuk jual beli, dasar hukum kredit terdapat dalam Al-Qur’an, 207 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 207 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
yaitu Q. S. Al-Baqarah (2): 282. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis yaitu Q. S. Al-Baqarah (2): 282. yaitu Q. S. Al-Baqarah (2): 282. ْيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٰٓ ا اِذَا تَدَايَنْتُمْ بِدَيْنٍ اِلٰٰٓى اَجَلٍ مُّسَمًّى فَاكْتُبُوْ هُُۗ وَ لْيَكْتُبْ بَّيْنَكُم َ كَاتِبٌٌۢ بِالْعَدْلِِۖ وَ َلَ يَأْبَ كَاتِبٌ اَنْ يَّكْتُب
ْْۚكَمَا عَلَّمَهُ ّٰللاه ُ فَلْيَكْتُب Artinya: “Wahai orang-orang yang beriman! Apabila kamu melakukan utang-
piutang untuk waktu yang ditentukan, hendaklah kamu menuliskannya. Dan
hendaklah seorang penulis di antara kamu menuliskannya dengan benar. Janganlah penulis menolak untuk menuliskannya sebagaimana Allah telah
mengajarkan kepadanya, maka hendaklah dia menuliskan.” Ayat di atas dimaksudkan pada orang-orang beriman yang melakukan transaksi
tidak tunai yang mensyaratkan beberapa hal, diantaranya harus ditulis/dicatat, dan
disertai saksi yang adil. Apabila transaksi bisnis itu terjadi di perjalanan dan tidak ada
juru tulis, sebagaimana ayat selanjutnya (283), diperbolehkan menggunakan jaminan
sebagai kepercayaan dari pihak orang yang berutang (Nahidloh, 2014). Rasulullah Saw. juga pernah melakukan transaksi kredit dengan memberikan jaminan berupa baju
besinya, sebagaimana dalam sebuah hadis yang diriwayatkan ‘Aisyah ra., dikatakan: Artinya: Telah mengabarkan kepada kami (Ahmad bin Harb), ia berkata: Telah
menceritakan kepada kami (Abu Mu'awiyah) dari (Al-A'masy) dari (Ibrahim) dari
(Al-Aswad) dari (Aisyah), ia berkata: “Rasulullah shallallahu 'alaihi wasallam
membeli makanan dengan kredit dari seorang Yahudi, dan beliau memberikan
kepadanya baju zirah beliau sebagai gadaian.”(Nasa’i, n.d.). Imam Nawawi menyatakan di dalam kitab Raudlatu al-Thalibin, bahwasannya
bisnis perkreditan hukumnya adalah boleh. أما لو قال بعتك بألف نقداً وبألفين نسيئة... فيصح العقد Artinya: “Andai ada seorang penjual berkata kepada seorang pembeli: Aku jual ke
kamu (suatu barang), bila kontan dengan 1.000 dirham, dan bila kredit sebesar
2.000 dirham, maka aqad jual beli seperti ini adalah sah.”(Al-Nawawi, n.d.) Kesimpulannya bahwa jual beli kredit adalah diperbolehkan. Hukum Kredit Orang yang
menyamakan jual beli kredit dengan riba, kelak mendapat ancaman dari Allah Swt.,
sebagaimana tertuang di dalam Q. S. Al-Baqarah/2: 275, yaitu kelak akan bangkit dari
kubur dalam keadaan seperti orang yang gila, dan tempat kembali orang-orang yang
sedemikian itu adalah neraka, dan ia adalah seburuk-buruk tempat kembali (Syamsudin,
n.d.). Teori Kelayakan Bisnis Pengertian studi kelayakan bisnis sendiri ada dua, yaitu dari segi konvensional atau
secara umum dan dari segi syariah. Secara umum, studi kelayakan (feasibility study)
adalah sebuah studi untuk mengkaji secara komprehensif dan mendalam terhadap
kelayakan sebuah usaha (Munir et al., 2019). Arti dari studi kelayakan bisnis, yaitu
penelitian tentang layak tidaknya suatu proyek yang dilaksanakan. Kriteria berhasil ada
dua, yaitu berhasil dalam arti luas dan dalam arti yang terbatas (Gunawan, 2018). Sedangkan, studi kelayakan bisnis syariah adalah peninjauan secara mendalam terhadap
berbagai aspek yang menyokong keberadaan suatu usaha sehingga menghasilkan suatu
kesimpulan mengenai usaha tersebut layak untuk tetap dilaksanakan atau harus
dilakukannya evaluasi kembali agar usaha tersebut bisa berkembang sebagaimana yang
diharapkan, bisa meminimalkan risiko, dan sesuai dengan prinsip Islam. Sedangkan,
tujuan dari studi kelayakan bisnis syariah adalah sebagai bentuk cross check atau bentuk
ikhtiar terhadap kelayakan suatu bisnis yang dijalankan. Sedangkan, manfaat adanya studi
kelayakan bisnis adalah memudahkan pengidentifikasian terhadap sisi positif dan negatif
yang mungkin timbul dari bisnis yang dijalankan tersebut sehingga pengambilan
keputusan akan lebih berkualitas. Secara umum, prioritas aspek-aspek penilaian dalam studi kelayakan ada 6, yaitu
(1) Aspek hukum, yaitu menganalisis kelayakan legalitas usaha yang dijalankan,
kelengkapan, dan keabsahan dokumen perusahaan. Teori Kelayakan Bisnis Dokumen yang diperlukan meliputi
bentuk badan usaha serta keabsahannya, Tanda Daftar Perusahaan (TDP) atau Nomor
Induk Berusaha (NIB), Izin domisili, dan Nomor Pokok Wajib Pajak (NPWP) (Kasmir,
2019); (2) Aspek pasar dan pemasaran, yaitu menganalisis potensi pasar (ada tidaknya
konsumen dan selera konsumen), intensitas persaingan (bagaimana peta kondisi pesaing
terutama untuk produk sejenis sekarang), market share yang dapat dicapai, serta
menganalisis strategi pemasaran (strategi produk, harga, promosi, dan distribusi) yang
dapat digunakan untuk mencapai market share yang diharapkan; (3) Aspek keuangan,
yaitu menganalisis sumber data pemasukan dan pengeluaran dalam bisnis, besar
pendapatan yang diterima, dan penilaian investasi dengan menggunakan beberapa
analisis, seperti Cash Flow dan Analisis rasio keuangan (Solvabilitas, likuiditas,
aktivitas, dan profitabilitas) (Aliefah & Nandasari, 2022); (4) Aspek teknis/operasi, yaitu
menganalisis kesiapan teknis dan pelaksanaan bisnis, dalam hal ini seperti, analisis surat
perjanjian, jaminan, dan penggunaan sarana dan prasarana yang menunjang untuk
menjalankan bisnis; (5) Aspek manajemen/organisasi, yaitu menganalisis kesiapan
tenaga kerja, berpedoman pada the right man in right job, artinya suatu jabatan diisi oleh
orang yang cocok, sesuai dengan keahlian dan kemampuannya, dengan melakukan
analisis terkait jabatan dan penentuan jumlah dan tingkat gaji SDI; Dan (6) Aspek
ekonomi sosial lingkungan, yaitu melihat seberapa besar pengaruh yang ditimbulkan jika
proyek ini dijalankan, terutama terhadap ekonomi secara luas serta dampak sosialnya
terhadap masyarakat dan lingkungan. Studi Kelayakan Bisnis 208 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Bisnis Dalam Ekonomi Islam Kata bisnis dalam Al-Quran biasanya yang digunakan al-tijarah, al-bai’,
tadayantum, dan isytara. Tetapi yang seringkali digunakan yaitu al-tijarah, dan dalam
bahasa arab tijaraha, berawal dari kata dasar t-j-r, tajara, tajran wa tijarata, yang 209 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis bermakna berdagang atau berniaga. At-tijaratun walmutjar, yaitu perdagangan,
perniagaan. Menurut ar-Raghib al-Asfahani, dalam al-mufradat fi gharib al-Qur’an, at-
Tijarah bermakna pengelolaan harta benda untuk mencari keuntungan (Harahap, 2018). Bisnis syariah adalah bisnis yang berdasarkan pada Al-Quran dan Hadis dimana terdapat
kesesuaian kegiatan bisnis dengan syariah Islam sebagai ibadah kepada Allah Swt., untuk
mendapat ridha-Nya. Dari pengertian tersebut, bisnis berbasis syariah merupakan bisnis
yang berlandaskan syariah Islam, dimana semua kegiatan bisnis yang dilakukan harus
sesuai dengan aturan agama Islam (halal dan haram). Dalam bisnis Islam, semua hasil
usaha yang telah dilakukan selalu mengingat dan menyerahkan kepada Allah Swt
(Agustin, 2017). Adapun ciri dan karakter dari bisnis syariah, antara lain: (1) Memiliki
pemahaman terhadap bisnis yang halal dan haram; (2) Selalu berpijak pada nilai-nilai
ruhiyah; (3) Praktik bisnis sesuai syariah yang benar; (4) Berorientasi pada ibadah kepada
Allah Swt. METODE PENELITIAN Jenis penelitian ini adalah penelitian field research, ialah penelitian secara langsung
di lapangan untuk mengumpulkan data yang diperlukan, melalui kegiatan observasi,
wawancara, dan dokumentasi. Sifat penelitian ini adalah deskriptif-analitik, yaitu
penelitian ini mendeskripsikan mengenai operasional usaha dan aspek-aspek kelayakan
bisnis, kemudian penulis menganalisa tinjauan Ekonomi Islam terhadap kelayakan bisnis
perkreditan pada UD. Mentari Qredit Kota Bengkulu. Dalam penelitian ini, penulis juga
menggunakan pendekatan secara kualitatif dari perspektif partisipan (informan
penelitian). Teknik analisis data dengan Model Miles dan Huberman, yaitu reduksi data,
penyajian data, serta penarikan simpulan dan verifikasi. Adapun informan yang memberikan respon, baik dalam kegiatan observasi maupun
wawancara pada penelitian ini berjumlah 5 orang informan. Penetapan jumlah informan
bersifat fleksibel berdasarkan syarat kecukupan dan kesesuaian, atau dilakukan secara
sengaja (purposive), terdiri atas 1 orang pemilik usaha, 2 orang karyawan, dan 2 orang
konsumen dari UD. Mentari Qredit Kota Bengkulu. Data yang digunakan dalam
penelitian ini, yaitu data primer, yang berasal dari kegiatan wawancara yang dilakukan
penulis kepada para informan yang kegiatannya terkait pada UD. Mentari Qredit Kota
Bengkulu, serta data sekunder, dengan menggunakan beberapa dokumen resmi-tertulis
yang berasal dari UD. Mentari Qredit Kota Bengkulu, serta beberapa sumber referensi
yang menunjang penelitian, berasal dari buku ilmiah, jurnal, dan skripsi terdahulu. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN
Pendirian UD. Mentari Qredit Kota Bengkulu UD. Mentari Qredit adalah suatu jenis usaha perdagangan eceran di bidang
perkreditan barang furnitur, peralatan listrik rumah tangga, serta peralatan penerangan
dan perlengkapannya. UD adalah singkatan dari Usaha Dagang, artinya UD. Mentari
Qredit merupakan usaha keluarga, dan tergolong ke dalam Usaha Mikro Kecil. Meskipun
belum berbentuk badan hukum, UD. Mentari Qredit sudah memperoleh izin resmi usaha
dari pemerintah daerah setempat melalui Lembaga OSS, berdasarkan ketentuan Pasal 24 210 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ayat (1) Peraturan Pemerintah Nomor 24 Tahun 2018 tentang Pelayanan Perizinan
Berusaha Terintegrasi Secara Elektronik, yaitu menerbitkan Nomor Induk Berusaha
(NIB) 0200000912817 per tanggal 21 September 2020. Usaha dagang yang bertempat di
tengah-tengah area permukiman padat penduduk ini menggunakan sarana rumah pribadi
sebagai tempat usaha (status tempat usaha bukan sewa). Penggunaan rumah pribadi
sebagai tempat usaha dipilih karena dalam hal pengoperasiannya, tempat usaha hanya
diperuntukan sebagai sarana bagi konsumen (debitur) untuk melakukan teken kontrak
perjanjian terhadap kreditur, dan selain itu, lokasi yang berada di area padat penduduk
(Perumnas), membuat pengelola tidak kesulitan mencari konsumen dan bisa lebih dekat,
dalam hal mengamati para calon konsumen. UD. Mentari Qredit dijalankan oleh 1
pemilik usaha dan beberapa orang karyawan yang bekerja sebagai penagih. Adapun jam
kerjanya yaitu fleksibel, menyesuaikan dengan jadwal dan jumlah tagihan. Dikarenakan
usaha ini masih tergolong usaha mikro kecil, jadi struktur organisasinya masih bersifat
non-formal. Meskipun tanpa struktur organisasi lengkap, UD. Mentari Qredit memiliki
pembagian tugas yang jelas. Analisis Aspek Kelayakan Bisnis UD. Mentari Qredit Kota Bengkulu Analisis Aspek Kelayakan Bisnis UD. Mentari Qredit Kota Bengkulu
Dari aspek hukum, diketahui bahwa UD. Mentari Qredit Kota Bengkulu telah
memiliki kelengkapan legalitas yang memadai, seperti memiliki NIB (Nomor Induk
Berusaha) 0200000912817 sebagai izin usaha atau Tanda Daftar Perusahaan yang
dikeluarkan oleh penjabat pemerintahan setempat. p
j
p
p
Dari aspek teknis/operasi, diketahui bahwa UD. Mentari Qredit Kota Bengkulu
melakukan kegiatan operasional di lokasi usaha yang sekaligus rumah pribadi pemilik. Selain itu, di lokasi usaha juga belum terdapat papan nama usaha. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN
Pendirian UD. Mentari Qredit Kota Bengkulu Dari segi alat
penunjang bisnis, pemilik melakukan kegiatan audit internal (sendiri) dengan
memerhatikan standar ekonomi, keuangan, dan aturan yang berlaku, seperti
pembukuan/akuntansi, perjanjian jual beli maupun kerjasama, persyaratan pemberian
kredit, serta pelayanan yang memprioritaskan konsumen sehingga memiliki kualitas
operasional yang baik. Dari aspek pasar dan pemasaran, diketahui bahwa UD. Mentari Qredit Kota
Bengkulu menawarkan perkreditan (product) berupa barang-barang konsumsi pribadi,
seperti alat furnitur, peralatan listrik dan rumah tangga, peralatan penerangan dan
perlengkapannya, sebagaimana yang tercantum pada ketentuan Nomor Induk Berusaha
(NIB). Mengenai penetapan harga (Price), UD. Mentari Qredit menetapkan besar
keuntungan dari jual beli kredit ini sebesar 4% per bulan dari harga barang yang dibeli
dari toko. Adapun lama jangka waktu pembayaran kredit ini, yaitu selama 10-12 bulan,
atau dikenal dengan metode cost- plus pricing. Mengenai distribusi (Place), UD. Mentari
Qredit melakukan pengawasan penuh mulai dari mencari barang yang dibutuhkan,
memeriksa keadaan barang sampai barang tersebut sampai ke tangan konsumen, dan
biasanya barang yang dibeli langsung diantarkan ke tempat konsumen. Mengenai sarana
promosi (Promotion), UD. Mentari Qredit belum memiliki alat atau media khusus untuk
memasarkan barang dagang atau untuk memasarkan sistem jual beli kredit. Kegiatan
promosi dilakukan secara mulut ke mulut, sehingga masih bisa dikembangkan dengan
memanfaatkan beberapa teknologi yang ada, seperti promosi online melalui gadget,
termasuk juga pemasangan papan nama. 211 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Dari aspek keuangan, diketahui bahwa usaha perkreditan pada UD. Mentari Qredit
Kota Bengkulu ini menguntungkan. Hal ini dapat dilihat dari nilai Cash Ratio 10.4>1
tahun 2020 dan 80.1>1 tahun 2021, menandakan harta yang dimiliki dapat menjamin
utang yang ada dengan baik; nilai Debt to Asset Ratio 37.9% tahun 2020, 35.1% tahun
2021, dan 30.4% tahun 2022, menandakan keuangan pemilik yang didanai utang dari
tahun ke tahun semakin kecil; Dan nilai keuntungan usaha sebesar Rp79,657,278 tahun
2021 dan Rp55,357,671 tahun 2022. p
,
,
Dari aspek manajemen/organisasi, diketahui bahwa UD. Mentari Qredit Kota
Bengkulu dapat dikatakan belum layak atau masih memerlukan pengembangan
selanjutnya. Pada aspek ini, pemilik usaha menjalankan dengan jumlah karyawan 2
orang. Hal ini mengindikasikan bahwa usaha dengan spesifikasi pekerjaan yang
mengharuskan karyawan untuk melakukan penagihan kepada konsumen masih kurang
efisien. Meskipun tanpa struktur organisasi lengkap, UD. Mentari Qredit memiliki
pembagian tugas yang jelas. Pemilik perusahaan bertindak sebagai pengawas jalannya
kegiatan usaha dan merangkap dalam hal administrasi pembukuan. HASIL PENELITIAN DAN PEMBAHASAN
Pendirian UD. Mentari Qredit Kota Bengkulu Sementara itu,
karyawannya bertugas mencari konsumen dan penagih. Sedangkan, dari segi pemberian
gaji, UD. Mentari Qredit Kota Bengkulu telah sesuai dengan pekerjaan yang dilakukan
oleh karyawan dan dilakukan berdasarkan kesepakatan. Dari aspek ekonomi sosial lingkungan, diketahui bahwa UD. Mentari Qredit Kota
Bengkulu tidak menimbulkan dampak negatif bagi masyarakat maupun lingkungan,
melainkan usaha ini dijalankan dengan memerhatikan konsep ta’awun (tolong-
menolong) dan juga jika dikembangkan bisa menambah kesempatan kerja bagi
masyarakat sekitar. PEMBAHASAN ْيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْ ا ْلَ تَأْكُلُوْٰٓ ا اَمْوَ الَكُمْ بَيْنَكُمْ بِالْبَاطِلِ اِْلَّ ٰٓ اَنْ تَكُوْ نَ تِجَارَةً عَن َتَرَاضٍ م ِنْكُمْ ۗ وَ ْلَ تَقْتُلُوْٰٓ ا اَنْفُسَكُمْ ۗ اِنَّ َّللاه َ كَان
بِكُمْ رَحِ يْمًا Artinya: “Hai orang-orang yang beriman, janganlah kamu saling memakan
harta sesamamu dengan jalan yang batil, kecuali dengan jalan perniagaan yang berlaku
dengan suka sama suka di antara kamu. Dan janganlah kamu membunuh dirimu. Sungguh, Allah maha penyayang kepadamu.” Barang (product) diperjualbelikan secara kredit pada UD. Mentari Qredit Kota
Bengkulu bukan berupa emas, perak atau mata uang. Barang (product) juga terlebih
dahulu dimiliki UD. Mentari Qredit Kota Bengkulu sebelum perjanjian jual beli kredit
dilangsungkan, barang juga diterima pembeli tunai pada saat akad berlangsung, harga
jelas, serta besarnya angsuran dan jangka waktunya juga jelas sesuai perjanjian. Hal ini
sesuai dengan Q. S. Asy- Syu’ara/26: 181-183. ْأَوْ فُوا الْكَيْلَ وَ ْلَ تَكُونُوا مِنَ ال ِمُخْسِرِ ينَ. وَ زِ نُوا بِالْقِسْطَاسِ الْمُسْتَقِيمِ. وَ ْلَ تَبْخَسُوا النَّاسَ أَشْيَاءَهُمْ وَ ْلَ تَعْثَوْ ا فِي اْلْ َرْ ض
َمُفْسِدِين
Artinya: “Sempurnakanlah takaran dan janganlah kamu termasuk orang-orang
yang merugikan. Dan timbanglah dengan timbangan yang lurus. Dan janganlah kamu
merugikan manusia pada hak-haknya dan janganlah kamu merajalela di muka bumi
dengan membuat kerusakan”. ْأَوْ فُوا الْكَيْلَ وَ ْلَ تَكُونُوا مِنَ الِمُخْسِرِ ينَ. وَ زِ نُوا بِالْقِسْطَاسِ الْمُسْتَقِيمِ. وَ ْلَ تَبْخَسُوا النَّاسَ أَشْيَاءَهُمْ وَ ْلَ تَعْثَوْ ا فِي اْلْ َرْ ض
َُفْ د ن Artinya: “Sempurnakanlah takaran dan janganlah kamu termasuk orang-orang
yang merugikan. Dan timbanglah dengan timbangan yang lurus. Dan janganlah kamu
merugikan manusia pada hak-haknya dan janganlah kamu merajalela di muka bumi
dengan membuat kerusakan”. Berdasarkan hasil wawancara dengan para informan, UD. Mentari Qredit telah
melakukan transaksi dengan akad yang telah sesuai dengan pandangan ekonomi Islam
dan menjual barang dengan harga sesuai dengan kualitas barangnya. Sebagaimana
kaidah fiqih menjelaskan bahwa “Hukum asal dalam bentuk muamalah adalah boleh
dilakukan, kecuali ada dalil yang mengharamkannya”. Maksudnya, kaidah ini dalam
setiap muamalah dan transaksi, pada dasarnya boleh, kecuali yang tegas diharamkan,
seperti mengakibatkan kemudharatan, tipuan, dan lain-lain. Harus disadari bahwa
meskipun memperoleh keuntungan yang melimpah, hasilnya tidak berkah, karena ada
pihak yang dirugikan. Oleh sebab itu, UD. Mentrai Qredit Kota Bengkulu selalu
membangun hubungan baik di antara berbagai pihak yang terkait. Islam tidak
menghendaki dominasi pelaku yang satu di atas yang lain, baik dalam bentuk monopoli
maupun bentuk-bentuk lain yang tidak mencerminkan rasa keadilan dan pemerataan
pendapatan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PEMBAHASAN Berdasarkan hasil penelitian di atas, diketahui bahwa UD. Mentari Qredit
berbentuk usaha dagang yang mengelola urusan jual beli barang peralatan rumah tangga
secara kredit. Secara rinci, tujuan ekonomi Islam adalah pertama, mencari kesenangan
akhirat yang diridhoi Allah Swt., dengan segala capital yang diberikan-Nya kepada
manusia. Kedua, memperjuangkan kebutuhan hidup manusia atau dengan kata lain
mencari rezeki. Dan yang ketiga, berbuat baik kepada masyarakat. Adapun analisis
tinjauan ekonomi Islam terhadap aspek-aspek kelayakan bisnis pada UD. Mentari Qredit
Kota Bengkulu, sebagai berikut. UD. Mentari Qredit Kota Bengkulu dalam mendirikan usahanya sudah memiliki
kelengkapan legalitas yang memadai, hal ini untuk meminimalisir risiko yang berkaitan
dengan hukum, serta mengindikasikan juga bahwa bidang usaha yang dijalankan jelas
dan tidak melanggar hukum perundang-undangan yang berlaku. Sebagaimana sesuai
dengan Q. S. An-Nisa/4: 59. ُيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٰٓ ا اَطِيْع ْوا َّللاه َ وَ اَطِيْعُوا الرَّسُوْ لَ وَ اُولِى اْلْ َمْرِ مِنْكُم يٰٰٓاَيُّهَا Artinya: “Wahai orang-orang yang beriman! Taatilah Allah dan taatilah Rasul
(Muhammad), dan ulil amri (pemegang kekuasaan) diantara kamu…” Selain itu, UD. Mentari Qredit Kota Bengkulu dapat dikatakan layak dan sesuai 212 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis syariat pada kegiatan operasional, baik dari transparansi perjanjian dimana kesepakatan
berlaku atas dasar suka sama suka, akad jelas, dan tidak melegalkan riba. Islam melarang
transaksi perdagangan dengan paksaan, mengambil harta orang lain dengan jalan yang
batil (tidak benar), kecuali dengan perniagaan yang berlaku dengan suka sama suka. Kaidah fiqh yang diungkapkan oleh Ibnu Taimiyah bahwa “Dasar dari akad adalah
keridhoan kedua belah pihak”. Hal ini sesuai pada Q. S. An-Nisa/4: 29. syariat pada kegiatan operasional, baik dari transparansi perjanjian dimana kesepakatan
berlaku atas dasar suka sama suka, akad jelas, dan tidak melegalkan riba. Islam melarang
transaksi perdagangan dengan paksaan, mengambil harta orang lain dengan jalan yang
batil (tidak benar), kecuali dengan perniagaan yang berlaku dengan suka sama suka. Kaidah fiqh yang diungkapkan oleh Ibnu Taimiyah bahwa “Dasar dari akad adalah
keridhoan kedua belah pihak”. Hal ini sesuai pada Q. S. An-Nisa/4: 29. Saran Berdasarkan hasil penelitian dan pembahasan di atas, maka tanpa mengurangi rasa
hormat, penulis memberikan saran, yaitu kepada setiap pelaku usaha/bisnis dalam
menjalankan kegiatan, terutama kegiatan jual beli, tetaplah berorientasi pada ketaatan
kepada Allah Swt., serta berpegang teguh pada prinsip ekonomi Islam, karena ekonomi
Islam membantu setiap pelaku usaha untuk mencapai kesejahteraan secara finansial
dengan tetap berpegang pada syariat Islam, sehingga mencapai kebahagiaan dunia-akhirat
melalui tata kehidupan yang baik dan terhormat. PEMBAHASAN Ajaran Islam menganjurkan bahwa pelaku bisnis dalam berbisnis, mestinya
tidak sekedar hanya mengejar keuntungan sebanyak-banyaknya, tetapi juga mesti
berorientasi kepada sikap ta’awun, yaitu menolong orang lain, hal ini sebagai implikasi 213 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis sosial kegiatan bisnis. Berdasarkan informasi di atas, penulis menyimpulkan hasil analisa
dari kelayakan bisnis UD. Mentari Qredit Kota Bengkulu sudah sesuai dengan ajaran
agama Islam. sosial kegiatan bisnis. Berdasarkan informasi di atas, penulis menyimpulkan hasil analisa
dari kelayakan bisnis UD. Mentari Qredit Kota Bengkulu sudah sesuai dengan ajaran
agama Islam. Kesimpulan Berdasarkan hasil penelitian dan pembahasan di atas, maka dapat ditarik
kesimpulan bahwa kelayakan bisnis perkreditan yang dijalankan oleh UD. Mentari
Qredit Kota Bengkulu, jika dilihat dari tinjauan ekonomi Islam, maka UD. Mentari
Qredit Kota Bengkulu telah sesuai dengan prinsip ekonomi Islam, karena sudah
menerapkan kejujuran dalam setiap kegiatan usaha, spesifikasi barang dagang jelas,
transparansi perjanjian, kesepakatan berlaku atas suka sama suka (tidak ada paksaan),
menetapkan harga dengan transparan dan jelas, menghindari riba, serta berpegang teguh
pada prinsip ta’awun (tolong-menolong) dalam kegiatan jual beli. DAFTAR RUJUKAN Abdullah, A. (2019). Pinjaman Kredit dalam Persfektif Pendidikan Islam. J-HES: Jurnal
Hukum Ekonomi Syariah, 3(1). Abdullah, A. (2019). Pinjaman Kredit dalam Persfektif Pendidikan Islam. J-HES: Jurnal
Hukum Ekonomi Syariah, 3(1). y
Agustin, H. (2017). Studi Kelayakan Bisnis Syariah. PT Rajagrafindo Persada. Aliefah, A. N., & Nandasari, E. A. (2022). Analisis Kelayakan Bisnis Ditinjau Dari
Aspek Pemasaran dan Keuangan Pada Kedai Olan’ Z Food. LABATILA: Jurnal Ilmu
Ekonomi Islam, 5(2), 112–128. https://doi.org/https://doi.org/10.33507/lab.v4i01 Al-Nawawi, A. Y. bin S. (n.d.). Raudlatu al-Thâlibîn Juz. 3. Maktabah. Antonio, M. S. (2001). Bank Syariah: Dari Teori Ke Praktik. Gema Insani. Bank Indonesia. (1998). Undang-Undang Nomor 10 Tahun 1998 tentang Perubahan
Atas Undang-Undang Nomor 7 Tahun 1992. g
g
Busro, M. (2017). Studi Kelayakan Bisnis Cet. Pertama (Pertama). Expert. Direktorat Perbankan Syariah. (2006). Kamus Istilah Keuangan dan Perbankan Syariah. Bank Indonesia. Direktorat Perbankan Syariah. (2006). Kamus Istilah Keuangan dan Perbankan Syariah. Bank Indonesia. Fitri, M. A., Ilhami, M. D., & Herwan, M. (2022). Pengaruh Stres Kerja Dan Komunikasi
Terhadap Kinerja Karyawan Pt. Indomaret Kota Manna Kabupaten Bengkulu
Selatan. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), Fitri, M. A., Ilhami, M. D., & Herwan, M. (2022). Pengaruh Stres Kerja Dan Komunikasi
Terhadap Kinerja Karyawan Pt. Indomaret Kota Manna Kabupaten Bengkulu
Selatan. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 214 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Gunawan, K. (2018). Peran Studi Kelayakan Bisnis Dalam Peningkatan UMKM (Studi
Kasus UMKM di Kabupaten Kudus). Jurnal Bisnis Dan Manajemen Islam, 6(2),
101–115. Harahap, S. (2018). Studi Kelayakan Bisnis: Pendekatan Integratif. FEBI UIN-SU Press. Hughes & Kapoor (1987) The Additives Guide Jhon Wiley and Sons Chichester Harahap, S. (2018). Studi Kelayakan Bisnis: Pendekatan Integratif. FEBI UIN-SU Pres Hughes, & Kapoor. (1987). The Additives Guide. Jhon Wiley and Sons, Chichester. brahim, J. (2004). Cross Default & Cross Collateral dalam Upaya Penyelesaian Kredit
Bermasalah. PT Refika Aditama. Karim, A. A. (2001). Ekonomi Islam: Suatu Kajian Kontemporer. Gemala Insan Press Karim, A. A. (2001). Ekonomi Islam: Suatu Kajian Kontemporer. Gemala Insan Press. Kasmir. (2019). Kewirausahaan (Revisi). Rajawali Pers. Kasmir. (2019). Kewirausahaan (Revisi). Rajawali Pers. Khaer, M., & Nurhayati, R. (2019). Jual Beli Taqsith (Kredit) dalam Perspektif Hukum
Ekonomi Islam. Al Maqashidi: Jurnal Hukum Islam Nusantara, 2(1), 99–110. Lubis, S. K., & Wajdi, F. (2012). Hukum Ekonomi Islam. INFORMASI ARTIKEL
ABSTRACT This study aims to determine the effect of motivation
and work environment on employee performance at
Curup Mandiri Jaya Cable TV, either partially or
simultaneously. The sample is 50 people. The data
were processed using the SPSS test tool version 26. From the results of the multiple linear regression test,
the regression equation was as follows: Y = 1.063 +
0.460 ( ) + 0.301 (X2). The results of the t test on the
variable Motivation (X1) show tcount> ttable
(11.020> 2.01174) and (sig< = 0.000<0.050), Work
Environment (X2) shows tcount> ttable (3.160>
2.01174) and (sig< = 0.003<0.050 ). While the F test
obtained > that is (108.122> 3.199) and (sig < =
0.000 <0.050). From the results of the tests that have
been carried out, it can be concluded that the
variables Motivation (X1) and Work Environment
(X2) have a partial or simultaneous effect on
Employee Performance at Curup Mandiri Jaya Cable
TV. Riwayat Artikel:
Diterima : 16 Februari 2023
Direvisi : 23 Juni 2023
Disetujui : 21 Juli 2023 Keywords:
Motivation, Work Environment
and Employee Performance http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Sinar Grafika. Lubis, S. K., & Wajdi, F. (2012). Hukum Ekonomi Islam. Sinar Grafika. Muhammad, A.-A. A. al-H. (1998). Hukum Baiy’ bit-Taqsith terj. Ma’ruf Abdul Jalil,
Jual Beli Kredit Bagaimana Hukumnya Cet. I. Gema Insani Press. Muhammad, A.-A. A. al-H. (1998). Hukum Baiy’ bit-Taqsith terj. Ma’ruf Abdul Jal
Jual Beli Kredit Bagaimana Hukumnya Cet. I. Gema Insani Press. Mukadar, A., Setiorini, H., & Setiawan, D. (2021). Analisis Pembiayaan Murabahah
Pada Lembaga Keuangan Mikro Syariah (LKMS) (Studi Kasus Pada LKMS MM
Sejahtera Kota Bengkulu). Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi
Islam (JAM-EKIS), 4(1). https://doi.org/10.36085/jam-ekis.v4i1.1274 Munir, M., Saraswati, H, S. F., & Rifa’, Y. (2019). Studi Kelayakan Bisnis dalam Aspek
Lingkungan Hidup. LABATILA: Jurnal Ilmu Ekonomi Islam, 3(1), 46–60. Nahidloh, S. (2014). Sistem Kredit dalam Ekonomi Islam Tinjauan Tafsir Ahkam. Jurnal
Et-Tijarie, I(1), 1–17. Nasa’i. (n.d.). Kitab Nasa’i Hadist No. 4571. Lidwah Pustaka, Kitab Sembilan Imam. Nasa’i. (n.d.). Kitab Nasa’i Hadist No. 4571. Lidwah Pustaka, Kitab Sembilan Imam. Rivai, V., & Dkk. (2011). Islamic Transaction Law in Business: Teori dan Praktik. PT
Bumi Aksara. Rivai, V., & Dkk. (2011). Islamic Transaction Law in Business: Teori dan Praktik. PT
Bumi Aksara. Rusyd, I. (n.d.). Bidayah al-Mujtahid wa Nihayah al-Muqtashid Juz II. Dar al-Ihya al-
Kutub al-Arabiah. Sulastri, L. (2016). Studi Kelayakan Bisnis Untuk Wirausaha. LGM-LaGood’s
Publishing. Syamsudin,
M. (n.d.). Jual
Beli
Kredit:
Apakah
Sama
dengan
Riba? https://islam.nu.or.id/ekonomi-syariah/jual-beli-kredit-apakah-sama-dengan-riba-
fIIuv Tarmizi. (2017). Analisis Kredit Usaha Terhadap Pertumbuhan Ekonomi Islam dan
Konvensional. Jurnal E-KOMBIS, III(1), 32–41. Tarmizi, E. (2017). Harta Haram Muamalat Kontemporer. PT Berkat Mulia Insani. Tito, B. A., Astuti, B., & Fraternesi Fraternesi. (2018). Analisis Penerapan Standar
Akuntansi Keuangan Entitas Tanpa Akuntabilitas Publik Pada Laporan Keuangan
Koperasi Simpan Pinjam Timur Indah Kencana Kota Bengkulu. Jurnal Ilmiah
Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 1(1). Usman, R. (2001). Aspek-Aspek Hukum Perbankan di Indonesia. PT Gramedika Pustaka
Utama. 215 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis PENGARUH MOTIVASI DAN LINGKUNGAN KERJA
TERHADAP KINERJA KARYAWAN PADA PT. CURUP MANDIRI
JAYA TV KABEL Khairul Bahrun1, Fauzi Afriansyah2
1-2Universitas Muhammadiyah Bengkulu
bahrun@umb.ac.id1 , fauziafriansyah1709@gmail.com2 Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: bahrun@umb.ac.id Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: bahrun@umb.ac.id ABSTRAK Penelitian ini bertujuan untuk mengetahui pengaruh
motivasi dan lingkungan kerja terhadap kinerja
karyawan pada Curup Mandiri Jaya TV Kabel, baik
secara parsial maupun simultan. Sampel berjumlah 216 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 216 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis 50 orang. Data diolah menggunakan alat uji SPSS
versi 26. Dari hasil uji regresi linier berganda didapat
persamaan regresinya adalah sebagai berikut : Y =
1.063 + 0.460 (
) + 0.301 (X2). Hasil uji t pada
variabel Motivasi (X1) menunjukkan thitung> ttabel
(11.020>2.01174) dan (sig< = 0,000<0,050),
Lingkungan Kerja (X2) menunjukkan thitung> ttabel
(3.160>2.01174)
dan
(sig<
=
0,003<0,050). Sedangkan uji F diperoleh
>
yaitu
(108.122>3.199) dan (sig< = 0.000<0,050). Dari
hasil
pengujian
yang
telah
dilakukan
dapat
disimpulkan bahwa variabel Motivasi (X1), dan
Lingkungan Kerja (X2) berpengaruh secara parsial
maupun simultan terhadap Kinerja Karyawan pada
Curup Mandiri Jaya TV Kabel. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Perusahaan sebagai organisasi merupakan kumpulan dari berbagai faktor sumber
daya, baik itu sumber daya manusia, moral, teknologi maupun keterampilan. Dari
faktor-faktor tersebut yang memegang peran paling penting adalah faktor sumber daya
manusia. Keberhasilan perusahaan dalam mencapai tujuannya sangat tergantung pada
bagaimana perusahaan tersebut mengelola dan mempersiapkan sumber daya manusia
yang dimilikinya. Sumber daya manusia merupakan faktor penting penentu kesuksesan perusahaan
dalam mencapai tujuannya, karena berhasil atau tidaknya perusahaan dalam mencapai
tujuan sangat tergantung pada kemampuan SDM atau karyawan dalam menjalankan
tugas tugas yang diberikan. kemapuan karyawan dalam menjalankan tugas-tugasnya
dapat dilihat melalui kinerjanya, sehingga kinerja karyawan menjadi hal yang sangat
penting bagi keberhasilan perusahaan. Kinerja karyawan adalah keluaran yang dihasilkan oleh fungsi-fungsi atau dimensi
pekerjaan atau profesi yang dilaksanakan oleh sumber daya manusia atau pegawai
dalam waktu tertentu (Wirawan, 2013). Baik atau buruknya kinerja karyawan ini bisa
disebabkan oleh beberapa faktor, diantaranya ialah motivasi, dan lingkungan kerja yang
rendah atau masih dalam taraf normal. Dalam organisasi, motivasi sangat diperlukan sebagai salah satu cara untuk
mencapai tujuan yang telah ditetapkan perusahaan. Motivasi merupakan salah satu
aspek yang sangat penting dalam menentukan perilaku seseorang, termasuk perilaku
kerja. Untuk dapat memotivasi seseorang diperlukan adanya pemahaman mengenai
bagaimana proses terbentuknya motivasi pada pegawai. (Winardi, 2016) Mengemukakan
bahwa motivasi merupakan suatu kekuatan potensial yang ada di dalam diri seorang
manusia, yang dapat mempengaruhi hasil kinerjanya secara positif atau negatif. Selain motivasi, faktor lain yang juga bisa sangat berdampak bagi kinerja
karyawan dalam perusahaan adalah lingkungan kerja. Lingkungan merupakan segala
sesuatu yang ada disekitar tempat kerja baik yang fisik maupun non fisik yang dapat 217 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis mempengaruhi kinerja para karyawan dalam bekerja menjalakan tugasnya (Nitisemito,
2000). Lingkungan kerja yang aman dan nyaman akanmembuat para karyawan merasa
lebih betah dan nyaman saat menyelesaikan pekerjaannya. mempengaruhi kinerja para karyawan dalam bekerja menjalakan tugasnya (Nitisemito,
2000). Lingkungan kerja yang aman dan nyaman akanmembuat para karyawan merasa
lebih betah dan nyaman saat menyelesaikan pekerjaannya. y
y
p
j
y
Dari hasil observasi awal yang peneliti lakukan di PT. Curup Mandiri Jaya pada
hari selasa tanggal 7 September 2021 yang lalu, mendapati sedikitit permasalahan
mengenai kinerja karyawan. Hal dapat dilihat dari pekerjaan yang tidak maksimal, lalu
juga produktifitasnya yang menurun. Seperti yang diungkapkan oleh Bapak Aguan,
Selaku Kepala Cabang. PENDAHULUAN Beliau mengatakan bahwa ada beberapa faktor yang
mengakibatkan menurunnya kinerja karyawan pada PT. Curup Mandiri Jaya,
diantaranya ialah menurunnya motivasi kerja dari para karyawan, seperti terlambat
datang kekantor dan kurang bersemangat saat bekerja. Lalu menurut andi selaku salah
satu karyawan, menyatakan bahwa lingkungan kerja yang yang mulai kurang nyaman,
dimana hubungan antar karyawan mengalami sedikit kerenggangan sehingga
koordinasi menjadi sulit untuk dilakukan. Tingkat absensi karyawan yang rendah bisa
menjadi salah satu penyebab mengapa kinerja seorang karyawan itu tidak maksimal,
hal ini dikhawatirkan akan menimbulkan komplain para konsumen tv kabel atas
ketidakdisplinan karyawan dari PT. Curup Mandiri Jaya. Berikut ini akan ditampilkan
data absensi karyawan periode bulan juni sampai agustus 2021. Tabel berikut
memperlihatkan bahwa tingkat absensi yang tinggi menyebabkan masalah pada kinerja
karyawan dan menurunnya motivasi kerja itu sendiri. Tabel 1
Ti
k t Ab
i K
di PT C
M
di i J
TV K b l
d Tabel 1
Tingkat Absensi Karyawan di PT. Curup Mandiri Jaya TV Kabel pada
Bulan
Jumlah
Karyawan
Tidak Masuk
Izin*
(Orang)
%
Sakit
(Orang)
% Terlambat %
Bolos %
(Orang)
(Orang)
Juni
50
6
12% 3
6% 8
16% 7
14%
Juli
50
10
20% 3
6% 5
10% 6
12%
Agustus 50
9
18% 5
10% 7
14% 9
18%
Sumber : PT. Curup Mandiri Jaya TV Kabel (2021) Tabel 1
Tingkat Absensi Karyawan di PT. Curup Mandiri Jaya TV Kabel pada
Bulan
Jumlah
Tidak Masuk http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Lingkungan Kerja Lingkungan kerja merupakan segala sesuatu yang mempengaruhi karyawan
dalam menjalankan tugas dan pekerjaanya yang dibebankan perusahaan (Nitisemito,
2000:25). Lingkungan kerja yang nyaman akanmembuat karyawan merasa nyaman
dalam menyelesaikan tugasnya. (Sunyoto, 2012) mendefinisikan Lingkungan kerja
adalah bagian komponen yang sangat penting di dalam karyawan melakukan aktivitas-
aktivitas bekerja. Lingkungan kerja merupakan keadaan sekitar tempat kerja baik
secara fisik maupun non fisik yang dapat memberikan kesan menyenangkan,
mengamankan, menentramkan dan kesan betah bekerja dan lain sebagainya (Sari et al.,
2020). Lingkungan kerja merupakan aspek yang penting pada perusahaan,karena
lingkungan juga berdampak bagi kinerja yang dilaksanakan oleh karywan. Lingkungan
kerja terdiri dari lingkungan fisik dan nonfisik yang melekat dengan karywan sehingga
tidak dapat dipisahkan dari usaha peningkatan kinerja karyawan. Menurut (Siagian, 2014) ada beberapa indikator Lingkungan Kerja, yaitu: 1. Hubungan Rekan Kerja 2. Hubungan atasan dengan karyawan 3. Kerja sama antar karyawan Faktor –Faktor yang mempengaruhi Lingkungan Kerja: Faktor –Faktor yang mempengaruhi Lingkungan Kerja:
Menurut Sihombing (2010) bahwa lingkungan kerja dipengaruhi oleh faktor-faktor
yaitu sebagai berikut: 1. Fasilitas kerja
Lingkungan kerja yang kurang mendukung pelaksanaan pekerjaan ikut dapat
menyebabkan kinerja yang kurang baik, seperti kurangnya alat kerja, ruang kerja
pengap, ventilasi yang kurang, serta prosedur yang tidak jelas. 2. Gaji dan tunjangan
Gaji yang kurang sesuai dengan harapan pekerja akan membuat pekerja setiap
saat melirik pada lingkungan kerja yang lebih menjamin pencapaian harapan
kerja karyawan. 3. Hubungan kerja
Kelompok kerja dengan kekompakan dan loyalitas yang tinggi akan
meningkatkan kinerja itu sendiri. g
j
Kelompok kerja dengan kekompakan dan loyalitas yang tinggi akan
meningkatkan kinerja itu sendiri. Motivasi Menurut
(Hasibuan,
2016)
Motivasi
mempersoalkan
bagaimana
cara
mengarahkan daya dan potensi agar bekerja mencapai tujuan yang ditentukan. Menurut
(Winardi, 2016) Mengemukakan bahwa motivasi merupakan suatu kekuatan potensial
yang ada di dalam diri seorang manusia, yang dapat dikembangkannya sendiri atau
dikembangkan oleh sejumlah kekuatan luar yang pada intinya berkisar sekitar imbalan
moneter dan imbalan non moneter, yang dapat mempengaruhi hasil kinerjanya secara 218 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 218 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis positif atau negatif. Motivasi merupakan sebuah upaya yang dilakukan guna
memberikan dorongan kepeda seseorang agar bisa melakukan sesuatu hal dengan lebih
baik lagi. Menurut (Robbins, 2008) indikator Motivasi, yaitu:
1 P
i k j positif atau negatif. Motivasi merupakan sebuah upaya yang dilakukan guna
memberikan dorongan kepeda seseorang agar bisa melakukan sesuatu hal dengan lebih
baik lagi. Menurut (Robbins, 2008) indikator Motivasi, yaitu: 1.Prestasi kerja 2.Pengakuan; 3.Pekerjaan itu sendiri; 4.Tanggung jawab; 5.Kemajuan; 6 .Pengembang an potensi individu Kinerja Karyawan Kinerja adalah suatu hasil pencapaian seseorang dalam melakukan tugas-tugas
yang didasarkan atas kecakapan dan pengalaman, serta waktu. Kinerja adalah prestasi
kerja yang merupakan hasil dari implementasi rencana kerja yang dibuat oleh suatu 219 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis institusi yang dilaksanakan oleh pimpinan dan karyawan (SDM) yang bekerja di
institusi itu baik pemerintah maupun perusahaan (bisnis) untuk mencapai tujuan
organisasi. (Apriyanti et al., 2020). Menurut (Sedarmayanti, 2011), kinerja merupakan
terjemahan dari performance yang berarti hasil kerja seseorang pekerja, sebuah proses
manajemen atau suatu organisasi secara keseluruhan, dimana hasil kerja tersebut harus
dapat ditunjukkan buktinya secara kongkrit dan dapat diukur dengan standar yang telah
ditentukan. Sedangkan Kinerja menurut (Mangkunegara, 2009)) adalah hasil kerja secara
kualitas dan kuantitas yang dicapai oleh seorang pegawai dalam melaksanakan
tugasnya sesuai dengan tanggung jawab yang diberikan kepadanya. Kinerja karyawan
merupakan hasil kerja yang telah dicapai seorang karyawan atas tanggung jawab yang
telah diberikan baik secara kualitas maupun kuantitas guna mencapai tujuan strategis
organisasi. g
Ada beberapa indikator kinerja karyawan menurut (Mangkunegara, 2009), yaitu g
Ada beberapa indikator kinerja karyawan menurut (Mangkunegara, 2009), yaitu:
1. Kualitas Ada beberapa indikator kinerja karyawan menurut (Mangkunegara, 2009), yaitu
1. Kualitas 1. Kualitas 2. Kuantitas 3. Pelaksana Tugas 4. Tanggung jawab 4. Tanggung jawab
Menurut (Mathis & Jackson, 2016) faktor yang memeprngaruhi kinerja karyawan,
yaitu : 1. Motivasi
Faktor pendorong penting yang menyebabkan manusia bekerja adalah adanya
kebutuhan yang harus dipenuhi.Kebutuhan-kebutuhan ini berhubungan dengan sifat
hakiki manusia untuk mendapatkan hasil terbaik dalam kerjanya. 2. Kepuasan kerja
Kepuasan kerja mencerminkan perasaan seseorang terhadap pekerjaannya.Hal ini
terlihat dari sikap positif karyawan terhadap pekerjaan dan segala sesuatu yang
dihadapi di lingkungan kerjanya. 3. Tingkat Stres
Stres merupakan suatu kondisi ketegangan yang mempengaruhi emosi, proses
berpikir dan kondisi sekarang.Tingkat stres yang terlalu besar dapat mengancam
kemampuan seseorang untuk menghadapi lingkungan sehingga dapat mengganggu
pelaksanaan pekerjaan mereka. 4. Kondisi pekerjaan
Kondisi pekerjaan yang dimaksud dapat mempengaruhi kinerja disini adalah tempat
kerja, ventilasi, serta penyinaran dalam ruang kerja. p
j
Kondisi pekerjaan yang dimaksud dapat mempengaruhi kinerja disini adalah tempat
kerja, ventilasi, serta penyinaran dalam ruang kerja. 5. Kinerja Karyawan Sistem kompensasi
Kompensasi merupakan tingkat balas jaa yang diterima oleh karyawan atas apa
yang telah dilakukannya untuk perusahaan. Jadi, pemberian kompensasi harus
benar agar karyawan lebih semangat untuk bekerja. 6. Desain pekerjaan
Desain pekerjaan merupakan fungsi penetapan kegiatan-kegiatan kerja seorang
individu atau kelompok karyawan secara organisasional. Desain pekerjaan harus
jelas supaya karyawan dapat bekerja dengan baik sesuai dengan pekerjaan yang
telah diberikan kepadanya. 220 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jenis Penelitian Jenis penelitan ini adalah penelitian kuantitatif, Menurut (Sugiyono, 2013) Metode
penelitian kuantitatif merupakan metode penelitian yang berlandaskan pada filsafat
positivisme, digunakan untuk meneliti pada populasi atau sampel tertentu. Teknik
pengambilan sampel pada umumnya dilakukan secara random, pengumpulan data
menggunakan instrumen penelitian, analisis data bersifat kuantitatif / statistik dengan
tujuan untuk menguji hipotesis yang telah ditetapkan. Populasi dalam penelitian ini adalah seluruh karyawan pada PT. Curup Mandiri
Jaya yang berjumlah 50 orang. Sampel adalah sebagian atau wakil populasi yang
diteliti (Arikunto, 2010) Dikarenakan populasi kurang dari 100 maka peneliti
menggunakan teknik total sampling dalam peneitian ini, yaitu dengan mengambil
seluruh populasi yang ada untuk diteliti, jadi sampel dalam penelitian ini adalah 50
karyawan pada PT. Curup Mandiri Jaya. Dalam teknik pengumpulan data, ada beberapa yang peneliti gunakan yaitu: (1)
Observasi, (2) Interview, (3) Kuesioner. Tanggapan responden dinilai untuk mengukur
tanggapan mereka dengan skala likert 5 point ( 1= sangat tidak setuju sampai 5 = sangat
setuju). HASIL PENELITIAN DAN PEMBAHASAN Hasil Penelitian
Tabel 1
Karakteristik Responden (n= 50)
Karakteristk
Jumlah
Persentase
Umur
20 – 30 Tahun
24
48 %
31 – 40 Tahun
19
38 %
41 - 50 Tahun
7
14 %
> 50 Tahun
-
-
Jenis
Kelamin
Laki-laki
48
96 %
Perempuan
2
4 %
Pendidikan
Terakhir
SMP
1
2 %
SMA
44
88 %
Perguruan Tinggi
5
10 %
Masa Kerja
1 - 3 Tahun
22
44 %
>3 Tahun
28
56 %
Sumber : Data yang diolah 2022 Hasil Penelitian Analisis data diatas bahwa karakteristik responden dalam penelitian ini terdiri dari
karakteristik berdasarkan jenis kelamin didominasi oleh karyawan laki-laki sebanyak 48
orang (96 %) dengan karakteristik usia didominasi oleh karyawan yang berusia 20-30
tahun sebanyak 24 orang (48%), karakteristik pendidikan terakhir yang mendominasi
SMA sebanyak 44 orang (88%) dan karakteristik masa kerja yang mendominasi dengan
>3 tahun bekerja sebanyak 28 orang (56%). 221 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Tabel 2
Hasil Uji Validitas
Variabel
Item
r tabel
r hitung
Keterangan
Motivasi
(X1)
Pernyataan 1
0.444
0.467
Valid
Pernyataan 2
0.444
0.730
Valid
Pernyataan 3
0.444
0.730
Valid
Pernyataan 4
0.444
0.484
Valid
Pernyataan 5
0.444
0.743
Valid
Pernyataan 6
0.444
0.803
Valid
Lingkungan Kerja
(X2)
Pernyataan 1
0.444
0.785
Valid
Pernyataan 2
0.444
0.725
Valid
Pernyataan 3
0.444
0.606
Valid
Variabel
Item
r tabel
r hitung
Keterangan
Kinerja Karyawan
(Y)
Pernyataan 1
0.444
0.778
Valid
Pernyataan 2
0.444
0.716
Valid
Pernyataan 3
0.444
0.755
Valid
Pernyataan 4
0.444
0.810
Valid
Sumber : Olah Data SPSS
Dari tabel di atas dapat disimpulkan bahwa seluruh item pernyataan dinyatakan
valid atau layak karena hasil R hitung > R tabel. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. HASIL PENELITIAN DAN PEMBAHASAN 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Tabel 2
Hasil Uji Validitas
Variabel
Item
r tabel
r hitung
Keterangan
Motivasi
(X1)
Pernyataan 1
0.444
0.467
Valid
Pernyataan 2
0.444
0.730
Valid
Pernyataan 3
0.444
0.730
Valid
Pernyataan 4
0.444
0.484
Valid
Pernyataan 5
0.444
0.743
Valid
Pernyataan 6
0.444
0.803
Valid
Lingkungan Kerja
(X2)
Pernyataan 1
0.444
0.785
Valid
Pernyataan 2
0.444
0.725
Valid
Pernyataan 3
0.444
0.606
Valid
Variabel
Item
r tabel
r hitung
Keterangan
Kinerja Karyawan
(Y)
Pernyataan 1
0.444
0.778
Valid
Pernyataan 2
0.444
0.716
Valid
Pernyataan 3
0.444
0.755
Valid
Pernyataan 4
0.444
0.810
Valid
Sumber : Olah Data SPSS Sumber : Olah Data SPSS Dari tabel di atas dapat disimpulkan bahwa seluruh item pernyataan dinyatakan
valid atau layak karena hasil R hitung > R tabel. Tabel 3
Hasil Uji Reliabilitas
Variabel
Cronbach’s Alpha
r tabel
Keterangan
Motivasi (X1)
0.747
0.60
Reliabel
Lingkungan Kerja (X2)
0.790
0.60
Reliabel
Kinerja Karyawan (Y)
0.762
0.60
Reliabel
Sumber : Olah Data SPSS Hasil di atas dapat disimpulkan bahwa semua variable dinyatakan reliable karena
memiliki nilai Cronbach alpha> 0.60. Uji Normalitas Gambar di atas mempertegas bahwa model regresi yang diperoleh beristribusi
normal, dimana data menyebar di sekitar garis diagonal dan mengikuti arah garis
diagonal atau grafik histogramnya menunjukkan pola distribusi normal. Sehingga dapat
disimpulkan bahwa data dalam penelitian ini berdistribusi normal. 222 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Gambar 1
Hasil Uji Normalitas
Uji Multikolinearitas
Tabel 4
Hasil Uji Multikolinearitas
Variabel
Tolerance
VIF
Keterangan
Motivasi (X1)
0.764
1.309
Bebas Multikolinearitas
Lingkungan Kerja (X2)
0.764
1.309
Bebas Multikolinearitas
Sumber : olah data SPSS 2021
Dilihat dari tabel di atas, dapat diketahui bahwa semua variabel X (Motivasi dan
Lingkungan Kerja) memiliki nilai tolerance > 0,1 dan VIF < 10, maka dapat diartikan
bahwa tidak terdapat gangguan multikolinearitas pada penelitian tersebut. Sumber: Olah Data SPSS Versi 16, 2021 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Gambar 1
Hasil Uji Normalitas
Sumber: Olah Data SPSS Versi 16, 2021 Gambar 1
Hasil Uji Normalitas
Sumber: Olah Data SPSS Versi 16, 2021 Gambar 1
Hasil Uji Normalitas Sumber: Olah Data SPSS Versi 16, 2021 Sumber: Olah Data SPSS Versi 16, 2021 Uji Multikolinearitas Uji Multikolinearitas Uji Multikolinearitas
Tabel 4
Hasil Uji Multikolinearitas
Variabel
Tolerance
VIF
Keterangan
Motivasi (X1)
0.764
1.309
Bebas Multikolinearitas
Lingkungan Kerja (X2)
0.764
1.309
Bebas Multikolinearitas
Sumber : olah data SPSS 2021 Tabel 4
Hasil Uji Multikolinearitas Dilihat dari tabel di atas, dapat diketahui bahwa semua variabel X (Motivasi dan
Lingkungan Kerja) memiliki nilai tolerance > 0,1 dan VIF < 10, maka dapat diartikan
bahwa tidak terdapat gangguan multikolinearitas pada penelitian tersebut. Uji Heteroskedastisitas Dari gambar di atas diketahui bahwa scatterplot membentuk titik – titik yang
menyebar secara acak dengan tidak membentuk pola yang jelas. Hal ini menunjukkan
bahwa tidak ada masalah heterokedastisitas. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 223
Gambar 2
Hasil Uji Heterokedastisitas
Sumber : Olah Data SPSS 2021 223 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Analisis Regresi Linear Berganda Analisis Regresi Linear Berganda Dari perhitungan regresi didapatkan persamaan sebagai berikut: Y = 1.063 + 0.460 (
) + 0.301 (X2) Y = 1.063 + 0.460 (
) + 0.301 (X2) Berdasarkan persamaan regresi di atas, maka dapat dijelaskan sebagai berikut : 1. Nilai Konstanta 1.063 mempunyai arti bahwa apabila variabel motivasi (
),
lingkungan kerja (X2) terhadap kinerja karyawan (Y) sama dengan nol, maka
variabel kinerja karyawan akan tetap yaitu 1.063. 1. Nilai Konstanta 1.063 mempunyai arti bahwa apabila variabel motivasi (
),
lingkungan kerja (X2) terhadap kinerja karyawan (Y) sama dengan nol, maka
variabel kinerja karyawan akan tetap yaitu 1.063. j
y
p y
2. Koefisien regresi
, sebesar 0.460 mempunyai makna jika nilai variabel motivasi (
) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.460
dengan asumsi variabel lingkungan kerja (X2) dianggap tetap. 2. Koefisien regresi
, sebesar 0.460 mempunyai makna jika nilai variabel motivasi (
) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.460
dengan asumsi variabel lingkungan kerja (X2) dianggap tetap. 3. Koefisien regresi
, sebesar 0.301 mempunyai makna jika nilai variabel lingkungan
kerja (
) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.301
dengan asumsi variabel motivasi (
) dianggap tetap. 3. Koefisien regresi
, sebesar 0.301 mempunyai makna jika nilai variabel lingkungan
kerja (
) naik satu satuan maka nilai kinerja karyawan (Y) akan naik sebesar 0.301
dengan asumsi variabel motivasi (
) dianggap tetap. Tabel 5
Hasil Analisis Regresi Linear Berganda
Coefficientsa
Model
Unstandardized
Coefficients
Standardized
Coefficients
t
Sig. B
Std. Error
Beta
1
(Constant)
Motivasi
Lingkungan Kerja
1.063
1.058
1.004
.320
.460
.042
.777
11.020
.000
.301
.095
.223
3.160
.003
a. Dependent Variable: kinerja karyawan
Sumber : olah data SPSS 2021
Koefisien Determinan (R2)
Tabel 4.12
Nilai Koefisien Determinasi Hasil Penelitian
Model Summaryb
Model R
R Square
Adjusted
R
Square
Std. Error of
the Estimate
Durbin-Watson
1
.906a
.821
.814
.96528
2.058
a. Predictors: (Constant), Lingkungan Kerja, Motivasi
b. Dependent Variable: Kinerja Karyawan
Sumber : olah data SPSS 2021 Tabel 5
Hasil Analisis Regresi Linear Berganda Koefisien Determinan (R2) Koefisien Determinan (R2) Berdasarkan tabel di atas dapat diketahui nilai koefisien determinasi R square(
)
diperoleh nilai sebesar 0.821. Nilai ini mempunyai arti bahwa variabel motivasi (
), Berdasarkan tabel di atas dapat diketahui nilai koefisien determinasi R square(
)
diperoleh nilai sebesar 0.821. Nilai ini mempunyai arti bahwa variabel motivasi (
), 224 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 224 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis lingkungan kerja (X2) terhadap kinerja karyawan (Y). Menunjukkan nilai sebesar
82,1% terhadap kinerja karyawan (Y) karyawan pada PT. Curup Mandiri Jaya,
sedangkan sisahnya sebesar 0.179 atau 17,9 % dipengaruhi oleh variabel lain yang
tidak masuk dalam penelitian ini. lingkungan kerja (X2) terhadap kinerja karyawan (Y). Menunjukkan nilai sebesar
82,1% terhadap kinerja karyawan (Y) karyawan pada PT. Curup Mandiri Jaya,
sedangkan sisahnya sebesar 0.179 atau 17,9 % dipengaruhi oleh variabel lain yang
tidak masuk dalam penelitian ini. Uji T Uji T
Tabel 4.13
Hasil Pengujian Hipotesis dengan Uji t
Coefficientsa
Model
Unstandardized
Coefficients
Standardized
Coefficients
Thitung
Ttabel
Sig. B
Std. Error
Beta
1
(Constant)
Motivasi
Lingkungan Kerja
1.063
1.058
1.004
.320
.460
.042
.777 11.020 2.01174 .000
.301
.095
.223
3.160 2.01174 .003
a. Dependent Variable: Kinerja Karyawan
Sumber : olah data SPSS 2021 Tabel 4.13
Hasil Pengujian Hipotesis dengan Uji t
Coefficientsa Melalui perhitungan yang dilakukan dengan menggunakan program SPSS, maka
perbandingan antara
dengan
(n-k-1) = 50 - 2 - 1 = 47 (2.01174) setiap variabel
sebagai berikut : 1. Motivasi, diperoleh thitung> ttabel (11.020 > 2.01174) dan (sig < = 0,000 < 0,050),
hal tersebut menyatakan adanya pengaruh motivasi (X1) secara positif dan signifikan
terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. p
j
y
p
p
y
2. Lingkungan kerja, diperoleh thitung> ttabel (3.160 > 2.01174) dan (sig < = 0,003 <
0,050), hal tersebut menyatakan adanya pengaruh lingkungan kerja (X2) secara
positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. 2. Lingkungan kerja, diperoleh thitung> ttabel (3.160 > 2.01174) dan (sig < = 0,003 <
0,050), hal tersebut menyatakan adanya pengaruh lingkungan kerja (X2) secara
positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 225
Uji F
Tabel 4.14
Hasil Pengujian Hipotesis dengan Uji F
ANOVAb
Model
Sum of
Squares
df
Mean
Square
F
Sig. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Koefisien Determinan (R2) 1 Regression
201.487
2
100.744
108.122
.000a
Residual
43.793
47
.932
Total
245.280
49
a. Predictors: (Constant), Lingkungan Kerja, Motivasi
b. Dependent Variable: Kinerja Karyawan
Sumber : olah data SPSS 2021 Tabel 4.14
Hasil Pengujian Hipotesis dengan Uji F
ANOVAb http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 22 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 22 225 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Berdasarkan tabel uji hipotesis dengan uji F di atas diperoleh
>
yaitu
(108.122 > 3.199) dan (sig < = 0.000 < 0,050), maka dengan demikian dapat
disimpulkan bahwa secara simultan atau bersama-sama terdapat pengaruh antara
variabel motivasi (X1) dan lingkungan kerja (X2) terhadap kinerja karyawan (Y) pada
PT. Curup Mandiri Jaya. Pengaruh Motivasi Terhadap Kinerja Karyawan Pengaruh Motivasi Terhadap Kinerja Karyawan Hasil penelitian ini menunjukkan bahwa motivasi memiliki pengaruh yang
positif dan signifikan terhadap kinerja karyawan (Y) pada PT. Curup Mandiri Jaya. Dengan adanya motivasi yang baik tujuan organisasi dapat tercapai serta tercapai pula
tujuan pribadi. Perwujudan kinerja yang maksimal, dibutuhkan suatu dorongan untuk
memunculkan kemauan dan semangat kerja, yaitu dengan motivasi (Yuniarti, et al.,
(2021). Motivasi mempersoalkan bagaimana cara mengarahkan daya dan potensi agar
bekerja mencapai tujuan yang ditentukan Pada dasarnya seorang bekerja karena
keinginan memenuhi kebutuhan hidupnya. Dorongan keinginan pada diri seseorang
dengan orang yang lain berbeda sehingga perilaku manusia cenderung beragam di
dalam bekerja. Dalam penelitian Onsardi, et al., (2021) dan Finthariasari & Saputri
(2020) menyebutkan bahwa kinerja salah satunya dipengaruhi oleh motivasi kerja dan
lingkungan kerja. Pengaruh Lingkungan Kerja Terhadap Kinerja Karyawan Pengaruh Lingkungan Kerja Terhadap Kinerja Karyawan
Hasil penelitian ini menunjukkan bahwa Lingkungan Kerja memiliki pengaruh
yang positif dan signifikan terhadap Kinerja Karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa dengan adanya lingkungan kerja yang baik serta positif akan sangat baik
dampaknya bagi kinerja para karyawan. Lingkungan kerja yang segar, nyaman, dan
memenuhi standart kebutuhan layak akan memberikan kenyamanan bagi karyawan
dalam melakukan tugas dan pekerjaanya. Hal ini sesuai dengan teori dari (Nitisemito,
2000). Lingkungan kerja merupakan segala sesuatu yang mempengaruhi karyawan
dalam menjalankan tugas dan pekerjaanya yang dibebankan perusahaan. Lingkungan
kerja yang nyaman akan membuat karyawan merasa nyaman dalam menyelesaikan
tugasnya. Hasil penelitian ini sejalan dengan penelitian Irwanto, et al., (2020) dan Fitri,
et al., (2022). Syaiful Bahri (2019) dalam penelitian yang berjudul Pengaruh
penempatan, motivasi dan lingkungan kerja terhadap kinerja pegawai. Hasil penelitian
ini menunjukkan bahwa penempatan yang tepat dan sesuai dengan kemampuan yang
dimiliki akan menimbulkan motivasi yang lebih guna menunjukkan kinerja yang
maksimal. Selain itu, lingkungan kerja yang baik dan kondusif juga tidak kalah
pentingnya untuk dapat menunjang kinerja yang baik. Pengaruh Motivasi dan Lingkungan Kerja Terhadap Kinerja Karyawan
Hasil dari penelitian ini menunjukkan bahwa motivasi yang baik dari para
karyawan serta didukung dengan lingkungan kerja yang kondusif serta nyaman akan
sangat berdampak baik terhadap peningkatan kinerja para karyawan. Oleh karenanya,
pihak perusahaan harus dapat menjaga dan meningkatkan motivasi kerja yang dimiliki
oleh setiap karyawannya supaya dapat bekerja secara maksimal sesuai dengan apa yang 226 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis telah ditargetkan perusahaan. Hasil penelitian ini sejalan dengan penelitian Ragil Permanasari (2013) dalam
penelitian yang berjudul Pengaruh motivasi dan lingkungan kerja terhadap kinerja
karyawan di PT. Anugrah Raharjo Semarang. Penelitian Aurelia putu (2013) dalam
penelitian yang berjudul Kepemimpinan, motivasi dan lingkungan kerja terhadap
kinerja karyawan pada kanwil ditjen kekayaan Negara suluttenggo dan Maluku utara di
manado. Dari hasil uji koefisien determinasi R2 dapat dilihat bahwa semua variabel
bebas (x) memiliki pengaruh yang kuat dan dominan terhadap variabel terikat (y) yaitu
sebesar 82,1 %. Hal ini berarti bahwa penurunan kinerja karyawan pada PT. Curup
Mandiri Jaya dikarenakan oleh Motivasi dan Lingkungan Kerja yang belum begitu baik
dan masih harus terus diperbaiki kedepannya agar kinerja karyawan dapat meningkat. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesimpulan Berdasarkan hasil penelitian yang telah dilakukan tentang “Pengaruh Motivasi dan
Lingkungan Kerja terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Maka dapat
disimpulkan sebagai berikut : p
g
1. Motivasi berpengaruh positif dan signifikan Terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa dengan adanya motivasi yang baik tujuan
organisasi dapat tercapai serta tercapai pula tujuan pribadi. 2. Lingkungan Kerja berpengaruh signifikan Terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa dengan adanya lingkungan kerja yang baik
serta positif akan sangat baik dampaknya bagi kinerja para karyawan. 3. Motivasi dan Lingkungan Kerja berpengaruh signifikan Terhadap kinerja
karyawan pada PT. Curup Mandiri Jaya. Artinya bahwa motivasi yang baik dari
para karyawan serta didukung dengan lingkungan kerja yang kondusif serta
nyaman akan sangat berdampak baik terhadap peningkatan kinerja para karyawan. Saran Wirawan. (2013). Pengaruh motivasi terhadap kinerja pegawai studi kasus pad
pegawai puskesmas turen. y
Saran Berdasarkan hasil penelitian yang telah dilakukan tentang “Pengaruh Motivasi
dan Lingkungan Kerja terhadap kinerja karyawan pada PT. Curup Mandiri Jaya. Maka
saran yang dapat diberikan adalah sebagai berikut : 1. Pada Variabel Motivasi, Terdapat nilai tertinggi pada pernyataan (Saya sangat
termotivasi dengan tanggung jawab yang diberikan kepada saya) diangka 3,62. Disarankan pada pihak perusahaan untuk terus menumbuhkan motivasi pada diri
setiap karyawannya supaya bisa lebih baik lagi kedepannya. Motivasi ini bisa
timbul baik dari dalam diri seseorang itu sendiri maupun dari para rekan kerja
ataupun pimpinan perusahaan. 2. Pada Variabel Lingkungan Kerja, terdapat nilai tertinggi pada pernyataan
(Hubungan yang terjalin antara sesama rekan kerja berjalan baik dan harmonis)
diangka 3,72. Disarankan pada pihak perusahaan untuk dapat memperbaiki
hubungan yang kurang harmonis ini menjadi kembali baik dan bisa berdampak
positif pada kinerja karyawan maupun perusahaan pada umumnya. 3. Pada Variabel Kinerja Karyawan, terdapat nilai tertinggi pada pernyataan
(Kuantitas kerja yang saya hasilkan sudah sesuai dengan yang ditargetkan) diangka
3,42. Meskipun secara umum kinerja para karyawan ini terbilang cukup baik, 227 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis namun hal ini masih belum bisa memenuhi target yang telah ditatapkan oleh
perusahaan. Hal ini harus menjadi perhatian serius bagi perusahaan guna
meningkatkan kinerjanya kedepan. Disarankan pada pihak perusahaan untuk dapat
lebih memperketat kembali penerapan SOP dari para karyawan, agar hasilnya nanti
bisa sesuai dengan apa yang diharapkan. DAFTAR RUJUKAN
Apriyanti, R., Bahrun, K., & Finthariasari, M. (2020). Pengaruh Kepemimpinan ,
Reward Dan Punishment Terhadap Kinerja Karyawan ( Studi Kasus Pada PT . K3
/ SIL Ketahun Begkulu Utara ). Entrepreneur Dan Manajemen Sains, 1(2), 189–
194. DAFTAR RUJUKAN Arikunto, S. (2010). Prosedur Penelitian Suatu Pendekatan Praktik. Rineka Cipta. Finthariasari, M., & Saputri, D. (2020). Analisis Minat, Motivasi, Pekerjaan Yang
Diharapkan, & Lingkungan Belajar Terhadap Keputusan Mahasiswa Memilih
Program S1 Fakultas Ekonomi (Studi Pada Mahasiswa Ekonomi Di Perguruan
Tinggi Kota Bengkulu). Jurnal Manajemen Modal Insani Dan Bisnis (JMMIB),
1(2), 183–191. http://jurnal.imsi.or.id/index.php/jmmib/article/view/21 Hasibuan, M. (2016). Manajemen Sumber Daya Manusia. Bumi Aksara. Mangkunegara, A. A. A. P. (2009). Manajemen sumber daya manusia. Remaja
Rosdakarya. Mathis, R. L., & Jackson, J. H. (2016). Human Resource Management (10th ed.). Salemba Empat. Nitisemito, A. S. (2000). Manajemen Personalia: Manajemen Sumber Daya Manusia,
Ed. 3. Graha Indonesia. Robbins, S. P. (2008). Perilaku Organisasi (alih bahasa Drs. Benjamin Molan), Edisi
Bahasa Indonesia. PT Intan Sejati. Sari, L. P., Islamuddin, & Finthariasari, M. (2020). Pengaruh Etos Kerja dan
Lingkungan Kerja Terhadap Produktivitas Kerja Karyawan Pada Industri Kerupuk
As-Syifa Kota Bengkulu. Jurnal Entrepreneur Dan Manajemen Sains, 1(2), 216–
221. Sedarmayanti. (2011). Manajemen Sumber Daya Manusia. Reformasi Birokrasi dan
Manajemen Pegawai Negeri Sipil. PT Refika Aditama. Siagian. (2014). Manajemen Sumber Daya Manusia. Bumi Aksara. Sugiyono. (2013). Metode Penelitian Kuantitatif, Kualitatif dan R&D. CV. Alfa Sunyoto. (2012). Psikologi Industri dan Organisasi. Universitas Indonesia. Winardi. (2016). Pengaruh motivasi dan disiplin kerja Terhadap kinerja karyawan. INSAN, 8(3). Wirawan. (2013). Pengaruh motivasi terhadap kinerja pegawai studi kasus pada
pegawai puskesmas turen. 228 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ABSTRACT The performance of medium-sized MSMEs is a
description of the performance conditions of an
MSME which is analyzed by four perspectives of
finance, customers, internal business, learning and
growth. This study aims to determine the
performance of Enggal Furniture using the balance
scorecard method. The type of data used in this
study is qualitative data while the data sources are
primary, secondary. Data collection methods are
carried out using documentation, interviews. Data
analysis
techniques
using
balance
scorecard
analysis with four perspectives, namely: financial
perspective, customer perspective, internal business
process perspective, and growth and learning. The
results of the financial perspective research net
profit margin performance level is quite good gross
profit margin performance level is very good and
good. Customer perspective, customer retention
performance level is quite good and good while
customer acquisition performance level is quite
good. Internal
business
process
perspective,
Innovation performance level is not good, AETR is
at a bad performance level. While the growth and
learning perspective for employee performance
levels is included in the performance level is not
good. Keywords:
MSME Performance & Balanced
Scorecard http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ANALYSIS OF THE APPLICATION OF BALANCED
SCORECARD TO THE PERFORMANCE OF MICRO SMALL
MEDIUM ENTERPRISES ENGGAL FURNITURE INDUSTRY Ikbal Mahadi Aziz1 , Ummul Khair2
Universitas Muhammadiyah Bengkulu1-2
ikbalmahadiazizaziz@gmail.com1, ummulkhair@umb.ac.id2 Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: ikbalmahadiazizaziz@gmail.com Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: ikbalmahadiazizaziz@gmail.com Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: ikbalmahadiazizaziz@gmail.com
INFORMASI ARTIKEL
ABSTRACT
Riwayat Artikel:
Diterima : 08 Juni 2023
Direvisi : 14 Juli 2023
Disetujui : 24 Juli 2023
The performance of medium-sized MSMEs is a
description of the performance conditions of an
MSME which is analyzed by four perspectives of
finance, customers, internal business, learning and
growth. This study aims to determine the
performance of Enggal Furniture using the balance
scorecard method. The type of data used in this
study is qualitative data while the data sources are
primary, secondary. Data collection methods are
carried out using documentation, interviews. Data
analysis
techniques
using
balance
scorecard
analysis with four perspectives, namely: financial
perspective, customer perspective, internal business
process perspective, and growth and learning. The
results of the financial perspective research net
profit margin performance level is quite good gross
profit margin performance level is very good and
good. Customer perspective, customer retention
performance level is quite good and good while
customer acquisition performance level is quite
good. Internal
business
process
perspective,
Innovation performance level is not good, AETR is
at a bad performance level. While the growth and
learning perspective for employee performance
levels is included in the performance level is not
good. Keywords:
MSME Performance & Balanced
Scorecard http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu and customers. Globally, the growth of MSMEs in Indonesia must be able to bring about
change and the emergence of a sector. Economic growth and the creation of new
jobs are greatly helped by micro, small, and medium enterprises (MSMEs). Small
and micro enterprises account for more than 80% of business units in Indonesia. As
the number of MSMEs in Indonesia increases significantly to more than 64 million
by 2022, they are the backbone of the country's economy. The term "micro, small,
and medium enterprises", more commonly abbreviated as "MSMEs", refers to a
significant sector of the economy. Micro, Small, and Medium Enterprises are small
and medium enterprises of the people that must be protected against unfair
competition. MSMEs in Indonesia basically contributed to the emergency period of
1998 to the 2000s. With the establishment of the Ministry of Cooperatives and
MSMEs Portfolio, MSMEs in Indonesia received attention and direction from the
government (Sains et al., 2022). g
The existence of MSMEs in society cannot be avoided or eliminated, as they
have the potential to improve how people's income is distributed. On the other hand,
it can also preserve local culture while encouraging creativity in the same direction. The justification for why MSMEs can generate and will more often than not
increase. The majority of MSMEs do not receive capital from other parties but
rather use their own capital (Saputra, 2022). Tambunan Claim (2013) MSMEs are productive independent business units
engaged in all economic sectors and run by individuals or business entities. as
required by law. The numbers relating to micro, small, and medium enterprises are
as follows: a) Miniature business is a useful business owned by an individual or prospective
individual business material that meets the miniature business standards as
stipulated in the law. a) Miniature business is a useful business owned by an individual or prospective
individual business material that meets the miniature business standards as
stipulated in the law. b) Small businesses are profitable independent businesses run by individuals or
business entities that are not subsidiaries or branches of companies owned,
controlled, or part of medium or large businesses that meet business criteria. Small
as located in the law. INTRODUCTION The globalization era, significant business in terms of product competition,
marketing, resource management (HR), and interpersonal relationships have
emerged as a result of the development of an increasingly competitive business
environment. This business continues to grow rapidly between commercial entities 228 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis and customers. and customers. As a result, performance
measurement tools are needed to determine the extent to which the strategies and
objectives they have set can be met. Since it is possible to determine the efficacy of
strategy determination by evaluating performance, evaluation plays an important
role in the business world. In the business world, performance evaluation can
identify weaknesses and shortcomings in a company and show how it can be
improved in the future by implementing strategies within a certain period of time
(Dewantoro, 2021). The proposed work steps to assess strategy implementation for MSMEs will
be the subject of research with reference to the Balanced Scorecard method. Measuring the performance of MSMEs is a very important thing to do by a strategic
business sector chosen by MSMEs in business competition. is something that will
be looked at and changed in the research to find the best way to measure the
performance of MSME organizations. p
g
Performance measurement allows businesses, particularly MSMEs (Enggal
Furniture Industry), to see how well they are performing. Provides data that can be
used to assess and improve performance. As is known, until now the presentation
estimation used is an execution estimation that focuses on the monetary aspect and
pays less attention to the non-monetary aspects of the execution itself. Meanwhile,
financial aspects in performance measurement have not been expert in displaying
the overall performance of the company (Alimudin et al., 2019). As an exhibition assessment framework for the Enggal Furniture Industry, it
has been done very well even though it has only been done by the leader group. The
benefits and weaknesses of execution in each viewpoint influence both directly and
indirectly the execution in various viewpoints up to the monetary viewpoint. The
concept of Balanced Scorecard was developed by Kaplan and Norton in 1992. Balanced Scorecard is a performance assessment method that measures both
financial and non-financial aspects of a company with adjustments to the strategies
and goals of each company. The performance of the non-financial perspective can
be considered quite good, but improvements and improvements are still needed in
several aspects.On the other hand, the performance of the financial perspective has
decreased although not significantly. From the initial use of the Fair Scorecard in
1992, organizations that took part in the review showed an increase in the
organization's financial exhibition. and customers. c) Medium Business is a productive business that stands alone and is run by a
person or business that is not a subsidiary or branch of a business that is owned,
controlled, or is part of either directly or indirectly with a small business or a large
business that has a lot of wealth. net or annual sales figures as required by law
(Dzulhadi et al., 2022). c) Medium Business is a productive business that stands alone and is run by a
person or business that is not a subsidiary or branch of a business that is owned,
controlled, or is part of either directly or indirectly with a small business or a large
business that has a lot of wealth. net or annual sales figures as required by law
(Dzulhadi et al., 2022). The rapid growth of micro, small, and medium enterprises (MSMEs) has
resulted in strategic competition among MSMEs, as well as changes in the
relationship between MSMEs and their customers, sales strategies, and English. Furniture Industry Business. In order for businesses to progress in the future,
competent MSME leaders are required. Given that the main goal of Enggal
Furniture Industry Company is to offer the best service to its clients (Pratiwi, 2021). The development pattern is changed from traditional to professional (using
technology) and from relying on conventional performance assessment to data
technology-based performance assessment in order to become superior MSMEs. 229 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis The community's need for the Enggal Furniture Industry can help and increase
public confidence in the business world. To generate synergy and excellence. The community's need for the Enggal Furniture Industry can help and increase
public confidence in the business world. To generate synergy and excellence. So that small businesses in the food industry must use business performance
analysis to determine the right strategic steps. SMEs in the industrial sector analyze
the balanced scorecard for SMEs. In the industrial sector (Rengganis & Yogaswara,
2017) MSME must choose a management strategy. The head of the business field
has agreed on a set of work objectives, so the formulation of the strategy will be a
significant reference and foundation for work. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu and customers. According to (Yeremina, 2022) the term
"balanced" indicates that there should be continuity between financial and non-
financial measurement aspects in this performance measurement. Financial, customer, business process/internal, and growth learning are the
four perspectives covered by the Balanced Scorecard performance indicator set. The 230 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis monetary point of view will show whether the preparation and execution of the
organization's strategy gives a central increase to the organization's profits, the client
point of view to know the number of clients there are and how much consumer
loyalty there is with the organization's administration, the internal business point of
view enables the board to know how well their business is doing and whether what
they give meets the needs of the clients. Conversely, organizational procedures,
computer systems, and human resources all contribute to the learning and growth
perspective. Businesses use the Balanced Scorecard to achieve a balance between financial
and non-financial performance, as well as short-term and long-term performance. The Balanced Scorecard is a fairly comprehensive method of looking at
performance from four angles different perspectives so that the financial success it
generates can be long-lasting (Saputra, 2022). Research conducted by Arya Adam Dzulhadim on the application of BSC to
improve the performance of MSMEs from four different perspectives can make a
significant contribution to the performance of a company. This shows that MSMEs
always focus on ensuring that customers are satisfied with their products and
services by gaining their trust through product quality. With productive and
dedicated support, employees will be able to deliver goods and services effectively,
consistently, and on time. Research conducted (Dzulhadi et al., 2022) In contrast, the performance of
MSME drinking water depots in Gorontalo City, which reached 81.319% in the
"achieving minimal targets" category, shows that the drinking water depots'
performance has not yet had a significant impact but is still below expectations from
financial and non-financial aspects. This minimal financial performance is a
response to the number of drinking water depots in Gorontalo City that were closed
due to financial and operational problems and had their licenses revoked for not
paying attention to hygiene. and customers. The research contrast (Mawuntu & Aotama, 2022) on UMKM Millennium
Snack Bintang which experienced an increase in sales in 2020 when compared to
the previous year, both customer perspectives at UMKM Bintang Snack experienced
an increase in customers and had a significant impact on sales during the same time
period. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Balanced Scorecard According to Kaplan & Norton (2000) the Balance Scorecard is a new
framework for interacting various measures outlined from the company's strategy. Apart from being seen from financial measures, the Balance Scorecard also
introduces performance including: customer perspectives, internal business
processes, and learning and growth in research. Meanwhile, according to (Mawuntu & Aotama, 2022) Scorecard is a system
approach to coordinate performance measures into an integrated and easy-to-
understand framework seen from 4 perspectives that set the goals of the company. There are so many aspects to consider in designing - designing a company's
competitive strategy. From internal aspects (such as the company's vision and
mission and human resources) to external aspects (such as consumer actors and
market trends). A system is needed so that the company is able to process its
competitive strategy. Balanced Scorecard The Balanced Scorecard, as defined by Kaplan and Norton (2000) in Sumarlan
& Setiadi (2022), is a new framework for integrating the various measures outlined in
corporate strategy. The Balance Scorecard not only shows performance based on
financial indicators but also includes: customer viewpoints, internal business
procedures, and learning and development research. The Balance Scorecard, on the other hand Finthariasari et al., (2020), is a
systems approach to coordinating performance measures into an integrated and
easy-to-understand framework viewed from four perspectives that define the 231 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis company's goals (Mawuntu & Aotama, 2022). When designing a company's
competitive strategy, there are many things to think about, including internal and
external factors, such as the company's vision and mission, human resources, and
respective consumer actors. In order for a business to process each of its strategies
as efficiently as possible, it needs a system that is able to integrate all these aspects. Balance Scorecard is one of the answers. Balanced Scorecard is a measurement and
management system that views a business unit from four perspectives: finance,
customers, internal business processes, and growth, as explained by (Chairunnisa et
al., 2022) Tabel 2.1 Standar hasil pengkuran kinerja. Rasio
Nilai
Bobot %
Skor
>70
100
7
7
50 – 70
75
7
5,25
25 – 50
50
7
3,5
< 25
25
7
1,75
Source: Regulation of the Minister of State for Cooperatives and Small and
Medium Enterprises of the Republic of Indonesia No. 20/Per/M.KUKM/XI/2008 Tabel 2.1 Standar hasil pengkuran kinerja. Rasio
Nilai
Bobot %
Skor
>70
100
7
7
50 – 70
75
7
5,25
25 – 50
50
7
3,5
< 25
25
7
1,75
Source: Regulation of the Minister of State for Cooperatives and Small and
Medium Enterprises of the Republic of Indonesia No. 20/Per/M.KUKM/XI/2008 Source: Regulation of the Minister of State for Cooperatives and Small and
Medium Enterprises of the Republic of Indonesia No. 20/Per/M.KUKM/XI/2008 Tabel 2.2 keterangan Standar (Nilai)
Rate (Nilai)
Tingkat Kinerja
A
Sangat Baik
B
Baik
C
Cukup Baik
D
Tidak Baik http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Financial Perspective The financial perspective is an important financial measure, but it is not
enough to direct performance in creating value for the organization. in its system
implementation, the balanced scorecard seeks a balance of performance measures, 232 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis both financial and non-financial to direct organizational performance towards
success Herlin & Yanti (2021). The goals of the financial perspective are
differentiated at each stage in the business cycle, which is divided into three stages,
namely the stages of development, survival and harvest. the financial perspective is
an important financial measure, but it is not enough to direct performance in
creating value for the organization. in the implementation of the system, the
balanced scorecard seeks to find a balance of performance measures, both financial
and non-financial, to direct organizational performance towards success. Financial
perspective goals are differentiated at each stage in the business cycle which is
divided into three stages, namely the stages of development, survival and harvest,
Financial Perspective Measurement sets short-term and long-term financial
performance goals that refer to the global financial consequences of the other three
perspectives. Financial performance measurement will show whether the planning
and implementation of a company's strategy provides fundamental improvements to
the company's profits. Financial performance measurement considers the life cycle
of a business, including: MSME growth can be measured through profitability ratios
(Chairunnisa et al., 2022). both financial and non-financial to direct organizational performance towards
success Herlin & Yanti (2021). The goals of the financial perspective are
differentiated at each stage in the business cycle, which is divided into three stages,
namely the stages of development, survival and harvest. the financial perspective is
an important financial measure, but it is not enough to direct performance in
creating value for the organization. in the implementation of the system, the
balanced scorecard seeks to find a balance of performance measures, both financial
and non-financial, to direct organizational performance towards success. Financial Perspective Financial
perspective goals are differentiated at each stage in the business cycle which is
divided into three stages, namely the stages of development, survival and harvest,
Financial Perspective Measurement sets short-term and long-term financial
performance goals that refer to the global financial consequences of the other three
perspectives. Financial performance measurement will show whether the planning
and implementation of a company's strategy provides fundamental improvements to
the company's profits. Financial performance measurement considers the life cycle
of a business, including: MSME growth can be measured through profitability ratios
(Chairunnisa et al., 2022). Internal Business Process Perspective The company provides a value proposition that will attract and retain
customers in the target market segment and meet the expectations of high financial
returns for shareholders. done using value-chain analysis where management
identifies critical internal business processes that the company should excel at. The
scorecard method in this perspective allows management to find out how well their
business is running and whether the services they provide match the specifications
that customers want (Kurniasari et al., 2017). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Customer Perspective Sustain, and harvest. Each stage has different goals, so the emphasis on
measurement is different too. Financial performance measurement for In the
customer perspective, managers identify the customers and market segments in
which the business unit will compete and the various measures of business unit
performance within the target segment. This perspective usually consists of several
key or generic measures of the company's success from a well-formulated and
executed strategy. The philosophy of company leaders has shown an increase in the
importance of customer focus and customer satisfaction. This perspective is a key
indicator. If customers are not satisfied they will certainly look for a place that suits
their desires. Poor performance from this perspective will certainly reduce the
number of customers in the future even though financial performance may look
better (Riyana, 2021). RESEARCH METHODS The subject of the research is Mr. Aziz Mustafi who is the Manager of the
Enggal Furniture shop. The object of research is the subject matter to be examined
to obtain data in a more directed manner. The objects of research include: Profit and
loss statements for 3 years, knowing how many customers, knowing how much
inventory of goods per year. Data Analysis Technique is make an Interview and
documentation. Learning and Growth Perspective Identifies the infrastructure that the company must build in order to create
long-term growth and performance improvement. The learning and growth process
comes from HR factors, computer systems, and organizational procedures. 233 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS
Vol. 6, No. 2 / Juli 202
Online ISSN: 2655-6359, Print ISSN: 2656-436
DOI: https://doi.org/10.36085/jam-ek Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Employee training is included in this perspective as well as corporate culture related
to individual and corporate improvement. The organization also creates conditions
for easy communication among workers so that they can get help if they encounter
a problem. In this perspective there are three categories that companies can use as
benchmarks. These include: (Funam Islamidina & Epi Fitriah, 2022) Figure 2.1
Theoretical Framewor
Financial Report
Enggal Furniture
Customer Perspective
Internal Business Process Perspective
Learning and Growth Perspective
Belanced Scorecard
Financial Perspective
Financial Performance
Analysis Financial Report
Enggal Furniture Belanced Scorecard Internal Business Process Perspective Financial Perspective Customer Perspective Learning and Growth Perspective Financial Performance
Analysis Customer Acquisition Means additional new customers. This means that Enggal Furniture wins or
seizes new customers from competitors Customer acquisition can be calculated in a
way (Ikhram. 2019) Customer Acquisition = (New Customers)/(Total Customers) x 100% Operation Process p
The operations process is the process of creating and delivering services. Performance measurements related to the operations process are grouped into time,
quality and cost. This measurement can be done by comparing the administrative
costs of Meubel Enggal with total revenue. AETR=(Administrative Costs)/(Total Revenue) x 100% Internal Business Process Perspective
Innovation Process Measurement of innovation in Maubel Enggal can be analyzed descriptively
through secondary data. The innovation process aims to understand the development
of product or service services offered. The more innovation increases, the better. The formula used Customer Retention This measurement is used to see whether Meubel Enggal is able to retain its
old customers. The formula for this measurement is as follows Customer Retention = (Old Customers) / (Total Customers) x 100% Gross Profit Margin Gross Profit Margin is gross profit margin, used to analyze financial
performance by calculating the amount of money available from sales/revenue. GPM is important because it is the beginning before the achievement of net profit,
when the company has a high gross profit margin, the company is in a better
position to have a large operating profit and a large profit. The formula is as
follows: Gross Profit margin = (Gross Profit)/Sales x 100% Financial perspective
Net profit margin Net profit margin is a ratio that serves to compare revenue with the total
money generated by the company. By knowing the company's NPM, we can
measure the value of the company's effectiveness during operation. The formula is
as follows Net Profit Margi=(Net Profit)/Revenue x 100% Net Profit Margi=(Net Profit)/Revenue x 100% 234 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Growth and Learning Perspective Measuring Net income /Employe. The productivity of a company's employee
performance can be measured from the net profit generated divided by the number
of workers with an increase in this ratio, the performance of employees contributes
to increasing revenue for the company. By calculating the net profit after tax or net
income divided by the number of employees in the company. y
p y
p
y
(Net Income)/(Total Employees) x100% 235 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis RESEARCH RESULTS AND DISCUSSION Tabel 4.3
Net Profit Margin
Years
Net Profit
Income
Presentation
2019- 2020
258 .700.000
550 .000.000
47 %
2020- 2021
108. 300.000
400 .000.000
27 %
2021- 2022
146. 3 00.000
450. 000.000
32 %
Source: processing data, 2023 Judging from the standard of financial performance shows numbers above 25-
50 Enggal furniture financial performance is quite good. Tabel 4.4
Gross Profit Margin
Years
Gross Profit
Sales
Presentation
2019- 2020
425. 900.000
550.000.000
77%
2020- 2021
291. 500.000
400.000.000
72%
2021- 2022
317. 500.000
450.000.000
70%
Source: processing data, 2023 Judging from the standard of financial performance shows numbers above >
70 Enggal furniture financial performance is very good and good.. Tabel 4.5
Customer Retention Calculation
Years
Old Customer
Tot. Customer
Presentation
2019- 2020
79
295
26%
2020- 2021
99
295
33%
2021- 2022
117
295
39%
Source: processing data, 2023 Tabel 4.5 p
g
Judging from the standard of financial performance, it shows a number above
25-50 The performance level of Enggal furniture customers is quite good. Tabel 4.6
Customer Acquisition Calculation
Years
New Customer
Tot. Customer
Presentation
2019- 2020
67
235
28%
2020- 2021
78
235
33%
2021- 2022
90
235
38%
Source: processing data, 2023 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 23 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 236 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Judging from the standard of financial performance, it shows a number above
25-50 The performance level of Enggal furniture customers is quite good. Tabel 4.7
Innovation Calculation
Years
New Products
Old Products
Presentation
2019-2020
100
5
20%
2020-2021
100
6
16%
2021-2022
100
4
25%
Source: processing data, 2023 Tabel 4.7
Innovation Calculation Innovation Calculation Judging from the standard of financial performance shows the number brought
< 25 The level of internal business performance of Enggal furniture is not good
enough. Tabel 4.8
Calculations AETR
Years
Admit Fees
Tot. Income
Presentation
2019- 2020
42 .000.000
550. 000.000
7%
2020- 2021
36 .000.000
400 .000.000
9%
2021- 2022
36 .000.000
450 .000.000
8%
Source: processing data, 2023 Tabel 4.8
Calculations AETR Judging from the financial performance standards show the number brought
<25 The level of internal business performance of Enggal furniture is not good. Financial Perspective Financial Perspective Net Profit Margin (NPM) is a measure of how well the company's assets work
together to generate profits and illustrates how Enggal Furniture's performance is
improving. Net Profit Margin (NPM) is used to measure financial performance
based on the findings of the research analysis. The percentage of 49% is in the fair
performance category for 2019 and 2020. Enggal Furniture still scored in the fair
performance category in 2020 and 2021 despite a decrease in the percentage gain
rate to 29% and continued inclusion in the fair performance financial performance
category. The 35% acquisition in 2021 and 2022 showed a moderately good
financial performance, up from 25% the previous year. It can be presumed that
Enggal Furniture's ability to use resources to generate profit after duty can be said
to be very large. By comparing gross revenue and net revenue, Enggal Furniture's ability to sell
goods or services is used to calculate Gross Profit Margin (GPM). In the year 2019 -
2020 of 77% is remembered with an excellent lath performance, then in the year
2020 - 2021 it decreased by 72% and the presentation level is remembered with an
admirable classification. Then in 2021 and 2022 the resulting percentage will again
decrease from the previous year by 70%. However, even though the Enggal
Furniture business has decreased, it is still classified as good because the percentage
is still above the performance standard, and the performance results show excellent
results. This shows the capacity of Enggal Furniture to grow and generate revenue. In addition, Enggal Furniture is able to manage its operational costs effectively and
efficiently, resulting in an annual profit that is even higher than the standard
financial performance value. The results from this financial perspective are still
stable as the proportion is above the standard. Customer Perspective Client maintenance shows the rate from 2019-2020 of 26% commemorated
for the presentation band is quite good, then in 2020-2021 of 33% this is also still
commemorated for the exhibition band which is quite good, and in 2021-2022 it
rose to 39%, considering that the secure execution is very good. As a result, it is
evident that the percentage increased by 7% in 2019-2020. There will be an increase
of 6% between 2021 and 2022. This indicates that the number of return customers
of Enggal Furniture is still very high and quite satisfactory. This happens because of
Enggal Furniture's ability to provide excellent service to customers. Securing Enggal Furniture customers in 2019-2020 got a level of 28% with a
fairly good presentation group, in 2020-2021 an increase of 33% was considered
very good after that there was another increase in 2021-2022 of 38% which is
remembered for a fairly good band performance so that there was a consistent
increase. Enggal Furniture because compared to the previous year, Enggal Furniture
still provides excellent service to customers. RESEARCH RESULTS AND DISCUSSION From the Table 4.9, Judging from the standard of financial performance
shows the number brought < 25 The growth performance level of Enggal furniture
is not good. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 237
Tabel 4.9
Net Income Calculation
Years
Net Income
Tot. Employee
Presentation
2019- 2020
258 .700.000
12
21%
2020- 2021
108. 300.000
12
9%
2021- 2022
146. 300.000
12
12%
Source: processing data, 2023
DISCUSSION http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 237
Tabel 4.9
Net Income Calculation
Years
Net Income
Tot. Employee
Presentation
2019- 2020
258 .700.000
12
21%
2020- 2021
108. 300.000
12
9%
2021- 2022
146. 300.000
12
12%
Source: processing data, 2023
DISCUSSION Tabel 4.9
Net Income Calculation
Years
Net Income
Tot. Employee
Presentation
2019- 2020
258 .700.000
12
21%
2020- 2021
108. 300.000
12
9%
2021- 2022
146. 300.000
12
12%
Source: processing data, 2023 Tabel 4.9 237 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Learning and Growth Perspective Considering the rate setting results for 2019-2020 of 22% considering the
lackluster display classification, the presentation level of Enggal Furniture depends
on the results from the perspective of learning and development which is not good. while in 2020-2021 it has decreased by 9%, and from the rate gain for the level of
implementation is delegated poorly. The performance level in 2021-2022 has
increased, and employees must continue to maintain and contribute to increasing
Enggal Furniture's revenue. Then for 2021-2022 it increased compared to the
previous year and reached a percentage of 13%. Internal Business Perspective Based on the table above, the following conclusions can be drawn: in 2019-
2020 it was 20% which was considered poor; in 2020-2021 it was 16% which was 238 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis also classified as poor; and in 2021-2022 it was 25% which was considered to be in
a pretty good performance band. So it is suspected that the slat work is not good
because so far the rate is still below 25%, so Enggal Furniture must increase product
development in its sales. Based on the results of the AETR calculation, the Enggal Furniture industry is
rated poorly according to the performance benchmark standard in 2019 and 2020 of
7% which is included in the poor performance band. In 2020 and 2021 it was 9%,
which is also included in the poor performance band. In 2021 and 2022 at 8%, it has
decreased to 1% caused by Covid-19. Conclusions The conclusions in this study: The financial performance perspective of Net Profit Margin shows quite good
results then the results of Gross Profit Margin measurement show that there are very
good results and there are good results. This means that in financial terms Enggal
Furniture is very good at its financial turnover. 1. Customer perspective, in the calculation of customer Reatansi for the
performance batten is quite good, then the calculation of customer acquisition
shows quite good results from the measurement results of the performance
batten. This means that Enggal Furniture is able to provide the services desired
by customers and is able to retain customers who are already owned. 2. The internal business process perspective shows good results on innovation
included in the performance batten is not good and some are good because there
is a decrease, while the AETR must be further improved because the resulting
percentage is still below the average performance batten standard is not good. 3. The learning and growth perspective shows the results of the performance batten
is not good. And there continues to be a decline every year. Therefore, employees
must contribute to increasing revenue at Enggal Furniture. Suggestions Suggestions in research, discussion and formulating related to this research
can then be used as input and consideration in the future. 1. For further researchers who will research using the balanced scorecard concept, it 239 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis is suggested that they add more indicators used, such as financial indicators plus
profitability ratios and liquidity ratios. is suggested that they add more indicators used, such as financial indicators plus
profitability ratios and liquidity ratios. 2. For the perspective of business growth and learning, it needs to be re-improved
because the results of the performance batten get unfavorable results. 2. For the perspective of business growth and learning, it needs to be re-improved
because the results of the performance batten get unfavorable results. 3. For future researchers who discuss the balanced scorecard to examine other
business sectors and not focus on just one place of business so that the research is
broader. 3. For future researchers who discuss the balanced scorecard to examine other
business sectors and not focus on just one place of business so that the research is
broader. 4. For internal business perspectives and learning and growth perspectives based on
the results of the research conducted are included in the performance batten is
not good, so that internal business perspectives and learning and growth
perspectives need to be improved again. 4. For internal business perspectives and learning and growth perspectives based on
the results of the research conducted are included in the performance batten is
not good, so that internal business perspectives and learning and growth
perspectives need to be improved again. 4. For internal business perspectives and learning and growth perspectives based on
the results of the research conducted are included in the performance batten is
not good, so that internal business perspectives and learning and growth
perspectives need to be improved again. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu REFERENCES Alimudin, A., Falani, A. Z., Mudjanarko, S. W., & Limantara, A. D. (2019). Analisis Pengaruh Penerapan Perspektif Balanced Scorecard Terhadap
Peningkatan Kinerja UMKM. Ekonika : Jurnal Ekonomi Universitas Kadiri,
4(1), 1. https://doi.org/10.30737/ekonika.v4i1.337 Chairunnisa, S. M., Salsabila, A., Aziza, A. R., & Rahmah, S. (2022). Implementasi
Manajemen Strategi Melalui Balanced Scorecard Pada UMKM Amelia Snack
Dan
Cookies. Jurnal
Bisnis
Dan
Manajemen,
18(1),
26–41. https://doi.org/10.23960/jbm.v18i0.307 Dewantoro, A. D. (2021). Pengaruh Penggunaan Balance Scorecard Terhadap
Kinerja Usaha Mikro Di Surabaya. Jurnal Kewirausahaan Dan Bisnis, 26(1),
55. https://doi.org/10.20961/jkb.v26i1.47530 p
g
j
Dzulhadi, A. A., Wulandari, P., Aziz, N. A., Windani, A., & Pratiwi, R. (2022). Seminar Nasional Akuntansi dan Manajemen Sekolah Tinggi Ilmu Ekonomi
AMA Salatiga. 127–136. Finthariasari, M., Febriansyah, E., & Pramadeka, K. (2020). Corporate Social
Responsibility
Disclosure:
A
Determinant
Analysis
(Case
Study
Manufacturing Companies Listed on the Indonesia Stock Exchange). International Journal of Trends in Accounting Research, 1(1), 22–36. Funam Islamidina, & Epi Fitriah. (2022). Analisis Penerapan Balanced Scorecard
dalam Meningkatkan Kinerja Manajerial. Jurnal Riset Akuntansi, 25–32. https://doi.org/10.29313/jra.v2i1.685 Herlin, & Yanti, R. T. (2021). Analisis Kinerja dan Rasio Keuangan pada PT. Pegadaian (Persero) Tahun 2018-2019. Jurnal Ilmiah Akuntansi, Manajemen
Dan Ekonomi Islam (JAM-EKIS), 4(1), 229–240. Kurniasari, V., Bisnis, P. M., Manajemen, P. S., Petra, U. K., & Siwalankerto, J. (2017). Verni Kurniasari dan Gesti Memarista. 5(1). Mawuntu, P. S. T., & Aotama, R. C. (2022). Pengukuran Kinerja UMKM
Berdasarkan Key Performance Indicators (KPI) Metode Balanced Scorecard. WACANA EKONOMI (Jurnal Ekonomi, Bisnis Dan Akuntansi), 21(1), 72–83. https://doi.org/10.22225/we.21.1.2022.72-83 240 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Pratiwi, M. A. (2021). No Title. Jurnal Manajerial Dan Bisnis TanjungpinanG,
4(2), 149–158. Rengganis, A. P., & Yogaswara, B. (2017). Perancangan Pengukuran Kinerja Pada
Dinas Koperasi Dan Ukm Di Kabupaten Majalengka Menggunakan
Pendekatan Balanced Scorecard Design of Performance Measurement System
At Cooperation and Sme Building in Majalengka District Using Balanced. E-
Proceeding of Engineering, 4(3), 4226–4234. Sains, J., Humaniora, S., Andini, R., Praptono, S., Sulistyawati, D. R., Semarang,
U. P., & Jepara, U. (2022). Pengaruh Penerapan Balance Scorecard Pada
Kinerja UMKM Di Kota Semarang. 6, 481–486. Saputra, M. U. H. A. (2022). (UMKM) Dengan Menggunakan Metode Balance
Scorecard (Studi pada Iloki Salon Kabupaten Gowa). SKRIPSI. THE INFLUENCE OF SERVICE RECOVERY AND PRODUCT
QUALITY ON CUSTOMER RETENTION (CASE STUDY OF PT.
BINTANG MOTOR, BENGKULU CITY) Reni Indriani1, Alvin Nia2
Universitas Muhammadiyah Bengkulu1-2
reniindriani@umb.ac.id1 , alvinnia250@gmail.com2 Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: reniindriani@umb.ac.id http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 242
INFORMASI ARTIKEL
ABSTRACT:
Riwayat Artikel:
Diterima : 15 Juni 2023
Direvisi : 07 Juli 2023
Disetujui : 26 Juli 2023
The purpose of this research is to find out whether lifestyle
and the Halal label affect purchasing decisions. The
sample of this research was Management Study Program
students at the University of Muhammadiyah Bengkulu,
totaling 90 respondents. Observation data collection
techniques, documentation and questionnaires. The data
that has been processed is analyzed using the SPSS 24
Lifestyle formula (X_1) and the Halal Label (X_2) which
together significantly influence Purchase Decisions (Y) for
Class 2019 Students of the Management Study Program,
Faculty of Economics and Business. Based on the
correlation coefficient test, it is obtained that the value of
R = 0.526 and the coefficient of determination R^2 =
0.277 value means that Lifestyle (X_1) and Halal Label
(X_2) contribute an influence of 0.277 or 27.7% to
Purchase Decisions (Y) in Students Class of 2019
Management Study Program Students, Faculty of
Economics and Business. while the remaining 0.723 or
72.3% is influenced by other variables not included in this
study. ABSTRAK:
Keywords:
Service Recovery, Product
Quality, Customer Retention
Kata kunci:
Pemulihan Layanan, Kualitas
Produk, Retensi Pelanggan
Penelitian ini bertujuan untuk mengetahui Pengaruh
Service Recovery dan Product Quality terhadap
Customer Retention (Studi Kasus PT. Bintang Motor
Kota Bengkulu). Jenis penelitian yang digunakan REFERENCES Sumarlan, A., & Setiadi, Y. (2022). Pengukuran Kinerja Perusahaan Berdasarkan
Balance Scorecard Pada Pt Asuransi Multi Artha Guna Tbk Yang Terdaftar Di
Bursa Efek Indonesia. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi
Islam (JAM-EKIS), 5(1), 104–122. Yeremina, B. (2022). Teori Penilaian Pengukuran Kinerja Karyawan. Jurnal
Pusdansi, 2 (4)(4), 1–9. 241 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL
ABSTRACT: Riwayat Artikel:
Diterima : 15 Juni 2023
Direvisi : 07 Juli 2023
Disetujui : 26 Juli 2023 The purpose of this research is to find out whether lifestyle
and the Halal label affect purchasing decisions. The
sample of this research was Management Study Program
students at the University of Muhammadiyah Bengkulu,
totaling 90 respondents. Observation data collection
techniques, documentation and questionnaires. The data
that has been processed is analyzed using the SPSS 24
Lifestyle formula (X_1) and the Halal Label (X_2) which
together significantly influence Purchase Decisions (Y) for
Class 2019 Students of the Management Study Program,
Faculty of Economics and Business. Based on the
correlation coefficient test, it is obtained that the value of
R = 0.526 and the coefficient of determination R^2 =
0.277 value means that Lifestyle (X_1) and Halal Label
(X_2) contribute an influence of 0.277 or 27.7% to
Purchase Decisions (Y) in Students Class of 2019
Management Study Program Students, Faculty of
Economics and Business. while the remaining 0.723 or
72.3% is influenced by other variables not included in this
study. ABSTRAK: Penelitian ini bertujuan untuk mengetahui Pengaruh
Service Recovery dan Product Quality terhadap
Customer Retention (Studi Kasus PT. Bintang Motor
Kota Bengkulu). Jenis penelitian yang digunakan 242 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis adalah kuantitatif, dengan menggunakan metode non
probability sampling atau Accidental sampling. Jumlah sampel dalam penelitian ini adalah 120 orang. Dari hasil penelitian ini dapat disimpulkan bahwa
secara parsial variabel Service Recovery berpengaruh
signifikan terhadap variabel Customer Retention
dengan nilai thitung > ttabel (10,782 > 1,980) dan Sig. (0,000 < 0,05), H1 diterima, Product Quality
berpengaruh signifikan terhadap variabel Customer
Retention dengan nilai thitung > ttabel (2,715 > 1,980)
dan Sig. (0,008 < 0,05), H2 diterima, sedangkan uji f
Service Recovery dan Product Quality secara
bersama-sama
berpengaruh
signifikan
terhadap
Customer Retention dengan nilai thitung > ttabel
(171,268 > 3,07) dan Sig. (0,000 < 0,05) sehingga H3
diterima. Tingkat signifikan secara keseluruhan
sebesar (Sig. a = 0,000 < 0,05). Serta memiliki
persamaan regresi Y = 1.151 + 0,683X1 + 0,110X2
dan koefisien determinasi R2 nilai Adjust R Square
adalah 0,652. Dan faktor yang paling dominan
dengan nilai koefisien regresi paling besar yaitu
variabel Service Recovery (X1) dengan nilai 0,683. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Industri otomotif khususnya sepeda motor sedang mengalami peningkatan yang
sangat pesat, ini ditandai dengan terus bertambahnya kuantitas kendaraan yang
dimiliki masyarakat dan terlihat pada mobilitas kendaraan yang berada di jalan-jalan
kota besar. Serta diikuti dengan lahir dan tumbuhnya perusahaan-perusahaan baru
yang
senantiasa
berupaya
semaksimal
mungkin
untuk
mendapatkan
dan
mempertahankan pangsa pasar yang ada. (Kotler et al., 2017) menjelaskan bahwa
dalam meningkatkan daya saing, suatu perusahaan dapat memenangkan persaingan
dengan cara menampilkan produk terbaik yang dapat memenuhi selera konsumen. Pada dasarnya semakin tinggi tingkat persaingan yang terjadi, maka semakin akan
banyak pula pilihan bagi konsumen untuk dapat memilih produk yang sesuai dengan
harapannya, dan sebagai konsekuensi dari perubahan tersebut pelanggan menjadi lebih
cermat dan pintar menghadapi setiap produk yang ditawarkan. p
g
p
p p
y
g
PT. Bintang Motor Kota Bengkulu merupakan perusahaan yang bergerak
dibidang jasa penjualan sepeda motor honda sejak tahun 2001, selain penjualan kami
juga melayani pemeliharaan serta penjualan spare part resmi. Bintang Motor memiliki
jaringan penjualan dan pemeliharaan yang tersebar 8 provinsi di Indonesia yaitu
Jakarta, Bogor, Depok, Tangerang, Bekasi, Cikarang, Jatiasih, Bandung, Cirebon,
Pontianak, Makassar, Balopa, Bandar Lampung, Lampung Timur, Gisting, Bengkulu,
Palembang, Lahat, dan Sekayu. PT. Bintang Motore Kota Bengkulu ini beralamat di Jl. PT. Bintang Motor Kota Bengkulu merupakan perusahaan yang bergerak
dibidang jasa penjualan sepeda motor honda sejak tahun 2001, selain penjualan kami
juga melayani pemeliharaan serta penjualan spare part resmi. Bintang Motor memiliki
jaringan penjualan dan pemeliharaan yang tersebar 8 provinsi di Indonesia yaitu
Jakarta, Bogor, Depok, Tangerang, Bekasi, Cikarang, Jatiasih, Bandung, Cirebon,
Pontianak, Makassar, Balopa, Bandar Lampung, Lampung Timur, Gisting, Bengkulu,
Palembang, Lahat, dan Sekayu. PT. Bintang Motore Kota Bengkulu ini beralamat di Jl. 243 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Pangeran Natadirja No.103, Jl. Gedang, Gading Cemp., Kota Bengkulu, Bengkulu
38226. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Pangeran Natadirja No.103, Jl. Gedang, Gading Cemp., Kota Bengkulu, Bengkulu
38226 Pangeran Natadirja No.103, Jl. Gedang, Gading Cemp., Kota Bengkulu, Bengkulu
38226. Custumer retention adalah lamanya hubungan dengan konsumen. Tingkat
custumer retention adalah presentase konsumen yang telah memenuhi sejumlah
pembelian
ulang
selama
periode
waktu
yang
terbatas. Dinamika
retensi
memperlihatkan langkah-langkah utama dalam proses menarik dan mempertahankan
konsumen, hal ini akan berimplikasi pada membangun hubungan konsumen terhadap
perusahaan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Perusahaan membuat berbagai cara untuk mempertahankan konsumennya,
salah satu cara tersebut adalah membuat event untuk membangun hubungan dengan
konsumen, dalam event tersebut perusahaan mengundang konsumen yang memang bisa
dipertahankan seperti pelanggan prioritas, acara tersebut beisi promosi mengenai
produk yang akan ditawarkan kepada pelanggannya. Persaingan seperti sekarang ini, perusahaan dituntut untuk menawarkan produk
yang berkualitas dan mempunyai nilai lebih, sehingga tampak berbeda dengan produk
pesaing. Kualitas produk merupakan salah satu faktor yang menjadi pertimbangan
konsumen sebelum membeli suatu produk. Kualitas ditentukan oleh sekumpulan
kegunaan dan fungsinya, termasuk di dalamnya daya tahan, ketidaktergantungan pada
produk lain atau komponen lain, eksklusifitas, kenyamanan, wujud luar (warna, bentuk,
pembungkusan, dan sebagainya) (Kurnianingsih & Sugiyanto, 2020). Dengan kualitas
produk yang bagus dan terpercaya, maka produk akan senantiasa tertanam dibenak
konsumen, karena konsumen bersedia membayar sejumlah uang untuk membeli produk
yang berkualitas. y
g
Mempertahankan konsumen untuk dijadikan pelanggan lebih susah dari pada
mencari konsumen baru, karena perusahaan tidak memerlukan adaptasi kembali, lebih
menghemat biaya dan waktu dibandingkan mencari pelanggan baru yang harus
membangun hubungan baru, kepercayaan baru dan juga memerlukan banyak biaya
pengeluaran seperti untuk promosi. Mengembangkan hubungan jangka panjang, kini
memiliki nilai yang lebih baik serta dianggap sebagai metode yang lebih efektif untuk
pertumbuhan perusahaan. Customer retention sangat penting dalam mempengaruhi
profitabilitas perusahaan (Danesh, S et al., 2012). Menurut (Schiffman & Wisenblit, 2019)
customer retention didefinisikan sebagai kecenderungan pelanggan di masa depan
untuk tetap bertahan terhadap penyedia layanan. (Kotler & Keller, 2018) mendefinisikan
customer retention sebagai tingkat keloyalan pelanggan pada produk sebagai hasil dari
kepuasan pelanggan. Service recovery atau perbaikan layanan ini merupakan langkah yang tepat untuk
melakukan perbaikan pada layanan yang gagal dan untuk menunjukan rasa kepedulian
perusahaan terhadap konsumen. Dengan menangani setiap keluhan konsumen
perusahan telah bertanggung jawab terhadap konsumen. Dan dengan cara ini pula
perusahaan bisa untuk memberikan rasa puas kepada para konsumennya yang
sebelumnya merasa kurang puas terhadap layanan yang diberikan. Karena setiap
konsumen berharap jika pelayanan yang diberikan oleh perusahaan sesuai dengan
harapan mereka. Dengan kesesuain antara harapan dan kenyataan ini lah yang membuat
konsumen puas. Perbaikan layanan atau yang lebih dikenal dengan sebutan service
recovery menurut (A., Zeithaml & Berry, 2018) perbaikan layanan atau service recovery 244 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ini adalah tindakan yang diambil oleh perusahaan ketika mengalami kegagalan jasa
atau service failure. PENDAHULUAN Recovery adalah berbagai hal yang akan dilakukan oleh perusahaan
setelah terjadinya suatu kegagalan pada jasa pelayanan (service failure). Kegagalan
layanan atau service failure terjadi ketika jasa yang diterima dipersepsikan tidak sesuai
dengan harapan pelanggan. Service recovery mulai berlaku saat ada masalah dalam
proses pengiriman layanan. Semakin meningkatnya persaingan, memberikan perhatian lebih pada kualitas
produk bukan lagi menjadi pilihan, melainkan sudah menjadi keharusan bagi setiap
perusahaan. Hal ini dikarenakan konsumen yang semakin teliti dan kritis terhadap
produk yang mereka terima atau gunakan. Menurut (Kotler & Amstrong, 2018) kualitas
produk adalah “the ability of a product to perform its functions, it includes the
product’s overall durability, reliability, precision, ease of operation and repair, and
other valued attributes” yang artinya, kemampuan sebuah produk untuk menjalankan
fungsi yang dimiliki berkaitan dengan daya tarik, kehandalan, dan juga atribut lainnya
yang bernilai. Menurut (Kotler et al., 2017) kualitas produk merupakan kemampuan
suatu produk dalam melaksanakan fungsi dan kinerjanya yang dapat memenuhi
kebutuhan dan keinginan pelanggan. Kualitas produk menjadi hal penting yang harus
dimiliki oleh sebuah produk, sehingga produsen dituntut untuk menghasilkan produk
yang berkualitas agar dapat menarik perhatiaan konsumen dan memenangkan pasar. Menurut (Kotler & Amstrong, 2018) kualitas produk ialah kemampuan suatu produk
dalam melaksnakan fungsinya yang meliputi daya tahan, keandalan, ketepatan,
kemudahan operasi dan perbaikan, serta atribut bernilai lainnya. Kualitas produk adalah
kondisi dari segala sesuatu yang dapat ditawarkan ke pasar agar mendapat perhatian,
dibeli, digunakan, atau dikonsumsi dengan tujuan untuk dapat memuaskan keinginan
dan kebutuhan pelanggan Berdasarkan hasil observasi melalui survey dan wawancara yang peneliti lakukan
dengan Bapak Sulistio Budiman slaku kepala cabang PT. Bintang Motor Kota
Bengkulu masih terdapat beberapa permasalahan menurut salah satu konsumen
menjelaskan bahwa masih kurangnya hubungan antara konsumen dengan perusahaan
dalam jangka Panjang, hal tersebut dijelaskan dengan masih adanya konsumen yang
belum percaya akan kualitas dan pelayanan yang diberikan sehingga tidak terjadi
hubungan yang baik. Ada juga menurut Bapak Rudi Setiawan salah satu konsumen PT. Bintang Motor Kota Bengkulu yang mengatakan bahwa service recovery (pemulihan
layanan) yang masih kurang di kembangkan sehingga masih terdapat konsumen yang
komplain terhadap pelayanan yang telah kami berikan. Adapula menurut Ibu Erna yang
menjelaskan tentang product quality (kualitas produk) yang di tawarkan kepada
konsumen masih terbilang masih rendah, hal tersebut dibuktikan dengan tidak semua
produk dikembangkan ataupun dibenahi untuk memberikan kualitas yang baik terhadap
produk yang diberikan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Customer Retention Menurut Sari & Giantari (2020) retensi pelanggan didefinisikan sebagai
kecenderungan pelanggan di masa depan untuk tetap bertahan terhadap penyedia
layanan. Kotler & Keller (2018) mendefinisikan customer retention sebagai tingkat
keloyalan pelanggan pada produk sebagai hasil dari kepuasan pelanggan.. Tingkat
customer retention adalah persentase pelanggan yang telah memenuhi sejumlah
pembelian ulang selama periode waktu terbatas. customer retention adalah
kecenderungan Pelanggan untuk tetap bertahan dalam menggunakan suatu produk atau
jasa setelah pelanggan merasakan adanya kepuasan yang diperoleh dalam
menggunakan produk tersebut. gg
p
Menurut As et al., (2017) retensi pelanggan merupakan interaksi antara produsen
dan pelanggan yang dapat membawa manfaat sosial dan ekonomi. Indikator yang
mempengaruhi retensi pelanggan meliputi adaptasi, manajemen hubungan, dan
rekomendasi. Menurut Coussement (2014) customer retention dianggap sebagai
kemampuan
perusahaan
dalam
mempertahankan
pelanggannya
untuk
terus
mempercayai produk yang mereka hasilkan. Nillie et al. (2013) menegaskan bahwa
retensi pelanggan adalah hubungan jangka panjang antara pelanggan dan organisasi
yang dapat menghasilkan hubungan yang menguntungkan. Dari beberapa pengertian dari para ahli di atas dapat disimpulkan bahwa customer
retention merupakan hubungan seberapa dekat konsumen dengan perusahaan yang
dapat menimbulkan hubungan baik dalam jangka panjang. Menurut P Kotler (2019)
ada tiga indikator untuk membangun customer retention (retensi pelanggan): 1. Lamanya hubungan dengan perusahaan 2. Selalu menggunakan layanan 3. Seringnya transaksi Pemasaran Menurut Laksana (2019) pemasaran adalah bertemunya penjual dan pembeli
untuk melakukan kegiatan transaksi produk barang atau jasa. Sehingga pengertian pasar 245 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis bukan lagi merujuk kepada suatu tempat tapi lebih kepada aktifitas atau kegiatan
pertemuan penjual dan pembeli dalam menawarkan suatu produk kepada konsumen. Menurut Phillip Kotler & Keller (2016) marketing is about identifying and meeting
human and social needs. One of the shortest good definitions of marketing is meeting
needs profitably. Menurut Amstrong & Philip (2012) marketing as the process by which
companies create value for customers and build strong customer relationships in order
to capture value from customers in return", artinya menyatakan bahwa pemasaran
sebagai proses di mana perusahaan menciptakan nilai bagi pelanggan dan membangun
hubungan pelanggan yang kuat menangkap nilai dari pelanggan sebagai imbalan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Service Recovery Service recovery atau perbaikan layanan ini merupakan langkah yang tepat untuk
melakukan perbaikan pada layanan yang gagal dan untuk menunjukan rasa kepedulian
perusahaan terhadap konsumen. Dengan menangani setiap keluhan konsumen
perusahan telah bertanggung jawab terhadap konsumen. Dan dengan cara ini pula
perusahaan bisa untuk memberikan rasa puas kepada para konsumennya yang
sebelumnya merasa kurang puas terhadap layanan yang diberikan. Karena setiap 246 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis konsumen berharap jika pelayanan yang diberikan oleh perusahaan sesuai dengan
harapan mereka. Menurut Sajadi & Bohrer (2017) menjelaskan bahwa service recovery
adalah keputusan yang diambil perusahaan sebagai reaksi terhadap terjadinya
kegagalan layanan dengan tujuan untuk mengubah ketidakpuasan menjadi kepuasan
dan akhirnya perusahaan mampu mempertahankan pelanggan tersebut. Dari beberapa pengertian dari para ahli di atas dapat disimpulkan bahwa service
recovery merupakan salah satu pelayanan yang harus di utamakan agar konsumen dapat
merasakan kenyamanan terhadap perusahaan sehingga perusahaan dapat terus
berkembang. Indikator yang digunakan untuk mengukur service recovery menurut
Chueh et al., (2014) adalah sebagai berikut: 1. Distributive justice 2. Procedural justice 3. Interactional justice http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Product Quality 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kerangka Teoritik
H1
H2
H3
Service Recorvery
(X1)
Product
Quality
(X2)
Custumer
Retention
(Y) Kerangka Teoritik
H1
H2
H3
Service Recorvery
(X1)
Product
Quality
(X2)
Custumer
Retention
(Y) Kerangka Teoritik Kerangka Teoritik Service Recorvery
(X1) Custumer
Retention
(Y) Product
Quality
(X2) H2 Keterangan: = Pengaruh Variabel X terhadap Variabel Y (Parsial) = Pengaruh Variabel X1, dan X2 terhadap Variabel Y (Simultan) Product Quality Menurut Philip Kotler & Armstrong (2008), kualitas produk adalah kemampuan
sebuah produk dalam memperagakan fungsinya, hal itu termasuk durabilitas,
reliabilitas, ketepatan, kemudahan pengoperasian dan reparasi produk juga atribut
produk lainnya. Menurut Setiawati (2016), kualitas produk dinyatakan sebagai berikut, kualitas
adalah totalitas fitur dan karakteristik dari produk atau jasa yang menanggung pada
kemampuannya untuk memuaskan kebutuhan yang dinyatakan atau tersirat. Sebagai
ukuran kualitas produk adalah variabel yang terbesar dan kemudian diikuti oleh
variabel lain, masing-masing indikator, yaitu: memiliki, kesesuaian, kinerja, gambar
(Juhana, 2018). Product quality yaitu kemampuan barang untuk memberikan kinerja
atau hasil yang sejalan bahkan lebih dari yang diharapkan konsumen (Phillip Kotler &
Keller, 2016). Menurut Chang (2019), Ekowati & Finthariasari (2020), Finthariasari, Ekowati,
& Krisna (2020), Finthariasari, Ekowati, Ranidiah, et al., (2020)arti dari kualitas
produk adalah the ability of a product to perform its functions, it includes the product’s
overall durability, reliability, precision, ease of operatio and repair, and other valued
attributes yang artinya kemampuan sebuah produk dalam memperagakan fungsinya,
hal itu termasuk keseluruhan durabilitas, reliabilitas, ketepatan, kemudahan
pengoperasian dan reparasi produk juga atribut produk lainnya. Dari beberapa pengertian dari para ahli di atas dapat disimpulkan bahwa produk
quality merupakan seberapa baiknya kualitas produk yang ditawarkan agar mampu
menarik konsumen untuk melakukan pembelian secara berkala. Menurut (Tjiptono,
2018) indikator dari variabel Kualitas Produk dibagi menjadi 6 yaitu: 1. Kinerja (performance) 2. Daya Tahan (Durability) 3. Kesesuaian Dengan Spesifikasi (Conformance to Specification) 4. Keistimewaan tambahan (feature). 5. Reliabilitas (Reliability) 6. Estetika (Aesthetic) 247 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Kerangka Teoritik
H1
H2
H3
Keterangan:
X1
= Variabel Service Recovery
X2
= Variabel Product Quality
Y
= Variabel Custumer Retention
= Pengaruh Variabel X terhadap Variabel Y (Parsial)
= Pengaruh Variabel X1, dan X2 terhadap Variabel Y (Simultan)
Service Recorvery
(X1)
Product
Quality
(X2)
Custumer
Retention
(Y) Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Jenis penelitian ini merupakan jenis penelitian deskriptif kuantitatif. Populasi
pada penelitian ini bersifat infinite (tidak diketahui). Populasi dari penelian ini adalah
seluruh konsumen PT. Bintang Motor Kota Bengkulu. Teknik pengambilan sampel
yang digunakan dalam penelitian ini adalah menggunakan metode non probability
sampling yaitu accidental sampling. Jumlah populasinya tidak diketahui secara pasti
maka untuk menentukan besarnya sampel digunakan rumus dari (Sugiyono, 2018) yang
menyatakan bahwa jumlah ideal dalam penarikan sampel yaitu 5-10 untuk setiap
indikator yang digunakan dalam seluruh variabel. Jumlah indikator dalam penelitian
adalah 12 indikator. Maka, jumlah sampel dalam penelitian ini adalah: j
p
p
Sampel = jumlah indikator x 10 → 12 x 10 = 120 responden. Ada tiga data yang digunakan dalam penelitian yakni: (1) Observasi; (2)
Dokumentasi; (3) Kuesioner. Tanggapan responden dinilai untuk mengukur tanggapan
mereka dengan skala likert 5 point (1= sangat tidak setuju sampai 5 = sangat setuju). Tahap pengelolaan dengan menguji tingkat validitas untuk menilai sah atau tidaknya
setiap item dalam instrumen, dan hal itu diketahui dengan bekerja sama antara skor
item dan skor keseluruhan. Kemudian tahap menganalisis reliabilitas untuk menilai
ketergantungan kuesioner yang berfungsi sebagai indikasi variabel. Tahap berikutnya
adalah analisis regresi linear berganda adalah regresi yang menggambarkan apakah
variabel terikat berhubungan dengan variabel bebas, serta uji hipotesis dengan
menganalisis nilai t hitung dan dilakukan untuk mengetahui ada tidaknya pengaruh
yang signifikan terhadap variabel bebas secara sendiri-sendiri. Selanjutnya
menganalisis nilai f hitung dan dilakukan untuk menyatakan signifikansi pengaruh
variabel bebas secara bersamasama terhadap variabel terikat. 248 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 24 Karakteristik Responden Analisis data diatas bahwa karakteristik responden dalam penelitian ini terdiri
dari karakteristik berdasarkan jenis kelamin didominasi oleh karyawan laki-laki
sebanyak 75 orang (62,5%), dengan karakteristik usia didominasi oleh karyawan yang
berusia 31-50 tahun sebanyak 78 orang (65%), karakteristik pendidikan terakhir yang
mendominasi SMA sebanyak 57 orang (47,5%) dan karakteristik berdasarkan pekerjaan
yang mendominasi pada pekerjaan wiraswasta sebanyak 62 oranf (51,7 %). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 249
Tabel 1. Karakteristik Responden (n= 120)
Karakteristik
Jumlah
Persentase
Jenis Kelamin
Laki-laki
75
62,5 %
Perempuan
45
37,5 %
Usia
20 – 30 Tahun
42
35 %
31 – 50 Tahun
78
65%
Pendidikan
Terakhir
SMA
57
47,5%
S1
42
35%
S2
21
17,5%
Pekerjaan
PNS
31
25,8 %
Swasta
27
22,5 %
Wiraswasta
62
51,7 %
Sumber: Data yang diolah 2022
Uji Validitas dan Uji Reliabilitas
Tabel 2
Hasil Uji Validitas
Variabel
Indikator
Item
Pernyataan
R
Hitung
R
Tabel
Ket
Customer
Retention
(Y)
Lamanya Hubungan
dengan Perusahaan
1
0,719
0,444
Valid
Selalu
Menggunakan
Layanan
2
0,757
0,444
Valid
Seringnya Transaksi
3
0,441
0,444
Valid
Service
Recovery
(X1)
Distributuve Justice
1
0,833
0,444
Valid
Procedural Justice
2
0,485
0,444
Valid
Interactional Justice
3
0,761
0,444
Valid
Product
Kinerja
1
0,584
0,444
Valid http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 249
Tabel 1. Karakteristik Responden (n= 120)
Karakteristik
Jumlah
Persentase
Jenis Kelamin
Laki-laki
75
62,5 %
Perempuan
45
37,5 %
Usia
20 – 30 Tahun
42
35 %
31 – 50 Tahun
78
65%
Pendidikan
Terakhir
SMA
57
47,5%
S1
42
35%
S2
21
17,5%
Pekerjaan
PNS
31
25,8 %
Swasta
27
22,5 %
Wiraswasta
62
51,7 %
Sumber: Data yang diolah 2022
Uji Validitas dan Uji Reliabilitas
Tabel 2
Hasil Uji Validitas
Variabel
Indikator
Item
Pernyataan
R
Hitung
R
Tabel
Ket
Customer
Retention
(Y)
Lamanya Hubungan
dengan Perusahaan
1
0,719
0,444
Valid
Selalu
Menggunakan
Layanan
2
0,757
0,444
Valid
Seringnya Transaksi
3
0,441
0,444
Valid
Service
Recovery
(X1)
Distributuve Justice
1
0,833
0,444
Valid
Procedural Justice
2
0,485
0,444
Valid
Interactional Justice
3
0,761
0,444
Valid
Product
Kinerja
1
0,584
0,444
Valid Tabel 1. Karakteristik Responden (n= 120) Tabel 1. Tabel 1. Karakteristik Responden Karakteristik Responden (n= 120)
Karakteristik
Jumlah
Persentase
Jenis Kelamin
Laki-laki
75
62,5 %
Perempuan
45
37,5 %
Usia
20 – 30 Tahun
42
35 %
31 – 50 Tahun
78
65%
Pendidikan
Terakhir
SMA
57
47,5%
S1
42
35%
S2
21
17,5%
Pekerjaan
PNS
31
25,8 %
Swasta
27
22,5 %
Wiraswasta
62
51,7 %
Sumber: Data yang diolah 2022 Tabel 1. Karakteristik Responden (n= 120) Sumber: Data yang diolah 2022 Uji Validitas dan Uji Reliabilitas
Tabel 2
Hasil Uji Validitas
Variabel
Indikator
Item
Pernyataan
R
Hitung
R
Tabel
Ket
Customer
Retention
(Y)
Lamanya Hubungan
dengan Perusahaan
1
0,719
0,444
Valid
Selalu
Menggunakan
Layanan
2
0,757
0,444
Valid
Seringnya Transaksi
3
0,441
0,444
Valid
Service
Recovery
(X1)
Distributuve Justice
1
0,833
0,444
Valid
Procedural Justice
2
0,485
0,444
Valid
Interactional Justice
3
0,761
0,444
Valid
Product
Kinerja
1
0,584
0,444
Valid Uji Validitas dan Uji Reliabilitas 249 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Quality
(X2)
(Peformance)
Daya Tahan
(Durability)
2
0,586
0,444
Valid
Kesesuaian dengan
Spesifikasi
(Conformence of
Specifikasi)
3
0,697
0,444
Valid
Keistimewaan
Tambahan (Feature)
4
0,702
0,444
Valid
Reliabilitas
(Reliability)
5
0,625
0,444
Valid
Estetika (Aesthetic)
6
0,585
0,444
Valid
Sumber: Data yang diolah 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Dari tabel 2 di atas dapat disimpulkan bahwa butir instrumen yang digunakan
untuk mengukur variabel-variabel dalam penelitian ini mempunyai koefisien lebih
besar dari r tabel yaitu 0.444 sehingga semua butir instrumen tersebut dinyatakan valid. Tabel 3
Hasil Uji Reabilitas
No. Variabel
Cronbach’s Alpha
Keterangan
1. Customer Retention (Y)
0,789
Reliabel
2. Service Recovery (X1)
0.825
Reliabel
3. Product Quality (X2)
0,847
Reliabel
Sumber: Data yang diolah 2023 Dari tabel 3 di atas, terlihat bahwa semua variabel memiliki nilai Cronbach’s
Alpha lebih besar dari 0.60. Maka dapat disimpulkan bahwa semua variabel dalam
penelitian ini adalah reliabel. Uji Multikolinearitas Pengujian adanya multikolinearitas ini dapat dilakukan dengan melihat nilai
toleransi diatas 0,1 dan VIF nya lebih kecil dari 10. Maka tidak ada kecenderungan
terjadi gejala multikolinearitas.. Tabel 5
Hasil Uji Multikolinearitas
No
Variabel
Tolerance
VIF
Keretengan
1. Service Recovery (X1)
0,484
2,067
Non Multikolinearitas
2. Product Quality (X2)
0,484
2,067
Non Multikolinearitas
Sumber: Data yang diolah 2023 Berdasarkan Tabel 5 diatas terlihat bahwa semua variabel mempunyai nilai
toleransi diatas 0.1 dan nilai VIF dibawah 10, dengan demikian dapat disimpulkan
bahwa variabel pada penelitian ini bebas multikolinieritas. Uji Asumsi Klasik
Uji Normalitas Uji normalitas ini dilakukan dengan menggunakan uji one sample Kolmogorov-
Smirnov dengan bantuan SPSS for Windows versi 24. Data dikatakan terdistribusi
normal jika nilai p > 0,05. Berdasarkan tabel output SPSS tersebut, diketahui bahwa nilai Asymp. Sig. (2-
tailed) sebesar 0.200 lebih besar dari 0.05. Maka sesuai dengan dasar pengambilan
keputusan dalam uji normalitas Kolmogorov-Smirnov diatas dapat disimpulkan bahwa
data berdistribusi normal. 250 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Tabel 4
Hasil Uji Normalitas
One-Sample Kolmogorov-Smirnov Test
Unstandardized Residual
N
120
Normal Parametersa,b
Mean
0,0000000
Std. Deviation
2,64002435
Most Extreme Differences
Absolute
0,114
Positive
0,103
Negative
-0,114
Test Statistic
0,114
Asymp. Sig. (2-tailed)
,200c,d
a. Test distribution is Normal. b. Calculated from data. c. Lilliefors Significance Correction. d. This is a lower bound of the true significance. Sumber: Data yang diolah 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Tabel 4
Hasil Uji Normalitas
One-Sample Kolmogorov-Smirnov Test
Unstandardized Residual
N
120
Normal Parametersa,b
Mean
0,0000000
Std. Deviation
2,64002435
Most Extreme Differences
Absolute
0,114
Positive
0,103
Negative
-0,114
Test Statistic
0,114
Asymp. Sig. (2-tailed)
,200c,d
a. Test distribution is Normal. b. Calculated from data. c. Lilliefors Significance Correction. d. This is a lower bound of the true significance. Sumber: Data yang diolah 2023 Uji Heterokedastistas Adapun hasil uji statistic heterokedastistas yang diperoleh dalam penelitian ini
adalah sebagai berikut: Gambar 1
Hasil Uji Heterokedastisitas 251 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Data Analisis Uji Heterokedastisitas dengan grafik plot adalah jika titik dalam
grafik tersebar (tidak membentuk pola) maka tidak terjadi Heterokodesitas. Berdasarkan gambar tersebut dapat dilihat bahwa titik-titik yang ada tidak membentuk
pola teratur. Sehingga dapat disimpulkan bahwa pada data dalam penelitian ini tidak
terjadi Heterokodesitas. Artinya dalam fungsi regresi dipenelitian ini tidak muncul
gangguan karena varian yang tidak sama. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Data Analisis Uji Heterokedastisitas dengan grafik plot adalah jika titik dalam
grafik tersebar (tidak membentuk pola) maka tidak terjadi Heterokodesitas. Berdasarkan gambar tersebut dapat dilihat bahwa titik-titik yang ada tidak membentuk
pola teratur. Sehingga dapat disimpulkan bahwa pada data dalam penelitian ini tidak
terjadi Heterokodesitas. Artinya dalam fungsi regresi dipenelitian ini tidak muncul
gangguan karena varian yang tidak sama. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Koefisien Determinasi (R2) Berdasarkan tabel 7 berikut, dapat diketahui bahwa nilai Adjusted R square yang
diguunakan untuk mengukur seberapa jauh kemampuan model dalam menerangkan
variasi variabel dependen 0,741. Hal ini menunjukkan bahwa sebesar 74,1% Customer
Retention (Y) pada PT. Bintang Motor Kota Bengkulu dipengaruhi oleh variasi kedua
variabel independen, yaitu Service Recovery (X1), dan Product Quality (X2), sedangkan
sisanya (100% – 74,1% = 25,9 %) dijelaskan oleh variabel – variabel diluar variabel
penelitian ini. Tabel 7 Tabel 7
Nilai Koefisien Determinasi Hasil Penelitian
Model Summaryb
Model
R
R Square
Adjusted R
Square
Std. Error of the
Estimate
1
,863a
0,745
0,741
1,144
a. Predictors: (Constant), Product Quality (X2), Service Recovery (X1)
b. Dependent Variable: Custumer Retention (Y)
Sumber: Output SPSS 24 yang diolah, 2023 Regresi Linier Berganda Ringkasan hasil pengolahan data dengan menggunakan program SPSS tersebut
dapat dilihat pada tabel berikut ini: Ringkasan hasil pengolahan data dengan menggunakan program SPSS tersebut
apat dilihat pada tabel berikut ini: Tabel 6 Tabel 6
Regresi Linier Berganda
Coefficientsa
Model
Unstandardized
Coefficients
Standardized
Coefficients
t
Sig. B
Std. Error
Beta
1
(Constant)
1,151
0,659
1,747
0,083
Service Recovery (X1)
0,683
0,063
0,723
10,782
0,000
Product Quality (X2)
0,110
0,041
0,182
2,715
0,008
a. Dependent Variable: Custumer Retention (Y) Sumber: Data yang diolah 2023 Dari perhitungan menggunakan SPSS versi 24 for Windows didapat persamaan
regresinya adalah: Angka tersebut masing-masing secara ekonomis dapat dijelaskan sebagai beriku 1. Nilai konstanta 1,151 mempunyai arti bahwa apabila variabel Service Recovery
(X1), dan Product Quality (X2) terhadap Custumer Retention (Y), sama dengan nol
maka variabel Kinerja Karyawan akan tetap yaitu 1,151. Apabila variabel Recovery
(X1), dan Product Quality (X2) sama denggan nol. 2. Koefisien regresi variabel Service Recovery (X1) sebesar 0,683 mempunyai makna
bahwa apabila Recovery (X1) ditingkatkan satu satuan, maka akan meningkatkan
Custumoer Retention (Y) pada PT. Bintang Motor Kota Bengkulu sebesar 0,683
dengan asumsi variabel Product Quality (X2) dianggap tetap. 3. Koefisien regresi variabel Product Quality (X2) sebesar 0.110 mempunyai makna
bahwa apabila Product Quality (X2) ditingkatkan satu satuan, maka akan
meningkatkan Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu
sebesar 0,110 dengan asumsi variabel Service Recovery (X1) dianggap tetap. 252 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 p
p
p
2. Pengaruh Product Quality (X2) terhadap Customer Retention (Y) Uji T (Parsial) j
(
)
Untuk menguji pengaruh variabel bebas secara parsial terhadap variabel terikat
digunakan uji t sebagai berikut: Tabel 8
Uji T (Uji Secara Parsial)
Coefficientsa
Model
Unstandardized
Coefficients
Standardized
Coefficients
t
Sig. B
Std. Error
Beta
1 (Constant)
1,151
0,659
1,747
0,083
Service Recovery
(X1)
0,683
0,063
0,723
10,782
0,000
Product Quality
(X2)
0,110
0,041
0,182
2,715
0,008
a. Dependent Variable: Custumer Retention (Y)
Sumber: Data yang diolah 2022 Tabel 8 Berdasarkan hasil uji statistik t pada tabel 4.14 di atas dapat diartikan bahwa 1. Pengaruh Service Recovery (X1) terhadap Customer Retention (Y) 1. Pengaruh Service Recovery (X1) terhadap Customer Retention (Y)
Tabel di atas menunjukkan hasil uji thitung > ttabel variable Service Recovery (X1)
terhadap Customer Retention (Y) yaitu sebesar 10,782 > 1,980. Hal ini berarti
bahwa hipotesis pertama dalam penelitian ini diterima. 2. Pengaruh Product Quality (X2) terhadap Customer Retention (Y)
Tabel di atas menunjukkan hasil uji thitung > ttabel variable Product Quality (X2) 2. Pengaruh Product Quality (X2) terhadap Customer Retention (Y)
Tabel di atas menunjukkan hasil uji thitung > ttabel variable Product Quality (X2) g
y
p
Tabel di atas menunjukkan hasil uji thitung > ttabel variable Product Quality (X 253 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis terhadap Customer Retention (Y) yaitu sebesar 2,715 > 1,980. Hal ini berarti bahwa
hipotesis kedua dalam penelitian ini diterima. Uji F (Simultan) Dalam penelitian ini pengujian hipotesis dimaksudkan untuk mengukur besarnya
pengaruh Service Recovery (X1), dan Product Quality (X2) terhadap Customer
Retention (Y), maka digunakan uji f. Berdasarkan hasil pengujian hipotesis Uji anova
atau Uji f terlihat pada tabel sebagai berikut: Tabel 9
Uji F (Uji Secara Similtan)
ANOVAa
Model
Sum of
Squares
df
Mean
Square
F
Sig. 1 Regression
447,977
2
223,988
171,268
,000b
Residual
153,015
117
1,308
Total
600,992
119
a. Dependent Variable: Custumer Retention (Y)
b. Predictors: (Constant), Product Quality (X2), Service Recovery (X1)
Sumber: Output SPSS 24 yang diolah, 2023 Dari tabel di atas dapat dilihat bahwa nilai signifikansi F yaitu 0,000 < 0,050 dan
Fhitung > Ftabel, 171,268 > 3,07, dari hasil pengelolaan data maka dapat disimpulkan
bahwa semua variabel independen yaitu variabel (Service Recovery dan Product
Quality) secara simultan atau bersama-sama berpengaruh signifikan terhadap variabel
dependen yaitu Customer Retention (Y). Hal ini berarti Ho ditolak dan Ha diterima. Maka dapat disimpulkan bahwa hipotesis ketiga dalam penelitian ini diterima. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pembahasan Pengaruh Service Recovery Terhadap Customer Retention Pengaruh Service Recovery Terhadap Customer Retention
Hasil penelitian menyatakan bahwa adanya pengaruh variabel Service Recovery
(X1) terhadap Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu. Hal ini
berarti bahwa hipotesis pertama dalam penelitian ini diterima. dengan nilai probability
Sig. 0,000 < 0,05. Hal ini berarti bahwa hipotesis pertama dalam penelitian ini diterima. Dengan adanya perbaikan pelayanan yang dilakukan perusahaan secara berkala akan
mampu menumbuhkan customer retention yang semakin kuat terhadap perusahaan. p
y
g
p p
Hasil penelitian ini sejalan dengan teori menurut (A., Zeithaml & Berry, 2018)
perbaikan layanan atau service recovery ini adalah tindakan yang diambil oleh
perusahaan ketika mengalami kegagalan jasa atau service failure. Recovery adalah
berbagai hal yang akan dilakukan oleh perusahaan setelah terjadinya suatu kegagalan
pada jasa pelayanan (service failure). Kegagalan layanan atau service failure terjadi
ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan (Bateson
& Hoffman, 2017), terdapat lima kategori strategi pemulihan layanan. Kategori pertama 254 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis adalah strategi kompensasi, strategi kompensasi yang dilakukan dengan memberikan
kompensasi kepada pelanggan untuk mengkompensasi kerugian pelanggan, biaya
emosional, biaya moneter, dan biaya kehilangan waktu yang disebabkan oleh kegagalan
layanan. Kategori kedua adalah strategi restorasi, yaitu strategi pemulihan yang
ditawarkan kepada pelanggan untuk mengkompensasi kondisi saat ini dengan beberapa
cara, yaitu memberikan layanan baru sebagai pengganti layanan yang gagal,
memperbaiki layanan yang terputus, dan kemudian menyerahkannya kembali ke
pelanggan dan menyediakan substitusi untuk layanan saat ini. Hasil penelitian ini
diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila, 2022) hasil penelitian
menunjukkan bahwa service recovery berpengaruh positif dan signifikan terhadap
customer retention penggunaan Lazada. adalah strategi kompensasi, strategi kompensasi yang dilakukan dengan memberikan
kompensasi kepada pelanggan untuk mengkompensasi kerugian pelanggan, biaya
emosional, biaya moneter, dan biaya kehilangan waktu yang disebabkan oleh kegagalan
layanan. Kategori kedua adalah strategi restorasi, yaitu strategi pemulihan yang
ditawarkan kepada pelanggan untuk mengkompensasi kondisi saat ini dengan beberapa
cara, yaitu memberikan layanan baru sebagai pengganti layanan yang gagal,
memperbaiki layanan yang terputus, dan kemudian menyerahkannya kembali ke
pelanggan dan menyediakan substitusi untuk layanan saat ini. Hasil penelitian ini
diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila, 2022) hasil penelitian
menunjukkan bahwa service recovery berpengaruh positif dan signifikan terhadap
customer retention penggunaan Lazada. Pengaruh Product Quality Terhadap Customer Retention Pengaruh Product Quality Terhadap Customer Retention
Hasil penelitian menyatakan bahwa adanya pengaruh variabel Product Quality
(X2) terhadap Customer Retention (Y) pada PT. Bintang Motor Kota Bengkulu. Hal ini
berarti bahwa hipotesis kedua dalam penelitian ini diterima. dengan nilai probability
Sig. 0,008 < 0,05. Hal ini berarti bahwa hipotesis kedua dalam penelitian ini diterima. Dengan adanya kualitas produk yang baik akan mampu menarik minat konsumen
terhadap setiap produk yang ditawarkan sehingga customer retention dapat meningkat. p
p p
y
g
gg
p
g
Hasil penelitian ini sejalan dengan teori menurut (Philip Kotler & Armstrong, 2008),
kualitas produk adalah kemampuan sebuah produk dalam memperagakan fungsinya,
hal itu termasuk durabilitas, reliabilitas, ketepatan, kemudahan pengoperasian dan
reparasi produk juga atribut produk lainnya. Menurut (Setiawati, 2016), kualitas produk
dinyatakan sebagai berikut, kualitas adalah totalitas fitur dan karakteristik dari produk
atau jasa yang menanggung pada kemampuannya untuk memuaskan kebutuhan yang
dinyatakan atau tersirat. y
Hasil penelitian ini diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila,
2022) hasil penelitian menunjukkan bahwa product quality berpengaruh positif dan
signifikan terhadap customer retention penggunaan Lazada. Menurut Hening P, et.al,
(2022) menunjukkan hasil penelitian bahwa kualitas produk mempunyai pengaruh
positif terhadap customer retention Pengaruh Service Recovery dan Product Quality Terhadap Customer Retention
Hasil penelitian menyatakan bahwa adanya pengaruh variabel Service Recovery
(X1) dan Product Quality (X2) Customer Retention (Y) pada PT. Bintang Motor Kota
Bengkulu. Hal ini berarti bahwa hipotesis ketiga dalam penelitian ini diterima. Service
Recovery dan Product Quality sangat lah penting bagi perusahaan untuk selalu
memperhatikan kedua faktor tersebut, sehingga dapat menumbuh kembangkan
customer retentio konsumen terhadap kemajuan perusahaan. Hasil penelitian ini sejalan dengan teori menurut (A., Zeithaml & Berry, 2018)
perbaikan layanan atau service recovery ini adalah tindakan yang diambil oleh
perusahaan ketika mengalami kegagalan jasa atau service failure. Recovery adalah
berbagai hal yang akan dilakukan oleh perusahaan setelah terjadinya suatu kegagalan
pada jasa pelayanan (service failure). Kegagalan layanan atau service failure terjadi 255 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan. ketika jasa yang diterima dipersepsikan tidak sesuai dengan harapan pelanggan. Menurut (Philip Kotler & Armstrong, 2008), kualitas produk adalah kemampuan
sebuah produk dalam memperagakan fungsinya, hal itu termasuk durabilitas,
reliabilitas, ketepatan, kemudahan pengoperasian dan reparasi produk juga atribut
produk lainnya. Pengaruh Product Quality Terhadap Customer Retention Hasil penelitian ini diperkuat dengan penelitian yang dilakukan (Rahwati & Fadila,
2022) hasil penelitian menunjukkan bahwa service recovery dan product quality
berpengaruh positif dan signifikan terhadap customer retention penggunaan Lazada. Kesimpulan Berdasarkan hasil penelitian dan pembahasan tentang Pengaruh Service Recover
(X ) d
P
d
Q
li
(X )
h d
C
R
i
(Y)
d
PT Bi Berdasarkan hasil penelitian dan pembahasan tentang Pengaruh Service Recovery
X1) dan Product Quality (X2) terhadap Customer Retention (Y) pada PT. Bintang Berdasarkan hasil penelitian dan pembahasan tentang Pengaruh Service Recovery
(X1) dan Product Quality (X2) terhadap Customer Retention (Y) pada PT. Bintang
Motor Kota Bengkulu, maka dapat disimpulkan bahwa: Motor Kota Bengkulu, maka dapat disimpulkan bahwa: 1. Service Recovery berpengaruh positif terhadap Customer Retention pada PT
Bintang Motor Kota Bengkulu. 2. Insentif berpengaruh psitif terhadap Customer Retention pada PT. Bintang Motor
Kota Bengkulu. 3. Hasil penelitian membuktikan bahwa terdapat pengaruh yang positif dan signifikan
antara Service Recovery (X1) dan Product Quality (X2) terhadap Customer
Retention pada PT. Bintang Motor Kota Bengkulu. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 25 Saran Berdasarkan hasil penelitan, pembahasan dan kesimpulan yang diperoleh, maka
saran yang dapat diberikan sebagai berikut: 1. Hasil penelitian menunjukkan adanya pengaruh antara variabel Srvice Recovery
(X1) terhadap Customer Retention (Y) pada PT Sinar Mitra Sepadan Finance Kota
Bengkulu. Variabel Srvice Recovery yang ada pada PT Bintang Motor Kota
Bengkulu sudah pada Kategori baik. Agar lebih baik lagi disarankan kepada PT
Bintang Motor Kota Bengkulu agar lebih memperhatikan ketika sedang
menghadapi komplain dari konsumen sehingga tidak ada lagi karyawan yang
bertindak tidak sopan kepada konsumen. 2. Hasil penelitian terlihat bahwa pada Product Quality (X2) yang diberikan oleh PT
Bintang Motor Kota Bengkulu sudah cukup baik. Untuk lebih baiknnya lagi
disarankan kepada PT Bintang Motor Kota Bengkulu agar selalu memberikan
deskripsi perihal kualitas produk yang sedang ditawarkan sehingga konsumen
mudah mengeri dan percaya akan kualitas produk yang ada di PT. Bintang Motor
Kota Bengkulu. 3. Hasil penelitian terlihat bahwa variabel Customer Retention (Y) pada PT. Bintang
Motor Kota Bengkulu sudah dalam kategori Baik. Akan tetapi agar lebih baik lagi
dalam menumbuh kembangkan usahanya, PT PT. Bintang Motor Kota Bengkulu 256 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis harus memperbaiki lagi retensi kepada semua konsumen agar mampu menarik
konsumen menjadi pelanggan tetap dan selalu melakukan transaksi pembelian roda
dua di PT. Bintang Motor Kota Bengkulu. 4. Disarankan bagi peneliti selanjutnya khususnya penelitian yang sama perlu
dipertimbangkan untuk faktor-faktor lain diluar variabel Service Recovery, dan
Product Quality terhadap Customer Retention sehingga akan menghasilkan
penelitian yang lebih baik. DAFTAR RUJUKAN J
A., Zeithaml, V. A., & Berry, L. L. (2018). Servqual: A Multiple Item Scale For
Measuring Consumer Perceptions Of Service Quality. Journal of Retaling, 64(1),
12. Amstrong, G., & Philip, K. (2012). Dasar-Dasar Pemasaran. Jilid I, Alih Bahasa
Alexander Sindoro dan Benyamin Molan. Prenhalindo. As, P., Cabanela, P., Rüdiger, K., & Lampón, J. F. (2017). Value Cocreation, Dynamic
Capabilities and Customer Retention in Industrial Markets. Journal of Business &
Industrial Marketing, 32(3). Bateson, & Hoffman, K. D. (2017). Services Marketing: Concepts, Strategies & Cases
Fifth Edition. USA Cengage Learnin. Chang, J. (2019). Pengaruh Kualitas Produk Dan Promosi Terhadap Keputusan
Pembelian Pada PT Sinar Global Sukses. Manajemen, Jurnal Ekonomi,
5(November), 94–101. Chueh, T. Y., Wang., J. H., & Liao, H. H. (2014). Effects of Service Recovery on
Customer Satisfaction and Relationship Retention in Catering Industry. The
Anthropologist, 17(3), 857–863. Coussement, K. (2014). Improving Customer Retention Management through Cost-
Sensitive Learning. European Journal of Marketing, 48(3/4), 477–478. https://doi.org/10.1108/EJM03-2012-0180 Danesh, S, N., Nasab, S, A., & Choon, K. L. (2012). The Study of Customer
Satisfaction, Customer Trust and Switching Barriers on Customer Retention in
Malaysia Hypermarkets. International Journal of Business & Manaigement, 7,
141–150. Ekowati, S., & Finthariasari, M. (2020). Pengaruh Harga Dan Promosi Terhadap
Keputusan Pembelian Produk Pada Eleven Cafe Bengkulu. Jurnal Ilmiah
Akuntansi,
Manajemen,
Dan
Ekonomi
Islam,
1(1). http://jurnal.umb.ac.id/index.php/jamekis Finthariasari, M., Ekowati, S., & Krisna, R. (2020). Pengaruh Kualias Produk, Display
Layout, Dan Variasi Produk Terhadap Kepuasan Konsumen. Jurnal Ekombis
Review:
Jurnal
Ilmiah
Ekonomi
Dan
Bisnis,
8(2),
149–159. https://journal.stekom.ac.id/index.php/E-Bisnis/article/view/78 Finthariasari, M., Ekowati, S., Ranidiah, F., Yuniarti, R., & Muchlis. (2020). Pengaruh
Work-Family Conflict Terhadap Turnover Intention Melalui Komitmen
Organisasi. Ekuitas:
Jurnal
Ekonomi
Dan
Keuangan,
4(3),
421–438. 257 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis https://doi.org/10.24034/j25485024.y2020.v4.i3.4584 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu THE INFLUENCE OF LIFESTYLE AND HALAL LABEL ON THE
PURCHASE DECISION Ema Yara1, Meiffa Herfianti
2
Universitas Muhammadiyah Bengkulu1-2
emayara970@gmail.com1, meiffaherfianti@gmail.com2 Perumahan Raflessia Asri,Betungan Kec. Selebar, Kota Bengkulu
Corresponding email: emayara970@gmail.com The purpose of this research is to find out whether
lifestyle and the Halal label affect purchasing
decisions. The
sample
of
this
research
was
Management Study Program students at the University
of Muhammadiyah Bengkulu, totaling 90 respondents. Observation data collection techniques, documentation
and questionnaires. The data that has been processed
is analyzed using the SPSS 24 Lifestyle formula (X_1)
and the Halal Label (X_2) which together significantly
influence Purchase Decisions (Y) for Class 2019
Students of the Management Study Program, Faculty
of Economics and Business. Based on the correlation
coefficient test, it is obtained that the value of R =
0.526 and the coefficient of determination R^2 = 0.277
value means that Lifestyle (X_1) and Halal Label
(X_2) contribute an influence of 0.277 or 27.7% to
Purchase Decisions (Y) in Students Class of 2019
Management Study Program Students, Faculty of
Economics and Business. while the remaining 0.723 or
72.3% is influenced by other variables not included in
this study. Riwayat Artikel:
Diterima : 13 Juni 2023
Direvisi : 26 Juli 2023
Disetujui : 28 Juli 2023 Keywords:
Lifestyle, Halal Label,
purchasing decision Keywords:
Lifestyle, Halal Label,
purchasing decision
Kata kunci:
Gaya hidup, Label Halal,
keputusan pembelian https://doi.org/10.24034/j25485024.y2020.v4.i3.4584 Juhana, D. (2018). Pengaruh Kualitas Produk Dan Promosi Terhadap. Jurnal Ekonom
Bisnis & Entrepreneurship, 12(1), 77–88. p
p,
( ),
Kotler, & Amstrong. (2018). Prinsip-prinsip Marketing (7th ed.). Salemba Empat. Kotler, P. (2019). Manajemen Pemasaran (Milenium). Prenhalindo. Kotler, P. (2019). Manajemen Pemasaran (Milenium). Prenhalindo. Kotler, P., & Keller, K. L. (2016). Manajemen Pemasaran edisi 12 Jilid 1& 2. P
Indeks. Kotler, Philip, & Amstrong. (2017). Manajemen Pemasaran. Indeks. Kurnianingsih, W., & Sugiyanto. (2020). Pengaruh Kualitas Produk Dan Promosi
Penjualan Terhadap Keputusan Pembelian Pada Pt. Nestle Indonesia. Respositari,
1(1), 510–524. ( )
Laksana, M. F. (2019). Praktis Memahami Manajemen Pemasaran. CV.Al Fath Zuma Rahwati, S., & Fadila, A. (2022). Pengaruh Service Recovery dan Online Customer
Review
Terhadap
Kepuasan
Pengguna
Lazada
Mahasiswa
Universitas
Singaperbangsa Karawang Dosen Universitas Singaperbangsa Karawang
Teknologi dalam aktivitas pada masa ini pertumbuhan pengguna internet yang
terus. Jurnal
Ilmiah
Wahana
Pendidikan,
8(12),
613–618. https://doi.org/https://doi.org/10.5281/zenodo.7518834 p
g
p
g
Sajadi, R. E., & Bohrer, L. (2017). The impact of service recovery output/process on
costumer satisfaction and loyalty: The case of the airlane indstry. Tourism and
Hospitality Research. Sari, D. A. T., & Giantari, I. G. A. K. (2020). Role of Consumer Satisfaction in
Mediating Effect of Product Quality on Repurchase Intention. International
Research Journal of Management, IT and Social Sciences, 7(1), 217–226. Schiffman, L. G., & Wisenblit, J. (2019). Consumer Behavior Global Edition (Global,
Ed.; 20th ed.). Pearson. Setiawati, B. (2016a). Pengaruh Kualitas Produk Dan Promosi Terhadap Keputusan
Pembelian Kerupuk Rambak “Dwijoyo” Di Desa Penanggulan Kec.Pegandon
Kab. Kendal. Fakultas Ekonomi Manajemen, S1. Setiawati, B. (2016b). Pengaruh Kualitas Produk Dan Promosi Terhadap Keputusan
Pembelian Kerupuk Rambak “Dwijoyo” Di Desa Penanggulan Kec.Pegandon
Kab. Kendal. Fakultas Ekonomi Manajemen, S1. j
Sugiyono. (2018). Metode Penelitian Kombinasi (Mixed Methods). Alfabeta. Tjiptono, F. (2018). Pemasaran Jasa, Prinsip, Penerapan,dan Penelitian. And Tjiptono, F. (2018). Pemasaran Jasa, Prinsip, Penerapan,dan Penelitian. Andi. 258 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ABSTRAK Tujuan dari penelitian ini adalah untuk mengetahui
apakah gaya hidup dan label Halal berpengaruh
terhadap kerputusan pembelian. Sampel penelitian ini
adalah mahasiswa prodi Manajemen Universitas
Muhammadiyah Bengkulu berjumlah 90 orang
responden. Teknik pengumpulan data observasi,
dokumentasi dan kuesioner. Data yang telah diolah 259 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dianalisis menggunakan rumus SPSS 24 Gaya Hidup
(X1) dan Label Halal (X2) secara bersama-sama
berpengaruh secara signifikan terhadap Keputusan
Pembelian (Y) pada Mahasiswa Angkatan 2019
Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis. Berdasarkan uji koefisien korelasi didapat
nilai R= 0,526 dan koefisien determinasi R2 = 0,277
nilai mempunyai makna bahwa Gaya Hidup (X1) dan
Label Halal (X2) memberikan kontribusi pengaruh
sebesar 0,277 atau 27,7% terhadap Keputusan
Pembelian (Y) pada Mahasiswa Angkatan 2019
Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis. sedangkan sisanya sebesar 0.723 atau 72.3%
dipengaruhi oleh variabel-variabel lain yang tidak
termasuk dalam penelitian ini. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Di era teknologi dan informasi yang berkembang pesat saat ini, dimana segala
sesuatu mulai di tuntut untuk berkreasi dan berinofasi dalam berbagai aspek guna
semata-mata untuk memajukan peradaban umat manusia. Hal ini tentunya di latar
belakangi dengan berkembangnya ilmu pengetahuan yang implementasi nyatanya
menjadi sebuah faktor penting dalam penciptaan teknologi dan informasi itu sendiri. Konsumsi
masyarakat
terhadap
berbagai
produk
yang
dimaksud
cenderung terus meningkat, seiring dengan perubahan gaya hidup masyarakat termasuk
pola konsumsinya. Sementara itu pengetahuan masyarakat masih belum memadai
untuk dapat memilih dan menggunakan produk secara tepat, benar dan aman. Di lain
pihak iklan dan promosi secara gencar mendorong konsumen untuk mengkonsumsi
secara berlebihan dan seringkali tidak rasional. Keputusan
pembelian
merupakan
suatu
konsep
dalam
perilaku
pembelian dimana konsumen memutuskan untuk bertindak atau melakukan
sesuatu dan dalam hal ini melakukan pembelian ataupun memanfaatkan produk atau
jasa tertentu (Balawera, 2013). Pengambilan keputusan konsumen pada dasarnya
merupakan proses pemecahan masalah. Peneliti menggunakan variabel keputusan
pembelian ini karena studi tentang keputusan pembelian masih layak untuk diteliti
mengingat semakin banyaknya produk yang beredar mengakibatkan perlunya berbagai
pertimbangan bagi masyarakat dalam melakukan keputusan pembelian. Kebanyakan
konsumen, baik konsumen individu maupun pembeli organisasi melalui proses mental
yang hampir sama dalam memutuskan produk dan merek apa yang akan dibeli
(Yulindo, 2013). Keputusan pembelian konsumen dapat dilakukan apabila produk
tersebut sesuai dengan apa yang diinginkan dan dibutuhkan konsumen. Gaya hidup merupakan bagian dari ciri konsumen yang dapat menentukan
perilaku konsumen. Menurut Rizky Hartono (2015), gaya hidup berkaitan dengan
bagaimana orang membelanjakan uangnya, dan bagaimana mengalokasikan waktu atas
produk yang dikonsumsinya. Menurut Kotler dan Keller, gaya hidup adalah pola hidup
seseorang di dunia yang diekspresikan dalam aktifitas, minat dan opininya. Gaya hidup 260 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis menunjukan keseluruhan diri seseorang dalam berinteraksi dengan lingkungannya. Gaya hidup menggambarkan seluruh pola seseorang dalam beraksi dan berinteraksi di
dunia (Kotler et al., 2008). Sedangkan menurut Setiadi gaya hidup adalah secara luas
diidentifikasikan sebagai cara hidup yang diidentifikasikan oleh bagaimana orang
menghabiskan waktu mereka (aktifitas) apa yang mereka anggap penting dalam
lingkungannya (ketertarikan), dan apa yang mereka pikirkan tentang diri mereka
semdiri dan juga sekitarnya (Setiadi, 2010). menunjukan keseluruhan diri seseorang dalam berinteraksi dengan lingkungannya. PENDAHULUAN Gaya hidup menggambarkan seluruh pola seseorang dalam beraksi dan berinteraksi di
dunia (Kotler et al., 2008). Sedangkan menurut Setiadi gaya hidup adalah secara luas
diidentifikasikan sebagai cara hidup yang diidentifikasikan oleh bagaimana orang
menghabiskan waktu mereka (aktifitas) apa yang mereka anggap penting dalam
lingkungannya (ketertarikan), dan apa yang mereka pikirkan tentang diri mereka
semdiri dan juga sekitarnya (Setiadi, 2010). j g
y (
)
Selain gaya hidup, tren masa kini yang ada pada kalangan penduduk Indonesia
dalam melakukan keputusan pembelian adalah Label halal. Menurut sertifikat label
halal adalah fatwa tertulis Majelis Ulama Indonesia yang diberikan kepada perusahaan
yang mengajukan uji kehalalan produk. Pencantuman label halal bertujuan agar
konsumen mendapatkan perlindungan kehalalan dan kenyamanan atas pemakaian
produk tersebut (Eka Dewi Setia Tarigan, 2016). Dengan demikian Label Halal dapat
diartikan sebagai sebuah gambar atau tampilan yang dicantumkan dalam produk
dengan tujuan memberikan informasi yang dibutuhkan oleh konsumen (Yuswohady,
2015). Salah satu produk yang berkualitas, familiar di telinga, dan juga sudah tersebar
di segala penjuru di Indonesia yaitu Wardah. merupakan salah satu brand kosmetik dan
skincare di Indonesia yang terkenal dengan produknya yang terjamin halal. Produk
Wardah sendiri cukup bervariasi dan dapat dipilih berdasarkan kebutuhan. Mulai dari
makeup, skincare, parfum, perawatan rambut hingga perawatan tubuh. Harga produk
Wardah yang cukup terjangkau juga jadi salah satu alasan lainnya banyak orang
menyukainya. Mau beli produk Wardah? Temukan informasi mengenai produk Wardah
yang terbaru dan terlengkap beserta daftar harga Wardah yang paling update hanya di
iPrice Indonesia. Dari observasi awal yang dilakukan dengan konsumen wardah yang dilakukan
pada tanggal 5 November 2022, didapatkan informasi bahwa keputusan pembelian
konsumen terhadap produk wardah menurun. Dari informasi yang didapat dari
konsumen masih kurang logo halal sehingga menyebabkan pelanggan akan ragu untuk
menggunakan. Menggunakan produk yang berkualitas bagus dan harga yang sesuai
serta dengan melihat teman –teman yang menggunakan sering kali menjadikanya
sebagi tren. Gaya hidup mahasiswi Prodi Manajmen Angkatan 2019 Fakultas Ekonomi
dan Bisnis Universitas Muhammadiyah Bengkulu dalam berpenampilan cantik menurut
mereka merupakan modal awal dan salah satu faktor yang mendukung kepercayaan diri
yang mereka miliki sehingga harus tetap dijaga dan dirawat. Melihat penampilan
mahasiswi Manajmen Angkatan 2019 Fakultas Ekonomi dan Bisnis Universitas
Muhammadiyah Bengkulu melihat penampilan yang mewah,cantik modern dan modis
dibandingkan dengan mahasiswi Prodi yang lain. Terlihat dari tampilan mereka yang
pergi ke kampus selalu memakai riasan wajah seperti bedak mascara,pelembab bibir
dll. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Gaya Hidup Gaya hidup merupakan bagian dari ciri konsumen yang dapat menentukan
perilaku konsumen. Menurut (Mowen J & Minor M, 2002), gaya hidup berkaitan dengan
bagaimana orang membelanjakan uangnya, dan bagaimana mengalokasikan waktu atas
produk
yang
dikonsumsinya. Menurut
Mowen
(2002),
psikografik
berarti
menggambarkan (graph) psikologi konsumen (phyco). Psikografik sering diartikan
sebagai pengukuran AIO (activity, interest, opinion) yang menjadi bagian daripada
psikologi konsumen. Sedangkan menurut (Sumarwan, 2004; Finthariasari, 2022) gaya
hidup merupakan pola hidup seseorang yang dinyatakan dalam kegiatan, minat dan
pendapatnya dalam membelanjakan uangnya dan mengalokasikan Bagian ini
menyertakan rujukan baik teori maupun penelitian sebelumnya yang diambil dari jurnal
jurnal mutakhir. Minimal 10-15 penelitian yang kredibel harus dicantumkan di sini. waktu yang dimilikinya. Peranan dalam penelitian yang dilakukan terhadap gaya hidup
adalah terdapat pengaruh yang signifikan terhadap keputusan pembelian, hal ini dari
hasil penelitian yang dilakukan bahwa gaya hidup sangat mendukung dalam
peningkatan keputusan pembelian bagi konsumen terutama dalam hal peningkatan
kualitas produk, sistem pelayanan yang diberikan, ketersedian produk serta kenyamanan
dalam penggunaan produk dan didukung gaya hidup yang sesuai oleh meningkatkan
keputusan pembelian konsumen. Keputusan Pembelian Keputusan pembelian yaitu sebuah pendekatan penyelesaian masalah pada
kegiatan manusia untuk membeli suatu barang atau jasa dalam memenuhi keinginan
dan kebutuhannya yang terdiri dari pengenalan kebutuhan dan keinginan, pencarian
informasi, evaluasi terhadap alternatif pembelian, keputusan pembelian dan tingkah 261 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis laku setelah pembelian (Swastha Basu, 2008). Keputusan pembelian konsumen
membentuk preferensi antar merek dalam kumpulan pilihan, konsumen mungkin juga
membentuk maksud untuk membeli merek yang paling disukai (Kotler & Keller, 2009). laku setelah pembelian (Swastha Basu, 2008). Keputusan pembelian konsumen
membentuk preferensi antar merek dalam kumpulan pilihan, konsumen mungkin juga
membentuk maksud untuk membeli merek yang paling disukai (Kotler & Keller, 2009). Menurut Ekowati & Finthariasari (2020), Rahmawati & Finthariasari (2021),
Sumarwan Ujang (2011), mendefinisikan pengertian suatu keputusan sebagai pemilihan
suatu tindakan dari dua arah atau lebih alternatif. Menurut (Nurul Yusna Yunus, 2021),
penelitian ini bertujuan untuk menguji pengaruh gaya hidup terhadap keputusan
pembelian kosmetik may belline pada mahasiswi Fakultas Ekonomi dan Bisnis Islam
Insitut Agama Islam Negeri Manado. Metode yang digunakan metode kuantitatif
deskriptif. Sumber data penelitian ini adalah mahasiswi Fakultas Ekonomi dan Bisnis
Islam Insitut Agama Islam Negeri Manado dengan menggunakan teknik pengumpulan
melalui Observasi dan Kuesioner. Teknik analisis data yang digunakana dalah regresi
linear sederhana dan data penelitian ini di olah menggunakan SPSS versi 25. Hasil penelitian ini menunjukan bahwa gaya hidup berpengaruh positif terhadap
keputusan pembelian, hal ini dibuktikan melalui hasil analisis menggunakan teknik
koefisien determinasi (R) 0,128 atau 12,8% hal ini berarti bahwa pengaruh gaya hidup
terhadap keputusan pembelian sebesar 12,8% sedangkan sisanya 87,2% pengaruh
faktor lain yang tidak diteliti dalam penelitian ini. Selain itu, berdasarkan nilai
signifikan dari tabel Coefficients diperoleh nilai signifikansi sebesar 0,001<0,05, maka
Ho ditolak dan Ha diterima.Berdasarkan hasil penelitian ini disimpulkan bahwa Gaya
Hidup berpengaruh signifikan terhadap Keputusan Pembelian. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Label Halal Labelisasi halal adalah pencantuman tulisan atau pernyataan halal pada kemasan
produk untuk menunjukkan bahwa produk yang dimaksud berstatus sebagai produk
halal (Rungkuti Freddy, 2012). Label halal sebuah produk dapat dicantumkan pada 262 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis sebuah kemasan apabila produk tersebut telah mendapatkan sertifikat halal oleh
BPPOM MUI. Sertifikasi dan labelisasi halal bertujuan untuk memberikan kepastian
hukum dan perlindungan terhadap konsumen, serta meningkatkan daya saing produk
dalam negeri dalam rangka meningkatkan pendapatan nasional. Seritifikat produk halal
adalah surat keputusan fatwa halal yang dikeluarkan Dewan Pimpinan MUI dalam
bentuk sertifikat (Fandy Tjiptono, 2002)Peningkatan peranan gaya hidup diiringi
dengan peningkatan peranan non fisik hal ini terbukti dari hasil penelitian bahwa
pengaruh label halal berpengaruh terhadap keputusan pembelian hal ini berhubungan
dengan keputusan pembelian yang secara tidak langsung oleh pemberian label halal
dalam dorongan konsumen untuk melakukan keputusan pembelian, arahan yang baik
dari perusahaan dalam peningkatan seperti penjualan, seperti layanan, informasi yang
tepat bagi konsumen, pada mahasiswa angkatan 2019 Prodi Manajemen Fakultas
Ekonomi dan Bisnis. Dalam ini sesuai dengan penelitian yang dilakukan Jihan Nabila
Zahra, 2019, Nur Hayati, Linda Nurdayani, 2020 bahwa produk berlebel halal akan
memberikan loyalitas dalam keputusan pembelian pelanggan. sebuah kemasan apabila produk tersebut telah mendapatkan sertifikat halal oleh
BPPOM MUI. Sertifikasi dan labelisasi halal bertujuan untuk memberikan kepastian
hukum dan perlindungan terhadap konsumen, serta meningkatkan daya saing produk
dalam negeri dalam rangka meningkatkan pendapatan nasional. Seritifikat produk halal
adalah surat keputusan fatwa halal yang dikeluarkan Dewan Pimpinan MUI dalam
bentuk sertifikat (Fandy Tjiptono, 2002)Peningkatan peranan gaya hidup diiringi
dengan peningkatan peranan non fisik hal ini terbukti dari hasil penelitian bahwa
pengaruh label halal berpengaruh terhadap keputusan pembelian hal ini berhubungan
dengan keputusan pembelian yang secara tidak langsung oleh pemberian label halal
dalam dorongan konsumen untuk melakukan keputusan pembelian, arahan yang baik
dari perusahaan dalam peningkatan seperti penjualan, seperti layanan, informasi yang
tepat bagi konsumen, pada mahasiswa angkatan 2019 Prodi Manajemen Fakultas
Ekonomi dan Bisnis. Dalam ini sesuai dengan penelitian yang dilakukan Jihan Nabila
Zahra, 2019, Nur Hayati, Linda Nurdayani, 2020 bahwa produk berlebel halal akan
memberikan loyalitas dalam keputusan pembelian pelanggan. METODE PENELITIAN Jenis penelitian yang digunakan dalam penelitian ini adalah penelitian kuantitatif. Metode penelitian kuantitatif merupakan salah satu jenis penelitian yang spesifikasinya
adalah sistematis, terencana dan terstruktur dengan jelas sejak awal hingga pembuatan
desain penelitiannya. Metode penelitian kuantitatif, sebagaimana dikemukakan oleh
(Sugiyono, 2009) yaitu: “Metode penelitian yang berlandaskan pada filsafat
positivisme, digunakan untuk meneliti pada populasi atau sampel tertentu,
pengumpulan data menggunakan instrumen penelitian, analisis data bersifat kuantitatif/
statistik, dengan tujuan untuk menguji hipotesis yang telah ditetapkan”. g
j
g j
p
y
g
p
Responden yang menjadi subjek pada penelitian ini Pada Mahasiswa Angkatan
2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. Dari hasil
pengunpulan data melalui koesioner terhadap 90 orang yang dijadikan responden
penelitian, maka dapat diketahui karakteristik responden berdasarkan jenis kelamin. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 263 HASIL PENELITIAN DAN PEMBAHASAN Tabel 1
Uji multikolinieritas antara Gaya Hidup (X1) dan Label Halal (X2) dengan
variabel Keputusan Pembelian (Y)
No
Variabel
Tolerance
VIF
Keterangan
1
Gaya Hidup
,536
1,864
Non Multikolinieritas
2
Label Halal
,536
1,864
Non Multikolinieritas
Sumber Penelitian 2023 Tabel 1
Uji multikolinieritas antara Gaya Hidup (X1) dan Label Halal (X2) dengan
variabel Keputusan Pembelian (Y) Berdasarkan Tabel diatas terlihat bahwa semua variabel mempunyai nilai
toleransi diatas 0,1 dan nilai VIF dibawah 10, dengan demikian dapat disimpulkan
bahwa variabel pada penelitian ini bebas multikolinieritas. 263 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Analisis Regresi Linear Berganda
Tabel 2
Hasil Analisis Regresi Linear Berganda
Coefficientsa
Model
Unstandardized
Coefficients
Standardize
d
Coefficients
T
Sig. B
Std. Error
Beta
1
(Constant)
3,652
1,991
1,834
,070
Gaya Hidup
,647
,202
,359 3,204
,002
Label Halal
,530
,173
,343 3,056
,003
a. Dependent Variable: Keputusan Pembelian
Sumber: Output SPSS 24,0 Dari perhitungan hasil diatas didapatkan persamaan regresinya adalah sebagai
berikut : Y = 3.652 + 0.647 (𝐗𝟏) + 0.530 (𝐗𝟐)
Berdasarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : Y = 3.652 + 0.647 (𝐗𝟏) + 0.530 (𝐗𝟐)
Berdasarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : Berdasarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : asarkan persamaan regresi diatas, maka dapat dijelaskan sebagai berikut : 1. Nilai Konstanta 3.652 mempunyai arti bahwa apabila variabel Gaya Hidup (X1),
Label Halal (X2) terhadap Keputusan Pembelian (Y) sama dengan nol, maka
variabel Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis, akan tetap yaitu 3.652. 2. Koefisien Regresi X1, sebesar 0.647 mempunyai makna jika nilai variabel Gaya
Hidup (X1) naik satu satuan maka nilai Keputusan Pembelian (Y) akan naik
sebesar 0.647 dengan asumsi variabel Label Halal (X2) dianggap tetap. 2. Koefisien Regresi X1, sebesar 0.647 mempunyai makna jika nilai variabel Gaya
Hidup (X1) naik satu satuan maka nilai Keputusan Pembelian (Y) akan naik
sebesar 0.647 dengan asumsi variabel Label Halal (X2) dianggap tetap. 3. Koefisien Regresi X2, sebesar 0.530 mempunyai makna jika nilai variabel Label
Halal (X2) naik satu satuan maka nilai variabel Keputusan Pembelian (Y) pada
Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis akan naik sebesar 0.530 dengan asumsi variabel Gaya Hidup (X1) dianggap
tetap. 4. HASIL PENELITIAN DAN PEMBAHASAN Hasil penelitian yang paling dominan mempengaruhi variable Keputusan
Pembelian (Y) adalah (X1), Variabel Gaya Hidup (X1) adalah sebesar 0.647 dan
Variabel Label Halal (X2) adalah sebesar 0.530. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Pengujian Hipotesis Dengan Uji t Melalui perhitungan yang dilakukan dengan menggunakan program SPSS, maka
perbandingan antara thit dengan ta/2 (n-k-1) = 90-2-1 = 87 (1.987) setiap variabel
sebagai berikut : 1. Gaya Hidup yaitu thit>tα/2 (3.204 > 1.987) dan (sig 𝛼 = 0,002 < 0,050), hal
tersebut menyatakan bahwa adanya pengaruh yang signifikan Gaya Hidup (X1)
terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. 1. Gaya Hidup yaitu thit>tα/2 (3.204 > 1.987) dan (sig 𝛼 = 0,002 < 0,050), hal
tersebut menyatakan bahwa adanya pengaruh yang signifikan Gaya Hidup (X1)
terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. 2. Berdasarkan uji thit untuk variabel Label Halal (X2) yaitu thit>tα/2 (3.056 >1.987)
dan (sig 𝛼 = 0,003 < 0,050), hal tersebut menyatakan bahwa adanya pengaruh yang 264 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis signifikan Label Halal terhadap Keputusan Pembelian pada Bisnis Ritel Minis o
di Kota Bengkulu. Tabel 3
Uji t
Coefficientsa
Model
Unstandardized
Coefficients
Standardiz
ed
Coefficient
s
T
Sig. B
Std. Error
Beta
1
(Constant)
3,652
1,991
1,834 ,070
Gaya Hidup
,647
,202
,359 3,204 ,002
Label Halal
,530
,173
,343 3,056 ,003
a. Dependent Variable: Keputusan Pembelian
Sumber: Output SPSS 24.0 (lampiran 5)
Uji F
Tabel 4
Uji F
ANOVAa
Model
Sum of
Squares
Df
Mean
Square
F
Sig. 1
Regression
76,628
2
38,314
20,505
,000b
Residual
199,927
107
1,868
Total
276,555
109
a. Dependent Variable: Keputusan Pembelian
b. Predictors: (Constant), Label Halal, Gaya Hidup
Sumber: Output SPSS 24,0 Berdasarkan tabel uji hipotesis dengan uji F diatas diperoleh Fhitung sebesar 20.505
dengan nilai Ftabel sebesar 3,930 yaitu (20.505 > 3,930) dan (sig α = 0.000 < 0,050),
maka dengan demikian dapat disimpulkan bahwa H3 diterima artinya secara simultan
variabel Gaya Hidup dan Label Halal berpengaruh yang signifikan terhadap Keputusan
Pembelian di Pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas
Ekonomi dan Bisnis. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Koefisisen Determinasi (𝐑𝟐) Berdasarkan tabel diatas dapat diketahui nilai koefisien determinasi Adjusted
(R2) diperoleh nilai sebesar 0.277 (Agus Tri Basuki dan Nano Prawoto, 2016:51). Nilai
ini mempunyai arti bahwa variabel Gaya Hidup dan Label Halal terhadap variabel
Keputusan Pembelian memberikan sumbangan sebesar 0.277 atau 27,7% terhadap
Keputusan Pembelian pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen 265 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Fakultas Ekonomi dan Bisnis. Sedangkan sisanya sebesar 0.723 atau 72,3%
dipengaruhi oleh variabel lain yang tidak masuk dalam model penelitian ini. Tabel 5
Nilai Koefisien Determinasi (𝐑𝟐)
Model Summaryb
Model
R
R Square Adjusted R Square
Std. Error of the
Estimate
1
,526a
,277
,264
1,36692
a. Predictors: (Constant), Label Halal, Gaya Hidup
b. Dependent Variable: Keputusan Pembelian
Sumber: Output SPSS 24,0 (lampiran 5) Kesimpulan Berdasarkan hasil penelitian yang telah dilakukan tentang pengaruh Gaya Hidup
dan Label Halal Terhadap Keputusan Pembelian pada Mahasiswa Angkatan 2019
Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis., dapat disimpulkan
sebagai berikut: g
1. Gaya Hidup berpengaruh signifikan terhadap Keputusan Pembelian pada
Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis. 1. Gaya Hidup berpengaruh signifikan terhadap Keputusan Pembelian pada
Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis. 2. Label Halal berpengaruh signifikan terhadap Keputusan Pembelian pada
Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis., Gaya Hidup (X1) dan Label Halal (X2) secara bersama-sama berpengaruh
secara signifikan terhadap Keputusan Pembelian (Y) pada Mahasiswa Angkatan
2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan Bisnis. 3. Berdasarkan uji koefisien determinasi didapat nilai R= 0,526 dan koefisien
determinasi R2 = 0,277 nilai mempunyai makna bahwa Gaya Hidup (X1) dan Label
Halal (X2) memberikan kontribusi pengaruh sebesar 0,277 atau 27,7% terhadap
Keputusan Pembelian (Y) pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. sedangkan sisanya sebesar 0.723 atau
72.3% dipengaruhi oleh variabel-variabel lain yang tidak termasuk dalam
penelitian ini. Saran Berdasarkan hasil penelitian, pembahasan dan kesimpulan yang diperoleh, maka
saran yang dapat diberikan sebagai berikut: 1. Hasil penelitian menunjukan adanya pengaruh yang signifikan antara variabel
Gaya Hidup (X1) dan Label Halal (X2) terhadap Keputusan Pembelian (Y) Pada
Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi dan
Bisnis. 266 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis 2. ada pada barkot produk sehingga yang ditawarkan kepada konsumen sehingga
dapat memehami arti dari halal pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. 2. ada pada barkot produk sehingga yang ditawarkan kepada konsumen sehingga
dapat memehami arti dari halal pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. j
3. Hasil penelitian terlihat bahwa pada variabel Gaya Hidup mahasiswa pada saat ini
memiliki suatu pemahaman yang harus diberikaninfomasi akan kegunaan serta
manfaat produk itu sebenarnya sehingga tidak tertipu akan produk palsu terutama
pada Mahasiswa Angkatan 2019 Mahasiswa Prodi Manajemen Fakultas Ekonomi
dan Bisnis. untuk itu perlu ditingkatkan lagi pernan Gaya Hidup serta pola
pemberian potongan Gaya Hidup yang tepat. p
p
g
y
p y
g
p
4. Disarankan bagi peneliti selanjutnya khususnya penelitian yang sama perlu
dipertimbangkan untuk faktor-faktor lain diluar variabel penelitian Gaya Hidup
dan Label Halal terhadap Keputusan Pembelian serta dapat meningkatkan
penjualan pada perusahaan pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. sehingga akan menghasilkan penjualan
lebih meningkat serta menjadi suatu refrensi bagi penelitian selanjutnya yang lebih
baik. p
p
g
y
p y
g
p
4. Disarankan bagi peneliti selanjutnya khususnya penelitian yang sama perlu
dipertimbangkan untuk faktor-faktor lain diluar variabel penelitian Gaya Hidup
dan Label Halal terhadap Keputusan Pembelian serta dapat meningkatkan
penjualan pada perusahaan pada Mahasiswa Angkatan 2019 Mahasiswa Prodi
Manajemen Fakultas Ekonomi dan Bisnis. sehingga akan menghasilkan penjualan
lebih meningkat serta menjadi suatu refrensi bagi penelitian selanjutnya yang lebih
baik. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 26 DAFTAR RUJUKAN Balawera. (2013). Green Marketing dan Corporate Responsibility Pengaruhnya
terhadap keputusan pembelian konsumen melalui minat membeli produk organik
di freshmart kota manado. 1(4), 2129. f
Eka Dewi Setia Tarigan. (2016). Pengaruh Label Halal Terhadap Keputusan Pembelian
Kosmetik Wardah pada Mahasiswi Program Studi Manajemen Fakultas Ekonomi
Universitas Medan. Jurnal Konsep Bisnis Dan Manajemen, 3(1), 49. Ekowati, S., & Finthariasari, M. (2020). Pengaruh Harga Dan Promosi Terhadap
Keputusan Pembelian Produk Pada Eleven Cafe Bengkulu. Jurnal Ilmiah
Akuntansi,
Manajemen,
Dan
Ekonomi
Islam,
1(1). http://jurnal.umb.ac.id/index.php/jamekis Fandy Tjiptono. (2002). Strategi Pemasaran (Cetakan Ke). Andi Offset. Finthariasari, Meilaty., Ratnawili., Halim, Nurman. (2022). Purchasing Decisions: The
Analysis Effect Of The Variables Life Style, Celebrity Endorser, And Brand
Image. Ekombis Review: Jurnal Ilmiah Ekonomi Dan Bisnis, 10(2). g
(
Kotler, & Keller. (2009). Manajemen Pemasaran Edisi 13. Erlangga. Kotler, Philip, Armstrong, & Garry. (2008). Prinsip-prinsip Pemasaran (Jilid 1). Erlangga. Mowen J, & Minor M. (2002). Consumer Behaviour 5th, Upper Saddle River, NJ:
Prentice Hall.inc. Nurul Yusna Yunus. (2021). Pengaruh Gaya Hidup Terhadap Keputusan Pembelian
Kosmetik Maybelline pada mahasiswi fakultas ekonomi dan bisnis. Jurlan IAIN
Manado. Rahmawati, M., & Finthariasari, M. (2021). The Effect of Brand Equity toward
Purchasing Decision of HP Laptop in Bengkulu City Pengaruh Brand Equity
(Ekuitas Merek) terhadap Keputusan Pembelian Laptop Hp di Kota Bengkulu. Journal Of Indonesian Management (JIM), 1(3), 341–346. Rizky Hartono. (2015). Pengaruh Faktor-Faktor Gaya Hidup Konsumen Terhadap 267 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Keputusan Pembelian Laptop Apple Digest Marketing. 1(1), 67. Rungkuti Freddy. (2012). Analisis SWOT Teknik Membedah Kasus B Keputusan Pembelian Laptop Apple Digest Marketing. 1(1), 67. Rungkuti Freddy. (2012). Analisis SWOT Teknik Membedah Kasus Bisnis. PT
Gramedia Pustaka Utama. Setiadi. (2010). Perilaku Konsumen. Kencana. Setiadi. (2010). Perilaku Konsumen. Kencana. Sugiyono. (2009). Metode Penelitian Bisnis (Pendekatan Kuantitatif, Kualitatif, dan
R&D). Alfabeta. Sumarwan. (2004). Perilaku Konsumen : Teori dan Penerapannya dalam Pemasaran
Edisi 1. Ghalia Indonesia. Sumarwan Ujang. (2011). Perilaku Konsumen: Teori dan Penerapannya dalam
Pemasaran. Ghalia Indonesia. Swastha Basu. (2008). Manajemen Pemasaran (Edisi Kedu). Liberty. Yulindo. (2013). Pengaruh Kualitas Produk Terhadap Keputusan Pembelia
Konsumen pada 3 AM Cofee Manado. 1(1). Yuswohady. (2015). Marketing to the Middle Class Muslim - Kenali Perubahannya,
Pahammi Perilakunya, Petakan Strateginya. THE EFFECT OF MOTIVATION AND WORK EXPERIENCE ON
THE CAREER DEVELOPMENT OF EMPLOYEES OF PT. SANDABI
INDAH LESTARI SELUMA Marliza Ade Fitri1, Richy Pranaditya Faiztawali2
Universitas Muhammadiyah Bengkulu1-2
marlizafitri@umb.ac.id1, aditbkll3@gmail.com2 Jl. Adam Malik, Km. 6,5 Kota Bengkulu
Corresponding email: marlizafitri@umb.ac.id INFORMASI ARTIKEL
ABSTRACT This research is initiated by the importance of
employee career development in order to produce
quality employees. The respondents of this research
are all employees of PT. Sandabi Indah Lestari
Seluma with the total number 100 people, with the
sampling method is simple random sampling. The
results of this study indicate that the variables of
motivation and work experience simultaneously or
together have a significant effect on the career
development of PT. Sandabi Indah Lestari Seluma
with a probability value (sig) 0.000 <0.05. As well as
motivation and work experience partially or
individually affect the career development of
employees of PT. Sandabi Indah Lestari Seluma with
a probability value (sig) of each motivational variable
with a probability value (sig) 0.004 <0.05 has a
significant effect on employee career development
and work experience with a probability value (sig)
0.000 <0.05 has a significant effect on employee
development employee career. Kata Kunci:
Motivasi, Pengalaman Kerja,
Pengembangan Karir Karyawan DAFTAR RUJUKAN Gramedia Pustaka Umum. 268 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRAK Penelitian ini didasari pentingnya pengembangan
karir karyawan guna untuk menghasilkan karyawan
yang berkualitas. Responden penelitian ini adalah
seluruh karyawan PT. Sandabi Indah Lestari Seluma
yang
berjumlah
100
orang,
dengan
metode
pengambilan sampel yaitu simple random sampling. 269 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Hasil penelitian ini menunjukkan bahwa variabel
motivasi dan pengalaman kerja secara simultan atau
bersama-sama berpengaruh signifikan terhadap
pengembangan karir karyawan PT. Sandabi Indah
Lestari Seluma dengan nilai probabilitas (sig) 0.000 <
0.05. Serta motivasi dan pengalaman kerja secara
parsial atau sendiri-sendiri berpengaruh terhadap
pengembangan karir karyawan PT. Sandabi Indah
Lestari Seluma dengan nilai probabilitas (sig)
masing- masing variabel motivasi dengan nilai
probabilitas (sig) 0.004 < 0.05 berpengaruh signifikan
terhadap
pengembangan
karir
karyawan
dan
pengalaman kerja dengan nilai probabilitas (sig)
0.000 < 0.05 berpengaruh signifikan terhadap
pengembangan karir karyawan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Sumber daya manusia merupakan salah satu faktor yang sangat penting dalam
suatuperusahaan disamping faktor yang lain seperti modal, surnberdaya manusia harus
dikelola dengan baik untuk meningkatkan efektivitas danefesiensi organisasi (Fitri et
al., 2022; Orbandi et al., 2021). Tanpa sumber daya manusia yang rnerniliki
kompetensi tinggi dalam bidang pekerjaan dan tanggung jawabnya, organisasi akan
gagal untuk mewujudkan eksistensinya. Menurut Bernadin (2013) pengembangan
karier merupakan suatu rangkaian atas sikap dan perilaku yang berkaitan dengan aktifitas
pekerjaan dan pengalaman sepanjang kehidupan seseorang. Menurut Wahyudi (2011)
Dalam pengembangan karier perlu dipahami dua proses, yaitu bagaimana seseorang
merencanakan dan mengimplementasikan tujuan kariemya sendiri (careerplaning) dan
bagaimana institusi merancang dan mengimplementasikan program pengembangan
kariemya (career management). Menurut Candra & Ardana (2016), Finthariasari & Saputri (2020), Onsardi et al.,
(2021) pembelajaran dan pertambahan perkembangan potensi bertingkah laku baik dari
pendidikan formal maupun non formal atau bisa diartikan sebagai suatu proses yang
membawa seseorang kepada suatu pola tingkah laku yang lebih baik. Menurut Samsudin
(2010) motivasi adalah proses memengaruhi atau mendorong dari luar terhadap
seseorang atau kelompok kerja agar mereka mau melaksanakan sesuatu yang telah
ditetapkan. Dari hasil observasi yang dilakukan oleh penulis, Penulis menemukan
fenornena Kurangnya motivasi yang diberikan oleh atasan terhadap bawahan maupun
antara sesama karyawan hal ini dapat dilihat pada saat karyawan mendapatkan
masalah dalam bekerja tidak ada rekan ataupun atasan yang membantu karyawan
tersebut menyelesaikan masalahnya, Hal tersebut tentu saja mengakibatkan
ketidakpuasan bagi karyawan dalam menjalankan tugas, selainitu karyawan
mengalami ketidakpuasandalam bekerja disebabkan oleh ketidakpastian perusahaan
dalarn menjarnin. Pengembangan karir karyawan atas dedikasi waktu yang telah 270 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis diberikan karyawan selama karyawan bekerja untuk perusahaan, hal tersebut tentu
saja menimbulkan ketidakpuasan karyawan dalam bekerja. diberikan karyawan selama karyawan bekerja untuk perusahaan, hal tersebut tentu
saja menimbulkan ketidakpuasan karyawan dalam bekerja. Pengalaman Kerja Menurut Candra & Ardana (2016) menjelaskan pengalaman kerja adalah pengalaman
kerja merupakan suatu peroses pembelajaran dan pertambahan perkembangan potensi
bertingkah laku baik dari pendidikan formal maupun non formal atau bisa diartikan
sebagai suatu proses yang membawa seseorang kepada suatu pola tingkah laku yang
lebih baik. Sedangkan menurut Candra & Ardana (2016) mengemukakan tentang
pengalaman kerja adalah pengetahuan atau keterampilan yang telah di ketahui dan
dikuasai seseorang yang akibat dari perbuatan atau pekerjaan yang telah di lakukan
selama beberapa waktu tertentu. Menurut Foster (2016) ada beberapa indikator
pengalaman kerja adalah sebagai berikut: lama waktu atau masa kerja, tingkat
pengetahuan dan keterampilan yang dimiliki dan penguasaaan terhadap pekerjaan dan
peralatan. Motivasi Motivasi berasal dari bahasa latin, mavere yang berarti dorongan atau daya
penggerak. Motivasi ini hanya dibreikan kepada manusia, khususnya kepada para
bawahan atau pengikut (Farhah et al., 2020; Kusuma et al., 2021). Motivasi
mempersoalkan bagaiman caranya mendorong gairah kerja bawahan, agar mereka mau
bekerja keras dengan memberikan semua kemampuan dan keterampilan untuk
mewujudkan tujuan perusahaan. Menurut Samsudin (2010) motivasi adalah proses
memengaruhi atau mendorong dari luar terhadap seseorang atau kelompok kerja agar
mereka mau melaksanakan sesuatu yang telah ditetapkan. Sedangkan menurut Liang Gie
dalam Samsudin, motivasi adalah pekerjaan yang dilakukan oleh manajer dalam
memberikan inspirasi, semangat dan dorongan kepada orang lain, dalam hal ini
karyawanya, untuk mengambil tindakan-tindakan tertentu. Menurut Maslow dalam buku
Mangkunegara (2013), Mengemukakan bahwa hirarki kebutuhan karyawan sebagai
berikut: kebutuhan fisiologis, kebutuhan rasa aman, kebutuhan sosial, rasa memiliki dan
kebutuhan harga diri. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pengembangan Karir g
g
Mrnurut Mangkunegara (2011) mengemukakan pengembangan karir adaalah
aktivitas kepegawaian yang membantu pegawai pegawai merencanakan karir masa
depan mereka di perusahaan agar perusahaan dan pegawai yang bersangkutan dapat
mengembangkan diri secara maksimum. Indikator pengembangan karir menurut Rivai
(2011) yaitu terdiri atas beberapa hal : Prestasi kerja, Eksposur, Jaringan kerja (Net
Working), Pengunduran diri, Pembimbing dan sponsor dan Pengalaman internasional. METODE PENELITIAN Pada penelitian dilakukan dengan penelitian yang bersifat kuantitatif yang artinya
jenis penelitian yang berlandaskan pada filsafat positivisme, digunakan untuk meneliti 271 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis pada populasi atau sampel tertentu. Teknik pengumpulan data menggunakan observasi,
wawancara dan kuisioner. Teknik analisis data menggunakan Uji Asumsi Klasik, analisis
linear berganda, Diterminasi (R2), Uji T dan Uji F. pada populasi atau sampel tertentu. Teknik pengumpulan data menggunakan observasi,
wawancara dan kuisioner. Teknik analisis data menggunakan Uji Asumsi Klasik, analisis
linear berganda, Diterminasi (R2), Uji T dan Uji F. Uji Asumsi Klasik Normalitas Uji normalitas dimaksudkan untuk mengetahui apakah residual yang diteliti
berdistribusi normal atau tidak. Tujuan uji normalitas adalah untuk menguji apakah
dalam sebuah model regresi, variabel dependen, variabel independen atau ketiganya
mempunyai distribusi normal atau mendekati normal. Gambar. Hasil Uji Normalitas
Berdasarkan gambar diatas output SPSS tersebut dapat dilihat bahwa pada Gambar. Hasil Uji Normalitas Gambar. Hasil Uji Normalitas Berdasarkan gambar diatas output SPSS tersebut, dapat dilihat bahwa pada
gambar grafik histogramnya menunjukan pola distribusi normal. Uji Heteroskedastisitas j
Uji heteroskedastisitas bertujuan untuk menguji apakah dalam model regresi
tidak terjadi ketidak varians. Gambar Hasil Uji Heteroskedasstisitas
Sumber: Output SPSS yang diolah, 2023 Sumber: Output SPSS yang diolah, 2023 Sumber: Output SPSS yang diolah, 2023 Data Analisis Uji Heteroskedastisitas dengan grafik plot adalah jika titik dalam
grafik tersebar (tidak membentuk pola) maka tidak terjadi Heteroskodesitas. Berdasarkan
gambar tersebut dapat dilihat bahwa bahwa titik-titik yang ada tidak membentuk pola
teratur. Sehingga dapat disimpulkan bahwa pada data dalam penelitian ini tidak terjadi
Heteroskodesitas. Artinya dalam fungsi regresi dipenelitian ini tidak muncul gangguan
karena varian yang tidak sama. Uji Asumsi Klasik Multikolinearitas Uji multikolinearitas ini bertujuan untuk mengetahui apakah tiap-tiap variabel
bebas yaitu pengaruh antara pengalaman kerja dan motivasi berhubungan secara linier. Pengujian adanya multikolinearitas ini dapat dilakukan dengan melihat nilai toleransi
diatas 0,1 dan VIF nya lebih kecil dari 10. Maka tidak ada kecenderungan terjadi gejala
multikolinearitas. Tabel. Hasil Uji Multikolinearitas
No. Variabel
Tolerance
Tolerance
Keretengan
Motivasi Kerja
(X1)
0.802
1.246
Non
Multikolinearitas
Pengalaman Kerja
(X2)
0.802
1.246
Non
Multikolinearitas
Sumber: Output SPSS yang diolah, 2023 Sesuai dengan ketentuan uji multikolinearitas pada Tabel 4.8 uji multikolineritas
pada pengalaman kerja dan motivasi terdapat nilai Tolerance 0.802> 0.1 dimana nilai
tolerance lebih besar dari 0.1 dan nilai VIF 1.246 < 10 dimana nilai VIF nya lebih kecil
dari 10. sehingga dapat disimpulkan bahwa tidak terdapat multikolineritas dalam data
penelitian ini. Artinya antara variabel motivasi (X1) dan pengalaman kerja (X2) tidak
saling mengganggu atau mempengaruhi. 272 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Analisis Persamaan Regreesi Linier Berganda Analisis persamaan regresi linier berganda digunakan dalam penelitian ini dengan
tujuan untuk mengetahui ada tidaknya pengaruh variabel bebas terhadap variabel terikat. Perhitungan statistik dalam analisis regresi linier berganda yang digunakan dalam
penelitian ini adalah dengan menggunakan bantuan SPSS for Windows. Ringkasan hasil
pengolahan data dengan menggunakan program SPSS tersebut dapat dilihat pada tabel
berikut ini: Tabel. Hasil Uji Regresi Linier Berganda
Coefficientsa
Model
Unstandardized Coefficients
Standardized
Coefficients
t
Sig. B
Std. Error
Beta
1
(Constant)
6.693
1.130
5.924
.000
Motivasi
.167
.057
.261
2.913
.004
Pengalaman Keja
.472
.094
.450
5.025
.000
a. Dependent Variable: Pengembangan Karir Karywan
Sumber: Output SPSS yang diolah, 2023 Dari perhitungan menggunakan SPSS for Windows didapat persamaan
regresinya adalah: y
Y = a+b1X1+b2X2 Y = 6.693+0.167X1+ 0.472X2 273 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 273 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Analisis Koefisien Determinasi (R2) Koefisien determinasi digunakan untuk mengetahui presentase sumbangan
pengaruh variabel bebas Motivasi (X1) dan Pengalaman Kerja (X2) terhadap
Pengembangan Karir (Y) maka dari perhitungan computer menggunakan SPSS for
Windows. Adapun rekapitulasi hasil pengujian koefisien determinasi (R2) dapat dilihat
pada tabel berikut ini: Tabel. Hasil Analisis Koefisien Determinasi (R2)
Model Summaryb
Model
R
R Square
Adjusted R Square
Std. Error of the
Estimate
1
.613a
.375
.362
1.342
a. Predictors: (Constant), Pengalaman Kerja, Motivasi Kerja
b. Dependent Variable: Pengembangan Karir Karyawan
Sumber: Output SPSS yang diolah, 2023 Tabel. Hasil Analisis Koefisien Determinasi (R2) Berdasarkan table diatas dapat diketahui bahwa nilai koefisienn detterminasi
berganda atau Adjusted R square (R2) = 0.375, yang berarti bahwa secara bersama-sama
variabel motivasi kerja (X1) dan pengalaman kerja (X2) memberikan sumbangan
pengaruh sebesar 37.5% terhadap variabel pengembangan karir karyawan (Y) pada
karyawan PT Sandabi Indah Lestari Seluma, sedangkan sisanya sebesar 62.5%
dipengaruhi oleh variabel lain diluar penelitian ini. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 274 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Uji F Penelitian ini pengujian hipotesis dimaksudkan untuk mengukur besarnya
pengaruh secara simultan (bersama-sama) variabel motivasi (X1) dan pengalaman kerja
(X2) berpengaruh terhadap pengembangan karir (Y). Kriteria pengujiannya adalah :Jika
probilitas (Sig) <alpha 0.05 maka Ha diterima dan Ho di tolak. p
Tabel. Uji Hipotesis Secara Simultan (Uji f) Tabel. Uji Hipotesis Secara Simultan (Uji f)
ANOVAb
Model
Sum of Squares
df
Mean Square
F
Sig. 1
Regression
104.940
2
52.470
29.133
.000a
Residual
174.700
97
1.801
Total
279.640
99
a. Predictors: (Constant), Pengalaman Kerja, Motivasi Kerja
b. Dependent Variable: Pengembangan Karir Karyawan
Sumber: Output SPSS yang diolah, 2023 Hasil perhitungan statistik menunjukkan nilai probabilitas sebesar 0.000 < 0.05. Karena nilai signifikansi lebih kecil dari probabilitas (0.05). Maka menunjukkan bahwa
secara bersama-sama (simultan) variabel motivasi (X1) dan pengalaman kerja (X2)
mempunyai pengaruh yang signifikan terhadap pengembangan karir (Y). Maka
berdasarkan hasil uji simultan maka Ha diterima dan Ho ditolak, antara variabel-variabel
bebas yaitu motivasi (X1) dan pengalaman kerja (X2) mempunyai pengaruh yang
signifikan secara bersama-sama terhadap pengembangan karir (Y). Uji T j
Uji t dilakukan untuk mneguji hipotesis variabel bebas dan variabel terikat secara
persial (sendiri-sendiri) pengaruh variabel motivasi (X1), dan pengalaman Kerja (X2),
terhadap pengembangan karir (Y). Kriteria pengujiannya adalah: Jika probabilitas (Sig) <alpha 0.05 maka Ha diterima dan Ho di tolak, Tabel. Uji Hipotesis Secara Parsial (Uji T)
Coefficientsa
Model
Unstandardized Coefficients
Standardized
Coefficients
t
Sig. B
Std. Error
Beta
1
(Constant)
6.693
1.130
5.924
.000
Motivasi Kerja
.167
.057
.261
2.913
.004
Pengalaman Kerja
.472
.094
.450
5.025
.000
a. Dependent Variable: Pengembangan Karir Karyawan
Sumber: Output SPSS yang diolah, 2023 274 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 27 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Dari hasil pada tabel diatas maka dapat dijelaskan bahwa motivasi (X1)
menunjukkan nilai probabilitas sebesar 0.004 < 0.05, karena nilai signifikansi lebih kecil
dari 0.05 (probabilitas), maka Ha diterima dan Ho ditolak. Artinya motivasi (X1)
memiliki pengaruh yang signifikan terhadap pengembangan karir (Y). Dan hasil pengujian untuk variabel pengalaman kerja (X2) menunjukkan nilai
probabilitas sebesar 0.000 < 0.05, karena nilai signifikansi lebih kecil dari
probabilitas(0.05), maka Ha diterima dan Ho ditolak. Artinya pengalaman kerja (X2)
memiliki pengaruh yang signifikan terhadap pengembangan karir (Y). PEMBAHASAN Berdasarkan hasil penelitian dari pengaruh motivasi kerja dan pengalaman kerja
terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari (SIL) Seluma,
diketahui bahwa pengembangan karir karyawan dipengaruhi oleh motivasi kerja dan
pengalaman kerja itu sendiri. Pengaruh Motivasi Kerja (X1) Terhadap Pengembangan Karir Karyawan (Y) Pengaruh Motivasi Kerja (X1) dan Pengalaman Kerja (X2) Terhadap
Pengembangan Karir Karyawan (Y) Pengaruh Motivasi Kerja (X1) dan Pengalaman Kerja (X2) Terhadap
Pengembangan Karir Karyawan (Y) Pengembangan Karir diukur menggunakan 4 (empat) item pernyataan atau
indikator, hasil penelitian menunjukkan bahwa motivasi kerja (X1) dan pengalaman kerja
(X2) secara simultan berpengaruh signifikan terhadap pengembangan karir karyawan (Y)
PT. Sandabi Indah Lestari (SIL) Seluma. Menurut Prawironegoro & Utari (2016)
pengembangan karir adalah peningkatanpeningkatan yang dilakukan seseorang untuk
mencapai suatu rencana karir. Dalam pengembangan karir terdapat beberapa faktor yang
mempengaruhi yaitu motivasi dan pengalaman kerja. Berdasarkan hasil penelitian dari
Nandy & Donald Walangitan (2015) yang menunjukkan bahwa motivasi kerja
danpengalaman kerja secara bersama-sama mempunyai pengaruh yang positif terhadap
pengembanagn karir karyawan http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pengaruh Pengalaman Kerja (X2) Terhadap Pengembangan Karir Karyawan (Y) Pengaruh Pengalaman Kerja (X2) Terhadap Pengembangan Karir Karyawan (Y)
Pengalaman kerja di ukur melalui 3 (tiga) item pernyataan atau indikator
penelitian, hasil penelitian menunjukkan bahwa pengalaman kerja (X2) berpengaruh
signifikan terhadap pengembangan karir karyawan (Y) PT. Sandabi Indah Lestari (SIL)
Seluma. Pengalaman merupakan suatu proses pembelajaran dan pertambahan
perkembangan potensi bertingkah laku baik dari pendidikan formal maupun non formal
atau bisa diartikan sebagai suatu proses yang membawa seseorang kepada suatu pola
tingkah laku yang lebih baik (Zainullah, 2017). Bulechek & Butcher (2013) menyatakan
bahwa pengalaman merupakan aset untuk mencapai suatu karir yang lebih baik. Berdasarkan hasil penelitian dari Cahya Dewi & Dewi (2019), penelitian ini menemukan
bahwa pengalaman kerja berpengaruh positif dan signifikan terhadap pengembangan
karier. Karyawan yang ingin mengembangkan kariernya perlu memperhatikan
pengalaman kerja mereka Pengaruh Motivasi Kerja (X1) Terhadap Pengembangan Karir Karyawan (Y) Motivasi kerja di ukur melalui 5 (lima) item pernyataan atau indikator penelitian,
hasil penelitian menunjukkan bahwa motivasi kerja (X1) berpengaruh signifikan terhadap
pengembangan karir karyawan (Y) PT. Sandabi Indah Lestari (SIL) Seluma. Miftahun
& Sugiyanto (2016) menyatakan bahwa motivasi kerja adalah suatu usaha yang dapat 275 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis menimbulkan suatu
perilaku, mengarahkan perilaku, dan memelihara atau
mempertahankan perilaku yang sesuai dengan lingkungan kerja dalam organisasi. Oleh
sebab itu, motivasi kerja dalam psikologi kerya biasa disebut pendorong semangat kerja. Kuat dan lemahnya motivasi kerja seorang tenaga kerja ikut menentukan besar kecilnya
prestasinya. Adapun hasil penelitian dari Yikwa et al., (2017) Hasil uji hipotesa menyebutkan
bahwa Pemberian motivasi menyatakan bahwa hubungan antara variabel Pemberian
motivasi dengan Pengembangan karir di kategorikan Kuat dan cukup tinggi. Jelas bahwa
nilai koefisien ini bertanda positif, sehingga hal itu memberikan petunjuk adanya
hubungan erat antara Pemberian motivasi terhadap Pengembangan karir. Kesimpulan Berdasarkan hasil penelitian dan pembahasan tentang pengaruh motivasi kerja
dan pengalaman kerja terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari
(SIL) Seluma, maka dapat diambil kesimpulan yakni sebagai berikut: p
p
y
g
1. Motivasi berpengaruh signifikan terhadap pengembangan karir karyawan PT. Sandabi Indah Lestari Seluma. 1. Motivasi berpengaruh signifikan terhadap pengembangan karir karyawan PT
Sandabi Indah Lestari Seluma. 276 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis 2. Pengalaman Kerja berpengaruh signifikan terhadap perkembangan karir
karyawan PT. Sandabi Indah Letari Seluma. 2. Pengalaman Kerja berpengaruh signifikan terhadap perkembangan karir
karyawan PT. Sandabi Indah Letari Seluma. 3. Motivasi dan pemngalaman kerja secara simultan atau bersama-sama
berpengaruh signifikan terhadap pengembangan karir karyawan PT. Sandabi
Indah Lestari Seluma. Saran 1. Pimpinan PT. Sandabi Indah Lestari (SIL) Seluma lebih memperhatikan dan
memberi motivasi berupa apresiasi terhadap kinerja karyawan terbaik baik
berupa finansial atau materil maupun promosi jabatan. 1. Pimpinan PT. Sandabi Indah Lestari (SIL) Seluma lebih memperhatikan dan
memberi motivasi berupa apresiasi terhadap kinerja karyawan terbaik baik
berupa finansial atau materil maupun promosi jabatan. 2. pimpinan atau manager PT. Sandabi Indah Lestari (SIL) Seluma hendaknya
memberikan pelatihan dan pengembangan diri yang cukup rutin terhadap
karyawannya. 2. pimpinan atau manager PT. Sandabi Indah Lestari (SIL) Seluma hendaknya
memberikan pelatihan dan pengembangan diri yang cukup rutin terhadap
karyawannya. y
y
3. Maka hendaknya pimpinan atau manajer PT. Sandabi Indah Lestari (SIL) Seluma
berperan aktif dalam meningkatkan motivasi, melakukan pengembangan
karyawan melalui pelatihan dan pendidikan karyawan. Serta lebih proaktif dalam
pengembangan karir karyawan y
y
3. Maka hendaknya pimpinan atau manajer PT. Sandabi Indah Lestari (SIL) Seluma
berperan aktif dalam meningkatkan motivasi, melakukan pengembangan
karyawan melalui pelatihan dan pendidikan karyawan. Serta lebih proaktif dalam
pengembangan karir karyawan DAFTAR PUSTAKA Bernadin, H. J. (2013). Human Resouerces Management: An Experiental Approach, 3th
Edition. Mc Grawa Hill Internasional. Bernadin, H. J. (2013). Human Resouerces Management: An Experiental Approach, 3th
Edition. Mc Grawa Hill Internasional. Bulechek, G. M., & Butcher, H. k. (2013). Nursing Interventions Classification (NIC)
(keenam). Elsevier. Cahya Dewi, N. P. I., & Dewi, A. A. S. K. (2019). Pengaruh Motivasi, Komunikasi, Dan
Lingkungan Kerja Fisik Terhadap Semangat Kerja Karyawan Pt. Ayu Sari Pertiwi. E-Jurnal
Manajemen
Universitas
Udayana,
8(12),
7093. https://doi.org/10.24843/ejmunud.2019.v08.i12.p10 Candra, N., & Ardana, I. (2016). Pengaruh Pengalaman Kerja, Pendidikan Dan Pelatihan
Terhadap Pengembangan Karir Di Pt. Pln (Persero) Distribusi Bali. E-Jurnal
Manajemen Universitas Udayan, 5(9). Farhah, A., Ahiri, J., & Ilham, M. (2020). Pengaruh Motivasi Kerja Dan Disiplin Kerja
Terhadap Kinerja Karyawan. Jurnal Online Program Studi Pendidikan Ekonomi,
5(1), 1. https://doi.org/10.36709/JOPSPE.V5I1.13326 Finthariasari, M., & Saputri, D. (2020). Analisis Minat, Motivasi, Pekerjaan Yang
Diharapkan, & Lingkungan Belajar Terhadap Keputusan Mahasiswa Memilih
Program S1 Fakultas Ekonomi (Studi Pada Mahasiswa Ekonomi Di Perguruan
Tinggi Kota Bengkulu). Jurnal Manajemen Modal Insani Dan Bisnis (JMMIB),
1(2), 183–191. http://jurnal.imsi.or.id/index.php/jmmib/article/view/21 Fitri, M. A., Ilhami, M. D., & Herwan, M. (2022). Pengaruh Stres Kerja Dan Komunikasi
Terhadap Kinerja Karyawan Pt. Indomaret Kota Manna Kabupaten Bengkulu
Selatan. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS),
5(1), 96–103. Foster, B. (2016). The Impact of Brand Image on Purchasing Decision on Mineral Water
Product Amidis. Journal of Humanities and Social Sciences, 2(11). 277 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kusuma, M., Arianto, T., & Finthariasari, M. (2021). Analisis Pengaruh Minat dan
Motivasi Terhadap Keputusan Memilih Program Studi Dimediasi Variabel
Pekerjaan Yang Diharapkan. Jurnal Manajerial, 8(3). Mangkunegara. (2011). Manajemen Sumber Daya Manusia. PT. Remaja Rosdakarya. Mangkunegara, AA. A. P. (2013). Manajemen Sumber Daya Manusia Perusahaan. Remaja Rosdakarya. Miftahun, & Sugiyanto. (2016). Pengaruh Dukungan Social Dan Kepemimpinan
Transformasional Terhadap Komitmen Organisasi Dengan Mediator Motivasi
Kerja. Jurnal Psikologi, 37(1), 94–109. Nandy, I. I., & Donald Walangitan, M. (2015). Pengaruh Penilaian Prestasi Kerja dan
Lama Bekerja Karyawan Terhadap Pengembangan Karir pada PT. Pegadaian
Kanwil V Manado. Jurnal EMBA, 3(1), 984–993. Onsardi, O., Finthariasari, M., & Hermawan, D. J. (2021). DAFTAR PUSTAKA The Influence of Human
Resource Management Practices on Employee Outcomes in Private and Public
Banking in Indonesia. RIGEO (Review Of International Geographical Education,
11(9), 1–8. https://doi.org/10.48047/rigeo.11.09.1 Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan
Kepuasan Kerja Dengan Kinerja Pegawai Pada Dinas Pendidikan Dan Kebudayaan
Provinsi Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam
(JAM-EKIS), 4(2). Prawironegoro, D., & Utari, D. (2016). Manajemen SDM Abad 21 (Sumber Daya
Manusia). Mitra Wacana Media. Rivai, V. (2011). Manajemen Sumber Daya Manusia Untuk Perusahaan Dari Teori ke
Praktik. Rajawali Pers. Samsudin, S. (2010). Manajemen Sumber Daya Manusia.cetakan ke1. Pustaka Setia. Wahyudi, B. (2011). Manajemen Sumber Daya Manusia. Sulita. Yikwa, L., Pio, R. J., & Tumbel, T. M. (2017). Pengaruh motivasi terhadap
pengembangan karir karyawan (Studi pada PT Bank Papua Cabang Manado
Provinsi Sulawesi Utara). Jurnal Administrasi Bisnis, 5(5), 1–23. Zainullah, A. (2017). Pengaruh Upah, Kemampuan dan Pengalaman Kerja Terhadap
Kinerja Pekerja Pelaksanaan Bekisting pada Pekerjaan Beton. Jurnal Rekayasa
Sipil, 6(2), 125–133. 278 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL Traders or entrepreneurs are required to have a good
and reliable marketing strategy so that it does not only
sell well in the market but is also able to compete. The
purpose of this study is to find out what sharia
marketing strategies are and what are the obstacles to
sharia marketing and their solutions. This research
method uses qualitative research with a descriptive
approach. The marketing concept at adzkia stores is in
accordance with the four characteristics of marketing
in Islam, namely: Theistic (rabbaniyyah), Ethical
(akhlaqiyyah), realistic (al-waqiyyah), humanistic
(insaniyyah). Obstacles
and
solutions,
serving
consumers the solution by providing enthusiasm and
motivation, closing the shop at prayer times the
solution is sticking paper in front of the store as a form
of notification, price competition solutions explaining
to consumers that price is in accordance with quality,
there is still a lack of interest in Muslim fashion the
solution is selling contemporary products. Riwayat Artikel:
Diterima : 21 Maret 2023
Direvisi : 16 Juni 2023
Disetujui : 28 Juli 2023 Keywords:
Sharia Marketing Strategy,
Efforts to Increase sales SHARIA MARKETING STRATEGY IN AN EFFORT TO INCREASE
SALES AT THE ADZKIA SHOP, KEBUN KEBUN GERAN,
BENGKULU CITY Sovita Alfioni1, Idwal2, Faisal Muttaqin3
Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3
sovitaalfioni270702@gmail.com1, idwalkincai@gmail.com2,
Faisalmuttaqin@gmail.com3 Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211)
Corresponding email: sovitaalfioni270702@gmail.com Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211)
Corresponding email: sovitaalfioni270702@gmail.com ABSTRAK Para pedagang atau pengusaha dituntut untuk memiliki
strategi pemasaran yang baik dan handal sehingga
tidak hanya laku dipasaran tetapi juga mampu untuk
bersaing, tujuan penelitian ini adalah mengetahui 279 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 27 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis bagaimana strategi marketing syariah dan hal-hal apa
saja yang menjadi hambatan marketing syariah dan
solusinya. Metode penelitian ini menggunakan
penelitian kualitatif dengan pendekatan deskriptif. Konsep pemasaran pada toko adzkia sesuai dengan
empat karakteristik pemasaran dalam islam, yaitu:
Teistis (rabbaniyyah), Etis (akhlaqiyyah), realistis (al-
waqiyyah), humanistis (insaniyyah). Hambatan dan
solusinya, melayani konsumen solusinya dengan cara
memberikan semangat dan motivasi, menutup toko
waktu sholat solusinya menempelkan kertas didepan
toko sebagai bentuk pemberitahuan, persaingan harga
solusi menjelaskan kepada konsumen bahwa harga
sesuai dengan kualitas, masih kurangnya minat busana
muslim solusinya menjual produk kekinian. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Sejalan dengan kemajuan zaman yang pesat membuat banyak berdampak kepada
kehidupan masyarakat, pesatnya perkembangan ilmu pengetahuan dan teknologi
melahirkan berbagai dampak positif dan dampak negatif. Sehingga perkembangan
seperti sekarang ini membuat persaingan dalam dunia bisnis semakin ketat sehingga
para pebisnis itu tidak hanya bersantai saja dalam menikmati penjualan dan
keuntungannya itu, karena adanya persaingan yang mengikuti hal tersebut, oleh sebab
itu masalah persaingan mendapatkan perhatian khusus dalam pemasaran pada akhirnya
menuntut untuk para pebisnis mulai bersaing dengan menerapkan strateginya masing-
masing, tanpa mementingkan aspek-aspek norma dan moral yang ada pada para
pebisnis tersebut mulai berlomba-lomba dalam memasarkan produk yang akan dijual
guna mencapai sasaran dan keuntungan pada produknya agar laku di pasaran. g
p
g
p
p
y
g
p
Para pedagang atau pengusaha dituntut untuk memiliki strategi pemasaran yang
baik dan handal, sehingga produk-produknya tidak hanya laku dijual dipasaran, akan
tetapi juga mampu bersaing dan bertahan dalam persaingan yang ada. Salah satunya
pada mode busana khususnya mode busana muslim,untuk memenuhi kebutuhan sehari-
hari manusia memerlukan kebutuhan sandang, pangan, papan. Dalam penuhi kebutuhan
tersebut manusia membutuhkan kebutuhan sandang, seperti yang kita ketahui bahwa
kebutuhan sandang juga berarti pakaian, yang mana pakaian ini adalah salah satu
kebutuhan yang sangat dibutuhkan oleh manusia. Kemungkinan para pedagang toko
tersebut akan bersaing ketat dengan pedagang lainnya, saat ini ada banyak sekali toko
pakain yang membuka serta menyedikan bermacam-macam model dengan harga yang
terus menjadi persaingan untuk penjual, oleh karena itu sudah menjadi keharusan bagi
suatu pengusaha atau pedagang untuk melaksanakan promosi dengan strategi yang
tepat agar dapat memenuhi sasaran yang efektif. Salah satu fenomena yang cukup menarik perhatian banyak orang, yaitu tren
berpakaian pada saat ini. Dengan adanya beragam kreatif membuat pakaian untuk kaum 280 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis muslim semakin cantik dan semakin banyak diminati oleh konsumen khususnya kaum
hawa, namun terlepas dari alasan dibalik fenomenanya, semakin banyak muslimah
yang semakin anggun dan cantik memakai baju muslimah modern. Hal ini juga bisa
kita lihat dari semakin maraknya usaha toko-toko pakaian muslim modern baik itu
perusahaan maupun pedagang-pedagang, dengan keadaan seperti ini tentu saja tidak
menutupi kemungkinan para pedagang toko tersebut akan bersaing ketat dengan
pedagang lainnya. Tingkat persaingan dalam dunia bisnis seperti sekarang ini menuntut
setiap pemasar untuk mampu melaksanakan kegiatan pemasarannya dengan lebih
efektif dan efisien. PENDAHULUAN muslim semakin cantik dan semakin banyak diminati oleh konsumen khususnya kaum
hawa, namun terlepas dari alasan dibalik fenomenanya, semakin banyak muslimah
yang semakin anggun dan cantik memakai baju muslimah modern. Hal ini juga bisa
kita lihat dari semakin maraknya usaha toko-toko pakaian muslim modern baik itu
perusahaan maupun pedagang-pedagang, dengan keadaan seperti ini tentu saja tidak
menutupi kemungkinan para pedagang toko tersebut akan bersaing ketat dengan
pedagang lainnya. Tingkat persaingan dalam dunia bisnis seperti sekarang ini menuntut
setiap pemasar untuk mampu melaksanakan kegiatan pemasarannya dengan lebih
efektif dan efisien. Pengusaha atau pedagang sudah seharusnya melakukan sesuatu untuk
melaksanakan promosi dengan strategi yang tepat agar dapat memenuhi sasaran yang
efektif. Kegiatan promosi suatu perusahaan dilakukan sebaik mungkin yaitu dengan
direncanakan, diarahkan, dikendalikan dan dianggarkan sesuai dengan kondisi
keuangan di suatu perusahaan tersebut. Dengan adanya upaya kegiatan promosi itu
berarti ada upaya peningkatan penjualan pada suatu perusahaan. Meningkatnya
penjualan itu juga bisa disebut meningkatnya kegiatan Jual–Beli. Kegiatan jual beli ini
konsumen ataupun pelanggan dapat saling melengkapi satu sama lain dengan cara tukar
menukar barang atau jasa sesuai kesepakatan. Secara umum, pemasaran adalah suatu proses sosial dimana individu dan
kelompok mendapatkan apa yang mereka butuhkan dan inginkan dengan menciptakan
dan mempertukarkan produk dan nilai dengan individu dan kelompok. Dalam hal ini,
pemasaran syariah memiliki posisi yang sangat strategis, karena pemasaran syariah
merupakan salah satu strategi pemasaran yang didasarkan pada Al-Qur'an dan Sunah
Rasulullah SAW. Pemasaran syariah merupakan sebuah disiplin bisnis strategis yang
mengarahkan proses penciptaan, penawaran dan dalam keseluruhan prosesnya sesuai
dengan akad serta prinsip-prinsip Islam dan muamalah dalam Islam. Pengertian Marketing Marketing merupakan salah satu dari kegiatan-kegiatan pokok yang dilakukan
oleh pengusaha dalam usahanya untuk mempertahankan kelangsungan hidup usahanya
dan juga untuk mengembangkan perusahaan serta untuk mendapatkan keuntungan atau
laba
yang
sebesar-besarnya
(Zainurossalamia.,
2020). Marketing
merupakan
keseluruhan sistem yang berhubungan dengan tujuan untuk merencanakan dan
menentuka harga sampai dengan mempromosikan dan mendistribusikan barang dan jasa
(Mubarok, 2017). Menurut Herfianti, et al (2020), Zainal (2018) Marketing/pemasaran
adalah suatu hubungan sistematis antara sebuah bisnis dan pasarnnya, dimensi pelaku
pasar memasang beberapa ide yang luas,desain, pesan, media, potongan, bentuk, dan
warna. Pengertian Strategi Marketing Strategi marketing/pemasaran adalah unit bisnis yang diharapkan untuk mencapai
upaya memasarkan suatu produk, baik itu barang ataupun jasa dengan menggunakan
pola rencana dan taktik tertentu sehingga jumlah penjualan menjadi lebih tinggi (Fauzi,
2021). Strategi marketing/pemasaran merupakan proses sosial, individu dan kelompok
untuk mendapatkan yang mereka butuhkan dengan menciptakan penawaran secara
bebas bertukar produk dan jasa yang bernilai dengan pihak lain dapat diharapkan oleh
perusahaan untuk mencapai sasaran-sasaran pemasarannya (Rauf, 2021; Nurzam, et al,
2020). Strategi marketing / pemasaran merupakan pedoman dasar dan rencana tujuan,
pengalokasian sumber daya, serta interaksi organisasi dengan pasar, pesaing dan
lingkungan lain (Noor, 2021). Pengertian Strategi Pada dasarnya strategi adalah cara yang di lakukan untuk membantu dan
mempermudah dalam memecahkan masalah, selain itu strategi merupakan langkah-
langkah konkrit yang dapat menyelesaikan masalah . Sutojo (2009) Strategi merupakan
suatu kesatuan rencana yang menyeluruh, komprehensif, dan terpadu yang diarahkan
untuk mencapai tujuan perusahaan. Abdurahman (2018) Strategi juga sering disebut
sebagai penetapan misi perusahaan, penetapan sasaran organisasi dengan meningkatkan
kekuatan eksternal dan internal, perumusan kebijakan implementasi secara tepat
sehingga tujuan dan sasaran utama organisasi tercapai. Humairaa (2021) Strategi
rencana yang disatukan dan berintegrasi yang menghubungkan keunggulan strategis
perusahaan dengan tantangan lingkungan untuk memastikan bahwa tujuan utama dari
perusahaan dapat dicapai melalui pelaksanaan yang tepat oleh organisasi (Yatminiwati,
2019). 281 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Penjualan Penjualan adalah suatu usaha yang terpadu untuk mengembangkan rencana-
rencana strategis yang diarahkan pada usaha pemuasan kebutuhan dan keinginan
pembeli, guna mendapatkan penjualan yang menghasilkan laba. Jenis-Jenis pada
penjualan yaitu penjulan langsung dan penjualan secara tidak langsung. Pengertian Strategi Marketing Syariah Pemasaran syariah atau marketing syariah merupakan disiplin bisnis strategis
yang mengarahkan suatu proses penciptaan, penawaran dan perubahan values, seluruh
prosesnya sesuai dengan akad dan prinsip muamalah dalam Islam. Maka dapat
disimpulkan pula bahwa strategi marketing syariah adalah sebagai disiplin bisnis
strategis dalam upaya memasarkan produk tertentu dalam mencapai sebuah tujuan dan
sasaran yang sudah ditargetkan dengan cara-cara yang dibenarkan menurut syariat Islam
(Kertajaya, 2006). Strategi pemasaran adalah rencana-rencana yang disusun secara
sistematis dan menyeluruh yang digunakan sebagai panduan untuk melakukan
kegiatan pemasaran agar dapat mencapai tujuan perusahaan yaitu menghasilkan
keuntungan. Dalam melakukan berbisnis harus berusaha sebisa mungkin untuk
menciptakan kesejahteraan bersama (Putri, 2021). Seperti disebutkan dalam surat An-
nisa ayat 29 : 282 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 28 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Artinya: Wahai orang-orang yang beriman Janganlah kamu saling memakan harta
sesamamu dengan jalan yang batil (tidak benar), kecuali dalam perdagangan yang
berlaku atas dasar suka sama suka di antara kamu dan janganlah kamu membunuh
dirimu. Sungguh, Allah Maha Penyayang kepadamu. Karakteristik, Dan Praktik Marketing Rasulullah Saw Kegiatan marketing atau pemasaran seharusnya dikembalikan pada karakteristik
yang sesungguhnya, sebagaimana yang dilakukan oleh Rasulullah. Oleh karena itu
marketing syariah menjadi penting bagi para tenaga pemasaran untuk melakukan
penetrasi pasar. Dalam Islam terdapat sembilan macam etika (akhlaq) yang harus
dimiliki oleh seorang tenaga pemasaran, yaitu: Taqwa, shiddiq, al’adl, khitmah, tahfif,
al amanah, su’udzon, ghibah, riswah. Etika Bisnis Syariah Etik ekonomi-bisnis syariah mengacu pada dua domain, yaitu domain hukum
(syariah) yang terkait dengan benar-salah, dan domain etik (akhlak/adab) yang terkait
dengan baik-buruk, salahnya suatu pemikiran/gagasan dan tindakan ekonomi-bisnis. Berikut beberapa ajaran terkait ekonomi-bisnis: Etika bersifat memberdayakan Salah
satu ajaran agama terkait ekonomi adalah membantu pihak yang lemah.Al-Qur’an surat
An-Baqarah ayat 280. Etika pembayaran upah Dalam hal aqad ijarah, terdapat dua
ajaran yang terkait dengan akhlak, yaitu ajaran tentang ta’jil (bersegera) dalam
pembayaran upah (ujrah), mu’jir (pengusaha/pengupah) dianjurkan untuk segera
membayar upah kepada musta’jir/ajir (kuli/buruh), ajaran tersebut bersumber dari
hadits riwayat imam Ibn Majah dan imam al-Baihaqi (Sule, 2016). HASIL PENELITIAN DAN PEMBAHASAN Strategi marketing adalah suatu pencapaian sebuah tujuan untuk meningkatkan
penjualan. Maka dari itu strategi marketing sangat penting untuk diterapkan. Adapaun
strategi pemasaran yang dilakukan oleh toko adzkia kelurahan kebun geran kota
bengkulu adalah sebagai berikut: 1. Melayani konsumen dengan baik ketika konsumen
datang membeli produk pelayanan yang diberikan seperti bersikap ramah dan sopan, 2. Mempromosikan tentang produk busana muslim dengan cara seluruh karyawan
diberikan baju busana muslim dari toko untuk dipakai saat bekerja bertujuan
meningkatkan minat pembeli, 3. Memberikan potongan harga produk seperti pada saat
hari besar islam, 4. Menjamin kualitas produk juga harga yang ditetapkan sesuai
dengan standar kualitas produk tersebut, 5. Menjamin kepuasan konsumen dengan cara
meletakan kotak saran di toko supaya para konsumen dapat memberikan kritikan
kepada toko adzkia. Marketing syariah adalah sebuah disiplin bisnis strategis yang mengarahkan
proses penciptaan, penawaran, dan perubahan values keseluruhan prosesnya sesuai
dengan akad serta prinsip-prinsip al-Qur’an dan hadis. Adapaun hambatan dan
solusinya yang dilakukan oleh toko adzkia kelurahan kebun geran kota bengkulu adalah
sebagai berikut: a. Melayani konsumen solusinya adalah dengan cara memberikan
semangat dan motivasi kepada karyawan untuk menjaga suasana hati para karyawan di
toko agar tetap baik, b. Menutup toko ketika waktu sholat solusi yang diberikan yaitu
dengan cara menempelkan kertas didepan toko sebagai bentuk pemberitahuan bahwa
ketika waktu sholat toko adzkia tutup jadi konsumen tersebut dapat menunggu sebentar
sampai toko buka kembali, c. Persaingan harga solusi yang diberikan yaitu menjelaskan
kepada konsumen bahwa harga produk yang dijual di toko adzkia sesuai dengan
kualitas, d. Masih kurangnya peminat busana muslim syar’i solusinya dengan cara
menjual bentuk produk busana syar’i yang kekinian. METODE PENELITIAN Penelitian yang digunakan adalah metode penelitian kualitatif dengan pendekatan
deskriptif, dengan melakukan wawancara, dokumentasi dan observasi. Peneliti juga
memakai kualitatif deskriptif dari Nana Syaodih Sukmadinata yang mana penelitian
deskriptif kualitatif ditujukan untuk mendeskripsikan dan menggambarkan fenomena-
fenomena yang ada. Di dalam penelitian ini terdapat 3 informan yaitu: 1 kepada
pemilik toko dan 2 dilakukan oleh karyawan, penelitian melakukan penelitian dengan
menggambarkan data yang diperoleh dengan kata-kata atau kalimat yang dipisahkan
dalam kategori-kategori untuk memperoleh kesimpulan. 283 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesimpulan p
Konsep pemasaran yang ada pada toko adzkia kelurahan kebun geran kota
bengkulu sesuai dengan empat karakteristik pemasaran dalam islam, yaitu: 1. Teistis
(rabbaniyyah) produk pakaian yang dimiliki toko adzkia memiliki bentuk pakaian yang
sesuai dengan anjuran agama islam, sudah menutup aurat, sehingga apa yang
diinginkan Allah SWT itu lebih diutamakan oleh toko adzkia 2. Etis (akhlaqiyyah)
strategi pemasaran dalam pelayanan terhadap konsumen yang dimiliki para karyawan
toko adzkia telah sesuai dengan konsep etis, karena para karyawan dalam melakukan
pemasaran produk pakaian busana muslimnya mengutamakan sopan dan santun serta
aklak yang baik. 3. Realistis (al-waqiyyah) dengan berpakaian bersih, rapi dan menutup
aurat toko adzkia telah sesuai dengan konsep pemasaran islam realistis. Karena
apapaun model pakaian yang dikenakan karyawannya, tetap mementingkan nilai-nilai
religius. 4. Humanistis (insaniyyah) prinsip yang dimiliki oleh toko busana muslim al-
haramain dengan tidak membeda-bedakan konsumen lama dan baru serta konsumen
yang membeli sedikit atau banyak telah sesuai dengan konsep humanistis yang dalam 284 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis pemasarannya tidak membeda-bedakan. Hal-Hal Apa Saja Yang Menjadi Hambatan Marketing Syariah Dan Bagaimana
Solusinya. Hambatan dan solusinya yang terjadi ketika melayani konsumen yaitu
menjaga suasana hati tetap baik dalam bersikap ramah dan sopan kepada konsumen
solusinya memberikan semangat dan motivasi kepada karyawan untuk menjaga suasana
hati para karyawan di toko agar tetap baik, toko adzkia tutup pada saat waktu sholat,
dengan menutup toko terkadang ada saja pelanggan yang merasa keberatan
menempelkan kertas didepan toko sebagai bentuk pemberitahuan bahwa ketika waktu
sholat toko adzkia tutup jadi konsumen tersebut dapat menunggu sebentar sampai toko
buka kembali jadi, banyaknya toko-toko pesaing yang sering melakukan penurunan
harga lebih banyak dari toko adzkia untuk menarik perhatian pelanggan solusinya
menjelaskan kepada konsumen bahwa harga produk yang dijual di toko adzkia sesuai
dengan kualitas produk, minat remaja terhadap pakaian busana muslim syar’i itu masih
kurang soluasinya menjual bentuk produk busana syar’i yang kekinian. Saran Menurut penulis saran untuk toko tersebut yaitu untuk meningkatkan strategi
marketing seperti mempromosikan produk melalui media sosial karena zaman semakin
berkembang dan teknologi semakin maju maka dibutuhkannya promosi melalui media
sosial dan juga toko bisa terus menerapkan strategi marketing tersebut walaupun
banyak hambatan yang dihadapi oleh toko adzkia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Yatminiwati, M. (2019). Manajemen Strategi Buku Ajar Perkulihan Bagi Mahasiswa.
Widya Gama Press.
Zainal, V. R. (2018). Islamic Marketing Management. Bumi Aksara.
Zainurossalamia., S. (2020). Manajamen Pemasaran Teori dan Strategi. Forum
Pemuda Aswaja. DAFTAR RUJUKAN Abdurahman, N. H. (2018). Manajemen Strategi Pemasaran. CV. Pustaka Setia. Fauzi, M. G. H. (2021). Strategi Pemasaran Konsep Teori dan Implementasi. Pascal
Books. Fauzi, M. G. H. (2021). Strategi Pemasaran Konsep Teori dan Implementasi. Pascal
Books. Herfianti, Meiffa., Yulihartika, Rika Dwi. (2020). Analisis Pengaruh Experiential
Marketing Dan Harga Terhadap Customer Loyalty Smartphone Bersistem Operasi
Android Di Kota Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi
Islam (JAM-EKIS), 3(2). Humairaa, U. A. (2021). Apa Sih Strategi Pemasaran Itu. Pustaka Taman Ilmu. Kertajaya, H. (2006). Syariah Marketing. Mizan Pustaka. Mubarok, N. (2017). Strategi Pemasaran Islami Dalam Meningkatkan Penjualan Pada
Butik Calista. I-Econimics, 3(1), 73–93. Noor, Z. Z. (2021). Strategi Pemasaran 5.0. Deepublish. Nurzam., Wijaya, Efran Ahmat. (2020). Strategi Pemasaran Cpo (Crude Palm Oil) Pada
Pt. Bio Nusantara Teknologi Bengkulu Tengah. Jurnal Ilmiah Akuntansi,
Manajemen dan Ekonomi Islam (JAM-EKIS), 3(1). Putri, M. A. (2021). Strategi Pemasaran Syariah Dalam Meningkatkan Daya Saing
UMKM Kerupuk Desa Tlasih Tulangan Sidoarjo. Jurnal Tabarru’ : Islamic
Banking and Finance, 4(2). g
Rauf, A. (2021). Digital Marketing:Konsep dan Strategi. Insania. (
)
g
g
p
g
Sule, E. T. (2016). Manajeman Bisnis Syariah. Refika Aditama. Sule, E. T. (2016). Manajeman Bisnis Syariah. Refika Aditama. utojo, S. (2009). Manajemen Pemasaran. Damar Mulia Pustaka. Sutojo, S. (2009). Manajemen Pemasaran. Damar Mulia Pustaka. 285 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 285 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Yatminiwati, M. (2019). Manajemen Strategi Buku Ajar Perkulihan Bagi Mahasiswa. Widya Gama Press. Zainal, V. R. (2018). Islamic Marketing Management. Bumi Aksara. Zainurossalamia., S. (2020). Manajamen Pemasaran Teori dan Strategi. Forum
Pemuda Aswaja. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis 286 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis FINANCIAL PERFORMANCE ASSESSMENT ANALYSIS OF
BANK USING THE DU PONT SYSTEM TECHNIQUE (STUDY
OF PT. BANK SAVINGS AND STATE PENSIONS (BTPN)
SHARIA 2017- 2020 PERIOD) Febri Syafly Fadhilah1, Nurul Hak2, Kustin Hartini3
Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3
febri.safli43@gmail.com1, nurul_hak@iainbengkulu,ac.id2,
kustinhartini@gmail.com3 Febri Syafly Fadhilah1, Nurul Hak2, Kustin Hartini3
Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3
febri.safli43@gmail.com1, nurul_hak@iainbengkulu,ac.id2,
kustinhartini@gmail.com3 JI. Raden Fatah Kecamatan Selebar Kota Bengkulu
Corresponding email: febri.safli43@gmail.com JI. Raden Fatah Kecamatan Selebar Kota Bengkulu
Corresponding email: febri.safli43@gmail.com INFORMASI ARTIKEL This review means to quantify the monetary
exhibition of the Sharia Reserve funds and Annuities
Bank (BTPN) for the period 2017 to 2020 utilizing
the DuPont Framework strategy through NPM,
TATO and return on initial capital investment
tests.Quantitative descriptive research is used in this
study.According to the study's findings, Bank BTPN
Syariah's performance fluctuates annually.The
lowest NPM for four years was in 2019, when it
was 35.63 percent, and the highest NPM was in
2018.In 2019, the largest TATO was 0.256 times,
while
the
smallest
was
0.068
times
in
2020.Additionally, the lowest ROI was 5.13 percent
in 2020, while the highest ROI was 9.12 percent in
2019.Bank BTPN Syariah's ROI is said to be healthy
with an average of 7.47%, so even though the
DuPont System level has fluctuated, it is still
regarded as positive due to the determination of the
criteria for the DuPont System level. Riwayat Artikel:
Diterima : 22 November 2022
Direvisi : 22 Juni 2023
Disetujui : 14 Juli 2023 Kata kunci:
NPM, TATO, ROI, BTPN
Syariah ABSTRAK
Melalui penggunaan sistem DuPont dan uji NPM,
TATO, 287 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dan ROI, tujuan penelitian ini adalah untuk
mengevaluasi
kinerja
keuangan
Bank
Tabungan dan Pensiunan Negara (BTPN)
Syariah
untuk
tahun
2017
hingga
2020.Penelitian
kuantitatif
deskriptif
digunakan dalam penelitian ini. Menurut
temuan tersebut, kinerja Bank BTPN Syariah
bervariasi setiap tahunnya. NPM terendah
selama empat tahun adalah pada tahun 2019,
ketika itu 35,63 persen, dan NPM tertinggi
pada tahun 2018.In 2019, tato terbesar adalah
0,256 kali, sedangkan yang terkecil adalah
0,068 kali pada tahun 2020.Selain itu, ROI
terendah adalah 5,13 persen pada tahun 2020,
sedangkan ROI tertinggi adalah 9,12 persen
pada tahun 2019.ROI Bank BTPN Syariah
dikatakan Sehat dengan rata-rata 7,47%,
sehingga meskipun level DuPont System di
Bank BTPN Syariah mengalami fluktuasi,
namun tetap dikatakan positif karena kriteria
level DuPont System ditentukan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Perekonomian Indonesia terus berkembang pesat berkat munculnya berbagai
bisnis baru di berbagai industri, termasuk bank syariah di sektor keuangan. Sesuai
dengan prinsip ekonomi syariah, munculnya bank syariah sebagai pilihan baru untuk
memenuhi kebutuhan masyarakat akan jasa keuangan niscaya dapat menimbulkan
persaingan bisnis dengan berbagai pesaing yang berorientasi baik secara lokal maupun
internationally.so
bahwa
untuk
meningkatkan
kapasitas
perusahaan
dalam
menghasilkan keuntungan, maka diperlukan suatu perusahaan untuk beroperasi dengan
efektivitas dan efisiensi yang lebih besar. Manajemen keuangan memiliki dampak
langsung pada operasi dan eksistensi perusahaan untuk mencapai hal tersebut. Manajer
keuangan harus mampu memahami kinerja keuangan perusahaan serta melakukan riset
dan analisis yang dapat digunakan untuk mengembangkan rencana, strategi, atau
kebijakan kebijakan baru yang berguna untuk menciptakan dan mempertahankan
operasional bank syariah yang optimal. Akibatnya, seorang manajer keuangan harus
dapat menyajikan analisis keuangan untuk menentukan keadaan bisnis dan
perkembangan keuangannya di masa depan (Iska, 2012). Salah satu bisnis yang berkontribusi signifikan terhadap pertumbuhan ekonomi
adalah bank. Tanggung jawab utama bank termasuk menerima simpanan,
meminjamkan uang, dan menawarkan layanan pengiriman uang di seluruh operasi
bisnisnya. Dengan kata lain, bank syariah adalah lembaga keuangan yang fungsi
utamanya adalah menyalurkan dana atau menyediakan pembiayaan dan layanan 288 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis lainnya sesuai dengan syariah. Operasi dan produk bank syariah dikembangkan
menggunakan metode fiqh dan didasarkan pada hukum Islam (Al-Quran dan Hadits. Undang-Undang Perbankan Syariah No.Menurut Pasal 21 UU Perbankan Tahun 2008,
Usaha yang memberikan kredit atau bentuk bantuan keuangan lainnya kepada
masyarakat dikenal dengan sebutan bank. Terlepas dari kenyataan bahwa industri
perbankan syariah Indonesia telah berkembang agak di belakang negara-negara
Muslim lainnya, itu akan terus berkembang.(A.Karim, 2016) y
g
Statistik dari Statistik Perbankan Syariah (SPS) menunjukkan bahwa pada tahun
2014, 4.268 juta orang menggunakan rekening bank, yang merupakan peningkatan
signifikan dari tahun-tahun sebelumnya. Selain itu, laba bank untuk tahun 2015
adalah 3.402 juta dolar, sedangkan laba bank untuk tahun 2016 adalah 3.442 juta dolar
lebih tinggi dari tahun sebelumnya. Situasi PT saat ini dapat berasal dari data historis. Selain itu, Total aset PT Bank Panin Dubai Syariah Bank meningkat pada tahun 2015,
2016, dan 2018, tetapi menurun pada tahun 2017, seperti halnya dana dan pendapatan
pihak ketiga, yang meningkat pada tahun 2015, 2016, dan 2018, tetapi menurun pada
tahun 2016 dan 2018. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Laba bersih setelah pajak juga menurun pada 2015, 2016, dan
2018, tetapi meningkat signifikan pada 2017. Keuntungan yang stabil dapat merusak
kinerja perbankan syariah. Oleh karena itu, bank memerlukan analisis untuk
menentukan bagaimana suku bunga akan berubah mengikuti kegiatan operasional
selama periode waktu yang telah ditentukan. Bank syariah dan bank secara
keseluruhan
harus
disajikan dengan
cara
yang
sama
dalam
ringkasan
keuangan.(Andrianto, 2019) Tabel 1
Data Rasio Keuangan Bank Tabungan Dan Pensiunan Negara (BTPN)
Syariah Periode 2017 – 2020
Tahun
Total
Asset
Pendapatan
Laba bersih
Setelah pajak
2017
Rp9.156.522
Rp908.216
Rp670.182
2018
Rp12.039.275
Rp1.302.549
Rp1.003.747
2019
Rp15.383.038
Rp3.951.507
Rp1.408.218
2020
Rp16.435.005
Rp1.119.640
Rp845.398
Sumber: Website BTPN Syariah (diolah) Tabel 1
Data Rasio Keuangan Bank Tabungan Dan Pensiunan Negara (BTPN) Laporan keuangan yang merinci kinerja bank selama Manajemen bertanggung
jawab atas periode waktu yang telah ditentukan. Mereka adalah media informasi yang
memberikan gambaran tentang kegiatan perusahaan.(Warsono, 2017) Jika informasi
disajikan dengan benar, siapa pun dapat menggunakannya untuk membuat keputusan
yang baik tentang perusahaan yang dilaporkan.(P Sirait, 2014) Keadaan aktual
keuangan perusahaan akan terlihat setelah laporan keuangan disusun menggunakan 289 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 28 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis metode akuntansi dan penilaian yang sesuai dan berdasarkan data yang relevan. metode akuntansi dan penilaian yang sesuai dan berdasarkan data yang relevan. p
y
g
y
g
Menganalisis kinerja keuangan perusahaan bertujuan untuk mengetahui seberapa
baik perusahaan telah mematuhi kaidah pelaksanaan keuangan, seperti menghasilkan
laporan keuangan sesuai dengan GAAP (General Accepted Accounting Principle) atau
SAK (Standar Akuntansi Keuangan). Analisis model sistem Du Pont ini
mempertimbangkan rasio rasio aktivitas (total assets turnover) dan profit margin, selain
untuk menentukan digunakan atau tidaknya rasio rasio untuk menentukan
profitabilitas dan pengembalian investasi. Analisis model Du Pont juga dapat
digunakan. untuk mengidentifikasi faktor-faktor lain yang mempengaruhi profitabilitas
perusahaan. Analisis ini dapat digunakan untuk menentukan efisiensi keseluruhan
perusahaan dalam proses peralihan, menghasilkan pengembalian ekuitas yang jauh
lebih tinggi daripada nilai rata-rata aset perusahaan pada saat akuisi. Perusahaan akan dapat memperoleh pinjaman atau pembiayaan dengan
menggunakan metode ini. Hal ini karena hubungan antara Amerika Serikat dan
pelanggannya
begitu
kuat
sehingga
jika
Amerika
Serikat
tidak
berhasil
mengimplementasikan produk atau layanan yang dimaksud, Amerika Serikat akan
menderita dalam hal kualitas. layanan pelanggannya serta dalam hal kepuasan
pelanggan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Tidaklah mungkin untuk mencapai atau mempertahankan efektivitas
operasional suatu perusahaan melalui modus dan kegiatan, tetapi dimungkinkan untuk
menggunakan suatu metode dengan tingkat ketelitian yang tinggi untuk memenuhi
persyaratan suatu strategi tertentu atau untuk mencapai suatu kebijakan tertentu yang
ditentukan. rasional.(Dadang Muljawan, 2020). Karena aspek penjualan, aset yang
digunakan, dan laba pendapatan berperan dalam analisis, sistem Du Pont adalah
metode untuk menilai efisiensi perusahaan. Net (NPM), Sumber Daya Lengkap
(TATO), dan Laba dari Usaha (pengembalian modal yang diinvestasikan) adalah tiga
penanda dalam Kerangka Kerja Du Pont. Untuk meningkatkan masa depan
perencanaan keuangan, indikator-indikator ini memungkinkan untuk mengidentifikasi
Berbagai faktor yang mempengaruhi seberapa baik manajemen sumber daya
perusahaan bekerja.Alimuddin Ruslam M, Ideologi Akuntans iIslam, Edisi 1 (Depok:
Rajawali Pers, 2019). Menurut penelitian Kartika Dewi tahun 2017 yang mengevaluasi kinerja
keuangan PT
sebagai
subjek
penelitian
menggunakan
Du
Pont
System
Analysis.Tbk.Raya Indo Tambang.(Dewi Kartika, 2017) Rasio ROE, ROA, dan utang
dari penelitian ini menunjukkan bahwa situasinya tidak menguntungkan. Penggunaan
analisis Du Pont System adalah fitur umum antara penelitian ini dan penulisnya. Sebaliknya, penelitian penulis menggunakan rasio ROI untuk mengevaluasi kinerja
keuangan bank, sedangkan Dengan menggabungkan rasio utang dengan ROE, ROA,
dan Du Pont System, penelitian ini dilakukan.(A, 2016) Menurut penelitian IIS dari tahun 2010, judul proyek penelitian adalah "Analisis
kinerja Bank Syariah Mandiri menggunakan Metode Du Pont." Pameran moneter bank
syariah gratis, yang berlangsung dari 2006 hingga 2009, menjadi fokus penyelidikan
ini.(Istikomah, 2020) Menurut temuan penelitian, margin laba bersih telah meningkat
di setiap tahun yang telah diamati, mencapai tingkat tertinggi dalam leverage 2009,
ketika BSM melihat peningkatan 0,01 persen, yang diimbangi oleh peningkatan aset. Analisis Du Pont menunjukkan bahwa bank Mandiri Syariah mampu menghasilkan 290 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis laba bersih selama periode 2006 hingga 2009.In penelitian ini dan lain-lain sejenisnya,
data dianalisis menggunakan metode sistem du Pont. Sebaliknya, penelitian ini
menggunakan bank BTPN Syariah dari tahun 2017 hingga 2020, sedangkan penelitian
sebelumnya menggunakan sampel bank Mandiri Syariah dari tahun 2006 hingga
2009.(Ikatan Bankir Indonesia (IBI), 2018). Kinerja Keuangan Salah satu aspek kinerja bank secara keseluruhan adalah kinerjanya. Kinerja bank
secara keseluruhan menunjukkan keberhasilan operasinya, termasuk keuangan,
pemasaran, penggalangan dana dan distribusi, teknologi, dan sumber daya manusia. Deskripsi kondisi keuangan bank dari waktu ke waktu dalam hal penggalangan dana
dan distribusi disediakan oleh kinerja keuangan bank. Profitabilitas bank, likuiditas,
dan kecukupan modal biasanya digunakan sebagai ukuran ini.(Jumingan, 2017) Di sisi
lain, Fahmi mengatakan bahwa analisis kinerja keuangan perusahaan dilakukan untuk
melihat seberapa baik aturan pelaksanaan keuangan yang telah diterapkan.(Fahmi,
2014) Kinerja manajemen bank dari waktu ke waktu dapat diperoleh dari laporan laba
rugi dan neraca keuangan. Organisasi dengan banyak eksekusi adalah organisasi yang
hasil kerjanya lebih baik daripada pesaing atau lebih baik dari rata-rata organisasi
serupa. Analisis arus kas, analisis likuiditas, analisis rata-rata, analisis profitabilitas,
analisis aktivitas, analisis penilaian, analisis pertumbuhan, analisis kesehatan, dan
analisis teknis Sistem Du Pont semuanya dapat digunakan untuk menyajikan analisis
kinerja keuangan.(Prawironegoro, 2017) Du Pont System Metode Analisis Du Pont dari analisis kinerja perusahaan dikembangkan oleh Du
Pont Corporation sekitar tahun 1919.Pendekatan ini menunjukkan bagaimana rasio
aktivitas margin keuntungan terhadap penjualan berinteraksi satu sama lain untuk
menentukan profitabilitas.(Najamuddin, 2011) " Analisis Sistem Du Pont memeriksa
seluruh rasio aktivitas terhadap margin keuntungan pada penjualan untuk
menunjukkan bagaimana profitabilitas dipengaruhi oleh rasio ini.," kata J.Ferd Weston
dan Fligene Bringham. Sudana menegaskan bahwa ketika menghitung ROI, analisis
DuPont menunjukkan hubungan antara utang, total perputaran aset, dan margin
keuntungan. Selain itu, laporan keuangan perusahaan dianalisis menggunakan Sistem
DuPont untuk menentukan kesehatannya.(Munawir, 2014) Rasio Keuangan DuPont System
Rasio Keuangan yang terdapat pada DuPont System : Total Asset Turnover
Rasio penjualan perusahaan terhadap total asetnya disebut total perputaran aset. TATO = Pendapatan
Total Aktiva 𝑥 1 Kali l Asset Turnover
Rasio penjualan perusahaan terhadap total asetnya disebut total perputaran aset. TATO = Pendapatan
Total Aktiva 𝑥 1 Kali http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Bank BTPN Syariah
BTPN Syariah m BTPN Syariah muncul sebagai hasil merger PT Bank Sahabat Purbadanarta dan Unit
Usaha Syariah (UUS) BTPN. Bank umum non-devisa Bank Sahabat Purbadanarta didirikan
di Semarang pada bulan Maret 1991. PT Bank Tabungan Pensiunan Nasional, Tbk (BTPN)
membeli 70% saham bank pada 20 Januari 2014.In sesuai dengan Surat Keputusan Otoritas
Jasa Keuangan (OJK) yang diterbitkan pada 22 Mei 2014, saham ini kemudian dikonversi
menjadi BTPN Syariah. Unit Usaha Syariah BTPN telah membantu keluarga kurang
beruntung di seluruh Indonesia dan memberdayakannya sejak Maret 2008.In Juli 2014,
Bank syariah ke-12 di Indonesia ini terbentuk ketika perseroan melakukan merger dengan
BTPN Syariah.BTPN Syariah merupakan anak usaha yang dimiliki oleh BTPN hingga
70%.(Prawira, 2021) Return On Investment/ROI (Pengembalian Investasi) Efisiensi penggunaan aset dalam kaitannya dengan laba bersih dikendalikan oleh
determinan ROI. Ini menunjukkan berapa banyak properti yang digunakan atau digunakan
untuk menghasilkan uang. Tingkat pengembalian investasi ditunjukkan oleh rasio ini. Investor lain harus mendapatkan pengembalian investasi yang lebih baik daripada yang
mereka lakukan sendiri. Gunakan rumus sebagai berikut: ROI = Net Profit Margin X Total Asset Turnover ROI = Net Profit Margin X Total Asset Turnover Net Profit Margin (Laba Bersih) Net Profit Margin (Laba Bersih) Setelah semua biaya dan biaya dipotong, seperti pajak dan bunga, ini adalah persentase
dari hasil penjualan yang remains.Net pendapatan adalah tingkat manfaat bersih organisasi
dari perjanjian yang dapat dicapai dalam jangka waktu yang telah ditentukan. Dengan
membandingkan penjualan dengan laba bersih setelah pajak, rasio ini digunakan untuk
menentukan profitabilitas perusahaan. Gunakan rumus sebagai berikut: http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Total Asset Turnover 291 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis METODE PENELITIAN Penelitian kuantitatif deskriptif mencakup penelitian khusus ini. Tujuan penelitian
kuantitatif deskriptif adalah untuk mendeskripsikan atau mendefinisikan komponen,
metode, dan hasil suatu kegiatan.(Hardani, 2020) Menjelaskan penelitian tidak diharapkan
untuk menguji spekulasi namun hanya menggambarkan apa variabel, efek samping dan
kondisinya.penelitian yang dapat diukur yang berfokus pada analisis data numerik yang
kemudian diproses dengan bantuan teknik statistik tertentu.(Sugiyono, 2019) Laporan keuangan Bank BTPN Syariah periode 2017-2020 menjadi fokus penelitian
ini. Sumber data primer Penelitian ini menggunakan data sekunder dari laporan keuangan
Bank Tabungan dan Pensiunan Negara (BTPN) periode 2017-2020. Penelitian ini
menyelidiki informasi dengan menggunakan strategi Du Pont Framework. Laporan
keuangan BTPN Syariah 2017-2020 akan digunakan dalam penelitian ini menggunakan 292 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis analisis metode DuPont System untuk mengetahui kinerja keuangan bank.(Hadari Nawawi,
2017) analisis metode DuPont System untuk mengetahui kinerja keuangan bank.(Hadari Nawawi,
2017) Salah satu metode untuk menilai kinerja perusahaan, yang sebelumnya dikenal
sebagai Du Pont Analysis, dikembangkan oleh Du Pont Corporation sebagai metode awal. Strategi ini menunjukkan interaksi antara rasio dalam menentukan profitabilitas dengan
menghubungkan rasio aktivitas margin keuntungan dengan penjualan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Analisis Penilaian Kinerja Keuangan Bank BTPN Syariah dengan Metode DuPont
System
1). Net Profit Margin (NPM)
Rasio margin laba bersih, atau laba bersih per pendapatan setelah memperhitungkan semu
pengeluaran dan pajak, disebut sebagai laba bersih. nalisis Penilaian Kinerja Keuangan Bank BTPN Syariah dengan Metode DuPont asio margin laba bersih, atau laba bersih per pendapatan setelah memperhitungkan semu
engeluaran dan pajak, disebut sebagai laba bersih. Tabel 2
Hasil Analisis NPM Bank BTPN Syariah 2017-2020
Tahun
Net Profit Margin (NPM)
2017
73,78 %
2018
77,06 %
2019
35,63 %
2020
75,50 %
Rata-rata
65,49 %
Sumber : Diolah peneliti 2022 Menurut hasil penilaian kinerja keuangan Metode Sistem DuPont, kinerja keuangan
Bank BTPN Syariah berfluktuasi setiap tahunnya dari tahun 2017 hingga 2020
berdasarkan perhitungan Net Profit Margin. Namun, laba bersih Bank BTPN Syariah
diperkirakan akan rendah pada 2019 namun tinggi pada 2017, 2018, dan 2020 Karena
tingginya bagi hasil dana yang digunakan oleh pihak ketiga dan beban untuk Syirkah
sementara. Di sisi lain, Marjin Laba Bersih tertinggi di industri adalah 77,06% pada tahun
2018, diikuti oleh 75,50% pada tahun 2020 dan 73,78% pada tahun 2017. 2). Total Asset Turnover (TATO)
Tingkat perputaran aset, atau potensi pendapatan aset, dapat dijelaskan dengan
menggunakan Total Assets Turnover Ratio untuk melihat seberapa efektif investasi
(input) digunakan untuk menghasilkan pendapatan (output). 2). Total Asset Turnover (TATO)
Tingkat perputaran aset, atau potensi pendapatan aset, dapat dijelaskan dengan
menggunakan Total Assets Turnover Ratio untuk melihat seberapa efektif investasi
(input) digunakan untuk menghasilkan pendapatan (output). Tabel 3 http://jurnal umb ac id/index php/jamekis || Universitas Muhammadiyah Bengk
Tabel 3
Hasil Analisis TATO Bank BTPN Syariah 2017-2020
Tahun
Total Asset Turnover
2017
0,099 kali
2018
0,108 kali
2019
0,256 kali
2020
0,068 kali
Rata-rata
0,132 kali 293 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Sesuai perhitungan All out Resource Turnover, berfluktuasi setiap tahun, mencapai
0,256 kali pada 2019,0.108 kali dalam waktu normal 2018.In, perputaran aset langsung
pada periode 2017 adalah 0,099 kali, dan periode 2020 adalah 0,068 kali. Hal ini
mengindikasikan bahwa pada tahun 2019, 2018, dan 2020, Bank BTPN Syariah
diperkirakan memiliki kapasitas yang tinggi untuk menghasilkan pendapatan dari total
asetnya, sedangkan kapasitas ini diperkirakan akan rendah pada tahun 2017 dan 2020. 3). Return On Invesment (ROI) )
(
)
Rasio Return on Investment menjelaskan kapasitas bank untuk mengelola dana yang
diinvestasikan dalam aset yang menghasilkan keuntungan secara keseluruhan. Margin
laba bersih dikalikan dengan jumlah total aset yang dijual untuk sampai pada tingkat
pengembalian investasi ini. Tabel 4 Tabel 4 Tabel 4
Hasil Analisis ROI Bank BTPN Syariah 2017-2020
Tahun
Return On Invesment
2017
7,30 %
2018
8,32 %
2019
9,12 %
2020
5,13 %
Rata-rata
7,47 %
Sumber : Diolah peneliti 2022 Dari perhitungan Laba dari Bunga pada periode 2017, 2018 dan 2019 sebesar 7,30%,
8,32% dan 9,12% masih di atas normal Laba dari Ventura.Sementara itu, Bank BTPN
Syariah mampu menghasilkan banyak uang pada tahun 2019, 2018, dan 2017 berkat
Return On Investment sebesar 5,134% pada tahun 2020 yang lebih rendah dari rata-rata
Return On Investment.It diperkirakan akan rendah pada tahun 2020.Hal ini
menunjukkan buruknya kinerja Bank BTPN Syariah dalam menghasilkan return aset dari
pendapatan dan total perputaran aset. Namun, ROI keseluruhan meningkat antara 2017
dan 2020. Berikut hasil analisis berbasis Sistem Du Pont Bank BTPN Syariah berdasarkan
perhitungan sebelumnya: http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu
Tabel 5
Hasil Analisis Bank BTPN Syariah Menggunakan Teknik Du Pont System
Periode 2017-2020
Tahun
Total Asset
Pendapat an
Laba Bersih
Setelah Pajak
NPM
TATO
ROI
2017
Rp9.156.522
Rp908.261
Rp670.182
73,78%
0,099 kali 7,30%
2018
Rp12.039.275
Rp1.302.549
Rp1.003.747
77,06%
0,108 kali 8,32%
2019
Rp15.383.038
Rp3.951.507
Rp1.408.218
35,63%
0,256 Kali 9,12%
2020
Rp16.435.005
Rp1.119.640
Rp845.398
75,50%
0,068 Kali 5,13% Tabel 5
Hasil Analisis Bank BTPN Syariah Menggunakan Teknik Du Pont System
Periode 2017-2020 294 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol: / Desember 2019. Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kinerja keuangan PT dapat dilihat pada tabel di atas. Rasio ROI yang dihitung
menggunakan Sistem Du Pont dalam time series tahun 2019 menggambarkan kinerja
keuangan Bank BTPN Syariah, dengan laba sebesar 9,12 persen, untuk tahun 2017 hingga
2020.Mengalikan marjin laba bersih dengan total pemotongan aset menghasilkan
perbandingan ROI untuk tahun 2017 dan 2018.Kedua proporsi ini sama-sama telah
berkembang. g
Korelasi pengembalian investasi modal awal pada 2018 dengan 2019 kembali
meningkat dari tahun sebelumnya. Rasio margin laba bersih dikalikan dengan total
perputaran aset pada tahun berjalan digunakan untuk menghitung laba atas investasi
(ROI). ROI turun 5,134% pada 2020 dibandingkan tahun sebelumnya. Sementara perputaran
aset telah menurun, rasio margin laba bersih telah meningkat. 3). Return On Invesment (ROI) Oleh karena itu, penurunan
perputaran aset menjadi alasan penurunan ROI pada tahun 2020.Laba bersih bank setelah
pajak menurun sementara aset dan pendapatan meningkat dari tahun sebelumnya,
sehingga terjadi penurunan perputaran aset (TATO). ROI menurun sebagai akibat dari
rugi bersih bisnis sebesar Rp 845,398 miliar pada tahun 2020.Hal ini mengindikasikan
bahwa kinerja bisnis terus menurun, bahkan mengalami kerugian yang signifikan dan
tidak menghasilkan laba pada tahun 2020. Kesimpulannya, kinerja keuangan PT dapat dilihat pada analisis di atas. Deretan waktu
rasio Return On Investment (ROI) Bank BTPN Syariah menggunakan pendekatan
Sistem Du Pont mengungkapkan bahwa ROI dikatakan stabil selama empat periode, dari
2017 hingga 2020.ROI 7,30 persen pada 2017, kemudian naik menjadi 8,32 persen pada
2018 dan 9,12 persen pada 2019.In penambahan, bisnis ini mampu membukukan laba
sebesar 0,23 persen pada 2020, naik dari rugi bersih Rp 845.398 miliar pada tahun
sebelumnya. Rasio net profit margin (NPM) dan total asset turnover ratio/total asset turnover (TATO)
yang keduanya fluktuatif berdampak pada angka rasio ROI. Karena mereka berada pada
ketentuan 0,50% (standar BI), secara keseluruhan, 2017 dan 2020 menunjukkan kinerja
yang cukup baik.pengembalian uang yang diinvestasikan pada tahun 2020 menunjukkan
hal yang mengerikan dengan alasan bahwa pengembalian modal yang diinvestasikan
selanjutnya berkurang, ini karena tidak adanya kapasitas bank para eksekutif untuk
menggunakan sumber dayanya secara efektif atau dalam mengawasi dan menggunakan
dukungan menempatkan sumber daya ke dalam semua sumber daya untuk menciptakan
keuntungan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ROI Bank BTPN Syariah dikatakan Sehat dengan rata-rata 7,47%, sehingga Kesimpulan p
Dari eksplorasi tersebut, konsekuensi dari estimasi pameran moneter Bank
Tabungan dan Pensiunan Negara (BTPN) Syariah periode 2017 hingga 2020 dengan
menggunakan strategi DuPont Framework melalui NPM, TATO dan return on initial
capital investment test. NPM terendah selama empat tahun adalah pada tahun 2019,
ketika itu 35,63 persen, dan NPM tertinggi pada tahun 2018.In 2019, tato terbesar
adalah 0,256 kali, sedangkan yang terkecil adalah 0,068 kali pada tahun 2020.Selain itu,
ROI terendah adalah 5,13 persen pada tahun 2020, sedangkan ROI tertinggi adalah 9,12
persen pada tahun 2019. ROI Bank BTPN Syariah dikatakan Sehat dengan rata-rata 7,47%, sehingga http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengku 295
1 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol: / Desember 2019. Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol: / Desember 2019. Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun
tetap dikatakan positif karena kriteria level Du Point System ditentukan. meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun
tetap dikatakan positif karena kriteria level Du Point System ditentukan. meskipun level DuPont System di Bank BTPN Syariah mengalami fluktuasi, namun
tetap dikatakan positif karena kriteria level Du Point System ditentukan. DAFTAR RUJUKAN DAFTAR RUJUKAN A, Karim. (2016). Analisis Fiqih Dan Keuangan. PT. Raja Grafindo Andrianto. (2019). Manajemen Bank Syariah (C. P. Q. Media (Ed.). Muljawan, Dadang P. S. (2020). Ekonomi Syariah. Departemen Ekonomi dan Keuangan
Syariah. Dewi Kartika. (2017). Analisis Du Pont System Untuk Menilai Kinerja Keuangan Pada PT. Indo Tambang Raya Megah TBK (p. 14). Tambang Raya Megah TBK. Fahmi, I. (2014). Analisis Kinerja Keuangan. CV Alfabeta. Finthariasari, Meilaty., Febriansyah, Erwin., Pramadeka, Katra. (2020). Corporate Social
Responsibility Disclosure: A Determinant Analysis (Case Study Manufacturing
Companies Listed on the Indonesia Stock Exchange). International Journal of Trends
in Accounting Research, 1(1). Furqonti, Ranidiah., Arianto, Tezar. (2020). Analisis Kinerja Keuangan Perbankan Syariah
(Studi Empiris Bank Syariah ’’Badan Usaha Milik Negara’’ Di Indonesia Periode
2015-2018). Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS),
1(1). Herlin., Yanti, Rina Trisna. (2021). Analisis Kinerja dan Rasio Keuangan pada PT. Pegadaian (Persero) Tahun 2018-2019. Jurnal Ilmiah Akuntansi, Manajemen dan
Ekonomi Islam (JAM-EKIS), 4(1). (
)
( )
Hadari Nawawi. (2017). Metode Penelitian Sosial. Gaja Mada University. H d
i H A (2020) M
d l
i P
li i
K
li
if d
K
i
if (E 1 ( Hadari Nawawi. (2017). Metode Penelitian Sosial. Gaja Mada University. Hardani, H. A. (2020). Metedologi Penelitian Kualitatif dan Kuantitatif (E. 1 (Ed.)) (
)
j
y
Hardani, H. A. (2020). Metedologi Penelitian Kualitatif dan Kuantitatif (E. 1 (Ed.)). Hardani, H. A. (2020). Metedologi Penelitian Kualitatif dan Kuantitatif (E. 1 (Ed.)). CV. Pustaka Ilmu Group. CV. Pustaka Ilmu Group. Ikatan Bankir Indonesia (IBI). (2018). Bisnis Kredit Perbankan (edisi 2). PT Gramedia
Pustaka Utama. Iska, S. (2012). Sistem Perbankan Syariah Di Indonesia. Fajar Media Press. Istikomah, I. (2020). Iis Istikomah, ‘Analisis Kinerja Bank Syariah Mandiri Dengan Metode Du Pont
System. Manajemen Ekonomi Dan Bisni. System. Manajemen Ekonomi Dan Bisni. Jumingan. (2017). Analisis Laporan Keuangan. PT Bumi Aksara. Munawir. (2014). Analisa Laporan Keuangan (Edisi 4). Liberty. Najamuddin. (2011). Najmudin, Manajemen Keuangan Dan Akuntansi Syar’iyyah Modern. Andi Offset. P Sirait. (2014). Pelaporan Dan Laporan Keuangan (G. Ilmu (Ed.). Persad. A, A. (2016). Akuntansi Keuangan Syariah : Teori ke Praktik. Deepublish. Prawira, B. (2021). PANDUAN TRANSFORMASI DIGITAL BANK DI INDONESIA (E. 1 (Ed.); Ricky Satr). Media Nusa Creative. 1 (Ed.); Ricky Satr). Media Nusa Creative. Prawironegoro, D. (2017). Manajemen Keuangan. Diadit Media. Ruslam M, A. (2019). Ideologi AkuntansiIslam (Edisi 1). Rajawali Pers. g
j
Sugiyono. (2019). Metode Penelitian Kuantitatif Kualitatif Dan R&D. Alfabeta. Sugiyono. (2019). DAFTAR RUJUKAN Metode Penelitian Kuantitatif Kualitatif Dan R&D. Alfabeta. Warsono. (2017). Manajemen Keuangan Perusahaan (edisi 3). Bayu Media. Sugiyono. (2019). Metode Penelitian Kuantitatif Kualitatif Dan R&D. Alfabeta. Warsono. (2017). Manajemen Keuangan Perusahaan (edisi 3). Bayu Media. Warsono. (2017). Manajemen Keuangan Perusahaan (edisi 3). Bayu Media. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 295
1 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis STRATEGI DIGITAL BAURAN PEMASARAN 4P TERHADAP
KINERJA UMKM KOTA SAMARINDA
MARKETING MIX DIGITAL STRATEGY AGAINST
PERFORMANCE OF MEMEs IN SAMARINDA CITY M. Risal1, Damayanti2
Universitas Muhammadiyah Kalimantan Timur, Samarinda, Indonesia1
Universitas Muhammadiyah Kota Palopo, Palopo, Indonesia2
m.risal@umkt.ac.id1, damayanti@student.umpalopo.ac.id2 M. Risal1, Damayanti2
Universitas Muhammadiyah Kalimantan Timur, Samarinda, Indonesia1
Universitas Muhammadiyah Kota Palopo, Palopo, Indonesia2
m.risal@umkt.ac.id1, damayanti@student.umpalopo.ac.id2 M. Risal1, Damayanti2
Universitas Muhammadiyah Kalimantan Timur, Samarinda, Indonesia1
Universitas Muhammadiyah Kota Palopo, Palopo, Indonesia2
m.risal@umkt.ac.id1, damayanti@student.umpalopo.ac.id2 Jl. Juanda, Kota Samarinda Kalimantan Timur
Corresponding email: m.risal@umkt.ac.id Keywords: Kata kunci:
Produk; Harga; Promosi;
Tempat. Kinerja UMKM ABSTRACT This study aims to determine the digital strategy of the
4p marketing mix on the performance of MSMEs in
Palopo City. This method uses a quantitative method
using primary data, the data collection method uses a
questionnaire survey to 80 respondents of MSMEs in
Palopo City. The analysis in this study uses multiple
linear regression analysis, after the data is collected the
analysis data uses the SPSS version 23 program. The
results of this study are multiple linear regression
analysis using the coefficient of determination (R2) and
hypothesis testing (T). The results of this study indicate
that product (X1), price (X2), promotion (X3), place
(X4), have a positive or significant effect on the
performance of SMEs. Riwayat Artikel:
Diterima : 15 Juni 2023
Direvisi : 28 Juli 2023
Disetujui : 08 Agustus 2023 Keywords:
Product; Price; Promotion;
Place, MEMEs Performa Keywords:
Product; Price; Promotion;
Place, MEMEs Performa http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRAK Penelitian ini bertujuan untuk mengetahui strategi
digital Bauran pemasaran 4p terhadap kinerja umkm
Kota Samarinda. Metode ini menggunakan metode
kuantitatif dengan menggunakan data primer, metode
pengambilan data menggunakan survei kuesioner
kepada 80 responden UMKM Kota Samarinda. Analisis dalam penelitian ini menggunakan analisis
regresi linear berganda, setelah data dikumpulkan data
analisis menggunakan program SPSS versi 23. Hasil
penelitian ini dengan analisis regresi linear berganda
menggunakan pengujian koefisien determinasi (R2) 297 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dan uji hiotesis uji (T). Hasil penelitian ini
menunjukan bahwa product (X1), price (X2),
promotion (X3), place (X4), berpengaruh positif atau
signifikan terhadap kinerja UMKM. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Strategi Bauran Pemasaran Strategi bauran pemasaran (marketing mix stategy) memiliki kontribusi dalam
memengaruhi konsumen untuk memperoleh produk atau jasa yang ditawarkan pasar, oleh
karena itu bauran pemasaran (marketing mix) disebutkan suatu perangkat alat yang akan
menunjukkan tingkat keberhasilan pemasaran pada bisnis yang dilakukan (Kotler & Keller,
2016). Strategi bauran pemasaran (marketing mix strategy) seperangkat strategi yang
dikombinasikan kedalam aktivitas-aktivitas pemasaran, sehingga menghasilkan
pelanggan yang dapat menguntungkan perusahaan (Alma, 2016). p
gg
y
g
p
g
g
p
Strategi bauran pemasaran dibagi menjadi empat bagian yang berorientasi ganda,
rasional, emosional dan keterlibatan rendah dengan jenis produk yang berbeda dengan
pemasaran yang berbeda strategi, sehingga strategi bauran pemasaran dapat ditambahkan
menjadi lima bagian yang merupakan pilihan target pasar, strategi layanan, strategi harga,
strategi saluran, dan strategi pemasaran (Adewale et al., 2013;Finthariasari & Zetira,
2022; Ekowati & Finthariasari, 2020). Strategi Produk (Product strategy) Produk adalah segala sesuatu yang memiliki bentuk, kemasan, dan informasi
pelabelan, yang dapat mempengaruhi konsumen untuk melihat produk di dalam toko,
memeriksanya, dan membelinya (Amzad, Sarker, Aimin, & Begum, 2012). peneliti
sebelumnya dengan jelas menyarankan bahwa pengaruh produk memiliki dampak yang
signifikan terhadap kinerja bisnis (Kazem, 2006; Kemppainen, Vepsalainen, & Tinnila,
2008; Fitriah et al., 2019; Owomoyela et al., 2013; Oktarini et al., 2022) pembangunan nasional. Kota
Samarinda
perlu
memperkuat
perekonomiannya
sehingga
dapat
meningkatkan taraf hidup dan daya saing masyarakat. Diharapkan UMKM mampu
memberikan stabilitas dalam meningkatkan prospek usaha yang dijalankannya agar
dapat memberikan hasil yang maksimal bagi pelaku UMKM nantinya dan memberikan
dampak yang baik bagi koperasi dan perdagangan, pemerintah dan masyarakat itu
sendiri. Perkembangan UMKM Kota Samarinda sebagai bisnis yang bertahan ditengan
Covid-19, masyarakat diminta stay at home. Dimana UMKM bisa mengubah perilaku
ekonomi yang tadinya belanja offline ke online. Efeknya bukan hanya menyerang
kesehatan personal, tapi sudah menggerogoti semua hal termasuk sektor industri dan
UMKM. Usaha mereka terancam tutup karena pembatasan aktivitas yang menyebabkan
kelesuan perekonomian masyarakat. Biarpun kini kita menatap era new normal, namun
ancaman virus belum sepenuhnya berakhir. Ada beberapa sektor yang menyebabkan laju
pertumbuhan ekonomi di Kota Samarinda ini dapat menjanjikan prospek yang cerah,
yakni, sektor pendidikan, kesehatan, dan usaha mikro, kecil dan menengah (UKM),
seperti kuliner dan lain-lain. PENDAHULUAN Dunia mengalami sebuah peristiwa besar tepatnya pengujung tahun desember
2019, telah dilanda musibah virus corona (covid-19) dimana banyak masyaraka resah,
sakit, dan meninggal dunia. Peristiwa tersebut berawal di Wuhan, Tiongkok (Putri,
2020). Perkembangan informasi dan teknologi saat ini sangat membantu pelaku usaha
kecil dan menengah (UMKM) dalam menjalankan kegiatan bisnisnya. Banyaknya
pesaing menjadi faktor bagi pengusaha untuk memasuki persaingan yang ketat. Perusahaan yang memiliki kemampuan dalam menghadapi persaingan harus
menggunkan strategi pemasaran dan media yang tepat untuk mencapai target pasar,
sehingga penjualan akan selalu meningkat dan pendapatan perusahaan juga meningkat. Digital marketing saat ini menjadi salah satu media pemasaran yang sangat populer untuk
menunjang berbagai aktivitas. Banyak pelaku usaha secara berlahan-lahan mulai
meninggalkan model pemasaran konvesional/tradisional dan beralih ke pemasaran
moderen yaitu digital marketing (Hendrawan, Sucahyowati, Cahyandi, Indriyani, &
Rayendra, 2019). Nilai pelanggan yang memenuhi kebutuhan pelanggan perlu menjadi kombinasi
dari strategi pemasaran yang ada. Di era industri 4.0 atau yang lebih dikenal dengan era
digital, mudah untuk mengetahui bagaimana perusahaan sekarang menggunakan layanan
untuk memenuhi kebutuhan pelanggan. Melalui layanan digital yang disediakan oleh
semua sistem, situasi ini tidak diragukan lagi menjadi bagian dari strategi. Sistem
pelayanan juga membantu memperpendek rantai penjualan dan membuat harga lebih
terjangkau (Mashuri, 2019). Usaha Mikro Kecil dan Menengah (UMKM) terhadap kegiatan ekonomi memberi
kontribusi yang sangat penting. Kegiatan perekonomian pada saat itu dilanda kondisi
yang sangat parah (krisis) sehingga mempengaruhi sektor Usaha Mikro Kecil dan
Menengah (UMKM) meningkat dengan sangat tajam, hal tersebut menyebabkan Usaha
Mikro Kecil dan Menengah (UMKM) mengalami peningkatan sangat tajam, dari sekitar
7.000 pada tahun 1980 menjadi sekitar 40 juta pada tahun 2001 dan naik sekitar 49,840
juta pada tahun 2007. Oleh sebab itu, di Sulawesi Selatan, Usaha Kecil dan Menengah
sejak tahun 2017 semakin naik menjadi 916 ribu (Risal & Salju, 2017). Pelaku UMKM telah mendapatkan dukungan dari pemerintah daerah dengan
slogan memajukan perekonomian masyarakat. Dukungan keuangan untuk usaha
menengah kecil dan mikro juga sama kuatnya, baik melalui dana APBD atau dana
perimbangan atau hibah dari pusat, CSR dari perusahaan dan lembaga lainnya. Dengan
dukungan kuat tersebut, diharapkan industri mikro, kecil dan menengah dapat
menemukan momentum pembangunan yang baik sejalan dengan visi dan misi 298 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Pendekatan dalam penelitian ini menggunakan pendekatan kuantitatif. Pendekatan
kuantitatif meneliti suatu sampel dengan pengumpulan menggunakan kuesioner, data
yang sudah terkumpul diolah dengan menggunakan statistik lalu kemudian dipakai untuk
menguji hipotesis (Sugiyono, 2019). Sampel dalam penelitian ini adalah UMKM di Kota
Samarinda sebanyak 80. Teknik pengolahan dapat menggunakan regresi linear berganda
dengan bantuan software statistk komputer SPSS ver. 22. Strategi Tempat (Place Strategy) Tempat atau distribusi didefenisikan sebagai sarana organisasi yang saling
berkontribusi yang terlibat dalam proses pembuatan suatu produk yang tersedia dan dapat
digunakan atau dikonsumsi oleh konsumen (Kotler & Armstrong, 2018). Tempat adalah
lokasi yang dipilih organisasi untuk menemukan produk atau layanannya sehingga
konsumen sasarannya dapat dengan mudah mendapatkan akses ke sana (Cathy H. C. Hsu, 2019). Strategi Promosi (Promotion Strategy) 299 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Promosi merupakan unsur penting dalam bauran pemasaran. Komunikasi
pemasaran yang terdiri dari periklanan, penjualan pribadi, promosi penjualan, hubungan
masyarakat, yang digunakan perusahaan untuk mendapatkan tujuan periklanan dan
pemasarannya (Kotler & Keller, 2016). Promosi yang efektif dilakukan secara teratur
dan terukur yang bersumber dari imajinasi yang baik. Promosi harus mendukung produk,
baik produk pribadi atau perusahaan harus memiliki merek yang menarik perhatian
konsumen (Langat, 2016). Uji statistik Deskriptif Tujuan dari uji statistik deskriptif adalah untuk menguji dan mendeskripsikan
karateristik sampel yang diobservasi. Pada penelitian ini uji deskriptif masing-masing
variabel diuraikan sebagai berikut: a. Produk (X1) Deskripsi jawaban responden dapat dilihat pada tabel 1. Berdasarkan tabel 1,
menunjukkan hasil bahwa dari 80 responden yang diteliti telah memberi jawaban yang
beragam atas variabel produk. Sebaran jawaban responden lebih dominan memilih
setujuh terhadap produk yang harus memiliki kualitas atas kinerja UMKM di Kota
Samarinda. b. Harga (X2) b. Harga (X2) b. Harga (X2)
Deskirpsi jawaban responden dapat dilihat pada tabel 2 sebagai berikut:
Tabel 2
Deskripsi pernyataan variabel harga (X2)
Item Pernyataan
Frekuensi dan Persentase
Mean
STS
TS
N
S
SS
X2.1
1
4
13
44
18
3,82
9%
3,6%
23,2%
57,1%
15,2
X2.2
1
5
28
46
-
3,68
9%
4,5%
29,5%
56,3%
-
Sumber: Output SPSS ver. 22. 2023 Deskirpsi jawaban responden dapat dilihat pada tabel 2 sebagai berikut:
Tabel 2 Berdasarkan tabel 2, menunjukkan hasil bahwa dari 80 responden yang diteliti
telah memberi jawaban yang beragam atas variabel harga. Sebaran jawaban responden
yang memilih jawaban netral pada item pernyataan X2.1 dan X2.2 masih cukup tinggi
sekitar 52,7% terhadap harga yang melekat pada produk UMKM di Kota Samarinda. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tabel 1
Deskripsi pernyataan variabel produk (X1) 300 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Item Pernyataan
Frekuensi dan Persentase
Mean
STS
TS
N
S
SS
X1.1
-
-
-
112
-
4,00
-
-
-
100,0%
-
X1.2
-
2
37
66
7
3,70
-
1,8%
33,0%
58,9%
6,3%
X1.3
-
5
45
52
10
3,60
-
4,5%
40,2%
46,4%
8,9%
X1.4
-
2
33
69
8
3,74
-
1,8%
29,5%
61,6%
7,1%
Sumber: Output SPSS ver. 22. 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Item Pernyataan
Frekuensi dan Persentase
Mean
STS
TS
N
S
SS
X1.1
-
-
-
112
-
4,00
-
-
-
100,0%
-
X1.2
-
2
37
66
7
3,70
-
1,8%
33,0%
58,9%
6,3%
X1.3
-
5
45
52
10
3,60
-
4,5%
40,2%
46,4%
8,9%
X1.4
-
2
33
69
8
3,74
-
1,8%
29,5%
61,6%
7,1%
Sumber: Output SPSS ver. 22. 2023
b. Harga (X2)
Deskirpsi jawaban responden dapat dilihat pada tabel 2 sebagai berikut:
Tabel 2
Deskripsi pernyataan variabel harga (X2)
Item Pernyataan
Frekuensi dan Persentase
Mean
STS
TS
N
S
SS
X2.1
1
4
13
44
18
3,82
9%
3,6%
23,2%
57,1%
15,2
X2.2
1
5
28
46
-
3,68
9%
4,5%
29,5%
56,3%
-
Sumber: Output SPSS ver. 22. 2023
Berdasarkan tabel 2, menunjukkan hasil bahwa dari 80 responden yang diteliti
telah memberi jawaban yang beragam atas variabel harga. Sebaran jawaban responden
yang memilih jawaban netral pada item pernyataan X2.1 dan X2.2 masih cukup tinggi
sekitar 52,7% terhadap harga yang melekat pada produk UMKM di Kota Samarinda. c. Promosi (X3)
Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut:
Tabel 3
Deskripsi pernyataan variabel promosi (X3) Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis d. Tempat (X4) d. Tempat (X4)
Deskirpsi jawaban responden dapat dilihat pada tabel 4 sebagai berikut:
Tabel 4
Deskripsi pernyataan variabel tempat (X4)
Item Pernyataan
Frekuensi dan Persentase
Mean
STS
TS
N
S
SS
X4.1
3
4
18
36
19
3,79
2,7%
3,6%
25,0%
50,0
18,8%
X4.2
1
8
24
34
13
3,66
9%
7,1%
30,4%
48,2%
13,4%
X4.3
1
2
25
43
9
3,72
9%
1,8%
31,3%
56,3%
9,8%
Sumber: Output SPSS ver. 22. 2023 p
Deskirpsi jawaban responden dapat dilihat pada tabel 4 sebagai berikut:
Tabel 4 Berdasarkan tabel 4, menunjukkan hasil bahwa dari 80 responden yang diteliti
telah memberi jawaban yang beragam atas variabel tempat. Sebaran jawaban responden
yang memilih jawaban netral pada item pernyataan X4.1, X4.2 dan X4.3 masih cukup tinggi
sekitar 25,0%, 30,4% dan 31,3% terhadap tempat yang melekat pada produk UMKM di
Kota Samarinda. c. Promosi (X3) Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut:
Tabel 3
Deskripsi pernyataan variabel promosi (X3)
Berdasarkan tabel 3, menunjukkan hasil bahwa dari 80 responden yang dite skirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut:
Tabel 3
Deskripsi pernyataan variabel promosi (X3) Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut:
Tabel 3 Deskirpsi jawaban responden dapat dilihat pada tabel 3 sebagai berikut: Berdasarkan tabel 3, menunjukkan hasil bahwa dari 80 responden yang diteliti
telah memberi jawaban yang beragam atas variabel promosi. Sebaran jawaban responden 301 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis yang memilih jawaban netral pada item pernyataan X3.1, X3.2 dan X3.3 masih cukup tinggi
sekitar 29,5%, 37,5% dan 33,0% terhadap promosi yang melekat pada produk UMKM
di Kota Samarinda. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 302 Uji Validitas Uji validitas dilakukan untuk mengukur tingkat kesahihan suatu pertanyaan pada
kuesioner. Suatu kuesioner dikatakan valid apabila pernyataan mampu mengungkapkan
sesuatu yang diukur. Kuesioner penelitian dikatan valid jika nilai signifikansinya > 0,05. Tabel 5
Uji Validitas
Variabel
Item
r hitung
r tabel
Keterangan
Produk (X1)
X1.1
0.771
0.1875
Valid
X1.2
0.708
0.1875
Valid
X1.3
0. 774
0.1875
Valid
X1.4
0.633
0.1875
Valid
Harga (X2)
X2.1
0.793
0.1875
Valid
X2.2
0.777
0.1875
Valid
Promotion (X3)
X3.1
0.632
0.1875
Valid
X3.2
0.680
0.1875
Valid
X3.3
0.673
0.1875
Valid
Tempat (X4)
X4.1
0.772
0.1875
Valid
X4.2
0.861
0.1875
Valid
X4.3
0.771
0.1875
Valid
Kinerja UMKM (Y)
Y1
0.733
0.1875
Valid 302 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Y2
0.774
0.1875
Valid
Y3
0.787
0.1875
Valid
Sumber: Output SPSS ver. 22. 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Y2
0.774
0.1875
Valid
Y3
0.787
0.1875
Valid
Sumber: Output SPSS ver. 22. 2023 Berdasarkan uji validitas pada tabel 5 di atas, dapat dilihat bahwa semua variabel
dapat dikatakan valid karena semua pernyataan lebih besar dari 0,1875 atau r hitung > r
tabel. Uji Reliabilitas Reliabilitas menunjukkan suatu pengertian bahwa sesuatu instrument cukup dapat
dipercaya untuk diinginkan sebagai alat pengumpul data karena instrumen tersebut sudah
baik. Suatu kuesioner dapat dikatakan reliabel atau handal apabila jawaban dari
responden terhadap pernyataan adalah konsisten atau stabil dari waktu ke waktu. Dalam
menguji reliabilitas data pada penelitian ini akan menggunakan formula Cronbach’s
Alpha. Suatu variabel dikatakan reliabel jika memberikan nilai Cronbach’s Alpha> 0,60. Tabel 6
Uji Reliabilitas Tabel 6
Uji Reliabilitas
Variabel
Cronbach's Alpha
Standar
Reabilitas/Kriteria
Keterangan
Produk (X1)
0.729
0,60
Reliabel
Harga (X2)
0.821
0,60
Reliabel
Promosi (X3)
0.623
0,60
Reliabel
Tempat (X4)
0.826
0,60
Reliabel
Kinerja UMKM (Y)
0.809
0,60
Reliabel
Sumber: Output SPSS ver. 22. 2023 Dapat dilihat pada tabel 6 bahwa hasil Cronbach's Alpha untuk semua variabel
>0,60, sehingga dapat disimpulkan bahwa kuesioner dapat digunakan sebagai alat ukur
yang dapat menjelaskan variabel independen yaitu produk (X1), harga (X2), promosi
(X3), Tempat (X4), dan juga variabel dependen yaitu kinerja UMKM (Y) dinyatakan
reliabel. Regresi Linear Berganda Metode regresi linear berganda dimaksudkan untuk mengetahui besarnya tingkat
pengaruh antara variabel produk, harga, promosi dan tempat terhadap kinerja UMKM di
Kota Samarinda. Pengujian regresi linear berganda dapat dilihat pada tabel 1 sebagai
berikut: Tabel 7
Analisis Regresi Linear Berganda 303 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
Model
Unstandardized
Coefficients
Standardized
Coefficients
t
Sig. B
Std. Error
Beta
1
(Constant)
1,076
1,414
,761
,448
TOTAL X1
,042
,109
,031
,386
,701
TOTAL X2
-,948
,236
-,607
-4,011
,000
TOTAL X3
,456
,084
,924
5,441
,000
TOTAL X4
,034
,084
,036
,402
,689
a. Dependent Variable: TOTAL Y (kinerja UMKM)
Sumber: Output SPSS ver. 22. 2023 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Dari tabel 7 di atas diperoleh nilai konstanta sebesar 1,076 dan nilai koefisien
untuk variabel produc (X1) 0,042 , Price (X2) -0,948 Promotion (X3) 0,456, Place
(X4) 0,034, 0,010 maka persamaan regresi diperoleh sebagai berikut:
Y = a + b1X1 + b2X2 + b3X3 + b4X4 + e
Y = 1,076+ 0,042X1 + (-0,948X2) + 0,456X3 + 0,034X4 + e Dari tabel 7 di atas diperoleh nilai konstanta sebesar 1,076 dan nilai koefisien
untuk variabel produc (X1) 0,042 , Price (X2) -0,948 Promotion (X3) 0,456, Place
(X4) 0,034, 0,010 maka persamaan regresi diperoleh sebagai berikut:
Y = a + b1X1 + b2X2 + b3X3 + b4X4 + e
Y = 1,076+ 0,042X1 + (-0,948X2) + 0,456X3 + 0,034X4 + e Dari persamaan regresi yang tersebut dapat diuraikan sebagai berikut: a. Nilai konstan sebesar 1,076 yang artinya variabel X1, X2, X3, X4, bernilai 0 maka
variabel Y terjadi peningkatan penjualan naik sebesar 1,076. a. Nilai konstan sebesar 1,076 yang artinya variabel X1, X2, X3, X4, bernilai 0 maka
variabel Y terjadi peningkatan penjualan naik sebesar 1,076. b. Koefisien regresi variabel produk (X1) sebesar 0,042 yang artinya jika variabel lain
tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan
meningkat sebesar 0,042. Koefisien positif menunjukkan bahwa variabel produk
berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel produk maka
kinerja UMKM semakin meningkat. c. Koefisien regresi variabel harga (X2) sebesar -0,948 yang artinya jika variabel lain
tidak berubah dan meningkat sebesar 1% maka variabel peningkatan kinerja
UMKM(Y) akan menurun sebesar 0,948. Regresi Linear Berganda Koefisien negatif menunjukkan bahwa
variabel harga tidak berpengaruh positif terhadap kinerja UMKM, semakin rendah
variabel harga maka kinerja UMKM menurun. d. Koefisien regresi variabel promosi (X3) sebesar 0,456 yang artinya jika variabel lain
tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan
meningkat sebesar 0,456. Koefisien positif menunjukkan bahwa variabel promosi
berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel promosi maka
kinerja UMKM meningkat. f. Koefisien regresi variabel tempat (X4) sebesar 0,034 yang artinya jika variabel lain
tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan
meningkat sebesar 0,034. Koefisien positif menunjukkan bahwa variabel tempat
berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel tempat maka
kinerja UMKM meningkat. f. Koefisien regresi variabel tempat (X4) sebesar 0,034 yang artinya jika variabel lain
tidak berubah dan meningkat sebesar 1% maka variabel kinerja UMKM (Y) akan
meningkat sebesar 0,034. Koefisien positif menunjukkan bahwa variabel tempat
berpengaruh positif terhadap kinerja UMKM, semakin tinggi variabel tempat maka
kinerja UMKM meningkat. 304 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Uji Koefisien Determinasi (R2) Uji koefisien determinasi mengukur kemampuan model dalam menjelaskan
perubahan variabel dependen. Nilai koefisien determinasi merupakan nilai kontribusi
variabel independen terhadap variabel dependen. Hasil uji koefisien determinasi (R2)
dapat dilihat pada tabel 2 sebagai berikut: Tabel 8
Uji Koefisien Determinasi (R2)
Model Summaryb
Model
R
R Square
Adjusted R
Square
Std. Error of the Estimate
1
,743a
,552
,522
1,272
a. Predictors: (Constant), TOTAL X4, TOTAL X3, TOTAL X2, TOTAL X1
b. Dependent Variable: TOTAL (Y) KINERJA UMKM
Sumber: Output SPSS ver. 22. 2023 Tabel 8
Uji Koefisien Determinasi (R2) Berdasarkan tabel 8 diketahui nilai R Square sebesar 0,552 yang artinya bahwa
variabel Produc (X1), Price (X2), Promotion (X3), Place (X4), memiliki pengaruh
sebesar 55,2% terhadap peningkatan penjualan sedangkan 44,8% di pengaruh oleh
variabel lain yang tidak diteliti. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 305 Uji Signifikan Variabel (Uji T) Uji t merupakan pengujian bertujuan untuk mengetahui apakah veriabel-variabel
independen signifikan terhadap variabel dependen yang dipormulasikan dalam model. Hasil uji statistik dapat dilihat pada tabel berikut. Tabel 9
Uji Statistik t
Coefficientsa
Model
Unstandardized
Coefficients
Standardized
Coefficients
T
Sig. B
Std. Error
Beta
1
(Constant)
1,076
1,414
,761
,448
TOTAL X1
,042
,109
,031
,386
,701
TOTAL X2
-,948
,236
-,607
-4,011
,000
TOTAL X3
,456
,084
,924
5,441
,000
TOTAL X4
,034
,084
,036
,402
,689
a. Dependent Variable: TOTAL Y
Sumber: Output SPSS ver. 22. 2023 Tabel 9
Uji Statistik t 1. Hipotesis yang pertama diketahui untuk variabel produk (X1) t hitung = 0, 386 < t
tabel = 1,658 dengan signifikan 0,701 < 0,05 artinya terdapat pengaruh signifikan 305 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis terhadap kinerja UMKM. 2. Hipotesis yang kedua diketahui untuk variabel harga (X2) t hitung = -4,011 > t tabel
= 1,658 dengan signifikan 0,000 < 0,05 artinya tidak terdapat pengaruh positif tetapi
signifikan terhadap kinerja UMKM. 2. Hipotesis yang kedua diketahui untuk variabel harga (X2) t hitung = -4,011 > t tabel
= 1,658 dengan signifikan 0,000 < 0,05 artinya tidak terdapat pengaruh positif tetapi
signifikan terhadap kinerja UMKM. 3. Hipotesis yang ketiga di ketahui untuk variabel promosi (X3) t hitung = 5,441 > t tabel
= 1,658 dengan signifikan 0,000 < 0,05 artinya terdapat pengaruh signifikan terhadap
kinerja UMKM. 4. Hipotesis yang keempat di ketahui untuk variabel tempat (X4) t hitung = 0,402 < t
tabel = 1,658 dengan signifikan 0,689 > 0,05 artinya tidak berpengaruh signifikan
terhadap peningkatan kinerja UMKM. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PEMBAHASAN a. Pengaruh produk (X1) terhadap kinerja UMKM di Kota Samarinda
Hipotesis pertama yang diajukan dalam penelitian ini adalah pengaruh produk
terhadap kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan
bahwa produk (X1) t hitung = 0, 386 < t tabel = 1,658 dengan signifikan 0,701 < 0,05
artinya terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. Menurut (Ricky Martjiono, Santoso, Aprilia, & Remiasa, 2014), Hasil penelitian
menunjukkan bahwa produk (X1) berpengaruh terhadap keputusan pembelian (Y)
pada rumah makan Kakkk Ayam Geprek. b. Pengaruh harga (X2) terhadap kinerja UMKM di Kota Samarinda
Hipotesis kedua yang diajukan dalam penelitian ini adalah pengaruh harga terhadap
kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa harga
(X2) t hitung = -4,011 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya terdapat
pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. Menurut (Amanah, 2015), Hasil penenlitiannya bahwa harga berpengaruh terhadap
kinerja usaha mikro kecil dan menengah. c. Pengaruh promosi (X3) terhadap kinerja UMKM di Kota Samarinda
Hipotesis ketiga yang diajukan dalam penelitian ini adalah pengaruh promosi terhadap
kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa
promosi (X3) t hitung = 5,441 > t tabel = 1,658 dengan signifikan 0,000 < 0,05 artinya
terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. Menurut (Harini & Yulianeu, 2019), Hasil penelitiannya menjelaskan bahwa promosi
berpengaruh terhadap kinerja pemasaran UMKM di Kota Semarang. Menurut (Harini & Yulianeu, 2019), Hasil penelitiannya menjelaskan bahwa promosi
berpengaruh terhadap kinerja pemasaran UMKM di Kota Semarang. Menurut (Harini & Yulianeu, 2019), Hasil penelitiannya menjelaskan bahwa promosi
berpengaruh terhadap kinerja pemasaran UMKM di Kota Semarang. d. Pengaruh tempat (X4) terhadap kinerja UMKM di Kota Samarinda
Hipotesis ketiga yang diajukan dalam penelitian ini adalah pengaruh tempat terhadap
kinerja UMKM di Kota Samarinda, dimana hasil hipotesis menunjukkan bahwa
tempat (X4) t hitung = 0,402 > t tabel = 1,658 dengan signifikan 0,689 < 0,05 artinya 306 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 306 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis tidak terdapat pengaruh signifikan terhadap kinerja UMKM di Kota Samarinda. PEMBAHASAN Menurut (Tiris Sudrartono, 2020), Hasil penelitiannya menunjukkan bahwa perhitungan
nilai regresi Linear sederhana yang meramalkan hubungan naik turunya kedua
variabel yang terlihat jika variabel strategi bauran pemasaran yang diterapkan
dilaksanan dengan baik maka variabel perkembangan UKM maka mengalami
peningkatan sebesar 0,448 satu satuan. Dan sebaliknya jika variabel dan sebaliknya
jika varibel perkembangan UKM tidak dilaksanakan dengan baik maka variabel
strategi bauran pemasaran sebesar 0,448 satu satuan dengan asumsi ceteris paribus. Kesimpulan p
Berdasarkan hasil dari analisis data dan pembahasan yang telah diuraikan pada
bab sebelumnya mengenai dampak pemasaran digital bauran pemasaran 4p terhadap
kinerja umkm Kota Samarinda dapat di simpulkan sebagai berikut: j
p
p
g
a. Variabel produk ternyata berpengaruh positif signifikan terhadap kinerja UMKM. j
p
p
g
a. Variabel produk ternyata berpengaruh positif signifikan terhadap kinerja UMKM. b. Variabel harga ternyata tidak berpengaruh positif tetapi signifikan terhadap kinerja p
y
p
g
p
g
p
j
b. Variabel harga ternyata tidak berpengaruh positif tetapi signifikan terhadap kinerja
UMKM. c. Variabel promosi ternyata berpengaruh positif signifikan terhadap kinerja UMKM. d. Variabel kualitas tempat ternyata berpengaruh positif tidak signifikan terhadap kinerja
UMKM. Saran d. Variabel kualitas tempat ternyata berpengaruh positif tidak signifikan terhadap kiner
UMKM. Saran Berdasarkan hasil penelitian, pembahasan dan kesimpulan, maka saran yang
diajukan sebagai berikut: a. Variabel produk berpengaruh positif signifikan terhadap kinerja UMKM di Kota
Samarinda disebabkan bahwa produk yang dihasilkan memiliki kualitas yang baik
karena didukung dengan keterampilan pelaku UMKM yang sudah memiliki
keterampilan. b. Variabel harga tidak berpengaruh positif signifikan terhadap kinerja UMKM di Kota
Samarinda disebabkan harga yang cukup mahal karena disebabkan bahan baku yang
juga mahal, sedangkan daya beli masyarakan terhadap produk UMKM masih sangat
rendah. c. Variabel promosi berpengaruh positif signifikan terhadap kinerja UMKM di Kota
Samarinda disebabkan bahwa promosi salah satu alat untuk menjangkau konsumen
dengan menggunakan iklan baik malalui media online maupun offline, serta pameran
UMKM yang setiap tahun dilakukan. d. Variabel tempat berpengaruh positif tapi tidak signifikan terhadap kinerja UMKM di
Kota Samarinda, hal tersebut disebabkan bahwa Sebagian besar tempat usaha pelaku
UMKM tidak strategis sehingga susah terjangkau oleh konsumen. 307 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis DAFTAR RUJUKAN Adewale, G., Adesola, M. A., & Oyewale.I.O. (2013). Impact of Marketing Strategy on
Business Performance A Study of Selected Small and Medium Enterprises ( Smes
) In. Journal of Business and Management, 11(4), 59–66. Alma, B. (2016). Manajemen Pemasaran dan Pemasaran Jasa. Alfabeta. Bandung, 2015,
73–75. Amanah, D. (2015). Pengaruh Bauran Pemasaran Terhadap Kinerja Usaha Kecil Dan
Menengah. JURNAL Pengabdian Kepada Masyarakat, 21(81), 15–19. Amzad, M., Sarker, H., Aimin, W., & Begum, S. (2012). Investigating the Impact of
Marketing Mix Elements on Tourists ’Satisfaction: An Empirical Study on East
Lake. European Journal of Business and Management, 4(7), 2222–2839. p
f
g
Cathy H. C. Hsu, T. P. (2019). Marketing hospitality. In English Today. https://doi.org/10.1017/S0266078419000518 Ekowati, S., & Finthariasari, M. (2020). Pengaruh Harga Dan Promosi Terhadap
Keputusan Pembelian Produk Pada Eleven Cafe Bengkulu. Jurnal Ilmiah
Akuntansi,
Manajemen,
Dan
Ekonomi
Islam,
1(1). http://jurnal.umb.ac.id/index.php/jamekis Finthariasari, M., & Zetira, A. M. (2022). Purchase Intention: Pengaruh Price Discount,
Bonus Pack Dan Celebrity Endorser. Jurnal Bisnis Dan Manajemen, 18(1), 16–25. http://jurnal.feb.unila.ac.id/index.php/jbm/article/view/233 Fitriah, A. W., Rosdi, S. N., Rosli, M. M., Mustapha, N., Aziz, Z. A., Ibrahim, W. M. Y. W., Mohd Shahril Nizam Md. Radzi1, N. Z. A., & Yaacob, A. A. (2019). The
Effects of Marketing Mix on Small Fish Farming Business Performance. Revista
Publicando, 6(19), 16. Harini, C., & Yulianeu. (2019). Meningkatkan Kinerja Pemasaran UMKM Kota
Semarang melalui Strategi Penetrasi Pasar Universitas Pandanaran. Ikraith-
Ekonomika, 2(1), 59–66. Hendrawan, A., Sucahyowati, H., Cahyandi, K., Indriyani, & Rayendra, A. (2019). Pengaruh Marketing Digital Terhadap Kinerja Penjualan Produk UMKM Asti Gauri
di Kecamatan Bantasari Cilacap. Jurnal Administrasi Dan Kesekretarisan, 4(1), 53–
60. Kazem, A. (2006). Exporting Firms’ Strategic Choices: The Case of Egyptian SMEs in
teh Food Industry. Kemppainen, K., Vepsalainen, A. P. J., & Tinnila, M. (2008). Mapping the structural
properties of production process and product mix. International Journal of
Production
Economics,
111(2),
713–728. https://doi.org/10.1016/j.ijpe.2007.03.020 Kotler, P., & Armstrong, G. (2018). Principles of Marketing 17th Global Edition. In
Pearson Education Limited. Kotler P & Keller K L (2016) Marketing Magement In Pearson Kotler, P., & Keller, K. L. (2016). Marketing Magement. In Pearson. Langat, N. (2016). Influence of Product , Price , Promotion and Place on Enterprise
Project Performance : a Case of Safaricom Enterprise Project , Uasin Gishu County
, Kenya. Theses. Mashuri, M. (2019). Analisis Strategi Pemasaran UMKM Di Era 4.0. IQTISHADUNA Mashuri, M. (2019). Analisis Strategi Pemasaran UMKM Di Era 4.0. INFORMASI ARTIKEL The purpose of this study was to find out how effective the
distribution of the Family Hope Program (PKH) funds
was and the obstacles in the process of channeling PKH
funds in Muara Tiku Village, Karang Jaya District, North
Musi Rawas Regency. In this study the authors used
qualitative
descriptive
research
methods
through
interviews, observation, and documentation with research
locations in Muara Tiku Village, Karang Jaya District,
North Musi Rawas Regency, totaling 60 informants. The
results showed that the Family Hope Program (PKH) in
Muara Tiku Village, Karang Jaya District, was not
maximally effective. Where only 2 indicators are said to
be effective, namely indicators of goal achievement and
real change. Meanwhile, the other 3 indicators were not
yet
effective,
namely
indicators
of
program
understanding, target accuracy, and timeliness. Then, the
obstacles that usually occur in the process of distributing
the Family Hope Program (PKH) funds are the lack of
meetings between KPM and PKH facilitators, the
distance of the post office from the village, and the
process of updating data that takes a long time. Riwayat Artikel:
Diterima : 26 Juli 2023
Direvisi : 04 Agustus 2023
Disetujui : 06 Agustus 2023 Keywords:
Effectiveness of Fund
Distribution, Family Hope
Program Fund (PKH), Poverty
Alleviation Efforts Keywords:
Effectiveness of Fund
Distribution, Family Hope
Program Fund (PKH), Poverty
Alleviation Efforts Kata kunci:
Efektivitas
Penyaluran
Dana,
Dana Program Keluarga Harapan
(PKH),
Upaya
Pengentasan
Kemiskinan http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kata kunci:
Efektivitas
Penyaluran
Dana,
Dana Program Keluarga Harapan
(PKH),
Upaya
Pengentasan
Kemiskinan THE EFFECTIVENESS OF DISTRIBUTION OF FAMILY HOPE
PROGRAM (PKH) FUNDS IN EFFORTS TO ALLEDUATE
POVERTY Jl. Raden fatah pagar dewa, Kota Bengkulu, 38211
Corresponding email: yulih248@gmail.com Jl. Raden fatah pagar dewa, Kota Bengkulu, 38211
Corresponding email: yulih248@gmail.com Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
EFEKTIVITAS PENYALURAN DANA PROGRAM KELUARGA
HARAPAN (PKH) DALAM UPAYA PENGENTASAN
KEMISKINAN
THE EFFECTIVENESS OF DISTRIBUTION OF FAMILY HOPE
PROGRAM (PKH) FUNDS IN EFFORTS TO ALLEDUATE
POVERTY
Yuli Handika1, Desi Isnaini2, Yunida Een Fryanti3
Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3
yulih248@gmail.com1, desi_isnaini@mail.uinfasbengkulu.ac.id2,
yunidaf.een@gmail.com3
Jl. Raden fatah pagar dewa, Kota Bengkulu, 38211
Corresponding email: yulih248@gmail.com
INFORMASI ARTIKEL
ABSTRACT:
Riwayat Artikel:
Diterima : 26 Juli 2023
Direvisi : 04 Agustus 2023
Disetujui : 06 Agustus 2023
The purpose of this study was to find out how effective the
distribution of the Family Hope Program (PKH) funds
was and the obstacles in the process of channeling PKH
funds in Muara Tiku Village, Karang Jaya District, North
Musi Rawas Regency. In this study the authors used
qualitative
descriptive
research
methods
through
interviews, observation, and documentation with research
locations in Muara Tiku Village, Karang Jaya District,
North Musi Rawas Regency, totaling 60 informants. The
results showed that the Family Hope Program (PKH) in
Muara Tiku Village, Karang Jaya District, was not
maximally effective. Where only 2 indicators are said to
be effective, namely indicators of goal achievement and
real change. Meanwhile, the other 3 indicators were not
yet
effective,
namely
indicators
of
program
understanding, target accuracy, and timeliness. Then, the
obstacles that usually occur in the process of distributing
the Family Hope Program (PKH) funds are the lack of
meetings between KPM and PKH facilitators, the
distance of the post office from the village, and the
process of updating data that takes a long time.
ABSTRAK:
Keywords:
Effectiveness of Fund
Distribution, Family Hope
Program Fund (PKH), Poverty
Alleviation Efforts
Kata kunci:
Efektivitas
Penyaluran
Dana,
Dana Program Keluarga Harapan
(PKH),
Upaya
Pengentasan
Kemiskinan
Tujuan penelitian ini adalah untuk mengetahui seberapa
efektif penyaluran dana Program Keluarga Harapan Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis DAFTAR RUJUKAN IQTISHADUNA: 308 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal
Ilmiah
Ekonomi
Kita,
8(2),
215–224. https://doi.org/10.46367/iqtishaduna.v8i2.175 Oktarini, D., Finthariasari, M., Nuari, T. N. V., Marta, F. R., & Yami, F. M. (2022). Strategi Desain Produk Dan Kualitas Produk Terhadap Minat Beli Konsumen Pada
Toko Mebel Sederhana. Proceeding Seminar Nasional Business Corporate, 1(1),
135–146. Owomoyela, S., Ola, O., & Oyeniyi, K. (2013). Investigating TheIimpact of Marketing
Mix Elements on Consumer Loyalty: An empirical study on Nigerian Breweries
PLC. Interdisciplinary Business Research, 4(11), 485–496. Putri, R. N. (2020). Indonesia dalam Menghadapi Pandemi Covid-19. Jurnal Ilmiah
Universitas
Batanghari
Jambi,
20(2),
705. https://doi.org/10.33087/jiubj.v20i2.1010 Ricky Martjiono, Santoso, S. P., Aprilia, A., & Remiasa, M. (2014). Analisa Pengaruh
Bauran Pemasaran ( 7P ) Terhadap Keputusan Pembelian di Rumah Makan Kakkk
, Ayam Geprek !!! Journal of Marketing, Surabaya, 484–494. Risal, M., & Salju, S. (2017). Pengaruh Bauran Pemasaran (4Ps) Dalam Meningkatkan
Kinerja Pemasaran (Studi Kasus Pada: Industri Kecil Pengolahan Rumput Laut Di
Provinsi Sulawesi Selatan). Balance : Business, Management and Accounting
Journal, 14(1), 1–18. Sugiyono. (2019). Metode Penelitian Kuantitatif, Kualitatif R&D. Buku, Alfabeta:
Bandung. Tiris Sudrartono, D. S. (2020). Pengaruh Strategis Bauran Pemasaran Terhadap
Perkembangan UKM Di Dinas Koperasi Usaha Kecil dan Menengah Kabupaten
Bandung. Проблемы Современной Экономики, 2(1), 59–74. 309 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 309 ABSTRAK: Tujuan penelitian ini adalah untuk mengetahui seberapa
efektif penyaluran dana Program Keluarga Harapan
(PKH) dan kendala dalam proses penyaluran dana PKH
di Desa Muara Tiku Kecamatan Karang Jaya Kabupaten
Musi Rawas Utara. Dalam penelitian ini penulis
menggunakan metode penelitian deskriftif kualitatif 310 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis melalui wawancara, observasi, dan dokumentasi dengan
lokasi penelitian di Desa Muara Tiku Kecamatan Karang
Jaya Kabupaten Musi Rawas Utara berjumlah 60
informan. Hasil penelitian menunjukkan bahwa Program
Keluarga Harapan (PKH) Di Desa Muara tiku kecamatan
karang jaya belum efektif secara maksimal. Dimana
hanya 2 indikator yang dikatakan efektif yaitu indikator
tercapainya tujuan dan adanya perubahan nyata. Sedangkan 3 indikator lainnya belum efektif yaitu
indikator pemahaman program, ketepatan sasaran, dan
ketepatan waktu. Kemudian, kendala yang biasa terjadi
dalam proses penyaluran dana Program Keluarga
Harapan (PKH) yaitu kurangnya pertemuan antara KPM
dan pendamping PKH, jauhnya jarak kantor pos dari
desa,dan proses pemutakhiran data yang berlangsung
lama. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Penanggulangan Kemiskinan No. 31 /KEP /MENKO /KESRA /IX/2007), yang
memiliki tujuan sebagai berikut: 1. Meningkatkan taraf hidup keluarga penerima manfaat melalui akses layanan
pendidikan, kesehatan, dan kesejahteraan sosial. 1. Meningkatkan taraf hidup keluarga penerima manfaat melalui akses layanan
pendidikan, kesehatan, dan kesejahteraan sosial. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin
dan rentan. 3. Menciptakan perubahan perilaku dan kemandirian keluarga penerima manfaat
dalam akses layanan kesehatan dan pendidikan serta kesejahteraan sosial. 4. Mengurangi kemiskinan dan kesenjangan. 4. Mengurangi kemiskinan dan kesenjangan. 5. Mengenalkan manfaat produk dan jasa keuangan formal kepada keluarga
penerima manfaat. 6. Sasaran penerima Program Keluarga Harapan (PKH) ialah keluarga miskin dan
rentan yang telah terdaftar dalam daftar data terpadu program penanganan fakir
miskin yang memiliki kompenen kesehatan, pendidikan dan kesejahteraan
sosial (RI, 2022). (
)
Bantuan yang diberikan kepada keluarga penerima manfaat diberikan secara 4
(empat) tahap dalam satu tahun, selain diberikan bantuan langsung bersyarat Keluarga
Penerima Manfaat (KPM) juga diberikan pendamping dalam pelaksanaan program
PKH ini. Pendamping bertugas memberikan pendampingan kepada masyarakat agar
terciptanya ekonomi kreatif sehingga terlepas dari kemiskinan, sehingga program ini
memberikan bantuan sekaligus mendidik masyarakat agar tidak selalu ketergantungan
dan mengharapkan uluran tangan dari pemerintah. Dalam hal ini,Program Keluarga Harapan (PKH) diharapkan mampu mengatasi
kemiskinan yang terjadi di Indonesia. Terutama pada masa tanggap darurat corona
virus disease 2019 (covid- 19) kemarin, ada banyak bantuan sosial (bansos) yang
diberikan oleh pemerintah sebagai jaring pengaman sosial bagi keluarga pra-sejahtera
yang terdampak pandemi covid -19. Bansos tersebut terdiri dari Bansos Reguler,
Bansos Khusus Dan Bantuan Tanggap Darurat. Tiga kompenen PKH terbagi dalam
lima kategori, oleh sebab itu nilai bantuan untuk setiap kategori dalam kompenen PKH
juga memiliki perbedaan (Nova, 2022). Bantuan yang digulirkan oleh pemerintah termasuk PKH yang di tujukan untuk
masyarakat miskin juga dirasakan oleh seluruh masyarakat Desa Muara Tiku
Kecamatan Karang Jaya Kabupaten Musi Rawas Utara yang merupakan salah satu desa
dengan aliran sungai yang terletak di Kecamatan Karang Jaya Kabupaten Musi Rawas
Utara dengan jarak ke kabupaten sekitar ± 45 km. Desa Muara Tiku ini termasuk wilayah kategori miskin, yang hanya sedikit
keluarga yang mendapatkan manfaat dari Program Keluarga Harapan (PKH), yaitu
sebanyak 60 keluarga yang masih aktif menerima bantuan dari program PKH ini. Hal
ini dikarenakan adanya program pemerintah berupa Bantuan Pangan Non- Tunai
(BPNT),sehingga yang mendapatkan BPNT tidak akan mendapatkan bantuan PKH
supaya masyarakat Desa Muara Tiku bisa mendapatkan manfaat dari masing- masing
program. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Indonesia merupakan negara yang memiliki penduduk yang padat dengan jumlah
penduduk yang berkisaran 275,8 juta jiwa di pertengahan tahun 2022 yang terbagi
dalam 38 provinsi ((Badan Pusat Statistik (Bps) Nasional 2022, n.d.)). Dengan populasi
penduduk terbesar ini Indonesia dihadapkan berbagai permasalahan seperti kemiskinan,
pengangguran dan lain sebagainya. Dari banyaknya permasalahan yang dihadapi oleh
pemerintah, kemiskinan adalah masalah utama yang ada didalam kehidupan
masyarakat. karena pola pikir masyarakat yang tidak ingin maju dan berkembang. Masalah kemiskinan sudah menjadi hal yang biasa terjadi di setiap Negara, baik negara
maju maupun negara berkembang, seperti indonesia. Menurut Kenneth & Jane (2003) penyebab kemiskinan adalah pertama, teori
yang menekankan pada nilai- nilai. Mereka miskin karena mereka bodoh, malas,tidak
ulet, tidak memiliki prestasi, dan fatalistik. Kedua, teori yang menekankan pada
organisasi ekonomi masyarakat.orang itu miskin karena kurangnya peluang dan
kesempatan untuk memperbaiki hidup.ketiga, teori yang menekankan pada pembagian
kekuasaan dalam struktur sosial dan tatanan masyarakat. Garis kemiskinan pada maret 2022 adalah sebesar Rp505.469,00 per kapita
perbulan, dengan komposisi garis kemiskinan makanan sebesar Rp374.455,00 (74,04
persen) dan garis kemiskinan bukan makanan sebesar Rp131.014, 00 (25,92 persen)
dibandingkan september 2021, garis kemiskinan naik sebesar 3,97 persen. Sementara
jika dibandingkan maret 2021, terjadi kenaikan sebesar 6,97 persen. (Badan Pusat
Statistik (Bps) Nasional 2022). Berbagai upaya telah dilakukan pemerintah indonesia dalam menanggulangi
kemiskinan. Upaya tersebut dilakukan untuk memberikan peluang bagi masyarakat
miskin untuk meningkatkan kesejahteraan hidupnya. Dan salah satu upaya yang
dilakukan pemerintah dalam mengurangi angka kemiskinan adalah dengan membuat
kebijakan terkait pemberdayaan keluarga miskin melalui program keluarga harapan
(PKH) yang mulai dicanangkan pemerintah sejak tahun 2007. Berdasarkan keputusan
Menteri Koordinator Bidang Kesejahteraan Rakyat Selaku Ketua Tim Koordinasi 311 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Penanggulangan Kemiskinan No. 31 /KEP /MENKO /KESRA /IX/2007), yang
memiliki tujuan sebagai berikut: Penanggulangan Kemiskinan No. 31 /KEP /MENKO /KESRA /IX/2007), yang
memiliki tujuan sebagai berikut: Dari survei yang dilakukan peneliti terhadap penyaluran dana Program
Keluarga Harapan (PKH) ditemukan adanya keterlambatan pencairan bantuan, bagi
masyarakat pendapatan rendah dikhawatirkan hal ini semakin berdampak buruk bagi
perekonomiannya, kemudian ditemukan beberapa KPM yang bisa dikatakan mampu
namun, mendapatkan bantuan PKH, ataupun sebaliknya yang layak mendapatkan 312 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis bantuan tidak mendapatkan bantuan PKH, sehingga menyebabkan adanya
kecemburuan sosial antara keluarga masyarakat. bantuan tidak mendapatkan bantuan PKH, sehingga menyebabkan adanya
kecemburuan sosial antara keluarga masyarakat. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Efektivitas Menurut Nuraida (2019) mengatakan bahwa efektivitas adalah jangkauan usaha
suatu program sebagai suatu sistem dengan sumber daya dan sarana tertentu untuk
memenuhi tujuan dan sasaranya tanpa melumpuhkan cara dan sumber daya itu sendiri
serta tanpa member tekanan yang tidak wajar terhadap pelaksanaannya. Sedangkan,
menurut gibson efektifitas adalah pencapaian tujuan dan sasaran yang telah ditentukan
untuk mencapai tujuan usaha bersama. Tingkat tujuan dan sasaran itu menunjukkan
tingkat efektifitas. Efektifitas yaitu hasil perbandingan antara target dengan hasil yang
di capai sesungguhnya, Efektifitas digunakan untuk mengukur pendapatan suatu entitas
dengan target yang telah ditetapkan (Perwitasari, 2022). Menurut Nuraida (2019) efektivitas dapat diukur dengan menggunakan beberapa
indikator, yaitu sebagai berikut: 1. Pemahaman Program, yaitu untuk mengetahui sejauh mana masyarakat dapat
memahami program. Melalui program maka segala bentuk rencana akan lebih
terorganisir dan lebih mudah untuk dioperasionalkan. Dengan memperhatikan
kelompok sasaran maka suatu program dapat dikatakan efektif atau tidak. 2. Tepat Sasaran, yaitu bagaimana program yang dirancang oleh pengelola kepada
kelompok sasaran atau sejauhmana suatu lembaga berhasil merealisasikan
sasaran yang hendak dicapai. 3. Tepat Waktu, yaitu untuk penggunaan waktu dalam pelaksanaan program, harus
sesuai dengan jadwal yang sudah ditentukan sebelumnya. Dengan waktu yang
tepat maka program akan berjalan efektif. 4. Tercapainya Tujuan, yaitu untuk mengetahui apakah tujuan dari dibentuknya
program sudah tercapai atau belum. 5. Perubahan Nyata, yaitu untuk mengetahui bagaimana bentuk perubahan nyata
sebelum dan sesudah adanya program tersebut. Sehingga dapat diukur melalui
sejauh mana program tersebut memberikan suatu efek atau dampak serta
perubahan nyata bagi masyarakat. 1) Hak KPM PKH Adapun hak yang didapatkan Keluarga Penerima Manfaat PKH yaitu,
mendapatkan bantuan sosial PKH, pendampingan sosial PKH, pelayanan di fasilitas
kesehatan, pendidikan, dan kesejahteraan sosial, dan mendapatkan program bantuan
komplementer di bidang kesehatan, pendidikan, subsidi energi, ekonomi, perumahan,
dan pemenuhan kebutuhan dasar lainnya. 2) Kewajiban KPM PKH 2) Kewajiban KPM PKH 2) Kewajiban KPM PKH
Adapun kewajiban KPM PKH ini terbagi kedalam dua kondisi, sebagai berikut: Adapun kewajiban KPM PKH ini terbagi kedalam dua kondisi, sebagai berikut: Adapun kewajiban KPM PKH ini terbagi kedalam dua kondisi, sebagai berikut: Program Keluarga Harapan (PKH) Program Keluarga Harapan atau sering disebut PKH, adalah program pemberian
bantuan sosial bersyarat kepada Keluarga Miskin (KM) dan rentan yang terdaftar dalam
data terpadu kesejahteraan sosial (DTKS) dan ditetapkan sebagai Kelurga Penerima
Manfaat (KPM) PKH. Program Keluarga Harapan (PKH) dibentuk sebagai salah satu
upaya
pemerintah
dalam
percepatan
penanggulangan
kemiskinan. Program
perlindungan social ini dikenal di dunia Internasional dengan istilah Conditional Cash
Transfers (CCT) (RI, 2021). f
Sebagai sebuah program bantuan sosial bersyarat dalam upaya pengentasan
kemiskinan, PKH bertujuan membuka akses KPM bagi ibu hamil dan balita dalam
memanfaatkan fasilitas/layanan kesehatan (faskes) dan anak sekolah dalam
memanfaatkan fasilitas/layanan pendidikan (fasdik) yang tersedia di dekat tempat
tinggal mereka. Manfaat PKH saat ini juga diarahan untuk mencakup penyandang 313 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis disabilitas dan lanjut usia dengan tujuan untuk memmpertahankan kesejahteraan sosial. PKH dinilai memiliki peran terhadap peningkatan konsumsi dalam keluarga. Hal
tersebut dibuktikan pada penelitian microsave tahun 2019 yang menunjukkan bahwa
PKH memberikan dampak terhadap perubahan konsumsi rumah tangga meningkat
lebih tinggi 3,8 % dibandingkan konsumsi rumah tangga Non-KPM PKH. disabilitas dan lanjut usia dengan tujuan untuk memmpertahankan kesejahteraan sosial. PKH dinilai memiliki peran terhadap peningkatan konsumsi dalam keluarga. Hal
tersebut dibuktikan pada penelitian microsave tahun 2019 yang menunjukkan bahwa
PKH memberikan dampak terhadap perubahan konsumsi rumah tangga meningkat
lebih tinggi 3,8 % dibandingkan konsumsi rumah tangga Non-KPM PKH. Tujuan Program Keluarga Harapan( PKH ) Adapun tujuan dari Program Keluarga Harapan (PKH) ini adalah sebagai berikut: Adapun tujuan dari Program Keluarga Harapan (PKH) ini adalah sebagai beriku 1. Meningkatkan taraf hidup Keluarga Penerima Manfaat (KPM) melalui akses
layanan pendidikan, kesehatan, dan kesejahteraan sosial. 1. Meningkatkan taraf hidup Keluarga Penerima Manfaat (KPM) melalui akses
layanan pendidikan, kesehatan, dan kesejahteraan sosial. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin
dan rentan. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin
dan rentan. 3. Menciptakan perubahan perilaku dan kemandirian KPM dalam mengakses
layanan kesehatan dan pendidikan serta kesejahteraan sosial. 3. Menciptakan perubahan perilaku dan kemandirian KPM dalam mengakses
layanan kesehatan dan pendidikan serta kesejahteraan sosial. 4. Mengurangi kemiskinan dan kesenjangan. 4. Mengurangi kemiskinan dan kesenjangan. 5. Mengenalkan manfaat produk dan jasa keuangan formal kepada KPM. Hak dan kewajiban keluarga penerima manfaat PKH Kewajiban KPM PKH pada kondisi normal terdiri dari: a) Komponen kesehatan terdiri dari ibu hamil/nifas/menyusui, anak usia dini (0-6
tahun) yang belum bersekolah wajib memeriksakan kesehatan pada fasilitas atau
layanan kesehatan sesuai protokol kesehatan. b) Komponen pendidikan terdiri dari anak usia sekolah wajib berlajar 12 tahun,
wajib mengikuti kegiatan belajar dengan tingkat kehadiran paling sedikit 85%
dari hari belajar efektif. c) Komponen kesejahteraan sosial terdiri dari lanjut usia dan penyandang disabilitas
berat, wajib mengikuti kegiatan dibidang kesejahteraan sosial sesuai kebutuhan
yang dilakukan minimal setahun sekali. d) KPM hadir dalam pertemuan kelompok atau pertemuan peningkatan kemampuan
keluarga (P2K2) setiap bulan. e) Seluruh anggota KPM harus memenuhi kewajibannya kecuali jika terjadi
keadaan kahar (force majeure). f) KPM yang tidak memenuhi kewajibanya akan dikenakan sanksi. Mekanisme
sanksi ditetapkan lebih lanjut dalam petunjuk pelaksanaan verfikasi komitmen. 314 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 31 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kewajiban KPM PKH pada kondisi pandemi covid-19 terdiri dari: a) Komponen kesehatan terdiri dari ibu hamil/nifas/menyusui, anak usia dini (0-6
tahun) yang belum bersekolah wajib memeriksakan kesehatan pada fasilitas atau
layanan kesehatan sesuai protokol kesehatan. a) Komponen kesehatan terdiri dari ibu hamil/nifas/menyusui, anak usia dini (0-6
tahun) yang belum bersekolah wajib memeriksakan kesehatan pada fasilitas atau
layanan kesehatan sesuai protokol kesehatan. b) Komponen pendidikan terdiri dari anak usia sekolah wajib belajar 12 tahun, wajib
mengikuti kegiatan belajar dengan penerapan protokol kesehatan sesuai peraturan
yang ditetapkan oleh pemerintah daerah dan gugus tugas covid-19. b) Komponen pendidikan terdiri dari anak usia sekolah wajib belajar 12 tahun, wajib
mengikuti kegiatan belajar dengan penerapan protokol kesehatan sesuai peraturan
yang ditetapkan oleh pemerintah daerah dan gugus tugas covid-19. c) Komponen kesejahteraan social terdiri dari lanjut usia dan penyandang disabilitas
berat, wajib mengikuti kegiatan di bidang kesejahteraan sosial sesuai kebutuhan
yang dilakukan minimal setahun sekali dengan menerapkan protokol kesehatan. c) Komponen kesejahteraan social terdiri dari lanjut usia dan penyandang disabilitas
berat, wajib mengikuti kegiatan di bidang kesejahteraan sosial sesuai kebutuhan
yang dilakukan minimal setahun sekali dengan menerapkan protokol kesehatan. 3) Besaran Bantuan 3) Besaran Bantuan Penyaluran bantuan Program Keluarga Harapan (PKH) kepada Keluarga Penerima
Manfaat (KPM) diberikan empat tahap dalam setahun. Adapun bantuan yang diterima
setiap perserta PKH adalah sebagai berikut: Besaran bantuan KPM PKH
No
Kategori
Indeks Bantuan(Rp)
1
Kategoriibuhamil/nifas
Rp. 3.000.000,-
2
Kategori anak usia dini 0 s.d 6 tahun
Rp. 3.000.000,-
3
KategoriPendidikananak SD/Sederajat
Rp. 900.000,-
4
KategoriPendidikan SMP/Sederajat
Rp. 1.500.000,-
5
KategoriPendidikan SMA/Sederajat
Rp. 2.000.000,-
6
Kategoripenyandangdisabilits berat
Rp. 2.400.000,-
7
Kategori lanjut usia
Rp. 2.400.000,- Konsep Kemiskinan p
Menurut Huda (2015) mendefinisikan kemiskinan sebagai ketidakmampuan
seseorang dalam memenuhi kebutuhan sendiri.namun, ketidakmampuan untuk
memenuhi apa yang tidak dibutuhkan bukanlah kemiskinan. Jika barang yang
dibutuhkan tersedia dan terjangkau oleh seseorang, maka dia tidak akan diperlakukan
sebagai orang miskin. Menurut Kadji (2018) mengatakan bahwa kemiskinan adalah suatu integrated
concept yang memiliki lima dimensi, yaitu 1). Kemiskinan (proper), 2). Ketidak
berdayaan(powerless) 3). Kerentanan mengatasi situasi darurat (state of emergency), 4). Ketergantungan (depedance), 5). Keterasingan (isolation) baik secara geografis
maupun sosiologis. Binadhi (2017) Menggemukakkan bahwa konsep kemiskinan bersifat banyak sisi
dan kompleks, oleh karena itu para ahli mengklasifikasikannya dalam tiga jenis
kemiskinan: 1) Kemiskinan alamiah, merupakan kemiskinan yang disebabkan oleh kualitas
sumber daya alam dan sumber daya manusia yang rendah. 2) Kemiskinan kultural, merupakan kemiskinan yang terkait erat dengan sikap
seseorang atau kelompok dalam masyarakat yang tidak mau berusaha
memperbaiki tingkat hidupnya. 3) Kemiskinan struktural, merupakan kemiskinan yang secara langsung maupun
tidak disebabkan oleh tatanan kelembagan atau struktur sosial dalam masyarakat. Sasaran Penerima PKH Sasaran Penerima PKH Sasaran Penerima PKH
1) Kompenen Kesehatan
Komponen kesehatan ini terbagi dalam dua kategori yaitu kategori ibu hamil dan
anak usia dini. Kategori ibu hamil; maksimal 2 kali kehamilan dan kategori anak
usia dini; yaitu anak usia 0 s/d 6 tahun maksimal 2 anak. 1) Kompenen Kesehatan
Komponen kesehatan ini terbagi dalam dua kategori yaitu kategori ibu hamil dan
anak usia dini. Kategori ibu hamil; maksimal 2 kali kehamilan dan kategori anak
usia dini; yaitu anak usia 0 s/d 6 tahun maksimal 2 anak. y
2) Kompenen Pendidikan
Komponen Pendidikan ini terbagi dalam 3 kategori yaitu kategori anak SD/MI
Sederajat, SMP/MTs Sederajat dan SMA/Sederajat yang merupakan anak usia 6
s/d 21 tahun yang belum menyelesaikan wajib belajar 12 tahun. 3) Kompenen Kesejahteraan Masyarakat
Komponen Kesejahteraan ini terbagi dalam 2 kategori, yaitu ketegori Lanjut Usia
yang maksimal 1 orang dan berada dalam keluarga, dan kategori Penyandang
Disabilitas berat yaitu penyandang disabilitas fisik dan disabilitas mental yang
maksimal 1 orang dan berada dalam keluarga . 315 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 31 Program Pengentasan Kemiskinan c) Klaster III
Klaster III adalah kebijakan berbasis pemberdayaan usaha mikro yang
memberikan akses seluas-luasnya kepada masyarakat miskin untuk dapat
berusaha dan meningkatkan kualitas hidupnya dengan memberikan modal atau
pembiyayaan dalam skala mikro. Program pada klaster III ini adalah Kredit
Usaha Rakyat (KUR). Dari penjelasan diatas dapat diketahui bahwa adanya
keseriusan pemerintah dalam menganggulangi kemiskinan. Hal ini terbukti
dengan adanya program-program penanggulangan kemiskinan yang diberikan
pemerintah salah satunya adalah PKH yang berupa bantuan tunai bersayarat
yang diberikan pemerintah kepada masyarakat miskin. METODE PENELITIAN Jenis penelitian ini adalah studi kasus, yaitu penelitian tentang suatu kesatuan
sistem yang dapat berupa program, kegiatan, peristiwa, atau sekelompok individu yang
berkaitan dengan tempat, waktu atau ikatan tertentu. Karena Penelitian ini
menggunakan pendekatan kualitatif dan termasuk studi kasus maka hasil penelitian ini
bersifat deskriptif. Sumber Data dan Teknik Pengumpulan Data berupa, data primer
dan data sekunder. Teknik pengumpulan data yaitu, wawancara, observasi dan
dokumentasi. Dalam penelitian ini, penyajian data diawali dengan memberikan
deskripsi hasil penelitian, yaitu data yang didapatkan peneliti melalui proses reduksi
data, sehingga peneliti dapat melihat apa yang terjadi dan menarik kesimpulan serta
pengambilan tindakan. Program Pengentasan Kemiskinan Pengentasan adalah mengakat keatas, jadi pengentasan dapat diartikan sebagai
sesuatu yang membawa kearah yang lebih baik atau membawa perubahan positif. Kemiskinan merupakan ketidaksanggupan seseorang untuk memenuhi kebutuhan dasar
hidupnya untuk mencapai hidup yang lebih layak sesuai standar minimal. Pengentasan
kemiskinan merupakan suatu upaya membantu seseorang atau masyarakat yang kurang
mampu dalam memenuhi kebutuhan dasar (Kadji, 2016). Untuk meningkatkan koordinasi penanggulangan kemiskinan, pemerintah
menerbitkan peaturan presiden nomor 15 tahun 2010, tentang percepatan
penanggulangan kemiskinan. Yang mengamanatkan untuk membentuk tim nasional
percepatan penanggulangan kemiskinan (TKPK) provinsi dan kabupaten/kota. Dan
telah mengklasifikasikan kebijakan dalam tiga kelompok (klaster) sebagai berikut: Untuk meningkatkan koordinasi penanggulangan kemiskinan, pemerintah
menerbitkan peaturan presiden nomor 15 tahun 2010, tentang percepatan
penanggulangan kemiskinan. Yang mengamanatkan untuk membentuk tim nasional
percepatan penanggulangan kemiskinan (TKPK) provinsi dan kabupaten/kota. Dan
telah mengklasifikasikan kebijakan dalam tiga kelompok (klaster) sebagai berikut: a) Klaster I
Klaster I adalah kelompok kebijakan penanggulangan kemiskinan berbasis
bantuan dan perlindungan sosial. Fokus utama kebijakan ini adalah untuk
pemenuhan hak dasar yang ditujukan untuk memperbaiki kualitas kehidupan
masyarakat miskin untuk kehidupan yang lebih baik. Mekanisme pelaksanaan
program bersifat langsung dan klasifikasi program ini meliputi program
Jaminan Kesehatan Masyarakat (JAMKESMAS), Beras untuk Keluarga Miskin
(RASKIN), Bantuan Siswa Miskin (BSM) dan Program Keluarga Harapan
(PKH). b) Klaster II
Klaster II adalah kelompok kebijakan berbasis pemberdayaan masyarakat. Fokus utama program ini adalah untuk memperbaiki kualitas kehidupan 316 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis masyarakat miskin melalui pendekatan pemberdayaan yang dimaksudkan agar
masyarakat keluar dari kemiskinan dengan menggunakan potensi dan
sumberdaya yang dimiliki. Jenis program klaster II ini adalah PNPM Mandiri. masyarakat miskin melalui pendekatan pemberdayaan yang dimaksudkan agar
masyarakat keluar dari kemiskinan dengan menggunakan potensi dan
sumberdaya yang dimiliki. Jenis program klaster II ini adalah PNPM Mandiri. y y
g
p
g
c) Klaster III
Klaster III adalah kebijakan berbasis pemberdayaan usaha mikro yang
memberikan akses seluas-luasnya kepada masyarakat miskin untuk dapat
berusaha dan meningkatkan kualitas hidupnya dengan memberikan modal atau
pembiyayaan dalam skala mikro. Program pada klaster III ini adalah Kredit
Usaha Rakyat (KUR). Dari penjelasan diatas dapat diketahui bahwa adanya
keseriusan pemerintah dalam menganggulangi kemiskinan. Hal ini terbukti
dengan adanya program-program penanggulangan kemiskinan yang diberikan
pemerintah salah satunya adalah PKH yang berupa bantuan tunai bersayarat
yang diberikan pemerintah kepada masyarakat miskin. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Efektifitas Program Keluarga Harapan ( PKH ) di Desa Muara Tiku Kecamatan
Karang Jaya Efektifitas diartikan sebagai pengukuran keberhasilan dalam pencapaian tujuan-
tujuan. Efektifitas berarti tujuan yang telah direncanakan sebelumnya dapat tercapai
karena adanya proses kegiatan. Efektifitas program keluarga harapan (PKH)
didefinisikan sebagai mengukur terhadap sejauh mana pelaksanaan Program Keluarga
Harapan (PKH) dalam memberikan kontribusi untuk membantu Rumah Tangga Miskin
dan rentan (RTM). Dalam mengukur tingkat efektivitas program dapat dilihat menggunakan 5 (lima)
indikator: HASIL PENELITIAN DAN PEMBAHASAN Penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan
Karang Jaya sudah berjalan sejak tahun 2011 hingga sekarang dan ditandai dengan
adanya masyarakat yang mendapatkan bantuan PKH. Tabel. 1
Jumlah KPM PKH
No Jumlah
keluarga
penerima manfaat PKH
Desa
Kecamatan
Kabupaten
1
60
Muara Tiku
Karang Jaya
Musi Rawas
Utara
Sumber : data diolah ( data primer )
Menurut, wawancara mengenai jumlah KPM PKH terhadap Bapak Nata selaku
sekretaris desa, beliau mengatakan bahwa:
“untuk yang mendapatkan bantuan PKH di 5 tahun terakhir ini memang
sedikit,tidak sampai 200 orang. Hal ini dikarekan masyarakat desa banyak yang
mendapatkan bantuan lain contohnya BPNT,BLT. kemudian sebab lain yaitu
perubahan status ekonomi masyarakat juga menentukan layak atau tidak menerima
bantuan PKH ini”. Tabel. 1
Jumlah KPM PKH
No Jumlah
keluarga
penerima manfaat PKH
Desa
Kecamatan
Kabupaten
1
60
Muara Tiku
Karang Jaya
Musi Rawas
Utara
Sumber : data diolah ( data primer ) g
j
p
p
sekretaris desa, beliau mengatakan bahwa:
“untuk yang mendapatkan bantuan PKH di 5 tahun terakhir ini memang
sedikit,tidak sampai 200 orang. Hal ini dikarekan masyarakat desa banyak yang
mendapatkan bantuan lain contohnya BPNT,BLT. kemudian sebab lain yaitu
perubahan status ekonomi masyarakat juga menentukan layak atau tidak menerima
bantuan PKH ini”. “untuk yang mendapatkan bantuan PKH di 5 tahun terakhir ini memang
sedikit,tidak sampai 200 orang. Hal ini dikarekan masyarakat desa banyak yang
mendapatkan bantuan lain contohnya BPNT,BLT. kemudian sebab lain yaitu
perubahan status ekonomi masyarakat juga menentukan layak atau tidak menerima
bantuan PKH ini”. 317 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Berdasarkan hasil wawancara tersebut, dapat diketahui bahwa masyarakat yang
sudah mendapatkan bantuan lain seperti Bantuan Pangan Non Tunai (BPNT) tidak akan
mendapatkan bantuan PKH berupa uang tunai supaya setiap masyarakat menerima
bantuan sosial yang diberikan oleh pemerintah. Berdasarkan penelitian yang telah dilakukan oleh peneliti,efektifitas penyaluran
dana Program Keluarga Harapan (PKH) di Desa Muara Tiku sudah berjalan yang
ditandai dengan adanya keluarga penerima manfaat (KPM) PKH, sehingga peningkatan
taraf hidup masyarakat melalui akses kesehatan, pendidikan, dan kesejahteraan sosial
dalam membantu mengentaskan kemiskinan sudah bisa dirasakan oleh peserta PKH
Desa Muara Tiku. Pemahaman Program Pemahaman program terhadap masyarakat dapat dilakukan melalui kegiatan
sosialisasi, diskusi atau sharing dan mengadakan pertemuan rutin. Berdasarkan
wawancara terhadap 60 peserta PKH 39 responden menjawab belum paham.Hal ini
dikarenakan kurangnya sosialisasi ataupun informasi yang diberikan antara
pendamping. Seperti yang diungkapkan oleh Ibu Nirdawana selaku peserta PKH
kompenen pendidikan, ia mengatakan bahwa: “Sebelum adanya pandemi itu diadakan pertemuan kelompok ataupun pertemuan
rutin sebulan sekali, tapi setelah adanya pandemi sudah jarang dilakukan hingga
sekarang. Biasanya kalau uangnya dicairkan baru kami kumpul” “Sebelum adanya pandemi itu diadakan pertemuan kelompok ataupun pertemuan
rutin sebulan sekali, tapi setelah adanya pandemi sudah jarang dilakukan hingga
sekarang. Biasanya kalau uangnya dicairkan baru kami kumpul” Hal serupa juga diungkapkan oleh ibu petil selaku peserta PKH Desa Muara Tiku. Ia
mengatakan bahwa: “Jarang diadakan pertemuan rutin, jadi kami bingung kapan dana tersebut
dicairkan ataupun diberikan”. Selain itu, peneliti juga menanyakan tentang pemahaman mengenai hak dan kewajiban
sebagai KPM PKH, yaitu kepada Ibu Lusi yang merupakan peserta PKH kompenen
pendidikan, ia mengatakan bahwa : “saya belum paham dek, hak dan kewajiban saya sebagai peserta PKH, tiba- tiba
saja saya di panggil katanya dapat bantuan PKH, saya belum sempat nanya –
nanya juga”. Sedangkan menurut Ibu Salmia selaku ketua PKH, ia mengatakan bahwa: 318 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis
“alasan saya jarang mengadakan pertemuan rutin yaitu kurangnya partisipasi
peserta dalam menghadiri pertemuan, alasannya itu karena pulang dari kebun
sudah sore, dan kalau malam harinya itu sudah capek. Jadi, saya adakan
pertemuan pada saat pencairan dana saja”. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis “alasan saya jarang mengadakan pertemuan rutin yaitu kurangnya partisipasi
peserta dalam menghadiri pertemuan, alasannya itu karena pulang dari kebun
sudah sore, dan kalau malam harinya itu sudah capek. Jadi, saya adakan
pertemuan pada saat pencairan dana saja”. Namun, pemahaman program ini tidak hanya dilihat dari komunikasi atau diskusi saja
melainkan juga melalui monitoring dan evaluasi yang dilakukan oleh pendamping
PKH. Berikut hasil wawancara dengan ibu tatik selaku peserta PKH : Namun, pemahaman program ini tidak hanya dilihat dari komunikasi atau diskusi saja
melainkan juga melalui monitoring dan evaluasi yang dilakukan oleh pendamping PKH. Pemahaman Program Berikut hasil wawancara dengan ibu tatik selaku peserta PKH :
“kalau untuk pemantauan ataupun kunjungan berkala ke rumah- rumah itu belum
pernah, kalau ada apa – apa atau ingin disampaikan biasanya kami hanya
disuruh kumpul di rumah pendamping ataupun kantor desa”. g
p
“kalau untuk pemantauan ataupun kunjungan berkala ke rumah- rumah itu belum
pernah, kalau ada apa – apa atau ingin disampaikan biasanya kami hanya
disuruh kumpul di rumah pendamping ataupun kantor desa”. Berdasarkan hasil penelitian yang dilakukan peneliti terhadap peserta PKH pada
indikator pemahaman program itu belum efektif. hal ini dikarenakan kurangnya
sosialisasi yang dilakukan oleh pendamping PKH dan kurangnya partisipasi peserta
PKH dalam menghadiri pertemuan rutin. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tepat Sasaran Sasaran penerima bantuan PKH ini adalah masyarakat miskin dan rentan yang
diperoleh dari hasil basisi data terpadu (BDT) yang mempunyai kompenen pendidikan
dengan kriteria; anak SD/MI atau sederajat; anak SMP/MTS atau sederajat,dan
SMA/MA atau sederajat;kesehatan dengan kriteria ibu menyusui/hamil; anak usia 0-6
tahun dan kesejahteraan sosial dengan kriteria; lansia dan penyandang disabilitas. Berdasarkan wawancara terhadap 60 peserta PKH sebanyak 52 responden
menjawab penyaluran dana PKH ini belum tepat sasaran. Hal ini dikarenakan masih
ada masyarakat yang dikategorikan mampu namun mendapatkan manfaat dari PKH ini. Berikut hasil wawancara dengan Ibu Nurmi selaku peserta PKH Desa Muara Tiku, ia
mengatakan bahwa: g
“belum semua, masih ada masyarakat yang dikatakan mampu atau memiliki usaha
sendiri dan sawah, namun mendapatkan manfaat dari bantuan ini”. Berdasarkan hasil observasi yang dilakukan Program Keluarga Harapan (PKH) di
Desa Muara Tiku Kecamatan Karang Jaya belum tepat sasaran berdasarkan
karakteristik Badan Pusat Statistik, karena ada yang sebagian keluarga penerima
manfaat PKH sudah tergolong mampu secara ekonomi contohnya Ibu Sis Palul, Ibu,
Diana Bakri, Ibu Wiwin,dan Ibu Nurhayati. Berdasarkan tabel 2, dapat diketahui bahwa ketiga peserta PKH tersebut sudah
masuk dalam kategori keluarga sejahtera karena pada dasarnya sudah mampu secara
ekonomi dalam memenuhi kebutuhan dasar, pendidikan dan kesehatan, Keluarga
tersebut seharusnya tidak lagi mendapatkan bantuan PKH. Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH
pada indikator ketepatan sasaran ini belum efektif. Hal ini dikarenakan perubahan
kondisi perekonomian masyarakat. 319 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Tabel 2. Peserta PKH yang tidak termasuk Rumah Tangga Miskin
No
Nama peserta
Kriteria yang terpenuhi
1
Sis Palul
Luas bangunan lebih 8 M², lantai
rumah
semen
kualitas
sedang,
memiliki sumber air bersih, memiliki
fasilitas MCK, memiliki aset tetap
yaitu mobil, kebun sawit 2 ha,
pekerjaan sebagai anggota BPD desa
muara tiku.penghasilan lebih dari
Rp.2.000.000. 2
Diana Bakri
Luas bangunan lebih 8 M², lantai
rumah keramik. Memiliki sumber air
bersih,
memiliki
fasilitas
MCK,
memiliki aset tetap yaitu kebun,
pekerjaan
sebagai
buruh
dan
penghasilan lebih dari Rp. 2.000.000
3
Wiwin
Luas bangunan lebih 8 M², lantai
rumah
semen
kualitas
sedang,
memiliki sumber air bersih, memiliki
fasilitas MCK, memiliki aset tetap
yaitu mobil, kebun karet 2 ha,
pekerjaan
sebagai
wiraswasta,
penghasilan lebih dari Rp.2.000.000. Tepat Sasaran 4
Nurhayati
Luas bangunan lebih 8 M², lantai
rumah
semen
kualitas
sedang,
memiliki sumber air bersih, memiliki
fasilitas MCK, memiliki aset tetap
yaitu mobil, kebun sawit 2 ha,
pekerjaan sebagai buruh, penghasilan
lebih dari Rp.2.000.000. Sumber: hasil observasi dan wawancara responden Sumber: hasil observasi dan wawancara responden Tepat Waktu Berdasarkan hasil penelitian dan pengamatan yang di lakukan peneliti sebanyak
42 responden menjawab penyaluran dana PKH ini belum tepat waktu. Berikut hasil
wawancara dengan Ibu Meti selaku peserta PKH Desa Muara Tiku, ia mengatakan
bahwa: “penyaluran dana PKH ini belum tepat waktu, karena masih sering terlambat dari
jadwal yang ditentukan, biasanya terlambat hingga 1 – 2 bulan”. “penyaluran dana PKH ini belum tepat waktu, karena masih sering terlambat dari
jadwal yang ditentukan, biasanya terlambat hingga 1 – 2 bulan”. Hal serupa juga diungkapkan oleh Ibu Rusni selaku peserta PKH kompenen
kesejahteraan sosial, ia mengatakan bahwa: Hal serupa juga diungkapkan oleh Ibu Rusni selaku peserta PKH kompenen
kesejahteraan sosial, ia mengatakan bahwa: j
g
“Belum tepat waktu, kadang pas di cek saldonya kosong”. j
g
“Belum tepat waktu, kadang pas di cek saldonya kosong”. Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH 320 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 32 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 320 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Desa Muara Tiku pada indikator ketepatan waktu belum efektif. hal ini dikarenakan
penyaluran dana yang terlambat dari yang telah dijadwalkan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tercapainya Tujuan 1. Meningkatkan taraf hidup keluarga penerima manfaat melalui akses layana
pendidikan, kesehatan dan kesejahteraan sosial. Berdasarkan wawancara terhadap 60 peserta PKH Desa Muara Tiku Kecamatan
Karang Jaya sebanyak 31 responden menjawab bahwa PKH INI sudah mampu
meningkatkan taraf hidup KPM melalui akses pendidikan, kesehatan dan kesejahteraan
sosial yang ditandai dengan anak – anak bisa melanjutkan pendidikan ke jenjang yang
lebih tinggi dan tidak ada anak yang putus sekolah karena kekurangan biaya. Berikut
wawancara dengan Ibu Cik Yub selaku peserta PKH kompenen pendidikan, ia
mengatakan bahwa : “alhamdulillah, anak – anak bisa melanjutkan sekolah ke jenjang smp. Uangnya
untuk beli baju sekolah anak”. Berdasarkan wawancara diatas, dapat diketahui bahwa PKH sudah bisa
membantu KPM dalam meningkatkan taraf hidup keluarga penerima manfaat melalui
pendidikan. 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan
rentan 2. Mengurangi beban pengeluaran dan meningkatkan pendapatan keluarga miskin dan
rentan Berdasarkan wawancara terhadap 60 peserta PKH sebanyak 42 responden
menyatakan bahwa program ini sudah cukup membantu dalam mengurangi beban
pengeluaran masyarakat dan meningkatkan pendapatan masyarakat dalam jangka
pendek. Sedangkan Seperti yang di ungkapkan oleh Ibu Wiwin selaku peserta PKH
D
M
Tik k
didik
i
k
b h Desa Muara Tiku kompenen pendidikan, ia mengatakan bahwa:
“dana yang saya terima itu saya gunakan untuk membeli buku anak, sepatu,
dan kalau ada lebihnya saya tabung. Alhamduillah dengan adanya program ini
pengeluaran untuk keperluan anak itu berkurang. Apalagi pada saat kenaikan
kelas itukan banyak yang harus dibeli”. Desa Muara Tiku kompenen pendidikan, ia mengatakan bahwa:
“dana yang saya terima itu saya gunakan untuk membeli buku anak, sepatu,
dan kalau ada lebihnya saya tabung. Alhamduillah dengan adanya program ini
pengeluaran untuk keperluan anak itu berkurang. Apalagi pada saat kenaikan
kelas itukan banyak yang harus dibeli”. Hal serupa juga dikatakan oleh Ibu Heni Pirnita, beliau mengatakan bahwa:
“program PKH ini sangat membantu perekonomian jangka pendek keluarga
saya, degan adanya program ini saya bisa berobat di puskesmas secara gratis”. a se upa juga d ata a o e
bu
e
ta, be au
e gata a ba wa:
“program PKH ini sangat membantu perekonomian jangka pendek keluarga
saya, degan adanya program ini saya bisa berobat di puskesmas secara gratis”. Berdasarkan wawancara diatas, dapat diketahui bahwa Program Keluarga
Harapan (PKH) ini sudah mampu mengurangi beban pengeluaran keluarga penerima
manfat. 3. Menciptakan perubahan perilaku dan kemandirian keluarga penerima manfaat
dalam akses layanan kesehatan dan pendidikan serta kesejahteraan sosial. 3. Tercapainya Tujuan Menciptakan perubahan perilaku dan kemandirian keluarga penerima manfaat
dalam akses layanan kesehatan dan pendidikan serta kesejahteraan sosial. Berdasarkan hasil penelitian, peserta PKH sudah mengalami perubahan perilaku
walapun belum sepenuhnya, hal ini ditandai dengan mereka yang mempunyai balita,
ibu hamil sudah rutin memeriksakan kesehatannya di posyandu. Walaupun sudah
mampu meningkatkan taraf hidup dan mengurangi pengeluaran, akan tetapi program ini 321 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis belum bisa menciptakan perubahan perilaku dan kemandirian KPM sepenuhnya. Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. belum bisa menciptakan perubahan perilaku dan kemandirian KPM sepenuhnya. Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. belum bisa menciptakan perubahan perilaku dan kemandirian KPM sepenuhnya. Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : p
p
p
p
y
Bahkan program ini membuat KPM PKH ini menunggu uluran tangan dari pemerintah. Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa :
“jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya empat
dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana
yang diberikan bisa mencukupi kebutuhan saya”. p
g
gg
g
p
Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa : Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa :
“jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya empat
dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana
yang diberikan bisa mencukupi kebutuhan saya”. Seperti yang di ungkapkan oleh Ibu Sadar selaku KPM PKH, ia mengatakan bahwa :
“jumlah dana yang saya terima itu sangat sedikit sedangkan anak saya empat
dan semuanya masih sekolah, harapan saya semoga untuk kedepannya dana
yang diberikan bisa mencukupi kebutuhan saya”. Berdasarkan hasil penelitian dan wawancara terhadap peserta PKH di Desa
Muara Tiku, indikator tercapainya tujuan ini sudah cukup efektif terutama dalam
mengurangi beban pengeluaran dan meningkatkan taraf hidup KPM PKH, walaupun
belum sepenuhnya bisa merubah perilaku /pola pikir penerima PKH. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Perubahan Nyata 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Sedangkan indikator pemahaman program, ketepatan sasaran, dan ketepatan waktu
belum berjalan secara efektif. Sesuai hasil penelitian dan pembahasan di atas dapat
diketahui bahwa penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara
Tiku Kecamatan Karang Jaya belum efektif secara maksimal. Sedangkan indikator pemahaman program, ketepatan sasaran, dan ketepatan waktu
belum berjalan secara efektif. Sesuai hasil penelitian dan pembahasan di atas dapat
diketahui bahwa penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara
Tiku Kecamatan Karang Jaya belum efektif secara maksimal. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Perubahan Nyata Berdasarkan wawancara yang dilakukan terhadap 60 peserta PKH sebanyak 50
responden menyatakan adanya perubahan nyata yang dirasakan setelah mendapatkan
bantuan PKH ini.terutama dari segi pendidikan dan kesehatan Berikut hasil wawancara
dengan Ibu Mila selaku peserta PKH. Ia mengatakan bahwa: “Alhamdulillah, manfaat nyata yang saya rasakan setelah menjadi KPM PKH yaitu
pengeluaran untuk pemenuhan kebutuhan anak itu berkurang. apalagi dimasa sulit
pandemi kemarin, pkh ini mampu meningkatkan perekonomian keluarga saya. Semoga program”. “Alhamdulillah, manfaat nyata yang saya rasakan setelah menjadi KPM PKH yaitu
pengeluaran untuk pemenuhan kebutuhan anak itu berkurang. apalagi dimasa sulit
pandemi kemarin, pkh ini mampu meningkatkan perekonomian keluarga saya. Semoga program”. Hal serupa juga diungkapkan oleh ibu salmia, selaku ketua koordinator PKH: “alhamdulillah dengan adanya program ini ada banyak anak yang bisa melanjutkan
sekolahnya ke jenjang yang lebih tinggi, kemudian bisa membantu untuk membeli
keperluan dan berobat secara gratis di puskesmas”. “alhamdulillah dengan adanya program ini ada banyak anak yang bisa melanjutkan
sekolahnya ke jenjang yang lebih tinggi, kemudian bisa membantu untuk membeli
keperluan dan berobat secara gratis di puskesmas”. Sedangkan 10 responden menyatakan tidak ada perubahan yang dirasakan. Hal ini
dikarenakan jumlah dana yang diterima belum mampu dalam meningkatkan taraf hidup
dan mengurangi beban pengeluaran mereka. Seperti yang diungkapkan oleh Ibu Sadar
selaku peserta PKH kompenen pendidikan, ia mengatakan bahwa: “belum ada perubahan yang saya rasakan, karena jumlah dana yang saya terima
itu sangat sedikit sedangkan anak saya 4 dan semuanya masih sekolah, harapan
saya semoga untuk kedepannya dana yang diberikan itu bisa mencukupi kebutuhan
saya”. Berdasarkan hasil penelitian yang dilakukan oleh peneliti terhadap peserta PKH
Desa Muara Tiku indikator perubahan nyata ini sudah cukup efektif. dengan adanya
program ini penerima manfaat bisa meringankan beban pengeluaran terutama untuk
biaya pendidikan, kesehatan, meskipun perubahan yang terjadi hanya untuk jangka
pendek karena keterbatasan besaran bantuan yang diberikan. Berdasarkan 5 indikator diatas dapat dikatakan bahwa pelaksanaan dan
penyaluran dana PKH dalam upaya mengentaskan kemiskinan belum berjalan dengan
baik. Sebagaimana yang telah diuraikan diatas bahwa dari ke lima indikator hanya 2
yang bersifat efektif, yaitu indikator ketepatan tujuan, dan adanya perubahan nyata. 322 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. data yang berlangsung lama karena ketidaksinkronan data NIK. data yang berlangsung lama karena ketidaksinkronan data NIK. Pembahasan Program Keluarga Harapan (PKH) yang diselenggarakan pemerintah sejak tahun
2007 dan baru terlaksana di Desa Muara Tiku Kecamatan Karang Jaya pada tahun 2011
hingga sekarang, dengan tujuan utamanya ialah mengatasi masalah kemiskinan melalui
peningkatan kualitas pendidikan, kesehatan dan kesejahteraan sosial, yang
diperuntukkan kepada rumah tangga miskin yang memiliki kompenen pendidikan,
kesehatan, dan kesejahteraan sosial. Hasil penelitian yang dilakukan terhadap 60
informan yaitu Keluarga Penerima Manfaat PKH dengan karaterisktik informan yang
telah di tentukan yang dilaksanakan di desa muara tikus Kecamatan karang jaya
menunjukkan bahwa Rumah tangga miskin yang menerima bantuan ini menyatakan
bahwa Program Keluarga Harapan (PKH) sangat membantu dan mengurangi beban
dalam menenuhi kebutuhan kehidupan sehari-hari dan kebutuhan pendidikan,
kesehatan serta pemenuhan kebutuhan lansia dan disabilitas. Pada dasarnya, efektivitas Program Keluarga Harapan (PKH) dapat diukur
menggunakan
variabel-variabel
pengukuran
efektivitas
seperti
pemahaman
program,ketepatan sasaran program, tujuan program, ketepatan waktu dan adanya
perubahan nyata. Selain menggunakan variabel-variabel tersebut tingkat efektivitas
dapat diukur melalui indikator keberhasilan pelaksanaan program bantuan dalam upaya
pengentasan kemiskinan. p
g
Dalam penelitian yang dilakukan terhadap 60 informan dapat di ketahui efektivitas
Program KeluargaHarapan (PKH) terhadappengentasankemiskinandi desa muara tiku
kecamatan karang jaya dapat diukur dengan 5 (lima) indikator yaitu pemahaman
program, ketepatan sasaran, ketepatan waktu, ketepatan tujuan, dan adanya perubahan
nyata. Pemahaman Program Berdasarkan hasil penelitian dan pengamatan yang dilakukan terhadap peserta
PKH di Desa Muara Tiku indikator pemahaman program belum efektif, yang terjadi
dilapangan pendamping tidak melakukan tugasnya dengan baik dan bertanggung
jawab. pendamping PKH hanya memberikan pemahaman mengenai kewajiban,tujuan
dan hak mereka sebagai KPM pada saat sosialisasi pertama dan jarang melakukan
pertemuan rutin, serta tidak melakukan monitoring dan evaluasi seperti yang
dijelaskan dalam buku pedoman PKH. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kendala- kendala dalam penyaluran dana Program Keluarga Harapan (PKH) di
Desa Muara Tiku 6,
Online ISSN: 2655-6359, Print
DOI: https://doi.org/
data yang berlangsung lama karena ketidaksinkronan data NIK. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kendala- kendala dalam penyaluran dana Program Keluarga Harapan (PKH) di
Desa Muara Tiku Untuk itu KPM diharapkan mengambil dana tersebut dikantor pos terdekat.akan
tetapi, kondisi ini malah justru menjadi kendala bagi masyarakat Desa Muara Tiku
karena jarak antara kantor pos dan desa itu cukup jauh atau ± 1 jam dari desa. Seperti
yang di ungkapkan oleh ibu evi selaku selaku peserta PKH kompenen pendidikan,
beliau mengatakan bahwa : “kendala nya itu ketika proses pendistribusian/ penyaluran dilakukan di kantor pos. Karena jarak antara kantor pos dan desa itu kn lumayan jauh dan harus
mengeluarkan uang tambahan untuk ongkos. Belum lagi antrian yang panjang, tapi
kalau dana nya itu didistribusikan melalui atm kami bisa ngambilnya di agen brilink
terdekat dan biaya nya lumayan sedikit”. Selain kendala tersebut, peneliti juga menemukan kendala- kendala lain yang
seharusnya diperhatikan oleh pendamping PKH. Seperti kurangnya pertemuan antara
KPM dan pendamping PKH atau bisa juga dikatakan kurangnya partisipasi KPM untuk
mengikuti pertemuan kelompok. Berikut wawancara yang diakukan terhadap ibu
sumarni dan 37 responden lainnya selaku peserta PKH desa muara tiku kompenen
kesehatan, ia mengatakan bahwa : “saya jarang mengikuti pertemuan kelompok karena sehari- hari harus bekerja
dikebun, pulangnya sudah sore”. Kemudian, peneliti juga mewawancarai ibu reni selaku peserta PKH desa muara tiku, ia
k
b h Kemudian, peneliti juga mewawancarai ibu reni selaku peserta PKH desa muara tiku, ia
mengatakan bahwa : mengatakan bahwa : “pendamping jarang mengadakan pertemuan kelompok, jadi kami bingung kapan
dana tersebut di cairkan / didistribusikan” Hal ini dibenarkan oleh ibu salmia selaku ketua pelaksana PKH desa muara tiku,
ia mengatakan bahwa : Hal ini dibenarkan oleh ibu salmia selaku ketua pelaksana PKH desa muara tiku,
ia mengatakan bahwa : ia mengatakan bahwa : g
“iya, mangkanya saya jarang mengadakan pertemuan rutin karena hanya sedikit
yang hadir, alasannya sehari- hari bekerja dan tidak sempat ikut kegiatan
kelompok” “iya, mangkanya saya jarang mengadakan pertemuan rutin karena hanya sedikit
yang hadir, alasannya sehari- hari bekerja dan tidak sempat ikut kegiatan
kelompok” Selain itu, menurut bu salmia selaku ketua pelaksana PKH kendala yang biasanya
terjadi
adalah
proses
pemutakhiran
data
yang
berlangsung
lama
karena
ketidaksinkronan data NIK dari KPM. Dari hasil wawancara terhadap beberapa responden, dapat diketahui kendala-
kendala yang biasanya terjadi dalam penyaluran dana PKH adalah kendala pada saat
penyaluran dana dilakukan melalui kantor pos karena KPM harus mengeluarkan uang
tambahan yang lumayan besar untuk bisa mengambil uangnya. Kemudian, kurangnya
pertemuan / komunikasi antara pendamping dan KPM PKH, dan proses pemutakhiran 323 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam
Vol. Perubahan Nyata Untuk bisa mengetahui dan mengukur indikator ini, peneliti memfokuskan pada
berbagai persepsi dan pandangan masyarakat penerima bantuan PKH, pendamping
PKH dan peserta PKH yang mengetahui tentang sejauh mana bantuan tersebut dapat
membantu kebutuhan peserta PKH sehingga program PKH dapat berdampak dalam
meningkatkan perekonomian masyarakat. Selain itu, untuk mengukur indikator ini
juga bisa dilihat dari tingkat kemiskinan di desa muara tiku kecamatan karang jaya. Berdasarkan hasil penelitian dan pengamatan Program Keluarga Harapan (PKH) di
Desa Muara Tiku Kecamatan Karang Jaya memberikan perubahan yang nyata
terhadap perekonomian peserta PKH walapun dalam jangka waktu pendek terutama
dalam mengurangi beban pengeluaran, dan meningkatkan taraf pendidikan, kesehatan,
serta kesejahteraan sosial peserta PKH. Untuk itu, peserta PKH Desa Muara Tiku
berharap program yang diberikan oleh pemerintah ini dapat terus dilanjutkan. Ketepatan Waktu Berdasarkan hasil penelitian dan pengamatan yang dilakukan peneliti terhadap
program keluarga harapan (PKH) di Desa Muara TikuKecamatan Karang Jaya dengan
indikator ketepatan waktu belum efektif. Yang terjadi dilapangan penyaluran sering
terlambat bisa 1 sampai 2 bulan dari jadwal. Hal ini dikerenakan adanya kendala
antara bank dan penyaluran pemerintah. Dan kendala lainnya yaitu sering terdapat
saldo kosong pada waktu pencairan dana. Hal ini disebabkan karena permasalahan
pada administrasi peserta PKH mengenai NIK KTP yang sering tidak valid sehingga
bantuan yang diterima terlambat dan dana di terima pada 3 bulan berikutnya. Ketepatan Sasaran Berdasarkan hasil penelitian dan pengamatan yang dilakukan peneliti terhadap
Program Keluarga Harapan di Desa Muara Tiku Kecamatan Karang Jaya terkait
dengan penetapan keluarga miskin belum efektif, hal ini dilihat dari kondisi
perumahan rumah tangga miskin, sarana yang dimiliki, dan kondisi ekonomi, jika
dikaitkan dengan kriteria kemiskinan yang di tetapkan oleh Badan Pusat Statistik maka
belum sesuai dengan kenyataan dilapangan. Dalam hal ini sasaran yang terjadi dilapangan belum sesuai secara maksimal
dengan teori BPS yang mengatakan bahwa keluarga atau Rumah tangga dapat
dikateorikan miskin jika memiliki luas tempat tinggal kurang dari 8M2, lantai dan 324 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dinding tempat tinggal terbuat dari kayu yang berkualitas rendah, tidak memiliki
dasilitas buang air besar, dan berpendapatan rendah. Adapun yang menjadi sasaran
penerima Program Keluarga Harapan (PKH) ini sesuai dengan ketentuan yang telah
ditetapkan ialah keluarga miskin dan rentan yang sudah terdaftar dalam data terpadu
program penanganan fakir miskin yang memiliki komponen Pendidikan, Komponen
Kesehatan dan Komponen Kesejahteran Sosial. Tercapainya Tujuan Berdasarkan hasil penelitian dan pengamatan yang dilakukan terhadap peserta
PKH Desa Muara Tiku Kecamatan Karang Jaya sudah efektif, yang terjadi dilapangan
penyaluran dana yang diberikan oleh pemerintah dalam bentuk uang tunai ini sudah
mampu mengurangi beban pengeluaran dan meningkatkan pendapatan masyarakat
miskin dan rentan. Walaupun dana tersebut juga digunakan untuk kebutuhan sehari-
hari. Akan tetapi, mereka tidak melupakan hak dan kewajiban mereka sebagai peserta
PKH dengan menggunakan dana tersebut untuk kebutuhan pendidikan, kesehatan dan
kesejahteraan sosial bagi lansia dan penyandang disabilitas. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kendala Dalam Penyaluran Dana Program Keluarga Harapan (PKH) Di Desa
Muara Tiku Berdasarkan hasil penelitian, maka peneliti menemukan adanya kendala dalam
penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara Tiku : p
y
g
g
p
a. Kurangnya pertemuan antara KPM dan pendamping PKH 325 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Antara pendamping dan keluarga penerima manfaat (KPM) pertemuannya
belum berjalan dengan baik. Karena KPM sehari – hari bekerja di kebun dan
pendamping tidak pernah mengadakan pertemuan kelompok secara rutin. Hal
ini menyebabkan KPM bingung kapan dana Program Keluarga Harapan
(PKH) di cairkan. Antara pendamping dan keluarga penerima manfaat (KPM) pertemuannya
belum berjalan dengan baik. Karena KPM sehari – hari bekerja di kebun dan
pendamping tidak pernah mengadakan pertemuan kelompok secara rutin. Hal
ini menyebabkan KPM bingung kapan dana Program Keluarga Harapan
(PKH) di cairkan. b. Jaunya jarak kantor pos dari desa
Untuk peserta yang belum memiliki kartu ATM ketika proses penyaluran
dana, peserta PKH harus mengambil uangnya di kantor pos. Sedangkan, jarak
antara kantor pos ±2 jam dari desa membuat peserta PKH harus mengeluarkan
uang tambahan untuk ongkos.Selain itu, kerap terjadi antrian yang padat saat
pembagian dana dilakukan menyebabkan KPM PKH harus menunggu lama. c. Proses pemutakhiran data yang berlangsung lama
Berdasarkan hasil observasi lapangan dilakukan, yang menjadi penyebab
pemutakhiran data ini berlangsung lama adalah karena ketidaksinkronan data
nik dari KPM yang bersangkutan dengan data yang ada di data terpadu
kesejahteraan sosial (DTKS) biasanya karena terlalu sering diganti, sehingga
tidak terbaca dan menyebabkan bantuan yang diterima menjadi tidak bisa
dicairkan (pending), perlu dilakukan pembenahan terlebih dahulu dengan
DISDUKCAPIL terlebih dahulu. PENUTUP Kesimpulan 1. Berdasarkan hasil penelitian dan pembahasan diatas, dapat disimpulkan bahwa
efektifitas penyaluran dana Program Keluarga Harapan (PKH) di Desa Muara
Tiku Kecamatan Karang Jaya yang diukur menggunakan 5 (lima) indikator
yaitu, pemahaman program, ketepatan sasaran, ketepatan waktu, ketepatan
tujuan, dan adanya perubahan nyata belum berjalan efektif secara maksimal. Dimana hanya 2 (dua) indikator yang bersifat efektif, yaitu indikator
tercapainya tujuan dan adanya perubahan nyata. Sedangkan indikator
pemahaman program, ketepatan sasaran, dan ketepatan waktun belum berjalan
efektif. 2. Dalam prosesnya terdapat kendala- kendala dalam penyaluran dana Program
Keluarga Harapan (PKH) di Desa Muara Tiku Kecamatan Karang Jaya, antara
lain kurangnya pertemuan antara KPM dan pendamping PKH, kendala dalam
penyaluran dana dilakukan dikantor pos dan proses pemutakhiran data yang
berlangsung lama. Saran Berdasarkan penelitian yang dilakukan dan hasil kesimpulan yang telah
dilakukan oleh peneliti mengenai efektifitas penyaluran dana Program Keluarga Berdasarkan penelitian yang dilakukan dan hasil kesimpulan yang telah
dilakukan oleh peneliti mengenai efektifitas penyaluran dana Program Keluarga
Harapan (PKH) dalam upaya pengentasan kemiskinan di Desa Muara Tiku
K
K
J
k
li i d
b ik
b
i b ik p
g
p
y
g
g
Harapan (PKH) dalam upaya pengentasan kemiskinan di Desa Muara Tiku
Kecamatan Karang Jaya, maka peneliti dapat memberikan saran sebagai berikut : Harapan (PKH) dalam upaya pengentasan kemiskinan di Desa Muara Tiku
Kecamatan Karang Jaya, maka peneliti dapat memberikan saran sebagai berikut : 1. Bagi keluarga penerima manfaat, terjadi keterlambatan pencairan dana bantuan
yang diterima oleh Keluarga Peneria Manfaat (KPM), diharapkan KPM
melakukan
koordinasi
dengan
pendamping
agar
pendamping
bisa 1. Bagi keluarga penerima manfaat, terjadi keterlambatan pencairan dana bantuan
yang diterima oleh Keluarga Peneria Manfaat (KPM), diharapkan KPM
melakukan
koordinasi
dengan
pendamping
agar
pendamping
bisa 326 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis mengkoordinasi dan menyampaikan ke pusat, agar permasalahan waktu
pencairan dana tidak terjadi lagi. mengkoordinasi dan menyampaikan ke pusat, agar permasalahan waktu
pencairan dana tidak terjadi lagi. 2. Bagi instansi pemerintah agar memperbaiki data penerima bantuan program
keluarga harapan (PKH) dengan data yang terbaru, sehingga yang berhak
mendapatkan bantuan ini adalah orang yang benar- benar membutuhkan
manfaat dari PKH ini. 3. Bagi pendamping PKH yang mendapatkan amanah dari pemerintah agar lebih
memaksimalkan baik dari segi pertemuan kelompok, monitoring, dan evaluasi
rutin yang diadakan setiap bulan harus dilaksanakan dengan baik dan
transparansi. Keywords: Kata kunci:
Strategi, Pemasaran Syariah SHARIA MARKETING STRATEGY IN THIRTY-FIVE THOUSAND
AILA FASHION IN SINGARAN PATI SUB-DISTRICT, BENGKULU
CITY Wahyu Anugraha Jaya 1, Supardi Mursalin2, Makmur3
Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3
wahyuanugraha@mail.uinfasbengkulu.ac.id1, supardi@mail.uinfasbengkulu.ac.id2,
makmurreza11@gmail.com3 Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211)
Corresponding email: wahyuanugraha@mail.uinfasbengkulu.ac.id http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL The purpose of this study was to determine the
implementation of sharia marketing strategies at Aila
Fashion Thirty-Five Thousand All-round Fashion in
Bengkulu City. To test this, researchers used
quantitative methods with primary data collection
techniques in the form of interviews with 6
informants. The
results
showed
that
the
implementation of the sharia marketing strategy at
the Aila Fashion All-round Rp35.000 Store in
Bengkulu City was by creating attractive and reliable
offers,
providing
excellent
service,
providing
memorable value, offering an up to date business
model, and building synergy with stakeholders. However, the implementation has not been fully
implemented properly, because the Aila Fashion All-
round Rp35.000 Shop in Bengkulu City has not been
able to provide maximum excellent service and the
products offered seem old-fashioned and not the
latest or up to date, while creating attractive offers
provides impressive value. , and building synergy
with stakeholders The Aila Fashion All-round
Rp35.000 Shop, Bengkulu City, has done well. Riwayat Artikel:
Diterima : 20 Mei 2023
Direvisi : 01 Agustus 2023
Disetujui : 08 Agustus 2023 DAFTAR RUJUKAN Badan Pusat Statistik (Bps) Nasional 2022. (n.d.-a). Badan Pusat Statistik (Bps) Nasional 2022. (n.d.-b). Badan Pusat Statistik (Bps) Nasional 2022. (n.d.-a). adan Pusat Statistik (Bps) Nasional 2022. (n.d.-b Binadhi, A. (2017). Kemiskinan Dan Pemberdayaan Masyarakat. Pustak Binadhi, A. (2017). Kemiskinan Dan Pemberdayaan Masyarakat. Pustaka Huda, N. (2015). Ekonomi Pembangunan Islam. Prenada Media Group. Huda, N. (2015). Ekonomi Pembangunan Islam. Prenada Media Group. Kadji, Y. (2016). Kemiskinan Dan Konsep Teoritisnya. PT Dinamika Cahaya Pustaka. Kadji, Y. (2018). Kemiskinan Dan Konsep Teoritisnya. CV Budi Utama. Kenneth, & Jane. (2003). Essentials of Management Information System (5th ed.). Prentice-
Hall. Nova, A. (2022). Efektivitas Program Keluarga Harapan (Pkh) Terhadap Kesejahteraan
Masyarakat Pada Masa Pandemi Covid-19. Ekonomi Dan Bisnis. Nuraida. (2019). Efektivitas Pelaksanaan Program Keluarga Harapan (Pkh) Di Kecamatan
Cisalak Kabupaten Subang. Jurnal Unsub, 1(2), 152. Perwitasari, D. A. (2022). Analisis Efektivitas Dan Efisiensi Penyerapan Anggaran Keuangan
Pada Dinas Pertanian, Ketahanan Pangan Dan Perikanan. Jurnal Ilmu Ekonomi, 15(2). RI, K. (2021). Pedoman Pelaksanaan Program Keluarga Harapan. RI, K. (2022). Pedoman Pelaksanaan Program Keluarga Harapan (PKH). https://pkh.kemensos.go.id 327 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis PENDAHULUAN Islam adalah agama yang sempurna (komprehensif) yang mengatur aspek
kehidupan manusia, baik akidah, ibadah, akhlak, maupun muamalah. Ibadah
diperlukan untuk menjaga ketaatan dan keharmonisan hubungan manusia dengan
Khaliq-Nya. Ibadah juga merupakan sarana untuk mengingatkan secara kontinu tugas
manusia sebagai khalifah-Nya di muka bumi ini. Adapun muamalah diturunkan untuk
sebagai rules of the game atau aturan main manusia dalam kehidupan sosial. Islam
memandang bumi dengan segala isinya merupakan amanah Allah kepada sang
khalifah agar dipergunakan dengan sebaik-baiknya bagi kesejahteraan bersama. Untuk
mencapai tujuan suci ini, Allah memberikan petunjuk melalui para Rasul-Nya. Petunjuk tersebut meliputi segala sesuatu yang dibutuhkan manusia baik akidah,
akhlak, maupun syari’ah. Jual beli merupakan salah satu bukti bahwa manusia sebagai
makhluk sosial karena di dalam akad jual beli menunjukkan bahwa manusia dalam
memenuhi kebutuhannya tidak dapat terlepas dari manusia yang lain (Herawan, 2021). Berkembangnya kegiatan ekonomi syariah akan berpengaruh terhadap sektor
layanan jasa (Akbar, et al., 2022; Herlin, 2020). yang menerapkan prinsip syariah
dalam menjalankan usahanya seperti travel Islami, kuliner dengan konsep Islami, serta
terdapat usaha di bidang pariwisata dengan konsep syariah. Pariwisata syariah
memfokuskan kepada produk halal, yang mengandung prinsip prinsip syariah
sebagaimana yang telah diatur oleh Majelis Ulama Indonesia (MUI) (Sofyan, 2018). Dalam hal ini, pemasaran Islami memiliki posisi yang sangat strategis, karena
pemasaran Islami merupakan salah satu strategi pemasaran yang didasarkan pada Islam adalah agama yang sempurna (komprehensif) yang mengatur aspek
kehidupan manusia, baik akidah, ibadah, akhlak, maupun muamalah. Ibadah
diperlukan untuk menjaga ketaatan dan keharmonisan hubungan manusia dengan
Khaliq-Nya. Ibadah juga merupakan sarana untuk mengingatkan secara kontinu tugas
manusia sebagai khalifah-Nya di muka bumi ini. Adapun muamalah diturunkan untuk
sebagai rules of the game atau aturan main manusia dalam kehidupan sosial. Islam
memandang bumi dengan segala isinya merupakan amanah Allah kepada sang
khalifah agar dipergunakan dengan sebaik-baiknya bagi kesejahteraan bersama. Untuk
mencapai tujuan suci ini, Allah memberikan petunjuk melalui para Rasul-Nya. Petunjuk tersebut meliputi segala sesuatu yang dibutuhkan manusia baik akidah,
akhlak, maupun syari’ah. Jual beli merupakan salah satu bukti bahwa manusia sebagai
makhluk sosial karena di dalam akad jual beli menunjukkan bahwa manusia dalam
memenuhi kebutuhannya tidak dapat terlepas dari manusia yang lain (Herawan, 2021). Berkembangnya kegiatan ekonomi syariah akan berpengaruh terhadap sektor
layanan jasa (Akbar, et al., 2022; Herlin, 2020). yang menerapkan prinsip syariah
dalam menjalankan usahanya seperti travel Islami, kuliner dengan konsep Islami, serta
terdapat usaha di bidang pariwisata dengan konsep syariah. ABSTRAK Penelitian
ini
bertujuan
untuk
mengetahui
pelaksanaan strategi pemasaran syariah pada Aila
Fashion Serba Tiga Puluh Lima Ribu Kota Bengkulu. 328 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 328 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Untuk menguji hal ini, peneliti menggunakan metode
kuantitatif dengan teknik pengumpulan data primer
berupa wawancara dengan 6 orang informan. Hasil
penelitian menunjukkan bahwa Pelaksanaan Strategi
Pemasaran Syariah Pada Toko Aila Fashion Serba
Rp35.000 Kota Bengkulu yaitu dengan menciptakan
penawaran menarik dan terpercaya, memberikan
pelayanan yang prima, memberikan nilai yang
berkesan, menawarkan model yang up to date, dan
membangun sinergitas dengan stakehoders. Namun
Pelaksanaannya belum sepenuhnya dilaksanakan
dengan baik, pasalnya Toko Aila Fashion Serba
Rp35.000 Kota Bengkulu belum bisa memberikan
pelayanan yang prima dengan maksimal, belum bisa
memberikan nilai yang berkesan pada konsumen dan
produk yang ditawarkan terkesan model lama dan
bukan yang terbaru atau up to date, sedangkan dalam
menciptakan penawaran menarik dan terpercaya, dan
membangun sinergitas dengan stakehoders Toko Aila
Fashion Serba Rp35.000 Kota Bengkulu sudah
melakukannya dengan baik. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Pariwisata syariah
memfokuskan kepada produk halal, yang mengandung prinsip prinsip syariah
sebagaimana yang telah diatur oleh Majelis Ulama Indonesia (MUI) (Sofyan, 2018). Dalam hal ini, pemasaran Islami memiliki posisi yang sangat strategis, karena
pemasaran Islami merupakan salah satu strategi pemasaran yang didasarkan pada 329 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis AlQur'an dan Sunah Rasulullah SAW. Pemasaran Islami merupakan sebuah disiplin
bisnis strategis yang mengarahkan proses penciptaan, penawaran, dan perubahan nilai
dari satu pemrakarsa kepada stakeholders-nya, yang dalam keseluruhan prosesnya
sesuai dengan akad serta prinsip-prinsip Islam dan muamalah dalam Islam
(Nurcholifah, 2014). Dengan demikian, penerapan sistem pemasaran syariah dengan perpegang teguh
pada nilai-nilai Al-Quran dan As-Sunnah, Nabi Muhammad SAW sebagai teladan
telah melakukan bisnis secara professional. Landasan dan nilai-nilai tersebut yang
menjadi suatu syariah dan hukum dalam melakukan bisnis yang adil, benar dan
berkembang di kalangan masyarakat. Pelaksanaan transaksi mumalah sesuai prinsip
syariah harus berdasarkan pada prinsip-prinsip keadilan, kejujuran, transparansi, etika,
dan moralitas, sebagaimana dalam firman Allah surat An-Nahl ayat 90. َ۞ اِنَّ ّٰللاه ِيَأْمُرُ بِالْعَدْلِ وَ اْلْ ِحْسَانِ وَ اِيْتَاۤئِ ذِى الْقُرْ بٰى وَ يَنْهٰ ى عَنِ الْفَحْشَاۤءِ وَ الْمُنْكَرِ وَ الْبَغْي
َيَعِظُكُمْ لَعَلَّكُمْ تَذَكَّرُوْ ن Artinya : “Sesungguhnya Allah menyuruh (kamu) berlaku adil dan berbuat
kebajikan, memberi kepada kaum kerabat, dan Allah melarang dari perbuatan keji,
kemungkaran dan permusuhan. Dia memberi pengajaran kepadamu agar kamu dapat
mengambil pelajaran” (Q.S An-Nahl: 90). Dalam melakukan kegiatan pemasaran suatu perusahaan mempunyai strategi
pemasaran sendiri yang dapat menarik perhatian konsumen atau calon pelanggan
misalnya toko Aila Fashion Serba Tiga Puluh Lima Ribu yang terletak di Jl.Damai 1,
Timur Indah Kota Bengkulu. Strategi pemarasan yang digunakan dalam meningkatkan
penjualan yaitu dengan mempromosikan barang dengan promo harga serba Rp35.000,
dan terbukti toko Aila Fashion mengalami perkembangan yang pesat hingga saat ini
dengan bukti sudah membuka cabang di luar kota Bengkulu dan selalu dikunjungi calon
konsumen yang cukup ramai. Pasar Pasar dalam bahasa Arab disebut souq (bentuk jamak: aswaq atau aswak) yang
berarti tempat menjual sesuatu dan proses jual beli berlangsung. Souq sebagai sebuah
konsep telah ditetapkan selama masa Rasulullah SAW. sebagai tempat penjualan terjadi,
namun terkait dengan transaksi sendiri tidak pada tempat tersebut. Dengan demikian,
pasar Islam dijalankan di mana pun dan kapan pun ketika terjadi suatu transaksi antara
penjual dan pembeli di bawah kesepakatan bersama dengan syarat dan ketentuan yang
berlaku (Handayani & Fathoni, 2019). وَ اَحَلَّ ّٰللاه ُ الْبَيْعَ وَ حَرَّمَ الر ِ بٰوا Artinya: “Padahal, Allah telah menghalalkan jual beli dan mengharamkan riba” (QS. Al-Baqarah 275). 330 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Pasar menurut Zainal (2018) merupakan ruang terbuka bagi setiap orang untuk
melakukan perdagangan dan aktivitas jual beli. Dalam pasar terbuka tidak ada yang
mendapat perlakukan istimewa dari yang lain. Makna pasar dalam Islam adalah
berakhirnya sistem monopoli, kehadiran pasar yang islami membuat monopoli menjadi
tidak dikenal. Pemasaran Pemasaran memiliki peranan yang penting dalam masyarakat sebab pemasaran
menyangkut berbagai aspek kehidupan, termasuk bidang ekonomi dan sosial. Pemasaran berarti mengalirkan produk asal produsen ke konsumen, maka pemasaran
akan membentuk lapangan kerja yang penting bagi warga (Handayani & Fathoni,
2019). Pemasaran adalah suatu proses dan manajerial yang membuat individu atau
kelompok mendapatkan apa yang mereka butuhkan dan inginkan dengan menciptakan,
menawarkan dan mempertukarkan produk yang bernilai kepada pihak lain atau segala
kegiatan yang menyangkut penyampaian produk atau jasa mulai dari produsen sampai
konsumen (Mardia et al., 2021). Menurut Tjiptono (2008) pemasaran merupakan fungsi yang memiliki kontak
paling besar dengan lingkungan eksternal, padahal perusahaan hanya memiliki kendali
yang terbatas terhadap lingkungan eksternal. Pemasaran bertujuan untuk menarik
perhatian pembeli dalam mengkonsumsi produk yang ditawarkan. Jadi pemasaran
adalah bagaimana memuaskan kebutuhan pelanggan (Nurzam, et al., 2020). Jika
pemasar memahami kebutuhan pelanggan dengan baik, mengembangkan produk yang
mempunyai
nilai
superior
dan
menetapkan
harga,
mendistribusikan
dan
mempromosikan produknya secara efektif, maka produk-produk tersebut akan terjual
dengan mudah. Strategi Pemasaran Syariah Strategi pemasaran syariah merupakan elemen terpenting dalam menentukan
pangsa pasar. Perusahaan dapat menentukan strategi pemasaran yang paling tepat
untuk memperoleh keuntungan terbaik dalam jangka pendek dan panjang. Strategi
pemasaran yang baik akan mendorong banyak konsumen untuk membeli barang atau
jasa tersebut (Mardia et al., 2021). Ada beberapa strategi pemasaran syariah, sebagai berikut: Ada beberapa strategi pemasaran syariah, sebagai berikut: 1. Menciptakan Penawaran Menarik dan Terpercaya 2. Memberikan Pelayanan Prima 3. Memberikan Nilai-Nilai yang Berkesan 4. Menawarkan Model Bisnis yang Up to Date 5. Membangun Sinergitas dengan Stakeholders Strategi Menurut Ismail Solihin, kata strategi berasal dari bahasa Yunani "strategos" yang
berasal dari "stratus" yang berarti militer dan "ag" yang berarti meminpin. Strategi
dalam kontek awalnya diartikan sebagai generalship atau sesuatu yang dikerjakan oleh
para jendral dalam membuat rencana untuk menaklukan dan memenangkan perang. Sementara Nanang Fatah berpendapat bahwa strategi adalah langkah-langkah yang
sistematis dan sistemis dalam melakukan rencana secara menyeluruh (makro) dan
berjangka panjang dalam pencapaian tujuan. Ada dua pendekatan untuk mendefinisikan strategi, yang dikenal sebagai
pendekatan tradisional dan pendekatan baru. Dalam pendekatan tradisional strategi
difahami sebagai suatu rencana kedepan, bersifat antisipatif (forward looking),
Sedangkan dalam pendekatan yang baru, strategi lebih difahami sebagai suatu pola dan
bersifat reflektif (backward-looking). Strategi dapat diartikan sebagai a plan, method, or series of aktivities designet to
achives a particular educational goal, dengan kata lain strategi pembelajaran dapat
diartikan sebagai perencanaan yang berisi tentang rangkaian kegiatan yang didesain
untuk mencapai tujuan pendidikan tertentu. Strategi dapat diartikan pula sebagai suatu
garis-garis besar haluan untuk bertindak dalam rangka mencapai sasaran yang telah
ditentukan (Ahmad, 2020) 331 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Pemasaran Syariah y
Pemasaran syariah merupakan suatu proses bisnis yang keseluruhan prosesnya
menerapkan nilai-nilai Islam. Suatu cara bagaimana memasarkan suatu proses bisnis
yang mengedepankan nilai-nilai syariah. Pemasaran syariah adalah suatu disiplin
bisnis strategis yang mengarahkan proses penciptaan, penawaran, dan perubahan value
dari suatu insiator kepada. stakeholder-nya, yang dalam keseluruhan prosesnya sesuai
dengan akad dan prinsip-prinsip muamalah (bisnis) dalam Islam (Kalimah & Fadilah,
2017). Menurut Kartajaya & Sula (2006) mendefinisikan Pemasaran syariah adalah
sebuah disiplin bisnis strategis yang mengarahkan proses penciptaan, penawaran dan
perubahan values dari suatu inisiator kepada stakeholders-nya, yang dalam
keseluruhan prosesnya sesuai dengan akad dan prinsip muamalah dalam Islam. Karena
itu Allah mengingatkan kepada para pebisnis, para marketer dan para pengusahan
muslim: َّيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٰٓ ا اَوْ فُوْ ا بِالْعُقُوْ دِ اُحِ لِتْ لَكُمْ بَهِيْمَةُ اْلْ َنْعَامِ اِْلَّ مَا يُتْلٰى عَلَيْكُمْ غَيْرَ مُحِ ل ِى الصَّيْد
ُوَ اَنْتُمْ حُرُم اِنَّ ّٰللاه َ يَحْكُمُ مَا يُرِ يْد Artinya: Hai orang-orang yang beriman, penuhilah agad-agad itu. dihalalkan bagimu
binatang ternak, kecuali yang akan dibacakan kepadamu. (yang demikian itu) dengan
tidak menghalalkan berburu ketika kamu sedang mengerjakan haji. Sesungguhnya
Allah menetapkan hukum-hukum menurut yang dikehendaki-Nya (QS. Al-Maidah: 1). Prinsip Pemasaran Syariah p
y
Prinsip dasar perdagangan menurut Islam adalah seperti yang dijelaskan pada QS. an-
Nisaa‟: 29 sebagai berikut: ُّيٰٰٓاَي ٍهَا الَّذِيْنَ اٰمَنُوْ ا ْلَ تَأْكُلُوْٰٓ ا اَمْوَ الَكُمْ بَيْنَكُمْ بِالْبَاطِلِ اِْلَّ ٰٓ اَنْ تَكُوْ نَ تِجَارَةً عَنْ تَرَاض م ِنْكُمْ وَ ْلَ تَقْتُلُوْٰٓ ا
اَنْفُسَكُمْ اِنَّ ّٰللاه َ كَانَ بِكُمْ رَحِ يْمًا
٩٢ Artinya: “Wahai orang-orang yang beriman, janganlah kamu memakan harta sesamamu dengan
cara yang batil (tidak benar), kecuali berupa perniagaan atas dasar suka sama suka di antara
kamu. Janganlah kamu membunuh dirimu. Sesungguhnya Allah adalah Maha Penyayang
kepadamu.” Artinya: “Wahai orang-orang yang beriman, janganlah kamu memakan harta sesamamu dengan
cara yang batil (tidak benar), kecuali berupa perniagaan atas dasar suka sama suka di antara
kamu. Janganlah kamu membunuh dirimu. Sesungguhnya Allah adalah Maha Penyayang
kepadamu.” Prinsip dasar perdagangan menurut Islam adalah adanya unsur kebebasan dalam
melakukan transaksi tukar-menukar, tetapi kegiatan tersebut tetap disertai dengan
harapan diperolehnya keridhaan Allah SWT dan melarang terjadinya pemaksaan. Dengan berpegang teguh pada nilai-nilai yang terdapat pada al-Quran dan Al-Hadist,
Nabi Muhammad melakukan bisnis secara profesional. Nilai-nilai tersebut menjadi
suatu landasan yang dapat mengarahkan untuk tetap dalam koridor yang adil dan benar. Landasan atau aturan-aturan inilah yang menjadi suatu syariah atau hukum dalam
melakukan suatu bisnis (Kartajaya & Sula, 2006). j y
Berikut ini adalah uraian pada masing-masing prinsip tersebut: Berikut ini adalah uraian pada masing-masing prinsip tersebut: 1. Prinsip Kesatuan (Tauhid) 2. Prinsip Kebolehan (Ibahak) 3. Prinsip Keadilan (al-'Adf) 4. Prinsip Kehendak Bebas (al-Hurriyah) 5. Prinsip Pertanggungjawaban 6. Prinsip Kebajikan dan Kejujuran 7. Prinsip Kerelaan (ar-Ridha), 8. Prinsip Kemanfaatan Tujuan Pemasaran Syariah Tujuan pemasaran syariah adalah bagaimana pelanggan, produsen, dan perusahaan
mendapatkan pertumbuhan, kesejahteraan, keadilan serta keberkahan dunia dan akhirat (falah). Selain itu ada beberapa tujuan pemasaran syariah antara lain sebagai berikut: 1. Memberi Informasi (Promosi) yang Benar 2. Memahami Keadaan Pasar dan Konsumen 3. Menggapai Citra Yang Ingin Dibentuk 4. Kepuasan Konsumen 5. Peningkatan Nilai Spiritual 332 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Karakteristik Marketing Syariah Karakteristik adalah mengacu kepada karakter dan gaya hidup seseorang serta
nilai-nilai yang berkembang secara teratur sehingga tingkah laku menjadi lebih
konsisten dan mudah di perhatikan. Sedangkan marketing syariah adalah pemasaran
sebagai sebuah disiplin bisnis strategis yang mengarah pada proses penciptaan,
penawaran, dan perubahan nilai dari satu indikator kepada para pemegang sahamnya,
yang dalam keseluruhan prosesnya sesuai dengan akad dan prinsip-prinsip muamalat
(bisnis) dalam Islam. Artinya dalam marketing syariah, seluruh proses penciptaan,
proses penawaran, maupun proses perubahan nilai tidak boleh ada yang bertentangan
dengan prinsip-prinsip syariah (Kartajaya & Sula, 2006). Ada beberapa sifat yang harus dimiliki oleh seorang pemasar (marketer) yang
dicontohkan oleh Rasulullah Saw dalam memberikan pelayanan kepada pelanggan
antara lain berikut ini: 1. Shiddiq. Yaitu sifat kejujuran, dan selalu melandasi ucapan, keyakinan da
perbuatan berdasarkan ajaran Islam. 1. Shiddiq. Yaitu sifat kejujuran, dan selalu melandasi ucapan, keyakinan dan
perbuatan berdasarkan ajaran Islam. 333 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis 2. Istiqamah. Yaitu konsisten dalam iman dan nilai-nilai yang baik meskipun
menghadapi berbagai godaan dan tantangan. 2. Istiqamah. Yaitu konsisten dalam iman dan nilai-nilai yang baik meskipun
menghadapi berbagai godaan dan tantangan. 3. Fathanah. Yaitu mengerti, memahami, dan menaati secara mendalam segala hal
yang menjadi tugas dan kewajibannya. 4. Tabligh. Yaitu mampu berkomunikasi dengan baik, mengajak sekaligus
memberikan contoh kepada pihak lain untuk melaksanakan ketentuan ketentuan
ajaran islam. j
5. Benar. Berdusta dalam bedagang sangat dikecam dalam islam, terlebih lagi jika
disertai dengan sumpah palsu atas nama Allah. 6. Amanah. Yaitu memiliki rasa tanggung jawab dalam melaksanakan setiap tugas
dan kewajiban. METODE PENELITIAN Jenis penelitian yang dilakukan adalah penelitian lapangan (field research) yaitu
penelitian yang terjadi secara alamiah tetapi didahului oleh semacam intervensi (campur
tangan) peneliti (Azwar, 1998). Dalam penelitian ini menggunakan pendekatan
kualitatif. Penelitian kualitatif berbeda dari penelitian kuantitatif karena memiliki
sejumlah ciri khas dan karakteristik. Pada penelitian ini penulis mennggunakan dua
jenis sumber yaitu Data primer dan Data sekunder atau data tangan kedua. Dalam penelitian ini menggunakan tiga teknik yang sudah sering digunakan
dalam penelitian deskriptif kualitatif, yaitu observasi, wawancara dan dokumentasi. Analisis data dalam penelitian ini menggunakan model analisis Miles dan Huberman
dapat dilakukan melalui langkah-langkah sebagai berikut, Reduksi data, Penyajian data,
dan Penarikan kesimpulan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 HASIL PENELITIAN DAN PEMBAHASAN Strategi Pemasaran Syariah Toko Aila Fashion Serba Rp35.000 Kota Bengkulu
1. Menciptakan Penawaran Menarik dan Terpercaya Strategi Pemasaran Syariah Toko Aila Fashion Serba Rp35.000 Kota Bengkulu
1. Menciptakan Penawaran Menarik dan Terpercaya Strategi Pemasaran Syariah Toko Aila Fashion Serb
1. Menciptakan Penawaran Menarik dan Terpercaya Dalam hal ini Toko Aila Fashion Serba Rp35.000 sudah menciptakan penawaran
yang menarik dan terpercaya dengan memberikan label harga yang murah serba
Rp35.000 dan dapat dipercaya tidak ada harga diatas dari Rp35.000, memberikan
jaminan kepada pelanggan seperti penukaran produk jika memiliki kesalahan. Diharapkan dengan penawaran yang menarik dan terpercaya ini secara tidak langsung
dapat menjadi strategi promosi bagi Toko Aila Fashion Serba Rp35.000 yaitu informasi
dari mulut ke mulut (world of mounth). Informasi dari mulut ke mulut ini terjadi karena
konsumen berbicara kepada konsumen lain yang berpotensial tentang pengalamannya
dalam menerima barang/jasa tertentu. Dari Asep Romel selaku kepala toko Aila
Fashion Serba Rp35.000 mengatakan: Secara spesifik tidak begitu ada stretegi, karena dengan harganya terbilang murah
konsumen akan datang dengan sendirinya. Tetapi walaupun harganya murah, rata-
rata kualitas barang tetap bagus karena sebagian juga adalah barang import (china). Jadi intinya menyediakan barang dengan kualitas yang bagus. Kalau strategi iklan,
sesekali juga kita masuk di sosial media, seperti menggunakan akun-akun hits di 334 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis instagram (berbayar), salah satunya iklan di instagram bengkuluinfo. (Romel, 2023)
Informan lainnya memberikan keterangan sebagai berikut: Iya karena harganya yang terjangkau sesuai dengan mereknya semua harganya
Rp35.000 tidak ada yang lebih dari itu tetapi ada beberapa produk yang harga
dibawah Rp35.000 membuat saya tertarik untuk berbelanja di toko Aila Fashion
Kota Bengkulu (Sari, 2023). Iya karena harganya yang terjangkau sesuai dengan mereknya semua harganya
Rp35.000 tidak ada yang lebih dari itu tetapi ada beberapa produk yang harga
dibawah Rp35.000 membuat saya tertarik untuk berbelanja di toko Aila Fashion
Kota Bengkulu (Sari, 2023). Didukung juga oleh informan lainnya sebagai berikut: “Karena harganya murah
semua serba Rp35.000 membuat ketertarikan saya untuk berbelanja, tetapi walaupun
harga murah kualitas tetap terjaga” (Merita, 2023). Dari Sinta seorang mahasiswa juga mengatakan : “Iya selain harganya yang
murah dan banyak variasi tapi produk yang dijual semuanya juga dapat bersaing
kualitasnya, makanya saya tertarik dan suka belanja disini” (Febriani, 2023). Informan
lainnya juga sependapat, Rosalinda memberikan keterangan sebagai berikut: Tentu saja saya tertarik karena yang pertama soal harga terjangkau di kantong dan
kedua bukan hanya produk pakaian yang dijual, ada juga perlengkapan lainnya
seperti tas, sepatu, sandal, jam tangan dan lainnya, ya.. Strategi Pemasaran Syariah Toko Aila Fashion Serba Rp35.000 Kota Bengkulu
1. Menciptakan Penawaran Menarik dan Terpercaya walaupun kita tahu
kualitasnya tapi menurut saya sangat menarik (Rosalinda, 2023). Tentu saja saya tertarik karena yang pertama soal harga terjangkau di kantong dan
kedua bukan hanya produk pakaian yang dijual, ada juga perlengkapan lainnya
seperti tas, sepatu, sandal, jam tangan dan lainnya, ya.. walaupun kita tahu
kualitasnya tapi menurut saya sangat menarik (Rosalinda, 2023). Ditambah juga keterangan dari Rangga yang mengatakan: “Ya.. Jelas tertariklah,
karena toko aila fashion ini menawarkan barang dengan harga yang sangat bersahabat
dengan kantong kami apa lagi buat orang-orang yang ekonomi rendah pasti sangat
membantu juga.” (Anugrah, 2023). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3. Memberikan Nilai-Nilai yang Berkesan. 3. Memberikan Nilai-Nilai yang Berkesan. Selanjutanya mengenai apakah toko Aila Fashion sudah memberikan nilai-nilai
yang berkesan. Dalam hal ini Toko Aila Fashion Serba Rp35.000 beberapa sudah ada
memberikan nilai yang berkesan seperti selalu menawarkan promo tertentu,
menyediakan berbagai produk bervariasi dan tentunya dengan harga yang terjangkau
dan ada yang belum memberikan nilai yang berkesan seperti, belum bisa menyikapi
keluhan pelanggan dengan baik,belum bisa memberikan dan menciptakan suasana yang
nyaman saat berbelanja karena kinerja pelayanannya yang masih kurang baik. Dalam
memasarkan produk senantiasa mengutamakan kepuasan pelanggan (customer
satisfaction), menjaga jejaring/ukhuwah (networking), memiliki kecakapan dalam
berkomunikasi dan bernegosiasi (tabligh) serta tidak melakukan penimbunan (ihtikar)
serta tidak mengambil untung yang berlebihan (ghaban). Dari Asep Romel selaku
kepala toko Aila Fashion Serba Rp35.000 mengatakan: p
p
g
Iya kami sudah memberikan nilai berkesan dengan meminta umpan balik secara
berkala, tetaplah kompetitif, menawarkan promosi lainnya dan selalu sikapi
keluhan pelanggan dengan ramah. Selain kualitas yang bagus, menyediakan pilihan
produk/barang yang banyak juga memberikan kepuasan kepada pelanggan ketika
belanja. Dan juga seperti pelayanan yang baik dan menciptakan suasana yang
nyaman saat belanja (seperti pemutaran musik/lagu dan penerangan/lampu yang
maksimal/terang) juga menjadi hal yang diprioritaskan (Romel, 2023). p
p
g
Iya kami sudah memberikan nilai berkesan dengan meminta umpan balik secara
berkala, tetaplah kompetitif, menawarkan promosi lainnya dan selalu sikapi
keluhan pelanggan dengan ramah. Selain kualitas yang bagus, menyediakan pilihan
produk/barang yang banyak juga memberikan kepuasan kepada pelanggan ketika
belanja. Dan juga seperti pelayanan yang baik dan menciptakan suasana yang
nyaman saat belanja (seperti pemutaran musik/lagu dan penerangan/lampu yang
maksimal/terang) juga menjadi hal yang diprioritaskan (Romel, 2023). Ibu Yeti memberikan keterangan sebagai berikut: “Seperti yang saya jelaskan
tadi untuk sekarang kinerja dari toko tersebut belum menciptakan nilai yang berkesan
karena pelayanan yang diberikan kurang ramah, malahan kesan yang dibuat malah jadi
kesan kurang baik.” (Merita, 2023). Didukung juga oleh Indah yang mengatakan:
“Untuk saat ini toko tersebut belum menciptakan nilai yang berkesan karena walaupun
produk yang bagus tapi pelayanan tidak ramah sama sekali.” (Sari, 2023). toko” (Sari, 2023). Sedangkan Sinta berbeda pendapat dari informan sebelumnya, Sinta mengatakan:
“Alhamdulillah pelayanannya sudah memberikan perilaku yang ramah, jadi tidak hanya
dengan harga yang terjangkau tetapi pelayanan juga bagus” (Febriani, 2023). Rosalinda
juga mengatakan hal yang sama: “Untuk pelayanannya cukup ramah, ya..seperti
pelayanan toko pakaian biasanyalah cukup baik,sopan dan ramah” (Rosalinda, 2023). Sedangkan Rangga mengatakan sebaliknya: “Untuk pelayanannya menurut saya masih
kurang tanggap, suka lama kalo diminta tolong lebih terlihat bertele-tele menurut saya”
(Anugrah, 2023). 2. Memberikan Pelayanan Prima 2. Memberikan Pelayanan Prima Selanjutnya mengenai bagaimana cara toko Aila Fashion Serba Rp35.000
memberikan pelayanan prima. Dalam strategi ini bahwa pelayanan prima yang
dilakukan Toko Aila Fashion Serba Rp35.000 belum sepenuhnya sesuai yang
diharapkan pelanggan walaupun pihak toko mengaku telah mengedepankan kesopanan
dan keramahan dalam memberikan pelayanan, karena pelayanan yang dirasakan
konsumen malah terkesan kurang ramah dan suka mengeluh dihadapan pelanggan yang
bisa membuat kehilangan konsumen. Jadi walapupun dengan harga yang murah harus
lebih diperhatikan lagi pelayanan prima supaya membuat semakin banyak pelanggan di
Toko Aila Fashion. Dari Asep Romel selaku kepala toko Aila Fashion Serba Rp35.000
mengatakan: Toko kami menerapkan sikap dan penampilan dengan memberikan kesopanan dan
keramahan dalam memberikan pelayanan, dengan perilaku orang-orang yang
berinteraksi langsung kepada layanan eksternal. Tanggung jawab, dengan
penerimaan pesanan dan penanganan keluhan pelanggan dari pelanggan eksternal
(masyarakat). Kemudahan mendapatkan layanan dengan banyaknya petugas yang
melayani dan fasilitas pendukung (Romel, 2023). Ibu Yeti juga memberikan keterangan sebagai berikut: “Harga murah, tapi sayang
pelayanannya tidak ramah. Diminta tolong suka ngeluh depan pelanggan, jadinya niat
mau belanja, malah tidak jadi karena kelakuan pegawainya” (Merita, 2023). Informan
lainnya juga sependapat memberikan tanggapan sebagai berikut: “Pelayanan sama
sekali tidak ramah! harga produk ramah di kantong, tapi kalo pelayanan tidak ramah ya
sama saja. Mood belanja jadi hilang, itukan sama saja merugikan konsumen dan pihak 335 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis toko” (Sari, 2023). 3. Memberikan Nilai-Nilai yang Berkesan. Sedangkan Sinta berbeda pendapat yang mengatakan: “Menurut saya kinerjanya
sudah menciptakan nilai yang berkesan selain produk yang bagus pelayanannya juga
ramah-ramah saja.” (Febriani, 2023) Didukung informan lainnya yang mengatakan:
“Menurut saya cukup berkesan dari kelengkapan produk yang menyediakan banyak
variasi sampai harga yang murah meriah tapi kualitas dapat bersaing.” (Rosalinda,
2023) Sedangkan informan lainnya mengatakan: “Menurut saya belum sepenuhnya
menciptakan nilai yang berkesan sih, emang kalo soal harga bisa diadu tapi kalo
pelayanannya kurang judes gitu pasti yang ingat itu kesan kurang baik.” (Anugrah,
2023) 336 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis 4. Menawarkan Model yang Up to Date 4. Menawarkan Model yang Up to Date Selanjutnya mengenai apakah model yang disediakan selalu up to date. Dalam
hal ini toko serba Rp35.000 ini tidak sepenuhnya produk yang dipasarkan itu selalu up
to date karena masih ada beberapa produk lama atau model lama yang dipasarkan. Tetapi pihak toko berusaha untuk selalu memberikan update model terbaru setiap
minggunya, dengan begitu dapat menjadi keuntungan tersendiri bagi pihak Toko Serba
35.000, karena akan banyak masyarakat yang tertarik untuk membeli setiap produk
terbarunya. Berikut penuturan dari Asep selaku kepala toko Aila Fashion: Iya toko kami selalu mengupdate produk-produk sesuai perkembangan zaman. Karena dengan mengikuti tren dan minat pelanggan. Salah satu cara menentukan
produk yang akan dijual adalah dengan riset. Selalu memastikan ketersediaan
produk. Selalu menjaga kualitas produk yang dijual (Romel, 2023). Iya toko kami selalu mengupdate produk-produk sesuai perkembangan zaman. Karena dengan mengikuti tren dan minat pelanggan. Salah satu cara menentukan
produk yang akan dijual adalah dengan riset. Selalu memastikan ketersediaan
produk. Selalu menjaga kualitas produk yang dijual (Romel, 2023). Informan lainnya memberikan keterangan sebagai berikut: “Belum sepenuhnya
mengikuti tren, walaupun produk lengkap tetapi masih ada sebagian produk-produk
yang model pakaian yang belum kekinian” (Merita, 2023). Didukung juga dengan
informan lainnya yang mengatakan sebagai berikut: “Menurut saya mungkin belum ya,
karena saya lihat masih cukup banyak pakaian model-model lama seperti pakaian batik
yang cocok dipakai orang tua” (Sari, 2023). Sinta juga sependapat dengan informan sebelumnya, yang mengatakan: “Menurut
saya masih ada beberapa produk yang belum mengikuti tren, walaupun produk lengkap
tetapi masih ada sebagian produk-produk yang model pakaian yang belum mengikuti
zaman kini” (Febriani, 2023). Rosalinda juga sependapat yang mengatakan: “Masih
banyak produk-produk yang terpajang pakaian yang model-model lama. Jadi sebaiknya
pihak toko selalu memperhatikan produk yang tersedia dan diminati konsumen”
(Rosalinda, 2023). Sedangkan Rangga kurang setuju, dia mengatakan: “Menurut saya
mengikuti zaman kok, dan model yang ditawarkan selalu terbaru setiap saya kesini,
mungkin orang banyak yang tidak tahu model zaman kini” (Anugrah, 2023). 5. Membangun Sinergitas dengan Stakeholders. Selanjutnya mengenai bagaimana toko Aila fashion membangun sinergitas
dengan stakeholders. Dalam hal ini toko Aila Fashion serba Rp35.000 sudah cukup
baik dalam memenuhi semua kinerjanya dan sudah berkerja sama dan saling tolong
menolong satu sama lain. Cara manajer toko dalam meningkatkan sinergitas dengan
stakeholders dan membangun semangat kerja staf penjualan dengan memberikan
reward bagi karyawan yang bekerja dengan tekun dan semangat. Sedangkan kepada
konsumen pihak toko selalu memberikan promo dan diskon produk pada setiap waktu
tertentu. Diharapkan kerja sama tersebut akan memberikan kemanfaatan dan
keuntungan yang lebih dibandingkan dengan dilakukan secara sendirian. Networking
dan marketing akan bisa ditumbuhkan secara lebih luas, lebih menyeluruh, dan lebih
efisien. Dari Asep selaku kepala toko Aila Fashion serba Rp35.000 mengatakan: efisien. Dari Asep selaku kepala toko Aila Fashion serba Rp35.000 mengatakan:
Selalu memberikan semangat kerja satu sama lain, saling tolong menolong dalam
melakukan pekerjaan dapat memberikan sinegritas. Dengan memberikan reward
bagi karyawan yang bekerja dengan tekun dan semangat dan selalu mengadakan
promo atau diskon kepada konsumen Aila Fashion setiap waktu tertentu (Romel,
2023). e s e . a
sep se a u epa a to o
a
as o se ba
p35.000
e gata a :
Selalu memberikan semangat kerja satu sama lain, saling tolong menolong dalam
melakukan pekerjaan dapat memberikan sinegritas. Dengan memberikan reward
bagi karyawan yang bekerja dengan tekun dan semangat dan selalu mengadakan
promo atau diskon kepada konsumen Aila Fashion setiap waktu tertentu (Romel,
2023). 337 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Informan lainnya juga mengatakan: “Kalo untuk promo sih Alhamdulillah selalu
ada kalo saya belanja disini seperti potongan harga dan lainnya.” (Merita, 2023)
Didukung juga oleh informan lainnya sebagai berikut: “Promo kalo setiap saya kesini
pasti ada sih kayak didepan itukan banyak banting harga menjadi 15rb-20rb walaupun
produk diskon yang ditawarkan kualitas menengah.” (Sari, 2023) Rangga juga
mengatakan hal yang sama: “Kalo promo selalu ada, mungkin itu strategi dari pihak
toko untuk menarik pelanggan dengan mengadakan diskon dan promo,apa lagi baju,
sandal, dan produk diskon lainnya diletakan di etalase depan”. (Anugrah, 2023) Saran Adapun saran yang dapat diberikan peneliti berdasarkan informasi dan hasil
penelitian yang didapatkan sebagai berikut: Adapun saran yang dapat diberikan peneliti berdasarkan informasi dan hasil
penelitian yang didapatkan sebagai berikut: 1. Bagi kepala toko atau pemilik toko agar dapat terus meningkatkan kualitas
produk yang ditawarkan, selalu mengikuti tren, juga senantiasa menjaga
profesionalitas dalam melayani dan memenuhi kebutuhan konsumen. 2. Bagi konsumen toko aila fashion agar dapat dengan bijak memberikan kritik
dan saran kepada pengelola toko aila fashion serba Rp35.000 agar dapat
menjadi perhatian untuk dapat meningkatkan pelayanannya kepada konsumen. j
p
p
g
p
y
y
p
3. Peneliti mengharapkan agar penelitian ini dapat dijadikan rujukan bagi
penelitian selanjutnya dalam meneliti hal terkait atau memperdalam substansi
penelitian dengan melihat dari sudut pandang yang berbeda. Kesimpulan p
Pelaksanaan Strategi Pemasaran Syariah Pada Toko Aila Fashion Serba Rp35.000
Kota Bengkulu yaitu dengan menciptakan penawaran menarik dan terpercaya,
memberikan pelayanan yang prima, memberikan nilai yang berkesan, menawarkan
model yang up to date, dan membangun sinergitas dengan stakehoders. Namun
Pelaksanaannya belum sepenuhnya dilaksanakan dengan baik, pasalnya Toko Aila
Fashion Serba Rp35.000 Kota Bengkulu belum bisa memberikan pelayanan yang prima
dengan maksimal, belum bisa memberikan nilai yang berkesan pada konsumen dan
produk yang ditawarkan terkesan model lama dan bukan yang terbaru atau up to date,
sedangkan dalam menciptakan penawaran menarik dan terpercaya, dan membangun
sinergitas dengan stakehoders Toko Aila Fashion Serba Rp35.000 Kota Bengkulu
sudah melakukannya dengan baik. DAFTAR RUJUKAN Ahmad. (2020). Manajemen Strategis. Cv Nas Media Pustaka. (
)
j
g
Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor
Energi. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS),
5(1). Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor
Energi. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS),
5(1). 338 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kata kunci: Maqashid Syariah, Ekonomi
Islam, bisnis. Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Azwar, S. (1998). Metode Penelitian. Pustaka Belajar. Handayani, T., & Fathoni, M. A. (2019). Manajemen Pemasaran Islam. Deepublish. Handayani, T., & Fathoni, M. A. (2019). Manajemen Pemas Herawan, Y. (2021). Strategi Pemasaran Syariah Serba Tiga Puluh Lima Ribu Di Toko
Zahra Collection. Iain Bengkulu. Herlin., Anggraini, Yesi Noti., Yanti, Rina Trisna. (2020). Analisis Swot Dalam
Menentukan Strategi Pemasaran Kosmetik Wardah Di Kota Bengkulu. Jurnal
Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(2). Kalimah, S., & Fadilah, N. (2017). Marketing Syariah Hubungan Antara Agama Da
Ekonomi. LPPM IAIN. Ekonomi. LPPM IAIN. Kartajaya, H., & Sula, M. S. (2006). Syariah Marketing. PT Mizan Pustaka. Kartajaya, H., & Sula, M. S. (2006). Syariah Marketing. PT Mizan Pustaka. Mardia, Hutabarat, M. L. P., Simanjuntak, M., Sipayung, R., Saragih, L., & Simarmata,
H. M. P. (2021). Strategi Pemasaran. Yayasan Kita Menulis. Nurcholifah, I. (2014). Strategi Marketing Mix Dalam Perspektif Syari’ah. Jurnal
Khatulistiwa, 1. Nurzam., & Wijaya, Ahmat. (2020). Strategi Pemasaran Cpo (Crude Palm Oil) Pada Pt. Bio Nusantara Teknologi Bengkulu Tengah. Jurnal Ilmiah Akuntansi, Manajemen
dan Ekonomi Islam (JAM-EKIS), 3(1). (
)
( )
Sofyan, J. H. (2018). Implementasi Strategi Pemasaran Pada Simply Homy Guest
House Yogyakarta. Universitas Islam Indonesia Yogyakarta. Tjiptono, F. (2008). Strategi Pemasaran, Edisi III. CV. Andi Offset. Zainal, V. R. (2018). Islamic Marketing Management. Bumi Aksara. 339 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis PENERAPAN MAQASHID SYARIAH DALAM EKONOMI ISLAM
IMPLEMENTATION OF MAQASHID SHARIA IN ISLAMIC
ECONOMY Intan Permata Sari1, Eka Sri Wahyuni2, Kustin hartini3
Universitas Islam Negeri (UIN) Fatmawati Sukarno Bengkulu1-3
intanpermatasaripga@gmail.com1, ekasricurup@gmail.com2,
kustinhartini@gmail.com3 Jl. Raden Fatah, Kel. Pagar Dewa, Kota Bengkulu (38211)
Corresponding email: intanpermatasaripga@gmail.com http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRACT This study aims to determine the urgency of
maqashid sharia in Islamic economics and to
determine the application of maqashid sharia based
on its business aspects. This type of research,
namely library research relating to library data
collection methods, uses a qualitative approach. The results of the study show that maqashid sharia
has a dual role, namely: as a control tool as well as
a social engineering tool to realize human benefit. It provides a rational philosophical foundation of
economic activity. Without maqashid sharia, the
understanding and practice of Islamic economics
will become narrow, rigid, static and slow. Islamic
economics will lose the spirit and substance of its
shari'ah. In the application of maqashid business in
the Islamic economy, it can be seen that every
agreement must be clear, the obligation to work and
produce, Al-Kharraj bi adh-Dhaman (Balance
between Profits and Risks), maqashid prohibits
gharar and maqashid prohibits wasting wealth. Riwayat Artikel:
Diterima : 21 Maret 2023
Direvisi : 15 Juli 2023
Disetujui : 14 Agustus 2023 Keywords:
Maqashid Sharia, Islamic
Economics, Business. Keywords:
Maqashid Sharia, Islamic
Economics, Business. Kata kunci:
Maqashid Syariah, Ekonomi
Islam, bisnis. ABSTRAK Penelitian ini bertujuan untuk mengetahui urgensi
maqashid syariah dalam ekonomi islam dan untuk
mengetahui
penerapan
maqashid
syariah
berdasarkan aspek bisnisnya. Jenis penelitian ini,
yaitu library research yang berkenaan dengan
metode pengumpulan data pustaka, menggunakan
pendekatan kualitatif. Hasil penelitian menunjukkan
bahwa maqashid syariah memiliki peran ganda, 340 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis yaitu: sebagai alat kontrol sekaligus alat perekayasa
sosial untuk mewujudkan kemaslahatan manusia. Ia
memberikan landasan filosofis yang rasional dari
aktivitas
ekonomi. Tanpa
maqashid
syariah,
pemahaman dan praktik ekonomi Islam akan
menjadi sempit, kaku, statis, dan lambat. Ekonomi
Islam
akan
kehilangan
spirit
dan
substansi
syariʻahnya. Dalam penerapan maqashid bisnisnya
di ekonomi syariah tampak pada setiap kesepakatan
harus jelas, kewajiban bekerja dan berproduksi, Al-
Kharraj bi adh-Dhaman (Keseimbangan antara
Keuntungan dan Risiko), maqashid larangan gharar
dan maqashid larangan menghambur-hamburkan
harta. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Meskipun pada waktu itu belum menyebut secara jelas tema
maqashid syariah, tetapi setidaknya maqashid syariah telah memberikan warna dan
kontribusi dalam legislasi hukum islam sesuai dengan tujuan ditetapkannya hukum
islam, yaitu mewujudkan kemaslahatan dan menolak kemudaratan (dar’u al-mafasid wa
jalbu al-manafi’) (Mu’alim, 2022). masa Rasullullah Saw. Meskipun pada waktu itu belum menyebut secara jelas tema
maqashid syariah, tetapi setidaknya maqashid syariah telah memberikan warna dan
kontribusi dalam legislasi hukum islam sesuai dengan tujuan ditetapkannya hukum
islam, yaitu mewujudkan kemaslahatan dan menolak kemudaratan (dar’u al-mafasid wa
jalbu al-manafi’) (Mu’alim, 2022). Ilmu maqashid al-syariah pada dasarnya merupakan sebuah ilmu yang sudah
memenuhi kriteria keilmuan dilihat dari tinjauan filsafat, yaitu sudah mempunyai
ontologi yang jelas, epistemologi yang dapat dipertanggungjawabkan, serta aksiologi
yang terukur. Walaupun demikian pada umumnya ulama tidak sepakat untuk
menjadikannya sebagai sebuah ilmu yang berdiri sendiri. Artinya, walaupun
eksistensinya sangat penting dalam mengistibatkan hukum islam, tetapi teori maqashid
al-syariah masih diposisikan untuk membantu ilmu ushul fiqh (Helim, 2019). y
p
q
Semakin meluasnya permasalahan ekonomi dan bisnis syariah pada saat ini, maka
semakin perlu untuk dilakukan ijtihad sehingga setiap perkembangan dan inovasi
transaksi tetap sejalan dengan prinsip-prinsip syariah. Karena itu, keterlibatan ulama
ekonomi syariah menjadi penting, seperti berijtihad memberikan solusi bagi
permasalahan ekonomi keuangan yang muncul, baik skala mikro maupun makro,
mendisain akad-akad syariah untuk kebutuhan produk-produk bisnis di berbagai
lembaga keuangan syariah, mengawal dan menjamin seluruh produk perbankan dan
keuangan syariah dijalankan sesuai syariah. Oleh sebab itu, menurut hemat penulis
bahwa konsep maqashid al-syariah yang dikembangkan oleh al-Syatibi, penting sekali
untuk digunakan sebagai teori kajian dalam merespon perkembangan ekonomi dan
bisnis syariah masakini dan mendatang, sehingga roda perekonomian di tengah-tengah
masyarakat benar-benar berputar sesuai dengan kehendak Allah dan Rasul-Nya serta
mampu memenuhirasa keadilan umat manusia. PENDAHULUAN Ekonomi Islam merupakan bagian dari syariat Islam. Di mana aturannya fleksibel
sehingga dapat menyahuti setiap perubahan, perkembangan ekonomi, dan bisnis
manusia. Sejatinya sistem ekonomi ini telah lahir seiring dengan kelahiran syariat Islam
yang dibawa Nabi Muhammad Saw. ke jagad raya ini. Kemudian ia dipraktikkan dan
dicontohkan secara langsung dalam kehidupan bermasyarakat dan bernegara. Setelah
mencapai masa keemasan seiring dengan puncak kejayaan daulah-daulah islamiyah,
sistem ekonomi ini akhirnya terkubur di saat melemahnya kekuasaan daulah islam
dengan konsep deislamisasi yang dilakukan negara-negara barat (Rozalinda, 2014). g
p
y
g
g
g
Bidang ekonomi islam pada dasarnya merupakan bagian cabang dari salah satu
aspek inti ajaran islam yang terdiri dari aqidah, syariah, dan akhlak. Dalam hal ini,
ekonomi islam merupakan turunan dari aspek syariah. Sedang dalam bahasan syariah
(hukum Islam), tidak bisa dilepaskan dari tujuan hukum islam (maqashid syariah). Teori maqashid syariah ini telah berkembang sejak awal turunnya wahyu, dalam arti
tujuan dan maksud dari adanya syariah (agama islam) telah menyatu dengan berbagai
aturan yang ada di dalam wahyu tersebut, baik wahyu tersebut dalam bentuk Al-quran
maupun Hadis Nabi Muhammad saw. Maqashid syariah berarti tujuan Allah dan
Rasul-Nya dalam menetapkan hukum-hukum Islam (Sahroni & Karim, 2015) y
p
Perkembangan ekonomi islam begitu pesatnya menjadi tantangan tersendiri bagi
umat islam yaitu bagaimana membangun ekonominya yang berbasis pada ideologinya. Mengingat kaum muslim menjadi agama dan ajaranya sebagai variabel utama dalam
berprilaku. Islam sebagai agama pengatur kehidupan yang berperan dalam
membimbing dan mengarahkan manusia dalam mengelola sumber daya ekonomi untuk
mencapai kemaslahatan umatnya didunia dan akhirat (Mubayyinah, 2019). Secara
mendalam yang ingin dituju dalam sistem ekonomi islam adalah islam yang kaffah
dalam aspek ekonomi, yaitu tercapainya mashlahah atau falah (kesejahteraan) bagi
umat manusia. Untuk mencapai itu perlu menggunakan konsep maqashid syariah yang
merupakan tujuan dari syariat islam untuk melindungi umat manusia (Adzkiya’, 2020) p
j
y
g
(
y
)
Konsep Maqashid syariah jika ditelusuri dari perkembangannya, sudah ada sej 341 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis masa Rasullullah Saw. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Maqashid Syariah Menurut terminologi, maqashid syariah berarti sebuah tujuan yang memiliki nilai
dan makna yang ingin di wujudkan oleh pembuat syariah (Allah SWT) di sebagai nilai
dan makna yang dijadikan tujuan dan hendak direalisasikan oleh pembuat syariah
(Allah SWT) yang tujuan ini di gunakan oleh para ulama mujtahid sebagai landasan
dalam pembuatan syariah dan juga hukum (Toriquddin, 2014). َثُمَّ جَعَلْنٰكَ عَلٰى شَرِ يْعَةٍ م ِنَ اْلْ َمْرِ فَاتَّبِعْهَا وَْلَ تَتَّبِعْ اَهْوَاۤءَ الَّذِيْنَ ْلَ يَعْلَمُوْ ن
٨١
“Kemudian Kami jadikan engkau (Muhammad) mengikuti syariat (peraturan)
dari agama itu, maka ikutilah (syariat itu) dan janganlah engkau ikuti keinginan orang-
orang yang tidak mengetahui.” (QS. Al-Jatsiyah : 18) َثُمَّ جَعَلْنٰكَ عَلٰى شَرِ يْعَةٍ م ِنَ اْلْ َمْرِ فَاتَّبِعْهَا وَْلَ تَتَّبِعْ اَهْوَاۤءَ الَّذِيْنَ ْلَ يَعْلَمُوْ ن
٨١
“Kemudian Kami jadikan engkau (Muhammad) mengikuti syariat (peraturan)
dari agama itu, maka ikutilah (syariat itu) dan janganlah engkau ikuti keinginan orang-
orang yang tidak mengetahui.” (QS. Al-Jatsiyah : 18) Konsep maqashid syariah sebenarnya sudah ada sejak zaman Imam Haramain
(guru al-Ghazali dan direktur Ma’had Nizamiyah wafat 478 H.) dan diteruskan oleh al-
Ghazali (w.505H), konsep tersebut kemudian dikembangkan oleh seorang ulama
bermazhab maliki di Cordova Andalusia yang bernama as-Syatibi (w. 790 H.) yang
terkenal dengan kitabnya AlMuwafaqat Fi ushul Syariah. Perkembangan paling besar 342 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis tentang maqashid syariah di kembangkan oleh Abu ishaq al-Syathibi. Asl-Syathibi
berpendapat bahwa seluruh syariat yang ditetapkan Allah pasti mempunyai maslahah
untuk hamba-Nya dan tidak ada satu pun hukum Allah yang tidak mempunyai tujuan
baik itu di dunia (masa sekarang) ataupun di akhirat kelak (masa akan datang)
(Munandar, 2021). Jadi tujuan yang terkandung didalam maqashid syariah adalah untuk memelihara
kemaslahatan manusia, baik didunia maupun di akhirat sekaligus untuk menghindari
mafsadat, baik di dunia maupun di akhirat. Kemaslahatan yang terkandung itu bukan
hanya dilihat dalam arti teknik, namun dalam upaya dinamika pengembangan hukum
dilihat sebagai sesuatu yang mengandung nilai filosofis dari hukum-hukum yang
disyariatkan Tuhan terhadap manusia. y
p
Dalam rangka mewujudkan kemaslahatan dan menjauhi kerusakan di dunia dan
akhirat, para ahli usul fikih meneliti dan menetapkan ada lima unsur pokok yang harus
diperhatikan. Kelima pokok tersebut bersumber dari Al-Qur'an dan merupakan tujuan
syariah (maqashid al-syariah). Untuk mengetahui lebih jelas lagi tentang kelima hal
tersebut, lebih jelas lagi al-Syathibi membagi maqashid al-syariah menjadi dharuriyah,
hajiyah, dan tahsiniyah (Fauzia & Riyadi, 2018). 3. Tahsiniyat (تحسنيت) 1. Dharuriyah (ضروريت) 1. Dharuriyah (روري)
Dharuriyah adalah penegakan kemaslahatan agama dan dunia. Artinya, ketika
dharuriyah itu hilang maka kemaslahatan dunia dan bahkan-akhirat juga akan
hilang. Dan, yang akan muncul adalah justru kerusakan dan bahkan musnahnya
kehidupan. Dharuriyah juga merupakan keadaan di mana suatu kebutuhan wajib
untuk dipenuhi dengan segera, jika diabaikan maka akan menimbulkan suatu bahaya
yang berisiko pada rusaknya kehidupan manusia. Selanjutnya, dharuriyah terbagi menjadi lima poin yang biasa dikenal dengan
sebutan al-kulliyat al-khamsah (الكلية الخمسة), yaitu: memelihara agama (Hifz al-
Din); jiwa (Hifz al-Nafs); akal (Hifz al-'Aql); keturunan (Hifz al-Nash); dan harta
benda (Hifz al-Mal) Apabila kelima hal di atas dapat terwujud, maka akan tercapai suatu kehidupan
yang mulia dan sejahtera di dunia dan akhirat, atau dalam ekonomi Islam biasa
dikenal dengan falih tercukupinya kebutuhan masyarakat akan memberikan dampak
yang disebut dengan maslahah, karena kelima hal tersebut merupakan kebutuhan
dasar yang harus dipenuhi oleh masing-masing individu dalam masyarakat. Apabila
salah satu dari kelima hal tersebut tidak terpenuhi dengan baik, maka kehidupan di
dunia juga tidak akan bisa berjalan dengan sempurna dan terlebih lagi akan
berdampak negatif bagi kelangsungan hidup seseorang. (
) 2. Hajjiyat (حجيت)
Jenis maqashid ini dimaksudkan untuk memudahkan kehidupan, menghilangkan
kesulitan atau menjadikan pemeliharaan yang lebih baik terhadap lima unsur pokok
kehidupan manusia. Hajiyah juga dimaknai dengan keadaan di mana jika suatu
kebutuhan dapat terpenuhi, maka akan bisa menambah value kehidupan manusia. Hal tersebut bisa menambah efisiensi, efektivitas dan value added (nilai tambah)
bagi aktivitas manusia. Hajiyat juga dimaknai dengan pemenuhan kebutuhan
sekunder ataupun sebagai pelengkap dan penunjang kehidupan manusia. 2. Hajjiyat (حجيت)
Jenis maqashid ini dimaksudkan untuk memudahkan kehidupan, menghilangkan
kesulitan atau menjadikan pemeliharaan yang lebih baik terhadap lima unsur pokok
kehidupan manusia. Hajiyah juga dimaknai dengan keadaan di mana jika suatu
kebutuhan dapat terpenuhi, maka akan bisa menambah value kehidupan manusia. Hal tersebut bisa menambah efisiensi, efektivitas dan value added (nilai tambah)
bagi aktivitas manusia. Hajiyat juga dimaknai dengan pemenuhan kebutuhan
sekunder ataupun sebagai pelengkap dan penunjang kehidupan manusia. 343 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Tahapan terakhir maqashid al-syariah adalah tahsiniyah, yang artinya melakukan
kebiasaan-kebiasaan yang baik dan menghindari yang buruk sesuai dengan apa telah
diketahui oleh akal sehat. Meskipun kemungkinan besar tidak menambah efisiensi,
efektivitas, dan nilai tambah bagi aktivitas manusia. 1. Dharuriyah (ضروريت) Tahsiniyah juga biasa dikenali
dengan kebutuhan tersier, atau identik dengan kebutuhan yang bersifat mendekati
kemewahan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Ekonomi Islam Kata ekonomi berasal dari kata Yunani, yaitu oikos dan nomos. Kata oikos berarti
rumah tangga (house-hold), sedangkan kata nomos memiliki arti mengatur. Maka secara
garis besar ekonomi diartikan sebagai aturan rumah tangga, atau manajemen rumah
tangga. Kenyataannya, ekonomi bukan hanya berarti rumah tangga suatu keluarga,
melainkan bisa berarti ekonomi suatu desa, kota, dan bahkan suatu negara (Fauzia &
Riyadi, 2018). Ekonomi Islam dalam bahasa Arab diistilahkan dengan al-iqtishad al-Islami. Al-
iqtishad secara bahasa berarti al-qashdu yaitu pertengahan dan berkeadilan. Pengertian
pertengahan dan berkeadilan ini banyak ditemukan dalam Al-Qur'an di antaranya "Dan
sederhanalah kamu dalam berjalan." (Luqman: 19) dan "Di antara mereka ada
golongan yang pertengahan." (al-Maidah: 66). Maksudnya, orang yang berlaku jujur,
lurus, dan tidak menyimpang dari kebenaran (Rozalinda, 2014). Ekonomi Islam dibangun atas dasar agama Islam, karenanya ia merupakan bagian
tak terpisahkan (integral) dari agama Islam. Sebagai derivasi dari agama Islam,
ekonomi Islam akan mengikuti agama Islam dalam berbagai aspeknya. Islam adalah
sistem kehidupan (way of life), di mana Islam telah menyediakan berbagai perangkat
aturan yang lengkap bagi kehidupan manusia, termasuk dalam bidang ekonomi. Beberapa aturan ini bersifat pasti dan berlaku permanen, sementara beberapa yang
bersifat kontekstual sesuai dengan situasi dan kondisi. Penggunaan agama sebagai dasar
ilmu pengetahuan telah menimbulkan diskusi panjang di kalangan ilmuwan, meskipun
sejarah telah membuktikan bahwa hal ini adalah sebuah keniscayaan (Amirus, 2015). Jadi ekonomi syariah adalah bagian dari aktivitas manusia dalam rangka memenuhi
kebutuhannya dengan memanfaatkan berbagai sumber daya yang ada dengan
berpedoman pada syariat yang bersumber dari Al-Qur'an dan Sunnah. Di dalam ajaran Islam, bekerja mencari nafkah atau melakukan kegiatan ekonomi
merupakan kewajiban yang diperintahkan oleh Allah Swt, karena tidak ada sesuatu yang
bisa didapat langsung tanpa harus melakukan kegiatan, hal ini senada dengan firman
Allah dalam surat at-Taubah ayat 105: للّٰ
ُ
َُ
ٰ
ُ َۗ
ُ y
َوَقُلِ اعْمَلُوْ ا فَسَيَرَى ّٰللاه ُ عَم ْلَكُمْ وَرَسُوْ لُهٗ وَالْمُؤْمِنُوْ نََۗ وَسَتُرَدُّوْ نَ اِلٰى عٰلِمِ الْغَيْبِ وَالشَّهَادَةِ فَيُنَب ِئُكُمْ بِمَا كُنْتُم
ََۚتَعْمَلُوْ ن
٥٠١ y
َلِ اعْمَلُوْ ا فَسَيَرَى ّٰللاه ُ عَم ْلَكُمْ وَرَسُوْ لُهٗ وَالْمُؤْمِنُوْ نََۗ وَسَتُرَدُّوْ نَ اِلٰى عٰلِمِ الْغَيْبِ وَالشَّهَادَةِ فَيُنَب ِئُكُمْ بِمَا كُنْتُم
ََۚلُ ْ
٥ ١ Artinya: Dan katakanlah, “Bekerjalah kamu, maka Allah akan melihat
pekerjaanmu, begitu juga Rasul-Nya dan orang-orang mukmin, dan kamu akan
dikembalikan kepada (Allah) Yang Mengetahui yang gaib dan yang nyata, lalu
diberitakan-Nya kepada kamu apa yang telah kamu kerjakan.” Tujuan ekonomi Islam adalah mashlahah (kemaslahatan) bagi umat manusia. Yaitu dengan mengusahakan segala akti- vitas demi tercapainya hal-hal yang berakibat 344 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis pada adanya kemaslahatan bagi manusia, atau dengan mengusahakan aktivitas yang
secara langsung dapat merealisasikan kemaslahatan itu sendiri. Aktivitas lainnya demi
menggapai kemaslahatan adalah dengan menghindarkan diri dari segala hal yang
membawa mafsadah (kerusakan) bagi manusia (Fauzia & Riyadi, 2018). f
g
y
Ekonomi Islam memiliki prinsip-prinsip dasar, sebagai berikut: f
g
y
Ekonomi Islam memiliki prinsip-prinsip dasar, sebagai berikut: 1. Prinsip Tauhid
Sumber utama etik Islam adalah kepercayaan penuh dan murni terhadap keesaan
Tuhan dan ini secara khusus menunjukkan dimensi vertikal Islam, hubungan ini
dipengaruhi penyerahan manusia tanpa syarat di hadapan-Nya. Ketundukan manusia
pada Tuhan membantu manusia merealisasikan potensi teomorfiknya. 2. Prinsip Keadilan
Keadilan merupakan nilai paling asasi dalam ajaran Islam, yaitu menegakkan
keadilan dan memberantas kezaliman adalah tujuan utama dari risalah para rasul-
Nya. Keadilan sering kali diletakkan sederajat dengan kebajikan dan ketakwaan. 3. Konsep Islam Mengenai Kebajikan
Kebajikan adalah tingkah laku yang baik, jujur, simpatik, bekerja sama,
pendekatan dan ber perikemanusiaan dan ikhlas, mementingkan orang lain dan
menjaga hak orang lain. 4. Prinsip Kemanusiaan
Prinsip kemanusiaan, yang tidak lain merujuk pada urgensi eksistensi manusia
dalam Islam adalah sebagai hamba Allah dan khalifah di muka bumi ini. Identitas
manusia menjadi penting karena kehidupan di dunia diperuntukkan bagi manusia
sebagai ajang untuk menguji tingkat keimanan dan ketakwaannya kepada sang
pencipta. 5. Prinsip Kehendak Bebas
Dalam pandangan Islam, manusia terlahir memiliki kehendak bebas, yakni
dengan potensi menentukan pilihan di antara pilihan-pilihan yang beragam. Karena
kebebasan manusia tidak dibatasi dan bersifat voluntaris, maka ia juga memiliki
kebebasan untuk memilih yang salah. 6. Prinsip Tanggung Jawab
Aksioma ini sangat erat kaitannya dengan prinsip kehendak bebas, keduanya
merupakan pasangan yang alamiah, tapi bukan berarti baik secara logis maupun
praktis keduanya saling terkait. y
َوَقُلِ اعْمَلُوْ ا فَسَيَرَى ّٰللاه ُ عَم ْلَكُمْ وَرَسُوْ لُهٗ وَالْمُؤْمِنُوْ نََۗ وَسَتُرَدُّوْ نَ اِلٰى عٰلِمِ الْغَيْبِ وَالشَّهَادَةِ فَيُنَب ِئُكُمْ بِمَا كُنْتُم
ََۚتَعْمَلُوْ ن
٥٠١ Islam menaruh penekanan pada konsep tanggung
jawab, Islam menetapkan keseimbangan yang tepat di antara keduanya, dengan ini
peradaban modern akan ditentukan berdasarkan langkah pembatasan kebebasan
individu secara tepat, sehingga konflik inheren antara maksimalisasi kepentingan
sendiri akan seimbang dengan kebutuhan maksimalisasi kesejahteraan sosial. 6. Prinsip Tanggung Jawab
Aksioma ini sangat erat kaitannya dengan prinsip kehendak bebas, keduanya
merupakan pasangan yang alamiah, tapi bukan berarti baik secara logis maupun
praktis keduanya saling terkait. Islam menaruh penekanan pada konsep tanggung
jawab, Islam menetapkan keseimbangan yang tepat di antara keduanya, dengan ini
peradaban modern akan ditentukan berdasarkan langkah pembatasan kebebasan
individu secara tepat, sehingga konflik inheren antara maksimalisasi kepentingan
sendiri akan seimbang dengan kebutuhan maksimalisasi kesejahteraan sosial. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Jenis penelitian yang digunakan dalam enelitian ini adalah penelitian kepustakaan
(Library Research). Penelitian kepustakaan merupakan serangkaian kegiatan yang
berkenaan dengan metode pengumpulan data pustaka, membaca dan mencatat serta
mengolah bahan penelitian. Penelitian ini menggunakan pendekatan kualitatif. Pendekatan kualitatif adalah penelitian yang menggunakan latar alamiah, dengan 345 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis maksud menafsirkan fenomena yang terjadi dan dilakukan dengan jalan melibatkan
berbagai metode yang ada. maksud menafsirkan fenomena yang terjadi dan dilakukan dengan jalan melibatkan
berbagai metode yang ada. Dalam mengumpulkan dan memperoleh data menggunakan teknik book survey,
yaitu buku-buku, dokumen, artikel website atau literature lain yang memiliki kaitannya
dengan rencana dari penelitian ini. Analisis data pada penelitian ini menggunakan
analisis isi (content analisys) yaitu suatu teknik penelitian yang dimanfaatkan untuk
menarik kesimpulan yang replikatif dan shahih dari data atas dasar konteksnya. Menurut
Smith dalam buku karangan Nanang Murtono berpendapat bahwa : “Analisis isi
merupakan sebuah teknik yang digunakan untuk mendapat informasi yang dibutuhkan
dari materi secara sistematis dan obyektif dengan mengidentifikasi karakter tertentu dari
suatu materi. Adapun langkah-langkah analisis data yaitu sebagai berikut : a. Memilih dan menetapkan pokok bahasan yang akan di kaji. a. Memilih dan menetapkan pokok bahasan yang akan di kaji. b. Mengumpulkan data-data yang sesuai dengan pokok bahasan melalui pokok
bahasan melalui buku-buku maupun sumber lainnya. b. Mengumpulkan data-data yang sesuai dengan pokok bahasan melalui pokok
bahasan melalui buku-buku maupun sumber lainnya. c. Menganalisis dan mengklarifikasi. d. Mengkomunikasikannya dengan kerangka teori yang di gunakan. Konsep Maqashid Syariah Menurut Al-Syatibi Konsep Maqashid Syariah Menurut Al-Syatibi p
q
y
y
Sebelum Syathibi, maqashid syariah banyak dipahami dengan istilah 'illah dan
mashlahah (Fauzia & Riyadi, 2018). Dalam karyanya al-Muwafaqat, al-Syatibi
mempergunakan kata yang berbeda-beda berkaitan dengan maqashid al-syariah. Kata-
kata itu ialah maqashid al-syariah, al-maqashid al-syar'iyyah fi al-syariah, dan
maqashid min syar'i al-hukum. Walau dengan kata-kata yang berbeda, mengandung
pengertian yang sama yakni tujuan hukum yang diturunkan oleh Allah SWT. Menurut
al-Syatibi memahami maqashid al-syariah adalah suatu keharusan di dalam berijtihad,
pemahaman akan maqashid al-syariah tidak akan tercapai sebelum seseorang
memahami bahasa Arab, Al- Qur'an dan Hadis (Bakri, 1996). Menurut Syathibi
sesungguhnya syariah bertujuan untuk mewujudkan kemaslahatan manusia sebagai
hamba Allah di dunia dan akhirat. Maka dari itu, ketika hamba-Nya dibebani kewajiban
(al-taklif), tak lain untuk merealisasikan kemaslahatan. Sehingga dalam pandangannya,
tidak ada satu hukum pun yang tidak mempunyai suatu tujuan. Menurut al-Syatibi sebagai yang dikutip dari ungkapannya sendiri: (Bakri, 1996): هذه الش ريعة ... وضعت لتحقيق مقاصد الشارع في قيام مصالحهم في الدين والدنيا معا
"Sesungguhnya syariat itu bertujuan mewujudkan kemaslahatan manusia di
dunia dan di akhirat". Dalam ungkapan yang lain dikatakan oleh al-Syatibi "Hukum-hukum disyariatkan untuk kemaslahatan hamba". "Hukum-hukum disyariatkan untuk kemaslahatan hamba". Dalam memaparkan hakikat maqashid syariah dari segi substansi, maqashid al-
syariah adalah kemaslahatan. Kemaslahatan dalam taklif Tuhan dapat berwujud dalam 346 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 34 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dua bentuk: pertama dalam bentuk hakiki, yakni manfaat langsung dalam arti
kausalitas. Kedua, dalam bentuk majazi yakni bentuk yang merupakan sebab yang
membawa kepada kemaslahatan. Kemaslahatan itu, oleh al-Syatibi dilihat pula dari 2
(dua) sudut pandang itu adalah: dua bentuk: pertama dalam bentuk hakiki, yakni manfaat langsung dalam arti
kausalitas. Kedua, dalam bentuk majazi yakni bentuk yang merupakan sebab yang
membawa kepada kemaslahatan. Kemaslahatan itu, oleh al-Syatibi dilihat pula dari 2
(dua) sudut pandang itu adalah: a. Maqashid al-Syari' (Tujuan Tuhan) Maqashid al-Syari', mengandung empat aspek. Keempat aspek itu adalah: q
g
g
p
p
p
p
1) Tujuan awal dari syariat yakni kemaslahatan manusia di dunia dan di akhirat. 2) Syariat sebagai sesuatu yang harus dipahami. 3) Syariat sebagai suatu hukum takflif yang harus dilakukan, dan 4) Tujuan syariat adalah membawa manusia ke bawah naungan hukum. b. Maqashid al-Mukallaf (Tujuan Mukallaf). Konsep Maqashid Syariah Menurut Al-Syatibi Maqaṣid al-Mukallaf adalah maksud-maksud yang diinginkan oleh pelaku
hukum (manusia; mukallaf) dalam setiap hal di kehidupannya baik terkait dengan
itikad, perkataan atau perbuatan. Dari semua itu dapat dibedakan antara perbuatan
yang baik dan buruk, antara kehidupan ibadah dengan sosialnya, baik dalam
kehidupan beragama atau pun dalam bernegara yang semuanya dilihat apakah
bersesuaian atau bertentangan dengan maqaṣid syariah (Helim, 2019). Konsep Maqashid Syariah Menurut Izzuddin Bin Abdussalaam 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis yang baik, akhlaq yang baik, perasaan yang sehat, sehingga umat islam menjadi
umat yang disenangi dan lingkungannya enak untuk ditunggu. Maka termasuk ke
dalamnya adalah menjauhi sifat berlebihan (al-Israf), sifat pelit (al-Bukhl),
menetapkan sekufu dalam pernikahan, adab makan dan lainnya yang merupakan
akhlaq yang terpuji. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Urgensi Maqashid Syariah Dalam Ekonomi Islam Berbicara tentang ekonomi islam sangat erat kaitannya dengan maqashid yaitu
menjaga
harta. Dengan
demikian
transaksi
muamalat
memiliki
landasan
epistemologinya yang bersumber pada penalaran maqashid asy-syariah. Tujuan syariah
dalam transaksi muamalah adalah menciptakan kesejahteraan umat manusia dengan
menyeimbangkan harta benda antara kaum kaya dan kaum miskin secara berkeadilan
dan seimbang (Mubayyinah, 2019). Terkait dengan urgensi maqashid tidak dapat dipisahkan dari ushul fiqh,
mayoritas ulama sepakat bahwa ushul fiqh menduduki posisi yang sangat penting dalam
ilmu-ilmu syariah, tema terpenting dalam ushul fiqh adalah maqashid asy-syariah. Maqashid asy-syariah adalah jantung dalam kajian ushul fiqh, karena itu maqashid asy-
syariah menduduki posisi yang sangat penting dalam merumuskan ekonomi islam,
menciptakan produk-produk perbankan dan keuangan syariah. Para ulama telah sepakat
bahwa pengetahuan maqashid asy-syariah menjadi syarat utama dalam berijtihad untuk
menjawab berbagai problematika kehidupan ekonomi dan keuangan yang terus
berkembang. Maqashid asy-syariah tidak hanya diperlukan untuk merumuskan
kebijakan-kebijakan ekonomi makro (moneter, fiscal, public finance), tetapi juga untuk
menciptakan produk-produk perbankan dan keuangan syariah serta teori-teori ekonomi
mikro lainnya (Mufid, 2016). Maqashid syariah tidak saja menjadi faktor yang paling menentukan dalam
melahirkan produk-produk ekonomi syariah yang dapat berperan ganda (alat sosial
kontrol dan rekayasa sosioeconomy) untuk mewujudkan kemaslahatan manusia, tetapi
lebih dari itu, maqashid syariah dapat memberikan dimensi filosofis dan rasional
terhadap produk-produk hukum ekonomi Islam yang dilahirkan dalam aktivitas ijtihad
tentang ekonomi syariah kontemporer. Maqashid syariah akan memberikan pola
pemikiran yang rasional dan substansial dalam memandang akad-akad dan produk-
produk perbankan syariah. Pemikiran fikih semata akan menimbulkan pola pemikiran
yang formalistik dan tekstualis. Hanya dengan pendekatan maqashid syariah, produk
perbankan dan keuangan syariah dapat berkembang dengan baik dan dapat merespons
kemajuan bisnis yang terus berubah dengan cepat (Andiko et al., 2018). Konsep Maqashid Syariah Menurut Izzuddin Bin Abdussalaam Konsep Maqashid Syariah Menurut Izzuddin Bin Abdussalaam
Maqashid syariah menurut Syekh Izzuddin merupakan makna dan hikmah yang
diulas syariat dalam setiap bentuk penetapan hukum atau sebagian besarnya sehingga
tidak terbatas ulasannya pada satu bentuk hukum saja. Sehingga masuk juga perihal
sifat-sifat syariat, tujuannya yang umum serta makna yang tidak mungkin lepas dari
suatu syariat. Dan masuk juga hal terkait dengan hikmah yang mungkin tidak semuah
diulas dalam setiap hukum syariat, namun dalam sebagian besarnya. Sebagaimana diketahui dalam maqashid syariat dibatasi agar menjaga lima hal
(dharuriyyah al-khamsah) yaitu agama, jiwa, akal, keturunan dan harta. Untuk
menopang kelima hal tersebut, Beliau membagi tingkat kebutuhan manusia ke dalam
tiga tingkatan yaitu dharuriyyah, haajiyah dan tahsiiniyah. 1. Dharuriyah
Dharuriyah menurutnya adalah tingkatan kebutuhan yang harus ada dalam
sebuah syariat yaitu menjaga agama (hifzh ad-diin), menjaga jiwa (hifzh an-nafs),
menjaga akal (hifzh al-aql), menjaga keturunan (hifzh an-nasl) dan menjaga harta
(hifzh al-maal). Sebagai contoh rukun Islam disyariatkan untuk menjaga agama,
penetapan diyat merupakan upaya untuk mejaga jiwa, penetapan keharaman khamr
dan sejenisnya merupakan upaya menjaga akal, penetapan hukum keluarga
merupakan upaya menjaga keturunan dan penetapan hukuman (jinayah) bagi
semisal pencurian merupakan upaya untuk menjaga harta. 1. Dharuriyah
Dharuriyah menurutnya adalah tingkatan kebutuhan yang harus ada dalam
sebuah syariat yaitu menjaga agama (hifzh ad-diin), menjaga jiwa (hifzh an-nafs),
menjaga akal (hifzh al-aql), menjaga keturunan (hifzh an-nasl) dan menjaga harta
(hifzh al-maal). Sebagai contoh rukun Islam disyariatkan untuk menjaga agama,
penetapan diyat merupakan upaya untuk mejaga jiwa, penetapan keharaman khamr
dan sejenisnya merupakan upaya menjaga akal, penetapan hukum keluarga
merupakan upaya menjaga keturunan dan penetapan hukuman (jinayah) bagi
semisal pencurian merupakan upaya untuk menjaga harta. 2. Haajiyah
Haajiyah merupakan kebutuhan (hajah) yang harus ada dalam memenuhi suatu
kebutuhan yang menopang dharuriyyah. Sebagai contoh penetapan syariat nikah
bertujuan untuk menjaga keturunan (hifzh an-nasl) dan syariat jual beli maupun
sewa-upah bertujuan untuk menjaga harta (hifzh al-maal). 2. Haajiyah
Haajiyah merupakan kebutuhan (hajah) yang harus ada dalam memenuhi suatu
kebutuhan yang menopang dharuriyyah. Sebagai contoh penetapan syariat nikah
bertujuan untuk menjaga keturunan (hifzh an-nasl) dan syariat jual beli maupun
sewa-upah bertujuan untuk menjaga harta (hifzh al-maal). 3. Tahsiniyah
Tahsiniyah merupakan kebutuhan (hajah) yang dikembalikan kepada kebiasaan 3. Tahsiniyah
Tahsiniyah merupakan kebutuhan (hajah) yang dikembalikan kepada kebiasaan 347 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. Penerapan Maqashid Syariah Berdasarkan Aspek Bisnis Penerapan maqashid syariah ini merupakan penjabaran dari maqashid (tujuan)
besarnya yaitu hifdzul mal (menjaga dan memenuhi hajat dan maslahat akan harta). Menjaga dan memenuhi hajat akan harta tersebut adakalanya dari sisi bagaimana
mendapatkannya (min janibi al-wujud) atau dari sisi memelihara harta yang sudah
dimiliki (mi janibi al-'adam). Hifdzul mal tersebut juga menjadi rumpun kaidah dalam
bidang muamalah, kaidah ini dijabarkan dengan maqashid 'ammah (tujuan-tujuan
umum) dan maqashid khassah (tujuan khusus) yang sangat banyak dan tidak terhitung 348 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis jumlahnya (Sahroni & Karim, 2015). j
y
1. Setiap Kesepakatan Harus Jelas Setiap kesepakatan bisnis harus jelas diketahui oleh para pihak akad agar tidak
menimbulkan perselisihan di antara mereka. Untuk mencapai target ini, syariat Islam
memberlakukan ketentuan tautsiq (pengikatan) dalam akad muamalah maliah, seperti
ketentuan bahwa setiap transaksi harus tercatat (kitabah), disaksikan (isyhad) dan boleh
bergaransi. g
Ibnu Asyur menguatkan makna ini, ia menjelaskan: menjaga kepercayaan
muktasib (orang yang bekerja) itu dengan cara melindungi hartanya sebagaimana
firman Allah Swt.: ٓ
ََّٓ
َْ ُ
ٰ
َُّٓللَّٰٓ
َُ ْيٰٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْ ا َلَ تَأْكُلُوْٰٓ ا اَمْوَ الَكُمْ بَيْنَكُمْ بِالْبَاطِلِ اَِلَّ ٰٓ اَنْ تَكُوْ نَ تِجَارَةً عَنَتَرَاضٍ م ِنْكُمْ ۗ وَ َلَ تَقْتُلُوْٰٓ ا اَنْفُسَكُمْ ۗ اِنَّ ّٰللاه َ كَان
بِكُمْ رَحِ يْمًا
٩٢ Artinya: “Wahai orang-orang yang beriman! Janganlah kamu saling memakan
harta sesamamu dengan jalan yang batil (tidak benar), kecuali dalam perdagangan
yang berlaku atas dasar suka sama suka di antara kamu. Dan janganlah kamu
membunuh dirimu. Sungguh, Allah Maha Penyayang kepadamu.” (QS An-Nisa: 29) Ayat ini menjadi dalil legalitas tujuan hifdzil-mal yang harus diterapkan dalam
setiap praktik bisnis. Hifdzul mal yang dimaksud diimplementasikan dengan ketentuan
tautsiq (pengikatan) dalam akad muamalah maliah, seperti ketentuan bahwa setiap
transaksi harus tercatat (kitabah), disaksikan (isyhad) dan boleh bergaransi agar setiap
pihak akad rela sama rela. Maqashid tersebut sesuai juga dengan prinsip dalam perdagangan harus
dilakukan atas dasar suka sama suka (kerelaan). Prinsip ini memiliki implikasi yang
luas karena perdagangan melibatkan lebih dari satu pihak, sehingga kegiatan jual beli
harus dilakukan secara sukarela, tanpa paksaan. Perdagangan tidak boleh dilakukan
dengan memanfaatkan ketergantungan karena tidak ada pilihan. Praktik monopoli
berisiko melanggar prinsip ini, kecuali pada situasi tertentu. Keterbatasan pengetahuan mengenai dimensi teknis barang dapat dibantu dengan
meyakini ketentuan standar tertentu yang ditetapkan oleh suatu otoritas. Penerapan Maqashid Syariah Berdasarkan Aspek Bisnis Standar suatu
barang menjadi sarana untuk membangun kesetaraan antara penjual dan pembeli http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3. Al-Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko) Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko) Kaidah al-kharraj bi adh-dhaman ini adalah prinsip dalam muamalat Islam yang
bersumber kepada dalil istiqra' terhadap nash-nash syariat dan menghasilkan maqashid
yang berstatus gath'i. Berdasarkan kaidah ini, para ulama melakukan istinbat hukum,
fatwa dan ijtihad atas banyak sekali hukum fikih. Rasulullah Saw. melarang untuk
menjual barang yang belum menjadi milik atau tanggung jawabnya. Ia juga melarang
menjual makanan yang belum diserahterimakan (taqabudh). Rasulullah Saw, berkata kepada orang yang bertanya kepadanya tentang hukum
menjual barang yang belum dibelinya (belum dimilikinya). Rasulullah menjawab: َل تبغ ماليس عندك http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 2. Kewajiban Bekerja dan Memproduksi Di antara maqashid syariah adalah kewajiban bekerja dan memproduksi. Kewajiban ini berdasarkan istiqra' terhadap dalil-dalil yang memberikan dilalah
qath'iah (makna yang pasti) bahwa berkerja dan produksi itu hukumnya wajib sesuai
dengan firman Allah Swt.:
ُّ
ۗ
َُ
َُ
َّ ُ الَّذِيْ جَعَلَ لَكُمُ اَلْ َرْ ضَ ذَلُوْ َلً فَامْشُوْ ا فِيْ مَنَاكِبِهَا وَ كُلُوْ ا مِنْ ر ِ زْ قِه ۗ وَ اِلَيْهِ النُّشُوْ ر ٥١ ُلُوْ َلً فَامْشُوْ ا فِيْ مَنَاكِبِهَا وَ كُلُوْ ا مِنْ ر ِ زْ قِه ۗ وَ اِلَيْهِ النُّشُوْ ر ٥١ ُ
ِ
ِ
يََ
م
ي
Artinya: “Dialah yang menjadikan bumi untuk kamu yang mudah dijelajahi,
maka jelajahilah di segala penjurunya dan makanlah sebagian dari rezeki-Nya. Dan
hanya kepada-Nyalah kamu (kembali setelah) dibangkitkan.” (QS Al-Mulk: 15) Dalam ayat ini Allah Swt. memerintahkan untuk berjalan di muka bumi ini untuk
mencari rezeki Allah Swt. Dalam konteks maqashid, mencari rezeki menjadi wajib
untuk menyediakan kebutuhan harta dari aspek wujud karena tanpa bekerja, tidak 349 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 34 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis mungkin ada uang dan harta. Merealisasikan hifdzul mal dari sisi bagaimana mendapatkannya (min janibi al
wujud) sama halnya dengan merealisasikan harta yang sudah dimiliki (mi janibi al-
adam). Di antara ketentuan dalam syariat ini yang merealisasikan maqashid kewajiban
bekerja ini di antaranya adalah bahwa syariat ini memberikan hak kepada pengelola
usaha dalam bagi hasil untuk mendapatkan keuntungan atas usahanya. Dan sebaliknya,
ketentuan yang melarang pengelola usaha untuk mendapatkan haknya tersebut itu
bertentangan tujuan (maqashid) ini. Di antaranya juga, syariat ini melindungi
kepemilikan seseorang selama harta tersebut dihasilkan dengan cara-cara yang halal. Syariat ini telah memberikan kewenangan dan hak kepada setiap pemilik barang/jasa
untuk memanfaatkannya dan menggunakannya dengan cara-cara yang dibolehkan
syariat ini. Dan sebaliknya, syariat ini melarang setiap perilaku yang merampas hak
kepemilikan ini seperti pencurian, perampasan dan pengrusakan terhadap hak orang
lain. Oleh karena itu, dilarang menghalangi dan mempersulit pemilik barang untuk
mengelolanya dan memanfaatkannya karena bertentangan maqashid syariah dalam
melindungi hak kepemilikan setiap orang karena itu hasil kerjanya yang legal (masyru). "Jangan menjual barang yang belum ada di sisimu". Sesuai dengan prinsip ini, maka keuntungan (ghurm/ribh) atas modal itu sah
didapatkan jika pemilik modal telah menghadapi risiko (ghurm/mukhatarah) atas
modalnya juga. Karena modal telah dijamin oleh pihak yang menerimanya seperti
dalam akad qardh, maka yang bersangkutan wajib mengembalikan pinjaman tersebut
dalam kondisi apa pun: ia harus menggantinya jika rugi, rusak atau berkurang,
walaupun karena sebab-sebab yang di luar keinginannya. Penerapan prinsip al-kharraj bi adh-dhaman dalam kasus-kasus di atas itu sangat
logis dan jelas. Kharraj itu maknanya adalah keuntungan, sedangkan dhaman adalah
tanggung jawab atas kerugian/kerusakan. Syariat Islam telah menjadikan kedua hal
tersebut menjadi dua hal yang selalu beriringan. Bahwa kharraj tidak bisa didapatkan
kecuali dengan dhaman. Yang dimaksud dengan dhaman di sini adalah kemungkinan
dhaman karena dhaman belum terjadi. Realitanya, harta itu tidak rusak atau usahanya
tidak rugi, tetapi karakter usaha itu menghadapi risiko kerugian yang mungkin terjadi,
maka atas dasar tersebut, jika ia menjual barang tersebut, ia berhak atas marginnya. Dalam transaksi ribawi, pihak yang meminjam itu harus bertanggung jawab. Ia harus 350 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis mengembalikan pinjaman beserta bunganya kepada pihak yang meminjam, baik usaha
yang dijalankan dengan modal pinjaman tersebut menghasilkan ataupun tidak. Praktik
ini bertentangan dengan Islam karena pihak yang memberikan pinjaman tidak boleh
memberikan syarat bunga atas pinjamannya, juga karena dhaman dan ghunm tidak
terjadi sekaligus dalam akad tabarru (sosial) tersebut (Sahroni & Karim, 2015). Maka
dalam akad gardh di atas itu hanya ada dua pilihan: mengembalikan pinjaman beserta bunganya kepada pihak yang meminjam, baik usaha
yang dijalankan dengan modal pinjaman tersebut menghasilkan ataupun tidak. Praktik
ini bertentangan dengan Islam karena pihak yang memberikan pinjaman tidak boleh
memberikan syarat bunga atas pinjamannya, juga karena dhaman dan ghunm tidak
terjadi sekaligus dalam akad tabarru (sosial) tersebut (Sahroni & Karim, 2015). Maka dalam akad gardh di atas itu hanya ada dua pilihan: a. Memilih dhaman dengan cara memberikan pinjaman qardh al-hasan tanpa
bunga b. Memilih kharraj dengan cara menyerahkan dana tersebut sebagai modal usaha,
maka ia berhak atas keuntungan dan menanggung risiko kerugian jika terjadi. 4. Maqashid Larangan Gharar Menurut ahli fikih, gharar adalah sifat dalam muamalah yang menyebabkan
sebagian rukunnya tidak pasti (mastur al-'agibah). Secara operasional, gharar bisa
diartikan; kedua belah pihak dalam transaksi tidak memiliki kepastian terhadap barang
yang menjadi objek transaksi baik terkait kualitas, kuantitas, harga dan waktu
penyerahan barang, sehingga pihak kedua dirugikan Gharar ini terjadi bila mengubah sesuatu yang pasti menjadi tidak pasti. Di antara
contoh praktik gharar adalah sebagai berikut: (Karim, 2008) a. Gharar dalam kualitas, seperti penjual yang menjual anak sapi yang masih
dalam kandungan. a. Gharar dalam kualitas, seperti penjual yang menjual anak sapi yang masih
dalam kandungan. b. Gharar dalam kuantitas, seperti dalam kasus ijon. b. Gharar dalam kuantitas, seperti dalam kasus ijon. c. Gharar dalam harga (gabn), seperti murabahah rumah 1 tahun dengan margin
20% atau murabahah rumah 2 tahun dengan margin 40%. d. Gharar dalam waktu penyerahan, seperti menjual barang yang hilang. Gharar dalam waktu penyerahan, seperti menjual barang yang hilang. Gharar hukumnya dilarang dalam syariat Islam, oleh karena itu melakukan
transaksi atau memberikan syarat dalam akad yang ada unsur ghararnya itu hukumnya
tidak boleh sebagaimana hadis Rasulullah Saw.:
ال
ل
هللا ل
ل
ُ لُ هللا تهى رَسُولُ هللاِ صلى هللا عليه وسلم عن بيع الغزير
"Rasulullah Saw melarang jual beli yang mengandung gharar" http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ع
ملله
"Rasulullah Saw melarang jual beli yang mengandung gharar" "Rasulullah Saw melarang jual beli yang mengandung gharar" Larangan gharar memiliki tujuan (maqshad) sebagaimana dijelaskan dalam
substansi gharar di atas, bahwa keempat transaksi dalam contoh di atas itu termasuk
gharar, karena objek akadnya tidak pasti ada dan tidak pasti diterima pembeli atau
harga dan uang tidak pasti diterima penjual sehingga tujuan pelaku akad melakukan
transaksi menjadi tidak tercapai. keempat bentuk gharar di atas, keadaan sama-sama rela yang dicapai bersifat
Sesungguhnya, setiap transaksi dalam Islam harus didasarkan pada prinsip kerelaan
antara kedua belah pihak (sama-sama ridha). Mereka harus mempunyai informasi yang
sama (complete information) sehingga tidak ada pihak yang merasa dicurangi (ditipu)
karena ada suatu yang unknown to one party. Dalam sementara, yaitu sementara keadaannya masih tidak jelas bagi kedua belah
pihak. Di kemudian hari, yaitu ketika keadaannya telah jelas, salah satu pihak
(penjual/pembeli) akan merasa terzalimi, walaupun pada awalnya tidak demikian. 351 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Inilah maqshad (tujuan) dilarangnya gharar, agar tidak ada pihak-pihak akad
dirugikan karena tidak mendapatkan haknya dan agar tidak tidak terjadi perselisihan
dan permusuhan di antara mereka. Maqashid di atas sesuai dengan teori ekonomi. Misalkan, dalam sebuah transaksi perdagangan memang tercipta sebuah kesepakatan
namun kesepakatan tersebut tidak menjamin terpenuhinya rasa keadilan bagi para pihak
yang bertransaksi Matthew Rabin dalam risetnya berjudul "Incorporating Fairness into
Game Theory and Economics" menyebutkan bahwa dalam setiap transaksi ada dua
kesepakatan yang harus terpenuhi, yaitu kesepakatan pasar (market equilibria) dan
kesepakatan rasa keadilan (fairness equilibria). p
f
q
Dalan perspektif ekonomi, pilihan terbaik bagi penjual adalah jujur. Sedangkan
apabila pembeli menaruh curiga kepada penjual, maka pembeli tersebut akan
memperoleh utility negatif Sebaliknya apabila pembeli tidak menaruh curiga terhadap
penjual maka pembeli akan memperoleh utility positif. Pilihan terbaik bagi pembeli
adalah tidak curiga. Dari kedua kesimpulan ini dapat diketahui hasil akhir adalah
penjual jujur dan pembeli tidak curiga (kanan atas). Perlakuan penjual untuk tidak jujur itu di samping merugikan pihak penjual juga
merugikan pihak pembeli. Apa pun tindakan pembeli, penjual yang tidak jujur akan
mengalami penurunan utility, begitu pula dengan pembeli yang mengalami penurunan
utility. 5. Maqashid Larangan Menghambur-hamburkan Harta
Allah Swt. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ع
ملله
"Rasulullah Saw melarang jual beli yang mengandung gharar" berfirman:
وَ اٰتِ ذَا الْقُرْ بٰى حَقَّهٗ وَ الْمِسْكِيْنَ وَ ابْنَ السَّبِيْلِ وَ َلَ تُبَذ ِرْ تَبْذِيْرًا
٦٢
َاِنَّ الْمُبَذ ِرِ يْنَ كَانُوْٰٓ ا اِخْوَ انَ الشَّيٰطِيْنِ ۗوَ كَان
ْالشَّي
طٰنُ لرَب ه كَفُوْ رًا
٧٢ 5. Maqashid Larangan Menghambur-hamburkan Harta
Allah Swt. berfirman:
نَ السَّبِيْلِ وَ َلَ تُبَذ ِرْ تَبْذِيْرًا
٦٢
َاِنَّ الْمُبَذ ِرِ يْنَ كَانُوْٰٓ ا اِخْوَ انَ الشَّيٰطِيْنِ ۗوَ كَان Artinya: “Dan berikanlah haknya kepada kerabat dekat, juga kepada orang
miskin dan orang yang dalam perjalanan; dan janganlah kamu menghambur-
hamburkan (hartamu) secara boros. Sesungguhnya orang-orang yang pemboros itu
adalah saudara setan dan setan itu sangat ingkar kepada Tuhannya.” (QS Al-Isra'
[17]: 26-27) Ayat larangan tabdzir ini berkaitan dengan ayat sebelumnya yaitu perintah untuk
bersedekah untuk kerabat, orang miskin dan ibnu sabil. Maka, maksud larangan tabdzir
dalam ayat ini adalah dengan tidak menghambur-hamburkan harta, maka keberadaan
harta terlindungi dan bisa disalurkan sesuai anjuran di atas. Inilah maksud Allah Swt. melarang tabdzir. Maqashid tersebut sesuai juga dengan prinsip dalam ekonomi Islam yaitu
membelanjakan pendapatan secara wajar. Hal ini menjadi panduan pertama untuk
mendorong terbentuknya konsumen cerdas. Konsumen perlu cerdas dalam
konsumsinya, yaitu tetap melakukan konsumsi tetapi cermat dalam memilih apa yang
dikonsumsi, berapa banyak, dan pada harga berapa. Konsumsi dilakukan untuk
memenuhi kebutuhan bukan keinginan. Konsumsi juga tidak dimaksud untuk
menimbun-nimbun barang, atau dilakukan secara tergesa-gesa (panic-buying) karena
isu tertentu atau membeli yang tidak perlu karena terpengaruh iklan dan tawaran. Prinsip di atas juga menekankan bahwa pembelanjaan sebagai dari harta juga perlu
dilakukan dalam bentuk infak di jalan Allah (Karim, 2021). 352 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Saran Tanpa mengorbankan rasa hormat, penulis memberikan saran berdasarkan
temuan penelitian dan pembahasan di atas kepada kalangan akademisi ekonomi Islam,
kiranya tidak berhenti pada kajian maqashid syariah al-`amah, tapi juga mencakup
maqashid syariah al-khasshah yang bisa terus diperbarui sesuai dengan dinamika
transaksi bisnis dan macam-macamnya di era modern. Sekaligus kajian penelitian ini
dapat dijadikan bahan referensi untuk penyelesaian problematika praktik ekonomi Islam
di masyarakat dan pengembangannya lebih lanjut. Sehingga diharapkan ekonomi Islam
bisa diterima dalam tataran teoritisnya dan dapat diimplementasikan dalam tataran
praktisnya. Kesimpulan Dalam konteks ekonomi, maqashid syariah memiliki peran ganda, yaitu: sebagai
alat kontrol sekaligus alat perekayasa sosial untuk mewujudkan kemaslahatan manusia. Ia memberikan landasan filosofis yang rasional dari aktivitas ekonomi. Tanpa
maqashid syariah, pemahaman dan praktik ekonomi Islam akan menjadi sempit, kaku,
statis, dan lambat. Ekonomi Islam akan kehilangan spirit dan substansi syariʻahnya. Tetapi sebaliknya, dengan maqashid syariah ekonomi Islam berkembang elastis,
dinamis, sesuai dengan karakter syariah Islam yang bersifat universal dan relevan untuk
segala ruang dan waktu. Dalam penerapan maqashid bisnisnya di ekonomi syariah tampak pada setiap
kesepakatan harus jelas : memberlakukan tausiq (pengikatan), sepertiketentuan bahwa
setiap transaksi harus tercatat (kitabah), disaksikan dan boleh bergaransi. Pada
kewajiban bekerja dan berproduksi : Melindungi kepemilikan seseorang selama harta
tersebut dihasilkan dengan cara-cara yang halal. Memberikan kewenangan dan hak
kepada setiap pemilik barang/jasa untuk memanfaatkannya dan menggunakannya
dengan cara-cara yang dibolehkan syariat ini, melarang setiap perilaku yang merampas
hak kepemilikan ini seperti pencurian, perampasan, pengrusakan dan lain-lain. Pada Al-
Kharraj bi adh-Dhaman (Keseimbangan antara Keuntungan dan Risiko) : Keuntungan
(ghuam/ribh) atas modal itu sah didapatkan jika pemilik modal telah menghadapi risiko
(ghurm/mukhatarah) modalnya. Karena modal telah dijamin oleh pihak yang
menerimanya. Pada larangan gharar : maqshad (tujuan) dilarangnya gharar, agar tidak
ada pihak-pihak akad dirugikan karena tidak mendapatkan haknya dan agar tidak tidak
terjadi perselisihan dan permusuhan di antara mereka. Maqashid larangan
menghambur-hamburkan harta : larangan tabdzir dengan tidak menghambur-
hamburkan harta, maka keberadaan harta terlindungi dan bisa disalurkan sesuai anjuran
di atas. Maqashid tersebut sesuai juga dengan prinsip dalam ekonomi Islam yaitu
membelanjakan pendapatan secara wajar. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Adzkiya’, U. (2020). Analisis Maqashid Al-Syariah dalam Sistem Ekonomi Islam dan
Pancasila. Jurnal Ekonomi Syariah Indonesia, 10(1). Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor Adzkiya’, U. (2020). Analisis Maqashid Al-Syariah dalam Sistem Ekonomi Islam dan
Pancasila. Jurnal Ekonomi Syariah Indonesia, 10(1). Akbar, Tgk Faathir Muhammad., Wahyuni, Sri., Wardani, Erna., Munawara. (2022). Memperkokoh Kesiapan Indonesia Dalam Menghadapi Era Disrupsi Sektor 353 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No.2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Energi. Jurnal Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS),
5(1). Amirus, S. (2015). Konsep Kesejahteraan Dalam Islam. Equilibrium, 3(2). Andiko, T., Khatib, S., & Setiawan, R. A. (2018). Maqashid Syariah dalam Ekonom
Islam. Samudera Biru. Bakri, A. J. (1996). Konsep Mawasid Syari’ah Menurut Al-Syatibi. Grafindo Persada. p
y
y
Fauzia, I. Y., & Riyadi, A. K. (2018). Prinsip Dasar Ekonomi Islam Perspektif
Maqashid Syariah. Prenadamedia Grup. Helim, A. (2019). Maqashid Al-Shariah versus Usul Al-Fiqh (Konsep dan Posisinya
dalam Metodologi Hukum Islam). Pustaka Belajar. Herlin., Anggraini, Yesi Noti., Yanti, Rina Trisna. (2020). Analisis Swot Dalam
Menentukan Strategi Pemasaran Kosmetik Wardah Di Kota Bengkulu. Jurnal
Ilmiah Akuntansi, Manajemen dan Ekonomi Islam (JAM-EKIS), 3(2). Karim. (2021). Kajian Pengembangan Ekonomi dan Keuangan Syariah. KARIM
Consulting Indonesia. Karim, A. (2008). Bank Syariah: Analisis fikih dan Keuangan. Rajawali. Mu’alim, A. N. (2022). Potret Maqasid Syariah Persepektif Abu Hamid Muhammad
Bin Muhammad Al-Ghazali At-Thusi As-Syafi’i. Jurnal Syariah Dan Hukum,
4(2). Mubayyinah, F. (2019). Ekonomi Islam Dalam Perspektif Maqashid Syariah. Journal
of Sharia Economics, 1(1). Mufid, M. (2016). Ushul Fiqh Ekonomi dan Keuangan Kontemporer dari Teori ke
Aplikasi (1st ed.). Prenadamedia Grup. Munandar, A. (2021). Perkembangan Penelitian Maqashid Syariah Pada Bidang
Perbankan Syariah Di Indonesia. UIN Ar-Rainy Banda Aceh. Nurzam., & Wijaya, Ahmat. (2020). Strategi Pemasaran Cpo (Crude Palm Oil) Pada Pt. Bio Nusantara Teknologi Bengkulu Tengah. Jurnal Ilmiah Akuntansi, Manajemen
dan Ekonomi Islam (JAM-EKIS), 3(1). Rozalinda. (2014). Ekonomi Islam: Teori dan Aplikasinya pada Aktivitas Ekonomi (1st
ed.). Raja Grafindo Persada. Sahroni, O., & Karim, A. (2015). Maqashid Bisnis dan Keuangan Islam Sintesis fikih
dan Ekonomi. Raja Grafindo Persada. Toriquddin, M. (2014). Teori Maqashid Syariah Perspektif Al-Syatibi. Jurnal Syariah
Dan Hukum, 6(1). INFORMASI ARTIKEL The aim of this study is to determine and analyze the
effect of Net Profit Margin and Tax Rate partially and
simultaneously on the Dividend Payout Ratio in
manufacturing companies listed on the Indonesia
Stock Exchange. This research uses secondary data
that can be accessed through the official website of
the Indonesia Stock Exchange and the official website
of the company selected as the research sample. With
the sample selection technique using purposive
sampling, analysis of research data using panel data
processed using Eviews computational software. Partially, Net Profit Margin has a significant
negative effect on the Dividend Payout Ratio and the
Tax Rate has a significant negative effect on the
Dividend Payout Ratio. Simultaneously Net Profit
Margin and Tax Rate have a significant influence on
the Dividend Payout Ratio. Research conducted can
be useful for researchers and readers to add insight
and knowledge. Likewise, investors who wish to
invest in the manufacturing sector can consider the
Net Profit Margin and Tax Rate factors because they
have a significant influence on the Dividend Payout
ratio. Riwayat Artikel:
Diterima : 24 Juli 2023
Direvisi : 02 Agustus 2023
Disetujui : 05 Agustus 2023 Keywords:
Dividend Payout Ratio; Net
Profit Margin; Tax Rate
Kata kunci:
Dividend
Payout
Ratio;
Net
Profit Margin; Tax Rate Keywords:
Dividend Payout Ratio; Net
Profit Margin; Tax Rate Keywords:
Dividend Payout Ratio; Net
Profit Margin; Tax Rate
Kata kunci:
Dividend
Payout
Ratio;
Net
Profit Margin; Tax Rate Dividend
Payout
Ratio;
Net
Profit Margin; Tax Rate DAFTAR RUJUKAN 354 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 35 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis DIVIDEND PAYOUT RATIO DETERMINANTS IN
MANUFACTURING COMPANIES LISTED ON THE INDONESIA
STOCK Martihen Supriyadi 1, Fenty Fauziah2, Fitri Darmayani Manoy3
Universitas Muhammadiyah Kalimantan Timur11-3
1811102431139@umkt.ac.id1, ff230@umkt.ac.id2, 1911102431534@umkt.ac.id3 Jl. Ir. H. Juanda No.15, Sidodadi, Kec. Samarinda Ulu, Kota Samarinda, Kalimantan Timur
Corresponding email: ff230@umkt.ac.id http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu ABSTRAK Penelitian bertujuan mengetahui dan menganalisa 355 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis pengaruh Net Profit Margin dan Tax Rate secara
parsial dan secara simultan terhadap Dividend Payout
Ratio pada perusahaan manufaktur yang terdaftar di
Bursa Efek Indonesia. Penelitian menggunakan data
sekunder yang dapat diakses melalui situs resmi
Bursa Efek Indonesia dan situs resmi perusahaan
yang dipilih sebagai sampel penelitian. Dengan teknik
pemilihan sampel menggunakan purposive sampling,
Analisis data penelitian menggunakan data panel
yang diolah menggunakan software komputasi
Eviews. Secara parsial Net Profit Margin mempunyai
pengaruh negatif signifikan terhadap Dividend Payout
Ratio dan Tax Rate mempunyai pengaruh negatif
signifikan terhadap Dividend Payout Ratio. Secara
simultan Net Profit Margin dan Tax Rate mempunyai
pengaruh signifikan terhadap Dividend Payout Ratio. Penelitian yang dilakukan bisa bermanfaat bagi para
peneliti dan pembaca untuk menambah wawasan dan
pengetahuan. Begitupun dengan para investor yang
ingin berinvestasi pada sektor manufaktur dapat
mempertimbangkan faktor Net Profit Margin dan Tax
Rate karena memiliki pengaruh yang signifikan
terhadap Dividend Payout ratio. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Pandemi Covid 19 yang berlangsung beberapa waktu ini menjadi salah satu
permasalahan yang harus dihadapi oleh para pelaku bisnis di seluruh dunia, termasuk di
Indonesia. Sejumlah sektor usaha terkena dampak berat akibat pandemi Covid 19 yang
terjadi, dan sektor manufaktur menjadi salah satu sektor usaha yang terkena dampak
parah. Hal ini berdampak pada tujuan penting yang ingin dicapai oleh bisnis, yaitu
memaksimalkan laba sehingga dapat terus beroperasi secara berkelanjutan dan
membagikan dividen kepada pemegang saham atau investor. Investor harus
mempertimbangkan keadaan ini ketika membeli saham di perusahaan. Kebijakan dividen setiap perusahaan memiliki tingkat distribusi yang bervariasi,
dan dianggap sebagai salah satu pilihan keuangan yang paling penting karena dapat
mempengaruhi harga saham, profitabilitas, atau kemampuan untuk membiayai proyek-
proyek investasi yang dapat meningkatkan nilai perusahaan. Jumlah persentase dividen
yang dibayarkan kepada pemegang saham menjadi keputusan dari korporasi. Kenaikan
pembayaran dividen kepada pemegang saham mengirimkan pesan ke pasar dan investor
tentang keadaan atau potensi kinerja bisnis. Dalam iklim ekonomi saat ini, dan lebih
khusus lagi ketika menilai kinerja perusahaan, pertanyaan tentang rasio pembayaran
dividen menjadi sangat penting (Enekwe et al., 2015). Baik investor maupun perusahaan yang akan membayar dividen sang 356 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dipengaruhi oleh kebijakan dividen dan praktik pembayaran dividen perusahaan. Tujuan utama investor seringkali adalah untuk meningkatkan kesejahteraannya, yaitu
melalui antisipasi pengembalian berupa dividen dan capital gain (Hardiatmo &
Daljono, 2013). Di sisi lain untuk mempertahankan kelangsungan hidupnya,
perusahaan juga mengantisipasi ekspansi yang konstan, dan pada saat yang sama juga
harus meningkatkan kekayaan pemegang saham. Hal ini tentu unik karena di satu sisi,
kebijakan dividen sangat penting untuk memenuhi harapan pemegang saham atas
pembayaran dividen dan di sisi lain, bagaimana kebijakan dividen ini dapat dilakukan
tanpa perlu menghambat ekspansi perusahaan. Para investor dalam melakukan kegiatan investasinya selalu berusaha untuk
menghindari risiko (risk aversion) yang terlalu tinggi meskipun terdapat gagasan
bahwa jumlah risiko perusahaan menentukan berapa banyak keuntungan yang dapat
diharapkan sebagai akibat dari atau sebagai kompensasi atas risiko itu. Dividen yang
diberikan kepada pemegang saham sangat tergantung pada kebijakan masing-masing
perusahaan, sehingga manajemen harus mempertimbangkan masalah ini lebih serius. PENDAHULUAN Tujuan utama dari kebijakan atau keputusan dividen adalah untuk memilih laba mana
yang akan dibagikan kepada pemegang saham dan mana yang akan disimpan sebagai
bagian dari laba ditahan (Lucyanda & Lilyana, 2012). TINJAUAN PUSTAKA 1. Dampak Net Profit Margin terhadap Dividend Payout Ratio
Semakin tinggi net profit margin maka semakin tinggi pula laba bersih yang
dihasilkan dari penjualan bersih. Hal ini disebabkan karena tingginya laba sebelum
pajak penghasilan. Sebaliknya, semakin rendah dari rasio ini maka semakin rendah pula
laba bersih yang dihasilkan dari penjualan bersih. Hal ini disebabkan karena rendahnya
laba sebelum pajak penghasilan. Hasil penelitian yang dilakukan Labhane & Das (2015) menyatakan net profit
margin memiliki pengaruh terhadap dividend payout ratio. Tetapi hasil penelitian
Novyarni & Permana (2020) dan Adeiza., et al (2020). menunjukkan variabel net profit
margin tidak berpengaruh pada dividend payout ratio. Ini juga didukung oleh Mamaro
& Tjano (2019) yang juga melakukan penelitian terhadap perusahaan manufaktur
menyatakan bahwa net profit margin tidak berpengaruh secara parsial terhadap
dividend payout ratio. H1: Net profit margin berpengaruh signifikan terhadap dividend payout ratio pada
perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3. Dampak Net Profit Margin dan Tax Rate terhadap Dividend Payout Ratio Semakin tingginya net profit margin dan tingginya tax rate yang dikenakan ke
perusahaan maka akan berpengaruh signifikan secara simultan terhadap dividen yang
dibagikan. Hal ini sejalan dengan penelitian yang dilakukan oleh Mawardani &
Djawato (2018). Fauziah (2010) dan Winarko (2017) yang menyatakan bahwa cash
ratio, debt to equity ratio, net profit margin, return on investment, dan tax rate secara
simultan mempunyai pengaruh yang signifikan terhadap dividend payout ratio
perusahaan manufaktur di Bursa Efek Indonesia. H3: Net profit margin dan tax rate berpengaruh secara simultan terhadap dividend
payout ratio pada perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia. 2. Dampak Tax Rate terhadap Dividend Payout Ratio Semakin tinggi pajak yang ditetapkan oleh pemerintah maka akan mengurangi
minat dari emiten untuk membagikan keuntungan dari perusahaan dalam bentuk
dividen. Dengan pajak yang ditetapkan oleh Pemerintah, emiten harus menanggung
beban pajak atas dividen yang telah dibagikan kepada para pemegang saham. Sebaliknya jika pajak yang ditetapkan pemerintah tidak terlalu tinggi maka akan
membuat emiten lebih ringan membayar pajak atas dividennya sehingga jumlah dividen 357 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis yang dibayarkan emiten kepada para pemegang saham akan semakin besar (Hadiwidjaja,
2007) yang dibayarkan emiten kepada para pemegang saham akan semakin besar (Hadiwidjaja,
2007). Hasil penelitian yang dilakukan oleh Gill et al. (2010) dan Labhane & Das
(2015) menyatakan tax rate memiliki pengaruh terhadap dividend payout ratio. Tetapi
hasil penelitian Mamaro & Tjano (2019). menunjukkan variabel tax rate tidak
berpengaruh terhadap dividend payout ratio. Ini juga didukung oleh Fauziah (2010)
yang juga melakukan penelitian terhadap perusahaan manufaktur menyatakan bahwa
tax rate tidak berpengaruh secara parsial terhadap dividend payout ratio. H2: Tax rate berpengaruh signifikan terhadap dividend payout ratio pada perusahaan p
g
p
p
p y
H2: Tax rate berpengaruh signifikan terhadap dividend payout ratio pada perusahaan
manufaktur yang terdaftar di Bursa Efek Indonesia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu METODE PENELITIAN Jenis penelitian yang digunakan adalah pendekatan kuantitatif untuk menguji
dampak net profit margin dan tax rate terhadap dividend payout ratio perusahaan
manufaktur yang terdaftar di Bursa Efek Indonesia. Populasi dari penelitian ini adalah
semua perusahaan manufaktur yang terdaftar di Bursa Efek Indonesia dan menerbitkan
laporan keuangan tahunan yang dipublikasikan di Bursa Efek Indonesia (BEI) untuk
periode tahun 2016 hingga 2020. Jumlah populasi pada penelitian ini adalah 192
perusahaan. Jenis data dalam penelitian ini adalah data sekunder yaitu data yang
bersumber dari website resmi Bursa Efek Indonesia yang diakses melalui
www.idx.com. Data diambil dari annual report atau laporan tahunan keuangan
perusahaan manufaktur periode 2016 – 2020. Dalam menganalisis permasalahan data penulis menggunakan metode regresi
data panel dengan menggunakan program pengolahan data statistik Eviews 11. Data
panel adalah bentuk penggabungan antara data silang (cross section) dengan data
runtun waktu (time series). Oleh karenanya, data panel mempunyai penggabungan dari
karakter data dengan berbagai objek dan periode atau waktu (Winarno, 2011). Biasanya
dugaan parameter pada analisis regresi dengan data cross section dibuat dengan
memakai penduga kuadrat terkecil (Ordinary Least Square). Uji regresi data panel dipakai guna mengetahui bagaimana korelasi antar variab 358 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Net Profit Margin dan Tax Rate terhadap Dividend Payout Ratio pada perusahaan
manufaktur yang terdaftar di Bursa Efek Indonesia. Net Profit Margin dan Tax Rate terhadap Dividend Payout Ratio pada perusahaan
manufaktur yang terdaftar di Bursa Efek Indonesia. HASIL PENELITIAN DAN PEMBAHASAN Hasil Penelitian 1. Analisis Deskriptif
Tabel 1
Analisis Deskriptif
Y
X1
X2
Mean
0.685838
0.085514
0.237986
Median
0.399232
0.078343
0.250000
Maximum
33.27419
0.280030
0.251379
Minimum
-1.683502
-0.044366
0.190000
Std. Dev. 2.541891
0.057395
0.019165
Skewness
12.17557
0.697907
-1.240434
Kurtosis
156.2192
3.792675
3.017793
Jarque-Bera
175503.9
18.78794
44.88041
Probability
0.000000
0.000083
0.000000
Sum
120.0216
14.96490
41.64753
Sum Sq. Dev. 1124.250
0.573198
0.063913
Observations
175
175
175
Sumber: Pengolahan Data Berdasarkan hasil pengujian statistik deskriptif pada tabel 1 di atas menunjukan
jumlah data observasi yang digunakan pada penelitian sebanyak 175 yang merupakan
jumlah sampel perusahaan manufaktur selama periode 2016 – 2020. 2. Uji Asumsi Klasik 2. Uji Asumsi Klasik http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 359
Gambar 1
Histogram Uji Normalitas
0
4
8
12
16
20
24
-0.010
-0.005
0.000
0.005
0.010
Series: Standardized Residuals
Sample 2016 2020
Observations 175
Mean
-6.64e-19
Median
0.000790
Maximum
0.012082
Minimum
-0.011312
Std. Dev. 0.005631
Skewness
-0.192030
Kurtosis
2.453904
Jarque-Bera
3.250064
Probability
0.196905
Sumber: Pengolahan Data Histogram Uji Normalitas 359 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 35 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Langkah awal yang dilakukan adalah uji normalitas dengan menggunakan data
hasil olahan pada histogram pada Gambar 1. Pada Gambar 1 jarque-bera memiliki nilai
probabilitas 0,196905 atau > 0,05 maka dapat diambil kesimpulan bahwa data sudah
terdistribusi normal. Berdasarkan Tabel 2
Uji Multikolinearitas
X1
X2
1
0.03710
0.03710
1
Sumber: Pengolahan Data Tabel 2
Uji Multikolinearitas
X1
X2
1
0.03710
0.03710
1
Sumber: Pengolahan Data Tabel 2
Uji Multikolinearitas
X1
X2
1
0.03710
0.03710
1
Sumber: Pengolahan Data Tabel 2 didapatkan hasil dari uji multikolinieritas menunjukan dari dua variabel
independen memiliki nilai koefisien korelasi < 0,9, yang artinya tidak mengalami
masalah multikolinearitas. Tabel 3
Uji Heteroskedastisitas Tabel 3
Uji Heteroskedastisitas
Variable
Coefficient Std. Error
t-Statistic
Prob. C
-0.007336
0.011914
-0.615771
0.5391
X1
0.048021
0.037029
1.296845
0.1968
X2
-0.012005
0.019610
-0.612195
0.5414
Sumber: Pengolahan Data Tabel 3
Uji Heteroskedastisitas Berdasarkan Tabel 3 hasil uji heteroskedastisitas menunjukan nilai probability
untuk X1 yaitu 0,1968 atau > 0,05 yang berarti tidak terdapat masalah
heteroskedastisitas dan untuk X2 yaitu 0,5414 atau > 0,05 yang artinya juga tidak
terdapat masalah heteroskedastisitas. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Hasil Penelitian Tabel 4
Uji Autokorelasi
Sumber: Pengolahan Data
Weighted Statistics
R-squared
0.986851 Mean dependent var
11.61402
Adjusted R-squared
0.983421 S.D. dependent var
12.46395
S.E. of regression
0.006323 Sum squared resid
0.005518
F-statistic
287.6984 Durbin-Watson stat
2.055849
Prob(F-statistic)
0.000000 Tabel 4
Uji Autokorelasi Sumber: Pengolahan Data Sumber: Pengolahan Data Mengenai area tersebut ditentukan dengan bantuan tabel DW. Dengan k=2 dan
sampel data n=175 maka dL=1,7296 dan dU =1,7758. Berdasarkan Tabel 4 sesuai
dengan estimasi model yang dipilih yaitu fixed effect model yang menunjukan nilai 360 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis durbin watson 2,055849 > dL yakni, 1.7296 < (4-d) 4-2.0558 = 1.9442 > dU yang
berarti dL<(4-d)>dU (1.7296<1.9442>1.7758) maka dapat disimpulkan tidak terjadi
autokorelasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Tabel 5 Tabel 5 Tabel 5
Fixed Effect Model
Variable
Coefficient
Std. Error
t-Statistic
Prob. C
1.526803
0.000864
1767.243
0.0000
X1
-0.005277
0.001812
-2.912404
0.0042
X2
-0.003490
0.001262
-2.765891
0.0065
Effects Specification
Cross-section fixed (dummy variables)
Weighted Statistics
R-squared
0.986851
Mean dependent var
11.61402
Adjusted R-squared
0.983421
S.D. dependent var
12.46395
S.E. of regression
0.006323
Sum squared resid
0.005518
F-statistic
287.6984
Durbin-Watson stat
2.055849
Prob(F-statistic)
0.000000
Sumber: Pengolahan Data Fixed Effect Model Sumber: Pengolahan Data Berdasarkan Tabel 5 maka diperoleh persamaan regresinya adalah: Y = 1.526803 – 0.005277 net profit margin – 0.003490 tax rate + e 3. Uji Hipotesis Langkah selanjutnya yaitu melakukan pengujian hipotesis secara parsial dan
secara simultan untuk mengetahui hubungan antara variabel independen dan variabel
dependen. Langkah pengujian yang dilakukan yaitu uji t dan uji F. Adapun persamaan
regresi menggunakan hasil dari fixed effect model untuk dilakukan pengujian hipotesis
yang hasilnya adalah sebagai berikut: Y = 1.526803 – 0.005277 net profit margin – 0.003490 tax rate + e Dari persamaan regresi yang telah dibuat di atas maka dapat disimpulkan: Konstanta (α) senilai 1.526803 berarti jika X1 (net profit margin) dan X2 (tax
rate) sebesar 0 maka Y (dividend payout ratio) senilai 1.526803. Koefisien regresi
variabel independen net profit margin sebesar -0.005277 yang memiliki pengaruh
negatif terhadap dividend payout ratio yang berarti tidak searah, artinya dari setiap
peningkatan sebesar 1% pada X1 (net profit margin) maka akan berdampak
menurunnya Y (dividend payout ratio) senilai -0.005277. Koefisien regresi tax rate
senilai -0.003490 yang mempunyai pengaruh negatif terhadap dividend payout ratio
yang berarti tidak searah, jadi dengan setiap peningkatan 1% pada X2 (tax rate) maka
akan berdampak menurunnya Y (dividend payout ratio) senilai -0.003490. Dengan menggunakan tingkat signifikansi 0.05 atau (α) 5%, maka apabila nilai
signifikansi < 0.05 artinya terdapat pengaruh signifikan secara parsial begitupun 361 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis sebaliknya. Berdasarkan hasil dari uji t (parsial) didapatkan bahwa pengaruh net profit
margin terhadap dividend payout ratio menunjukkan nilai probabilitasnya yaitu senilai
0.0042 < 0,05 yang berarti bahwa net profit margin memiliki pengaruh signifikan
terhadap dividend payout ratio. Pengaruh tax rate terhadap dividend payout ratio
dilihat dari probabilitasnya yaitu senilai 0.0065 < 0,05 yang berarti berarti bahwa tax
rate memiliki pengaruh signifikan terhadap dividend payout ratio. Dari hasil uji F
(simultan) nilai probabilitas dari estimasi fixed effect model adalah senilai 0,0000 <
0,05 yang berarti hasil tersebut memperlihatkan bahwasanya net profit margin dan tax
rate secara simultan atau bersama-sama memiliki pengaruh signifikan terhadap
dividend payout ratio. Pengujian koefisien determinasi memperlihatkan dari nilai dari
Adjusted R-Square adalah senilai 0.983421, artinya 98,34% variasi dari dividend
payout ratio dijelaskan oleh net profit margin dan tax rate. Adapun sisanya 1,66%
dijelaskan oleh variabel lain di luar penelitian, seperti current ratio, DER, ROA, sales
growth, ROI, cash ratio, ROE, size dan kondisi makro lainnya seperti terjadinya
Pandemi Covid-19 yang menyebabkan kondisi usaha dari perusahaan manufaktur
banyak yang terganggu. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pembahasan Penelitian yang dilakukan menunjukkan hasil bahwa net profit margin memiliki
pengaruh signifikan terhadap dividend payout ratio. Hasil ini menjelaskan bahwa net
profit margin merupakan variabel yang memiliki pengaruh terhadap dividend payout
ratio. Hubungan antara laba bersih dan penjualan, yang dikenal sebagai net profit
margin, menunjukkan kapasitas manajemen untuk mengarahkan bisnis hingga
mencapai sukses besar dalam menerapkan atau mengatur biaya produk atau layanan,
biaya operasional, biaya penyusutan, bunga kredit, dan pajak (Kasmir, 2012). Hanafi &
Halim (2018) menyatakan bahwa salah satu ukuran profitabilitas yang digunakan untuk
menentukan kapasitas perusahaan dalam menghasilkan laba bersih pada tingkat
penjualan tertentu adalah net profit margin. Rasio ini memberikan nilai keuntungan
bagi pemegang saham sebagai persentase dari penjualan. Berdasarkan laporan keuangan yang telah dipublikasikan oleh IDX, kemampuan
perusahaan untuk menghasilkan laba bersih meningkat seiring dengan nilai net profit
margin. Rasio pembayaran dividen dipengaruhi secara negatif oleh net profit margin. Akibatnya, rasio pembayaran dividen akan menurun seiring dengan kenaikan net profit
margin. Bahkan jika net profit margin perusahaan stabil, perusahaan tidak dapat
membagikan dividen kepada pemegang saham. Hal ini karena margin keuntungan
perusahaan terlalu kecil untuk digunakan membayar dividen karena margin laba bersih
yang rendah. Hal ini juga diperkuat dengan Dividend Irrelevance Theory dalam
bukunya Sudana (2011) yang dikemukakan oleh Merton Miller dan Franco Modigliani
menyatakan bahwa nilai perusahaan tidak akan terpengaruh oleh cara perusahaan
membagikan dividen dan menentukan laba ditahan. Pendapatan yang diperoleh akan
dibelanjakan jika perusahaan memiliki investasi yang dapat membantu perusahaan itu
sendiri. Dividen tunai kemudian akan dibagikan kepada pemegang saham jika ada sisa
keuntungan setelah semua proyek investasi selesai. Hasil penelitian ini sejalan dengan
yang dilakukan oleh Ganar (2018) yang membuktikan bahwasanya net profit margin 362 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis memiliki pengaruh signifikan negatif terhadap dividend payout ratio. Hasil dari penelitian yang dilakukan menunjukkan tax rate memiliki pengaruh
signifikan terhadap tax rate. Hal tersebut menunjukan jika terjadi perubahan dari tax
rate maka akan mempengaruhi dividend payout ratio. Hal ini berarti semakin besar
nilai tax rate akan signifikan juga menurunkan nilai dividend payout ratio atau semakin
kecil nilai tax rate maka akan signifikan meningkatkan nilai dividend payout ratio. Menerima dividen atau capital gain dianggap sebagai pendapatan bagi pemegang
saham. Pajak akan dipotong dari semua pendapatan yang diterima, meskipun dividen
dan capital gain dikenakan pajak pada berbagai tingkat. Pembahasan Pemegang saham lebih
memilih menerima dividen jika pajak dividen lebih rendah daripada pajak capital gain. Namun sebaliknya, pemegang saham lebih memilih mendapatkan keuntungan dari
capital gain jika tarif pajaknya lebih rendah dari dividen (Hardiatmo & Daljono, 2013). Besaran tax rate ini juga dipengaruhi oleh Peraturan Pemerintah Pengganti
Undang-Undang (PERPU) No.1/2020 tanggal 31 Maret 2020 tentang “Kebijakan
Keuangan Negara dan Stabilitas Sistem Keuangan untuk Penanganan Pandemi Corona
Virus Disease (Covid-19) dan/atau Dalam Rangka Menghadapi Ancaman yang
Membahayakan Perekonomian Nasional dan/atau Stabilitas Sistem Keuangan” yang
ditandatangani oleh Presiden Republik Indonesia yang mengatur penyesuaian tarif PPh
Badan sebagai berikut: a. Sebesar 22% yang berlaku pada Tahun Pajak 2020 dan 2021. b. Sebesar 20% yang mulai berlaku pada Tahun Pajak 2022. c. Perusahaan Terbuka dalam negeri dengan jumlah keseluruhan saham yang disetor
diperdagangkan pada bursa efek di Indonesia paling sedikit 40% dan memenuhi
persyaratan tertentu sesuai dengan peraturan pemerintah, dapat memperoleh tarif
sebesar 3% lebih rendah dari tarif pada butir a dan b di atas. c. Perusahaan Terbuka dalam negeri dengan jumlah keseluruhan saham yang disetor
diperdagangkan pada bursa efek di Indonesia paling sedikit 40% dan memenuhi
persyaratan tertentu sesuai dengan peraturan pemerintah, dapat memperoleh tarif
sebesar 3% lebih rendah dari tarif pada butir a dan b di atas. Maka dapat diambil kesimpulan pembagian dividen dipengaruhi oleh jumlah
pajak penghasilan. Hal ini sejalan dengan penelitian yang dilakukan oleh Hadiwidjaja
(2007) yang menyatakan bahwa tax rate berpengaruh signifikan secara parsial terhadap
dividend payout ratio. Hasil dari penelitian yang dilakukan menunjukkan variabel net profit margin dan
tax rate secara simultan memiliki pengaruh signifikan terhadap dividend payout ratio. Hal ini menjelaskan jika perubahan secara bersamaan dari variabel tersebut maka
dividend payout ratio juga akan mengalami perubahan signifikan berdasarkan
perubahan dari nilai kedua variabel bebas tersebut yakni net profit margin dan tax rate. Adapun investor dalam menentukan keputusan investasi menjadi keharusan untuk
melihat pengaruh dari beberapa variabel sekaligus dalam memutuskan keputusan untuk
melakukan investasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENUTUP Variabel net profit margin mempunyai pengaruh signifikan negatif terhadap
dividend payout ratio. Pengaruh net profit margin pada dividend payout ratio 363 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis menunjukkan jika net profit margin mengalami peningkatan maka dividend payout
ratio akan mengalami penurunan. Begitu pula jika net profit margin menurun maka
dividend payout ratio mengalami peningkatan. Untuk variabel tax rate juga
berpengaruh signifikan negatif terhadap variabel dividend payout ratio. Hal ini bisa
terjadi karena kecilnya margin laba bersih sehingga profit margin yang dimiliki
perusahaan manufaktur belum bisa untuk digunakan untuk membayar dividen
perusahaan. Meskipun margin laba bersih perusahaan semakin stabil namun perusahaan
tidak bisa membayarkan dividen kepada pemegang saham. Ini juga dapat terjadi jika
perusahaan melakukan investasi yang akan membantunya tumbuh; dalam hal ini, laba
yang telah dihasilkan akan dibelanjakan untuk keperluan investasi. Kemudian, jika ada
sisa keuntungan setelah membayar semua inisiatif investasi, maka dividen tunai akan
dibagikan kepada pemegang saham.. Hasil penelitian secara simultan menunjukan
bahwa net profit margin dan tax rate mempunyai pengaruh signifikan terhadap
dividend payout ratio. menunjukkan jika net profit margin mengalami peningkatan maka dividend payout
ratio akan mengalami penurunan. Begitu pula jika net profit margin menurun maka
dividend payout ratio mengalami peningkatan. Untuk variabel tax rate juga
berpengaruh signifikan negatif terhadap variabel dividend payout ratio. Hal ini bisa
terjadi karena kecilnya margin laba bersih sehingga profit margin yang dimiliki
perusahaan manufaktur belum bisa untuk digunakan untuk membayar dividen
perusahaan. Meskipun margin laba bersih perusahaan semakin stabil namun perusahaan
tidak bisa membayarkan dividen kepada pemegang saham. Ini juga dapat terjadi jika
perusahaan melakukan investasi yang akan membantunya tumbuh; dalam hal ini, laba
yang telah dihasilkan akan dibelanjakan untuk keperluan investasi. Kemudian, jika ada
sisa keuntungan setelah membayar semua inisiatif investasi, maka dividen tunai akan
dibagikan kepada pemegang saham.. Hasil penelitian secara simultan menunjukan
bahwa net profit margin dan tax rate mempunyai pengaruh signifikan terhadap
dividend payout ratio. Unsur net profit margin dan tax rate harus diperhitungkan oleh investor yang
ingin melakukan investasi di sektor manufaktur karena memiliki dampak yang cukup
besar terhadap keputusan mengenai rasio pembayaran dividen pada bisnis manufaktur
yang terdaftar di Bursa Efek Indonesia. Selain itu, peneliti selanjutnya sebaiknya
menambah periode penelitian, mengambil sampel perusahaan yang lebih banyak, dan
meneliti lebih banyak perusahaan yang terdaftar di Bursa Efek Indonesia. PENUTUP Karena
kualitas penelitian dan hasilnya akan meningkat dengan menggunakan lebih banyak
sampel dan populasi dalam penelitian. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Adeiza, M. O., Sabo, A., & Abiola, M. A. (2020). Dividend Payout Effects on Firm
Performance in Nigerian Oil and Gas Sector. Open Journal of Social Sciences,
08(07), 370–385. https://doi.org/10.4236/jss.2020.87030 Enekwe, C. I., Nweze, A. U., & Agu, C. I. (2015). The Effect of Dividend Payout on
Performance Evaluation: Evidence of Quoted Cement Companies in Nigeria. European Journal of Accounting, Auditing and Finance Research, 3(11), 2053–
4094. Fauziah, F. (2010). Analisis Faktor-Faktor yang Mempengaruhi Dividend Payout Ratio
pada Perusahaan Manufaktur yang Go Public di Bursa Efek Indonesia. Tesis. Universitas Sumatera Utara. Ganar, Y. B. (2018). Pengaruh Current Ratio, Net Profit Margin, Return On Equity dan
Earning Per Share Terhadap Dividend Payout Ratio Pada Perusahaan Yang
Terdaftar Di Bursa Efek Indonesia Periode 2013-2016. Jurnal Disrupsi Bisnis,
1(1), 17–35. Gill, A., Biger, N., & Tibrewala, R. (2010). Determinants of Dividend Payout Ratios:
Evidence from United States. The Open Business Journal, 3(1), 8–14. https://doi.org/10.2174/1874915101003010008 p
g
Hadiwidjaja, R. D. (2007). Analisis Faktor-Faktor yang Mempengaruhi Dividend
Payout Ratio pada Perusahaan Manufaktur di Indonesia. Tesis. Universitas 364 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Sumatera Utara. Hardiatmo, B., & Daljono. (2013). Analisis Faktor-Faktor yang Mempengaruhi
Kebijakan Dividen (Studi Empiris Perusahaan Manufaktur yang listing di Bursa
Efek Indonesia Periode 2008-2010). Diponegoro Journal of Accounting, 2(1), 1–
13. Kasmir. (2012). Analisis Laporan Keuangan. Jakarta: Raja Grafindo Persada. Kasmir. (2012). Analisis Laporan Keuangan. Jakarta: Raja Grafindo Persada. Labhane, N. B., & Das, R. C. (2015). Determinants of Dividend Payout Ratio:
Evidence from Indian Companies. Business and Economic Research, 8(2), 217–
241. https://doi.org/10.5296/ber.v5i2.8154 Lucyanda, J., & Lilyana. (2012). Pengaruh Free Cash Flow, Profitabilitas, Likuiditas,
dan Leverage Terhadap Kebijakan Dividen. Jurnal Dinamika Akuntansi, 4(2),
129–138. Mamaro, L. P., & Tjano, R. N. T. (2019). The Relationship between Dividend Payout
and Financial Performance: Evidence from Top40 JSE Firms. Journal of
Accounting and Management, 9(2), 5–19. Mawardani, N. P., & Djawato. (2018). Pengaruh Profitabilitas, Likuiditas, dan Cash
Flow Terhadap Kebijakan Dividen pada Perusahaan Food and Beverages. Jurnal
Ilmu Dan Riset Manajemen, 7(2), 1–16. Murhadi, W. R. (2013). Analisis Laporan Keuangan : Proyeksi dan Valuasi Saham. Jakarta: Salemba Empat. Novyarni, N., & Permana, R. Y. (2020). INFORMASI ARTIKEL This research is a field research that uses a qualitative
descriptive method. Where the data sources are primary
and secondary obtained by interviews, observation and
documentation. Data processing begins with correcting
data, followed by rearranging data and analyzing existing
data in order to find results as answers to the problem
formulation. regulate the terms of murabahah financing,
such as making riba-free contracts, buying goods on
behalf of the cooperative, and conveying information
related to purchases to members. Riwayat Artikel:
Diterima : 24 Juli 2023
Direvisi : 01 Agustus 2023
Disetujui : 05 Agustus 2023 Keywords:
Murabahah Financing, Berkah
Services Cooperation,
Bengkulu City
Kata kunci:
Pembiayaan Murabahah,
Koperasi Jasa Berkah, Bengkulu Keywords:
Murabahah Financing, Berkah
Services Cooperation,
Bengkulu City ANALISIS PEMBIAYAAN MURABAHAH PADA KOPERASI JASA
BERKAH BERSAMA SYARIAH KOTA BENGKULU
ANALYSIS OF MURABAHAH FINANCING IN BERKAH JOINT
SHARIA SERVICES COOPERATIVES IN BENGKULU CITY Amir Mukadar1, Dharma Setiawan2,Nazar 3,Muhammad Said Romadhon4
Universitas Muhammadiyah Bengkulu1-4
amirmukadar@umb.ac.id1, dharmasetiawan09@gmail.com2 , nzraran123@gmail.com3,
msaidromadhon56@gmail.com4 Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: amirmukadar@umb.ac.id Jl. Adam Malik Km. 9 Kota Bengkulu
Corresponding email: amirmukadar@umb.ac.id DAFTAR RUJUKAN Effect of Current Ratio, Return on Asset, Net
Profit Margin and Debt to Equity Ratio on Dividend Pay Out Ratio (For company
listed in the LQ45 on Indonesian Stock Exchange). Advances in Economics,
Business
and
Management
Research,
127
(Aicar
2019),
41–45. https://doi.org/10.2991/aebmr.k.200309.010 Sudana, I. M. (2011). Manajemen Keuangan Perusahaan : Teori & Praktik (N. I. Sallama, Ed.). Jakarta: Erlangga. 365 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis ABSTRAK Penelitian ini merupakan penelitian lapangan yang
menggunakan metode deskriptif kualitatif. Dimana
sumber data adalah primer dan sekunder yang
diperoleh
dengan
wawancara,
observasi
dan
dokumentasi. Pengolahan data dimulai dengan
mengoreksi data, dilanjutkan dengan penyusunan
kembali data dan menganalisis data yang ada guna
menemukan hasil sebagai jawaban dari rumusan
masalah.Berdasarkan hasil penelitian, koperasi Jasa
Berkah Bersama Syariah Kota Bengkulu melakukan
pembiayaan akad murabahah kepada anggotanya
sesuai dengan Fatwa DSN-MUI yang mengatur
syarat-syarat
pembiayaan
murabahah,
seperti
melakukan akad yang bebas riba, membeli barang
atas nama koperasi, dan menyampaikan informasi
terkait pembelian kepada anggota. Kata kunci: 366 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Umat Islam memang memiliki tantangan yang cukup berat dalam menjalani
kehidupan modern yang semakin kompleks. Di satu sisi harus terus mengikuti
lingkungan global yang terus berkembang pesat terkhusus di sektor ekonomi dan
tekonologi, namun di sisi lain juga harus tetap menjaga semua perkembangan itu dalam
koridor nilai-nilai syariah. Perkembangan global di bidang ekonomi salah satunya
dengan adanya koperasi syariah, dengan adanya koperasi syariah umat Islam memiliki
pilihan untuk tetap berpegang pada nilai-nilai syariah dan menghindari hal-hal yang
dianggap haram dalam agama Islam, seperti riba (Defitri et al., 2022). gg p
g
p
Namun, meskipun koperasi syariah telah memberikan solusi dalam hal simpan
pinjam dan keuangan, umat Islam masih dihadapkan pada tantangan yang lebih besar
dalam menghadapi modernisasi dan globalisasi. Salah satunya adalah “bagaimana
mengintegrasikan nilai-nilai syariah dalam dunia bisnis dan teknologi yang semakin
maju” (Nugraha et al., 2022). Untuk mengatasi tantangan tersebut, “umat Islam harus
terus mempelajari dan memahami nilai-nilai syariah yang sejalan dengan
perkembangan zaman” (Bauty et al., 2020). Selain itu, mereka juga “harus mampu beradaptasi dengan perubahan yang terjadi
dan memanfaatkan teknologi dengan bijak sesuai dengan nilai-nilai Islam” (Anwar &
Edward, 2016). Dalam hal ini, pendidikan agama dan keuangan menjadi sangat penting
untuk memperkuat pemahaman umat Islam tentang nilai-nilai syariah dan menghindari
hal-hal yang dianggap haram dalam agama Islam. Dengan demikian, umat Islam dapat
tetap berpegang pada nilai-nilai syariah dan tetap bertahan di era modern yang semakin
kompleks. Islam dalam tegas melarang praktik riba, sehingga mau tidak mau maka orang-
orang islam harus mencari jalan lain untuk menghindarinya salahsatunyadengan cara
menggunakan mekanisme bebas bunga yang ada di koperasi syariah. Sesuai pada kitab
suci Al-Qur’andalam surat Al-Baqarah ayat 275 yang berbunyi: Artinya: “orang-orang yang makan (mengambil) riba tidak dapat berdiri melainkan
seperti berdirinya orang yang kemasukan syaitan lantaran (tekanan) penyakit gila. Keadaan mereka yang demikian itu, adalah disebabkan mereka berkata (berpendapat)
sesungguhnya jual beli itu sama dengan riba, padahal Allah telah menghalalkan jual
beli dan mengharamkan riba. Barang siapa mendapatperingatan dari tuhannya, lalu dia
berhenti, maka apa yang telah diperolehnya dahulu menjadi miliknya dan urusannya
(terserah) kepada Allah. Barang siapa mengulangi, maka mereka itu penghuni neraka,
mereka kekal didalamnya” (Q.S. Al- Baqarah: 275). Artinya: “orang-orang yang makan (mengambil) riba tidak dapat berdiri melainkan
seperti berdirinya orang yang kemasukan syaitan lantaran (tekanan) penyakit gila. Keadaan mereka yang demikian itu, adalah disebabkan mereka berkata (berpendapat)
sesungguhnya jual beli itu sama dengan riba, padahal Allah telah menghalalkan jual
beli dan mengharamkan riba. PENDAHULUAN Barang siapa mendapatperingatan dari tuhannya, lalu dia
berhenti, maka apa yang telah diperolehnya dahulu menjadi miliknya dan urusannya
(terserah) kepada Allah. Barang siapa mengulangi, maka mereka itu penghuni neraka,
mereka kekal didalamnya” (Q.S. Al- Baqarah: 275). Penggunaan koperasi syariah sebagai alternatif bagi umat Islam dalam
menghindari praktik riba memang menjadi solusi yang tepat dan sejalan dengan ajaran
Islam. Praktik riba yang dilarang dalam agama Islam tidak hanya berlaku pada dunia
koperasi, tetapi juga dalam segala aspek kehidupan, termasuk dalam transaksi jual beli. 367 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Namun, penghindaran praktik riba bukan berarti menghambat kemajuan ekonomi dan
teknologi umat Islam. Sebaliknya, koperasi syariah dan mekanisme keuangan bebas
riba dapat membuka peluang baru bagi umat Islam dalam berpartisipasi dalam ekonomi
global. Selain itu, koperasi syariah juga menawarkan nilai tambah yang berbeda dari
koperasi konvensional, yaitu dalam bentuk pemberian keuntungan yang bersifat halal
dan adil bagi semua pihak yang terlibat dalam transaksi. Namun, penghindaran praktik riba bukan berarti menghambat kemajuan ekonomi dan
teknologi umat Islam. Sebaliknya, koperasi syariah dan mekanisme keuangan bebas
riba dapat membuka peluang baru bagi umat Islam dalam berpartisipasi dalam ekonomi
global. Selain itu, koperasi syariah juga menawarkan nilai tambah yang berbeda dari
koperasi konvensional, yaitu dalam bentuk pemberian keuntungan yang bersifat halal
dan adil bagi semua pihak yang terlibat dalam transaksi. Dalam ajaran Islam, penghindaran praktik riba bukan hanya sekedar
melaksanakan kewajiban agama, tetapi juga sebagai bentuk kepedulian terhadap
sesama dan keadilan social (Triharyati & Nursita, 2020). Dalam hal ini, koperasi syariah
dan mekanisme keuangan bebas riba menjadi alat yang efektif dalam mewujudkan
nilai-nilai tersebut. Namun, penting bagi umat Islam untuk terus memperkuat
pemahaman dan kesadaran akan nilai-nilai syariah dalam berbagai aspek kehidupan,
termasuk dalam hal penggunaan koperasi syariah. Dengan begitu, umat Islam dapat
terus berkembang dan berkontribusi dalam pembangunan ekonomi dengan tetap
berpegang pada nilai-nilai agama yang telah diwariskan. Koperasi syariah sendiri telah berkembang pesat dalam beberapa tahun terakhir,
bahkan telah menjadi alternatif yang populer bagi masyarakat muslim di kota Bengkulu
yang ingin melakukan kegiatan simpan pinjam tanpa harus menggunakan sistem bunga
yang dianggap haram. Hal ini dapat dilihat dari jumlah total keseluruhan koperasi yang
ada di kota Bengkulu yang berjumlah 768 koperasi yang mana di antaranya terindikasi
dari nama merupakan koperasi syariah yang berjumlah 19 koperasi (Koperasi & UKM,
2023). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 PENDAHULUAN Koperasi syariah bukan hanya memberikan solusi bagi umat Islam dalam hal
keuangan, tetapi juga memberikan kontribusi besar dalam pembangunan ekonomi
daerah khususnya kota Bengkulu. Perkembangan koperasi syariah di kota Bengkulu
masih perlu terus ditingkatkan agar dapat bersaing dengan koperasi konvensional. Salah satu hal yang perlu diperhatikan adalah bagaimana prosedur pembiayaan pada
koperasi syariah. Selain itu, juga perlu dilakukan pengecekan terhadap sistem yang
berlaku di koperasi syariah apakah sudah sesuai dengan Fatwa DSN - MUI tentang
akad Murabahah No. 04/DSN-MUI/IV/2000 yang berlaku (DEWAN SYARI’AH
NASIONAL 2000). Dengan upaya-upaya tersebut, diharapkan koperasi syariah dapat
terus berkembang dan memberikan kontribusi yang lebih besar dalam pengembangan
ekonomi terkhususnya masyarakat kota Bengkulu. y
y
g
Disisi lain, koperasi syariah juga memiliki peran yang sangat penting dalam
meningkatkan produksi dan penghasilan masyarakat serta memberikan kontribusi nilai
tambah dalam ekonomi dan pembangunan wilayah khususnya kota Bengkulu. Melalui
koperasi, masyarakat dapat memperoleh akses keuangan yang lebih mudah dan
terjangkau, serta mendapatkan bantuan dalam menjalankan usaha. Dalam rangka meningkatkan pemberdayaan ekonomi rakyat, pemerintah baik
pusat maupun daerah terus mendorong adanya koperasi syariah. Koperasi syariah
menjadi gerakan ekonomi rakyat yang dapat memenuhi harapan tersebut. Oleh karena
itu, pembiayaan murabahah yang ditawarkan oleh koperasi syariah merupakan salah
satu solusi bagi masyarakat yang ingin memperoleh akses keuangan yang mudah dan
terjangkau dalam menjalankan usaha. Namun pada pelaksanaannya akad Murabahah
ini belum sepenuhnya diaplikasikan dengan mengacu kepada Fatwa DSN - MUI
tentang akad Murabahah No. 04/DSN-MUI/IV/2000. Hal ini merujuk sumber data 368 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dari penelitian sebelumnya yang membahas pada topik yang hampir sama dalam
lembaga keuangan syariah yang ada. Dimana “dalam paraktek pembiayaan dan teori
Fatwa DSN - MUI tentang akad Murabahah No. 04/DSN-MUI/IV/2000 masih
terdapat perbedaan yang terjadi” (Mukadar et al., 2021). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Produk-produk Koperasi Syari’ah Produk-produk Koperasi syariah merupakan Koperasi dengan prinsip dasar bagi
hasil yang merupakan landasan utama dalam segala operasinya, baik dalam pengerahan
dananya maupun dalam penyaluran dananya. secara garis besar jenis kegiatan usaha
Koperasi syariah dapat dibagi kedalam tiga kategori utama yaitu penghimpunan dan
(funding), penyaluran dana (lending), dan pelayanan jasa (Mukadar et al., 2021b;
Ranidiah & Arianto, 2020) . 1. Produk penghimpunan dana (funding)
Penghimpunan dana di Koperasi syariah dapat berbentuk simpanan dengan yaitu
simpanan Pokok, simpanan wajib dan simpanan sukarela yang bisa dikemas dalam
bentuk tabungan, dan deposito. prinsip operasional syariah yang diterapkan dalam
penghimpunan dana masyarakat adalah prinsip wadi’ah dan mudharabah. a. Prinsip wadi’ah secara bahasa adalah berasal dari akar kata wada’a berarti
meninggalkan atau titipan. wadi’ah adalah akad penitipan barang/uang antara
pihak yang mempunyai barang uang dengan pihak yang di beri kepercayaan
dengan tujuan untuk menjaga keselamatan, keamanan, serta keutuhan
barang/uang. dalam perkembangannya, wadi’ah terbagi atas dua macam, yaitu
wadi’ah yad amanah dan wadi’ah yad dhamanah. Wadi’ah yad amanah adalah
akad penitipan barang/uang dimana pihak penerima tidak diperkenakan
menggunakan barang/uang yang dititipkan dan tidak bertanggung jawab atas
kerusakan dan kehilangan barang titipan yang bukan diakibatkan perbuatan
atau kelalian penerima titipan, sedangkan wadi’ah yad dhamanah adalah
titipan barang atau uang dimana pihak penerima titipan dengan atau tanpa izin
pemilik barang/uang dapat bertanggung jawab terhadap kehilangan atau
kerusakan barang/uang titipan b. Prinsip Mudharabah, berasal dari bahasa arab dharb yang berarti perjalanan
di atas atau bepergian di muka bumi. sekedar menurut istilah mudharabah
adalah suatu kontak kemitraan (partnship) yang berlandaskan pada prinsip
pembagin hasil dengan cara seseorang memberikan modalnya kepada orang
lain untuk melakukan bisnis dan kedua belah pihak membagi keuntungan atau
memikul beban kerugian berdasarkan isi perjanjian bersama. Secara teknis,
mudharabah adalah akad kerjasama antara dua pihak yaitu pemilik modal
(shahibul maal) dengan pengelola (mudharib), dimana pemilik modal
menyediakan seluruh modal sedangkan pihak lain menjadi pengelolah dengan
tujuan memperoleh pendapatan atau keuntungan. pendapatan atau keuntungan
tersebut dibagi berdasarkan nisbah yang telah disepakati di awal akad. Aplikasinya dalam perKoperasi an syariah yaitu pada deposito dan tabungan b. Prinsip Mudharabah, berasal dari bahasa arab dharb yang berarti perjalanan
di atas atau bepergian di muka bumi. sekedar menurut istilah mudharabah
adalah suatu kontak kemitraan (partnship) yang berlandaskan pada prinsip
pembagin hasil dengan cara seseorang memberikan modalnya kepada orang
lain untuk melakukan bisnis dan kedua belah pihak membagi keuntungan atau
memikul beban kerugian berdasarkan isi perjanjian bersama. Al-musyarakah Al-musyarakah adalah kerjasama antara kedua pihak atau lebih untuk suatu
usaha tertentu dimana masing-masing pihak memberikan kontribusi dana
dengan keuntungan dan resiko akan ditanggung bersama sesuai dengan
kesepakatan. b. Prinsip bagihasil (syirkah). b. Prinsip bagihasil (syirkah). Murabahah Murabahah
Murabahah berasal dari kata ribhu (keuntungan), adalah akad jual beli barang
antara dua belah pihak, dengan menyatakan harga perolehan dan keuntungan
(margin) yang disepakati oleh penjual dan pembeli. dimana Koperasi bertindak
sebagai penjual, sebagai Anggotasebagai pembeli. kedua pihak harus
menyepakati harga jual dan jangka waktu pembayaran. harga jual dicantumkan
dalam akad jual beli dan jika telah disepakati tidak dapat berubah selama
berlakunya akad. Salam Salam adalah transaksi jual beli dimana barang diperjual belikan belum ada. oleh karna itu, barang di serahkan secara tangguh sementara pembayaran
dilakukan tunai. Koperasi bertindak sebagai pembeli, sebagai Anggotasebagai
penjual. dalam transaksi ini kualitas, kuantitas, harga, dan waktu penyerahan
barang harus ditentukan secara pasti. Istisna’ Salam adalah transaksi jual beli dimana barang diperjual belikan belum ada. oleh karna itu, barang di serahkan secara tangguh sementara pembayaran
dilakukan tunai. Koperasi bertindak sebagai pembeli, sebagai Anggotasebagai
penjual. dalam transaksi ini kualitas, kuantitas, harga, dan waktu penyerahan
barang harus ditentukan secara pasti. Istisna’
Istisna’ adalah pembelian barang melalui pesanan dan diperlukan proses
pembuatanya sesuai dengan pesanan pembeli dan pembayaran dilakukan di
muka sekaligus atau secara bertahap atau cicilan Istisna’ adalah pembelian barang melalui pesanan dan diperlukan proses
pembuatanya sesuai dengan pesanan pembeli dan pembayaran dilakukan di
muka sekaligus atau secara bertahap atau cicilan. Produk-produk Koperasi Syari’ah Secara teknis,
mudharabah adalah akad kerjasama antara dua pihak yaitu pemilik modal
(shahibul maal) dengan pengelola (mudharib), dimana pemilik modal
menyediakan seluruh modal sedangkan pihak lain menjadi pengelolah dengan
tujuan memperoleh pendapatan atau keuntungan. pendapatan atau keuntungan
tersebut dibagi berdasarkan nisbah yang telah disepakati di awal akad. Aplikasinya dalam perKoperasi an syariah yaitu pada deposito dan tabungan 369 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Dalam perKoperasi an syariah, mudharabah dibagi menjadi dua yaitu
mudharabah mutlaqah dan mudharabah muqayyadah. mudharabah mutlakah
adalah bentuk kerjasama antara pemilik dana (shahibul maal) dengan
pengelola (mudharib) yang cakupanya sangat luas dan tidak dibatasi oleh
spesifikasi jenis usaha, waktu dan daerah bisnis. penyedia dana melimpahkan
kekuasaan yang sebesar-besarnya kepada mudharib untuk mengelola dananya. sedangkan mudharabah muqayyada adalah bentuk kerjasama antara pemilik
dana (shahibul maal) dengan pengelola (mudharib) yang dibatasi oleh
spesifikasi jenis usaha, waktu, dan daerah bisnis. p
j
2. Produk Penyaluran Dana (Lending) Dalam menyalurkan dana, Koperasi syariah
dapat memberikan berbagai bentuk pembiayaan yang diberikan oleh Koperasi
syariah yaitu mudharabah dan musyarakah (dengan pola sewa operasional maupun
financial). a. Prinsip jual beli (Ba’i)
Murabahah
Murabahah berasal dari kata ribhu (keuntungan), adalah akad jual beli barang
antara dua belah pihak, dengan menyatakan harga perolehan dan keuntungan
(margin) yang disepakati oleh penjual dan pembeli. dimana Koperasi bertindak
sebagai penjual, sebagai Anggotasebagai pembeli. kedua pihak harus
menyepakati harga jual dan jangka waktu pembayaran. harga jual dicantumkan
dalam akad jual beli dan jika telah disepakati tidak dapat berubah selama
berlakunya akad. 2. Produk Penyaluran Dana (Lending) Dalam menyalurkan dana, Koperasi syariah
dapat memberikan berbagai bentuk pembiayaan yang diberikan oleh Koperasi
syariah yaitu mudharabah dan musyarakah (dengan pola sewa operasional maupun
financial). 2. Produk Penyaluran Dana (Lending) Dalam menyalurkan dana, Koperasi syariah
dapat memberikan berbagai bentuk pembiayaan yang diberikan oleh Koperasi
syariah yaitu mudharabah dan musyarakah (dengan pola sewa operasional maupun
financial). Al-mudharabah Al-mudharabah adalah akad kerjasama usaha antara dua pihak dimana pihak
pertama (shahibul maal) menyediakan seluruh modal, sedangkan pihak lainya
menjadi pengelola. keuntungan usaha dibagi menurut kesepakatan yang
dituangkan dalam kontak, sedangkan apabila rugi ditanggung oleh pemilik
modal selama kerugian itu bukan akibat kelalaian sipengelolah c. Prinsip sewa-penyewa
Ijarah c. Prinsip sewa-penyewa
Ijarah c. Prinsip sewa-penyewa
Ijarah c. Prinsip sewa-penyewa
Ijarah 370 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Ijarah adalah pembiayaan berupa talangan dana yang dibutuhkan Anggotauntuk
memiliki suatu barang/jasa dengan kewajiban menyewa barang tersebut sampai
jangka waktu tertentu sesuai dengan kesepakatan. Ijarah muntahiya bittamlik (IMBT)
Ijarah mutahiyah bitamlik (IMBT) adalah akad sewa menyewa barang antara
(muajir) dengan penyewa (mustajir) yang diikuti janji, bahwa saat yang
ditentukan kepemilikan barang sewaan akan berpindah kepada mustajir. adapun
fatwa yang mengatur tentang ijarah muntahiyah bittamlik yaitu fatwa DSN No. 27/DSN MUI/III/2002. Ijarah adalah pembiayaan berupa talangan dana yang dibutuhkan Anggotauntuk
memiliki suatu barang/jasa dengan kewajiban menyewa barang tersebut sampai
jangka waktu tertentu sesuai dengan kesepakatan. Ijarah adalah pembiayaan berupa talangan dana yang dibutuhkan Anggotauntuk
memiliki suatu barang/jasa dengan kewajiban menyewa barang tersebut sampai
jangka waktu tertentu sesuai dengan kesepakatan. Ijarah muntahiya bittamlik (IMBT) Ijarah muntahiya bittamlik (IMBT)
Ijarah mutahiyah bitamlik (IMBT) adalah akad sewa menyewa barang antara
(muajir) dengan penyewa (mustajir) yang diikuti janji, bahwa saat yang
ditentukan kepemilikan barang sewaan akan berpindah kepada mustajir. adapun
fatwa yang mengatur tentang ijarah muntahiyah bittamlik yaitu fatwa DSN No. 27/DSN MUI/III/2002. 3. Produk Jasa
Selain menjalankan teransaksi untuk mencari keuntungan, Koperasi syariah juga
melakukan transaksi yang tidak untuk mencari keuntungan. transaksi ini tercakup
dalam jasa pelayanan (fee based income). adapun yang termasuk dalam produk jasa
yaitu: a. Kafalah (garansi Koperasi )
Kafalah adalah transaksi dimana pihak pertama bersedia menjadi penanggung
atas kegiatan yang dilakukan oleh pihak kedua, sepanjang sesuai yang di
perjanjikan dimana pihak pertama menerima imbalan berupa fee atau komisi
(garansi). kafalah dapat diberikan dengan tujuan untuk menjamin pembayaran
suatu kewajiban pembayaran. Koperasi dapat mensyaratkan Anggotauntuk
menepatkan sejumlah dana untuk fasilitas ini sebagai rahn. Koperasi dapat pula
menerima danaa tersebut dengan prinsip wadi’ah. b. Hiwalah (Alih utang piutang)
Hiwalah adalah transaksi pengalihan utang-piutang atau pengalihan piutang
Anggotakepada Koperasi syariah. adapun tujuan fasilitas hiwalah adalah untuk
membantu supplier mendapatkan modal tunai agar dapat melanjutkan
produksinya. Koperasi mendapat ganti biaya atas jasa pemindahan piutang. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Al-mudharabah untuk mengantisipasi resiko kerugian yang akan timbul, Koperasi perlu
melakukan penelitian atas kemampuan pihak yang berutang dan kebenaran
transaksi antara yang memindahkan piutang dengan yang berutang. c. Wakalah (perwakilan)
Wakalah adalah transaksi dimana pihak pertama memberikan kuasa kepada
pihak kedua (sebagai wakil) untuk urusan tertentu dimana pihak kedua mendapat
imbalan berupa fee atau komisi. wakalah dalam aplikasi perKoperasi an terjadi
apabila Anggotamemberikan kuasa kepada Koperasi untuk mewakili dirinya
melakukan pekerjaan jasa tertentu, seperti pembukaan L/C, inkaso dan transfer
uang. Koperasi dan Anggotayang dicantumkan dalam akad pemberian kuasa
harus cukup hukum. kelalaian dalam menjalankan kuasa menjadi tanggung
jawab Koperasi , kecuali kegagalan karna force majeure menjadi tanggung jawab
nasabah. apabila Koperasi yang ditunjuk lebih dari satu, maka masing-masing
Koperasi tidak boleh bertindak sendiri-sendiri tanpa musyawarah dengan
Koperasi yang lain, kecuali dengan seizing nasabah. tugas, wewenang dan 371 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 371 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis tanggung jawab Koperasi harus jelas sesuai kehendak AnggotaKoperasi . setiap
tugas yang dilakukan harus mengatasnamakan Anggotadan harus dilaksanakan
oleh Koperasi. d. Rahn (Gadai)
Rahn dalam bahasa umum lebih dikenal dengan gadai. Rahn (gadai) adalah
transaksi gadai dimana seseorang yang membutuhkan dana dapat menggadaikan
barang yang dimilikinya kepada Koperasi syariah dan atas izin Koperasi
syariah, orang tersebut dapat menggunakan barang yang digadaikan tersebut,
dengan syarat harus dipelihara dengan baik. adapun tujuan dari akad rahn adalah
untuk memberikan jaminan pembayaran kembali kepada Koperasi dalam
memberikan pembiayaan. Barang yang digadaikan wajib memenuhi criteria: 1) Milik Anggotasendiri 2) Jelas ukuran, dan nilainya ditentukan berdasarkan nilai riil pasar 3) Tidak di kuasai namun tidak boleh dimanfaatkan oleh Koperasi Atas izin
Koperasi , Anggotadapat menggunakan barang tertentu yang digadaikan
dengan tidak mengurangi nilai dan merusak barang yang digadaikan. apabila
barang yang digadaikan rusak atau cacat, Anggotaharus bertanggung jawab,
apabila Anggotawanprestasi, Koperasi dapat melakukan penjualan barang
yang digadaikan atas perintah hakim. Anggotamempunyai hak untuk menjual
barang tersebut dengan seizin Koperasi . apabila hasil penjualan melebihi
kewajibanya, kelebihan tersebut menjadi milik nasabah. dalam hal hasil
penjualan tersebut lebih kecil dari kewajibanya, maka Anggotaharus
menutupi kekurangannya. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 METODE PENELITIAN Dalam penulisan ini penulis menggunakan metode penelitian kualitatif.Lokasi
penelitian yang dilakukan bertempat di Kantor Koperasi Jasa Berkah Bersama Syariah
Kota Bengkulu yang beralamat di Jl. Dempo Raya, Sawah Lebar, Kec. Ratu Agung,
Kota Bengkulu, Bengkulu.Metode penelitian kualitatif yang digunakan dalam
penelitian ini bertujuan untuk mengumpulkan data yang deskriptif dan memahami
secara mendalam tentang fenomena yang diamati. Metode pengambilan data yang
digunakan antara lain observasi, wawancara, dan dokumentasi. Observasi dilakukan
untuk memperoleh informasi mengenai kegiatan operasional di koperasi, seperti proses
peminjaman dana, proses pengembalian dana, dan proses keuangan lainnya. Wawancara dilakukan dengan pengurus koperasi dan anggota koperasi untuk
memperoleh informasi yang lebih rinci mengenai motivasi dan tujuan mereka
bergabung di koperasi. Sedangkan dokumentasi dilakukan dengan mengumpulkan
dokumen-dokumen yang terkait dengan kegiatan operasional koperasi, seperti laporan
keuangan, rencana kerja, dan regulasi internal. g
j
g
Dalam penggunaan metode penelitian kualitatif, analisis data dilakukan secara
induktif dan interpretatif. Data yang terkumpul dianalisis secara mendalam untuk 372 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis memahami fenomena yang diamati. Hasil analisis kemudian disusun dalam bentuk
narasi atau laporan untuk menjelaskan temuan yang ditemukan. Dengan memilih
metode penelitian kualitatif ini, penulis berusaha untuk menggambarkan secara jelas
segala hal yang terjadi dilapangan dan kemudian dianalisa untuk mendapatkan hasil
berdasarkan tujuan penelitian. Pendekatan kualitatif ini menitik beratkan pada data-data
penelitian yang dihasilkan berupa kata- kata melalui wawancara dan pengamatan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Keuntungan dari bisnis atau usaha koperasi akan dibagi berdasarkan
kesepakatan antara anggota koperasi sebagai pemilik modal dan pengelola koperasi
sebagai pengelola modal, dengan pembagian yang dapat ditentukan sebelumnya dalam
akad mudharabah. usaha koperasi. Keuntungan dari bisnis atau usaha koperasi akan dibagi berdasarkan
kesepakatan antara anggota koperasi sebagai pemilik modal dan pengelola koperasi
sebagai pengelola modal, dengan pembagian yang dapat ditentukan sebelumnya dalam
akad mudharabah. HASIL PENELITIAN DAN PEMBAHASAN Produk-Produk Koperasi Jasa Berkah Bersama Syariah p
J
y
Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu memiliki beberapa
produk yang di gunakan dalam pembiayaan yaitu Murabahah adalah pembiayaan akad
jual beli yang diajukan oleh anggota untuk membeli barang pesanan dengan
mengajukannya ke koperasi, kemudian koperasi membelikan barang tersebut dan
menjualnya kepada anggota dengan menegaskan harga belinya kepada anggota dan
anggota membayarnya dengan harga yang lebih sebagai keuntungan yang telah
disepakati antara koperasi dan anggota (Tito et al., 2018). Ijarah adalah pemindahan hak guna dan jasa. Anggota dan koperasi jasa berkah
bersam syariah kota bengkulu melakukan kontrak ijarah dalam bentuk sewa jasa
seperti, jasa pendidikan, kesehatan, dan lain-lain. Koperasi mendapat upah dari anggota
yang mengacu pada kesepakatan kontrak ijarah yang dilakukan. Akad Qardul Hasan
adalah konsep dalam hukum keuangan Islam yang merujuk pada perjanjian pinjaman
yang diberikan oleh seorang pemberi pinjaman kepada peminjam tanpa adanya bunga
atau imbalan tambahan yang harus dibayarkan oleh peminjam. Dalam akad Qardul
Hasan, pemberi pinjaman memberikan pinjaman dengan tujuan kemurahan hati atau
kebaikan (Hasan) kepada peminjam yang membutuhkan dana. Dalam konteks ini, peminjam berkewajiban untuk mengembalikan jumlah
pinjaman yang diterima dalam jumlah yang sama persis (tanpa ada tambahan atau
imbalan tambahan), sesuai dengan perjanjian yang telah disepakati. Tidak ada
keuntungan yang diperoleh oleh pemberi pinjaman dalam bentuk bunga atau tambahan
apapun. Akad Qardul Hasan didasarkan pada prinsip-prinsip ekonomi Islam yang
melarang riba (bunga) dan mendorong keadilan dan kemanusiaan dalam transaksi
keuangan. Akad ini dapat digunakan dalam konteks pinjaman antarindividu, pinjaman
antara koperasi dan anggotanya, atau dalam konteks lainnya.Penting untuk dicatat
bahwa dalam akad Qardul Hasan, peminjam masih berkewajiban untuk mengembalikan
pinjaman sesuai dengan kesepakatan, namun tanpa imbalan tambahan dalam bentuk
bunga. Hal ini membedakan akad Qardul Hasan dengan konsep riba yang dilarang
dalam hukum keuangan Islam. Akad mudharabah dapat digunakan sebagai dasar
perjanjian antara anggota koperasi sebagai pemilik modal (shahibul maal) dan
pengelola koperasi sebagai pengelola modal (mudharib). Dalam akad mudharabah,
anggota koperasi yang menyediakan modal akan menjadi pemilik modal dan
bertanggung jawab atas kerugian yang mungkin timbul, sedangkan pengelola koperasi
akan menjadi pengelola modal dan bertanggung jawab atas pengelolaan bisnis atau 373 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis usaha koperasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Mekanisme Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah Kota Bengkulu Pembiayaan murabahah juga dapat didukung dengan jaminan seperti
BPKB motor/mobil atau sertifikat tanah. Mekanisme Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah Kota Bengkulu 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis jika ada, termasuk margin yang dikenakan dan harga beli yang telah ditentukan. Maksimal pengembalian pembiayaan adalah 2 tahun jika jumlah pembiayaan di atas 5
juta, sedangkan untuk pembiayaan di bawah 5 juta, pelunasan dilakukan dalam waktu 1
tahun dengan margin 20% atau 1,8% per bulan. jika ada, termasuk margin yang dikenakan dan harga beli yang telah ditentukan. Maksimal pengembalian pembiayaan adalah 2 tahun jika jumlah pembiayaan di atas 5
juta, sedangkan untuk pembiayaan di bawah 5 juta, pelunasan dilakukan dalam waktu 1
tahun dengan margin 20% atau 1,8% per bulan. ALUR PEMBIAYAAN ( AKAD JUAL BELI)
KOPERASI JASA BERKAH BERSAMA SYARIAH
PENGAJUAN PEMBIAYAAN :
1. AKAD JUAL BELI (MURABAHAH)
2. AKAD KHARDUL HASAN
3. PENDIDIKAN (AL-IJARAH)
SYARAT PEMBIAYAAN :
1. FC KTP S/I
2. FC KK
3. FC SK YAF
4. SLIP GAJI TERAKHIR
5. ADM 50.000,-
6. ISI AKAD
MENGISI AKAD
JUAL BELI
KOPERASI
MEMBELIKAN BARANG
PENYERAHAN
BARANG
Gambar 2. Alur dan Syarat Pembiayaan Murabahah. Dokumen-dokumen yang diperlukan untuk mengajukan pembiayaan murabahah
antara lain mengisi akad, fotokopi KTP suami-istri, fotokopi KK, fotokopi SK yayasan,
serta slip gaji. Selain itu, ada juga biaya administrasi sebesar 50 ribu yang harus
dibayarkan. Pembiayaan murabahah juga dapat didukung dengan jaminan seperti
BPKB motor/mobil atau sertifikat tanah. Gambar 2. ALUR PEMBIAYAAN ( AKAD JUAL BELI)
KOPERASI JASA BERKAH BERSAMA SYARIAH
PENGAJUAN PEMBIAYAAN :
1. AKAD JUAL BELI (MURABAHAH)
2. AKAD KHARDUL HASAN
3. PENDIDIKAN (AL-IJARAH)
SYARAT PEMBIAYAAN :
1. FC KTP S/I
2. FC KK
3. FC SK YAF
4. SLIP GAJI TERAKHIR
5. ADM 50.000,-
6. ISI AKAD
MENGISI AKAD
JUAL BELI
KOPERASI
MEMBELIKAN BARANG
PENYERAHAN
BARANG
Alur dan Syarat Pembiayaan Murabahah. Alur dan Syarat Pembiayaan Murabahah. Alur dan Syarat Pembiayaan Murabahah. Alur dan Syarat Pembiayaan Murabahah. ALUR PEMBIAYAAN ( AKAD JUAL BELI)
KOPERASI JASA BERKAH BERSAMA SYARIAH Dokumen-dokumen yang diperlukan untuk mengajukan pembiayaan murabahah
antara lain mengisi akad, fotokopi KTP suami-istri, fotokopi KK, fotokopi SK yayasan,
serta slip gaji. Selain itu, ada juga biaya administrasi sebesar 50 ribu yang harus
dibayarkan. Pembiayaan murabahah juga dapat didukung dengan jaminan seperti
BPKB motor/mobil atau sertifikat tanah. Dokumen-dokumen yang diperlukan untuk mengajukan pembiayaan murabahah
antara lain mengisi akad, fotokopi KTP suami-istri, fotokopi KK, fotokopi SK yayasan,
serta slip gaji. Selain itu, ada juga biaya administrasi sebesar 50 ribu yang harus
dibayarkan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Mekanisme Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah Kota Bengkulu Koperasi Jasa Berkah Bersama Syariah merupakan sebuah koperasi yang berbasis
syariah di Kota Bengkulu. Salah satu produk yang mereka tawarkan kepada anggotanya
adalah pembiayaan murabahah. Dalam akad murabahah, koperasi membeli barang atau
aset yang diinginkan oleh anggota koperasi, kemudian menjual kembali barang atau
aset tersebut kepada anggota dengan harga jual yang telah ditetapkan sebelumnya. Harga jual yang ditetapkan tersebut termasuk keuntungan atau marjin yang telah
disepakati sebelumnya antara koperasi dan anggota koperasi. Anggota koperasi
biasanya membayar harga jual tersebut dalam bentuk angsuran atau cicilan sesuai
dengan kesepakatan yang telah ditetapkan sebelumnya. Dalam wawancara yang dilakukan oleh penulis kepada bapak trismawanto selaku
penangung jawab dalam hal unit usaha pembiayaan simpan pinjam di Koperasi Jasa
Berkah Bersama Syariah Kota Bengkulu, beberapa informasi penting mengenai
mekanisme pembiayaan murabahah di koperasi tersebut terungkap. PRODUK PEMBIAYAAN
POLA JUAL BELI
Bagan Proses Pembiayaan Murabahah
1. Negosiasi dan
Persyaratan
3a. Akad
KOPERASI
3b. Serah Terima Barang
NASABAH
4. Bayar kewajiban
SUPLIER
PENJUAL
3c. Kirim Barang
2. Beli Barang Tunai
Gambar 1. Skema Proses Akad PRODUK PEMBIAYAAN
POLA JUAL BELI
Bagan Proses Pembiayaan Murabahah
1. Negosiasi dan
Persyaratan
3a. Akad
KOPERASI
3b. Serah Terima Barang
NASABAH
4. Bayar kewajiban
SUPLIER
PENJUAL
3c. Kirim Barang
2. Beli Barang Tunai
Gambar 1. Skema Proses Akad
Anggota Koperasi Berkah Bersama Syariah dapat mengajukan pembiayaan
murabahah dengan mengikuti beberapa prosedur yang telah ditetapkan. Pertama,
mereka mengajukan permohonan pembiayaan ke koperasi dan menunggu pada daftar
antrian yang ada. Koperasi akan melakukan pemilahan terhadap permohonan tersebut
berdasarkan prioritas dan kepentingan anggota. S
l h
h
di
i
k
di
hk
k
i i
k d PRODUK PEMBIAYAAN
POLA JUAL BELI
Bagan Proses Pembiayaan Murabahah
1. Negosiasi dan
Persyaratan
3a. Akad
KOPERASI
3b. Serah Terima Barang
NASABAH
4. Bayar kewajiban
SUPLIER
PENJUAL
3c. Kirim Barang
2. Beli Barang Tunai
Gambar 1. Skema Proses Akad Gambar 1. Skema Proses Akad Anggota Koperasi Berkah Bersama Syariah dapat mengajukan pembiayaan
murabahah dengan mengikuti beberapa prosedur yang telah ditetapkan. Pertama,
mereka mengajukan permohonan pembiayaan ke koperasi dan menunggu pada daftar
antrian yang ada. Koperasi akan melakukan pemilahan terhadap permohonan tersebut
berdasarkan prioritas dan kepentingan anggota. Setelah permohonan diterima, anggota akan diarahkan untuk mengisi akad
pembiayaan tentunya dalam hal ini akad murabahah. Koperasi memberikan penjelasan
mengenai barang yang akan dibeli atas nama koperasi,discount barang yang didapatkan 374 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. Pertimbangan Pemberian Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah y
Ketika memberikan pembiayaan murabahah, Koperasi Berkah Bersama Syariah
berupaya menilai risiko dengan memperhatikan potongan Slip gaji dari anggota
Koperasi Jasa Berkah Bersama Syariah. Sebagaimana yang telah di jabarkan pada
bagian hasil sebelumnya berdasarkan hasil wawancara dengan bapak rahmad widodo
selaku ketua koperasi didapatkan informasi bahwasanya seluruh anggota dari Kopersai
Jasa Berkah Bersama Syariah merupalkan Guru dan karyawan dilingkungan Yayasan
Al-Fida Kota Bengkulu. Maka dari itu koperasi mampu mendapatkan data dari
potongan slip gaji dari karyawan dan guru sebagai bahan pertimbangan untuk
memberikan pembiayaan dengan akad murabahah di Koperasi Jasa Berkah Bersama
Syariah Oleh karena itu jika terdapat potongan di tempat lain yang tidak melebihi 50%
dari slip gaji, maka pembiayaan dapat dipertimbangkan, karena itu pula risiko
pembiayaan murabahah tergolong minim berada pada angka hampir mendekati 0% atau 375 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis jika di hitung dalam kasus hanya terjadi 1 kasus semenjak Koperasi Jasa Berkah
Bersama Syariah Kota Bengkulu berdiri, hal ini terjadi karena pembayaran angsuran
dilakukan melalui potongan gaji anggota yang bekerja di yayasan Al-Fida. jika di hitung dalam kasus hanya terjadi 1 kasus semenjak Koperasi Jasa Berkah
Bersama Syariah Kota Bengkulu berdiri, hal ini terjadi karena pembayaran angsuran
dilakukan melalui potongan gaji anggota yang bekerja di yayasan Al-Fida. p
g
g j
gg
y
g
j
y y
Berdasarkan wawancara denga pengurus Koperasi Jasa Berkah Bersama Syariah
Kota Bengkulu, dapat diidentifikasi beberapa pertimbangan yang dipertimbangkan oleh
Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dalam memberikan pembiayaan
murabahah. Beberapa pertimbangan tersebut antara lain: Status Kepegawaian: Koperasi
mempertimbangkan status kepegawaian calon peminjam, yaitu Calon Guru Tetap
Yayasan (CGTY) atau Calon Pegawai Tetap Yayasan (CPTY). Status ini menunjukkan
kestabilan dan kepercayaan dalam memberikan pembiayaan.Waiting List: Terdapat
waiting list yang digunakan untuk memprioritaskan pembiayaan kepada anggota. Hal
ini menunjukkan bahwa pembiayaan diberikan berdasarkan urutan kebutuhan dan
ketersediaan dana.Jenis Pembiayaan: Koperasi memiliki sasaran khusus dalam
memberikan pembiayaan murabahah, seperti pembiayaan Qordul Hasan untuk
keperluan urgensi keluarga yang sakit. Selain itu, juga terdapat pembiayaan untuk
barang elektronik, furnitur, kendaraan, dan material bangunan.Risiko Pembiayaan:
Koperasi melakukan evaluasi risiko dalam memberikan pembiayaan murabahah dengan
mempertimbangkan potongan gaji langsung dari yayasan sebagai pembayaran. Hal ini
mengurangi risiko pembayaran yang macet. Pertimbangan Pemberian Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah Selain itu, pihak koperasi juga memeriksa
potongan gaji apakah melebihi batas maksimal dari slip gaji yang diajukan.Dengan
mempertimbangkan faktor-faktor di atas, Koperasi Jasa Berkah Bersama Syariah Kota
Bengkulu dapat menentukan pemberian pembiayaan murabahah secara bijak dan
meminimalkan risiko dalam operasional dan keuangan jangka panjang. Kesesuaian Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah Kota Bengkulu dengan Fatwa DSN-MUI http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesesuaian Penerapan Akad Murabahah di Koperasi Jasa Berkah Bersama
Syariah Kota Bengkulu dengan Fatwa DSN-MUI Masyarakat banyak membutuhkan mekanisme pembiayaan yang berprinsip
syariah Dalam rangka memenuhi kebutuhan masyarakat, Koperasi Syariah perlu
menyediakan fasilitas pembiayaan murabahah bagi anggotanya. Koperasi Jasa Berkah
Bersama Syariah di Kota Bengkulu menjalankan aktivitasnya dengan mengikuti
pedoman yang tercantum dalam Fatwa DSN-MUI NO.04/DSN-MUI/IV/2000 Fatwa
tersebut mengatur syarat-syarat yang harus dipenuhi agar pembiayaan murabahah dapat
dilakukan dengan sah, antara lain: Ketentuan Umum Murabahah dalam koperasi Syariah : Koperasi dan anggota harus melakukan akad murabahah yang bebas riba. Barang
yang diperjual belikan tidak diharamkan oleh syariah Islam. Koperasi membiayai
sebagian
atau
seluruh
harga
pembelian
barang
yang
telah
disepakati
kualifikasinya.Koperasi membeli barang yang diperlukan anggota atas nama koperasi
sendiri, dan pembelian ini harus sah dan bebas riba.Koperasi harus menyampaikan
semua hal yang berkaitan dengan pembelian, misalnya jika pembelian dilakukan secara
utang.Koperasi kemudian menjual barang tersebut kepada anggota (pemesan) dengan
harga jual senilai harga beli plus keuntungannya. Dalam kaitan ini koperasi harus
memberitahu secara jujur harga pokok barang kepada anggota berikut biaya yang
diperlukan.Anggotamembayar harga barang yang telah disepakati tersebut pada jangka 376 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis waktu tertentu yang telah disepakati.Untuk mencegah terjadinya penyalahgunaan atau
kerusakan akad tersebut, pihak koperasi dapat mengadakan perjanjian khusus dengan
anggota.Jika koperasi hendak mewakilkan kepada anggota untuk membeli barang dari
pihak ketiga, akad jual beli murabahah harus dilakukan setelah barang, secara prinsip,
menjadi milik koperasi. Ketentuan Murabahah kepada Anggota: Anggota mengajukan permohonan dan janji pembelian suatu barang atau aset
kepada koperasi.Jika koperasi menerima permohonan tersebut, ia harus membeli
terlebih dahulu aset yang dipesannya secara sah dengan pedagang.koperasi kemudian
menawarkan aset tersebut kepada anggota dan anggota harus menerima (membeli)-nya
sesuai dengan janji yang telah disepakatinya, karena secara hukum janji tersebut
mengikat; kemudian kedua belah pihak harus membuat kontrak jual beli.Dalam jual
beli ini koperasi dibolehkan meminta anggota untuk membayar uang muka saat
menandatangani kesepakatan awal pemesanan.Jika anggota kemudian menolak
membeli barang tersebut, biaya riil koperasi harus dibayar dari uang muka tersebut.Jika
nilai uang muka kurang dari kerugian yang harus ditanggung oleh koperasi, koperasi
dapat meminta kembali sisa kerugiannya kepada anggota.Jika uang muka memakai
kontrak ‘urbun sebagai alternatif dari uang muka, maka apabila anggota memutuskan
untuk membeli barang tersebut, ia tinggal membayar sisa harga.jika anggota batal
membeli, uang muka menjadi milik koperasi maksimal sebesar kerugian yang
ditanggung oleh koperasi akibat pembatalan tersebut; dan jika uang muka tidak
mencukupi, anggota wajib melunasi kekurangannya. Jaminan dalam Murabahah: Jaminan dalam murabahah dibolehkan, agar anggota serius dengan pesanannya. koperasi dapat meminta anggota untuk menyediakan jaminan yang dapat dipegang. Utang dalam Murabahah: Secara prinsip, penyelesaian utang anggota dalam transaksi murabahah tidak ada
kaitannya dengan transaksi lain yang dilakukan anggota dengan pihak ketiga atas
barang tersebut. Jika anggota menjual kembali barang tersebut dengan keuntungan atau
kerugian, ia tetap berkewajiban untuk menyelesaikan utangnya kepada koperasi. Jika
anggota menjual barang tersebut sebelum masa angsuran berakhir, ia tidak wajib segera
melunasi seluruh angsurannya.Jika penjualan barang tersebut menyebabkan kerugian,
anggota tetap harus menyelesaikan utangnya sesuai kesepakatan awal. Ia tidak boleh
memperlambat pembayaran angsuran atau meminta kerugian itu diperhitungkan. Penundaan Pembayaran dalam Murabahah: Anggotayang memiliki kemampuan tidak dibenarkan menunda penyelesaian
utangnya. Jika anggota menunda-nunda pembayaran dengan sengaja, atau jika salah
satu pihak tidak menunaikan kewajibannya, maka penyelesaiannya dilakukan melalui
Badan Arbitrasi Syari’ah setelah tidak tercapai kesepakatan melalui musyawarah. Bangkrut dalam Murabahah: 377 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jika anggota telah dinyatakan tidak mampu membayar dan gagal menyelesaikan
utangnya, koperasi harus menunda tagihan utang sampai ia menjadi sanggup kembali,
atau berdasarkan kesepakatan. Analisa untuk mengetahui apakah pembiayaan
murabahah di Koperasi Jasa Berkah Bersama Syariah sudah sesuai atau tidak dengan
FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 tentang murabahah dapat dilakukan
dengan mengacu pada syarat-syarat yang tercantum dalam fatwa tersebut. Berikut
adalah analisa perbandingan antara implementasi pembiayaan murabahah di koperasi
dengan syarat-syarat dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/2000: Ketentuan Umum Murabahah dalam Koperasi Syariah. Koperasi Jasa Berkah
Bersama Syariah menjalankan akad murabahah yang bebas dari riba.Barang yang
diperjual belikan tidak diharamkan oleh syariah Islam.Koperasi membiayai sebagian
atau seluruh harga pembelian barang yang telah disepakati kualifikasinya.Koperasi
membeli barang atas nama koperasi sendiri dan melakukan pembelian secara sah dan
bebas dari riba.Koperasi memberikan informasi yang jujur mengenai harga pokok
barang kepada anggota.Ketentuan Murabahah kepada Anggota:Anggota mengajukan
permohonan dan janji pembelian barang atau aset kepada koperasi.Koperasi membeli
barang yang dipesan secara sah dari pedagang.Koperasi menawarkan barang tersebut
kepada anggota, dan anggota harus menerima (membeli) sesuai dengan janji yang telah
disepakati. p
Jaminan dalam murabahah koperasi dapat meminta anggota untuk menyediakan
jaminan yang dapat dipegang.Tidak disebutkan secara jelas mengenai penyelesaian
utang dalam transaksi murabahah yang tidak terkait dengan transaksi lain anggota
dengan pihak ketiga. Sedangkan syarat FATWA DSN-MUI NO.04/DSN-MUI/IV/2000
Penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan
transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang
tersebut.Penundaan Pembayaran dalam Murabahah tidak disebutkan mengenai
penundaan pembayaran utang oleh anggota. adapun syarat FATWA DSN-MUI
NO.04/DSN-MUI/IV/2000 anggota yang memiliki kemampuan tidak dibenarkan
menunda penyelesaian utangnya.Tidak disebutkan mengenai penanganan pembiayaan
murabahah jika anggota dinyatakan tidak mampu membayar. Adapun syarat FATWA
DSN-MUI NO.04/DSN-MUI/IV/2000 Koperasi harus menunda tagihan utang sampai
anggota menjadi sanggup kembali atau berdasarkan kesepakatan. TABEL 1. Table Kesesuaian Antara FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 Dengan
Praktek Di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu
Syarat
dalam
FATWA
DSN-MUI
NO.04/DSN-MUI/IV/20004/DSN
sKoperasi Jasa Berkah
Bersama Syariahsyariah
Koperasi
dan
anggota
melakukan
akad
murabahah yang bebas riba
Sesuai
Barang yang diperjual belikan tidak diharamkan
oleh syariah Islam
Sesuai TABEL 1. Bangkrut dalam Murabahah: Table Kesesuaian Antara FATWA DSN-MUI NO.04/DSN-MUI/IV/2000 Dengan
Praktek Di Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu
Syarat
dalam
FATWA
DSN-MUI
NO.04/DSN-MUI/IV/20004/DSN
sKoperasi Jasa Berkah
Bersama Syariahsyariah
Koperasi
dan
anggota
melakukan
akad
murabahah yang bebas riba
Sesuai
Barang yang diperjual belikan tidak diharamkan
oleh syariah Islam
Sesuai sKoperasi Jasa Berkah
Bersama Syariahsyariah 378 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 378 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Koperasi membiayai sebagian atau seluruh harga
pembelian
barang
yang
telah
disepakati
kualifikasinya
Sesuai
Koperasi membeli barang atas nama koperasi
sendiri, dan pembelian ini harus sah dan bebas
riba
Sesuai
Koperasi kemudian menjual barang tersebut
kepadaanggota (pemesan) dengan harga jual
senilai harga beli plus keuntungannya. Dalam
kaitan ini, koperasi harus memberitahu secara
jujur harga pokok barang kepada anggota berikut
biaya yang diperlukan
Sesuai
penyelesaian utang anggota dalam transaksi
murabahah tidak ada kaitannya dengan transaksi
lain yang dilakukan anggota dengan pihak ketiga
atas barang tersebut. Tidak disebutkan
anggota yang memiliki kemampuan tidak boleh
menunda penyelesaian utang. Oleh karena itu,
koperasi perlu mengatur kebijakan yang jelas
terkait dengan penundaan pembayaran utang. Tidak disebutkan
Koperasi harus menunda tagihan utang sampai
anggota
menjadi
sanggup
kembali
atau
berdasarkan kesepakatan. Oleh karena itu,
koperasi
perlu
memiliki
kebijakan
yang
mengatur penanganan pembiayaan murabahah
dalam situasi anggota yang dinyatakan tidak
mampu membayar. Tidak disebutkan
Anggota mengajukan permohonan dan janji
pembelian suatu barang atau aset kepada
koperasi
Sesuai
Jika koperasi menerima permohonan tersebut, ia
harus membeli terlebih dahulu aset yang
dipesannya secara sah dengan pedagang
Sesuai
Koperasi kemudian menawarkan aset tersebut
kepada anggota dan anggota harus menerima
(membeli)-nya sesuai dengan janji yang telah
disepakatinya, karena secara hukum janji tersebut
mengikat; kemudian kedua belah pihak harus
membuat kontrak jual beli
Sesuai
Dalam jual beli ini koperasi dibolehkan meminta
anggota untuk membayar uang muka saat
menandatangani kesepakatan awal pemesanan
Sesuai
Jika anggota kemudian menolak membeli barang
tersebut, biaya riil koperasi harus dibayar dari
uang muka tersebut
Sesuai Koperasi kemudian menjual barang tersebut
kepadaanggota (pemesan) dengan harga jual
senilai harga beli plus keuntungannya. Dalam
kaitan ini, koperasi harus memberitahu secara
jujur harga pokok barang kepada anggota berikut
biaya yang diperlukan Koperasi harus menunda tagihan utang sampai
anggota
menjadi
sanggup
kembali
atau
berdasarkan kesepakatan. Sesuai Secara umum, Koperasi Jasa Berkah Bersama Syariah Kota Bengkulu telah
mengikuti ketentuan-ketentuan umum dalam pembiayaan murabahah yang ditetapkan
dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/2000. Mereka menjalankan akad
murabahah yang bebas dari riba, membeli barang atas nama koperasi sendiri, dan
memberikan informasi yang jujur mengenai harga pokok barang kepada anggota. Akan
tetapi terdapat beberapa kekurangan yang perlu diperhatikan oleh Koperasi Jasa Berkah
Bersama Syariah dan diperbaiki agar sesuai dengan FATWA DSN-MUI NO.04/DSN-
MUI/IV/2000. Salah satu kekurangan yang perlu diperhatikan adalah kurangnya penjelasan
mengenai penyelesaian utang dalam transaksi murabahah yang tidak terkait dengan
transaksi lain. Sesuai dengan FATWA DSN-MUI NO.04/DSN-MUI/IV/2000,
penyelesaian utang anggota dalam transaksi murabahah tidak ada kaitannya dengan
transaksi lain yang dilakukan anggota dengan pihak ketiga atas barang tersebut. Oleh
karena itu, koperasi perlu memperjelas prosedur penyelesaian utang agar sesuai dengan
ketentuan ini. Selain itu, tidak ada ketentuan yang mengatur penundaan pembayaran
utang oleh anggota dalam konteks murabahah. FATWA DSN-MUI NO.04/DSN-
MUI/IV/2000 menegaskan bahwa anggota yang memiliki kemampuan tidak boleh
menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang
jelas terkait dengan penundaan pembayaran utang agar sesuai dengan ketentuan fatwa
tersebut. Tidak disebutkan juga mengenai penanganan pembiayaan murabahah jika
anggota dinyatakan tidak mampu membayar. FATWA DSN-MUI NO.04/DSN-
MUI/IV/2000, Koperasi harus menunda tagihan utang sampai anggota menjadi
sanggup kembali atau berdasarkan kesepakatan. Oleh karena itu, koperasi perlu
memiliki kebijakan yang mengatur penanganan pembiayaan murabahah dalam situasi
anggota yang dinyatakan tidak mampu membayar. Bangkrut dalam Murabahah: Oleh karena itu,
koperasi
perlu
memiliki
kebijakan
yang
mengatur penanganan pembiayaan murabahah
dalam situasi anggota yang dinyatakan tidak
mampu membayar. 379 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jika nilai uang muka kurang dari kerugian yang
harus ditanggung oleh koperasi, koperasi dapat
meminta kembali sisa kerugiannya kepada
anggota http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Kesimpulan Berdasarkan penelitian yang penulis lakukan, maka akhirnya penulis dapat
mengambil kesimpulan bahwa, Secara umum Koperasi Jasa Berkah Bersama Syariah
Kota Bengkulu telah mengikuti ketentuan-ketentuan umum dalam pembiayaan
murabahah yang ditetapkan dalam FATWA DSN-MUI NO.04/DSN-MUI/IV/2000. Mereka menjalankan akad murabahah yang bebas dari riba, membeli barang atas nama
koperasi sendiri, dan memberikan informasi yang jujur mengenai harga pokok barang
kepada anggota. Namun, terdapat beberapa kekurangan yang perlu diperhatikan dan diperbaiki
oleh koperasi yakni sebagai berikut. Terdapat ketidakjelasan mengenai penyelesaian
utang dalam transaksi murabahah yang tidak terkait dengan transaksi lain anggota 380 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis dengan pihak ketiga. Hal ini bertentangan dengan FATWA DSN-MUI NO.04/DSN-
MUI/IV/2000 yang menyatakan bahwa penyelesaian utang anggota dalam transaksi
murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan
pihak ketiga atas barang tersebut.Tidak ada ketentuan yang mengatur penundaan
pembayaran utang oleh anggota dalam konteks murabahah. Sesuai dengan FATWA
DSN-MUI NO.04/DSN-MUI/IV/2000, anggota yang memiliki kemampuan tidak boleh
menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang
jelas terkait dengan penundaan pembayaran utang agar sesuai dengan ketentuan fatwa
tersebut. Tidak disebutkan mengenai penanganan pembiayaan murabahah jika anggota
dinyatakan tidak mampu membayar. Menurut Fatwa DSN-MUI, koperasi harus
menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan
kesepakatan. Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur
penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak
mampu membayar. dengan pihak ketiga. Hal ini bertentangan dengan FATWA DSN-MUI NO.04/DSN-
MUI/IV/2000 yang menyatakan bahwa penyelesaian utang anggota dalam transaksi
murabahah tidak ada kaitannya dengan transaksi lain yang dilakukan anggota dengan
pihak ketiga atas barang tersebut.Tidak ada ketentuan yang mengatur penundaan
pembayaran utang oleh anggota dalam konteks murabahah. Sesuai dengan FATWA
DSN-MUI NO.04/DSN-MUI/IV/2000, anggota yang memiliki kemampuan tidak boleh
menunda penyelesaian utang. Oleh karena itu, koperasi perlu mengatur kebijakan yang
jelas terkait dengan penundaan pembayaran utang agar sesuai dengan ketentuan fatwa
tersebut. Tidak disebutkan mengenai penanganan pembiayaan murabahah jika anggota
dinyatakan tidak mampu membayar. Menurut Fatwa DSN-MUI, koperasi harus
menunda tagihan utang sampai anggota menjadi sanggup kembali atau berdasarkan
kesepakatan. Oleh karena itu, koperasi perlu memiliki kebijakan yang mengatur
penanganan pembiayaan murabahah dalam situasi anggota yang dinyatakan tidak
mampu membayar. Saran Dalam rangka menjalankan prinsip-prinsip syariah dengan baik, koperasi Jasa
Berkah Bersama Syariah Kota Bengkulu perlu memperbaiki kekurangan-kekurangan
tersebut dan memastikan kepatuhan terhadap FATWA DSN-MUI NO.04/DSN-
MUI/IV/2000 dan ketentuan yang berlaku. Dengan melakukan perbaikan dan memperkuat kelebihan yang dimiliki,
kedepannya koperasi Jasa Berkah Bersama Syariah Kota Bengkulu dapat memberikan
layanan yang lebih baik kepada anggota dan menjalankan operasional mereka dengan
lebih efektif sesuai dengan prinsip-prinsip syariah http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Anwar, A. Z., & Edward, M. Y. (2016). Analisis Syariah Compliance Pembiayaan
Murabahah Pada Gabungan Koperasi BMT Mitra Se-Kabupaten Jepara. The 3rd
University Research Colloquium (URECOL). Bauty, L. A., Eprianti, N., & Maryandi, Y. (2020). Analisis 5C Pada Pembiayaan
Murabahah Di Koperasi Syariah BMT Itqan Di Sektor Riil Umkm Kota Bandung. Prosiding Hukum Ekonomi Syariah, 6(2). Defitri, S. Y., Sukraini, J., & Irawani, Y. (2022). Pengaruh Independensi, Integritas
Dan Profesionalisme Terhadap Kualitas Audit. Jurnal Ilmiah Akuntansi,
Manajemen Dan Ekonomi Islam (JAM-EKIS), 5(1), 15–25. Koperasi, K., & UKM. (2023). Jumlah Koperasi Aktif Menurut Kota (Unit Mukadar, A., Setiorini, H., & Setiawan, D. (2021a). Analisis Pembiayaan Murabahah
Pada Lembaga Keuangan Mikro Syariah ( Lkms) ( Studi Kasus Pada Lkms Mm
Sejahtera Kota Bengkulu). 4(1). Mukadar, A., Setiorini, H., & Setiawan, D. (2021b). Analisis Pembiayaan Murabahah
Pada Lembaga Keuangan Mikro Syariah ( LKMS) ( Studi Kasus Pada LKMS MM
Sejahtera Kota Bengkulu). Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi
Islam (JAM-EKIS), 4(1). https://doi.org/10.36085/jam-ekis.v4i1.1274 Nugraha, Z., Putra1, T., & Thamrin, H. (2022). Problematika Dan Dinamika
Perkoperasi An Syariah Di Era Globalisasi. Jurnal Tabarru : Islamic Koperasi Ing 381 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 381 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis and Finance, 5(1). Ranidiah, F., & Arianto, T. (2020). Analisis Kinerja Keuangan Perbankan Syariah
(Studi Empiris Bank Syariah ’’ Badan Usaha Milik Negara ’’ Di Indonesia
Periode 2015-2018)’’. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam
(JAM-EKIS), 3(1). https://doi.org/10.36085/jam-ekis.v3i1.541 Ranidiah, F., & Arianto, T. (2020). Analisis Kinerja Keuangan Perbankan Syariah
(Studi Empiris Bank Syariah ’’ Badan Usaha Milik Negara ’’ Di Indonesia
Periode 2015-2018)’’. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam
(JAM-EKIS), 3(1). https://doi.org/10.36085/jam-ekis.v3i1.541 Tito, B. A., Astuti, B., & Fraternesi Fraternesi. (2018). Analisis Penerapan Standar
Akuntansi Keuangan Entitas Tanpa Akuntabilitas Publik Pada Laporan Keuangan
Koperasi Simpan Pinjam Timur Indah Kencana Kota Bengkulu. Jurnal Ilmiah
Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 1(1). Tito, B. A., Astuti, B., & Fraternesi Fraternesi. (2018). Analisis Penerapan Standar
Akuntansi Keuangan Entitas Tanpa Akuntabilitas Publik Pada Laporan Keuangan
Koperasi Simpan Pinjam Timur Indah Kencana Kota Bengkulu. Jurnal Ilmiah
Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS), 1(1). Triharyati, E., & Nursita, E. (2020). http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu INFORMASI ARTIKEL
ABSTRACT The purpose of this research is to understand how to
manage boarding houses near UINFAS Bengkulu and to
be able to understand how to manage boarding houses
from an Islamic economic perspective. This research
method uses applied methods in order to obtain accurate
information needed by researchers. The results obtained in
this study are that most of the boarding houses near
UINFAS
Bengkulu
have
carried out
management
functions, namely organizing and controlling the boarding
environment. Riwayat Artikel:
Diterima : 07 Juli 2023
Direvisi : 05 Agustus 2023
Disetujui : 10 Agustus 2023 Keywords:
Management Management,
Economic Perspective Keywords:
Management Management,
Economic Perspective ABSTRAK Tujuan penelitian ini yaitu agar dapat memahami cara
mengelola kos-kosan yang berada di dekat UINFAS
Bengkulu dan agar bisa memahami cara manajemen kos-
kosan menurut pandangan ekonomi islam. Metode
penelitian ini menggunakan metode terapan agar bisa
memperoleh informasi secara akurat yang dibutuhkan oleh
peneliti. Hasil yang didapatkan pada penelitian ini yaitu
sebagian besar kostan yang berada di dekat UINFAS
Bengkulu sudah melaksanakan fungsi dalam manajemen
yaitu
melakukan
pengorganisasian
dan
mengontrol
lingkungan kos. Kata kunci:
Manajemen Pengelolaan,
Perspektif Ekonomi Kata kunci:
Manajemen Pengelolaan,
Perspektif Ekonomi MANAJEMEN PENGELOLAAN KOS-KOSAN
DI LINGKUNGAN UINFAS BENGKULU DALAM PERSPEKTIF
EKONOMI ISLAM
MANAGEMENT OF BOARDING HOUSES IN THE UINFAS BENGKULU
ENVIRONMENT IN AN ISLAMIC ECONOMIC PERSPECTIVE
Yeni Nurhayati1, Supardi Mursalin2, Evan Stiawan3
Universitas Islam Negeri Fatmawati Sukarno Bengkulu1-3
yeninurhayatiyn234@gmail.com1, supardi@mail.uinfasbengkulu.ac.id2,
evan@iainbengkulu.ac.id3 Jl. Raden Fatah Kel. Pagar Dewa Kec. Selebar Kota Bengkulu
Corresponding email: yeninurhayatiyn234@gmail.com http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu DAFTAR RUJUKAN Kajian Penerapan Akuntansi Sumber Daya
Manusia Terhadap Laporan Laba Rugi Dan Neraca Di Pt. Bpr Sindang Binaharta
Kota Lubuklinggau. Jurnal Ilmiah Akuntansi, Manajemen Dan Ekonomi Islam
(JAM-EKIS), 3(1). 382 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 382 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis PENDAHULUAN Bisnis kontrakan adalah salah satu bisnis yang banyak ditemui di kota yang
cukup padat penduduk hingga kota padat penduduk. Bisnis ini dapat dijadikan investasi
dimasa yang akan datang karena saat ini banyaknya remaja yang berada di pedesaan 383 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis datang ke kota bertujuan untuk mencari ilmu atau bekerja karena kurangnya akses
pendidikan dan lowongan pekerjaan di desa. Oleh karena itu, saat ini bisnis hunian
sangat bagus didirikan untuk investasi dimasa yang akan datang. Untuk mendirikan
bisnis ini bisa mengubah rumah yang tidak dipakai lagi atau rumah kosong direnovasi
menjadi kamar-kamar kecil untuk disewakan. Bukan hanya itu, bisnis didirikan dengan
membuat bangunan khusus disewakan dengan memanfaatkan lahan kosong. Keuntungan mendirikan bisnis ini yaitu pemilik mendapatkan penghasilan bulanan
dalam jangka waktu yang panjang dan sebagai simpanan dimasa yang akan datang. Mengelola bisnis kos-kosan ini juga tidak begitu rumit dan sulit. Untuk membangun
bisnis ini dikalangan masyarakat yang pendapatannya sederhana bisa dijadikan cara
menambah penghasilan bagi yang memiliki dana yaitu mempunyai tanah kosong dapat
digunakan sebagai lahan pembuatan kos-kosan. datang ke kota bertujuan untuk mencari ilmu atau bekerja karena kurangnya akses
pendidikan dan lowongan pekerjaan di desa. Oleh karena itu, saat ini bisnis hunian
sangat bagus didirikan untuk investasi dimasa yang akan datang. Untuk mendirikan
bisnis ini bisa mengubah rumah yang tidak dipakai lagi atau rumah kosong direnovasi
menjadi kamar-kamar kecil untuk disewakan. Bukan hanya itu, bisnis didirikan dengan
membuat bangunan khusus disewakan dengan memanfaatkan lahan kosong. Keuntungan mendirikan bisnis ini yaitu pemilik mendapatkan penghasilan bulanan
dalam jangka waktu yang panjang dan sebagai simpanan dimasa yang akan datang. Mengelola bisnis kos-kosan ini juga tidak begitu rumit dan sulit. Untuk membangun
bisnis ini dikalangan masyarakat yang pendapatannya sederhana bisa dijadikan cara
menambah penghasilan bagi yang memiliki dana yaitu mempunyai tanah kosong dapat
digunakan sebagai lahan pembuatan kos-kosan. g
g
p
Sebelum mendirikan bisnis ini perlu adanya analisa lapangan untuk melihat
peluang tempat berdirinya bisnis ini. Lokasi menjadi hal utama keberlangsungan bisnis
dimasa yang akan datang. Lokasi yang strategis berada di dekat kota, perkantoran atau
kampus yang sering dijangkau oleh masyarakat. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Artinya setiap yang dilakukan manusia bertujuan untuk mendapatkan
penghasilan digunakan untuk memenuhi kebutuhan hidup manusia merupakan hal yang
dianjurkan dalam islam dan mendapatkan izin dari Allah SWT (Asnaw, 2017). Hal
tersebut sudah dijelaskan dalam Al-Qur’an bahwa kegiatan ekonomi merupakan
aktivitas yang dianjurkan untuk dilaksanakan bagi setiap manusia terdapat dalam Al-
Qur’an surah At-Taubah (9):105 yang berbunyi: وَقُلِ ٱع ۡمَلُواْ فَسََيََى ٱَّللهُ عَمَلَكُم ۡ
ُوَرَسُولُه
ۥ وَٱل ۡمُؤ ۡ
َمِنُون ۡ
وَسَُتَُدُّونَ إَِلَٰ عَٰلِمِ ٱل ۡغَي ۡ
بِ وَٱلشههَٰدَةِ ف َي ُن َب ِئُكُم
ِبَِا كُنتُم ۡ
تَع ۡ
َمَلُون Artinya: “Dan Katakanlah Bekerjalah kamu, maka Allah dan Rasul-Nya serta
orang-orang mukmin akan melihat pekerjaanmu itu, dan setiap manusia akan kembali
kepada sang Pencipta yang memahami sesuatu yang dilakukan, lalu diberitakan-Nya
kepada kamu apa yang telah kamu kerjakan”. (Q.S At-Taubah (9):105) Artinya: “Dan Katakanlah Bekerjalah kamu, maka Allah dan Rasul-Nya serta
orang-orang mukmin akan melihat pekerjaanmu itu, dan setiap manusia akan kembali
kepada sang Pencipta yang memahami sesuatu yang dilakukan, lalu diberitakan-Nya
kepada kamu apa yang telah kamu kerjakan”. (Q.S At-Taubah (9):105) Berdasarkan ayat di atas menjelaskan bahwa, Nabi Muhammad mengatakan
kepada semua umatnya untuk dianjurkan bekerja dan bertujuan memperoleh tujuan
yang diharapkan. Allah SWT akan memberikan balasan bagi orang yang bekerja yaitu
berupa kekayaan, kemampuan, kemegahan, keluasan dan diberikan rezeki yang tiada
tara. Jika manusia melakukan pekerjaan yang halal akan memperoleh keberkahan dari
Allah SWT berupa rezeki yang berlipat ganda. Jika manusia melakukan pekerjaan yang
haram akan mendapatkan hukuman dari Allah SWT berupa azab yang didapatkan
karena melanggar perintah. Oleh karena itu, setiap pekerjaan yang dilakukan manusia
harus sesuai dengan aturan dalam syariat islam. Manusia terkadang lupa akan larangan
tersebut dan hanya memikirkan keuntungan diri sendiri (Suma, 2013). y
g
Bagi penghuni kos beranggapan bahwa ekonomi islam adalah aturan yang
mengikat dan tidak sesuai dengan budaya yang sering dilakukan yaitu bebas melakukan
sesuai kehendaknya. Padahal dalam menjalankan kehidupan di dunia terdapat aturan
yang harus dipatuhi oleh setiap manusia. Menurut pandangan penghuni kost bahwa
ekonomi islam merupakan tidak adil karena merupakan prinsip yang tidak sesuai
dengan yang dijalankan. Aturan yang dibuat bersumber pada Al-Qur’an dan Hadis yang
mengatur setiap tingkah laku manusia yang menggunakan prinsip keseimbangan dan
adil. Prinsip adil yang dimaksud dalam ekonomi yaitu menetapkan harga, memilih
bahan berkualitas bagus, memilih tenaga kerja dan membuat kebijakan. Setiap
pekerjaan harus dilakukan dengan rapi, teratur dan bersih karena islam mewajibkan
seluruh manusia melakukan pekerjaan sesuai dengan syariat islam. PENDAHULUAN Biasanya kebanyakan anak remaja
menyewa berasal dari pedesaan yang ingin mencari ilmu atau bekerja di kota (Rivaldi,
2021). Agar bisnis dapat berlangsung lama dan terus berkembang perlu adanya
pengelolaan yang baik dari segi eksternal maupun internal. Seorang manajer sangat
diperlukan dalam mengelola bisnis baik bisnis kecil maupun besar. Manajer harus
pandai cara mempertahankan bisnis dan melakukan perencanaan jika terjadi yang tidak
diinginkan dimasa yang akan datang akan berdampak pada keberlangsungan bisnis
tersebut. Oleh karena itu, pengelolalan yang baik dan benar menjadi penentu
berhasilnya suatu bisnis. Terdapat
beberapa
fungsi
dalam
manajemen
yaitu
perencanaan,
pengorganisasian, penggerakan, dan pengaturan operasi. Fungsi tersebut bertujuan
untuk membuat rencana agar tujuan dapat tercapai secara optimal melalui pertolongan
orang lain atau sumber daya yang digunakan saat melakukan proses manajemen
(Firdaus, 2009). Terdapat beberapa kendala saat melakukan pengelolan kostan salah
satunya terhambat pada sistem pembayaran misalnya pembayaran kamar, listrik, air,
parkir dan pengeluaran yang lain. Melakukan pengelolaan kos merupakan hal yang
sangat penting dilakukan agar semua berhasil sesuai dengan apa yang telah
direncanakan dan tentunya berdasarkan aturan yang ada di lingkungan masyarakat. Manajemen merupakan hal utama agar target yang telah direncanakan tercapai dan
tentunya mendapatkan keuntungan bagi semua pihak. Manajemen pengelolaan sangat
penting dilakukan dalam mengelola suatu bisnis. Banyak sekali kesalahan dalam
melakukan pengelolaan yang mengakibatakn kesalahan yang tidak diinginkan terjadi
(Achmad Nizar Assholikin, 2020). Jika manajemen dilakukan dengan baik dan sesuai
rencana akan menghasilkan pengaruh positif bagi penghuni kos dengan adanya aturan
yang mengubah penguni terutama anak kuliah menjadi lebih disiplin dalam
perkuliahannya. Manajemen pengelolaan kos efektif akan memberikan dampak positif bagi sikap
setiap individu karena terdapat aturan yang sesuai dengan syariat islam. Jika
pengelolaan dilakukan dengan optimal akan menciptakan sikap disiplin yang tinggi dari
mahasiswa kos menjadi suatu kondisi yang sangat diharapkan didalam menciptakan 384 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis kenyamanan dan keamanan bagi mereka yang tinggal jauh dari orang tuanya. Saat
mengatur sistem dalam bisnis kost maka pemilik harus bisa membuat aturan agar bisa
mengawasi semua aspek yang digunakan pengelolaan inventaris, perawatan fasilitas,
penagihan pembayaran dan penanganan keluhan. Dalam islam menjelaskan bahwa
manusia dianjurkan untuk bekerja untuk memenuho kebutuhan hidupnya agar bisa
mencapai tujuan tercapai. Tujuan bekerja agar bisa memperoleh kebutuhan hidup
manusia. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENDAHULUAN Setiap tahapan
wajib diikuti sesuai dengan aturan yang dibuat dan tidak diperbolehkan melakukan
dengan cara yang buruk mulai dari membuat rencana sampai dengan pelaksanaannya 385 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis sesuai dengan aturan islam (Jerlin, 2020). Bengkulu merupakan salah satu kota yang berada di pulau Sumatera. Saat ini
kota Bengkulu menjadi salah satu kota tujuan dilakukannya pendidikan karena kualitas
pendidikan yang bagus. Kebanyakan remaja yang berada di pedesaan menempuh
pendidikan di Kota Bengkulu karena merupakan kota yang banyak menghasilkan
lulusan terbaik. Salah satu perguruan tinggi yang mencetak lulusan terbaik adalah
Universitas Islam Fatmawati Sukarno Bengkulu yang dahulunya bernama IAIN
Bengkulu. Setiap tahunnya selalu menerima mahasiswa diberbagai daerah. Untuk
menjadi mahasiswa UIN Fatmawati Sukarno perlu adanya berbagai tahapan tes yang
dilalui. Tidak semua calon mahasiswa lulus setiap tahapan tes. Oleh karena itu, hanya
orang-orang tertentu dapat menjadi mahasiswa perguruan tinggi tersebut. UIN Fatmwati Sukarno merupakan salah satu perguruan tinggi terbaik negeri
yang berada di provinsi Bengkulu dengan berbagai macam program studi. Disekitar
lingkungan kampus UIN Fatmawati Sukarno Bengkulu banyak terdapat bisnis yang
didirikan karena ramai dan sangat banyak mahasiswa berinteraksi di sekitar kampus. Bisnis yang didirikan mulai dari rumah makan, kedai, fotocopy, kos-kosan dan
berbagai bisnis lainnya. Lokasi kampus merupakan lokasi yang sangat strategis dapat
dijadikan peluang melakukan berwirabisnis karena banyak mahasiswa yang melakukan
jual beli disekitar kampus. Salah satu bisnis yang banyak diserbu oleh mahasiswa yaitu bisnis kosan yang
berada dilingkungan UIN Fatmawati Sukarno. Berbagai macam jenis kosan yang
didirikan di lingkungan kampus dengan harga dan fasilitas berbeda-beda. Biasanya
fasilitas yang disediakan berupa kamar tidur, kamar mandi, ruang pengunjung, tempat
parkiran, listrik, serta sarana ekstra seperti wifi dan lain-lain. Terdapat salah satu kos
yang berada dilingkungan UIN Fatmawati Sukarno Bengkulu. Keadaan bangunan kost
berbeda-beda mulai dari satu dengan yang lainnya. Mulai dari perbedaan fasilitas
terdapat kekurangan fasilitas dan rusaknya bangunan. Perbedaan kondisi bangunan
yang bocor dan fasilitas rusak akan berdampak pada penghuni merasa tidak nyaman
karena kondisi tersebut. Oleh karena itu, penghuni akan memilih kos yang memiliki
fasilitas memadai karena biaya yang dibayarkan harus sesuai dengan kondisi kosan. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Pengertian Manajemen Manajemen merupakan cara mengelola suatu sumber daya agar bisa
menghasilkan dan mencapai target yang ditetapkan (Finthariasari, 2015, 2019; yuniarti et
al., 2021). Manajemen dilaksanakan dalam suatu bisnis jika dilakukan lebih
mengutamakan sikap sesuai dengan yang dianjurkan dalam agama islam yaitu tauhid. Pembahasan dalam manajemen syariah yaitu mengenai sikap pelaku manajemen yang
sesuai dengan aturan yang tekah dibuat dengan sebaik mungkin dan menghasilkan
sistem yang dapat membantu tercapainya target yang diinginkan. Sejak islam masuk
pertama kali bahwa manajemen merupakan sebuah ilmu atau cara yang digunakan
mengatur sebuah organisasi. Sejak itu Allah SWT menurukan wahyu kepada kepada
Nabi Muhammad maka kemudian adanya beberapa penjelasan mengenai manajemen
dalam Islam (Sinn, 2012). Dasar Hukum Manajemen Dalam manajemen syariah merupakan sebuah aturan yang harus dilakukan disertai
tanggung jawab dan dijalankan dengan amanah memenuhi kewajiban yang telah dibuat
(Finthariasari & Rahmayanti, 2015). Firman Allah SWT QS. An-Nisa’ ayat 58 berbunyi:
ٰاِنه اَّلل َٰ َيَْمُرُكُمْ اَنْ ت ُؤَدُّوا اْلَْمٰنٰتِ اِل ٓ
ى اَهْلِهَا ٓ
ِوَاِذَا حَكَمْتُمْ بَْيَْ النهاسِ اَنْ َتَْكُمُوْا ِبِلْعَدْل
ٓانه اَّلل َٰ نعمها يَعظُكُمْ بهٓ
ٓانه اَّلل َٰكَانَ َسَي ْعًا ٓبَصَيًْا Dalam manajemen syariah merupakan sebuah aturan yang harus dilakukan disertai
tanggung jawab dan dijalankan dengan amanah memenuhi kewajiban yang telah dibuat
(Finthariasari & Rahmayanti, 2015). Firman Allah SWT QS. An-Nisa’ ayat 58 berbunyi: ٰاِنه اَّلل َٰ َيَْمُرُكُمْ اَنْ ت ُؤَدُّوا اْلَْمٰنٰتِ اِل ٓ
ى اَهْلِهَا ٓ
ِوَاِذَا حَكَمْتُمْ بَْيَْ النهاسِ اَنْ َتَْكُمُوْا ِبِلْعَدْل
ٓ
اِنه اَّلل َٰ نِعِمها يَعِظُكُمْ بِه ٓ
ٓ
اِنه اَّلل َٰ كَانَ َسَِي ْعًا ٓ
بَصَِيًْا Artinya: “Sesungguhnya Allah memerintahkan kepada manusia untuk melaksanakan
amanahnya sesuai dengan yang berhak menerimanya dan memerintahkan
kepada manusia melaksanakan aktivitas dijalankan secara adil”. (QS. An-Nisa’
ayat 58). Artinya: “Sesungguhnya Allah memerintahkan kepada manusia untuk melaksanakan
amanahnya sesuai dengan yang berhak menerimanya dan memerintahkan
kepada manusia melaksanakan aktivitas dijalankan secara adil”. (QS. An-Nisa’
ayat 58). PENDAHULUAN Setelah melakukan penelitian terlebih dahulu bahwa terdapat perbedaan biaya dan
cara membayar yang dijalankan oleh pemilik kosan yang berada di lingkungan kampus
UIN Fatmawati Sukarno Bengkulu.Untuk menjaga tata tertib maka pemilik kosan harus
mempunyai aturan yang harus dipatuhi penghuni kos agar bisa teratur dan melindungi
kost dari kejadian yang tidak diinginkan. Biasanya peraturan tersebut diletakan di
bagian depan pintu kos agar bisa dibaca oleh penghuni. Aturan tersebut dibuat untuk mengatur penghuni dan orang luar agar bisa
menjaga keamanan dan kenyamanan penghuni kos. Namun seiring berjalannya waktu
peraturan tersebut banyak dilanggar oleh penghuni. Oleh karena itu, perlu adanya
pengawasan oleh pemilik kos agar penghuni tidak lagi melanggar peraturan yang telah
dibuat. Pengawasan adalah aktivitas yang dilakukan untuk mengontrol setiap
pelaksanaan suatu rencana kegiatan agar dapat berjalan sesuai apa yang telah
direncanakan. Dalam bisnis kostan harus bisa menjalankan sikap amanah dan
tanggungjawab agar bisa memberikan pelayanan yang terbaik bagi konsumen. 386 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Fungsi-Fungsi Manajemen Menurut Pandangan Islam Fungsi-Fungsi Manajemen Menurut Pandangan Islam 1. Fungsi Perencanaan Dalam Islam (Orbandi et al., 2021). 1. Fungsi Perencanaan Dalam Islam (Orbandi et al., 2021). a. Perencanaan Bidang Sumber Daya Manusia (SDM). Sumber daya manusia merupakan seseorang yang bekerja di sebuah
perbisnisan yang berguna untuk membantu setiap kegiatan di perbisnisan. Untuk menghasilkan sumber daya manusia yang baik perlu adanya
perencanaan yang matang. Cara yang dilakukan yaitu melalakukan
penyeleksian sumber daya manusia dengan syarat dan kriteria sesuai dengan
yang diharapkan perbisnisan. b. Perencanaan Bidang Keuangan
Bidang keuangan merupakan bidang terpenting karena mengatur pemasukan
dan pengeluaran suatu perbisnisan. Uang yang digunakan untuk
keberlangsungan perbisnisan perlu dikelola dengan baik agar bisa
mengetahui keuntungan atau kerugian yang dialami perbisnisan. c. Perencanaan Bidang Produksi
Bidang produksi merupakan proses melakukan produksi barang. Sebelum
melakukan produski perlu adanya perencanaan dalam memilih bahanbaku
yang digunakan pada proses produksi. Bahan yang digunakan harus berasal
dari bahan yang aman dan halal dalam islam. 387 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis d. Perencanaan bidang pemasaran. Pemasaran merupakan tahap akhir dalam kegiatan perbisnisan. Setelah
barang diproduksi langkah selanjutnya memasarkan kepada orang yang
membutuhkan. Pemasaran dilakukan harus memenuhi syarat dalam islam
dengan mementingkan kepuasan pelanggan. 2. Fungsi Pengorganisasian Dalam Pandangan Islam. 2. Fungsi Pengorganisasian Dalam Pandangan Islam. a. Aspek Struktur
Struktur merupakan pembagian tugas berdasarkan bidang dan jenis
pekerjaan yang dilakukan. Struktur kerja penting dibuat agar bisa
mengetahui tugas yang harus dikerjakan agar berhasilnya suatu pekerjaan. b. Aspek Tugas dan Wewenang
Setelah struktur dibuat sesuai dengan tugas dan masing-masing pekerja
harus dilaksanakan sesuai dengan tugasnya masing-masing. 3. Peran Syariah dalam Pengontrolan
Pengontrolan dalam islam merupakan proses pengecekan suatu pekerjaan agar
mengetahui apakah berhasil atau tidak. Tahapan ini dilaksanakan agar tidak akan
ada kejadian yang tidak diinginkan. 4. Peran Syariah dalam Pengawasan
Pengawasan dalam islam merupakan proses melakukan penilaian dan
pengoreksian suatu pekerjaan agar dapat mencapai tujuan yang diharapkan. Perlu adanya pengawasan dalam suatu perbisnisan berguna untuk perkembangan
perbisnisan itu sendiri. Terdapat beberapa hal yang harus diterapkan dalam
proses pengawasan yaitu: a) Ketaqwaan
b) Individu c) Kontrol anggota. d) Penerapan aturan (Tanjung, 2005). 5. Peran Syariah dalam mengatur
Membuat aturan dalam sebuah organisasi penting dilakukan agar organisasi
dapat terarah untuk mencapai tujuan yang diinginkan. Oleh karena itu, mengatur
sebuah organisasi harus dilakukan dengan kebutuhan yang diharapkan. 5. Peran Syariah dalam mengatur 6. Fungsi-Fungsi Manajemen Menurut Pandangan Islam Pengevaluasian (evaluating)
Setelah semua sudah dilaksanakan maka langkah selanjutnya melakukan
evaluasi jika terdapat kesalahan. Semua yang dilakukan dalam bisnis pasti ada
kesalahan yang terjadi yang akan memberikan dampak bagi keberlangsungan
bisnis kedepannya. Oleh karena itu, untuk mengantisipasi kesalahan yang terjadi
maka perlu adanya pengevaluasian (Zainarti, 2014). Fungsi Pengelolaan Menurut pendapat John D Millet fungsi manajemen merupakan suatu tahapan
yang dilakukan untuk memberikan arahan dan fasilitas yang digunakan dalam
organisasi untuk memenuhi tujuan yang dicapai. Terdapat lima peran dalam
manajemen
yaitu
perencanaan,
pengorganisasian,
komando,
koordinasi
dan
pengendalian. Sistem Pengelolaan Sistem merupakan bagian yang harus dilakukan bertujuan untuk mencapai tujuan
yang diinginkan. Sistem dibuat agar memudahkan dalam melakukan kegiatan dalam
menjalankan bisnis. Sistem biasanya merangkum semua aktivitas yang dijalankan
dalam bisnis (Moekijat, 1996). Menurut Kamus Besar Bahasa Indonesia bahwa
manajemen merupakan proses yang dilakukan seorang pemimpin dengan mengatur dan
mengendalikan perkerjaan supaya bisa berjalan dengan lancar sesuai dengan rencana
yang telah ditetapkan sebelumnya (Salim, 2002). 388 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Tujuan Pengelolaan 1. Agar tujuan suatu organisasi dapat dicapai maka perlu adanya manajemen
bertujuan agar pekerja melakukan tugasnya dengan baik agar bisa mencapai
visi dan misi yang diharapkan. Oleh karena itu, visi dan misi dapat tercapai
dengan optimal. 1. Agar tujuan suatu organisasi dapat dicapai maka perlu adanya manajemen
bertujuan agar pekerja melakukan tugasnya dengan baik agar bisa mencapai
visi dan misi yang diharapkan. Oleh karena itu, visi dan misi dapat tercapai
dengan optimal. g
p
2. Setiap kegiatan dalam organisasi harus diukur menggunakan cara yang biasa
digunakan agar bisa menghasilkan secara efesien (Usman, 2006). Berikut adalah
langkah-langkah dalam melakukan manajemen yaitu: 2. Setiap kegiatan dalam organisasi harus diukur menggunakan cara yang biasa
digunakan agar bisa menghasilkan secara efesien (Usman, 2006). Berikut adalah
langkah-langkah dalam melakukan manajemen yaitu:
a. Membuat strategi terlebih dahulu
b. Menentukan alat dan bahan yang digunakan
c. Membuat target agar dapat tercapai sesuai waktu yang telah direncanakan
d. Menentukan tugas sesuai dengan keahliannya
e. Membuat standar kerja yang mencakup efektivitas dan efisiensi
f. Menentukan ukuran untuk menilai
g. Melakukan musyawarah
h. Melaksanakan semua kegitan
i. Menilai semua aktivitas yang dikerjakan
j. Mengadakan review secara berkala
k. Pelaksanaan tahap berikutnya, berlangsung secara berulang-ulang
(Wijayanti, 2008). a. Membuat strategi terlebih dahulu b. Menentukan alat dan bahan yang digunakan c. Membuat target agar dapat tercapai sesuai waktu yang telah direncanakan d. Menentukan tugas sesuai dengan keahliannya g
g
y
e. Membuat standar kerja yang mencakup efektivitas dan efisiensi f. Menentukan ukuran untuk menilai g. Melakukan musyawarah h. Melaksanakan semua kegitan i. Menilai semua aktivitas yang dikerjakan j. Mengadakan review secara berkala k. Pelaksanaan tahap berikutnya, berlangsung secara berulang-ulang
(Wijayanti, 2008). k. Pelaksanaan tahap berikutnya, berlangsung secara berulang-ulang
(Wijayanti, 2008). Indikator Pengelolaan yang Baik Menurut pendapat George R. Terry bahwa manajemen yang sangat baik
mengandung unsur-unsur berikut: 1. Persiapan 2. Pengorganisasian 3. Perencanaan dan pola organisasi 4. Jika diperlukan tindakan korektif dapat dilakukan pada kegiatan implementasi
yang dapat dilanjutkan sesuai dengan rencana (Terry, 2019). 4. Jika diperlukan tindakan korektif dapat dilakukan pada kegiatan implementasi
yang dapat dilanjutkan sesuai dengan rencana (Terry, 2019). Tujuan Ekonomi Islam Islam adalah agama yang bersifat universal artinya bermanfaat bagi semua
manusia. Tujuan ekonomi islam yaitu memberikan aturan agar manusia melakukan
kegiatan ekonomi sesuai dengan yang diajarkan dalam agama islam. Oleh karena itu,
perlu adanya pemahaman tentang islam agar setiap kegiatan ekonomi bermanfaat dan
tidak merugikan orang lain (Riyadi, 2014). Pengertian Ekonomi Islam Ekonomi islam merupakan aturan yang mengatur kegiatan perekonomian yang
mencangkup seluruh aspek kehidupan. Setiap transaksi jual beli harus sesuai dengan
prinsip ekonomi islam yang berpedoman pada Al-Qur’an dan Hadis (Fauzia, 2014). Muhammad bin Abdullah Al Arabi Tariqi berpendapat bahwa ekonomi Islam
merupakan prinsip yang dijalankan kegiatan ekonomi pada umumnya yang bersumber
pada Al-Qur’an dan Hadis.Menurut pendapat Muhammad Abdul Manan bahwa
ekonomi islam merupakan ilmu yang membahas mengenai persoalan ekonomi yang
dijalankan dalam masyarakat sesuai dengan prinsip-prinsip islam (Hakim, 2012). Kegunaan Kos Bagi Kalangan Remaja 1. Digunakan untuk tempat tinggal sementara untuk mahasiswa yang berasal dari
luar kota atau biasanya berasal dari pedesaan yang mencari ilmu ke kota. 1. Digunakan untuk tempat tinggal sementara untuk mahasiswa yang berasal dari
luar kota atau biasanya berasal dari pedesaan yang mencari ilmu ke kota. y
p
y
g
2. Untuk tempat tempat tinggal sementara untuk masyarakat umum yang sedang
bekerja yang tidak memiliki rumah di tempat kerjanya. 2. Untuk tempat tempat tinggal sementara untuk masyarakat umum yang sedang
bekerja yang tidak memiliki rumah di tempat kerjanya. 3. Sebagai tempat bagi mahasiswa untuk melatih pribadi masing-masing untuk
terus berjiwa mandiri, bertanggungjawab dan disiplin mengatur tata kelola
yang ada di kos (Wibowo, 2020). Dasar Ekonomi Islam Manusia merupakan makhluk yang diciptakan Allah SWT. Semua tindakan atau
aktivitas manusia harus dilakuka sesuai dengan perintah Allah SWT. Aqidah, hukum
dan moralitas merupakan dasar dari ajaran Islam. Ketiga dasar harus dipatuhi agar
mengahasilkan sistem yang sesuai dengan ajaran islam. Agar bisa mengerti mengenai
ekonomi islam perlu adanya pembelajaran secara mendalam mengenai islam itu sendiri
dan larangan yang tidak boleh dilakukan oleh manusia. Kosan Istilah kos merupakan kamar yang disewa sebagai tempat untuk berteduh
sementara (Poerwadarminta, 2003). Kamar kost atau yang sering juga disebut dengan
kos-kosan merupakan tempat tinggal sementara bagi pelajar, mahasiswa, pekerja atau
yang melakukan perjalanan jauh. Kos dapat dijadikan tempat teduh semntara bagi para
remaja yang sedang menempuh pendidikan di luar kota. Untuk remaja kalangan atas
biasanya tinggal di apartemen atau hotel karena memiliki dan lebih dari orang tuanya. Untuk kalangan menengah kebawah biasanya tempat tinggal pilihan berada di kos yang 389 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis berbentuk bangunan dengan beberapa ruang kecil atau seriong disebut kamar kecil
(Andriawan, 2016). berbentuk bangunan dengan beberapa ruang kecil atau seriong disebut kamar kecil
(Andriawan, 2016). Prinsip-Prinsip Ekonomi Islam a. Kerja
Setiap manusia menjalani kehidupan di dunia untuk melakukan pekerjaan agar
bisa mendapatkan penghasilan berguna untuk memenuhi kebutuhan hidupnya. Setiap manusia menjalani kehidupan di dunia untuk melakukan pekerjaan agar
bisa mendapatkan penghasilan berguna untuk memenuhi kebutuhan hidupnya. b. Kompensasi
Kompensasi merupakan bentuk hadiah atau balasan karena telah melakukan
pekerjaan sesuai dengan targetnya. b. Kompensasi
Kompensasi merupakan bentuk hadiah atau balasan karena telah melakukan
pekerjaan sesuai dengan targetnya. c Kerja sama p
j
g
g
y
c. Kerja sama c. Kerja sama 390 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Dalam sebuh organisasi pasti terdapat tim kerja yang berfungsi untuk
membantu setiap pelaksanaan kerja (Karim, 2014). d. Kebebasan bertindak
Bebas melakukan apa saja dengan syarat tidak melanggaran ajaran islam. Semua manusia bebas berkreasi sesuai dengan kehendaknya tapi harus sesuai
dengan prinsip islam. (Aziz, 2013). METODE PENELITIAN Penelitian ini menggunakan salah satu jenis penelitian yaitu penelitian terapan
agar mendapatkan daya secara akurat. Pada penelitian deskriptif yang digunakan oleh
peneliti betujuan untuk menjelaskan secara detail mengenai manajemen yang dilakukan
oleh pemilik bisnis kos-kosan di lingkungan UINFAS Bengkulu menurut padangan
ekonomi Islam. Pengumpulan data menggunakan cara tanya jawab dengan
mempersiapkan hal yang ingin ditanyakan. Informan yang dipilih pada penelitian ini yaitu pemilik kosan sebanyak 3 orang
dan penghuni kosan sebanyak 6 orang yang berada di kawasan Universitas Islam
Negeri Fatmawati Sukarno Bengkulu. Sumber data yang digunakan yaitu data primer
dan sekunder. Data primer didapatkan pada pemilik kosan sebanyak 3 orang dan
penghuni kosan sebanyak 6 orang. Informasi berupa data didapatkan berasal dari
beberapa sumber tambahan. Contohnya didapat dari seseorang berupa jurnal, buku,
atau arsip di lokasi penelitian. Teknik pengumpulan data yang digunakan dalam penelitian ini adalah observasi,
wawancara dan dokumentasi. Analisis data yang dugunakan penelitian ini yaitu reduksi
data, penyajian data dan penarikan kesimpulan verifikasi. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu HASIL PENELITIAN DAN PEMBAHASAN Peraturan
Terdapat beberapa peraturan yang diterapkan oleh seluruh kosan yang berada di
lingkungan Universitas Islam Negeri Fatmawati Sukarno Bengkulu yaitu sebagai
berikut: berikut:
a. Tidak boleh menerima tamu yang bukan muhrim
b. Selalu mengutamakan kebersihan lingkungan
c. Selalu menghemat baik listrik maupun air
d. Menerima tamu harus dibawah jam 10 malam
e. Selalu menjaga fasilitas yang telah disediakan oleh pemilik kos agar terjaga
dengan rapi. Peraturan yang ada pada kamar kost yang ada di lingkungan Universitas Islam
Negeri Fatmawati Sukarno Bengkulu belum sesuai dengan syariat islam karena
masih banyak penyewa yang melanggar peraturan yang telah dibuat oleh pemilik a. Tidak boleh menerima tamu yang bukan muhrim b. Selalu mengutamakan kebersihan lingkungan c. Selalu menghemat baik listrik maupun air d. Menerima tamu harus dibawah jam 10 malam e. Selalu menjaga fasilitas yang telah disediakan oleh pemilik kos agar terjaga
dengan rapi. Peraturan yang ada pada kamar kost yang ada di lingkungan Universitas Islam
Negeri Fatmawati Sukarno Bengkulu belum sesuai dengan syariat islam karena
masih banyak penyewa yang melanggar peraturan yang telah dibuat oleh pemilik
kamar kost yang ada di lingkungan Universitas Islam Negeri Fatmawati Sukarno
Bengkulu. Berdasarkan peraturan yang telah dibuat maka para penyewa belum
sepenuhnya mematuhi peraturan yang telah dibuat. HASIL PENELITIAN DAN PEMBAHASAN Berdasarkan penelitian yang telah dilakukan pada pemilik kos yang berada di kawasan
Universitas Islam Negeri Fatmawati Sukarno Bengkulu bahwa manajemen pengelolaan
kos-kosan yang ada di lingkungan uinfas bengkulu terdapat beberapa manajemen yaitu: 1. Harga sewa
Saat melakukan sewa menyewa dilaksanakan oleh pemilik kosan dengan calon
penghuni dengan peraturan yang sudah dijelaskan sebelumnya. Jika penghuni
merasa cocok maka mengikrarkan perjanjian tersebut secara lisan. Perjanjian yang
dilakukan oleh pemilik kos dan penyewa menjelaskan mengenai kesepakatan harga
yang dikelurkan untuk menyewa disertai waktu atau masa yang dihabiskan oleh
penyewa kos. Untuk setiap pemilik kos yang berada di kawasan Universitas Islam
Negeri Fatmawati Sukarno Bengkulu dan sewa menyewa dilakukan dengan lisan
terhadap penghuni kamar sewa. Perjanjian yang telah disepakati oleh penyewa dan
pemilik sewa yang berada di lingkungan Universitas Islam Negeri Fatmawati
Sukarno Bengkulu ini sudah sesuai dengan etika bisnis Islam karena perjanjian
yang terlah dibuat tertera mengenai jumlah biaya yang harus dibayarkan oleh pihak
penyewa bagi penyewa kos. Kesepakatan yang dijelaskan saat sewa menyewa yaitu
sebagai berikut: 391 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis a. Menjelaskan mengenai biaya sewa yang dikeluarkan oleh penyewa yang
dihitung berdasarkan jumlah kamar yang disewa. Harga ditetapkan berdasarkan
kondisi kamar yang ditawarkan oleh pemilik kos yang berada di kawasan
Universitas Islam Negeri Fatmawati Sukarno Bengkulu. a. Menjelaskan mengenai biaya sewa yang dikeluarkan oleh penyewa yang
dihitung berdasarkan jumlah kamar yang disewa. Harga ditetapkan berdasarkan
kondisi kamar yang ditawarkan oleh pemilik kos yang berada di kawasan
Universitas Islam Negeri Fatmawati Sukarno Bengkulu. b. Jangka waktu yang ditetapkan pemilik kos
Pemilik kos menjelaskan mengenai waktu yan dibutuhkan untuk menyewa
kosan. Jika waktu yang dibutuhkan lebih lama maka biaya yang dikeluarkan
juga lebih besar. Penyewa dan pemilik sudah menyepakati biaya disertai jangka
waktu yang telah ditetapkan. Selain itu biaya lain juga dijelaskan pemilik
misalnya biaya listrik dan air yang digunakan penyewa selama masa sewanya
berlangsung. Untuk pembayaran kos biasanya sebulan atau setahun tergantung
pemilik sewa menawarkan. Biasanya dibayar dengan jangka waktu satu tahun. p
y
y
g
j
g
2. Fasilitas
Fasilitas yang diberikan oleh pemilik kos yang berada di lingkungan Universitas
Islam Negeri Fatmawati Sukarno Bengkulu sudah sesuai dengan etika bisnis Islam
karena fasilitas yang diberikan sudah lengkap yang dapat dimanfaatkan penyewa
dalam menjalankan aktivitasnya.Terbukti fasilitas yang diberikan berupa ruang
tamu, lemari, tempat tidur, bak mandi dan lainnya. 3. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu PENUTUP Berdasarkan hasil penelitian yang telah dilakukan dapat diambil kesimpulan
bahwa manajemen kosan yang berada di kawasan Universitas Islam Negeri Fatmawati
Sukarno Bengkulu sudah melaksanakan fungsi organizing yaitu telah memberikan
fasilitas yang penting misalnya kamar tidur, kamar mandi umum, kamar mandi dalam
kamar, dapur umum, tempat cuci piring, tempat jemur pakaian, ruang tamu, tempat
parkiran, karpet, ranjang. Untuk fasilitas tambahan yaitu berupa wifi. Untuk fungsi
actuating sudah dilaksanakan oleh pemilik kos yaitu menjelaskan mengenai biaya yang
wajib dibayar penyewa yang telah dijelaskan oleh pemilik kepada penyewa biaya
kamar kos perbulan dengan fasilitas yang disediakan. Bagi penyewa yang melakukan 392 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis keterlambatan bayar akan diberikan keringanan. Untuk fungsi controlling tidak
dijalankan dengan benar karena masih banyak yang melakukan pelanggaran peraturan
yang sudah ditetapakan. Menurut pandangan ekonomi islam bahwa setiap prinsip yang
dilakukan pihak pemilik sewa telah menjelasakan mengenai biaya dan peraturan yang
harus dipatuhi agar calon penyewa mengetahui dengan jelas kosan yang ingin
ditempati. keterlambatan bayar akan diberikan keringanan. Untuk fungsi controlling tidak
dijalankan dengan benar karena masih banyak yang melakukan pelanggaran peraturan
yang sudah ditetapakan. Menurut pandangan ekonomi islam bahwa setiap prinsip yang
dilakukan pihak pemilik sewa telah menjelasakan mengenai biaya dan peraturan yang
harus dipatuhi agar calon penyewa mengetahui dengan jelas kosan yang ingin
ditempati. Bagi pemilik bisnis kos harus menggunakan bahan bagunan yang memiliki
kualitas yang bagus agar kondisi bangunan tetap awet bisa digunakan dalam jangka
waktu yang panjang. Bagi pemilik bisnis kos harus melakukan proses transaksi sesuai
dengan syariat islam. Bagi penghuni kos untuk terus mematuhi peraturan yang telah
dibuat pemilik. karena aturan tersebut dibuat bertujuan untuk memeberikan
kenyamanan bagi penghuni kos. Oleh sebab itu, perlu adanya pengontrolan bagi
penyewa karena aturan yang dilanggara akan memberikan dampak negatif bagi
penyewa itu sendiri. Cara mengontrol misalnya pemilik kosan harus menggunakan cara
seperti memantau penghuni kos setiap malam, melakukan pengecekan secara rutin,
mengawasi, melihat dan berkeliling di perkarangan kos setiap malam. Apabila cara ini
dilakukan, maka dapat mengurangi pelangaran. DAFTAR RUJUKAN Achmad Nizar Assholikin. (2020). Perancangan Manajemen Pengelolaan Rumah Kos
Berbasis Web. Jurnal Teknologi Informatika Dan Komputer, Vol.6 No.1, 23. f
Andriawan, D. R. dan F. O. (2016). Aplikasi Sistem Informasi Pencarian Tempat Kos
Dikota Bandung Berbasis Android. Jurnal Computech & Bisnis., Edisi 10 N, 50. g
Asnaw, N. (2017). Pemasaran Syariah. Rajawali Pers. Aziz, A. (2013). Etika Bisnis Perspektif Islam. Alfabeta. Aziz, A. (2013). Etika Bisnis Perspektif Islam. Alfabeta. Fauzia, I. Y. (2014). Prinsip Dasar Ekonomi Islam. Kencana. Finthariasari, M. (2015). The Effect Transformational Leadership, Financial Incentives,
Power Of Leadership, and Empowerment Climate On Intrinsic Motivation. Proceeding: Transforming Business in Emerging Markets 4 Th AIMI International
Conference, 1, 978–602. Finthariasari,
M. (2019). Variable
Employee
Engagement,
Organizational
Commitment, Job Embeddedness, OCB, & Turnover Intention In Conventional
Banks Employees At Bengkulu City [Disertasi]. Universitas Bengkulu. Finthariasari, M., & Rahmayanti, D. (2015). Peranan Pemimpin Terhadap Disiplin
Pegawai Kementerian Agama Provinsi Bengkulu Kelompok Jabatan Fungsional. In AUB" Surakarta (Issue November). Firdaus, M. (2009). Manajemen Agribisnis. Bumi Aksara. Hakim, L. (2012). Prinsip-prinsip Ekonomi Islam. Erlangga. Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam
Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan Finthariasari, M., & Rahmayanti, D. (2015). Peranan Pemimpin Terhadap Disiplin
Pegawai Kementerian Agama Provinsi Bengkulu Kelompok Jabatan Fungsional. In AUB" Surakarta (Issue November). Finthariasari, M., & Rahmayanti, D. (2015). Peranan Pemimpin Terhadap Disiplin
Pegawai Kementerian Agama Provinsi Bengkulu Kelompok Jabatan Fungsional. In AUB" Surakarta (Issue November). Firdaus, M. (2009). Manajemen Agribisnis. Bumi Aksara. Firdaus, M. (2009). Manajemen Agribisnis. Bumi Aksara. Hakim, L. (2012). Prinsip-prinsip Ekonomi Islam. Erlangga. ,
(
)
p p
p
gg
Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam
Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan erlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam
Perspektif Ekonomi Islam. IAIN Ambon. Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam
Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 39 DAFTAR RUJUKAN O b
di H
I d i
i N
& A
i
i I (2021) H b
Di i li
K j
D Jerlin, L. O. (2020). Sistem Pengelolaan Kos-Kosan di Kompleks IAIN Ambon dalam
Perspektif Ekonomi Islam. IAIN Ambon. Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. p
f
Karim, A. (2014). Ekonomi Mikro Islam. Raja Wali Press. j
Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Moekijat. (1996). Pengantar Sistem Informasi Manajemen. Remaja Rosdakarya. Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja Dan Orbandi, H., Indriasari, N., & Anggriani, I. (2021). Hubungan Disiplin Kerja D 393 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 3 Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Jurnal Akuntansi, Manajemen Dan Ekonomi Islam (JAM-EKIS)
Vol. 6, No. 2 / Juli 2023
Online ISSN: 2655-6359, Print ISSN: 2656-436X
DOI: https://doi.org/10.36085/jam-ekis Kepuasan Kerja Dengan Kinerja Pegawai Pada Dinas Pendidikan Dan
Kebudayaan Provinsi Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan
Ekonomi Islam (JAM-EKIS), 4(2). Kepuasan Kerja Dengan Kinerja Pegawai Pada Dinas Pendidikan Dan
Kebudayaan Provinsi Bengkulu. Jurnal Ilmiah Akuntansi, Manajemen Dan Poerwadarminta, W. J. S. (2003). Kamus Umum Bahasa Indonesia. Balai Pustaka. Rivaldi, A. (2021). Sistem Manajemen Penyewaan Kamar Kos Berbasis Web Web-
Based Boarding House Rental Management System. Jurnal Script. Riyadi, I. yunia fauzia dan abdul kadir. (2014). Prinsip Dasar Ekonomi Islam
Perspektif Maasbid Al-Syari’ah. Kencana Prenada Media Group. Salim, P. S. dan Y. (2002). Kamus Bahasa Indonesia Kontempore. Modern English
Press. Sinn, A. I. A. (2012). Manajemen Syariah. PT Raja Grafindo Persada. Suma, M. A. (2013). Tafsir Ayat Ekonomi. Amzah. Tanjung, D. H. dan H. (2005). Manajemen Syariah Dalam Praktik. Gema Insani. Tanjung, D. H. dan H. (2005). Manajemen Syariah Dalam Praktik. Gema Insani. Terry, G. R. (2019). Dasar-Dasar Manajemen. Tanjung, D. H. dan H. (2005). Manajemen Syariah Dalam Praktik. Gema Insani. Terry, G. R. (2019). Dasar-Dasar Manajemen. y
j
Usman, H. (2006). Manajemen Teori, Praktik, dan Riset Pendidikan. PT Bumi Aksara. Usman, H. (2006). Manajemen Teori, Praktik, dan Riset Pendidikan. PT Bumi Aksara. Wibowo, R. (2020). Praktik Bisnis Kamar Kost di Lingkungan IAIN Parepare (Analisis
Etika Bisnis Islam). IAIN Parepare. Wibowo, R. (2020). Praktik Bisnis Kamar Kost di Lingkungan IAIN Parepare (Analisis
Etika Bisnis Islam). DAFTAR RUJUKAN IAIN Parepare. Wijayanti, I. D. (2008). Manajemen. Mitra Cendikia Press. yuniarti, R., Irwansyah, R., Hasyim, M. A. N., Riswandi, P., Septania, S., Rochmi, A.,
Febrianty, F., Wijaya, I. G. B., Handayani, F. S., Bambang, B., Setiorini, A.,
Finthariasari, M., & Bahrun, K. (2021). Kinerja Karyawan (Tinjauan Teori dan
Praktis). In E. Jaelani (Ed.), Book Chapter (1st ed., pp. 1–62). Widina Bhakti
Persada Bandung. Zainarti. (2014). Manajemen islami Perspektif Al-qur’an. Jurnal Iqra’, Volume 08. Zainarti. (2014). Manajemen islami Perspektif Al-qur’an. Jurnal Iqra’, Volume 08. 394 http://jurnal.umb.ac.id/index.php/jamekis || Universitas Muhammadiyah Bengkulu 39
|
https://openalex.org/W2499106476
|
https://www.frontiersin.org/articles/10.3389/frma.2016.00003/pdf
|
English
| null |
A Comparative Study of the Citation Impact of Chinese Journals with Government Priority Support
|
Frontiers in research metrics and analytics
| 2,016
|
cc-by
| 6,277
|
A Ping Zhou1* and Loet Leydesdorff2 1 Department of Information Resources Management, School of Public Affairs, Zhejiang University, Hangzhou, China,
2 Amsterdam School of Communication Research (ASCoR), University of Amsterdam, Amsterdam, Netherlands In order to improve the citation impact of Chinese journals, relevant Chinese government
agencies have launched a program entitled Citation Impact Upgrading Plan (CIUP) with
financial support. Only a few journals that perform better have been screened out for
CIUP support. This study tries to figure out if the screening results reflect the bibliometric
status of the journals. We compare journals being supported by CIUP with unsupported
ones. Journals supported by the CIUP have made progress in raising their journal impact
factor (JIF) values and perform better in terms of JIF values. Journals citing CIUP journals
have a spectrum of higher JIF values. Journals in a cited network of a CIUP journal
are better integrated with one another. However, wide gaps still exist between Chinese
and leading international journals. A network visualization of being-cited patterns can
be used to measure a journal’s citation impact in relation to the JIF values of journals in
the network. Policy suggestions on improving citation impact of Chinese journals will be
proposed. Edited by: Keywords: Chinese journal, citation impact, cited network, international visibility, government support Edited by:
Henk F. Moed,
Sapienza University of Rome,
Italy Keywords: Chinese journal, citation impact, cited network, international visibility, government support Reviewed by: Reviewed by:
Saeed-Ul Hassan,
Information Technology University,
Pakistan
Thed Van Leeuwen,
Leiden University, Netherlands
*Correspondence:
Ping Zhou
pingzhou@zju.edu.cn
Received: 05 February 2016
Accepted: 07 July 2016
Published: 02 August 2016
Citation:
Zhou P and Leydesdorff L (2016)
A Comparative Study of the Citation
Impact of Chinese Journals with
Government Priority Support. Front. Res. Metr. Anal. 1:3. doi: 10.3389/frma.2016.00003 Reviewed by:
Saeed-Ul Hassan,
Information Technology University,
Pakistan
Thed Van Leeuwen,
Leiden University, Netherlands
*Correspondence:
Ping Zhou
pingzhou@zju.edu.cn
Received: 05 February 2016
Accepted: 07 July 2016
Published: 02 August 2016 Right after the United States, China has been the second largest producer of scientific publications
since 2006 (Zhou and Leydesdorff, 2008; ISTIC, 2013). With citation impacts rising continuously,
China jumped to the fifth position in 2013 in terms of national total citations from the eighth in 2010
(ISTIC, 2013). This position was reached 2 years earlier than targeted by the Ministry of Science
and Technology (MOST) of China in the 12th National Plan for the Development of Science and
Technology (NPDST). In terms of total citations received by journals in specific disciplines, however,
significant variation exists with journals in chemistry, materials science, engineering technology,
mathematics, computer science, and physics receiving the most citations, and thus taking the second
position in the shares of total world (ISTIC, 2013). Information Technology University,
Pakistan Thed Van Leeuwen,
Leiden University, Netherlands
*Correspondence:
Ping Zhou
pingzhou@zju.edu.cn In addition to being a second largest producer of academic papers, China is also the second largest
publishing nation of academic journals. Of the 9,884 Chinese journals, approximately 5,300 are in
science and technology (Liu, 2012; Yao et al., 2014). International visibility of Chinese journals is
still low but improving (Jin and Rousseau, 2004; Leydesdorff and Jin, 2005; Zhou and Leydesdorff,
2007a,b; ISTIC, 2013): in addition to a growing number of journals being included in Science
Citation Index – Expanded (SCIE), the number of journals in the first and second quartiles of the
journal impact factors (JIFs) have also increased. Original Research
published: 02 August 2016
doi: 10.3389/frma.2016.00003 Citation: Zhou P and Leydesdorff L (2016)
A Comparative Study of the Citation
Impact of Chinese Journals with
Government Priority Support. Front. Res. Metr. Anal. 1:3. doi: 10.3389/frma.2016.00003 August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org 1 Cited Networks of Chinese Journals Zhou and Leydesdorff In 2014, 173 Chinese journals were included in the Journal
Citation Reports (JCR), of which 22 (12.5%) in the first quartile
and 42 (23.9%) in the second quartile, whereas the corresponding
figures were, respectively, 160, 11 (6.9%), 40 (25.0%) in 2013.1 The
number of journals in the first quartile doubled within 1 year. Nevertheless, international visibility of Chinese journals is still
low in terms of both inclusion ratios in WoS and JIF values: only
around 3% of China’s 5,300 S&T journals are indexed in the SCIE,
and JIF values of most of these journals (63.6% in 2014) are in the
lowest (third and fourth) quartiles of the JCR (see text footnote 1). example, national-level projects include the Journal Phalanx of
China of State APPRFT, the Development Strategy Research for
Competitive S&T Journals of the MOST, and the Key Academic
Specific Foundation of the National Natural Science Foundation
of China (NSFC). Years have passed since the launch of the above
projects, and the original targets of raising journal impact and
international visibility have remained beyond reach.i In order to improve the situation, another financial support
project – the International Impact Upgrading Plan for Chinese
S&T Journals (abbreviated as CIUP) – was jointly launched,
in November 2013, by six government agencies, including
the State APPRFT, the China Association for Science and
Technology (CAST), the Ministry of Finance, the Ministry of
Education (MOE), the Chinese Academy of Sciences (CAS),
and the Chinese Academy of Engineering (CAE). The CIUP is
carried out in two steps. The first step was to raise JIF values of
a selected set of journals to quartiles 1 and 2 in JCR by the end
of the 12th 5-Year Plan (2011–2015) and to establish a journal
set that can represent research frontiers or dominant fields
of China, or in fields in which China does not have its own
journals yet. The second step is to form a world-top-journal set
in which China has independent intellectual property rights by
the year 2020. Citation: q
In order to raise international visibility and especially the
citation impact of Chinese journals, relevant government agen-
cies of China have launched a series of supporting projects. Different government agencies provide incentives with different
objectives. Before moving further, it is necessary to explain the
complex administrative structure of Chinese journals (Figure 1). At the national level, administration is carried out by State
Administration of Press, Publication, Radio, Film and Television
(state APPRFT) after integration with other government agen-
cies. The APPRFT is under the direct control of the State Council
of China and has branches at each province and municipality. In
addition to making regulations and policies relevant to journal
publishing and development, State APPRFT has the power
of authorizing establishment of new journals and carries out
routine censorship, whereas provincial APPRFTs are responsible
for administration and control (including censorship) of local
journals. Candidate journals for CIUP support must be published
in English and under the management of one of the above six
government agencies. To ensure high-quality journals to be sup-
ported, the selection scheme combines bibliometric indicators,
expert reviews, and an assessment of editorial boards. In total, 76
S&T journals have been selected for CIUP support. Compared
with the 5,300 scholarly journals in science and technology, the
76 supported journals may seem few, but these are almost half
(47%) of the Chinese journals indexed in the SCIE in 2013.hi Routine management of Chinese academic journals is car-
ried out by editorial boards affiliated with research institutes,
universities, and academic associations/societies. The institu-
tions are also affiliated with respective government agencies. Different governmental agencies are responsible for different
sets of journals with different policies aiming at quality improve-
ment, but with a common focus on international visibility. For The supported journals are classified into four categories,
namely A, B, C, and D, and receive annual support of 2 million
RMB (322,092 US$), 1 million RMB (161,046 US$), 0.5 million
RMB (85,230 US$), and only once with 0.5 million RMB (85,230
US$), respectively. Basic conditions for journals in categories A,
B, and C are two – published in English and indexed in SCIE or
Environment International (EI) or MedLine. Journals in category
D are not required to be in English but will have an English version
in the future. Financial support for journals in category D last for
3 years, and 10 journals are selected each year. 1 https://jcr.incites.thomsonreuters.com/JCRJournalHomeAction.action?SID=A2-
uBT1Q0j5w0vJ6KAtJkx2BYatx2BlbTBnOasF-18x2dDERVkILV0BdTPTpUU0
DGKQx3Dx3DmUK7LrcuxxAJgHcx2FVlEhO0wx3Dx3D-9vvmzcndpRgQC
GPd1c2qPQx3Dx3D-wx2BJQh9GKVmtdJw3700KssQx3Dx3D&SrcApp=IC2LS
&Init=Yes MATERIALS AND METHODS We apply routines developed by Leydesdorff and Cozzens (1993)
with aggregated journal–journal citation matrices are harvested
from JCR data from the perspective of a seed journal. A seed
journal is the one under investigation and acts as a starter to run
the routines. Any journal indexed in Science Citation Index (SCI)
or Social Science Citation (SSCI) can be used as a seed. The result-
ing ego-network is composed of journals citing or cited by a seed
journal. Journals citing a seed journal form a citing network and
those cited by a seed journal constitute a cited network. A cita-
tion network includes all journals that cite or are cited by a seed
journal to the extent of a contribution of, for example, 1% of the
seed journal’s total citation rate (He and Pao, 1986; Leydesdorff,
1986). By default, the threshold is 1% in the routines, but this can
be changed so as to include an appropriate number of journals in
a local citation network. For a network with too many journals,
one can raise the threshold in order to reduce the size of the
network, and vice versa. j
g
y
To select journals supported by the CIUP, two criteria are
applied. First, a journal must be listed in categories A or B of the
CIUP, because journals in these two categories are supposed of
relatively higher quality than those in categories C and D accord-
ing to the support conditions of CIUP. Second, a journal must
have been indexed in SCIE for at least 10 years (Slyder et al., 2011;
Finardi, 2014) so as to ensure an equal or at least similar length
of the citation window. To investigate possible disciplinary/field
variation, journals in different disciplines/fields are included
for comparative analysis. Journals with title changes were not
included because of a possible discontinuity of citation data. For
example, under the title Science in China, there were series A to E
representing different fields until 2011 and then the journal titles
were changed to Science China plus field names such as Science
China-Mathematics, Science China-Chemistry, and so on. The
citation data of such title-changed journals in JCR have not been
fully integrated yet. Citation: The number of
journals supported by the CIUP is 6, 30, 30, and 10 in categories
A, B, C, and D, respectively. Journals in category A are all indexed
in the SCIE, whereas some in the other three categories (i.e., B, C,
and D), however, are not included in SCIE in 2013. FIGURE 1 | The administrative structure of Chinese journals. In this paper, we investigate if the CIUP scheme corresponds
with citation impact in terms of cited patterns of a target JIF
and country of origin of journals in its cited environment. Is a
journal in a higher rank of a supporting category more influential
internationally or domestically (i.e., cited by more international
or Chinese journals) or cited by more journals with higher JIF
values? Does disciplinary/field variation exist in the above issues? The investigation will be done by comparing between CIUP sup-
ported and unsupported Chinese S&T journals indexed in the
SCIE. Furthermore, cited patterns of leading international jour-
nals in the same subject category of the JCR will also be included FIGURE 1 | The administrative structure of Chinese journals. Frontiers in Research Metrics and Analytics | www.frontiersin.org August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org 2 Cited Networks of Chinese Journals Zhou and Leydesdorff in the comparison so as to figure out the gap between Chinese and
leading international journals. in the comparison so as to figure out the gap between Chinese and
leading international journals. In a citation environment, a journal’s node size is determined
by the logarithm of its contribution to the total number of cita-
tions in a local environment during the year under investigation. Citation counts are based on total citations to a journal during the
current year and are combined for both the SCI and SSCI. In fact, comparative studies between Chinese and interna-
tional journals have been carried out before (Jin and Leydesdorff,
2005; Li, 2006; Zhou and Leydesdorff, 2007a,b; Zhou et al., 2010). For example, based on data of the JCR of Thomson Reuters and
the China Scientific and Technical Papers and Citations Database
(CSTPCD) of the Institute of Scientific and Technological
Information of China (ISTIC; Zhou and Leydesdorff, 2007a,b),
compared journal–journal citation relations from different
perspectives, and found that international visibility of high-
quality Chinese journals was low. 2 Pajek is a routine for the analysis and visualization of large networks, freely avail-
able at http://mrvar.fdv.uni-lj.si/pajek/ Citation: Years have passed since the
previous studies, and the situation has changed with China’s rapid
development in science and technology and its increasing R&D
investment during the past 10 years (MOST, 2012; NBS, 2013). The launch of CIUP ignites our interests of mapping an updated
picture of Chinese journals by focusing on the supported versus
unsupported Chinese journals in terms of their respective posi-
tions in the international scholarly community and to assess the
rationality of CIUP in selecting journals of better performance in
the international community. Many programs, such as VOSviewer, Pajek, or Gephi, can be
used to visualize journal citation networks. In this study, we use
Pajek because it serves the purpose of illustrating the relative cited
size of individual journals in local environments. Data of a citation
environment can be imported into Pajek after being generated by
the routines. The cosine between two vectors (Salton and McGill,
1983) is used to measure the similarity between the distributions
of various journals included in a citation network (Leydesdorff,
2007). A visualized citation network showing strength of citation
relations between journals in a local environment can thus be
obtained. To display citation impact of a seed journal, cited relations are
generated from the 2013 version of the JCR of Thomson Reuters. Comparison is carried out between three types of journals,
namely supported and unsupported Chinese journals, as well as
leading international journals. Cited counts of a journal are all
citations to items published in the journal in the past 10 years of
2013 including the year 2013. Such calculation may result in a
bias to journals included in the SCIE in different years: a journal
indexed earlier may have more chances of being cited in the cur-
rent year. To avoid or reduce this possible bias, we select journals
indexed in the same year or journals at least 10 years (i.e., in or
before 2004) in the SCIE in the same subject category. RESULTS The study focuses on the cited patterns of the selected journals
in 2013. When visualizing a cited network of a seed journal, the
threshold was set at 1%. In other words, journals appearing in a
cited network contribute at least 1% to the total citations of a seed
journal. The maps are based on cosine ≥0.2. With already much higher JIF (3.516) value than JESC (0.720)
in 2008, the Environment International (EI) outperforms JESC
in raising JIF value, which widens the gap between the two. This implies a harder task for JESC to catch up with leading
international journals such as EI. Scope of citation impact of
EI is wider with 15 journals contributing at least 1% to its total
citations. JIF values of journals in the cited network of EI range
from 1.679 of Environmental Monitoring and Assessment to 5.323
of Water Research. Average JIF value (3.607) of journals citing EI
is higher than that of JESC (2.941). Journals except Plos One in
the cited network of EI are completely integrated with each other
(Figure 2C). In other words, journals in the cited network of EI
integrate better than those in the two Chinese journals. MATERIALS AND METHODS of the total citations of JESC is significantly more than that of
journals citing BES, which may imply a wider scope of impact
of JESC. In a visualized cited network, a journal is considered as well
integrated into the scholarly communication of a specific field
if most journals in the network cite one another. With limited
time and specific research interests, authors, especially those
publishing in high-impact journals, may not read all publications
in their fields. Instead, they focus on publications in journals of
high-impact and/or of specific interests, which may result in
stable citations to high-impact journals. Furthermore, authors
being able to publish in high-impact journals are more likely to
cite papers in high-impact journals, and thus resulting in a well-
integrated citation network. Journals with fewer citation relations
and at the edge of a citation network are less frequently accessed
by scholars in a specific scholarly community, and thus have fewer
chances of being cited. High-impact journals in a specific field
are more likely to generate a well-integrated citation network,
whereas multidisciplinary journals and journals of low impact
are less likely to have an integrated citation network because of
being less frequently accessed by scholars. Journal impact factor values of journals contributing at least
1% of the total citations of JESC range from 0.527 of Fresenius
Environmental Bulletin to 5.323 of Water Research, and JIFs of
those citing BES range from 1.257 of BES to 3.534 of Plos One. In other words, JESC has impact on journals with much higher
JIF values. In terms of being cited by foreign journals, both JESC
and BES receive citations from foreign journals (Figures 2A,B). Nevertheless, international visibility of JESC is clearly higher than
that of BES because of significantly more journals citing JESC. i
Regarding structure of cited networks (Figure 2A), JESC
is surrounded by journals in environmental sciences except
Plos One – a multidisciplinary journal. Most journals cite one
another in addition to citing JESC. Nevertheless, holes exist in
the network. Journals, such as Fresenius Environmental Bulletin,
Desalination and Water Treatment, and Ecological Engineering, do
not link with other journals in the network. In other words, not
all journals in the cited network of JESC have established citation
relations with each other. In terms of integration in its own network (Figure 2B), BES
performs worse: the only four journals in its cited network do
not cite each other. MATERIALS AND METHODS Each journal in a network is represented by a node which can
be a circle or an ellipse in a Pajek picture.2 The size of an ellipse
is determined by the corresponding journal’s contribution to the
citing or cited environment in the year under investigation. The
distinction of the vertical and horizontal size of the ellipse informs
the reader about the extent to which within-journal (self-)cita-
tions participate in the citation impact (Leydesdorff, 2007; Zhou
and Leydesdorff, 2008). Note that within-journal citations can be
author self-citations or citations among authors publishing in the
same journal. Citations excluding journal self-citations can be
considered as a measure of inter-journal communication. Based on the above criteria, a few journals in categories A and
B of CIUP can be selected (Table 1). The EI and Communications
on Pure and Applied Mathematics (CPAM) were added for
illustrating the gap between Chinese and leading international
journals. The citation impact of a seed journal is positively related to its
JIF and also JIFs of journals in the seed journal’s cited network. In addition, the academic reputation of the editor and editorial
board members plays a role. Editorial board members of lead-
ing international journals are from all over the world with high
academic impact, whereas those of Chinese journals are less so. Therefore, assessing international visibility should also consider Frontiers in Research Metrics and Analytics | www.frontiersin.org August 2016 | Volume 1 | Article 3 3 Cited Networks of Chinese Journals Zhou and Leydesdorff TABLE 1 | Journals being analyzed. Subject
category
Journal title
JIF
All year
citations
CIUP category
Initial year
in JCR
Country
origin
2008
2013
Growth
Growth (%)
Environmental
Sciences
Journal of Environmental Sciences – China
(JESC)
0.720
1.922
1.202
166.9
4,774
A
2003
China
Biomedical and Environmental Sciences (BES)
0.675
1.257
0.582
86.2
1,343
Not applicable
1998
Environment International (EI)
3.516
5.664
2.148
61.1
10,171
Not applicable
1997
USA
Mathematics
Journal of Computational Mathematics (JCM)
0.765
1.049
0.284
37.1
815
B
1997
China
Acta Mathematica Scientia (AMS)
0.222
0.620
0.398
179
593
Not applicable
1997
Communications on Pure and Applied
Mathematics (CPAM)
3.806
3.080
−0.726
−19.1
6,904
Not applicable
1997
USA the country of origin of journals citing a seed journal, in addition
to JIF values. In a cited network, the more journals from foreign
countries, the higher the international visibility a journal is. MATERIALS AND METHODS This situation may lead to unstable citation
relations of BES, and thus affect the increase of citation impact
(e.g., JIF value). Compared with journals in the cited network of
JESC, such as Water Research, Journal of Hazardous Materials,
and Chemosphere, JESC has received much fewer citations, but
the reception of BES is even worse. Citation Impact of Journals in
Environmental Sciences In
environmental
sciences,
Journal
of
Environmental
Sciences – China (JESC) is supported under category A by the
CIUP, whereas Biomedical and Environmental Sciences (BES) is
not. In 5 years from 2008 to 2013, JIF of JESC has increased by
166.9% from 0.720 to 1.922, and that of BES has also increased
but with a lower ratio (86.2%) from 0.675 to 1.257 (Table 1). JESC
outperforms BES in terms of both absolute value and growth rate
of JIF, resulting in an enlarged gap between the two journals
because of increased JIF difference from 0.045 (in 2008) to 0.565
(in 2013). The number of journals contributing more than 1% August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org 4 Cited Networks of Chinese Journals Zhou and Leydesdorff FIGURE 2 | Cited patterns of journals in environmental sciences in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Environmental Sciences – China
(JESC), (B) Biomedical and Environmental Sciences (BES), and (C) Environment International. FIGURE 2 | Cited patterns of journals in environmental sciences in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Environmental Sciences – China
(JESC), (B) Biomedical and Environmental Sciences (BES), and (C) Environment International. Citation Impact of Journals in
Mathematics Modelling to 2.485 of Journal of Computational Physics, whereas
those in the cited network of AMS range from 0.620 of AMS
to 2.486 of Fixed Point Theory and Applications. Thus, the two
journals have similar impact on a journal set of similar JIF
values. With most citing journals originated from foreign coun-
tries, the international visibilities of both journals are similar
(Figures 3A,B). Of the three journals in mathematics in Table 1, Journal of
Computational Mathematics (JCM) and Acta Mathematica
Scientia (AMS) are from China and CPAM is from USA. JCM is
supported under category B of CIUP, whereas AMS in not sup-
ported by the CIUP. Both journals are under the subject category
of mathematics and have been indexed in SCIE since 1997. CPAM
is a top journal in mathematics in terms of JIF value and is selected
for international comparison for the two Chinese journals. In its cited network (Figure 3A), JCM is surrounded by
journals in mathematics, indicating a good integration of JCM
in the scholarly community of mathematics. In fact, all journals
in the cited network of JCM are in mathematics and mostly
link (cite) each other forming an integrated unity. Nevertheless,
some journals, such as Linear Algebra and Applications, Science
China-Mathematics, Computer Physics Communications, and
Mathematical Problems in Engineering, do not have links with
other journals in the network. Journal of Computational Mathematics performs better than
AMS in absolute JIF value, but not in relative growth rate. The
JIF value of JCM has been increased by 37.1% from 0.765 to
1.049 in the 5 years, whereas that of AMS increased by 179.0%
from 0.222 to 0.620. JIF difference between the two journals has
been reduced slightly from 0.543 to 0.429 (Table 1). By 2013, the
cited networks of JCM and AMS cover, respectively, 25 and 16
journals, which implies a wider impact scope of JCM compared
with that of AMS.h Located at the edge of its own cited network (Figure 3B), AMS
is less integrated into the cited network compared with JCM. Frontiers in Research Metrics and Analytics | www.frontiersin.org DISCUSSION AND CONCLUSION Differential Equations, are partly isolated from the network. With
smallest node size in their cited networks, both JCM and AMS
receive much fewer citations than journals with large node size. In other words, the overall citation impact (i.e., total citations in
all years) of the two Chinese journals is very low compared with
those in their cited network, such as Journal of Computational
Physics, Applied Mathematics and Computation, Journal of
Mathematical Analysis and Application, and Applied Mathematics
and Computation. Differential Equations, are partly isolated from the network. With
smallest node size in their cited networks, both JCM and AMS
receive much fewer citations than journals with large node size. In other words, the overall citation impact (i.e., total citations in
all years) of the two Chinese journals is very low compared with
those in their cited network, such as Journal of Computational
Physics, Applied Mathematics and Computation, Journal of
Mathematical Analysis and Application, and Applied Mathematics
and Computation. We compared the citation impacts of Chinese journals supported
or not supported by the CIUP so as to assess the selection ration-
ality of the Plan, namely, whether supported journals perform
better than those not supported, and those receive more financial
support (i.e., rank higher with the CIUP) perform better than
those receiving less. With limited options of journal samples
defined by the CIUP, two sets of journals in environmental
sciences and mathematics were selected. The results show that
journals included in the CIUP perform better than those not
included. p
Undoubtedly, the JIF value (3.080 in 2013) of the selected
international journal – CPAM is significantly higher than those
of the two Chinese journals, although decreased by 19.1% from
that in 2008 (3.806) when there was no significant change in the
number of citable items (respectively, 53 in 2008 and 48 in 2013). The JIF difference between CPAM and the two Chinese journals
(JCM and AMS) is wide though narrowed from 3.041 in 2008 to
2.031 in 2013, respectively. Journal impact factor values of the two Chinese journals in
the environmental sciences (JESC supported by CIUP and BES
not supported by CIUP) have increased from 2008 to 2013. JESC
outperforms BES in overall citation impact, growth of absolute or
relative ratio of JIF value, scope of citation impact in terms of the
number of journals citing JESC, as well as JIF values of journals
in JESC’s cited network. Citation Impact of Journals in
Mathematics In
addition to Scientific World Journal which is completely isolated
from the network, journals, such as Frontiers in Mathematics
in China, Fixed Point Theory and Applications, and Journal of The JIF values of journals in the cited network of JCM range
from 0.673 of International Journal of Numerical Analysis and August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org 5 Cited Networks of Chinese Journals Zhou and Leydesdorff FIGURE 3 | Cited patterns of journals in mathematics in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Computational Mathematics (JCM), (B) Acta
Mathematica Scientia (AMS), and (C) Communications on Pure and Applies Mathematics (CPAM). FIGURE 3 | Cited patterns of journals in mathematics in 2013 (threshold = 1%, cosine ≥ 0.2). (A) Journal of Computational Mathematics (JCM), (B) Acta
Mathematica Scientia (AMS), and (C) Communications on Pure and Applies Mathematics (CPAM). Frontiers in Research Metrics and Analytics | www.frontiersin.org DISCUSSION AND CONCLUSION JIF growth of JESC is higher than that
of BES. With significantly more foreign journals and surrounded
by journals in the same field, JESC’s citation impact is wider and
holes in its cited network are fewer. JESC is better integrated in
the scholarly community in the environmental sciences. With 14 journals contributing to at least 1% of its total cita-
tions (Figure 3C), CPAM has wide-scope impact. The JIF values
of journals in the cited network of CPAM range from 0.708 of
CPAM to 3.080 of CPAM itself – CPAM outperforms the two
Chinese journals in this regard. Journals in the cited network of
CPAM are well integrated with each other, including those at the
edge of the network. Surrounded by other journals in its cited
network, CPAM has recognition in mathematics. Chinese journals in mathematics display another picture. Similar to the situation in the environmental sciences, CIUP August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org August 2016 | Volume 1 | Article 3 6 Cited Networks of Chinese Journals Zhou and Leydesdorff supported journal (i.e., JCM) outperforms the one not supported
(i.e., AMS) in terms of absolute JIF values. Nevertheless, AMS
has progressed slightly faster in raising JIF value, and thus nar-
rowing the gap with JCM. Both journals have similar impact in a
journal set of similar JIF value scope and with high international
visibilities. Compared with AMS, JCM is better integrated in the
scholarly community and with fewer holes in its cited network. paper in a higher quartile is scored higher. With so few Chinese
journals being indexed in the WoS and most of them having low
JIF values, attracting high-quality papers of Chinese authors is
still a hard task for Chinese journals, let alone attracting high-
quality papers of international authors. Visualization of the citation network helps assess journal
impact in terms of integration into a scholarly community and
overall citation impact (cited counts) or citation contribution
(citing counts). Holes in a network most likely happen to mul-
tidisciplinary journals because of variable citation relations with
journals of different fields: citations to multidisciplinary journals
rely on citation practices in different fields. Low-impact journals
may be less frequently read and thus difficult to receive sufficient
attention for citations. The Chinese government may consider
making all Chinese journals Open Access. ACKNOWLEDGMENTS The first author is supported by the National Natural Science
Foundation of China (NSFC) with Grant Number 71473219 and
the Planning Office of Philosophy and Social Sciences of Hangzhou
City, Zhejiang Province, with Grant Number B14TD02. We thank
Xianzan Lv and Xiaojing Cai for downloading data. We are grate-
ful to Thomson Reuters for access to the JCR data. In addition to intrinsic management challenges, the current
research evaluation schemes in Chinese academic institutions
put most Chinese journals in a disadvantageous situation: only
publications in journals indexed by the Web of Science (WoS)
are included in performance evaluation. Some leading Chinese
universities assess papers based on journal Quartiles in JCR: a AUTHOR CONTRIBUTIONS PZ writes the paper and does most of the analysis. LL provides
routines for harvesting journal citation networks, as well as com-
ments and revision suggestions for the paper. DISCUSSION AND CONCLUSION This policy may be
more effective than trying to change the behavior of authors,
editors, and universities. As we have argued, accessibility is a pre-
condition for being read and then cited (Harnad and Brody, 2004;
Davis et al., 2008; Gargouri et al., 2010). A move to Open Access
of Chinese journals across the board may change publication and
marketing strategies of all parties involved. In reducing gaps between Chinese journals indexed in the SCIE
in terms of JIF values and structure of citation networks, those
in mathematics perform better than those in the environmental
sciences. Nevertheless, the gaps between Chinese and leading
international journals are still wide in JIF value, the structure of
the citation network, and overall citation impact. In general, it
seems not an easy task to realize the goals set by the CIUP. Financial support does help in infrastructure establishment
or improvement as well as attracting talents to improve capacity
of an editorial board. Money, however, is not almighty. In the
Internet era, journal impact depends highly on paper quality and
online accessibility. The most important issue to journal impact
is quality of publications, expertise and dedication of editorial
board members, editors, and reviewers. In the current adminis-
trative context of Chinese journals, it is common that editorial
boards are mainly composed of administrative officials. Some
members do have high academic honors but do not perform
duties. Having an administrative title, regardless of one’s educa-
tional background, is sometimes a condition for being included
in a journal board. Furthermore, chief editors of many Chinese
journals do not always have PhD degrees, let alone editors. For
journals operationalized in this way, money can do little, if noth-
ing, in raising citation impact. REFERENCES research, In: H. F. Moed, W. Glanzel, and U. Schmoch (eds). (Dordrecht: Kluwer
Academic), 497–514.f Davis, P. M., Lewenstein, B. V., Simon, D. H., Booth, J. G., and Connolly, M. J. (2008). Open access publishing, article downloads, and citations: randomized
controlled trial. BMJ 337, a568. doi:10.1136/bmj.a568 Jin, B. H., Leydesdorff, L., Sun, H. R., Zhang, W., and Cen, Z. B. (2005). ୰ᅜ⛉ᢏᮇหᘬᩥ⨒㔌: ഭ䱵ᖡ૽઼ഭᖡ૽࠶᷀ (Citation networks
of Chinese S&T journals: analysis on international and domestic impact). ୰ᅜ⛉ᢏᮇห◊✲ (Chinese Journal of Scientific and Technical Periodicals)
16, 141–146. Finardi, U. (2014). On the time evolution of received citations, in different sci-
entific fields: an empirical study. J. Inform. 8, 13–14. doi:10.1016/j.joi.2013. 10.003 Leydesdorff, L. (1986). The development of frames of references. Scientometrics 9,
103–125. doi:10.1007/BF02017235 fi Gargouri, Y., Hajjem, C., Larivière, V., Gingras, Y., Carr, L., Brody, T., et al. (2010). Self-selected or mandated, open access increases citation impact for higher
quality research. PLoS ONE 5:e13636. doi:10.1371/journal.pone.0013636 Leydesdorff, L. (2007). Visualization of the citation environments of scientific
journals: an online mapping exercise. J. Am. Soc. Inf. Sci. Technol. 58, 25–38. doi:10.1002/asi.20406 fh Harnad, S., and Brody, T. (2004). Comparing the impact of open access (OA) vs. non-OA articles in the same journals. Dlib Mag. 10, 6. Available at: http://www. dlib.org/dlib/june04/harnad/06harnad.htmli Leydesdorff, L., and Cozzens, S. E. (1993). The delineation of specialties in
terms of journals using the dynamic journal set of the science citation index. Scientometrics 26, 133–154. doi:10.1007/BF02016797 He, C., and Pao, M. L. (1986). A discipline-specific journal selection algorithm. Inf. Process. Manage. 22, 405–416. doi:10.1016/0306-4573(86)90075-0 He, C., and Pao, M. L. (1986). A discipline-speci Leydesdorff, L., and Jin, B. H. (2005). Mapping the Chinese science citation data-
base in terms of aggregated journal-journal citation relations. J. Am. Soc. Inf. Sci. Technol. 56, 1469–1479. doi:10.1002/asi.20209 ISTIC. (2013). ୰ᅜ⛉ᢏ䇪᮷㔏䇑㔃᷌ 2013 (Statistical Data of Chinese S&T
Papers). Beijing: Institute of Scientific and Technical Information of China. f
Papers). Beijing: Institute of Scientific and Technical Information of China. Jin, B.H., and Rousseau, R. (2004). Evaluation of research performance and scien-
tometric indicators in China. Handbook of quantitative science and technology Li, Z. X. (2006). How to establish a first-class international scientific journal in
China? World J. Gastroenterol. 12, 6905–6908. doi:10.3748/wjg.v12.i43.6905 Jin, B.H., and Rousseau, R. (2004). Evaluation of research performance and scien-
tometric indicators in China. REFERENCES Handbook of quantitative science and technology August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org Zhou and Leydesdorff Cited Networks of Chinese Journals terms of journal hierarchies and inter-journal citation relations. J. Am. Soc. Inf. Sci. Technol. 58, 223–236. doi:10.1002/asi.20475 Liu, L. (2012). ゎ䈫“⛉ᢏᮇหᅜ䱵ᖡ૽࣋ᨀॷ䇑ࡂ” (Understanding the
international impact upgrading plan for journals in science and technology). ⛉ᢏ᪥ᣕ (Science and Technology Daily) 3. Zhou, P., and Leydesdorff, L. (2007b). The citation impacts and citation networks
of Chinese journals in mathematics. Scientometrics 72, 185–200. doi:10.1007/
s11192-007-1713-0 fi gy
y
MOST. (2012). China Science & Technology Statistics Database. Available at: http://
www.sts.org.cn/sjkl/kjtjdt/index.htm Zhou, P., and Leydesdorff, L. (2008). China ranks second in scientific publications
since 2006. ISSI Newslett. 4, 7–9. f NBS. (2013). “Expenditure on R&D (100 million Yuan),” in China Statistical Year
Book. Ren, S. L. (2005). Editing scientific journals in Mainland China. Eur. Sci. Edit. 31, 8–9. Available at: http://data.stats.gov.cn/english/easyquery.htm?cn=C01 Zhou, P., Xinning, S., and Leydesdorff, L. (2010). A comparative study on commu-
nication structures of Chinese journals in the social sciences. J. Am. Soc. Inf. Sci. Technol. 61, 1360–1376. doi:10.1002/asi.21343 Salton, G., and McGill, M. J. (1983). Introduction to Modern Information Retrieval. Auckland: McGraw-Hill. Slyder, J. B., Stein, B. R., Sams, B. S., Walker, D. M., Beale, B. J., Feldhaus, J. J.,
et al. (2011). Citation pattern and lifespan: a comparison of discipline, insti-
tution, and individual. Scientometrics 89, 955–966. doi:10.1007/s11192-011-
0467-x Conflict of Interest Statement: The authors declare that the research was con-
ducted in the absence of any commercial or financial relationships that could be
construed as a potential conflict of interest. Yao, Z. C., Luo, Z. F., Jin, X. Y., and Duan, R. Y. (2014). ᯠ䎧⛩·ᯠԫ࣑·ᯠਁኅ*—
ࠓ୰ᅜ⛉ᢏᮇหᅜ䱵ᖡ૽࣋ᨀॷ䇑ࡂNJ䍴ࣙᮇหⓗศᯒᒎᮃ (New start,
new task, new development: analysis and expectation on journals funded by the
International Impact Upgrading Plan for China’s S&T journals) (in Chinese). 㕆䗁ᆖᣕ (Acta Editologica) 26, 342–346. fi Copyright © 2016 Zhou and Leydesdorff. This is an open-access article distributed
under the terms of the Creative Commons Attribution License (CC BY). The use,
distribution or reproduction in other forums is permitted, provided the original
author(s) or licensor are credited and that the original publication in this journal
is cited, in accordance with accepted academic practice. No use, distribution or
reproduction is permitted which does not comply with these terms. Zhou, P., and Leydesdorff, L. (2007a). Frontiers in Research Metrics and Analytics | www.frontiersin.org REFERENCES A comparison between the china scientific
and technical papers and citations database and the science citation index in August 2016 | Volume 1 | Article 3 Frontiers in Research Metrics and Analytics | www.frontiersin.org 8
|
https://openalex.org/W3013176746
|
https://europepmc.org/articles/pmc6954517?pdf=render
|
English
| null |
Childhood cancer incidence and survival trends in Estonia (1970–2016): a nationwide population-based study
|
BMC cancer
| 2,020
|
cc-by
| 9,442
|
Paapsi et al. BMC Cancer (2020) 20:30
https://doi.org/10.1186/s12885-019-6510-7 Paapsi et al. BMC Cancer (2020) 20:30
https://doi.org/10.1186/s12885-019-6510-7 Open Access © The Author(s). 2020 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Abstract Background: Childhood cancers represent a small proportion of all cancers but are still a major public health
problem. The study analysed long-term trends in childhood cancer incidence and survival in Estonia in relation to
societal and health care transition. Methods: Data on all malignant tumours, diagnosed in children aged 0–14 during 1970–2016, were derived from
the Estonian Cancer Registry. Age-standardised (World standard) incidence rates were calculated by ICCC-3 site
groups and joinpoint regression was used to estimate annual percentage change (APC) for incidence trends. Cohort and period approach were used to estimate 5-year survival. Internal age standardisation was applied. Results: A total of 1628 incident cancer cases were diagnosed during the study period and overall incidence
increased significantly at a rate of 0.5% per year. Significant increases were seen for neuroblastoma and germ cell
tumours, for lymphoid leukemias and some CNS sub-sites. At the same time, decline in incidence was seen in
almost all subgroups of unspecified neoplasms. The overall 5-year survival improved from 24% in 1970–1979 to 73%
in 2010–2016, with the largest changes occurring in the 1990s and 2000s. For many sites, survival increase
thereafter has been marginal. Conclusion: In this first comprehensive population-based study of childhood cancer incidence and survival in
Estonia, long-term trends are shown in the context of societal and health care changes. Even though the increasing
incidence of some sites may, at least partially, be explained by improved diagnostics reflected in the decreased
incidence of unspecified neoplasms, the overall cancer incidence in children seems to be rising. Rapid progress in
diagnosis and care have improved childhood cancer survival immensely, but deficit in Estonia persists compared to
other European countries. Results of the study accentuate the need for a more in-depth analysis of clinical data, but
also for the prioritization of childhood cancer in Estonia, to ensure access to standard care and innovative
treatments. Keywords: Childhood cancer, Incidence, Survival, Population-based, Cancer registry, ICCC-3 Childhood cancer incidence and survival
trends in Estonia (1970–2016): a nationwide
population-based study iu Paapsi1*
, Aleksei Baburin1, Sirje Mikkel2, Margit Mägi3, Kadri Saks4 and Kaire Innos1 Keiu Paapsi1*
, Aleksei Baburin1, Sirje Mikkel2, Margit Mägi3, Kadri Saks4 and Kaire Innos Background tremendous changes in childhood cancer management. No studies, to this date, have been conducted in Estonia
to analyse long-term time-trends of childhood cancer
incidence and survival nor the impact of the above-
mentioned changes. But the increasing number of pa-
tients [1] and better outcomes seen in clinical practice,
and inferior survival compared to other countries seen
in international studies [2, 3], clearly indicated the need
for it. Furthermore, as more and more children survive
and remain at risk of developing secondary malignancies,
chronic diseases and many other treatment emergent In Estonia, childhood cancer is the third leading cause
and the main disease-related cause of death in children
under the age of 15. Estonia has witnessed societal and
political transition during the past decades and has
moved from the Soviet health care system into a more
modern and centralised system that has brought along * Correspondence: keiu.paapsi@tai.ee
1Department of Epidemiology and Biostatistics, National Institute for Health
Development, Hiiu 42, 11619 Tallinn, Estonia
Full list of author information is available at the end of the article * Correspondence: keiu.paapsi@tai.ee
1Department of Epidemiology and Biostatistics, National Institute for Health
Development, Hiiu 42, 11619 Tallinn, Estonia
Full list of author information is available at the end of the article Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 Page 2 of 12 Page 2 of 12 the whole study period by ICCC-3 site groups is presented
in the main table. Joinpoints for subsites or age groups are
shown in the text. Additional sensitivity analysis was
carried out for leukemias starting from 1985 onwards (to
investigate incidence trends after it became possible to
distinguish between ALL and AML). late effects, new challenges are imposed on health care. Therefore, monitoring incidence and survival trends is
crucial to inform public health policy and health services. The aim of the study was a) to analyse long-term
childhood
cancer
incidence
and
survival
trends
in
Estonia by sex, age and site group, b) to examine these
trends in the context of the advances in cancer treat-
ment through changes in the political order and in the
health care system. For survival analysis, the study period was divided into
five periods: 1970–1979, 1980–1989, 1990–1999, 2000–
2009, 2010–2016. 5-year observed survival with 95% CI
were calculated by ICCC-3 site groups and time periods
using the Kaplan-Meier method. We used cohort ap-
proach for the first four periods and period approach for
the latest, as this allows the prediction of survival for
children with yet incomplete follow-up [6]. Internal age
standardisation (to the latest period) was applied. DCO
and autopsy cases were excluded from the survival
analysis. Methods The
population-based,
nation-wide
Estonian
Cancer
Registry (ECR) holds data on all incident cancer cases
diagnosed in Estonia since 1968 (population 1.3 million
according to the 2011 census). All malignant, in situ,
benign tumours and tumours of uncertain or unknown
behaviour of brain and central nervous system as well as
of the endocrine organs, located in the area of the brain
and other tumours of lymphoid, haematopoietic and re-
lated tissues, are registered. ICD-O-3 coding is used for
all cases registered in the ECR. Statistical analysis was performed with STATA 14.2
(StataCorp, College Station, Texas, USA). The study
protocol was approved by the Tallinn Medical Research
Ethics Committee. Data on all primary malignant tumours diagnosed be-
tween 1970 and 2016 in children aged 0–14 years were de-
rived from the ECR. As non-malignant CNS tumours are
registered only starting from 1998, these cases were not in-
cluded in this study. Age at diagnosis was grouped into
three categories: 0–4, 5–9, 10–14 years. Cancer sites were
grouped as defined by the third edition of the International
Classification of Childhood Cancer (ICCC-3) on the basis
of the ICD-O-3 topography and morphology [4]. Follow-up
for vital status from the date of diagnosis until date of
death, emigration or December 31, 2016 was performed by
the ECR using unique personal identification numbers or
name and date of birth during earlier periods. Cases are
first linked with the Estonian Causes of Death Registry to
identify deaths, followed by linkage of alive cases to the
Estonian Population Registry to identify emigration. Per-
centage of microscopically verified cases, percentage
of death certificate only cases (%DCO) and percentage
of cases discovered at autopsy were used as data
quality indicators. Abbreviations: MV microscopically verified, DCO death certificate only Survival Table 3 shows the 5-year survival estimates by ICCC-3 site
groups and time periods. Survival increased most mark-
edly from 1980 to 1989 to 1990–1999 and continued to
rise through the following decades at a slower pace. For all
malignant neoplasms combined, survival rates increased
from 23.8% in 1970–1979 to 73.0% by 2010–2016. In-
crease has been most substantial for leukemias and renal
tumors (from below 10% to over 80%). Acute lymphoid
leukemia (ALL) survival increased the most from 1985 to
1989 (32.9, 95% CI 18.0–48.7) to 1990–1994 (53.6, 95% CI
39.2–66.1) and from 2000 to 2004 (67.0, 95% CI 49.0–
79.8) to 2005–2009 (86.0, 95% CI 70.2–93.7). Acute mye-
loid leukemia (AML) survival increased the most from
1985 to 1989 (0%) to 1990–1994 (40, 95% CI 5.0–75.3),
1995–1999 (42.9, 95% CI (9.8–73.4) to 2000–2004 (55.4,
95% CI 14.9–83.3) and from 2000 to 2004 to 2005–2009
(73.1, 95% CI 39.5–90.0). Leukemias showed a stable trend overall (APC 0.2%),
with a significant increase for lymphoid leukemias (APC
2.1%) and significant decrease for unspecified leukemias
(APC −11.5%). By age groups, a significant increase was
seen in lymphoid leukemias in age group 5–9. The increase
was steeper in 1970–1985 (APC 7.9, 95% CI 3.2–12.8),
followed by a steadier pace (APC 1.8, 95% CI 1.2–2.5). Leu-
kemias increased overall for girls, but not for boys. Girls
aged 10–14 have experienced a fluctuating trend – a de-
crease in 1970–1985 and 2000–2010 (APC -6.0, 95% CI −
7.4 to −4.5; and −3.3, 95% CI −5.9 to −0.6) and an in-
crease of 10.0% (95% CI 7.1–13.1) in 1985–2000. (
)
The incidence of lymphomas remained unchanged (APC
−0.1%), but there was a significant increase in the incidence
of Burkitt lymphoma, based on a very small number of
cases. Overall, there was no increase in the incidence of
CNS tumours, but a significant increase was seen for boys
(APC 1.5, 95% CI 0.2–2.8). The significant trend seen for
ependymomas and choroid plexus tumors was due to a sig-
nificant rise by 7.2% (95% CI 4.7–9.7) in the youngest age
group. At the same time, the incidence of unspecified intra-
cranial and intraspinal neoplasms decreased significantly. Neuroblastoma and other peripheral nervous cell tumors
(group IV) incidence increased significantly by 2.3%. The
latter increase can be attributed to age group 0–4 (APC
3.1%, Additional file 1: Table S1). Results In total, 1628 incident cases of childhood cancer were
diagnosed in Estonia during 1970–2016 (Table 1). Boys
were diagnosed more frequently, giving a male to female
ratio of 1.2 and nearly half of the cases were diagnosed
in the youngest age group. Data quality in the ECR Table 1 Malignant childhood cancer cases diagnosed in
Estonia, 1970–2016 Table 1 Malignant childhood cancer cases diagnosed in
Estonia, 1970–2016
Cases
(%)
MV (%)
DCO (%)
Autopsy (%)
Total
1628
100
91.8
0.4
4.4
Sex
Boys
891
54.7
91.6
0.5
4.5
Girls
737
45.3
92.1
0.3
4.2
Age (years)
0–4
714
46.3
92.0
0.3
6.1
5–9
415
25.5
91.8
0.7
3.4
10–14
460
28.3
91.5
0.2
2.4
Period of diagnosis
1970–1974
184
11.3
76.6
0.5
12.0
1975–1979
162
10.0
87.0
0.6
8.0
1980–1984
209
12.8
87.1
0.0
8.6
1985–1989
199
12.2
91.0
0.0
5.5
1990–1994
212
13.0
95.8
1.4
1.9
1995–1999
180
11.1
96.7
0.0
1.1
2000–2004
152
9.3
98.0
0.7
0.0
2005–2009
124
7.6
98.4
0.0
0.8
2010–2016
206
12.7
98.1
0.0
0.0
Abbreviations: MV microscopically verified, DCO death certificate only Incidence rates were calculated as the number of new
cases per million persons per calendar year. Population
data were derived from Statistics Estonia. In order to have
sufficient number of cases, the study period was divided
into two intervals – 1970 to 1994 and 1995 to 2016. Age-
standardised rates were calculated using the weights of the
World standard population [5]. Incidence trends were cal-
culated by sex, age group (0–4, 5–9, 10–14) and cancer
site, using Joinpoint Regression Program 4.6.0.0 (April
2018; Statistical Methodology and Applications Branch,
Surveillance Research Program, National Cancer Institute)
and presented as annual percentage change (APC) and
corresponding 95% confidence intervals (CI). APC over Page 3 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 95% CI −5.3 to −0.3). The incidence of hepatoblastoma,
the main malignancy among hepatic tumors increased rap-
idly from 1985 to 2000 (APC 14.1, 95% CI 2.3–27.3). Among malignant bone tumours, a significant decrease was
seen for unspecified tumours. Incidence of soft tissue and
other extraosseous sarcomas increased in boys (APC 2.4,
95% CI 1.1–3.8). Significant increase in germ cell and go-
nadal tumors by 2.5% was caused by a rise in 0–4-year olds
(APC 2.7%, Additional file 1: Table S1). The number of un-
specified neoplasms has decreased significantly. Survival Within this age group, in-
cidence increased for boys (APC 2.9, 95% CI 0.6–5.2), and
for subsite neuroblastomas and ganglioneuroblastomas
(APC 3.3, 95% CI 1.4–5.1). The increase was more pro-
nounced in age group < 1 year compared to age group 1–4
(APC 4.0, 95% CI 1.4–6.6 vs 2.9, 95% CI −0.3–6.1, respect-
ively). Incidence of retinoblastomas, which were mainly di-
agnosed in the youngest age group of 0–4, remained stable
over the study period (APC −0.2%, Table 2), but an upward
trend was seen for boys aged 0–4 (APC 2.7, 95% CI 0.1–
5.5). For renal tumors, the overall steady incidence (APC −
0.8%) has shown a decrease in boys since 1990 (APC 2.9, Survival has increased for both sexes (Fig. 2), being ini-
tially higher for boys, but increasing more rapidly for
girls since 1980. First two decades did not see any
changes in the 5-year survival in boys, whereas the 5-
year survival in girls already improved from 19.8% (95%
CI 13.7–26.7) to 34.6% (95% CI 27.3–42.0). Increase was
most substantial in boys from 26.4% in 1980–1989 (95%
CI 20.6–32.6) to 50.8% in 1990–1999 (95% CI 43.3–
57.8). Improvements in 5-year survival in girls occurred
through the first three decades, but after a considerable
increase, has now been stable for the last two decades
(74.1 and 74.8%, accordingly). Survival in boys has con-
tinued to increase, reaching 71.6% in the latest period
(95% CI 62.3–79.0). The site distribution differed signifi-
cantly between boys and girls (p = 0.001). Incidence The number of cases, incidence rates, trends described
by APC are presented in Table 2 by ICCC-3 site groups. No joinpoints were found for the main ICCC-3 site
groups, therefore APC over the whole study period is
presented in the table. The age-standardised incidence
of all sites for 1970–2016 was 122.8 per million and the
rate increased significantly over the study period (APC
0.5%). Leukemias were diagnosed most frequently, followed
by CNS tumours and lymphomas (ASIR 40.6, 24.0, 16.9 per
million, respectively). Incidence rate was the lowest for other
and unspecified malignant neoplasms (1.7 per million). For both sexes all sites combined, age-specific inci-
dence increased in all age groups, but significant rise
was seen only for the age group 10–14 (APC 0.6, 95% CI
0.1–1.2) (Fig. 1). Results improved significantly over the study period. The pro-
portion of cases verified microscopically increased and
only 0.4% of the cases were reported via death certificate
only. Since 2007, all cases have been diagnosed in life. Discussion This population-based study spanning nearly 50 years
showed increasing incidence and survival of childhood
cancer in Estonia. Survival improvements varied by can-
cer site and were most substantial before the 2000s. Page 4 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016
Total cases
%
Average
annual cases
ASIR/million
1970–1994
ASIR/million
1995–2016
APC (%)
(1970–2016)
95% CI
All sites
1628
100
35
122.2
138.1
0.5
0.1–0.9
I Leukemias, myeloproliferative diseases,
and myelodysplastic diseases
506
31.1
11
39.5
42.1
0.2
−0.7–1.0
a. Lymphoid leukemias
302
18.6
6
20.0
31.4
2.1
0.1–4.0
b. Acute myeloid leukemias
72
4.4
2
4.3
7.4
1.8
−1.2–5.0
c. Chronic myeloproliferative diseases
6
0.4
0
0.3
0.9
NC
NC
d. Myelodysplastic syndrome and
other myeloproliferative diseases
7
0.4
0
0
1.6
NC
NC
e. Unspecified and other specified leukemias
119
7.3
3
15.0
0.7
−11.5
−13.4;-9.6
II. Lymphomas and reticuloendothelial
neoplasms
232
14.3
5
16.8
17.2
−0.1
−1.2–1.0
a. Hodgkin lymphomas
95
5.8
2
7.7
5.1
−1.5
−3.6–0.7
b. Non-Hodgkin lymphomas
(except Burkitt lymphoma)
93
5.7
2
7.4
6.0
−1.0
−2.8–0.9
c. Burkitt lymphoma
17
1.0
0
0
3.3
8.8
7.4–10.2
d. Miscellaneous lymphoreticular
neoplasms
15
0.9
0
0.5
2.4
NC
NC
e. Unspecified lymphomas
12
0.7
0
1.2
0.4
−2.0
−5.4–1.5
III. CNS and miscellaneous intracranial
and intraspinal neoplasms
(malignant only)
312
19.2
7
22.0
27.5
0.9
−0.5–2.3
a. Ependymomas and choroid plexus tumors
43
2.6
1
1.9
6.2
3.3
1.5–5.1
b. Astrocytomas
110
6.8
2
7.7
9.0
1.1
−2.7–5.0
c. Intracranial and intraspinal embryonal
tumors
78
4.8
2
4.9
8.1
2.4
−0.2–5.1
d. Other gliomas
16
1.0
0
0.7
2.0
3.5
1.2–5.8
f. Unspecified intracranial and intraspinal
neoplasms
64
3.9
1
6.7
1.9
−5.1
−8.4;-1.7
IV. Neuroblastoma and other peripheral
nervous cell tumors
91
5.6
2
6.3
10.4
2.3
0.0–4.7
a. Neuroblastoma and ganglioneuroblastoma
89
5.5
2
6.1
10.4
2.5
0.3–4.7
V. Retinoblastoma
41
2.5
1
3.4
4.0
−0.2
−3.4–3.2
VI. Renal tumors
132
8.1
3
12.6
9.1
−0.8
−3.0–1.4
a. Nephroblastoma and other
nonepithelial renal tumors
127
7.8
3
11.9
9.1
−0.6
−2.7–1.5
VII. Hepatic tumors
26
1.6
1
1.9
2.9
1.1
−1.7–4.1
a. Hepatoblastoma
18
1.1
0
1.0
2.7
NC
NC
VIII. Malignant bone tumors
71
4.4
2
4.6
5.5
0.3
−2.6–3.2
a. Osteosarcomas
27
1.7
1
1.7
2.2
−0.6
−3.6–2.5
c. Discussion Ewing tumor and related sarcomas
of bone
25
1.5
1
1.1
2.6
3.2
−0.6–7.1
e. Unspecified malignant bone tumors
12
0.7
0
1.1
0.3
−3.3
−4.8;-1.7
IX. Soft tissue and other
extraosseous sarcomas
81
5.0
2
5.8
7.2
1.3
−0.0–2.6
a. Rhabdomyosarcomas
32
2.0
1
1.8
3.9
3.0
−0.5–6.7
b. Fibrosarcomas. peripheral nerve
sheath tumors. and other fibrous
neoplasms
12
0.7
0
1.1
0.6
0.4
−2.1–2.9
d. Other specified soft tissue sarcomas
26
1.6
1
1.6
2.5
1.5
−1.4–4.4 CCC3 site-groups (malignant only), Estonia 1970–2016 Paapsi et al. BMC Cancer (2020) 20:30 Page 5 of 12 Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued)
Total cases
%
Average
annual cases
ASIR/million
1970–1994
ASIR/million
1995–2016
APC (%)
(1970–2016)
95% CI
e. Unspecified soft tissue sarcomas
10
0.6
0
1.2
0.3
−2.0
−4.9–1.0
X. Germ cell tumors, trophoblastic
tumors, and neoplasms of gonads
75
4.6
2
4.7
8.3
2.5
0.2–4.9
a. Intracranial and intraspinal germ
cell tumors
8
0.5
0
0.1
1.3
5.1
2.1–8.1
b. Malignant extracranial and
extragonadal germ cell tumors
34
2.1
1
2.0
4.6
3.4
1.1–5.7
c. Malignant gonadal germ cell tumors
26
1.6
1
1.9
2.2
0.7
−2.2–3.7
XI. Other malignant epithelial neoplasms
and malignant melanomas
41
2.5
1
2.3
3.5
1.4
−0.8–3.7
b. Thyroid carcinomas
10
0.6
0
0.2
1.3
3.7
−0.9–8.7
d. Malignant melanomas
12
0.7
0
0.8
0.8
−0.2
−2.8–2.5
f. Other and unspecified carcinomas
12
0.7
0
0.9
0.8
0.3
−2.2–2.8
XII. Other and unspecified malignant
neoplasms
20
1.2
0
2.3
0.6
−2.4
−3.9;-0.9
b. Other unspecified malignant tumors
17
1.0
0
2.0
0.4
−3.4
−4.5;-2.3
Abbreviations: ICCC-3 international classification of childhood cancer, third edition; ASIR age-standardised incidence rate, APC annual percentage change, CI
confidence intervals, NC not calculated
Table shows all diagnostic groups with > 5 patients diagnosed over the study period. Values that are statistically significant are marked in bold Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued)
Total cases
%
Average
annual cases
ASIR/million
1970–1994
ASIR/million
1995–2016
APC (%)
(1970–2016)
95% CI Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued)
Total cases
%
Average
ASIR/million
ASIR/million
APC (%)
95% CI Table 2 Age-standardised incidence rates of childhood cancer by ICCC3 site-groups (malignant only), Estonia 1970–2016 (Continued) Cancer registration began in the Soviet Union in 1953. Discussion At the very early stages of cancer registration no stand-
ard disease classification nor age groups were used, data
was published annually, but never corrected. The ECR
dates back to 1968. This nation-wide population-based
registry holds data for adult and childhood cancer cases,
including benign CNS tumours since 1998. Reporting to
the registry is mandatory for all physicians who diagnose
or treat reportable tumours. Case registration according to international rules was implemented step-by-step
starting with the introduction of ICD-O morphology
section in 1978 and the topography section in 1983. The
3rd edition of TNM classification of Malignant Tumors
was translated into Estonian in 1980. ECR data was first
included in the Cancer Incidence in Five Continents vol-
ume 6, published in 1992. All cases have been retroactively
coded to ICD-O-3. Currently, the ECR follows inter-
national definitions and rules, including those for multiple Fig. 1 Age-specific childhood cancer incidence rates (all sites combined, per million) in Estonia by period of diagnosis. (*The APC is significantly
different from zero at alpha = 0.05) Fig. 1 Age-specific childhood cancer incidence rates (all sites combined, per million) in Estonia by period of diagnosis. (*The APC is significantly
different from zero at alpha = 0.05) Fig. 1 Age-specific childhood cancer incidence rates (all sites combined, per million) in Estonia by period of diagnosis. (*The APC is significantly
different from zero at alpha = 0.05) Paapsi et al. BMC Cancer (2020) 20:30 Page 6 of 12 Table 3 Childhood cancer survival by ICCC3 site groups and time periods, Estonia 1970–2016
ICCC3
1970–1979
1980–1989
1990–1999
2000–2009
2010–2016
5-year
survival
95% CI
5-year
survival
95% CI
5-year
survival
95% CI
5-year
survival
95% CI
5-year
survival
95% CI
Low
High
Low
High
Low
High
Low
High
Low
High
All sites (malignant)
23.8
19.2
28.6
30.0
25.4
34.8
52.5
47.2
57.5
69.4
63.3
74.7
73.0
66.2
78.7
I. Leukemias, myeloproliferative
diseases, and myelodysplastic
diseases
7.5
3.5
13.4
19.6
12.6
27.6
51.9
42.0
61.0
71.6
61.4
79.5
83.8
72.0
90.9
Ia. Lymphoid leukemias
7.4a
1.3
21.0
21.8
13.0
32.1
56.4
45.3
66.1
75.0
62.9
83.6
83.3
69.4
91.3
Ib. Acute myeloid leukemias
0a
–
–
5.8a
0.4
23.2
41.7a
15.3
66.5
60.3
34.7
78.5
81.0
43.0
94.9
II. Lymphomas and
reticuloendothelial neoplasms
44.8
27.5
60.6
44.4
25.0
62.1
60.0
40.4
74.9
83.9
51.0
95.5
90.2
72.6
96.7
IIa. Discussion Hodgkin lymphomas
82.7
69.8
90.4
57.8
15.8
85.0
92.6
83.5
96.8
100
–
–
100
–
–
IIb. Non-Hodgkin lymphomas
(except Burkitt lymphoma)
28.7
11.8
48.3
38.2
14.4
62.0
40.5
16.5
63.5
73.0
20.1
94.0
100
–
–
III. CNS and miscellaneous
intracranial and intraspinal
neoplasms (malignant only)
25.4
12.7
40.2
22.4
12.9
33.6
49.6
38.4
59.8
59.8
44.6
72.0
49.5
32.4
64.5
IV. Neuroblastoma and other
peripheral nervous cell tumors
12.5a
0.7
42.3
47.4a
24.4
67.3
32.3a
16.9
48.6
40.0a
16.5
62.8
54.4
24.4
76.9
0–4 yearsb
16.7
2.4
42.3
42.9
23.9
60.6
42.9
27.3
57.6
46.2
25.9
64.2
54.2
24.3
76.7
V. Retinoblastoma
74.1a
39.1
90.9
70.0a
32.9
89.2
100a
–
–
66.7a
5.4
94.5
100
–
–
VI. Renal tumors
9.2a
1.7
25.0
27.3a
14.3
42.1
55.6a
38.1
69.9
80.0a
50.0
93.1
90.0
47.3
98.5
VII. Hepatic tumors
0a
–
–
16.7a
0.8
51.7
40.0a
5.2
75.3
0a
–
–
100a
–
–
VIII. Malignant bone tumors
15.4a
2.5
38.8
18.2a
5.7
36.3
50.0a
25.9
70.1
80.0a
40.9
94.6
64.3
25.3
86.8
IX. Soft tissue and other
extraosseous sarcomas
50.0a
18.4
75.3
19.6a
6.0
38.9
35.3a
14.5
57.0
73.3a
43.6
89.1
58.9
27.7
80.4
X. Germ cell tumors,
trophoblastic tumors, and
neoplasms of gonads
25.0a
6.0
50.5
37.5a
15.4
59.8
45.5a
16.7
70.7
76.2a
51.9
89.3
37.0
11.3
63.6
XI. Other malignant epithelial
neoplasms and malignant
melanomas
75.0a
31.5
93.1
55.6a
20.4
80.5
87.5a
38.7
98.1
100a
–
–
100
–
–
XII. Other and unspecified
malignant neoplasms
14.3a
0.7
46.5
0a
–
–
0a
–
–
0a
–
–
100
–
–
Abbreviations: ICCC-3 international classification of childhood cancer, third edition, CI confidence intervals. a Not age standardised, due to small number of cases. b as neuroblastomas are mainly diagnosed in age
group 0–4, survival for this age group is presented in table for international comparisons Paapsi et al. BMC Cancer (2020) 20:30 Page 7 of 12 Fig. 2 5-year childhood cancer survival in Estonia by sex and time period earlier periods that might have caused some misclassifica-
tion of cases. earlier periods that might have caused some misclassifica-
tion of cases. primaries, issued by the European Network of Cancer
Registries and the International Association of Cancer
Registries [7], for reporting incidence and survival. Good data quality has been shown for adult cancers [8]. Discussion According to a previous study [9], the estimated complete-
ness of reporting of childhood cancer cases was 89.5%
(81.2% for hematologic malignancies and 95.3% for solid tu-
mors). As a result of the data quality study, all missing cases
starting from 2000 were added to the cancer registry and
regular linkage with all treating hospitals was established. Thus, we believe that the disruption of registry practices in
the 2000s [10] has no further impact on case registration
and the estimated completeness of childhood cancer is now
close to 100%. The validity of childhood cancer data has
improved markedly over time – there were only two aut-
opsy cases and no DCO cases since 2003. The proportion
of microscopically verified cases has increased throughout
the study period, now reaching 98%. ECR data has been in-
cluded in major childhood cancer studies in Europe [2, 11],
being a good indication of the data quality. Incidence Thus,
increase in incidence seen in our data could be caused
by the changes in classification. soft tissue sarcomas etc) and all sites combined, indicates
an actual rise probably due to the risk factors mentioned
above. The same applies for competing risk theory, as in-
fant and child mortality have decreased since the 1970s. Likewise, the incidence of unspecified neoplasms of
CNS decreased significantly, while the overall trend
remained relatively stable. Therefore, the observed in-
crease in the incidence of ependymomas (IIIa) and other
gliomas (IIId) needs to be interpreted with caution. In
the earlier periods, the incidence rates for ependymomas
and gliomas were lower in Estonia compared to Eastern-
Europe (1.9 per million in Estonia compared to 3.3 per
million in Eastern-Europe for ependymomas and 0.7 vs
2.2 per million for gliomas, respectively) [23]. More re-
cent incidence rates for ependymomas are now higher in
Estonia than in the Nordic countries and France (6.2 vs
4.2 vs 3.8, per million, respectively), whereas incidence
rate for other gliomas has remained lower – 2.0, 3.5 and
4.9 per million, respectively [24, 25]. The absence of
overall trend in incidence is most probably due to the
changes in tumor classification and the tendency in earl-
ier years to record benign cases as malignant. y
Leukemias, the most commonly diagnosed malignan-
cies, showed a slight increase in incidence. ASIR in
Estonia was lower in both periods than shown for Eur-
ope in ACCIS studies, for the periods 1970–1999 and
1991–2010 (39.5 vs 44.8 and 42.1 vs 46.9 per million). Rate for Europe has increased steadily by 0.6% per year
in both periods [14, 15], whereas Estonian average in-
crease of 0.2% per year for the whole period is more
characteristic to Eastern-European trend (increase of
0.3% per year for 1978–1997 [16] and 1% in 1991–2010)
[14]. Since there was a substantial decrease in unspeci-
fied leukemias a restricted analysis was done starting
from 1985 onwards when the proportion of unspecified
cases became negligible to control whether the increase
was solely due to improved diagnostics. Even though
non significant, incidence increased from 1985 onwards
for ALL (APC 1.4, 95% CI -0.6–3.5), AML (APC 2.4,
95% CI −3.4–8.5) and leukemias combined (APC 1.4,
95% CI -0.2–3.0), referring to other underlying causes
(data not shown). Incidence Several environmental and parental
lifestyle, residential and occupational exposures have
been associated with pediatric leukemias [16] but among
known risk factors, high birth weight and increased ma-
ternal age [17] could be possible reasons here [18]. Some
studies show that early day-care attendance is protective
against leukemia [19, 20] due to exposure to infections. Starting from early 2000s, children in Estonia attend
day-care less and start at a later age, as mothers now
have the option for prolonged and paid leave. Neuroblastoma incidence in Estonia increased signifi-
cantly over the study period at a rate of 2.3% per year
due to a significant increase in the 0–4 age group (APC
3.1%) and subsite IVa (AAPC 2.5%). Incidence of subsite
IVa increased more for age group < 1 (APC 4.0, 95% CI
1.4–6.6) compared to ages 1–4 (APC 2.7, 95% CI -0.3–
6.1) (data not shown). A similar overall trend was seen
for Eastern-Europe in 1978–1997 (AAPC 2.7%) [26]. For
other countries, the incidence seems to increase at a
slower pace, for example in Canada (APC 0.74% in
1992–2010) [22]. Since we do not see a distinct leap in
the incidence in any of the time periods, we can not
conclude that the increase is solely attributable to im-
provements in diagnostics, e.g. wider use of ultrasound
(1990s), MRI (2000s) or molecular pathology (2010),
which has been shown to improve the differentiation of
neuroblastomas from other small round cell tumors like
rhabdomyosarcoma and Ewing’s sarcoma [27], but the
latter two also show an increasing trend in Estonia. Sev-
eral risk factors, such as maternal oral contraceptives or
sex hormones use during pregnancy, a shorter gesta-
tional duration, and maternal alcohol consumption dur-
ing pregnancy [28], have been debated as possible
causes, but need to be analysed further. Incidence of lymphomas is high in Estonia (16.9 per
million for 1970–2016), as has been described also for
other Eastern-European countries [14]. Rate is increasing
in Europe by 0.26% per year, but stable in Estonia and
declining in Eastern-Europe (APC −0.1% and −1.32%,
respectively) [14]. Even though the overall rate is rela-
tively stable, an immense increase by 8.8% was seen for
Burkitt lymphomas, which generally contribute propor-
tionally lower to lymphoid malignancies [16]. Incidence The aetiology of childhood cancers is still in large part
unknown. Many hypotheses have been made about dif-
ferent environmental, parental and gestational factors
and some genetic causes have been established, but the
scarcity of data and studies make it difficult to draw def-
inite conclusions [12]. Childhood cancer incidence in
Estonia increased during 1970–2016 at a rate of 0.48%
per year, comparable to rates in Europe and Eastern-
Europe in 1991–2010 (0.54 and 0.50% respectively). Even
though hypothesised that studies, where data was analysed
starting from the 1970s, may see increase in rates in large
part due to the rise in the earlier decades [13] (caused by
improved diagnostics, decreased overall child mortality), we
saw the opposite. The overall age-standardised incidence of
childhood cancers in Estonia for the first half of the study
period was notably lower than the European average (122.2
vs 140.0 per million) but reached the European rate for
1991–2010 in the second half (138.1 vs 137.5 per million). Regarding the fact that our study dates back to 1970, we
can assume that in some part the increase in incidence can
be explained by improvements in diagnosing and registra-
tion. Diagnostic drift must also be taken into consideration,
especially for cancer sites where overall incidence for the
site group remains stable through time but changes occur
among subsites. Other possible explanation for incidence
increase, especially in an atypical age group may be a delay
in diagnosis, highly probable for that time period. On the
other hand, not all can be attributed to improved diagnos-
tics. Rise in incidence for some sites (e.g neuroblastomas, Methods for diagnosing improved during the study
period. Ultrasound became available for prenatal screen-
ing since the early 1990s (first ever used in 1984), MRI
in the 2000s. Most recent changes in histology were in-
troduced in 2010 (molecular pathology). The main strengths of the study were nation-wide
population-based cancer registry coverage with complete
follow-up and high data quality, enabling the evaluation of
incidence and survival trends over a 47-year period, with
the most recent data for patients diagnosed in 2016. The
main limitations of this study were the scarcity of cases
(causing a fluctuation in trends and instability of survival
estimates) and the quality of morphological verification in Paapsi et al. BMC Cancer (2020) 20:30 Page 8 of 12 Page 8 of 12 codes for both malignant and uncertain disease. Incidence Similar
trend, but at a much slower rate of 1.4% per year, was
seen for Spain in 1983–2007 [21], while a decreasing
trend was shown in Canada (APC −2.54% for 1992–
2010) [22]. As lymphomas tend to be more frequent in
less developed countries and of infectious origin, our
finding is difficult to reason. Since the rise has been
more recent, it could partly be explained by improved
diagnostics and misclassification, as the incidence of all
other subgroups have declined. Classification has chan-
ged for miscellaneous lymphoreticular neoplasms (IId). In previous ICD-O classifications Langerhans cell histio-
cytosis was not a reportable disease. ICD-O-3 includes Hepatic tumors show an increasing trend in Estonia
and elsewhere [22, 26]. Even though non-significant, the
rise was noticeable in the youngest age group, with al-
most half of the cases diagnosed in infants less than 1
year of age (data not shown). In these cases, perinatal
exposures and decreased premature infant mortality
could be postulated causes [29]. Almost 90% of the cases
diagnosed in age group 0–4 were hepatoblastomas,
which is associated with low birth weight [30]. The Paapsi et al. BMC Cancer (2020) 20:30 Page 9 of 12 Page 9 of 12 adults until 1979, when it was partly moved to the surgi-
cal department of Tallinn Children’s Hospital. Radiation
was the main treatment and chemotherapy was used
scarcely at that time. Even though the centralisation of
childhood cancer care began in 1992 when the first
pediatric oncology wards were opened, children were
still treated together with adults for a long time. CNS
treatment was gradually brought to pediatric oncology
departments in 1995–2000, whereas low grade tumors
are still partly managed at adult centres. The arrival of
first European treatment protocols in 1991 for solid tu-
mors (SIOP, Société internationale d’oncologie pédiatri-
que) and 1992 for hematologic malignancies (NOPHO,
Nordic Society for Pediatric Hematology and Oncology)
set the base for twinning with European oncology orga-
nisations, enabling Estonia to reach new information
and treatment protocols faster (Fig. 3). NOPHO proto-
cols for ALL and AML were at first hand used partially
in 1992–2005. More advances followed with the intro-
duction of high dose methodrexate treatment (HDMTX)
and bone marrow transplant from sibling donors in
1995. In 2000, when CNS treatment was transferred to
children’s oncology department, modern protocols and
chemotherapy became available. Incidence Starting from 2008
for ALL and 2012 for AML Estonian patients are
included
in
NOPHO
clinical
trials. Even
though
Estonia has never participated in clinical trials for
solid tumors, standard treatment protocols are used
according to guidelines. Over time, the main issues
of managing childhood cancer, have been the avail-
ability of drugs (more pronounced during regaining
of independence), reaching new protocols and twin-
ning for diagnosing rarer types of cancer. proportion of low birth weight babies has remained the
same in Estonia, but their survival has increased over
time [18]. The incidence of both intracranial and extracranial
germ cell tumors increased significantly. The incidence
of intracranial germ cell tumors is in accordance with
the rate in Europe (about 1.0 per million) [31] and in
Germany (1.2 per million, and also increasing), but the
incidence of extracranial germ cell tumors is higher in
Estonia and showing a reversed trend compared to
Germany (decreasing at 0.1%) [32]. We see two peaks in
incidence, first one falls to the mid 1980s, when certain
biochemical methods and computer tomography were
introduced [33], and another spike more recently, which
could refer to changes in clinical and treatment practices
for childhood ovarian tumors [32]. A more detailed ana-
lysis of clinical data by subsite is warranted. Survival Estonia regained its independence in 1991, at midpoint of
the study period. The latter resulted in major reforms,
where solidarity-based health insurance was established
and the health care was changed from the state-run
Semashko [34] system to a more Western one. Integrated
and hierarchically organised system, which was commu-
nicable diseases and primary care oriented, was replaced
by decentralized model funded through social insurance. Childhood cancer treatment in Estonia in 1970s to
1990s was scattered between departments and institu-
tions. At that time, hematologic malignancies were
treated in the general pediatric departments of two
major hospitals in Tallinn and Tartu. Solid tumors were
operated in the surgical departments together with Fig. 3 Time-line of treatment and health care organisation in Estonia from 1970 to 2016. Year 1991 marks the regaining of independence f treatment and health care organisation in Estonia from 1970 to 2016. Year 1991 marks the regaining of independence Page 10 of 12 Page 10 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 All these improvements in diagnosing and treatment
and changes in the health care organisation are reflected
in survival outcomes. Starting from 23.8% in the 1970s,
overall 5-year survival reached 73.0% by the latest
period, which is not far below the European average for
2000–2007 (77.9, 95% CI 77.4–78.3) [2]. Survival in-
crease has been relatively steady over time, but the big-
gest rise occurred in the 1990s. It has been shown that the rate of unspecified cases was
high for Estonia in earlier years [41]. The recent drop in
survival could also be explained by changes in classifica-
tion – pilocytic astrocytoma was downgraded to uncer-
tain behaviour in ICD-O-3. As proposed by Stiller et al. [42] some cases of pilocytic astrocytoma could have been
recorded as astrocytoma, NOS in earlier years, thus in-
cluded in the analysis and causing a higher survival esti-
mate. Our data shows a higher number of annual cases
of astrocytoma, NOS in the first half of the study period
and a higher number of pilocytic astrocytoma for the
second. g
The survival change in leukemias (from 7.5 to 83.8%)
has been even more remarkable, being now equal to the
rate observed in Finland for 2001–2010 [35]. Two leaps
could be seen in leukemia survival. Survival First from 1985 to
1989 (25.4%) to 1990–1994 (51.3%), coinciding with the
introduction of first treatment protocols and the second
from 1995 to 1999 (52.0%) to 2000–2004 (65.2%), when
HDMTX treatment and ABMT became available. Last
increase in survival rates can be associated with the ac-
cess to registry donors for ABMT, which seemed to have
a stronger impact primarily on AML survival. But look-
ing at the two latest periods, 2005–2009 and 2010–2016,
we can see that survival is plateauing (from 81.6 to
83.8%) (seen for other sites and overall survival as well,
data not shown), indicating that the current treatment
methods are depleting and new biology-driven ap-
proaches are needed [36]. The gap in survival between
ALL and AML has narrowed over the study period, a
trend that has also been shown in Switzerland and
Finland [35, 37]. Biggest increments in 5-year survival
increase for lymphomas were seen from 1990 to 1994
(49.9%) to 1995–1999 (70.3%) (data not shown), most
likely due to the addition of HDMTX which has been
shown to decrease relapse rate, especially for advanced
disease [38]. Survival outcome dependency on metho-
trexate
dose
has
been
described
for
non-Hodgkin
lymphomas [39, 40], which showed the biggest improve-
ments in Estonia. Opposite to that shown for Northern-England [43], no
significant changes in 5-year survival trends for neuro-
blastomas were observed in Estonia. Increase from
12.5% in the first decade to 47.4% in 1980–1989 marked
the only substantial change in 5-year survival, which has
stayed stable since. Even though the same pattern was
shown for Finland [35], rates in Estonia have remained
lower than those in Finland and Europe (for 2000–2010
40.0% in Estonia and 68.2% in Finland; for 2000–2002
72.0% in Europe) [35, 44]. Age > 18 months, male sex,
metastasis at diagnosis and amplification of MYC-N are
associated with poorer disease outcome [45]. Almost
60% of the cases diagnosed in Estonia were older than
18 months and with a M:F ratio of 1.3. Unfortunately,
stage and tumor biology info was not available in regis-
try data. A recent pilot study for the application of To-
ronto Staging confirmed the disease being diagnosed
rather late, but not advanced, as majority of the cases
were classified as stage L1 (local), giving a 3-year survival
of 75% [46]. As for several other sites, low number of
cases annually may also influence the result. Survival y
y
The huge gap in the survival of renal and malignant
bone tumors between Estonian and Finnish patients in
the 1980s has closed due to rapid improvements in
Estonia throughout the 1990s and 2000s [35]. Hepatic
tumors, the site group with one of the worst prognosis,
is more prevalent in Eastern than in Western countries
and seems to present a less favourable survival outcome
for our region [15]. In Estonia, survival for hepatic neo-
plasms fluctuates greatly. Most of the cases were diag-
nosed
in
infants
and
specific
symptoms
generally
develop late, but without data on stage, we can not con-
clude, whether this is the case. More detailed analysis
could help to draw attention to possible prenatal paren-
tal exposures or shortcomings in treatment. Survival of
100% that could be seen from our data, for the period of
2010–2016, is most probably a random finding due to
the small number of cases and does not reflect the
current situation for hepatic malignancies. Germ cell
tumors are a heterogenous group of tumors, presenting
different rates of survival, depending on age and hist-
ology. Survival in Estonia reached 76.2% for 2000–2009, The largest improvements for CNS malignant tumors
occurred from the 1980s to the 1990s, coinciding with
the newly available treatment options and continued
into the 2000s, reflecting treatment centralization. How-
ever, there has been a recent decline in CNS tumour
survival as the latest estimate of 49.5% is well below the
European rate of 57.5% for 2000–2007 [2] and Finnish
rate of 59.5% in 2001–2010 [35]. As shown in previous
analysis, the survival of all CNS tumour patients (includ-
ing benign and borderline tumors) was 70.9% in Estonia
in 2010–2014 [9], compared to 79.1% in Finland in
2001–2010 [35]. The survival estimates for CNS tu-
mours may be somewhat affected by the use of different
diagnostic methods and the classification of tumour be-
haviour [23]. As the number of unspecified cases has de-
creased, it is possible that some benign cases were
previously recorded as malignant, thus included in the
survival analysis and causing a higher survival estimate. Paapsi et al. BMC Cancer (2020) 20:30 Page 11 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Page 11 of 12 but then dropped to 37.0% in the latest period. Funding This work was supported by Estonian Research Council (grant number IUT5–
1). The funder had no role in designing the study, collecting, analysing or
interpreting the data, nor in the writing of the manuscript. Abbreviations AAPC: Average annual percentage change; APC: Annual percentage change;
DCO: Death certificate only; ECR: Estonian Cancer registry; ICCC-
3: International Classification of Childhood Cancer, third edition;
MV: Microscopically verified 6. Brenner H, Gefeller O, Hakulinen T. Period analysis for up-to-date cancer
survival data: theory, empirical evaluation, computational realisation and
applications. Eur J Cancer Oxf Engl. 2004;40(3):326–35. Acknowledgements 7. International Agency for Research on Cancer, World Health Organization,
International Association of Cancer Registries, European Network of Cancer
Registries. International rules for multiple primary cancers (ICD-O Third
Edition). Lyon: International Agency for Research on Cancer, 2004. The authors thank Pille Härmaorg from the Estonian Cancer Registry for
providing the data and Dr. Piret Veerus for comments. We would also like to
thank the reviewers for their thoughtful comments and efforts towards
improving our manuscript. 8. Innos K, Baburin A, Aareleid T. Cancer patient survival in Estonia 1995-2009:
time trends and data quality. Cancer Epidemiol. 2014;38(3):253–8. Survival The drop
seen here is most probably random as low number of
cases are more prone to cause a fluctuation in survival. critically revised the manuscript for intellectual content and approved the
final manuscript. All authors read and approved the final manuscript. critically revised the manuscript for intellectual content and approved the
final manuscript. All authors read and approved the final manuscript. Availability of data and materials
b
d
l bl Data can be made available upon reasonable request from the authors. Additional information 9. Paapsi K, Mägi M, Mikkel S, Saks K, Aareleid T, Innos K. The impact of under-
reporting of cases on the estimates of childhood cancer incidence and
survival in Estonia. Eur J Cancer Prev Off J Eur Cancer Prev Organ ECP. 2017;
26 Joining forces for better cancer registration in Europe:S147–S152. This work, presented at the IACR annual conference of 2018 in Arequipa,
Peru, was awarded the “Enrico Anglesio” Prize, offered by the “Anglesio
Moroni Foundation,” Turin, Italy. This work, presented at the IACR annual conference of 2018 in Arequipa,
Peru, was awarded the “Enrico Anglesio” Prize, offered by the “Anglesio
Moroni Foundation,” Turin, Italy. 10. Rahu M, McKee M. Epidemiological research labelled as a violation of
privacy: the case of Estonia. Int J Epidemiol. 2008;37(3):678–82. 10. Rahu M, McKee M. Epidemiological research labelled as a violation of
privacy: the case of Estonia. Int J Epidemiol. 2008;37(3):678–82. Supplementary information 3. Allemani C, Matsuda T, Di Carlo V, Harewood R, Matz M, Nikšić M, et al. Global surveillance of trends in cancer survival 2000–14 (CONCORD-3):
analysis of individual records for 37 513 025 patients diagnosed with one of
18 cancers from 322 population-based registries in 71 countries. Lancet. 2018;391(10125):1023–75. pp
y
Supplementary information accompanies this paper at https://doi.org/10. 1186/s12885-019-6510-7. pp
y
Supplementary information accompanies this paper at https://doi.org/10. 1186/s12885-019-6510-7. Additional file 1: Table S1. Annual percentage change in incidence by
age groups and ICCC3 site-groups (malignant only), Estonia 1970–2016. 4. Steliarova-Foucher E, Stiller C, Lacour B, Kaatsch P. International classification
of childhood Cancer, third edition. Cancer. 2005;103(7):1457–67. 5. Doll R, Payne P, Waterhouse J, toimetajad. Cancer Incidence in Five
Continents: A Technical Report [Internet]. Berlin Heidelberg: Springer-Verlag
(UICC International Union Against Cancer). 1966. https://www.springer.com/
gp/book/9783540034759. . References 1. Health statistics and health research database. http://pxweb.tai.ee/PXWeb2
015/index_en.html. Accessed 27 May 2019. 1. Health statistics and health research database. http://pxweb.tai.ee/PXWeb2
015/index_en.html. Accessed 27 May 2019. 2. Gatta G, Botta L, Rossi S, Aareleid T, Bielska-Lasota M, Clavel J, et al. Childhood cancer survival in Europe 1999–2007: results of EUROCARE-5—a
population-based study. Lancet Oncol. 2014;15(1):35–47. Conclusion Even though the societal and health care transition during
the past decades have brought along major improvements
in survival, childhood cancer patients in Estonia remain at
a disadvantage. For some cancer sites, survival rates are
still lower compared to many other European countries,
and for others survival rates are plateauing. The small
number of cases creates further challenges for diagnosis
and care. Whereas the increasing incidence of some can-
cer sites may at least partly be due to improvements in
diagnostic procedures and corresponding decreases in the
incidence of unspecified neoplasms, overall cancer inci-
dence in children is increasing. Thus, prioritization of
childhood cancer by decision-makers to ensure access to
standard care in both diagnosis and treatment, but also to
innovative treatments is required to improve the out-
comes of childhood cancer in terms of survival as well as
the quality of survivorship. Continuous collection of high-
quality data is crucial for monitoring progress, and the
availability of more detailed clinical data would help to
identify further possibilities for improvements in child-
hood cancer management in Estonia. Implementation of
childhood cancer Toronto staging [47] system would also
broaden the possibilities for more in depth survival ana-
lysis. The results are likely to be relevant for other coun-
tries in epidemiological and healthcare transition. Competing interests The authors declare that they have no competing interests. Author details
1 1Department of Epidemiology and Biostatistics, National Institute for Health
Development, Hiiu 42, 11619 Tallinn, Estonia. 2Clinic of Haematology and
Oncology, Tartu University Hospital, Tartu, Estonia. 3Estonian Cancer Registry,
National Institute for Health Development, Tallin, Estonia. 4Department of
Oncology and Haematology, Clinic of Paediatrics, Tallinn Children’s Hospital,
Tallinn, Estonia. 1Department of Epidemiology and Biostatistics, National Institute for Health
Development, Hiiu 42, 11619 Tallinn, Estonia. 2Clinic of Haematology and
Oncology, Tartu University Hospital, Tartu, Estonia. 3Estonian Cancer Registry, Received: 20 August 2019 Accepted: 30 December 2019 Received: 20 August 2019 Accepted: 30 December 2019 Ethics approval and consent to participate The study protocol was approved by the Tallinn Medical Research Ethics
Committee. The study was performed in accordance with the Declaration of
Helsinki. Consent to participate was not required as registry data with no
personal identifiers was used and no subjects were contacted in person. All
data were were either public or available for research upon request without
permission. Authors’ contributions
d
d
d h 11. Bonaventure A, Harewood R, Stiller CA, Gatta G, Clavel J, Stefan DC, et al. Worldwide comparison of survival from childhood leukaemia for 1995-2009,
by subtype, age, and sex (CONCORD-2): a population-based study of 11. Bonaventure A, Harewood R, Stiller CA, Gatta G, Clavel J, Stefan DC, et al. Worldwide comparison of survival from childhood leukaemia for 1995-2009,
by subtype, age, and sex (CONCORD-2): a population-based study of KP and KI designed the study; MM provided the data; KP and AB performed
statistical analysis; KP drafted the manuscript; SM and KS provided
information on historical treatment data; all authors interpreted the results, Page 12 of 12 Page 12 of 12 Page 12 of 12 Paapsi et al. BMC Cancer (2020) 20:30 Paapsi et al. BMC Cancer (2020) 20:30 individual data for 89 828 children from 198 registries in 53 countries. Lancet Haematol. 2017;4(5):e202–17. individual data for 89 828 children from 198 registries in 53 countr individual data for 89 828 children from 198 registries in 53 countries. Lancet Haematol 2017;4(5):e202–17 32. Kaatsch P, Häfner C, Calaminus G, Blettner M, Tulla M. Pediatric germ cell
tumors from 1987 to 2011: incidence rates, time trends, and survival. Pediatr. 2015;135(1):e136–43. individual data for 89 828 children from 198 registries in 53 countries. Lancet Haematol. 2017;4(5):e202–17. 12. Spector LG, Pankratz N, Marcotte EL. Genetic and nongenetic risk factors for
childhood cancer. Pediatr Clin N Am. 2015;62(1):11–25. 33. Kroll ME, Carpenter LM, Murphy MFG, Stiller CA. Effects of changes in
diagnosis and registration on time trends in recorded childhood cancer
incidence in Great Britain. Br J Cancer. 2012;107(7):1159–62. childhood cancer. Pediatr Clin N Am. 2015;62(1):11–25. 13. Linabery AM, Ross JA. Trends in childhood cancer incidence in the U.S. (1992–2004). Cancer. 2008;112(2):416–32. 34. Sheiman I, Shishkin S, Shevsky V. The evolving Semashko model of primary
health care: the case of the Russian Federation. Risk Manag Healthc Policy. 2018;11:209–20. 14. Steliarova-Foucher E, Fidler MM, Colombet M, Lacour B, Kaatsch P, Piñeros
M, et al. Changing geographical patterns and trends in cancer incidence in
children and adolescents in Europe, 1991–2010 (automated childhood
Cancer information system): a population-based study. Lancet Oncol. 2018;
19(9):1159–69. 35. Madanat-Harjuoja LM, Pokhrel A, Kivivuori SM, Saarinen-Pihkala UM. Childhood cancer survival in Finland (1953–2010): a nation-wide
population-based study. Int J Cancer. 2014;9(135):2129–34. 15. Steliarova-Foucher E, Stiller C, Kaatsch P, Berrino F, Coebergh J-W, Lacour B,
et al. Authors’ contributions
d
d
d h Day
care in infancy and risk of childhood acute lymphoblastic leukaemia:
findings from UK case-control study. BMJ. 2005;330(7503):1294. 41. Gatta G, Peris-Bonet R, Visser O, Stiller C, Marcos-Gragera R, Sánchez M-J,
et al. Geographical variability in survival of European children with central
nervous system tumours. Eur J Cancer. 2017;82:137–48. 21. Marcos-Gragera R, Solans M, Galceran J, Fernández-Delgado R, Fernández-
Teijeiro A, Mateos A, et al. Childhood and adolescent lymphoma in Spain:
incidence and survival trends over 20 years. Clin Transl Oncol Off Publ Fed
Span Oncol Soc Natl Cancer Inst Mex. 2018;20(10):1289–301. 42. Stiller CA, Bayne AM, Chakrabarty A, Kenny T, Chumas P. Incidence of
childhood CNS tumours in Britain and variation in rates by definition of
malignant behaviour: population-based study. BMC Cancer. 2019;19(1):139. 43. Basta NO, James PW, Gomez-Pozo B, Craft AW, McNally RJQ. Survival from
childhood cancer in northern England, 1968–2005. Br J Cancer. 2011;105:
1402–8. 22. Xie L, Onysko J, Morrison H. Childhood cancer incidence in Canada:
demographic and geographic variation of temporal trends (1992-2010). Health Promot Chronic Dis Prev Can Res Policy Pract. 2018;38(3):79–115. 44. Gatta G, Zigon G, Capocaccia R, Coebergh JW, Desandes E, Kaatsch P, et al. Survival of European children and young adults with cancer diagnosed
1995–2002. Eur J Cancer. 2009;45(6):992–1005. 23. Peris-Bonet R, Martínez-García C, Lacour B, Petrovich S, Giner-Ripoll B, Navajas
A, et al. Childhood central nervous system tumours--incidence and survival in
Europe (1978–1997): report from Automated Childhood Cancer Information
System project. Eur J Cancer Oxf Engl 1990. 2006;42(13):2064–80. 45. Panagopoulou P, Georgakis MK, Baka M, Moschovi M, Papadakis V,
Polychronopoulou S, et al. Persisting inequalities in survival patterns of
childhood neuroblastoma in southern and Eastern Europe and the effect of
socio-economic development compared with those of the US. Eur J Cancer. 2018;96:44–53. 24. Schmidt LS, Schüz J, Lähteenmäki P, Träger C, Stockland T, Gustafson G,
et al. Fetal growth, preterm birth, neonatal stress and risk for Cns tumors in
children: a Nordic population and register-based case- control study. Cancer
Epidemiol Biomark Prev. 2010;19(4):1042–52. 46. Gatta, G. (2019). The stage for childhood cancers: the JARC pilot study. ENCR Scientific Meeting 2018 Copenhagen. https://encr.eu/sites/default/
files/2018-ENCR-Conference/GGatta%20presentation%20JRC%20ENCR%2
0Copenhagen.pdf. . 25. Desandes E, Guissou S, Chastagner P, Lacour B. Incidence and survival of
children with central nervous system primitive tumors in the French National
Registry of childhood solid tumors. Neuro-Oncol. 2014;16(7):975–83. 26. Kaatsch P, Steliarova-Foucher E, Crocetti E, Magnani C, Spix C, Zambon P. Authors’ contributions
d
d
d h Time trends of cancer incidence in European children (1978–1997): report
from the automated childhood Cancer information system project. Eur J
Cancer. 2006;42(13):1961–71. 47. Gupta S, Aitken JF, Bartels U, Brierley J, Dolendo M, Friedrich P, et al. Paediatric cancer stage in population-based cancer registries: the Toronto
consensus principles and guidelines. Lancet Oncol. 2016;17(4):e163–72. 27. McMANUS AP, GUSTERSON BA, Pinkerton CR, SHIPLEY JM. The molecular
pathology of small round-cell tumours—relevance to diagnosis, prognosis,
and classification. J Pathol. 1996;178(2):116–21. Authors’ contributions
d
d
d h Geographical patterns and time trends of cancer incidence and
survival among children and adolescents in Europe since the 1970s (the
ACCIS project): an epidemiological study. Lancet. 2004;364(9451):2097–105. 36. Pritchard-Jones K, Pieters R, Reaman GH, Hjorth L, Downie P, Calaminus G,
et al. Sustaining innovation and improvement in the treatment of
childhood cancer: lessons from high-income countries. Lancet Oncol. 2013;
14(3):e95–103. 16. Linet MS, Brown LM, Mbulaiteye SM, Check D, Ostroumova E, Landgren A,
et al. International long-term trends and recent patterns in the incidence of
leukemias and lymphomas among children and adolescents ages 0-19
years. Int J Cancer. 2016;138(8):1862–74. 37. Schindler M, Belle FN, Grotzer MA, von der Weid NX, Kuehni CE. Childhood
cancer survival in Switzerland (1976-2013): time-trends and predictors. Int J
Cancer. 2017;140(1):62–74. 38. Woessmann W. The impact of the methotrexate administration schedule
and dose in the treatment of children and adolescents with B-cell
neoplasms: a report of the BFM group study NHL-BFM95. Blood. 2004;
105(3):948–58. 17. Petridou ET, Georgakis MK, Erdmann F, Ma X, Heck JE, Auvinen A, et al. Advanced parental age as risk factor for childhood acute lymphoblastic
leukemia: results from studies of the childhood leukemia international
consortium. Eur J Epidemiol. 2018;33(10):965–76. 39. Patte C. The Societe Francaise d’Oncologie Pediatrique LMB89 protocol:
highly effective multiagent chemotherapy tailored to the tumor burden
and initial response in 561 unselected children with B-cell lymphomas and
L3 leukemia. Blood. 2001;97(11):3370–9. 18. Allvee K, Karro H. Estonian Medical Birth Registry 1992-2016; Estonian
abortion Registry 1996-2016. Atlex AS. Tallinn, Estonia: National Institute for
Health Development; 2017. https://intra.tai.ee/images/prints/
documents/151264879040_Kogumik%202017%20(EMSR%201992-2016
,%20%20AR%201996-2016)%20TAI.pdf. . 40. Reiter A, Schrappe M, Tiemann M, Ludwig WD, Yakisan E, Zimmermann M,
et al. Improved treatment results in childhood B-cell neoplasms with
tailored intensification of therapy: a report of the Berlin-Frankfurt-Münster
group trial NHL-BFM 90. Blood. 1999;94(10):3294–306. 19. Infante-Rivard C, Fortier I, Olson E. Markers of infection, breast-feeding and
childhood acute lymphoblastic leukaemia. Br J Cancer. 2000;83(11):1559–64. 19. Infante-Rivard C, Fortier I, Olson E. Markers of infection, breast-feeding and
childhood acute lymphoblastic leukaemia. Br J Cancer. 2000;83(11):1559–64. 20. Gilham C, Peto J, Simpson J, Roman E, Eden TOB, Greaves MF, et al. Day
care in infancy and risk of childhood acute lymphoblastic leukaemia:
findings from UK case-control study. BMJ. 2005;330(7503):1294. 20. Gilham C, Peto J, Simpson J, Roman E, Eden TOB, Greaves MF, et al. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. 28. Schüz J, Kaletsch U, Meinert R, Kaatsch P, Spix C, Michaelis J. Risk factors for
neuroblastoma at different stages of disease. Results from a population-
based case-control study in Germany. J Clin Epidemiol. 2001;54(7):702–9. 29. Litten JB, Tomlinson GE. Liver tumors in children. Oncologist. 2008;13(7):
812–20. 30. Moschovi MA, Nikolaou M, Zampogiannis A, Stefanaki K, Antoniou EA. Low
birth weight is a predisposing factor for the liver tumors. Ann Pediatr Child
Health. 2015;3(5):1067. 31. Murray MJ, Horan G, Lowis S, Nicholson JC. Highlights from the Third
International Central Nervous System Germ Cell Tumour symposium: laying
the foundations for future consensus. Ecancermedicalscience. 2013;7:333.
|
https://openalex.org/W3128910025
|
https://jurnal.umt.ac.id/index.php/senamu/article/download/3263/2318
|
Indonesian
| null |
HUBUNGAN BUDAYA ORGANISASI DENGAN PERILAKU CARING PERAWAT PELAKSANA DI RSUP. DR. SITANALA TANGERANG
|
Prosiding Simposium Nasional Multidisiplin
| 2,021
|
cc-by-sa
| 5,102
|
Abstrak Budaya organisasi merupakan sarana terbaik bagi rumah sakit untuk dapat memahami sumber daya
manusia dari berbagai profesi didalam rumah sakit. Kunci dalam meningkatkan kualitas pelayanan
keperawatan adalah dengan menekankan perilaku caring. Penelitian ini bertujuan untuk mengetahui
Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap
RSUP. Dr. Sitanala Tangerang. Desain penelitian yang digunakan korelasional kuantitatif dengan
pendekatan cross sectional. Sampel dalam penelitian ini adalah perawat pelaksana di ruang rawat
inap RSUP. Dr. Sitanala Tangerang menggunakan teknik total sampling dengan jumlah 74
responden. Penelitian ini menunjukan bahwa 64,9% responden dengan budaya organisasi baik,
sedangkan 79,7% responden dengan caring baik. Teknik analisa menggunakan uji Chi Square
didapatkan hasil bahwa terdapat hubungan Budaya Organisasi dengan Perilaku Caring Perawat
Pelaksana (p.value= 0,048) yang artinya α<0,05. Diharapkan penelitian ini dapat dijadikan bahan
evaluasi rumah sakit terkait budaya organisasi dan caring perawat pelaksana untuk dapat
mempertahankan maupun meningkatkan pelayanan perawat dalam memberikan asuhan
keperawatan. Kata Kunci: Budaya Organisasi, Perilaku Caring, Perawat Kata Kunci: Budaya Organisasi, Perilaku Caring, Perawat Abstract Organizational culture is the best means for the hospital to able to understand human resources from various
professions within the hospital. The key to improving the quality nursing services is emphasizing caring behavior. This study aims to find the relationship between Organizational Culture and Caring Behavior of Implementing
Nurses in the Inpatient Room of Dr. Sitanala Hospital, Tangerang. The research design used quantitative
correlations with cross-sectional approach. The sample in this study was nurses in the inpatient room of Dr. Sitanala Tangerang Hospital using a total sampling technique with a total of 74 respondents. This study shows
that 64.9% of respondents with good organizational culture, while 79.7% of respondents with good caring. The
analysis technique using the Chi Square test shows that there is a relationship between Organizational Culture
and Caring Behavior of Caring Nurses (p.value = 0.048), which means α <0.05. This research used as material
for hospital evaluations related to organizational culture and caring for implementing nurses to able to support
and improve nurse services in providing nursing care. Keywords: Organizational Culture, Caring Behavior, Nurses Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Hubungan Budaya Organisasi dengan Perilaku Caring Perawat
Pelaksana di RSUP. Dr. Sitanala Tangerang
1Shieva Nur Azizah Ahmad, 2Putri Dwi Pangestu, 3Fauzan Hakim
1,2,3FIKes, Universitas Muhammadiyah Tangerang, Tangerang Indonesia
e-mail: shifa.ahmad14@gmail.com 1Shieva Nur Azizah Ahmad, 2Putri Dwi Pangestu, 3Fauzan Hakim
1,2,3FIKes, Universitas Muhammadiyah Tangerang, Tangerang Indonesia
e-mail: shifa.ahmad14@gmail.com Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 dalam peningkatkan kualitas pelayanan rumah sakit khususnya pelayanan keperawatan
(Sumijatun, 2010). Besarnya jumlah perawat di rumah sakit (55- 60%), menjadikan
perawat sebagai profesi yang memiliki peran yang dominan dalam memberikan pelayanan
kepada pasien secara konstan dan terus-menerus dalam 24 jam setiap harinya (Yusuf,
2013). dalam peningkatkan kualitas pelayanan rumah sakit khususnya pelayanan keperawatan
(Sumijatun, 2010). Besarnya jumlah perawat di rumah sakit (55- 60%), menjadikan
perawat sebagai profesi yang memiliki peran yang dominan dalam memberikan pelayanan
kepada pasien secara konstan dan terus-menerus dalam 24 jam setiap harinya (Yusuf,
2013). Survei Kepuasan Masyarakat (SKM) terhadap Pelayanan Kesehatan dengan
Aspek/Indikator “Perilaku Pelaksana” Rumah Sakit Umum Pusat Dr. Sitanala Tangerang
Triwulan 1 Tahun 2020 dengan nilai Interval yaitu 3,28 (Baik) dengan menggunakan
Instrumen pengukuran yang digunakan adalah Kuesioner SKM Unit Pelayanan Instansi
Pemerintah nomor : 14 Tahun 2017 dan berdasarkan Kamus Indikator Utama RSUP. Dr. Sitanala Tangerang terhadap 300 Responden dari 829 pelanggan Rawat Inap. Kunci dalam meningkatkan kualitas pelayanan keperawatan adalah dengan
menekankan perilaku caring. Menurut Chusnawiyah (2015), caring merupakan pemberian
perawatan secara totalitas dan dengan sepenuh hati, menjadi kunci mutlak bagi layanan
keperawatan yang akan berefek terhadap kualitasnya suatu institusi kesehatan. Caring
sebagai roh bagi profesi keperawatan merupakan salah satu perilaku yang assistif, suportif
dan fasilitatif terhadap atau bagi orang atau kelompok lain dengan kebutuhan tertentu yang
dapat dipraktikkan dan didemonstrasikan secara efektif secara interpersonal (Kozier, et.all.,
2014). Menurut Morison dan Burnand (2009), perilaku caring inilah yang menjadi esensi
dari keperawatan yang membedakan perawat dengan profesi lain. Menurut Greenfield (2008) mengungkapkan bahwa perilaku caring yang diharapkan
oleh pasien terhadap perawat mencakup kepribadian yang ramah, dedikasi terhadap tugas,
empati terhadap pasien dan respon cepat terhadap kebutuhan pasien. Kenyataan yang
dihadapi bahwa masih banyak rumah sakit pemerintah maupun swasta yang memusatkan
diri pada pengobatan pasien saja. Keberhasilan ilmu pengetahuan dan teknologi
menyebabkan perawat hanya memberikan perhatian pada tugas-tugas mengobati daripada
merawat. Tidak banyak waktu bagi perawat mendengarkan keluhan pasien, memberi
dukungan, hal ini disebabkan karena delegasi lebih diberikan untuk tugas-tugas dokter
(Tomey, 2006). Penelitian yang dilakukan oleh Fahriani (2011) mendapatkan hasil bahwa level
perilaku caring perawat pelaksana di Rumah Sakit Umum Daerah Klaten 62% masuk
katagori rendah. Sejalan dengan penelitian yang dilakukan oleh Eva Supriatin (2015)
menunjukan hasil perilaku caring perawat kurang baik sebesar 58,1% dan caring perawat
baik sebesar 41,9%. PENDAHULUAN Rumah sakit merupakan salah satu bentuk sarana kesehatan, baik yang
diselenggarakan oleh pemerintah dan atau masyarakat yang berfungsi untuk melakukan
upaya pelayanan kesehatan, salah satu pelayanan yang ada dirumah sakit adalah Pelayanan
Keperawatan.. Pelayanan keperawatan adalah suatu bentuk pelayanan yang bersifat
professional dalam memenuhi kebutuhan dasar manusia meliputi bio-psiko-sosio-kultural
dan spiritual yang dapat ditunjuk pada individu dan masyarakat dalam rentang sehat dan
sakit (Martini, 2007). Pelayanan keperawatan professional dapat terwujud apabila
dilaksanakan oleh tenaga keperawatan yang profesional sehingga dapat berkontribusi E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 156 E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 pengendalian dalam membentuk perilaku untuk meningkatkan prestasi organisasi yang
berdampak pada kinerja anggota organisasi (Kreitner & Kinicki, 2010). Budaya organisasi
yang baik, akan mendorong perawat untuk bekerja lebih produktif dan memiliki sikap
positif (Nur Aini, et.al., 2018). pengendalian dalam membentuk perilaku untuk meningkatkan prestasi organisasi yang
berdampak pada kinerja anggota organisasi (Kreitner & Kinicki, 2010). Budaya organisasi
yang baik, akan mendorong perawat untuk bekerja lebih produktif dan memiliki sikap
positif (Nur Aini, et.al., 2018). Carlis (2009) melihat fenomena yang ada di rumah sakit di Kabupaten Aceh ternyata
dijumpai bahwa nilai-nilai budaya yang pernah ada sedikit demi sedikit mulai hilang. Hal
ini dapat dilihat nilai senioritas yaitu pemahaman staf terhadap budaya organisasi dalam
hubungan saling menghormati antara staf. Berdasarkan fenomena tersebut pembentukan
budaya organisasi yang baik akan memberikan implikasi pada kepemimpinan di rumah
sakit, pengelolaan potensi-potensi dari berbagai kelompok agar dapat dimanfaatkan untuk
mencapai tujuan organisasi. Penelitian yang dilakukan oleh Yunita Hairina (2018) menunjukkan bahwa budaya
organisasi kurang sebesar 53,8% serta hasil uji menunjukan ada hubungan yang signifikan
antara dimensi budaya organisasi dengan perilaku caring perawat (p-value 0,002). Hasil
penelitian lainnya yang dilakukan oleh Rini Fahriani (2011), menyebutkan bahwa budaya
organisasi kurang 61,1% dengan (p=0,036) menunjukan bahwa ada hubungan bermakna
antara budaya organisasi dengan perilaku caring perawat. Hasil wawancara kepada 2 orang pasien di Rumah Sakit, pasien mengatakan bahwa
masih ada perawat jutek dan cuek pada saat melakukan pelayanan kepada pasien. Pihak
Rumah Sakit juga mengatakan bahwa budaya organisasi di rumah sakit berjalan secara
efektif walaupun terkadang ada beberapa kendala yang sering terjadi tetapi bisa diatasi
dengan adanya komunikasi dan kerja sama antar pegawai Rumah Sakit. Penelitian ini
bertujuan untuk untuk mengetahui hubungan budaya organisasi dengan perilaku caring
perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang. Terbentuknya perilaku caring sangat dipengaruhi oleh sistem nilai
bersama yang dianut oleh para perawat yang tercermin dalam visi, misi, dan tujuan rumah
sakit
yang
ingin
dicapai
mencerminkan
budaya
suatu
organisasi
(Yunita
Hairina,et,al.,2018). Budaya organisasi merupakan sarana terbaik bagi rumah sakit untuk dapat
memahami sumber daya manusia dari berbagai profesi didalam rumah sakit. Karena
budaya organisasi merupakan ketentuan aturan dan norma yang tidak tertulis yang menjadi
standar perilaku yang dapat di terima dengan baik oleh anggota organisasi (Sunarto, 2004). Menurut Muhammad Iqbal (2017) ada korelasi yang kuat dan signifikan antara budaya
organisasi yang kuat dengan kinerja perawat didapatkan sig (p < 0,05). Budaya organisasi
yang kuat dapat menciptakan kesamaan tujuan, motivasi karyawan dan struktur E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 157 E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Etik pada tanggal 27 Juli 2020 di Fakultas Kedokteran dan Kesehatan Universitas
Muhammadiyah Jakarta dengan No. Etik: 024/PE/KE/FKK-UMJ/VII/2020. HASIL DAN PEMBAHASAN Sitanala Tangerang hasil sebagian besar responden berada pada rentang usia
Dewasa Awal (26-35) 43 responden (58,1%), sebagian besar responden adalah perempuan
sebanyak 54 responden (73,0%), sebagian besar berpendidikan DIII/Akper sebanyak 40
(54,1%), Responden bekerja > 3 bulan sebanyak 74 responden (100%). HASIL DAN PEMBAHASAN Analisa Data Univariat Pada analisa univariat ini disajikan distribusi frekuensi tentang karakteristik responden
meliputi: usia, jenis kelamin, pendidikan, lama kerja, budaya organisasi dan caring perawat
pelaksana. Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Perawat Pelaksana di
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang
Berdasarkan hasil Tabel 1 Frekuensi Data Demografi Perawat Pelaksana di Ruang Rawat Inap
RSUP. Dr. Sitanala Tangerang hasil sebagian besar responden berada pada rentang usia
Dewasa Awal (26-35) 43 responden (58,1%), sebagian besar responden adalah perempuan
sebanyak 54 responden (73,0%), sebagian besar berpendidikan DIII/Akper sebanyak 40
(54,1%), Responden bekerja > 3 bulan sebanyak 74 responden (100%). Variabel Independen (Budaya Organisasi)
Setelah mengumpulkan data dari kuesioner mengenai pernyataan Variabel Independen
terkait Budaya Organisasi yang digunakan di ruang rawat inap RSUP. Dr. Sitanala
Tangerang didapatkan hasil pada Tabel 2. Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74)
No
Variabel
Frekuensi
Presentasi (%)
1. Usia
- Remaja Akhir (17-25)
- Dewasa Awal (26-35)
- Dewasa Akhir (36-45)
- Lansia Awal (46-55)
6
43
19
6
8,1
58,1
25,7
8,1
Jumlah
74
100%
2. Jenis Kelamin
- Laki-Laki
- Perempuan
20
54
27,0
73,0
Jumlah
74
100%
3. Pendidikan
- SPK
- DIII/Akper
- D4/S1
- S1+Ners
0
40
1
33
0
54,1
1,4
44,6
Jumlah
74
100%
4. Lama Kerja
- 3 Bulan
- >3 Bulan
0
74
0
100
Jumlah
74
100% Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Perawat Pelaksana di
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang
No
Variabel
Frekuensi
Presentasi (%)
1. Usia
- Remaja Akhir (17-25)
- Dewasa Awal (26-35)
- Dewasa Akhir (36-45)
- Lansia Awal (46-55)
6
43
19
6
8,1
58,1
25,7
8,1
Jumlah
74
100%
2. Jenis Kelamin
- Laki-Laki
- Perempuan
20
54
27,0
73,0
Jumlah
74
100%
3. Pendidikan
- SPK
- DIII/Akper
- D4/S1
- S1+Ners
0
40
1
33
0
54,1
1,4
44,6
Jumlah
74
100%
4. Lama Kerja
- 3 Bulan
- >3 Bulan
0
74
0
100
Jumlah
74
100% Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Perawat Pelaksana di
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Tabel 1. Frekuensi Data Demografi, Budaya Organisasi dan Caring Peraw
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang Berdasarkan hasil Tabel 1 Frekuensi Data Demografi Perawat Pelaksana di Ruang Rawat Berdasarkan hasil Tabel 1 Frekuensi Data Demografi Perawat Pelaksana di Ruang Rawat Inap
RSUP. Dr. METODE PENELITIAN Jenis penelitian ini merupakan penelitian korelasional kuantitatif dengan desain cross
sectional. Populasi dalam penelitian ini adalah seluruh perawat pelaksana yang ada di
RSUP. Dr. Sitanala Tangerang sebanyak 74 orang. Teknik pengambilan sampel pada
penelitian ini menggunakan total sampling dimana jumlah sampel sama dengan populasi. Data penelitian ini didapatkan dengan menggunakan kuesioner Budaya Organisasi
dan Caring Perawat. Dalam penelitian ini Budaya Organisasi diukur dengan menilai
keterlibatan dan persepsi mini. Sedangkan untuk Caring Perawat dinilai dari
tindakan/perlakuan perawat dalam memberikan asuhan keperawatan kepada klien di
ruang rawat inap rumah sakit. Nilai validitas kuesioner Budaya Organisasi (X) 30
pernyataan dikatakan valid dengan rentang nilai rxy 0,389 – 0,809, hasil tersebut lebih besar
dari rtabel (0,361) sedangkan Caring Perawat Pelaksana (Y) didapatkan hasil bahwa
seluruh pernyataan berjumlah 26 dari 30 pernyataan dikatakan valid dengan rentang nilai
0,368 - 0,651, hasil tersebut lebih besar dari rtabel (0,361). Nilai reabilitas kuesioner budaya
organisasi 0,948, sedangkan nilai reabilitas kuesioner caring perawat di dapatkan hasil
0,745. Analisa univariate dalam penelitian menjelaskan distribusi frekuensi berdasarkan
karakteristik demografi dari setiap variabel. Sedangkan analisis bivariat, diukur
menggunakan chi-square untuk mengidentifikasi hubungan antara budaya organisasi
dengan caring perawat pelaksana. Pada penelitian ini sudah dilakukan Uji Etik oleh Komite E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 158 Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Variabel Dependen (Caring Perawat Pelaksana) Setelah mengumpulkan data dari kuesioner mengenai pernyataan Variabel Ddependen
terkait Caring Perawat yang digunakan di ruang rawat inap RSUP. Dr. Sitanala Tangerang
didapatkan hasil pada Tabel 3. Tabel 3. Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74)
Sumber: Pengolahan Data Kuesioner, Agustus 2020
No
Caring Perawat
Frekuensi
Presentasi (%)
1. Cukup
15
20,3
2. Baik
59
79,7
Total
74
100% Tabel 3. Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) Sumber: Pengolahan Data Kuesioner, Agustus 2020 Berdasarkan Tabel 3 Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang
didapatkan hasil budaya organisasi pada kategori kategori cukup sebanyak 15 (20,3%) dan
pada kategori baik sebanyak 69 (79,7%). Berdasarkan Tabel 3 Caring Perawat di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang
didapatkan hasil budaya organisasi pada kategori kategori cukup sebanyak 15 (20,3%) dan
pada kategori baik sebanyak 69 (79,7%). Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Berdasarkan Tabel 2 Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala
Tangerang didapatkan hasil budaya organisasi pada kategori kategori cukup sebanyak 35
(57,8%) dan pada kategori baik sebanyak 48 (64,9%). Variabel Independen (Budaya Organisasi) Setelah mengumpulkan data dari kuesioner mengenai pernyataan Variabel Independen
terkait Budaya Organisasi yang digunakan di ruang rawat inap RSUP. Dr. Sitanala
Tangerang didapatkan hasil pada Tabel 2. 159
E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index
Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74)
No
Budaya Organisasi
Frekuensi
Presentasi (%)
1. Cukup
26
35,1
2. Baik
48
64,9
Total
74
100% Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74)
No
Budaya Organisasi
Frekuensi
Presentasi (%) Tabel 2. Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang (n=74) 159 Analisa Data Bivariat Dalam penelitian ini, analisis bivariat dilakukan untuk mengetahui hubungan
budaya organisasi dengan perilaku caring perawat pelaksana di ruang rawat inap RSUP. Dr. Sitanala Tangerang. Uji statistik yang digunakan adalah Chi Square dengan
menggunakan α=0,05. Tabel 4. Hubungan Budaya Organisasi dengan perilaku caring perawat pelaksana di ruang
rawat inap RSUP. Dr. Sitanala Tangerang (n=74) Tabel 4. Hubungan Budaya Organisasi dengan perilaku caring perawat pelaksana di ruang
rawat inap RSUP. Dr. Sitanala Tangerang (n=74)
Budaya
Organisasi
Caing Perawat
Total
OR
0.224
P.Value
0,048
Baik
Cukup
Baik
24
12
26
40,7%
48%
35,1%
Cukup
35
13
48
59,3%
52%
64,9%
Jumlah
59
25
74
100%
100%
100% Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 ketenagajerjaan dan ikut andil dalam kegiatan yang sedang berjalan. Karena Menurut
Wahyudi (2010) dalam Darmayanti (2015) Usia dapat mempengaruhi kinerja ketika usia
terus bertambah, hal ini berdampak pada kecepatan, kecekatan, kekuatan dan koordinasi
akan terjadi penurunan. Hal ini sesuai dengan penelitian yang dilakukan oleh Eva Supriatin
(2015) didapatkan hasil sebagian besar berada pada rentang usia 28,7 Tahun. Hal ini sejalan
dengan penelitian yang dilakukan oleh Tutu April Ariani, et al (2018) dengan hasil bahwa
dari 15 Orang rata-rata usia 29,7 tahun. Di dukung oleh penelitian yang dilakukan Rini
Fahriani Zees (2011) didapatkan hasil dari 120 responden rata-rata usia 25-45 tahun
sebanyak 98 (81,7%). Penelitian menurut Yunita Hairina (2018) juga menyebutkan kategori
responden rata-rata dengan rentang usia dewasa awal (20-35 tahun) sebanyak 88,4%. Usia Penelitian ini menggunakan kategori umur menurut Depkes RI (2009) yaitu: masa remaja
akhir 17-25 tahun, masa dewasa awal 26-35 tahun, masa dewasa akhir 36-45 tahun, masa
lansia awal 46-55 tahun. Berdasarkan hasil penelitian yang didapatkan hasil bahwa
sebagian besar responden berada pada rentang usia Dewasa Awal (26-35) adalah 47
responden (58,1%). Hal ini sangat bisa terjadi karena usia Dewasa Awal (26 – 35) tahun
karena usia tersebut adalah usia produktif dianggap sudah mampu dalam proses E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 160 Jenis kelamin Berdasarkan hasil penelitian didapatkan hasil bahwa dari 74 responden mayoritas berjenis
kelamin perempuan sebanyak 54 (73%). Menurut Peneliti banyaknya perawat wanita yang
bekerja karena di Indonesia keperawatan identik dengan feminisme dimana sifat tersebut
sangat membantu dalam memberikan asuhan keperawatan di ruang perawatan karena
berhubungan dengan penerapan konsep caring dan komunikasi pada pasien. Hal ini sesuai
dengan hasil penelitian yang dilakukan oleh Rini Fahriani Zees (2011) di Kota Gorontalo
didapatkan hasil rata rata responden jenis kelamin perempuan sebanyak 109 (90,8%). Penelitian lain dari Yunita Hairina (2018) didapatkan hasil bahwa responden dengan jenis
kelamin perempuan sebanyak 85 (75,9%). Sejalan dengan penelitian Sherlyna Prihandhani
dari (2014) didapatkan hasil bahwa responden dengan jenis kelamin perempuan sebanyak
37 (77,1%). Lalu penelitian menurut Umi Kalsum, et.al (2017) didapatkan hasil bahwa
responden jenis kelamin perempuan dari pada jenis kelamin laki laki sebanyak 58 (78,4%). Pendidikan terakhir Berdasarkan hasil penelitian didapatkan hasil pendidikan perawat di ruang rawat inap
RSUP. Dr. Sitanala Tangerang terbanyak adalah DIII/Akper sebanyak 40 orang (54,1%). Menurut Peneliti perawat yang bekerja lebih dominan DIII karna jenjang pendidikan
keperawatan DIII lebih cepat (3 Tahun) sehingga lebih banyak yang memilih DIII
keperawatan untuk jenjang pendidikan sebelum melanjutkan ke tahap selanjutnya. Hal ini
sejalan dengan penelitian Rini Fahriani Zees (2011) Kota Gorontalo didapatkan hasil rata
rata responden pendidikan terakhir DIII/Akper sebanyak 88 (73,3%). Kemudian didukung
penelitian dari Sherlyna Prihandhani, et al (2014) didapatkan hasi pendidikan terakhir
DIII/Akper sebanyak 26 (54,2%) dari 48 responden. Lalu didukung penelitian menurut
Tutu April Ariani, et al (2018) didapatkan hasil bahwa dari 15 responden pendidikan
DIII/Akper sebanyak 12 (80%). Sejalan dengan penelitian Yunita dari (2018) didapatkan
hasil bahwa rata-rata pendidikan terakhir responden DIII/Akper yaitu sebanyak 77
(68,8%). Didukung oleh penelitian dari Eva Supriatin (2015) didapatkan hasil bahwa
sebagian besar responden dengan pendidikan terakhir DIII/Akper sebanyak 39 (90,7%). Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 aktivitas pekerjaanya. Lama kerja selalu dihubungkan dengan pengalaman seseorang
dalam bidangnya walaupun tidak selalu mencerminkan baik. Berdasarkan hasil penelitian
yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang kepada 74 responden
menunjukkan bahwa mayoritas responden sudah bekerja lebih dari 3 bulan (> 3 bulan)
sebanyak 74 (100%). Menurut peneliti alasan mengapa perawat bekerja diketagorikan lebih
dari 3 bulan adalah karena semua perawat di RSUP. Dr. Sitanala Tangerang sudah
melewati masa training. Hal ini sejalan dengan penelitian yang dilakukan oleh Yunita
Hairina (2018) didapatkan Hasil Bahwa Dari Responden, 53 Responden Sudah Bekerja >
3 Bulan (64,5%). Penelitian lain yang dilakukan oleh Irin Fahrunisyah (2016) menyebutkan
mendapatkan hasil masa kerja perawat >3 bulan sebanyak 43 (100%). aktivitas pekerjaanya. Lama kerja selalu dihubungkan dengan pengalaman seseorang
dalam bidangnya walaupun tidak selalu mencerminkan baik. Berdasarkan hasil penelitian
yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang kepada 74 responden
menunjukkan bahwa mayoritas responden sudah bekerja lebih dari 3 bulan (> 3 bulan)
sebanyak 74 (100%). Menurut peneliti alasan mengapa perawat bekerja diketagorikan lebih
dari 3 bulan adalah karena semua perawat di RSUP. Dr. Sitanala Tangerang sudah
melewati masa training. Hal ini sejalan dengan penelitian yang dilakukan oleh Yunita
Hairina (2018) didapatkan Hasil Bahwa Dari Responden, 53 Responden Sudah Bekerja >
3 Bulan (64,5%). Penelitian lain yang dilakukan oleh Irin Fahrunisyah (2016) menyebutkan
mendapatkan hasil masa kerja perawat >3 bulan sebanyak 43 (100%). Budaya Organisasi di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang
Berdasarkan penelitian yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang
kepada 74 responden didapatkan hasil bahwa Budaya Organisasi dalam kategori baik yaitu
48 (64,9%) dan Budaya Organisasi dalam kategori cukup yaitu 26 (35,1%). Menurut peneliti
budaya organisasi sudah dikategorikan baik karena perawat sebagai anggota organisasi
memiliki nilai dan keyakinan bersama yang mendasari identitas organisasi yang berfungsi
sebagai pemberi rasa identitas kepada anggota organisasi, meningkatkan komitmen
terhadap organisasi, dan menjalin kehidupan sosial yang baik, serta mengendalikan
perilaku para anggota organisasi agar dapat mencapai tujuan organisasi. Hal ini sejalan
dengan penelitian yang dilakukan oleh Rini Fahriani Zees (2011) didapatkan hasil Budaya
Organisasi baik sebanyak 72 (60%) dan budaya organisasi kurang berjumlah 48 (40%). Hal
ini didukung oleh penelitian yang dilakukukan oleh Prodalima (2018) Di RSUD Gayo Lues
didapatkan hasil budaya organisasi 72 (62%) dan budaya organisasi cukup sebanyak 44
(38%). Caring Perawat di Ruang Rawat Inap RSUP. Dr. Lama Bekerja Lama Bekerja Menurut Wahyudi (2010) dalam Darmayanti (2015), Lama kerja merupakan rentang
waktu yang telah dilewati oleh seorang pekerja atau karyawan didalam menjalankan E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 161 Hubungan Budaya Organisasi dengan Perilaku Caring Perawat di Ruang Rawat Inap
RSUP. Dr. Sitanala Tangerang Berdasarkan Hubungan Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang didapatkan hasil bahwa Budaya
Organisasi pada kategori baik menghasilkan Caring Perawat perawat dalam kategori baik
sebanyak 24 responden (40,7%). Hasil analisa bivariat dengan menggunakan uji Chi-Square
didapatkan hasil p.value=0,048 yang artinya α<0,05. Maka dapat diketaui H0 ditolak yaitu
adanya hubungan antara budaya organisasi dengan perilaku caring perawat pelaksana di
ruang rawat inap RSUP. Dr, Sitanala Tangerang. Menurut Peneliti budaya organisasi baik
menghasilkan perilaku caring perawat baik karena perawat sudah memiliki organisasi kerja
dan sistem manajemen yang baik sehingga dapat menciptakan budaya kerja yang baik
membentuk pola perilaku perawat untuk dapat berperilaku caring, Hal ini sesuai dengan
hasil penelitian yang dilakukan oleh Nur Aini (2017) dengan hasil uji statistik, dimana
didapatkan sig (p value) 0,018 < α=0,05 sehingga dapat disimpulkan ada hubungan antara
tipe kepribadian dengan perilaku caring perawat. Dengan nilai korelasi 0,60 dan arah
hubungan positif, artinya kekuatan hubungan sedang dan semakin baik budaya organisasi
maka perilaku caring juga semakin baik. Didukung juga oleh penelitian Yunita Hairina
(2018) dapat disimpulkan ada hubungan yang signifikan antara dimensi budaya organisasi
dengan perilaku caring perawat (p-value 0,002). Penelitian lain dari Rini Fahriani Zees
(2011) didapatkan hasil uji statistik menunjukkan budaya organisasi berhubungan dengan
perilaku caring perawat (p=0,036; α=0,05) maka terdapat huhungan antara budaya
organisasi dengan perilaku caring perawat. Menurut Yunita Hairina (2018) Dalam suatu
organisasi kerja, sistem manajemen yang baik merupakan pondasi dasar yang dapat
menciptakan budaya kerja yang baik, selain membentuk pola perilaku perawat untuk dapat
berperilaku caring, pembenahan dan juga dukungan manajemen sangat berpengaruh dalam
memberntuk karakter perawat. Sitanala Tangerang
Berdasarkan penelitian yang dilakukan di ruang rawat inap RSUP. Dr. Sitanala Tangerang
kepada 74 responden didapatkan hasil bahwa Caring Perawat dalam kategori baik sebanyak
59 (79,7%) dan Caring Perawat dalam kategori cukup yaitu sebanyak 15 (20,3%). Menurut
Peneliti caring perawat pelaksana baik karena sudah banyak perawat yang sudah
memahami tentang arti, tujuan, dan mafaat berperilaku secara caring baik kepada pasien,
keluarga maupun terhadap rekan sejawat. Didukung oleh penelitian yang dilakukan oleh
Diah Fitri (2016) mendapatkan hasil bahwa Perilaku Caring Perawat dalam kategori Baik
sebanyak 11 Responden dari 19 Responden (57,9%). Didukung oleh penelitian dari Madya
Sulisno (2016) dengan hasil Caring Perawat dalam kategori baik sebanyak 19 Responden
(76,0%). Menurut Donny Sahensolar (2017) diketahui bahwa penilaian caring perawat
dalam kategori baik sebanyak 23 orang (48.9%). Penelitian lain yang dilakukan oleh Rianja
Ikhwan Ardhyatama (2018) di jombang didapatkan hasil bahwa perilaku Caring kategori
baik sebanyak 14 responden (60,9%) dan kategori cukup sebanyak (26,1%). Hal ini sesuai
dengan Hasil penelitian yang dilakukan oleh Gurusinga dkk (2013) kepada 136 pasien di
Rumah Sakit Grand Medistra Lubuk Pakam tentang perilaku caring perawat mengatakan
bahwa rata-rata perilaku caring perawat terhadap pasien berada dalam kategori baik
(52,9%) atau sebanyak 72 perawat, cukup (36,1%) atau sebanyak 49 perawat, kurang E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 162 Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 (10,3%) atau sebanyak 14 perawat dan buruk (0,7%) atau sebanyak 1 perawat. Begitu juga
dengan yang dilakukan oleh Setiyawan (2013) di ruang rawat inap anak RSUD Ambarawa
Kabupaten Semarang untuk variabel perilaku caring perawat yang dipersepsikan
menunjukkan bahwa proporsi perawat yang dinilai sudah memiliki perilaku caring yang
baik yaitu sebanyak 49,1%. Hal ini didukung oleh penelitian yang dilakukan oleh
Noyumala (2013) terhadap 75 perawat di Rumah Sakit Umum Daerah Kota Makassar
ditemukan hasilnya sebagian besar perawat memiliki perilaku caring yang tinggi yaitu
54,7% atau sebanyak 41 orang. (10,3%) atau sebanyak 14 perawat dan buruk (0,7%) atau sebanyak 1 perawat. Begitu juga
dengan yang dilakukan oleh Setiyawan (2013) di ruang rawat inap anak RSUD Ambarawa
Kabupaten Semarang untuk variabel perilaku caring perawat yang dipersepsikan
menunjukkan bahwa proporsi perawat yang dinilai sudah memiliki perilaku caring yang
baik yaitu sebanyak 49,1%. Hal ini didukung oleh penelitian yang dilakukan oleh
Noyumala (2013) terhadap 75 perawat di Rumah Sakit Umum Daerah Kota Makassar
ditemukan hasilnya sebagian besar perawat memiliki perilaku caring yang tinggi yaitu
54,7% atau sebanyak 41 orang. Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 adanya hubungan antara Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang. adanya hubungan antara Budaya Organisasi dengan Perilaku Caring Perawat Pelaksana di
Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang. Hasil penelitian ini diharapkan dapat dijadikan bahan pertimbangan rumah sakit
untuk lebih memperhatikan budaya organisasi tentang keterlibatan pegawai dalam
mengambil kebijakan, mengembangkan kapasitas sumber daya manusia di semua level
organisasi dari pihak manager keperawatan sampai perawat pelaksana dan memberikan
proses belajar seperti pelatihan kepada perawat serta motivasi dari atasan yang di dapatkan
oleh perawat baik dari faktor intrinsik dan ekstrinsik tentu memberikan dorongan dari diri
perawat untuk terus melakukan caring yang baik ke pasien. SIMPULAN DAN SARAN Berdasarkan hasil penelitian dan analisa dengan menggunakan uji Chi-Square
menggunakan program komputerisasi tentang gambaran variabel independen budaya
organisasi, gambaran variabel dependen tentang caring perawat, didapatkan kesimpulan
bahwa budaya organisasi didapatkan hasil budaya organisasi pada kategori baik dan caring
perawat pada kategori baik. Hasil penelitian pada Hubungan Budaya Organisasi dengan
Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUP. Dr. Sitanala Tangerang
didapatkan hasil p.value=0,048 yang artinya α<0,05. Maka dapat diketahui H0 ditolak yaitu E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 163 Gurusinga, R., Sulistyaningsih, W., Tarigan, M. (2013). Perilaku Caring Perawat Dan
Kepuasan Pasien Rawat Inap. Indonesian Nursing Research Journal (INA-NRJ). Vol. 1 (2). Gurusinga, R., Sulistyaningsih, W., Tarigan, M. (2013). Perilaku Caring Perawat Dan
Kepuasan Pasien Rawat Inap. Indonesian Nursing Research Journal (INA-NRJ). Vol. 1 (2). Greenfield, B.H. (2008). Meaning of caring during their first year of clinical practice. Journal of
Nursing Research 88 (2008) 10-14. doi: ly05631000/ c5460045 Hairina, Y., Putra, A., Kunci, K., & Ambrose, O. (2018). Dimensi Budaya Organisasi
Dengan Perilaku Caring Perawat Cultural Dimension Organization With The Caring
Behavior Of Nurses Kuala melalui : content validity , uji validitas, III(3). Iqbal, M., & Agritubella, S. M. (2017). Hubungan Budaya Organisasi Dengan Kinerja
Perawat Pelaksana Di Rawat Inap Rs Pmc. Jurnal Endurance, 2(3), 285. https://doi.org/10.22216/jen.v2i3.1355 Kozier, B., Berman, A., dan Snyder, S.J. (2014). Kozier’s and Erb’s Fundamental of Nursing:
Australian Edition. Melbourne : Pearson AustraliKreitner, R. dan Kinicki. (2010). Organizational Behavior. New York: Mc Graw-Hill Higher education. Morrison, P. dan Burnard, P. (2009). Caring and communicating: hubungan interpersonal dalam
keperawatan. Edisi kedua. Profil dan data medical record RSAS Kota Gorontalo tahun
2010. Muhammad Rijali Rahman. (2019). Hubungan Gaya Kepemimpinan Kepala Ruangan
dengan Kepuasan Kerja Perawat di Ruang Rawat Inap RSD Idaman Kota
Banjarbaru. Noyumala (2013). Nurse Commitment Relationship With The Professional Caring
Behaviors Through Implementation Of Patient Safety In The General Hospital Of
Makassar City. Jurnal FKep. Unhas Makassar,Vol. 2 (2). Prihandhani, I. G. A. A. S., Sri Nopiyani, N. M., Duarsa, D. P., Tinggi, S., Kesehatan
Bina, I., & Bali, U. (2015). Public Health and Preventive Medicine Archive 54 │ Juli. 3(1),
54–59. Prodalima, Thesis, & Utara, U. S. (2018). Hubungan Budaya Organisasi dengan Perilaku
Caring Perawat Pelaksana di RSUD Gayo Lues Tahun 2017. Ikhwan Rianja., (2018). Hubungan Caring Perawat dengan Kesiapan Keluarga Menerima
Informasi Kesehatan. Skripsi Strata 1 Keperawatan STIK: Insan Cendekia Medika
Jombang. Sahensola, D. (2017). Hubungan Perilaku Caring Perawat Dengan Tingkat Kepuasan
Pasien Di IRINA C2 RSUP PROF DR R. D Kandau Manado. Journal Of Community
& Emergency, 5, 42–49. Setiyawan, D. (2013). Hubungan Perilaku Caring Perawat Dengan Tingkat Kecemasan Ibu
Akibat Hospitalisasi Anak (Usia 0- 12 Tahun) Di Ruang Rawat Inap Anak RSUD
Ambarawa Kabupaten Semarang. Jurnal PSIK Sekolah Tinggi Ilmu Kesehatan Ngudi
Waluyo Ungaran, Vol. 2 (1). Supriatin, (2009). Hubungan faktor individu dan faktor organisasi dengan perilaku caring perawat
di Instalasi Rawat Inap Rumah Sakit Umum Daerah Kota Bandung. Tesis. DAFTAR PUSTAKA Adam, R. A. (2013). Pengembangan Budaya Organisasi Keperawatan untuk Meningkatkan
Kinerja dan Kepuasan Perawat dalam Penerapan Metode Asuhan Keperawatan Profesional Di
Rumah Sakit. https://doi.org/10.1007/s12033-007-0046-9.Dinnen Ali, S., Rose Alinda, A., Syed Norris, H., Marlia, P., Siti Hamisah, T., Cotet, G. B., Balgiu,
B. A., Zaleschi (Negrea), V. – C., Matusevych, T., Abu Ahmad, I., Teknologi, U.,
Bandar, M., Abdul, T., Pahang, R., Pendidikan, F., National Education Association
(NEA), Information Management Department, HASSAN, C. N. B., Luthfi, A., …
Othman, A. (2018). perilaku caring perawat pelaksana di ruang rawat inap. Jurnal
Ilmiah Kesehatan, (2), 61–67. https://doi.org/10.1051/matecconf/201712107005 Ardhyatama Ikhwan Riandja, (2018). Hubungan Caring Perawat Dengan Kesiapan Keluarga
Menerima Informasi Kesehatan Tentang Terapi Lanjutan. Skripsi Program Studi S1 Ilmu
Keperawatan. Jombang: Stikes Insan Cendekia Medika. Chusnawiyah. (2015). Hubungan beban kerja dengan perilaku caring perawat di ruaUYHng rawat
inap kelas 3 RSD Balung. Program Studi Keperawatan Fakultas Ilmu Kesehatan
Universitas Muhammadiyah Jember. Diakses dari http://digilib.unmuhjember.ac.id
(1 Desember 2017) Darmayanti, R. 2015. Hubungan Motivasi Kerja dengan Kinerja Perawat Rawat Inap di
RS Sultan Syarif Muhamad Alkadrie Pontianak. Skripsi. Program Studi Keperawatan
Universitas Tanjungpura. Pointianak. Fahriani Zees, R. (2012). Analisis Faktor Budaya Organisasi yang Berhubungan dengan
Perilaku Caring Perawat Pelaksana di Ruang Rawat Inap RSUD. Prof. Dr. H. Aloei
Saboe KOta
Gorontalo. Jurnal Health and Sport, 5(1). Retrieved
from
http://ejurnal.ung.ac.id/index.php/JHS/article/view/927/867 Fahrunisyah, I., Sandra, C., Witcahyo, E., Administrasi, B., & Masyarakat, F. K. (2016). Analisis Hubungan Budaya Organisasi melalui Pendekatan Competing Values Fra mework
terhadap Kinerja Tenaga Perawat ( Studi di Instalasi Rawat Inap RSD Kalisat Kabupaten
Jember ) ( Analysis of Correlation of Organizational Culture to the Nurse ’ s Performan. Giyanti Ummi., (2019). Hubungan Gaya Kepemimpinan Kepala Ruangan Dan Motivasi
Kerja Dengan Kinerja Perawat Di Ruang Rawat Inap Rs An-Nisa Tangerang. Skripsi Strata 1 Keperawatan FK Ilmu Kesehatan: Universitas Muhammadiyah
Tangerang (Tidak di publikasi) E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 164 Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 Tutu April, A., & Nur, A. (2018). Perilaku Caring Perawat Terhadap Kepuasan Pasien
Rawat Inap Pada Pelayanan Keperawatan Nurse Caring Behavior and Satisfaction of
Inpatient Patients on Nursing Services Tutu April Ariani *, Nur Aini, 9, 58–64. https://doi.org/2443-0900 Yusuf, M. (2016). Hubungan Manajemen Waktu Perawat Pelaksana Dengan
Pendokumentasian Asuhan Keperawatan Di Ruang Rawat Inap Kelas Iii Rumah
Sakit Umum Daerah Dr. Zainoel Abidin Tahun 2013. Jurnal Ilmu Keperawatan, 1(1). Program
Magister Ilmu Keperawatan Kepemimpinan dan Manajemen Keperawatan. Fakultas
Keperawatan Universitas Indonesia. Depok. Diakses dari http://lib.ui.ac.id Supriatin, E. (2015). Perilaku Caring Perawat Berdasarkan Faktor Individu dan Organisasi. Jurnal Keperawatan Indonesia, 18(3), 192–198. https://doi.org/10.7454/jki.v18i3.425 E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index 165 Prosiding Simposium Nasional Multidisiplin
Universitas Muhammadiyah Tangerang
Volume 2, 2020 E ISSN 2714-5603
Home Page: http://jurnal.umt.ac.id/index.php/senamu/index UCAPAN TERIMAKASIH Terimakasih kepada RSUP. Dr. Sitanala yang sudah memfasilitasi untuk pelaksanaan
penelitian. Terimakasih kepada Fakultas Ilmu Kesehatan Universitas Muhammadiyah
Tangerang atas dukungan, motivasi dan semangatnya agar pemelitian ini selesai tepat pada
waktunya. 166
|
https://openalex.org/W2917317845
|
https://europepmc.org/articles/pmc6399419?pdf=render
|
English
| null |
Resolvin D2 Induces Resolution of Periapical Inflammation and Promotes Healing of Periapical Lesions in Rat Periapical Periodontitis
|
Frontiers in immunology
| 2,019
|
cc-by
| 12,217
|
ORIGINAL RESEARCH
published: 26 February 2019
doi: 10.3389/fimmu.2019.00307 Citation: Citation:
Siddiqui YD, Omori K, Ito T,
Yamashiro K, Nakamura S,
Okamoto K, Ono M, Yamamoto T,
Van Dyke TE and Takashiba S (2019)
Resolvin D2 Induces Resolution of
Periapical Inflammation and Promotes
Healing of Periapical Lesions in Rat
Periapical Periodontitis. Front. Immunol. 10:307. doi: 10.3389/fimmu.2019.00307 Citation:
Siddiqui YD, Omori K, Ito T,
Yamashiro K, Nakamura S,
Okamoto K, Ono M, Yamamoto T,
Van Dyke TE and Takashiba S (2019)
Resolvin D2 Induces Resolution of
Periapical Inflammation and Promotes
Healing of Periapical Lesions in Rat
Periapical Periodontitis. Front. Immunol. 10:307. doi: 10.3389/fimmu.2019.00307 Resolvin D2 Induces Resolution of
Periapical Inflammation and
Promotes Healing of Periapical
Lesions in Rat Periapical
Periodontitis Yasir Dilshad Siddiqui 1, Kazuhiro Omori 2, Takashi Ito 3†, Keisuke Yamashiro 1,
Shin Nakamura 1, Kentaro Okamoto 1, Mitsuaki Ono 4, Tadashi Yamamoto 2,
Thomas E. Van Dyke 5 and Shogo Takashiba 1* Yasir Dilshad Siddiqui 1, Kazuhiro Omori 2, Takashi Ito 3†, Keisuke Yamashiro 1,
Shin Nakamura 1, Kentaro Okamoto 1, Mitsuaki Ono 4, Tadashi Yamamoto 2,
Thomas E. Van Dyke 5 and Shogo Takashiba 1* Keywords: resolvin D2, resolution of periapical inflammation, periapical periodontitis, periapical lesion, DMP1,
calcification Citation:
Siddiqui YD, Omori K, Ito T,
Yamashiro K, Nakamura S,
Okamoto K, Ono M, Yamamoto T,
Van Dyke TE and Takashiba S (2019)
Resolvin D2 Induces Resolution of
Periapical Inflammation and Promotes
Healing of Periapical Lesions in Rat
Periapical Periodontitis.
Front. Immunol. 10:307.
doi: 10.3389/fimmu.2019.00307 †Present Address:
Takashi Ito, †Present Address:
Takashi Ito,
Economic Affairs Division, Health
Service Bureau, Ministry of Health,
Labour and Welfare, Tokyo, Japan ,
Economic Affairs Division, Health
Service Bureau, Ministry of Health,
Labour and Welfare, Tokyo, Japan Specialty section:
This article was submitted to
Inflammation,
a section of the journal
Frontiers in Immunology
Received: 06 November 2018
Accepted: 06 February 2019
Published: 26 February 2019 Specialty section:
This article was submitted to
Inflammation,
a section of the journal
Frontiers in Immunology Received: 06 November 2018
Accepted: 06 February 2019
Published: 26 February 2019 Edited by:
Philippe Saas,
INSERM U1098 Interactions
Hôte-Greffon-Tumeur & Ingénierie
Cellulaire et Génique, France 1 Department of Pathophysiology-Periodontal Science, Okayama University Graduate School of Medicine, Dentistry and
Pharmaceutical Sciences, Okayama, Japan, 2 Department of Periodontics and Endodontics, Okayama University Hospital,
Okayama, Japan, 3 Center for Innovative Clinical Medicine, Okayama University Hospital, Okayama, Japan, 4 Department of
Molecular Biology and Biochemistry, Okayama University Graduate School of Medicine, Dentistry and Pharmaceutical
Sciences, Okayama, Japan, 5 Center for Clinical and Translational Research, The Forsyth Institute, Cambridge, MA,
United States Reviewed by:
Janos G. Filep,
Université de Montréal, Canada
Maria Balta,
University of Oslo, Norway
Chun-Teh Lee,
University of Texas Health Science
Center at Houston, United States Reviewed by:
Janos G. Filep,
Université de Montréal, Canada
Maria Balta,
University of Oslo, Norway
Chun-Teh Lee,
University of Texas Health Science
Center at Houston, United States Periapical periodontitis results from pulpal infection leading to pulpal necrosis and
resorption of periapical bone. The current treatment is root canal therapy, which attempts
to eliminate infection and necrotic tissue. But, in some cases periapical inflammation
doesn’t resolve even after treatment. Resolvins belongs to a large family of specialized
pro-resolving lipid mediators that actively resolves inflammation signaling via specific
receptors. Resolvin D2 (RvD2), a metabolite of docosahexaenoic acid (DHA), was tested
as an intracanal medicament in rats in vivo. Mechanism was evaluated in rat primary
dental pulp cells (DPCs) in vitro. The results demonstrate that RvD2 reduces inflammatory
cell infiltrate, periapical lesion size, and fosters pulp like tissue regeneration and healing
of periapical lesion. RvD2 enhanced expression of its receptor, GPR18, dentin matrix
acidic phosphoprotein 1 (DMP1) and mineralization in vivo and in vitro. Moreover, RvD2
induces phosphorylation of Stat3 transcription factor in dental pulp cells. We conclude
that intracanal treatment with RvD2 resolves inflammation and promoting calcification
around root apex and healing of periapical bone lesions. The data suggest that RvD2
induces active resolution of inflammation with pulp-like tissue regeneration after root
canal infection and thus maybe suitable for treating periapical lesions. *Correspondence:
Shogo Takashiba
stakashi@okayama-u.ac.jp INTRODUCTION Periapical periodontitis is an inflammatory disease that occurs around the tooth root apex. It is
caused by infection of the dental pulp tissue subsequent to carious lesions and leads to resorption of
root dentin and bone (1). It is believed that presence of microorganisms in the root canal system are
associated with the development and progression of periapical periodontitis (2, 3). Conventional
root canal treatment goals to eliminate bacteria from the root canal system as completely February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. as possible by physically removing the pulp soft tissue and
irrigating the root canal system with potent antiseptic solutions
(e.g., sodium hypochlorite), as well as mechanically removing
infected dentin in the root canal (4). The disinfected root
canals are then filled with an inert material, typically gutta
percha, to obturate the endodontic space to prevent bacterial
recolonization. The overall success rates for primary endodontic,
secondary endodontics, and surgical treatment reported by
Elimam et al. were 86.02, 78.2, and 63.4%, respectively, based
on criteria of the retention of a functional tooth over a 4 years
period. (5). Most failures occur because of ineffective microbial
clearance, which leads to continued periapical inflammation (6,
7). Root canal therapy also desiccates the tooth leading to the
potential for subsequent fracture. Considering the course which
pulpal inflammation initiates tissue destruction, it is obvious that
an important step in supporting the regeneration of pulp-like
tissue is the attenuation of inflammation. resolution phase of inflammation. In periodontitis and other
infectious/inflammatory diseases, resolvins promote clearance of
bacteria, and tissue regeneration (15, 16). The lipid mediator
resolvin D2 (RvD2) promotes bacterial clearance and improves
animal survival in a cecal ligation and puncture model of
sepsis (16). RvD2 is defensive against P. gingivalis provoked
periodontal bone loss and has been shown to regulate the
RANKL/OPG ratio (17). RvD2 enhances post-ischemic limb
revascularization during ischemia by promoting arteriogenesis
(18), controlling bacterial sepsis and resolving inflammation
by promoting polymorphonuclear neutrophil (PMN) apoptosis,
and enhancing macrophage efferocytosis (16, 19). RvD2 is also
known to reduce postoperative pain by inhibiting transient
receptor potential channels in sensory neurons (20). Animals Eighteen 10-week old male Wistar rats (CLEA Japan, Inc., Tokyo,
Japan) were maintained in the animal facility of Department of
Animal Resources, Advanced Science Research Center, Okayama
University with a 12-h light/12-h dark cycle. Food and water were
provided ad libitum. Frontiers in Immunology | www.frontiersin.org INTRODUCTION Considering
the demonstrated regeneration of periodontal tissues with
resolvin treatment and the demonstrated actions of RvD2 in
a variety of infectious / inflammatory disease systems, it is
reasonable to expect that the active proresolving actions of
RvD2 and its demonstrated enhancement of bacterial clearance
will be beneficial in healing of periapical lesions. We examined
whether RvD2 can be used as an intracanal medication to
promote periapical healing and investigated potential mechanism
of action. Regeneration of pulp tissue after infection is limited, and
attempts have repeatedly failed, because current methods cannot
control inflammation and eliminate the bacterial infection (8). The primary goal in regenerative procedure is to eliminate
clinical symptoms and resolve apical periodontitis as defined
by the American Association of Endodontists in Clinical
Considerations for a Regenerative Procedure (9). Thickening
of canal walls and constant root maturation characterized by
continued odontoblast activity, which produces calcified tissues,
is the secondary goal. Currently, non-surgical root canal therapy
replaces infected vital and necrotic tissue with biocompatible
foreign materials in disinfected root canals. The goal of
regenerative therapy is to fill formerly infected canals with the
host’s own vital tissue (9). Earlier, it was believed that successful
regeneration cannot be achieved once tooth has become infected. However, recent studies suggest that regenerative endodontics
may in fact be possible in teeth with pulpal necrosis and
periapical pathology. Maintaining patency of the root apex
opening is thought to be a critical component for regeneration as
multiple studies in experimental animal models have revealed the
regeneration of dental pulp-like tissue after evoked bleeding by
instrumentation (10, 11). Induction of Periapical Periodontitis p
The experimental design is shown in Figure 1. Rats were
administered general anesthesia by intraperitoneal injection of
sodium pentobarbital (50 mg/kg IP). After 15–20 min to ensure
complete anesthesia, all surgical procedures were performed
under a microscope (Nikon Smz-645, Tokyo, Japan). Periapical
lesions were induced by exposing the pulp of the mandibular
right and left first molars using a #1/2 8ISO 006 round
bur (Dentsply Maillefer, Ballaigues, Switzerland) in an electric
handpiece (VIVAMATE G5; NSK, Tochigi, Japan). The exposed
pulps were left open to the oral environment for 3 weeks to
ensure bacterial contamination. Opposing maxillary first molars
in contact with the experimental teeth were removed at the same
time as pulp exposure of the mandibular first molars to prevent
tooth fracture (1). Dental pulp cells (DPCs) are progenitor cells with the ability
for self-renewal and multilineage differentiation. In response
to trauma or injury, DPCs differentiate into odontoblast-
like cells and initiate dentin mineralization by expressing
extracellular acidic proteins that participate in dentin repair and
mineralization (12). Dentin matrix protein-1 (DMP1) plays a
key role in odontoblast differentiation, formation of the dentin
tubular system, and mineralization. DMP1 is expressed by both
pulp progenitor cells and odontoblasts and its deletion leads
to defects in odontogenesis and mineralization (13). It has
been suggested that DPCs can be transplanted or expanded in
a sterile root canal to differentiate and induce mineralization
and promote periapical healing (12, 14). The clinical limitation
to this approach is the difficulty in controlling infection
and inflammation. After 3 weeks, the right and left mandibular first molars
were endodontically treated by cleaning the test tooth with
70% ethanol. A #1/2 round bur was used to open the pulp
chamber and remove the necrotic coronal pulp, and a micro-
excavator (OK Micro-exca; Seto, Ibaraki, Japan) was used to
remove the infected tooth substance from the pulpal floor
and the orifice of the root canals. K-files #6–20 (Dentsply
Maillefer) were placed up to 2.5 mm in depth into the mesial Resolvins belongs to a family of lipid mediators biosynthesized
from omega-3 polyunsaturated fatty acids (eicosapentaenoic
acid, EPA and docosahexaenoic acid, DHA) that promote the February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 2 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 1 | Experimental protocol of rat periapical periodontitis model. In vivo Imaging Treated canals were dried using sterilized
paper points (VDW, Munich, Germany) and filled with 20
µL RvD2 (1 µg/mL, Cayman Chemical, Ann Arbor, MI, USA)
delivered with a mixture of propylene glycol (Nacalai Tesque)
and Macrogol (Meiji Yakuhin, Toyama, Japan) as a carrier
with 30-gauge needles (21, 22). K file #15 was used in a
clockwise motion to facilitate RvD2 delivery inside the canal
and beyond the apex, until RvD2 changed from colorless to
reddish color due to blood. This was followed by drying of
the coronal chamber using sterile cotton. Untreated mandibular
molars, sealed only (SO group; same treatment without any
administration) and with vehicle only (VO group; a mixture
of propylene glycol and Macrogol) served as controls. Finally,
pulp chambers were lined with apatite liner (Dentsply-Sirona,
Tokyo, Japan) followed by filling with flowable composite resin
(MI FLOW, GC, Tokyo, Japan). In this study. 13 rats were used
for the test with control group (Group #1); RvD2 (right side)
and SO (left side) sides for each rat. On the other hand, 3 rats
were used for control only group (VO group; Group #2). Two
rats were used for the baseline group; Group #3. For in vivo
imaging analysis, 3 rats used were from Group #1. For micro-CT
analysis, 4 rats were used from Group #1. For histology, Gram
staining, and immunohistochemistry, 5 rats were used from
group #1, 3 from Group #2, and 2 from Group #3. In addition,
for q-PCR analysis for bacteria (Figure S3), 1 rat was used
from Group #1. After 4 weeks of treatment, in vivo imaging was performed
to measure myeloperoxidase (MPO) activity of activated
phagocytes. Dose of XenoLight RediJect inflammation probe
(PerkinElmer, Waltham, MA) was calculated and administered
intraperitoneally
at
150
µL/30-g
weight,
and
sacrificed
immediately. To eliminate errors in measurement due to
positional effects of the specimen, the dissected mandibles were
trimmed to the same size and thickness. After verifying that the
wavelengths from specimens positioned on a plate and from the
emission filters of the device were almost the same across all
samples, luminescent images were taken using a charge-coupled-
device (CCD) camera within 20 min of injection. Luminescence
intensity was measured using IVIS Spectrum (PerkinElmer),
and a circular region of interest (ROI) was defined as a region
which exhibited more than 50% of maximum luminescence
in the inflammatory site of each rat. Induction of Periapical Periodontitis (A) Root canal treatment was performed 3 weeks after pulp exposure and rats were sacrificed
and evaluated 4 weeks after treatment. (B) Cavity preparations of first molar, root canal treatment, and final restoration under microscope guidance. otocol of rat periapical periodontitis model. (A) Root canal treatment was performed 3 weeks after pulp exposure and rats were s
treatment. (B) Cavity preparations of first molar, root canal treatment, and final restoration under microscope guidance. FIGURE 1 | Experimental protocol of rat periapical periodontitis model. (A) Root canal treatment was performed 3 weeks after pu
and evaluated 4 weeks after treatment. (B) Cavity preparations of first molar, root canal treatment, and final restoration under mic In vivo Imaging and distal root canals to mechanically debride the root canals,
followed by irrigation with 0.5 mL of 2.5% sodium hypochlorite
(Neo Dental Chemical Products, Tokyo, Japan) using 30-gauge
needles (NaviTip, Ultradent Products, Tokyo, Japan) at a flow
rate of 1 mL/min (1). In order to facilitate bleeding from
periapical lesion into the canals, we breached the apical foramen
using # 20 K file. Treated canals were dried using sterilized
paper points (VDW, Munich, Germany) and filled with 20
µL RvD2 (1 µg/mL, Cayman Chemical, Ann Arbor, MI, USA)
delivered with a mixture of propylene glycol (Nacalai Tesque)
and Macrogol (Meiji Yakuhin, Toyama, Japan) as a carrier
with 30-gauge needles (21, 22). K file #15 was used in a
clockwise motion to facilitate RvD2 delivery inside the canal
and beyond the apex, until RvD2 changed from colorless to
reddish color due to blood. This was followed by drying of
the coronal chamber using sterile cotton. Untreated mandibular
molars, sealed only (SO group; same treatment without any
administration) and with vehicle only (VO group; a mixture
of propylene glycol and Macrogol) served as controls. Finally,
pulp chambers were lined with apatite liner (Dentsply-Sirona,
Tokyo, Japan) followed by filling with flowable composite resin
(MI FLOW, GC, Tokyo, Japan). In this study. 13 rats were used
for the test with control group (Group #1); RvD2 (right side)
and SO (left side) sides for each rat. On the other hand, 3 rats
were used for control only group (VO group; Group #2). Two
rats were used for the baseline group; Group #3. For in vivo
imaging analysis, 3 rats used were from Group #1. For micro-CT
analysis, 4 rats were used from Group #1. For histology, Gram
staining, and immunohistochemistry, 5 rats were used from
group #1, 3 from Group #2, and 2 from Group #3. In addition,
for q-PCR analysis for bacteria (Figure S3), 1 rat was used
from Group #1. and distal root canals to mechanically debride the root canals,
followed by irrigation with 0.5 mL of 2.5% sodium hypochlorite
(Neo Dental Chemical Products, Tokyo, Japan) using 30-gauge
needles (NaviTip, Ultradent Products, Tokyo, Japan) at a flow
rate of 1 mL/min (1). In order to facilitate bleeding from
periapical lesion into the canals, we breached the apical foramen
using # 20 K file. Immunohistochemistry Immunohistochemistry was performed using a streptavidin-
biotin complex method. Rabbit anti-GPR18 polyclonal antibody
(Abcam, Cambridge, UK) at a 1:100 dilution and rabbit anti-
DMP1 polyclonal antibody (Takara Bio, Shiga, Japan) at 1:200
dilutions were used as primary antibodies as previously described
(26). Secondary antibodies were goat anti-rabbit conjugated
with biotin antibody (Vectastain ABC kit; Vector Laboratories,
Burlingame, CA, USA) at 1:200 dilution. Immunoreactivity was
visualized using the DAB Substrate Kit (Vector Laboratories)
and counterstained with Mayer’s hematoxylin solution. Negative
control staining was performed in parallel by incubating the
sections with phosphate-buffered saline (PBS) rather than with
primary antibody. Real-Time Reverse Transcription
Polymerase Chain Reaction (Real-Time
RT-PCR) DPCs were cultured in 12-well plates until 80% confluence,
treated with 0–100 nM doses of RvD2, and incubated at
37◦C for 7 and 14 days. Every 72 h, the media containing
RvD2 doses were changed. For real-time RT-PCR, the cells
were lysed to extract total RNA using the RNeasy Mini Kit
(Qiagen GmbH, Hilden, Germany). Concentrations of mRNA
were measured spectrophotometrically using a NanoDrop 2000
spectrophotometer (Thermo Fisher Scientific, Waltham, MA,
USA). One microgram of each RNA sample was subjected to RT
using the SuperScript IV VILO cDNA synthesis kit (Invitrogen,
Carlsbad, CA, USA). Quantitative RT-PCR was performed using
an ABI 7300 system (Applied Biosystems, Foster City, CA) under
conditions of 95◦C for 10 min followed by 40 cycles at 95◦C
for 15 s and 60◦C for 1 min in 96-well plates in a final volume
of 20 µL containing SYBR green PCR master mix (Applied
Biosystems) (23). The primers used for detection are listed in
Table 1. Measured mRNA levels were normalized to the mRNA
copies of β-actin. We performed these experiments using three
different cell samples and quantification of mRNA was confirmed
using the same cell sample in triplicate. Histology Rats were sacrificed 4 weeks after treatment. Mandibular
samples containing the first molars were dissected, fixed in 4%
paraformaldehyde, and decalcified in 10% formic acid for 10
days at room temperature. After preparation of 4-µm serial
sections, some sections were stained with hematoxylin and eosin
(HE) to observe cellular composition, while others were stained
using a modified Brown and Brenn method (25), to observe
microorganisms (Gram-positive or Gram-negative) under a
DP70 light microscope (Olympus, Tokyo, Japan). with phosphate-buffered formalin and then stained with 250
µL alizarin red, ARD-A1 (ARD-SET, PG Research, Tokyo,
Japan) for 30 min. After washing the wells with pure water,
the plates were photographed. After staining, quantitative
analysis of mineralization was carried out using 250 µL
ARD-E1 (ARD-SET, PG Research, Tokyo, Japan) and plates
were stirred for 10 min to elute the dye, and then 100 µL of
solution was transferred into 96-well plates and absorbance
measurement
was
recorded
at
450 nm
using
microplate
reader (iMark
TM
Microplate Absorbance Reader, Bio-Rad,
Hercules, CA, USA) (28). Western Blot Analysis Western blotting was performed as described previously (29). DPCs were treated with or without RvD2 (1–100 nM) for
14 days, washed with cold PBS twice, lysed using cell lysis
buffer containing 50 mM sodium chloride, 10 mM, Tris-HCl (pH
7.2), 1% sodium dodecyl sulfate (SDS), 1% Nonidet P-40, and
5 mM sodium ethylenediamine tetraacetate, and collected in a In vivo Imaging The total flux (measured
in photons per second) in the ROI were quantified using
Living Image Software V4.4 (PerkinElmer) according to the
manufacturer’s instructions (23). y
Periapical
lesions
were
scanned
with
a
µCT
scanner
(SkyScan1174v2;
Bruker-µCT,
Billerica,
MA,
USA)
4
weeks after treatment. After scanning, the image data were
reconstructed using the Nrecon system (Nrecon Bruker-µCT). For visualization, samples were digitally reconstructed so that a
two-dimensional slice showing a patent mesial and distal canal
in the first molar could be obtained. Periapical lesion sizes in
the cross sectional area from the apical third of the canals were
measured using ImageJ software (NIH, Bethesda, MD, USA),
and values in square millimeters were compared between the February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 3 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. TABLE 1 | Primers used in the study. GPR18
Forward
AAATGATCACCCTGAACAATCAAGA
Reverse
ATTCATAACATTTCACTGTTTATATTGCTTAG
DMP1
Forward
ACCTTTGGAGACGAAGACAATGGC
Reverse
ACACCACACAGTCCAGTGAAGACA
BETA ACTIN
Forward
TGTTGCCCTAGACTTCGAGCA
Reverse
GGACCCAGGAAGGAAGGCT TABLE 1 | Primers used in the study. RvD2 and control groups (24). To obtain the precise periapical
lesion size, the periodontal ligament space around the apical
third of the mesial and distal root canals in healthy teeth were
measured, and their values were subtracted from the periapical
lesion size values of the RvD2 and control groups. DPC Isolation and Culture After sacrifice, the incisors from animals were carefully separated
from the jawbones. Dental pulps were gently isolated using a
sterile dental explorer and the apical third of the tooth was cut
offto obtain the apical epithelial buds as previously described
(27). The remaining pulp tissue was minced into small pieces
and treated with solution containing 3 mg/mL collagenase type
1 (Sigma-Aldrich, St. Louis, MO, USA) and 4 mg/mL dispase
(Sigma-Aldrich) for 60 min at 37◦C. The single-cell suspension
was cultured in alpha minimum essential medium (α-MEM;
Gibco, Life Technologies, Grand Island, NY, USA) supplemented
with 20% fetal bovine serum (Hyclone, Logan, UT, USA),
1% 100 U/mL penicillin, 100 µg/mL streptomycin, 0.25 µg/mL
amphotericin B, and 1% L-glutamine at 37◦C in 5% CO2. The
cells were routinely observed under a TS100-F phase-contrast
inverted microscope (Nikon, Tokyo, Japan). Cells at passage four
were used in subsequent experiments. To treat DPCs with RvD2,
osteogenic medium containing 200 µM ascorbic acid, 10 mM,
ß-glycerophosphate, and 100 nM dexamethasone was prepared. Alizarin Red S Staining Cells were cultured on 48-well plates, and the five different
groups (0, 1, 10, 100, and 200 nM) were established. Media
with and without RvD2 were replaced twice per week with
freshly-prepared osteogenic media. On day 21, cells were fixed February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 4 Siddiqui et al. Resolvin D2 Resolutes Periapical Periodontitis 1-mL centrifuge tube. After centrifugation of the cell lysate,
supernatants containing total protein were transferred to new
tubes, and protein concentration was determined with the BCA
protein assay (Thermo Fisher Scientific). Thirty micrograms of
each sample were subjected to 12% SDS-PAGE and transferred to
a polyvinylidene fluoride membrane (Bio-Rad). Membranes were
incubated overnight at 4◦C with a polyclonal rabbit anti-DMP1
antibody (Takara Bio) at a dilution of 1:2,000. Subsequently,
the membrane was incubated with anti-rabbit IgG polyclonal
antibody (GE Healthcare Life Sciences, Little Chalfont, UK) at a
dilution of 1:2,000, and then washed with PBS containing Tween
(PBST) buffer to remove unbound antibody. The membrane was
developed with enhanced chemiluminescence detection reagents
(SuperSignal West Pico; Thermo Fisher Scientific). Anti-GAPDH
antibody (Cell Signaling Technology, Danvers, MA, USA) was
used as an internal control at a dilution of 1:1,000). Each
experiment was performed in triplicate and data values were
normalized to the corresponding GAPDH values. Densitometric
analysis was performed using ImageJ software. FIGURE 2 | Molecular imaging analysis examining the effects of RvD2 on
periapical inflammation. Images of the signal intensity of MPO activity around
RvD2 treated and non-treated tooth are shown (A). Results of comparisons of
the levels of signal intensity with respect to total flux are shown (B). Data
represent the means of three independent rats (SO on left side and RvD2 on
right side for each rat), with error bars indicating standard deviations. *P <
0.05 indicates significant differences compared to the control group,
Mann–Whitney test. y
p
g
g
To determine the expression levels of pSTAT3 protein, only α-
MEM containing 100 nM RvD2 was used. Cells were treated with
α-MEM with/without 100 nM RvD2 and incubated for 0, 1, 5, 15,
and 30 min at 37◦C in 5% CO2, followed by washing with cold
PBS twice and lysis using cell lysis buffer. The lysate was added to
500-µL tubes that were transferred to ice to stop the reaction. Alizarin Red S Staining Protein concentration was determined with the BCA protein
assay and 10 µg of each sample was subjected to 12% SDS-
PAGE and transferred onto a polyvinylidene fluoride membrane,
followed by overnight incubation at 4◦C with a polyclonal
rabbit anti-pSTAT3 (Cell Signaling Technology) at a dilution of
1:1,000. Subsequently, the membrane was incubated with anti-
rabbit IgG polyclonal antibody (GE Healthcare Life Science) at
a dilution of 1:2,000, and then washed with PBST buffer to
remove unbound antibody. Anti-STAT3 antibody (Cell Signaling
Technology) was used as an internal control at a dilution of
1:1,000. Each experiment was performed in triplicate and data
values were normalized to the corresponding total STAT3 values. Densitometric analysis was performed using ImageJ software. FIGURE 2 | Molecular imaging analysis examining the effects of RvD2 on
periapical inflammation. Images of the signal intensity of MPO activity around
RvD2 treated and non-treated tooth are shown (A). Results of comparisons of
the levels of signal intensity with respect to total flux are shown (B). Data
represent the means of three independent rats (SO on left side and RvD2 on
right side for each rat), with error bars indicating standard deviations. *P <
0.05 indicates significant differences compared to the control group,
Mann–Whitney test. anti-inflammatory effects of the RvD2. Data revealed that
level of periapical inflammation was significantly reduced in
RvD2-treated molars. In the SO group, periapical inflammation
was higher (Figure 2A). The average level of total flux was in
RvD2 treated teeth was 42.34% ± 16.78 and for control samples
set value in percentage was 100% ± 0 (∗P < 0.05, Figure 2B). RvD2 Reduced Periapical Lesion Size For in vivo imaging and micro-CT analysis, Mann-Whitney
test was used to determine statistically significant changes in
the level of periapical inflammation and periapical lesion area
between the treatment and control groups. For Alizarin red
staining for mineralization, qPCR and Western blotting analysis
for DMP1 mRNA and protein expression, one-way ANOVA
and post hoc Tukey-Kramer test was used. For pSTAT3 analysis,
Mann-Whitney test was used to determine statistically significant
difference between RvD2 and control groups. In all cases, P <
0.05 was considered statistically significant (∗). p
Infected root canals were cleaned and sealed after administration
of RvD2. Micro-computed tomography (µCT) analysis was used
to quantify the area of mineralized tissue and showed that the
periapical lesion size was greatly reduced, and root canal apices
were calcified in RvD2-treated molars. In the SO group, root
apices were open with large periapical lesions (Figure 3A). The
mean periapical lesion size in RvD2 treated teeth (apex of mesial
canal) was 0.149 ± 0.146 mm2, and non-treated teeth was 0.391 ±
0.119 mm2. The mean periapical lesion size in RvD2 treated distal
canals was 0.059 ± 0.103 mm2, and non-treated distal canals was
measured 0.292 ± 0.082 mm2 (∗P < 0.05, Figures 3B,C). Histology Histological
examination
of
samples
revealed
that
RvD2
induced root apex closure and reduced inflammatory cell
accumulation in periapical tissues (Figures 4A,E). The control Molecular
imaging
analysis
was
performed
to
measure
myeloperoxidase
(MPO)
activity
to
examine
the February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 5 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 3 | Micro-CT analysis of periapical lesions after root canal treatment in rats. (A) Representative image of teeth in the treatment group and SO group. The
x-axis (white line) passes through the apical third of the mesial and distal root canal, denoted as the coronal limit of periapical lesion. The y-axis (green line) passes
through the center of the mesial and distal root canals of the mandibular first molars. (B,C) Comparison of changes in the size of periapical lesions in mesial and distal
canals (*P < 0.05 indicates significant differences compared to the SO group, Mann–Whitney test). Data represent the means of four independent rats (SO on left side
and RvD2 on right side for each rat), with error bars indicating standard deviations. The volume of the periapical lesions of the mesial and distal roots for the treatment
group were significantly lower than that of the control group after 4 weeks following pulp exposure. FIGURE 3 | Micro-CT analysis of periapical lesions after root canal treatment in rats. (A) Representative image of teeth in the treatment group and SO group. The
x-axis (white line) passes through the apical third of the mesial and distal root canal, denoted as the coronal limit of periapical lesion. The y-axis (green line) passes
through the center of the mesial and distal root canals of the mandibular first molars. (B,C) Comparison of changes in the size of periapical lesions in mesial and distal
canals (*P < 0.05 indicates significant differences compared to the SO group, Mann–Whitney test). Data represent the means of four independent rats (SO on left side
and RvD2 on right side for each rat), with error bars indicating standard deviations. The volume of the periapical lesions of the mesial and distal roots for the treatment
group were significantly lower than that of the control group after 4 weeks following pulp exposure. FIGURE 4 | Histological analysis of periapical lesions after root canal treatment in rats. (A) Periapical area of treatment group stained with HE. (B,C) Periapical area of
control groups stained with HE. Histology (D) Periapical area of baseline group stained with HE. (E,F,G,H). High magnification views of the solid inset in (A–D), respectively. (I–L). High magnification views of the solid insets in (A–D), stained with a modified Brown and Brenn method. Images are representative for 5 experiments from Group
#1 (RvD2 and SO); 3 experiments from Group #2 (VO), and 2 experiments Group #3 (baseline). RC, root canal; CA, closed apex; OA, open apex; AF, apical foramen. The asterisk denotes inflammatory cells and the black arrows specifying some of Gram negative bacteria stain red color and blue arrow specifying some of blue/purple
stain Gram positive bacterial cells in canals. Outlined circular images with blue and black colors are higher magnification of specified areas coming from colored dotted
circles corresponds to the identifications of Gram positive and negative bacteria. FIGURE 4 | Histological analysis of periapical lesions after root canal treatment in rats. (A) Periapical area of treatment group stained with HE. (B,C) Periapical area of
control groups stained with HE. (D) Periapical area of baseline group stained with HE. (E,F,G,H). High magnification views of the solid inset in (A–D), respectively. (I–L). High magnification views of the solid insets in (A–D), stained with a modified Brown and Brenn method. Images are representative for 5 experiments from Group
#1 (RvD2 and SO); 3 experiments from Group #2 (VO), and 2 experiments Group #3 (baseline). RC, root canal; CA, closed apex; OA, open apex; AF, apical foramen. The asterisk denotes inflammatory cells and the black arrows specifying some of Gram negative bacteria stain red color and blue arrow specifying some of blue/purple
stain Gram positive bacterial cells in canals. Outlined circular images with blue and black colors are higher magnification of specified areas coming from colored dotted
circles corresponds to the identifications of Gram positive and negative bacteria. lymphocytes,
and
monocytes
(Figures 4B,C,F,G). Baseline
data (0 week) shows development of periapical periodontitis
(Figures 4D,H). Modified Brown and Brenn staining revealed groups SO and VO did not exhibit root apex closure, and the
periapical lesion contained inflammatory granulation tissue with
marked inflammatory cell infiltration and numerous PMNs, February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 6 Siddiqui et al. Resolvin D2 Resolutes Periapical Periodontitis FIGURE 5 | Immunohistochemical analysis. (A) GPR18 protein expression in the root canal of the treatment group. Histology (B,C) GPR18 protein expression in the root canal
of the control groups. (D–F) High magnification views of the solid inset in the panels (A–C), respectively. (G) DMP1 protein was abundantly expressed in the root
canals of the treatment group. (H,I) Whereas, DMP1 protein expression was lower in the root canal of the control groups as compared to RvD2 group. (J–L) High
magnification views of the solid inset in the panels (G–I), respectively. Images are representative for 5 experiments from Group #1 and 3 experiments from Group #2. (M) Negative control without primary antibody GPR18. (N) Negative control without primary antibody DMP1. RC, root canal; C, cementum. The arrow head indicates
GPR18 and DMP1 positive expression. FIGURE 5 | Immunohistochemical analysis. (A) GPR18 protein expression in the root canal of the treatment group. (B,C) GPR18 protein expression in the root canal
of the control groups. (D–F) High magnification views of the solid inset in the panels (A–C), respectively. (G) DMP1 protein was abundantly expressed in the root
canals of the treatment group. (H,I) Whereas, DMP1 protein expression was lower in the root canal of the control groups as compared to RvD2 group. (J–L) High
magnification views of the solid inset in the panels (G–I), respectively. Images are representative for 5 experiments from Group #1 and 3 experiments from Group #2. (M) Negative control without primary antibody GPR18. (N) Negative control without primary antibody DMP1. RC, root canal; C, cementum. The arrow head indicates
GPR18 and DMP1 positive expression. few residual bacteria in RvD2-treated canals compared to the
abundant bacteria in control root canals (Figures 4I–L). the amounts of mineralization among the groups (Figure 6A). Among treatment groups, 100 nM and 200 nM had significantly
increased amount of mineralized nodules as compared with
control (0 nM) (Figure 6B). Whereas, 1 and 10 nM doses showed
slight tendency to induce mineralization in DPCs. Immunohistochemical Detection of GPR18
and DMP1 in Root Canal Tissues Immunohistochemistry
revealed
strong
GPR18
protein
expression inside and around the root canals in the RvD2-
treated group compared to the controls SO, and VO, suggesting
the upregulation of the receptor by RvD2 treatment. Expressions
were observed inside root canals and in the periodontal ligament
space region (Figures 5A–F). DMP1, a key phosphoprotein
for dentin mineralization and odontoblast differentiation, was
highly expressed in RvD2-treated root canals scattered near the
root dentin and mid-root and in the apical region (Figures 5G,J). In the control groups, SO and VO, DMP1 protein was expressed
only in the root dentin (Figures 5H–L). Negative controls,
without GPR18 and DMP1 antibodies (Figures 5M,N). Expression of DMP1 mRNA in DPCs p
After stimulation of DPCs with RvD2 in culture at doses
of 1–100 nM for 7 and 14 days, quantitative real-time PCR
analysis revealed that DMP1 mRNA expression was significantly
enhanced at each dose at 7 days compared to that in the control (P
< 0.05, Figure 7A). After 14 days of culture, DMP1 mRNA was
significantly enhanced at 100 nM compared to that in the control
(P < 0.05, Figure 7B). Expression of DMP1 and Phosphorylated
Signal Transducer and Activator of
Transcription 3 (STAT3) Protein in DPCs
Western blotting data confirmed that RvD2 induced DMP1
protein expression in DPCs stimulated with RvD2 for 7 and 14
days. After 7 days, RvD2 induced DMP1 protein expression at Alizarin Red Staining Transcription 3 (STAT3) Protein in DPCs
Western blotting data confirmed that RvD2 induced DMP1
protein expression in DPCs stimulated with RvD2 for 7 and 14
days. After 7 days, RvD2 induced DMP1 protein expression at After stimulation of DPCs with RvD2 in culture at doses
of 1–200 nM for 21 days, there were obvious differences in February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 7 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 6 | Alizarin red staining of DPCs stimulated with and without RvD2
(1-200 nM) for 21 days. (A) Obvious differences in the amounts of
mineralization among the groups. (B) Quantitative analysis showed that 100
and 200 nM had significantly increased mineralized nodules as compared with
control 0 nM (P < 0.05; Tukey-Kramer). *P < 0.05 indicates significant
differences compared to the control, post hoc Tukey-Kramer test. Representative data of four independent samples. all doses of 1 to 100 nM (Figure 8A). Whereas, after 14 days
DMP1 protein expression was significantly enhanced at the doses
of 10 and 100 nM (P < 0.05, Figure 8B). Phosphorylated STAT3
protein expression was significantly induced after DPCs were
FIGURE 7 | Quantification of DMP-1 mRNA from DPCs stimulated with RvD2
(1–100 nM) for 7 and 14 days using real-time RT-PCR. (A) RvD2 induced
significant DMP1 mRNA expression at all doses after 7 days culture compared
to the control (0 nM) (P < 0.05; Tukey-Kramer). (B) RvD2 induced significant
DMP1 mRNA expression at 100 nM (P < 0.05; Tukey-Kramer) after 14 days
culture compared to the control (0 nM). *P < 0.05 indicates significant
differences compared to the control, post hoc Tukey-Kramer test. Representative data of three to four independent cases. FIGURE 7 | Quantification of DMP-1 mRNA from DPCs stimulated with RvD2
(1–100 nM) for 7 and 14 days using real-time RT-PCR. (A) RvD2 induced
significant DMP1 mRNA expression at all doses after 7 days culture compared
to the control (0 nM) (P < 0.05; Tukey-Kramer). (B) RvD2 induced significant
DMP1 mRNA expression at 100 nM (P < 0.05; Tukey-Kramer) after 14 days
culture compared to the control (0 nM). *P < 0.05 indicates significant
differences compared to the control, post hoc Tukey-Kramer test. Representative data of three to four independent cases. FIGURE 6 | Alizarin red staining of DPCs stimulated with and without RvD2
(1-200 nM) for 21 days. Frontiers in Immunology | www.frontiersin.org Alizarin Red Staining It sharply decreased excessive cytokine production,
neutrophil recruitment, both local and systemic bacterial burden,
while increasing peritoneal mononuclear cells, macrophage
phagocytosis and intracellular generation of phagosomal reactive
oxygen species for microbial killing in the mice suffered
from microbial sepsis initiated by cecal ligation and puncture
(16). Moreover, RvD2 promote resolution by preventing the
generation of activated Th1 and Th17 cells and enhancing the
differentiation of regulatory T-cells (19). In addition, resolvins are
protective against P. gingivalis induced periodontal bone loss and
reverses periodontal bone loss by enhancing bacterial clearance
and regulating the RANKL/OPG ratio in murine periodontitis
model (17, 34). Overall, RvD2 is an effective endogenous
controller of excessive inflammatory responses that actions on
multiple cellular targets to stimulate resolution, preserve and (33). Resolvin D2 biosynthesis involves 17-lipoxygenation of
DHA to 17S-hydroperoxy-DHA, which then further transformed
enzymatically to a 7(8) epoxide-containing intermediate in
leukocytes via 5-lipoxygenase, followed by enzymatic hydrolysis
to form RvD2. Endogenous RvD2 production has been
documented in human serum, plasma, adipose tissue, placenta,
lung, breast milk, and in the plasma of sepsis patients. RvD2
is a potent immunoresolvent that stereoselectively reduces
excessive PMN trafficking in peritonitis and improves survival
in sepsis. It sharply decreased excessive cytokine production,
neutrophil recruitment, both local and systemic bacterial burden,
while increasing peritoneal mononuclear cells, macrophage
phagocytosis and intracellular generation of phagosomal reactive
oxygen species for microbial killing in the mice suffered
from microbial sepsis initiated by cecal ligation and puncture
(16). Moreover, RvD2 promote resolution by preventing the
generation of activated Th1 and Th17 cells and enhancing the
differentiation of regulatory T-cells (19). In addition, resolvins are
protective against P. gingivalis induced periodontal bone loss and
reverses periodontal bone loss by enhancing bacterial clearance
and regulating the RANKL/OPG ratio in murine periodontitis
model (17, 34). Overall, RvD2 is an effective endogenous
controller of excessive inflammatory responses that actions on
multiple cellular targets to stimulate resolution, preserve and Alizarin Red Staining (A) Obvious differences in the amounts of
mineralization among the groups. (B) Quantitative analysis showed that 100
and 200 nM had significantly increased mineralized nodules as compared with
control 0 nM (P < 0.05; Tukey-Kramer). *P < 0.05 indicates significant
differences compared to the control, post hoc Tukey-Kramer test. Representative data of four independent samples. FIGURE 6 | Alizarin red staining of DPCs stimulated with and without RvD2
(1-200 nM) for 21 days. (A) Obvious differences in the amounts of
mineralization among the groups. (B) Quantitative analysis showed that 100
and 200 nM had significantly increased mineralized nodules as compared with
control 0 nM (P < 0.05; Tukey-Kramer). *P < 0.05 indicates significant
differences compared to the control, post hoc Tukey-Kramer test. Representative data of four independent samples. FIGURE 7 | Quantification of DMP-1 mRNA from DPCs stimulated with RvD2
(1–100 nM) for 7 and 14 days using real-time RT-PCR. (A) RvD2 induced
significant DMP1 mRNA expression at all doses after 7 days culture compared
to the control (0 nM) (P < 0.05; Tukey-Kramer). (B) RvD2 induced significant
DMP1 mRNA expression at 100 nM (P < 0.05; Tukey-Kramer) after 14 days
culture compared to the control (0 nM). *P < 0.05 indicates significant
differences compared to the control, post hoc Tukey-Kramer test. Representative data of three to four independent cases. all doses of 1 to 100 nM (Figure 8A). Whereas, after 14 days
DMP1 protein expression was significantly enhanced at the doses
of 10 and 100 nM (P < 0.05, Figure 8B). Phosphorylated STAT3
protein expression was significantly induced after DPCs were
stimulated with 100 nM of RvD2 for 1 min compared to that in
the control. Additionally, phosphorylation of STAT3 was notably
higher than that in non-treated DPCs after stimulation for 5 and
15 min (P < 0.05, Figure 8C). (33). Resolvin D2 biosynthesis involves 17-lipoxygenation of
DHA to 17S-hydroperoxy-DHA, which then further transformed
enzymatically to a 7(8) epoxide-containing intermediate in
leukocytes via 5-lipoxygenase, followed by enzymatic hydrolysis
to form RvD2. Endogenous RvD2 production has been
documented in human serum, plasma, adipose tissue, placenta,
lung, breast milk, and in the plasma of sepsis patients. RvD2
is a potent immunoresolvent that stereoselectively reduces
excessive PMN trafficking in peritonitis and improves survival
in sepsis. DISCUSSION Cells were stimulated with RvD2
(100 nM) for 0, 1, 5, 15, and 30 min. Western blotting revealed that RvD2 significantly induced phosphorylation of STAT3 after 1-min stimulation compared to
non-treated DPCs. In addition, phosphorylation of STAT3 was much higher than in non-treated DPCs after stimulation for 5 and 15 min (*P < 0.05 indicates significant
differences compared to the control group, Mann–Whitney test). Representative data of three independent experiments. M, molecular weight marker. activity is in accordance with the normal innate immune
response. Myeloperoxidase (MPO) activity has been used as an
inflammatory marker of both acute and chronic conditions. In
PMNs, amount of MPO is 3 times higher than in monocytes, and
used as an indicator of PMN presence in inflamed tissues (39). In
this study, we visualized in vivo monitoring of low MPO activity
in RvD2 treated tooth as compared to non-treated tooth. RvD2
limits excessive neutrophil trafficking to site of inflammation
and resolve inflammation whereas, unresolved inflammation and
tissue destruction are linked to dysregulated PMN functions (16). Further, RvD2 reduced inflammatory cell infiltrates that could
be seen histologically (Figures 4A,E). Moreover, RvD2 induced
root apex closure and remarkably reduced periapical lesion size
with recalcification of bone at 4 weeks after root canal treatment
compared to the control group, where large periapical lesions
were observed (Figure 3; Figure S2). improve immune vigilance (16, 35). Importantly, in many disease
systems, it has been shown that resolvins can be administered
in an active infectious/inflammatory lesion without negative
effects. Bacteria are more efficiently cleared and there is no
increase of disease activity. The collective data indicate that for
all RvD2 actions, such as pro-resolution, anti-inflammation, and
the ability to promote bacterial clearance (16), RvD2 appears to
be suitable as an intracanal medication for endodontic treatment. Periapical periodontitis is characterized by inflammation
and destruction of periapical tissues caused by etiological
bacteria of endodontic origin. It is considered to be the
consequence of a dynamic encounter between root canal
microbes and host defense. The latter involves cells, specifically
PMNs and macrophages, intercellular mediators, metabolites,
effector molecules, and humoral antibodies (36). Principally,
macrophages play key role in clearance of bacteria, cellular
debris and apoptotic PMNs to facilitate inflammation-resolution
(16). If dying cells are not cleared, their intracellular contents
are expelled, creating an unfavorable environment that may be
favorable for bacteria to grow (37). DISCUSSION In this study, we demonstrate that active control of excess
inflammation in an infected root canal is permissive for the
healing of periapical lesions. In addition, there was suggestive of
successful vital pulp-like tissue regeneration and bacterial load
reduction in contaminated root canals following topical RvD2
treatment. Vital pulp-like tissue was regenerated with significant
increases in DMP1 expression and mineralization. RvD2 signals,
at least in part, through STAT3. The net outcome of RvD2-
augmented root canal therapy was continued calcification around
root apex, prevention and reversal of periapical periodontitis. Resolvins are specialized pro-resolving mediators derived
from the polyunsaturated omega-3 fatty acids, EPA and DHA,
which yield E-Series resolvins and D series resolvins, respectively
(30). Resolvins actively foster catabasis through potent pro-
resolving and anti-inflammatory actions (31, 32). Specialized
pro-resolving mediators derived from DHA, including RvD2,
were first noticed and isolated during the resolution phase of self-
limited acute inflammation from murine self-resolving exudates February 2019 | Volume 10 | Article 307 8 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. FIGURE 8 | Western blot analysis. (A) RvD2-induced DMP1 protein expression in 7 days DPC culture at all doses of 1 to 100 nM. (B). RvD2-induced DMP1 protein
expression in 14 days DPC culture. DMP1 expression was significantly enhanced at 10 and 100 nM doses compared to at 1 and 0 nM as the control groups (P <
0.05; Tukey-Kramer). Representative data of three independent cases. (C) RvD2 induced phosphorylation of STAT3 in DPCs. Cells were stimulated with RvD2
(100 nM) for 0, 1, 5, 15, and 30 min. Western blotting revealed that RvD2 significantly induced phosphorylation of STAT3 after 1-min stimulation compared to
non-treated DPCs. In addition, phosphorylation of STAT3 was much higher than in non-treated DPCs after stimulation for 5 and 15 min (*P < 0.05 indicates significant
differences compared to the control group, Mann–Whitney test). Representative data of three independent experiments. M, molecular weight marker. FIGURE 8 | Western blot analysis. (A) RvD2-induced DMP1 protein expression in 7 days DPC culture at all doses of 1 to 100 nM. (B). RvD2-induced DMP1 protein
expression in 14 days DPC culture. DMP1 expression was significantly enhanced at 10 and 100 nM doses compared to at 1 and 0 nM as the control groups (P <
0.05; Tukey-Kramer). Representative data of three independent cases. (C) RvD2 induced phosphorylation of STAT3 in DPCs. Frontiers in Immunology | www.frontiersin.org DISCUSSION We observed that bacterial cell counts were low in RvD2 treated
teeth as compared to control (SO) (Figures S3, S4). There are many published case reports and series related
to the deposition of hard tissue within the canal walls of
teeth with necrotic pulps and apical lesions, elucidating the
obvious continuation of root development of teeth (57, 58). Other multiple studies in experimental animal models have
shown the regeneration of dental pulp-like tissue after evoked
bleeding (10, 11), considering cells source from outside the
tooth root apex, likely including alveolar bone stem/progenitor
cells and periodontal ligament stem/progenitor cells (59). Consequently, vital pulp-like tissue inside RvD2 treated canals
and calcified tissues around the root apex (Figures 4A, 5G)
presumably derived from alveolar bone stem/progenitor cells
and periodontal ligament stem/progenitor cells (60). Sustained
vitality of migrated pulp-like cells is likely because RvD2
treatment limits the excess local inflammatory response, controls
bacterial sepsis, stimulates stem cells and induces angiogenesis
(16, 18). Disease severity and chronicity involve a constant
phase of inflammation due to improper resolution of the
initial pro-inflammatory response that impacts on the resident
stem cells behavior (61), thus preventing tissue regeneration
while promoting pathogenesis of periapical lesion caused by
excessive influx of PMNs and pro-inflammatory mediators (6,
62). RvD2 actions, could promote resolution of inflammation
and reverse tissue destruction caused by excessive PMN influx
(16), consequently, facilitate stem cells activations presumably
alveolar bone stem/progenitor cells and periodontal ligament
stem/progenitor cells (46), and induce regeneration of pulp-like
cells and promote calcification of periapical lesion. In this rat
model, there was some slight ingrowth of pulp tissue in the
control, which is not often seen in humans. Nonetheless, the
robust ingrowth and large difference between RvD2 treatment
and control demonstrate significant impact of control of
inflammation in elimination of infection and promotion of
pulp regeneration. Our histological findings are consistent with those of previous
studies, which used Resolvin E1 (RvE1) as an intracanal
medicament in necrotic immature pulps of teeth of 4-week-
old rats and demonstrated reductions in inflammatory cell
infiltration (22). Both resolvin types (E1 and D2) bind to
distinct cell receptors and elicit distinct responses. RvE1 binds
to chemokine-like receptor 1 (ChemR23) or BLT1 receptors on
monocyte, PMNs, osteoblasts, and osteoclasts (45). In addition
to the anti-inflammatory and pro-resolution actions mediated
by RvE1, osteoblasts mediate bone preservation via ChemR23
receptors (45). DISCUSSION RvD2 binds to the GPR18 receptor, which is
expressed on human leukocytes, including PMNs, monocytes,
and macrophages, and elicits potent anti-inflammatory and
anti-bacterial responses (16, 35). In this study, we found high
expression of GPR18 receptors inside and outside of RvD2-
treated root canals as compared to the controls (Figures 5A–F),
which was further confirmed by the increased level of GPR18
mRNA expressed by DPCs treated with 10 nM RvD2 for 3 days
(Figure S1). These findings are consistent with previous reports
that demonstrate stem cells and macrophages express lipoxin
and resolvin receptors and respond to exogenous addition of
mediators (46, 47). The data expand our understanding of root
canal biology beyond the possible anti-inflammatory actions of
RvD2 on PMNs and macrophages located inside and outside the
root canal, revealing possible reasons for root apex calcification. For regenerative endodontic therapy, the most commonly
used intracanal medication for canal disinfection and tissue
repair is triple antibiotic paste, which contains metronidazole,
ciprofloxacin, and minocycline (48). Local antibiotic medication
has many limitations, including the development of bacterial
resistance (49), allergic reactions (50), inhibition of angiogenesis
(51), and staining or discoloration of teeth (52). We used 2.5%
sodium hypochlorite for root canal irrigation, which has been
shown to have an essential role in reducing microbial load (48). It
has been studied that lipopolysaccharide (LPS/endotoxin) from
bacterial cell walls stimulates an inflammatory response from
a variety of cells resident in the tissue (53). Once immune
cells become activated by LPS, they mediate the destruction
of the pulpal tissues by secreting a range of pro-inflammatory
cytokines, prime examples being IL-1β and TNFα, and tissue
degrading enzymes such as matrix metalloproteinases (MMPs)
(54). Treatment with RvD2 may have further contributed to the
control of bacterial infection in the root canal by enhancing
phagocyte-dependent bacterial clearance (35). Very low levels
of residual bacteria were found in RvD2-treated root canals
as compared to control and baseline groups (Figures 4I–L). Gram-negative bacteria predominate in root canals of teeth In addition to the known actions of RvD2, it also induced
strong DMP1 expression throughout the root canal and around
the root apex including in cementum and bone. Moreover, in
vitro mineralization in primary DPCs was enhanced with RvD2
treatments at 100 and 200 nM doses at 21 days. (Figure 6). 21-
day DPC culture was chosen, since osteogenic differentiation
and mineralization is optimum at this time (63). DISCUSSION In current clinical practice,
there are many materials that do not actively stimulate an
immune response such as gutta-percha used inside root canals
which has little bioactivity and few innate anti-inflammatory
properties. These materials lack active anti-inflammatory and
regenerative properties and significantly limits treatment options
favorable to reverse periapical periodontitis and to drive pulpal
regeneration (38). In the present study, maintaining root apex patency was
considered an important step of the regeneration process, as
it has been previously reported by others that the periapical
tissues contain a higher concentration of stem cells compared
with the blood from the systemic circulation (40, 41). Thus, we
instrumented beyond the apex inducing bleeding inside canals. Formation of blood clot creates a 3-D fibrin scaffold that may
contain stem cells derived from peripheral blood, periodontal
ligament, bone marrow, granulation tissue, or periapical lesions
(42). Further, it is likely that the presence of RvD2 restricts
excessive innate inflammatory responses in periapical lesions to
stimulate periapical repair (16, 17, 19). Intracanal treatment with RvD2 reduced overall inflammation
by decreasing MPO activity of phagocytes as compared to
control (Figures 2A,B). We believe this change in MPO Ten-week-old rats were used in this study, because their roots
are completely developed at this age. In older rats, it is difficult February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 9 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. to use files inside root canals due to continued calcification that
makes canals rigid and narrow (1). We measured the periapical
lesion size from the apical third of the root canal because
of the presence of accessory canals in this area (43). In rats,
induced periapical lesions develop rapidly between days 0 and
15 (active phase) and more slowly thereafter (chronic phase). On days 15 to 90, lymphocytes are the predominant cell type
(50 to 60%) followed by polymorphonuclear leukocytes (25 to
40%), macrophage-monocytes, plasma cells, and blasts. The cell
infiltrate in these lesions was similar to that found in chronic
human periapical tissues (44). with pulp necrosis and periapical lesions. LPS is considered
an important virulence factor of Gram negative bacteria (55). Moreover, after 4 weeks of root canal treatment, we quantified
bacterial cells derived from the mesial root along with apical
region, using real-time PCR, as described by Maeda et al. (56). Frontiers in Immunology | www.frontiersin.org FUNDING This study was supported by a Grant-in-Aid for Scientific
Research (C) (No. 16K11549) from the Japan Society for the
Promotion of Science. ACKNOWLEDGMENTS We thank Drs. Kimito Hirai, Zulema Rosalia Arias Martinez, and
Emilio Satoshi Hara for providing valuable suggestions and Drs. Saki Nakagawa and Mari Kawamura for technical support. AUTHOR CONTRIBUTIONS YS
contributed
to
the
conception,
design,
analysis,
and
interpretation of the study and wrote the manuscript. KaO, TI,
and KY contributed to the conception, design, analysis, and
interpretation of the study and drafted the manuscript. SN and
KeO contributed to in vivo experiments. MO contributed to
data analysis. TY contributed to interpretation of the study. TV
contributed to the conception, interpretation of the study, and
drafted and critically revised the manuscript. ST contributed to
the conception, design, analysis, and interpretation of the study
and drafted and critically revised the manuscript. Finally, we identified a signaling pathway in DPCs involved
in the induction of DMP1 over-expression and odontoblast
differentiation. We observed that phosphorylation of STAT3
was enhanced after DPCs were treated with RvD2 (Figure 8C;
Figure S5C). The differences in STAT3 phosphorylation were
small; however, in normal cells, the duration of STAT3 activation
is short. Usually after exposure, phosphorylation takes peaks
within minutes (68). In our study, we found that DPCs expressed
phosphorylated STAT3 protein 1 min after exposure. While
expression was also higher after 5 and 15 min, we assume that
RvD2 activates STAT3 signaling in DPCs as early as in 1 min
after exposure, and may persist until RvD2-receptor interactions
are saturated. STAT3 stimulates embryonic and somatic stem
cell self-renewal (69, 70). STAT3 also activates DPCs and
promotes their exit from the G0 phase of the cell cycle toward
self-renewal and differentiation (71). RvD2-GPR18 receptor
interactions on macrophage leads to the phosphorylation
of STAT3 that contributes in macrophage phagocytosis to
promote resolution of inflammation (35). Hence, in DPCs,
RvD2-GPR18 receptor interactions phosphorylates STAT3 to
further propagate DPC differentiation into odontoblast-like
cells. STAT3 is a positive regulator of β-catenin (72, 73), and
initiates DPC differentiation and upregulates DMP1 expression. Further studies are needed to explore the signaling pathways
responsible for DPCs differentiation, DMP1 upregulation and the
mechanisms involving mineralization. DISCUSSION We further
confirmed that DMP1 mRNA and protein levels were increased
in primary DPCs after treatment with RvD2 for 7 and 14
days (Figure 7, 8; Figures S5A,B). DMP1 mRNA expression
was significantly enhanced after 7 days treatment with RvD2
at all doses as compared to control (no RvD2). Whereas, at
14 days, the 100 nM dose showed a significant increase in
DMP1 expression. The difference in dose/response time could
be due to high cellular confluency in culture dishes incubated
for longer periods. It could be suggested that for the induction
of mineralization, persistent DMP1 expressions are needed. This February 2019 | Volume 10 | Article 307 10 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. time 10 to 100 nM dose induced DMP1 protein expression at
14 days (Figure 8B). We hypothesize that high concentration of
RvD2 is needed to keep DMP1 production and induce periapical
calcification. DMP1 is an extracellular acidic phosphoprotein
that belongs to the small integrin ligand N-linked glycoprotein
family 1, which has multiple functions in mineralized tissues. It is also expressed in the cementum that coats the tooth root
surface (64). It plays a key role in odontoblast differentiation
and formation of the dentin tubular system. In response to pulp
injury, newly differentiated odontoblast-like cells from DPCs
play a role in dentin repair and mineralization by secreting DMP1
as a key protein that induces odontogenesis. Overexpression
of DMP1 by pluripotent cells acts as signal for differentiation
(14). In this case, differentiated odontoblast-like cells may have
shifted from the end of dentinal tubules toward the root apex
as dentin formation progressed (Figures 5G,J). Narrowing of the
root canal space was observed in some RvD2-treated molars,
likely in response to increased DMP1 protein. DMP1 is highly
acidic in nature and attracts calcium and promotes the nucleation
and growth of hydroxyapatite crystals (65). Localization of DMP1
in dentin and cementum is related to mineralization and its
deletion leads to increased susceptibility to periodontal diseases
in mice, suggesting that DMP1 is essential for the formation and
maintenance of a healthy periodontium (66, 67). In
conclusion,
RvD2
efficiently
reduces
periapical
inflammation
and
promotes
pulp-like
tissue
regeneration
and calcification around root apex. The positive healing response
could be associated with reduction of bacteria load. RvD2
enhances DMP1 expression by DPCs. RvD2 may be useful as a
novel intracanal medication for inducing pulpal regeneration in
endodontically compromised teeth. ETHICS STATEMENT This study was approved by the Animal Care and Use
Committees, Okayama University (Permit no: OKU-2017062). All animal experiments were carried out in accordance
with the Guidelines for Animal Experiments of Okayama
University, surgical procedures were performed under sodium
pentobarbital anesthesia, and all efforts were made to minimize
animal suffering. SUPPLEMENTARY MATERIAL The Supplementary Material for this article can be found
online at: https://www.frontiersin.org/articles/10.3389/fimmu. 2019.00307/full#supplementary-material 2. Kakehashi S, Stanley H, Fitzgerald, R. The effects of surgical exposures of
dental pulps in germ-free and conventional laboratory rats. Oral Surg Oral
Med Oral Pathol. (1965) 20:340–9. doi: 10.1016/0030-4220(65)90166-0
3. Sundqvist, G. Bacteriological Studies of Necrotic Dental Pulps. PhD
Dissertation, Department of Oral Microbiology, Umea University, Sweden
(1976). 2. Kakehashi S, Stanley H, Fitzgerald, R. The effects of surgical exposures of
dental pulps in germ-free and conventional laboratory rats. Oral Surg Oral
Med Oral Pathol. (1965) 20:340–9. doi: 10.1016/0030-4220(65)90166-0 3. Sundqvist, G. Bacteriological Studies of Necrotic Dental Pulps. PhD
Dissertation, Department of Oral Microbiology, Umea University, Sweden
(1976). Frontiers in Immunology | www.frontiersin.org REFERENCES Resolvins: a family of bioactive products of omega-3 fatty acid transformation
circuits initiated by aspirin treatment that counter proinflammation signals. J
Exp Med. (2002) 196:1025–37. doi: 10.1084/jem.20020760 15. Hasturk H, Kantarci A, Goguet-Surmenian E, Blackwood A, Andry C, Serhan
CN, et al. Resolvin E1 regulates inflammation at the cellular and tissue
level and restores tissue homeostasis in vivo. J Immunol. (2007) 179:7021–9. doi: 10.4049/jimmunol.179.10.7021 34. Lee CT, Teles R, Kantarci A, Chen T, McCafferty J, Starr JR, et al. Resolvin
E1 reverses experimental periodontitis and dysbiosis. J Immunol. (2016)
197:2796–806. doi: 10.4049/jimmunol.1600859 16. Spite M, Norling LV, Summers L, Yang R, Cooper D, Petasis NA, et al. Resolvin
D2 is a potent regulator of leukocytes and controls microbial sepsis. Nature
(2009) 461:1287–91. doi: 10.1038/nature08541 35. Chiang
N,
De
la
Rosa
X,
Libreros
S,
Serhan,
CN. D2
receptor
axis
in
infectious
inflammation. J
Immunol. (2017)
198:842–51. doi: 10.4049/jimmunol.1601650 17. Mizraji G, Heyman O, Van Dyke TE, and Wilensky, A. Resolvin D2 restrains
Th1 immunity and prevents alveolar bone loss in murine periodontitis. Front
Immunol. (2018) 9:785. doi: 10.3389/fimmu.2018.00785 36. Nair,
P. Apical
periodontitis:
a
dynamic
encounter
between
root
canal infection and host response. Periodontol 2000 (1997) 13:121–48. doi: 10.1111/j.1600-0757.1997.tb00098.x 18. Zhang
MJ,
Sansbury
BE,
Hellmann
J,
Baker
JF,
Guo
L,
Parmer
CM,
et
al. Resolvin
D2
enhances
post-ischemic
revascularization
while
resolving
inflammation. Circulation
(2016)
134:666–80. doi: 10.1161/circulationaha.116.021894 37. McCauley LK, Dalli J, Koh AJ, Chiang N, Serhan, CN. Cutting edge:
parathyroid hormone facilitates macrophage efferocytosis in bone marrow
via proresolving mediators resolvin D1 and resolvin D2. J Immunol. (2014)
2:1301945. doi: 10.4049/jimmunol.1301945 19. Chiurchiu V, Leuti A, Dalli J, Jacobsson A, Battistini L, Maccarrone M, et al. Proresolving lipid mediators resolvin D1, resolvin D2, and maresin 1 are
critical in modulating T cell responses. Sci Transl Med. (2016) 8:353ra111. doi: 10.1126/scitranslmed.aaf7483 38. Colombo JS, Moore AN, Hartgerink JD, D’Souza, RN. Scaffolds to control
inflammation and facilitate dental pulp regeneration. J Endod. (2014) 1:S6–12. doi: 10.1016/j.joen.2014.01.019 20. Park, C.-K, Xu, Z.-Z, Liu T, Lü N, Serhan CN, Ji, RR. Resolvin D2 is
a potent endogenous inhibitor for transient receptor potential subtype
V1/A1, inflammatory pain, and spinal cord synaptic plasticity in mice:
distinct roles of resolvin D1, D2, and E1. J Neurosci. (2011) 31:18433–8. doi: 10.1523/jneurosci.4192-11.2011 39. Queiroz-Junior CM, Pacheco CM, Fonseca AH, Klein A, Caliari MV,
de Francischi JN. REFERENCES Saoud TMA, Ricucci D, Lin LM, Gaengler, P. Regeneration and repair in
endodontics -a special issue of the regenerative endodontics- a new era in
clinical endodontics. Dent J. (2016) 4:3. doi: 10.3390/dj4010003 28. Miyazaki T, Miyauchi S, Tawada A, Anada T, Matsuzaka S, Suzuki, O. Oversulfated chondroitin sulfate-E binds to BMP-4 and enhances osteoblast
differentiation. J Cell Physiol. (2008) 217:769–77. doi: 10.1002/jcp.21557 10. Zhu W, Zhu X, Huang GJ, Cheung G, Dissanayaka W, Zhang, C. Regeneration
of dental pulp tissue in immature teeth with apical periodontitis using
platelet-rich plasma and dental pulp cells. Int Endod. (2013) 46:962–70. doi: 10.1111/iej.12087 29. Omori K, Naruishi K, Nishimura F, Yamada H, Takashiba, S. High
glucose
enhances
interleukin-6-induced
vascular
endothelial
growth
factor 165 expression via activation of gp130-mediated p44/42 MAPK-
CCAAT/enhancer binding protein signaling in gingival fibroblasts. J Biol
Chem. (2004) 279:6643–9. doi: 10.1074/jbc.M311688200 11. Zhang DD, Chen X, Bao ZF, Chen M, Ding ZJ, Zhong, M. Histologic
comparison between platelet-rich plasma and blood clot in regenerative
endodontic treatment: an animal study. J Endod. (2014) 40:1388–93. doi: 10.1016/j.joen.2014.03.020 30. Serhan, C.N. Pro-resolving lipid mediators are leads for resolution physiology. Nature (2014) 510:92–101. doi: 10.1038/nature13479 12. Gronthos S, Mankani M, Brahim J, Robey PG, Shi, S. Postnatal human dental
pulp stem cells (DPSCs) in vitro and in vivo. Proc Natl Acad Sci USA. (2000)
97:13625–30. doi: 10.1073/pnas.240309797 31. Serhan CN, Clish CB, Brannon J, Colgan SP, Chiang N, Gronert, K. Novel
functional sets of lipid-derived mediators with antiinflammatory actions
generated from omega-3 fatty acids via cyclooxygenase 2–nonsteroidal
antiinflammatory drugs and transcellular processing. J Exp Med. (2000)
192:1197–204. doi: 10.1084/jem.192.8.1197 13. Lu Y, Ye L, Yu S, Zhang S, Xie Y, McKee MD, et al. Rescue of odontogenesis
in Dmp1-deficient mice by targeted re-expression of DMP1 reveals roles for
DMP1 in early odontogenesis and dentin apposition in vivo. Dev Biol. (2007)
303:191–201. doi: 10.1016/j.ydbio.2006.11.001 32. Serhan CN, Chiang N, Van Dyke TE. Resolving inflammation: dual anti-
inflammatory and pro-resolution lipid mediators. Nat Rev Immunol. (2008)
8:349. doi: 10.1038/nri2294 14. Narayanan K, Srinivas R, Ramachandran A, Hao J, Quinn B, George, A. Differentiation of embryonic mesenchymal cells to odontoblast-like cells by
overexpression of dentin matrix protein 1. Proc Natl Acad Sci USA. (2001)
98:4516–21. doi: 10.1073/pnas.081075198 33. Serhan CN, Hong S, Gronert K, Colgan SP, Devchand PR, Mirick G, et al. REFERENCES 1. Yoneda
N,
Noiri
Y,
Matsui
S,
Kuremoto
K,
Maezono
H,
Ishimoto T, et al. Development of a root canal treatment model
in
the
rat. Sci
Rep. (2017)
7:3315. doi:
10.1038/s41598-017-
03628-6 February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 11 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. periodontal inflammation and bone resorption in a murine periodontitis
model. Infect Immune (2018) 86:e00111–18. doi: 10.1128/IAI.00111-18 4. Ricucci D, and Langeland, K. Apical limit of root canal instrumentation
and obturation, part 2. A histological study. Int Endod J. (1998) 31:394–409. doi: 10.1046/j.1365-2591.1998.00183.x periodontal inflammation and bone resorption in a murine periodontitis
model. Infect Immune (2018) 86:e00111–18. doi: 10.1128/IAI.00111-18 4. Ricucci D, and Langeland, K. Apical limit of root canal instrumentation
and obturation, part 2. A histological study. Int Endod J. (1998) 31:394–409. doi: 10.1046/j.1365-2591.1998.00183.x 24. Wan C, Yuan G, Yang J, Sun Q, Zhang L, Zhang J, et al. MMP9 deficiency
increased the size of experimentally induced apical periodontitis. J Endod. (2014) 40:658–64. doi: 10.1016/j.joen.2014.01.003 j
5. Elemam RF, Pretty, I. Comparison of the success rate of endodontic
treatment
and
implant
treatment. ISRN
Dent. (2011)
2011:640509. doi: 10.5402/2011/640509 5. Elemam RF, Pretty, I. Comparison of the success rate of endodontic
treatment
and
implant
treatment. ISRN
Dent. (2011)
2011:640509. doi: 10.5402/2011/640509 25. Dee Taylor, R. Modification of the Brown and Brenn gram stain for the
differential staining of gram-positive and gram-negative bacteria in tissue
sections. Am J Clin Pathol. (1966) 46:472–4. doi: 10.1093/ajcp/46.4.472 6. Nair,
P. Pathogenesis
of
apical
periodontitis
and
the
causes
of
endodontic
failures. Crit
Rev
Oral
Biol
Med. (2004)
15:348–81. doi: 10.1177/154411130401500604 6. Nair,
P. Pathogenesis
of
apical
periodontitis
and
the
causes
of
endodontic
failures. Crit
Rev
Oral
Biol
Med. (2004)
15:348–81. doi: 10.1177/154411130401500604 26. Yamanaka
Y,
Shigetani
Y,
Yoshiba
K,
Yoshiba,
N,
Okiji,
T. Immunohistochemical
analysis
of
subcutaneous
tissue
reactions
to
methacrylate resin-based root canal sealers. Int Endod J. (2011) 44:669–75. doi: 10.1111/j.1365-2591.2011.01874.x 7. Geurtsen W, Leyhausen, G. Biological aspects of root canal filling materials
histocompatibility, cytotoxicity, and mutagenicity. Clin Oral Invest (1997)
1:5–11. doi: 10.1007/s007840050002 8. Trope, M. Regenerative potential of dental pulp. J Endod. (2008) 30:206–210. doi: 10.1016/j.joen.2008.04.001 27. Bertassoli BM, Costa ES, Sousa CA, Albergaria JD, Maltos KL, Goes AM,
et al. Rat dental pulp stem cells: isolation and phenotypic characterization
method aiming bone tissue bioengineering. Braz Arch Biol Technol. (2016)
59:e16150613. doi: 10.1590/1678-4324-2016150613 9. REFERENCES Expression of mineralization markers in
dental pulp cells. J Endod. (2007) 33:703–8. doi: 10.1016/j.joen.2007.02.009 64. Baba O, Qin C, Brunn JC, Wygant JN, McIntyre BW, Butler, WT. Colocalization of dentin matrix protein 1 and dentin sialoprotein at
late stages of rat molar development. Matrix Biol. (2004) 23:371–9. doi: 10.1016/j.matbio.2004.07.008 46. Cianci E, Recchiuti A, Trubiani O, Diomede F, Marchisio M, Miscia S, et al. Human periodontal stem cells release specialized proresolving mediators and
carry immunomodulatory and prohealing properties regulated by lipoxins. Stem Cells Transl Med. (2016) 5:20–32. doi: 10.5966/sctm.2015-0163 65. Tartaix PH, Doulaverakis M, George A, Fisher LW, Butler WT, Qin C, et
al. In vitro effects of dentin matrix protein-1 on hydroxyapatite formation
provide insights into in vivo functions. J Biol Chem. (2004) 279:18115–20
doi: 10.1074/jbc.M314114200 47. Chiang N, Dalli J, Colas RA, Serhan, C.N. Identification of resolvin D2
receptor mediating resolution of infections and organ protection. J Exp Med. (2015) 212:1203–17. doi: 10.1084/jem.20150225 66. Ye L, Zhang S, Ke H, Bonewald L, and Feng, J. Periodontal breakdown in
the Dmp1 null mouse model of hypophosphatemic rickets. J Dent Res. (2008)
87:624–9. doi: 10.1177/154405910808700708 48. Sato I, Ando-Kurihara N, Kota K, Iwaku M, Hoshino, E. Sterilization
of infected root-canal dentine by topical application of a mixture of
ciprofloxacin, metronidazole and minocycline in situ. Int Endod. (1996)
29:118–124. doi: 10.1111/j.1365-2591.1996.tb01172.x 67. Toyosawa S, Okabayashi K, Komori T, and Ijuhin, N. mRNA expression and
protein localization of dentin matrix protein 1 during dental root formation. Bone (2004) 34:124–33. doi: 10.1016/j.bone.2003.08.010 49. Slots, J. Selection of antimicrobial agents in periodontal therapy. J Periodontal
Res. (2002) 37:389–98. doi: 10.1034/j.1600-0765.2002.00004.x 68. Bromberg
J,
Chen
X. STAT3
proteins:
signal
tranducers
and
activators
of
transcription. Methods
Enzymol. (2001)
333:138–151. doi: 10.1016/S0076-6879(01)33052-5 50. Hausermann P, Scherer K, Weber M, Bircher, A. Ciprofloxacin-induced
acute generalized exanthematous pustulosis mimicking bullous drug eruption
confirmed by a positive patch test. Dermatology (2005) 211:277–80. doi: 10.1159/000087024 69. Zong CS, Chan J, Levy DE, Horvath C, Sadowski HB, Wang LH. Mechanism
of STAT3 activation by insulin-like growth factor I receptor. J Biol Chem. (2000) 275:15099–105. doi: 10.1074/jbc.M000089200 51. Tamargo RJ, Bok RA, and Brem, H. Angiogenesis inhibition by minocycline. Cancer Res. (1991) 51:672–5. 70. Li, YQ. Master stem cell transcription factors and signaling regulation. Cell
Reprogram (2010) 12:3–13. doi: 10.1089/cell.2009.0033 52. Lenherr P, Allgayer N, Weiger R, Filippi A, Attin T, Krastl, G. Tooth
discoloration induced by endodontic materials: a laboratory study. REFERENCES Myeloperoxidase content is a marker of systemic
inflammation in a chronic condition: the example given by the periodontal
disease in rats. Mediators Inflamm. (2009) 2009:760837. doi: 10.1155/2009/
760837 21. Cruz E, Kota K, Huque J, Iwaku, M. Hoshino, E. Penetration of
propylene
glycol
into
dentine. Int
Endontic
J. (2002)
35:330–36. doi: 10.1046/j.1365-2591.2002.00482.x 40. Thibodeau B, Teixeira F, Yamauchi M, Caplan DJ, Trope, M. Pulp
revascularization of immature dog teeth with apical periodontitis. J Endod. (2007) 33:680–9. doi: 10.1016/j.joen.2007.03.001 22. Scarparo
RK,
Dondoni
L,
Bottcher
DE,
Grecca
FS,
Figueiredo
JAP, Kantarci A, et al. Intracanal delivery of Resolvin E1 controls
inflammation in necrotic immature rat teeth. J Endod. (2014) 40, 678–82. doi: 10.1016/j.joen.2013.12.037 41. Lovelace TW, Henry MA, Hargreaves KM, Diogenes, A. Evaluation of the
delivery of mesenchymal stem cells into the root canal space of necrotic
immature teeth after clinical regenerative endodontic procedure. J Endod. (2011) 37:133–8. doi: 10.1016/j.joen.2010.10.009 23. Yoshihara-Hirata C, Yamashiro K, Yamamoto T, Aoyagi H, Ideguchi
H, Kawamura M, et al. Anti-HMGB1 neutralizing antibody attenuates 42. Dokic J, Tomic S, Cerovic S, Todorovic V, Rudolf R, and Colic,
M. Characterization and immunosuppressive properties of mesenchymal February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 12 Resolvin D2 Resolutes Periapical Periodontitis Siddiqui et al. stem cells from periapical lesions. J Clin Periodontol. (2012) 39:807–16. doi: 10.1111/j.1600-051X.2012.01917.x stem cells from periapical lesions. J Clin Periodontol. (2012) 39:807–16. doi: 10.1111/j.1600-051X.2012.01917.x 60. Paryani K, and Kim SG. Regenerative endodontic treatment of permanent
teeth after completion of root development: a report of 2 cases. J Endod. (2013)
39:929–34. doi: 10.1016/j.joen.2013.04.029 43. Vertucci,
FJ. Root
canal
morphology
and
its
relationship
to
endodontic
procedures. Endod
Topics
(2005)
10:3–29. doi: 10.1111/j.1601-1546.2005.00129.x 61. Kizil C, Kyritsis N, Brand M. Effects of inflammation on stem cells: together
they strive? EMBO Rep. (2015) 16:416–26. doi: 10.15252/embr.201439702 44. Stashenko P, Wang CY, Tani-Ishii N, Yu, SM. Pathogenesis of induced
rat periapical lesions. Oral Surg Oral Med Oral Path (1994) 78:494–502. doi: 10.1016/0030-4220(94)90044-2 62. Yamasaki M, Kumazawa M, Kohsaka T, Nakamura H. Effect of methotrexate-
induced neutropenia on rat periapical lesion. Oral Surg Oral Med Oral Pathol,
Oral Radiol. (1994) 77:655–61. doi: 10.1016/0030-4220(94)90330-1 45. Gao L, Faibish D, Fredman G, Herrera BS, Chiang N, Serhan CN, et al. Resolvin E1 and chemokine-like receptor 1 mediate bone preservation. J
Immunol. (2013) 190:689–94. doi: 10.4049/jimmunol.1103688 63. Wei X, Ling J, Wu L, Liu L, Xiao, Y. REFERENCES Int Endod
J. (2012) 45:942–949. doi: 10.1111/j.1365-2591.2012.02053.x 71. Vandomme J, Touil Y, Ostyn P, Olejnik C, Flamenco P, El Machhour
R, et al. Insulin-like growth factor 1 receptor and p38 mitogen-activated
protein kinase signals inversely regulate signal transducer and activator of
transcription 3 activity to control human dental pulp stem cell quiescence,
propagation, and differentiation. Stem Cells Dev. (2013) 23, 839–51. doi: 10.1089/scd.2013.0400 53. Bergenholtz, G. Inflammatory response of the dental pulp to bacterial
irritation. J Endod. (1981) 7:100–4. doi: 10.1016/S0099-2399(81)80122-7 54. Cooper PR, Takahashi Y, Graham LW, Simon S, Imazato S, Smith, AJ. Inflammation-regeneration interplay in the dentine-pulp complex. J Dent. (2010) 38:687–97. doi: 10.1016/j.jdent.2010.05.016 55. Gomes BP, Herrera, DR. Etiologic role of root canal infection in apical
periodontitis and its relationship with clinical symptomatology. Braz
Oral Res. (2018) 32(suppl. 1):e69. doi: 10.1590/1807-3107bor-2018.vol32. 0069 72. Ibrahem S, Al-Ghamdi S, Baloch K, Muhammad B, Fadhil W, Jackson D, et al. STAT3 paradoxically stimulates ß-catenin expression but inhibits ß-catenin
function. Int J Exp Pathol. (2014) 95:392–400. doi: 10.1111/iep.12102 73. Fragoso MA, Patel AK, Nakamura RE, Yi H, Surapaneni K, Hackam AS. The Wnt/ ß-catenin pathway cross-talks with STAT3 signaling to regulate
survival of retinal pigment epithelium cells. PLoS ONE (2012) 7:e46892. doi: 10.1371/journal.pone.0046892 56. Maeda H, Fujimoto C, Haruki Y, Maeda T, Kokeguchi S, Petelin, et al. Quantitative real-time PCR using TaqMan and SYBR Green for Actinobacillus
actinomycetemcomitans, Porphyromonas gingivalis, Prevotella intermedia,
tetQ gene and total bacteria. FEMS Immunol Med Microbiol. (2003) 39:81–6. doi: 10.1016/S0928-8244(03)00224-4 Conflict of Interest Statement: The authors declare that the research was
conducted in the absence of any commercial or financial relationships that could
be construed as a potential conflict of interest. Conflict of Interest Statement: The authors declare that the research was
conducted in the absence of any commercial or financial relationships that could
be construed as a potential conflict of interest. 57. Rule D, Winter G. Root growth and apical repair subsequent to pulpal necrosis
in children. Br Dent J. (1966) 120:586–90 58. Torabinejad M, and Faras H. (2012). A clinical and histological report of
a tooth with an open apex treated with regenerative endodontics using
platelet-rich plasma. J Endod. (2012) 38:864–8. doi: 10.1016/j.joen.2012. 03.006 Copyright © 2019 Siddiqui, Omori, Ito, Yamashiro, Nakamura, Okamoto, Ono,
Yamamoto, Van Dyke and Takashiba. This is an open-access article distributed
under the terms of the Creative Commons Attribution License (CC BY). Frontiers in Immunology | www.frontiersin.org REFERENCES The use,
distribution or reproduction in other forums is permitted, provided the original
author(s) and the copyright owner(s) are credited and that the original publication
in this journal is cited, in accordance with accepted academic practice. No use,
distribution or reproduction is permitted which does not comply with these terms. 59. Shimizu E, Ricucci D, Albert J, Alobaid AS, Gibbs JL, Huang GT, et al. Clinical, radiographic, and histological observation of a human immature
permanent tooth with chronic apical abscess after revitalization treatment. J
Endod. (2013) 39:1078–83. doi: 10.1016/j.joen.2013.04.032 February 2019 | Volume 10 | Article 307 Frontiers in Immunology | www.frontiersin.org 13
|
https://openalex.org/W4213416966
|
https://www.nature.com/articles/s41413-022-00194-0.pdf
|
English
| null |
RIOX1-demethylated cGAS regulates ionizing radiation-elicited DNA repair
|
Bone Research
| 2,022
|
cc-by
| 13,329
|
1State Key Laboratory of Oral Diseases, National Clinical Research Center for Oral Diseases, Chinese Academy of Medical Sciences Research Unit of Oral Carcinogenesis and
Management, West China Hospital of Stomatology, Sichuan University, Chengdu, Sichuan 610041, China; 2The Second Affiliated Hospital of Chengdu Medical College, China
National Nuclear Corporation 416 Hospital, Chengdu, Sichuan 610051, China; 3School of Biological Sciences and Technology, Chengdu Medical College, Chengdu 610599, China;
4Department of Cardio-thoracic Surgery, the Second Affiliated Hospital of Chengdu Medical College, China National Nuclear Corporation 416 Hospital, Chengdu, Sichuan 610051,
China; 5Key Laboratory of Animal Models and Human Disease Mechanisms of Chinese Academy of Sciences Yunnan Province, Kunming Institute of Zoology, Kunming, Yunnan
650223, China; 6Department of Health Sciences, The Graduate School of Dong-A University, Busan 49315, Republic of Korea; 7Department of Biological Sciences, Dong-A
University, Busan 49315, Republic of Korea and 8Center for Excellence in Animal Evolution and Genetics, Chinese Academy of Sciences, Kunming, Yunnan 650223, China
Correspondence: Rui Liu (liurui_scu@hotmail.com) or Qianming Chen (qmchen@scu.edu.cn)
These authors contributed equally: Yanxuan Xiao, Jingyi Li ; https://doi.org/10.1038/s41413-022-00194-0 ; https://doi.org/10.1038/s41413-022-00194-0 Bone Research (2022) 10:19 regulating
DNA
repair.6–8
Ribosomal
oxygenase
1
(RIOX1)
removes mono- or trimethylation from histone 3 lysine 4
(H3K4me1 or H3K4me3, respectively), while it has weaker activity
toward methylated H3K36.9 However, whether RIOX1 is involved
in DNA repair upon ionizing radiation-induced damage is largely
undefined. In the current study, we report a novel RIOX1-
mediated mechanism that modulates the efficiency of HR repair. We show that depletion of RIOX1 in mouse bone marrow cells
restores cell viability and decreases cell death upon exposure to
ionizing radiation. Loss of RIOX1 enhances HR repair but not
NHEJ repair in irradiated cells. Furthermore, we demonstrate that
RIOX1 abolishes the monomethylation of K491 in cyclic GMP-
AMP synthase (cGAS) (corresponding to K506 in human cGAS),
which disrupts the interaction between cGAS and the methylly-
sine reader protein SAGA complex-associated factor 29 (SGF29). cGAS without K491me binds to poly(ADP-ribosyl)ated poly(ADP-
ribose) polymerase 1 and abrogates the recruitment of Timeless
to DNA break sites, thereby blocking HR repair. RIOX1 is highly
expressed in bone marrow cells with a relatively low level of
cGAS K491me, consistent with the high radiosensitivity of bone
marrow cells. Received: 24 April 2021 Accepted: 10 August 2021 ARTICLE
OPEN
RIOX1-demethylated cGAS regulates ionizing
radiation-elicited DNA repair Yanxuan Xiao1, Jingyi Li2,3, Xiaoyu Liao1, Yumin He1, Tao He4, Cuiping Yang5, Lu Jiang1, So Mi Jeon6, Jong-Ho Lee6,7, Yongbin Chen5,8,
Rui Liu1✉and Qianming Chen1✉ Exposure to radiation causes DNA damage; hence, continuous surveillance and timely DNA repair are important for genome
stability. Epigenetic modifications alter the chromatin architecture, thereby affecting the efficiency of DNA repair. However, how
epigenetic modifiers coordinate with the DNA repair machinery to modulate cellular radiosensitivity is relatively unknown. Here, we
report that loss of the demethylase ribosomal oxygenase 1 (RIOX1) restores cell proliferation and reduces cell death after exposure
to ionizing radiation. Furthermore, RIOX1 depletion enhances homologous recombination (HR) repair but not nonhomologous end-
joining (NHEJ) repair in irradiated bone marrow cells and oral mucosal epithelial cells. Mechanistic study demonstrates that RIOX1
removes monomethylation at K491 of cyclic GMP-AMP synthase (cGAS) to release cGAS from its interaction with the methyl-lysine
reader protein SAGA complex-associated factor 29 (SGF29), which subsequently enables cGAS to interact with poly(ADP-ribosyl)
ated poly(ADP-ribose) polymerase 1 (PARP1) at DNA break sites, thereby blocking PARP1-mediated recruitment of Timeless. High
expression of RIOX1 maintains cGAS K491me at a low level, which impedes HR repair and reduces cellular tolerance to ionizing
radiation. This study highlights a novel RIOX1-dependent mechanism involved in the non-immune function of cGAS that is essential
for the regulation of ionizing radiation-elicited HR repair. Bone Research Bone Research www.nature.com/boneres RESULTS Consistent with the above findings, knockdown of endogenous
RIOX1 in 32D Cl3 cells by two distinct shRNAs substantially
attenuated the irradiation-induced cell viability suppression and
cell death (Fig. 1b and c). Similar results were obtained in the
CD34- and Thy-1-expressing mouse bone marrow myeloid cell
line FDC-P111 (Figs. 1b, c and S1E). RIOX1 decreases cell viability and inhibits HR repair in bone
marrow cells after ionizing radiation RIOX1 decreases cell viability and inhibits HR repair in bone
marrow cells after ionizing radiation g
To evaluate the effects of RIOX1 on bone marrow cells after
ionizing radiation, RIOX1 knockout mice were examined. Adult
RIOX1 knockout mice were viable and fertile. We noted an
increased body weight and length at birth and at 8 weeks of age
(Fig. S1A and S1B). Loss of RIOX1 resulted in prolonged survival
(Fig. S1C) and attenuated symptoms of diarrhea (Fig. S1D) after
irradiation. We further obtained bone marrow cells from the
tibiae of the irradiated mice and ultimately isolated B cells,
hematopoietic progenitor cells (HPCs) and neutrophils. As
expected, ionizing radiation largely decreased the viability of
total bone marrow cells and all three cell subsets tested (Fig. 1a). Notably, the irradiation-induced decrease in cell viability was
substantially reversed in bone marrow cells isolated from RIOX1
knockout mice compared to those isolated from their wild-type
(WT) counterparts (Fig. 1a). Furthermore, we treated the mouse
bone marrow myeloid 32D Cl3 cell line, which expresses CD11a
and CD11b10 but not the fibroblast marker vimentin or epithelial
cell marker E-Cad (Fig. S1E), with 10 Gy ionizing radiation. g
Effective DNA repair is important to fix DNA damage.12
Strikingly, knockout of RIOX1 largely eliminated the irradiation-
induced DNA fragments in bone marrow cells, as revealed by the
shortened tail-like smear in the comet assay (Fig. S1F), suggesting
that RIOX1 is likely involved in modulating irradiation-elicited DNA
damage. To determine the impact of RIOX1 on HR and NHEJ
repair, the endonuclease I-SceI was expressed to generate a DSB
site in an exogenously introduced DR-GFP locus. DNA repair
through HR removed the I-SceI cut site and generated a BcgI cut
site, leading to the expression of DR-GFP; in contrast, NHEJ repair
resulted in a 0.65-kb PCR product that was resistant to both I-SceI
and BcgI digestion (Fig. INTRODUCTION Exposure to ionizing radiation may cause both acute symptoms
and long-term health effects.1 Among mammalian organs, the
bone marrow is the most vulnerable to ionizing radiation-induced
damage due to the rapid turnover of immature hematopoietic
cells. While suppression of mature blood cells is a common
consequence in patients who receive radiotherapy, mortality is
believed to be caused by the exhaustion of both hematopoietic
progenitor cells and primitive hematopoietic stem cells in the
bone marrow.2 Ionizing radiation results in various lesions in both genomic and
mitochondrial DNA, among which double-strand breaks (DSBs) are
arguably the most harmful.3 DSBs are repaired via two main
pathways, homologous recombination (HR) and nonhomologous
end-joining
(NHEJ).4
HR
repair
of
damaged
sites
involves
template-guided DNA extension, which guarantees error-free
repair by restoring sequence information from the templates. In
contrast, in NHEJ repair, the two broken ends of chromosomes are
directly ligated in an error-prone manner.5 y g
p
Jumonji C domain (JMJD)-containing demethylase family,
which includes over 30 members, plays an important role in © The Author(s) 2022 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. 2 Total bone
marrow cells
IR
IR+
1.2
0.8
0.4
0
a
Cell viability
***
Riox1
WT
-/-
32D CI3
**
**
IR−
IR+
1.2
0.8
0.4
0
1.2
0.8
0.4
0
Cell viability
Riox1 shRNA
1.2
0.8
0.4
0
**
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
B cells
HPCs
Neutrophils
b
c
e
d
#1
#2
FDC-P1
**
***
#1
#2
32D CI3
***
**
IR−
IR+
30
20
10
0
25
20
15
10
0
5
Cell death/%
Cell viability
Cell viability
Cell viability
Riox1 shRNA
Riox1 shRNA
I-Scel
0.65 kb
0.5 kb
#1
#2
FDC-P1
**
**
#1
#2
−
Riox1 shRNA #1
Riox1 shRNA #2
32D
FDC-P1
CI3
32
24
8
16
0
32
24
8
16
0
GFP-positive cell/%
I-Scel
+ + +
+ + +
***
**
***
***
32D CI3
FDC-P1
+
+
+
#1
#2
#1
#2
Riox1 shRNA
I-Scel
+
+
+
#1
#2
#1
#2
PCR product after
I-Scel/Bcgl digestion
PCR product after
I-Scel/Bcgl digestion
0.65 kb
0.5 kb
−
−
−
−−−
−−−
−
−
−
−
−
−
−
−
−
−
−
−
Fig. 1
RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation. INTRODUCTION NHEJ repair was examined 1 h after irradiation (e) Total bone
marrow cells
IR
IR+
1.2
0.8
0.4
0
a
Cell viability
***
Riox1
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
B cells
HPCs
Neutrophils
Cell viability
Cell viability
Cell viability
− bone
w cells
***
-/-
1.2
0.8
0.4
0
**
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
1.2
0.8
0.4
0
**
WT
-/-
B cells
HPCs
Neutrophils
Cell viability
Cell viability
Cell viability Total bone
marrow cells
IR
IR+
1.2
0.8
0.4
0
a
Cell viability
***
Riox1
WT
-/-
− 32D CI3
**
**
IR−
IR+
1.2
0.8
0.4
0
1.2
0.8
0.4
0
Cell viability
Riox1 shRNA
b
#1
#2
FDC-P1
**
***
#1
#2
−
− c
32D CI3
***
**
IR−
IR+
30
20
10
0
25
20
15
10
0
5
Cell death/%
Riox1 shRNA
#1
#2
FDC-P1
**
**
#1
#2
−
− b c e
Riox1 shRNA
I-Scel
0.65 kb
0.5 kb
32D CI3
FDC-P1
+
+
+
#1
#2
#1
#2
Riox1 shRNA
I-Scel
+
+
+
#1
#2
#1
#2
PCR product after
I-Scel/Bcgl digestion
PCR product after
I-Scel/Bcgl digestion
0.65 kb
0.5 kb
−
−
−
−
−
−
−
−
−
− e
d
Riox1 shRNA
I-Scel
0.65 kb
0.5 kb
−
Riox1 shRNA #1
Riox1 shRNA #2
32D
FDC-P1
CI3
32
24
8
16
0
32
24
8
16
0
GFP-positive cell/%
I-Scel
+ + +
+ + +
***
**
***
***
32D CI3
FDC-P1
+
+
+
#1
#2
#1
#2
Riox1 shRNA
I-Scel
+
+
+
#1
#2
#1
#2
PCR product after
I-Scel/Bcgl digestion
PCR product after
I-Scel/Bcgl digestion
0.65 kb
0.5 kb
−−−
−−−
−
−
−
−
−
−
−
−
−
−
Fi
1
RIOX1 d
ll i bilit
d i hibit HR
i i
b
ll
ft
i
i i
di ti
Th d t
h
th
± SD d
−
Riox1 shRNA #1
Riox1 shRNA #2
32D
FDC-P1
CI3
32
24
8
16
0
32
24
8
16
0
GFP-positive cell/%
I-Scel
+ + +
+ + +
***
**
***
***
−−−
−−− e Fig. 1
RIOX1 decreases cell viability and inhibits HR repair in bone marrow cells after ionizing radiation. INTRODUCTION The data are shown as the mean ± SD
of three independent assays. **P < 0.01; ***P < 0.001. a WT or Riox1-/- mice were treated with 9 Gy ionizing radiation. The indicated bone
marrow cells were isolated 16 h after irradiation, and cell viability was measured. b, c 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs
were treated with 10 Gy ionizing radiation. Cell viability (b) and cell death (c) were evaluated 48 h after irradiation. Cell viability data were
normalized to the untreated group. 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs were transfected with an I-SceI expression vector. HR
repair was tested 72 h after transfection (d). NHEJ repair was examined 1 h after irradiation (e) INTRODUCTION The data are shown as the mean ± SD
of three independent assays. **P < 0.01; ***P < 0.001. a WT or Riox1-/- mice were treated with 9 Gy ionizing radiation. The indicated bone
marrow cells were isolated 16 h after irradiation, and cell viability was measured. b, c 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs
were treated with 10 Gy ionizing radiation. Cell viability (b) and cell death (c) were evaluated 48 h after irradiation. Cell viability data were
normalized to the untreated group. 32D Cl3 and FDC-P1 cells expressing Riox1 shRNAs were transfected with an I-SceI expression vector. HR
repair was tested 72 h after transfection (d). RESULTS S1G).13 We found that expression of I-SceI
induced GFP expression in approximately 5% of 32D Cl3 and FDC-
P1 cells, and this GFP expression was appreciably enhanced upon
RIOX1 knockdown (Figs. 1d and S1H). The different amounts of Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. 3 H3K36me, did not affect the level of cGAS K491me in 32D Cl3 cells
(Fig. S3D), suggesting that these enzymes are not responsible for
cGAS K491me demethylation. Immunoblotting showed that this
modification was abolished by incubation with an excess of the
cGAS K491me peptide, suggesting the good specificity of the anti-
cGAS K491me antibody (Fig. S3E). Consistent with this finding,
overexpression of RIOX1 or the cGAS K491R mutant abrogated this
modification (Figs. 2g and h). However, ionizing radiation had
minor effects on the level of cGAS K491me in both RIOX1-
expressing and RIOX1-depleted cells (Fig. S3F). H3K36me, did not affect the level of cGAS K491me in 32D Cl3 cells
(Fig. S3D), suggesting that these enzymes are not responsible for
cGAS K491me demethylation. Immunoblotting showed that this
modification was abolished by incubation with an excess of the
cGAS K491me peptide, suggesting the good specificity of the anti-
cGAS K491me antibody (Fig. S3E). Consistent with this finding,
overexpression of RIOX1 or the cGAS K491R mutant abrogated this
modification (Figs. 2g and h). However, ionizing radiation had
minor effects on the level of cGAS K491me in both RIOX1-
expressing and RIOX1-depleted cells (Fig. S3F). GFP-expressing cells were presumed to reflect the different HR
repair efficiencies, since a similar I-SceI cleavage efficiency was
detected in Riox1 shRNA-treated and untreated cells before DNA
repair was initiated (Fig. S1I). However, loss of RIOX1 minimally
affected NHEJ repair, as revealed by the comparable amounts of
the 0.65-kb PCR product (Fig. 1e). These results suggest that RIOX1
decreases cell viability and inhibits HR repair in bone marrow cells
after ionizing radiation. GFP-expressing cells were presumed to reflect the different HR
repair efficiencies, since a similar I-SceI cleavage efficiency was
detected in Riox1 shRNA-treated and untreated cells before DNA
repair was initiated (Fig. S1I). However, loss of RIOX1 minimally
affected NHEJ repair, as revealed by the comparable amounts of
the 0.65-kb PCR product (Fig. 1e). These results suggest that RIOX1
decreases cell viability and inhibits HR repair in bone marrow cells
after ionizing radiation. RESULTS RIOX1 binds to cGAS and demethylates cGAS K491me
To explore the mechanisms underlying the RIOX1-mediated
repression of HR repair, we depleted RIOX1 activity in 32D Cl3
cells by replacing endogenous WT RIOX1 with the shRNA-resistant
Flag-RIOX1 H302 A/H367A mutant (corresponding to human
RIOX1 H339A/H404A), which lacks lysine demethylase activity
(Fig. S2A).9 Loss of RIOX1 activity induced an increase in HR repair
efficiency similar to that caused by RIOX1 knockdown (Fig. S2A),
suggesting that demethylase activity is required for RIOX1-
mediated repression of HR repair. Surprisingly, reconstitution of
RIOX1 expression with this mutant only evoked limited accumula-
tion of H3K4me, H3K4me3 and H3K36me3 (Fig. S2B), which might
be interpreted in the context of previous reports showing that
methylation of these sites can also be removed by a couple of
other lysine demethylases.14 Furthermore, human histone H3 is
encoded by several genes and expressed as multiple variants,
which are highly conserved with only a few nonconserved
residues.15 In line with previous reports,16,17 targeting H3.3B
mRNA (gene symbol: H3f3b) reduced total H3 expression by
approximately 80% in 32D Cl3 cells, as revealed by analysis with
an antibody that recognizes all H3 variants, suggesting that H3.3B
is the major histone H3 isoform (Fig. S2C). Strikingly, reconstitution
of H3.3B expression with the shRNA-resistant H3.3B K4R or K36R
mutant failed to abolish the increased HR repair in RIOX1-depleted
32D Cl3 cells (Fig. S2C). Together, these results suggest that a
nonhistone substrate is likely involved in RIOX1-mediated regula-
tion of HR repair. To verify whether RIOX1 directly catalyzes the demethylation of
cGAS K491me, Flag-cGAS protein was purified from RIOX1-
depleted 32D Cl3 cells and was then subjected to an in vitro
demethylation assay. The K491me modification was clearly
detected in the purified cGAS protein (Fig. 2i). Moreover,
incubation with bacterially purified WT RIOX1 protein but not
the purified RIOX1 H302A/H367A mutant or the RIOX2 protein
resulted in erasure of cGAS K491me (Fig. 2i). These results suggest
that RIOX1 binds to and demethylates cGAS K491me. RIOX1 overrides SET7-mediated methylation and governs cGAS
K491me We sought to identify the potential methyltransferases respon-
sible for cGAS K491me by screening a set of reported enzymes. Knockdown of only SET domain-containing lysine methyltransfer-
ase 7 (SET7) reduced the cellular level of cGAS K491me (Fig. 3a). This observation was confirmed by treating 32D Cl3 and FDC-P1
cells with two distinct Set7 shRNAs (Fig. 3b). RESULTS SET7 protein was
found in the cGAS immunoprecipitates, indicating the interaction
between endogenous SET7 and cGAS (Fig. 3c). Furthermore, an
in vitro protein methylation assay revealed that incubation with
bacterially purified His-SET7 protein induced K491me of GST-
cGAS, while this methylation was blocked when the methylatable
lysine-substituted cGAS K491R mutant or the catalytically dead
SET7 H297A mutant was used in the reaction system (Fig. 3d, e). These results suggest that SET7 methylates cGAS at K491. gg
y
To determine how RIOX1 and SET7 mutually regulate cGAS
K491me in cells, we compared the level of cGAS K491me and the
expression of RIOX1 and SET7 among various mouse organs. We
found that, compared to other organs, the bone marrow showed
an increased expression level of RIOX1 and a reduced level of
cGAS K491me (Fig. 3f). However, SET7 was ubiquitously expressed
in different organs, with minor changes (Fig. 3f). Consistent with
this finding, RIOX1 expression was enriched in 32D Cl3 cells, FDC-
P1 cells and mouse bone marrow-derived B cells and neutrophils
with a decreased level of cGAS K491me; in contrast, lower RIOX1
expression level and a correspondingly increased cGAS K491me
level were found in the normal mouse liver cell line AML12, lung
epithelial cell line MLE 12, myoblast line C2C12 and fibroblast line
NIH/3T3 (Fig. 3g). These results suggest that RIOX1 expression
governs the level of cGAS K491me. p
Next, we pulled down Flag-tagged RIOX1 protein from 32D Cl3
cells, and cGAS was detected in the RIOX1 immunoprecipitates by
mass spectrometry (Fig. S3A). cGAS was previously found to
translocate into the nucleus upon ionizing radiation and block HR
repair.18 The interaction between endogenous RIOX1 and cGAS was
confirmed by coimmunoprecipitation in both 32D Cl3 and FDC-P1
cells (Fig. 2a). An in vitro protein binding assay showed that
bacterially purified cGAS protein could be pulled down by purified
GST-RIOX1 protein, suggesting that these two proteins directly
interact with each other (Fig. 2b). However, no interaction between
cGAS and RIOX2, which shares 40% homology with RIOX1, was
detected (Fig. 2a). Furthermore, reconstitution of cGAS expression
with the cGAS Y201E mutant (corresponding to human cGAS
Y215E), which is resistant to ionizing radiation-induced transloca-
tion into the nucleus,18 enhanced HR repair in 32D Cl3 cells, and HR
repair could not be further increased by RIOX1 knockdown (Fig. 2c). In contrast, overexpression of cGAS substantially reduced RIOX1
depletion-induced HR repair (Fig. 2d). RESULTS The data are shown as the mean ± SD of three independent assays. **P < 0.01. e 32D
and FDC-P1 cells were transduced with Riox1 shRNAs. f 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-Riox1 or Flag-Riox1 H30
H367A. The Riox1 shRNA targeted the noncoding region. g 32D Cl3 and FDC-P1 cells were transduced with a Riox1 overexpression vec
h 32D Cl3 cells were transfected with Riox1 shRNA, WT Flag-Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. i Flag-cG
protein was purified from Riox1-depleted 32D Cl3 cells and incubated with bacterially purified WT His-RIOX1, His-RIOX1 H302A/H367A, or
His-RIOX2 protein for an in vitro demethylation assay
RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. RESULTS RIOX1-mediated demethylation of cGAS K491me facilitates cGAS
binding to PARP1 g
To determine whether RIOX1 affects the methylation status of
cGAS, we analyzed cGAS protein extracted from RIOX1-depleted
32D Cl3 cells and identified monomethylation of cGAS K491, which
is evolutionarily conserved among species (corresponding to
human cGAS K506, Fig. S3B). Additionally, the residues adjacent
to K491 are analogous to those adjacent to H3K4 or and H3K36
(Fig. S3B). To quantify this methylation, we produced an antibody
that specifically recognizes the mouse cGAS K491me peptide but
not the unmodified K491, K491me2 or K491me3 peptide (Fig. S3C). By using this antibody, we found that cGAS K491me highly
accumulated in cells with depletion of RIOX1 expression or activity
(Fig. 2e and f), although the expression level of endogenous cGAS
was unchanged (Fig. 2e and f). In contrast, knockdown of JMJD1A,
JMJD1B, or LSD1, all of which are capable of removing H3K4me or cGAS recognizes double-stranded DNA, including endogenous
genomic DNA fragments, to activate innate immune responses.19
However, loss of RIOX1 has limited impact on ionizing radiation-
induced phosphorylation of TANK-binding kinase 1 (TBK1) at S172
(Fig. S4A), a hallmark of cGAS activation20. This finding was further
supported by the observation that herring testis (HT)-DNA equally
elicited the catalytic activity of purified cGAS protein with or
without SET7-mediated K491me (Fig. S4B). Furthermore, the
cellular fractionation assay showed a similar subcellular distribu-
tion of cGAS in untreated and Riox1 shRNA-treated cells (Fig. S4C),
suggesting that RIOX1 does not regulate the cytoplasmic-nuclear
shuttling of cGAS. Ionizing radiation-induced nuclear cGAS interacts with PARP1
by binding with poly(ADP ribose) (PAR) chains and hinders Bone Research (2022) 10:19 PARP1-mediated recruitment of Timeless, thereby inhibiting HR
repair. PAR can bind to proteins through a two-section motif
that contains a basic amino acid-enriched N-terminus and a
cluster of hydrophobic amino acids interspersed with basic
residues at the C-terminus.21 Analyses of the cGAS protein seque
revealed four potential PAR binding sites: 238KFKRIPRGNPLSHFL
265KFRKIIKEEVKEIKDI280,
391KCCRKECLKLMKYLL405
483RKSKEFLSKKIEYER497. RESULTS Replacement of the basic residues in
32D Cl3 FDC-P1
lgG
lgG
a
b
c
e
f
i
h
g
d
IP: cGAS
WB: RIOX2
WB: RIOX1
WB: cGAS
WB: RIOX1
WB: RIOX2
WB: Tubulin
WCL
pcDNA3-Cgas
Riox1 shRNA
I-Scel
+
+
+
+
+
+
+
WB: cGAS
WB: RIOX1
WB: Tubulin
cGAS
lgG
GST-RIOX1
GST
His-cGAS
+
+
+
+
+
GST
pulldown
Input
WB: cGAS
WB: GST (RIOX1)
WB: cGAS
Flag-Cgas
Cgas shRNA
Riox1 shRNA
I-Scel
WT Y201E
+
+
+
+
+
+
+
+
WB: cGAS
WB: RIOX1
WB: Tubulin
Exo
Endo
40
30
10
20
0
GFP-positive cell/%
GFP-positive cell/%
ns
ns
I-Scel
Riox1 shRNA
Cgas shRNA
Flag-Cgas
+ +
+
+ +
+
+
+
WT
Y201E
30
20
10
0
**
I-Scel
Riox1 shRNA
pcDNA3-Cgas
+ +
+
+
+
+
+
Riox1
shRNA
32D CI3
FDC-P1
#1 #2
#1 #2
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
WB: Flag (cGAS)
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
Flag-Riox1
Riox1 shRNA
+
+
+
Exo
Endo
WT
H302A/H367A
WB: cGAS K491me
WB: Flag (cGAS)
WB: cGAS K491me
WB: Flag (cGAS)
WB: RIOX1
WB: RIOX2
His-RIOX1
His-RIOX2
Flag-cGAS
+
+
+
+
+
WT
H302A/H367A
32D CI3
FDC-P1
pcDNA3-
Riox1
+
+
Flag-Cgas
Riox1 shRNA
IP: Flag
WCL
WT
K491R
+
+
Input
IP: Flag
after in vitro
demethylation
IP: Flag
before in vitro
demethylation
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
−
Fig. 2
RIOX1 binds to and demethylates cGAS K491me. a–i Immunoblot analysis was performed. a Coimmunoprecipitation was perform
using 32D Cl3 and FDC-P1 cell samples. b Bacterially purified GST-RIOX1 or GST protein was mixed with purified His-cGAS protein. A
pulldown assay was performed. c 32D Cl3 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas Y201E were transfected w
an I-SceI expression vector. HR pathway activity was measured. The Cgas shRNA targeted the noncoding region. The data are shown as
mean ± SD of three independent assays. ns, not significant. d 32D Cl3 cells expressing Riox1 shRNA or Cgas were transfected with an I-
expression vector. HR pathway activity was measured. RESULTS 4 32D Cl3 FDC-P1
lgG
lgG
a
IP: cGAS
WB: RIOX2
WB: RIOX1
WB: cGAS
WB: RIOX1
WB: RIOX2
WB: Tubulin
WCL
cGAS
lgG b
GST-RIOX1
GST
His-cGAS
+
+
+
+
+
GST
pulldown
Input
WB: cGAS
WB: GST (RIOX1)
WB: cGAS
−
−
−
− c
Flag-Cgas
Cgas shRNA
Riox1 shRNA
I-Scel
WT Y201E
+
+
+
+
+
+
+
+
WB: cGAS
WB: RIOX1
WB: Tubulin
Exo
Endo
40
30
10
20
0
GFP-positive cell/%
ns
ns
I-Scel
Riox1 shRNA
Cgas shRNA
Flag-Cgas
+ +
+
+ +
+
+
+
WT
Y201E
−
−
−
− a c
Flag-Cgas
Cgas shRNA
Riox1 shRNA
I-Scel
WT Y201E
+
+
+
+
+
+
+
+
WB: cGAS
WB: RIOX1
WB: Tubulin
Exo
Endo
R
C
−
− b c o
40
30
10
20
0
GFP-positive cell/%
ns
ns
I-Scel
Riox1 shRNA
Cgas shRNA
Flag-Cgas
+ +
+
+ +
+
+
+
WT
Y201E
−
− f
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
Flag-Riox1
Riox1 shRNA
+
+
+
Exo
Endo
WT
H302A/H367A
−
−
− e
Riox1
shRNA
32D CI3
FDC-P1
#1 #2
#1 #2
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
−
− e
f
d
WB: Tubulin
pcDNA3-Cgas
Riox1 shRNA
I-Scel
+
+
+
+
+
+
+
WB: cGAS
WB: RIOX1
WB: Tubulin
GFP-positive cell/%
30
20
10
0
**
I-Scel
Riox1 shRNA
pcDNA3-Cgas
+ +
+
+
+
+
+
Riox1
shRNA
32D CI3
FDC-P1
#1 #2
#1 #2
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
Flag-R
Riox1 sh
−
−
−
−
−
−
−
− f f d e i
WB: cGAS K491me
WB: Flag (cGAS)
WB: cGAS K491me
WB: Flag (cGAS)
WB: RIOX1
WB: RIOX2
His-RIOX1
His-RIOX2
Flag-cGAS
+
+
+
+
+
WT
H302A/H367A
Input
IP: Flag
after in vitro
demethylation
IP: Flag
before in vitro
demethylation
−
−
−
−
− h
WB: cGAS K491me
WB: Flag (cGAS)
WB: RIOX1
WB: Tubulin
Flag-Cgas
Riox1 shRNA
IP: Flag
WCL
WT
K491R
+
+
−
− g
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
32D CI3
FDC-P1
pcDNA3-
Riox1
+
+
−
− i g h WB: RIOX2 WB: RIOX2 Fig. 2
RIOX1 binds to and demethylates cGAS K491me. a–i Immunoblot analysis was performed. a Coimmunoprecipitation was performed
using 32D Cl3 and FDC-P1 cell samples. RESULTS b Bacterially purified GST-RIOX1 or GST protein was mixed with purified His-cGAS protein. A GST
pulldown assay was performed. c 32D Cl3 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas Y201E were transfected with
an I-SceI expression vector. HR pathway activity was measured. The Cgas shRNA targeted the noncoding region. The data are shown as the
mean ± SD of three independent assays. ns, not significant. d 32D Cl3 cells expressing Riox1 shRNA or Cgas were transfected with an I-SceI
expression vector. HR pathway activity was measured. The data are shown as the mean ± SD of three independent assays. **P < 0.01. e 32D Cl3
and FDC-P1 cells were transduced with Riox1 shRNAs. f 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-Riox1 or Flag-Riox1 H302A/
H367A. The Riox1 shRNA targeted the noncoding region. g 32D Cl3 and FDC-P1 cells were transduced with a Riox1 overexpression vector. h 32D Cl3 cells were transfected with Riox1 shRNA, WT Flag-Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. i Flag-cGAS
protein was purified from Riox1-depleted 32D Cl3 cells and incubated with bacterially purified WT His-RIOX1, His-RIOX1 H302A/H367A, or WT
His-RIOX2 protein for an in vitro demethylation assay Fig. 2
RIOX1 binds to and demethylates cGAS K491me. a–i Immunoblot analysis was performed. a Coimmunoprecipitation was performed
using 32D Cl3 and FDC-P1 cell samples. b Bacterially purified GST-RIOX1 or GST protein was mixed with purified His-cGAS protein. A GST
pulldown assay was performed. c 32D Cl3 cells expressing Riox1 shRNA, Cgas shRNA, WT Flag-Cgas, or Flag-Cgas Y201E were transfected with
an I-SceI expression vector. HR pathway activity was measured. The Cgas shRNA targeted the noncoding region. The data are shown as the
mean ± SD of three independent assays. ns, not significant. d 32D Cl3 cells expressing Riox1 shRNA or Cgas were transfected with an I-SceI
expression vector. HR pathway activity was measured. The data are shown as the mean ± SD of three independent assays. **P < 0.01. e 32D Cl3
and FDC-P1 cells were transduced with Riox1 shRNAs. f 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-Riox1 or Flag-Riox1 H302A/
H367A. The Riox1 shRNA targeted the noncoding region. g 32D Cl3 and FDC-P1 cells were transduced with a Riox1 overexpression vector. h 32D Cl3 cells were transfected with Riox1 shRNA, WT Flag-Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. RESULTS i Flag-cGAS
protein was purified from Riox1-depleted 32D Cl3 cells and incubated with bacterially purified WT His-RIOX1, His-RIOX1 H302A/H367A, or WT
His-RIOX2 protein for an in vitro demethylation assay PARP1-mediated recruitment of Timeless, thereby inhibiting HR
repair. PAR can bind to proteins through a two-section motif
that contains a basic amino acid-enriched N-terminus and a
cluster of hydrophobic amino acids interspersed with basic residues at the C-terminus.21 Analyses of the cGAS protein sequence
revealed four potential PAR binding sites: 238KFKRIPRGNPLSHFL252,
265KFRKIIKEEVKEIKDI280,
391KCCRKECLKLMKYLL405
and
483RKSKEFLSKKIEYER497. Replacement of the basic residues in the Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. 5 b
c
WB: cGAS K491me
WB: cGAS
WB: SET7
WB: Tubulin
32D CI3
FDC-P1
32D CI3
FDC-P1
Set7
shRNA
#1 #2
#1 #2
IP: cGAS
WCL
lgG
lgG
WB: cGAS
WB: SET7
WB: SET7
WB: cGAS
WB: Tubulin
cGAS
lgG
−
− shRNA
a
d
e
f
g
b
c
Set7
Ash1l
Mll1
Mll2
Mll3
−
−
WB: cGAS K491me
WB: cGAS
WB: SET7
WB: ASH1L
WB: MLL1
WB: MLL2
WB: MLL3
WB: Tubulin
Set1a
Set1b
Nsd1
Nsd2
Smyd2
WB: cGAS K491me
WB: cGAS K491me
WB: cGAS
WB: cGAS
WB: SET7
WB: Tubulin
WB: SET1A
WB: SET1B
WB: NSD1
WB: NSD2
WB: SMYD2
WB: Tubulin
32D CI3
FDC-P1
32D CI3
FDC-P1
Set7
shRNA
#1 #2
#1 #2
IP: cGAS
WCL
lgG
lgG
WB: cGAS
WB: SET7
WB: SET7
WB: cGAS
WB: Tubulin
cGAS
lgG
GST-cGAS
His-SET7
GST
pulldown
Input
WT
K491R
+
+
WB: cGAS K491me
WB: cGAS
WB: cGAS
WB: SET7
WB: cGAS K491me
WB: cGAS
WB: cGAS
WB: SET7
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: SET7
WB: Tubulin
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: SET7
WB: Tubulin
His-SET7
GST-cGAS
GST
pulldown
Input
+
+
+
WT
H297A
IP: cGAS
WCL
IP: cGAS
WCL
bone marrow
thyroid
liver
intestine
lung
stomach
muscle
kidney
B cells
Neutrophils
32D Cl3
FDC-P1
AML12
MLE 12
C2C12
NIH/3T3
−
−
−
−
−
Fig. 3
RIOX1 overrides SET7-mediated methylation and governs cGAS K491me. a–g Immunoblot analysis was performed. a 32D Cl3 cells were
transduced with shRNA targeting Set7, Ash1I, MII1, MII2, MII3, Set1a, Set1b, Nsd1, Nsd2, or Smyd2. b 32D Cl3 and FDC-P1 cells were transduced
with Set7 shRNAs. c Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell samples. RESULTS f, g Immunoprecipitation was performed using lysates of the indicated mouse tissues or cells C-termini of these motifs with alanines revealed that only the
mutations in the 483–497 aa region reduced the amount of cGAS
pulled down by biotin-labeled PAR (Fig. 4a). Furthermore, the
483–497 aa region (corresponding to the 498–512 aa region in
humans) did not overlap with the DNA binding region or the catalytic
domain of cGAS (Fig. 4b), in line with the observation that the activity
of K491-methylated cGAS was inducible by HT-DNA (Fig. S4B). cGAS K491R mutant (Fig. 4g−i). Accordingly, the cGAS K491R
mutation also abolished the reinforcement of HR repair in RIOX1-
depleted cells (Fig. 4j). These results suggest that RIOX1-mediated
demethylation of cGAS K491me facilitates cGAS binding to PAR
and impedes HR repair. SGF29 binds to K491me-bearing cGAS and prevents cGAS from
binding to PAR SGF29 binds to K491me-bearing cGAS and prevents cGAS from
binding to PAR y
y
( g
)
cGAS K491 is located within the 483–497 aa region, leading to
the hypothesis that RIOX1-mediated cGAS K491me may affect
cGAS binding with PAR. We performed an in vitro biotin-PAR
pulldown assay using the lysates of untreated or RIOX1-depleted
32D Cl3 cells that contained equal amounts of cGAS protein. Indeed, equal amounts of biotin-PAR pulled down much less cGAS
protein from the lysates of RIOX1-depleted 32D Cl3 cells than from
those of untreated 32D Cl3 cells (Fig. 4c), suggesting that RIOX1
facilitates the interaction between cGAS and PAR. A similar result
was obtained in the comparison between AML12 and 32D Cl3
cells, which have different endogenous RIOX1 expression and
cGAS K491me levels (Figs. 3g and 4c). Furthermore, loss of RIOX1
reduced the amount of cGAS that was either associated with
PARP1 in irradiated 32D Cl3 cells or recruited to I-Scel-induced
DNA break sites (Figs. 4d, e and S4D). RIOX1 knockdown also
promoted the irradiation-elicited translocation of Timeless to DNA
break sites and the formation of the PARP1/Timeless complex
(Fig. 4e, f). However, these Riox1 shRNA-mediated effects were
largely obliterated by reconstitution of cGAS expression with the Lysine methylation frequently modulates protein functions via
modulating the recruitment of binding partners.22 We found that
SET7-mediated K491me on the bacterially purified cGAS protein
failed to disrupt
the
interaction
between cGAS and PAR,
suggesting that other factors are likely involved in this process
(Fig. 5a). RESULTS d Purified WT GST-cGAS or GST-cGAS
K491R protein was incubated with purified His-SET7 protein for an in vitro methylation assay. A GST pulldown assay was performed. e Purified
GST-cGAS protein was incubated with purified WT His-SET7 or His-SET7 H297A protein for an in vitro methylation assay. A GST pulldown assay
was performed. f, g Immunoprecipitation was performed using lysates of the indicated mouse tissues or cells b
WB: cGAS K491me
WB: cGAS
WB: SET7
WB: Tubulin
32D CI3
FDC-P1
Set7
shRNA
#1 #2
#1 #2
−
− c
32D CI3
FDC-P1
IP: cGAS
WCL
lgG
lgG
WB: cGAS
WB: SET7
WB: SET7
WB: cGAS
WB: Tubulin
cGAS
lgG c shRNA
a
Set7
Ash1l
Mll1
Mll2
Mll3
−
−
WB: cGAS K491me
WB: cGAS
WB: SET7
WB: ASH1L
WB: MLL1
WB: MLL2
WB: MLL3
WB: Tubulin
Set1a
Set1b
Nsd1
Nsd2
Smyd2
WB: cGAS K491me
WB: cGAS
WB: SET1A
WB: SET1B
WB: NSD1
WB: NSD2
WB: SMYD2
WB: Tubulin b a IP: cGAS f
g
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: SET7
WB: Tubulin
IP: cGAS
WCL
IP
bone marrow
thyroid
liver
intestine
lung
stomach
muscle
kidney g
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: SET7
WB: Tubulin
IP: cGAS
WCL
B cells
Neutrophils
32D Cl3
FDC-P1
AML12
MLE 12
C2C12
NIH/3T3 e
WB: Tubulin
WB: cGAS K491me
WB: cGAS
WB: cGAS
WB: SET7
His-SET7
GST-cGAS
GST
pulldown
Input
+
+
+
WT
H297A
− f g d
GST-cGAS
His-SET7
GST
pulldown
Input
WT
K491R
+
+
WB: cGAS K491me
WB: cGAS
WB: cGAS
WB: SET7
−
− d e WB: Tubulin Fig. 3
RIOX1 overrides SET7-mediated methylation and governs cGAS K491me. a–g Immunoblot analysis was performed. a 32D Cl3 cells were
transduced with shRNA targeting Set7, Ash1I, MII1, MII2, MII3, Set1a, Set1b, Nsd1, Nsd2, or Smyd2. b 32D Cl3 and FDC-P1 cells were transduced
with Set7 shRNAs. c Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell samples. d Purified WT GST-cGAS or GST-cGAS
K491R protein was incubated with purified His-SET7 protein for an in vitro methylation assay. A GST pulldown assay was performed. e Purified
GST-cGAS protein was incubated with purified WT His-SET7 or His-SET7 H297A protein for an in vitro methylation assay. A GST pulldown assay
was performed. RESULTS 6 6 /R497A
b
DNA binding site
DNA
120o
WB: PARP1
WB: Flag (cGAS)
WB: PARP1
WB: RIOX1
WB: H2A.X
WB: H2A.X
WB: cGAS K491me
Flag-Cgas
Riox1 shRNA
IR
WCL
+
+
#1
#2
IP: Flag
d
+
−
−
−
+
− His-cGAS
Biotin
Biotin-PAR
Streptavidin
pulldown
Input
WB: cGAS
WB: cGAS
WT
WT
R244A/H250A
K275A/K278A
K399A/K402A
K491A/K492A/R49
+
+
+
+ + +
−−−−−
−
a R497A
b
DNA binding site
DNA
120o Catalytic site
60o
ATP a hK506
(mK491)
Putative PAR
binding site Catalytic site DNA binding site DNA binding site
WB: PARP1
WB: Flag (cGAS)
WB: PARP1
WB: RIOX1
WB: H2A.X
WB: H2A.X
WB: Tubulin
WB: cGAS K491me
Flag-Cgas
Riox1 shRNA
IR
WCL
+
+
#1
#2
IP: Flag
d
+
−
−
−
+
− c
Biotin Biotin-
PAR
+
+
Riox1 shRNA
Streptavidin
pulldown
WB: cGAS
WB: cGAS
WB: cGAS K491me
Input
Biotin Biotin-
PAR
+
+
+
+
32D CI3 lysate
AML12 lysate
Streptavidin
pulldown
WB: cGAS
WB: cGAS
WB: cGAS K491me
Input
−
−
−
−
−
− Riox1 shRNA
I-Scel
#1
#2
DSB
primer
Control
primer
Input
lgG
H2A.X
cGAS
Input
lgG
H2A.X
cGAS
Timeless
Timeless
e
+
+
−
−
−
+
− WB: PARP1
WB: PARP1
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
WB: His (Timeless)
His-Timeless
Riox1 shRNA
+
#1
#2
pulldown
WCL
IR
Ni-NTA
f
+
+
−
−
−
+
− f e c d WB: H2A.X
WB: H2A.X
WB: PARP1
WB: Tubulin
+
+
Flag-Cgas
Riox1 shRNA
IR
WB: PARP1
WB: Flag (cGAS)
WB: cGAS K491me
IP: Flag
WB: RIOX1
WCL
DSB
prime
Contro
prime
WT
K491R
R
C
g
h
+
+
−
−
−
−
+
−
+
− IP: Flag
His-Timeless
Riox1 shRNA
+
+
+
+
+
IR
pulldown
WCL
Ni-NTA
WB: RIOX1
WB: PARP1
WB: cGAS
WB: Tubulin
Flag-Cgas
WB: PARP1
WB: cGAS K491me
WB: His (Timeless)
WB: Flag (cGAS)
WT
K491R
Cgas shRNA
Riox1 shRNA
Flag-Cgas
Cgas shRNA
Exo
Endo
30
20
10
0
GFP-positive cell/%
***
***
I-Scel
WT
K491R
i
j
+
+
+
+
−
−
−
−
+
−
+
−
+
+
+
+
−
−
−
−
+
−
+
− WB: Tubulin
DSB
primer
Control
primer
Input
lgG
H2A.X
Input
lgG
H2A.X
Timeless
Timeless
+
+
Flag-Cgas
Riox1 shRNA
I-Scel
WT
K491R
Cgas shRNA
Flag
(cGAS)
Flag
(cGAS)
h
+
+
+
+
−
−
−
−
+
−
+
− i h g +
+
Riox1 shRNA
Flag-Cgas
Cgas shRNA
o
30
20
10
0
GFP-positive cell/%
***
***
I-Scel
WT
K491R
j
+
+
+
+
−
−
−
−
+
−
+
− j WB: Tubulin Fig. RESULTS SGF29, a methyllysine reader protein that can recognize
methylated H3K4,23 was found when we revisited the aforemen-
tioned proteomic analyses to search for cGAS-associated proteins
(Fig. S3A). Loss of RIOX1 increased cGAS K491me and accordingly
promoted the interaction of endogenous SGF29 with cGAS in both
32D Cl3 and FDC-P1 cells (Fig. 5b). However, the interaction
between these two proteins was abrogated by the cGAS K491R
mutation (Fig. 5c) and the SGF29 D194A/D196A mutation, which
conferred defective binding to methylated H3K4 (Fig. 5d).24 g
y
g
Since cGAS K491 is located within the PAR-binding motif, we
reasoned that SGF29 may mask this motif when associated with
cGAS, thereby preventing cGAS from binding to PAR. As expected,
preincubation with purified His-SGF29 protein markedly abolished Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. RESULTS the biotin-PAR-mediated pulldown of purified K491me-bearing
the formation of the PARP1/Timeless complex, blocked th
His-cGAS
Biotin
Biotin-PAR
Streptavidin
pulldown
Input
WB: cGAS
WB: cGAS
WT
WT
R244A/H250A
K275A/K278A
K399A/K402A
K491A/K492A/R497A
+
+
+
+ + +
−−−−−
−
a
c
b
DNA binding site
Catalytic site
DNA
120o
60o
ATP
hK506
(mK491)
Putative PAR
binding site
Biotin Biotin-
PAR
+
+
Riox1 shRNA
Streptavidin
pulldown
WB: cGAS
WB: cGAS
WB: cGAS K491me
WB: PARP1
WB: Flag (cGAS)
WB: PARP1
WB: RIOX1
WB: H2A.X
WB: H2A.X
WB: Tubulin
WB: H2A.X
WB: H2A.X
WB: PARP1
WB: Tubulin
WB: cGAS K491me
WB: PARP1
WB: PARP1
WB: cGAS K491me
WB: cGAS
WB: RIOX1
WB: Tubulin
WB: His (Timeless)
Input
Biotin Biotin-
PAR
+
+
+
+
32D CI3 lysate
AML12 lysate
Streptavidin
pulldown
WB: cGAS
WB: cGAS
WB: cGAS K491me
Input
+
+
Flag-Cgas
Riox1 shRNA
IR
WB: PARP1
WB: Flag (cGAS)
WB: cGAS K491me
IP: Flag
IP: Flag
WB: RIOX1
WCL
Flag-Cgas
Riox1 shRNA
IR
WCL
+
+
#1
#2
Riox1 shRNA
I-Scel
#1
#2
IP: Flag
DSB
primer
Control
primer
Input
lgG
H2A.X
cGAS
Input
lgG
H2A.X
cGAS
Timeless
Timeless
DSB
primer
Control
primer
Input
lgG
H2A.X
Input
lgG
H2A.X
Timeless
Timeless
His-Timeless
Riox1 shRNA
+
#1
#2
pulldown
WCL
IR
His-Timeless
Riox1 shRNA
+
+
+
+
+
IR
Ni-NTA
pulldown
WCL
Ni-NTA
WT
K491R
WB: RIOX1
WB: PARP1
WB: cGAS
WB: Tubulin
+
+
Flag-Cgas
Flag-Cgas
Riox1 shRNA
I-Scel
WB: PARP1
WB: cGAS K491me
WB: His (Timeless)
WB: Flag (cGAS)
WT
K491R
WT
K491R
Cgas shRNA
Cgas shRNA
Riox1 shRNA
Flag-Cgas
Cgas shRNA
Flag
(cGAS)
Flag
(cGAS)
Exo
Endo
30
20
10
0
GFP-positive cell/%
***
***
I-Scel
WT
K491R
d
e
f
g
h
i
j
−
−
−
−
−
−
+
−
−
−
+
−
+
+
−
−
−
+
−
+
+
−
−
−
+
−
+
+
−
−
−
−
+
−
+
−
+
+
+
+
−
−
−
−
+
−
+
−
+
+
+
+
−
−
−
−
+
−
+
−
+
+
+
+
−
−
−
−
+
−
+
−
Fig. 4
RIOX1-mediated demethylation of cGAS K491me facilitates cGAS binding to PAR. RESULTS 4
RIOX1-mediated demethylation of cGAS K491me facilitates cGAS binding to PAR. a–d, f, g, i Immunoblot analysis was performed. a Equal amounts of biotin-PAR were incubated with bacterially purified WT His-cGAS or the indicated mutant protein, and a streptavidin
pulldown assay was performed. b The DNA binding site, catalytic domain and putative PAR binding motif in the human cGAS structure (PDB
ID: 6CTA) are shown. The basic and hydrophobic residues in the putative PAR binding motif are shown in yellow. c Equal amounts of biotin-
PAR were incubated with lysates of untreated or Riox1-depleted 32D Cl3 cells (upper panel). Equal amounts of biotin-PAR were incubated with
lysates of AML12 or 32D Cl3 cells (bottom panel). The cell lysate input was used for normalization of the cGAS expression level. A streptavidin
pulldown assay was performed. d 32D Cl3 cells expressing Riox1 shRNA or Flag-Cgas were treated with 10 Gy ionizing radiation. Immunoprecipitation was performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected
to immunoblot analysis. e 32D Cl3 cells expressing Riox1 shRNA were transfected with an I-SceI expression vector. ChIP-PCR was performed. f 32D Cl3 cells expressing Riox1 shRNA or His-Timeless were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay was performed. The
precipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. g 32D Cl3 cells expressing
Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Immunoprecipitation was performed. The
immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. 32D Cl3 cells
expressing Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were transfected with an I-SceI expression vector. ChIP-PCR was performed 30 h
after transfection h. HR pathway activity was measured 72 h after transfection j. The data are shown as the mean ± SD of three independent
assays. ***P < 0.001. i 32D Cl3 cells expressing Riox1 shRNA, WT Flag-Cgas, Flag-Cgas K491R, or His-Timeless were treated with 10 Gy ionizing
radiation. A Ni-NTA pulldown assay and immunoprecipitation were performed. The immunoprecipitates were treated with an excess of
purified PARG protein before being subjected to immunoblot analysis the formation of the PARP1/Timeless complex, blocked the
recruitment of Timeless to DNA break sites, and limited HR repair
to a low level even in RIOX1-depleted cells (Fig. 5f-h). RESULTS a–d, f, g, i Immunoblot analysis was performe
a Equal amounts of biotin-PAR were incubated with bacterially purified WT His-cGAS or the indicated mutant protein, and a streptavid
pulldown assay was performed. b The DNA binding site, catalytic domain and putative PAR binding motif in the human cGAS structure (PD
ID: 6CTA) are shown. The basic and hydrophobic residues in the putative PAR binding motif are shown in yellow. c Equal amounts of bioti
PAR were incubated with lysates of untreated or Riox1-depleted 32D Cl3 cells (upper panel). Equal amounts of biotin-PAR were incubated wit
lysates of AML12 or 32D Cl3 cells (bottom panel). The cell lysate input was used for normalization of the cGAS expression level. A streptavid
pulldown assay was performed. d 32D Cl3 cells expressing Riox1 shRNA or Flag-Cgas were treated with 10 Gy ionizing radiatio
Immunoprecipitation was performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjecte
to immunoblot analysis. e 32D Cl3 cells expressing Riox1 shRNA were transfected with an I-SceI expression vector. ChIP-PCR was performe
f 32D Cl3 cells expressing Riox1 shRNA or His-Timeless were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay was performed. Th
precipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. g 32D Cl3 cells expressin
Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Immunoprecipitation was performed. Th
immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. 32D Cl3 ce
expressing Riox1 shRNA, WT Flag-Cgas or Flag-Cgas K491R were transfected with an I-SceI expression vector. ChIP-PCR was performed 30
after transfection h. HR pathway activity was measured 72 h after transfection j. The data are shown as the mean ± SD of three independen
assays. ***P < 0.001. i 32D Cl3 cells expressing Riox1 shRNA, WT Flag-Cgas, Flag-Cgas K491R, or His-Timeless were treated with 10 Gy ionizin
radiation. A Ni-NTA pulldown assay and immunoprecipitation were performed. The immunoprecipitates were treated with an excess
purified PARG protein before being subjected to immunoblot analysis
Y Xiao et al. RESULTS a
cGAS protein was incubated with purified His-SET7 protein for an in vitro methylation assay and was then incubated with a
nt of biotin-PAR. A streptavidin pulldown assay was performed. b 32D Cl3 and FDC-P1 cells were transduced with Riox1 s
munoprecipitation was performed using 32D Cl3 and FDC-P1 cell lysates. c 32D Cl3 cells were transduced with Riox1 shRNA, W
or Flag-Cgas K491R. Immunoprecipitation was performed. d 32D Cl3 cells were transduced with Riox1 shRNA, Flag-Cgas, WT HA-S
f29 D194A/D196A. Immunoprecipitation was performed. e Purified Flag-cGAS protein was incubated with purified His-SET7 pro
vitro methylation assay, incubated with purified WT or the indicated mutant SGF29 protein, and then incubated with an equal am
-PAR. A streptavidin pulldown assay was performed. f 32D Cl3 cells expressing Riox1 shRNA, Flag-Cgas, His-Timeless, Sgf29 shRNA,
or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay and immunoprecipitatio
rmed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analy
shRNA targeted the noncoding region. g, h 32D Cl3 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A
transfected with an I-SceI expression vector. ChIP-PCR was performed 30 h after transfection g. HR pathway activity was measur
transfection h The data are shown as the mean ± SD of three independent assays **P < 0 01
RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. RESULTS 7 Biotin Biotin-
PAR
Flag-cGAS
His-SET7
Streptavidin
pulldown
+
+
+
+
WB: cGAS
WB: cGAS k491me
WB: cGAS
Input
a
+
+
−
− lgG
FDC-P1
#1
#1
#2
WB: SGF29
WB: cGAS
WB: SGF29
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
cGAS
lgG
−
− Flag-Cgas
Riox1 shRNA
WT
WB: SGF29
WB: cGAS K491me
WB: Flag (cGAS)
WB: SGF29
WB: RIOX1
WB: Tubulin
K491R
+
+
IP: Flag
WCL
c
−
−
7 Riox1 shRNA
IP: cGAS
WCL
lgG
32D CI3
#1
#1
#2
WB: SGF29
WB: cGAS
WB: SGF29
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
b
−
− Flag-Cgas
Riox1 shRNA
WT
WB: SGF29
WB: cGAS K491me
WB: Flag (cGAS)
WB: SGF29
WB: RIOX1
WB: Tubulin
K491R
+
+
IP: Flag
WCL
c
−
− b a HA-Sgf29
Flag-Cgas
Riox1 shRNA
WT
WB: HA (SGF29)
WB: cGAS K491me
WB: Flag (cGAS)
WB: HA (SGF29)
WB: RIOX1
WB: Tubulin
D194A/
D196A
+
+
IP: Flag
WCL
d
+
+
−
− HA-Sgf29
Flag-Cgas
Riox1 shRNA
Sgf29 shRNA
His-Timeless
WB: PARP1
WB: cGAS K491me
WB: Flag (cGAS)
WB: PARP1
WB: His (Timeless)
IP: Flag
Ni-NTA
IR
pulldown
WT
D194A/D196A
+
+
+
+
+
+
+
+
f
+
+
−
−
−
−
+
+
−
− f WT
D194A/D196A
+
+
+
+
+
+
WCL
WB: RIOX1
WB: PARP1
WB: H2A.X
WB: H2A.X
Exo
Endo
WB: SGF29
WB: Tubulin
+
+
+
+
−
−
−
−
+
+
−
− d Sgf
Rio
Biotin
Biotin-
PAR
Flag-cGAS
His-SET7
D194A/D196A
WT His-SGF29
Streptavidin
pulldown
+
+
+
+
+
+
+
+
-
Input
WB: cGAS
WB: cGAS
WB: SGF29
WB: cGAS K491me
DSB
primer
Control
primer
e
g
−
−
−
−
−
−
−
His-SGF29 HA-Sgf29
Sgf29 shRNA
Sg
Riox1 shRNA
Rio
WT
D194A/D196A
+
+
Biotin
Biotin-
PAR
Flag-cGAS
His-SET7
D194A/D196A
WT His-SGF29
Streptavidin
pulldown
+
+
+
+
+
+
+
+
-
Input
WB: cGAS
WB: cGAS
WB: SGF29
WB: cGAS K491me
I-Scel
Input
lgG
DSB
primer
Control
primer
H2A.X
cGAS
Timeless
H2A.X
cGAS
Timeless
Input
lgG
e
g
h
+
+
+
+
−
−
−
−
+
+
−
−
−
−
−
−
−
−
−
His-SGF29 HA-Sgf29
Sgf29 shRNA
Riox1 shRNA
WT
D194A/D196A
+
+
I-Scel
Input
lgG
DSB
primer
Control
primer
H2A.X
cGAS
Timeless
H2A.X
cGAS
Timeless
Input
lgG
g
+
+
+
+
−
−
−
−
+
+
−
− g e HA-Sgf29
Sgf29 shRNA
Riox1 shRNA
WT
D194A/D196A
+
+
I-Scel
30
20
10
0
GFP-positive cell/%
**
**
h
+
+
+
+
−
−
−
−
+
+
−
− h Fig. RESULTS These results
suggest that SGF29 is involved in RIOX1-modulated HR repair by the biotin-PAR-mediated pulldown of purified K491me-bearing
cGAS proteins (Fig. 5e). Consistent with this finding, reconstitution
of SGF29 expression with the SGF29 D194A/D196A mutant
restored the formation of the PARP1/cGAS complex, disrupted Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. Biotin Biotin-
PAR
Flag-cGAS
His-SET7
Streptavidin
pulldown
+
+
+
+
WB: cGAS
WB: cGAS k491me
WB: cGAS
Input
Riox1 shRNA
IP: cGAS
WCL
lgG
32D CI3
#1
#1
#2
lgG
FDC-P1
#1
#1
#2
WB: SGF29
WB: cGAS
WB: SGF29
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
WB: SGF29
WB: cGAS
WB: SGF29
WB: RIOX1
WB: Tubulin
WB: cGAS K491me
cGAS
lgG
Flag-Cgas
Riox1 shRNA
WT
WB: SGF29
WB: cGAS K491me
WB: Flag (cGAS)
WB: SGF29
WB: RIOX1
WB: Tubulin
K491R
+
+
IP: Flag
WCL
HA-Sgf29
Flag-Cgas
Riox1 shRNA
HA-Sgf29
Flag-Cgas
Riox1 shRNA
Sgf29 shRNA
HA-Sgf29
HA-Sgf29
Sgf29 shRNA
Sgf29 shRNA
Riox1 shRNA
Riox1 shRNA
His-Timeless
WT
WB: HA (SGF29)
WB: cGAS K491me
WB: Flag (cGAS)
WB: HA (SGF29)
WB: RIOX1
WB: Tubulin
WB: PARP1
WB: cGAS K491me
WB: Flag (cGAS)
WB: PARP1
WB: His (Timeless)
D194A/
D196A
+
+
IP: Flag
WCL
IP: Flag
Ni-NTA
IR
pulldown
WT
D194A/D196A
+
+
+
+
+
+
+
+
WT
D194A/D196A
WT
D194A/D196A
+
+
WT
D194A/D196A
+
+
+
+
+
+
+
+
WCL
WB: RIOX1
WB: PARP1
WB: H2A.X
WB: H2A.X
Exo
Endo
WB: SGF29
WB: Tubulin
Biotin
Biotin-
PAR
Flag-cGAS
His-SET7
D194A/D196A
WT His-SGF29
Streptavidin
pulldown
+
+
+
+
+
+
+
+
-
Input
WB: cGAS
WB: cGAS
WB: SGF29
WB: cGAS K491me
I-Scel
I-Scel
Input
lgG
DSB
primer
Control
primer
H2A.X
cGAS
Timeless
H2A.X
cGAS
Timeless
Input
lgG
30
20
10
0
GFP-positive cell/%
**
**
a
b
c
d
f
e
g
h
−
−
−
−
−
−
+
+
−
−
+
+
−
−
+
+
−
−
−
−
+
+
−
−
+
+
+
+
−
−
−
−
+
+
−
−
+
+
+
+
−
−
−
−
+
+
−
−
+
+
+
+
−
−
−
−
+
+
−
−
−
−
−
−
−
−
−
His-SGF29
SGF29 binds to K491me-bearing cGAS and prevents cGAS from binding to PAR. a–f Immunoblot analysis was performed. RESULTS S5D), we
found that loss of RIOX1 largely increased the level of cGAS K506me
and induced the association between cGAS and SGF29 in HOKs (Fig. S5E and S5F). In contrast, the basal cGAS K506me was totally
abolished by knockdown of SET7 (Fig. S5G). Furthermore, the cGAS
K506R or SGF29 D194A/D196 A mutation promoted the binding of
cGAS with PARP1 and abrogated the interaction between PARP1 and
Timeless (Fig. S5H–S5J). These results suggest that the RIOX1-guided
regulation of HR repair is conserved between human and mouse cells. RIOX1-modulated cGAS K491me regulates the radiosensitivity of
bone marrow cells
To determine the biological impact of cGAS K491me and the
cGAS/SGF29 interaction on bone marrow cells, we knocked down
endogenous cGAS or SGF29 in RIOX1-intact or RIOX1-depleted
32D Cl3 and FDC-P1 cells and exogenously expressed the cGAS
K491R
or
SGF29
D194A/D196A
mutant. Although
loss
of
RIOX1 substantially increased cell viability and reduced cell death
after irradiation, these effects were largely abolished by the cGAS
K491R or SGF29 D194A/D196A mutation (Fig. 6a-d). Together,
these results suggest that RIOX1-modulated cGAS K491me
regulates the radiosensitivity of bone marrow cells. DISCUSSION
Ionizing radiation-induced DNA damage is cytotoxic and becomes
lethal when it is not repaired properly and effectively.25 RIOX1 was
previously identified in a proteomic screen as a binding partner of interacting with K491me-bearing cGAS to prevent cGAS from
binding to PAR. nucleus in response to ionizing radiation. Independent of its
nucleotidyltransferase activity, nuclear cGAS binds to the PAR
chain of PARP1 and competitively inhibits PARP1-mediated
recruitment of Timeless to DNA damage sites, retarding the
process of HR repair18. In this study, we further deciphered how
the interaction between cGAS and PAR is regulated by protein
methylation. We found that the 483–497 aa region at the
C-terminus of the cGAS protein, which contains the K491
methylation site, is responsible for cGAS binding with PAR. The
methyllysine reader protein SGF29 binds to K491me-bearing cGAS
and masks, at least partially, the PAR binding motif, thereby
sequestering cGAS and preventing it from interacting with PAR
(Fig. 6e). Therefore, our current data add to the current knowledge
of the nonimmune function of cGAS in DNA repair. Human RIOX1 modulates HR repair by regulating the methylation
of the corresponding human cGAS K506 Human cGAS contains a conserved K506 site corresponding to K491
in mouse cGAS (Fig. S3B). DISCUSSION Ionizing radiation-induced DNA damage is cytotoxic and becomes
lethal when it is not repaired properly and effectively.25 RIOX1 was
previously identified in a proteomic screen as a binding partner of
the transcription factor Osterix.9 Ablation of RIOX1 promoted bone
formation in mice, leading to increased bone mass and density.26
In the present study, we demonstrated that both bone marrow
cells isolated from RIOX1 knockout mice and Riox1 shRNA-treated
bone marrow-derived cell lines showed increased viability after
exposure to ionizing radiation. Accordingly, the efficiency of HR
repair, rather than NHEJ repair, was markedly enhanced in RIOX1-
depleted cells. Therefore, our data highlight a novel role of RIOX1
in regulating the radiosensitivity of bone marrow cells. Antibodies recognizing cGAS, Tubulin, GST, His, SET1A, SET1B, SET7,
MLL1, MLL3, γH2A.X and SMYD3 were obtained from Cell Signaling
Technology. Antibodies recognizing RIOX2 were purchased from
Atlas Antibodies. Antibodies recognizing RIOX1, ASH1L, PARP1, MLL2,
SGF29, Timeless, NSD1, NSD2, H2A.X, CD11b, CD11a, CD34, Thy-1, and
SMYD2 were purchased from Abcam. The antibody against Flag, anti-
Flag M2 agarose beads, streptavidin-conjugated agarose beads,
biotin, bovine serum albumin and poly(ADP-ribose) glycohydrolase
(PARG) recombinant protein were purchased from Sigma. Horse-
radish
peroxidase-conjugated
goat
anti-mouse
and
anti-rabbit
secondary antibodies were purchased from Thermo Fisher Scientific. Biotin (terminal)-PAR Polymer was purchased from Trevigen. g
g
y
Lysine methylation and demethylation are dynamic cyclical
processes, and a well-balanced protein lysine methylation status is
a prerequisite for diverse biological processes, including DNA
repair.22 In this study, by using in vitro methylation/demethylation
assays, we demonstrated that cGAS K491 can be monomethylated
by SET7 and that this methylation is removed by RIOX1. Although
SET7 can catalyze the methylation of multiple nonhistone proteins,27
to the best of our knowledge, cGAS is the first nonhistone
demethylation substrate discovered for RIOX1. More importantly,
we demonstrated that RIOX1 is highly expressed in bone marrow
tissues and bone marrow-derived cell lines, accompanied by a low
cGAS K491me level. In contrast, the expression level of SET7
fluctuates only minimally among different tissues and organs. Therefore, the present data suggest that the expression of RIOX1 is
the dominant factor controlling the cGAS K491me level. 28 DNA constructs and mutagenesis DNA constructs and mutagenesis
The PCR-amplified mouse Cgas, Riox1, Riox2, Set7, Timeless and
Sgf29 and human cGAS, SET7, Timeless and SGF29 sequences
were subcloned into the indicated vectors. Materials The rabbit polyclonal anti-cGAS K491me antibody was produced
by Boer Biotechnology (Chengdu, China). The mouse cGAS
K491me peptide was synthesized and injected into rabbits. An
affinity column with bound nonmodified peptide was used to
collect and purify rabbit serum, excluding antibodies targeting
nonmethylated cGAS. The antibody was then purified using an
affinity column linked with bound cGAS K491me peptide. A rabbit
polyclonal antibody recognizing human cGAS K506me was
produced following the same protocol. RESULTS To further investigate whether the RIOX1-
mediated mechanism is species- or cell type-specific, we validated our
aforementioned findings in human oral keratinocytes (HOKs). As
expected, knockdown of RIOX1 by shRNAs enhanced HR repair after
exposure to ionizing radiation (Fig. S5A). Human cGAS was capable of
interacting with RIOX1 and SET7 (Fig. S5B and S5C). By using a
validated antibody recognizing human cGAS K506me (Fig. S5D), we
found that loss of RIOX1 largely increased the level of cGAS K506me
and induced the association between cGAS and SGF29 in HOKs (Fig. S5E and S5F). In contrast, the basal cGAS K506me was totally
abolished by knockdown of SET7 (Fig. S5G). Furthermore, the cGAS
K506R or SGF29 D194A/D196 A mutation promoted the binding of
cGAS with PARP1 and abrogated the interaction between PARP1 and
Timeless (Fig. S5H–S5J). These results suggest that the RIOX1-guided
regulation of HR repair is conserved between human and mouse cells. As previously reported, JMJD-containing demethylases, such as
JMJD1A, JHDM2A and JMJD5, modulate DNA repair efficiency through
genome-wide histone modifications.6–8 The present study demon-
strates a novel RIOX1-mediated mechanism in which RIOX1 acts as a
nonhistone demethylase to govern cGAS K491me and consequently
modulates the HR repair machinery at DNA break sites. Furthermore,
the correlation of high RIOX1 expression and low cGAS K491me and
the increased survival rate of RIOX1-depleted bone marrow cells
underscore the critical role of RIOX1 in the regulation of cellular
radiosensitivity. The present data suggest that RIOX1 inhibitors might
be potential bone marrow-protective agents during radiotherapy. RIOX1-modulated cGAS K491me regulates the radiosensitivity of
bone marrow cells To determine the biological impact of cGAS K491me and the
cGAS/SGF29 interaction on bone marrow cells, we knocked down
endogenous cGAS or SGF29 in RIOX1-intact or RIOX1-depleted
32D Cl3 and FDC-P1 cells and exogenously expressed the cGAS
K491R
or
SGF29
D194A/D196A
mutant. Although
loss
of
RIOX1 substantially increased cell viability and reduced cell death
after irradiation, these effects were largely abolished by the cGAS
K491R or SGF29 D194A/D196A mutation (Fig. 6a-d). Together,
these results suggest that RIOX1-modulated cGAS K491me
regulates the radiosensitivity of bone marrow cells. RESULTS 5
SGF29 binds to K491me-bearing cGAS and prevents cGAS from binding to PAR. a–f Immunoblot analysis was performed. a Purified
Flag-cGAS protein was incubated with purified His-SET7 protein for an in vitro methylation assay and was then incubated with an equal
amount of biotin-PAR. A streptavidin pulldown assay was performed. b 32D Cl3 and FDC-P1 cells were transduced with Riox1 shRNAs. Coimmunoprecipitation was performed using 32D Cl3 and FDC-P1 cell lysates. c 32D Cl3 cells were transduced with Riox1 shRNA, WT Flag-
Cgas, or Flag-Cgas K491R. Immunoprecipitation was performed. d 32D Cl3 cells were transduced with Riox1 shRNA, Flag-Cgas, WT HA-Sgf29 or
HA-Sgf29 D194A/D196A. Immunoprecipitation was performed. e Purified Flag-cGAS protein was incubated with purified His-SET7 protein for
an in vitro methylation assay, incubated with purified WT or the indicated mutant SGF29 protein, and then incubated with an equal amount of
biotin-PAR. A streptavidin pulldown assay was performed. f 32D Cl3 cells expressing Riox1 shRNA, Flag-Cgas, His-Timeless, Sgf29 shRNA, WT HA-
Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. A Ni-NTA pulldown assay and immunoprecipitation were
performed. The immunoprecipitates were treated with an excess of purified PARG protein before being subjected to immunoblot analysis. The
Sgf29 shRNA targeted the noncoding region. g, h 32D Cl3 cells expressing Riox1 shRNA, Sgf29 shRNA, WT HA-Sgf29, or HA-Sgf29 D194A/D196A
were transfected with an I-SceI expression vector. ChIP-PCR was performed 30 h after transfection g. HR pathway activity was measured 72 h
after transfection h. The data are shown as the mean ± SD of three independent assays. **P < 0.01 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. 8 interacting with K491me-bearing cGAS to prevent cGAS from
binding to PAR. Human RIOX1 modulates HR repair by regulating the methylation
of the corresponding human cGAS K506
Human cGAS contains a conserved K506 site corresponding to K491
in mouse cGAS (Fig. S3B). To further investigate whether the RIOX1-
mediated mechanism is species- or cell type-specific, we validated our
aforementioned findings in human oral keratinocytes (HOKs). As
expected, knockdown of RIOX1 by shRNAs enhanced HR repair after
exposure to ionizing radiation (Fig. S5A). Human cGAS was capable of
interacting with RIOX1 and SET7 (Fig. S5B and S5C). By using a
validated antibody recognizing human cGAS K506me (Fig. DISCUSSION Cell viability a and cell death b were evaluated 48 h
after irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRNA,
WT HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h after
irradiation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair Fig. 6
RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data are
shown as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRNA,
Cgas shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Cell viability a and cell death b were evaluated 48 h
after irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRNA,
WT HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h after
irradiation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair Fig. 6
RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data are
shown as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRNA,
Cgas shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Cell viability a and cell death b were evaluated 48 h
after irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRNA,
WT HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h after
irradiation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair To generate stable cell lines with depletion of gene expression,
cells were transfected with lentiviral vectors carrying shRNAs and
subsequently selected with puromycin. DISCUSSION A QuikChange Site-
Directed Mutagenesis Kit (Stratagene, La Jolla, CA) was used to
generate the mutant constructs. The following shRNAs were used in this study: scrambled shRNA,
GCTTCTAACACCGGAGGT CTT; mouse Riox1 shRNA-1, TTTTTAA-
TAAATCTGACGT (recognizing a noncoding sequence); mouse Riox1
shRNA-2, TATCATATAACATGGTTGC; mouse Cgas shRNA, TTTCAGAAG
GCAATGTCAG (recognizing a noncoding sequence); mouse Set7
shRNA-1, AACAGTATTAGGTCCAACT; mouse Set7 shRNA-2, AATCCGT-
CATCGTCCAGGT; mouse Sgf29 shRNA, TATTTGATCATAGGAACTC
(recognizing
a
noncoding
sequence);
mouse
H3f3b
shRNA,
ACAAATGCAGTCTAGTCAG (recognizing a noncoding sequence);
human cGAS shRNA, AGTTCTTACTGAAAAACAG (recognizing a
noncoding
sequence);
and
human
SGF29
shRNA,
ACGCAGG cGAS is a cytosolic DNA sensor.28 Either exogenous or
endogenous DNA can trigger cGAS-dependent production of
cGAMP, which in turn activates STING to elicit innate immune
responses.19 Recently, cGAS was found to translocate into the Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. GTGATCATC (recognizing a noncoding sequence). Other shRNAs
in this study were obtained from Sigma. To generate stable cell lines with depletion of gene expressio
cells were transfected with lentiviral vectors carrying shRNAs a
subsequently selected with puromycin. To generate stable cell lin
RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data a
wn as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRN
shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Cell viability a and cell death b were evaluated 48
irradiation. Cell viability data were normalized to the untreated group. c, d 32D Cl3 or FDC-P1 cells expressing Riox1 shRNA, Sgf29 shRN
HA-Sgf29, or HA-Sgf29 D194A/D196A were treated with 10 Gy ionizing radiation. Cell viability c and cell death d were evaluated 48 h aft
iation. Cell viability data were normalized to the untreated group. e Schematic of RIOX1-mediated repression of HR repair
RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. 9 Fig. 6
RIOX1-mediated cGAS K491me and the cGAS/SGF29 interaction regulate the radiosensitivity of bone marrow cells. a−d The data are
shown as the mean ± SD of three independent assays. *P < 0.05; **P < 0.01; ***P < 0.001. a, b 32D Cl3 and FDC-P1 cells expressing Riox1 shRNA,
Cgas shRNA, WT Flag-Cgas, or Flag-Cgas K491R were treated with 10 Gy ionizing radiation. Comet assay Total bone marrow cells were isolated from Riox1 knockout mice or
WT mice and subjected to 10 Gy ionizing radiation. The comet
assay was performed using a Single Cell Gel Electrophoresis Assay/
Comet Assay (R&D Systems) following the manufacturer’s protocol. Cell viability assay
A Cell Counting Kit 8 (WST-8/CCK-8) was purchased from Abcam,
and the assay was performed following the manufacturer’s protocol. In vitro methylation assay
Purified SET7 protein (500 ng) and purified cGAS protein (200 ng)
were incubated in 100 μL of methylation buffer at 30 °C for 1 h
according to a previously reported method.31 SDS loading buffer
was added to stop the reaction, and immunoblot analysis was
then conducted. Cell death assay
Cell death was assessed by trypan blue staining as reported
previously.29 In vitro demethylation assay
Purified RIOX1 protein (500 ng) and purified cGAS protein (200 ng)
were incubated with demethylase reaction buffer at 37 °C for 1 h,
as mentioned previously.32 SDS loading buffer was added to stop
the reaction, and immunoblot analysis was then conducted. In vitro demethylation assay Generation of RIOX1 knockout mice
RIOX1 knockout mice were generated via CRISPR/Cas9 gene
editing by GemPharmatech. RIOX1 knockout mice were generated via CRISPR/Cas9 gene
editing by GemPharmatech. Protein expression in bacteria and protein purification
BL21(DE3) cells expressing cGAS, cGAS, cGAS, RIOX1, SET7, SGF29
and the corresponding mutant proteins were maintained in LB
medium and induced with isopropyl β-D-1-thiogalactopyranoside
(IPTG) for 16 h at 30 °C before lysis via sonication. Purification of
the tagged proteins was performed as reported previously.30 cGAS activity assay
cGAS activity was detected by using a Transcreener cGAMP cGAS
TR-FRET Assay Kit (BellBrook Labs) following the manufacturer’s
instructions. cGAS activity assay Diarrhea severity assessment
Animals were subjected to irradiation for 5 days, and diarrhea severity
was recorded according to a previously defined grading system33. Diarrhea severity assessment y
Animals were subjected to irradiation for 5 days, and diarrhea severity
was recorded according to a previously defined grading system33. Analyses of DNA repair efficiency y
p
y
NHEJ and HR repair were analyzed based on previously reported
methods13, and a schematic of this assay is shown in Fig. S1G. In
brief, 32D Cl3 or FDC-P1 cells were transfected with the DR-GFP
plasmid, which was unable to express DR-GFP because of the
I-SceI site. Expression of I-SceI induced a DSB in the DR-GFP locus. Comet assay The PCR products were amplified with primers targeting the
sequences flanking the I-SceI site and were then double digested
with the enzymes I-SceI and BcgI. NHEJ repair caused loss of the
I-SceI site and made the PCR product resistant to double digestion
with I-SceI and BcgI, producing a 0.65-kb PCR band. HR repair
caused the I-SceI-digested sequence to be replaced with a BcgI
cut site, restoring the expression of GFP. Statistical analysis
Unless specifically indicated, significant differences were analyzed
by two-tailed unpaired Student’s t test. Unless otherwise specified,
all data are presented as the mean ± SD of three independent
experiments/samples. DISCUSSION To generate stable cell lines
with gene overexpression, cells with silencing of endogenous gene
expression were transduced with lentiviral vectors carrying the
indicated gene sequence and were then selected with hygromycin. TCTGTGATCATC (recognizing a noncoding sequence). Other shRNAs
used in this study were obtained from Sigma. TCTGTGATCATC (recognizing a noncoding sequence). Other shRNAs
used in this study were obtained from Sigma. Cell culture and stable cell line establishment
32D Cl3 and FDC-P1 cells were maintained in RPMI 1640 medium
containing 10% fetal bovine serum (FBS). C2C12 and NIH/3T3 cells
were cultured in Dulbecco’s modified Eagle’s medium (DMEM)
containing 10% FBS. AML12 cells were grown in DMEM:F12 medium
supplemented with 10% FBS. MLE 12 cells were maintained in HITES
medium supplemented with 2% FBS. HOKs were obtained from
ScienCell (Carlsbad, CA) and were maintained in Oral Keratinocyte
Medium (Carlsbad, CA) supplemented with 10% fetal bovine serum. Mice irradiation and bone marrow cell isolation Mice irradiation and bone marrow cell isolation
Irradiation of six-week-old C57BL/6 mice was performed with a
137Cs
gamma-ray
source. A
single
dose
of
radiation
was
administered at 1 Gy per min. Mice were then sacrificed, and
tibiae
were
harvested. An
EasySep™
Mouse
Hematopoietic Bone Research (2022) 10:19 Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. RIOX1 regulates cGAS and BM cell radiosensitivity 10 Progenitor Cell Isolation Kit (STEMCELL Technologies) was used to
isolate hematopoietic progenitor cells; Dynabeads™Mouse Pan B
(Thermo Fisher Scientific) was utilized to isolate B cells; and an
EasySep™Mouse Neutrophil Enrichment Kit (STEMCELL Technol-
ogies) was utilized to isolate neutrophils. Animals were treated
according to the relevant institutional and national guidelines and
regulations. The use of animals was approved by the institutional
review board of West China Hospital of Stomatology. induced DSBs: 5-GATCAGGCAGAGCAGGAACC-3 (forward) and
5-GAACAGCTCCTCGCC CTTGC-3 (reverse). REFERENCES 1. Dubois, A. & Walker, R. Prospects for management of gastrointestinal injury
associated with the acute radiation syndrome. Gastroenterology 95, 500–507
(1988). ACKNOWLEDGEMENTS This work was supported by the National Natural Science Foundation of China (Grants
81872218 (R.L.) and 81772692 (J.L.)); CAMS Innovation Fund for Medical Sciences (CIFMS,
2019-I2M-5-004 (Q.C.)); Sichuan Science & Technology Program (2020YFSY0009 (Q.C.));
Research Fund from West China School/Hospital of Stomatology Sichuan University
(RCDWJS2020-8 (R.L.)); the Scientific Research Program for Young Talents of China
National Nuclear Corporation (2020CNNC74 (J.L.)); Research Fund from the Science &
Technology Department of Sichuan Province (2019YJ0371 (J.L.)); Research Fund from
Chengdu Medical College (CYTD18-02 (J.L.)); Research Fund from Suzhou University
(KJS1962 (J.L.)); and a National Research Foundation of Korea (NRF) grant funded by the
Korean government (MSIT) (2020R1C1C1011350). g
p
DR-GFP-expressing cells were immediately cotransfected with a
vector expressing I-SceI. After transfection for 36 h, to inhibit DNA
repair and promote the accumulation of I-SceI-mediated DSBs, the
cells were treated with NU7441 (1 μmol·L−1) and KU55933
(10 μmol·L−1) for 12 h and were then exposed to ionizing
radiation. To measure the NHEJ repair efficiency, cells were
synchronized in G1 phase by double thymidine block, and
genomic DNA was extracted 1 h after ionizing radiation to
quantify the 0.65-kb PCR product. To measure the HR repair
efficiency, cells were stained with Hoechst 72 h after ionizing
radiation. The numbers of GFP-expressing and Hoechst-positive
cells were counted under a fluorescence microscope to calculate
the ratio of GFP-positive cells to total cells. At least 10 fields, each
containing more than 100 cells, were counted. To measure the
efficiency
of
I-SceI
cleavage,
genomic
DNA
was
extracted
immediately after irradiation. The amount of 0.65-kb PCR product
generated from the naive, I-SceI-uncut DNA was used as an
indirect reference value for I-SceI-induced DSBs. β-Actin was used
as the internal control. The primer sequences were as follows: DR-
GFP-F, 5-CTGCTAACCATGTTCATGCC-3; DR-GFP-R, 5-AAGTCGTGCT
GCTTCATGTG-3; β-actin-F, 5- GACAGGATGCAGAAGGAGATT ACTG;
β-actin-R, CTCAGGAGGAGCAATGATCTTGAT. ADDITIONAL INFORMATION Supplementary information The online version contains supplementary material
available at https://doi.org/10.1038/s41413-022-00194-0. Supplementary information The online version contains supplementary material
available at https://doi.org/10.1038/s41413-022-00194-0. Supplementary information The online version contains supplementary material
available at https://doi.org/10.1038/s41413-022-00194-0. Competing interests: The authors declare no competing interests. AUTHOR CONTRIBUTIONS Y.C., Q.C., and R.L. conceived and designed the study; Y.X., J.L., T.H., X.L., C.Y., Y.H., L.J., Y.C.,
S.M.J., and J-H.L. performed the experiments; Y.C., C.Y. and R.L. drafted the manuscript. ChIP-PCR assay As reported previously, an Upstate Biotechnology kit was used to
perform the ChIP-PCR assay.30 The specific primers used for PCR
were designed to target the sequence 0.2 kb away from the I-SceI- 2. Kim, Y., Barshishat-Kupper, M., McCart, E., Mueller, G. & Day, R. Bone marrow
protein oxidation in response to ionizing radiation in C57BL/6J mice. Proteomes 2,
291–302 (2014). 2. Kim, Y., Barshishat-Kupper, M., McCart, E., Mueller, G. & Day, R. Bone marrow
protein oxidation in response to ionizing radiation in C57BL/6J mice. Proteomes 2,
291–302 (2014). Bone Research (2022) 10:19 RIOX1 regulates cGAS and BM cell radiosensitivity
Y Xiao et al. RIOX1 regulates cGAS and BM cell radiosensitivity 11 23. Huang, L.-Y., Hsu, D.-W. & Pears, C.J. Methylation-directed acetylation of histone
H3 regulates developmental sensitivity to histone deacetylase inhibition. Nucleic
Acids Res. 49, 3781–3795 (2021). 3. Nickoloff, J. A., Sharma, N. & Taylor, L. Clustered DNA double-strand breaks:
biological effects and relevance to cancer radiotherapy. Genes 11, 99 (2020). 4. Cann, K. L. & Hicks, G. G. Regulation of the cellular DNA double-strand break
response. Biochem. Cell Biol. 85, 663–674 (2007). 24. Bian, C. et al. Sgf29 binds histone H3K4me2/3 and is required for SAGA complex
recruitment and histone H3 acetylation. EMBO J. 30, 2829–2842 (2011). 5. Zhao, X. et al. Cell cycle-dependent control of homologous recombination. Acta
Biochim. Biophys. Sin. 49, 655–668 (2017). 25. Santivasi, W. & Xia, F. Ionizing radiation-induced DNA damage, response, and
repair. Antioxid. Redox Signal. 21, 251–259 (2014). 6. Oh, S., Shin, S. & Janknecht, R. The small members of the JMJD protein family:
enzymatic jewels or jinxes? Biochimica et. Biophysica Acta Rev. Cancer 1871,
406–418 (2019). 26. Chen, Q. et al. Mesenchymal deletion of histone demethylase NO66 in mice
promotes bone formation. J. Bone Miner. Res.: Off. J. Am. Soc. Bone Miner. Res. 30,
1608–1617 (2015). 7. Zhang, A. L. et al. Histone demethylase JHDM2A regulates H3K9 dimethylation in
response to arsenic-induced DNA damage and repair in normal human liver cells. J. Appl. Toxicol.: JAT 41, 650 (2021). 27. Pradhan, S., Chin, H., Estève, P. & Jacobsen, S. SET7/9 mediated methylation of
non-histone proteins in mammalian cells. Epigenetics 4, 383–387 (2009). 8. Amendola, P. G. et al. JMJD-5/KDM8 regulates H3K36me2 and is required for late
steps of homologous recombination and genome integrity. PLoS Genet. 13,
e1006632 (2017). 28. Sun, L., Wu, J., Du, F., Chen, X. & Chen, Z. J. ChIP-PCR assay Cyclic GMP-AMP synthase is a cytosolic
DNA sensor that activates the type I interferon pathway. Science 339, 786–791
(2013). 9. Sinha, K., Yasuda, H., Coombes, M., Dent, S. & de Crombrugghe, B. Regulation of
the osteoblast-specific transcription factor Osterix by NO66, a Jumonji family
histone demethylase. EMBO J. 29, 68–79 (2010). 29. Crowley, L., Marfell, B., Christensen, M. & Waterhouse, N. Measuring cell death
by trypan blue uptake and light microscopy. Cold Spring Harb. Protoc. 2016, 7
(2016). 10. Guchhait, P., Tosi, M. F., Smith, C. W. & Chakaraborty, A. The murine myeloid cell
line 32Dcl3 as a model system for studying neutrophil functions. J. immunological
methods 283, 195–204 (2003). 30. Xia, Y. et al. c-Jun downregulation by HDAC3-dependent transcriptional repres-
sion promotes osmotic stress-induced cell apoptosis. Mol. Cell 25, 219–232
(2007). 11. Allen, J. D. & Adams, J. M. Enforced expression of Hlx homeobox gene prompts
myeloid cell maturation and altered adherence properties of T cells. Blood 81,
3242–3251 (1993). 31. Amente, S. et al. Identification of proteins interacting with the RNAPII FCP1
phosphatase: FCP1 forms a complex with arginine methyltransferase PRMT5
and it is a substrate for PRMT5-mediated methylation. FEBS Lett. 579, 683–689
(2005). 12. Kockler, Z., Osia, B., Lee, R., Musmaker, K. & Malkova, A. Repair of DNA breaks by
break-induced replication. Annu. Rev. Biochem. 90, 165–191 (2021). 32. Whetstine, J. R. et al. Reversal of histone lysine trimethylation by the JMJD2 family
of histone demethylases. Cell 125, 467–481 (2006). 13. Jiang, Y. et al. Local generation of fumarate promotes DNA repair through inhi-
bition of histone H3 demethylation. Nat. Cell Biol. 17, 1158–1168 (2015). 33. Gibson, R. J., Bowen, J. M. & Keefe, D. M. Palifermin reduces diarrhea and
increases survival following irinotecan treatment in tumor-bearing DA rats. Int. J. Cancer 116, 464–470 (2005). 14. Hou, H. & Yu, H. Structural insights into histone lysine demethylation. Curr. Opin. Struct. Biol. 20, 739–748 (2010). 15. Hamiche, A. & Shuaib, M. Chaperoning the histone H3 family. Biochim. Biophys. Acta 1819, 230–237 (2013). 16. Xia, Y. et al. RNF8 mediates histone H3 ubiquitylation and promotes glycolysis
and tumorigenesis. J. Exp. Med. 214, 1843–1855 (2017). © The Author(s) 2022 ChIP-PCR assay Open Access This article is licensed under a Creative Commons
Attribution 4.0 International License, which permits use, sharing,
adaptation, distribution and reproduction in any medium or format, as long as you give
appropriate credit to the original author(s) and the source, provide a link to the Creative
Commons license, and indicate if changes were made. The images or other third party
material in this article are included in the article’s Creative Commons license, unless
indicated otherwise in a credit line to the material. If material is not included in the
article’s Creative Commons license and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly
from the copyright holder. To view a copy of this license, visit http://creativecommons. org/licenses/by/4.0/. 17. Yang, W. et al. PKM2 phosphorylates histone H3 and promotes gene transcription
and tumorigenesis. Cell 150, 685–696 (2012). 18. Liu, H. et al. Nuclear cGAS suppresses DNA repair and promotes tumorigenesis. Nature 563, 131–136 (2018). 19. Mackenzie, K. et al. cGAS surveillance of micronuclei links genome instability to
innate immunity. Nature 548, 461–465 (2017). 20. Chen, Q., Sun, L. & Chen, Z. J. Regulation and function of the cGAS-STING
pathway of cytosolic DNA sensing. Nat. Immunol. 17, 1142–1149 (2016). 21. Pleschke, J. M., Kleczkowska, H. E., Strohm, M. & Althaus, F. R. Poly(ADP-ribose)
binds to specific domains in DNA damage checkpoint proteins. J. Biol. Chem. 275,
40974–40980 (2000). 22. Völkel, P. & Angrand, P.-O. The control of histone lysine methylation in epigenetic
regulation. Biochimie 89, 1–20 (2007). Bone Research (2022) 10:19 Bone Research (2022) 10:19
|
https://openalex.org/W3118395059
|
https://link.springer.com/content/pdf/10.1007/s40820-020-00556-5.pdf
|
English
| null |
Metallic Graphene Nanoribbons
|
Nano-micro letters
| 2,021
|
cc-by
| 1,381
|
Metallic Graphene Nanoribbons Cite as
Nano-Micro Lett. (2021) 13:53 Sheng‑Yi Xie1, Xian‑Bin Li2 * Received: 12 October 2020
Accepted: 9 November 2020
Published online: 5 January 2021
© The Author(s) 2021 ABSTRACT Isolated graphene nanoribbons (GNRs) usually have energy gaps, which scale with their widths, owing to the lateral quantum
confinement effect of GNRs. The absence of metallic GNRs limits their applications in device interconnects or being one-dimensional
physics platform to research amazing properties based on metallicity. A recent study published in Science provided a novel method to
produce metallic GNRs by inserting a symmetric superlattice into other semiconductive GNRs. This finding will broader the applications
of GNRs both in nanoelectronics and fundamental science. KEYWORDS Graphene; Nanoribbons; Quantum confinement effect; Supperlattice Unlike the gapless semimetal of graphene [1], the graphene
nanoribbons (GNRs) [2], whether armchair or zigzag type,
usually own an energy gap scaling inversely with their
widths due to the lateral quantum confinement effect of
GNRs [3]. The raised energy gap, which is absent in gra‑
phene, enables the production of transistor [4], yet the robust
semicondutivity of GNRs limits the applications in such as
device interconnects or being one-dimensional physics plat‑
form to explore superconductivity [5], Luttinger liquid [6],
charge density waves [7] or spintronics [8]. Recently, one
paper published in Science reported an ingenious method to
produce metallic GNRs [9] based on the atomically precise
bottom-up synthesis. spectroscopy and density functional theory (DFT) calcula‑
tions. The experimental dI/dV point spectrum of a sGNR is
shown in Fig. 1b, and the sharp peak states as well as their
projection in real space (Fig. 1c) at the zero bias clearly show
the metallic density of states (DOS), which agrees well with
the DFT results (Fig. 1d, e). In their further experiment, the
DOS of 5-sGNRs spans a broader energy range around the
Fermi level, inducing the robust metallicity with a 20-fold
increase of the metallic bandwidth, as shown in Fig. 1. This work provides a smart strategy for realizing the
metallicity in GNRs to act as a candidate used in logic
devices. In future, as a direct measurement of metallicity,
variable temperature conductivity experiments can be fur‑
ther considered. Additionally, the performance comparison
between these metallic GNRs and traditional metals like
copper used in interconnect technology is also meaningful
for the applications in nanoelectronics. * Xian‑Bin Li, lixianbin@jlu.edu.cn
1 School of Physics and Electronics, Hunan University, 410082 Changsha, People’s Republic of China
2 State Key Laboratory of Integrated Optoelectronics, College of Electronic Science and Engineering, Jilin University, 130012 Changchun,
People’s Republic of China ISSN 2311-6706
e-ISSN 2150-5551
CN 31-2103/TB ISSN 2311-6706
e-ISSN 2150-5551
CN 31-2103/TB HIGHLIGHT Cite as
Nano-Micro Lett. (2021) 13:53 * Xian‑Bin Li, lixianbin@jlu.edu.cn Metallic Graphene Nanoribbons Finally, considering
the possible formation of junctions between these metal‑
lic GNRs and ordinary semiconductive GNRs, whether
Ohmic contact or Schottky contact can be formed should
also deserve extra efforts. In this work, Rizzo et al. in University of California at
Berkeley used the precursor molecule 1 (Fig. 1a) to construct
the GNRs with the symmetrical insertion of methyl groups
to form the superlattice, which are named as the sawtooth
GNR (sGNR). Upon annealing over 350 ℃, the sGNRs
transformed to the called five sawtooth sGNRs (5-sGNRs)
with minor chemical bond rearrangements to form a five-
membered ring along their edges, as also shown in Fig. 1a. Electronic structures of sGNRs and 5-sGNRs were further
determined both by scanning tunneling microscope (STM) 1 3 Nano-Micro Lett. (2021) 13:53 53 Page 2 of 3 Fig. 1 a Schematic bottom-up growth of sGNRs and 5-sCNRs from molecular precursor 1 on Au (111), and the inset at the top right corner
shows STM topograph of two isolated monomers of precursor 1. b-e Electronic structure of sGNRs. b experimental dI/dV point spectroscopy, c
related constant-height dI/dV maps in real space, d DFT-LDA calculated DOS, and e related local DOS maps of a sGNR. f-i Electronic structure
of 5-sCNRs. f experimental dI/dV point spectroscopy, g related constant-height dI/dV maps, h DFT-LDA calculated DOS, and i related local
DOS maps of a 5-sCNR. Reproduced from Ref. [9]. Copyright 2020 American Association for the Advancement of Science. Fig. 1 a Schematic bottom-up growth of sGNRs and 5-sCNRs from molecular precursor 1 on Au (111), and the inset at the top right corner
shows STM topograph of two isolated monomers of precursor 1. b-e Electronic structure of sGNRs. b experimental dI/dV point spectroscopy, c
related constant-height dI/dV maps in real space, d DFT-LDA calculated DOS, and e related local DOS maps of a sGNR. f-i Electronic structure
of 5-sCNRs. f experimental dI/dV point spectroscopy, g related constant-height dI/dV maps, h DFT-LDA calculated DOS, and i related local
DOS maps of a 5-sCNR. Reproduced from Ref. [9]. Copyright 2020 American Association for the Advancement of Science. 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene
nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https://
doi.org/10.1103/PhysRevLett.97.216803 2. J.M. Cai, P. Ruffieux, R. Jaafar, M. Bieri, T. Braun et al.,
Atomically precise bottom-up fabrication of graphene nanor‑
ibbons. Nature 466(7305), 470–473 (2010). https://doi.
org/10.1038/nature09211 References Open Access This article is licensed under a Creative Commons
Attribution 4.0 International License, which permits use, sharing,
adaptation, distribution and reproduction in any medium or format,
as long as you give appropriate credit to the original author(s) and
the source, provide a link to the Creative Commons licence, and
indicate if changes were made. The images or other third party
material in this article are included in the article’s Creative Com‑
mons licence, unless indicated otherwise in a credit line to the
material. If material is not included in the article’s Creative Com‑
mons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain
permission directly from the copyright holder. To view a copy of
this licence, visit http://creativecommons.org/licenses/by/4.0/. 1. K.S. Novoselov, A.K. Geim, S.V. Morozov, D. Jiang, M.I. Katsnelson et al., Two-dimensional gas of massless dirac fer‑
mions in graphene. Nature 438(7065), 197–200 (2005). https
://doi.org/10.1038/nature04233 2. J.M. Cai, P. Ruffieux, R. Jaafar, M. Bieri, T. Braun et al.,
Atomically precise bottom-up fabrication of graphene nanor‑
ibbons. Nature 466(7305), 470–473 (2010). https://doi. org/10.1038/nature09211 2. J.M. Cai, P. Ruffieux, R. Jaafar, M. Bieri, T. Braun et al.,
Atomically precise bottom-up fabrication of graphene nanor‑
ibbons. Nature 466(7305), 470–473 (2010). https://doi. org/10.1038/nature09211 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene
nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https://
doi.org/10.1103/PhysRevLett.97.216803 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene
nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https://
doi.org/10.1103/PhysRevLett.97.216803 3. Y.W. Son, M.L. Cohen, S.G. Louie, Energy gaps in graphene
nanoribbons. Phys. Rev. Lett. 97(21), 216803 (2006). https://
doi.org/10.1103/PhysRevLett.97.216803 © The authors https://doi.org/10.1007/s40820-020-00556-5 Nano-Micro Lett. (2021) 13:53 Page 3 of 3 53 53 Page 3 of 3 53 7. G. Grüner, A. Zawadowski, P.M. Chaikin, Nonlinear con‑
ductivity and noise due to charge-density-wave depinning
in NbSe3. Phys Rev Lett. 46(7), 511–515 (1981). https://doi. org/10.1103/PhysRevLett.46.511 8. Y. Liu, C. Zeng, J. Zhong, J. Ding, Z.M. Wang et al., Spintron‑
ics in two-dimensional materials. Nano-Micro. Lett. 12(1), 93
(2020). https://doi.org/10.1007/s40820-020-00424-2 5. I. Takesue, J. Haruyama, N. Kobayashi, S. Chiashi, S. Maruy‑
ama et al., Superconductivity in entirely end-bonded multi‑
walled carbon nanotubes. Phys. Rev. Lett. 96(5), 057001
(2006). https://doi.org/10.1103/PhysRevLett.96.057001 5. I. Takesue, J. Haruyama, N. Kobayashi, S. Chiashi, S. Maruy‑
ama et al., Superconductivity in entirely end-bonded multi‑
walled carbon nanotubes. Phys. Rev. Lett. 96(5), 057001
(2006). 4. B. Obradovic, R. Kotlyar, F. Heinz, P. Matagne, T. Rakshit
et al., Analysis of graphene nanoribbons as a channel material
for field-effect transistors. Appl. Phys. Lett. 88(14), 142102
(2006). https://doi.org/10.1063/1.2191420 5. I. Takesue, J. Haruyama, N. Kobayashi, S. Chiashi, S. Maruy‑
ama et al., Superconductivity in entirely end-bonded multi‑
walled carbon nanotubes. Phys. Rev. Lett. 96(5), 057001
(2006). https://doi.org/10.1103/PhysRevLett.96.057001 6. M. Bockrath, D.H. Cobden, J. Lu, A.G. Rinzler, R.E. Smalley
et al., Luttinger-liquid behaviour in carbon nanotubes. Nature
397(6720), 598–601 (1999). https://doi.org/10.1038/17569 References https://doi.org/10.1103/PhysRevLett.96.057001 9. D.J. Rizzo, G. Veber, J. Jiang, R. McCurdy, T. Cao et al.,
Inducing metallicity in graphene nanoribbons via zero-mode
superlattices. Science 369(6511), 1597–1603 (2020). https://
doi.org/10.1126/science.aay3588 6. M. Bockrath, D.H. Cobden, J. Lu, A.G. Rinzler, R.E. Smalley
et al., Luttinger-liquid behaviour in carbon nanotubes. Nature
397(6720), 598–601 (1999). https://doi.org/10.1038/17569 1 3
|
https://openalex.org/W4319074024
|
https://www.researchsquare.com/article/rs-2500709/latest.pdf
|
English
| null |
Detection of Exon 10 Mutation (rs6020) in Factor V Gene in Sudanese patients with Deep Vein Thrombosis
|
Research Square (Research Square)
| 2,023
|
cc-by
| 3,347
|
Detection of Exon 10 Mutation (rs6020) in Factor V
Gene in Sudanese patients with Deep Vein
Thrombosis
Amel I. Bkheit
Sudan University of Science and Technology
Abdalla M. Abdalla
Sudan University of Science and Technology
Mohieldin Elsayid
King Saud bin Abdulaziz University for Health Sciences
Hisham N. Altayeb
King Abdulaziz University
Ahmed Bakheet Abd Alla
(
ahmed.hassanab@gmail.com
)
Sudan University of Science and Technology
Short Report
Keywords: Deep vein thrombosis, factor V Leiden, activated protein C resistant, rs6020 Sudanese patient
Posted Date: February 3rd, 2023
DOI: https://doi.org/10.21203/rs.3.rs-2500709/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License.
Read Full License
Additional Declarations: No competing interests reported. Detection of Exon 10 Mutation (rs6020) in Factor V
Gene in Sudanese patients with Deep Vein
Thrombosis
Amel I. Bkheit
Sudan University of Science and Technology
Abdalla M. Abdalla
Sudan University of Science and Technology
Mohieldin Elsayid
King Saud bin Abdulaziz University for Health Sciences
Hisham N. Altayeb
King Abdulaziz University
Ahmed Bakheet Abd Alla
(
ahmed.hassanab@gmail.com
)
Sudan University of Science and Technology
Short Report
Keywords: Deep vein thrombosis, factor V Leiden, activated protein C resistant, rs6020 Sudanese patient
Posted Date: February 3rd, 2023
DOI: https://doi.org/10.21203/rs.3.rs-2500709/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License
Additional Declarations: No competing interests reported. Short Report Additional Declarations: No competing interests reported. Additional Declarations: No competing interests reported. Page 1/10 Page 1/10 Page 1/10 Result: The presence of a missense mutation (rs6020) in the factor V Leiden gene was discovered in 40% (6/15)
of the patients in this investigation. In five cases, this mutation was heterozygous, whereas in one patient,
it was homozygous. In the other nine cases, no mutations were found. Conclusion: rs6020 is more prevalent in the Sudanese population than other types of mutations. rs6020
polymorphism has a strong association with deep vein thrombosis in the Sudanese population. Further
investigation of this mutation amongst larger Sudanese population is required in order to support this
finding as well as to understand its clinical significance. rs6020 is more prevalent in the Sudanese population than other types of mutations. rs6020 Background: Deep vein thrombosis (DVT), a subgroup of venous thromboembolism (VTE), is one of the leading causes
of morbidity and mortality globally, accounting for 60,000-100,000 fatalities per year. It affects around 0.1
percent of the population each year. In Sudanese patients with DVT, this study looked for probable
harmful single nucleotide polymorphisms in exon 10 of the factor V gene. Method: Thirty blood samples were obtained from previously diagnosed DVT patients at Omdurman teaching
hospital throughout the period of 16 August to 25 October 2018, as part of a descriptive cross-sectional
research in Khartoum state. Exon 10 was amplified by PCR using sequence-specific primers after DNA
was extracted using the guanidine chloride procedure. The fifteen best bands' PCR products were
sequenced in both directions (BGI Company). Bioinformatics techniques were used to examine the
sequences (Finch TV, BLAST, and Codon Code alignment). Introduction Venous thrombosis is a frequent condition that can be caused by a variety of reasons[1]. Some factors,
including factor V Leiden, prothrombin gene mutations, and antithrombin deficiency, are inherited,
whereas others, like obesity, pregnancy, and cancer, are acquired. Hyperhomocysteinemia, for example,
can be a combination of genetic and acquired causes [2]. Because of a mutation in the human factor V gene, Factor V Leiden is a main hypercoagulable condition. It is named after the city of Leiden in the Netherlands [3]. In 1993, Dahlbäck and his research team found Page 2/10 Page 2/10 an uncommon coagulation system phenomena known as activated protein c resistance, or "APC
resistant," and hypothesized that it was caused by a lack of an unknown protein that aids APC in
inactivating FV. After a year, another group of researchers led by R.M. Bertina discovered a missense point
mutation in which adenine (A) replaced guanine (G) at nucleotide position 1691 of exon 10 of the factor
V gene, resulting in a new codon (CAA), which stands for glutamine, rather than the normal codon
arginine (CGA) at position 506 of the gene [4, 5]. Factor V Leiden (FVL) inactivation is 10 times slower
with this mutation than in the wildtype, which might explain why more than 90% of clinical APC
resistance phenotypes are caused by this mutation [6]. Exon 10 of the FVL gene has a missense mutation (rs6020) at position 1628, where guanine is changed
to adenine, altering arginine to lysine at position 455 of the polypeptide chain. This polymorphism has
been linked to coagulopathy and femoral head osteonecrosis in one Chinese research [7, 8]. Activated protein C resistance is a common genetic risk factor for venous thrombosis, with 3 percent of
healthy persons, 20% of patients with deep vein thrombosis, and 50% of patients with familial
thrombophilia having it [9, 10]. APC resistance is thought to be caused by Factor V Leiden (FVL) [11], and
was the first to discover a prothrombotic polymorphism [12]. People who carry factor FVL have a greater than usual (about 90%) risk of deep vein thrombosis [11]. It's
also linked to a 2–3 times higher chance of miscarriage and other obstetric issues like preeclampsia,
placental abruption, and fetal development restriction [9, 10]. Introduction In the general population, 1 in 1,000
individuals is at risk of acquiring an abnormal blood clot each year; this number rises to 3–8 in 1,000 in
heterozygote FVL mutation carriers and 80 in 1,000 in homozygote carriers. [13]. FVL mutations have
been found in up to 65% of Caucasian individuals with venous thromboembolism, as well as in Lebanon
(14%), Syria (13%), and Jordan (12, 3% ) [4, 5, 14]. FVL mutations are extremely rare in Africa, with the
exception of Zairian Cameroonians and Zulu-speaking South Africans [15, 16]. In Sudan, a study done by
Ibrahim et al. (2018) found FVL mutation absent from all subjects of their study [17]. The purpose of this
study was to use DNA sequencing to look for mutations in the Factor V Gene exon 10 in Sudanese
patients with Deep Vein Thrombosis. Sampling A total of 3 ml of venous blood samples were obtained from 15 Sudanese patients hospitalized to
Omdurman teaching hospital with DV during August and October 2018. Blood samples were collected in
an EDTA anticoagulant tube and kept at -20°C until DNA was needed for the next stage. Dna Extraction And Pcr Amplicon Page 3/10 Dna Sequencing: Samples were sent for Sanger sequencing at BGI company (China). Page 3/10 Page 3/10 The guanidine chloride technique was used to extract DNA from thirty people. In a nutshell, 10ml of red
cell lysis buffer was added. After that, the mixture was centrifuged at 6000 rpm for 5 minutes to pellet the
white blood cells. Following that, 2ml of white blood cell lysis buffer, 25l of proteinase k, 1ml of guanidine
chloride, and 300l of NH4 acetate were added. After an overnight incubation, the mixture was cooled to
room temperature before being added to 2ml of pre-chilled chloroform. The mixture was combined and
centrifuged for 5 minutes at 2500 rpm. Then, 20 minutes later, 100% ethanol was added, stirred, and
centrifuged. After that, 4 mL of 70% ethanol was added and centrifuged for 15 minutes at 3000 rpm. The
supernatant was removed, and the pellet containing the DNA was air dried for 10 minutes before being
resuspended in 100l Tris EDTA buffer. The collected DNA was kept in a safe place until it was needed
[18]. The NCBI primer tool (http://www.ncbi.Nlm.Nih.govltools/) was used to build primers for PCR (Table
1). The Maxime PCR premix kit was used to amplify DNA (iNtRON, Korea). The Maxime PCR premix kit was used to amplify DNA (iNtRON, Korea). In a total volume of 20 ml, the PCR experiment was performed with 1 ml of each reverse and forward
primer, 4 ml of template DNA, and 14 ml of water for injection. Heating at 94°C for 7 minutes, 30 seconds, annealing at 60°C for 30 seconds, and extension at 72°C for
30 seconds (35 cycles), with a final extension at 72°C for 10 minutes [19]. On a 2% agarose gel, the PCR
results were examined. Table 1
Primer used to amplify factor V Leiden gene (NCBI primer blast). Primer name
Primer sequence
Amplicon
F5 forward
5-TGGTTCCAGCGAAAGGTTATT-3
388
F5 reverse
5-TGCCCCATTATTTAGCCAGGA-3 Table 1
Primer used to amplify factor V Leiden gene (NCBI primer blast). Primer name
Primer sequence
Amplicon
F5 forward
5-TGGTTCCAGCGAAAGGTTATT-3
388
F5 reverse
5-TGCCCCATTATTTAGCCAGGA-3 Statistical analysis: A statistical pakage for social science (SPSS; version 20) software was used to analyze all data. The
results are organized in tables and then loaded into SPSS according to the program's instructions, where
they are analyzed using correlation. For the relationship between the variables, a P-value of less than 0.05
was considered significant. The Results Page 4/10 Conventional PCR technique was done for 15 DVT patients in order to amplify F5 gene, using a specific
primer (Fig. 1). Conventional PCR technique was done for 15 DVT patients in order to amplify F5 gene, using a specific
primer (Fig. 1). Discussion The most common hereditary cause of venous thrombosis is Factor V Leiden. According to ethnicity and
geographic dispersion, the prevalence rate in the general population ranges from 0 to 15% [20, 21]. In
Asian, African, and indigenous Australian people, the mutation is exceedingly rare, while it is rather
common in white Americans (5.2%) [10], and high in Mediterranean populations, Syria, Jordon and
Greece (13.6%, 12.3% and, 13.4%) respectively [14]. Lebanon has one of the highest rates of FVL
mutation in the Eastern Mediterranean and the globe, with a frequency of 14.4 percent in the general
population [14]. Factor V Leiden is the most frequent genetic risk factor for VTE, occurring in 20–25% of
VTE patients and 50% of individuals with familial thrombophilia.[10]. Heterozygote carriers have a 7-fold
greater risk of venous thrombosis, whereas homozygote carriers have an 80-fold increased risk [22]. Factor V Leiden (FVL) testing is currently one of the most used molecular genetic diagnostics. Using a
small number of samples, this study indicates the existence of a shared genetic frequency for thrombosis
in the Sudanese community of DVT patients. First, the findings demonstrate that the most frequent venous thromboembolism (VTE) genetic risk factor
in Caucasians, factor V Leiden (FVL), is absent in the study's data. This research supported the finding of Ibrahim et al. [17], Franco et al. [23], Stefano et al. [24], and Hira et
al. [25]. Second, this research shows that exon 10 of coagulation factor has a missense mutation (rs6020) A/G. Present in five cases, causing arginine to be replaced by lysine at position 455, due to a shift in the coding
amino acid (adenine-A) to (guanine-G) as (GGAC/GGGC) at position 1628. In Chinese people, this
mutation causes coagulation abnormalities and femoral head osteonecrosis. This mutation is found in
less than 1% of Caucasians, 30% of Africans, and 70% of Chinese and Japanese people on average. To
estimate the prevalence of mutation among Sudanese patients, more research on a larger number of
Sudanese patients is needed. Dna Sequencing The genetic variable related with thrombosis in Sudanese deep vein thrombosis patients is explained by
DNA sequencing. BGI Company received a total of fifteen patient samples for sequencing. This
investigation found no indication of the presence of factor V Leiden in the individuals. In these
individuals, a single nucleotide polymorphism in exon 10 of coagulation factor V (rs6020) was
discovered. Although this mutation has a substantial relationship with illness, its specific involvement in
the pathogenesis of DVT in Sudanese remains unknown. The rs6020 (A/G) mutation was found in 40%
(6/15) of the patients, with 5 individuals heterozygous and just one homozygous mutant (Table 2)
(Figs. 2 and 3). Table 2
Show the number and
heterozygosity found in
case and control. ID
Polymorphism
7
GG
8
GG
9
GA
11
GG
13
GA
14
GA
28
GA
29
AA
106
GG
107
GG
110
GA
111
GG
114
GA
116
GG
118
GA Table 2
Show the number and
heterozygosity found in
case and control. ID
Polymorphism
7
GG
8
GG
9
GA
11
GG
13
GA
14
GA
28
GA
29
AA
106
GG
107
GG
110
GA
111
GG
114
GA
116
GG
118
GA Page 5/10 Ethical consideration In compliance with the Helsinki declaration, ethical permission to perform this study was acquired from
the college of medical laboratory science research committee at Sudan University of science and
technology. Wriiten informed conscent for data collection and publication were obtained from participant. All methods were carried out in accordance with relevant guidelines and regulations. All methods were carried out in accordance with relevant guidelines and regu Authorship Contributions Concept: H.N.A; Design: A.M.A; Data Collection or Processing: A.I.B; Analysis or Interpretation: M.E, H.N.A;
Literature Search: A.B.A;Writing: A.B.A Concept: H.N.A; Design: A.M.A; Data Collection or Processing: A.I.B; Analysis or Interpretation: M.E, H.N.A;
Literature Search: A.B.A;Writing: A.B.A Page 6/10 Page 6/10 Conflict of Interest: No conflict of interest was declared by the Author. Data Availability: Data available in crosponding auther when needed. Data Availability: Data available in crosponding auther when needed. Consent for publication: Wriiten informed conscent for publication were obtained from the college of
medical laboratory science research committee at Sudan University of science and technology and also
from participant in study. References Effectiveness of factor V Leiden and prothrombin mutation testing in
patients presenting with a first unprovoked venous thromboembolic episode: a systematic review
and economic analysis [Internet]. Ottawa: The Agency; 2015 (CADTH Optimal Use Report vol. 4, no. 1a). 2015. 14. Kreidy, R. Factor V-Leiden mutation: a common risk factor for venous thrombosis among Lebanese
patients. Thrombosis 2012, 2012. 14. Kreidy, R. Factor V-Leiden mutation: a common risk factor for venous thrombosis among Lebanese
patients. Thrombosis 2012, 2012. 14. Kreidy, R. Factor V-Leiden mutation: a common risk factor for venous thrombosis among Lebanese
patients. Thrombosis 2012, 2012. 15. Tranquilli, A. Thrombophilia; BoD–Books on Demand: 2011. 15. Tranquilli, A. Thrombophilia; BoD–Books on Demand: 2011. 16. Herrmann, F.H.; Salazar‐Sánchez, L.; Schuster, G.; Jiménez‐Arce, G.; Grimm, R.; Gomez, X.; Chavez, M.;
Wulff, K.; Schröder, W. Prevalence of eight molecular markers associated with thrombotic diseases in
six Amerindian tribes and two African groups of Costa Rica. American Journal of Human Biology
2004, 16, 82-86. 17. Ibrahim, N.A.; Hassan, F.M.; Elgari, M.M.; Abdalla, S.E. Risk factors for deep vein thrombosis of lower
extremities in Sudanese women. Vascular health and risk management 2018, 14, 157. 17. Ibrahim, N.A.; Hassan, F.M.; Elgari, M.M.; Abdalla, S.E. Risk factors for deep vein thrombosis of lower
extremities in Sudanese women. Vascular health and risk management 2018, 14, 157. 18. Merezhko, M. Cellular fates and secretion ofAlzheimer’s disease-related proteins APP and tau. Dissertationes Scholae Doctoralis Ad Sanitatem Investigandam Universitatis Helsinkiensis’ 2020. 19. Huber, S.; McMaster, K.J.; Voelkerding, K.V. Analytical evaluation of primer engineered multiplex
polymerase chain reaction–Restriction fragment length polymorphism for detection of factor V
Leiden and prothrombin G20210A. The Journal of Molecular Diagnostics 2000, 2, 153-157. 20. Roberts, L.N.; Patel, R.K.; Arya, R. Venous thromboembolism and ethnicity. British journal of
haematology 2009, 146, 369-383. 21. Montagnana, M.; Favaloro, E.J.; Franchini, M.; Guidi, G.C.; Lippi, G. The role of ethnicity, age and
gender in venous thromboembolism. Journal of thrombosis and thrombolysis 2010, 29, 489-496. 22. Rosendaal, F.; Koster, T.; Vandenbroucke, J.; Reitsma, P. High risk of thrombosis in patients
homozygous for factor V Leiden (activated protein C resistance)[see comments]. 1995. 23. Franco, R.F.; Elion, J.; Santos, S.E.; Araújo, A.G.; Tavella, M.H.; Zago, M.A. Heterogeneous ethnic
distribution of the factor V Leiden mutation. Genetics and molecular biology 1999, 22, 143-145. 23. Franco, R.F.; Elion, J.; Santos, S.E.; Araújo, A.G.; Tavella, M.H.; Zago, M.A. Heterogeneous ethnic
distribution of the factor V Leiden mutation. References 1. Morange, P.-E.; Suchon, P.; Trégouët, D.-A. Genetics of Venous Thrombosis: update in 2015. Thrombosis and haemostasis 2015, 114, 910-919. 2. Anderson, J.A.; Weitz, J.I. Hypercoagulable states. Clinics in chest medicine 2010, 31, 659-673,
doi:10.1016/j.ccm.2010.07.004. 3. Sharma, A.; Bhakuni, T.; Biswas, A.; Ranjan, R.; Kumar, R.; Kishore, K.; Mahapatra, M.; Jairajpuri, M.A.;
Saxena, R. Prevalence of factor V genetic variants associated With Indian APCR contributing to
thrombotic risk. Clinical and Applied Thrombosis/Hemostasis 2017, 23, 596-600. 4. Jadaon, M.M. Epidemiology of activated protein C resistance and factor v leiden mutation in the
mediterranean region. Mediterranean journal of hematology and infectious diseases 2011, 3,
e2011037, doi:10.4084/mjhid.2011.037. 5. Sampram, E. Arterial Thrombosis in Factor V Leiden or Activated Protein C Resistance. Clinical and
Experimental Studies; Lund University: 2012; Vol. 2012. 6. Michel, C.A.; Rocha, J.B.; Costa, D.C.; Lima, C.A.; Batschauer, A.P.B. Prevalence of factor V Leiden in
patients with venous thrombosis. Jornal Brasileiro de Patologia e Medicina Laboratorial 2016, 52,
227-232. 7. Lu, M.-L.; Sung, P.-H.; Huang, T.-W.; Chen, S.-C.; Lin, R.; Yip, H.-K.; Lee, M.S. Risks of factor V rs6020 or
methylenetetrahydrofolate reductase rs12121543 polymorphism with hyperhomocysteinemia in the
development of osteonecrosis of the femoral head. The Journal of Hip Surgery 2017, 1, 061-066. 8. Peng, K.-T.; Huang, K.-C.; Huang, T.-W.; Lee, Y.-S.; Hsu, W.-H.; Hsu, R.W.; Ueng, S.W.; Lee, M.S. Single
nucleotide polymorphisms other than factor V Leiden are associated with coagulopathy and
osteonecrosis of the femoral head in Chinese patients. PloS one 2014, 9. 9. Ehab, M.E.; Purushothaman, A. Recurrent Venous Thrombo-Embolism in a Young Adult Female: Case
Report with Review of Literature. EC Cardiology 2015, 2, 134-140. 10. Kujovich, J.L. Factor v Leiden thrombophilia. Genetics in Medicine 2011, 13, 1-16. 11. Rennert, H.; DeSimone, R.A. Molecular Testing for Factor V Leiden and Prothrombin Gene Mutations
in Inherited Thrombophilia. In Transfusion Medicine and Hemostasis, Elsevier: 2019; pp. 903-906. Page 7/10 Page 7/10 12. Corral, J.; Roldán, V.; Vicente, V. Deep venous thrombosis or pulmonary embolism and factor V
Leiden: enigma or paradox. Haematologica: 2010. 13. Drugs, C.A.f.; Health, T.i. Effectiveness of factor V Leiden and prothrombin mutation testing in
patients presenting with a first unprovoked venous thromboembolic episode: a systematic review
and economic analysis [Internet]. Ottawa: The Agency; 2015 (CADTH Optimal Use Report vol. 4, no. 1a). 2015. 13. Drugs, C.A.f.; Health, T.i. References Genetics and molecular biology 1999, 22, 143-145. 24. de Stefano, V.; Chiusolo, P.; Paciaroni, K.; Leone, G. Epidemiology of factor V Leiden: clinical
implications. In Proceedings of Seminars in thrombosis and hemostasis; pp. 367-379. 24. de Stefano, V.; Chiusolo, P.; Paciaroni, K.; Leone, G. Epidemiology of factor V Leiden: clinical
implications. In Proceedings of Seminars in thrombosis and hemostasis; pp. 367-379. 25. Hira, B.; Pegoraro, R.; Rom, L.; Moodley, J. Absence of Factor V Leiden, thrombomodulin and
prothrombin gene variants in Black South African women with pre‐eclampsia and eclampsia. BJOG:
An International Journal of Obstetrics & Gynaecology 2003, 110, 327-328. 25. Hira, B.; Pegoraro, R.; Rom, L.; Moodley, J. Absence of Factor V Leiden, thrombomodulin and
prothrombin gene variants in Black South African women with pre‐eclampsia and eclampsia. BJOG
An International Journal of Obstetrics & Gynaecology 2003, 110, 327-328. Figures Page 8/10 Figure 1 Amplification of factor V gene. Length of band :( 388). Lane 1-3 and 6-9 are bands of exon 10, lane 4 is
DNA ladder (50) bp. 5, 7 and 10 are negative bands. Amplification of factor V gene. Length of band :( 388). Lane 1-3 and 6-9 are bands of exon 10, lane 4 is
DNA ladder (50) bp. 5, 7 and 10 are negative bands. Figure 2
Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Figure 2
Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Multiple sequence alignment of exon 10 of FV Leiden, showing SNP G/A (rs6020C>T). Page 9/10 Page 9/10 Figure 3 Figure 3
Chromatogram of exon 10 of FV Leiden, showing polymorphism of G/A (rs6020C>T
homozygous (GG), B. Heterozygous (GA), C. homozygous mutant Figure 3
Chromatogram of exon 10 of FV Leiden, showing polymorphism of G/A (rs6020C>T). A. Figure 3 Chromatogram of exon 10 of FV Leiden, showing polymorphism of G/A (rs6020C>T). A. Normal
homozygous (GG), B. Heterozygous (GA), C. homozygous mutant Page 10/10
|
https://openalex.org/W4385207989
|
https://jurnal.unimed.ac.id/2012/index.php/handayani/article/download/6503/7432
|
Indonesian
| null |
PEMBINAAN MENULIS PUISI DENGAN TEKNIK PEMODELAN
|
Jurnal handayani
| 2,017
|
cc-by-sa
| 2,203
|
Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Kata kunci : Menulis Puisi, Teknik Pemodelan Kata kunci : Menulis Puisi, Teknik Pemodelan PEMBINAAN MENULIS PUISI DENGAN TEKNIK PEMODELAN Marataon Nasution
Guru SMA Negeri 1 Tambangan
Surel: marataonnst@yahoo.co.id ABSTRAK Tujuan menulis puisi dengan teknik pemodelan ini agar siswa
memiliki kemampuan menulis puisi dengan baik dan berkualitas. Dalam
menulis puisi siswa diarahkan dengan melihat, mencontoh, dan berpedoman
pada teknik pemodelan puisi yang telah ditentukan. Dengan teknik yang
digunakan
tersebut
siswa
menjadi
lebih
terampil
menulis
puisi,
menghasilkan puisi berkualitas imajinatif, aktual kontekstual. Selanjutnya
dalam kurikulum tingkat satuan pendidikan yang disempurnakan dengan
kurikulum 2013 dijelaskan bahwa salah satu hal bersastra yang harus
diajarkan dan mesti dikuasai siswa adalah menulis puisi. Banyak teknik
pembelajaran yang dapat disodorkan, salah satunya teknik pemodelan. Teknik ini dikenal sejak tahun 2004 dalam kurikulum berbasis kompetensi. Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Dalam tubuh organisasi osis di
sekolah
menengah
jarang
pula
ditemukan,
kelompok
yang
ditetapkan sebagai pengurus yang
membidangi kreativitas siswa dalam
tulis menulis ini termasuk menulis
puisi. Berdasarkan berbagai asumsi
dan penjelasan itu semua pengajaran
menulis puisi sering gagal di sekolah
menengah
disebabkan
dua
hal. Pertama
lemahnya
pengajaran
menulis puisi secara teoretis dalam
pembelajaran,
kedua
kurangnya
latihan
serta
fasilitas
yang
mendukung kegiatan tersebut di
setiap sekolah menengah sebagai
mana tersebut pada penjelsan di atas. mendapat tanggapan paling sulit
dilakukan siswa bila dibandingakan
dengan aspek sastra yang lain seperti
membaca puisi, cerpen, dan menulis
cerpen. Padahal
sebagaimana
penjelasan di atas, bahwa semua
kehidupan
itu
dapat
dijadikan
sebagai sumber ide dalam menulis
puisi. Baik
pengalaman
yang
langsung maupun tidak. Kesulitan-
kesulitan siswa ini diduga selain
disebabkan
pandangan
dan
pemahaman yang dangkal tentang
teori sastra-puisi-dan menulis puisi
juga
disebabkan
oleh
lemahnya
pengajaran menulis puisi. Lemahnya pengajaran menulis
puisi juga disebabkan berbagai hal. Pertama lemahnya teori yang di
sodorkan kepada siswa, fasilitas yang
minimal, frekuensi latihan yang
minimal, dan tidak adanya ruang
publikasi
tulisan
di
sekolah
menengah. Ruang
tulisan
yang
dimaksud adalah mading sekolah. Madding sekolah tidak bisa dianggap
remeh
karena
dengan
adanya
madding sekolah merupakan ruang
untuk
mempublikasikan
tulisan
secara sederhana di sekolah. Sejalan
dengan
itu,
penulis
mencoba
mengupas
bagaimana
pembinaan menulis puisi dengan
teknik
pemodelan
di
sekolah
menengah
yang
dibatasi
pada
sekolah
menengah
tingkat
atas
SMAN
1
Tambangan
Kab. Mandailing
Natal
sehingga
pengajaran
menulis
puisi
dapat
mencapai apa yang diharapkan dalam
kurikulum
bersastra
di
sekolah
menengah. Ini sebuah teori dan
model yang dapat dicontoh siswa
dalam menulis puisi. Selain itu pula, Mading (majalah
dinding) sekolah tersedia tetapi tidak
berfungsi. Ini
diduga
karena
kelalaian sekolah. Pertama kepala
sekolah tidak menyediakan dana
sekolah untuk pengoperasian mading
sekolah dan yang kedua kurangnya
kompetensi
guru
atau
fasilitas
mading yang belum ada di sekolah. Hampir di seluruh sekolah ditemukan
mading yang tidak berfungsi karena
berbagai penyebab tersebut di atas. PENDAHULUAN menawarkan dua hal utama yaitu
kesenagan dan pemahaman. Sastra
merupakan hal yang dapat memeberi
kesenangan dan pemahaman itu. Membawa setiap manusia kepada hal
yang penuh daya baik melalui
menikmati atau pun mencipta karya
sastra. Salah
satu
hal
yang
menyenangkan adalah menulis puisi
di kalangan siswa menengah untuk
memahami
kehidupan
mereka
apabila pembelajaran menulis puisi
itu menarik dan disenangi Kegiatan
mencipta puisi dapat memanjakan
fantasi, menanjamkan pikiran dan
emosi yang penuh imajinasi yang
pada akhirya menghaluskan jiwa. Sastra
mengandung
kebenaran
tentang kehidupan. Pada hakikatnya
sastra
adalah
citra
kehidupan,
gambaran kehidupan. Sebagaimana manusia dewasa,
siswa pun membutuhkan informasi
tentang dunia, tentang segala sesuatu
dan yang terjadi di sekelilingnya. Siswa memiliki rasa ingin tahu
tentang segala sesuatu yang dapat
dijangkau pikirannya. Siswa juga
butuh pengakuan, perhatian, dan
penghargaan. Semua itu sudah tentu
merupakan pemenuhan kebutuhan
dan apresiasi terhadap siswa. Karena
siswa pada sekolah tingkat menengah
sedang berada dalam masa peka
untuk memperoleh, memupuk, dan
mengembangkan
berbagai
aspek
kehidupan dalam pergaulannya di
lingkungan yang variatif. Hal tersebut dapat dilakukan
lewat
bentuk
kreativitas
yaitu
menulis puisi sebagai mana yang
tercantum
dalam
kurikulum
pendidikan
menengah. Dalam
kehidupan remaja ini Likens dalam
Burhan Nurgiyantoro (108; 2004), Berdasarkan pengamatan penulis
dalam
sebuah
pembelajaran
di
sekolah menengah, menulis puisi
termasuk
aspek
yang
selalu p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 171 TEKNIK PEMODELAN Pemodelan
adalah
salah
satu
komponen pendekatan kontekstual. Kontekstual berasal dari bahasa Latin
(conwopen)
yang
maksudnya
mengikuti
konteks atau kedaan. Sejalan
dengan
pendapat
ini
Umaedi(2002;1) mengemukakan,”Pendekatan
kontekstual
merupakan
konsep mengemukakan,”Pendekatan
kontekstual
merupakan
konsep p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 172 Jurnal Handayani Vol. 5 (1) Juni 2016 bisa
ditiru. Model
bisa
cara
mengoperasikan
sesuatu,
cara
melempar
bola
dalam
olahraga,
contoh karya tulis,cara melafalkan
bahasa Inggris dan sebagainya. belajar
yang
membantu
guru
mengaitkan
antara
materi
yang
diajarkannya dengan situasi dunia
nyata siswa dan mendorong siswa
membuat
hubungan
antara
pengetahuan
yang
dimilikinya
dengan
penerapannya
dalam
kehidupan mereka sebagai anggota
keluarga dan masyarakat. Dengan
konsep
itu,
hasil
pembelajar
diharapkan lebih bermakna bagi
siswa. Proses
pembelajar
berlangsung alamiah dalam bentuk
kegiatan
siswa
bekerja
dan
mengalami,
bukan
mentransper
pengetahuan dari guru kepada siswa. Strategi
pembelajaran
lebih
dipentingkan daripada manfaatnya,
dalam
status
apa
mereka
dan
bagaimana
mencapainya. Mereka
sadar apa yang dipelajarinya berguna
bagi hidupnya nanti. Dengan begitu,
mereka memposisikan diri sebagai
diri sendiri yang memerlukan bekal
untuk
hidupnya
nanti. Mereka
mempelajari apa yang bermanfaat
bagi
dirinya
dan
berupaya
menggapainya. Dalam upaya itu
mereka memerlukan guru sebagai
pengarah dan pembimbing”. Dengan
demikian
dapat
dikatakan
bahwa
dalam
proses
belajar mengajar ada model yang
bisa ditiru dan diamati siswa baik
dalam bentuk apapun yang secara
langsung dapat menjadi acuan untuk
ditiru
oleh
siswa. Inilah
yang
dinamakan
pembelajaran
dengan
pemodelan. Dalam menulis puisi dikenal
dengan empat teknik pemodelan,
yaitu
:
mendeskripsikan
objek
konkret, mengurai nama diri, menulis
puisi berdasarkan tokoh, dan menulis
puisi
berdasarkan
pengalaman. Perhatikan penjelasan berikut ini, Mendeskrifsikan Objek Konkret Mendeskrifsikan
adalah
menulis puisi berdasarkan objek
yang
dapat
diamati. Misalnya
pesawat terbang, kapal laut, dan lain
lain. Contoh : Bulan Pemodelan sebagai bagian
dari
pembelajaran
kontekstual
memiliki pengertian sebagai suatu
yang dibuat dengan ukuran tiga
dimensi, sehingga menyerupai benda
aslinya untuk menjelaskan hal-hal
yang tidak mungkin kita peroleh dari
benda sebenarnya. Mufidah Kuraih cita-cita dalam kesulitan
Menjalani krikil tajam
Menuai keceriaan
Atas
Segala penderitaan
Yang telah berlalu Mulai ku bersujud
Untuk memujimu
Faedah hidup
Ilmu yang berkah
Dalam amalanku
Aku selalu bersyukur
Hanya Pada-Mu Mulai ku bersujud
Untuk memujimu
Faedah hidup
Ilmu yang berkah
Dalam amalanku
Aku selalu bersyukur
Hanya Pada-Mu p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295
Bulan yang bercahaya
Jangan engkau redup
Menerangi malam
Yang kelam
Kau adalah semangat
Di kala malam menuju larut
Mengurai Nama Diri Bulan yang bercahaya
Jangan engkau redup
Menerangi malam
Yang kelam
Kau adalah semangat
Di kala malam menuju larut Dalam
pembelajaran
CTL
Nurhadi
mengatakan,”Sebuah
pembelajaran
keterampilan
atau
pengetahuan tentu ada model yang Mengurai Nama Diri p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 173 Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Menulis puisi berdasarkan
pengalaman
adalah
menuangkan
pengalaman yang dialami secara
langsung maupun tidak. Perhatiakan
contoh ini. Mengurai
nama
diri
maksudnya adalah menuliskan nama
kita menjadi puisi. Artinya nama kita
diurutkan secara vertikal dan awal
nama tersebut menjadil awal kata
dalam
puisi. Perhatikan
contoh
berikut ini. Realisme
Uji
Coba
Teknik
Pemodelan dalam Menulis Puisi Metode yang dipakai dalam
tulisan ini adalah deskriptif yaitu
hanya menguraikan dengan singkat
fakta-fakta yang didapatkan dalam
pembelajaran menulis puisi selama
satu semester tepatnya semester
genap tahun pembelajran 2015-2016. Uji coba yang dimaksud dilakukan di
SMAN 1 Tambangan Mandailing
Natal pada kelas XII dan kelas VII
MTsN panyabungan. Menulis Puisi Berdasarkan Tokoh
Menulis puisi berdasarkan
tokoh sejarah adalah mengemukakan
kelebihan tokoh yang dimaksud
tersebut. Perhatikan contoh berikut
ini. Menulis Puisi Berdasarkan Tokoh
Menulis puisi berdasarkan
tokoh sejarah adalah mengemukakan
kelebihan tokoh yang dimaksud
tersebut. Perhatikan contoh berikut
ini. p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 SBY Kau sangat gagah
Hatimu kuat
Pikiranmu terang
Melihat masa depan bangsa
SBY
Kau adalah harapan kami
Harapan bumi pertiwi
Dalam setiap kata dan suasana
Tuk mencipta
Kemakmuran Indonesia
Menulis puisi berdasarkan
Pengalaman Dalam menulis puisi ini siswa
diberikan
model
pembelajaran
menulis puisi sebagai mana tersebut
di atas secara terus menerus selama
satu semester dimaksud dalam setiap
jam belajar sastra Indonesia di
sekolah. Kemudian dari puisi yang
diciptakan siswa di dapat data
sebagai berikut. Di tingkat sekolah menengah
atas (SMAN 1 Tambangan) 174 Jurnal Handayani Vol. 5 (1) Juni 2016 Beberapa Contoh Karya Siswa
dalam Uji Coba Menulis Puisi
dengan Teknik Pemodelan
Karya
Aziz
R/
SMAN
1
Tambangan
Aku Ingin Kita Bersama
Aku ingin kita bersama dalam suka
duka
Dalam indahnya kehidupan masa
depan
Bagai air mengalir bersuara bergetar
mengalun
Memanjakan
anganku
seluas
samudera
Kau ucapkan pada ku sayang dan
cinta
Dalam rona kedaulatan kebersamaan
pada
Persahabatan
yang
selama
ini
terbungkus
Dengan kasih dan ikhlasnya belaian
Kata-kata cinta mu
Karya
Rinanda
/
SMAN
1
Tambangan
Cinta Kita Takkan Hilang
Takkan hilang
Takkan lekang cinta kita
Walau ditengah badai yang tajam
Menghantam nilai sukma
Rasa sayangku masih
Tetap untukmu walau jauh
Cinta kita takkan hilang
Seperti hanyutnya air di lautan Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Berdasarkan uji coba yang
dilakukan di atas dapat dijelaskan
pada jenjang sekolah menengah atas
tema yang didapatkan dari hasil
karya siswa lebih kepada dunia
remaja. Dunia remaja adalah dunia
yang begitu indah. Pada usia ini
mereka sudah mulai ingin memiliki,
ingin disayangi, ingin dipuji, ingin
berhasil, ingin dihormati, walaupun
belum sepenuhnya. Ini menandakan
bahwa usia dan variatif model yang
disodorkan
sejalan
dengan
pengalaman
mereka
sehari-hari. Siswa
menjadi
termotivasi,
pembelajaran menulis puisi lebih
hidup, dan dinamis. Hidup berarti
siswa lebih termotivasi menulis puisi
berdasarkan konteks kehidupan
pembelajaran yang diberikan dalam
setiap pembelajaran sastra di kelas
dan dinamis siswa lebih bebas
memilih
tema
serta
model
pembelajaran menulis puisi. Dinilai
1. Tema
Lebih
mendominasi
pada
kehidupan
remaja misalnya
tema
persahabatan,
cinta,
dan
perpisahaan
antara sahabat. 2. Diksi
Selalu
mengerucut pada
pilihan kata yang
sifatnya
meremaja, tersa
indah, penuh
khayal, dan
pengharapan
3
Gaya
bahasa
Selalu
membandingkan
keadaan yang
mereka rasakan
4. Penggu-
naan
Model
Lebih cenderung
menulis puisi
berdasarkan
pengalaman Di
tingkat
sekolah
menengah
pertama (MTsN Panyabungan) Pada
sekolah
tingkat
menengah
pertama
tema
yang
muncul lebih variatif, diksi dan gaya
bahasa lebih variatif mengacu kepada
kehidupan religius dan sosial serta
semua
model
yang
disodorkan
hampir semua diminati siswa. Ini
menandakan bahwa siswa di sekolah
menengah pertama masih menginjak
pada masa remaja seiring dengan
usia mereka dan kehidupan mereka
sehari-hari. No. Aspek
yang
Dinilai
Deskripsi
1. Tema
Lebih variatif
2. Diksi
Selalu
mengerucut pada
pilihan kata yang
sifatnya variatif ,
religius, sosial. 3
Gaya
bahasa
Lebih variatif
4. Penggu-
naan
Model
Tidak ada yang
mendominasi,
semua model
hampir digunakan
dalam menulis
puisi. Menulis puisi berdasarkan
model yang diberikan baik pada
tingkat
sekolah
menengah
atas
maupun
pada
sekolah
tingkat
menengah pertama dapat mewakili p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 175 Jurnal Handayani Vol. 5 (1) Juni 2016 minat dan sekaligus menarik bakat
mereka dalam menulis puisi. Ini kisah kita yang harus dibingkai
Dengan kekuatan cinta kita
Yang mekar mewangi 1
minat dan sekaligus menarik bakat
mereka dalam menulis puisi. Beberapa Contoh Karya Siswa
dalam Uji Coba Menulis Puisi
dengan Teknik Pemodelan Karya Rahma Liana / MTsN
Panyabungan
Karisma yang Hilang Karya Rahma Liana / MTsN
Panyabungan
Karisma yang Hilang Karya
Aziz
R/
SMAN
1
Tambangan
Aku Ingin Kita Bersama Semua dosa diambilnya
Tuk direbus buat senja
Toh pak Tahta tak sampai
Pada petang, ia pergi entah
Kemana bak
Berkelana mencari yang tiada
Memikul dosa-dosanya DAFTAR RUJUKAN Depdikbud. 1986. Sanggar Sastra. Jakarta. Depdikbud. Depdikbud. 1986. Sanggar Sastra. Jakarta. Depdikbud. Nurgiayantoro, Burhan. 2004. Sastra
Anak. Humaniora. Vol. 16. No. Nurgiayantoro, Burhan. 2004. Sastra
Anak. Humaniora. Vol. 16. No. 2 2 Purba,
Antilan. 2002
. Sastra
Kontemporer. Usu
Press:
Medan. Kucintai Muhammadku Umaedi. 2002. KBK. Depdiknas. Jakarta. Karya
Dian
R
/
MTsN
Panyabungan
Kemarau Kemarau datang terang
Tanah kering kerontang
Hati kering keras bagai batu
Daunpun gugur tak henti
Hidup ini merindu akan
Hujan penengah kehidupan
Yang semuanya kering
Karena kemarau datang
Berpetualang panjang p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 176 Jurnal Handayani Vol. 5 (1) Juni 2016 Jurnal Handayani Vol. 5 (1) Juni 2016 Karya Fikri / MTsN Panyabungan
Antara Ada Dan Tiada
Hidup ini
Antara ada dan tiada
Antara dosa dan pahala
Antara roda yang berputar
Kadang di bawah dan terkawah
Kadang di atas dan tak waras
Hidup ini
Antara ada dan tiada yang
Merajalela mengejar yang
Takkan dibawa ke alam sana
Karya Mutia Adilla P. / MTsN
Panyabungan
Cermin Hidupku
Dalam kisah berseri
Dalam hidupku
Dalam anganku
Dalam kasih sayang
Dalam ketulusan
Dalam segala kata
Dalam segala tawa
Engkaulah cerminku
Wahai orang yang
Kucintai Muhammadku
KESIMPULAN 2. Salah satu cara membantu siswa
dalam menulis puisi di sekolah
menengah adalah dengan teknik
pemodelan
yang
diterapkan
dalam setiap pembelajaran di
kelas, 3. Teknik pemodelan sebagaimana
dalam tulisan ini untuk menulis
puisi dapat memotivasi siswa
lebih dinamis sesuai dengan usia
pendidikan mereka, 4. Deengan teknik pemodelan ini
puisi yang dihasilkan oleh siswa
lebih variatif sehingga hasil yang
diharapkan dalam mencipta puisi
lebih maksimal. 4. Deengan teknik pemodelan ini
puisi yang dihasilkan oleh siswa
lebih variatif sehingga hasil yang
diharapkan dalam mencipta puisi
lebih maksimal. KESIMPULAN Berdasarkan teori dan realisme
teknik pemodelan dalam menulis
puisi di atas dapat disimpulkan
bahwa, 1. Menulis
puisi
salah
satu
pembelajaran sastra di sekolah
menengah yang yang harus dibina
dan dikembangkan dengan cara
yang
menarik,
variatif,
dan
modern, p-ISSN: 2355 - 1739
e-ISSN: 2407 - 6295 177
|
https://openalex.org/W2952440522
|
https://bib-pubdb1.desy.de/record/418374/files/Aaij2018_Article_MeasurementOfTheCKMAngle%CE%93Using.pdf
|
English
| null |
Measurement of the CKM angle γ using B± → DK± with D → K0Sπ+π−, K0SK+K− decays
|
The Journal of high energy physics/The journal of high energy physics
| 2,018
|
cc-by
| 21,403
|
Open Access, Copyright CERN, for the benefit of the LHCb Collaboration. Published for SISSA by
Springer Received: June 5, 2018
Accepted: August 14, 2018
Published: August 28, 2018 Received: June 5, 2018
Accepted: August 14, 2018
Published: August 28, 2018 Received: June 5, 2018
Accepted: August 14, 2018
Published: August 28, 2018 Measurement of the CKM angle γ using B± →DK±
with D →K0
Sπ+π−, K0
SK+K−decays JHEP08(2018)176 The LHCb collaboration Keywords: B physics, CKM angle gamma, CP violation, Flavor physics, Hadron-Hadron
scattering (experiments) Keywords: B physics, CKM angle gamma, CP violation, Flavor physics, Hadron-Hadron
scattering (experiments) ArXiv ePrint: 1806.01202 ArXiv ePrint: 1806.01202 ArXiv ePrint: 1806.01202 ArXiv ePrint: 1806.01202 https://doi.org/10.1007/JHEP08(2018)176 Contents
1
Introduction
1
2
Overview of the analysis
2
3
Detector and simulation
5
4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays
5
5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays
12
6
Dalitz plot fit to determine the CP -violating parameters x± and y±
15
7
Systematic uncertainties
18
8
Results and interpretation
22
9
Conclusions
26
The LHCb collaboration
31 Contents
1
Introduction
1
2
Overview of the analysis
2
3
Detector and simulation
5
4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays
5
5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays
12
6
Dalitz plot fit to determine the CP -violating parameters x± and y±
15
7
Systematic uncertainties
18
8
Results and interpretation
22
9
Conclusions
26
The LHCb collaboration
31 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays JHEP08(2018)176 5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays
1 The LHCb collaboration 31 The LHCb collaboration E-mail: mikkel.bjoern@physics.ox.ac.uk Abstract: A binned Dalitz plot analysis of B± →DK± decays, with D →K0
Sπ+π−and
D →K0
SK+K−, is used to perform a measurement of the CP-violating observables x±
and y±, which are sensitive to the Cabibbo-Kobayashi-Maskawa angle γ. The analysis is
performed without assuming any D decay model, through the use of information on the
strong-phase variation over the Dalitz plot from the CLEO collaboration. Using a sample
of proton-proton collision data collected with the LHCb experiment in 2015 and 2016,
and corresponding to an integrated luminosity of 2.0 fb−1, the values of the CP violation
parameters are found to be x−= (9.0±1.7±0.7±0.4)×10−2, y−= (2.1±2.2±0.5±1.1)×
10−2, x+ = (−7.7±1.9±0.7±0.4)×10−2, and y+ = (−1.0±1.9±0.4±0.9)×10−2. The first
uncertainty is statistical, the second is systematic, and the third is due to the uncertainty
on the strong-phase measurements. These values are used to obtain γ =
87 +11
−12
◦, rB =
0.086+0.013
−0.014, and δB = (101±11)◦, where rB is the ratio between the suppressed and favoured
B-decay amplitudes and δB is the corresponding strong-interaction phase difference. This
measurement is combined with the result obtained using 2011 and 2012 data collected with
the LHCb experiment, to give γ =
80 +10
−9
◦, rB = 0.080 ± 0.011, and δB = (110 ± 10)◦. 1
Introduction JHEP08(2018)176 The separation of data into binned regions of the Dalitz plot leads to a loss of statistical
sensitivity in comparison to using an amplitude model [16, 17]. However, the advantage
of using the direct strong-phase measurements resides in the model-independent nature of
the systematic uncertainties. Where the direct strong-phase measurements are used, there
is only a systematic uncertainty associated with the finite precision of such measurements. Conversely, systematic uncertainties associated with determining a phase from an ampli-
tude model are difficult to evaluate, as common approaches to amplitude-model building
break the optical theorem [29]. Therefore, the loss in statistical precision is compensated by
reliability in the evaluation of the systematic uncertainty, which is increasingly important
as the overall precision on the CKM angle γ improves. 1
Introduction The strong phase can be directly accessed by exploiting the quantum correlation
of D0D0 pairs from ψ(3770) decays. Such measurements have been performed by the
CLEO collaboration [18] and have been used by the LHCb [9] and Belle [19] collaborations
to measure γ in B± →DK± decays, and have also been used to study B0 →DK∗0
decays [20, 21]. An alternative method relies on amplitude models of D →K0
Sh+h−
decays, determined from flavour-tagged D →K0
Sh+h−decays, to predict the strong-phase
variation over the Dalitz plot. This method has been used for a variety of B decays [22–28]. The separation of data into binned regions of the Dalitz plot leads to a loss of statistical
sensitivity in comparison to using an amplitude model [16, 17]. However, the advantage
of using the direct strong-phase measurements resides in the model-independent nature of
the systematic uncertainties. Where the direct strong-phase measurements are used, there
is only a systematic uncertainty associated with the finite precision of such measurements. Conversely, systematic uncertainties associated with determining a phase from an ampli-
tude model are difficult to evaluate, as common approaches to amplitude-model building
break the optical theorem [29]. Therefore, the loss in statistical precision is compensated by
reliability in the evaluation of the systematic uncertainty, which is increasingly important
as the overall precision on the CKM angle γ improves. The sensitivity to γ is obtained by comparing the distributions in the Dalitz plots of
D →K0
Sh+h−decays from reconstructed B+ and B−mesons [6, 7]. For this comparison,
the variation of the strong-phase difference between D0 and D0 decay amplitudes within
the Dalitz plot needs to be known. An attractive, model-independent, approach makes
use of direct measurements of the strong-phase variation over bins of the Dalitz plot [6,
16, 17]. The strong phase can be directly accessed by exploiting the quantum correlation
of D0D0 pairs from ψ(3770) decays. Such measurements have been performed by the
CLEO collaboration [18] and have been used by the LHCb [9] and Belle [19] collaborations
to measure γ in B± →DK± decays, and have also been used to study B0 →DK∗0
decays [20, 21]. An alternative method relies on amplitude models of D →K0
Sh+h−
decays, determined from flavour-tagged D →K0
Sh+h−decays, to predict the strong-phase
variation over the Dalitz plot. This method has been used for a variety of B decays [22–28]. 1
Introduction The Standard Model (SM) description of CP violation [1, 2] can be tested by overcon-
straining the angles of the Unitarity Triangle. The Cabibbo-Kobayashi-Maskawa (CKM)
angle γ ≡arg(−VudV ∗
ub/VcdV ∗
cb) is experimentally accessible through the interference be-
tween ¯b →¯cu¯s and ¯b →¯uc¯s transitions. It is the only CKM angle easily accessible in
tree-level processes and it can be measured with negligible uncertainty from theory [3]. Hence, in the absence of new physics effects at tree level, a precision measurement of γ
provides a SM benchmark that can be compared with other CKM-matrix observables more
likely to be affected by physics beyond the SM. Such comparisons are currently limited by
the uncertainty on direct measurements of γ, which is about 5◦[4] and is driven by the
LHCb average. The effects of interference between ¯b →¯cu¯s and ¯b →¯uc¯s transitions can be probed by
studying CP-violating observables in B± →DK± decays, where D represents a D0 or a
D0 meson reconstructed in a final state that is common to both [5–7]. This decay mode has
been studied at LHCb with a wide range of D-meson final states to measure observables
with sensitivity to γ [8–11]. In addition to these studies, other B decays have also been
used with a variety of techniques to determine γ [12–15]. – 1 – This paper presents a model-independent study of the decay mode B± →DK±, using
D →K0
Sπ+π−and D →K0
SK+K−decays (denoted D →K0
Sh+h−decays). The analysis
utilises pp collision data accumulated with LHCb in 2015 and 2016 at a centre-of-mass
energy of √s = 13 TeVand corresponding to a total integrated luminosity of 2.0 fb−1. The
result is combined with the result obtained by LHCb with the same analysis technique,
using data collected in 2011 and 2012 (Run 1) at centre-of-mass energies of √s = 7 TeVand
√s = 8 TeV [9]. √
[ ]
The sensitivity to γ is obtained by comparing the distributions in the Dalitz plots of
D →K0
Sh+h−decays from reconstructed B+ and B−mesons [6, 7]. For this comparison,
the variation of the strong-phase difference between D0 and D0 decay amplitudes within
the Dalitz plot needs to be known. An attractive, model-independent, approach makes
use of direct measurements of the strong-phase variation over bins of the Dalitz plot [6,
16, 17]. 2
Overview of the analysis The amplitude of the decay B−→DK−, D →K0
Sh+h−can be written as a sum of the
favoured B−→D0K−and suppressed B−→D0K−contributions as The amplitude of the decay B−→DK−, D →K0
Sh+h−can be written as a sum of the
favoured B−→D0K−and suppressed B−→D0K−contributions as AB(m2
−, m2
+) ∝AD(m2
−, m2
+) + rBei(δB−γ)AD(m2
−, m2
+),
(2.1) (2.1) where m2
−and m2
+ are the squared invariant masses of the K0
Sh−and K0
Sh+ particle combi-
nations, respectively, that define the position of the decay in the Dalitz plot, AD(m2
−, m2
+)
is the D0 →K0
Sh+h−decay amplitude, and AD(m2
−, m2
+) the D0 →K0
Sh+h−decay
amplitude. The parameter rB is the ratio of the magnitudes of the B−→D0K−and
B−→D0K−amplitudes, while δB is their strong-phase difference. The equivalent expres-
sion for the charge-conjugated decay B+ →DK+ is obtained by making the substitutions – 2 – γ →−γ and AD(m2
−, m2
+) ↔AD(m2
−, m2
+). Neglecting CP violation in charm decays, the
charge-conjugated amplitudes satisfy the relation AD(m2
−, m2
+) = AD(m2
+, m2
−). The D-decay Dalitz plot is partitioned into 2 × N bins labelled from i = −N to
i = +N (excluding zero), symmetric around m2
−= m2
+ such that if (m2
−, m2
+) is in bin i
then (m2
+, m2
−) is in bin −i. By convention, the positive values of i correspond to bins for
which m2
−> m2
+. The strong-phase difference between the D0 and D0-decay amplitudes
at a given point on the Dalitz plot is denoted as δD(m2
−, m2
+). The cosine of δD(m2
−, m2
+)
weighted by the D-decay amplitude and averaged over bin i is written as ci [6], and is
given by ci ≡
R
i dm2
−dm2
+ |AD(m2
−, m2
+)||AD(m2
+, m2
−)| cos[δD(m2
−, m2
+) −δD(m2
+, m2
−)]
qR
i dm2
−dm2
+ |AD(m2
−, m2
+)|2 R
i dm2
−dm2
+ |AD(m2
+, m2
−)|2
,
(2.2) JHEP08(2018)176 (2.2) where the integrals are evaluated over the phase space of bin i. An analogous expression
can be written for si, which is the sine of the strong-phase difference weighted by the
decay amplitude and averaged over the bin phase space. The values of ci and si have been
directly measured by the CLEO collaboration, exploiting quantum-correlated D0D0 pairs
produced at the ψ(3770) resonance [18]. 2
Overview of the analysis The measurements of ci and si are available in four different 2 × 8 binning schemes for
the D →K0
Sπ+π−decay. This analysis uses the ‘optimal binning’ scheme where the bins
have been chosen to optimise the statistical sensitivity to γ, as described in ref. [18]. The
optimisation was performed assuming a strong-phase difference distribution as predicted
by the BaBar model presented in ref. [23]. For the K0
SK+K−final state, three choices of
binning schemes are available, containing 2 × 2, 2 × 3, and 2 × 4 bins. The guiding model
used to determine the bin boundaries is taken from the BaBar study described in ref. [24]. The 2 × 2 binning scheme is chosen, due to the low signal yields in the D →K0
SK+K−
mode. The same choice of bins was used in the LHCb Run 1 analysis [9]. The measurements
of ci and si are not biased by the use of a specific amplitude model in defining the bin
boundaries. The choice of the model only affects this analysis to the extent that a poor
model description of the underlying decay would result in a reduced statistical sensitivity
of the γ measurement. The binning choices for the two decay modes are shown in figure 1. The physics parameters of interest, rB, δB, and γ, are translated into four CP obser-
vables [22] that are measured in this analysis. These observables are defined as x± ≡rB cos(δB ± γ) and y± ≡rB sin(δB ± γ). (2.3) (2.3) It follows from eq. (2.1) that the expected numbers of B+ and B−decays in bin i, N+
i and
N−
i , are given by N+
±i = hB+
h
F∓i + (x2
+ + y2
+)F±i + 2
p
FiF−i(x+c±i −y+s±i)
i
,
N−
±i = hB−
h
F±i + (x2
−+ y2
−)F∓i + 2
p
FiF−i(x−c±i + y−s±i)
i
,
(2.4) (2.4) where Fi are the fractions of decays in bin i of the D0 →K0
Sh+h−Dalitz plot, and hB± are
normalisation factors, which can be different for B+ and B−due to production, detection, – 3 – Figure 1. Binning schemes for (left) D →K0
Sπ+π−decays and (right) D →K0
SK+K−decays. The diagonal line separates the positive and negative bins, where the positive bins are in the region
in which m2
−> m2
+ is satisfied. JHEP08(2018)176 Figure 1. 2
Overview of the analysis Binning schemes for (left) D →K0
Sπ+π−decays and (right) D →K0
SK+K−decays. The diagonal line separates the positive and negative bins, where the positive bins are in the region
in which m2
−> m2
+ is satisfied. and CP asymmetries. In this measurement, the integrated yields are not used to provide
information on x± and y±, and so the analysis is insensitive to such effects. From eq. (2.4)
it is seen that studying the distribution of candidates over the D →K0
Sh+h−Dalitz plot
gives access to the x± and y± observables. The detector and selection requirements placed
on the data lead to a non-uniform efficiency over the Dalitz plot, which affects the Fi
parameters. The efficiency profile for the signal candidates is denoted as η(m2
−, m2
+). +
The parameters Fi can then be expressed as The parameters Fi can then be expressed as Fi =
R
i dm2
−dm2
+|AD(m2
−, m2
+)|2 η(m2
−, m2
+)
P
j
R
j dm2
−dm2
+|AD(m2
−, m2
+)|2 η(m2
−, m2
+) . (2.5) (2.5) The values of Fi are determined from the control decay mode
(
)
B →D∗±µ∓(
)
νµX, where the
D∗−meson decays to D0π−and the D0 meson decays to either the K0
Sπ+π−or K0
SK+K−
final state. The symbol X indicates other particles which may be produced in the decay but
are not reconstructed. Samples of simulated events are used to correct for the small differ-
ences in efficiency arising through unavoidable differences in selecting
(
)
B →D∗±µ∓(
)
νµX
and B± →DK± decays, as discussed further in section 5. In addition to B± →DK± and
(
)
B →D∗±µ∓(
)
νµX candidates, B± →Dπ± decays
are selected. These provide an important control sample that is used to constrain the
invariant-mass shape of the B± →DK± signal, as well as to determine the yield of
B± →Dπ± decays misidentified as B± →DK± candidates. Note that this channel is not
optimal for determining the values of Fi as the small level of CP violation in the decay
leads to a significant systematic uncertainty, as was reported in ref. [30]. This uncertainty
is eliminated when using the flavour-specific semileptonic decay, in favour of a smaller
systematic uncertainty associated with efficiency differences. The effect of D0–D0 mixing was ignored in the above discussion. 3
Detector and simulation The
LHCb
detector
[32,
33]
is
a
single-arm
forward
spectrometer
covering
the
pseudorapidity range 2 < η < 5, designed for the study of particles containing b or c
quarks. The detector includes a high-precision tracking system consisting of a silicon-strip
vertex detector surrounding the pp interaction region, a large-area silicon-strip detector
located upstream of a dipole magnet with a bending power of about 4 Tm, and three sta-
tions of silicon-strip detectors and straw drift tubes placed downstream of the magnet. The polarity of the dipole magnet is reversed periodically throughout data-taking. The
tracking system provides a measurement of momentum, p, of charged particles with relative
uncertainty that varies from 0.5% at low momentum to 1.0% at 200 GeV/c. The minimum
distance of a track to a primary vertex (PV), the impact parameter (IP), is measured with
a resolution of (15+29/pT) µm, where pT is the component of the momentum transverse to
the beam, in GeV/c. Different types of charged hadrons are distinguished using information
from two ring-imaging Cherenkov detectors. Photons, electrons, and hadrons are identi-
fied by a calorimeter system consisting of scintillating-pad and preshower detectors, an
electromagnetic calorimeter and a hadronic calorimeter. Muons are identified by a system
composed of alternating layers of iron and multiwire proportional chambers. JHEP08(2018)176 The online event selection is performed by a trigger, which consists of a hardware stage
based on information from the calorimeter and muon systems, followed by a software stage,
which applies a full event reconstruction. At the hardware trigger stage, events are required
to have a muon with high pT or a hadron, photon or electron with high transverse energy
in the calorimeters. For hadrons, the transverse energy threshold is 3.5 GeV. The software
trigger requires a two-, three- or four-track secondary vertex with a significant displacement
from any primary pp interaction vertex. At least one charged particle must have transverse
momentum pT > 1.6 GeV/c and be inconsistent with originating from a PV. A multivariate
algorithm [34] is used for the identification of secondary vertices consistent with the decay
of a b hadron. Small changes in the trigger thresholds were made throughout both years
of data taking. In the simulation, pp collisions are generated using Pythia 8 [35, 36] with a specific
LHCb configuration [37]. Decays of hadronic particles are described by EvtGen [38],
in which final-state radiation is generated using Photos [39]. 2
Overview of the analysis If the parameters Fi
are obtained from
(
)
B →D∗±µ∓(
)
νµX, where the D∗−decays to D0π−, D0–D0 mixing has
been shown to lead to a bias of approximately 0.2◦in the γ determination [31], which is – 4 – negligible for the current analysis. The effects of CP violation in the neutral kaon system
and of the different nuclear interaction cross-sections for K0 and K0 mesons are discussed
in section 7, where a systematic uncertainty is assigned. 3
Detector and simulation The interaction of the
generated particles with the detector, and its response, are implemented using the Geant4
toolkit [40, 41] as described in ref. [42]. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays Decays of K0
S mesons to the π+π−final state are reconstructed in two categories, the
first containing K0
S mesons that decay early enough for the pions to be reconstructed – 5 – in the vertex detector and the second containing K0
S mesons that decay later such that
track segments of the pions cannot be formed in the vertex detector. These categories
are referred to as long and downstream, respectively. The candidates in the long category
have better mass, momentum and vertex resolution than those in the downstream category. Hereinafter, B± candidates are denoted long or downstream depending on which category
of K0
S candidate they contain. For many of the quantities used in the selection and analysis of the data, a kinematic
fit [43] is imposed on the full B± decay chain. Depending on the quantity being calculated,
the D and K0
S candidates may be constrained to have their known masses [44], as described
below. The fit also constrains the B± candidate momentum vector to point towards the
associated PV, defined as the PV for which the candidate has the smallest IP significance. These constraints improve the resolution of the calculated quantities, and thus help improve
separation between signal and background decays. Furthermore, it improves the resolution
on the Dalitz plot coordinates and ensures that all candidates lie within the kinematically
allowed D →K0
Sh+h−phase space. JHEP08(2018)176 The D (K0
S) candidates are required to be within 25 MeV/c2 (15 MeV/c2) of their known
mass [44]. These requirements are placed on masses obtained using kinematic fits in which
all constraints are applied except for that on the mass under consideration. Combinatorial
background is primarily suppressed through the use of a boosted decision tree (BDT) mul-
tivariate classifier [45, 46]. The BDT is trained on simulated signal events and background
taken from the high B± mass sideband (5800–7000 MeV/c2). Separate BDTs are trained
for the long and downstream categories. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays Each BDT uses the same set of variables: the χ2 of the kinematic fit of the whole
decay chain; p and pT of the companion, D, and B± after the kinematic refit (here and
in the following, companion refers to the final state π± or K± meson produced in the
B± →Dh± decay); the vertex quality of the K0
S, D, and B± candidates; the distance of
closest approach between tracks forming the D and B± vertices; the cosine of the angle
between the momentum vector and the vector between the production and decay vertices
of a given particle, for each of the K0
S, D, and B± candidates; the minimum and maximum
values of the χ2
IP of the pions from both the D and K0
S decays, where χ2
IP is defined
as the difference in χ2 of the PV fit with and without the considered particle; the χ2
IP
for the companion, K0
S, D, and B± candidates; the B± flight-distance significance; the
radial distance from the beamline to the D and B±-candidate vertices; and a B± isolation
variable, which is designed to ensure the B± candidate is well isolated from other tracks
in the event. The B± isolation variable is the asymmetry between the pT of the signal
candidate and the sum of the pT of other tracks in the event that lie within a distance of
1.5 in η–φ space, where φ is the azimuthal angle measured in radians. Candidates in the
data samples that have a BDT output value below a threshold are rejected. An optimal
threshold value is determined for each of the two BDTs, using a series of pseudoexperiments
to obtain the values that provide the best sensitivity to x± and y±. Across all B± →DK±
channels this requirement is found to reject 99.1 % of the combinatorial background in the
high B mass sideband that survives all other requirements, while having an efficiency of
92.4 % on simulated B± →DK± signal samples. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays – 6 – ]
4
/c
2
) [GeV
+
π
0
S
K
(
2
m
1
2
3
]
4
/c
2
) [GeV
−
π
0
S
K
(
2
m
1
2
3
LHCb
]
4
/c
2
) [GeV
−
π
0
S
K
(
2
m
1
2
3
]
4
/c
2
) [GeV
+
π
0
S
K
(
2
m
1
2
3
LHCb
]
4
/c
2
) [GeV
+
K
0
S
K
(
2
m
1
1.5
]
4
/c
2
) [GeV
−
K
0
S
K
(
2
m
1
1.5
LHCb
]
4
/c
2
) [GeV
−
K
0
S
K
(
2
m
1
1.5
]
4
/c
2
) [GeV
+
K
0
S
K
(
2
m
1
1.5
LHCb
Figure 2. Dalitz plots of long and downstream (left) B+ →DK+ and (right) B−→DK−
candidates for (top) D →K0
Sπ+π−and (bottom) D →K0
SK+K−decays in which the reconstructed
invariant mass of the B± candidate is in a region of ±25 MeV/c2 around the B± mass. The narrow
region is chosen to obtain high purity, as no background subtraction has been made. The Dalitz
coordinates are calculated using the results of a kinematic fit in which the D and K0
S masses are
constrained to their known values. The blue lines show the kinematic boundaries of the decays. ]
4
/c
2
) [GeV
+
π
0
S
K
(
2
m
1
2
3
]
4
/c
2
) [GeV
−
π
0
S
K
(
2
m
1
2
3
LHCb ]
4
/c
2
) [GeV
−
π
0
S
K
(
2
m
1
2
3
]
4
/c
2
) [GeV
+
π
0
S
K
(
2
m
1
2
3
LHCb JHEP08(2018)176 ]
4
/c
2
) [GeV
+
K
0
S
K
(
2
m
1
1.5
]
4
/c
2
) [GeV
−
K
0
S
K
(
2
m
1
1.5
LHCb ]
4
/c
2
) [GeV
−
K
0
S
K
(
2
m
1
1.5
]
4
/c
2
) [GeV
+
K
0
S
K
(
2
m
1
1.5
LHCb ]
4
/c
2
) [GeV
+
K
0
S
K
(
2
m
1.5 Figure 2. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays Dalitz plots of long and downstream (left) B+ →DK+ and (right) B−→DK−
candidates for (top) D →K0
Sπ+π−and (bottom) D →K0
SK+K−decays in which the reconstructed
invariant mass of the B± candidate is in a region of ±25 MeV/c2 around the B± mass. The narrow
region is chosen to obtain high purity, as no background subtraction has been made. The Dalitz
coordinates are calculated using the results of a kinematic fit in which the D and K0
S masses are
constrained to their known values. The blue lines show the kinematic boundaries of the decays. Particle identification (PID) requirements are placed on the companion to separate
B± →DK± and B± →Dπ± candidates, and on the charged decay products of the
D meson to remove cross-feed between different D →K0
Sh+h−decays. To ensure good
control of the PID performance it is required that information from the RICH detectors is
present. To remove background from D →π+π−π+π−or D →π+π−K+K−decays, long
K0
S candidates are required to have travelled a significant distance from the D vertex. This
requirement is not necessary for downstream candidates. Similarly, the D decay vertex is
required be significantly displaced from the B± decay vertex in order to remove charmless
B± decays. The Dalitz plots for B± →DK± candidates in a narrow region of ±25 MeV/c2 around
the B± mass are shown in figure 2, for both D →K0
Sh+h−final states samples. Separate – 7 – ]
2
c
) [MeV/
±
K
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
100
200
300
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
]
2
c
) [MeV/
±
π
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
1000
2000
3000
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
]
2
c
) [MeV/
±
K
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
200
400
600
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
]
2
c
) [MeV/
±
π
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
2000
4000
6000
8000
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays reco. LHCb
Figure 3. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates,
with D →K0
Sπ+π−, shown separately for the (top) long and (bottom) downstream K0
S categories. Fit results, including the signal component and background components due to misidentified com-
panions, partially reconstructed decays and combinatorial background, are also shown. JHEP08(2018)176 ]
) [
(
]
2
c
) [MeV/
±
K
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
200
400
600
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb ]
2
c
) [MeV/
±
π
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
2000
4000
6000
8000
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb Figure 3. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates,
with D →K0
Sπ+π−, shown separately for the (top) long and (bottom) downstream K0
S categories. Fit results, including the signal component and background components due to misidentified com-
panions, partially reconstructed decays and combinatorial background, are also shown. plots are shown for B+ and B−decays. The Dalitz coordinates are calculated from the
kinematic fit with all mass constraints applied. In order to determine the parameterisation of the signal and background components
that are used in the fit of partitioned regions of the Dalitz plot described in section 6, an
extended maximum likelihood fit to the invariant-mass distributions of the B± candidates
is performed, in which the B+ and B−candidates in all of the Dalitz bins are combined. The invariant mass of each B± candidate is calculated using the results of a kinematic fit
in which the D and K0
S masses are constrained to their known values. The sample is split
into B± →DK± and B± →Dπ± candidates, by D decay mode and by K0
S category. In
order to allow sharing of some parameters, the fit is performed simultaneously for all of
the above categories. The projections of the fit and the invariant-mass distributions of the
selected B± candidates are shown in figures 3 and 4 for D →K0
Sπ+π−and D →K0
SK+K−
candidates, respectively. The fit range is between 5080 MeV/c2 and 5800 MeV/c2 in the B±
candidate invariant mass. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays – 8 – ]
2
c
) [MeV/
±
K
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
20
40
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
]
2
c
) [MeV/
±
π
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
200
400
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
]
2
c
) [MeV/
±
K
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
50
100
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
]
2
c
) [MeV/
±
π
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
500
1000
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb
Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates,
with D →K0
SK+K−, shown separately for the (top) long and (bottom) downstream K0
S categories. Fit results, including the signal component and background components due to misidentified com-
panions, partially reconstructed decays and combinatorial background, are also shown. JHEP08(2018)176 ]
2
c
) [MeV/
±
K
D
(
m ]
2
c
) [MeV/
±
K
D
(
m
5200
5400
5600
5800
)
2
c
Candidates / (7.5 MeV/
0
50
100
±
K
D
→
±
B
±
π
D
→
±
B
Combinatorial
Part. reco. LHCb Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates,
with D →K0
SK+K−, shown separately for the (top) long and (bottom) downstream K0
S categories. Fit results, including the signal component and background components due to misidentified com-
panions, partially reconstructed decays and combinatorial background, are also shown. Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates,
with D →K0
SK+K−, shown separately for the (top) long and (bottom) downstream K0
S categories. Fit results, including the signal component and background components due to misidentified com-
panions, partially reconstructed decays and combinatorial background, are also shown. Figure 4. Invariant-mass distributions of (left) B± →DK± and (right) B± →Dπ± candidates,
with D →K0
SK+K−, shown separately for the (top) long and (bottom) downstream K0
S categories. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays Different widths are used for the B± →DK± and
B± →Dπ± channels, with their ratio rσ = σDK/σDπ shared between all categories. The
mean is shared among all categories. The yield of B± →Dπ± decays in each K0
S and
D-meson decay category, Ncat(B± →Dπ±), is determined in the fit. Instead of fitting the
yield of B± →DK± decays directly in each category, it is determined from the B± →Dπ±
yield in the corresponding category and the ratio JHEP08(2018)176 R ≡Ncat(B± →DK±)
εcat
PID(B± →DK±)
Ncat(B± →Dπ±)
εcat
PID(B± →Dπ±) ,
(4.5) (4.5) which is a free parameter in the fit. The category-dependent PID efficiencies, εcat
PID(B± →
Dh±), are taken into account, so that a single R parameter can be shared between all
categories in the fit. How these efficiencies are obtained is described below. As the pa-
rameter R is efficiency corrected, it is equal to the ratio of branching fractions between
the B± →DK± and B± →Dπ± decay modes. The measured ratio is found to be
R = (7.66 ± 0.14) %, where the uncertainty is statistical only, and this is consistent with
the expected value of (7.8 ± 0.4) % [44]. The background consists of random track combinations, partially reconstructed B de-
cays, and B± →Dh± decays in which the companion has been misidentified. The random
track combinations are modelled by an exponential PDF. The slopes of the exponentials
are free parameters in the fit to the data. These slopes are independent for each of the
B± →Dπ± categories, while they are shared for the B± →DK± categories to improve
the stability of the fit. When these slopes are allowed to be independent, the fit returns
results that are statistically compatible. In the B± →DK± sample there is a clear contribution from B± →Dπ± decays in
which the companion particle is misidentified as a kaon by the RICH system. The rate for
B± →DK± decays to be misidentified and placed in the B± →Dπ± sample is much lower
due to the reduced branching fraction. Nevertheless, this contribution is still accounted
for in the fit. The yields of these backgrounds are fixed in the fit, using knowledge of
misidentification efficiencies and the fitted yields of reconstructed decays with the correct
particle hypothesis. The misidentification efficiencies are obtained from large samples of
D∗± →
(
)
D 0π±,
(
)
D 0 →K∓π± decays. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays Fit results, including the signal component and background components due to misidentified com-
panions, partially reconstructed decays and combinatorial background, are also shown. The peaks corresponding to actual B± →DK± and B± →Dπ± candidates are fitted
with a sum of two Crystal Ball [47] functions, which are parameterised as CB(m, µ, σ, α, n) ∝
exp
"
−1
2
m −µ
σ
2#
if (m −µ)/σ > −α
A
B −m −µ
σ
−n
otherwise,
(4.1) (4.1) where α > 0, and A =
n
α
n
exp[−α2/2] ,
(4.2)
B = n
α −α . (4.3) (4.2) A =
α
exp[−α /2] ,
(4.2)
B = n
α −α . (4.3) (4.3) The sum is implemented such that the Crystal Ball functions have tails pointing in either
direction. They share a common width, σ, and mean, µ. In practice, the signal probability The sum is implemented such that the Crystal Ball functions have tails pointing in either
direction. They share a common width, σ, and mean, µ. In practice, the signal probability – 9 – density function (PDF) is defined as density function (PDF) is defined as fsignal(m, µ, σ, αL, nL, αR, nR, fCB) fsignal(m, µ, σ, αL, nL, αR, nR, fCB) (4.4) = fCB · CB(m, µ, σ, αL, nL) + (1 −fCB) · CB(m, µ, −σ, αR, nR). (4.4) The tail parameters, nL,R and αL,R, are fixed from simulation, while the other parameters
are left as free parameters in the fit. Separate tail parameters, fCB, and σ are used for
long and downstream candidates. Different widths are used for the B± →DK± and
B± →Dπ± channels, with their ratio rσ = σDK/σDπ shared between all categories. The
mean is shared among all categories. The yield of B± →Dπ± decays in each K0
S and
D-meson decay category, Ncat(B± →Dπ±), is determined in the fit. Instead of fitting the
yield of B± →DK± decays directly in each category, it is determined from the B± →Dπ±
yield in the corresponding category and the ratio The tail parameters, nL,R and αL,R, are fixed from simulation, while the other parameters
are left as free parameters in the fit. Separate tail parameters, fCB, and σ are used for
long and downstream candidates. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays These decays are selected using only kinematic
variables in order to provide pure samples of K∓and π± that are unbiased in the PID
variables. The PID efficiency is parameterised as a function of the companion momentum
and pseudorapidity, and the charged-particle multiplicity in the event. The calibration
sample is weighted so that the distribution of these variables matches that of the candidates
in the signal region of the B± sample, thereby ensuring that the measured PID performance – 10 – is representative for the samples used in this measurement. The efficiency to identify a kaon
correctly is found to be approximately 86 %, while that for a pion is approximately 97 %. The PDFs of the backgrounds due to misidentified companion particles are determined
using data. As an example, consider the case of true B± →Dπ± decays misidentified as
B± →DK± candidates. The sPlot method [48] is used on the B± →Dπ± sample in
order to isolate the contribution from the signal decays. The B± invariant mass is then
calculated using the kaon mass hypothesis for the companion pion, and weighting by PID
efficiencies in order to properly reproduce the kinematic properties of pions misidentified as
kaons in the signal B± →DK± sample. The weighted distribution is fitted with a sum of
two Crystal Ball shapes. The fitted parameters are subsequently fixed in the fit to the B±
invariant-mass spectrum, with the procedure applied separately for long and downstream
candidates. An analogous approach is used to determine the shape of the misidentified
B± →DK± contribution in the B± →Dπ± sample. JHEP08(2018)176 Partially reconstructed b-hadron decays contaminate the sample predominantly at in-
variant masses smaller than that of the signal peak. These decays contain an unrecon-
structed pion or photon, which predominantly comes from an intermediate resonance. There are contributions from B0 →D∗±h∓and B± →D∗0h± decays in all channels
(denoted as B →D∗h± decays), while B± →Dρ± and B± →DK∗± decays contribute
to the B± →Dπ± and B± →DK± channels, respectively. In the B± →DK± channels
there is also a contribution from B0
s →D0π+K−(B0
s →D0π−K+) decays where the
charged pion is not reconstructed. The invariant-mass distributions of these backgrounds
depend on the spin and mass of the missing particle, as described in ref. [49]. The shape
of the background from B0
s decays is based on the results of ref. [50]. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays Additionally, each of
the above backgrounds of B± →Dπ± decays can contribute in the B± →DK± channels
if the pion is misidentified. The inverse contribution is negligible and is neglected. The
shapes for the decays in which a pion is misidentified as a kaon are parameterised with
semi-empirical PDFs formed from sums of Gaussian and error functions. The parameters
of these backgrounds are fixed to the results of fits to data from two-body D decays [49],
where they were obtained with a much larger data sample. However, the width of the reso-
lution function and a shift along the B± mass are allowed to differ in order to accommodate
small differences between the D decay modes. In each of the B± →Dπ± channels, the total yield of the partially reconstructed
background is fitted independently. The relative amount of each B →D∗π∓mode is
fixed from efficiencies obtained from simulation and known branching fractions, while the
fraction of B± →Dρ± decays is left free. In the B± →DK± channels, the yield of
the B0
s →D0π+K−background is fixed relative to the corresponding B± →Dπ± yield,
using efficiencies from simulation and the known branching fraction. The total yield of the
remaining partially reconstructed backgrounds is expressed via a single fraction, Rlow
DK/Dπ,
relative the B± →Dπ± yields. It is free in the fit, and common to all channels after
taking into account the different particle-identification efficiencies. The relative amount of
each B →D∗K∓mode is fixed using efficiencies from simulation and known branching
fractions, while the fraction of B± →DK∗± decays is fixed using the results of ref. [49]. The yields of the partially reconstructed modes with a companion pion misidentified as – 11 – a kaon are fixed via the known PID efficiencies, based on the fitted yield of the partially
reconstructed backgrounds in the corresponding B± →Dπ± channel. In the B± →Dπ± channels, a total signal yield of approximately 56 100 (7750) is
found in the signal region 5249–5319 MeV/c2 of the D →K0
Sπ+π−(D →K0
SK+K−)
channel, 31 % (32 %) of which is in the long K0
S category. The purity in the signal region
is found to be 98.4 % (97.7 %), with the dominant background being combinatorial. 4
Event selection and fit to the invariant-mass spectrum for B± →DK±
and B± →Dπ± decays In the
B± →DK± channels, a total signal yield of approximately 3900 (530) is found in the signal
region of the D →K0
Sπ+π−(D →K0
SK+K−) channel, again finding 31 % (32 %) of the
candidates in the long K0
S category. The purity in the signal region is found to be 81 %. The
dominant background is from misidentified B± →Dπ± decays, which accounts for 66 %
of the background in the signal region. Equal amounts of combinatorial background and
partially reconstructed decays, predominantly including a misidentified companion pion,
make up the remaining background. JHEP08(2018)176 5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays The fit is
performed simultaneously for the two D0 final states and the two K0
S categories with some – 12 – 140
145
150
]
2c
[MeV/
m
∆
0
2000
4000
6000
8000
)
2c
Candidates / (0.1 MeV/
Signal
Combinatorial
pion
Random soft
LHCb 1840
1860
1880
1900
]
2c
[MeV/
)-
π
+
π
0
S
m(K
0
1000
2000
3000
4000
)
2c
Candidates / (1 MeV/
Signal
Combinatorial
pion
Random soft
LHCb
140
145
150
]
2c
[MeV/
m
∆
0
2000
4000
6000
8000
)
2c
Candidates / (0.1 MeV/
Signal
Combinatorial
pion
Random soft
LHCb
Figure 5. Result of the simultaneous fit to
(
)
B →D∗±µ∓(
)
ν µ, D∗± →
(
)
D 0(→K0
Sπ+π−)π±
decays with downstream K0
S candidates, in 2016 data. The projections of the fit result are shown
for (left) m(K0
Sπ+π−) and (right) ∆m. The (blue) total fit PDF is the sum of components describing
(solid red) signal, (dashed black) combinatorial background and (dotted green) random soft pion
background. 1840
1860
1880
1900
]
2c
[MeV/
)-
π
+
π
0
S
m(K
0
1000
2000
3000
4000
)
2c
Candidates / (1 MeV/
Signal
Combinatorial
pion
Random soft
LHCb Figure 5. Result of the simultaneous fit to
(
)
B →D∗±µ∓(
)
ν µ, D∗± →
(
)
D 0(→K0
Sπ+π−)π±
decays with downstream K0
S candidates, in 2016 data. The projections of the fit result are shown
for (left) m(K0
Sπ+π−) and (right) ∆m. The (blue) total fit PDF is the sum of components describing
(solid red) signal, (dashed black) combinatorial background and (dotted green) random soft pion
background. JHEP08(2018)176 parameters allowed to be independent between categories. Candidates selected from data
recorded in 2015 and 2016 are fitted separately, in order to accommodate different trigger
threshold settings that result in slightly different Dalitz plot efficiency profiles. The fit
region is defined by 1830 < m(K0
Sh+h−) < 1910 MeV/c2 and 139.5 < ∆m < 153.0 MeV/c2. Within this m(K0
Sh+h−) range, the ∆m resolution does not vary significantly. The signal is parameterised in ∆m with a sum of two Crystal Ball functions, as for
the B± →Dh± signal. The mean, µ, is shared between all categories, while the other
parameters are different for long and downstream candidates. The tail parameters are
fixed from simulation. 5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays A sample of
(
)
B →D∗±µ∓(
)
νµX, D∗± →
(
)
D π±,
(
)
D →K0
Sh+h−decays is used to deter-
mine the quantities Fi, defined in eq. (2.5), as the expected fractions of D0 decays falling
into the ith Dalitz plot bin, taking into account the efficiency profile of the signal decay. The semileptonic decay of the B meson and the strong-interaction decay of the D∗± meson
allow the flavour of the D0 meson to be determined from the charges of the muon and the
soft pion from the D∗± decay. This particular decay chain, involving a flavour-tagged D0
decay, is chosen due to its high yield, low background level, and low mistag probability. The selection requirements are chosen to minimise changes to the efficiency profile with
respect to those associated with the B± →DK± channels. The selection is identical to that applied in ref. [9], except for a tighter requirement on
the significance of the D0 flight distance that helps to suppress backgrounds from charmless
B decays. To improve the resolution of the distribution of candidates across the Daltiz
plot, the B-decay chain is refitted [43] with the D0 and K0
S candidates constrained to their
known masses. An additional fit, in which only the K0
S mass is constrained, is performed
to improve the D0 and D∗± mass resolution in the invariant-mass fit used to determine
signal yields. The invariant mass of the D0 candidate, m(K0
Sh+h−), and the invariant-mass dif-
ference, ∆m ≡m(K0
Sh+h−π±) −m(K0
Sh+h−), are fitted simultaneously to determine the
signal yields. This two-dimensional parameterisation allows the yield of selected candidates
to be measured in three categories: true D∗± candidates (signal), candidates containing
a true D0 meson but random soft pion (RSP) and candidates formed from random track
combinations that fall within the fit range (combinatorial background). Background con-
tributions from real D∗± decays paired with a random µ are determined to be negligible
by selecting pairs of D∗± mesons and µ± with the same charge. An example projection of m(K0
Sπ+π−) and ∆m is shown in figure 5. The result of a
two-dimensional extended, unbinned, maximum likelihood fit is superimposed. 5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays The combinatorial and RSP backgrounds are both parameterised
with an empirical model given by f(∆m; ∆m0, x, p1, p2) =
1 −exp
−∆m −∆m0
x
∆m
∆m0
p1
+ p2
∆m
∆m0
−1
(5.1) (5.1) for ∆m−∆m0 > 0 and f(∆m) = 0 otherwise, where ∆m0, x, p1, and p2 are free parameters. The parameter ∆m0, which describes the kinematic threshold for a D∗± →
(
)
D 0π± decay, is
shared in all data categories and for both the combinatorial and RSP shapes. The remaining
parameters are determined separately for D →K0
Sπ+π−and D →K0
SK+K−candidates. In the m(K0
Sh+h−) fit, all of the parameters in the signal and RSP PDFs are con-
strained to be the same as both describe a true D0 candidate. These are also fitted with
a sum of two Crystal Ball functions, with the tail parameters fixed from simulation. The
parameters are fitted separately for the D →K0
Sπ+π−and D →K0
SK+K−shapes, due
to the different phase space available in the D0 decay. The combinatorial background is
parameterised by an exponential function in m(K0
Sh+h−). A total signal yield of approximately 113 000 (15 000) D →K0
Sπ+π−(D →K0
SK+K−)
decays is obtained. This is approximately 25 times larger than the B± →DK± yield. In the range surrounding the signal peaks, defined as 1840–1890 (1850–1880) MeV/c2 in
m(K0
Sπ+π−) (m(K0
SK+K−)) and 143.9–146.9 MeV/c2 in ∆m, the background components
account for 2–5 % of the yield depending on the category. – 13 – Figure 6. Example efficiency profiles of (left) B± →Dπ± and (right)
(
)
B →D∗±µ∓(
)
ν µX decays
in the simulation. The top (bottom) plots are for D →K0
Sπ+π−(D →K0
SK+K−) decays. These
plots refer to downstream K0
S candidates under 2016 data taking conditions. The normalisation is
chosen so that the average over the Dalitz plot is unity. JHEP08(2018)176 Figure 6. Example efficiency profiles of (left) B± →Dπ± and (right)
(
)
B →D∗±µ∓(
)
ν µX decays
in the simulation. The top (bottom) plots are for D →K0
Sπ+π−(D →K0
SK+K−) decays. These
plots refer to downstream K0
S candidates under 2016 data taking conditions. The normalisation is
chosen so that the average over the Dalitz plot is unity. 5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays This method of determining the Fi parameters is preferable to using solely the amplitude
models and B± →Dπ± simulated events, since the method is data-driven. The amplitude
models and simulation data enter the correction factor as a ratio, and thus imperfections
in the simulation and the model cancel at first order. The average correction factor over
all bins is approximately 2 % from unity and the largest correction factor is within 7 %. Uncertainties on these correction factors are driven by the size of the simulation samples
and are of a similar size as the corrections themselves. JHEP08(2018)176 5
Event selection and yield determination for
(
)
B →D∗±µ∓(
)
νµ decays The two-dimensional fit in m(K0
Sh+h−) and ∆m of the
(
)
B →D∗±µ∓(
)
νµX decay is
repeated in each Dalitz plot bin with all of the PDF parameters fixed, resulting in a raw
control-mode yield, Ri, for each bin i. The measured Ri are not equivalent to the Fi
fractions required to determine the CP parameters due to unavoidable differences from
selection criteria in the efficiency profiles of the signal and control modes. Examples of the
efficiency profiles from simulation of the downstream candidates in 2016 data are shown in
figure 6. For each Dalitz plot bin i a correction factor ξi is determined to account for these
efficiency differences, defined as ξi ≡
R
i dm2
−dm2
+ |AD(m2
−, m2
+)|2 η(m2
−, m2
+)Dπ
R
i dm2
−dm2
+ |AD(m2
−, m2
+)|2 η(m2
−, m2
+)D∗µ
,
(5.2) (5.2) where η(m2
−, m2
+)Dπ and η(m2
−, m2
+)D∗µ are the efficiency profiles of the B± →Dπ± and
(
)
B →D∗±µ∓(
)
νµX decays, respectively, and are determined from simulation. The B± → – 14 – Dπ± decay mode is used rather than B± →DK± as the simulation is more easily compared
to the data, due to the larger decay rate and the smaller interference between B± →D0π±
and B± →D0π± decays, compared to in the B± →DK± decay mode. It is verified using
simulation that the efficiency profiles of the B± →Dπ± and B± →DK± decays are the
same. The simulated events are generated with a flat distribution across the D →K0
Sh+h−
phase space; hence the distribution of simulated events after triggering, reconstruction and
selection is directly proportional to the efficiency profile. The amplitude models used to
determine the Dalitz plot intensity for the correction factor are those from ref. [23] and
ref. [24] for the D →K0
Sπ+π−and D →K0
SK+K−decays, respectively. The amplitude
models provide a description of the intensity distribution over the Dalitz plot and introduce
no significant model dependence into the analysis. The Fi values can be determined via the
relation Fi = h′ξiRi, where h′ is a normalisation factor such that the sum of all Fi is unity. The Fi values are determined separately for each year of data taking and K0
S category
and are then combined in the fractions observed in the B± →Dπ± signal region in data. 6
Dalitz plot fit to determine the CP -violating parameters x± and y± The Dalitz plot fit is used to measure the CP-violating parameters x± and y±, as introduced
in section 2. Following eq. (2.4), these parameters are determined from the populations of
the B+ and B−Dalitz plot bins, given the external information of the ci and si parame-
ters from CLEO-c data and the values of Fi from the semileptonic control decay modes. Although the absolute numbers of B+ and B−decays integrated over the D Dalitz plot
have some dependence on x± and y±, the sensitivity gained compared to using just the
relations in eq. (2.4) is negligible [51] given the available sample size. Consequently, as
stated previously, the integrated yields are not used to provide information on x± and y±
and the analysis is insensitive to B meson production and detection asymmetries. A simultaneous fit is performed on the B± →Dh± data, split into the two B charges,
the two K0
S categories, the B± →DK± and B± →Dπ± candidates, and the two D →
K0
Sh+h−final states. The invariant mass of each B± candidate is calculated using the
results of a kinematic fit in which the D and K0
S masses are constrained to their known
values. Each category is then divided into the Dalitz plot bins shown in figure 1, where
there are 16 bins for D →K0
Sπ+π−and 4 bins for D →K0
SK+K−. The B± →DK±
and B± →Dπ± samples are fitted simultaneously because the yield of B± →Dπ± signal
in each Dalitz plot bin is used to determine the yield of misidentified candidates in the
corresponding B± →DK± Dalitz plot bin. The PDF parameters for both the signal and
background invariant-mass distributions are fixed to the values determined in the invariant- – 15 – mass fit described in section 4. The B± mass range is reduced to 5150–5800 GeV/c2 to avoid
the need of a detailed description of the shape of the partially reconstructed background. The yields of signal candidates for each bin in the B± →Dπ± sample are free parameters. In each of the B± →DK± channels, the total yield integrated over the Dalitz plot is
a free parameter. The fractional yields in each bin are defined using the expressions for
the Dalitz plot distribution in terms of x±, y±, Fi, ci, and si in eq. (2.4), where the x±
and y± parameters are free and the values of Fi are Gaussian-constrained within their
uncertainties. 6
Dalitz plot fit to determine the CP -violating parameters x± and y± The values of ci and si are fixed to their central values, which is taken
into account as a source of systematic uncertainty. The yields of the component due to
B± →Dπ± decays, where the companion has been misidentified as a kaon, are fixed in
each B± →DK± bin, relative to the yield in the corresponding B± →Dπ± bin, using
the known PID efficiencies. A component for misidentified B± →DK± decays in the
B± →Dπ± channels is not included, as it is found to contribute less than 0.5% of the
yield in the signal region in the global fit described in section 4. The total yield of the
partially reconstructed B± and B0 backgrounds is fitted in each bin, using the same shape
in all bins, with the fractions of each component taken from the global fit. The total yield
of the B0
s →D0π+K−(B0
s →D0π−K+) background is fixed in each channel, using the
results of the global fit. The yield in each bin is then fixed from the Fi parameters, using
the known Dalitz distribution of D0(D0) →K0
Sh+h−decays. The separate treatment of
the partially reconstructed background from B0
s decays is necessary due to the significantly
different Dalitz distribution, arising because only a D0 meson is produced along with a K−
meson, while for the remaining modes, the D meson is either a D0 meson or an admixture
where the D0 component is rB-suppressed. The yield of the combinatorial background in
each bin is a free parameter. In bins in which an auxiliary fit determines the yield of the
partially reconstructed or combinatorial background to be negligible, the corresponding
yields are set to zero to facilitate the calculation of the covariance matrix [52, 53]. JHEP08(2018)176 A large ensemble of pseudoexperiments is performed to validate the fit procedure. In
each pseudoexperiment the numbers and distributions of signal and background candidates
are generated according to the expected distribution in data, and the full fit procedure is
then executed. The input values for x± and y± correspond to γ = 70◦, rB = 0.1, and
δB = 130◦. The uncertainties determined by the fit to data are consistent with the size
of the uncertainties determined by the pseudoexperiments. Small biases are observed in
the central values and are due to the low event yields in some of the bins. 6
Dalitz plot fit to determine the CP -violating parameters x± and y± These biases
are observed to decrease in simulated experiments of larger size. The central values are
corrected for the biases and a systematic uncertainty is assigned, as described in section 7. The CP parameters obtained from the fit are The CP parameters obtained from the fit are x−= ( 9.0 ± 1.7) × 10−2 ,
y−= ( 2.1 ± 2.2) × 10−2 ,
x+ = (−7.7 ± 1.9) × 10−2 ,
y+ = (−1.0 ± 1.9) × 10−2 , where the uncertainties are statistical only. The correlation matrix is shown in table 1. The
total B± →DK± yields in the signal region, where the invariant mass of the B candidate where the uncertainties are statistical only. The correlation matrix is shown in table 1. The
total B± →DK± yields in the signal region, where the invariant mass of the B candidate – 16 – x−
y−
x+
y+
x−
1
−0.21
0.05
0.00
y−
1
−0.01
0.02
x+
1
0.02
y+
1
Table 1. Statistical correlation matrix for the fit to data. x−
y−
x+
y+
x−
1
−0.21
0.05
0.00
y−
1
−0.01
0.02
x+
1
0.02
y+
1
Table 1. Statistical correlation matrix for the fit to data. Table 1. Statistical correlation matrix for the fit to data. Table 1. Statistical correlation matrix for the fit to data. B−→DK−
B+ →DK+
Long
Downstream
Long
Downstream
D →K0
Sπ+π−
602 ± 26
1 315 ± 39
606 ± 26
1 334 ± 39
D →K0
SK+K−
92 ± 10
189 ± 15
82 ± 10
193 ± 15
Table 2. Fit results for the total B± →DK± yields in the signal region, where the invariant mass
of the B candidate is in the interval 5249–5319 MeV/c2, integrated over the Dalitz plots. JHEP08(2018)176 Table 2. Fit results for the total B± →DK± yields in the signal region, where the invariant ma
of the B candidate is in the interval 5249–5319 MeV/c2, integrated over the Dalitz plots. Table 2. Fit results for the total B± →DK± yields in the signal region, where the invariant mass
of the B candidate is in the interval 5249–5319 MeV/c2, integrated over the Dalitz plots. Figure 7. Confidence levels at 68.2%, 95.5% and 99.7% probability for (x+, y+) and (x−, y−) as
measured in B± →DK± decays (statistical uncertainties only). The parameters (x+, y+) relate to
B+ decays and (x−, y−) refer to B−decays. 6
Dalitz plot fit to determine the CP -violating parameters x± and y± (Right) Comparison of the
difference between the B+ and B−yield obtained in the direct fit for each effective bin (points),
the prediction from the central values of x± and y± (solid line), and the prediction assuming no
CP violation (dotted line). Effective bin number
-8 -7 -6 -5 -4 -3 -2 -1 1
2
3
4
5
6
7
8 -2 -1 1
2
−
B
i-
N
-
+
B
i
N
80
−
60
−
40
−
20
−
0
20
40
60
LHCb
−
π
+
π
S
0
K
−
K
+
K
S
0
K Effective bin number
-8 -7 -6 -5 -4 -3 -2 -1 1
2
3
4
5
6
7
8 -2 -1 1
2
−
B
i-
N
+
+
B
i
N
0
100
200
300
400
500
600
700
LHCb
−
π
+
π
S
0
K
−
K
+
K
S
0
K Effective bin number JHEP08(2018)176 Figure 8. (Left) Comparison of total signal yields from the direct fit (points) to those calculated
from the central values of x± and y± (solid line). The yields are given for the effective bin: +i for
B+ and −i for B−, and summed over B charge and K0
S decay category. (Right) Comparison of the
difference between the B+ and B−yield obtained in the direct fit for each effective bin (points),
the prediction from the central values of x± and y± (solid line), and the prediction assuming no
CP violation (dotted line). fit. The yields from the direct fit agree with the prediction with a p-value of 0.33. In
figure 8 (right) the difference Ni
B+ −N−i
B−in each bin is calculated using the results of
the direct fit of the B± →DK± yields. This distribution is compared to that predicted
by the central (x±, y±) values. The measured yield differences are compatible with the
prediction with a p-value of 0.58. In addition, data are fitted with the assumption of no
CP violation by enforcing x+ = x−≡x0 and y+ = y−≡y0. The obtained x0 and y0
values are used to determine the predicted values of Ni
B+ −N−i
B−, which are also shown in
figure 8 (right). This prediction is not zero because the B meson production and various
detection effects can induce a global asymmetry in the measured yields. 6
Dalitz plot fit to determine the CP -violating parameters x± and y± The black dots show the central values obtained in
the fit. Figure 7. Confidence levels at 68.2%, 95.5% and 99.7% probability for (x+, y+) and (x−, y−) as
measured in B± →DK± decays (statistical uncertainties only). The parameters (x+, y+) relate to
B+ decays and (x−, y−) refer to B−decays. The black dots show the central values obtained in
the fit. is in the interval 5249–5319 MeV/c2, are shown in table 2. The measured values of (x±, y±) from the fit to data are displayed in figure 7, along with
their likelihood contours, corresponding to statistical uncertainties only. The systematic
uncertainties are discussed in the next section. The two vectors defined by the coordinates
(x−, y−) and (x+, y+) are not consistent with zero magnitude and they have a non-zero
opening angle. Therefore the data sample exhibits the expected features of CP violation. The opening angle is equal to 2γ, as illustrated in figure 7. In order to assess the goodness of fit, and to demonstrate that the equations in (x±, y±)
provide a good description of data, an alternative fit is performed where the B± →DK±
yields are measured independently in each bin. In figure 8 (left) the obtained yields are
compared with the yields predicted from the values of (x±, y±) obtained in the default – 17 – Effective bin number
-8 -7 -6 -5 -4 -3 -2 -1 1
2
3
4
5
6
7
8 -2 -1 1
2
−
B
i-
N
+
+
B
i
N
0
100
200
300
400
500
600
700
LHCb
−
π
+
π
S
0
K
−
K
+
K
S
0
K
Effective bin number
-8 -7 -6 -5 -4 -3 -2 -1 1
2
3
4
5
6
7
8 -2 -1 1
2
−
B
i-
N
-
+
B
i
N
80
−
60
−
40
−
20
−
0
20
40
60
LHCb
−
π
+
π
S
0
K
−
K
+
K
S
0
K
Figure 8. (Left) Comparison of total signal yields from the direct fit (points) to those calculated
from the central values of x± and y± (solid line). The yields are given for the effective bin: +i for
B+ and −i for B−, and summed over B charge and K0
S decay category. 6
Dalitz plot fit to determine the CP -violating parameters x± and y± The comparison
of the data to this hypothesis yields a p-value of 1 × 10−6, which strongly disfavours the
CP-conserving hypothesis. 7
Systematic uncertainties Systematic uncertainties on the measurements of the x± and y± parameters are evaluated
and are presented in table 3. The source of each systematic uncertainty is described below. The systematic uncertainties are generally determined from an ensemble of pseudoexper-
iments where the simulated data are generated in an alternative configuration and fitted
with the default method. The mean shifts in the fitted values of x± and y± in comparison
to their input values are taken as the systematic uncertainty. The limited precision on (ci, si) coming from the CLEO measurement induces uncer-
tainties on x± and y± [18]. These uncertainties are evaluated by fitting the data multiple
times, each with different (ci, si) values sampled according to their experimental uncertain-
ties and correlations. The resulting widths in the distributions of x± and y± values are
assigned as the systematic uncertainties. Values of (0.4–1.1) × 10−2 are found for the fit
to the full sample. The uncertainties are similar to, but different from, those reported in – 18 – Source
x−
y−
x+
y+
Statistical
1.7
2.2
1.9
1.9
Strong phase measurements
0.4
1.1
0.4
0.9
Efficiency corrections
0.6
0.2
0.6
0.1
Mass fit PDFs
0.2
0.3
0.2
0.3
Different mis-ID shape over Dalitz plot
0.2
0.1
0.1
0.1
Different low mass shape over Dalitz plot
0.1
0.2
0.1
0.1
Uncertainty on B0
s →D0π+K−yield
0.1
0.1
0.1
0.1
Bias correction
0.1
0.1
0.1
0.1
Bin migration
0.1
0.1
0.1
0.1
K0 CP violation and material interaction
0.1
0.2
0.1
0.1
Total experimental systematic uncertainty
0.7
0.5
0.7
0.4
Table 3. Summary of uncertainties for the parameters x± and y±. The various sources of systematic
uncertainties are described in the main text. All entries are given in multiples of 10−2. JHEP08(2018)176 Table 3. Summary of uncertainties for the parameters x± and y±. The various sources of systematic
uncertainties are described in the main text. All entries are given in multiples of 10−2. Table 3. Summary of uncertainties for the parameters x± and y±. The various sources of systemat
uncertainties are described in the main text. All entries are given in multiples of 10−2. ref. [9]. This is as expected since it is found from simulation studies that the (ci, si)-related
uncertainty depends on the particular sample under study. It is found that the uncertain-
ties do become constant when simulated samples with very high signal yields are studied. 7
Systematic uncertainties The uncertainties arising from the CLEO measurements are kept separate from the other
experimental uncertainties. ref. [9]. This is as expected since it is found from simulation studies that the (ci, si)-related
uncertainty depends on the particular sample under study. It is found that the uncertain-
ties do become constant when simulated samples with very high signal yields are studied. The uncertainties arising from the CLEO measurements are kept separate from the other
experimental uncertainties. A systematic uncertainty arises from imperfect modelling in the simulation used to
derive the efficiency correction for the determination of the Fi parameters. As the sim-
ulation enters the correction in a ratio, it is expected that imperfections cancel to first
order. To determine the residual systematic uncertainty associated with this correction,
an additional set of correction factors is calculated and used to evaluate an alternative set
of Fi parameters. To determine this additional factor, a new rectangular binning scheme
is used, which is shown in figure 9. The bin-to-bin efficiency variation in this rectangu-
lar scheme is significantly larger than for the default partitioning and is more sensitive to
imperfections in the simulated data efficiency profile. The yields of the B± →Dπ± and
(
)
B →D∗±µ∓(
)
νµX decays in each bin of the rectangular scheme are compared to the pre-
dictions from the amplitude model and the simulated data efficiency profile. The usage of
the rectangular binning also helps to dilute the small level of CP violation in B± →Dπ±
such that differences from this comparison will come primarily from efficiency effects. The
alternative correction factors ξalt
i
are calculated as ξalt
i
=
R
i dm2
−dm2
+η(m2
−, m2
+)Dπ |AD(m2
−, m2
+)|2 CDπ(m2
−, m2
+)
R
i dm2
−dm2
+η(m2
−, m2
+)D∗µ |AD(m2
−, m2
+)|2 CD∗µ(m2
−, m2
+) ,
(7.1) (7.1) where the C(m2
−, m2
+) terms are the ratios between the predicted and observed data yields
in the rectangular bins. Many pseudoexperiments are performed, in which the data are
generated according to the alternative Fi parameters and then fitted with the default Fi
parameters. The overall shift in the fitted values of the CP parameters in comparison to – 19 – Figure 9. Rectangular binning schemes for (left) D →K0
Sπ+π−decays and (right) D →K0
SK+K−
decays. 7
Systematic uncertainties The diagonal line separates the positive and negative bins, where the positive bins are in
the region in which m2
−> m2
+ is satisfied. JHEP08(2018)176 Figure 9. Rectangular binning schemes for (left) D →K0
Sπ+π−decays and (right) D →K0
SK+K−
decays. The diagonal line separates the positive and negative bins, where the positive bins are in
the region in which m2
−> m2
+ is satisfied. their input values is taken as the systematic uncertainty, yielding 0.6 × 10−2 for x± and
0.1(0.2) × 10−2 for y+ (y−). Various effects are considered to assign an uncertainty for the imperfections in the
description of the invariant-mass spectrum. For the PDF used to fit the signal, the param-
eters of the PDF used in the binned fit are varied according to the uncertainties obtained
in the global fit. An alternative shape is also tested. The global fit is repeated with the
mean and width of the shape used to describe the background due to misidentified compan-
ions allowed to vary freely. The results are used to generate data sets with an alternative
PDF, and fit them using the default setup. The description of the partially reconstructed
background is changed to a shape obtained from a fit of the PDF to simulated decays. The slope of the exponential used to fit the combinatorial background is also fluctuated
according to the uncertainty obtained in the global fit. The contributions from each change
are summed in quadrature and are 0.2×10−2 for each of the x± parameters and 0.3×10−2
for each of the y± parameters. Two systematic uncertainties associated with the misidentified B± →Dπ± background
in the B± →DK± sample are considered. First, the uncertainties on the particle misiden-
tification probabilities are found to have a negligible effect on the measured values of x±
and y±. Second, it is possible that the invariant-mass distribution of the misidentified
background (the mis-ID shape) is not uniform over the Dalitz plot, as assumed in the
fit. This can occur through kinematic correlations between the reconstruction efficiency
across the Dalitz plot of the D decay and the momentum of the companion pion from the
B± decay. Alternative mass shapes are constructed by repeating the procedure used to
obtain the default shape for each Dalitz bin individually. 7
Systematic uncertainties The alternative shapes are used
when generating data sets for pseudoexperiments, and the fits then performed assuming a
single shape, as in the fit to data. The resulting uncertainty is at most 0.2 × 10−2 for all
CP parameters. In the fit to the data, the relative contributions of the partially reconstructed B± – 20 – and B0 backgrounds are kept the same in each Dalitz bin. This is a simplification as
some partially reconstructed backgrounds will be distributed as D0(D0) →K0
Sh+h−for
reconstructed B−(B+) candidates, while partially reconstructed B± →D(∗)K(∗)± de-
cays will be distributed as a D0 −D0 admixture depending on the relevant CP violation
parameters. Pseudoexperiments are generated, where the D-decay Dalitz plot distribu-
tion for B± →D∗K+ is based on the CP parameters reported in ref. [54] and those for
B± →DK∗+ are taken from ref. [55]. The generated samples are fitted with the standard
method. The resulting uncertainty is at most 0.2 × 10−2 for all CP parameters. The total yield of the B0
s →D0π+K−background in the B± →DK± channels is
fixed relative to the corresponding B± →Dπ± yield. The systematic uncertainty due to
the uncertainty on the relative rate is estimated via pseudoexperiments, where data sets
are generated with the rate varied by ±1σ and fitted using the default value. The maximal
mean bias for each parameter is taken as the uncertainty. The resulting uncertainty is
0.1 × 10−2 for all CP parameters. JHEP08(2018)176 An uncertainty is assigned to each CP parameter to accompany the correction that is
applied for the small bias observed in the fit procedure. These uncertainties are determined
by performing sets of pseudoexperiments, each generated with different values of x± and
y± throughout a range around the values predicted by the world averages. The spread
in observed bias is combined in quadrature with the uncertainty in the precision of the
pseudoexperiments. This is taken as the systematic uncertainty and is 0.1 × 10−2 for all
CP parameters. The systematic uncertainty from the effect of candidates being assigned the wrong
Dalitz bin number is considered. The resolution in m2
+ and m2
−is approximately
0.006 GeV2/c4 for candidates with long K0
S decays and 0.007 GeV2/c4 for candidates with
downstream K0
S decays. 7
Systematic uncertainties While this is small compared to the typical width of a bin, net mi-
gration can occur in regions where the presence of resonances cause the density to change
rapidly. To first order this effect is accounted for by use of the control channel. How-
ever, differences in the distributions of the Dalitz plots due to efficiency differences or the
nonzero value of rB in the signal decay may cause residual effects. The uncertainty from
this is determined via pseudoexperiments, in which different input Fi values are used to
reflect the residual migration. The size of any possible bias is found to be 0.1 × 10−2 for
all CP parameters. There is a systematic uncertainty related to CP violation in the neutral kaon system due
to the fact that the K0
S state is not an exact CP eigenstate and, separately, due to different
nuclear interaction cross-sections of the K0 and K0 mesons. The measurement is insensitive
to global asymmetries, but is affected by the different Dalitz distributions of D →K0
Sh−h+
and D →K0
Lh−h+ decays, as well as any correlations between Dalitz coordinates and the
net material interaction. The potential bias on x± and y± is assessed using a series of
pseudoexperiments, where data are generated taking the effects into account and fitted
using the default fit. The D →K0
Lh−h+ Dalitz distribution is estimated by transforming
an amplitude model of D →K0
Sh−h+ [22], following arguments and assumptions laid out
in ref. [18]. The effect of material interaction is treated using the formalism described in
ref. [56]. The size of the potential bias is found to be ≤0.2 × 10−2 for all CP parameters,
corresponding to a bias on γ of approximately 0.8◦, which is within expected limits [57]. – 21 – x−
y−
x+
y+
x−
1
−0.25
0.43
−0.09
y−
1
−0.20
−0.05
x+
1
0.14
y+
1
Table 4. Correlation matrix of the experimental and strong-phase related systematic uncertainties. Table 4. Correlation matrix of the experimental and strong-phase related systematic uncertaintie able 4. Correlation matrix of the experimental and strong-phase related systematic uncertainties. JHEP08(2018)176 The nonuniform efficiency profile over the Dalitz plot means that the values of (ci, si)
appropriate for this analysis can differ from those measured by the CLEO collaboration,
which correspond to the constant-efficiency case. 7
Systematic uncertainties Amplitude models are used to calculate
the values of ci and si both with and without the efficiency profiles determined from
simulation. The models are taken from ref. [23] for D →K0
Sπ+π−decays and from ref. [24]
for D →K0
SK+K−decays. The difference is taken as an estimate of the size of this effect. Pseudoexperiments are generated in which the values have been shifted by this difference,
and then fitted with the default (ci, si) values. The resulting bias on x± and y± is found
to be negligible. The effect that a detection asymmetry between hadrons of opposite charge can have
on the symmetry of the efficiency across the Dalitz plot is found to be negligible. Changes
in the mass model used to describe the semileptonic control sample are also found to have
a negligible effect on the Fi values. Finally, several checks are conducted to assess the stability of the results. These
include repeating the fits separately for both K0
S categories, for each data-taking year, and
by splitting the candidates depending on whether the hardware trigger decision was due to
particles in the signal-candidate decay chain or other particles produced in the pp collision. No anomalies are found and no additional systematic uncertainties are assigned. In total the systematic uncertainties are less than half of the corresponding statistical
uncertainties. The correlation matrix obtained for the combined effect of the sources of
experimental and strong-phase related systematic uncertainties is given in table 4. The CP observables are measured to be The CP observables are measured to be x−= ( 9.0 ± 1.7 ± 0.7 ± 0.4) × 10−2,
y−= ( 2.1 ± 2.2 ± 0.5 ± 1.1) × 10−2,
x+ = (−7.7 ± 1.9 ± 0.7 ± 0.4) × 10−2,
y+ = (−1.0 ± 1.9 ± 0.4 ± 0.9) × 10−2, where the first uncertainty is statistical, the second is the total experimental systematic
uncertainty and the third is that arising from the precision of the CLEO measurements. where the first uncertainty is statistical, the second is the total experimental systematic
uncertainty and the third is that arising from the precision of the CLEO measurements. – 22 – ±
x
±
y
0.2
−
0.1
−
0
0.1
0.2
0.2
−
0.1
−
0
0.1
0.2
2015 & 2016 data
LHCb Combination
LHCb
+
B
−
B
Figure 10. Two-dimensional 68.3 %, 95.5 % and 99.7 % confidence regions for (x±, y±) obtained in
this measurement, as well as for the LHCb combination in ref. [54], taking statistical and systematic
uncertainties, as well as their correlations, into account. JHEP08(2018)176 Figure 10. Two-dimensional 68.3 %, 95.5 % and 99.7 % confidence regions for (x±, y±) obtained in
this measurement, as well as for the LHCb combination in ref. [54], taking statistical and systematic
uncertainties, as well as their correlations, into account. The signature for CP violation is that (x+, y+) ̸= (x−, y−). The distance between
(x+, y+) and (x−, y−) is calculated, taking all uncertainties and correlations into account,
and found to be |(x+, y+)−(x−, y−)| = (17.0±2.7)×10−2, which is different from zero by 6.4
standard deviations. This constitutes the first observation of CP violation in B± →DK±
decays for the D →K0
Sh+h−final states. These results are compared to the expected central values of x± and y± that can be
computed from rB, δB, and γ as determined in the LHCb combination in ref. [54], and the
results are shown in figure 10 (the later LHCb combination in ref. [58] includes the results
of this measurement and is therefore unsuitable for comparison). The two sets of (x+, y+)
are in agreement within 1.6 standard deviations when the uncertainties and correlations
of both the LHCb combination and this measurement are taken into account. There is
a 2.7 standard deviation tension between the measured values of (x−, y−) and the values
calculated from the LHCb combination. The CP observables are measured to be This tension will be investigated further when this
measurement and the LHCb combination are updated using data taken in 2017 and 2018. The results for x± and y± are interpreted in terms of the underlying physics parameters
γ, rB and δB. The interpretation is done via a maximum likelihood fit using a frequentist
treatment as described in ref. [59]. The solution for the physics parameters has a two-fold
ambiguity as the equations are invariant under the simultaneous substitutions γ →γ+180◦
and δB →δB +180◦. The solution that satisfies 0 < γ < 180◦is chosen. The central values
and 68% (95%) confidence intervals, calculated with the PLUGIN [60] method, are γ = 87◦+11◦
−12◦
+22◦
−23◦
,
rB = 0.086 +0.013
−0.014
+0.025
−0.027
,
δB = 101◦+11◦
−11◦
+22◦
−23◦
. γ = 87◦+11◦
−12◦
+22◦
−23◦
, – 23 – The values for γ and rB are consistent with those presented in ref. [54]. This is the most
precise measurement of γ from a single analysis. The value of δB shows some disagreement
with ref. [54], where the angle is determined to be
139.9 +4.8
−5.2
◦. The values of x±, y± measured in this analysis can be combined with those from the
corresponding analysis of Run 1 data [9]. This procedure is done via a maximum likelihood
fit, as implemented in the gammacombo package [59]. The previous measurements are iden-
tified by the index I, and the results within this paper are identified by the index II. When
combining the two results, the fit determines the (ˆx±, ˆy±) parameters that maximize the
multivariate Gaussian likelihood function JHEP08(2018)176 L(z|ˆz) = ((2π)8|Σ|)−1/2 exp
−1
2(z −ˆz)T Σ−1(z −ˆz)
,
(8.1) (8.1) where z = (xI
±, yI
±, xII
±, yII
±)T and ˆz = (ˆx±, ˆy±, ˆx±, ˆy±)T are 8 × 1 vectors and Σ is the 8 × 8
covariance matrix where z = (xI
±, yI
±, xII
±, yII
±)T and ˆz = (ˆx±, ˆy±, ˆx±, ˆy±)T are 8 × 1 vectors and Σ is the 8 ×
covariance matrix where z = (xI
±, yI
±, xII
±, yII
±)T and ˆz = (ˆx±, ˆy±, ˆx±, ˆy±)T are 8 × 1 vectors and Σ is the 8 × 8
covariance matrix Σ =
ΣI
ΣI–II
ΣII–I ΣII
! . The CP observables are measured to be (8.2) (8.2) The covariance matrix is expressed in terms of the covariance matrices obtained for the
individual measurements, ΣI and ΣII, and the cross-covariance matrix ΣI–II describing
correlations between the measurements. The covariance matrix for this measurement, ΣII,
is calculated using the total statistical and systematic uncertainties, and the correlation
matrices in tables 1 and 4. The covariance matrix for the Run 1 measurement, ΣI, is taken
from ref. [9], where it was calculated taking strong-phase-related correlations into account,
but treating the experimental systematic uncertainties as uncorrelated. The impact of
using the correlation matrix in table 4 for these instead is found to be negligible. The dominant uncertainty in both measurements is the statistical uncertainty. As
the measurements use independent data sets, the statistical uncertainties are uncorrelated. The cross-correlations of the systematic errors between measurements due to the strong
phase inputs are obtained from the results of a series of fits to the two data sets in which
the strong phases are varied identically. This mirrors the procedure used to evaluate the
uncertainties within a single data set. The obtained cross-correlations between the fit
results are given in table 5. The elements on the diagonal do not have unit value because
the obtained correlations depend on the specific data sets for the two measurements. The combination is performed assuming full correlation between the non-strong-phase
related experimental systematic uncertainties in Run 1 and this measurement. The cor-
relation matrix for the experimental uncertainties of this analysis is used as the cross-run
correlation of the experimental systematic uncertainties. The complete correlation matrix
for the experimental and strong-phase-related systematic uncertainties is given in table 6. The impact on the combination due to different assumptions on the cross-correlations of
the systematic uncertainties is found to be negligible. This is unsurprising as both mea-
surements remain limited in precision by their statistical uncertainties. The central values, – 24 – CLEO cross-run correlation matrix
xII
−
yII
−
xII
+
yII
+
xI
−
0.02
0.35
−0.32
−0.21
yI
−
0.45
−0.23
0.03
−0.28
xI
+
−0.19
0.01
0.55
−0.22
yI
+
−0.30
−0.28
0.13
0.48
Table 5. Correlation matrix between Run 1 results (I) and the results presented in this paper (II),
when fitting data while varying the inputs from the CLEO collaboration in a correlated way. Table 5. The CP observables are measured to be Correlation matrix between Run 1 results (I) and the results presented in this paper (II
when fitting data while varying the inputs from the CLEO collaboration in a correlated way. JHEP08(2018)176 Total systematic cross-run correlation matrix
xII
−
yII
−
xII
+
yII
+
xI
−
0.76
0.04
0.55
0.02
yI
−
0.14
−0.06
−0.13
−0.25
xI
+
0.58
−0.19
0.91
0.05
yI
+
−0.05
−0.24
0.17
0.55 Table 6. Total correlation matrix for the systematic uncertainties of the Run 1 results (I) and
the results presented in this paper (II), including experimental and strong phase related systematic
uncertainties. Table 6. Total correlation matrix for the systematic uncertainties of the Run 1 results (I) and
the results presented in this paper (II), including experimental and strong phase related systematic
uncertainties. ong with the combined statistical and systematic uncertainties for this combination are along with the combined statistical and systematic uncertainties for this combination ar < x−> = ( 7.0 ± 1.7) × 10−2,
< y−> = ( 4.1 ± 2.0) × 10−2,
< x+ > = (−7.8 ± 1.7) × 10−2,
< y+ > = (−1.4 ± 1.7) × 10−2. < x−> = ( 7.0 ± 1.7) × 10−2,
< y−> = ( 4.1 ± 2.0) × 10−2,
< x+ > = (−7.8 ± 1.7) × 10−2,
< y+ > = (−1.4 ± 1.7) × 10−2. The interpretation in terms of the underlying physics parameters is performed on the
combined values of x± and y± and the central values and their 68% (95%) confidence
intervals are γ = 80◦+10◦
−9◦
+19◦
−18◦
,
rB = 0.080 +0.011
−0.011
+0.022
−0.023
,
δB = 110◦+10◦
−10◦
+19◦
−20◦
. The results of the interpretation for both the combined and individual data sets are shown
in figure 11, where the projections of the three-dimensional surfaces bounding the one
and two standard deviation volumes on the (γ, rB) and (γ, δB) planes are shown. The
uncertainty on γ is inversely proportional to rB. Therefore the lower central value of rB
in the combined results lead to a larger than naively expected uncertainty on γ when
both data sets are used. 9
Conclusions Approximately 4100 (560) B± →DK± decays with the D meson decaying to K0
Sπ+π−
(K0
SK+K−) are selected from data corresponding to an integrated luminosity of 2.0 fb−1
collected with the LHCb detector in 2015 and 2016. These samples are analysed to deter-
mine the CP-violating parameters x± ≡rB cos(δB ± γ) and y± ≡rB sin(δB ± γ), where rB
is the ratio of the absolute values of the B+ →D0K−and B+ →D0K−amplitudes, δB is
their strong-phase differences, and γ is an angle of the Unitarity Triangle. The analysis is
performed in bins of the D-decay Dalitz plot and existing measurements performed by the
CLEO collaboration [18] are used to provide input on the D-decay strong-phase parameters
(ci, si). Such an approach allows the analysis to be free from model-dependent assumptions
on the strong-phase variation across the Dalitz plot. This paper also gives the combination
with the results obtained with an earlier data set, thereby allowing further improvements
in the precision on γ. Considering only the data collected in 2015 and 2016 and choosing
the solution that satisfies 0 < γ < 180◦yields rB = 0.086+0.013
−0.014, δB = (101 ± 11)◦, and
γ = (87+11
−12)◦. The values of rB and γ are consistent with world averages, while there is
some tension in the determined value of δB. This could be resolved by future analyses of
the B →DK mode in a variety of D decays, including those analysed here, utilising the
data set that is being collected with LHCb in 2017 and 2018. The measurement reported
in this paper represents the most precise determination of γ from a single analysis. The CP observables are measured to be The contribution of each source of uncertainty are estimated by The results of the interpretation for both the combined and individual data sets are shown
in figure 11, where the projections of the three-dimensional surfaces bounding the one
and two standard deviation volumes on the (γ, rB) and (γ, δB) planes are shown. The
uncertainty on γ is inversely proportional to rB. Therefore the lower central value of rB
in the combined results lead to a larger than naively expected uncertainty on γ when
both data sets are used. The contribution of each source of uncertainty are estimated by – 25 – ]°
[
γ
B
r
0
60
120
180
0.05
0.1
0.15
0.2
Run 1
2015 & 2016 data
Combined result
LHCb
]°
[
γ
]°
[
B
δ
0
60
120
180
0
60
120
180
Run 1
2015 & 2016 data
Combined result
LHCb
Figure 11. Two-dimensional 68.3 % and 95.5 % confidence regions for (γ, rB, δB) for the x±, y±
parameters obtained in the fit to 2015 and 2016 data, the fit to Run 1 data, and their combinations. ]°
[
γ
B
r
0
60
120
180
0.05
0.1
0.15
0.2
Run 1
2015 & 2016 data
Combined result
LHCb ]°
[
γ
]°
[
B
δ
0
60
120
180
0
60
120
180
Run 1
2015 & 2016 data
Combined result
LHCb JHEP08(2018)176 Figure 11. Two-dimensional 68.3 % and 95.5 % confidence regions for (γ, rB, δB) for the x±, y±
parameters obtained in the fit to 2015 and 2016 data, the fit to Run 1 data, and their combinations. performing the combination while taking only subsets of the uncertainties into account. It
is found that the statistical uncertainty on γ is 8.5◦, the uncertainty due to strong-phase
inputs is 4◦, and the uncertainty due to experimental systematic effects is 2◦. Acknowledgments This article is distributed under the terms of the Creative Commons
Attribution License (CC-BY 4.0), which permits any use, distribution and reproduction in
any medium, provided the original author(s) and source are credited. Acknowledgments We express our gratitude to our colleagues in the CERN accelerator departments for the
excellent performance of the LHC. We thank the technical and administrative staffat the
LHCb institutes. We acknowledge support from CERN and from the national agencies: – 26 – CAPES, CNPq, FAPERJ and FINEP (Brazil); MOST and NSFC (China); CNRS/IN2P3
(France); BMBF, DFG and MPG (Germany); INFN (Italy); NWO (Netherlands); MNiSW
and NCN (Poland); MEN/IFA (Romania); MinES and FASO (Russia); MinECo (Spain);
SNSF and SER (Switzerland); NASU (Ukraine); STFC (United Kingdom); NSF (U.S.A.). We acknowledge the computing resources that are provided by CERN, IN2P3 (France), KIT
and DESY (Germany), INFN (Italy), SURF (Netherlands), PIC (Spain), GridPP (United
Kingdom), RRCKI and Yandex LLC (Russia), CSCS (Switzerland), IFIN-HH (Romania),
CBPF (Brazil), PL-GRID (Poland) and OSC (U.S.A.). We are indebted to the communities
behind the multiple open-source software packages on which we depend. Individual groups
or members have received support from AvH Foundation (Germany), EPLANET, Marie
Sk lodowska-Curie Actions and ERC (European Union), ANR, Labex P2IO and OCEVU,
and R´egion Auvergne-Rhˆone-Alpes (France), Key Research Program of Frontier Sciences
of CAS, CAS PIFI, and the Thousand Talents Program (China), RFBR, RSF and Yandex
LLC (Russia), GVA, XuntaGal and GENCAT (Spain), Herchel Smith Fund, the Royal
Society, the English-Speaking Union and the Leverhulme Trust (United Kingdom). CAPES, CNPq, FAPERJ and FINEP (Brazil); MOST and NSFC (China); CNRS/IN2P3
(France); BMBF, DFG and MPG (Germany); INFN (Italy); NWO (Netherlands); MNiSW
and NCN (Poland); MEN/IFA (Romania); MinES and FASO (Russia); MinECo (Spain);
SNSF and SER (Switzerland); NASU (Ukraine); STFC (United Kingdom); NSF (U.S.A.). We acknowledge the computing resources that are provided by CERN, IN2P3 (France), KIT
and DESY (Germany), INFN (Italy), SURF (Netherlands), PIC (Spain), GridPP (United
Kingdom), RRCKI and Yandex LLC (Russia), CSCS (Switzerland), IFIN-HH (Romania),
CBPF (Brazil), PL-GRID (Poland) and OSC (U.S.A.). We are indebted to the communities
behind the multiple open-source software packages on which we depend. Individual groups
or members have received support from AvH Foundation (Germany), EPLANET, Marie
Sk lodowska-Curie Actions and ERC (European Union), ANR, Labex P2IO and OCEVU,
and R´egion Auvergne-Rhˆone-Alpes (France), Key Research Program of Frontier Sciences
of CAS, CAS PIFI, and the Thousand Talents Program (China), RFBR, RSF and Yandex
LLC (Russia), GVA, XuntaGal and GENCAT (Spain), Herchel Smith Fund, the Royal
Society, the English-Speaking Union and the Leverhulme Trust (United Kingdom). JHEP08(2018)176 Open Access. References [1] N. Cabibbo, Unitary symmetry and leptonic decays, Phys. Rev. Lett. 10 (1963) 531 [INSPIRE]. [2] M. Kobayashi and T. Maskawa, CP violation in the renormalizable theory of weak
interaction, Prog. Theor. Phys. 49 (1973) 652 [INSPIRE]. [3] J. Brod and J. Zupan, The ultimate theoretical error on γ from B →DK decays, JHEP 01
(2014) 051 [arXiv:1308.5663] [INSPIRE]. [4] HFLAV collaboration, Y. Amhis et al., Averages of b-hadron, c-hadron and τ-lepton
properties as of summer 2016, Eur. Phys. J. C 77 (2017) 895 [arXiv:1612.07233] [INSPIRE]. [5] D. Atwood, I. Dunietz and A. Soni, Improved methods for observing CP-violation in
B± →KD and measuring the CKM phase gamma, Phys. Rev. D 63 (2001) 036005
[hep-ph/0008090] [INSPIRE]. [6] A. Giri, Y. Grossman, A. Soffer and J. Zupan, Determining gamma using B± →DK± with
multibody D decays, Phys. Rev. D 68 (2003) 054018 [hep-ph/0303187] [INSPIRE]. [7] A. Bondar, Proceedings of BINP special analysis meeting on Dalitz analysis, September
24–26 (2002), unpublished. [8] LHCb collaboration, A study of CP-violation in B± →DK± and B± →Dπ± decays with
D →K0
SK±π∓final states, Phys. Lett. B 733 (2014) 36 [arXiv:1402.2982] [INSPIRE]. [9] LHCb collaboration, Measurement of the CKM angle γ using B± →DK± with
D →K0
Sπ+π−, K0
SK+K−decays, JHEP 10 (2014) 097 [arXiv:1408.2748] [INSPIRE]. [10] LHCb collaboration, A study of CP violation in B∓→Dh∓(h = K, π) with the modes
D →K∓π±π0, D →π+π−π0 and D →K+K−π0, Phys. Rev. D 91 (2015) 112014
[arXiv:1504.05442] [INSPIRE]. – 27 – [11] LHCb collaboration, Measurement of CP observables in B± →DK± and B± →Dπ± with
two- and four-body D decays, Phys. Lett. B 760 (2016) 117 [arXiv:1603.08993] [INSPIRE]. [12] LHCb collaboration, Measurement of CP-violation parameters in B0 →DK∗0 decays, Phys. Rev. D 90 (2014) 112002 [arXiv:1407.8136] [INSPIRE]. [13] LHCb collaboration, Measurement of CP asymmetry in B0
s →D∓
s K± decays, JHEP 11
(2014) 060 [arXiv:1407.6127] [INSPIRE]. [14] LHCb collaboration, Study of B−→DK−π+π−and B−→Dπ−π+π−decays and
determination of the CKM angle γ, Phys. Rev. D 92 (2015) 112005 [arXiv:1505.07044]
[INSPIRE]. JHEP08(2018)176 JHEP08(2018)176 [15] LHCb collaboration, Constraints on the unitarity triangle angle γ from Dalitz plot analysis
of B0 →DK+π−decays, Phys. Rev. D 93 (2016) 112018 [arXiv:1602.03455] [INSPIRE]. [16] A. Bondar and A. Poluektov, Feasibility study of model-independent approach to φ3
measurement using Dalitz plot analysis, Eur. Phys. J. C 47 (2006) 347 [hep-ph/0510246]
[INSPIRE]. [17] A. Bondar and A. References Poluektov, The Use of quantum-correlated D0 decays for φ3 measurement,
Eur. Phys. J. C 55 (2008) 51 [arXiv:0801.0840] [INSPIRE]. [18] CLEO collaboration, J. Libby et al., Model-independent determination of the strong-phase
difference between D0 and ¯D0 →K0
S,Lh+h−(h = π, K) and its impact on the measurement
of the CKM angle γ/φ3, Phys. Rev. D 82 (2010) 112006 [arXiv:1010.2817] [INSPIRE]. [19] Belle collaboration, H. Aihara et al., First Measurement of φ3 with a model-independent
Dalitz plot analysis of B →DK, D →K0
Sπ+π−decay, Phys. Rev. D 85 (2012) 112014
[arXiv:1204.6561] [INSPIRE]. [20] Belle collaboration, K. Negishi et al., First model-independent Dalitz analysis of
B0 →DK∗0, D →K0
Sπ+π−decay, PTEP 2016 (2016) 043C01 [arXiv:1509.01098]
[INSPIRE]. [21] LHCb collaboration, Model-independent measurement of the CKM angle γ using
B0 →DK∗0 decays with D →K0
Sπ+π−and K0
SK+K−, JHEP 06 (2016) 131
[arXiv:1604.01525] [INSPIRE]. [22] BaBar collaboration, B. Aubert et al., Measurement of γ in B∓→D(∗)K∓decays with a
Dalitz analysis of D →K0
Sπ−π+, Phys. Rev. Lett. 95 (2005) 121802 [hep-ex/0504039]
[INSPIRE]. [23] BaBar collaboration, B. Aubert et al., Improved measurement of the CKM angle γ in
B∓→D(∗)K(∗∓) decays with a Dalitz plot analysis of D decays to K0
Sπ+π−and K0
SK+K−,
Phys. Rev. D 78 (2008) 034023 [arXiv:0804.2089] [INSPIRE]. [24] BaBar collaboration, P. del Amo Sanchez et al., Evidence for direct CP-violation in the
measurement of the Cabibbo-Kobayashi-Maskawa angle gamma with B± →D(∗)K(∗)∓
decays, Phys. Rev. Lett. 105 (2010) 121801 [arXiv:1005.1096] [INSPIRE]. [25] Belle collaboration, A. Poluektov et al., Measurement of φ3 with Dalitz plot analysis of
B± →D(∗)K± decay, Phys. Rev. D 70 (2004) 072003 [hep-ex/0406067] [INSPIRE]. [26] Belle collaboration, A. Poluektov et al., Measurement of φ3 with Dalitz plot analysis of
B+ →D(∗)K(∗)+ decay, Phys. Rev. D 73 (2006) 112009 [hep-ex/0604054] [INSPIRE]. – 28 – [27] Belle collaboration, A. Poluektov et al., Evidence for direct CP-violation in the decay
B →D(∗)K±, D →K0
Sπ+π−and measurement of the CKM phase φ3, Phys. Rev. D 81
(2010) 112002 [arXiv:1003.3360] [INSPIRE]. [28] LHCb collaboration, Measurement of CP violation and constraints on the CKM angle γ in
B± →DK± with D →K0
Sπ+π−decays, Nucl. Phys. B 888 (2014) 169 [arXiv:1407.6211]
[INSPIRE]. [29] M. Battaglieri et al., Analysis tools for next-generation hadron spectroscopy experiments,
Acta Phys. Polon. B 46 (2015) 257 [arXiv:1412.6393] [INSPIRE]. References [30] LHCb collaboration, A model-independent Dalitz plot analysis of B± →DK± with
D →K0
Sh+h−(h = π, K) decays and constraints on the CKM angle γ, Phys. Lett. B 718
(2012) 43 [arXiv:1209.5869] [INSPIRE]. JHEP08(2018)176 [31] A. Bondar, A. Poluektov and V. Vorobiev, Charm mixing in the model-independent analysis
of correlated D0 ¯D0 decays, Phys. Rev. D 82 (2010) 034033 [arXiv:1004.2350] [INSPIRE]. [32] LHCb collaboration, The LHCb detector at the LHC, 2008 JINST 3 S08005 [INSPIRE]. [33] LHCb collaboration, LHCb detector performance, Int. J. Mod. Phys. A 30 (2015) 1530022
[arXiv:1412.6352] [INSPIRE]. [34] V.V. Gligorov and M. Williams, Efficient, reliable and fast high-level triggering using a
bonsai boosted decision tree, 2013 JINST 8 P02013 [arXiv:1210.6861] [INSPIRE]. [35] T. Sj¨ostrand, S. Mrenna and P.Z. Skands, A brief introduction to PYTHIA 8.1, Comput. Phys. Commun. 178 (2008) 852 [arXiv:0710.3820] [INSPIRE]. [36] T. Sj¨ostrand, S. Mrenna and P.Z. Skands, PYTHIA 6.4 physics and manual, JHEP 05
(2006) 026 [hep-ph/0603175] [INSPIRE]. [37] I. Belyaev et al., Handling of the generation of primary events in Gauss, the LHCb
simulation framework, J. Phys. Conf. Ser. 331 (2011) 032047 [INSPIRE]. [38] D.J. Lange, The EvtGen particle decay simulation package, Nucl. Instrum. Meth. A 462
(2001) 152 [INSPIRE]. [39] P. Golonka and Z. Was, PHOTOS Monte Carlo: a precision tool for QED corrections in Z
and W decays, Eur. Phys. J. C 45 (2006) 97 [hep-ph/0506026] [INSPIRE]. [40] Geant4 collaboration, J. Allison et al., GEANT4 developments and applications, IEEE
Trans. Nucl. Sci. 53 (2006) 270. [41] GEANT4 collaboration, S. Agostinelli et al., GEANT4 — a simulation toolkit, Nucl. Instrum. Meth. A 506 (2003) 250 [INSPIRE]. [42] M. Clemencic et al., The LHCb simulation application, Gauss: design, evolution and
experience, J. Phys. Conf. Ser. 331 (2011) 032023 [INSPIRE]. [43] W.D. Hulsbergen, Decay chain fitting with a Kalman filter, Nucl. Instrum. Meth. A 552
(2005) 566 [physics/0503191] [INSPIRE]. [44] Particle Data Group collaboration, C. Patrignani et al., Review of particle physics, Chin. Phys. C 40 (2016) 100001 [INSPIRE]. [45] L. Breiman et al., Classification and regression trees, Wadsworth international group,
Belmont, California U.S.A. (1984). – 29 – [46] Y. Freund and R. E. Schapire, A decision-theoretic generalization of on-line learning and an
application to boosting, J. Comput. Syst. Sci. 55 (1997) 119. [47] T. Skwarnicki, A study of the radiative cascade transitions between the Υ′ and Υ resonances,
Ph.D. thesis, Institute of Nuclear Physics, Krakow, Poland (1986) [DESY-F31-86-02]. [48] M. References Pivk and F.R. Le Diberder, SPlot: a statistical tool to unfold data distributions, Nucl. Instrum. Meth. A 555 (2005) 356 [physics/0402083] [INSPIRE]. [49] LHCb collaboration, Measurement of CP observables in B± →D(∗)K± and B± →D(∗)π±
decays, Phys. Lett. B 777 (2018) 16 [arXiv:1708.06370] [INSPIRE]. [50] LHCb collaboration, Dalitz plot analysis of B0
s →¯D0K−π+ decays, Phys. Rev. D 90 (2014)
072003 [arXiv:1407.7712] [INSPIRE]. JHEP08(2018)176 JHEP08(2018)176 [51] T. Gershon, J. Libby and G. Wilkinson, Contributions to the width difference in the neutral
D system from hadronic decays, Phys. Lett. B 750 (2015) 338 [arXiv:1506.08594]
[INSPIRE]. [52] F. James and M. Winkler, Minuit user’s guide (2004). [52] F. James and M. Winkler, Minuit user’s guide (2004). [53] F. James and M. Roos, Minuit: a system for function minimization and analysis of the
parameter errors and correlations, Comput. Phys. Commun. 10 (1975) 343 [INSPIRE]. [54] LHCb collaboration, Update of the LHCb combination of the CKM angle γ using B →DK
decays, LHCb-CONF-2017-004 (2017). [55] LHCb collaboration, Measurement of CP observables in B± →DK∗± decays using two- and
four-body D final states, JHEP 11 (2017) 156 [Erratum ibid. 05 (2018) 067]
[arXiv:1709.05855] [INSPIRE]. [56] LHCb collaboration, Measurement of CP asymmetry in D0 →K−K+ and D0 →π−π+
decays, JHEP 07 (2014) 041 [arXiv:1405.2797] [INSPIRE]. [57] Y. Grossman and M. Savastio, Effects of K0 −¯K0 mixing on determining γ from
B± →DK±, JHEP 03 (2014) 008 [arXiv:1311.3575] [INSPIRE]. [58] LHCb collaboration, Update of the LHCb combination of the CKM angle γ,
LHCb-CONF-2018-002 (2018). [59] LHCb collaboration, Measurement of the CKM angle γ from a combination of LHCb results,
JHEP 12 (2016) 087 [arXiv:1611.03076] [INSPIRE]. [60] B. Sen, M. Walker and M. Woodroofe, On the unified method with nuisance parameters, Stat. Sinica 19 (2009) 301. 0] B. Sen, M. Walker and M. Woodroofe, On the unified method with nuisance parameters, Stat. Sinica 19 (2009) 301. – 30 – The LHCb collaboration R. Aaij27, B. Adeva41, M. Adinolfi48, C.A. Aidala73, Z. Ajaltouni5, S. Akar59, P. Albicocco18, j
,
,
,
,
j
,
,
J. Albrecht10, F. Alessio42, M. Alexander53, A. Alfonso Albero40, S. Ali27, G. Alkhazov33, P. Alvarez Cartelle55, A.A. Alves Jr59, S. Amato2, S. Amerio23, Y. Amhis7, L. An3, L. Anderlini17, G. Andreassi43, M. Andreotti16,g, J.E. Andrews60, R.B. Appleby56, F. Archilli2 P. d’Argent12, J. Arnau Romeu6, A. Artamonov39, M. Artuso61, K. Arzymatov37, E. Aslanides P. d’Argent12, J. Arnau Romeu6, A. Artamonov39, M. Artuso61, K. Arzymatov37, E. Aslanides6, M. Atzeni44, S. Bachmann12, J.J. Back50, S. Baker55, V. Balagura7,b, W. Baldini16, A. Baranov Atzeni44, S. Bachmann12, J.J. Back50, S. Baker55, V. Balagura7,b, W. Baldini16, A. Baranov37, J. Barlow56, S. Barsuk7, W. Barter56, F. Baryshnikov70, V. Batozskaya31, B. Batsukh61, R.J. Barlow56, S. Barsuk7, W. Barter56, F. Baryshnikov70, V. Batozskaya31, B. Batsukh6 V. Battista43, A. Bay43, J. Beddow53, F. Bedeschi24, I. Bediaga1, A. Beiter61, L.J. Bel27, Battista43, A. Bay43, J. Beddow53, F. Bedeschi24, I. Bediaga1, A. Beiter61, L.J. Bel27, JHEP08(2018)176 N. Beliy63, V. Bellee43, N. Belloli20,i, K. Belous39, I. Belyaev34,42, E. Ben-Haim8, G. Benc Beliy63, V. Bellee43, N. Belloli20,i, K. Belous39, I. Belyaev34,42, E. Ben-Haim8, G. Bencivenni18, S. Benson27, S. Beranek9, A. Berezhnoy35, R. Bernet44, D. Berninghoff12, E. Bertholet8, Benson27, S. Beranek9, A. Berezhnoy35, R. Bernet44, D. Berninghoff12, E. Bertholet8, A. Bertolin23, C. Betancourt44, F. Betti15,42, M.O. Bettler49, M. van Beuzekom27, A. Bertolin23, C. Betancourt44, F. Betti15,42, M.O. Bettler49, M. van Beuzekom27, Ia. Bezshyiko44, S. Bhasin48, J. Bhom29, S. Bifani47, P. Billoir8, A. Birnkraut10, A. Bizzeti17 Bezshyiko44, S. Bhasin48, J. Bhom29, S. Bifani47, P. Billoir8, A. Birnkraut10, A. Bizzeti17,u, M. Bjørn57, M.P. Blago42, T. Blake50, F. Blanc43, S. Blusk61, D. Bobulska53, V. Bocci26, Bjørn57, M.P. Blago42, T. Blake50, F. Blanc43, S. Blusk61, D. Bobulska53, V. Bocci26, O. Boente Garcia41, T. Boettcher58, A. Bondar38,w, N. Bondar33, S. Borghi56,42, M. Borisya O. Boente Garcia41, T. Boettcher58, A. Bondar38,w, N. Bondar33, S. Borghi56,42, M. Borisya M. Borsato41,42, F. Bossu7, M. Boubdir9, T.J.V. Bowcock54, C. Bozzi16,42, S. Braun12, M. Brodski42, J. Brodzicka29, D. Brundu22, E. Buchanan48, A. Buonaura44, C. Burr56, M. Brodski42, J. Brodzicka29, D. Brundu22, E. Buchanan48, A. Buonaura44, C. Burr56, R. Calladine47, M. Calvi20,i, M. Calvo Gomez40,m, A. Camboni40,m, P. Campana18, R. Calladine47, M. Calvi20,i, M. Calvo Gomez40,m, A. Camboni40,m, P. Campana18, D.H. Campora Perez42, L. Capriotti56, A. Carbone15,e, G. Carboni25, R. Cardinale19,h Campora Perez42, L. Capriotti56, A. Carbone15,e, G. Carboni25, R. Cardinale19,h, A. Cardini22, P. The LHCb collaboration Carniti20,i, L. Carson52, K. Carvalho Akiba2, G. Casse54, L. Cassina20, rdini22, P. Carniti20,i, L. Carson52, K. Carvalho Akiba2, G. Casse54, L. Cassina20, Cattaneo42, G. Cavallero19,h, R. Cenci24,p, D. Chamont7, M.G. Chapman48, M. Charles8, M. Cattaneo42, G. Cavallero19,h, R. Cenci24,p, D. Chamont7, M.G. Chapman48, M. Charles8 Ph. Charpentier42, G. Chatzikonstantinidis47, M. Chefdeville4, V. Chekalina37, C. Chen3, Ph. Charpentier42, G. Chatzikonstantinidis47, M. Chefdeville4, V. Chekalina37, C. Chen3, Chen22, S.-G. Chitic42, V. Chobanova41, M. Chrzaszcz42, A. Chubykin33, P. Ciambrone18, S. Chen22, S.-G. Chitic42, V. Chobanova41, M. Chrzaszcz42, A. Chubykin33, P. Ciambrone18 Cid Vidal41, G. Ciezarek42, P.E.L. Clarke52, M. Clemencic42, H.V. Cliff49, J. Closier42, X. Cid Vidal41, G. Ciezarek42, P.E.L. Clarke52, M. Clemencic42, H.V. Cliff49, J. Closier42 V. Coco42, J. Cogan6, E. Cogneras5, L. Cojocariu32, P. Collins42, T. Colombo42, Coco42, J. Cogan6, E. Cogneras5, L. Cojocariu32, P. Collins42, T. Colombo42, Comerma-Montells12, A. Contu22, G. Coombs42, S. Coquereau40, G. Corti42, M. Corvo16,g, A. Comerma-Montells12, A. Contu22, G. Coombs42, S. Coquereau40, G. Corti42, M. Cor C.M. Costa Sobral50, B. Couturier42, G.A. Cowan52, D.C. Craik58, A. Crocombe50, M. Costa Sobral50, B. Couturier42, G.A. Cowan52, D.C. Craik58, A. Crocombe50, M. Cruz Torres1, R. Currie52, C. D’Ambrosio42, F. Da Cunha Marinho2, C.L. Da Silva74, Cruz Torres1, R. Currie52, C. D’Ambrosio42, F. Da Cunha Marinho2, C.L. Da Silva74, E. Dall’Occo27, J. Dalseno48, A. Danilina34, A. Davis3, O. De Aguiar Francisco42, K. De Bruyn42 Dall’Occo27, J. Dalseno48, A. Danilina34, A. Davis3, O. De Aguiar Francisco42, K. De Bruyn42, S. De Capua56, M. De Cian43, J.M. De Miranda1, L. De Paula2, M. De Serio14,d, P. De Simone De Capua56, M. De Cian43, J.M. De Miranda1, L. De Paula2, M. De Serio14,d, P. De Simone18, C.T. Dean53, D. Decamp4, L. Del Buono8, B. Delaney49, H.-P. Dembinski11, M. Demmer10, C.T. Dean53, D. Decamp4, L. Del Buono8, B. Delaney49, H.-P. Dembinski11, M. Demmer10, P. Di Nezza18, S. Didenko70, H. Dijkstra42, F. Dordei42, M. Dorigo42,y, A. Dosil Su´arez41, P. Di Nezza18, S. Didenko70, H. Dijkstra42, F. Dordei42, M. Dorigo42,y, A. Dosil Su´arez41, L. Douglas53, A. Dovbnya45, K. Dreimanis54, L. Dufour27, G. Dujany8, P. Durante42, Douglas53, A. Dovbnya45, K. Dreimanis54, L. Dufour27, G. Dujany8, P. Durante42, J.M. Durham74, D. Dutta56, R. Dzhelyadin39, M. Dziewiecki12, A. Dziurda29, A. Dzyuba33 J.M. Durham74, D. Dutta56, R. Dzhelyadin39, M. Dziewiecki12, A. Dziurda29, A. Dzyuba33, S. Easo51, U. Egede55, V. Egorychev34, S. Eidelman38,w, S. Eisenhardt52, U. Eitschberger10, R. Ekelhof10, L. Eklund53, S. Ely61, A. Ene32, S. Escher9, S. Esen27, T. Evans59, A. The LHCb collaboration Kirn9, S. Klaver18, K. Klimaszewski31, T. Klimkovich11 ewathanakul43, K.E. Kim61, T. Kirn9, S. Klaver18, K. Klimaszewski31, T. Klimkovich11, S. Koliiev46, M. Kolpin12, R. Kopecna12, P. Koppenburg27, I. Kostiuk27, S. Kotriakhova33, v46, M. Kolpin12, R. Kopecna12, P. Koppenburg27, I. Kostiuk27, S. Kotriakhova33, ozeiha5, L. Kravchuk36, M. Kreps50, F. Kress55, P. Krokovny38,w, W. Krupa30, M. Kozeiha5, L. Kravchuk36, M. Kreps50, F. Kress55, P. Krokovny38,w, W. Krupa30, W. Krzemien31, W. Kucewicz29,l, M. Kucharczyk29, V. Kudryavtsev38,w, A.K. Kuonen43, rzemien31, W. Kucewicz29,l, M. Kucharczyk29, V. Kudryavtsev38,w, A.K. Kuonen43, T. Kvaratskheliya34,42, D. Lacarrere42, G. Lafferty56, A. Lai22, D. Lancierini44, G. Lanfran C. Langenbruch9, T. Latham50, C. Lazzeroni47, R. Le Gac6, A. Leflat35, J. Lefran¸cois7, R. Lef`evre5, F. Lemaitre42, O. Leroy6, T. Lesiak29, B. Leverington12, P.-R. Li63, T. Li3, Z. L R. Lef`evre5, F. Lemaitre42, O. Leroy6, T. Lesiak29, B. Leverington12, P.-R. Li63, T. Li3, Z. Li61, X. Liang61, T. Likhomanenko69, R. Lindner42, F. Lionetto44, V. Lisovskyi7, X. Liu3, D. Loh A. Loi22, I. Longstaff53, J.H. Lopes2, G.H. Lovell49, D. Lucchesi23,o, M. Lucio Martinez41, A. Loi22, I. Longstaff53, J.H. Lopes2, G.H. Lovell49, D. Lucchesi23,o, M. Lucio Martinez A. Lupato23, E. Luppi16,g, O. Lupton42, A. Lusiani24, X. Lyu63, F. Machefert7, F. Maciuc32 Lupato23, E. Luppi16,g, O. Lupton42, A. Lusiani24, X. Lyu63, F. Machefert7, F. Maciuc32, V. Macko43, P. Mackowiak10, S. Maddrell-Mander48, O. Maev33,42, K. Maguire56, V. Macko43, P. Mackowiak10, S. Maddrell-Mander48, O. Maev33,42, K. Maguire56, G. Manca22,f, G. Mancinelli6, D. Marangotto21,q, J. Maratas5,v, J.F. Marchand4, U. Marconi15 G. Manca22,f, G. Mancinelli6, D. Marangotto21,q, J. Maratas5,v, J.F. Marchand4, U. Marconi15, C. Marin Benito40, M. Marinangeli43, P. Marino43, J. Marks12, G. Martellotti26, M. Martin6 arin Benito40, M. Marinangeli43, P. Marino43, J. Marks12, G. Martellotti26, M. Martin6, M. Martinelli42, D. Martinez Santos41, F. Martinez Vidal72, A. Massafferri1, R. Matev42, M. Martinelli42, D. Martinez Santos41, F. Martinez Vidal72, A. Massafferri1, R. Matev42, A. Mathad50, Z. Mathe42, C. Matteuzzi20, A. Mauri44, E. Maurice7,b, B. Maurin43, A. Maz athad50, Z. Mathe42, C. Matteuzzi20, A. Mauri44, E. Maurice7,b, B. Maurin43, A. Mazurov47, M. McCann55,42, A. McNab56, R. McNulty13, J.V. Mead54, B. Meadows59, C. Meaux6, ann55,42, A. McNab56, R. McNulty13, J.V. Mead54, B. Meadows59, C. Meaux6, F. Meier10, N. Meinert67, D. Melnychuk31, M. Merk27, A. Merli21,q, E. Michielin23, Meier10, N. Meinert67, D. Melnychuk31, M. Merk27, A. Merli21,q, E. Michielin23, D.A. Milanes66, E. Millard50, M.-N. Minard4, L. Minzoni16,g, D.S. Mitzel12, A. Mogini8, A. Milanes66, E. Millard50, M.-N. Minard4, L. Minzoni16,g, D.S. Mitzel12, A. Mogini8, J. The LHCb collaboration Falabella15, Ekelhof10, L. Eklund53, S. Ely61, A. Ene32, S. Escher9, S. Esen27, T. Evans59, A. Falabella15, N. Farley47, S. Farry54, D. Fazzini20,42,i, L. Federici25, G. Fernandez40, P. Fernandez Declara rley47, S. Farry54, D. Fazzini20,42,i, L. Federici25, G. Fernandez40, P. Fernandez Declara42, A. Fernandez Prieto41, F. Ferrari15, L. Ferreira Lopes43, F. Ferreira Rodrigues2, M. Ferro A. Fernandez Prieto41, F. Ferrari15, L. Ferreira Lopes43, F. Ferreira Rodrigues2, M. Ferro-Luz
36
14
16
30
43
30 S. Filippov36, R.A. Fini14, M. Fiorini16,g, M. Firlej30, C. Fitzpatrick43, T. Fiutowski30, 6, R.A. Fini14, M. Fiorini16,g, M. Firlej30, C. Fitzpatrick43, T. Fiutowski30, F. Fleuret7,b, M. Fontana22,42, F. Fontanelli19,h, R. Forty42, V. Franco Lima54, M. Frank42, , M. Fontana22,42, F. Fontanelli19,h, R. Forty42, V. Franco Lima54, M. Frank42, C. Frei42, J. Fu21,q, W. Funk42, C. F¨arber42, M. F´eo Pereira Rivello Carvalho27, E. Gabriel5 A. Gallas Torreira41, D. Galli15,e, S. Gallorini23, S. Gambetta52, M. Gandelman2, P. Gandini2 Y. Gao3, L.M. Garcia Martin72, B. Garcia Plana41, J. Garc´ıa Pardi˜nas44, J. Garra Tico49, L. Garrido40, D. Gascon40, C. Gaspar42, L. Gavardi10, G. Gazzoni5, D. Gerick12, E. Gersabeck5 M. Gersabeck56, T. Gershon50, D. Gerstel6, Ph. Ghez4, S. Gian`ı43, V. Gibson49, O.G. Girard43, – 31 – Giubega32, K. Gizdov52, V.V. Gligorov8, D. Golubkov34, A. Golutvin55,70, A. Gomes1,a, L. Giubega32, K. Gizdov52, V.V. Gligorov8, D. Golubkov34, A. Golutvin55,70, A. Gomes1,a, I.V. Gorelov35, C. Gotti20,i, E. Govorkova27, J.P. Grabowski12, R. Graciani Diaz40, L.A. Granado Cardoso42, E. Graug´es40, E. Graverini44, G. Graziani17, A. Grecu32, R. Greim P. Griffith22, L. Grillo56, L. Gruber42, B.R. Gruberg Cazon57, O. Gr¨unberg67, C. Gu3, E. Gushchin36, Yu. Guz39,42, T. Gys42, C. G¨obel62, T. Hadavizadeh57, C. Hadjivasiliou5, G. Haefeli43, C. Haen42, S.C. Haines49, B. Hamilton60, X. Han12, T.H. Hancock57, S. Hansmann-Menzemer12, N. Harnew57, S.T. Harnew48, T. Harrison54, C. Hasse42, M. Hatc J. He63, M. Hecker55, K. Heinicke10, A. Heister9, K. Hennessy54, L. Henry72, E. van Herwijnen42, Z.C. Huard59, W. Hulsbergen27, T. Humair55, M. Hushchyn37, D. Hutchcroft54, D. Hynds27, ,
g
,
,
y
,
,
y
P. Ibis10, M. Idzik30, P. Ilten47, K. Ivshin33, R. Jacobsson42, J. Jalocha57, E. Jans27, JHEP08(2018)176 JHEP08(2018)176 A. Jawahery60, F. Jiang3, M. John57, D. Johnson42, C.R. Jones49, C. Joram42, B. Jost42, N. Jurik57, S. Kandybei45, M. Karacson42, J.M. Kariuki48, S. Karodia53, N. Kazeev37, M. Kecke12, F. Keizer49, M. Kelsey61, M. Kenzie49, T. Ketel28, E. Khairullin37, B. Khanji12 e12, F. Keizer49, M. Kelsey61, M. Kenzie49, T. Ketel28, E. Khairullin37, B. Khanji12, C. Khurewathanakul43, K.E. Kim61, T. M. Poli Lener18, A. Poluektov50, N. Polukhina70,c, I. Polyakov61, E. Polycarpo2, G.J. Pomery48 F. Pisani42, A. Piucci12, V. Placinta32, S. Playfer52, J. Plews47, M. Plo Casasus41, F. Polci8, The LHCb collaboration Puig Navarro44, H. Pullen57, G. Punzi24,p, W. Qian63, J. Qin6 ,
g
,
g
,
,
,
Q
,
Q
,
Quagliani8, B. Quintana5, B. Rachwal30, J.H. Rademacker48, M. Rama24, M. Ramos Pernas41, S. Rangel2, F. Ratnikov37,x, G. Raven28, M. Ravonel Salzgeber42, M. Reboud4, F. Redi43, M.S. Rangel2, F. Ratnikov37,x, G. Raven28, M. Ravonel Salzgeber42, M. Reboud4, F. Redi43, S. Reichert10, A.C. dos Reis1, F. Reiss8, C. Remon Alepuz72, Z. Ren3, V. Renaudin7, Reichert10, A.C. dos Reis1, F. Reiss8, C. Remon Alepuz72, Z. Ren3, V. Renaudin7, S. Ricciardi51, S. Richards48, K. Rinnert54, P. Robbe7, A. Robert8, A.B. Rodrigues43, E. Rodrigues59, J.A. Rodriguez Lopez66, M. Roehrken42, A. Rogozhnikov37, S. Roiser42, A. Rollings57, V. Romanovskiy39, A. Romero Vidal41, M. Rotondo18, M.S. Rudolph61, T. Ruf42, A. Rollings57, V. Romanovskiy39, A. Romero Vidal41, M. Rotondo18, M.S. Rudolph61, T. R C. Sanchez Gras27, C. Sanchez Mayordomo72, B. Sanmartin Sedes41, R. Santacesaria26, C. Sanchez Gras27, C. Sanchez Mayordomo72, B. Sanmartin Sedes41, R. Santacesaria26, C. Santamarina Rios41, M. Santimaria18, E. Santovetti25,j, G. Sarpis56, A. Sarti18,k, JHEP08(2018)176 JHEP08(2018)176 C. Satriano26,s, A. Satta25, M. Saur63, D. Savrina34,35, S. Schael9, M. Schellenberg10, C. Satriano26,s, A. Satta25, M. Saur63, D. Savrina34,35, S. Schael9, M. Schellenberg10, Schiller53, H. Schindler42, M. Schmelling11, T. Schmelzer10, B. Schmidt42, O. Schneider43, A. Schopper42, H.F. Schreiner59, M. Schubiger43, M.H. Schune7, R. Schwemmer42, B. Sciascia Schopper42, H.F. Schreiner59, M. Schubiger43, M.H. Schune7, R. Schwemmer42, B. Sciascia18, A. Sciubba26,k, A. Semennikov34, E.S. Sepulveda8, A. Sergi47,42, N. Serra44, J. Serrano6, Sciubba26,k, A. Semennikov34, E.S. Sepulveda8, A. Sergi47,42, N. Serra44, J. Serrano6, Sestini23, P. Seyfert42, M. Shapkin39, Y. Shcheglov33,†, T. Shears54, L. Shekhtman38,w, L. Sestini23, P. Seyfert42, M. Shapkin39, Y. Shcheglov33,†, T. Shears54, L. Shekhtman38,w, V. Shevchenko69, E. Shmanin70, B.G. Siddi16, R. Silva Coutinho44, L. Silva de Oliveira2, Shevchenko69, E. Shmanin70, B.G. Siddi16, R. Silva Coutinho44, L. Silva de Oliveira2, G. Simi23,o, S. Simone14,d, N. Skidmore12, T. Skwarnicki61, J.G. Smeaton49, E. Smith9, G. Simi23,o, S. Simone14,d, N. Skidmore12, T. Skwarnicki61, J.G. Smeaton49, E. Smith9, T. Smith52, M. Smith55, M. Soares15, l. Soares Lavra1, M.D. Sokoloff59, F.J.P. Soler53, I.T. Smith52, M. Smith55, M. Soares15, l. Soares Lavra1, M.D. Sokoloff59, F.J.P. Soler53, Souza De Paula2, B. Spaan10, P. Spradlin53, F. Stagni42, M. Stahl12, S. Stahl42, P. Stefko43, B. Souza De Paula2, B. Spaan10, P. Spradlin53, F. Stagni42, M. Stahl12, S. Stahl42, P. Ste S. Stefkova55, O. Steinkamp44, S. Stemmle12, O. Stenyakin39, M. Stepanova33, H. Stevens10, Stefkova55, O. Steinkamp44, S. Stemmle12, O. Stenyakin39, M. 8 LPNHE, Sorbonne Universit´e, Paris Diderot Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France 1 Centro Brasileiro de Pesquisas F´ısicas (CBPF), Rio de Janeiro, Brazil
2 Universidade Federal do Rio de Janeiro (UFRJ), Rio de Janeiro, Brazil
3 Center for High Energy Physics, Tsinghua University, Beijing, China
4 Univ. Grenoble Alpes, Univ. Savoie Mont Blanc, CNRS, IN2P3-LAPP, Annecy, France
5 Clermont Universit´e, Universit´e Blaise Pascal, CNRS/IN2P3, LPC, Clermont-Ferrand, France
6 Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France
7 LAL, Univ. Paris-Sud, CNRS/IN2P3, Universit´e Paris-Saclay, Orsay, France
8 LPNHE, Sorbonne Universit´e, Paris Diderot Sorbonne Paris Cit´e, CNRS/IN2P3, Paris, France /
7 LAL, Univ. Paris-Sud, CNRS/IN2P3, Universit´e Paris-Saclay, Orsay, France The LHCb collaboration Molina Rodriguez1,z, T. Momb¨acher10, I.A. Monroy66, S. Monteil5, M. Morandin23, Molina Rodriguez1,z, T. Momb¨acher10, I.A. Monroy66, S. Monteil5, M. Morandin23, Morello18, M.J. Morello24,t, O. Morgunova69, J. Moron30, A.B. Morris6, R. Mountain61, G. Morello18, M.J. Morello24,t, O. Morgunova69, J. Moron30, A.B. Morris6, R. Mountain61, F. Muheim52, M. Mulder27, C.H. Murphy57, D. Murray56, D. M¨uller42, J. M¨uller10, K. M¨ulle Muheim52, M. Mulder27, C.H. Murphy57, D. Murray56, D. M¨uller42, J. M¨uller10, K. M¨uller44, V. M¨uller10, P. Naik48, T. Nakada43, R. Nandakumar51, A. Nandi57, T. Nanut43, I. Nasteva2 M¨uller10, P. Naik48, T. Nakada43, R. Nandakumar51, A. Nandi57, T. Nanut43, I. Nasteva2, Needham52, N. Neri21, S. Neubert12, N. Neufeld42, M. Neuner12, T.D. Nguyen43, M. Needham52, N. Neri21, S. Neubert12, N. Neufeld42, M. Neuner12, T.D. Nguyen43, Nguyen-Mau43,n, S. Nieswand9, R. Niet10, N. Nikitin35, A. Nogay69, D.P. O’Hanlon15, C. Nguyen-Mau43,n, S. Nieswand9, R. Niet10, N. Nikitin35, A. Nogay69, D.P. O’Hanlon15, A. Oblakowska-Mucha30, V. Obraztsov39, S. Ogilvy18, R. Oldeman22,f, C.J.G. Onderwater68, A. Oblakowska-Mucha30, V. Obraztsov39, S. Ogilvy18, R. Oldeman22,f, C.J.G. Onderwater68 M. Palutan18,42, G. Panshin71, A. Papanestis51, M. Pappagallo52, L.L. Pappalardo16,g, M. Palutan18,42, G. Panshin71, A. Papanestis51, M. Pappagallo52, L.L. Pappalardo16,g, Papanestis51, M. Pappagallo52, L.L. Pappalardo16 W. Parker60, C. Parkes56, G. Passaleva17,42, A. Pastore14, M. Patel55, C. Patrignani15,e, . Parker60, C. Parkes56, G. Passaleva17,42, A. Pastore14, M. Patel55, C. Patrignani15,e, Pearce42, A. Pellegrino27, G. Penso26, M. Pepe Altarelli42, S. Perazzini42, D. Pereima34, A. Pearce42, A. Pellegrino27, G. Penso26, M. Pepe Altarelli42, S. Perazzini42, D. Pereima Perret5, L. Pescatore43, K. Petridis48, A. Petrolini19,h, A. Petrov69, S. Petrucci52, P. Perret5, L. Pescatore43, K. Petridis48, A. Petrolini19,h, A. Petrov69, S. Petrucci52, Petruzzo21,q, B. Pietrzyk4, G. Pietrzyk43, M. Pikies29, M. Pili57, D. Pinci26, J. Pinzino42, M. Petruzzo21,q, B. Pietrzyk4, G. Pietrzyk43, M. Pikies29, M. Pili57, D. Pinci26, J. Pinzin F. Pisani42, A. Piucci12, V. Placinta32, S. Playfer52, J. Plews47, M. Plo Casasus41, F. Polci8, Pisani42, A. Piucci12, V. Placinta32, S. Playfer52, J. Plews47, M. Plo Casasus41, F. Polci8, M. Poli Lener18, A. Poluektov50, N. Polukhina70,c, I. Polyakov61, E. Polycarpo2, G.J. Pomery48, M. Poli Lener18, A. Poluektov50, N. Polukhina70,c, I. Polyakov61, E. Polycarpo2, G.J. Pomery48, – 32 – S. Ponce42, A. Popov39, D. Popov47,11, S. Poslavskii39, C. Potterat2, E. Price48, J. Prisciandaro4 nce42, A. Popov39, D. Popov47,11, S. Poslavskii39, C. Potterat2, E. Price48, J. Prisciandaro41, ,
p
,
p
,
,
,
,
,
Prouve48, V. Pugatch46, A. Puig Navarro44, H. Pullen57, G. Punzi24,p, W. Qian63, J. Qin63, C. Prouve48, V. Pugatch46, A. The LHCb collaboration Stepanova33, H. Stevens10, S. Stone61, B. Storaci44, S. Stracka24,p, M.E. Stramaglia43, M. Straticiuc32, U. Straumann44 Stone61, B. Storaci44, S. Stracka24,p, M.E. Stramaglia43, M. Straticiuc32, U. Straumann44, S. Strokov71, J. Sun3, L. Sun64, K. Swientek30, V. Syropoulos28, T. Szumlak30, M. Szymanski63 S. Strokov71, J. Sun3, L. Sun64, K. Swientek30, V. Syropoulos28, T. Szumlak30, M. Szymanski63 S. T’Jampens4, Z. Tang3, A. Tayduganov6, T. Tekampe10, G. Tellarini16, F. Teubert42, E. Thomas42, J. van Tilburg27, M.J. Tilley55, V. Tisserand5, S. Tolk42, L. Tomassetti16,g, E. Thomas42, J. van Tilburg27, M.J. Tilley55, V. Tisserand5, S. Tolk42, L. Tomassetti16,g, y
Vorobyev33, V. Vorobyev38,w, J.A. de Vries27, C. V´azquez Sierra27, R. Waldi67, J. Walsh24, Wang61, M. Wang3, Y. Wang65, Z. Wang44, D.R. Ward49, H.M. Wark54, N.K. Watson47, Websdale55, A. Weiden44, C. Weisser58, M. Whitehead9, J. Wicht50, G. Wilkinson57, Wilkinson61, I. Williams49, M.R.J. Williams56, M. Williams58, T. Williams47, F.F. Wilson51,42, J. Wimberley60, M. Winn7, J. Wishahi10, W. Wislicki31, M. Witek29,
G. Wormser7, S.A. Wotton49, K. Wyllie42, D. Xiao65, Y. Xie65, A. Xu3, M. Xu65, Q. Xu63,
Z. Xu3, Z. Xu4, Z. Yang3, Z. Yang60, Y. Yao61, L.E. Yeomans54, H. Yin65, J. Yu65,ab, X. Yuan61,
O. Yushchenko39, K.A. Zarebski47, M. Zavertyaev11,c, D. Zhang65, L. Zhang3, W.C. Zhang3,aa,
Y. Zhang7, A. Zhelezov12, Y. Zheng63, X. Zhu3, V. Zhukov9,35, J.B. Zonneveld52, S. Zucchelli15 5 Clermont Universit´e, Universit´e Blaise Pascal, CNRS/IN2P3, LPC, Clermont-Ferrand, France 6 Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France /
7 LAL, Univ. Paris-Sud, CNRS/IN2P3, Universit´e Paris-Saclay, Orsay, France – 33 – 9 I. Physikalisches Institut, RWTH Aachen University, Aachen, Germany 9 I. The LHCb collaboration Physikalisches Institut, RWTH Aachen University, Aachen, Germany 10 Fakult¨at Physik, Technische Universit¨at Dortmund, Dortmund, Germany 10 Fakult¨at Physik, Technische Universit¨at Dortmund, Dortmund, Germany 11 Max-Planck-Institut f¨ur Kernphysik (MPIK), Heidelberg, Germany 11 Max-Planck-Institut f¨ur Kernphysik (MPIK), Heidelberg, Germany 12 Physikalisches Institut, Ruprecht-Karls-Universit¨at Heidelberg, Heidelberg, Germany 12 Physikalisches Institut, Ruprecht-Karls-Universit¨at Heidelberg, Heidelberg, Germany Physikalisches Institut, Ruprecht-Karls-Universit¨at H 12 Physikalisches Institut, Ruprecht-Karls-Universit¨at Heidelberg, H School of Physics, University College Dublin, Dublin, 14 INFN Sezione di Bari, Bari, Italy 15 INFN Sezione di Bologna, Bologna, Italy 16 INFN Sezione di Ferrara, Ferrara, Italy 17 INFN Sezione di Firenze, Firenze, Italy 18 INFN Laboratori Nazionali di Frascati, Frascati, Italy 19 INFN Sezione di Genova, Genova, Italy 20 INFN Sezione di Milano-Bicocca, Milano, Italy JHEP08(2018)176 21 INFN Sezione di Milano, Milano, Italy 22 INFN Sezione di Cagliari, Monserrato, Italy 23 INFN Sezione di Padova, Padova, Italy 24 INFN Sezione di Pisa, Pisa, Italy 25 INFN Sezione di Roma Tor Vergata, Roma, Italy 26 INFN Sezione di Roma La Sapienza, Roma, Italy 27 Nikhef National Institute for Subatomic Physics, Amsterdam, Netherlands Nikhef National Institute for Subatomic Physics, A 28 Nikhef National Institute for Subatomic Physics and VU University Amsterdam, Amsterdam,
Netherlands 29 Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Krak´ow, Poland 29 Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Krak´ow, Poland
30 AGH — University of Science and Technology, Faculty of Physics and Applied Computer Science,
Krak´ow, Poland 29 Henryk Niewodniczanski Institute of Nuclear Physics Polish Academy of Sciences, Krak´ow, Poland
30 AGH — University of Science and Technology, Faculty of Physics and Applied Computer Science, 30 AGH — University of Science and Technology, Faculty of Physics and Applied Computer Science,
Krak´ow, Poland 31 National Center for Nuclear Research (NCBJ), Warsaw, Poland 32 Horia Hulubei National Institute of Physics and Nuclear Engineering, Bucharest-Magurele,
Romania 33 Petersburg Nuclear Physics Institute (PNPI), Gatchina, Russia 34 Institute of Theoretical and Experimental Physics (ITEP), Moscow, Russia 35 Institute of Nuclear Physics, Moscow State University (SINP MSU), Moscow, Russia 36 Institute for Nuclear Research of the Russian Academy of Sciences (INR RAS), Moscow, Russia 36 Institute for Nuclear Research of the Russian Academy of Sciences (INR RAS), Moscow, Russia
37 Yandex School of Data Analysis, Moscow, Russia 37 Yandex School of Data Analysis, Moscow, Russia 37 Yandex School of Data Analysis, Moscow, Russia 38 Budker Institute of Nuclear Physics (SB RAS), N 39 Institute for High Energy Physics (IHEP), Protvino, Russia stitute for High Energy Physics (IHEP), Protvino, R 40 ICCUB, Universitat de Barcelona, Barcelona, Spain 41 Instituto Galego de F´ısica de Altas Enerx´ıas (IGFAE), Universidade de Santiago de Compostela,
Santiago de Compostela, Spain 42 European Organization for Nuclear Research (CERN), Geneva, Switzerland 42 European Organization for Nuclear Research (CERN), Geneva, Switzerland 43 Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausanne, Switzerland
44 43 Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausanne, Switzerland
44 Physik Institut Universit¨at Z¨urich Z¨urich Switzerland 43 Institute of Physics, Ecole Polytechnique F´ed´erale de Lausanne (EPFL), Lausann Physik-Institut, Universit¨at Z¨urich, Z¨urich, Switzer 45 NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Uk 45 NSC Kharkiv Institute of Physics and Technology (NSC KIPT), Kharkiv, Ukrai SC Kharkiv Institute of Physics and Technology (NS 46 Institute for Nuclear Research of the National Academy of Sciences (KINR), Kyiv 46 Institute for Nuclear Research of the National Academy of Sciences (KINR), Kyiv, Ukraine f
f
y
f
(
),
y ,
47 University of Birmingham, Birmingham, United Kingdom 47 University of Birmingham, Birmingham, United Kingdom 48 H.H. The LHCb collaboration Wills Physics Laboratory, University of Bristol, Bristol, United Kingdom 48 H.H. The LHCb collaboration Wills Physics Laboratory, University of Bristol, Bristol, United Kingdom 49 Cavendish Laboratory, University of Cambridge, Cambridge, United Kingdom 49 Cavendish Laboratory, University of Cambridge, Cambridge, United Kingdom University of Cambridge, Cambridge, United Kingdo 50 Department of Physics, University of Warwick, Coventry, United Kingdom 50 Department of Physics, University of Warwick, Coventry, United Kingdom 51 STFC Rutherford Appleton Laboratory, Didcot, United Kingdom 52 School of Physics and Astronomy, University of Edinburgh, Edinburgh, United Kingdom 52 School of Physics and Astronomy, University of Edinburgh, Edinburgh, United Kingdom Physics and Astronomy, University of Edinburgh, E School of Physics and Astronomy, University of Edin School of Physics and Astronomy, University of Glasgow, Glasgow, United Kingdom 53 School of Physics and Astronomy, University of Glasgow, Glasgow, United King Oliver Lodge Laboratory, University of Liverpool, Liverpool, United Kingdom 54 Oliver Lodge Laboratory, University of Liverpool, Liverpool, United Kingdom 55 Imperial College London, London, United Kingdom 56 School of Physics and Astronomy, University of Manchester, Manchester, United Kingdom 56 School of Physics and Astronomy, University of Manchester, Manchester, United Kingdom – 34 – 57 Department of Physics, University of Oxford, Oxford, United Kingdom 58 Massachusetts Institute of Technology, Cambridge, MA, United States 59 University of Cincinnati, Cincinnati, OH, United States 60 University of Maryland, College Park, MD, United States 61 Syracuse University, Syracuse, NY, United States 62 Pontif´ıcia Universidade Cat´olica do Rio de Janeiro (PUC-Rio), Rio de Janeiro, Brazil,
associated to2 63 University of Chinese Academy of Sciences, Beijing, China, associated to3 64 School of Physics and Technology, Wuhan University, Wuhan, China, associated to3
65 65 Institute of Particle Physics, Central China Normal University, Wuhan, Hubei, China,
associated to3 Departamento de Fisica , Universidad Nacional de C JHEP08(2018)176 JHEP08(2018)176 Departamento de Fisica , Universidad Nacional de Colombia, Bogota, Colombia, associated to
67 Institut f¨ur Physik, Universit¨at Rostock, Rostock, Germany, associated to12 67 Institut f¨ur Physik, Universit¨at Rostock, Rostock, Germany, associated to12 68 Van Swinderen Institute, University of Groningen, Groningen, Netherlands, associated to27 69 National Research Centre Kurchatov Institute, Moscow, Russia, associated to34 70 National University of Science and Technology “MISIS”, Moscow, Russia, associated to34 National Research Tomsk Polytechnic University, Tomsk, Russia, associated to34 71 National Research Tomsk Polytechnic University, Tomsk, Russia, associated to34 72 Instituto de Fisica Corpuscular, Centro Mixto Universidad de Valencia — CSIC, Valencia, Spain
associated to40 73 University of Michigan, Ann Arbor, United States, associated to61
74 74 Los Alamos National Laboratory (LANL), Los Alamos, United States, associated to61 74 Los Alamos National Laboratory (LANL), Los Alamos, United States, associated to61 a Universidade Federal do Triˆangulo Mineiro (UFTM), Uberaba-MG, Brazil Universidade Federal do Triˆangulo Mineiro (UFTM b Laboratoire Leprince-Ringuet, Palaiseau, France c P.N. The LHCb collaboration Lebedev Physical Institute, Russian Academy of Science (LPI RAS), Moscow, Russia
d c P.N. Lebedev Physical Institute, Russian Academy of Science (LPI RAS) d Universit`a di Bari, Bari, Italy e Universit`a di Bologna, Bologna, Italy
f e Universit`a di Bologna, Bologna, Italy f Universit`a di Cagliari, Cagliari, Italy g Universit`a di Ferrara, Ferrara, Italy h Universit`a di Genova, Genova, Italy i Universit`a di Milano Bicocca, Milano, Italy j Universit`a di Roma Tor Vergata, Roma, Italy j Universit`a di Roma Tor Vergata, Roma, Italy k Universit`a di Roma La Sapienza, Roma, Italy l AGH — University of Science and Technology, Faculty of Computer Science, Electronics and l AGH — University of Science and Technology, Faculty of Computer Science, Electronics and l AGH — University of Science and Technology, Telecommunications, Krak´ow, Poland m LIFAELS, La Salle, Universitat Ramon Llull, Barcelona, Spain m LIFAELS, La Salle, Universitat Ramon Llull, Barcelona, Spain n Hanoi University of Science, Hanoi, Vietnam n Hanoi University of Science, Hanoi, Vietnam o Universit`a di Padova, Padova, Italy o Universit`a di Padova, Padova, Italy p Universit`a di Pisa, Pisa, Italy p Universit`a di Pisa, Pisa, Italy q Universit`a degli Studi di Milano, Milano, Italy r Universit`a di Urbino, Urbino, Italy r Universit`a di Urbino, Urbino, Italy s Universit`a della Basilicata, Potenza, Italy s Universit`a della Basilicata, Potenza, Italy t Scuola Normale Superiore, Pisa, Italy t Scuola Normale Superiore, Pisa, Italy u Universit`a di Modena e Reggio Emilia, Modena, Italy u Universit`a di Modena e Reggio Emilia, Modena, Italy v MSU — Iligan Institute of Technology (MSU-IIT), Iligan, Philippines v MSU — Iligan Institute of Technology (MSU-IIT), Iligan, Philippines w Novosibirsk State University, Novosibirsk, Russia w Novosibirsk State University, Novosibirsk, Russia x National Research University Higher School of Economics, Moscow, Russia x National Research University Higher School o x National Research University Higher School of Economics, Moscow, Ru y Sezione INFN di Trieste, Trieste, Italy y Sezione INFN di Trieste, Trieste, Italy z Escuela Agr´ıcola Panamericana, San Antonio de Oriente, Honduras z Escuela Agr´ıcola Panamericana, San Antonio de Oriente, Honduras aa School of Physics and Information Technology, Shaanxi Normal University (SNNU), Xi’an, China aa School of Physics and Information Technology, Shaanxi Normal Univer ab Physics and Micro Electronic College, Hunan University, Changsha City, China ab Physics and Micro Electronic College, Hunan University, Changsha City, China
† – 35 –
|
https://openalex.org/W3198708495
|
https://journals.pnu.edu.ua/index.php/pcss/article/download/5068/5621
|
Russian
| null |
Electrochemical and electrical properties of nickel molybdate / carbon material composites
|
Fìzika ì hìmìâ tverdogo tìla
| 2,021
|
cc-by
| 3,473
|
Vasyl Stefanyk Precarpathian National University, Ivano-Frankivsk, Ukraine, khemiiolha@gmail.com The aim of this paper is to establish the optimal content of carbon material in composites with nanocrystal
hydrate nickel molybdate. To achieve this, NiMoO4 / C composites with a carbon material content of 1, 5 and
10% by weight (with and without ultrasonic irradiation) were obtained by hydrothermal method. As a result of
electrochemical studies, it was found that the maximum specific capacitance of 628 F/g is reached by a composite
with a carbon content of 1% after ultrasonic exposure, while this composite shows excellent electrical
conductivity, which is 0.47 S/m. Keywords: nickel molybdate, carbon material, composite, specific capacitance, electrical conductivity,
hybrid capacitor. Received 17 June 2021; Accepted 20 August 2021. Received 17 June 2021; Accepted 20 August 2021. Introduction dispersion of oxides, sulfides of transition metals and
composites based on them leads to a decrease in the
particle size of materials and the formation on their
surface of uncompensated chemical bonds capable of
interacting with electrolyte ions [4]. In addition, NiMoO4
is an inexpensive, chemically stable and environmentally
friendly
material
with
good
electron
transport
characteristics (electrical conductivity varies in the range
from
10-13
to
10-6 S/m)
combined
with
the
electrochemical activity of nickel ions [5]. Mixed oxides of transition metals such as metal
molybdates MMoO4 (M - Ni, Co, Mn) due to their
multiple valence states and high electrical conductivity
are considered the best materials for electrodes of
electrical energy storage devices compared to single
oxides of transition metals [1]. Nickel, cobalt and
manganese molybdates are widely used in hybrid
capacitors [2] however they have a number of
disadvantages, which limits their ability to achieve
theoretical capacitance (theoretical capacitance of
NiMoO4
is
735 F/g). Thus,
the
electrochemical
charge/discharge testing the binary transition metal
oxides are subjected to degradation, swelling of the
material and the phase transition. One way to solve this
problem is to form composites based on binary oxides of
molybdates with carbon material, which allows us to
increase the electrical conductivity of the material and
the number of active centers for ion adsorption [3]. Another effective way to improve the specific energy
characteristics of materials for the electrodes of hybrid
capacitors is ultrasonic modification. Because ultrasonic In this paper, hydrate nickel molybdate / carbon
material composites (NiMoO4/C) with a percentage of
carbon material of 1, 5 and 10 % by weight (with and
without ultrasonic irradiation) obtained by hydrothermal
method [6]. We performed electrochemical studies and
measured the specific conductivity of materials to
determine the optimal content of carbon material in
composites. PACS: 81.05.U−, 82.45.Yz PACS: 81.05.U−, 82.45.Yz PHYSICS AND CHEMISTRY
OF SOLID STATE
V. 22, No. 3 (2021) pp. 481-486
Section: Physics PHYSICS AND CHEMISTRY
OF SOLID STATE
V. 22, No. 3 (2021) pp. 481-486
Section: Physics DOI: 10.15330/pcss.22.3.481-486 Electrochemical and electrical properties of nickel molybdate /
carbon material composites Stefanyk Precarpathian National University, Ivano-Frankivsk, Ukraine, khemiiolha@gmail.com Received 17 June 2021; Accepted 20 August 2021. I. Materials and methods Modification of the carbon material was carried out 481 O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych for 1 h in distilled water using an ultrasonic dispersant
operating frequency range 20 - 25 kHz. Electrochemical
studies were performed using an 8-channel charge /
discharge stand "Tionid" in a three-electrode cell by
cyclic voltammetry and galvanostatic charges / discharge
testing. The working electrodes were formed from
composites, the auxiliary was a platinum electrode, and
the reference electrode was a chlorine-silver electrode. A
33 % aqueous solution of potassium hydroxide was used
as the electrolyte. The working electrode was formed
from a mixture of: 80% composite and 20 % conductive
additive (acetylene carbon black), which was mixed with
alcohol and pressed into a nickel mesh with an area of
25 мм2. The mass of active material in each electrode
was
approximately
15 mg. Specific
discharge
capacitances of materials were calculated from cyclic
voltammograms by the formula: С =
𝑄
𝑚∆𝑈, where Q – the
charge is given (accumulated) by the electrochemical
system during cathode (anode) scanning, m - mass of
material, ΔU – potential range. Specific capacitances
from discharge curves were calculated by the formula:
С =
𝐼∆𝑡
𝑚∆𝑈, I – current, Δt – discharge time. Electrical
conductivity at room temperature was studied using a
measuring complex AUTOLAB PGSTAT12 in the
frequency range 10-2 –105 Hz at a voltage of 0 V. The
real part of conductivity defined by the formula: 𝜎=
ℎ
𝑍′𝑆,
where h - the thickness of the sample, Z’ - the real part of
the resistivity, S - surface area of the test sample
(diameter was 14 mm). evolution takes place at a potential of 0.4 V and leads to
a significant increase in specific current and, accordingly,
the destruction of the material. Therefore, we limited the
potential scanning range to 0.4 V. The specific discharge
capacitances of NiMoO4 hydrate were 575, 486, 347 and
242 F/g at scan rates of 1, 2, 5 і 10 mV/s. The carbon material has a specific capacitances of
90, 80 and 76 F/g at scan rates of 1, 5 and 10 mV/s,
respectively, in the range of -1 to 0 V using a three-
electrode cell (Fig. 1b). I. Materials and methods The specific capacitance of the
carbon material is mainly provided by the charge /
discharge of the electric double layer at the electrode /
electrolyte interface, which is facilitated by the large
specific surface area of the carbon material ⁓ 1200 m2 / g
with a large number of micro pores [8]. In NiMoO4 / C composites, the content of carbon
material was 1, 5 and 10 % by weight, as it was found [9]
that in the mechano-chemical synthesis of materials, the
highest specific capacitance is achieved by a composite
based on nickel hydroxide with a carbon content of 10 %. Therefore, we formed four NiMoO4 / C composites with
carbon content: 1 and 10% (without ultrasonic exposure)
and 1 and 5 % (carbon material was subjected to
ultrasonic dispersion (denoted as С us)). The monoclinic crystal structure of nickel molybdate
hydrate is constructed of pairs of NiO6 and NiO5(OH2)
octahedrons that share common edges connected by
MoO4 tetrahedrons, thus forming a network structure
with open channels [10]. NiMoO4 hydrate contains
coordinated water bound by a hydrogen bond to the
crystal lattice, as well as lattice water. Coordinated water
molecules can be removed by thermal desorption of
hydrate at a temperature of 280 - 400 ℃, , followed by
the formation of a triclinic crystal structure α-NiMoO4,
while lattice water can be easily removed by heating to
lower temperatures, namely 120 – 160 ℃ [11]. The
migration of protons through the oxide lattices is
significantly enhanced by the presence of molecules of
coordinated water [12]. Solid-state diffusion of protons
leads to increased electrochemical activity of nickel
molybdate hydrate and therefore higher specific
capacitance. II. Results and discussions Cyclic
voltammograms
(CVs)
of
nanocrystal
NiMoO4 hydrate were taken in the potential range of -0.2
to 0.4 V at a scan rate of 1 - 10 mV / s are presented in
Fig. 1a. During the anodic scanning of the electrode
based on NiMoO4 hydrate in the KOH electrolyte the
reaction of splitting water molecules takes place,
followed by the release of oxygen molecules: 2H2O →
O2 + 2H2 [7]. In our case, the reaction of oxygen Redox peaks on the CVs of composites (Fig. 2 a, b) Redox peaks on the CVs of composites (Fig. 2 a, b) a) a)
b)
Fig. 1. Cyclic voltammograms of the electrode based on nanocrystal NiMoO4 hydrate (а) and the electrode based on
carbon material (b) using three electrode cells. b) b) a) a)
b)
Fig. 1. Cyclic voltammograms of the electrode based on nanocrystal NiMoO4 hydrate (а) and the electrode based on
carbon material (b) using three electrode cells. 482 Electrochemical and electrical properties of nickel molybdate / carbon material composites are the result of the interaction of nickel ions from the
structure of molybdate with OH- ions from the
electrolyte, followed by the formation of Ni(OH)2. Oxidation of nickel hydroxide to nickel oxyhydroxide
occurs under charge (positive current). During the
discharge (negative current), nickel ions are reduced:
Ni3+ + e-→ Ni2+. It should also be noted that along with
the intercalation of protons in the crystal structure of
nickel hydroxide, there is an intercalation of K+ ions
from the electrolyte into the layered structure of NiOOH,
which explains the asymmetry of the redox peaks of the
materials. Fig. 2a shows that the area of CV, and
accordingly the charge accumulated / given at a scan rate
of 1 mV/s, a composite with a carbon content of 1 % is
much higher than a composite with a content of C –
10 %. For a 1 % C us composite, the area of the
discharge curve is higher than for a 5 % C us composite. reaches a composite with a carbon material content of
1 % pre-dispersed by ultrasound, whereas the specific
capacitance of pure hydrate of nickel molybdate was
575 F/g. Ultrasonic treatment of carbon material
increases the average range of diameters of micro- and
mesopores and accordingly increases the capacitive
characteristics of composites [8]. II. Results and discussions However, as the carbon
content increases to 10 %, the specific capacitance
decreases to 260 F/g, which is probably due to a decrease
in the redox activity of nickel ions. Charge / discharge tests were performed in the
potential range of -0.15 to 0.35 V at specific currents of
0.2, 0.5 and 1 A/g. The nonlinear discharge curves are
confirmed by the Faraday type of charge accumulation
due to the intercalation of electrolyte ions into the
material structure and redox reactions, and agree well
with the available peaks on the CVs curves of these
composites. The specific capacitance at a discharge
current of 0.2 A/g was 558 F/g for the NiMoO4 hydrate,
520 F/g - NiMoO4/С (1 % С), 576 F/g – NiMoO4/С
(1 % С us), 133 F/g - NiMoO4/С (5%С us) and 95 F/g –
NiMoO4/С (10 % С) composites. The dependences of the specific capacitances of
composites with different content of carbon material on
the scan rate are presented in Fig. 3. It is established that
the maximum specific capacitance of 628 F/g at a scan
rate of 1 mV/s in the potential range of -0.15 - 0.4 V p
g
(
)
p
a)
b)
Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. The content of carbon material
was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us)
for 1 h) (b). a)
b)
Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with
1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites
with different carbon material content (b). b) a)
b)
Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. The content of carbon material
was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us)
for 1 h) (b). a) a)
b)
Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. The content of carbon material
was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us)
for 1 h) (b). b) Fig. 2. Cyclic voltammograms of NiMoO4 / C composites at scan rate of 1 mV/s. II. Results and discussions The content of carbon material
was by weight 1 and 10% (a) and 1 and 5% (carbon material was pre-dispersed by ultrasound (us)
for 1 h) (b). y
g
p
p
y
for 1 h) (b). a)
b)
Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with
1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites
with different carbon material content (b). a)
b)
Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with
1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites
with different carbon material content (b). a) b) a) b) a) Fig. 3. Dependence of the specific capacitance on the scan rate of NiMoO4 hydrate and NiMoO4 / С composites with
1 - 10 % carbon material content (a). Discharge curves at a current of 0.2 A/g of NiMoO4 hydrate and composites
with different carbon material content (b). 483 O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych a)
b)
c)
Fig. 4. Frequency dependences of electrical conductivity of nickel molybdate hydrate (a), carbon material (b) and
composites with a carbon material content of 1 - 10 % (c). b) Fig. 4. Frequency dependences of electrical conductivity of nickel molybdate hydrate (a), carbon material (b) and
composites with a carbon material content of 1 - 10 % (c). To determine the optimal ratio between the content
of carbon material in the composites and the electrical
properties of the materials we measured the frequency
dependence of the specific conductivity (Fig.4). It is
established that the specific electrical conductivity of
NiMoO4 hydrate is 1.07·10-4 S/m and is 100 times higher
than the conductivity of pure nickel hydroxide
determined in [4]. Such high electrical conductivity is
mainly provided by molybdenum atoms, while nickel
atoms are responsible for redox reactions. The higher
electrical conductivity of molybdate can also be
explained by the presence of oxygen vacancies in MoO4
tetrahedrons, which act as active centers for redox
reactions and provide dissociation of water molecules
into OH- groups. Oxygen vacancies contribute to better
charge accumulation kinetics and, accordingly, increase
the capacitive characteristics of molybdate [13]. II. Results and discussions Nanocrystal NiMoO4 shows a plateau in the low-
frequency region with a subsequent increase in
conductivity with increasing frequency (Fig. 4a). The
frequency independence of the conductivity is related to
the orientation polarization of the induced dipoles along
the direction of the applied electric field. With increasing frequency, the relaxation time for orientation polarization
is significantly reduced, resulting in a sharp increase in
conductivity on alternating current [14]. As a result of the formation of composites with
carbon material, the electrical conductivity of materials
increases significantly (Fig. 4c). Carbon material with an
electrical conductivity of 29 S/m (Fig. 4b) and a large
number of micro- and mesopores is an ideal matrix for
the
deposition
of
nanocrystal
NiMoO4,
avoids
agglomeration of nanoparticles and at the same time
forms an interconnected conductive network that
increases electron tunneling. At 1% carbon content, the
specific electrical conductivity of composites is 1.22 S/m
and 0.47 S/m with ultrasonic irradiation and increases
with increasing carbon content. From the results of electrochemical and electrical
studies it was found that NiMoO4 hydrate and composites
based on it show the electrochemical behavior
characteristic of battery-type materials and are promising
materials as cathodes of hybrid capacitors. The optimal
ratio between electrical conductivity and specific
capacitance has a composite with a carbon material
content of 1 % (Fig. 5), for which the specific 484 Electrochemical and electrical properties of nickel molybdate / carbon material composites Electrochemical and electrical properties of nickel molybdate / carbon material composites Fig. 5. Specific capacitance and electrical conductivity of hydrate NiMoO4 and NiMoO4 / C composites. Fig. 5. Specific capacitance and electrical conductivity of hydrate NiMoO4 and NiMoO4 / C composites. the specific capacitance is 628 F/g, while the specific
conductivity is 0.47 S/m. the specific capacitance is 628 F/g, while the specific
conductivity is 0.47 S/m. capacitance calculated from CV at a scan rate of 1mV/s
reaches a maximum value of 628 F/g, while this
composite has a conductivity of 0.47 S/m. [1]
H. Chen, S. Chen, Y. Zhu, C. Li, M. Fan, D. Chen, G. Tian, K. Shu, Electrochimica Acta 190, 57 (2016);
https://doi.org/10.1016/j.electacta.2015.12.212.
[2]
D. Cai, D. Wang, B. Liu, Y. Wang, Y. Liu, L. Wang, H. Li, H. Huang, Q. Li, T. Wang, ACS applied materials
& interfaces 5(24), 12905 (2013); https://doi.org/10.1021/am403444v.
[3]
Y. Hao, H. Huang, Q. Wang, Q. Wang, G. Zhou, Chemical Physics Letters 728, 215 (2019);
https://doi.org/10.1016/j.cplett.2019.05.010.
[4]
O. Khemii, I. Budzulyak, L. Yablon, D. Popovych, O. Morushko, R. Lisovskiy, Materials Today: Proceedings
35, 595 (2019); https://doi.org/10.1016/j.matpr.2019.11.207.
[5]
B. Moreno, E. Chinarro, M. T. Colomer, and J. R. Jurado, J. Phys. Chem. C 114 (10), 4251 (2010);
https://doi.org/10.1021/jp907870a.
[6]
O M Popovych I M Budzulyak V O Yukhymchuk S I Budzulyak & D I Popovych Fullerenes Nanotubes [6]
O.M. Popovych, I.M. Budzulyak, V.O. Yukhymchuk, S.I. Budzulyak & D.I. Popovych, Fullerenes, Nanotubes
and Carbon Nanostructures 1 (2021); https://doi.org/10.1080/1536383X.2021.1925253.
[7]
O
Rabbani
S
Ghasemi
S R
Hosseini
Journal of Alloys and Compounds 840
155665 (2020); [8]
B.I. Rachiy, M.O. Nykoliuk, I.M. Budzulyak, & A.I. Kachmar, Nanoscale Research Letters 12(1), 79 (2017);
https://doi.org/10.1186/s11671-017-1842-1. Conclusions 8 (4), 04074 (2016); https://doi.org/10.21272/jnep.8(4(2)).04074). [10] K. Eda, Y. Kato, Y. Ohshiro, T. Sugitani, & M.S. Whittingham, Journal of Solid State Chemistry 183(6), 1334
(2010); https://doi.org/10.1016/j.jssc.2010.04.009. [11] J.A. Rodriguez, S. Chaturvedi, J.C. Hanson, A. Albornoz, J.L. Brito, The Journal of Physical C
102(8), 1347 (1998); https://doi.org/10.1021/jp972137q. [12] S. Deabate, F. Henn, S. Devautour, J.C. Giuntini, Journal of the Electrochemical Society 150(6),
https://doi.org/10.1149/1.1573203. g
[13] C. Qing, C. Yang, M. Chen, W. Li, S. Wang, Y. Tang, Chemical Engineering Journal 354, 182 (2018);
https://doi.org/10.1016/j.cej.2018.08.005. p
g
j
j
[14] S. Maiti, B.B. Khatua, RSC advances 3(31), 12874 (2013); https://doi.org/10.1039/C3RA41617H. M. Попович, I. M. Будзуляк, В.О. Коцюбинський, Л.С. Яблонь, О.В. Попови Conclusions This research was supported by the National
Research
Foundations
of
Ukraine
(Project
No.2020.02/0043). The results of electrochemical and electrical studies
of nickel molybdate hydrate and composites based on it
demonstrate that these materials are promising as
cathodes of hybrid capacitors. Namely, the crystal
structure of NiMoO4 hydrate promotes the redox
reactions and intercalation of electrolyte ions, while the
formation of composites with carbon material provides
active sites for the deposition of nanocrystal NiMoO4 and
increases electron tunneling. It was found that the
specific capacitance of NiMoO4 / C composites decreases
with increasing carbon content. The composite with 1%
carbon content after ultrasonication has an optimal ratio
between capacitive and electrical characteristics, namely Popovych O.M. - Doctoral student;
Budzulyak I.M. - Professor, Doctor of Physical and
Mathematical Sciences;
Kotsyubynsky V.O. - Professor, Doctor of Physical and
Mathematical Sciences;
Yablon L.S. - Professor, Doctor of Physical and
Mathematical Sciences;
Popovych O.V. – PhD student. Popovych O.M. - Doctoral student;
Budzulyak I.M. - Professor, Doctor of Physical and
Mathematical Sciences;
Kotsyubynsky V.O. - Professor, Doctor of Physical and
Mathematical Sciences;
Yablon L.S. - Professor, Doctor of Physical and
Mathematical Sciences;
Popovych O.V. – PhD student. Kotsyubynsky V.O. - Professor, Doctor of Physical and
Mathematical Sciences; Yablon L.S. - Professor, Doctor of Physical and
Mathematical Sciences; Popovych O.V. – PhD student. [1]
H. Chen, S. Chen, Y. Zhu, C. Li, M. Fan, D. Chen, G. Tian, K. Shu, Electrochimica Acta 190, 57 (2016);
https://doi.org/10.1016/j.electacta.2015.12.212. [2]
D. Cai, D. Wang, B. Liu, Y. Wang, Y. Liu, L. Wang, H. Li, H. Huang, Q. Li, T. Wang, ACS applied materials
& interfaces 5(24), 12905 (2013); https://doi.org/10.1021/am403444v. [3]
Y. Hao, H. Huang, Q. Wang, Q. Wang, G. Zhou, Chemical Physics Letters 728, 215 (2019);
https://doi.org/10.1016/j.cplett.2019.05.010. [4]
O. Khemii, I. Budzulyak, L. Yablon, D. Popovych, O. Morushko, R. Lisovskiy, Materials Today: Proceedings
35, 595 (2019); https://doi.org/10.1016/j.matpr.2019.11.207. [5]
B. Moreno, E. Chinarro, M. T. Colomer, and J. R. Jurado, J. Phys. Chem. C 114 (10), 4251 (2010);
https://doi.org/10.1021/jp907870a. [6]
O.M. Popovych, I.M. Budzulyak, V.O. Yukhymchuk, S.I. Budzulyak & D.I. Popovych, Fullerenes, Nanotubes
and Carbon Nanostructures 1 (2021); https://doi.org/10.1080/1536383X.2021.1925253. 485 O.M. Popovych, I. M. Budzulyak, V.O. Kotsyubynsky, L.S. Yablon, O.V. Popovych [9]
O.M. Hemiy, L.S. Yablon, I.M. Budzulyak, S.I. Budzulyak, O.V. Morushko, A.I. Kachmar, J. Nano- Electron. Phys. 8 (4), 04074 (2016); https://doi.org/10.21272/jnep.8(4(2)).04074). M. Hemiy, L.S. Yablon, I.M. Budzulyak, S.I. Budzulyak, O.V. Morushko, A.I. Kachmar, J. Nano- Electro
s. Електрохімічні та електричні властивості композитів молібдат нікелю /
вуглецевий матеріал рикарпатський національний університет ім.В.Стефаника, Івано-Франківськ, Україна, khemiiolha@gmail.com Основною метою дослідження є встановлення оптимального вмісту вуглецевого матеріалу у
композитах з нанокристалічним гідратом молібдату нікелю. Для цього гідротермальним методом
отримали композити NiMoO4/C з відсотковим вмістом вуглецевого матеріалу 1, 5 та 10 % по масі (з та без
ультразвукового опромінення). В результаті проведення електрохімічних дослідження встановлено, що
максимальної питомої ємності 628 Ф/г досягає композит з вмістом вуглецевого матеріалу 1 % після
ультразвукового диспергування, водночас даний композит демонструє чудову електропровідність, яка
становить 0,47 См/м. Ключові
слова:
молібдат
нікелю,
вуглецевий
матеріал,
композит,
питома
ємність,
електропровідність, гібридний конденсатор. Ключові
слова:
молібдат
нікелю,
вуглецевий
матеріал,
композит,
питома
ємність,
електропровідність, гібридний конденсатор. 486
|
https://openalex.org/W3206399031
|
https://www.frontiersin.org/articles/10.3389/fpsyg.2021.628342/pdf
|
English
| null |
Similarity Effect and Purchase Behavior of Organic Food Under the Mediating Role of Perceived Values in the Context of COVID-19
|
Frontiers in psychology
| 2,021
|
cc-by
| 12,551
|
Similarity Effect and Purchase
Behavior of Organic Food Under the
Mediating Role of Perceived Values
in the Context of COVID-19 Chunnian Liu 1, Yan Zheng 1 and Dayu Cao 2*
1 School of Management, Nanchang University, Nanchang, China, 2 School of Economics and Management, Jiangxi
Agricultural University, Nanchang, China, 3 School of Economics and Management/Jiangxi Rural Revitalization Strategy
Research Institute, Jiangxi Agricultural University, Nanchang, China Chunnian Liu 1, Yan Zheng 1 and Dayu Cao 2* 1 School of Management, Nanchang University, Nanchang, China, 2 School of Economics and Management, Jiangxi
Agricultural University, Nanchang, China, 3 School of Economics and Management/Jiangxi Rural Revitalization Strategy
Research Institute, Jiangxi Agricultural University, Nanchang, China 1 School of Management, Nanchang University, Nanchang, China, 2 School of Economics and Management, Jiangxi
Agricultural University, Nanchang, China, 3 School of Economics and Management/Jiangxi Rural Revitalization Strategy
Research Institute, Jiangxi Agricultural University, Nanchang, China Due to the influence of COVID-19, people pay more attention to the balance between
human and nature and pursue more healthy, environmental and nutritional sustainable
products (such as organic food). However, the mainstream consumption of organic
food is far less, especially in developing countries like China. Therefore, it is urgent to
take effective measures to promote the development of China’s organic food market. This current study investigated the relationships between consumers’ similarity (i.e.,
information anxiety, uncertainty, and sustainable consumption attitude), perceived values
(i.e., functional value, health value, and environmental value) and organic purchasing
behavior based on the Stimulus-Organism-Response (S-O-R) theoretical model and
information similarity effect. And considering gender differences in consumers’ similarity,
perceived values and organic purchasing behavior. Meanwhile, the mediating effects
of perceived values on the relationship between consumers’ similarity and purchasing
behavior were also discussed, considering the background of COVID-19. Data were
collected using structured questionnaire survey in first-tier cities in China. A total of 344
consumers of organic foods participated in the study. Structural equation modeling was
employed for data analysis. The results indicated the significant association of information
anxiety, uncertainty and sustainable consumption attitude with perceived values. And
perceived values and sustainable consumption attitude had a positively significant
influence on purchase behavior. In addition, environmental value played mediating
effects in the relationships between organic purchasing behavior and information
anxiety, uncertainty and sustainable consumption attitude. And the impact of sustainable
consumption attitude and environmental value on organic purchasing behavior differed
in gender. Similarity Effect and Purchase
Behavior of Organic Food Under the
Mediating Role of Perceived Values
in the Context of COVID-19 The research not only provides novel insights for understanding organic
consumption, but also provides reference for organic sellers to develop sales strategies
and policy makers to formulate policies to guide organic consumption, which are
conducive to promoting China’s organic food industry. Edited by:
Felix Tinoziva Mavondo,
Monash University, Australia Reviewed by:
George Lazaroiu,
Spiru Haret University, Romania
Norazah Mohd Suki,
Universiti Utara Malaysia, Malaysia
Laura Trinchera,
NEOMA Business School, France *Correspondence:
Dayu Cao
caodayu2004@163.com *Correspondence:
Dayu Cao
caodayu2004@163.com Specialty section:
This article was submitted to
Environmental Psychology,
a section of the journal
Frontiers in Psychology
Received: 11 November 2020
Accepted: 13 September 2021
Published: 13 October 2021
Citation:
Liu C, Zheng Y and Cao D (2021)
Similarity Effect and Purchase
Behavior of Organic Food Under the
Mediating Role of Perceived Values in
the Context of COVID-19. Front. Psychol. 12:628342. doi: 10.3389/fpsyg.2021.628342 Specialty section:
This article was submitted to
Environmental Psychology,
a section of the journal
Frontiers in Psychology Received: 11 November 2020
Accepted: 13 September 2021
Published: 13 October 2021 Keywords: SOR model, organic food, perceived values, sustainable consumption, information similarity effect Edited by:
Felix Tinoziva Mavondo,
Monash University, Australia ORIGINAL RESEARCH
published: 13 October 2021
doi: 10.3389/fpsyg.2021.628342 INTRODUCTION However, due to the great differences of information about
organic food obtained by consumers from different information
sources, the increase of information sources may hinder
consumers’ organic purchase. Fu et al. (2018) believed that
consumers’ information similarity can affect their perception and
purchase behavior. Similarity generally includes genetic, social,
cultural, physical, and psychological factors (Thøgersen, 2004;
Hitsch et al., 2010). In addition, Guéguen et al. (2011) proved
that similarity can affect people’s internal perception. Therefore,
it is not the number of information sources, but the information
similarity of different information sources that is important to
consumers’ purchasing behavior. Global food safety and environmental problems have attracted
more and more attention. Thøgersen (2017) believed that
promoting sustainable food consumption would be the key to
alleviate and improve a series of environmental and health
problems. As organic food is healthier and more environmentally
friendly than traditional food and can support the local economy
(Strassner et al., 2015; Verain et al., 2015; De-Magistris and
Gracia, 2016), the consumption of organic food is considered as
an important form of sustainable consumption (Strassner et al.,
2015; Seconda et al., 2017). The organic market has grown rapidly
as the public pays more attention to healthy, safe, nutritious and
environmentally friendly organic foods (Kareklas et al., 2014;
Basha and Lal, 2019). In 2018, the total global market value of
organic food was estimated to be 96.7 billion euros, and global
per capita consumption was approximately 12.8 euros (Willer
and Lernoud, 2020). By 2018, China had already become the
world’s third-largest organic food market (8.1 billion euros, 8.3%
of the global market) (Willer and Lernoud, 2020). However,
China’s per capita consumption is only approximately 5.8 euros,
less than half the level of global per capita consumption. In
particular, its organic food consumption is far from that of top-
ranked Switzerland (per capita consumption of approximately
312 euros) (Willer and Lernoud, 2020). In addition, China’s
organic food market started late, the organic food market is
still relatively small in size at present, and consumer groups are
mainly concentrated in large cities (Xu, 2017), which hinders the
development of China’s organic industry. p
g
With the outbreak of COVID-19 in China and the rest of
the world, the epidemic has spread quickly, and the situation
is serious (Jia et al., 2020). INTRODUCTION Consumers can get the similar
information through various media every day, so how does
the information similarity affect the organic purchase behavior? Therefore, based on the Stimulus-Organism-Response (S-O-
R) theoretical model and information similarity effect, the
current study explored the relationships between consumers’
similarity, perceived values and organic purchasing behavior. And considering gender differences in consumers’ similarity,
perceived values and organic purchasing behavior. Meanwhile,
the mediating effects of perceived values on the relationship
between consumers’ similarity and purchasing behavior were also
discussed, considering the background of COVID-19. This paper intends to make three contributions to the
literature. First,
previous
studies
rarely
focused
on
the
relationship between consumer information similarity and
organic purchasing behavior. In order to fill this gap, this
paper explored the relationship between consumer information
similarity and the organic purchasing behavior in the context
of COVID-19, which may enrich the research of organic
consumption. Second, based on the SOR model and information
similarity effect, this paper divided stimulus (S) factors into
external similarity and internal similarity. In addition, this
paper divided external similarity into information anxiety
and uncertainty from the perspective of consumers’ access
to information, which not only considered the similarity of
information anxiety, but also considered consumers’ similarity
to the uncertainty of organic information. This may provide
a new perspective for the study of organic consumption, and
may provide valuable suggestions for organic sellers. Third, this
paper focused on the role of consumer perceived values after
the COVID-19 outbreak, divided perceived values into three
dimensions of functional value, health value, and environmental
value in combination with the realistic background, and
explored the relationship between perceived values and organic
purchasing behavior. At the same time, the mediating effects
of perceived values on the relationship between information
anxiety, uncertainty, sustainable consumption attitude, and
purchasing behavior were also discussed. The conclusions may
provide valuable suggestions for organic retailers, policy makers
and even organic producers. Understanding organic purchasing behavior is the key
to predicting organic food consumption (Rana and Paul,
2017). Many scholars have done a lot of research on the
influencing factors of organic consumption behavior. Some
studies believed that consumer perceived values play important
roles in promoting the purchase of organic food (Suki and Suki,
2015a,b,c; Suki, 2016; Akbar et al., 2019; Kushwah et al., 2019a;
Shamsi et al., 2020). Citation: Liu C, Zheng Y and Cao D (2021)
Similarity Effect and Purchase
Behavior of Organic Food Under the
Mediating Role of Perceived Values in
the Context of COVID-19. Front. Psychol. 12:628342. doi: 10.3389/fpsyg.2021.628342 October 2021 | Volume 12 | Article 628342 1 Frontiers in Psychology | www.frontiersin.org Similarity Effect of Buying Organic Food Liu et al. The Similarity Effect The SOR model is applicable to the present study for
the following two reasons. Firstly, the SOR model has
been extensively used in prior studies consumers’ behaviors
(Parboteeah et al., 2009; Wang et al., 2011; Luqman et al.,
2017; Fu et al., 2018; Li and Yuan, 2018). For example,
Luqman et al. (2017) applied the SOR model to social media
to identify the user’s behavior and its consequences. Fu et al. (2018) studied whether environmental stimulation can improve
users’ willingness to buy movie tickets online based on SOR
model. Secondly, in view of the important role of environmental
factors in influencing consumer behavior, the SOR model
provides a concise and structured way to test the impact of
environmental stimulus on consumer psychological factors (e.g.,
emotion, perception, and cognition), and then test the impact
of consumers on organic purchasing behavior. Therefore, the
current study applies this model to consumer behavior. In sociology, we describe the similarity effect as people’s strong
preference for people with similar characteristics. The concept of
similarity has been widely studied in psychology and consumer
behavior. Based on the hypothesis that similarity causes changes
in internal perception (Byrne, 1971), many scholars have
studied the similarity of different personal attributes, such as
demographic information (Hitsch et al., 2010), wearing the
same clothes (Buckley and Roach, 1981), and the same attitude
(Thøgersen, 2004). Fu et al. (2018) believed that similarity
includes genetic, social, cultural, physiological and psychological
factors. Meanwhile, Guéguen et al. (2011) proved that similarity
can affect people’s internal perception. Fu et al. (2018) divided the similarity into external similarity
and internal similarity. External similarity includes demographic
information and various media information, while internal
similarity includes interest, attitude or opinion, preference, etc. In this study, we divided external similarity into two dimensions
of information anxiety and uncertainty from the perspective of
consumers’ access to information. This is mainly because on the
one hand, under the severe influence of COVID-19 in China (Jia
et al., 2020), consumers can obtain a lot of information about
COVID-19 through media every day. Therefore, we believed that
consumers may generally have information anxiety factors. On
the other hand, China’s organic market is in the initial stage of
development, and there is information asymmetry in the market
(Xu, 2017). The Similarity Effect Therefore, we divided external similarity into two
dimensions of information anxiety and uncertainty, which may
not only provide a new perspective for organic consumption
research, but also provide valuable suggestions for organic sellers. Response (R) Response is the final result and decision of consumers based on
internal perception, including approach or avoidance behavior
(Sherman et al., 1997). In essence, consumers’ organic purchase
behavior can be regarded as the approach behavior made by
consumers based on internal perception. Therefore, the present
paper considered the impact of consumer perceived values on
consumers’ organic purchasing behavior. The Stimuli-Organism-Response Model
(SOR) According to the SOR model from the field of environmental
psychology, all aspects of the environment play a stimulating
role (S), affecting people’s internal states (O), which drives
their behavioral responses (R) (Mehrabian and Russell, 1974). The model shows that external environmental factors affect
the psychological changes of organisms, thus prompting
them to adopt behavioral responses. Meanwhile, it also
explains the change of people’s internal state strengthened
by the stimulation of external elements (Eroglu et al., 2001). Previous studies have shown that people’s inner state has
both positive and negative effects (Verhagen and van Dolen,
2011). Finally, People make the final choice according to the
internal state and take corresponding behavioral responses
(Mehrabian and Russell, 1974). Stimuli (S) Stimulus refers to all kinds of environmental factors encountered
by individuals (Jacoby, 2002). Previous studies on consumer
behavior showed that consumers obtain information through
various news media and interact with others through social
media (Hajli, 2014). Over time, consumers may discover factors
that they are similar to each other (e.g., interest, attitude,
and preference), thus stimulating their internal perception and
ultimately generating behavioral response (Fu et al., 2018). Therefore, the similarity of consumers is an important stimulus
factor affecting consumers’ internal perception and behavior. INTRODUCTION In particular, health value, functional value
and environmental value were identified as important factors
in predicting organic purchasing behavior (Mohammed, 2020). Chekima et al. (2017) found that consumers’ attitudes toward
organic food can play a positive role in organic consumption. At
the same time, Lockie et al. (2004) and Stobbelaar et al. (2007)
showed that there are gender differences in organic purchasing. Stevens (2020) and Newburn (2020) pointed out that, especially
in the context of COVID-19, the impact of consumer’s gender
differences on behavior and attitude is more and more obvious. In
addition, asymmetric information in organic market, uncertainty
and insufficient marketing were identified as the key factors
hindering consumers to buy organic food (Teng and Lu, 2016;
Hidalgo-Baz et al., 2017; Liu and Zheng, 2019; Kongtip et al.,
2020; Wang et al., 2020; Xie et al., 2020). With the development
of new media, consumers get more and more information from
various media. Some studies believed that the more organic
information consumers get from the media, the more they tend to
buy organic food, which can improve the information asymmetry
in the organic market (De-Magistris and Gracia, 2016; Liu et al.,
2021). The rest of the paper is organized as follows. In Sections
Theoretical Background and Hypothesis Development, we
review the background literature and develop our hypotheses. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 2 Similarity Effect of Buying Organic Food Liu et al. Sections Research Methodology and Results provide a detailed
introduction
of
our
research
methodology
and
analysis
and present our research results. Finally, we discuss some
conclusions, significance and limitations of this study, as well as
ideas for further research. to choose a certain product and an important indicator to
predict consumers’ purchasing behavior (Fu et al., 2018). Sheth et al. (1991) put forward the theoretical framework of
perceived values. They believed that perceived values include
five dimensions: functional value, social value, emotional
value, epistemic value, and conditional value. Rahnama (2016)
predicted consumers’ organic purchasing behavior through
seven dimensions of perceived values: functional value, health
value, environmental value, epistemic value, social value,
emotional value and conditional value. Referring to the above
research, according to the theme of the current study, we
constructed three dimensions of perceived values: functional
value, health value and environmental value to explore organic
consumption behavior. Organism (O)
f In addition, this study took sustainable consumption attitude
as an internal similarity. This is because existing studies have
shown that COVID-19 is caused by ecological imbalance (Lvov Organism refers to the internal perception of consumers (Eroglu
et al., 2001). Perceived values are important parts of internal
perception. They are the internal driving force for consumers October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 3 Liu et al. Similarity Effect of Buying Organic Food FIGURE 1 | Research framework. FIGURE 1 | Research framework. FIGURE 1 | Research framework. FIGURE 1 | Research framework. studies on perceived values have divided it into different
dimensions according to different research topics. For example,
Rahnama (2016) divided perceived values into seven dimensions:
functional value, health value, environmental value, epistemic
value, social value, emotional value and conditional value. Gonçalves et al. (2016) divided perceived values into five
dimensions: functional value, social value, emotional value,
conditional value and epistemic value. Referring to the above
research, according to the theme of this paper, we construct
three dimensions of perceived values: functional value, health
value, and environmental value. Therefore, this study proposes
the following hypothesis: and Alkhovsky, 2020), which urges people to pay more attention
to ecological balance and pursue healthy and environmentally
sustainable consumption. HYPOTHESIS DEVELOPMENT This study aims to examine the impact of similarity on
consumers’ organic purchasing behavior from the perspective of
consumer perceived values based on SOR model. Figure 1 depicts
the research framework, which reflects the influence of external
similarity (i.e., information anxiety and uncertainty) and internal
similarity (i.e., sustainable consumption attitude) on organic
purchase behavior, as well as the role of perceived values (i.e.,
functional value, health value and environmental value). In this
section, we explain the primary constructs and interrelationships
in the research model. H1a. Information anxiety (IA) has a positive effect on
functional value (FV). H1a. Information anxiety (IA) has a positive effect on
functional value (FV). H1b. Information anxiety (IA) has a positive effect on health
value (HV). H1c. Information anxiety (IA) has a positive effect on
environmental value (EV). The Effect of Information Anxiety on
Perceived Values and Purchase Behavior H1d. Information anxiety (IA) has a positive effect on
purchase behavior (PB). With the outbreak of COVID-19 in China and the rest of the
world, the epidemic has spread quickly, and the situation is
serious (Jia et al., 2020; Xie et al., 2020). Consumers can get a lot of
information about COVID-19 through media every day. As time
goes on, consumers may have information anxiety in common. And Shweta et al. (2017) confirmed that people often contact
with massive certain information, and over time, people would
find that they have common information anxiety characteristics. Ruiz Mafé and Sanz Blas (2006) found that the information
that consumers are exposed to through various information
channels can affect their perceived values and behavior. Previous Mediating Effect of Perceived Values Mediating Effect of Perceived Values
Perceived
values
are
considered
important
predictors
of
consumer decision-making (Sheth et al., 1991). If the attribute of
a product is related to the individual’s consumption motivation,
the individual experience will be stimulated by a certain degree of
cognitive or emotional arousal, which will trigger the individual’s
perception of the product and make it related to him or her
(Frieze, 1997). Lin and Huang (2012) found that organic
purchasing behavior is not only directly affected by consumption
motivation, but also affected by one’s perceived values of organic
food. Previous studies have shown that perceived values and
belief mediate the relationship between consumer motivation
and organic buying (Çabuk et al., 2014; Pagiaslis and Krontalis,
2014; Wang et al., 2019). As COVID-19 has been for a period
of time around the world, consumers’ information anxiety
about COVID-19 may indirectly affect organic purchasing
behavior through perceived values. In addition, Lvov and
Alkhovsky (2020) found that COVID-19 is caused by the
destruction of ecological balance, so people’s attitude toward
sustainable consumption may also indirectly affect organic
purchasing behavior through perceived values. Therefore, it
can be postulated that perceived values are mediators linking
the relationship between organic purchasing behavior and
information anxiety, uncertainty and sustainable consumption
attitude. Accordingly, the hypotheses are proposed as follows: H2b. Uncertainty (UNC) has a negative effect on health
value (HV). H2c. Uncertainty
(UNC)
has
a
negative
effect
on
environmental value (EV). H2d. Uncertainty (UNC) has a negative effect on purchase
behavior (PB). Behavior Attitude plays an important role in influencing consumers’
perceived values and behavior (Follows and Jobber, 2000;
Hidalgo-Baz et al., 2017). Understanding consumer attitudes
can help policy makers, marketers and producers promote
sustainable consumption habits and encourage consumers
to consume or use green products (Lin and Huang, 2012). In
addition,
Marchand
and
Walker
(2008)
pointed
out
that
consumers’
attitude
toward
sustainable
consumption
can promote the change of their perceived values, so as to
seek a more sustainable lifestyle. Therefore, we propose the
following hypothesis: H3a.Sustainable consumption attitude (SCA) has a positive
effect on functional value. H3b. Sustainable consumption attitude (SCA) has a positive
effect on health value. H7a-c. Functional value mediates the effect of information
anxiety, uncertainty, and sustainable consumption attitude on
purchase behavior respectively. H3c. Sustainable consumption attitude (SCA) has a positive
effect on environmental value. H8a-c. Heath value mediates the effect of information
anxiety, uncertainty, and sustainable consumption attitude on
purchase behavior respectively. H3d. Sustainable consumption attitude (SCA) has a positive
effect on purchase behavior (PB). H9a-c. Environmental value mediates the effect of information
anxiety, uncertainty, and sustainable consumption attitude on
purchase behavior respectively. The Effect of Perceived Values on
Purchase Behavior Perceived values refer to consumers’ overall evaluation of the
usefulness of relevant products (Zeithaml, 1988). Perceived
values
are
considered
important
predictors
of
consumer
decision-making (Sheth et al., 1991). Moreover, perceived values
can explain the internal reasons for consumers to choose
specific products (Sheth et al., 1991). According to different
research topics, scholars divided perceived values into different
dimensions. For example, Rahnama (2016) divided perceived
values into seven dimensions: functional value, health value,
environmental value, epistemic value, social value, emotional
value, and conditional value. Therefore, according to the research
theme of this paper, we construct the perceived values of three
dimensions: functional value, health value, and environmental
value. As such, we propose the following hypothesis: Frontiers in Psychology | www.frontiersin.org Values and Purchase Behavior Uncertainty is a state of holding incomplete information about
something (Vieira, 2008), and it is considered to have a negative
impact on consumers’ perceived values and purchase intention
(Shiu et al., 2011). Previous studies have shown that the lack
of relevant information and understanding of organic labels
would increase the difficulty for consumers to distinguish the
credence attributes and standards from that of traditional October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 4 Similarity Effect of Buying Organic Food Liu et al. Liu et al. H4. Functional value has a positive effect on purchase
behavior (PB). foods (Magistris and Gracia, 2008; Janssen and Hamm, 2011). Moreover, some studies argued that uncertainty toward the real
attributes of organic food has a negative influence on consumers’
perceived values and purchase intention (Yiridoe et al., 2005;
Nuttavuthisit and Thogersen, 2017). Thus, we propose the
following hypothesis: H5. Health
value
has
a
positive
effect
on
purchase
behavior (PB). H6. Environmental value has a positive effect on purchase
behavior (PB). H2a. Uncertainty (UNC) has a negative effect on functional
value (FV). H2b. Uncertainty (UNC) has a negative effect on health
value (HV). H2c. Uncertainty
(UNC)
has
a
negative
effect
on
environmental value (EV). H2d. Uncertainty (UNC) has a negative effect on purchase
behavior (PB). H2a. Uncertainty (UNC) has a negative effect on functional
value (FV). Measures All constructs in the proposed model were measured with
multiple-item scales that were validated in previous studies. A
few minor modifications were made to the measures to ensure
that they had face validity in the current research context. The
items used a 5-point Likert scale ranging from “1 = strongly
disagree” to “5 = strongly agree” (see Appendix A). Five items
of information anxiety were adapted from Zung (1971) and
Shweta et al. (2017); four items of uncertainty were adapted from
Kushwah et al. (2019b); four items of sustainable consumption
attitude were adapted from Arvola et al. (2008) and Dean et al. (2012); seven items of functional value were adapted Kushwah
et al. (2019a) and Akbar et al. (2019); three items of health value
were adapted from Rahnama (2016); four items of environmental
value were adapted from Biswas and Roy (2015); and the three
items of purchase behavior were adapted from Michaelidou and
Hassan (2008) and Singh and Verma (2017). Analytical Method To test the proposed model, we adopted the two-stage approach
of “structural equation modelling” (SEM) recommended by
Anderson and Gerbing (1988). AMOS 24.0 was used for assessing
the model fit as well as for hypothesis testing. In addition, to
assure construct validity, we also compute Confidence Interval
for Cronbach’s alpha according to Trinchera et al. (2018)
suggestions using R 3.5.1. Data Sources Data
collection
was
conducted
through
the
commission
of
a
professional
online
questionnaire
service
company,
Wenjuanxing (https://www.wjx.cn). And in the present study,
respondents from Beijing, Shanghai, Guangzhou and Shenzhen
were selected as the research objects. There are two main
reasons for using online surveys to collect respondents from
these cities in the current study. First, face-to-face interviews
should be avoided to reduce social distance after the COVID-19
outbreak. Second, the price of organic food is usually 2–4
times higher than that of traditional agricultural products,
and China’s organic consumers are mainly concentrated in big
cities at present (Xu, 2017). According to the China Statistical
Yearbook 2020 (http://www.stats.gov.cn/tjsj/ndsj/), these cities
were the top-four-ranked cities for per capita disposable income
in China. Therefore, the samples from Beijing, Shanghai,
Guangzhou, and Shenzhen are more representative. Moreover,
30 questionnaires were distributed online prior to the formal
survey as a presurvey to ensure the comprehensibility of the
items in the survey and the appropriateness of data collection
procedures. After the preliminary survey, the questionnaire was
modified appropriately. Gender and Purchase Behavior Previous studies have shown that gender influences the organic
purchasing behavior. Lockie et al. (2004) found that women hold
a higher proportion of positive attitudes toward organic food
than do men. Stobbelaar et al. (2007) found that adolescent girls
show a higher preference for organic products than do boys. Stevens (2020) and Newburn (2020) pointed out that, especially
in the context of COVID-19, the impact of consumer’s gender
differences on behavior and attitude is more and more obvious. Thus, we propose the following: H10. The organic purchase behavior of consumers differs
according to consumer gender. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org Frontiers in Psychology | www.frontiersin.org 5 Similarity Effect of Buying Organic Food Liu et al. Liu et al. TABLE 1 | Demographic profile of the sample (N = 344). n
%
1. Gender
Male
189
54.9
Female
155
45.1
2. Age
18–30
144
41.9
31–40
151
43.9
41–50
42
12.2
>50
7
2
3. Education
Junior high school and below
2
0.6
High school or technical secondary school
16
4.7
Junior college or undergraduate
293
85.2
Postgraduate and above
33
9.6
4. Per capita monthly income
< ¥3,000
2
0.6
¥3,001–¥5,000
34
9.9
¥5,001–¥8,000
79
23
¥8,001–¥12,000
115
33.4
> ¥12,000
114
33.1
5. Distribution area of respondents
Beijing
113
32.8
Shanghai
138
40.1
Guangdong Province (including only
Guangzhou and Shenzhen)
93
27 current study was about consumers’ organic purchasing behavior,
16 respondents were excluded. Thus, we ultimately obtained 344
usable responses out of the 360 initial responses. As shown in
Table 1, there were 189 male (54.9%) and 155 female (45.1%)
respondents in the collected sample. There were 293 respondents
(85.2%) with a junior college or an undergraduate education in
the sample. The respondents aged between 18 and 40 accounted
for 41.9% of the total sample. Respondents with a per capita
monthly income of more than ¥5,000 accounted for 89.5% of
the sample. Frontiers in Psychology | www.frontiersin.org RESULTS and King, 2010). According to a Bollen–Stine bootstrap with
2000-times correction, the resultant fit statistics (χ2 = 451.73;
df = 387; χ2/df = 1.17; CFI = 0.99; GFI = 0.93; TLI = 0.99;
RMSEA = 0.02) were all acceptable. Common Method Bias factor
CR
AVE
Loadings
Information anxiety
IA1
1.000
—
—
0.773
0.901
0.646
IA2
1.078
0.066
16.453***
0.841
IA3
0.994
0.062
16.114***
0.826
IA4
1.005
0.063
15.832***
0.814
IA5
0.907
0.062
14.633***
0.761
Uncertainty
UNC1
1.000
—
—
0.693
0.819
0.531
UNC2
1.093
0.095
11.517***
0.722
UNC3
1.187
0.096
12.373***
0.796
UNC4
0.977
0.087
11.214***
0.699
Sustainable
SCA1
1.000
—
—
0.677
0.837
0.563
consumption attitude
SCA2
1.114
0.095
11.677***
0.735
SCA3
1.278
0.101
12.622***
0.815
SCA4
1.126
0.093
12.085***
0.767
Functional value
FV1
1.000
—
—
0.613
0.859
0.501
FV2
1.140
0.117
9.746***
0.639
FV3
1.118
0.115
9.717***
0.637
FV4
1.049
0.108
9.691***
0.634
FV5
1.289
0.125
10.354***
0.693
FV6
1.451
0.129
11.243***
0.780
FV7
1.564
0.140
11.186***
0.774
Health value
HV1
1.000
—
—
0.808
0.851
0.656
HV2
0.935
0.063
14.775***
0.772
HV3
1.040
0.065
16.062***
0.848
Environmental value
EV1
1.000
—
—
0.868
0.894
0.680
EV2
1.013
0.052
19.335***
0.837
EV3
0.828
0.054
15.215***
0.715
EV4
1.021
0.050
20.415***
0.868
Purchase behavior
PB1
1.000
—
—
0.760
0.819
0.602
PB2
1.292
0.097
13.336***
0.791
PB3
1.261
0.096
13.176***
0.776 TABLE 2 | Coefficients for the measurement model. Common Method Bias As with all self-reported data, there is a potential for common
method variance resulting from multiple sources, such as
consistency motif and social desirability (Podsakoffet al., 2003). Several techniques can be used to detect and control common
method bias, such as measured marker variables (correlation-
based, regression-based, and CFA-based) and unmeasured latent
method factors (Podsakoffet al., 2003, 2012). We took Harman’s
single-factor test, as suggested by Podsakoffet al. (2003),
to address concerns regarding common method bias. All
measurement items were subjected to exploratory factor analysis
using SPSS 23.0. The unrotated factor solutions revealed that
the single factor explained only 29.26% of the variance in the
variables. Therefore, we can conclude that common method bias
is unlikely to be a serious concern for this study. In addition, we included the following question in the
questionnaire: “Have you ever bought organic food before?” In
answering this question, 16 respondents chose “no.” Because the The seven constructs of IA, UNC, SCA, FV, HV, EV, and PB
were measured by the concept of reflective indicators. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 6 Similarity Effect of Buying Organic Food Liu et al. Liu et al. TABLE 2 | Coefficients for the measurement model. Construct
Variable
Unstd. Estimates
S.E. T-value
Std. mposite Reliability; AVE, Average Variance Extracted.
51.73; df = 387; χ2/df = 1.17; CFI = 0.99; GFI = 0.93; TLI = 0.99; RMSEA = 0.02. Validity of Measurement Model Validity of Measurement Model Confirmatory factor analysis (CFA) assesses the fit of the
measurement model based on various fit indices. According to
the guidelines suggested by Jackson et al. (2009), the chi-square
(χ2) value, degrees of freedom (df), value of χ2/df, comparative
fit index (CFI), root mean square error of approximation
(RMSEA), goodness-of-fit index (GFI), and Tucker-Lewis index
(TLI) were used to assess model fit. The model fit is good when
χ2/df < 3.0, with RMSEA ≤0.08, TLI and CFI ≥0.90 (Hu and
Bentler, 1999), and GFI ≥0.80 (Chau and Hu, 2001). However,
a few model fit statistics were not greater than their minimum
acceptable level in the study, which is due to the expansion of the
chi-square value caused by nonmultivariate normality (Enders,
2005). Thus, the Bollen–Stine bootstrap was used to correct for
bias in the model fit statistic (Bollen and Stine, 1992; Fisher To measure the internal consistency reliability, convergent
validity and discriminant validity of the constructs in our
proposed model, we performed CFA analysis on the eight
constructs of IA, UNC, SCA, FV, HV, EV, and PB (see Tables 2, 3). The results revealed that the values for both Cronbach’s alpha
and composite reliability (CR) were over 0.7, and thus internal
consistency reliability was acceptable (Nunnally, 1978). In
addition, the factor loadings of the individual items in the
eight-construct model were all significant (all p < 0.001),
indicating preliminary evidence for the convergent validity of the
measurement model (Diamantopoulos et al., 2008). Meanwhile,
the average variance extracted (AVE) of all constructs exceeded
the 0.5 AVE threshold value (Fornell and Larcker, 1981; Bagozzi October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 7 Similarity Effect of Buying Organic Food Liu et al. TABLE 3 | Point estimate and Confidence Interval for Cronbach’s alpha. Point estimate
S.E. T-value
95% CI
Low
Up
IA
0.901
0.091
9.953
0.724
1.079
UNC
0.828
0.163
5.071
0.508
1.148
SCA
0.844
0.116
7.283
0.617
1.071
FV
0.861
0.034
25.064
0.794
0.929
HV
0.850
0.248
3.422
0.363
1.336
EV
0.892
0.142
6.282
0.614
1.170
PB
0.819
0.239
3.426
0.351
1.288
TABLE 4 | Means, standard deviations and correlations of variables. Validity of Measurement Model Model description
χ2
df
TLI
IFI
RMSEA
1χ2
1df
p-value
Model 1: Combined baseline models (males and females)
1,587.629
768
0.863
0.865
0.056
Model 2: Factor loadings constrained equal
1,614.296
791
0.862
0.864
0.055
Model 3: Factor loadings and intercepts constrained equal
1,646.106
821
0.862
0.863
0.054
Model 4: Factor loadings, intercepts and covariances constrained equal
1,685.342
849
0.860
0.860
0.054
Model 5: Factor loadings, intercepts, covariances, and residuals constrained equal
1,723.871
879
0.858
0.858
0.053
Model 6: Factor loadings invariant (Model 2 - Model 1)
26.67
23
0.270
Model 7: Measurement intercepts invariant
(Model 3 – Model 2)
31.81
30
0.376
Model 8: Covariances invariant (Model 4 – Model 3)
39.24
28
0.077
Model 9: Measurement residuals invariant
(Model 5 – Model 4)
38.53
30
0.137
1χ2 = difference in chi-square values; 1df = difference in degrees of freedom. difference in chi-square values; 1df = difference in degrees of freedom across males and females were equivalent. In addition, the χ2
difference of 31.81 for 30 degrees of freedom was non-significant
(p = 0.376) in the model 7, the χ2 difference of 39.24 for 28
degrees of freedom was non-significant (p = 0.077) in the model
8 and the χ2 difference of 38.53 for 30 degrees of freedom
was non-significant (p = 0.137) in the model 9, suggesting that
measurement intercepts, covariances and measurement residuals
across males and females were all equivalent. and Yi, 1989), and thus the convergent validity was acceptable. Moreover, Table 4 shows that the estimated intercorrelations
among all constructs were less than the square roots of the AVE
in each construct, and this provides support for discriminant
validity (Fornell and Larcker, 1981). In order to test the measurement invariance across males
and females, according to the suggestions of Van De Schoot
et al. (2015) and Deng et al. (2008), we conducted an invariance
analysis of two subgroups, male and female. As shown in
Table 5, in the factor loadings invariant model (model 6), the
χ2 difference of 26.67 for 23 degrees of freedom was non-
significant (p = 0.270), suggesting that item-factor loadings Validity of Measurement Model Mean
SD
IA
UNC
SCA
FV
HV
EV
PB
IA
2.606
1.040
0.804
UNC
3.436
0.932
0.183
0.729
SCA
4.048
0.668
0.064
−0.051
0.750
FV
3.586
0.747
0.202
−0.331
0.362
0.708
HV
3.391
1.012
0.243
−0.245
0.376
0.628
0.810
EV
3.023
0.997
0.320
−0.179
0.292
0.521
0.638
0.825
PB
3.270
0.897
0.055
−0.247
0.424
0.476
0.486
0.439
0.776
The square root of AVE for discriminant validity is illustrated in bold font. TABLE 5 | Invariance analysis across males and females in the measurement model. Model description
χ2
df
TLI
IFI
RMSEA
1χ2
1df
p-value
Model 1: Combined baseline models (males and females)
1,587.629
768
0.863
0.865
0.056
Model 2: Factor loadings constrained equal
1,614.296
791
0.862
0.864
0.055
Model 3: Factor loadings and intercepts constrained equal
1,646.106
821
0.862
0.863
0.054
Model 4: Factor loadings, intercepts and covariances constrained equal
1,685.342
849
0.860
0.860
0.054
Model 5: Factor loadings, intercepts, covariances, and residuals constrained equal
1,723.871
879
0.858
0.858
0.053
Model 6: Factor loadings invariant (Model 2 - Model 1)
26.67
23
0.270
Model 7: Measurement intercepts invariant
(Model 3 – Model 2)
31.81
30
0.376
Model 8: Covariances invariant (Model 4 – Model 3)
39.24
28
0.077
Model 9: Measurement residuals invariant
(Model 5 – Model 4)
38.53
30
0.137
1χ2 = difference in chi-square values; 1df = difference in degrees of freedom. TABLE 3 | Point estimate and Confidence Interval for Cronbach’s alpha. Point estimate
S E TABLE 3 | Point estimate and Confidence Interval for Cronbach’s alpha. BLE 4 | Means, standard deviations and correlations of variables. TABLE 5 | Invariance analysis across males and females in the measurement model. Frontiers in Psychology | www.frontiersin.org Structural Model This study used SEM to test the relationships between variables,
including control variables (i.e., age, income, and education). October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 8 Liu et al. Similarity Effect of Buying Organic Food FIGURE 2 | Tested model. (1) *p < 0.05; **p < 0.01; ***p < 0.001. (2) χ2 = 583.87; df = 509; χ2/df = 1.15; CFI = 0.99; GFI = 0.91; TLI = 0.99; RMSEA = 0.02. FIGURE 2 | Tested model. (1) *p < 0.05; **p < 0.01; ***p < 0.001. (2) χ2 = 583.87; df = 509; χ2/df = 1.15; CFI = 0.99; GFI = 0.91; TLI = 0.99; RMSEA = 0.02. TABLE 6 | Confirmation of the hypotheses. Hypothesis
Path
β
S.E. t-value
p-value
Supported
H1a
IA→FV
0.178
0.032
5.489
***
Yes
H1b
IA→HV
0.337
0.053
6.360
***
Yes
H1c
IA→EV
0.409
0.056
7.274
***
Yes
H1d
IA→PB
−0.041
0.053
−0.782
0.434
No
H2a
UNC→FV
−0.355
0.050
−7.102
***
Yes
H2b
UNC→HV
−0.505
0.073
−6.878
***
Yes
H2c
UNC→EV
−0.414
0.073
−5.669
***
Yes
H2d
UNC→PB
−0.085
0.078
−1.094
0.274
No
H3a
SCA→FV
0.456
0.068
6.700
***
Yes
H3b
SCA→HV
0.810
0.107
7.541
***
Yes
H3c
SCA→EV
0.616
0.104
5.923
***
Yes
H3d
SCA→PB
0.343
0.111
3.077
**
Yes
H4
FV→PB
0.228
0.102
2.234
*
Yes
H5
HV→PB
0.118
0.059
1.993
*
Yes
H6
EV→PB
0.125
0.047
2.643
**
Yes
H10
Gender→PB
−0.008
0.065
-0.128
0.898
No
*p < 0.05; **p < 0.01; ***p < 0.001. *p < 0.05; **p < 0.01; ***p < 0.001. FV, HV, and EV respectively, supporting H1a, H1b, and H1c. And UNC (H2a: β = −0.355, p < 0.001; H2b: β = −0.505,
p < 0.001; H2c: β = −0.414, p < 0.001) showed a significant
impact on FV, HV and EV respectively, supporting H2a, H2b,
and H2c. Meanwhile, SCA had a significant influence on FV,
HV and EV respectively. Thus, H3a-H3c were supported. In
addition, SCA, FV, HV, and EV had a significant impact on
PB at a significant level of 1, 5, 5, 1% respectively, supporting
H3d, H4, H5, and H6. However, IA, UNC and Gender had no
significant effects on PB. Therefore, H1d, H2d, and H10 were
not supported. FV, HV, and EV respectively, supporting H1a, H1b, and H1c. Structural Model And UNC (H2a: β = −0.355, p < 0.001; H2b: β = −0.505,
p < 0.001; H2c: β = −0.414, p < 0.001) showed a significant
impact on FV, HV and EV respectively, supporting H2a, H2b,
and H2c. Meanwhile, SCA had a significant influence on FV,
HV and EV respectively. Thus, H3a-H3c were supported. In
addition, SCA, FV, HV, and EV had a significant impact on
PB at a significant level of 1, 5, 5, 1% respectively, supporting
H3d, H4, H5, and H6. However, IA, UNC and Gender had no
significant effects on PB. Therefore, H1d, H2d, and H10 were
not supported. According to the Bollen–Stine bootstrap to correct for bias in
the model fit statistic, the resulting fit indices (χ2 = 583.87;
df = 509; χ2/df = 1.15; CFI = 0.99; GFI = 0.91; TLI = 0.99;
RMSEA = 0.02) were all acceptable. The structural model
elucidated 44.6% of the variance of purchase behavior (see
Figure 2). As shown in Figure 2 and Table 6, the result of the hypothesis
testing results indicates that 13 hypotheses were supported
(H1a-H1c, H2a-H2c, H3a-H3d, H4, H5, and H6). Notably, IA
(H1a: β = 0.178, p < 0.001; H1b: β = 0.337, p < 0.001;
H1c: β = 0.409, p < 0.001) showed a significant influence on October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 9 Similarity Effect of Buying Organic Food Liu et al. TABLE 7 | Invariance analysis across males and females in the structural model. Model description
χ2
df
TLI
IFI
RMSEA
1χ2
1df
p-value
Model 1: Combined baseline models (males and females)
1,746.941
774
0.817
0.840
0.061
Model 2: Path coefficients constrained equal
1,770.749
789
0.819
0.838
0.06
Model 3: Path coefficients and covariances constrained equal
1,789.658
795
0.818
0.835
0.06
Model 4: Path coefficients, covariances and residuals constrained equal
1,793.774
799
0.818
0.835
0.06
Model 5: Path coefficients invariant
(Model 2 - Model 1)
23.808
15
0.068
Model 6: Structural covariances invariant (Model 3 – Model 2)
18.909
6
0.004
Model 7: Structural residuals invariant (Model 4 – Model 3)
4.116
4
0.391
1χ2 = difference in chi-square values; 1df = difference in degrees of freedom. TABLE 8 | Coefficient of group analysis. Hypothesis
Path
Gender
Male
Female
β
S.E. p-value
β
S.E. Structural Model p-value
H1a
IA→FV
0.149
0.039
***
0.214
0.055
***
H1b
IA→HV
0.237
0.060
***
0.490
0.096
***
H1c
IA→EV
0.343
0.067
***
0.538
0.097
***
H1d
IA→PB
−0.017
0.062
0.788
−0.104
0.099
0.292
H2a
UNC→FV
−0.312
0.071
***
−0.407
0.070
***
H2b
UNC→HV
−0.372
0.099
***
−0.650
0.106
***
H2c
UNC→EV
−0.224
0.101
*
−0.572
0.102
***
H2d
UNC→PB
−0.136
0.099
0.170
0.010
0.129
0.936
H3a
SCA→FV
0.536
0.133
***
0.437
0.078
***
H3b
SCA→HV
1.095
0.225
***
0.649
0.118
***
H3c
SCA→EV
1.151
0.237
***
0.343
0.111
**
H3d
SCA→PB
0.632
0.240
**
0.169
0.128
0.187
H4
FV→PB
0.196
0.139
0.158
0.270
0.159
0.090
H5
HV→PB
0.138
0.087
0.114
0.147
0.083
0.076
H6
EV→PB
0.061
0.069
0.377
0.144
0.070
*
*p < 0.05; **p < 0.01; ***p < 0.001. TABLE 7 | Invariance analysis across males and females in the structural model. effects on PB in female group. Meanwhile, EV (β = 0.144,
p < 0.05) showed a significant impact on PB in female
group. However, EV had no significant effects on PB in
male group. In order to test the structural invariance across males and
females, according to the suggestions of Van De Schoot et al. (2015), we conducted an invariance analysis of two subgroups,
male and female. As shown in Table 7, the χ2 difference of
23.808 for 15 degrees of freedom was non-significant (p = 0.068)
in the model 5 and the χ2 difference of 4.116 for 4 degrees
of freedom was non-significant (p = 0.391) in the model
7, suggesting that path coefficients and structural residuals
across males and females were all equivalent. However, the χ2
difference of 18.909 for 6 degrees of freedom was significant
(p = 0.004) in the model 6, thus the structural covariances was
not equivalent. Frontiers in Psychology | www.frontiersin.org The Mediating Effect of Perceived Values The Mediating Effect of Perceived Values
In order to investigate the indirect effects of the independent
variable
through
the
mediator,
bias-corrected
percentile
bootstrapping and percentile bootstrapping were performed at
a 95% confidence interval with 5,000 bootstrap samples (Taylor
et al., 2007). Following the suggestions of Preacher and Hayes
(2008), the confidence interval of the lower and upper bounds
was calculated to test whether the indirect effects were significant. As shown in Table 9, the results of the bootstrap test showed
that the total effect (total effect = 0.09, p< 0.05) and indirect
effect (indirect effect = 0.051, p < 0.01) of IA on PB, and the
total effect (total effect = −0.277, p < 0.001) and indirect effect In order to further test the difference of consumers’ gender
on organic purchasing behavior, we conducted a group analysis
of two subgroups, male and female. As shown in Table 8,
SCA (β = 0.632, p < 0.01) showed a significant impact
on PB in the male group. However, SCA had no significant October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 10 Similarity Effect of Buying Organic Food Liu et al. Liu et al. TABLE 9 | Total effects, indirect effects, and direct effects of the model. Point estimate
Product of coefficients
Booststrapping
Bias-corrected percentile 95% CI
Percentile 95% CI
S.E. The Mediating Effect of Perceived Values Z
Lower
Upper
Two-tailed
significance
Lower
Upper
Two-tailed
significance
Total effect
IA→PB
0.090
0.044
2.045
0.007
0.176
*
0.004
0.175
*
UNC→PB
−0.277
0.064
−4.328
−0.420
−0.167
***
−0.416
−0.163
***
SCA→PB
0.619
0.126
4.913
0.414
0.908
***
0.415
0.909
***
Indirect effect
IA→FV→PB
0.041
0.023
1.783
0.005
0.103
*
−0.004
0.089
0.072
IA→HV→PB
0.040
0.027
1.481
−0.006
0.101
0.098
−0.006
0.101
0.097
IA→EV→PB
0.051
0.025
2.040
0.010
0.114
**
0.004
0.106
**
UNC→FV→PB
−0.081
0.045
−1.800
−0.183
−0.003
*
−0.172
0.008
0.072
UNC→HV→PB
−0.059
0.040
−1.475
−0.148
0.012
0.104
−0.150
0.010
0.097
UNC→EV→PB
0.077
0.038
2.026
0.015
0.169
**
0.007
0.155
**
SCA→FV→PB
0.104
0.058
1.793
0.006
0.243
*
−0.010
0.222
0.072
SCA→HV→PB
0.095
0.061
1.557
−0.021
0.219
0.110
−0.017
0.222
0.097
SCA→EV→PB
0.077
0.038
2.026
0.015
0.169
**
0.007
0.155
**
Direct effect
IA→PB
−0.041
0.056
−0.732
−0.158
0.061
0.423
−0.156
0.064
0.450
UNC→PB
−0.085
0.075
−1.133
−0.234
0.062
0.257
−0.240
0.056
0.231
SCA→PB
0.343
0.125
2.744
0.129
0.623
***
0.136
0.639
***
Estimation of 5,000 bootstrap sample; *p < 0.05; **p < 0.01; ***p < 0.001. Mediators: FV, HV, and EV. | Total effects, indirect effects, and direct effects of the model. health value, and environmental value). Our findings are
consistent with previous literature. Namely, Ruiz Mafé and Sanz
Blas (2006) argued that information anxiety had a positive
influence on consumers’ perceived values and Nuttavuthisit
and Thogersen (2017) argued that uncertainty toward the
real attributes of organic food has a negative influence on
consumers’ perceived values. In addition, regarding consumers’
internal similarity, the study results found that sustainable
consumption attitude had significant and positive influences
on perceived values and purchase behavior, which is in line
with the results of prior literature (Follows and Jobber, 2000;
Marchand and Walker, 2008; Lin and Huang, 2012). In other
words, consumers with higher sustainable consumption attitude
have higher perceived values of organic food. And they are
more likely to buy organic food. However, information anxiety
and uncertainty had no effects on organic purchasing, which
is inconsistent with previous research results (Ruiz Mafé and
Sanz Blas, 2006; Shiu et al., 2011). Two possible reasons
are that, on the one hand, although consumers are eager
to seek safe and high-quality food under the influence of
COVID-19, many consumers do not trust organic food because
the organic market in China is in its infancy (Xu, 2017). Moreover, Suki (2015) and Vega-Zamora et al. The Mediating Effect of Perceived Values (2019) pointed
out that trust is the basis of establishing exchange relationships
between organic food buyers and sellers. This may explain
why information anxiety did not have a significant effect
on organic purchasing. On the other hand, although many (indirect = 0.077, p < 0.01) of UNC on PB were all significant,
while the direct effects of those were no longer significant. The
above findings indicated that EV played a completely mediating
role in the relationships between IA and PB (H9a), and between
UNC and PB (H9b). Thus, both H9a and H9b were supported. In
addition, the total effect (total effect = 0.619, p < 0.001), indirect
effect (indirect = 0.077, p < 0.01) and direct effect (direct
effect = 0.343, p < 0.001) of SCA on PB were all significant. The
above findings indicated that EV played a partially mediating
role in the relationships between SCA and PB (H9c). Thus, H9c
was supported. However, FV and HV had no mediating effects
on the relationships between IA and PB, between UNC and PB,
and between SCA and PB. Thus, H7a-H7c and H8a-H8c were
not supported. CONCLUSION One possible reason is
that some studies pointed out that COVID-19 is caused
by
ecological
imbalance
(Lvov
and
Alkhovsky,
2020),
which prompts people to pay more attention to ecological
balance
and
to
pursue
more
environmentally
friendly
consumption. However, as the organic market in China is
in its infancy, many consumers do not fully understand the
benefits of organic food, especially its functional value and
health value. The results provide valuable findings for the sustainable
development of the organic food industry and may enrich the
research in this field. The following insights can be obtained
from the research results of this paper. First, Perceived values
(i.e., functional value, health value, and environmental value)
are important factors affecting consumers’ organic purchasing
behavior. Therefore, organic sellers and public policy makers can
formulate corresponding strategies to drive consumers’ organic
consumption demand. That is to say, organic sellers should pay
attention to specific consumer groups and improve consumers’
perceived values of organic food products by maintaining
customer satisfaction and pleasure. At the same time, the public
policy makers should establish the concept of organic cultivation
and breeding which is conducive to ecological civilization and
human health through education and publicity, and enhance the
correct values of consumers, so as to promote the development of
organic industry. Second, the results showed that consumers’ uncertainty about
organic food hinders consumers’ perceived values of organic
food, thus hindering organic consumption. Therefore, organic
producers, organic sellers, and public policy makers should
formulate corresponding strategies to promote consumers’
understanding of organic information. Organic producers can
show more production details to consumers through media and
social platforms, and organic sellers can vigorously promote
organic food through media and social platforms. At the same
time, public policy makers can also provide more authoritative
organic information to consumers through media and social
platforms, so as to achieve the goal of promoting organic
consumption and sustainable development. Finally, the results showed that gender had no significant
relationship with purchase behavior. This is inconsistent
with
prior
studies
(Stobbelaar
et
al.,
2007). Namely,
Stobbelaar et al. (2007) believed that women prefer organic
products more than men do. One possible reason is that
due to environmental problems, the public is increasingly
concerned about more environmentally friendly organic food
(Basha and Lal, 2019). Therefore, consumers with different
genders may all attach great importance to environmental
protection. CONCLUSION Chinese consumers are uncertain about the information of
organic food, the price of organic food is 2–4 times that
of traditional food. Moreover, Xu (2017) believed that, to
a large extent, the price of food represents the quality of
food. Therefore, although some consumers are uncertain about
the information of organic food, they may buy organic food
according to the price of organic food. Thus, this may explain
why uncertainty did not have a significant and negative effect on
organic purchasing. This current study investigated the relationships between
consumers’ similarity (i.e., information anxiety, uncertainty,
and sustainable consumption attitude), perceived values (i.e.,
functional value, health value, and environmental value) and
organic purchasing behavior based on the SOR theoretical
model and information similarity effect. And considering gender
differences in consumers’ similarity, perceived values, and
organic purchasing behavior. Meanwhile, the mediating effects
of perceived values on the relationship between consumers’
similarity
and
purchasing
behavior
were
also
discussed,
considering the background of COVID-19. The results indicated
the significant association of information anxiety, uncertainty
and sustainable consumption attitude with perceived values. And
perceived values and sustainable consumption attitude had a
positively significant influence on purchase behavior. In addition,
environmental value played mediating effects in the relationships
between organic purchasing behavior and information anxiety,
uncertainty and sustainable consumption attitude. And the
impact of sustainable consumption attitude and environmental
value on organic purchasing behavior differed in gender. Secondly, regarding perceived values, the study results
found that functional value, health value and environmental
value had significant and positive influences on purchase
behavior. Our
findings
are
in
line
with
the
results
of
prior literature, which argued perceived values are considered
important predictors of consumer decision-making (Sheth et al.,
1991). It is worth noting that in the context of COVID-19,
functional value, health value and environmental value all play
an important role in organic purchase, which implies that
consumers are more inclined to buy environmental and healthy
organic food. Thirdly, environmental value played mediating effects in
the relationships between organic purchasing behavior and
consumers’ similarity (i.e., information anxiety, uncertainty,
and sustainable consumption attitude). As we expected, there
is
a
potential
relationship
among
consumers’
similarity,
environmental
value
and
purchase
behavior. However,
functional value and health value did not play mediating
effects
in
the
relationships
between
organic
purchasing
behavior and consumers’ similarity (i.e., information anxiety,
uncertainty
and
sustainable
consumption
attitude). This
is not in line with our prediction. DISCUSSION Using the SOR theoretical model and information similarity
effect,
we
studied
the
relationships
between
information
anxiety, uncertainty, sustainable consumption attitude, and
organic purchasing behavior under the mediating role of their
perceived values. And we used SEM to verify the research
hypotheses. The main findings of the current study are
as follows. Firstly, regarding consumers’ external similarity, the study
results found that information anxiety and uncertainty had
significant influences on perceived value (i.e., functional value, October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 11 Similarity Effect of Buying Organic Food Liu et al. Liu et al. REFERENCES Chau,
P. Y. K.,
and
Hu,
P. J. H. (2001). Information
technology
acceptance
by
individual
professionals:
a
model
comparison
approach. Decis. Sci. 32,
699–719. doi:
10.1111/j.1540-5915.2001.tb0
0978.x Akbar, A., Ali, S., Ahmad, M. A., Akbar, M., and Danish, M. (2019). Understanding the antecedents of organic food consumption in Pakistan:
moderating role of food neophobia. Int. J. Environ. Res. Public Health 16:4043. doi: 10.3390/ijerph16204043 Chekima, B., Oswald, A. I., Wafa, S. A. W. S., and Chekima, K. (2017). Narrowing
the
gap:
factors
driving
organic
food
consumption. J. Clean. Prod. 166,
1438–1447. doi:
10.1016/j.jclepro.2017. 08.086 Anderson, J. C., and Gerbing, D. W. (1988). Structural equation modeling in
practice: a review and recommended two-step approach. Psychol. Bullet. 103,
411–423. doi: 10.1037/0033-2909.103.3.411 Dean, M., Raats, M. M., and Shepherd, R. (2012). The role of self-identity,
past behavior, and their interaction in predicting intention to purchase
fresh and processed organic food. J. Appl. Soc. Psychol. 42, 669–688. doi: 10.1111/j.1559-1816.2011.00796.x Arvola, A., Vassallo, M., Dean, M., Lampila, P., Saba, A., Lähteenmäki, L., et al. (2008). Predicting intentions to purchase organic food: the role of affective
and moral attitudes in the Theory of Planned Behaviour. Appetite 50, 443–454. doi: 10.1016/j.appet.2007.09.010 De-Magistris, T., and Gracia, A. (2016). Consumers’ willingness-to-pay for
sustainable food products: the case of organically and locally grown
almonds in Spain. J. Clean. Prod. 118, 97–104. doi: 10.1016/j.jclepro.2016. 01.050 Bagozzi, R. P., and Yi, Y. (1989). On the use of structural equation
models
in
experimental
designs. J. Mark. Res. 26,
271–284. doi: 10.1177/002224378902600302 Basha, M. B., and Lal, D. (2019). Indian consumers’ attitudes towards purchasing
organically produced foods: an empirical study. J. Clean. Prod. 215, 99–111. doi: 10.1016/j.jclepro.2018.12.098 Deng, X., Doll, W. J., Al-Gahtani, S. S., Larsen, T. J., Pearson, J. M., and
Raghunathan, T. S. (2008). A cross-cultural analysis of the end-user computing
satisfaction instrument: a multi-group invariance analysis. Inform. Manag. 45,
211–220. doi: 10.1016/j.im.2008.02.002 Biswas, A., and Roy, M. (2015). Green products: an exploratory study on the
consumer behaviour in emerging economies of the East. J. Clean. Prod. 87,
463–468. doi: 10.1016/j.jclepro.2014.09.075 Diamantopoulos,
A.,
Riefler,
P.,
and
Roth,
K. P. (2008). Advancing
formative
measurement
models. J. Bus. Res. 61,
1203–1218. doi: 10.1016/j.jbusres.2008.01.009 Bollen,
K. A.,
and
Stine,
R. A. (1992). Bootstrapping
goodness-of-fit
measures in structural equation models. Sociol. Methods Res. 21, 205–229. doi: 10.1177/0049124192021002004 Enders,
C. K. (2005). ETHICS STATEMENT affects organic buying behavior through environmental values. Therefore, in order to promote the consumption of organic food,
the government needs to strengthen the publicity and education
of environmental values, so as to promote the people to form
values of protecting the environment. Ethical
review
and
approval
was
not
required
for
the
study
on
human
participants
in
accordance
with
the
local
legislation
and
institutional
requirements. Written
informed consent for participation was not required for this
study in accordance with the national legislation and the
institutional requirements. LIMITATIONS AND FURTHER RESEARCH Some limitations of this study suggest directions for further
research. First, the survey data were collected from organic
consumers in China’s first-tier cities, which may limit the
generalizability of the study findings to other contexts. Future
studies may be extended to other cities in China, which might
help deepen the understanding of organic purchasing behavior
and may further improve the generalizability of the study
findings. Secondly, this paper only considered the similarity
factors of information anxiety, uncertainty and sustainable
consumption attitude, and may ignore other similarity factors
(such as preference and personality characteristics), especially in
the context of COVID-19. Future studies may consider more
other similarity factors and may further enrich the results. SUPPLEMENTARY MATERIAL The Supplementary Material for this article can be found
online
at:
https://www.frontiersin.org/articles/10.3389/fpsyg. 2021.628342/full#supplementary-material The original contributions presented in the study are included
in the article/Supplementary Material, further inquiries can be
directed to the corresponding author/s. FUNDING This
paper
was
supported
by
the
National
Natural
Science
Foundation
of
China
(NSFC,
Grant
Number: 71663038, 72064027). CONCLUSION In addition, the results showed that there were
gender differences in the impact of sustainable consumption
attitude and environmental value on organic purchasing
behavior. Our findings are in line with the results of prior
literature, which argued the impact of consumer’s gender
differences on behavior and attitude is more and more
obvious in the context of COVID-19 (Newburn, 2020; Stevens,
2020). Third,
the
results
showed
that
information
anxiety,
uncertainty
and
sustainable
consumption
attitude
have
significant effects on organic purchasing behavior through
environmental
value. In
particular,
uncertainty
positively October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 12 Similarity Effect of Buying Organic Food Liu et al. AUTHOR CONTRIBUTIONS CL shaped the theoretical design. YZ was responsible for the
statistical analysis. DC was responsible for the final composition. All authors contributed to the article and approved the
submitted version. REFERENCES Educ. Res. J. 5:83 Nuttavuthisit, K., and Thogersen, J. (2017). The importance of consumer trust for
the emergence of a market for green products: the case of organic food. J. Bus. Ethics 140, 1–15. doi: 10.1007/s10551-015-2690-5 Janssen, M., and Hamm, U. (2011). Consumer perception of different organic
certification schemes in five European countries. Organ. Agri. 1, 31–43. doi: 10.1007/s13165-010-0003-y Pagiaslis, A., and Krontalis, A. K. (2014). Green consumption behavior
antecedents: environmental concern, knowledge, and beliefs. Psychol. Market. 31, 335–348. doi: 10.1002/mar.20698 Jia, J. S., Lu, X., Yuan, Y., Xu, G., Jia, J., and Christakis, N. A. (2020). Population
flow drives spatio-temporal distribution of COVID-19 in China. Nature. 582,
389–394. doi: 10.1038/s41586-020-2284-y Parboteeah, D. V., Valacich, J. S., and Wells, J. D. (2009). The influence of website
characteristics on a consumer’s urge to buy impulsively. Inform. Syst. Res. 20,
60–78. doi: 10.1287/isre.1070.0157 Kareklas, I., Carlson, J. R., and Muehling, D. D. (2014). “I eat organic for my
benefit and yours”: egoistic and altruistic considerations for purchasing organic
food and their implications for advertising strategists. J. Advertising 43, 18–32. doi: 10.1080/00913367.2013.799450 Podsakoff, P. M., MacKenzie, S. B., Lee, J., and Podsakoff, N. P. (2003). Common method biases in behavioral research: a critical review of the
literature and recommended remedies. J. Appl. Psychol. 88, 879–903. doi: 10.1037/0021-9010.88.5.879 Kongtip, P., Nankongnab, N., Kallayanatham, N., Pundee, R., Yimsabai, J.,
and Woskie, S. (2020). Longitudinal study of metabolic biomarkers among
conventional and organic farmers in Thailand. Int. J. Environ. Res. Publ. Health
17:4178. doi: 10.3390/ijerph17114178 Podsakoff, P. M., MacKenzie, S. B., and Podsakoff, N. P. (2012). Sources of method
bias in social science research and recommendations on how to control it. Ann. Rev. Psychol. 63, 539–569. doi: 10.1146/annurev-psych-120710-100452 Kushwah,
S.,
Dhir,
A.,
and
Sagar,
M. (2019a). Ethical
consumption
intentions and choice behavior towards organic food. Moderation role
of
buying
and
environmental
concerns. J. Clean. Prod. 236:117519. doi: 10.1016/j.jclepro.2019.06.350 Preacher, K. J., and Hayes, A. F. (2008). Asymptotic and resampling strategies for
assessing and comparing indirect effects in multiple mediator models. Behav. Res. Method. 3:879. doi: 10.3758/BRM.40.3.879 Rahnama, H. (2016). Effect of consumption values on women’s choice behavior
toward organic foods: the case of organic yogurt in Iran. J. Food Prod. Market. 23, 144–166. doi: 10.1080/10454446.2017.1244790 Kushwah, S., Dhir, A., and Sagar, M. (2019b). Understanding consumer
resistance to the consumption of organic food. A study of ethical
consumption, purchasing, and choice behaviour. Food Qual. Preference 77,
1–14. REFERENCES An
SAS
macro
for
implementing
the
modified
bollen-stine
bootstrap
for
missing
data:
implementing
the
bootstrap
using
existing
structural
equation
modeling
software. Struct. Equ. Model. Multidiscip. J. 12,
620–641. doi:
10.1207/s15328007sem
1204_6 Buckley, H. M., and Roach, M. E. (1981). Attraction as a function of attitudes and
dress. Home Econ. Res. J. 10, 88–97. doi: 10.1177/1077727X8101000111 Byrne,
D. (1971). The
ubiquitous
relationship:
attitude
similarity
and
attraction:
a
cross-cultural
study. Human
Relations,
24:201-207. doi: 10.1177/001872677102400302 Eroglu, S. A., Machleit, K. A., and Davis, L. M. (2001). Atmospheric qualities of
online retailing. J. Bus. Res. 54, 177–184. doi: 10.1016/S0148-2963(99)00087-9 Çabuk, S., Tanrikulu, C., and Gelibolu, L. (2014). Understanding organic food
consumption: attitude as a mediator. Int. J. Consum. Stud. 38, 337–345. doi: 10.1111/ijcs.12094 Fisher, M. J., and King, J. (2010). The self-directed learning readiness scale for
nursing education revisited: a confirmatory factor analysis. Nurse Educ. Today
30, 44–48. doi: 10.1016/j.nedt.2009.05.020 October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 13 Liu et al. Similarity Effect of Buying Organic Food Liu et al. theory within an stimulus-organism-response model. Front. Psychol. 10:2512. doi: 10.3389/fpsyg.2019.02512 Follows, S. B., and Jobber, D. (2000). Environmentally responsible purchase
behaviour: a test of a consumer model. Eur. J. Market. 34, 723–746. doi: 10.1108/03090560010322009 theory within an stimulus-organism-response model. Front. Psychol. 10:2512. doi: 10.3389/fpsyg.2019.02512 Liu, C., Zheng, Y., and Cao, D. (2021). An analysis of factors affecting
selection
of
organic
food:
perception
of
consumers
in
China
regarding weak signals. Appetite 161:105145. doi: 10.1016/j.appet.2021. 105145 Fornell, C., and Larcker, D. F. (1981). Structural equation models with
unobservable variables and measurement error: algebra and statistics. J. Market. Res. 18, 382–388. doi: 10.1177/002224378101800313 Lockie, S., Lyons, K., Lawrence, G., and Grice, J. (2004). Choosing organics:
a path analysis of factors underlying the selection of organic food among
Australian consumers. Appetite 43, 135–146. doi: 10.1016/j.appet.2004. 02.004 Frieze, S. I. H. (1997). A mediational model of power, affiliation and
achievement motives and product involvement. J. Bus. Psychol. 11, 425–446. doi: 10.1007/BF02195890 Fu, S., Yan, Q., and Feng, G. C. (2018). Who will attract you? Similarity
effect
among
users
on
online
purchase
intention
of
movie
tickets
in the social shopping context. Int. J. Inform. Manag. 40, 88–102. doi: 10.1016/j.ijinfomgt.2018.01.013 Luqman, A., Cao, X., Ali, A., Masood, A., and Yu, L. (2017). Empirical investigation
of Facebook discontinues usage intentions based on SOR paradigm. Comput. Hum. Behav. 70, 544–555. doi: 10.1016/j.chb.2017.01.020 Gonçalves, H. REFERENCES M., Lourenço, T. F., and Silva, G. M. (2016). Green buying behavior
and the theory of consumption values: a fuzzy-set approach. J. Bus. Res. 69,
1484–1491. doi: 10.1016/j.jbusres.2015.10.129 Lvov,
D. K.,
and
Alkhovsky,
S. V. (2020). Source
of
the
COVID-19
pandemic:
ecology
and
genetics
of
coronaviruses
(Betacoronavirus:
Coronaviridae)
SARS-CoV,
SARS-CoV-2
(subgenus
Sarbecovirus),
and
MERS-CoV (subgenus Merbecovirus). Probl. Virol. Russian J. 65, 62–70. doi: 10.36233/0507-4088-2020-65-2-62-70 Guéguen, N., Martin, A., and Meineri, S. (2011). Mimicry and helping behavior:
an evaluation of mimicry on explicit helping request. J. Soc. Psychol. 151, 1–4. doi: 10.1080/00224540903366701 Magistris, T. D., and Gracia, A. (2008). The decision to buy organic food products
in Southern Italy. Br. Food J. 110, 929–947. doi: 10.1108/00070700810900620 Hajli, M. N. (2014). The role of social support on relationship quality
and
social
commerce. Technol. Forecast. Soc. Change
87,
17–27. doi: 10.1016/j.techfore.2014.05.012 Marchand, A., and Walker, S. (2008). Product development and responsible
consumption: designing alternatives for sustainable lifestyles. J. Clean. Prod. 16,
1163–1169. doi: 10.1016/j.jclepro.2007.08.012 Hidalgo-Baz, M., Martos-Partal, M., and González-Benito, Ó. (2017). Attitudes
vs. purchase behaviors as experienced dissonance: the roles of knowledge
and consumer orientations in organic market. Front. Psychol. 8:248. doi: 10.3389/fpsyg.2017.00248 Mehrabian, A., and Russell, J. A. (1974). An Approach to Environmental Psychology. Cambridge, MA: MIT. Michaelidou, N., and Hassan, L. M. (2008). The role of health consciousness, food
safety concern and ethical identity on attitudes and intentions towards organic
food. Int. J. Consum. Stud. 32, 163–170. doi: 10.1111/j.1470-6431.2007.00619.x Hitsch, G. J., Hortaçsu, A., and Ariely, D. (2010). Matching and sorting in online
dating. Am. Econ. Rev. 100, 130–163. doi: 10.1257/aer.100.1.130 Hu, L. T., and Bentler, P. M. (1999). Cutoffcriteria for fit indexes in covariance
structure analysis: conventional criteria versus new alternatives. Struct. Equ. Model. Multidiscip. J. 6, 1–55. doi: 10.1080/10705519909540118 Mohammed, A. A. (2020). What motivates consumers to purchase organic food
in an emerging market? An empirical study from Saudi Arabia. Br. Food J. 2020:599. doi: 10.1108/BFJ-07-2020-0599 Newburn, F. (2020). Gender differences in behavior and attitudes toward
COVID-19: perceived risk of infection, negative cognitive emotions, and sleep
disturbances. J. Res. Gender Stud. 10, 117–127. doi: 10.22381/JRGS10220207 Jackson, D. L., Gillaspy, J. A., and Purc-Stephenson, R. (2009). Reporting practices
in confirmatory factor analysis: an overview and some recommendations. Psychol. Methods 14, 6–23. doi: 10.1037/a0014694 Jacoby, J. (2002). Stimulus-organism-response reconsidered: an evolutionary
step in modeling (consumer) behavior. J. Consum. Psychol. 12, 51–57. doi: 10.1207/S15327663JCP1201_05 Nunnally, J. C. (1978). Psychometric theory. Am. REFERENCES doi: 10.1016/j.foodqual.2019.04.003 Rana, J., and Paul, J. (2017). Consumer behavior and purchase intention for organic
food: a review and research agenda. J. Retail. Consum. Servic. 38, 157–165. doi: 10.1016/j.jretconser.2017.06.004 Li, W., and Yuan, Y. (2018). Purchase experience and involvement for
risk perception in online group buying. Nankai Bus. Rev. Int. 2017:64. doi: 10.1108/NBRI-11-2017-0064 Ruiz Mafé, C., and Sanz Blas, S. (2006). Explaining Internet dependency: an
exploratory study of future purchase intention of Spanish Internet users. Internet Res. 16, 380–397. doi: 10.1108/10662240610690016 Lin, P., and Huang, Y. (2012). The influence factors on choice behavior regarding
green products based on the theory of consumption values. J. Clean. Prod. 22,
11–18. doi: 10.1016/j.jclepro.2011.10.002 Seconda, L., Baudry, J., Allès, B., Hamza, O., Boizot-Szantai, C., Soler, L., et al. (2017). Assessment of the sustainability of the mediterranean diet combined
with organic food consumption: an individual behaviour approach. Nutrients
9:61. doi: 10.3390/nu9010061 Liu, C., and Zheng, Y. (2019). The predictors of consumer behavior in relation to
organic food in the context of food safety incidents: advancing hyper attention October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 14 Similarity Effect of Buying Organic Food Liu et al. Liu et al. Shamsi, R. H., Omidi Najafabadi, M., and Hosseini, S. J. F. (2020). Designing a
three-phase pattern of organic product consumption behaviour. Food Qual. Pref. 79:103743. doi: 10.1016/j.foodqual.2019.103743 Vega-Zamora, M., Torres-Ruiz, F. J., and Parras-Rosa, M. (2019). Towards
sustainable consumption: keys to communication for improving trust in
organic foods. J. Clean. Prod. 216, 511–519. doi: 10.1016/j.jclepro.2018. 12.129 Sherman, E., Mathur, A., and Smith, R. B. (1997). Store environment and consumer
purchase behavior: mediating role of consumer emotions. Psychol. Market. 14, 361–378. doi: 10.1002/(SICI)1520-6793(199707)14:4<361::AID-MAR4>3.0. CO;2-7 Verain, M. C. D., Dagevos, H., and Antonides, G. (2015). Sustainable
food consumption. Product choice or curtailment? Appetite 91, 375–384. doi: 10.1016/j.appet.2015.04.055 Sheth, J. N., Newman, B. I., and Gross, B. L. (1991). Why we buy what
we buy: a theory of consumption values. J. Bus. Res. 22, 159–170. doi: 10.1016/0148-2963(91)90050-8 Verhagen, T., and van Dolen, W. (2011). The influence of online store beliefs on
consumer online impulse buying: a model and empirical application. Inform. Manag. 48, 320–327. doi: 10.1016/j.im.2011.08.001 Shiu, E. M. K., Walsh, G., Hassan, L. M., and Shaw, D. (2011). Consumer
uncertainty, revisited. Psychol. Market. 28, 584–607. doi: 10.1002/mar.20402 Vieira, L. M. (2008). REFERENCES The applicability of transaction costs economics to
vertical integration decision: evidences from a Brazilian beef processor. Organizações Rurais e Agroindustriais/Rural and Agro-Industrial Organizations. 10, 1489–1500. doi: 10.22004/ag.econ.61471 Shweta, B., Harshali, P., and Sujit, S. (2017). Role of information anxiety and
information load on processing of prescription drug information leaflets. Pharmacy 5:57. doi: 10.3390/pharmacy5040057 Wang, J., Pham, T. L., and Dang, V. T. (2020). Environmental consciousness and
organic food purchase intention: a moderated mediation model of perceived
food quality and price sensitivity. Int. J. Environ. Res. Public Health 17:850. doi: 10.3390/ijerph17030850 Singh, A., and Verma, P. (2017). Factors influencing Indian consumers’ actual
buying behaviour towards organic food products. J. Clean. Prod. 167, 473–483. doi: 10.1016/j.jclepro.2017.08.106 j j
Stevens, A. (2020). Gender differences in COVID-19 sentiments, attitudes,
habits, and behaviors: an empirical research. J. Res. Gender Stud. 10, 95–105. doi: 10.22381/JRGS10220205 Wang, X., Pacho, F., Liu, J., and Kajungiro, R. (2019). Factors influencing
organic
food
purchase
intention
in
developing
countries
and
the
moderating
role
of
knowledge. Sustainability
11:10209. doi:
10.3390/
su11010209 Stobbelaar, D. J., Casimir, G., Borghuis, J., Marks, I., Meijer, L., and
Zebeda, S. (2007). Adolescents? attitudes towards organic food: a survey
of 15- to 16-year old school children. Int. J. Consum. Stud. 31, 349–356. doi: 10.1111/j.1470-6431.2006.00560.x Wang, Y. J., Minor, M. S., and Wei, J. (2011). Aesthetics and the online
shopping environment: understanding consumer responses. J. Retail. 87, 46–58. doi: 10.1016/j.jretai.2010.09.002 Willer, H., and Lernoud, J. (2020). The World of Organic Agriculture Statistics
and Emerging Trends 2020. Available online at: http://www.organic-world.net/
yearbook/yearbook-2020.html (accessed Nov 8, 2020). Strassner, C., Cavoski, I., Di Cagno, R., Kahl, J., Kesse-Guyot, E., Lairon, D., et al. (2015). How the organic food system supports sustainable diets and translates
these into practice. Front. Nutr. 2:19. doi: 10.3389/fnut.2015.00019 Suki, N. M. (2015). Customer environmental satisfaction and loyalty in the
consumption of green products. Int. J. Sustain. Dev. World Ecol. 22, 292–301. doi: 10.1080/13504509.2015.1054328 Xie, X., Huang, L., Li, J. J., and Zhu, H. (2020). Generational differences in
perceptions of food health/risk and attitudes toward organic food and game
meat: the case of the COVID-19 crisis in China. Int. J. Environ. Res. Public
Health 17:3148. doi: 10.3390/ijerph17093148 Suki, N. M. (2016). Consumer environmental concern and green product purchase
in Malaysia: structural effects of consumption values. J. Clean. Prod. 132,
204–214. doi: 10.1016/j.jclepro.2015.09.087 Xu, W. (2017). Study on the Consumption Behavior of Organic Food. REFERENCES (unpublished
dissertation), Northwest A&F University, Xianyang, China. Suki, N. M., and Suki, N. M. (2015a). Impact of consumption values on consumer
environmental concern regarding green products: comparing light, average,
and heavy users’. J. Econ. Surv. 28, 551–572. doi: 10.1111/joes.12040 Yiridoe, E. K., Bonti-Ankomah, S., and Martin, R. C. (2005). Comparison of
consumer perceptions and preference toward organic versus conventionally
produced foods: a review and update of the literature. Renew. Agri. Food Syst. 20:5113. doi: 10.1079/RAF2005113 Suki, N. M., and Suki, N. M. (2015b). Consumption values and consumer
environmental concern regarding green products. Int. J. Sustain. Dev. World
Ecol. 22, 269–278. doi: 10.1080/13504509.2015.1013074 Zeithaml, V. A. (1988). Consumer perceptions of price, quality, and value:
a means-end model and synthesis of evidence. J. Market. 52, 2–22. doi: 10.1177/002224298805200302 Suki, N. M., and Suki, N. M. (2015c). Does religion influence consumers’ green
food consumption? Some insights from Malaysia. J. Consum. Market. 32,
551–563. doi: 10.1108/JCM-02-2014-0877 Zung, W. W. K. (1971). A rating instrument for anxiety disorders. Psychosomatics
12, 371–379. doi: 10.1016/S0033-3182(71)71479-0 Taylor,
A. B.,
Mackinnon,
D. P.,
and
Tein,
J. Y. (2007). Tests
of
the
three-path
mediated
effect. Org. Res. Method. 11,
241–269. doi: 10.1177/1094428107300344 Conflict of Interest: The authors declare that the research was conducted in the
absence of any commercial or financial relationships that could be construed as a
potential conflict of interest. Teng, C., and Lu, C. (2016). Organic food consumption in Taiwan: motives,
involvement, and purchase intention under the moderating role of uncertainty. Appetite 105, 95–105. doi: 10.1016/j.appet.2016.05.006 Publisher’s Note: All claims expressed in this article are solely those of the authors
and do not necessarily represent those of their affiliated organizations, or those of
the publisher, the editors and the reviewers. Any product that may be evaluated in
this article, or claim that may be made by its manufacturer, is not guaranteed or
endorsed by the publisher. Thøgersen, J. (2004). A cognitive dissonance interpretation of consistencies and
inconsistencies in environmentally responsible behavior. J. Environ. Psychol. 24,
93–103. doi: 10.1016/S0272-4944(03)00039-2 Thøgersen, J. (2004). A cognitive dissonance interpretation of consistencies and
inconsistencies in environmentally responsible behavior. J. Environ. Psychol. 24,
93–103. doi: 10.1016/S0272-4944(03)00039-2 Thøgersen, J. (2017). Sustainable food consumption in the nexus between national
context and private lifestyle: a multi-level study. Food Qual. Pref. 55, 16–25. doi: 10.1016/j.foodqual.2016.08.006 Trinchera, L., Marie, N., and Marcoulides, G. A. (2018). A distribution free interval
estimate for coefficient alpha. Struct. Eq. Model. Multidiscipl. J. Copyright © 2021 Liu, Zheng and Cao. This is an open-access article distributed
under the terms of the Creative Commons Attribution License (CC BY). The use,
distribution or reproduction in other forums is permitted, provided the original
author(s) and the copyright owner(s) are credited and that the original publication
in this journal is cited, in accordance with accepted academic practice. No use,
distribution or reproduction is permitted which does not comply with these terms. REFERENCES 25, 876–887. doi: 10.1080/10705511.2018.1431544 Van De Schoot, R., Schmidt, P., De Beuckelaer, A., Lek, K., and Zondervan-
Zwijnenburg, M. (2015). Editorial: measurement invariance. Front. Psychol. 6:1064. doi: 10.3389/fpsyg.2015.01064 October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 15 Similarity Effect of Buying Organic Food Liu et al. Appendix A.2. Uncertainty Appendix A.2. Uncertainty
UNC1: I’m not sure about the authenticity of organic
food labels. UNC2: I’m worried that some of the claimed organic foods are
not actually organic foods. UNC3: I am worried that I may have spent more money on
organic food. UNC4: I don’t have much confidence in the organic food on
the market at present. Appendix A.6. Environmental Value
EV1: The presence of resource shortage and environmental
pollution has threatened life on earth. EV2: The balance of nature is very delicate and easily upset. EV3: We are approaching the limit the earth can sustain. EV4:
If
things
continue
is
the
present
course,
the
sustainability of the environment and future generations
are highly threatened. Appendix A.1. Information Anxiety Appendix A.4. Functional Value
FV1: Organic food has consistent quality. FV2: Organic food is well made. FV3: Organic food has an acceptable standard of quality. FV4: Organic food would perform consistently. FV5: Organic food is reasonably priced. FV6: Organic food offers value for money. FV7: Organic food is a good product for the price. IA1: After the COVID-19 outbreak, I often feel fear in the face
of information about massive COVID-19. p
y
IA3: After the COVID-19 outbreak, I sometimes feel like I’m
falling apart and going to pieces in the face of information
about massive COVID-19. FV4: Organic food would perform consistently. FV5: Organic food is reasonably priced. FV6: Organic food offers value for money. IA4: After the COVID-19 outbreak, I often feel anxious in the
face of information about massive COVID-19. Appendix A.5. Health Value
HV1: Organic food keeps my healthy. HV2: Organic food is nutritious. HV3: Organic food is high in protein. IA5: After the COVID-19 outbreak, I can sometimes feel
my heart beating fast in the face of information about
massive COVID-19. Frontiers in Psychology | www.frontiersin.org APPENDIX A Appendix A.1. Information Anxiety
IA1: After the COVID-19 outbreak, I often feel fear in the face
of information about massive COVID-19. IA2: After the COVID-19 outbreak, I get upset easily or feel
panicky in the face of information about massive COVID-19. IA3: After the COVID-19 outbreak, I sometimes feel like I’m
falling apart and going to pieces in the face of information
about massive COVID-19. IA4: After the COVID-19 outbreak, I often feel anxious in the
face of information about massive COVID-19. IA5: After the COVID-19 outbreak, I can sometimes feel
my heart beating fast in the face of information about
massive COVID-19. October 2021 | Volume 12 | Article 628342 Appendix A.3. Sustainable Consumption
Attitude Appendix A.7. Purchase Behavior
PB1: How often do you buy organic food in the organic food
store or supermarket? PB2: How often do you buy organic food online? PB3: How often do you buy organic food on the community-
group buying platform? SCA1: I think sustainable consumption is very important. SCA2: I am very interested in sustainable consumption. SCA3: I am very keen to search and read information about
sustainable consumption. October 2021 | Volume 12 | Article 628342 Frontiers in Psychology | www.frontiersin.org 16
|
https://openalex.org/W2346181352
|
https://europepmc.org/articles/pmc4858305?pdf=render
|
English
| null |
Damage Control Orthopedics Management as Vital Procedure in Elderly Patients with Femoral Neck Fractures Complicated with Chronic Renal Failure: A Retrospective Cohort Study
|
PloS one
| 2,016
|
cc-by
| 6,212
|
RESEARCH ARTICLE Methods In 32 patients with femoral neck fractures complicated with CRF, we evaluated how the tim-
ing of the surgery determines the mortality rates if the DCO approach is applied. Preopera-
tive ASA grading, POSSUM score, P-POSSUM score and DCO were carried out. Based on
the assessment, timing of the surgery was ascertained. Copyright: © 2016 Dong et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in any
medium, provided the original author and source are
credited. Editor: Chunfeng Zhao, Mayo Clinic Minnesota,
UNITED STATES Editor: Chunfeng Zhao, Mayo Clinic Minnesota,
UNITED STATES
Received: March 7, 2016
Accepted: April 20, 2016
Published: May 5, 2016
Copyright: © 2016 Dong et al. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in any
medium, provided the original author and source are
credited. OPEN ACCESS Citation: Dong C, Wang Y, Wang Z, Wang Y, Wu S,
Du Q, et al. (2016) Damage Control Orthopedics
Management as Vital Procedure in Elderly Patients
with Femoral Neck Fractures Complicated with
Chronic Renal Failure: A Retrospective Cohort Study. PLoS ONE 11(5): e0154906. doi:10.1371/journal. pone.0154906 Damage Control Orthopedics Management
as Vital Procedure in Elderly Patients with
Femoral Neck Fractures Complicated with
Chronic Renal Failure: A Retrospective Cohort
Study a11111 Chenhui Dong, Yunjiao Wang, Ziming Wang, Yu Wang, Siyu Wu, Quanyin Du,
Aimin Wang* Department of Orthopedics, Institute of Surgery Research, Daping Hospital, Third Military Medical University,
Chongqing, 400042, China * trauma2@163.com * trauma2@163.com Background Chronic renal failure (CRF) predisposes to hip fractures in elderly patients, with high subse-
quent mortality. Selection and timing of the surgical procedure of such patients is a serious
challenge. Many clinicians believe in earlier surgery as preferable and providing better out-
comes. Damage control orthopedics (DCO) aids to adjust and optimize the overall condition
of patients. Femoral Neck Fractures Surgery in Elderly Patients with CRF Conclusion DCO, damage control orthopedics; ICU, intensive
care unit. In patients with femoral neck fracture complicated with CRF, delaying the surgery for sev-
eral days does not increase the incidence of postoperative adverse events. Results Of a total of 32 patients, twenty-nine patients were accepted for either early (< 48 hours; n =
18) or delayed (3–10 days; n = 10) surgery. Hip arthroplasty (total hip arthroplasty and hemi-
arthroplasty) was the principal surgery option. All patients survived operation and were fol-
lowed up postoperatively with the average time of 30 days. Postoperative complications
tended to occur at higher rates in the early vs. delayed surgery group (7/18 vs. 5/10). During
follow up, a total of 3 patients died in both groups (2/18 in the early surgery and 1/10 in the
delayed surgery group), mostly from multi-organ failures and acute respiratory distress syn-
drome. There was no significant difference in complication rates and Harris hip score
between both groups. Data Availability Statement: Due to potentially
identifying information, the data are available upon
request from the authors. Funding: The authors have no support or funding to
report. Competing Interests: The authors have declared
that no competing interests exist. Competing Interests: The authors have declared
that no competing interests exist. Abbreviations: ASA, American Society of
Anesthesiologists; CKD, chronic kidney disease; Abbreviations: ASA, American Society of
Anesthesiologists; CKD, chronic kidney disease; 1 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Introduction Frailty and osteoporosis predispose the elderly patients to minor traumatic falls and hip frac-
tures [1]. These fractures are especially frequent in patients with concomitant chronic organ
failure [2–4], such as chronic renal failure, a chronic kidney disease (CKD) with diminished
glomerular filtration rate. The decompensated period of chronic renal failure is accompanied
by electrolyte and metabolic disorders, and multiple organ system dysfunctions [4]. Renal-
related osteodystrophy predisposes to osteoporosis, osteomalacia and spontaneous fractures [5,
6]. Most hip fractures associated with chronic renal failure occur in the elderly. About one-
third of these patients die within a year after the surgery, and about 75% of the deaths is related
to comorbidities [7, 8]. The damage control theory was first proposed by Rotondo in 1993 [9] and was later applied
to patients with serious multiple trauma. The objective of damage control orthopedics (DCO)
is to avoid deterioration of patient’s clinical condition caused by the “second hit” of the surgical
procedure. This is achieved by adjusting and optimizing the overall condition of patients, and,
ultimately, selecting the appropriate timing of the surgery [10]. When patients with serious organ failures undergo trauma, systemic inflammatory
responses response is instigated [11]. This response negatively affects the patient prognosis
because of coagulation disorders, fluid and electrolyte disturbances, hypothermia, acidosis and
shock. Therefore, there was no standardized treatment for elderly patients with femoral neck
fracture accompanied with the end-stage CKD, and potential beneficial effect of DCO on
patient prognosis were not well understood [12, 13]. Selection and timing of the surgical proce-
dure and perioperative management of patients suffering from femoral neck fracture compli-
cated with chronic renal failure poses a serious challenge to the surgeons. In this study, we treated 32 patients with femoral neck fractures complicated with chronic
renal failure and evaluated how the timing of the surgery determines the mortality rates if
DCO approach is applied. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Patient recuperation Patients in the CKD4 or higher stage underwent preparatory treatment before dialysis. Patients
in exacerbation received hemodialysis therapy. Dialysis indications for patients with diabetic
nephropathy can be relaxed [15]. All patients with dialysis indications underwent preoperative
dialysis. An important criterion was that blood pressure before the first dialysis should be less
than 130/80 mm Hg. Apart from the CKD treatment, other coexistent underlying diseases and metabolic disor-
ders were also actively treated. Patients This study was approved by the Ethics Committee of Daping Hospital, Third Military Medical
University. Each participants in the study provided written informed consent. All patients had
femoral neck fractures and concomitant chronic renal failure. The study enrolment proceeded
from January 2008 through December 2014. The inclusion criteria were the following: (i) hip
fracture, (ii) chronic renal failure and renal dysfunction, (iii) complete medical records. The
exclusion criteria were the following: (i) multiple (injury) fracture or open hip fracture, and (ii)
incomplete medical records. Thirty-two patients were selected according to inclusion criteria. Thirty-two patients were selected according to inclusion criteria. Patient data were obtained in
the Electronic Medical Records system of the Daping Hospital and Institute of Field Surgery. The surgery outcome was established by the outpatient follow-up. 2 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Selection of optimal time for surgery and anesthesia We determined the surgery timing based on the following considerations. Early surgery was
considered feasible in patients in good general condition and assessed preoperatively as at “low
risk”. In contrast, the surgery was to be delayed in patients with multiple underlying diseases,
and those in poor general condition and assessed to be at “high risk”. The latter patients were
recommended to continue receiving recuperating treatment in order to increase the surgery
tolerance. Specifically, based on published evidence [16–20] and own experience, the pre-surgery eval-
uation was set as follows. If patient’s risk assessment yielded ASA grading of < III, POSSUM
predicted morbidity rate of < 60%, and P-POSSUM predicted mortality rate of < 20%, then
perioperative physical condition of the patient was assumed as sufficiently well, and early (i.e.,
within 48 hours) surgery was considered. If, however, the risk assessment yielded the levels
higher than those above, the patients were thoroughly nursed and recuperated for 1 to 3 days. Following this, the patients underwent the second risk assessment. If the risk assessment fell
under the aforementioned criteria (ASA < III, POSSUM < 60%, and P-POSSUM < 20%), the
surgery was to be performed immediately. But if the risk was still higher than these criteria, the
patients were to be nursed and recuperated for another 1 to 3 days. After the third risk assess-
ment, the decision was made as to whether to continue with the surgical treatment or use con-
servative treatment instead. Thereby, treatment and evaluation were implemented until the surgical risk was deemed
acceptable. Furthermore, anesthesia methods were personalized and selected according to the
physiological index of patients. Surgical risk evaluation integrating DCO Renal function was ascertained according to the CKD staging criteria [14]. Number, category
and severity of underlying diseases were ascertained according to patient history, and physical
and laboratory examinations. Furthermore, ASA grading, POSSUM and P-POSSUM score
were utilized to assess the likelihood of postoperative complications (both the incidence and
the risk of mortality thereof). Postoperative general treatment Patients who did not require dialysis could still be sent to the ICU for monitoring and potential
treatments based on their intraoperative condition. Renal function and electrolytes were moni-
tored, and fluid volume was strictly controlled after the surgery to prevent water and electrolyte
disturbance. The patients were treated with regular analgesia, and ECG and other vital signs
were monitored. The component transfusion could be done if required, according to the condi-
tion of patients. Postoperative functional training Individualized rehabilitation exercise program was carried out after the surgery. Generally,
active hip flexion and extension movement were practiced 3–5 days after the surgery but not
too vigorously to prevent dislocation. The patients began to stand beside the bed with protec-
tion and gradually practice walking with a rollator walker (or walking frame) 5–7 days after the
surgery. Squatting was practiced with assistance starting from 3 months after the surgery. Fur-
thermore, patients were instructed to be attentive and to prevent falls. Surgical procedure We selected the hip arthroplasty (i.e., total hip arthroplasty and hemiarthroplasty) as the prin-
cipal surgery option. The rationale for this choice was the following. Our patients were senile,
aged more than 60 years old, and mostly presented with hip osteoarthritis. Furthermore, they
all had varying degrees of chronic renal failure. With the background of coexisting diseases,
internal fixation might have led to complications (e.g., bone ununion, pressure sores, worsen-
ing of renal function after the surgery). In addition, we wanted to avoid having to remove the
internal fixation plate. In patients with chronic renal failure, the second surgical procedure for 3 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF removal the internal fixation plate might have been extremely dangerous, both because of sur-
gery and anesthesia. Efficacy assessment Postoperative surgical efficacy of patients was evaluated as follows. The parameters included
operative time, blood loss, hospital stay, perioperative complications, and mortality. Regular
follow-up was implemented after discharge. The hip joint function was assessed using the Har-
ris hip score, with the score of 90–100 assessed as “superior”, 80–90 as “good”, 70–79 as “toler-
able”, and < 70 as “poor”. Postoperative dialysis treatment Patients with preoperative dialysis indications were sent to the ICU after the surgery for moni-
toring and dialysis. Early and continuous dialysis treatment was implemented according to
hemoglobin, albumin, electrolytes, urine output and nephrology statuses after the surgery. If
patients had concomitant diabetes, dialysis could be advanced. The dialysis channel was pro-
tected to prevent local hematoma and infection. Statistical analysis The SPSS version 19.0 (Chicago, IL, USA) was used for statistical analysis. Qualitative data
were presented as rates and compared using either the chi-square or the Fisher exact test. Quantitative data were presented as mean ± SD and compared using the t test. The Kaplan-
Meier curve analysis was used to compare survival rates in patients with different surgical tim-
ing. The factors with the p < 0.05 were selected for the multivariate logistic regression analysis. Statistical significances were considered at the p < 0.05. Results We included 32 patients with hip fracture and concomitant chronic renal failure (Table 1). As described in the Materials and Methods, the patients underwent 1 to 3 risk assessments. Thereby, the number of patients who could tolerate the surgery reached 28. The other 4
patients had continuing signs of deterioration. Therefore, it was decided to replace the surgery 4 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Table 1. Demographic and clinical characteristics of study patients. Characteristics
Data
Total number of patients
32
Age (years; mean ± SD)
72.38 ± 7.16
Female patients, number
15
Causes of injuries
Slight fall, number
27
Pathologic fracture, number
5
CKD staging
Stage 2, number
4
Stage 3, number
2
Stage 4, number
11
Stage 5, number
15
History of dialysis treatment
Dialysis treatment applied, number
27
Without dialysis, number
5
Footnote: CKD, chronic kidney disease. doi:10.1371/journal.pone.0154906.t001 Table 1. Demographic and clinical characteristics of study patients. Characteristics
Data
Total number of patients
32
Age (years; mean ± SD)
72.38 ± 7.16
Female patients, number
15
Causes of injuries
Slight fall, number
27
Pathologic fracture, number
5
CKD staging
Stage 2, number
4
Stage 3, number
2
Stage 4, number
11
Stage 5, number
15
History of dialysis treatment
Dialysis treatment applied, number
27
Without dialysis, number
5
Footnote: CKD, chronic kidney disease. doi:10.1371/journal.pone.0154906.t001 Table 1. Demographic and clinical characteristics of study patients. with non-surgical symptomatic and supportive treatment due to uncontrollable surgical risk. All 4 patients died within 30 days. As repeated risk assessment revealed, the surgical risk of patients who needed continuing
recuperation was significantly higher than that of patients that could undergo the surgery with-
out delays (p < 0.05, Table 2). Among 28 patients who underwent the surgery, there were 18 patients in whom the surgery
was done within 48 hours. These patients comprised the early surgery group. Another 10
patients received the surgery in 3 to 10 days, and these patients comprised the delayed surgery
group. There was no significant difference in age and gender between these two groups
(Table 3). Table 2. Preoperative risk assessments. Table 2. Preoperative risk assessments. doi:10.1371/journal.pone.0154906.t002 Femoral Neck Fractures Surgery in Elderly Patients with CRF Table 3. First preoperative risk assessments. Table 3. First preoperative risk assessments. Table 3. First preoperative risk assessments. Early surgery group
Delayed surgery group
p
Age (years, mean ± SD)
71.24± 6.52
73.8 ± 7.31
0.186
Female patients, number
10
5
0.174
Femoral neck fracture classification (number)
Intra-capsular
15
8
0.875
Extra-capsular
3
2
0.886
CKD staging (mean ± SD)
3.67 ± 1.05
4.8 ± 0.4
0.002
Number of concomitant chronic diseases (mean ± SD)
4.82 ± 1.11
6.4± 1.96
0.038
POSSUM complication rate (%, mean ± SD)
62.09 ± 11.18
77.51 ± 8.85
0.001
P-POSSUM mortality rate (%, mean ± SD)
20.01 ± 9.03
30.26 ± 4.06
0.001
ASA grading, number
grade I & II
5
2
0.768
grade III & IV
13
8
0.41
Footnote: CKD, chronic kidney disease
doi:10.1371/journal.pone.0154906.t003 With regard to the femoral neck fracture classification, most patients in both groups had
intra-capsular fractures. The number of concomitant diseases did not differ between groups. With regard to CKD staging, patient condition in the delayed surgery group was more severe
than in the early surgery group (p < 0.05, Table 3). The surgical risk at the first assessment was
also significantly higher in the former group (p = 0.002, Table 3). However, there was no signif-
icant difference in the ASA grading (Table 3). The utilized surgical approaches were hemiarthroplasty (Fig 1) and total hip arthroplasty
(Fig 2). The anesthesia approach was mainly nerve block anesthesia, used to a comparable
extent in both groups. Furthermore, both groups were comparable with regard to operative
time, intraoperative bleeding volume, and hospitalization time. The hospitalization time, the
operative time and the intraoperative bleeding volume were no significantly difference between
those two groups (Table 4). In both groups combined, 12 patients (37.5%) presented with postoperative morbidity. Specif-
ically, in the early surgery group complications were in observed in 7/18 patients: 1 patients with
gastrointestinal hemorrhages, 3 patients with respiratory failure, 2 patients with cardiovascular Fig 1. X-ray images of the right femoral neck fracture in a 72-year old male patient with chronic renal failure before and after hemiarthroplasty. (A)
Preoperative imaging shows compression fractures on the femoral neck of the right hip and shortening deformity of the femoral neck. (B) Representative
images taken 6 months after right femoral head arthroplasty. Results Assessment
Number of patients
POSSUM complication rate (%)
P-POSSUM mortality rate (%)
First assessment
32
Ready for surgery
8
51.01 ± 6.72**
11.61 ± 2.86*
Continued to recuperate
24
78.07 ± 10.98
35.36 ± 16.57
Second assessment
24
Ready for surgery
17
58.2 ± 4.19**
17.04 ± 1.73**
Continued to recuperate
7
83.65 ± 6.76
48.84 ± 12.87
Third assessment
7
Ready for surgery
3
61.77 ± 1.59*
18.73 ± 1.37**
Conservative treatment
4
93.78 ± 1.91
63.59 ± 8.34
Footnote: Data are presented as mean ± SD. * p < 0.05;
** p < 0.01. The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who
underwent the third assessment vs patients who received non-surgical treatment. doi:10.1371/journal.pone.0154906.t002 Table 2. Preoperative risk assessments. Assessment
Number of patients
POSSUM complication rate (%)
P-POSSUM mortality rate (%)
First assessment
32
Ready for surgery
8
51.01 ± 6.72**
11.61 ± 2.86*
Continued to recuperate
24
78.07 ± 10.98
35.36 ± 16.57
Second assessment
24
Ready for surgery
17
58.2 ± 4.19**
17.04 ± 1.73**
Continued to recuperate
7
83.65 ± 6.76
48.84 ± 12.87
Third assessment
7
Ready for surgery
3
61.77 ± 1.59*
18.73 ± 1.37**
Conservative treatment
4
93.78 ± 1.91
63.59 ± 8.34
Footnote: Data are presented as mean ± SD. * p < 0.05; ** p < 0.01. ** p < 0.01. The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who
underwent the third assessment vs patients who received non-surgical treatment. p < 0.01. The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who
underwent the third assessment vs patients who received non-surgical treatment. p
The comparisons were between patients who underwent the first assessment vs patients who underwent the second assessment, and patients who
underwent the third assessment vs patients who received non-surgical treatment. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 5 / 12 doi:10.1371/journal.pone.0154906.g001 (C) At 24 months of follow-up, the prosthesis was in the correct position. On subsequent X-ray
images, there were no further changes. Fig 1. X-ray images of the right femoral neck fracture in a 72-year old male patient with chronic renal failure before and after hemiarthroplasty. (A)
Preoperative imaging shows compression fractures on the femoral neck of the right hip and shortening deformity of the femoral neck. (B) Representative
images taken 6 months after right femoral head arthroplasty. (C) At 24 months of follow-up, the prosthesis was in the correct position. On subsequent X-ray
images, there were no further changes. doi:10.1371/journal.pone.0154906.g001 6 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Fig 2. X-ray images of the right femoral neck fracture in a 65-year-old male patient with chronic renal
failure before and after total hip arthroplasty. (A) Preoperative imaging shows compression fractures on
the femoral neck of the right hip. (B) Representative images of the right femoral head fracture in lateral
projection. (C) Representative images taken 3 days after total hip arthroplasty. doi:10.1371/journal.pone.0154906.g002 Fig 2. X-ray images of the right femoral neck fracture in a 65-year-old male patient with chronic renal
failure before and after total hip arthroplasty. (A) Preoperative imaging shows compression fractures on
the femoral neck of the right hip. (B) Representative images of the right femoral head fracture in lateral
projection. (C) Representative images taken 3 days after total hip arthroplasty. doi:10.1371/journal.pone.0154906.g002 doi:10.1371/journal.pone.0154906.g002 complication, and 1 patients with postoperatively congnitive deficit. In the delayed surgery
group, there were complications in 5/10 patients: 1 patient with respiratory complication, 1
patient with arrhythmia, 1 patient with postoperatively congnitive deficit, and 2 patients with
gastrointestinal hemorrhages. Within 30 days of follow up, 2/18 patients (11.12%) in the early surgery group died of seri-
ous morbidity. Specifically, one patient died of multi-organ failures and 1 of acute respiratory
distress syndrome. The delayed surgery group had two deaths (1/10; 10%) of multi-organs
failures. There was no significant difference in complication rates and Harris hip score between both
groups in the last follow up. The survival rates (Kaplan-Meier survival curves) in patients with
or without surgical treatment are shown in Fig 3. Interestingly, postoperative morbidity and
mortality rates in all patients were significantly lower than the rates predicted preoperatively
by POSSUM and P-POSSUM scoring (p < 0.01). Discussion In this study, using DCO management, we evaluated how the timing of the surgery determines
the mortality rates in patients with femoral neck fractures complicated with chronic renal failure. In this study, using DCO management, we evaluated how the timing of the surgery determines
the mortality rates in patients with femoral neck fractures complicated with chronic renal failure. Based on laboratory examinations, combined POSSUM and P-POSSUM scores, and ASA
classification, detailed preoperative risk assessment was conducted. Underlying diseases and Based on laboratory examinations, combined POSSUM and P-POSSUM scores, and ASA
classification, detailed preoperative risk assessment was conducted. Underlying diseases and Table 4. Surgery parameters. Table 4. Surgery parameters. Early surgery group
Delayed surgery group
p
Surgery procedures (number)
18
10
Femoral head arthroplasty
11
9
0.986
Total hip arthroplasty
7
1
0.976
Bleeding volume (ml, mean ± SD)
463.89 ± 270.7
435 ± 251.05
0.396
Type of anesthesia (number)
General
3
2
0.381
Spinal
3
2
0.084
Nerve block
12
6
0.093
Length of surgery (min, mean ± SD)
104.45 ± 11.65
110.5 ± 14.91
0.131
Length of hospital stays (days, mean ± SD)
20.83 ± 5.08
22.3 ± 5.66
0.252
Harris hip score (last follow-up)
89.06± 5.12
87.7 ± 5.18
0.262
d i 10 1371/j
l
0154906 t004 Table 4. Surgery parameters. Early surgery group
Delayed surgery group
p
Surgery procedures (number)
18
10
Femoral head arthroplasty
11
9
0.986
Total hip arthroplasty
7
1
0.976
Bleeding volume (ml, mean ± SD)
463.89 ± 270.7
435 ± 251.05
0.396
Type of anesthesia (number)
General
3
2
0.381
Spinal
3
2
0.084
Nerve block
12
6
0.093
Length of surgery (min, mean ± SD)
104.45 ± 11.65
110.5 ± 14.91
0.131
Length of hospital stays (days, mean ± SD)
20.83 ± 5.08
22.3 ± 5.66
0.252
Harris hip score (last follow-up)
89.06± 5.12
87.7 ± 5.18
0.262
doi:10.1371/journal.pone.0154906.t004
PLOS ONE | DOI 10 1371/jo rnal pone 0154906
Ma 5 2016
7 / 12 p PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 7 / 12 Femoral Neck Fractures Surgery in Elderly Patients with CRF Fig 3. The Kaplan-Meier survival curves analysis in patients with or without surgical treatment. Survival curves in 32 study patients. Based on surgical risk assessment, 28 patients were selected for
surgical treatment. The remaining 4 patients could not undergo the surgery and dead within 30 days. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Discussion Furthermore, mortality rates in the early surgery group were equal with the delayed surgery group. doi:10.1371/journal.pone.0154906.g003 Fig 3. The Kaplan-Meier survival curves analysis in patients with or without surgical treatment. Survival curves in 32 study patients. Based on surgical risk assessment, 28 patients were selected for
surgical treatment. The remaining 4 patients could not undergo the surgery and dead within 30 days. Furthermore, mortality rates in the early surgery group were equal with the delayed surgery group. doi:10.1371/journal.pone.0154906.g003 doi:10.1371/journal.pone.0154906.g003 doi:10.1371/journal.pone.0154906.g003 physiological disorders were addressed. Individual operation program development was car-
ried out simultaneously with the step-by-step assessment. Surgical timing was determined
based on assessment results. Patients suffering from CKD at the Stage 2 and 3 were treated
with conventional perioperative management. Patients suffering from CKD at the Stage 4 and
above were treated with dialysis prior to and postoperatively to reduce the risk of perioperative
complications. In the past, earlier surgery was considered as preferable and providing better outcomes. This
was because of reports showing that delaying the surgery by more than 48 hours in the elderly
hip fracture patients led to increase in post-surgery mortality rates [21]. Thus, Uzoigwe et al. [22] reported that delaying surgery increased mortality in hospitalized patients, whereas mor-
tality of patients treated with early surgery was less. However, this was disputed by Leung et al. [23] who did not confirm that early surgery reduces mortality rates. Others even found that
early surgery may increase postoperative mortality in patients in adverse physical condition
[24]. Postponing surgery has a minor impact on postoperative mortality, but may increase the
incidence of postoperative morbidity and complication [25, 26]. It is thus important to find a
balance between patient’s physical condition and surgery timing. This requires a comprehensive
preoperative risk assessment, damage control surgery and an experienced clinical team [27, 28]. Importantly the DCO approach diminishes the complication and mortality rates to the Importantly, the DCO approach diminishes the complication and mortality rates to the
rates significantly lower than preoperatively expected. Furthermore, using the DCO approach,
delaying the surgery to up to 10 days did not adversely affect the outcome. 8 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF Fig 4. Chest X-ray images of a 72-year old male patient with femoral neck fracture complicated with
chronic renal failure. (A) Frontal projection. (B) Lateral projection. doi:10.1371/journal.pone.0154906.g004 Fig 4. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Discussion Chest X-ray images of a 72-year old male patient with femoral neck fracture complicated with
chronic renal failure. (A) Frontal projection. (B) Lateral projection. doi:10.1371/journal.pone.0154906.g004 doi:10.1371/journal.pone.0154906.g004 In our patients, we mostly used continuous epidural anesthesia. Greater volatility of hemo-
dynamics may easily be caused during anesthesia in elderly patients. Furthermore, since antic-
oagulation therapy is required perioperatively, the risk of postoperative epidural hematomas
will rise. It has been reported that in patients received postoperative nerve block anesthesia, the
30-day deep vein thrombosis, postoperative delirium incidence and mortality rates were lower
compared with other anesthesia methods [29, 30]. In our patients, the nerve block anesthesia
was the first choice. To check for complications of anesthesia, we used a standard neutral posi-
tion of chest X-ray images (Fig 4). Potential surgical procedures for femoral neck fracture include total hip arthroplasty, hemi-
arthroplasty and internal fixation. Geiger et al. [31] demonstrated that in elderly patients, the
hemiarthroplasty had more pronounced positive effect than internal fixation. Although there
are few reports on bone cement prosthesis leading to a higher occurrence of cardiovascular
complications, there have been more studies reporting that the cemented prosthesis had more
advantages compared with the uncemented prosthesis [32–34]. Compared with total hip
arthroplasty and hemiarthroplasty, hemiarthroplasty has shorter surgical time, less blood loss,
and smaller surgical stress and stimulation to patients. Our experience was as follows. For
patients older than 65 years old and femoral neck fractures, the hip arthroplasty was the first
choice. For patients in good physical condition and with extensive pre-injury activity, total hip
arthroplasty should be used. In physically weak patients with poor pre-injury activity of daily
living, hemiarthroplasty was a viable option. For intertrochanteric fracture, internal fixation
treatment was the preferred selection. In case of hip osteoarthritis, organ failures, or hard to
tolerate second surgical procedure, joint arthroplasty could be considered instead. Limitations of this study were the following. The first limitation is the retrospective nature
of the study. Second, patient numbers were low, and there was some patient heterogeneity due
to treatment of underlying diseases, physiological disorders, surgical approaches to different
fractures, and some variation in anesthesia approaches. These confounders could not be PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 9 / 12 Femoral Neck Fractures Surgery in Elderly Patients with CRF eliminated. References 1. Liu LK, Lee WJ, Chen LY, Hwang AC, Lin MH, Peng LN, et al. Association between frailty, osteoporo-
sis, falls and hip fractures among community-dwelling people aged 50 years and older in Taiwan:
results from I-Lan longitudinal aging study. PLoS One. 2015; 10(9):e0136968. doi: 10.1371/journal. pone.0136968 PMID: 26348034; PubMed Central PMCID: PMC4562637. 1. Liu LK, Lee WJ, Chen LY, Hwang AC, Lin MH, Peng LN, et al. Association between frailty, osteoporo-
sis, falls and hip fractures among community-dwelling people aged 50 years and older in Taiwan:
results from I-Lan longitudinal aging study. PLoS One. 2015; 10(9):e0136968. doi: 10.1371/journal. pone.0136968 PMID: 26348034; PubMed Central PMCID: PMC4562637. 2. Giannoudis PV, Harwood PJ, Court-Brown C, Pape HC. Severe and multiple trauma in older patients;
incidence and mortality. Injury. 2009; 40(4):362–7. doi: 10.1016/j.injury.2008.10.016 PMID: 19217104. 2. Giannoudis PV, Harwood PJ, Court-Brown C, Pape HC. Severe and multiple trauma in older patients;
incidence and mortality. Injury. 2009; 40(4):362–7. doi: 10.1016/j.injury.2008.10.016 PMID: 19217104. 3. Lizaur-Utrilla A, Serna-Berna R, Lopez-Prats FA, Gil-Guillen V. Early rehospitalization after hip fracture
in elderly patients: risk factors and prognosis. Arch Orthop Trauma Surg. 2015; 135(12):1663–7. doi:
10.1007/s00402-015-2328-1 PMID: 26377732. 3. Lizaur-Utrilla A, Serna-Berna R, Lopez-Prats FA, Gil-Guillen V. Early rehospitalization after hip fracture
in elderly patients: risk factors and prognosis. Arch Orthop Trauma Surg. 2015; 135(12):1663–7. doi:
10.1007/s00402-015-2328-1 PMID: 26377732. 4. Leonard MB. A structural approach to skeletal fragility in chronic kidney disease. Semin Nephrol. 2009;
29(2):133–43. doi: 10.1016/j.semnephrol.2009.01.006 PMID: 19371804; PubMed Central PMCID:
PMC2705768. 4. Leonard MB. A structural approach to skeletal fragility in chronic kidney disease. Semin Nephrol. 2009;
29(2):133–43. doi: 10.1016/j.semnephrol.2009.01.006 PMID: 19371804; PubMed Central PMCID:
PMC2705768. 5. Garcia FL, Dalio RB, Sugo AT, Picado CH. Bilateral spontaneous fracturing of the femoral neck in a
patient with renal osteodystrophy. Rev Bras Ortop. 2014; 49(5):540–2. doi: 10.1016/j.rboe.2014.07.004
PMID: 26229859; PubMed Central PMCID: PMC4487429. 6. Lin CJ, Wu V, Wu PC, Wu CJ. Meta-analysis of the associations of p-cresyl sulfate (PCS) and indoxyl
sulfate (IS) with cardiovascular events and all-cause mortality in patients with chronic renal failure. PLoS One. 2015; 10(7):e0132589. doi: 10.1371/journal.pone.0132589 PMID: 26173073; PubMed
Central PMCID: PMC4501756. 7. Katz AI, Hampers CL, Merrill JP. Secondary hyperparathyroidism and renal osteodystrophy in chronic
renal failure. Analysis of 195 patients, with observations on the effects of chronic dialysis, kidney trans-
plantation and subtotal parathyroidectomy. Medicine (Baltimore). 1969; 48(5):333–74. PMID: 4909606. 8. Casey M, Walsh B. Discussion Third, the usefulness of the DCO approach to treat the femoral neck fracture in
patients with concomitant chronic renal failure were proved only by postoperative complica-
tion rates, mortality rates, and Harris scores. Fourth, the long-term effect of the suggested sur-
gical approach requires further verification. Author Contributions Conceived and designed the experiments: CD SW YuW AW. Performed the experiments: CD
ZW QD. Analyzed the data: CD YjW SW YuW. Contributed reagents/materials/analysis tools:
CD ZW QD. Wrote the paper: CD AW. Manuscript revision review: CD AW. Conclusions In summary, using the DCO approach, the surgical treatment for femoral neck fracture in
patients complicated with chronic renal failure is an effective and relatively safe treatment
option. Increased POSSUM predicted morbidity rate, P-POSSUM predicted mortality rate and
serious co-morbidities are associated with adverse outcomes. Following sequential assessment
of surgical risk, postoperative mortality rates are significantly reduced. Delaying the surgery for
several days, if needed, does not increase the incidence of postoperative adverse events. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 References Michel JP, Klopfenstein C, Hoffmeyer P, Stern R, Grab B. Hip fracture surgery: is the pre-operative
American Society of Anesthesiologists (ASA) score a predictor of functional outcome? Aging Clin Exp
Res. 2002; 14(5):389–94. Epub 2003/02/27. PMID: 12602574. 20. Wang TJ, Zhang BH, Gu GS. Evaluation of POSSUM scoring system in the treatment of osteoporotic frac-
ture of the hip in elder patients. Chin J Traumatol. 2008; 11(2):89–93. Epub 2008/04/02. PMID: 18377711. 21. Vidal E, Moreira-Filho D, Pinheiro R, Souza RC, Almeida L, Camargo K Jr., et al. Delay from fracture to
hospital admission: a new risk factor for hip fracture mortality? Osteoporos Int. 2012; 23(12):2847–53. doi: 10.1007/s00198-012-1917-x PMID: 22297734. 22. Uzoigwe CE, Burnand HG, Cheesman CL, Aghedo DO, Faizi M, Middleton RG. Early and ultra-early
surgery in hip fracture patients improves survival. Injury. 2013; 44(6):726–9. doi: 10.1016/j.injury.2012. 08.025 PMID: 23010072. 23. Leung F, Lau TW, Kwan K, Chow SP, Kung AW. Does timing of surgery matter in fragility hip fractures? Osteoporos Int. 2010; 21(Suppl 4):S529–34. doi: 10.1007/s00198-010-1391-2 PMID: 21057992;
PubMed Central PMCID: PMC2974918. 24. Kim SM, Moon YW, Lim SJ, Yoon BK, Min YK, Lee DY, et al. Prediction of survival, second fracture,
and functional recovery following the first hip fracture surgery in elderly patients. Bone. 2012; 50
(6):1343–50. doi: 10.1016/j.bone.2012.02.633 PMID: 22421579. 25. Simunovic N, Devereaux PJ, Sprague S, Guyatt GH, Schemitsch E, Debeer J, et al. Effect of early sur-
gery after hip fracture on mortality and complications: systematic review and meta-analysis. CMAJ. 2010; 182(15):1609–16. doi: 10.1503/cmaj.092220 PMID: 20837683; PubMed Central PMCID:
PMC2952007. 26. Pedersen SJ, Borgbjerg FM, Schousboe B, Pedersen BD, Jorgensen HL, Duus BR, et al. A compre-
hensive hip fracture program reduces complication rates and mortality. J Am Geriatr Soc. 2008; 56
(10):1831–8. doi: 10.1111/j.1532-5415.2008.01945.x PMID: 19054201. 27. Roche JJ, Wenn RT, Sahota O, Moran CG. Effect of comorbidities and postoperative complications
on mortality after hip fracture in elderly people: prospective observational cohort study. BMJ. 2005;
331(7529):1374. doi: 10.1136/bmj.38643.663843.55 PMID: 16299013; PubMed Central PMCID:
PMC1309645. 28. Weller I, Wai EK, Jaglal S, Kreder HJ. The effect of hospital type and surgical delay on mortality after
surgery for hip fracture. J Bone Joint Surg Br. 2005; 87(3):361–6. PMID: 15773647. 29. Parker MJ, Handoll HH, Griffiths R. Anaesthesia for hip fracture surgery in adults. Cochrane Database
Syst Rev. 2004; (4):CD000521. doi: 10.1002/14651858.CD000521.pub2 PMID: 15494999. 30. Liu SS, Wu CL. References Chronic renal failure in hip fracture patients. Osteoporos Int. 2004; 15(5):420;
author reply 1. doi: 10.1007/s00198-003-1575-0 PMID: 15052378. 9. Rotondo MF, Schwab CW, McGonigal MD, Phillips GR 3rd, Fruchterman TM, Kauder DR, et al. 'Dam-
age control': an approach for improved survival in exsanguinating penetrating abdominal injury. J
Trauma. 1993; 35(3):375–82; discussion 82–3. Epub 1993/09/01. PMID: 8371295. 10. Roberts CS, Pape HC, Jones AL, Malkani AL, Rodriguez JL, Giannoudis PV. Damage control ortho-
paedics: evolving concepts in the treatment of patients who have sustained orthopaedic trauma. Instr
Course Lect. 2005; 54:447–62. PMID: 15948472. 11. Papathanasopoulos A, Nikolaou V, Petsatodis G, Giannoudis PV. Multiple trauma: an ongoing evolu-
tion of treatment modalities? Injury. 2009; 40(2):115–9. doi: 10.1016/j.injury.2008.09.002 PMID:
19128800. 10 / 12 PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 Femoral Neck Fractures Surgery in Elderly Patients with CRF 12. Tseng CH, Huang WS, Li TC, Chen HJ, Muo CH, Kao CH. Increased risk of end-stage renal disease
among hip fracture patients. Eur J Intern Med. 2014; 25(10):956–61. doi: 10.1016/j.ejim.2014.10.017
PMID: 25468738. 13. Waibel BH, Rotondo MM. Damage control surgery: it's evolution over the last 20 years. Rev Col Bras
Cir. 2012; 39(4):314–21. PMID: 22936231. 14. Nickolas TL, Stein E, Cohen A, Thomas V, Staron RB, McMahon DJ, et al. Bone mass and microarchi-
tecture in CKD patients with fracture. J Am Soc Nephrol. 2010; 21(8):1371–80. Epub 2010/04/17. doi:
10.1681/asn.2009121208 PMID: 20395370; PubMed Central PMCID: PMCPMC2938588. 15. Zafeiropoulou K, Bita T, Polykratis A, Karabina S, Vlachojannis J, Katsoris P. Hemodialysis removes
uremic toxins that alter the biological actions of endothelial cells. PLoS One. 2012; 7(2):e30975. doi:
10.1371/journal.pone.0030975 PMID: 22383985; PubMed Central PMCID: PMC3284471. 16. Bonicoli E, Parchi P, Piolanti N, Andreani L, Niccolai F, Lisanti M. Comparison of the POSSUM score
and P-POSSUM score in patients with femoral neck fracture. Musculoskelet Surg. 2014; 98(3):201–4. Epub 2013/07/31. doi: 10.1007/s12306-013-0294-8 PMID: 23893526. 17. Liu Y, Peng M, Lin L, Liu X, Qin Y, Hou X. Relationship between American Society of Anesthesiologists
(ASA) grade and 1-year mortality in nonagenarians undergoing hip fracture surgery. Osteoporos Int. 2015; 26(3):1029–33. Epub 2014/10/11. doi: 10.1007/s00198-014-2931-y PMID: 25300530. 18. Messina A, Frassanito L, Colombo D, Vergari A, Draisci G, Della Corte F, et al. Hemodynamic changes
associated with spinal and general anesthesia for hip fracture surgery in severe ASA III elderly popula-
tion: a pilot trial. Minerva Anestesiol. 2013; 79(9):1021–9. Epub 2013/05/03. PMID: 23635998. 19. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 32.
Takakura Y, Tanaka Y, Sugimoto K, Tamai S, Masuhara K. Ankle arthroplasty. A comparative study of
cemented metal and uncemented ceramic prostheses. Clin Orthop Relat Res. 1990; (252):209–16.
PMID: 2302887. 33.
Kim KJ, Rubash HE, Wilson SC, D'Antonio JA, McClain EJ. A histologic and biochemical comparison of
the interface tissues in cementless and cemented hip prostheses. Clin Orthop Relat Res. 1993;
(287):142–52. PMID: 8448933. 34.
Gjertsen JE, Lie SA, Vinje T, Engesaeter LB, Hallan G, Matre K, et al. More re-operations after unce-
mented than cemented hemiarthroplasty used in the treatment of displaced fractures of the femoral
neck: an observational study of 11,116 hemiarthroplasties from a national register. J Bone Joint Surg
Br. 2012; 94(8):1113–9. doi: 10.1302/0301-620X.94B8.29155 PMID: 22844055. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 References Effect of postoperative analgesia on major postoperative complications: a systematic
update of the evidence. Anesth Analg. 2007; 104(3):689–702. doi: 10.1213/01.ane.0000255040. 71600.41 PMID: 17312231. 31. Geiger F, Zimmermann-Stenzel M, Heisel C, Lehner B, Daecke W. Trochanteric fractures in the elderly:
the influence of primary hip arthroplasty on 1-year mortality. Arch Orthop Trauma Surg. 2007; 127
(10):959–66. doi: 10.1007/s00402-007-0423-7 PMID: 17899138; PubMed Central PMCID: PMC2111040. PLOS ONE | DOI:10.1371/journal.pone.0154906
May 5, 2016 11 / 12 Femoral Neck Fractures Surgery in Elderly Patients with CRF 12 / 12
|
https://openalex.org/W4200045405
|
https://www.researchsquare.com/article/rs-1049518/latest.pdf
|
English
| null |
Melatonin and its-Remodeled Fecal Microbiota Improve Gut Health Through Inhibiting Oxidative Stress, Autophagy and Inflammation
|
Research Square (Research Square)
| 2,021
|
cc-by
| 12,502
|
Melatonin and its-Remodeled Fecal Microbiota
Improve Gut Health Through Inhibiting Oxidative
Stress, Autophagy and Inflammation Wenlong Yong
Northwest A&F University Chenyang Wang
Northwest A&F University License:
This work is licensed under a Creative Commons Attribution 4.0 International
License.
Read Full License License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Results Here, compared with the control group, melatonin and FMT increased intestinal villus height/crypt depth
(V/C), inhibited gut oxidative stress, autophagy and inflammation in antenatal and perinatal rats. Likewise, not only melatonin and FMT, but also FC enhanced intestinal V/C through above parallel ways
with decreasing intestinal permeability in early weaned rats. Mechanically, melatonin directly
strengthened antioxidation, attenuated autophagy and apoptosis in H2O2-induced IEC6 intestinal
epithelial cells. Furthermore, melatonin, FMT and FC reprogrammed intestinal microbiota in which more
beneficial microbiota, including Allobaculum, Bifidobacterium and Faecalibaculum produced more
metabolic short-chain fatty acids (SCFAs) including acetic acid and butyric acid to protect gut health. Most interestingly, compared with the control group, early weaned rats may get above probiotics via
eating or licking the dung of the co-cage rats treated with melatonin in the FC group. Research Page 1/30 License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License Page 2/30 Background Gut health is involved in the nutrition absorption, reproduction and lactation in antenatal, perinatal and
early weaned mammals. Recent literatures have demonstrated that melatonin functions in aging, cancer
and obesity, but to date, few investigations toward exploring whether melatonin-reprogrammed fecal
microbiota transplantation (FMT) and foster care (FC) affect gut health have been performed. Conclusions Overall, melatonin, FMT and FC improved gut health and the potential regulatory mechanism was
associated with strengthening antioxidation, suppressing autophagy, inflammatory and apoptosis, as
well as producing more SCFAs from reprogrammed gut microbiota. These findings suggest that
melatonin, FMT and FC may be novel and effective methods to ameliorate gut health in antenatal,
perinatal and weaned mammals. Background The gut health which directly determines nutrition absorption is vital to animal growth and development
[1]. There is a high incidence of intestinal diseases worldwide, because characteristics of these diseases
are long course chronicity and recurrent attacks which make them more difficult to treat. Therefore,
intestinal diseases have been surpassing some chronic diseases, including diabetes and cardiovascular
diseases, and has become the most important global public health concern today. Gut microbiota plays a
central role in the pathogenesis of these diseases as it mediates environmental changes to the intestinal
immune system [2]. Further exploration of the composition and function of the gut microbiota and the
potential for its manipulation to cure disease is an area of rapid growth and great promise. Therefore, gut Page 3/30 microbiota is implicated in mammalian gut health and remodeling healthy intestinal microbiota is
beneficial to sick animal in gut microbiota dysbiosis. The mammalian gut microbiota is composed of trillions of microbes that especially facilitate host gut
health and prevent diarrhea, inflammatory bowel disease and irritable bowel syndrome [3, 4]. The gut
microbiota is now considered an important partner of human and animal cells, interacting with virtually
all cells [2]. In fact, there are numerous metabolites including short-chain fatty acids (SCFAs), secondary
bile acids, indoleacrylic acid, skatole, tryptamine and histamine produced by gut microbiome that can
influence mammal metabolism [5–9]. Increasing literatures indicates that the changes in gut microbiota
composition are associated with intestinal diseases, obesity and its associated metabolic disorders [10–
12]. Both baseline microbiota and microbial richness were inversely associated with insulin resistance
and diarrhea [3, 13]. Interestingly, fecal microbiota transplantation (FMT) is an important method for
establishing or remodeling functional gut microbiota to improve gut health or cure diseases, such as
diarrhea and obesity [3, 14]. Moreover, the early weaned animals maintained intestinal health possibly
through reprogrammed gut microbiota via eating or licking the dung from healthy adult animals. Therefore, foster care (FC) or co-cage feeding may be a novel promising method for establishing or
reprogramming functional gut microbiota to ameliorate intestinal health. The use of probiotics and prebiotics which can replace antibotics is increasing in popularity for both the
prevention and treatment of a variety of gut diseases [15]. Within this space, there is much to learn, and
novel gut microbial therapeutics are likely to rapidly evolve over the next decade. Background Based on above
analysis, finding probiotics and prebiotics alternatives to prevent gastrointestinal disorders is crucial for
gut health in animal and human. Melatonin, as a high effective antioxidant, is the most versatile and
ubiquitous hormonal molecule produced not only in the pineal gland, but also in various other tissues of
mammal, particularly in the gastrointestinal tract [16]. Moreover, it plays a vital role in the regulation of
other hormones to maintain the circadian rhythm, and prevent obesity, neurodegenerative diseases and
viral infection [17–20]. Recently, increasing literatures have shown that melatonin is implicated in
antioxidation, autophagy and inflammation which drives the gut microbiota [14, 21, 22]. However, few
clinical or experimental studies evaluated the effects and regulatory mechanism of melatonin, its-
remodeled FMT and FC on gut health in antenatal, perinatal and early weaned animals. Herein, we investigated the effect and underlying mechanism of melatonin, FMT and FC on gut health in
antenatal, perinatal female rats and early weaned rats. Our results indicated that melatonin, FMT and FC
ameliorated gut health and revealed that the potential regulatory mechanism was associated with
enhancing antioxidation and suppressing autophagy, inflammatory and apoptosis, as well as producing
more SCFAs from reprogramming gut microbiota. These findings suggested that not only melatonin and
its-remodeled FMT, but also FC could be new effective methods for gut disorders caused by oxidative
stress to improve mammalian intestinal health. Melatonin and FMT improve gut health by increasing intestinal villus height/crypt depth and enhancing
antioxidation in antenatal and perinatal rats Melatonin and FMT improve gut health by increasing intestinal villus height/crypt depth and enhancing
antioxidation in antenatal and perinatal rats Gut health in antenatal and perinatal animals, which is affected by intestinal oxidative stress and
microbiota, is implicated in their nutrition absorption, reproduction and lactation. To investigate the
effects of melatonin and melatonin-remodeled FMT on guts, antenatal and perinatal female rats were
treated with melatonin and FMT, respectively. The timeline of treatments and sample collection in this
study (Fig. 1A). The results showed that the villus height/crypt depth (V/C) of duodenum, jejunum and
ileum apparently increased, but colon V/C did not change on antenatal day 5 (A5) and perinatal day 3
(P3) rats (Fig. 1B-F). It was similar to that of the villus height (Supplementary Fig. 1A-D). Additionally,
crypt depths of duodenum, jejunum, ileum and colon tended to increase, but not reach statistical
significance (Supplementary Fig. 1E-H). Melatonin actions in reducing ulcer formation seemingly to
directly scavenge toxic oxygen-based reactants and possibly to promote antioxidative enzyme activities. Here, we found that both melatonin and FMT markedly decreased ROS production of intestinal tissue on
A5 and P3 rats (Fig. 1G and H), meanwhile reduced the levels of T-AOC and MDA (Fig. 1I and J). Compared with control group, melatonin upregulated the protein levels of GPx5, SOD1, SOD2 and CAT in
intestinal tissues of A5 and P3 rats, and FMT increased the levels of above proteins in gut tissues of P3
rats (Fig. 1K-O). Interestingly, FMT added the protein levels of SOD1 and SOD2 (Fig. 1M and N), but did
not change that of GPx5 and CAT in intestinal tissues of A5 rats (Fig. 1L and O). Taken together,
melatonin and FMT improved gut health by increasing the intestinal V/C and enhancing antioxidation in
antenatal and perinatal rats. Results Page 4/30 The intestinal health of antenatal and perinatal animals and their cubs is implicated in reproduction,
lactation and mortality rate. However, few clinical or experimental studies evaluated the effects and
regulatory mechanism of melatonin, its-remodeled fecal microbiota and FC or co-cage feeding on
mammalian gut health. For this reason, we systematically investigated the effect and underlying
mechanism of melatonin, FMT and FC on gut health in antenatal, perinatal female rats and early weaned
rats. In this study, the results were divided into four parts: (1) melatonin and its-remodeled FMT improve
gut health in antenatal and perinatal rats; (2) melatonin, FMT and FC ameliorate gut health in early
weaned rats; (3) melatonin attenuates oxidative stress, autophagy and apoptosis in H2O2-induced rat
intestinal epithelial cell 6 (IEC-6); (4) melatonin, FMT and FC improve gut health by increasing short‐chain
fatty acids (SCFAs) produced by remodel gut microbiota mainly including
Allobaculum, Bifidobacterium and Faecalibaculum. Part 1. Melatonin and FMT improve gut health in antenatal and perinatal rats Melatonin and FMT inhibit intestinal autophagy and inflammation Melatonin and FMT markedly restrained gut autophagy through reducing cellular autophagic vacuoles
(Fig. 2A and B), downregulated the protein levels of LC3B-I, LC3B-II, ATG7 and BECN1, whereas
upregulated the protein levels of P62 (Fig. 2C-I). Additionally, the intestinal epithelial monolayer plays an Page 5/30 Page 5/30 Page 5/30 important role in the development of inflammatory bowel disease, particularly as a target and producer o
TNF [27]. Our results indicated that melatonin and FMT significantly inhibited gut inflammatory (Fig. 2J),
decreased the contents of TNFα, IL-1β, IL-6 and IL-10 (Fig. 2K-N). Likewise, melatonin and FMT
upregulated the protein levels of HSP72, but downregulated the protein levels of NF-κB (Fig. 2O-Q). Therefore, melatonin and FMT attenuate autophagy and inflammation to protect gut in antenatal and
perinatal rats. Part 2. Melatonin, FMT and FC ameliorate gut health in early weaned rats Melatonin, FMT and FC increase intestinal V/C to ameliorate gut health by enhancing antioxidation in
early weaned rats Melatonin, FMT and FC increase intestinal V/C to ameliorate gut health by enhancing antioxidation in
early weaned rats Gut health of early weaned animals is beneficial to absorb nutrition for adapting new food condition and
decreasing mortality. To detect the effect of melatonin, FMT and FC on intestine of early weaned rats, rats
were treated with melatonin, FMT and FC, respectively. In this study, the timeline of treatments and
sample collection (Fig. 1A). The results showed that the V/C were increased on the day 3 after weaning
(Fig. 3B-F). Likewise, the villus heights of duodenum, jejunum, ileum and colon significantly increased
(Supplementary Fig. 2A-D), whereas the crypt depths did not change (Supplementary Fig. 2E-H). Moreover, melatonin, FMT and FC apparently decreased ROS production of intestinal tissues on day 3
after weaning (Fig. 3G and H), meanwhile reduced the contents of TAOC and MDA (Fig. 3I and J), and
upregulated the protein levels of GPX5, SOD1, SOD2 and CAT in gut tissues (Fig. 3K-O). Although FC also
ameliorated gut antioxidation, its effect was not well as that of melatonin and FMT. Herein, melatonin,
FMT and FC increased intestinal V/C to ameliorate gut health by inhibiting oxidative stress in early
weaned rats. Melatonin, FMT and FC suppress autophagy and inflammation and reduce intestinal permeability To further reveal the regulatory mechanism of melatonin, FMT and FC in gut health in early weaned rats,
we investigated inflammation, autophagy and permeability of gut tissue. The results showed that
melatonin, FMT and FC markedly restrained gut autophagy (Fig. 4A and B), downregulated the protein
levels of LC3B-I, LC3B-II, ATG7 and BECN1, whereas upregulated the protein levels of P62 (Fig. 4C-I). Furthermore, melatonin, FMT and FC significantly inhibited gut inflammatory (Fig. 4J), decreased the
contents of TNFα, IL-1β IL-6 and IL-10 (Fig. 4K-N). Meanwhile, melatonin, FMT and FC upregulated the
protein levels of HSP72 (Fig. 4O and P), but downregulated the protein levels of NF-κB (Fig. 4O and Q). Interestingly, melatonin, FMT and FC reduced intestinal permeability (Fig. 5A) through increasing tight
junction protein (Fig. 5B) and the protein levels of ZO-1, Occludin and Claudin in gut tissue (Fig. 5C-F). In
summary, melatonin, FMT and FC attenuated inflammation and autophagy, and reduced intestinal
permeability to improve gut health in early weaned rats. Part 3. Melatonin directly enhances antioxidation and attenuates autophagy and apoptosis in H2O2- induced IEC6 Page 6/30 Oxidative stress damages intestinal epithelial cells and causes cell autophagy [28]. IEC6 treated with
H2O2 can well mimic impairment of intestinal epithelial cells. To uncover how melatonin regulates
antioxidation and autophagy, we performed the experiments of IEC6 treated with H2O2 and melatonin. The experiment was performed to reveal the effect of Mel on anti-oxidation, anti-autophagy and anti-
apoptosis in IEC6 cells (Fig. 6A). The results showed that H2O2 induced oxidation and autophagy in a
dose- and time-dependent manner in IEC6 (Fig. 6B; Supplementary Fig. 3A and B), downregulated the
protein expression levels of SOD1, SOD2, GPX5, CAT and P62, but upregulated the protein expression
levels of LC3B-I, LC3B-II, BECN1 and ATG7 (Supplementary Fig. 3C-L). Moreover, melatonin apparently
suppressed ROS production and strengthened antioxidation in H2O2-induced IEC6 (Fig. 6B), meanwhile
restored the protein expression levels of P62, SOD1, SOD2, GPX5 and CAT (Fig. 6C-G). Interestingly,
melatonin inhibited autophagy and rescued cell viability in H2O2-induced IEC6 (Fig. 6H-J). Meanwhile,
melatonin decreased the LC3B-II/ LC3B-I and upregulated the protein expression level of P62 in H2O2-
induced IEC6 (Fig. 6K-M). Based on the results, melatonin attenuated autophagy caused by H2O2 throug
a reduction in an excessive oxidative stress. Oxidative stress damages intestinal epithelial cells and causes cell autophagy [28]. IEC6 treated with
H2O2 can well mimic impairment of intestinal epithelial cells. To uncover how melatonin regulates
antioxidation and autophagy, we performed the experiments of IEC6 treated with H2O2 and melatonin. Apoptosis of intestinal epithelial cells following oxidative stress is involved in the pathogenesis of
various gastrointestinal diseases [29]. We therefore investigated the mechanism on melatonin
modulating apoptosis of IEC6. The results indicated that H2O2 distinctly caused apoptosis, but melatonin
inhibited apoptosis induced by H2O2 in IEC6 (Fig. 6N), rescued mitochondria dysfunction through
reducing the number of apoptotic body (Fig. 6O). Moreover, melatonin partially restored the protein levels
of Cleaved-caspase-3, Bcl-2, Bcl-XL, full length/cleaved PARP (Fig. 6P-T), and inhibited upregulation of the
protein levels of both mitochondria-Cytochrome C-1 and cytoplasm-Cytochrome C-1 by H2O2 in IEC6 (Fig. 6U, V). Taken together, melatonin inhibited apoptosis of intestinal epithelial cells following oxidative
stress, possibly causing a decrease of intestinal villus height. Part 4. Melatonin, FMT and FC improve gut health by reprogramming gut microbiota Melatonin, FMT and FC improve gut health by increasing gut microbiota produced SCFAs SCFAs including acetic, propionic and butyric acids are the main metabolic products of anaerobic
bacteria fermentation in the intestine [30]. These fatty acids have been recognized as potential mediators
involved in the effects of gut microbiota on intestinal antioxidation, autophagy and immune function. Hence the fecal SCFAs concentrates were detected in this study. The results indicated that both Mel and
FMT increased the concentrations of total SCFAs, acetic and butyric acid in 5P and 3A rats (Fig. 8A, B, D),
whereas did not change the concentrations of propionic acid (Fig. 8C). For early weaned rats, the results
were in accord with those of 5P and 3A rats (Fig. 8F-H). On the basis of the data, SCFAs, especially acetic
and butyric acids produced by remodeling gut microbiota, might serve as a potential effect of melatonin-
mediated gut health improvement. Here, we cannot exclude that the other factors caused by altered
microbiota affect gut health, such as some antioxidants, toxins and other metabolites. Furthermore, the abundance change of Lactoaccillus was not affected fecal acetic acid concentration
(Fig. 8I), but those of Allobaculum, Bifidobacterium and Faecalibaculum were related to fecal acetic acid
concentration (Fig. 8J-L). The abundance changes of Lactoaccillus and Allobaculum were not changed
fecal butyric acid concentrations (Fig. 8M), whereas those of Bifidobacterium and Faecalibaculum were
related to fecal butyric acid concentrations (Fig. 8N-P). These results showed that Furthermore, the abundance change of Lactoaccillus was not affected fecal acetic acid concentration
(Fig. 8I), but those of Allobaculum, Bifidobacterium and Faecalibaculum were related to fecal acetic acid
concentration (Fig. 8J-L). The abundance changes of Lactoaccillus and Allobaculum were not changed
fecal butyric acid concentrations (Fig. 8M), whereas those of Bifidobacterium and Faecalibaculum were
related to fecal butyric acid concentrations (Fig. 8N-P). These results showed that
Allobaculum, Bifidobacterium and Faecalibaculum contributed to acetic and butyric acid production to
protect gut health. Overall, our results suggested that melatonin, FMT and FC increased the gut
microbiota strains which produced more SCFAs to ameliorate gut health through increasing intestinal V/C
and inhibiting oxidative stress, autophagy, inflammatory and apoptosis (Fig. 9). y
( g
)
Allobaculum, Bifidobacterium and Faecalibaculum contributed to acetic and butyric acid production to
protect gut health. Overall, our results suggested that melatonin, FMT and FC increased the gut
microbiota strains which produced more SCFAs to ameliorate gut health through increasing intestinal V/C
and inhibiting oxidative stress, autophagy, inflammatory and apoptosis (Fig. 9). Melatonin, FMT and FC remodel gut microbiota Gut microbiota is highly associated with intestinal health, so we further detected fecal microbiota
compositions by sequencing the fecal bacterial 16S rRNA in A5 and P3 rats, and rats on the day 3 after
weaning. Experiment design for feces bacterial 16S rDNA gene amplicon sequencing analysis was as
shown in Fig. 7A. In this study, total tags of 64 734 raw reads were generated from each sample
(Supplementary Fig. S4A). After removing the low‐quality sequences, more than 50 000 clean tags were
clustered into OTUs (Supplementary Fig. S4B and C). Antenatal and perinatal rats, as well as early
weaned rats treated with melatonin, FMT and FC exhibited a greater diversity of microbiota evidenced by
the increased Shannon and Simpson indexes compared to controls (Fig. 7B and C). We analyzed overall
differences in β‐diversity using PCoA plot, weighted and unweighted UniFrac distance. Controls and
treatments showed a distinct clustering of microbial community, structure, while the FMT and FC groups
had a similar structure to that of the Mel groups (Fig. 7D and E; Supplementary Fig. S4D-G). The overall Page 7/30 Page 7/30 microbial composition in 10 groups differed at the phylum, order and genus species levels (Fig. 7F and
G). At the genus level, compared with control groups, the relative abundances of Allobaculum and
Faecalibaculum were increased in the treatment groups, and the relative abundances of Bifidobacterium
were augmented in AMel, AFMT, WMel WFMT and WFC groups (Fig. 7H). Based on the analysis presented
above, the abundance changes of these intestinal microbiota which produced SCFAs may be involved in
gut health. Discussion Gut health is vital important for mammal to not only improve nutrient absorption, but also resist
pathogen, toxin and allergic compound. For antenatal, perinatal and early weaned animals, intestinal
health is also implicated in reproduction, lactation and mortality rate after weaning. Melatonin is a high
effective antioxidant which protects essential cell elements such as nucleus, mitochondria, and
endoplasmic reticulum [31–33]. Additionally, it is now known to be present in the gastrointestinal tract,
and its functions in the gut generally seem to be protective of the mucosa from erosion and ulcer
formation [34]. In the present study, melatonin directly ameliorated intestinal tissue antioxidation,
inhibited inflammation and autophagy in antenatal, perinatal and early weaned rats. Likewise, in vitro
experiments further revealed that melatonin enhanced antioxidation to attenuate autophagy and Page 8/30 Page 8/30 apoptosis in H2O2-induced IEC6. Therefore, melatonin increased intestinal V/C to improve gut health by
suppressing oxidative stress, inflammation, autophagy and apoptosis via downregulating the levels of
ROS and inflammatory factor, reducing autophagic vacuole and apoptotic body. Interestingly, melatonin
not only increases autophagy, but also blocks autophagy [35, 36]. In this study, melatonin blocked
autophagy through decreasing autophagic vacuole to exert its gut-protective role against intestinal
oxidative damage. On the basis of data discussed herein, our results confirm and extend previous
findings that intestinal melatonin is highly effective protector against oxidative stress-induced lesions [37,
38]. Next, we investigated how melatonin-reprogrammed FMT function on the gut in antenatal and perinatal
rats. FMT is the infusion of liquid filtrate feces from a healthy donor into the gut of a recipient to cure a
specific disease, including Parkinson’s disease, fibromyalgia, chronic fatigue syndrome, multiple sclerosis,
obesity and insulin resistance [39, 40]. In fact, FMT is the transfer of minimally manipulated, prescreened
donor stool into the gastro-intestinal tract of a patient, with the aim of ameliorating the dysbiotic state by
increasing overall diversity and restoring the functionality of the microbiota [41]. Increasing literatures
showed that gut microbiota was sensitive to melatonin exposure and melatonin treatment markedly
shapes or reverses gut microbiota in healthy or sick animal models [42–45]. The variation of specific
bacteria in melatonin-reprogrammed gut microbiota effect obesity and insulin resistance [46, 47]. Decrease of Firmicutes-to-Bacteroidetes ratio and increase of abundance of mucin-degrading bacteria
Akkermansia were associated with healthy mucosa [14]. Discussion In this study, the composition and abundance of
gut microbiota was different among AMel, AFMT, PMel and PFMT groups, and more Allobaculum,
Bifidobacterium and Faecalibaculum were implicated in gut health because they produced acetic and
butyric acid. Here, we need point out that the gastrointestinal tract responds with increment of melatonin
to feeding, but pineal gland production of melatonin remains unaffected by feeding [48]. Moreover, pineal
gland and small bowel are highly effective in the synthesis and secretion of melatonin [49], but it need be
further explored whether exogenous melatonin affects synthesis of endogenous melatonin. Overall, we
suggested that melatonin targeted reconstitution of the gut microbiota against intestinal oxidative stress. Although the majority of the results are consistent between studies, some potential taxa and metabolites
may appear discrepant and even contrasting, thereby supporting the need for appropriate studies to
ascertain the role of one or several specific bacteria as potential beneficial bacteria to provide protection
against specific intestinal diseases. Developments in high-throughput microbial genomic sequencing
have given novel insight into the potential contribution of the gut microbiota to health. Moreover,
restoration of the gut microbiota to a premorbid state is a key novel therapeutic approach, and FMT is
gaining increasing importance in both the clinical and research settings. To date, although a large
number of trials are ongoing worldwide exploring FMT potential therapeutic indications, it is only
recommended in the treatment of recurrent Clostridioides difficile infection [50]. On the basement of our
findings, we might someday be able to mine for melatonin-reprogrammed gut bacterial strains that can
be used in the diagnosis or treatment of intestinal diseases, such as Allobaculum, Bifidobacterium and
Faecalibaculum in this study. Page 9/30 In general, mammalian weaning resulted in reduction of intestinal V/C and damaged intestinal integrity
[51]. In this study, our findings revealed that melatonin and melatonin-remodeled FMT could increase
intestinal V/C, ameliorate gut antioxidation, inhibit autophagy and inflammation, and decrease intestinal
permeability in early weaned rats. Interestingly, FC also functioned above effects, but why? Animals
subjected to oxidative stress exhibited significant loss of crypt architecture, severe villous epithelial
atrophy and degeneration, and shortening of villi [52–54]. Here, melatonin and FMT were beneficial to gut
health through inhibiting oxidative stress in early weaned rats. Discussion Therefore, we thought that the early
weaned rats in FC group could get beneficial microbiota via eating or licking the dung of their mothers
treated with melatonin to improve gut health. Furthermore, abundance of Allobaculum, Bifidobacterium
and Faecalibaculum markedly increased in FC group, hinting that these important changes which caused
differences in intestinal microbial products including total SCFAs, acetic and butyric acid in early weaned
rats. Interestingly, Faecalibaculum produced butyric acid which protect gut health [55–57]. In addition,
Bifidobacterium also produced moderate H2O2 to activates the body’s production of catalase which kills
gram negative bacteria such as Shigella and Salmonella [58]. Although we still do not exclude the
possibility that altered microbiota did not produce these bacteriocins or changed them might be caused
by other factors, metabolic SCFAs from remodeled intestinal microbiota ameliorated gut antioxidation,
inhibited autophagy and inflammation in early weaned rats in FC group. However, more experimental
studies need to be performed to further uncover the composition and function of the reprogrammed
microbiota and their bacteriocins in the future. In the current study, our findings suggested that FC
improved gut health of the foster rats through remodeled microbiota, especially more Allobaculum,
Bifidobacterium and Faecalibaculum. Additionally, lower levels of melatonin and SCFA concentration
correlated with increased intestinal permeability [59, 60]. In accord with these studies, intestinal
permeability decreased by adding exogenous melatonin or increasing levels of SCFAs. Here, we need
point out that early weaned rats ate or licked the dung from female rats treated with melatonin, in which
might contain undetected infinitesimal melatonin. Overall, although the regulation and effect the gut
microbiota were affected by many factors and were very complex, the potential for FC manipulation to
ameliorate gut health is a novel area of rapid growth and great promise. In conclusion, melatonin, FMT and FC increased gut microbiota which produced SCFAs to improve gut
health through enhancing antioxidation, inhibiting autophagy, inflammatory and apoptosis. We suggest
that precise manipulating intestinal microbiota via melatonin, its-reprogrammed FTM and FC will become
promising strategies for therapy of intestinal disorders caused by oxidative stress in antenatal, perinatal
and weaned mammals. Experiment design For the pregnant and lactation rat experiments (Fig. 1A), a total of 30 pregnant rats were randomly divide
into 3 groups, including control, melatonin (Mel) and FMT group. Control and FMT groups: rats received a
basal diet and normal drinking water; Mel group: a basal diet and drinking water containing melatonin
(0.2 g/L; M5250, Sigma, MO, USA). After 3 days of melatonin supplementation, the fecal contents of rats
were collected and diluted with phosphate buffer saline (PBS) through modified procedure according to
precious method [3,23,24]. Briefly, fresh fecal samples were collected from Mel group in sterile PBS (100
mg/mL). The suspension was homogenized by vortex for 1 min and centrifuged at 1000 g for 3 min. The
resulting supernatant was collected into new sterile tubes and used for oral gavage. The fecal contents
dilution (0.1mL/rat) was feed into rats in FMT group each day until the day 5 before delivery and the day
3 after delivery, respectively. Five rats were sacrificed to collect duodenum, jejunum, ileum and colon in
each group. These intestinal tissues were fixed in 2.5% glutaraldehyde solution and 2.5%
paraformaldehyde solution and saved at -80°C. The 30 fresh fecal samples on the day 5 before delivery
and the day 3 after delivery were used for bacterial 16S rDNA gene amplicon sequencing analysis were
stored at -80°C before genomic DNA extraction. araformaldehyde solution and saved at -80°C. The 30 fresh fecal samples on the day 5 before delivery
nd the day 3 after delivery were used for bacterial 16S rDNA gene amplicon sequencing analysis were
tored at -80°C before genomic DNA extraction. For the weaned rat experiments (Fig. 3A), a total of 80 suckling rats at 11 days of age (weaned at 21 days
of age) were randomly selected for four groups including control, Mel, FMT and FC group. Control and
FMT groups: suckling rats fed a basal diet and normal drinking water; Mel group: suckling rats fed a
basal diet and drinking water containing melatonin (0.2 g/L); FC group: lactating rats received a basal
diet and drinking water containing melatonin (0.2 g/L). After 3 days of melatonin supplementation, the
fecal contents dilution (0.1mL/rat) was feed into suckling rats in FMT group each day until 24 days of
age. Similarly, five rats were sacrificed to collect serum, duodenum, jejunum, ileum and colon in each
group. Animals The male Sprague-Dawley rats (10–12 weeks) were purchased from The Fourth Military Medical
University (Xian, Shaanxi, China). The rats were housed in a pathogen‐free rat colony (temperature, 25 ±
2°C; relative humidity, 45%‐60%; lighting cycle, 12 h/day, 08:00‐20:00 for light) and had free access to Page 10/30 food and drinking water. The normal chow diet was purchased from Beijing HFK Bioscience Co. Ltd. (Beijing, China). After superovulation of rats by an intraperitoneal injection of 10 IU PMSG (Sigma, St
Louis, MO, USA), the female rats were mated. The pregnant rats were selected for experiments. The
animal experiments were all approved by the Research Ethics Committee of Northwest A&F University
(2011-31101684). Experiment design The 20 fresh fecal samples on the day 3 after weaning were used for bacterial sequencing
analysis. Hematoxylin and eosin staining Hematoxylin and eosin (H&E) staining was performed as previously described [25]. Briefly, the rat
intestinal tissue, including duodenum, jejunum, ileum and colon, were fixed with 4% paraformaldehyde-
PBS overnight, and then dehydrated and embedded in paraffin blocks. The 5 μm sections were
deparaffinized, hydrated and stained with H&E. Intestinal villus height and crypt depth were measured
using ImageJ software. ELISA assay The levels of IL-6, IL-1β, IL-10 and TNF-α were determined using ELISA kits (Raybiotech, GA, USA)
according to the manufacturer’s instructions. ROS generation assay The fresh intestinal tissues were collected and frozen at -80°C. The samples were sliced into 5-10 μm
pieces and stained with DHE at 37°C for 30 min. The sections were washed on time with PBS for 10
minutes and stained with DAPI. Likewise, intestinal epithelial cells were washed 3 times with PBS and
incubated with 10 μM DCFH-DA (Invitrogen, Eugene, OR, USA) for 30 min, and then washed with PBS and
stained with DAPI. The sections and cells were captured with a Zeiss 710 laser scanning confocal
microscope. The ROS assay kit (Beyotime Institute of Biotechnology, Shanghai, China) were used to
measure ROS concentration according to the manufacturer’s instructions. Briefly, the crushed intestinal
tissues were incubated with 10 μM DCFH-DA for 30 min, and then were measured by UV/visible
spectrophotometer (UV-2450, Shimadzu, Kyoto, Japan). Immunohistochemistry Immunohistochemistry stains were detected using IHC kit (MaiXin, China). Briefly, the tissues were cut
into 3-10 μm long pieces and blocked with 1% w/v BSA for 1 h, and then anti-NF-κB antibody were
incubated overnight at 4°C. Next, the samples were dehydrated in an ethanol (30-100%) gradient and
treated with xylene to increase the transparency of slides. Intestinal antioxidant capacity Page 11/30 Page 11/30 The levels of malondialdehyde (MDA) and total antioxidant capacity (TAOC) in intestinal tissues were
measured by spectrophotometric methods according to manufacturer instructions of assay kits (Nanjing
Jiancheng, Nanjing, China). All samples were measured by a UV/visible spectrophotometer (UV-2450,
Shimadzu, Kyoto, Japan). Transmission electron microscopy The fresh ileum tissues or the rat intestinal epithelial cell line IEC6 cells were fixed in 2.5% glutaraldehyde
solution at 4°C overnight and incubated with PBS containing 2% OsO4 for 4 h. The ileum tissues then
were dehydrated in a graded series of ethanol (30%, 50%, 70%, 80%, 90%, 95% and 100%) for 10 min at
each step for 2 times and then transferred into mixture of alcohol and spurr resin (v:v = 1:1, v:v = 1:2, v:v =
1:3) for 12 h and spurr resin for 24 h for 2 times. Ultrathin sections were obtained using a diamond knife
and stained with uranyl acetate, and then specimens were observed by TEM (JEM-1011, JEOL, Japan). Intestinal permeability analysis Intestinal permeability was assessed using the FITC-dextran (4-kDa) permeability assay. On 24 days of
age, the weaned rats were starved for 12 h, then feed with FITC-dextran (4.4 mg/kg BW) by oral gavage. Page 12/30 After 5 h, whole blood was collected and serum was isolated. Serum was diluted with equal volume of
PBS and tested in duplicate. The pictures of FITC-dextran were captured with fluorometer. After 5 h, whole blood was collected and serum was isolated. Serum was diluted with equal volume of
PBS and tested in duplicate. The pictures of FITC-dextran were captured with fluorometer. Cell culture and treatment The rat intestinal epithelial cell line IEC-6 were purchased from the American Type Culture Collection
(ATCC, USA). The cells were cultured in DMEM-F12 medium supplemented with 10% FBS (Life
Technologies) in a humidified 5% CO2 incubator at 37°C. For H2O2 and melatonin treatments, cells were
pretreated with melatonin (10 μM) for 24 h, followed by H2O2 (200 μM) stimulation for 2 h before they
were used for the next assay. Cell viability assay IEC-6 viability was measured using Cell Counting Kit-8 (Beyotime Institute of Biotechnology, Shanghai,
China) according to the manufacturer’s instructions. Western blotting analysis Total protein was isolated from intestinal tissues and cells by incubating in RIPA buffer containing
protease inhibitor cocktail for 30 min and then centrifuged at 12,000 ×g for 10 min at 4°C to remove the
precipitate. The total protein content was determined using the BCA Protein Assay Kit (Pierce), and 30 μg
proteins were separated by a reducing SDS-PAGE electrophoresis on 10% or 15% Bis-Tris gels,
transblotted onto nitrocellulose membranes and probed with different primary antibodies: GPx5 (18731-1-
AP, 1 : 1000, Proteintech), SOD1 (10269-1-AP, 1 : 1000, Proteintech), SOD2 (13194S, 1 : 1000, CST),
CAT (14097S, 1 : 1000, CST), HSP72, NF-κB (8242S, 1 : 1000, CST), LC3B (3868S, 1 : 1000, CST),
P62 (23214S, 1 : 1000, CST), ATG7 (2631S, 1 : 1000, CST), Beclin1 (11306-1-AP, 1 : 1000, Proteintech), ZO-
1 (ab221547, 1 : 1000, Abcam), Occludin (27260-1-AP, 1 : 1000, Proteintech), Claudin-1 (13050-1-AP, 1 :
1000, Proteintech), Bcl-2 (ab194583, 1 : 1000, Abcam), Bcl-XL (26967-1-AP, 1 : 500, Proteintech), Cleaved
capsase-3 (ab49822, 1 : 1000, Abcam), PARP (13371-1-AP, 1 : 1000, Proteintech), Cytochrome C (10993-1-
AP, 1 : 1000, Proteintech), β-actin (4967S, 1 : 1000, CST) and COX IV (ab202554, 1 : 500, Abcam). The gray
values of the bands were measured by ImageJ software and then normalized to β-actin or COX
IV content. Evaluation of autophagosome IEC-6 were seeded in 24-well plates with 1 cm coverslips, and the cells grown to 80% confluence prior to
transient transfection with the GFP-MAP1LC3B (Beyotime Institute of Biotechnology, Shanghai, China). After 24 h cultured, the cells were treated with 10 μM melatonin and 200 μM H2O2. Finally, the cells were
washed with PBS for 3 times, and observed under a laser-scanning confocal microscope (Zeiss LSM 710
META, Oberkochen, Germany). Gut microbiota analysis Total genomic bacterial DNA of fecal mixture of the duodenum, jejunum, ileum and colon was extracted
using an E.Z.N.A.® Stool DNA Kit (Omega Bio-Tek, Norcross, GA, USA) following the manufacturer’s
instructions. PCR amplification of bacteria DNA in the present study was performed. Briefly, the V3‐V4
regions of the bacteria 16S ribosomal RNA gene were amplified by PCR as following: 95°C for 2 min,
followed by 25 cycles at 95°C for 30 s, 55°C for 30 s, and 72°C for 30 s, and a final extension at 72°C for 5
min. The primers used are 338F 5′‐ACTCCTACGGGAGGCAGCA‐3′ and 806R 5′‐
GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 ×
FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase,
and 10 ng of template DNA instructions. PCR amplification of bacteria DNA in the present study was performed. Briefly, the V3 V4
regions of the bacteria 16S ribosomal RNA gene were amplified by PCR as following: 95°C for 2 min,
followed by 25 cycles at 95°C for 30 s, 55°C for 30 s, and 72°C for 30 s, and a final extension at 72°C for 5
min. The primers used are 338F 5′‐ACTCCTACGGGAGGCAGCA‐3′ and 806R 5′‐
GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 ×
FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase,
and 10 ng of template DNA. followed by 25 cycles at 95°C for 30 s, 55°C for 30 s, and 72°C for 30 s, and a final extension at 72°C for 5
min. The primers used are 338F 5′‐ACTCCTACGGGAGGCAGCA‐3′ and 806R 5′‐ GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 ×
FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase,
and 10 ng of template DNA. GGACTACHVGGGTWTCTAAT‐3′. PCRs were performed in triplicate 20 μL mixture containing 4 μL of 5 ×
FastPfu Buffer, 2 μL of 2.5 mM dNTPs, 0.8 μL of each primer 5 μM, 0.4 μL of FastPfu DNA polymerase,
and 10 ng of template DNA. Immunofluorescence Page 13/30 Page 13/30 For immunofluorescence analysis, IEC6 were fixed in 4% paraformaldehyde for 10 min and were
permeabilized in 0.5% Triton X-100 for 20 min at room temperature and blocked in 1% BSA for 30 min. Next, the cells were incubated with primary antibodies against Cleaved caspase-3 overnight at 4℃. After
that, the samples were washed three times with PBS for 10 min each time and incubated with secondary
antibodies for 2 h. The nuclei were stained with DAPI for 10 min and then washed one time with PBS for
15 min. Immunofluorescent images were captured with a Zeiss 710 laser scanning confocal microscope. For immunofluorescence analysis, IEC6 were fixed in 4% paraformaldehyde for 10 min and were
permeabilized in 0.5% Triton X-100 for 20 min at room temperature and blocked in 1% BSA for 30 min. Next, the cells were incubated with primary antibodies against Cleaved caspase-3 overnight at 4℃. After
that, the samples were washed three times with PBS for 10 min each time and incubated with secondary
antibodies for 2 h. The nuclei were stained with DAPI for 10 min and then washed one time with PBS for
15 min. Immunofluorescent images were captured with a Zeiss 710 laser scanning confocal microscope. Gut microbiota analysis Amplicons were extracted from 2% agarose gel, purified by the AxyPrep DNA gel extraction kit (Axygen
Biosciences, Union City, CA, USA), and quantified by QuantiFluorTM-ST (Promega, Madison, WI, USA)
according to the manufacturer’s protocols. Then purified amplicons were pooled in equimolar amounts
and paired-end sequenced on an Illumina MiSeq platform according to the standard protocols by a
commercial company (Novogene, Beijing, China). The raw reads were deposited into the NCBI Sequence
Read Archive (SRA) database (Accession Number: SUB2623584). aw data were firstly conjuncted by using the FLASH analysis tool (V1.2.7, Raw data were firstly conjuncted by using the FLASH analysis tool (V1.2.7,
http://ccb.jhu.edu/software/FLASH/), and then filtered with the Quality Control software package (V1.7.0,
http://qiime.org/scripts/split_libraries_fastq.html). To obtain the effective tags, the UCHIME algorithm
(http://www.drive5.com/usearch/manual/uchime_algo.html) was used to remove the chimera
sequences. The reads were picked to form distinct OTUs using Uparse software
(http://drive5.com/uparse/) at 97% of sequence similarity, and then were classified to different levels by
comparing to GreenGenes database using PyNAST software (V1.2). Raw data were firstly conjuncted by using the FLASH analysis tool (V1.2.7,
http://ccb.jhu.edu/software/FLASH/), and then filtered with the Quality Control software package (V1.7.0,
http://qiime.org/scripts/split_libraries_fastq.html). To obtain the effective tags, the UCHIME algorithm
(http://www.drive5.com/usearch/manual/uchime_algo.html) was used to remove the chimera
sequences. The reads were picked to form distinct OTUs using Uparse software
(http://drive5.com/uparse/) at 97% of sequence similarity, and then were classified to different levels by
comparing to GreenGenes database using PyNAST software (V1.2). Statistical analysis Statistical analyses were performed using the SPSS 23.0 statistical software package (SPSS Inc,
Chicago, IL, USA). The variables were first tested for normality (Shapiro–Wilk test) and homoscedasticity
(Levene’s test) and followed with Student’s t test. The data were compared by analysis of variance
(ANOVA) and differences located with Duncan’s multiple range test. Correlation analysis between
microbiota and SCFAs was conducted by Pearson correlation analysis. All data of each group were
presented as mean ± SEM and statistical significance was set at P < 0.05. SCFAs For detection of SCFAs, fecal samples were measured using the previous method [22,26]. Briefly, the fecal
mixture samples were treated as follows: 0.3 g of feces was added to 1.2 mL sterile saline, evenly
dispersed by stirring with a glass rod, and left to stand for 5 min; 600 μL 50% sulfuric acid (Sigma
Aldrich) and 1.2 mL ether were added, standing for 10 min with intermittent shaking. The supernatant
was obtained by centrifugation at 5000 rpm for 30 min and used for chromatographic analysis. The
content of SCFA were measured by GC‐MS (Agilent, USA). For detection of SCFAs, fecal samples were measured using the previous method [22,26]. Briefly, the fecal
mixture samples were treated as follows: 0.3 g of feces was added to 1.2 mL sterile saline, evenly
dispersed by stirring with a glass rod, and left to stand for 5 min; 600 μL 50% sulfuric acid (Sigma
Aldrich) and 1.2 mL ether were added, standing for 10 min with intermittent shaking. The supernatant
was obtained by centrifugation at 5000 rpm for 30 min and used for chromatographic analysis. The
content of SCFA were measured by GC‐MS (Agilent, USA). Page 14/30 Page 14/30 Page 14/30 Acknowledgements Not applicable. Abbreviations Mel: Melatonin; FMT: Fecal microbiota transplantation; FC: Foster care; V/C: Intestinal villus height/crypt
depth; SCFAs: Short‐chain fatty acids; MDA: Malondialdehyde; TAOC: Total antioxidant capacity; TEM:
Transmission electron microscopy; H&E: Hematoxylin and eosin; PBS: phosphate buffer saline; GPx5:
Glutathione peroxidase-5; SOD1: Superoxide dismutase 1; SOD2: Superoxide dismutase 5; CAT:
Chloramphenicol acetyltransferase; A5: Antenatal day 5; P3: Perinatal day 3; TNFα: Tumour necrosis
factor alpha; IL-1β: Interleukin-1beta; IL-6: Interleukin-6; IL-10: Interleukin-10; HSP72: Heat shock protein
72; NF-κB: Nuclear factor-kappaB; LC3B-I: Light chain 3B-I; LC3B-II: Light chain 3B-II; ATG7: Autophagy-
related gene 7; BECN1: Beclin1; P62: Sequestosome 1; ZO-1: Zonula occludens-1; IEC6: Rat intestinal
epithelial cells 6; Bcl-2: B cell lymphoma-2; Bcl-xL: B-cell lymphoma-extra large; PARP: Poly(ADP-ribose)
polymerase. Funding This work was supported by the National Natural Science Foundation of China (No. 31872979) and
China Agriculture Research System of MOF and MARA (CARS-35). Authors′ contributions WP provided financial support and conceived the study. YW, WS, RC and XY performed most of the
experiments, wrote the manuscript. WP, JW, GC and LG revised the manuscript. JW, GC, LG, WY, CW and
ZK conducted the animal experimentation, histological analysis and biochemical analysis. All authors
read and approved the final manuscript. Author details Key Laboratory of Animal Genetics, Breeding and Reproduction of Shaanxi Province, College of Animal
Science and Technology, Northwest A&F University, Yangling, Shaanxi, 712100, China. Availability of data and materials Page 15/30 The 16S rRNA gene sequencing data of the discovery cohort were submitted to the SRA database in NCBI
with the accession number PRJNA778474 on antenatal and perinatal rats and PRJNA778499 on weaned
rats, respectively. Moreover, the data supporting the findings of this study are available from the
corresponding author upon request. Competing interests All authors have no competing interests. Consent for publication Not applicable. Ethics approval and consent to participate This study does not involve the use of human subjects. The ethical statements regarding animal
experimentation are included in the “Materials and methods” section. References 1. 1. P.D. Cani, Human gut microbiome: hopes, threats and promises, Gut 67 (2018) 1716-1725. https://doi: 10.1136/gutjnl-2018-316723. 1. 1. P.D. Cani, Human gut microbiome: hopes, threats and promises, Gut 67 (2018) 1716-1725. https://doi: 10.1136/gutjnl-2018-316723. 2. 2. T. Hrncir, L. Hrncirova, M. Kverka, H. Tlaskalova-Hogenova, The role of gut microbiota in intestinal
and liver diseases, Lab. Anim. 53 (3) (2019) 271-280. https://doi: 10.1177/0023677218818605. 2. 2. T. Hrncir, L. Hrncirova, M. Kverka, H. Tlaskalova-Hogenova, The role of gut microbiota in intestinal
and liver diseases, Lab. Anim. 53 (3) (2019) 271-280. https://doi: 10.1177/0023677218818605. 3. 3. J. Hu, L. Ma, Y. Nie, J. Chen, W. Zheng, X. Wang, et al., A microbiota-derived bacteriocin targets the
host to confer diarrhea resistance in early-weaned piglets, Cell Host Microbe 24 (6) (2018) 817-832. https://doi: 10.1016/j.chom.2018.11.006. 3. 3. J. Hu, L. Ma, Y. Nie, J. Chen, W. Zheng, X. Wang, et al., A microbiota-derived bacteriocin targets the
host to confer diarrhea resistance in early-weaned piglets, Cell Host Microbe 24 (6) (2018) 817-832. https://doi: 10.1016/j.chom.2018.11.006. 4. 4. L.P. Smits, K.E. Bouter, W.M. de Vos, T.J. Borody, M. Nieuwdorp, Therapeutic potential of fecal
microbiota transplantation, Gastroenterology 145 (2013) 946-953. https://doi:
10.1053/j.gastro.2013.08.058. 4. 4. L.P. Smits, K.E. Bouter, W.M. de Vos, T.J. Borody, M. Nieuwdorp, Therapeutic potential of fecal
microbiota transplantation, Gastroenterology 145 (2013) 946-953. https://doi:
10.1053/j.gastro.2013.08.058. 5. 5. S. Lukovac, C. Belzer, L. Pellis, B.J. Keijser, W.M. de Vos, R.C. Montijn, et al., Differential modulation
by Akkermansia muciniphila and Faecalibacterium prausnitzii of host peripheral lipid metabolism
and histone acetylation in mouse gut organoids, mBio. 5 (4) (2014) e01438-14. https://doi:
10.1128/mBio.01438-14. 6. 6. W. Jia, G. Xie, W. Jia, Bile acid–microbiota crosstalk in gastrointestinal inflammation and
carcinogenesis, Nat. Rev. Gastroenterol. Hepatol. 15 (2) (2018) 111-128. https://doi:
10.1038/nrgastro.2017.119. Page 16/30 Page 16/30 7. 7. Wlodarska M, Luo C, Kolde R, d'Hennezel E, Annand JW, Heim CE, et al., Indoleacrylic Acid
Produced by Commensal Peptostreptococcus Species Suppresses Inflammation, Cell Host Microbe
22 (1) (2017) 25-37. https://doi: 10.1016/j.chom.2017.06.007. 8. 8. T.R. Whitehead, N.P. Price, H.L. Drake, M.A. Cotta, Catabolic pathway for the production of skatole
and indoleacetic acid by the acetogen Clostridium drakei, Clostridium scatologenes, and swine
manure, Appl. Environ. Microbiol. 74 (6) (2008) 1950-1953. https://doi: 10.1128/AEM.02458-07. 8. 8. T.R. Whitehead, N.P. Price, H.L. Drake, M.A. Cotta, Catabolic pathway for the production of skatole
and indoleacetic acid by the acetogen Clostridium drakei, Clostridium scatologenes, and swine
manure, Appl. Environ. Microbiol. 74 (6) (2008) 1950-1953. References https://doi: 10.1128/AEM.02458-07. 9. 9. B.B. Williams, A.H. Van Benschoten, P. Cimermancic, M.S. Donia, M. Zimmermann, M. Taketani, et
al., Discovery and characterization of gut microbiota decarboxylases that can produce the
neurotransmitter tryptamine, Cell Host Microbe 16 (4) (2014) 495-503. https://doi:
10.1016/j.chom.2014.09.001. 10. 10. P.J. Turnbaugh, R.E. Ley, M.A. Mahowald, C.M. Fraser-Liggett, R. Knight, J.I. Gordon, An obesity-
associated gut microbiome with increased capacity for energy harvest, Nature 444 (7122) (2006)
1027-1031. https://doi: 10.1038/nature05414. 11. 11. F. Söderquist, I. Sundberg, M. Ramklint, R. Widerström, P.M. Hellström, J.L. Cunningham, The
relationship between daytime salivary melatonin and gastrointestinal symptoms in young adults
seeking psychiatric care, Psychosom. Med. 81 (1) (2019) 51-56. https://doi:
10.1097/PSY.0000000000000644. 12. 12. R.K. Wong, C. Yang, G.H. Song, J. Wong, K.Y. Ho, Melatonin regulation as a possible mechanism
for probiotic (VSL#3) in irritable bowel syndrome: a randomized double-blinded placebo study, Dig. Dis. Sci. 60 (1) (2015)186-194. https://doi: 10.1007/s10620-014-3299-8. 13. 13. M.C. Dao, A. Everard, J. Aron-Wisnewsky, N. Sokolovska, E. Prifti, E.O. Verger, et al., Akkermansia
muciniphila and improved metabolic health during a dietary intervention in obesity: relationship with
gut microbiome richness and ecology, Gut 65 (3) (2016) 426-436. https://doi: 10.1136/gutjnl-2014-
308778. 14. 14. G. Mannino, F. Caradonna, I. Cruciata, A. Lauria, A. Perrone, C. Gentile, Melatonin reduces
inflammatory response in human intestinal epithelial cells stimulated by interleukin-1β, J. Pineal Res. 67 (3) (2019) e12598. https://doi: 10.1111/jpi.12598. 15. 15. Gareau MG, Sherman PM, Walker WA. Probiotics and the gut microbiota in intestinal health and
disease. Nat. Rev. Gastroenterol. Hepatol. 7 (9) (2010) 503-514. https://doi:
10.1038/nrgastro.2010.117. 16. 16. S.J. Konturek, P.C. Konturek, I. Brzozowska, M. Pawlik, Z. Sliwowski, M. Cześnikiewicz-Guzik, et
al., Localization and biological activities of melatonin in intact and diseased gastrointestinal tract
(GIT), J. Physiol. Pharmacol. 58 (3) (2007) 381-405. http://www.jpp.krakow.pl/journal/archive/09_07/articles/01_article.html 17. 17. L. Pham, L. Baiocchi, L. Kennedy, K. Sato, V. Meadows, F. Meng, et al., The interplay between mast
cells, pineal gland and circadian rhythm: Links between histamine, melatonin and inflammatory
mediators, J. Pineal Res. 70(2) (2021) e12699. https://doi: 10.1111/jpi.12699. Page 17/30 Page 17/30 18. 18. B. de Luxan‐Delgado, B. Caballero, Y. Potes, A. Rubio-González, I. Rodríguez, J. Gutiérrez-
Rodríguez, et al., Melatonin administration decreases adipogenesis in the liver of ob/ob mice through
autophagy modulation, J. Pineal Res. 56 (2) (2014) 126-133. https://doi: 10.1111/jpi.12104. 19. 19. S. Carloni, G. Riparini, G. Buonocore, W. References Balduini, Rapid modulation of the silent information
regulator 1 by melatonin after hypoxia‐ischemia in the neonatal rat brain, J. Pineal Res. 63 (3) (2017)
e12434. https://doi: 10.1111/jpi.12434. 20. 20. B. San‐Miguel, I. Crespo, D. Vallejo, M. Álvarez, J. Prieto, J. González-Gallego, et al., Melatonin
modulates the autophagic response in acute liver failure induced by the rabbit hemorrhagic disease
virus, J. Pineal Res. 56 (3) (2014) 313-321. https://doi: 10.1111/jpi.12124. 21. 21. P. Xu, J. Wang, F. Hong, S. Wang, X. Jin, T. Xue, et al., Melatonin prevents obesity through
modulation of gut microbiota in mice, J. Pineal Res. 62 (4) (2017) e12399. https://doi:
10.1111/jpi.12399. 22. 22. J. Yin, Y. Li, H. Han, S. Chen, J. Gao, G. Liu, et al., Melatonin reprogramming of gut microbiota
improves lipid dysmetabolism in high-fat diet-fed mice, J. Pineal Res. 65 (4) (2018) e12524. https://doi: 10.1111/jpi.12524. 23. 23. M.J. Hamilton, A.R. Weingarden, M.J. Sadowsky, A. Khoruts, Standardized frozen preparation for
transplantation of fecal microbiota for recurrent Clostridium difficile infection, Am. J. Gastroenterol. 107 (5) (2012) 761-767. https://doi: 10.1038/ajg.2011.482. 24. 24. Toral M, Robles‐Vera I, de la Visitación N, Romero M, Sánchez M, Gómez-Guzmán M, et al. Role of
the immune system in vascular function and blood pressure control induced by faecal microbiota
transplantation in rats, Acta. Physiol. 227 (1) (2019) e13285. https://doi: 10.1111/apha.13285. 24. 24. Toral M, Robles‐Vera I, de la Visitación N, Romero M, Sánchez M, Gómez-Guzmán M, et al. Role of
the immune system in vascular function and blood pressure control induced by faecal microbiota
transplantation in rats, Acta. Physiol. 227 (1) (2019) e13285. https://doi: 10.1111/apha.13285. 25. 25. H. Wu, L. Ye, X. Lu, S. Xie, Q. Yang, Q. Yu, Lactobacillus acidophilus alleviated salmonella‐induced
goblet cells loss and colitis by Notch pathway, Mol. Nutr. Food Res. 62 (22) (2018) 1800552. https://doi: 10.1002/mnfr.201800552. 26. 26. Zhao G, M. Nyman, J.A. Jönsson, Rapid determination of short‐chain fatty acids in colonic
contents and faeces of humans and rats by acidified water‐extraction and direct‐injection gas
chromatography, Biomed. Chromatogr. 20 (8) (2006) 674-682. https://doi: 10.1002/bmc.580. 27. 27. A. Parker, L. Vaux, A.M. Patterson, A. Modasia, D. Muraro, A.G. Fletcher, et al., Elevated apoptosis
impairs epithelial cell turnover and shortens villi in TNF-driven intestinal inflammation, Cell Death
Dis. 10 (2) (2019) 108. https://doi: 10.1038/s41419-018-1275-5. 28. 28. References Liang D, Zhuo Y, Guo Z, He L, Wang X, He Y, et al., SIRT1/PGC-1 pathway activation triggers
autophagy/mitophagy and attenuates oxidative damage in intestinal epithelial cells, Biochimie 170
(2020) 10-20. https://doi: 10.1016/j.biochi.2019.12.001. 28. 28. Liang D, Zhuo Y, Guo Z, He L, Wang X, He Y, et al., SIRT1/PGC-1 pathway activation triggers
autophagy/mitophagy and attenuates oxidative damage in intestinal epithelial cells, Biochimie 170
(2020) 10-20. https://doi: 10.1016/j.biochi.2019.12.001. 29. 29. Liang H, Liu N, Wang R, Zhang Y, Chen J, Dai Z, et al., N-Acetyl serotonin alleviates oxidative
damage by activating nuclear factor erythroid 2-related factor 2 signaling in porcine enterocytes,
Antioxidants 9 (2020) (4) 303. https://doi: 10.3390/antiox9040303. 29. 29. Liang H, Liu N, Wang R, Zhang Y, Chen J, Dai Z, et al., N-Acetyl serotonin alleviates oxidative
damage by activating nuclear factor erythroid 2-related factor 2 signaling in porcine enterocytes,
Antioxidants 9 (2020) (4) 303. https://doi: 10.3390/antiox9040303. 30. 30. H. Zeng, S.K. Hamlin, B.D. Safratowich, W.H. Cheng, L.K. Johnson, Superior inhibitory efficacy of
butyrate over propionate and acetate against human colon cancer cell proliferation via cell cycle 30. 30. H. Zeng, S.K. Hamlin, B.D. Safratowich, W.H. Cheng, L.K. Johnson, Superior inhibitory efficacy of
butyrate over propionate and acetate against human colon cancer cell proliferation via cell cycle Page 18/30 Page 18/30 arrest and apoptosis: linking dietary fiber to cancer prevention, Nutr. Res. 83 (2020) 63-72. https://doi: 10.1016/j.nutres.2020.08.009. arrest and apoptosis: linking dietary fiber to cancer prevention, Nutr. Res. 83 (2020) 63-72. https://doi: 10.1016/j.nutres.2020.08.009. 31. 31. A. Galano, D.X. Tan, R.J. Reiter, Melatonin: a versatile protector against oxidative DNA damage,
Molecules 23 (2018) 530. https://doi: 10.3390/molecules23030530. 32. 32. J.C. Mayo, R.M. Sainz, P. Gonzalez‐Menendez, D. Hevia, R. Cernuda, Melatonin transport into
mitochondria, Cell Mol. Life Sci. 74 (2017) 3927‐3940. https://doi: 10.1007/s00018-017-2616-8. 33. 33. Y.W. Lin, T.Y. Chen, C.Y. Hung, S.H. Tai, S.Y. Huang, C.C. Chang, et al., Melatonin protects brain
against ischemia/reperfusion injury by attenuating endoplasmic reticulum stress, Int. J. Mol. Med. 42
(1) (2018) 182-192. https://doi: 10.3892/ijmm.2018.3607. 34. 34. R.J. Reiter, D.X. Tan, J.C. Mayo, R.M. Sainz, J. Leon, D. Bandyopadhyay, Neurally-mediated and
neurally-independent beneficial actions of melatonin in the gastrointestinal tract, J. Physiol. Pharmacol. 54 (Suppl 4) (2003) 113-
125.http://www.jpp.krakow.pl/journal/archive/12_03_s4/articles/10_article.html 35. 35. B. San‐Miguel, I. Crespo, D.I. Sanchez, B. González-Fernández, J.J. Ortiz de Urbina, M.J. Tuñón, et
al., Melatonin inhibits autophagy and endoplasmic reticulum stress in mice with carbon
tetrachloride‐induced fibrosis, J. Pineal Res. 59 (2) (2015) 151-162. References https://doi: 10.1111/jpi.12247. 36. 36. J. Chen, L. Wang, C. Wu, Q. Hu, C. Gu, F. Yan, et al., Melatonin-enhanced autophagy protects
against neural apoptosis via a mitochondrial pathway in early brain injury following a subarachnoid
hemorrhage, J. Pineal Res. 56 (1) (2014) 12-19. https://doi: 10.1111/jpi.12086. 37. 37. T. Brzozowski, P.C. Konturek, S.J. Konturek, R. Pajdo, W. Bielanski, I. Brzozowska, et al., The role of
melatonin and L-tryptophan in prevention of acute gastric lesions induced by stress, ethanol,
ischemia and aspirin, J. Pineal Res. 23 (2) (1997) 79-89. https://doi: 10.1111/j.1600-
079x.1997.tb00339.x. 38. 38. C.A. De La Lastra, J. Cabeza, V. Motilva, M.J. Martin, Melatonin protects against gastric
ischemiareperfusion injury in rats, J. Pineal Res. 23 (2) (1997) 47-52. https://doi: 10.1111/j.1600-
079x.1997.tb00334.x. 39. 39. T.J. Borody, A. Khoruts, Fecal microbiota transplantation and emerging applications, Nat. Rev. Gastroenterol. Hepatol. 9 (2) (2011) 88-96. https://doi: 10.1038/nrgastro.2011.244. 40. 40. L.P. Smits, K.E. Bouter, W.M. de Vos, T.J. Borody, M. Nieuwdorp, Therapeutic potential of fecal
microbiota transplantation, Gastroenterology 145 (5) (2013) 946-953. https://doi:
10.1053/j.gastro.2013.08.058. 41. 41. J.R. Allegretti, Z. Kassam, M. Osman, S. Budree, M. Fischer, C.R. Kelly, The 5D framework: a
clinical primer for fecal microbiota transplantation to treat Clostridium difficile infection,
Gastrointest. Endosc. 87 (1) (2018) 18-29. https://doi: 10.1016/j.gie.2017.05.036. 42. 42. M. Ghareghani, R.J. Reiter, K. Zibara, N. Farhadi, Latitude, vitamin D, melatonin, and gut
microbiota act in concert to initiate multiple sclerosis: A new mechanistic pathway, Front. Immunol. 9
(2018) 2484. https://doi: 10.3389/fimmu.2018.02484. Page 19/30 Page 19/30 43. 43. Y. Jing, D. Yang, F. Bai, C. Zhang, C. Qin, D. Li, et al., Melatonin treatment alleviates spinal cord
injury-induced gut dysbiosis in mice, J. Neurotrauma 36 (18) (2019) 2646-2664. https://doi:
10.1089/neu.2018.6012. 44. 44. J. Yin, Y. Li, H. Han, J. Ma, G. Liu, X. Wu, et al., Administration of exogenous melatonin improves
the diurnal rhythms of the gut microbiota in mice fed a high-fat diet, mSystems 5 (3) (2020) e00002-
20. https://doi: 10.1128/mSystems.00002-20. 45. 45. A. Yildirim, S. Arabacı Tamer, D. Sahin, F. Bagriacik, M.M. Kahraman, N.D. Onur, et al., The effects
of antibiotics and melatonin on hepato-intestinal inflammation and gut microbial dysbiosis induced
by a short-term high-fat diet consumption in rats, Br. J. Nutr. 122 (8) (2019) 841-855. https://doi:
10.1017/S0007114519001466. 46. 46. F. Hong, S. Pan, P. Xu, T. Xue, J. Wang, Y. References Guo, et al., Melatonin orchestrates lipid homeostasis
through the hepatointestinal circadian clock and microbiota during constant light exposure, Cells 9
(2) (2020) 489. https://doi: 10.3390/cells9020489. 47. 47. S. Yue, D. Zhao, C. Peng, C. Tan, Q. Wang, J. Gong, Effects of theabrownin on serum metabolites
and gut microbiome in rats with a high-sugar diet, Food Funct. 10 (11) (2019) 7063-7080. https://doi:
10.1039/c9fo01334b. 48. 48. Bubenik GA, Pang SF, Cockshut JR, Smith PS, Grovum LW, Friendship RM, et al. Circadian
variation of portent arterial and venous blood levels of melatonion in pigs and its relationship to food
intake and sleep, J. Pineal Research. 28 (1) (2000) 9-15. https://doi: 10.1034/j.1600-
079x.2000.280102.x. 49. 49. M. Kvietkauskas, V. Zitkute, B. Leber, K. Strupas, P. Stiegler, P. Schemmer, The role of melatonin in
colorectal cancer treatment: a comprehensive review, Ther. Adv. Med. Oncol. 12 (2020)
1758835920931714. https://doi: 10.1177/1758835920931714. 50. 50. J.R. Allegretti, B.H. Mullish, C. Kelly, M. Fischer, The evolution of the use of faecal microbiota
transplantation and emerging therapeutic indications, Lancet 394 (10196) (2019) 420-431. https://doi: 10.1016/S0140-6736(19)31266-8. 51. 51. S. Kanwal, T.P. Joseph, L. Owusu, R. Xiaomeng, L. Meiqi, X. Yi A, polysaccharide isolated from
Dictyophora indusiata promotes recovery from antibiotic-driven intestinal dysbiosis and improves
gut epithelial barrier function in a mouse model, Nutrients 10 (8) (2018) 1003. https://doi:
10.3390/nu10081003. 52. 52. S.R. Sammi, J.K. Rawat, N. Raghav, A. Kumar, S. Roy, M. Singh, et al., Galantamine attenuates
N,N-dimethyl hydrazine induced neoplastic colon damage by inhibiting acetylcholinesterase and
bimodal regulation of nicotinic cholinergic neurotransmission, Eur. J. Pharmacol. 818 (2018) 174-
183. https://doi: 10.1016/j.ejphar.2017.10.036. 53. 53. M. Tachikawa, K. Amano, K. Nishiyama, A. Urano, K. Kato, K. Yamanaka, Methylamine
dichloramine may play a role in the process of colorectal disease through architectural and oxidative
changes in crypts in mice, Life Sci. 84 (25-26) (2009) 923-928. https://doi:
10.1016/j.lfs.2009.04.007. Page 20/30 54. 54. T. Xia, J. Zhang, L. Han, Z. Jin, J. Wang, X. Li, et al., Protective effect of magnolol on oxaliplatin-
induced intestinal injury in mice, Phytother. Res. 33 (4) (2019) 1161-1172. https://doi:
10.1002/ptr.6311. 55. 55. H. Kim, Y. Jeong, S. Kang, H.J. You, G.E. Ji, Co-culture with Bifidobacterium catenulatum improves
the growth, gut colonization, and butyrate production of Faecalibacterium prausnitzii: in vitro and in
vivo studies, Microorganisms 8(5) (2020) 788. https://doi: 10.3390/microorganisms8050788. 55. 55. H. Kim, Y. Jeong, S. Kang, H.J. You, G.E. References Ji, Co-culture with Bifidobacterium catenulatum improves
the growth, gut colonization, and butyrate production of Faecalibacterium prausnitzii: in vitro and in
vivo studies, Microorganisms 8(5) (2020) 788. https://doi: 10.3390/microorganisms8050788. 56. 56. E. Zagato, C. Pozzi, A. Bertocchi, T. Schioppa, F. Saccheri, S. Guglietta, et al., Endogenous murine
microbiota member Faecalibaculum rodentium and its human homologue protect from intestinal
tumour growth, Nat. Microbiol. 5 (3) (2020) 511-524. https://doi: 10.1038/s41564-019-0649-5. 57. 57. E.C. Soto-Martin, I. Warnke, F.M. Farquharson, M. Christodoulou, G. Horgan, M. Derrien, et al.,
Vitamin biosynthesis by human gut butyrate-producing bacteria and cross-feeding in synthetic
microbial communities, mBio. 11(4) (2020) e00886-20. https://doi: 10.1128/mBio.00886-20. 57. 57. E.C. Soto-Martin, I. Warnke, F.M. Farquharson, M. Christodoulou, G. Horgan, M. Derrien, et al.,
Vitamin biosynthesis by human gut butyrate-producing bacteria and cross-feeding in synthetic
microbial communities, mBio. 11(4) (2020) e00886-20. https://doi: 10.1128/mBio.00886-20. 58. 58. T. Satoh, M. Todoroki, K. Kobayashi, Y. Niimura, S. Kawasaki, Purified thioredoxin reductase from
O2-sensitive Bifidobacterium bifidum degrades H2O2 by interacting with alkyl hydroperoxide
reductase, Anaerobe 57 (2019) 45-54. https://doi: 10.1016/j.anaerobe.2019.03.012. 58. 58. T. Satoh, M. Todoroki, K. Kobayashi, Y. Niimura, S. Kawasaki, Purified thioredoxin reductase from
O2-sensitive Bifidobacterium bifidum degrades H2O2 by interacting with alkyl hydroperoxide
reductase, Anaerobe 57 (2019) 45-54. https://doi: 10.1016/j.anaerobe.2019.03.012. 59. 59. G.R. Swanson, A. Gorenz, M. Shaikh, V. Desai, C. Forsyth, L. Fogg, et al. Decreased melatonin
secretion is associated with increased intestinal permeability and marker of endotoxemia in
alcoholics, Am. J. Physiol. Gastrointest. Liver Physiol. 308 (12) (2015) G1004-G1011. https://doi:
10.1152/ajpgi.00002.2015. 60. 60. G.R. Swanson, J. Siskin, A. Gorenz, M. Shaikh, S. Raeisi, L. Fogg, et al., Disrupted diurnal
oscillation of gut-derived short chain fatty acids in shift workers drinking alcohol: Possible
mechanism for loss of resiliency of intestinal barrier in disrupted circadian host, Transl. Res. 221
(2020) 97-109. https://doi: 10.1016/j.trsl.2020.04.004. Figures Figures Page 21/30 Figure 1
Melatonin and its-remodeled FMT increase intestinal villus height/crypt depth (V/C) by enhancing
antioxidation in antenatal and perinatal female rats. The timeline of treatments and sample collection in
this study (A). Intestinal histological morphology indicated by H&E staining in A5 and P3 rats (n = 5
rats/group) (B). The ratio of intestinal villus height/crypt depth of duodenum (C), jejunum (D), ileum (E)
and colon (F). A minimum of 10 tissue sections were cut from each sample. Five longest villi in each
tissue section and a total of 250 longest villi were analyzed in each group. Ileum histological
immunofluorescent imagines showed ROS level after treated with melatonin and FMT in A5 and P3 rats
(G). The detections of ROS (H), T-AOC (I) and MDA in intestinal serum (J). Intestinal tissue expression of
GPX5, SOD1, SOD2 and CAT proteins (n = 3) (K). The protein level analysis of GPX5 (L), SOD1 (M), SOD2
(N) and CAT (O). Mel, melatonin; FMT, fecal microbiota transplantation; A5, antenatal female rat on the
day 5. P3, perinatal female rat on the day 3. *P < 0.05, **P < 0.01. gure 1 Figure 1 Melatonin and its-remodeled FMT increase intestinal villus height/crypt depth (V/C) by enhancing
antioxidation in antenatal and perinatal female rats. The timeline of treatments and sample collection in
this study (A). Intestinal histological morphology indicated by H&E staining in A5 and P3 rats (n = 5
rats/group) (B). The ratio of intestinal villus height/crypt depth of duodenum (C), jejunum (D), ileum (E)
and colon (F). A minimum of 10 tissue sections were cut from each sample. Five longest villi in each
tissue section and a total of 250 longest villi were analyzed in each group. Ileum histological
immunofluorescent imagines showed ROS level after treated with melatonin and FMT in A5 and P3 rats
(G). The detections of ROS (H), T-AOC (I) and MDA in intestinal serum (J). Intestinal tissue expression of
GPX5, SOD1, SOD2 and CAT proteins (n = 3) (K). The protein level analysis of GPX5 (L), SOD1 (M), SOD2
(N) and CAT (O). Mel, melatonin; FMT, fecal microbiota transplantation; A5, antenatal female rat on the
day 5. P3, perinatal female rat on the day 3. *P < 0.05, **P < 0.01. Page 22/30 Page 22/30 Page 23/30
Figure 2
Melatonin and FMT inhibit gut autophagy and inflammation in antenatal and perinatal female ra
Intestinal histological images using transmission electron microscopy (TEM) in A5 and P3 rats. arrows indicate autophagic vacuole, and M indicates mitochondrion (A). Analysis of autophagic
in the intestinal epithelial cells. For counting autophagic vacuoles including autophagosomes an
autolysosomes, 10 randomly selected images in each sample and data from 5 rats in each grou Page 23/30
Figure 2
Melatonin and FMT inhibit gut autophagy and inflammation in antenatal and perinatal female rats. Intestinal histological images using transmission electron microscopy (TEM) in A5 and P3 rats. Red
arrows indicate autophagic vacuole, and M indicates mitochondrion (A). Analysis of autophagic vacuo
in the intestinal epithelial cells. For counting autophagic vacuoles including autophagosomes and
autolysosomes, 10 randomly selected images in each sample and data from 5 rats in each group were Figure 2 Figure 2 Melatonin and FMT inhibit gut autophagy and inflammation in antenatal and perinatal female rats. Intestinal histological images using transmission electron microscopy (TEM) in A5 and P3 rats. Red
arrows indicate autophagic vacuole, and M indicates mitochondrion (A). Analysis of autophagic vacuoles
in the intestinal epithelial cells. For counting autophagic vacuoles including autophagosomes and
autolysosomes, 10 randomly selected images in each sample and data from 5 rats in each group were Page 23/30 compared (B). Intestinal tissue expression of LC3B-I, LC3B-II, P62, ATG7 and BECN1 proteins (n = 3) (C). The protein level analysis of LC3B-II/LC3B-I (D), LC3B-I (E), LC3B-II (F), P62 (G), ATG7 (H) and BECN1 (I). Intestinal immunohistochemical images using antibody NF-κB (J). Detections of TNF-α (K), IL-1β (L), IL-6
(M) and IL-10 (N) in serum (n = 5). intestinal tissue expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-Kb (Q). *P < 0.05, **P < 0.01. Intestinal immunohistochemical images using antibody NF-κB (J). Detections of TNF-α (K), IL-1β (L), IL-6
(M) and IL-10 (N) in serum (n = 5). intestinal tissue expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-Kb (Q). *P < 0.05, **P < 0.01. Figure 3
Melatonin, FMT and FC improve intestinal V/C through inhibiting oxidative stress in early weaned rat. The
timeline of treatments and sample collection (A). Intestinal histological morphology indicated by H&E
staining in early weaned rats on the day 3 after weaning (n = 20 rats/group) (B). The V/C ratio of
duodenum (C), jejunum (D), ileum (E) and colon (F). A minimum of 10 tissue sections were cut from each
sample (randomly selected 10 rats/group). Five longest villi in each tissue section and a total of 500
longest villi were analyzed in each group. Ileum histological immunofluorescent imagines showed ROS
level after treated with melatonin, FMT and FC in early weaned rats (G). The detections of ROS (H), T-AOC
(I) and MDA (J) in intestinal tissue or serum (n = 10). Intestinal tissue expression of GPX5, SOD1, SOD2
and CAT proteins (n = 3) (K). The protein levels of GPX5(L), SOD1(M), SOD2(N) and CAT (O). FC, foster
care. *P < 0.05, **P < 0.01. Figure 3 Figure 3 Melatonin, FMT and FC improve intestinal V/C through inhibiting oxidative stress in early weaned rat. The
timeline of treatments and sample collection (A). Intestinal histological morphology indicated by H&E
staining in early weaned rats on the day 3 after weaning (n = 20 rats/group) (B). The V/C ratio of
duodenum (C), jejunum (D), ileum (E) and colon (F). A minimum of 10 tissue sections were cut from each
sample (randomly selected 10 rats/group). Five longest villi in each tissue section and a total of 500
longest villi were analyzed in each group. Ileum histological immunofluorescent imagines showed ROS
level after treated with melatonin, FMT and FC in early weaned rats (G). The detections of ROS (H), T-AOC
(I) and MDA (J) in intestinal tissue or serum (n = 10). Intestinal tissue expression of GPX5, SOD1, SOD2
and CAT proteins (n = 3) (K). The protein levels of GPX5(L), SOD1(M), SOD2(N) and CAT (O). FC, foster
care. *P < 0.05, **P < 0.01. Page 24/30 Figure 4
Melatonin, FMT and FC suppress gut autophagy and inflammation in early weaned rats. Intestinal
histological images using TEM and red arrows indicate autophagic vacuoles (A). Analysis of autoph
vacuoles in intestinal cells. For counting autophagic vacuoles, 5 randomly selected images in each
sample and data from 10 rats in each group were compared (B) Intestinal tissue expression of LC3B Figure 4
Melatonin, FMT and FC suppress gut autophagy and inflammation in early weaned rats. Intestinal
histological images using TEM and red arrows indicate autophagic vacuoles (A). Analysis of autoph
vacuoles in intestinal cells. For counting autophagic vacuoles, 5 randomly selected images in each
sample and data from 10 rats in each group were compared (B). Intestinal tissue expression of LC3B
LC3B-II, P62, ATG7 and BECN1 proteins (n = 3) (C). The protein levels of LC3B-II/LC3B-I (D), LC3B-I (E Figure 4 Page 25/30
Melatonin, FMT and FC suppress gut autophagy and inflammation in early weaned rats. Intestinal
histological images using TEM and red arrows indicate autophagic vacuoles (A). Analysis of autophagic
vacuoles in intestinal cells. For counting autophagic vacuoles, 5 randomly selected images in each
sample and data from 10 rats in each group were compared (B). Intestinal tissue expression of LC3B-I,
LC3B-II, P62, ATG7 and BECN1 proteins (n = 3) (C). The protein levels of LC3B-II/LC3B-I (D), LC3B-I (E), Page 25/30 LC3B-II (F), P62 (G), ATG7 (H) and BECN1 (I). (J) Intestinal immunohistochemical images using antibody
NF-κB. The detections of TNF-α (K), IL-1β (L), IL-6 (M) and IL-10 (N) in serum. (n = 10). Intestinal tissue
expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-κB (Q), *P <
0.05, **P < 0.01. LC3B-II (F), P62 (G), ATG7 (H) and BECN1 (I). (J) Intestinal immunohistochemical images using antibody
NF-κB. The detections of TNF-α (K), IL-1β (L), IL-6 (M) and IL-10 (N) in serum. (n = 10). Intestinal tissue
expression of HSP72 and NF-κB proteins (n = 3) (O). The protein levels of HSP72 (P) and NF-κB (Q), *P <
0.05, **P < 0.01. Figure 5
Melatonin, FMT and FC decrease intestinal permeability in early weaned rats. Serum FITC staining (n =
10) (A). Intestinal histological images using TEM. The red arrow indicates tight junction protein. M,
mitochondrion (B). Intestinal tissue expression of ZO-1, Occludin and Claudin proteins (n = 3) (C). The
protein levels of ZO-1 (D), Occludin (E) and Claudin (F). *P < 0.05, **P < 0.01. Figure 5 Melatonin, FMT and FC decrease intestinal permeability in early weaned rats. Serum FITC staining (n =
10) (A). Intestinal histological images using TEM. The red arrow indicates tight junction protein. M,
mitochondrion (B). Intestinal tissue expression of ZO-1, Occludin and Claudin proteins (n = 3) (C). The
protein levels of ZO-1 (D), Occludin (E) and Claudin (F). *P < 0.05, **P < 0.01. Page 26/30 Figure 6
Melatonin enhances antioxidation to attenuate autophagy and apoptosis in IEC6 treated with H2O2. The
cells were pretreated with 10 μM melatonin for 24 hours, followed by 200 μM H2O2 stimulation for 1 or 2
hours before they were used for the next assay. Experiment design for the effect of Mel on anti-oxidation,
anti-autophagy and anti-apoptosis in IEC6 cells (A). Melatonin was against oxidation in IEC6 treated with
H2O2 (B). Cell expression of LC3B-I, LC3B-II, P62, ATG7, BECN1, GPX5, SOD1, SOD2 and CAT proteins (n =
3) (C). The protein levels of above proteins (D-G). Melatonin attenuates autophagy in IEC6 treated with
H2O2 (H). Cell viability analysis (n = 6) (I). Analysis of GFP-LC3B dots per cells (J). Cell expression of
LC3B-I, LC3B-II and P62 proteins (n = 3) (K). The protein levels of LC3B-II/LC3B-I (L) and P62 (M). Relative
fluorescence intensity of Cleaved-caspase 3 in the treatment of melatonin with or without H2O2 (N). TEM
images of cell ultrastructure of IEC-6 cells treated with Mel, H2O2 and Mel plus H2O2. The red arrow
indicates apoptotic body. N, cell nucleus (O). Cell expression of Cleaved-caspase-3, Bcl-2, Bcl-XL, full
length PARP, cleaved PARP, mitochrome-Cytochrome C-1 and cytoplasm-Cytochrome C-1 proteins (n = 3)
(P). (Q-V) The protein levels of above genes. *P < 0.05, **P < 0.01. Figure 6 Figure 6 Figure 6 Melatonin enhances antioxidation to attenuate autophagy and apoptosis in IEC6 treated with H2O2. The
cells were pretreated with 10 μM melatonin for 24 hours, followed by 200 μM H2O2 stimulation for 1 or 2
hours before they were used for the next assay. Experiment design for the effect of Mel on anti-oxidation,
anti-autophagy and anti-apoptosis in IEC6 cells (A). Melatonin was against oxidation in IEC6 treated with
H2O2 (B). Cell expression of LC3B-I, LC3B-II, P62, ATG7, BECN1, GPX5, SOD1, SOD2 and CAT proteins (n =
3) (C). The protein levels of above proteins (D-G). Melatonin attenuates autophagy in IEC6 treated with
H2O2 (H). Cell viability analysis (n = 6) (I). Analysis of GFP-LC3B dots per cells (J). Cell expression of
LC3B-I, LC3B-II and P62 proteins (n = 3) (K). The protein levels of LC3B-II/LC3B-I (L) and P62 (M). Relative
fluorescence intensity of Cleaved-caspase 3 in the treatment of melatonin with or without H2O2 (N). TEM
images of cell ultrastructure of IEC-6 cells treated with Mel, H2O2 and Mel plus H2O2. The red arrow
indicates apoptotic body. N, cell nucleus (O). Cell expression of Cleaved-caspase-3, Bcl-2, Bcl-XL, full
length PARP, cleaved PARP, mitochrome-Cytochrome C-1 and cytoplasm-Cytochrome C-1 proteins (n = 3)
(P). (Q-V) The protein levels of above genes. *P < 0.05, **P < 0.01. Melatonin enhances antioxidation to attenuate autophagy and apoptosis in IEC6 treated with H2O2. The
cells were pretreated with 10 μM melatonin for 24 hours, followed by 200 μM H2O2 stimulation for 1 or 2
hours before they were used for the next assay. Experiment design for the effect of Mel on anti-oxidation,
anti-autophagy and anti-apoptosis in IEC6 cells (A). Melatonin was against oxidation in IEC6 treated with
H2O2 (B). Cell expression of LC3B-I, LC3B-II, P62, ATG7, BECN1, GPX5, SOD1, SOD2 and CAT proteins (n =
3) (C). The protein levels of above proteins (D-G). Melatonin attenuates autophagy in IEC6 treated with
H2O2 (H). Cell viability analysis (n = 6) (I). Analysis of GFP-LC3B dots per cells (J). Cell expression of
LC3B-I, LC3B-II and P62 proteins (n = 3) (K). The protein levels of LC3B-II/LC3B-I (L) and P62 (M). Relative
fluorescence intensity of Cleaved-caspase 3 in the treatment of melatonin with or without H2O2 (N). TEM
images of cell ultrastructure of IEC-6 cells treated with Mel, H2O2 and Mel plus H2O2. The red arrow
indicates apoptotic body. N, cell nucleus (O). Figure 6 Cell expression of Cleaved-caspase-3, Bcl-2, Bcl-XL, full
length PARP, cleaved PARP, mitochrome-Cytochrome C-1 and cytoplasm-Cytochrome C-1 proteins (n = 3)
(P). (Q-V) The protein levels of above genes. *P < 0.05, **P < 0.01. Page 27/30 Figure 7
Melatonin, FMT and FC increase the abundances of Allobaculum, Bifidobacterium and Faec
by remodeling gut microbiota in rats. Experiment design for feces bacterial 16S rDNA gene a
( )
( ) Figure 7
Melatonin, FMT and FC increase the abundances of Allobaculum, Bifidobacterium and Faecaliba
by remodeling gut microbiota in rats. Experiment design for feces bacterial 16S rDNA gene ampli
sequencing analysis (A). Shannon index in α‐diversity analysis (B). Simpson index in α‐diversity a
(C). PCoA plot analysis from each sample (n = 5) (D). weighted UniFrac distance in each sample Figure 7 Melatonin, FMT and FC increase the abundances of Allobaculum, Bifidobacterium and Faecalibaculum
by remodeling gut microbiota in rats. Experiment design for feces bacterial 16S rDNA gene amplicon
sequencing analysis (A). Shannon index in α‐diversity analysis (B). Simpson index in α‐diversity analysis
(C). PCoA plot analysis from each sample (n = 5) (D). weighted UniFrac distance in each sample (E). Microbiota compositions and abundances at the phylum (F), order (G) and genus (H) levels, respectively. Page 28/30 Page 28/30 ACont, antenatal control. AMel, antenatal melatonin. AFMT, antenatal FMT. PCont, perinatal control. PMel,
perinatal melatonin. PFMT, perinatal FMT. WCont, weaned control. WMel, weaned melatonin. WFMT
weaned FMT. WFC, weaned foster care. *P < 0.05, **P < 0.01. ACont, antenatal control. AMel, antenatal melatonin. AFMT, antenatal FMT. PCont, perinatal control. PMel,
perinatal melatonin. PFMT, perinatal FMT. WCont, weaned control. WMel, weaned melatonin. WFMT
weaned FMT. WFC, weaned foster care. *P < 0.05, **P < 0.01. perinatal melatonin. PFMT, perinatal FMT. WCont, weaned control. WMel, weaned melatonin. WFMT
weaned FMT. WFC, weaned foster care. *P < 0.05, **P < 0.01. Figure 8 Figure 9 Schematic diagram for melatonin, FMT and FC improving gut health through increasing intestinal V/C,
enhancing antioxidation, and inhibiting autophagy, inflammatory and apoptosis. Schematic diagram for melatonin, FMT and FC improving gut health through increasing intestinal V/C,
enhancing antioxidation, and inhibiting autophagy, inflammatory and apoptosis. Figure 8 Melatonin, FMT and FC protect intestinal health through more SCFAs produced by reprogrammed gut
microbiota. The concentrations of fecal total SCFAs (A), acetic acid (B), propionate (C), and butyrate (D)
in antenatal and perinatal female rats. The concentrations of fecal total SCFAs (E), acetic acid (F),
propanoic acid (G) and butyric acid (H) in early weaned rats. Correlation analyses between acetic acid
and Lactobacillus (I). Correlation analyses between acetic acid and Allobaculum (J). Correlation analyses
between acetic acid and Bifidobacterium (K). Correlation analyses between propanoic acid and
Faecalibaculum (L). Correlation analyses between butyric acid and Lactobacillus (M). Correlation
analyses between butyric acid and Allobaculum (N). Correlation analyses between butyric acid and
Bifidobacterium (O). Correlation analyses between butyric acid and Faecalibaculum; Fecal SCFAs were
determined by gas chromatography. Differences were assessed by Student’s t test, *P < 0.05. Correlation
analysis between microbiota and acetic acid was conducted by Pearson correlation analysis (P). Melatonin, FMT and FC protect intestinal health through more SCFAs produced by reprogrammed gut
microbiota. The concentrations of fecal total SCFAs (A), acetic acid (B), propionate (C), and butyrate (D)
in antenatal and perinatal female rats. The concentrations of fecal total SCFAs (E), acetic acid (F),
propanoic acid (G) and butyric acid (H) in early weaned rats. Correlation analyses between acetic acid
and Lactobacillus (I). Correlation analyses between acetic acid and Allobaculum (J). Correlation analyses
between acetic acid and Bifidobacterium (K). Correlation analyses between propanoic acid and
Faecalibaculum (L). Correlation analyses between butyric acid and Lactobacillus (M). Correlation
analyses between butyric acid and Allobaculum (N). Correlation analyses between butyric acid and
Bifidobacterium (O). Correlation analyses between butyric acid and Faecalibaculum; Fecal SCFAs were
determined by gas chromatography. Differences were assessed by Student’s t test, *P < 0.05. Correlation
analysis between microbiota and acetic acid was conducted by Pearson correlation analysis (P). Page 29/30 Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. Page 30/30
|
https://openalex.org/W4387151947
|
https://zenodo.org/record/8385249/files/02%20Technological%20Advancements%20Driving%20Agricultural%20Transformation%20.pdf
|
English
| null |
Technological advancements driving agricultural trans-formation
|
Zenodo (CERN European Organization for Nuclear Research)
| 2,023
|
cc-by
| 3,292
|
OPEN ACCESS OPEN ACCESS
CITATION
Yadav, R.; Kumar, R.; Kumar, U. technological
advancements
driving
agricultural
transformation. AgriSustain-an
International
Journal,
2023,
01(2), 05-11. ARTICLE INFORMATION
Received: May 2023
Revised: June 2023
Accepted: June 2023
COPYRIGHT
© 2023 by the authors. Submitted for
possible open access publication
under the terms and conditions of the
Creative
Commons
Attribution
license (CC BY). TECHNOLOGICAL
ADVANCEMENTS
DRIVING
AGRICULTURAL
TRANSFORMATION Rishikesh Yadav1, Robin Kumar2, Umesh Kumar3 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of
Agriculture & Technology, Kanpur U.P. (208002)
2Soil Science & Agricultural Chemistry, Acharya Narendra Deva University of
Agriculture and Technology Kumarganj Ayodhya U.P. (224229)
3Soil Science & Agricultural Chemistry, Sardar Vallabh Bhai Patel University of
Agriculture & Technology, Meerut U.P. (250110)
*Corresponding Author: rishiy156@gmail.com 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of
Agriculture & Technology, Kanpur U.P. (208002)
2Soil Science & Agricultural Chemistry, Acharya Narendra Deva University of
Agriculture and Technology Kumarganj Ayodhya U.P. (224229)
3Soil Science & Agricultural Chemistry, Sardar Vallabh Bhai Patel University of
Agriculture & Technology, Meerut U.P. (250110)
*Corresponding Author: rishiy156@gmail.com 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of
Agriculture & Technology, Kanpur U.P. (208002) 1Soil Science & Agricultural Chemistry, Chandra Shekhar Azad University of
Agriculture & Technology, Kanpur U.P. (208002) 2Soil Science & Agricultural Chemistry, Acharya Narendra Deva University of
Agriculture and Technology Kumarganj Ayodhya U.P. (224229) 3Soil Science & Agricultural Chemistry, Sardar Vallabh Bhai Patel University of
Agriculture & Technology, Meerut U.P. (250110)
*Corresponding Author: rishiy156@gmail com ARTICLE INFORMATION Received: May 2023
Revised: June 2023
Accepted: June 2023 Received: May 2023
Revised: June 2023
Accepted: June 2023 CITATION Yadav, R.; Kumar, R.; Kumar, U. technological
advancements
driving
agricultural
transformation. AgriSustain-an
International
Journal,
2023,
01(2), 05-11. Introduction Agriculture has always been a fundamental aspect of human civilization,
providing sustenance and nourishment throughout history. However, as the
global population continues to grow, agricultural practices face increasing
pressure to meet the rising demand for food while minimizing environmental
impact. In response to these challenges, technological advancements have
emerged as key drivers of agricultural transformation. This article explores the
transformative role of technology in modern agriculture. It delves into various
technological innovations that have revolutionized farming practices, from
precision agriculture and smart farming to genetic engineering and automation. By harnessing the power of technology, farmers can enhance productivity,
optimize resource utilization, promote sustainability, and address critical global
food security concerns. Numerous studies indicate that during the early phases
of economic development, the agricultural sector is remarkably effective at
reducing poverty, often two to three times more effective than comparable
growth in other industries [1]. Additionally, at these initial developmental stages,
agricultural growth tends to have a disproportionately positive impact on the
poorest segments of the population [2]. Furthermore, it plays a crucial role in
addressing malnutrition concerns [3]. Research has consistently shown that
agriculture's contribution to the value added per worker directly contributes to
an increase in GDP per capita, effectively acting as an engine for overall economic AgriSustain AgriSustain AgriSustain Abstract The article discusses the pivotal role of technology in modern agriculture,
highlighting its transformative impact on farming practices. It explores various
technological innovations such as precision agriculture, smart farming, genetic
engineering, and automation, which have enabled farmers to boost productivity,
optimize resource use, promote sustainability, and address global food security
challenges. Additionally, the article emphasizes the significance of agriculture in
poverty reduction, particularly during early stages of economic development,
where it proves more effective than other industries. It also underscores
agriculture's contribution to GDP per capita growth, citing examples of its positive
economic impact. Furthermore, the article acknowledges agriculture's role in
stabilizing food production, enhancing food security, and preventing food crises,
crucial for maintaining societal well-being and economic stability. Keywords: Precision agriculture, and transformation, smart farming, genetic engineering COPYRIGHT © 2023 by the authors. Submitted for
possible open access publication
under the terms and conditions of the
Creative
Commons
Attribution
license (CC BY). https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 6 growth [4]. For instance, a study by the FAO in 2002 found that a 500 kcal per day
increase in dietary energy supply, which can be achieved through investments in
agriculture, resulted in a 2 percent growth in GDP per capita in East and Southeast
Asia [5], demonstrating that agriculture can be viewed as an investment in human
capital [6]. Moreover, the agricultural sector has a proven track record in
stabilizing domestic food production, enhancing food security, and mitigating the
occurrence of food crises, which can otherwise lead to political and social
instability, negatively impacting investment and efficiency
[7&8]. This
multifaceted role of agriculture is essential for maintaining economic stability
and overall societal well-being. Smart Farming: Connectivity and Automation Revolutionizing Agriculture The advent of the Internet of Things (IoT) has revolutionized farming
through the concept of smart farming. Smart farming involves the
interconnectivity of various devices and sensors that gather real-time data and
enable automation in agricultural operations. This technology enables farmers to
remotely monitor and control farming systems, resulting in enhanced efficiency
and productivity. Sensors embedded in the fields and on farm equipment provide
valuable information about soil moisture, temperature, humidity, and plant
health. This data can be wirelessly transmitted to farmers’ devices, allowing them
to make informed decisions in real-time. Automated systems, such as robotic
harvesters and milking machines, streamline labor-intensive tasks, reducing the
dependency on manual labor and improving overall productivity. Moreover, smart farming facilitates the implementation of autonomous
vehicles for tasks like planting, spraying, and harvesting. These vehicles leverage
advanced
navigation
and
artificial
intelligence
algorithms
to
operate
independently, reducing human error and optimizing time and resource
utilization. Additionally, smart farming practices enable the integration of vertical
farming and hydroponics, where crops are grown indoors under controlled
environments, maximizing yields and minimizing water and land requirements. Precision Agriculture: The Power of Data-Driven Farming Precision agriculture involves the use of advanced technologies to gather and
analyze data, enabling farmers to make informed decisions and optimize their
farming practices. Geographic Information Systems (GIS), Global Positioning
Systems (GPS), and remote sensing technologies play a pivotal role in precision
agriculture. These tools provide valuable insights into soil conditions, moisture
levels, crop health, and nutrient deficiencies, among other parameters. By precisely mapping these variables, farmers can implement targeted
interventions, such as variable-rate fertilization and irrigation, thereby
optimizing resource allocation and reducing waste. Real-time monitoring and
predictive analytics further enhance decision-making by identifying potential
issues and enabling prompt action. Furthermore, the integration of drones and
satellites allows for efficient and cost-effective data collection over large
agricultural areas. RD Agriculture Genetic Engineering: Enhancing Crop Traits for Improved Agriculture Genetic engineering has emerged as a powerful tool for enhancing crop traits
and addressing agricultural challenges. Through the manipulation of an
organism’s DNA, scientists can introduce specific genes that confer desirable
traits such as resistance to pests, diseases, and environmental stressors,
improved nutritional content, and enhanced yield potential. Genetically modified (GM) crops, such as insect-resistant Bt cotton and
herbicide-tolerant soybeans, have gained widespread adoption due to their ability RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. 7 Yadav et.al., 2023 to increase crop yields and reduce the use of chemical inputs. Furthermore, gene-
editing technologies like CRISPR-Cas9 have revolutionized genetic engineering by
enabling precise modifications with greater ease and efficiency. Genetic
engineering also offers the potential for developing crops with increased
nutritional value, such as bio-fortified crops enriched with essential vitamins and
minerals. Additionally, research is underway to create climate-resilient crops that
can withstand adverse weather conditions, including drought, extreme
temperatures, and salinity. Public Expenditure in Agriculture Public Expenditure in Agriculture In Asia, key strategies and government actions have revolved around
utilizing price incentives, investing in agricultural research and development
(R&D), enhancing rural infrastructure, boosting education and healthcare services,
and overhauling rural institutions related to land tenure security, credit
accessibility, and savings mechanisms. Agricultural institutions hold a pivotal
position in the process of agricultural transformation, and when they are
reformed efficiently and promptly, they contribute to establishing a dynamic
environment that is vital for achieving successful transformation. Significant
levels of public spending in the agricultural sector have historically been linked
to the initial phases of agricultural transformation in Asia. This funding is
typically directed towards critical areas such as infrastructure development
(including irrigation, rural roads, and electrification), the promotion of
agricultural mechanization, and the provision of subsidies for modern inputs like
seeds and fertilizers. Across Asia, achieving self-sufficiency in rice production
has consistently been a central goal of public policy and investment, and this
objective remains a priority in several countries today. It is worth noting that the RD Agriculture RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 8 prolonged or occasionally heightened allocation of agricultural subsidies in Asia
may not always be justified by economic reasoning. For instance, in China, the
annual average public spending on agriculture saw a substantial rise of 240
percent between 1996 and 2010. Genetic Engineering: Enhancing Crop Traits for Improved Agriculture When combined with other governmental
policies, this increase has led to a significant reduction in poverty levels,
measured at USD 1.90 per day, plummeting from 88.1 percent in 1981 to a mere
0.3 percent in 2018, as reported by the World Bank and the Development Research
Center in 2022. In Indonesia, during the 1970s, there was an annual increase of
approximately 10 percent in public investment in agriculture. This boost in
funding served as a catalyst for agricultural transformation, which began gaining
momentum in the 1980s. Additionally, investments made in primary education
and vocational training have played a pivotal role in promoting inclusive
agricultural transformation in countries like Vietnam, Thailand, the Philippines,
China, and South Korea. FAO Making Trade Work for Improved Food Security and Nutrition. Trade impacts directly on food volumes and prices in national markets and
hence affects each dimension of food security (availability, access, utilization and
stability). FAO supports members in multiple ways, providing: information and
in-depth analysis on the possible consequences of trade policies; capacity
development to improve understanding of international trade rules and their
implications; neutral forums for dialogue between trade and agriculture
stakeholders; support to regional trade integration; and assistance in preparing
for trade negotiations and in implementing agreements. RD Agriculture Key policy messages 1. Trade policy has a critical role to play in eradicating global hunger by 2030,
but trade alone cannot address all of the socio-economic and political
challenges that influence food security and nutrition. 2. Multilateral trade rules, which take into account the specific needs of
developing countries, are needed to ensure that the expansion of agricultural
trade is conducive to the eradication of hunger, food insecurity and
malnutrition. This is particularly pertinent in times of crisis. COVID-19 is a
reminder of the importance of international trade in mitigating the impacts of
shocks and protecting livelihoods while ensuring food security. 3. Trade policies must consider the different needs and roles of both large-scale
agricultural producers and those of smallholder and family farms. 3. Trade policies must consider the different needs and roles of both large-scale
agricultural producers and those of smallholder and family farms. 4. Sound policies for food security and nutrition balance a reliance on trade with
domestic production to ensure stable food availability and accessibility. At the
same time, policies should raise income levels for the rural poor and improve
nutritional value in food chains. 5. FAO assists Members in strengthening their capacities related to international
trade agreements and the promotion of export opportunities. The focus is on
the development of evidence-based analyses, knowledge sharing, technical
assistance and dialogue on key issues related to food and agricultural trade,
including regional and multilateral trade negotiations. 6. Trade and governance are tightly interrelated and both carry cross-sectoral
relevance within FAO. It’s crucial to develop an ever-improving framework for
trade-related policy-making processes in accordance with standards and
regulations set in place by the WTO. FAO aims to make trading systems as free,
fair, predictable and inclusive as possible on local, national, regional and
global levels. RD Agriculture RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 9 Rural Finance In the Asian context, rural financial services are typically provided by two
main categories of suppliers: formal and informal. Informal financial service
providers encompass private individuals, including professional moneylenders,
traders, commission agents, landlords, as well as friends and relatives. Over the
past few decades, civil society organizations like the Grameen Bank in Bangladesh
have also started to play a more prominent role in this domain. On the other hand,
the formal sector consists of entities like commercial banks and other financial
intermediaries that operate under national banking regulations and are subject
to supervision, as outlined in the FAO 2005 report. According to Mellor [9], extending loans to small-scale commercial farmers
leads to increased investments, which, in turn, make a significant contribution to
the growth of the agricultural sector. Both formal and informal rural financial
intermediaries have crucial roles to play, but formal institutions have been a
primary source of credit for small commercial farmers, as highlighted in FAO's
report from 2021. FAO and Mellor [9&10] argue that the establishment of a
specialized lending agency tailored to the unique needs of small commercial
farmers is a vital step in ensuring access to rural financing for agricultural-based
livelihoods. Initially, this specialized agency may need to be a public-sector
organization during the early stages of agricultural transformation. However, it's
important to carefully consider this option to avoid displacing private sector and
civil society organizations. Nonetheless, since the late 1990s, there has been a
growing emphasis on implementing a more decentralized rural finance system to
enhance the effectiveness of rural financial services. A recent study on food
system transformation by the Philippine government [11] with support from the
Asian Development Bank and FAO, suggests the adoption of a "centrally
supported decentralized service delivery" approach. Rural and Agrarian transformation in India The rural economy has undergone a transformation, shifting from
subsistence farming to a cash-based system. Farmers have transitioned to
cultivating cash crops such as sugarcane and cotton, which they sell in external
markets. They have increased their productivity by adopting new agricultural
techniques. The government plays a more active role in the village agricultural
economy through various development programs and personnel. Village
cooperatives strive to support farmers by providing essential agricultural inputs. Despite the enactment of land legislations, there has been little change in the land
ownership pattern. Tenant farmers have not seen significant improvements in
their conditions, and agricultural laborers continue to live in poverty, even though
agricultural production has increased. Given that agricultural production
operates within a capitalist and market-oriented framework, the farming
community does not reap the benefits of increased production. Instead,
industrialists and traders, who wield influence in national politics, tend to capture
the profits from agricultural yields. Consequently, farmers often find themselves
compelled to sell their produce due to immediate financial needs. https://journals.rdagriculture.in RD Agriculture RD Agriculture h Yadav et.al., 2023 AgriSustain-An International Journal 2023, 01(2), 05-11. 10 Agricultural Automation: Optimizing Efficiency and Labor Automation technologies are transforming traditional agricultural practices
by reducing the reliance on manual labor, optimizing efficiency, and improving
overall productivity. Automated systems are being employed in various stages of
agricultural operations, from planting and irrigation to harvesting and post-
harvest processing. Automated planting systems accurately place seeds at
optimized depths and spacing, ensuring uniform plant growth and maximizing
yield potential. Intelligent irrigation systems utilize real-time data to deliver
precise amounts of water to crops, minimizing water wastage and reducing the
risk of over-irrigation. In the realm of harvesting, automated machinery and robotics have
significantly reduced the labor required for tasks such as fruit picking, sorting,
and packing. These technologies improve the speed and accuracy of harvesting
operations, reducing post-harvest losses and ensuring product quality. •
Furthermore, automated post-harvest processing systems streamline
activities such as sorting, grading, and packaging, reducing human error and
enhancing efficiency. Advanced storage and preservation techniques,
including controlled atmospheres and smart warehouses, help maintain the
quality and extend the shelf life of agricultural produce. Conclusion Technological advancements have the potential to revolutionize agriculture
and address critical challenges faced by the global food system. Precision
agriculture, smart farming, genetic engineering, and agricultural automation are
among the key drivers of this agricultural transformation. By harnessing data-
driven insights and leveraging automation, farmers can optimize resource
utilization, increase productivity, and reduce environmental impact. Genetic
engineering offers the potential to enhance crop traits and develop varieties that
are resilient to pests, diseases, and changing climate conditions. However, the
adoption of these technologies must be accompanied by considerations of ethical,
environmental, and socio-economic factors. Proper regulations, training
programs, and infrastructure development are crucial to ensure that
technological advancements in agriculture are accessible and beneficial to all
farmers, including those in resource-constrained regions. As we move forward,
continued research and development in agricultural technology, along with
collaborative efforts between farmers, scientists, policymakers, and technology
providers, will be essential for a sustainable and resilient agricultural sector
capable of feeding a growing global population while minimizing its
environmental footprint. AgriSustain-An International Journal 2023, 01(2), 05-11. RD Agriculture References https://journals.rdagriculture.in https://journals.rdagriculture.in RD Agriculture RD Agriculture RD Agriculture AgriSustain-An International Journal 2023, 01(2), 05-11. Yadav et.al., 2023 11 1. Christiaensen, L., and W. Martin. Agriculture, Structural Transformation and Poverty Reduction: Eight
new insights. World Development, 2018, 109, 413-416 [google scholar] [DOI] 1. Christiaensen, L., and W. Martin. Agriculture, Structural Transformation and Poverty Reduction: Eight
new insights. World Development, 2018, 109, 413-416 [google scholar] [DOI] 2. Ligon, E.; Sadoulet, E. Estimating the Relative Benefits of Agricultural Growth on the Distribution of
Expenditures. World Development, 2018, 109: 417-428. [google scholar] [DOI] 2. Ligon, E.; Sadoulet, E. Estimating the Relative Benefits of Agricultural Growth on the Distribution of
Expenditures. World Development, 2018, 109: 417-428. [google scholar] [DOI] 3. Headey, D.D. Developmental Drivers of Nutritional Change: A Cross-Country Analysis. World
Development, 2013, 42: 76-88. [google scholar] [DOI] 3. Headey, D.D. Developmental Drivers of Nutritional Change: A Cross-Country Analysis. World
Development, 2013, 42: 76-88. [google scholar] [DOI] 4. Tiffin, R.; X. Irz. Is Agriculture the Engine of Growth? Agricultural Economics, 2006, 35: 79-89. [google scholar] [DOI] 5. FAO (Food and Agriculture Organization). Does Better Nutrition Cause Economic Growth? The
Efficiency Cost of Hunger Revisited." ESA Working Paper 2002, 02-11. Rome, Italy: FAO. [google
scholar] [DOI] 6. Fogel, R.W. Economic Growth, Population Theory, and Physiology: The Bearing of Long- Term
Processes on the Making of Economic Policy" Nobel Prize Lecture. American Economic Review, 1994,
84(3): 369-95. [google scholar] [DOI] 7. Timmer. Food Price Policy: The Rationale for Government Intervention. Food Policy, 1989, 14(1) 17-
27. [google scholar] [DOI] 7. Timmer. Food Price Policy: The Rationale for Government Intervention. Food Policy, 1989, 14(1) 17-
27. [google scholar] [DOI] g
g
8. Dawe, D. 1996. "A New Look on the Effects of Export Instability on Investment and Growth." World
Development 24(12): 1905-15. [google scholar] [DOI] 8. Dawe, D. 1996. "A New Look on the Effects of Export Instability on Investment and Growth." World
Development 24(12): 1905-15. [google scholar] [DOI] 8. Dawe, D. 1996. "A New Look on the Effects of Export
Development 24(12): 1905-15. [google scholar] [DOI] 9. Mellor, W.J. Agricultural Development and Economic Transformation: Promoting Growth with Poverty
Reduction." Palgrave Studies in Agricultural Economics and Food Policy (AEFP). Palgrave Macmillan
Cham. 2017, ISBN:978-3-319-65259-7. [google scholar] [DOI] 9. Mellor, W.J. Agricultural Development and Economic Transformation: Promoting Growth with Poverty
Reduction." Palgrave Studies in Agricultural Economics and Food Policy (AEFP). Palgrave Macmillan
Cham. 2017, ISBN:978-3-319-65259-7. [google scholar] [DOI] 10. References FAO. Decentralization of Agricultural Services: Decentralization of Rural Financial Services. FAO
2005, EASYPol, Module 014. [google scholar] [DOI] 11. DA (Department of Agriculture, Philippines). 2022. National Agriculture and Fisheries Modernization
and Industrialization Plan 2021-2030: Transforming the Philippine Food System Together. Philippines:
DA. RD Agriculture RD Agriculture https://journals.rdagriculture.in https://journals.rdagriculture.in
|
https://openalex.org/W4220983274
|
https://link.springer.com/content/pdf/10.1007/s13304-022-01271-z.pdf
|
English
| null |
A prospective study comparing two methods of pre-hospital triage for trauma
|
Updates in surgery
| 2,022
|
cc-by
| 6,658
|
1 Trauma prevention, pre-hospital care, acute in-hospital trauma care,
post-hospital care, research activities and education. Abstract We conducted a prospective study comparing two different pre-hospital triage tools for trauma: the American College of
Surgeons Committee on Trauma (ACS-COT) field triage decision scheme and the TRENAU score. The main objective was
to evaluate which triage tool was more appropriate in the setting of Lombardy's trauma system. Data were collected from
the population of trauma patients admitted to Niguarda hospital in Milan from January to June 2021. RStudio and Excel
were used for data analysis. For each triage tool performance measures, Receiver Operating Characteristics (ROC) curves,
and overtriage and undertriage rates were obtained. A total of 1439 injured patients admitted through 118 pre-hospital
Emergency Medical Services (EMS) were included in the study. The ACS-COT triage tool showed a good accuracy but an
excessive overtriage rate (59%). The TRENAU triage tool had a moderately good accuracy and a low overtriage rate (23%)
while maintaining an acceptable undertriage rate (3.9%). The TRENAU triage tool proved to be efficient in optimizing the
use of resources dedicated to trauma care while resulting safe for the injured patient. In a modern trauma system such as
Lombardy's it would be more appropriate to adopt the TRENAU score over the ACS-COT field triage decision scheme. Keywords Triage · ACS-COT · TRENAU · Inclusive trauma system · Exclusive trauma system A prospective study comparing two methods of pre‑hospital triage
for trauma C. Bagnato1 · K. Ranzato1 · A. Giarraca2 · P. Restelli2 · S. Saronni2 · G. Gadda2 · O. Chiara3 · S. C Received: 31 October 2021 / Accepted: 3 March 2022 / Published online: 20 March 2022
© The Author(s) 2022 C. Bagnato and O. Chiara contributed equally to this work. Updates in Surgery (2022) 74:1739–1747
https://doi.org/10.1007/s13304-022-01271-z Updates in Surgery (2022) 74:1739–1747
https://doi.org/10.1007/s13304-022-01271-z ORIGINAL ARTICLE ORIGINAL ARTICLE C. Bagnato and O. Chiara contributed equally to this work.
* S. Cimbanassi
stefania.cimbanassi@unimi.it
C. Bagnato
clara.bagnato55@gmail.com
O. Chiara
osvaldo.chiara@unimi.it
1
Acute Care Surgery‑Trauma Team, ASST GOM Niguarda,
20162 Milan, Italy
2
Emergency Department, ASST GOM Niguarda,
20162 Milan, Italy
3
Department of Medical‑Surgical Physiopathology
and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST
GOM Niguarda, 20162 Milan, Italy Data collection Data were collected from pre-hospital EMS’ reports, dis-
patch on major trauma papers, emergency room reports and
medical charts and were organized in a spreadsheet file. i
The following information was included in the database:
age, gender, EMS type (basic life support, intermediate life
support, advanced life support or helicopter rescue), notice
by the 118 dispatch center based on the ACS-COT triage cri-
teria, trauma type (closed vs open/piercing), event type (sin-
gle or multiple, self-inflicted or inflicted by a third party),
trauma mechanism (road accident, fall, assault, sport injury,
animal related injury or other), ACS-COT triage criteria,
risk factors and comorbidities, physiologic parameters on the
scene, outcome (discharge by the ED, admission to the oper-
ating theater, admission to the intensive care unit, damage
control maneuvers performed in the emergency room, death
in the ED, hospitalization), Injury Severity Score (ISS), TT
activation, TRENAU score, New Trauma Score for Triage
(T-NTS). To optimize the pre-hospital phase of trauma care, a
trauma system should adopt triage tools that better adapt to
the local environment. In the U.S.A. paramedics implement
the American College of Surgeons Committee on Trauma
(ACS-COT) field triage decision scheme: four successive
steps, each consisting of a specific set of criteria, are fol-
lowed to evaluate the injured patient [5, 6]. Italy has also
been adopting the ACS-COT triage tool to evaluate the
trauma patient on the scene of the event. The new 2020
guidelines however suggest the use of the triage score devel-
oped in the context of the Northern French Alps (TRENAU)
trauma system. An effort is thus being made to promote the
transition from the ACS-COT triage tool to the TRENAU
triage tool where appropriate. The parameters assessed by
the TRENAU criteria are similar to those assessed by the
ACS-COT field triage decision scheme, with the addition of
the response of the patient to treatment. Response to treat-
ment can be evaluated during the pre-hospital phase since
in France, as well as in Italy, the EMS personnel is also
composed of nurses and physicians [7, 8]. The TRENAU
grading system establishes three levels of clinical severity:
class A (unstable patient despite treatment), B (stabilized
after treatment or anatomic criteria) or C (stable with high
energy MOI, age and comorbidities) [1]. In this study EMS personnel assessed injured patients on
the scene using the ACS-COT field triage decision scheme. Introduction (MOI) are road accidents (29%), followed by falls (12.6%)
and assault (9.16%) [2]. Trauma is a complex and still largely neglected disease,
responsible for about 5.8 million deaths annually around
the world [1]. Trauma has also a high social impact, being
the major cause of death and disability among the population
under 35 years old. The most frequent mechanism of injury To optimize trauma care and thus minimize the number
of preventable deaths, trauma related disability and resource
wasting, Western Countries have developed Trauma Systems
within their national health systems. Within the Trauma
System various phases of trauma care1 are organized and
embedded according to a well-structured protocol. Injured patients are treated in trauma centers, which can
supply different level of trauma care. In Italy there are three
types of trauma centers: Centro Trauma ad Alta Specializzazi-
one (CTS, a highly specialized trauma center), Centro Trauma
di Zona (CTZ, a local trauma center) and Presidio di Stabiliz-
zazione per Traumi (PST, a hospital unit for trauma stabili-
zation). A CTS manages the most severely injured patients,
providing the highest level of care. A CTS is equivalent to
a level 1 trauma center and has a catchment area of about 2
million inhabitants. A CTZ, which corresponds to a level 2
trauma center, manages major trauma except for cases that
require high level of professional expertise. A PST, similarly to
a level 3 trauma center, takes care of minor trauma or stabilizes C. Bagnato and O. Chiara contributed equally to this work. * S. Cimbanassi
stefania.cimbanassi@unimi.it
C. Bagnato
clara.bagnato55@gmail.com
O. Chiara
osvaldo.chiara@unimi.it
1
Acute Care Surgery‑Trauma Team, ASST GOM Niguarda,
20162 Milan, Italy
2
Emergency Department, ASST GOM Niguarda,
20162 Milan, Italy
3
Department of Medical‑Surgical Physiopathology
and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST
GOM Niguarda, 20162 Milan, Italy C. Bagnato and O. Chiara contributed equally to this work. * S. Cimbanassi
stefania.cimbanassi@unimi.it
C. Bagnato
clara.bagnato55@gmail.com
O. Chiara
osvaldo.chiara@unimi.it
1
Acute Care Surgery‑Trauma Team, ASST GOM Niguarda,
20162 Milan, Italy
2
Emergency Department, ASST GOM Niguarda,
20162 Milan, Italy
3
Department of Medical‑Surgical Physiopathology
and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST
GOM Niguarda, 20162 Milan, Italy C. Bagnato and O. Chiara contributed equally to this work. Methods Afterward, each patient was graded using the TRENAU
score based on the information received by the EMS. The
correct activation of the TT was assessed simulating a situ-
ation in which the EMS implemented the TRENAU triage
tool instead of the ACS-COT field triage decision scheme Data collection If the ACS-COT criteria for major trauma were met the 118
dispatch center notified the ED where the TT was activated
in advance and the triage nurse filled in the dispatch on
major trauma papers with information regarding the trau-
matic event and the patient's characteristics. The TT was considered as correctly activated when the
triage criteria effectively identified major trauma. Major
trauma was defined by having an ISS higher than 15 and/or
the Need For Trauma Intervention (NFTI+). The ISS was
calculated considering the Abbreviated Injury Score (AIS)
2015 catalogue [10, 11]. The NFTI indirectly describes the
impact of the traumatic event on the patient through the
intensity of the therapeutic maneuvers needed to replenish
the body's physiological reserves. The therapeutic maneu-
vers considered in the study were: damage control resusci-
tation in the ED, direct discharge to the operating room or
the intensive care unit from the ED, death of the patient in
the ED [12]. The present study aims to compare the triage tool devel-
oped by the ACS-COT and the TRENAU score to establish
which one is better suited to the regional setting of Lom-
bardy’s trauma system. Introduction 2
Emergency Department, ASST GOM Niguarda,
20162 Milan, Italy 3
Department of Medical‑Surgical Physiopathology
and Transplantation, AcuteCareSurgery‑TraumaTeam, ASST
GOM Niguarda, 20162 Milan, Italy (0121 3456789)
3 3456789)
3 1740 Updates in Surgery (2022) 74:1739–1747 critically injured patients before transferring them to a higher
level trauma center [3]. Trauma patients were admitted to the Emergency Depart-
ment (ED) of ASST Grande Ospedale Metropolitano
Niguarda, a CTS for the metropolitan area of Milan. For all
suspected major trauma patients a multidisciplinary Trauma
Team (TT) was activated at the EMS’ notice. Niguarda’s TT
consists of general surgeons, anesthesiologists, radiologists,
trauma nurses, radiology’s technicians and orderlies [9]. Regarding the distribution of trauma centers on the terri-
tory, two models of trauma systems can be distinguished: an
exclusive trauma system and an inclusive trauma system. In an
exclusive trauma system acute care facilities and trauma cent-
ers are two separated entities. In this type of system the Emer-
gency Medical Services (EMS) should therefore centralize all
trauma patients to trauma centers. In an inclusive system the
territory is served by several acute care facilities, the majority
of which is also equipped with a trauma center. Each trauma
center can offer different levels of care depending on the neces-
sities of every geographical area. In such a model, the task
of the EMS’ personnel is to estimate the severity of injured
patients based on pre-determined triage criteria. Patients are
thus transported to the hospital capable of providing the ade-
quate level of care in a timely fashion [4]. A prospective observational cohort study was conducted
between January 23rd and June 24th 2021. Results The ACS-COT triage tool and the TRENAU triage tool
were compared through performance measures with 95%
Confidence Intervals (CIs). In particular, the focus was on
sensitivity and specificity which express the capability of the
triage tool to discriminate between major and minor trauma. A total of 4909 trauma patients (excluding those who pre-
sented burns as the only MOI) were admitted to Niguarda’s
ED during the period of the study. Only the 1439 patients
who were transported by EMS were included in the study. The study population characteristics are summarized in
Table 1. g
j
Receiver Operating Characteristics (ROC) curves with
95% confidence bands were plotted for each triage tool. The
Area Under the Curve (AUC) of the ROC curve depicts
the accuracy of the triage tool and can range from 0.5 to 1. The ideal triage tool which can perfectly differentiate major
trauma from minor trauma would have an AUC of one. An
AUC lower than 0.7 defines a poor triage tool, between 0.71
and 0.8 defines a moderately good triage tool and higher
than 0.81 defines a good triage tool. Plotting ROC curves
allows to immediately visualize performance information
about the ACS-COT field triage decision scheme and the
TRENAU score and promptly compare their accuracy. Of all the 1439 patients included in the study, 143 met
the criteria for major trauma (ISS greater than 15 and/
or NFTI+). The ED was notified by the EMS in 22.51%
(324/1439) of cases, 41.04% of whom (133/324) were
confirmed being major trauma (Table 2). Employing the
TRENAU grading system, 118 patients (of which 91 were
major traumas) were classified as grade A or grade B, 488
(of which 43 were major traumas) as grade C and 833 (of
which 9 were major traumas) as "not included" (Table 3). The performance measures of the ACS-COT triage tool
and the TRENAU score were compared (Tables 4 and 5) and
statistically significant differences were found. In particular,
the sensitivity of the TRENAU triage tool was notably lower
than that of the ACS-COT criteria: 61% (95%CI of 52–69%)
against 93% (95%CI of 87–97%). This resulted however in a
specificity of almost 100% (98% with a 95%CI of 97–99%)
against that of the ACS-COT triage tool which amounted
only up to 85% (95%CI of 83–87%). Statistical analysis Data were analyzed using Excel© version 16.43, RCRAN©
version 4.1.1 and RStudio Desktop© version 1.4.1717. Study design and setting A prospective observational cohort study was conducted
between January 23rd and June 24th 2021. 1 3 Updates in Surgery (2022) 74:1739–1747 1741 In particular the undertriage rate should be kept to a mini-
mum since missing to identify major trauma can jeopardize
the patient's safety resulting in higher rates of preventable
deaths and worsening prognosis. A high overtriage rate does
not endanger the patient’s life in the near future, however it
should be contained as it entails a waste of human and finan-
cial resources that could lead to the system’s collapse in the
long term. The ACS-COT suggests maintaining the undertri-
age rate at less than 5% and the overtriage rate between 25
and 35% [6]. This aspect should be considered to determine
which triage tool is more appropriate in a specific trauma
system. on the scene of the traumatic event. A patient who met the
criteria for class A and B was considered in need of a TT
activation at a CTS. The TRENAU score was considered
appropriate if it would have resulted in the activation of the
TT for major trauma patients (ISS higher than 15 and/or
NFTI+). Patients who met the criteria for class C would
have been transported to a CTZ had the TRENAU grading
system been used on the scene of the event instead of the
ACS-COT triage tool. Patients who did not meet any criteria
would have been considered mildly injured and thus trans-
ported at the nearest hospital. Results Overtriage and undertriage rates (referred to the cen-
tralization of major trauma at a CTS) with 95% CIs were
obtained using the Cribari Matrix method. 95% CIs were
calculated as: p ± 1.96 ×
√
p × (1 −p)
n p ± 1.96 ×
√
p × (1 −p)
n p ± 1.96 ×
√
p × (1 −p)
n n where p is the proportion of patients that were undertriaged
or overtriaged while n is the total number of patients with
major trauma or who matched with at least one of the triage
criteria considered for major trauma. Overtriage is defined
as the rate of mild injuries misidentified as major trauma by
the triage tool. Undertriage is defined as the rate of severely
injured patients that the triage tool missed to identify and
were thus transported to an under-qualified trauma center
or received late treatment. When designing a triage tool it is
important to control the rates of overtriage and undertriage. The AUC of the ROC curves depicted two different levels
of accuracy for the ACS-COT triage tool and the TRENAU
triage tool (Figs. 1 and 2). The difference between the ACS-
COT triage criteria and the TRENAU criteria’s accuracy is
statistically significant: the former is more accurate (AUC
of 0.892 with CI of 0.869–0.915), however the latter can be
still considered a moderately good test (AUC of 0.790 with
CI of 0.750–0.831).if There was a statistically significant difference also in
overtriage and under- triage rates as shown in Table 6. 1 3 Updates in Surgery (2022) 74:1739–1747 1742 Values marked with a * are statistically significant. Values marked with a * are statistically significant. A level of significance of 0.05 was applied for all tests
IQR Interquartile Range, BLS Basic Life Support, ILS Intermediate Life Support, ALS Advanced Life Sup-
port, NI = Not Included Discussion Considering the results as a whole and referring them to the
setting in which they were obtained, it can be observed how
the ACS-COT field triage decision scheme is characteris-
tic of a trauma system in its early stage. A triage tool such
as the one developed by the ACS-COT complies with the
requirements of a trauma system which starts as exclusive
or is either still developing an organized network of trauma
centers and a proper personnel expertise. Sensitivity has to
be high to minimize the number of false negatives (major
trauma which is identified as minor by the triage criteria,
i.e. the undertriaged patients). Even if it means having an
excessive overtriage rate. In a young trauma system undertri-
aged patients would not receive the appropriate level of care,
being transported to facilities not included in the trauma
system or which are still developing and do not have the ade-
quate expertise. In other words, EMS within a trauma system
at its early stage should adopt a triage tool that works as a
screening test, reducing the false negatives to a minimum
and ruling in all the possibly diseased patients. The ACS-
COT field triage decision scheme was in fact appropriate in
Lombardy about 20 years ago, when Italy started to build
a network of organized trauma systems at a regional level. The ACS-COT triage tool has in fact a very high sensitivity
(93%) and accuracy (89.2%) which define a minimum rate of
undertriage (1%). This however results in a lower specificity
(85%) and thus a much higher rate of overtriage (59%) which
greatly exceeds the threshold suggested by the ACS-COT. Overtriage was significantly lower when implementing the
TRENAU triage tool rather than the ACS-COT field triage
decision scheme: 23% (95%CI of 15.4–30.6%) against 59%
(95%CI of 53.6–64.4%). The undertriage rate of the TRE-
NAU score still maintained under the 5% limit suggested by
the ACS-COT [6] at 3.9% (95% CI of 2.9–4.9%). Results A level of significance of 0.05 was applied for all tests
IQR Interquartile Range BLSBasic Life Support ILSIntermediate Life Support ALSAdvanced Life Sup
N° Tot
(%)
N° Major
Trauma
ISS
N° Minor
Trauma
ISS
P -value
Median (IQR)
Median (IQR)
Age
0.176
1–5
71 (5)
1
18 (0)
70
1 (0)
0.464
6–18
170 (12)
15
18 (14–25)
155
1 (1–4)
0.2732
19–65
780 (54)
105
19 (16–27)
675
2 (1–4)
0.884
66–80
167 (12)
13
25 (21–26)
154
2 (1–5)
0.185
81–97
251 (17)
9
25 (25–48)
242
4 (1–5)
0.130
Gender
0.000515*
Male
897 (62)
113
20 (16–27)
784
2 (1–4)
Female
542 (38)
30
22 (16–25)
512
2 (1–4)
EMS type
<2e−16*
BLS
1136 (79) 17
17 (16–22)
1119
1 (1–4)
ILS
3
0
3
1 (1–2)
ALS
252 (18)
99
21 (16–27)
153
4 (1–9)
Helicopter
48 (3)
27
21 (17–34)
21
8 (5–9)
Trauma type
0.718
Closed
1085 (75) 107
21 (16–26)
978
2 (1–4)
Open/piercing
354 (35)
36
18 (15–29)
318
2 (1–4)
Event type
0.000372*
Single
1343 (93) 122
20 (16–26)
1221
2 (1–4)
Multiple
96 (7)
21
21 (17–29)
75
1 (1–4)
Trauma dynamic
0.305
Road accidents
543 (38)
86
18 (16–25)
457
2 (1–4)
Falls
591 (41)
32
25 (19–29)
559
2 (1–4)
0.3856
Assault
137 (10)
3
17 (17–46)
588
1 (1–4)
<2e−16*
Sport injuries
10 (1)
0
10
1 (0)
Animals
18 (1)
0
18
1 (1–2)
Wounds
76 (5)
10
25 (12–33)
66
1 (1–4)
1
Crushing
18 (1)
7
18 (12–24)
11
1 (1–2)
0.0297 *
Other
46 (3)
5
19 (18–25)
41
1 (1–2)
ACS-COT criteria
<2e−16*
No notice
1115 (77) 10
18 (17–25)
1105
1 (1–4)
Notice
324 (23)
133
20 (16–27)
191
4 (1–9)
TRENAU criteria
<2e−16*
A + B
118 (8)
91
25 (17–34)
27
4 (2–7)
C + NI
1321 (92) 52
17 (13–21)
1269
2 (1–4)
T-NTS
3.78 e−11*
>17
740 (96)
52
18 (15–23)
688
1 (1–4)
≤ 17
27 (4)
21
27 (19–34)
6
7 (4–10)
ISS
<2e−16*
>15
112 (8)
112
25 (18-31)
0
2 (1–4)
≤15
1327 (92) 31
9 (7-11)
1296 1 3 Updates in Surgery (2022) 74:1739–1747 1743 Table 2 EMS notice and trauma severity
IQR Interquartile Range
N
ISS
Median (IQR)
Access through EMS
1439
2 (1–5)
Notice
324
9 (4–18)
Major trauma
133
20 (16–27)
Minor trauma
191
4 (1–9)
No notice
1115
1 (1–4)
Major trauma
10
18 (17–25)
Minor trauma
1105
1 (1–4)
Table 5 Performance measures of the TRENAU triage tool with 95%
CIs
Value
95% CI
Apparent prevalence
0.08
(0.07, 0.09)
True prevalence
0.10
(0.08, 0.12)
Sensitivity
0.61
(0.52, 0.69)
Specificity
0.98
(0.97, 0.99)
Positive predictive value
0.76
(0.67, 0.84)
Negative predictive value
0.96
(0.95, 0.97)
Positive likelihood ratio
29.09
(19.58, 43.23)
Negative likelihood ratio
0.40
(0.33, 0.49) Discussion
Considering the results as a whole and referring them to the
setting in which they were obtained, it can be observed how
the ACS-COT field triage decision scheme is characteris-
tic of a trauma system in its early stage. Results A triage tool such
as the one developed by the ACS-COT complies with the
requirements of a trauma system which starts as exclusive
or is either still developing an organized network of trauma
centers and a proper personnel expertise. Sensitivity has to
be high to minimize the number of false negatives (major
trauma which is identified as minor by the triage criteria,
i.e. the undertriaged patients). Even if it means having an
excessive overtriage rate. In a young trauma system undertri-
aged patients would not receive the appropriate level of care,
being transported to facilities not included in the trauma
system or which are still developing and do not have the ade-
quate expertise. In other words, EMS within a trauma system
at its early stage should adopt a triage tool that works as a
screening test, reducing the false negatives to a minimum
and ruling in all the possibly diseased patients. The ACS-
COT field triage decision scheme was in fact appropriate in
Lombardy about 20 years ago, when Italy started to build
a network of organized trauma systems at a regional level. The ACS-COT triage tool has in fact a very high sensitivity
(93%) and accuracy (89.2%) which define a minimum rate of
undertriage (1%). This however results in a lower specificity
(85%) and thus a much higher rate of overtriage (59%) which
greatly exceeds the threshold suggested by the ACS-COT. Results On the contrary, a triage tool like the TRENAU score bet-
ter suits a trauma system such as Lombardy’s at the present
time: inclusive, which had the time to appropriately develop
Table 2 EMS notice and trauma severity
IQR Interquartile Range
N
ISS
Median (IQR)
Access through EMS
1439
2 (1–5)
Notice
324
9 (4–18)
Major trauma
133
20 (16–27)
Minor trauma
191
4 (1–9)
No notice
1115
1 (1–4)
Major trauma
10
18 (17–25)
Minor trauma
1105
1 (1–4)
Table 3 TRENAU classes and trauma severity
IQR Interquartile range
N
ISS
Median (IQR)
GRADE A
20
34 (25–75)
Major trauma
19
34 (25–75)
Minor trauma
1
3 (0)
GRADE B
98
17 (9–25)
Major trauma
72
22 (16–28)
Minor trauma
26
4 (2–8)
GRADE C
488
4 (1–8)
Major trauma
43
17 (13–22)
Minor trauma
445
4 (1–5)
NOT INCLUDED
833
1 (1–4)
Major trauma
9
18 (16–19)
Minor trauma
824
1 (1–4)
Table 4 Performance measures of the ACS-COT criteria with 95%
CIs
Value
95% CI
Apparent prevalence
0.22
(0.20, 0.25)
True prevalence
0.10
(0.08, 0.12)
Sensitivity
0.93
(0.87, 0.97)
Specificity
0.85
(0.83, 0.87)
Positive predictive value
0.41
(0.35, 0.46)
Negative predictive value
0.99
(0.98, 1.00)
Positive likelihood ratio
6.31
(5.50, 7.25)
Negative likelihood ratio
0.08
(0.05, 0.15)
Table 5 Performance measures of the TRENAU triage tool with 95%
CIs
Value
95% CI
Apparent prevalence
0.08
(0.07, 0.09)
True prevalence
0.10
(0.08, 0.12)
Sensitivity
0.61
(0.52, 0.69)
Specificity
0.98
(0.97, 0.99)
Positive predictive value
0.76
(0.67, 0.84)
Negative predictive value
0.96
(0.95, 0.97)
Positive likelihood ratio
29.09
(19.58, 43.23)
Negative likelihood ratio
0.40
(0.33, 0.49) Table 2 EMS notice and trauma severity Table 3 TRENAU classes and trauma severity Table 3 TRENAU classes and trauma severity
IQR Interquartile range
N
ISS
Median (IQR)
GRADE A
20
34 (25–75)
Major trauma
19
34 (25–75)
Minor trauma
1
3 (0)
GRADE B
98
17 (9–25)
Major trauma
72
22 (16–28)
Minor trauma
26
4 (2–8)
GRADE C
488
4 (1–8)
Major trauma
43
17 (13–22)
Minor trauma
445
4 (1–5)
NOT INCLUDED
833
1 (1–4)
Major trauma
9
18 (16–19)
Minor trauma
824
1 (1–4) Discussion A high specificity is
typical of a diagnostic test, which is supposed to rule out all
the patients that do not have the disease and identify only the
true positives. This clearly results in a higher number of false
negatives due to the decrease in sensitivity, which should
nonetheless always be kept under an acceptable threshold. Since the TRENAU triage tool works as a diagnostic test
rather than a screening test, it allows to select and centralize
to the CTS mainly the true major trauma. Furthermore, in a trauma system with different levels
of care, undertriaged patients would not be neglected but
treated in a less specialized trauma center with an adequate
expertise, namely a CTZ. It should also be noted that the
great majority of Lombardy’s CTZs are equipped with a neu-
rosurgical unit, which is essential as the majority of trauma
patients present with traumatic brain injuries [14]. Moreo-
ver, in a modern trauma system, a triage tool should also be
able to identify patients potentially at risk of an unfavorable
outcome, even when they are not labelled as major trauma by
the triage criteria. They could either be undertriaged patients
or patients who are more prone to evolve unfavorably rather
than get better and should therefore be directed towards a
CTZ. In favor of this statement, it should be pointed out that
in this study the majority of the patients undertriaged with
the TRENAU score were classified as grade C (43 out of 52)
and would therefore have been treated in a CTZ, guarantee-
ing them an appropriate level of care. treated in a less specialized trauma center with an adequate
expertise, namely a CTZ. It should also be noted that the
great majority of Lombardy’s CTZs are equipped with a neu-
rosurgical unit, which is essential as the majority of trauma
patients present with traumatic brain injuries [14]. Moreo-
ver, in a modern trauma system, a triage tool should also be
able to identify patients potentially at risk of an unfavorable
outcome, even when they are not labelled as major trauma by
the triage criteria. They could either be undertriaged patients
or patients who are more prone to evolve unfavorably rather
than get better and should therefore be directed towards a
CTZ. Discussion Table 4 Performance measures of the ACS-COT criteria with 95%
CIs
Value
95% CI
Apparent prevalence
0.22
(0.20, 0.25)
True prevalence
0.10
(0.08, 0.12)
Sensitivity
0.93
(0.87, 0.97)
Specificity
0.85
(0.83, 0.87)
Positive predictive value
0.41
(0.35, 0.46)
Negative predictive value
0.99
(0.98, 1.00)
Positive likelihood ratio
6.31
(5.50, 7.25)
Negative likelihood ratio
0.08
(0.05, 0.15) Table 4 Performance measures of the ACS-COT criteria with 95%
CIs
Value
95% CI
Apparent prevalence
0.22
(0.20, 0.25)
True prevalence
0.10
(0.08, 0.12)
Sensitivity
0.93
(0.87, 0.97)
Specificity
0.85
(0.83, 0.87)
Positive predictive value
0.41
(0.35, 0.46)
Negative predictive value
0.99
(0.98, 1.00)
Positive likelihood ratio
6.31
(5.50, 7.25)
Negative likelihood ratio
0.08
(0.05, 0.15) Table 4 Performance measures of the ACS-COT criteria with 95%
CIs Table 4 Performance measures of the ACS-COT criteria with 95% On the contrary, a triage tool like the TRENAU score bet-
ter suits a trauma system such as Lombardy’s at the present
time: inclusive, which had the time to appropriately develop
its network of trauma centers and strengthen its personnel
expertise. The TRENAU triage tool has a lower sensitivity
(61%) and accuracy (79%) which nonetheless define a still
acceptable rate of undertriage (3.9%) according to the ACS-
COT. On the other hand, this results in a very high speci-
ficity (98%) and thus a much lower overtriage rate (23%)
which is within the threshold set by the ACS-COT. This Overtriage was significantly lower when implementing the
TRENAU triage tool rather than the ACS-COT field triage
decision scheme: 23% (95%CI of 15.4–30.6%) against 59%
(95%CI of 53.6–64.4%). The undertriage rate of the TRE-
NAU score still maintained under the 5% limit suggested by
the ACS-COT [6] at 3.9% (95% CI of 2.9–4.9%). 1 3 Updates in Surgery (2022) 74:1739–1747 1744 1744
Updates in Surgery (2022) 74:1739–1747
Fig. 1 ACS-COT triage tool’s
ROC curve with 95% CIs Updates in Surgery (2022) 74:1739–1747
e tool’s
Is Fig. 1 ACS-COT triage tool’s
ROC curve with 95% CIs way, overcrowding of trauma centers would be prevented,
resource wasting would be minimized, and patient care
improved. Optimizing trauma care is essential nowadays. It is not sustainable to accept high overtriage rates anymore
as European health care systems are struggling to maintain
their status as free and universal [13]. 1 3 Discussion In favor of this statement, it should be pointed out that
in this study the majority of the patients undertriaged with
the TRENAU score were classified as grade C (43 out of 52)
and would therefore have been treated in a CTZ, guarantee-
ing them an appropriate level of care. way, overcrowding of trauma centers would be prevented,
resource wasting would be minimized, and patient care
improved. Optimizing trauma care is essential nowadays. It is not sustainable to accept high overtriage rates anymore
as European health care systems are struggling to maintain
their status as free and universal [13]. A high specificity is
typical of a diagnostic test, which is supposed to rule out all
the patients that do not have the disease and identify only the
true positives. This clearly results in a higher number of false
negatives due to the decrease in sensitivity, which should
nonetheless always be kept under an acceptable threshold. Since the TRENAU triage tool works as a diagnostic test
rather than a screening test, it allows to select and centralize
to the CTS mainly the true major trauma.f Furthermore, in a trauma system with different levels
of care, undertriaged patients would not be neglected but 1 3 1745 Updates in Surgery (2022) 74:1739–1747 TRENAU triage tool’s
urve with 95% CIs Fig. 2 TRENAU triage tool’s
ROC curve with 95% CIs Fig. 2 TRENAU triage tool’s
ROC curve with 95% CIs Even though criteria based solely on trauma dynamic
and patient's characteristics seem to be the most relevant
geriatric trauma teams and specific triage criteria for
elderly patients and children [19–21]. Only two other studies that evaluated the efficacy of the
TRENAU grading system and compared it with other pre-
hospital triage tools were found in literature. The TRENAU score is in fact fairly new since it was
implemented only in 2015 by Bouzat et al. [1]. In his study
Bouzat compared a graded group of patients with a non-
graded group of patients within the Northern French Alps
trauma system. The implementation of the TRENAU score
appeared more appropriate in a system involving physi-
cians in the pre-hospital phase opposed to the ACS-COT
Fig. References This study has a few limitations. Data were collected in
a single level 1 trauma center and reflect the population of a
highly urbanized area. The study was conducted during the
COVID-19 pandemic and the restrictions introduced by the
government had an impact on the epidemiology of trauma
and the organization of the healthcare system [23]. 1. Bouzat P, Ageron F, Brun J et al (2015) A regional trauma sys-
tem to optimize the pre-hospital triage of trauma patients. Crit
Care 19(1):1–9 2. Alberdi F, Garcia I, Atutxa L et al (2014) Epidemiology of
severe trauma. Med Intensiva 38(9):580–588 3. Chiara O, Gordini G, Nardi G, et al. (2012) Trauma Update. La
cura definitiva del trauma maggiore. Elsevier Italia, Milano i
4. Kozar RA, Sanddal ND (2016) Role of level iv trauma centers
in an inclusive trauma system: the injured elderly. Am J Surg
212(3):377–378 Conclusion 5. Sasser SM, Hunt RC, Faul M et al (2011) (2012) Guidelines for
field triage of injured patients: recommendations of the national
expert panel on field triage. Morb Mortal Wkly Rep 61(1):1–20 When comparing different triage tools, the local setting in
which they are implemented should be considered. A young
trauma system benefits from a highly sensitive triage tool
like the ACS-COT field triage decision scheme. A mature
trauma system such as Lombardy’s, which has developed a
functioning and up-to-date trauma network with different
levels of trauma centers, should adapt its triage tool accord-
ingly. In this kind of setting, the TRENAU score proved to
be extremely effective in reducing overtriage without com-
promising the patient’s safety. As such, Lombardy is encour-
aged to follow the new Italian guidelines in adopting the
TRENAU score as a pre-hospital triage tool. This however
could differ for other Italian regions where trauma systems
might not be up to standard yet and the adoption of a new
triage tool should thus be considered case-by-case. i
6. Rotondo M, Cribari C, Smith R et al (2014) Resources for opti-
mal care of the injured patient. American College of Surgeons,
Chicago 7. Centro Nazionale per l’eccellenza clinica la qualità e la
sicurezza delle cure (June 2020) Raccomandazioni 1-4 della
linea guida sulla gestione integrata del trauma maggiore dalla
scena dell’evento alla cura definitiva. LG-ISS-SNLG-3 i
8. David JS, Bouzat P, Raux M (2019) Evolution and organisation
of trauma systems. Anaesth Crit Care Pain Med 38(2):161–167 9. Chiara O, Cimbanassi S (2008) Protocolli per la gestione intra-
ospedaliera del trauma maggiore. Elsevier srl 10. Baker SP, Neill B, Haddon Jr W, et al (1974) The injury sever-
ity score: a method for describing patients with multiple inju-
ries and evaluating emergency care. J Trauma Acute Care Surg
14(3):187–196 11. Bolorunduro OB, Villegas C, Oyetunji TA et al (2011) Validat-
ing the injury severity score (iss) in different populations: Iss
predicts mortality better among hispanics and females. J Surg
Res 166(1):40–44 12. Roden-Foreman JW, Rapier NR, Foreman ML et al (2019)
Rethinking the definition of major trauma: the need for trauma
intervention outperforms injury severity score and revised
trauma score in 38 adult and pediatric trauma centers. J Trauma
Acute Care Surg 87(3):658–665 Funding Open access funding provided by Università degli Studi di
Milano within the CRUI-CARE Agreement. Informed consent Informed consent was not required. Informed consent Informed consent was not required. suggested by the ACS. The difference in results could be
explained by the lack in experience of the French EMS in
implementing the pre-hospital triage tool in 2015 and by the
dissimilar geographical area in which the two studies took
place (the Northern French Alps are a mountainous region
while Milan is a plain metropolitan area) [22]. Open Access This article is licensed under a Creative Commons Attri-
bution 4.0 International License, which permits use, sharing, adapta-
tion, distribution and reproduction in any medium or format, as long
as you give appropriate credit to the original author(s) and the source,
provide a link to the Creative Commons licence, and indicate if changes
were made. The images or other third party material in this article are
included in the article's Creative Commons licence, unless indicated
otherwise in a credit line to the material. If material is not included in
the article's Creative Commons licence and your intended use is not
permitted by statutory regulation or exceeds the permitted use, you will
need to obtain permission directly from the copyright holder. To view a
copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. A more recent and comprehensive study regarding the
TRENAU classification is a systematic review with meta-
analysis conducted by Gianola et al.[19]. which compares
the TRENAU score with other triage tools (e.g. the ACS-
COT field triage decision scheme, Vittel Triage Criteria,
New Trauma Score, etc.) according to their ROC curve and
net clinical benefit. The TRENAU score, together with the
NTS, appeared to be the most accurate triage tool in the
adult population. Discussion 2 TRENAU triage tool’s
ROC curve with 95% CIs
Table 6 Overtriage and undertriage rates
ACS-COT triage tool
TRENAU triage tool
Overtriage %
59%
23%
N° (95% ICs)
0.59 (0.536–0.644)
0.23 (0.154–0.306)
Undertriage %
1%
3.9%
N° (95% ICs)
0.01 (0.004–0.016)
0.039 (0.029–0.049) geriatric trauma teams and specific triage criteria for
elderly patients and children [19–21].fi Table 6 Overtriage and undertriage rates
ACS-COT triage tool
TRENAU triage tool
Overtriage %
59%
23%
N° (95% ICs)
0.59 (0.536–0.644)
0.23 (0.154–0.306)
Undertriage %
1%
3.9%
N° (95% ICs)
0.01 (0.004–0.016)
0.039 (0.029–0.049) Table 6 Overtriage and undertriage rates Only two other studies that evaluated the efficacy of the
TRENAU grading system and compared it with other pre-
hospital triage tools were found in literature. The TRENAU score is in fact fairly new since it was
implemented only in 2015 by Bouzat et al. [1]. In his study
Bouzat compared a graded group of patients with a non-
graded group of patients within the Northern French Alps
trauma system. The implementation of the TRENAU score
appeared more appropriate in a system involving physi-
cians in the pre-hospital phase opposed to the ACS-COT
triage tool for paramedics. Considering the graded group,
sensitivity showed to be higher (92%) while specificity was
much lower (41%) compared to the current study. In addi-
tion, undertriage and overtriage rates exceeded the threshold Even though criteria based solely on trauma dynamic
and patient's characteristics seem to be the most relevant
cause of overtriage [15, 16], it is important not to under-
estimate the condition of grade C patients since age and
MOI showed to correlate with injury severity [6, 17, 18]. Some studies even suggested the need for specialized 1 3 Updates in Surgery (2022) 74:1739–1747 1746 Declarations 13. Lega F (2020) Economia e management sanitario: Settore, sis-
tema, aziende, protagonisti, vol 177. Milano, Egea Conflict of interest The authors have no conflicts of interest to declare. 14. Chieregato A, Volpi A, Gordini G, et al (2017) How health
service delivery guides the allocation of major trauma
patients in the intensive care units of the inclusive (hub and
spoke) trauma system of the emilia romagna region (Italy) a Research involving Human Participants and/or Animals There was no
contact with patients for data collection. Only anonymised data were
used. 1 3 3 1 Updates in Surgery (2022) 74:1739–1747 1747 cross-sectional study. BMJ Od trauma team activation protocol:
apen 7(9):e016415 cross-sectional study. BMJ Od trauma team activation protocol:
apen 7(9):e016415 20. Hung KK, Yeung JH, Cheung CS, et al (2019) Trauma team
activation criteria and outcomes of geriatric trauma: 10 year
single centre cohort study. Am J Emerg Med 37(3):450–456 p
15. Boyle MJ (2007) Is mechanism of injury alone in the prehospital
setting a predictor of major trauma–a review of the literature. J
Trauma Manag Outcomes 1(1):1–7 g
y
g
21. Thorsen K, Narvestad JK, Tjosevik KE, et al (2021) Changing
from a two-tiered to a one-tiered trauma team activation pro-
tocol: a before– after observational cohort study investigating
the clinical impact of undertriage. Eur J Trauma Emerg Surg. https://doi.org/10.1007/s00068-021-01696-y. g
( )
16. Uleberg O, Vinjevoll O, Eriksson U et al (2007) Overtriage
in trauma– what are the causes? Acta Anaesthesiol Scand
51(9):1178–1183 17. Bardes JM, Benjamin E, Schellenberg M et al (2019) Old age
with a traumatic mechanism of injury should be a trauma team
activation criterion. J Emerg Med 57(2):151–155 22. Girard E, Jegousso Q, Boussat B et al (2019) Preventable deaths
in a French regional trauma system: a six-year analysis of severe
trauma mortality. J Visc Surg 156(1):10–16 23. Giudici R, Lancioni A, Gay H et al (2021) Impact of the COVID-
19 outbreak on severe trauma trends and healthcare system reas-
sessment in lombardia, Italy: an analysis from the regional trauma
registry. World J Emerg Surg 16(1):1–8 18. Recicar J, Barczyk A, Duzinski S et al (2016) Does restraint
status in motor vehicle crash with rollover predict the need for
trauma team presence on arrival? An atomac study. J Pediatr
Surg 51(2):319–322fi 19. Declarations Gianola S, Castellini G, Biffi A et al (2021) Accuracy of pre-
hospital triage tools for major trauma: a systematic review with
meta-analysis and net clinical benefit. World J Emerg Surg
16(1):1–11 Publisher's Note Springer Nature remains neutral with regard to
jurisdictional claims in published maps and institutional affiliations. 1 3 1 3 3
|
https://openalex.org/W4392982454
|
https://link.springer.com/content/pdf/10.1007/s11357-024-01133-z.pdf
|
English
| null |
Modulation of neural gene networks by estradiol in old rhesus macaque females
|
GeroScience
| 2,024
|
cc-by
| 16,845
|
GeroScience (2024) 46:5819–5841
https://doi.org/10.1007/s11357-024-01133-z GeroScience (2024) 46:5819–5841
https://doi.org/10.1007/s11357-024-01133-z ORIGINAL ARTICLE Modulation of neural gene networks by estradiol in old
rhesus macaque females Rita Cervera‑Juanes · Kip D. Zimmerman ·
Larry Wilhelm · Dongqin Zhu · Jessica Bodie ·
Steven G. Kohama · Henryk F. Urbanski Received: 8 January 2024 / Accepted: 12 March 2024 / Published online: 20 March 2024
© The Author(s) 2024 Abstract The postmenopausal decrease in circulat-
ing estradiol (E2) levels has been shown to contrib-
ute to several adverse physiological and psychiatric
effects. To elucidate the molecular effects of E2 on
the brain, we examined differential gene expres-
sion and DNA methylation (DNAm) patterns in the
nonhuman primate brain following ovariectomy
(Ov) and subsequent subcutaneous bioidentical E2
chronic treatment. We identified several dysregulated
molecular networks, including MAPK signaling and
dopaminergic synapse response, that are associated
with ovariectomy and shared across two different brain areas, the occipital cortex (OC) and prefron-
tal cortex (PFC). The finding that hypomethylation
(p = 1.6 × 10−51) and upregulation (p = 3.8 × 10−3) of
UBE2M across both brain regions provide strong evi-
dence for molecular differences in the brain induced
by E2 depletion. Additionally, differential expression
(p = 1.9 × 10−4; interaction p = 3.5 × 10−2) of LTBR in
the PFC provides further support for the role E2 plays
in the brain, by demonstrating that the regulation of
some genes that are altered by ovariectomy may also
be modulated by Ov followed by hormone replace-
ment therapy (HRT). These results present real
opportunities to understand the specific biological
mechanisms that are altered with depleted E2. Given
E2’s potential role in cognitive decline and neuro-
inflammation, our findings could lead to the discov-
ery of novel therapeutics to slow cognitive decline. Rita Cervera-Juanes and Kip D. Zimmerman contributed
equally to this work. Supplementary Information The online version
contains supplementary material available at https://doi.
org/10.1007/s11357-024-01133-z. R. Cervera‑Juanes (*) · L. Wilhelm · D. Zhu · J. Bodie
Department of Translational Neuroscience, Wake
Forest University School of Medicine, 1 Medical Center
Boulevard, Winston‑Salem, NC 27157, USA
e-mail: rcervera@wakehealth.edu
R. Cervera‑Juanes · K. D. Zimmerman
Center for Precision Medicine, Wake Forest University
School of Medicine, 1 Medical Center Boulevard,
Winston‑Salem, NC 27157, USA
K. D. Zimmerman
Department of Internal Medicine, Wake Forest University
School of Medicine, 1 Medical Center Boulevard,
Winston‑Salem, NC 27157, USA Rita Cervera-Juanes and Kip D. Zimmerman contributed
equally to this work. Supplementary Information The online version
contains supplementary material available at https://doi.
org/10.1007/s11357-024-01133-z. Introduction Estradiol (E2) is mainly produced by the ovaries and
is the most physiologically relevant estrogen (oth-
ers include estrone and estriol). E2 exerts control
over numerous biological functions by binding to the
intracellular estrogen receptors alpha and beta (ERα
and ERβ) [1–5] and the G-protein-coupled receptor
GPR30/GPER1 [6].l Among the current preclinical models, nonhu-
man primates (NHPs) are highly valuable for this
research because of their very similar physiology
to humans and because females undergo a typical
menopausal transition, at around 25 years of age
[40]. Our own studies, and others, demonstrated that
immediate Ov-HRT in aged surgically menopausal
rhesus macaque females showed positive effects on
memory [30, 41] and favorable effects on cogni-
tion in aged females under an obesogenic diet [42]. Using brain samples from the same females, we
identified differential gene expression in the occipi-
tal (OC), prefrontal cortex (PFC), hippocampus
(HIP), and amygdala (AMG), with enrichment in
neuroinflammation in OC and HIP, but inhibition in
the AMG with Ov-HRT. Synaptogenesis, circadian
rhythm, mitochondrial dysfunction, mTOR, gluta-
mate, serotonin, GABA, dopamine, epinephrine/
norepinephrine, glucocorticoid receptor signaling,
neuronal NOS, and amyloid processing were exclu-
sively enriched in AMG. As compared to the control
group, most of these signaling pathways are down-
regulated after Ov-HRT, suggesting a protective
effect of E2 in Ov-HRT females under a Western-
style diet. A follow-up study, using the contralateral
AMG from these same females, as well as from a
separate cohort of females under a regular chow
diet, showed that Ov-HRT (immediate treatment)
had lower histological amyloid β plaque density as E2 levels fluctuate throughout the female men-
strual cycle, and as women age and go through natu-
ral menopause, E2 levels progressively decline. As
a reflection of the broad roles of E2, adverse physi-
ological and psychiatric effects accompany the natu-
ral decline of E2 levels. These include vasomotor
symptoms (hot flashes, night sweats) [7, 8], sleep
disturbances [9], somatic symptoms (pains, aches)
[7], cognitive performance decline [10], anxiety [7],
and depression [7]. Such effects are expected given
the E2’s neural role in mediating synaptic plasticity
[11–16], increasing dendritic spine density, long-term
potentiation (LTP) [17], neuroprotective effects [18],
and improving cognitive performance [19, 20]. A lack of E2 right after menopause negatively
affects learning and memory and increases the risk of
neurodegenerative diseases, such as Alzheimer’s dis-
ease (AD) [21, 22]. Modulation of neural gene networks by estradiol in old
rhesus macaque females Keywords Aging · DNA methylation · Estradiol ·
Occipital cortex · Prefrontal cortex · RNA-Seq Keywords Aging · DNA methylation · Estradiol ·
Occipital cortex · Prefrontal cortex · RNA-Seq 1 3
Vol:. (1234567890) Modulation of neural gene networks by estradiol in old
rhesus macaque females Supplementary Information The online version
contains supplementary material available at https://doi.
org/10.1007/s11357-024-01133-z. S. G. Kohama · H. F. Urbanski
Division of Neuroscience, Oregon National Primate
Research Center, Beaverton, OR 97006, USA R. Cervera‑Juanes (*) · L. Wilhelm · D. Zhu · J. Bodie
Department of Translational Neuroscience, Wake
Forest University School of Medicine, 1 Medical Center
Boulevard, Winston‑Salem, NC 27157, USA
e-mail: rcervera@wakehealth.edu R. Cervera‑Juanes (*) · L. Wilhelm · D. Zhu · J. Bodie
Department of Translational Neuroscience, Wake
Forest University School of Medicine, 1 Medical Center
Boulevard, Winston‑Salem, NC 27157, USA
e-mail: rcervera@wakehealth.edu H. F. Urbanski
Division of Reproductive & Developmental Sciences,
Oregon National Primate Research Center, Beaverton,
OR 97006, USA R. Cervera‑Juanes · K. D. Zimmerman
Center for Precision Medicine, Wake Forest University
School of Medicine, 1 Medical Center Boulevard,
Winston‑Salem, NC 27157, USA H. F. Urbanski
Department of Behavioral Neuroscience, Oregon Health &
Science University, Portland, OR 97239, USA K. D. Zimmerman
Department of Internal Medicine, Wake Forest University
School of Medicine, 1 Medical Center Boulevard,
Winston‑Salem, NC 27157, USA 0123456789)
3 ol.: (011 5820 GeroScience (2024) 46:5819–5841 (Ov) and ovohysterectomy (OvH) have been widely used
in preclinical models to investigate the physiological and
neural adaptations that take place when the ovarian E2
supply is removed [18]. It should be noted that, although
there is neuronal production of E2 with important neu-
romodulator and neuroprotective functions [36, 37], its
sources are androgens, which are mostly produced by
the ovaries [38]. Ov and Ov with hormone replacement
therapy (Ov-HRT) are implemented as effective cancer
treatments and are commonly used for benign gyneco-
logic conditions in women 40 years and older [39]. Fur-
thermore, women who underwent Ov showed a higher
risk for the development of dementia, but not if they
received Ov-HRT treatment at the time of surgery [33]. Thus, preclinical surgical menopause animal systems
become excellent models in which to examine the nega-
tive impact of reduced E2 concentrations on molecular
and physiological processes, as well as the potential ben-
efits of hormonal replacement therapy (HRT), in women
who have experienced abrupt E2 removal. Together, this work represents a major step toward
understanding molecular changes in the brain that are
caused by ovariectomy and how E2 treatment may
revert or protect against the negative neuro-related
consequences caused by a depletion in estrogen as
women approach menopause. Introduction The incidence of AD and related
dementias is two to three times higher in women than
in men, and premature menopause increases this risk
[23, 24]. Although surrounded by a lot of debate
[25, 26], there is much evidence to suggest that E2
replacement therapy, administered immediately at
menopause [27–35], may improve cognitive perfor-
mance and reduce risk for onset and development of
AD [3–5, 24]. These effects highlight E2’s role in
preserving cognitive function and overall well-being. Although it does not exactly replicate the natural
decline in E2 as seen in healthy women, ovariectomy 1 3
Vol:. (1234567890) GeroScience (2024) 46:5819–5841 5821 The present study focused on elucidating the
molecular effects of E2 on the primate brain by exam-
ining the differential gene expression and DNAm pat-
terns in OI and following Ov and subsequent E2 treat-
ment. With this model, we have identified a number of
dysregulated molecular networks that are associated
with Ov and are shared across two different regions of
the brain, OC and PFC. The latter is particularly sus-
ceptible to age-associated neuropathologies such as
AD and frontotemporal lobar degeneration (FTLD). Our results suggest extensive molecular differences in
the brain induced by E2 depletion. We have also iden-
tified a number of Ov-related molecular differences
that appear to be modulated by Ov-HRT treatment. These changes offer valuable insights into the neurobi-
ological consequences of E2 deficiency and potential
alternative therapeutics that could be more targeted. compared to placebo females [43]. Furthermore,
our own studies showed that E2 treatment clearly
improved cognitive performance in the same ani-
mals included in the current study [30]. Here, we
sought to elucidate the molecular pathways in two
cognitive-relevant cortical regions that could be
altering brain function and ultimately contributing
to such cognitive benefits. i
It is well-known that E2 binds to ERα and ERβ,
and through the canonical mechanism of action, the
E2–ER complex binds to estrogen-responsive ele-
ments (ERE) at promoters of target genes regulating
their expression. In addition, E2, through binding
to EREs, regulates gene expression through neuroe-
pigenetic regulation [44]. After binding to ERE, the
ligand-bound ERs recruit chromatin remodelers,
such are BAF60 or recruiting CREB-binding protein
(CBP), that regulate DNA and histone modifications
[45–49]. Intrahippocampal E2 increases DNMT3a
and 3b levels and activity, decreases HDAC2 expres-
sion, and increases H3 and H4 acetylation, alter-
ing memory in ovariectomized mice. Introduction Furthermore,
DNMT inhibition by 5-AZA inhibited recognition
memory [50, 51]. These prior findings support the
critical role of DNA methylation (DNAm) in mediat-
ing the effects of E2 in brain function. Ovariectomy and estradiol supplementation Ovariectomy and estradiol supplementation different brain regions. Briefly, the dorsal and ven-
tral banks of the PFC were collected around the pri-
mary sulcus. The OC was removed from the caudal
tip of the occipital lobe. All tissues were wrapped
in aluminum foil, immediately frozen in liquid nitro-
gen, and then archived at − 80 °C. See Fig. 1 for the
experimental design. Before Ov, all of the females were showing menstrual
cycles and were therefore considered to be premeno-
pausal at the beginning of the study. Except for the
ovary intact (OI, n = 4) females, the rest of the ani-
mals were Ov, resulting in E2 levels below 20 pg/
mL. Half of the females (n = 6, Ov-HRT) were started
on HRT ~ 2.5 months post-Ov in the form of subcu-
taneous E2-containing elastomer capsules, which
achieved serum E2 concentrations of 94.3 ± 20.5 pg/
mL; the other half (n = 8) received empty capsules
(placebo), which achieved serum E2 concentrations
of < 30 pg/mL on average across ~ 48 months (age at
end of study, 19.4–23.2 years). Serum E2 was meas-
ured every 2 months and the capsule was replaced or
its size adjusted as deemed appropriate [30]. Euthanasia For stranded RNA-seq, cDNA libraries were pre-
pared with the TruSeq stranded mRNA library prep
Kit (cat# RS-122–2101, Illumina, San Diego, CA,
USA). The resulting libraries were sequenced on a
HiSeq 4000 (Genomics & Cell Characterization Core
Facility, University of Oregon) using a paired-end run
(2 × 150 bases). A minimum of 100 M reads was gen-
erated from each library. After the ~ 4-year duration of the study, a detailed
necropsy protocol previously used in our laboratory
was used to systematically collect brain tissues from
all subjects; other body tissues were made avail-
able to other investigators for unrelated postmor-
tem studies. OI females were at the follicular phase
at necropsy (based on menstrual cycle records and
terminal serum estradiol and progesterone concen-
trations). Briefly, monkeys were sedated with keta-
mine (10 mg/kg) and administered with pentobar-
bital, followed by exsanguination, as recommended
by the 2013 Edition of the American Veterinary
Medical Association Guidelines for the Euthana-
sia of Animals. Brains were quickly removed, and
the right hemisphere was dissected to isolate the DNA/RNA isolation Genomic DNA and RNA were extracted from each
brain region using the All-Prep DNA/RNA/miRNA
Universal kit (Qiagen Sciences Inc., Germantown,
MD) following the manufacturer’s recommendations. Briefly, each brain region was pulverized, and ~ 30 mg
of tissue was used for DNA/RNA isolation. Subjects This study was approved by the Oregon National
Primate Research Center (ONPRC) Institutional
Animal Care and Use Committee and used 18 old
(range = 15.4–19.2 years, at the beginning of the study)
female rhesus macaques (Macaca mulatta). The median
lifespan of this species in captivity is ~ 25 years [58,
59], and in the range of pre- to peri-menopausal endo-
crine status [40, 60]. The animals were socially housed
indoors in paired cages under controlled environmen-
tal conditions—24 °C temperature, 12-h light and 12-h
darkness photoperiods (lights on at 07:00 h) and were
cared for by the ONPRC Division of Comparative
Medicine in accordance with the National Research
Council’s Guide for the Care and Use of Laboratory
Animals. All females were fed a specially prepared bal-
anced and semipurified diet low in phytoestrogens, as
described [30]. The diet was prepared in the ONPRC’s
kitchen bimonthly and kept frozen until use. Daily meals
at ~ 08:00 h and ~ 15:00 h were supplemented with fresh
fruits or vegetables; fresh drinking water was available
ad libitum. Additional enrichment included watching
video programs and interactions with the Behavioral
Science Unit staff and animal care technicians. f
In the present study, we characterize the transcrip-
tomic and methylomic profile of the brain between
elderly ovary intact (OI), Ov females without HRT
under a regular chow diet to determine the molecular
signatures associated with an abrupt depletion of E2
at a peri-menopausal age. We next evaluate if HRT
instituted shortly after Ov can revert any of these
changes to maintain an age-matched molecular pro-
file. We focus on two cortical brain regions associated
with cognitive function and known to be impacted in
aging and dementias. The OC is involved in visuospa-
tial processing, distance and depth perception, color
determination, object and face recognition, and mem-
ory formation [52, 53]. Damage in this area is linked
to hallucinations in dementia patients [54]. The PFC
is a central brain structure involved in working mem-
ory, temporal processing, decision-making, flexibil-
ity, and goal-oriented behavior [55]. In the context of
AD, neurodegeneration and neural damage have been
reported in the PFC and OC, in the latter case with an
association to early onset [56, 57]. 1
ol.: (01 3
123456789) 5822 GeroScience (2024) 46:5819–5841 Differential exon usage (DEU) analysis The DEXSeq pipeline was applied (with the default
parameters) to analyze the aligned reads and obtain
exon-level counts [66]. The exon-level counts were
loaded and inspected in R (4.1.1) as DEXSeq objects
before being normalized with DESeq2’s normaliza-
tion algorithm [64]. DEXSeq, similar to DESeq2,
computes negative binomial regression and shares
dispersion estimation across features. The program is
designed to estimate differences in exon usage within
a particular gene across conditions and will not iden-
tify genes with global differences in exon expression
across a given gene (i.e., the genes identified by DEU
analysis will be different than those identified in the
DE analysis). We computed a model where the pre-
dictors included a dummy variable for the exon, an
indicator variable for whether the animal had under-
gone Ov, as well as the interaction between the two
to assess DEU age associated with Ov. A Benja-
mini–Hochberg FDR was applied to the unadjusted
p-value to account for multiple comparisons [65]. Results with an FDR-adjusted p < 0.05 were retained
for pathway analysis. Top results were also over-
lapped with DMR genes to assess whether changes in
methylation appeared to be affecting the exon usage
of any genes. RNA‑Seq processing and calling Raw sequences were examined for quality using
FastQC [61]. Phred scores (probability a base was
called correctly) and GC content were observed for
abnormalities. After initial quality control of the
reads was completed, alignment was performed using Fig. 1 Experimental design Fig. 1 Experimental design 1 3
. (1234567890) 5823 GeroScience (2024) 46:5819–5841 STAR two-pass alignment [62]. Reads were aligned
to the Macaca mulatta assembly (Mmul_10) and
scored on how well they corresponded to the refer-
ence genome and whether or not they map to multiple
positions across the genome. Low-scoring reads, usu-
ally short and poor-quality reads, were not retained
(mapping quality score < 2). Post-alignment, reads
were quantified at the gene level using the program
featureCounts [63], and DESeq2 [64] was used to
transform gene counts and estimate fold-change val-
ues for differentially expressed genes. Genes that
had either an average read count below 5, missing
values for more than one-third of the samples, or a
coefficient of variation greater than 50 in the control
samples were dropped to remove noisy and lowly
expressed genes. genes was not our main interest. We were primarily
interested in genes that showed expression changes
related to Ov that no longer showed association with
Ov with Ov-HRT treatment. To obtain a general set
of genes that fit this criterion, we filtered the results to
include only genes that showed suggestive evidence
of Ov association (unadjusted p < 0.05) without Ov-
HRT treatment and little evidence of Ov association
with Ov-HRT treatment (unadjusted p > 0.1). From
this reduced set of genes, we further filtered down
to only those results that had at least suggestive evi-
dence (p < 0.05) of interaction between Ov and Ov-
HRT treatment. Differential expression analysis Differential expression analysis was computed in
DESeq2 where the gene expression values were eval-
uated as the outcome in a negative binomial gener-
alized linear model [64]. Whether or not the animal
had undergone Ov was the predictor of the primary
model we computed. This analysis was computed
only in animals that had not received Ov-HRT treat-
ment. Given no significant differences in age between
animals and all of them are all much older females
(~ 25 years) in the same stage of life and the lim-
ited power of the study, we did not adjust for age as
a covariate. A Benjamini–Hochberg false discovery
rate (FDR) was applied to the unadjusted p-value to
account for multiple comparisons [65]. We repeated
this same analysis in animals treated with Ov-HRT. In
addition to these models, to find differences directly
related to Ov, we tested the interaction between Ov-
HRT and Ov. To enable this analysis, we replicated
the control samples (OI) into two groups, one labeled
as having received Ov-HRT treatment, and the other
as having not received HRT treatment. We recognize
that comparing both Ov groups to the same exact
set of controls (OI) will lead to false positives, but
we primarily used the test of interaction as a way
of rapidly identifying genes associated with Ov that
are potentially modified by Ov-HRT treatment. As
expected, Benjamin–Hochberg FDR adjustment left
no interaction results, so we considered interaction
results that met an unadjusted p < 0.05, particularly
because computing the interaction globally for all Genome‑wide DNA methylation profiling Genome‑wide DNA methylation profiling The methylation rates
were calculated as the ratio of methylated reads over
the total number of reads. Methylation rates for CpGs
with fewer than 10 reads were excluded from further
analysis. We next removed CpG sites on sex chro-
mosomes. The remaining ~ 2.8 to 3.0 million CpGs
per sample (OC and PFC, respectively) post-filtering
were used for downstream analyses. of genomic DNA was sheared using a Bioruptor
UCD200 (Diagenode, Denville, NJ, USA), generating
fragments of ~ 180 bp. The Illumina TruSeq Methyl
Capture EPIC library prep kit (Illumina, Santa Clara,
CA, USA) was used following the manufacturer’s
instructions. The EPIC probes interrogate > 3.3 mil-
lion individual CpG sites per sample at a single-
nucleotide resolution. After end repair, 3′ A-tailing,
and adaptor ligation, libraries were pooled in groups
of four, followed by two rounds of hybridization and
capture using the EPIC probes, bisulfite conversion,
and final amplification. After library quantification
using a 2100 Bioanalyzer (Agilent Technologies),
DNA libraries were sequenced (3 libraries per 150PE
lane) on an Illumina HiSeq4000 at the University of
Oregon Genomics and Cell Characterization Core
Facility (GC3F). Subsequently, 5% PhiX DNA (Illu-
mina Inc.) was added to each library pool during clus-
ter amplification to boost diversity. Cases and con-
trol samples were mixed within lanes and sequenced
together on the same flow-cell to reduce the impact of
batch effects on data. The quality of the bisulfite-con-
verted sequencing reads was assessed with FastQC
[61]. Reads were trimmed and aligned to the macaque
reference genome (Mmul10), and then the bisulfite
conversion rates were evaluated, insuring all librar-
ies were > 98% converted, and CpG methylation was
evaluated using Bismark [67]. The methylation rates
were calculated as the ratio of methylated reads over
the total number of reads. Methylation rates for CpGs
with fewer than 10 reads were excluded from further
analysis. We next removed CpG sites on sex chro-
mosomes. The remaining ~ 2.8 to 3.0 million CpGs
per sample (OC and PFC, respectively) post-filtering
were used for downstream analyses. Each nominal p-value was corrected for multiple
comparisons by the Benjamini–Hochberg FDR [65]. In parallel, the nominal p-value was used as input for
Comb-p [71] analysis to identify differentially methyl-
ated regions (DMRs) between OI, Ov, and Ov-HRT as
previously described [72]. Genome‑wide DNA methylation profiling The Comb-p method uses a
sliding window correction where each Wilcoxon p-value
is adjusted by applying the Stouffer–Liptak–Kechris
(slk) method [73–75] of neighboring p-values as
weighted according to the observed autocorrelation
(ACF) at the appropriate lag. Briefly, Comb-p calculates
the ACF at varying distance lags, and then the ACF is
used to perform the slk correction where each p-value
is adjusted according to adjacent p-values as weighted
according to the ACF. Thus, a given p-value will be
pulled lower if its neighbors also have low p-values and
likely remain insignificant if the neighboring p-values
are also high. Next, a q-value score based on the Benja-
mini–Hochberg FDR correction is calculated. The peak-
finding algorithm is used to find enrichment regions. Once the regions are identified, a p-value for each
region can be assigned using the Stouffer–Liptak cor-
rection. Then, the false discovery rate q-value is used to
define the extent of the region, whereas the slk-corrected
p-value and the one-step Sidak multiple-testing correc-
tion [76] are used to define the significance of the region. Parameters for Combwere DIST = 300, STEP = 60, and
THRESHOLD = 0.05. The differential methylation analysis was carried
out by applying a generalized linear mixed effects
model (GLMM) implemented in R package PQLseq
(version 1.2.1) [68, 69] separately for each CpG site. PQLseq models the technical sampling variation in
bisulfite sequencing data with a binomial distribu-
tion. The methylation values were modeled as the
outcome, and the predictor was whether or not an
animal had undergone Ov. The relatedness of the ani-
mals was accounted for by modeling the relatedness
as random effects, and for the test of interaction, we
also modeled Ov-HRT status as an additional predic-
tor and computed the interaction between Ov and Ov-
HRT. Consistent with what was done with the gene Genome‑wide DNA methylation profiling Genomic DNA was checked for quality by electropho-
resis on a 0.7% agarose gel, using a NanoDrop 8000
spectrophotometer (Thermo Scientific, Wilmington,
DE, USA) and quantified using a Qubit (Thermo
Scientific, Wilmington, DE, USA). A total of 50 ng 1
ol.: (0 3
123456789) 5824 GeroScience (2024) 46:5819–5841 expression data, the OI samples were replicated and
relabeled with Ov-HRT and non-Ov-HRT categories
to allow for the test of interaction. The most common
methylation proportion values are 0 and 1, which are
problematic in the context of generalized linear mod-
els with the logit link function (infinite in the logit-
transformed space). We used a common pseudo-count
transformation to avoid both extremes, as recom-
mended, for example, by the developers of PQLseq
[70]. This was done after adding + 1 to the number
of methylated reads and + 2 to the total number of
reads to avoid modeling methylation proportions that
are exactly 0 or 1, as recommended by the authors of
PQLseq [70]. This pseudo-count transformation was
only applied to non-missing values (coverage > 10 ×). of genomic DNA was sheared using a Bioruptor
UCD200 (Diagenode, Denville, NJ, USA), generating
fragments of ~ 180 bp. The Illumina TruSeq Methyl
Capture EPIC library prep kit (Illumina, Santa Clara,
CA, USA) was used following the manufacturer’s
instructions. The EPIC probes interrogate > 3.3 mil-
lion individual CpG sites per sample at a single-
nucleotide resolution. After end repair, 3′ A-tailing,
and adaptor ligation, libraries were pooled in groups
of four, followed by two rounds of hybridization and
capture using the EPIC probes, bisulfite conversion,
and final amplification. After library quantification
using a 2100 Bioanalyzer (Agilent Technologies),
DNA libraries were sequenced (3 libraries per 150PE
lane) on an Illumina HiSeq4000 at the University of
Oregon Genomics and Cell Characterization Core
Facility (GC3F). Subsequently, 5% PhiX DNA (Illu-
mina Inc.) was added to each library pool during clus-
ter amplification to boost diversity. Cases and con-
trol samples were mixed within lanes and sequenced
together on the same flow-cell to reduce the impact of
batch effects on data. The quality of the bisulfite-con-
verted sequencing reads was assessed with FastQC
[61]. Reads were trimmed and aligned to the macaque
reference genome (Mmul10), and then the bisulfite
conversion rates were evaluated, insuring all librar-
ies were > 98% converted, and CpG methylation was
evaluated using Bismark [67]. Network analysis Significant DMRs that had gene annotations, as
well as DE genes and genes demonstrating DEU,
were combined for each brain region. Those gene 1
Vol:. 1 3
:. (1234567890) 5825 GeroScience (2024) 46:5819–5841 and overlapping with exon 1 of the rhesus macaque
LTBR and overlapping with the last exon of MZF1
and in the promoter of UBE2M genes, we cloned
the corresponding macaque DMR regions (LTBR
(PFC), chr11:6,528,520–6,529,383; UBE2M (PFC),
chr19:58,128,610–58,130,108; and (OC), chr19:
58,128,532–58,130,175) in the luciferase reporter
vector pGL3 (Promega) and transfected HEK293
cells (HEK 293, obtained from the Wake Core Repos-
itory). In addition, we transfected cells with the basic
and control pGL3 as negative and positive controls;
respectively. HEK293 cells were seeded in 96-well
plates at 10,000 cells/well density and cultured in
Dulbecco’s modified Eagle medium (DMEM) con-
taining high glucose (4.5 g/L) supplemented with
10% fetal bovine serum (FBS) and maintained at
37 °C and 5% CO2. Twenty-four hours later, cells
were transfected using 90 ng of each corresponding
vector diluted in 10 µL of opti-medium and 0.3 µL
of X-treme GENE HP DNA Transfection Reagent
(Roche). Subsequently, 10 ng of Renilla vector (Pro-
mega) was co-transfected and used for normalization. After 48 h of transfection, Dual-Glo® reagent equal lists were again combined across brain regions to
identify significantly altered genes that replicated
across both OC and PFC. Genes that were DE in
both tissues were only retained if they were altered
in consistent directions across both brain regions. Results were analyzed in KEGG, STRING,
and MCODE to find biological pathways enriched
between groups (Fig. 2; Figs. S2 and S3) [77, 78]. STRING was used to obtain protein–protein interac-
tions for all genes that met our filtering criteria for
each omic analysis. STRING was applied to find
only “high confidence” protein–protein interactions
with options for “text mining” and “neighborhood”
disabled [77]. MCODE was applied to the remaining
interactions to obtain a set of highly interconnected
gene clusters [78], and the biological functions of
each cluster with MCODE scores greater than 4.0
were identified through the KEGG pathways [79]. Differential expression analysis Differential expression analysis In the OC, 14,842 genes met the filtering criteria
while 14,590 genes met the filtering criteria in the
PFC. After computing association testing with each
gene from each of those sets, we identified 150 and
128 differentially expressed (DE) genes associated
with Ov (FDR < 0.05) in the OC and PFC, respec-
tively (Table S1). To explore if Ov-HRT treatment modulates the
effect of Ov, we computed an interaction test between
Ov-HRT treatment and Ov status. Instead of glob-
ally testing for an interaction between Ov-HRT and
Ov status, we were primarily interested in genes
that showed significant expression changes related
to Ov that no longer showed a statistical association
with Ov once the animals received Ov-HRT treat-
ment. To obtain a general set of genes that fit this
criterion, we filtered the results to include only genes
that showed suggestive evidence of Ov association
(unadjusted p < 0.05) without Ov-HRT treatment and
little evidence of Ov association with Ov-HRT treat-
ment (unadjusted p > 0.1). From this reduced set of
884 (PFC) and 663 genes (OC), we further filtered
down to only those results that had suggestive evi-
dence (p < 0.05) of interaction between Ov and Ov-
HRT treatment. In the OC and PFC, we identified 19
and 10 genes, respectively, with suggestive evidence
for Ov-HRT effects (Table 1). Ten of these genes are
known to interact with the estrogen receptors or their
expression being associated with the levels of estro-
gen. These include the transient receptor potential
vanilloid 6 (TRVP6), adrenomedullin (ADM), the glu-
cose transporter 12 (SLC2A12), supervillin (SVIL),
acyl-CoA synthetase 2 (ACSF2), lymphotoxin-B
receptor (LTBR), the hematopoietic PBX-interacting
protein 1 (PBXIP1), the fucosyltransferase 1 (FUT1),
neuromedin U (NMU), and the Purkinje cell protein
4 (PCP4). Furthermore, TRVP6 is known to contain
estrogen-responsive elements in its promoter. In the
OC-specific network, ADM was part of the insulin
secretion pathway. And in the OC/PFC combined Differential exon usage analysis These represent a unique set of genes that are being
alternatively spliced in Ov animals and are mutually
exclusive from the set of DE genes. Among these
genes, HADHB, MDH2, and ELMO1 are known to
interact with ERs and/or have EREs (i.e., ELMO1). No exons were identified as significant in the test of
interaction between Ov and Ov-HTR after correc-
tion for a FDR. Given the massive number of tests
computed, the smaller sample size of the study, and
the additional degrees of freedom needed to test the
interaction between exon and Ov status (see “Meth-
ods” section), it is likely that we are underpowered
to compute DEU analysis at this scale. Nonethe-
less, the 15 unique genes demonstrating significant
DEU were included in the network analysis (Fig. 2). BMS1, CACNA2D3, DAPK1, and RGS6 clustered
into the MAPK signaling and ribosome biogenesis
networks (Fig. 2). In addition, we overlapped each of
the 15 DEU genes with significant DMRs in the OC
(FDR < 0.05 and Sidak < 0.05) because exon usage
can often be influenced by DNAm. We did not iden-
tify any overlapping results between the genes that
were mapped to our significant DMRs and the DEU
genes. Functional promoter/enhancer assay Functional promoter/enhancer assay To determine the promoter or enhancer activ-
ity capacity of two DMRs located in the promoter V l (0123456789)
Fig. 2 Biological networks of ovariectomy-related changes in
gene expression and DNA methylation. Protein interactions
were obtained from STRING’s protein interaction database. MCODE was used to find tightly connected clusters of interac-
tions that are labeled according to functions defined in Gene
Ontology biological processes (enrichment p-value listed). The
color of the nodes reflects the tissue where the gene was identi-
fied while the shape of the nodes reflects which omics analysis
the gene was identified in. The size of the node reflects statis-
tical significance with larger nodes, like UBE2M, being more
significant color of the nodes reflects the tissue where the gene was identi-
fied while the shape of the nodes reflects which omics analysis
the gene was identified in. The size of the node reflects statis-
tical significance with larger nodes, like UBE2M, being more
significant Fig. 2 Biological networks of ovariectomy-related changes in
gene expression and DNA methylation. Protein interactions
were obtained from STRING’s protein interaction database. MCODE was used to find tightly connected clusters of interac-
tions that are labeled according to functions defined in Gene
Ontology biological processes (enrichment p-value listed). The 1
Vol.: (01 3
123456789) 5826 GeroScience (2024) 46:5819–5841 network, PBXIP1 was a member of the AMPK sign-
aling pathway. to the volume of culture medium was added to each
well. After 10 min, firefly luminescence was meas-
ured in a luminometer (SpectraMax iD3). network, PBXIP1 was a member of the AMPK sign-
aling pathway. to the volume of culture medium was added to each
well. After 10 min, firefly luminescence was meas-
ured in a luminometer (SpectraMax iD3). Differential methylation analysis In the OC and PFC, 2.6 million and 2.9 million CpGs
met the filtering (no missing values across sam-
ples and standard deviation of CpG methylation rate
across all samples less than 5%), respectively. After
computing association testing with each CpG from
each of those sets, and aggregating the CpG results
into DMRs, we identified 254 (OC) and 457 (PFC)
significant (Sidak’s p < 0.05) DMRs associated with
Ov (Table S1). 24 DMRs were shared across both
brain regions (Table 2). All of them showed the
same direction of change in DNAm, except for the
E3 ubiquitin-protein ligase, TRIM36, and the SH3-
binding kinase 1, SBK1, that were hypomethylated
in OC. Furthermore, SBK1 is both hypermethyl-
ated and downregulated in the PFC. In the PFC, 5
DMRs showed overlap with DE genes (Table 2). The
UBEM2 (ubiquitin-conjugating enzyme 2) DMR is 1 3
. (1234567890) 1
Vol:. GeroScience (2024) 46:5819–5841 5827 Table 1 Interaction results. Differential methylation analysis Genes that demonstrate suggestive evidence (p < 0.05) for a modifying estradiol result
Genes in bold were differentially expressed and/or differentially methylated across brain areas
FC fold change, Ov ovariectomized, Ov-HRT ovariectomiced with hormone replacement therapy, PFC prefrontal cortex, OC occipi-
tal cortex
Ensembl gene symbol
Gene name
Ov log2FC
Ov p
Ov-HRT log2FC
Ov-HRT p
Interaction p
Tissue
ENSMMUG00000008260
P2RX1*
− 1.65
6.10E-05
0.37
5.81E-01
9.64E-04
OC
ENSMMUG00000016219
TRPV6
0.93
1.58E-02
− 0.43
4.67E-01
2.00E-03
OC
ENSMMUG00000049314
DUSP2
0.61
1.27E-02
− 0.13
6.35E-01
2.46E-03
OC
ENSMMUG00000015308
CAPN6
− 0.92
2.95E-02
0.96
6.39E-02
3.03E-03
PFC
ENSMMUG00000020213
LTBR
− 0.72
2.90E-03
0.18
6.06E-01
4.09E-03
OC
ENSMMUG00000011426
TIMP1
− 0.40
2.97E-02
0.23
1.66E-01
4.16E-03
PFC
ENSMMUG00000063192
SOX17
− 0.98
8.29E-03
0.08
8.63E-01
7.62E-03
OC
ENSMMUG00000000662
GBP3
− 0.43
6.81E-03
0.45
1.51E-01
1.10E-02
PFC
ENSMMUG00000007604
PODN
− 0.77
2.92E-02
0.52
3.32E-01
1.14E-02
OC
ENSMMUG00000016387
ADM
0.61
4.31E-02
− 0.18
5.82E-01
1.29E-02
OC
ENSMMUG00000016027
SERTAD1
0.49
3.25E-02
0.02
9.32E-01
1.63E-02
OC
ENSMMUG00000017327
SLAMF7
− 1.72
1.62E-02
0.35
6.04E-01
1.79E-02
PFC
ENSMMUG00000022921
SLC2A12
− 0.44
1.41E-02
0.06
7.74E-01
1.81E-02
OC
ENSMMUG00000002422
AEBP1
− 0.93
5.65E-03
0.43
3.82E-01
2.63E-02
OC
ENSMMUG00000047632
NA
3.69
1.94E-03
1.44
6.97E-02
2.71E-02
OC
ENSMMUG00000001545
NA
0.64
1.22E-02
− 0.02
9.47E-01
2.94E-02
OC
ENSMMUG00000020346
CPXM2
− 1.15
3.70E-03
0.24
5.62E-01
2.99E-02
OC
ENSMMUG00000025057
SNORD14
0.70
3.37E-02
− 0.30
4.81E-01
3.10E-02
PFC
ENSMMUG00000064609
LIN28B
0.87
1.51E-03
0.11
7.45E-01
3.15E-02
PFC
ENSMMUG00000022741
WFIKKN2
− 0.94
7.49E-03
0.07
8.89E-01
3.33E-02
OC
ENSMMUG00000001374
SVIL
− 0.47
2.61E-02
0.13
6.37E-01
3.56E-02
OC
ENSMMUG00000017236
ACSF2
− 0.31
2.90E-02
0.19
4.00E-01
3.58E-02
PFC
ENSMMUG00000020213
LTBR*
− 0.86
1.90E-04
− 0.04
9.01E-01
3.59E-02
PFC
ENSMMUG00000006576
PBXIP1*
− 0.59
1.35E-04
− 0.12
5.76E-01
4.08E-02
PFC
ENSMMUG00000004020
FUT1
0.58
4.57E-02
− 0.12
6.88E-01
4.19E-02
OC
ENSMMUG00000043692
NMU
1.30
1.41E-03
0.36
1.74E-01
4.21E-02
OC
ENSMMUG00000041181
PCP4
0.72
3.37E-02
− 0.05
8.57E-01
4.36E-02
OC
ENSMMUG00000000984
VILL
1.07
1.81E-02
0.21
5.86E-01
4.51E-02
OC
ENSMMUG00000017360
NT5DC2
− 0.30
3.20E-02
0.19
4.20E-01
4.54E-02
PFC f
y
pf
y
y
FC fold change, Ov ovariectomized, Ov-HRT ovariectomiced with hormone replacement therapy, PFC prefrontal cortex, OC occipi-
tal cortex results, the subregion within this DMR has promoter
activity (Fig. S1), as shown by an increased luciferase
relative light units (RLUs) as compared to the control
vectors (PGL3 enhancer vector, Fig. S1). very strongly replicated across both brain regions,
which again suggests this is unlikely to be a false pos-
itive (Fig. 3). Genes in bold were differentially expressed and/or differentially methylated across brain areas Differential methylation analysis UBE2M also shows suggestive evidence
of differential expression in the OC (Fig. 3). In this
case, the DMR (OC, 157 DMCs; PFC, 145 DMCs) is
hypomethylated in both brain areas with Ov as com-
pared to OI, and the gene is upregulated in the OC of
Ov with or without HRT. The DMR is located ~ 3 kb
upstream of the UBE2M transcription start site and
mapping to the last exon of the MZF1 gene. Differ-
ential expression was detected for UBE2M but not
for the MZF1 gene. According to the reporter assay To explore if Ov-HRT treatment modulates
the effect of Ov, we also computed an interaction
test between Ov-HRT treatment and Ov status. As expected for the sample size and the nature of
combining CpGs to build DMRs, FDR adjustment
left no DMRs. LTBR, as mentioned above, is a DE
gene that is also a significant DMR in the PFC
(Fig. 4). The DMR contains 57 DMCs and maps to 1
ol.: (01 3
123456789) GeroScience (2024) 46:5819–5841 5828 “Effect” stands for either a log2(fold-change) or a difference in methylation rates. A positive
effect is indicative of an increase with ovariectomy, while a negative effect indicates a decrease
with ovariectomy. “Adjusted p” is the p-value adjusted for multiple comparisons, either an FDR
adjustment for DEGs or Sidak’s adjustment for DMRs. Differential methylation analysis For results that are both a DEG and a
DMR in the same tissue, the DMR effect and p-value are listed
DMR differentially methylated region, DEG differentially expressed gene
Gene name
Occipital cortex
Prefrontal cortex
Effect
Adjusted p
Dataset
Effect
Adjusted p
Dataset
UBE2M
− 0.17
1.65E-51
DMR
− 0.13
9.63E-32
DMR
PLD6
− 0.16
1.16E-20
DMR
− 0.11
5.08E-03
DMR
KCNG2
− 0.08
4.74E-19
DMR
− 0.05
1.33E-08
DMR
RNF157
− 0.14
5.94E-12
DMR
− 0.42
1.34E-02
DEG
PPIAL4G
− 0.15
9.66E-11
DMR
− 0.24
5.36E-15
DMR
PTPRU
0.24
2.43E-06
DMR
0.11
7.68E-11
DMR
CHSY1
0.10
4.88E-05
DMR
0.08
8.27E-05
DMR
STX2
− 0.06
6.29E-05
DMR
− 0.13
2.70E-03
DMR
TRIM36
− 0.95
2.78E-04
DEG
0.12
1.03E-02
DMR
KLK4
0.16
8.52E-04
DMR
0.09
1.44E-03
DMR
NCOR2
− 0.08
1.11E-03
DMR
− 0.08
1.37E-03
DMR
SBK1
− 0.10
1.19E-03
DMR
0.10
1.54E-05
DEG & DMR
KIFAP3
0.03
1.35E-03
DMR
0.05
8.88E-03
DMR
GAS6
− 0.22
2.77E-03
DMR
− 0.06
8.21E-03
DMR
HAPLN4
0.15
3.58E-03
DMR
0.10
2.02E-04
DMR
RAB12
− 0.13
5.24E-03
DMR
− 0.08
1.90E-03
DMR
TAF1B
0.11
6.58E-03
DMR
0.12
1.84E-16
DMR
ADGRD1
0.10
7.40E-03
DMR
0.10
2.84E-03
DMR
SGTA
0.07
1.73E-02
DMR
0.09
3.24E-02
DMR
ZBTB7A
− 0.12
2.30E-02
DMR
− 0.83
3.62E-02
DEG
CEP170
− 0.58
3.98E-02
DEG
− 0.15
4.78E-24
DMR
AURKC
0.16
4.21E-02
DMR
0.10
6.35E-05
DMR
NUDT10
0.82
4.29E-02
DEG
1.00
3.82E-02
DEG
MEIS2
− 0.11
4.94E-02
DMR
− 0.09
1.76E-02
DMR “Effect” stands for either a log2(fold-change) or a difference in methylation rates. A positive
effect is indicative of an increase with ovariectomy, while a negative effect indicates a decrease
with ovariectomy. “Adjusted p” is the p-value adjusted for multiple comparisons, either an FDR
adjustment for DEGs or Sidak’s adjustment for DMRs. For results that are both a DEG and a
DMR in the same tissue, the DMR effect and p-value are listed Network analysis the promoter and the first alternative exons of this
gene. The DMR is significantly hypermethylated
in Ov samples as compared to OI samples (aver-
age DNAm = 27% vs 14%; respectively), while in
Ov-HRT, the methylation level was not different to
OI or Ov (average DNAm = 20%). The promoter/
enhancer assays and the position of the DMR sug-
gest that this DMR is functioning as a promoter
(Fig. S1). In agreement with this DMR function-
ing as a promoter, we observed a downregulation
of LTBR with the hypermethylated DMR in Ov
(Fig. 4), while the expression in OI and Ov-HRT
did not differ. Network analysis for each brain region was completed
independently for each tissue. In the OC, we identi-
fied 150 DE genes and 254 DMRs, while we identi-
fied 128 DE genes and 457 DMRs significantly asso-
ciated with Ov in the PFC (Table S1). In the OC, 23
genes clustered into 3 MCODE clusters (MCODE
score > 4.0), and in the PFC, 48 genes clustered into
5 MCODE clusters (MCODE score > 4.0) (Figs. S2
and S3). Pathway analysis shows different pathways
enriched in a tissue-specific manner, highlighting the
particular function of each brain region. For instance, 1
Vol:. 3
(1234567890) GeroScience (2024) 46:5819–5841 5829 Fig. 3 Ovariectomy-related changes in gene expression and
methylation of UBE2M. UBE2M was a gene that demonstrated
significant differences in methylation across both brain regions. In addition, it demonstrated significant differences in expres-
sion in the OC. The DMR and CpG island that was annotated
to UBE2M resides upstream of UBE2M in the same genomic
region as the MZF1 gene and appears to be hypo-methylated
with ovariectomy. Expression of UBE2M increases with ova-
riectomy, regardless of E2 treatment, and average DNA meth-
ylation rates are not significantly altered with E2 treatment Fig. 3 Ovariectomy-related changes in gene expression and
methylation of UBE2M. UBE2M was a gene that demonstrated
significant differences in methylation across both brain regions. In addition, it demonstrated significant differences in expres-
sion in the OC. The DMR and CpG island that was annotated to UBE2M resides upstream of UBE2M in the same genomic
region as the MZF1 gene and appears to be hypo-methylated
with ovariectomy. Expression of UBE2M increases with ova-
riectomy, regardless of E2 treatment, and average DNA meth-
ylation rates are not significantly altered with E2 treatment network analysis (Fig. 2). Network analysis Interestingly, an enrichment
in “dopaminergic synapse” was, almost exclusively,
found in the PFC. Within this network, the family of
kinesin motor proteins, KIF, were primarily down-
regulated (KIF5A-C; KIF1B, KIF4A, KIFAP3) in Ov. Among this family, KIF26B was hypermethylated in
Ov, but DNAm levels went down with Ov-HRT, more
similar to the levels in OI. Network analysis The
corresponding expression of LTBR decreases with ovariectomy
but appears to be rescued to some degree with E2 treatment,
particularly in the occipital cortex. Near the same region of the
DMR lie a number of cis-acting eQTLs associated with LTBR
expression that are also known GWAS variants for a variety of
disorders—many of which are related to immune disorders ylation rates, it appears that the hypermethylation in this region
that is caused by Ov is modulated by estradiol treatment. The
corresponding expression of LTBR decreases with ovariectomy
but appears to be rescued to some degree with E2 treatment,
particularly in the occipital cortex. Near the same region of the
DMR lie a number of cis-acting eQTLs associated with LTBR
expression that are also known GWAS variants for a variety of
disorders—many of which are related to immune disorders Fig. 4 Ovariectomy-related changes in gene expression and
methylation of LTBR. LTBR was a gene that demonstrated
differences in expression associated with ovariectomy across
both brain regions. In addition, it demonstrated significant dif-
ferences in methylation in the PFC (but no significant DMR
was identified in the OC). The DMR and CpG island that was
annotated to LTBR resides just upstream of LTBR and appears
to be hypermethylated with ovariectomy. With average meth- regions or showed significant methylation and
expression effects (Table 2). The network analy-
sis highlights UBE2M, AURKC, SGTA, RAB12,
KIFAP3, NCOR2, TAF1B, ZBTB7A, and KCNG2
as genes with potentially key biological importance
related to Ov across both brain regions (Fig. 2). 17β-estradiol receptor, ESR2, which is hypermethyl-
ated in Ov in the OC. Other key networks worth high-
lighting include those that were enriched for “AMPK
signaling” and several signaling pathways involved
in transcription and translation regulation (i.e., ribo-
some biogenesis; Fig. 2). Interestingly, an enrichment
in “dopaminergic synapse” was, almost exclusively,
found in the PFC. Within this network, the family of
kinesin motor proteins, KIF, were primarily down-
regulated (KIF5A-C; KIF1B, KIF4A, KIFAP3) in Ov. Among this family, KIF26B was hypermethylated in
Ov, but DNAm levels went down with Ov-HRT, more
similar to the levels in OI. 17β-estradiol receptor, ESR2, which is hypermethyl-
ated in Ov in the OC. Other key networks worth high-
lighting include those that were enriched for “AMPK
signaling” and several signaling pathways involved
in transcription and translation regulation (i.e., ribo-
some biogenesis; Fig. 2). Network analysis Of the 891 genes, 127
genes clustered in 7 MCODE clusters (MCODE
score > 4.0). The largest of the clusters contained 67
genes and was strongly enriched for “MAPK signal-
ing”. Genes with differential expression and methyla-
tion from both brain regions are similarly represented
in this pathway. For instance, and within the regula-
tors of the G-protein signaling (RGS) subcluster, all
three members of the R12 family (RGS10, 12, and
14) were hypermethylated in Ov in the PFC. Exon 24
of the RGS6 was downregulated in the OC leading to
the production of different RGS6 transcripts under
Ov conditions (Fig. S4). This brain specificity in the
expression of RGS members may suggest activation/
inhibition of different intracellular signaling cascades
by brain region. One of the strongest results from the
DNAm analyses, UBE2M, appears to play a key role
in the regulation of this network (Fig. 2). UBE2M
interestingly links into the pathway through the in the OC, there was an enrichment in the regulation
of insulin secretion, with UBE2M and ADM being
hypermethylated and the estrogen receptor ESR2
being hypomethylated in Ov. In the PFC, there was
an enrichment in GPCR signaling, which included
the pro-opiomelanocortin POMC, the G-protein sign-
aling 17 (RGS17) or the G-protein subunit gamma 2
and 7 (GNG2 and GNG7), among others. The ankyrin
signaling pathway and the HSP90 chaperone-medi-
ated activation of steroid hormone receptors were
also enriched in the PFC with Ov. These pathways
included ANK1 and ANK3, several dyneins (DYNLL2,
DYNLT3, and DYNC1LI2), and the FK506-binding
protein 4 (FKBP4).f Given that the different brain regions under study
play critical roles in processing cognitive functions,
after filtering and manual curation to identify genes
that were replicated across brain regions for omics,
891 total genes were submitted for global integrated 1
ol.: (01 3
123456789) 3
123456789) 5830 GeroScience (2024) 46:5819–5841 Fig. 4 Ovariectomy-related changes in gene expression and
methylation of LTBR. LTBR was a gene that demonstrated
differences in expression associated with ovariectomy across
both brain regions. In addition, it demonstrated significant dif-
ferences in methylation in the PFC (but no significant DMR
was identified in the OC). The DMR and CpG island that was
annotated to LTBR resides just upstream of LTBR and appears
to be hypermethylated with ovariectomy. With average meth-
ylation rates, it appears that the hypermethylation in this region
that is caused by Ov is modulated by estradiol treatment. Discussion Overall goals 1 3
Vol:. (1234567890) Overall goals In the PFC, ZBTB7A was
downregulated, probably due to the absence of E2
in Ov, and, given the role of this transcription factor
in metabolism [82], this downregulation could have
implications in the regulation of brain metabolism. powered to detect significant differences in gene
expression and DNAm because of our ability to
tightly regulate the environment and obtain high-qual-
ity and highly reproducible brain samples. With this
NHP model of middle-aged female rhesus macaques,
we identified highly translatable molecular changes in
the brain that are linked with the E2 depletion associ-
ated with Ov. Given the natural depletion of E2 that
occurs with age, these results present a novel under-
standing of the role E2 plays in the aging brain and
how long-term immediate HRT treatment (~ 4 years)
can reverse or palliate those changes to maintain the
brain in an age-matched molecular profile. i
Because of the established relationship between E2
levels, its broad molecular regulatory function, and cog-
nition [20, 30], we expected to identify robust molecu-
lar differences in these cognitive-relevant brain regions
associated with Ov. For this reason, we completed
RNA-sequencing to determine the genes that were DE
and genome-wide DNAm sequencing to determine
the genomic regions that were differentially methyl-
ated in the brains of animals that had undergone Ov
for ~ 4 years prior to necropsy. As expected, we detected
a large number of DMRs as well as DE genes—some-
times genes that were both DE and differentially meth-
ylated in their respective promoter/enhancer regions
(Figs. 2 and 3, S1). We note, however, that because
these results are derived from heterogeneous bulk tissue
that contains many cell types, we are unable to attrib-
ute these differences to actual changes in the cell-type
molecular mechanisms linked to Ov. Instead, it is pos-
sible that the changes we identify are driven by differ-
ences in the proportions of particular cell types. For
example, LTBR is a gene that is primarily expressed in
microglial cells. The differences we see in DNAm and
expression between groups may either be attributed to
a change in the abundance of microglia seen between
groups or an actual shift in DNAm levels across cell
types (or even just a large DNAm shift in microglia). A
follow-up study using single-cell RNA-Seq would need
to be completed to determine what the real drivers are
in most of these cases. Overall goals This study examined the molecular effects of estro-
gen depletion at an older age on two different corti-
cal regions, the OC and PFC, implicated in cognitive
function. The OC controls visuospatial processing,
distance and depth perception, color determination,
object and face recognition, and memory forma-
tion [52, 53]. While the PFC is involved in working
memory, temporal processing, decision-making, flex-
ibility, and goal-oriented behavior [55]. Damage to
these brain regions contributes to cognitive decline in
dementia patients. While limited in sample size, this
study leveraged an NHP model that was sufficiently Using the 29 genes from the interaction analy-
sis across both brain regions, pathway enrichment
suggests only two potential networks, HIF-1 sign-
aling (p = 0.0088, LTBR, TIMP1) and neuroactive
ligand-receptor interaction (p = 0.0096, P2RX1,
NMU, ADM), suggesting that these genes and path-
ways may be working together in mediating the
effects of HRT in Ov (Table 1). f
Twenty-four genes showed overlap in consist-
ent directions either across the two brain regions
or both omics. These genes replicated across both 1 3
Vol:. (1234567890) 1 3
Vol:. (1234567890) GeroScience (2024) 46:5819–5841 5831 one gene that was DE and/or differentially methyl-
ated in both brain regions, suggesting a common link
to the same pathways across them. These include the
voltage-gated potassium channel encoded by KCNG2
(proteasome, p = 2.53 × 10−2), the TATA-box-binding
protein-associated factor (TAF1B, ribosome biogen-
esis, p = 8.41 × 10−6), the nuclear receptor corepres-
sor 2 (NCOR2, NOTCH signaling, p = 2.65 × 10−2),
the Ras-related protein 12 (RAB12, AMPK signaling,
p = 2.96 × 10−2), and the kinesin-associated protein
3 (KIFAP3, dopaminergic synapse, p = 2.37 × 10−6). Interestingly, KIFAP3 was downregulated in the PFC
of Ov-HRT females under a chronic obesogenic diet
[80]. In the current study, KIFAP3 was hypermeth-
ylated in the PFC with Ov as compared to OI, while
the DNAm levels were similar to the group receiving
HRT. These results highlight the role of this gene in
the PFC and its responsiveness to the presence of E2,
independently of the diet. Within the basal transcrip-
tion factors network (p = 4.43 × 10−4), the zinc finger
and BTB domain-containing 7A factor (ZBTB7A) are
known to transcriptionally upregulate ERα expression
by directly binding to the ESR1 promoter. In addition,
ERα potentiates ZBTB7A expression via a positive
loop in breast cancer [81]. Overall goals The dopaminergic synapse pathway contained the
KIFAP3 gene which was hypermethylated in both
brain regions and contained a number of other mem-
bers of the kinesin heavy-chain proteins (i.e., KIF1B,
4A, 5A, 5B, and 5C were all downregulated in the
PFC). Kinesins are molecular motors that transport
cargo along microtubules [83]. These kinesin mem-
bers are involved in transporting mitochondria, amy-
loid precursor protein vesicles, GABA and dopamine
receptors, lysosomes, choline acetyltransferase, and
dopamine [84–90]. Our results suggest that with Ov,
there is a downregulation in kinesin expression that
could be contributing to alterations in intracellular
protein trafficking, for instance, dopamine receptors,
that could impact synaptic function. A meta-analysis
showed that AD patients had lower levels of dopa-
mine and dopamine receptors (DRD1 and DRD2) as
compared to controls, which could be contributing to
dysregulation of mood and emotional stability as well
as memory dysfunction [91]. Ov is associated with dramatic changes in neural
signaling pathways Ov is associated with dramatic changes in neural
signaling pathways Pathway analysis revealed several networks of genes
that changed with Ov (Fig. 2) in both brain regions. Importantly, all the identified networks had at least 1
ol.: (01 3
123456789) 5832 GeroScience (2024) 46:5819–5841 spatial memory impairment [99]. UBE2M’s primary
function is as a ubiquitin-protein transferase, involved
in protein neddylation, which is a post-translational
ubiquitin-like protein modification that plays piv-
otal roles in protein quality control and homeostasis. Neddylation, involving UBE2M and other enzymes,
is a critical mechanism for targeting and degrading
misfolded or damaged proteins, helping to main-
tain protein quality control within brain cells [100]. For instance, during the initial stages of AD, ubiq-
uitin–proteasome proteolysis degrades the abnormal
amyloid β peptides and hyperphosphorylated tau. However, as the disease progresses, ubiquitination
becomes ineffective at degrading the accumulating
insoluble proteins [101], and neddylation seems to
contribute to the degradation of these abnormal pro-
teins. In AD patients, neddylation mechanisms are
dysregulated [102], and neurons show accumulation
of the neddylation enzyme NEDD8 in the cytoplasm
and colocalization with ubiquitin and proteasome
components in protein inclusions in the brain [102,
103]. Our results showed hypomethylation in both
brain regions and upregulation of UBE2M in the OC. While additional studies are needed to determine the
cellular localization of UBE2M and its role in pro-
tein neddylation, our results suggest that dysregula-
tion of UBE2M, as well as the proteasome pathway
(Fig. 2), that is associated with E2 depletion may be
a key player mediating the negative effects that lack
of E2 has on brain function [104]. In agreement with
this hypothesis, our recently published analysis of the
amygdala of these same females showed an increased
accumulation of Aβ plaques in Ov females relative
to those receiving E2 [105]. It remains to be deter-
mined wether similar differential expression of Aβ
plaques also occurs in the OC and PFC. Together,
these results emphasize SGTA and UBE2M, through
their direct (ESR2) or indirect connections with the
estrogen system, as critical mediators of a network of
signaling pathways connected to protein degradation
(i.e., proteasome and ubiquitination), synaptic func-
tion (i.e., dopamine), neuroinflammation, and neuro-
degeneration across brain regions [106–109]. One
of
the
strongest
biological
pathways
enriched in Ov was the MAPK signaling (enrich-
ment p = 2.3 × 10−10). Prior evidence showed that
E2 alters cellular components required for maintain-
ing the balance between active and inactive MAPKs. Ov is associated with dramatic changes in neural
signaling pathways For example, crosstalk between phosphorylation and
ubiquitination pathways can exert long-term changes
in cellular processes through multiple feedback loops
that ultimately impact apoptosis and cell proliferation
[92]. Among the members of the MAPK signaling
pathway, the ERK 1 gene (MAPK3) and the ubiquit-
ination gene UBE2M were hypomethylated, and sev-
eral RGS proteins (RGS 10, 12, and 14) were hyper-
methylated in the PFC with Ov. Activation of ERK
1/2 subjected to G-protein-coupled receptor-mediated
signaling is regulated through RGS proteins [93, 94]. Although additional studies analyzing protein levels
and activation/inhibition ratio of these molecules are
needed, our results suggest that RGS protein activ-
ity might be downregulated, leading to less inhibition
of ERK 1, which would be consequently upregulated
(supported by the hypomethylated DMR mapping to
MAPK3). In addition, three genes are differentially
methylated in both brain regions, UBE2M, SGTA, and
AURKC. While little is known about the neural func-
tion of aurora kinase C (AURKC), the SGTA (small
glutamine-rich
tetratricopeptide-repeat-containing
protein alpha) encodes for a molecular co-chaperone
that interacts with steroid receptors and heat shock
chaperone proteins, i.e., HSP90AA1 (Fig. 2), to reg-
ulate steroid receptor signaling, protein folding and
conformation state, receptor stability, subcellular
localization, and intracellular trafficking [95]. A study
in yeast showed that Hsp90 functions to maintain the
estrogen receptors in a high-affinity hormone-binding
conformation [96]. Interestingly, UBE2M involve-
ment in the MAPK signaling network is through
its interaction with the ERβ gene (ESR2), that was
hypermethylated in Ov (Fig. 2). Given its robust asso-
ciation with Ov across both brain regions and both
the transcriptome and methylome, UBE2M is a strong
result that should be heavily considered for further
investigation. We confirmed that the DMR proximal
to UBE2M functions as a promoter (Fig. S1), sug-
gesting that changes in DNAm in this DMR may
contribute to regulating its expression. Alterations
in the ubiquitination system have been extensively
linked to AD, with mutations in UBB + 1 gene trig-
gering neuronal degeneration [97 98] and linked to spatial memory impairment [99]. UBE2M’s primary
function is as a ubiquitin-protein transferase, involved
in protein neddylation, which is a post-translational
ubiquitin-like protein modification that plays piv-
otal roles in protein quality control and homeostasis. Neddylation, involving UBE2M and other enzymes,
is a critical mechanism for targeting and degrading
misfolded or damaged proteins, helping to main-
tain protein quality control within brain cells [100]. Ov is associated with dramatic changes in neural
signaling pathways For instance, during the initial stages of AD, ubiq-
uitin–proteasome proteolysis degrades the abnormal
amyloid β peptides and hyperphosphorylated tau. However, as the disease progresses, ubiquitination
becomes ineffective at degrading the accumulating
insoluble proteins [101], and neddylation seems to
contribute to the degradation of these abnormal pro-
teins. In AD patients, neddylation mechanisms are
dysregulated [102], and neurons show accumulation
of the neddylation enzyme NEDD8 in the cytoplasm
and colocalization with ubiquitin and proteasome
components in protein inclusions in the brain [102,
103]. Our results showed hypomethylation in both
brain regions and upregulation of UBE2M in the OC. While additional studies are needed to determine the
cellular localization of UBE2M and its role in pro-
tein neddylation, our results suggest that dysregula-
tion of UBE2M, as well as the proteasome pathway
(Fig. 2), that is associated with E2 depletion may be
a key player mediating the negative effects that lack
of E2 has on brain function [104]. In agreement with
this hypothesis, our recently published analysis of the
amygdala of these same females showed an increased
accumulation of Aβ plaques in Ov females relative
to those receiving E2 [105]. It remains to be deter-
mined wether similar differential expression of Aβ
plaques also occurs in the OC and PFC. Together,
these results emphasize SGTA and UBE2M, through
their direct (ESR2) or indirect connections with the
estrogen system, as critical mediators of a network of
signaling pathways connected to protein degradation
(i.e., proteasome and ubiquitination), synaptic func-
tion (i.e., dopamine), neuroinflammation, and neuro-
degeneration across brain regions [106–109]. Immediate estradiol supplementation ameliorates
molecular alterations linked to Ov Immediate estradiol supplementation ameliorates
molecular alterations linked to Ov After identifying molecular changes associated with
Ov, we were interested in understanding whether 1 3
l:. (1234567890) 1
Vol:. GeroScience (2024) 46:5819–5841 5833 immediate (right after Ov) and long-term (over
4 years) E2 treatment reverse any of the changes
linked to Ov. By identifying Ov-linked effects ame-
liorated by E2 treatment, the biological pathways
that are directly impacted by estrogen levels become
clearer. While E2 treatment ameliorates some of the
behavioral and physiological changes seen following
menopause in humans, the effects of E2 treatment
on cognitive performance are still mixed [18]. Such
inconclusive results could be due to the differences
in HRT timing, diet, and other confounding vari-
ables common in human studies. Contrarily, results
in NHPs on the beneficial effects of HRT on cogni-
tion are more consistent [30, 41], probably due to the
controlled experimental conditions. For instance, a
battery of behavioral testing conducted in the same
females starting at 1 week following Ov and con-
tinuing for 12 months into the experimental design
showed performance recovery in delayed response
and visuospatial cueing tasks following E2 supple-
mentation [30]. Thus, by understanding the specific
genes altered by E2 in the brain with this animal
model, we can begin to understand the biological
pathways estrogen impacts and thereby develop more
targeted therapeutics that specifically improve brain
function and ultimately cognitive performance.i intracellular stocks in the endoplasmic reticulum. The
concentration of Ca2+ in the cytosol is relatively low
at the resting stage but shows a gradual increase after
activation [113]. However, sustained intracellular
Ca2+ disturbances are immediate causes of neurode-
generative diseases [114]. TRPV1 has been associ-
ated with inflammation in AD; however, no informa-
tion on the role of TRPV6 in aging is available. In the
OC, TRPV6 was upregulated with Ov, and the levels
decreased with HRT. These results disagree with pre-
viously reported findings in the hippocampus [112]
and could stem from brain region–specific differences
in TRPV6 regulation. Nonetheless, our results suggest
that without E2, there is an upregulation in TRPV6,
and given its higher permeability to Ca2+ [115], this
could lead to neuroinflammation. Importantly, E2
supplementation returns these levels to those of age-
matched controls. Adrenomedullin (ADM) is a peptide exerting
important functions in the periphery and CNS. Immediate estradiol supplementation ameliorates
molecular alterations linked to Ov In
the uterus, studies revealed that ADM promoter is
recognized by the ER in a ligand-dependent man-
ner and that there is a positive correlation between
estrogen levels and ADM gene expression [116–119]. In the CNS, ADM is widely expressed through the
brain [120], and its plasma levels increase with nor-
mal aging [121]. ADM is known to contribute to the
activation of the hypothalamic–pituitary–adrenal
(HPA) axis through the release of CRH [122], thus
contributing to regulating hormonal responses to
stress. Moreover, it acts as a neuromodulator through
mechanisms dependent and independent of NMDA
receptors [123]. In the brain of AD patients and in
mouse models of AD, ADM seems to be associated
with activated astrocytes in the vicinity of Aβ plaques
[124, 125]. In the OC, ADM-relative expression lev-
els increased after Ov, but its levels showed no sig-
nificant differences from Ov-HRT, suggesting that a
hypothetical reduction in Aβ plaques with E2 would
then result in lower ADM levels. In the OC and PFC, we identified 19 and 10 genes,
respectively, with suggestive evidence for E2 effects,
where E2 appears to restore expression levels to a
level that is similar to OI (Table 1). Among these 29
genes, the following are known to interact with the
estrogen receptors, or its expression being associated
with the levels of estrogen. TRPV6 is a Ca2+-selective
channel that contains an ERE in its promoter [110],
and its regulation by estrogen has been proposed in
peripheral tissues [111] and the CNS, including the
cortex [112]. TRPs participate in neurite outgrowth,
receptor signaling, and excitotoxic cell death in
the CNS. Furthermore, in mice, hypothalamic lev-
els of Trpv6 are susceptible to estradiol oscillations
through the estrous cycle, with higher Trpv6 levels
at the proestrous phase where estrogen levels are at
their highest [112]. Upregulation of intracellular Ca2+
and elevated Ca2+ influx via voltage-dependent Ca2+
channels have been reported to cause age-related
alterations in neuronal activation. The diverse func-
tions of neurons are dependent on Ca2+ signaling,
which is influenced by the influx of Ca2+ from the
extracellular environment or the release of Ca2+ from AD is characterized by cerebral glucose hypome-
tabolism. Glucose transporters are integral membrane
proteins responsible for moving glucose from the
bloodstream into cells. Extensive evidence has shown
that non-vascular glucose transporters are altered in
AD brains, causing glucose starvation and acceler-
ated cognitive decline. Immediate estradiol supplementation ameliorates
molecular alterations linked to Ov In breast cancer cell lines, the
insulin-sensitive glucose transporter 12 (SLC2A12)
protein levels are increased with E2 [126], suggesting 1
ol.: (01 3
123456789) 3
123456789) 5834 GeroScience (2024) 46:5819–5841 a regulatory effect of estradiol on glucose metabo-
lism. In the OC, SLC2A12 (or GLUT12), which is
expressed in cortical astrocytes [127], was found to
be downregulated with Ov but normalized after E2
treatment. These results suggest that the lack of E2
may lead to glucose dysregulation and impairment
in cognitive function. In addition to using glucose
as an energy source, intracellular glucose is used for
N-linked glycan biosynthesis, which is an under-
studied part of neural glucose metabolism. These
N-glycans are terminal modifications in proteins (i.e.,
voltage-gated ion channels) that are required for pro-
tein function, from regulating action potential, neuro-
transmitter release, and synaptic transmission [128,
129], through the turnover and stability of brain gly-
coproteins such as synapsin 1[130]. The fucosyltrans-
ferase 1 (FUT1), which expression is mediated by the
E2 [131], is one of the glycosylation enzymes that
are required for synapse formation and neurite out-
growth. Global changes in N-linked glycoprotein pro-
files have been identified in CSF from AD patients,
leading to its potential use as a biomarker for AD pro-
gression [132]. In our study, FUT1 was upregulated
in the OC with Ov, but normalized in Ov-HRT; sug-
gesting that Ov may be associated with aberrations in
the N-glycoproteome. promoted the synthesis of Aβ, increased Aβ deposi-
tion, plaque formation, affected Aβ protein precur-
sor processing, and worsened learning and memory
impairment in the transgenic AD mouse model
[138]. Our results identified an upregulated PCP4
in Ov, which would support the development of Aβ
pathology, while Ov-HRT females had lower levels
of PCP4, suggesting that E2 offers some protection. f
The hematopoietic PBX-interacting protein 1
(PBXIP1) is a transcription factor involved in extra-
cellular matrix organization and chromatin regula-
tion. It is an ER-interacting protein that regulates
estrogen-mediated breast cancer cell prolifera-
tion and tumorigenesis [139]. A recent integrative
multi-omics analysis on the human PFC found
PBXIP1 being statistically associated with the three
main neuropathological AD traits (extracellular
Aβ plaques, phosphorylated-tau neuronal tangles,
and their density). It has been suggested that these
effects are mediated through PBXIP1’s role in astro-
cytes [140, 141] and hippocampal neurons where
its expression is linked to neuronal degeneration in
postmenopausal women [142]. 1 3
Vol:. (1234567890) Conclusions Enrichment analysis of these 29 DE genes revealed
two small networks that were significant: HIF-1 sign-
aling (p = 0.0088, LTBR, TIMP1) and neuroactive
ligand-receptor interaction (p = 0.0096, P2RX1, NMU,
ADM). HIF-1 signaling has been previously linked to
estradiol [143] and has been shown to regulate neu-
roinflammation in traumatic brain injury [144]. This
network contains the LTBR), which is one of our
most promising results that demonstrates differential
expression effects in both brain areas. We also iden-
tified a DMR mapping to LTBR in the PFC (Fig. 3). We confirmed that the DMR proximal to LTBR is a
promoter (Fig. S2). LTBR has been mostly studied
in lymphoid tissues, with data supporting its role as
a regulator of inflammation [145], a process known
to be modulated by estrogen as well [146]. In fact,
LTBR signaling can activate both canonical and alter-
native NF-κβ signaling to induce proinflammatory
chemokines and cytokines [147]. Although studies
on the role of LTBR in brain function remain mostly
unexplored, a recent transcriptomic study identified
LTBR as a neuroinflammatory biomarker of AD [148]. More specifically, it has been recently shown that
LTBR is upregulated in microglia of aged (mean age
of 94 years) brains as compared to middle-aged (mean
age of 53 years) human brains [149], which could sug-
gest that upregulated LTBR levels might be mediat-
ing age-related neuroinflammation through microglial
function. However, the relationship between LTBR
expression/function and microglial activation status
remains unknown, and additional studies are needed to
determine how or whether LTBR mediates microglial
activation. Others have shown that estrogen can inac-
tivate microglia through the ERβ [150]. Our results
show increased DNAm levels and decreased levels of
LTBR expression with Ov (Fig. 3), with LTBR expres-
sion levels reverting to OI levels with HRT. As dis-
cussed earlier, it is possible that the changes in DNAm
and gene expression seen with Ov-HRT are associated
with a change in the proportions of cell types, namely
microglia, with Ov-HRT. This is a limitation in this
study, and we cannot exclude that such molecular
changes are due to a change in the number of micro-
glia present, their activation status, or a combination
of all. Immediate estradiol supplementation ameliorates
molecular alterations linked to Ov Indeed, some stud-
ies have demonstrated that PBXIP1 is a scaffolding
protein that can bind ERs and regulate E2 signal-
ing cascades [47, 50]. Short-term E2 treatment
enhanced ER interaction with the PBXIP1–micro-
tubule complex and resulted in cytoplasmic locali-
zation, while microtubule depolymerization dis-
rupted the PBXIP1–ER–microtubule complex and
increased ER nuclear transcriptional activity, sug-
gesting that ER interaction with PBXIP1 promotes
cytoplasmic localization of ERs [25, 48, 51]. In our
study, PBXIP1 was downregulated by Ov (Fig. 2)
but normalized in Ov-HRT, suggesting that when
E2 is present in sufficient amounts, PBXIP1 is criti-
cal to shuttling E2 between the nucleus and cytosol
[48] so that E2 can exert its functions.i Neuromedin U (NMU) is a gonadal peptide, which
receptor, neuromedin U2 is expressed throughout
the brain [133]. It is suggested that NMU has a pro-
tective role in neurodegenerative diseases [134]. In
particular, NMU protects neuronal cell viability and
inhibits inflammation-induced memory impairments
[134]. Others have shown that estradiol levels follow-
ing Ov in rats resulted in alterations in NMU levels
in the brain [135, 136]. Although this effect seems to
be estradiol dose-dependent, with low estradiol lev-
els increasing NMU expression levels, this increment
was only previously observed with progesterone sup-
plementation [135, 136]. Our results show the same
trend, with higher levels of NMU in Ov, but lower
levels in the group receiving E2. A possible explana-
tion for these results could be that if there is higher
neuroinflammation with Ov, NMU might be upregu-
lated to counteract that inflammation. While the specific function of these genes in the
cortex and how E2 is regulating their function remain
to be investigated, our results indicate that Ov might
be leading to neuroinflammation, Aβ plaque forma-
tion, and cognitive decline through glucose metabo-
lism, intracellular Ca2+ levels, and microtubule and
N-glycosylation disruptions, importantly. Ov-HRT
treatment might delay/prevent AD-related pathol-
ogy by altering the expression levels of these genes
(and likely associated pathways) to normalize them to
those levels of age-matched controls. l
The Purkinje cell protein 4 (PCP4) is a calmo-
dulin-binding anti-apoptotic peptide in neural cells
and an estrogen-inducible peptide in breast cancer
cell lines [137]. A recent study showed that PCP4
was upregulated in transgenic mice, and PCP4 1 3
ol:. (1234567890) GeroScience (2024) 46:5819–5841 5835 Conclusions Nonetheless, it is evident from our results that
understanding the role of LTBR in microglia func-
tion would be of critical importance to understanding This work highlights the importance of multiple
omics across multiple brain regions to identify robust
molecular signals linked to E2 regulation in the aging
brain. By including multiple omics and more than
one brain area, we were able to home in on biological
effects that replicated across brain regions and thereby
reduce noise from false positives. Importantly, this
work represents a major step toward understand-
ing molecular changes in the brain that are linked to
Ov and how HRT may revert or protect against the
negative consequences of a depletion in E2. Our find-
ings indicate that the molecular profile of the cortical
regions (OC and PFC) in the absence of E2 may lead
to neuroinflammation and neuropathology compatible
with AD disease by the dysregulation of intracellular
axonal protein trafficking, protein ubiquitination, glu-
cose metabolism, intracellular Ca2+ levels, and micro-
tubule and N-glycosylation disruptions that are nec-
essary for proper function of brain cells. Immediate
HRT reverted these effects, at least partially, by bring-
ing the epigenetic/transcriptomic profile of genes
involved in neuroinflammation and other unknown
functions, to that profile of age-matched OI females. It remains to be known if the molecular profile of the
brain after HRT is more similar to that of younger OI
brains, which we are currently investigating. Nonethe-
less, our results present real opportunities to discover
novel therapeutics to slow cognitive decline caused
by the lack of E2. Although our work needs further
validation with larger cohorts, it also requires focused
investigations of some of the genes we identified with
very robust effects like LTBR and UBE2M. Moreover,
because our studies were performed in an NHP pre-
clinical animal model of human aging, the findings
may have more immediate translational potential for
clinical studies involving postmenopausal women. Author contribution SGK, HFU, and RCJ designed the
experiments. SGK and HFU provided the rhesus macaque
samples. RCJ isolated all the DNA and RNA samples and
prepared all the omics libraries. DZ and JB conducted the
reporter assays. DNA methylation and gene expression bioin-
formatic analyses were performed by KDZ and LJW, and KDZ
advised and conducted the appropriate statistical analyses to be
performed in all the experiments. SGK, HFU, KDZ, and RCJ
wrote the manuscript with the help of all the authors. Author contribution SGK, HFU, and RCJ designed the
experiments. SGK and HFU provided the rhesus macaque
samples. RCJ isolated all the DNA and RNA samples and
prepared all the omics libraries. DZ and JB conducted the
reporter assays. DNA methylation and gene expression bioin-
formatic analyses were performed by KDZ and LJW, and KDZ
advised and conducted the appropriate statistical analyses to be
performed in all the experiments. SGK, HFU, KDZ, and RCJ
wrote the manuscript with the help of all the authors. Competing interests The authors declare no competing inter-
ests. Competing interests The authors declare no competing inter-
ests. 9. Kravitz HM, Janssen I, Bromberger JT, Matthews KA,
Hall MH, Ruppert K, et al. Sleep trajectories before and
after the final menstrual period in the study of women’s
health across the nation (SWAN). Curr Sleep Med Rep. 2017;3(3):235–50. 10. Lamar M, Resnick SM, Zonderman AB. Longitudinal
changes in verbal memory in older adults: distinguish-
ing the effects of age from repeat testing. Neurology. 2003;60(1):82–6. Open Access This article is licensed under a Creative Com-
mons Attribution 4.0 International License, which permits
use, sharing, adaptation, distribution and reproduction in any
medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Crea-
tive Commons licence, and indicate if changes were made. The
images or other third party material in this article are included
in the article’s Creative Commons licence, unless indicated
otherwise in a credit line to the material. If material is not
included in the article’s Creative Commons licence and your
intended use is not permitted by statutory regulation or exceeds
the permitted use, you will need to obtain permission directly
from the copyright holder. To view a copy of this licence, visit
http://creativecommons.org/licenses/by/4.0/. 11. Boulware MI, Heisler JD, Frick KM. The memory-
enhancing effects of hippocampal estrogen receptor acti-
vation involve metabotropic glutamate receptor signal-
ing. J Neurosci. 2013;33(38):15184–94. 12. Carrer HF, Araque A, Buno W. Estradiol regulates the
slow Ca2+-activated K+ current in hippocampal pyrami-
dal neurons. J Neurosci. 2003;23(15):6338–44. 13. Fugger HN, Kumar A, Lubahn DB, Korach KS, Foster
TC. Examination of estradiol effects on the rapid estra-
diol mediated increase in hippocampal synaptic transmis-
sion in estrogen receptor alpha knockout mice. Neurosci
Lett. 2001;309(3):207–9. 14. Kim MT, Soussou W, Gholmieh G, Ahuja A, Tanguay
A, Berger TW, et al. 17beta-Estradiol potentiates field
excitatory postsynaptic potentials within each subfield of
the hippocampus with greatest potentiation of the asso-
ciational/commissural afferents of CA3. Neuroscience. 2006;141(1):391–406. Conclusions Author contribution SGK, HFU, and RCJ designed the
experiments. SGK and HFU provided the rhesus macaque
samples. RCJ isolated all the DNA and RNA samples and
prepared all the omics libraries. DZ and JB conducted the
reporter assays. DNA methylation and gene expression bioin-
formatic analyses were performed by KDZ and LJW, and KDZ
advised and conducted the appropriate statistical analyses to be
performed in all the experiments. SGK, HFU, KDZ, and RCJ
wrote the manuscript with the help of all the authors. 3
0123456789) 1
ol.: (01 5836 GeroScience (2024) 46:5819–5841 Funding Open access funding provided by the Caroli-
nas Consortium. National Institutes of Health Grants: P30
AG066518, P51 OD011092, and RF1 AG062220. Funding Open access funding provided by the Caroli-
nas Consortium. National Institutes of Health Grants: P30
AG066518, P51 OD011092, and RF1 AG062220. 6. Thomas P, Pang Y, Filardo EJ, Dong J. Identity of
an estrogen membrane receptor coupled to a G pro-
tein in human breast cancer cells. Endocrinology. 2005;146(2):624–32. ( )
7. Freeman EW, Sammel MD, Lin H, Gracia CR, Pien GW,
Nelson DB, et al. Symptoms associated with menopausal
transition and reproductive hormones in midlife women. Obstet Gynecol. 2007;110(2 Pt 1):230–40. Data availability The data that support the findings of this
study are available on SRA under the following accession num-
ber: PRJNA1088413. 8. Gold EB, Colvin A, Avis N, Bromberger J, Green-
dale GA, Powell L, et al. Longitudinal analysis of the
association between vasomotor symptoms and race/
ethnicity across the menopausal transition: study of
women’s health across the nation. Am J Public Health. 2006;96(7):1226–35. References 1. Kuiper GG, Carlsson B, Grandien K, Enmark E, Hag-
gblad J, Nilsson S, et al. Comparison of the ligand
binding specificity and transcript tissue distribution
of estrogen receptors alpha and beta. Endocrinology. 1997;138(3):863–70. 15. Wong M, Moss RL. Electrophysiological evidence for a
rapid membrane action of the gonadal steroid, 17 beta-
estradiol, on CA1 pyramidal neurons of the rat hip-
pocampus. Brain Res. 1991;543(1):148–52. 2. Kuiper GG, Gustafsson JA. The novel estrogen receptor-
beta subtype: potential role in the cell- and promoter-spe-
cific actions of estrogens and anti-estrogens. FEBS Lett. 1997;410(1):87–90. 16. Wong M, Moss RL. Long-term and short-term elec-
trophysiological effects of estrogen on the synaptic
properties of hippocampal CA1 neurons. J Neurosci. 1992;12(8):3217–25.f 3. Bagger YZ, Tanko LB, Alexandersen P, Qin G, Chris-
tiansen C, Group PS. Early postmenopausal hormone
therapy may prevent cognitive impairment later in life. Menopause. 2005;12(1):12–7. 17. Babayan AH, Kramar EA. Rapid effects of oestrogen on
synaptic plasticity: interactions with actin and its signal-
ling proteins. J Neuroendocrinol. 2013;25(11):1163–72. 4. Hogervorst E, Williams J, Budge M, Riedel W, Jolles
J. The nature of the effect of female gonadal hormone
replacement therapy on cognitive function in post-
menopausal women: a meta-analysis. Neuroscience. 2000;101(3):485–512. 18. Russell JK, Jones CK, Newhouse PA. The role of estro-
gen in brain and cognitive aging. Neurotherapeutics. 2019;16(3):649–65. 19. Phan A, Lancaster KE, Armstrong JN, MacLusky NJ,
Choleris E. Rapid effects of estrogen receptor alpha and
beta selective agonists on learning and dendritic spines in
female mice. Endocrinology. 2011;152(4):1492–502. 5. Yesufu A, Bandelow S, Hogervorst E. Meta-analyses
of the effect of hormone treatment on cognitive func-
tion in postmenopausal women. Womens health (Lond). 2007;3(2):173–94. 20. Luine VN. Estradiol and cognitive function: past, present
and future. Horm Behav. 2014;66(4):602–18. 1
Vol:. ( 3
(1234567890) GeroScience (2024) 46:5819–5841 5837 21. Vina J, Lloret A. Why women have more Alzheimer’s
disease than men: gender and mitochondrial toxicity of
amyloid-beta peptide. J Alzheimers Dis. 2010;20(Suppl
2):S527–33. 37. Lu Y, Sareddy GR, Wang J, Wang R, Li Y, Dong Y, et al. Neuron-derived estrogen regulates synaptic plasticity and
memory. J Neurosci. 2019;39(15):2792–809. 38. Brzozowska M, Lewinski A. Changes of androgens
levels in menopausal women. Prz Menopauzalny. 2020;19(4):151–4. 22. Zarate S, Stevnsner T, Gredilla R. Role of estrogen and
other sex hormones in brain aging. Neuroprotection and
DNA repair. Front Aging Neurosci. 2017;9:430. 39. References Jacoby VL, Grady D, Wactawski-Wende J, Manson JE,
Allison MA, Kuppermann M, et al. Oophorectomy vs
ovarian conservation with hysterectomy: cardiovas-
cular disease, hip fracture, and cancer in the women’s
health initiative observational study. Arch Intern Med. 2011;171(8):760–8. p
g g
23. Pike CJ. Sex and the development of Alzheimer’s dis-
ease. J Neurosci Res. 2017;95(1–2):671–80. 24. Song YJ, Li SR, Li XW, Chen X, Wei ZX, Liu QS, et al. The effect of estrogen replacement therapy on Alzhei-
mer’s disease and parkinson’s disease in postmenopausal
women: a meta-analysis. Front Neurosci. 2020;14:157. 40. Downs JL, Urbanski HF. Neuroendocrine changes in
the aging reproductive axis of female rhesus macaques
(Macaca mulatta). Biol Reprod. 2006;75(4):539–46. 25. O’Brien J, Jackson JW, Grodstein F, Blacker D, Weuve J. Postmenopausal hormone therapy is not associated with
risk of all-cause dementia and Alzheimer’s disease. Epi-
demiol Rev. 2014;36(1):83–103. 41. Baxter MG, Santistevan AC, Bliss-Moreau E, Morrison
JH. Timing of cyclic estradiol treatment differentially
affects cognition in aged female rhesus monkeys. Behav
Neurosci. 2018;132(4):213–23. 26. Shumaker SA, Legault C, Rapp SR, Thal L, Wallace RB,
Ockene JK, et al. Estrogen plus progestin and the inci-
dence of dementia and mild cognitive impairment in
postmenopausal women: the women’s health initiative
memory study: a randomized controlled trial. JAMA. 2003;289(20):2651–62. 42. Zimmerman B, Kundu P, Liu Z, Urbanski HF, Kroenke
CD, Kohama SG, et al. Longitudinal effects of immedi-
ate and delayed estradiol on cognitive performance in
a spatial maze and hippocampal volume in menopau-
sal macaques under an obesogenic diet. Front Neurol. 2020;11:539. 27. Davey DA. Menopausal hormone therapy: a better and
safer future. Climacteric. 2018;21(5):454–61. 43. Appleman ML, Nilaver BI, Weiss A, Kohama SG,
Urbanski HF. Effect of hormone replacement therapy on
amyloid beta (Aβ) plaque density in the rhesus macaque
amygdala. Front Aging Neurosci. 2024;15:1326747. 28. Espeland MA, Rapp SR, Shumaker SA, Brunner R,
Manson JE, Sherwin BB, et al. Conjugated equine estro-
gens and global cognitive function in postmenopausal
women: women’s health initiative memory study. JAMA. 2004;291(24):2959–68. 44. Kovacs T, Szabo-Meleg E, Abraham IM. Estradiol-
induced epigenetically mediated mechanisms and regula-
tion of gene expression. Int J Mol Sci. 2020;21(9):3177. 29. Khadilkar SS. Post-reproductive health: window of
opportunity for preventing comorbidities. J Obstet
Gynaecol India. 2019;69(1):1–5. 45. Marino M, Galluzzo P, Ascenzi P. Estrogen signaling
multiple pathways to impact gene transcription. Curr
Genomics. 2006;7(8):497–508. 30. References featureCounts: an effi-
cient
general
purpose
program
for
assigning
sequence reads to genomic features. Bioinformatics. 2014;30(7):923–30. 81. Molloy ME, Lewinska M, Williamson AK, Nguyen TT,
Kuser-Abali G, Gong L, et al. ZBTB7A governs estro-
gen receptor alpha expression in breast cancer. J Mol Cell
Biol. 2018;10(4):273–84. 64. Love MI, Huber W, Anders S. Moderated estimation
of fold change and dispersion for RNA-seq data with
DESeq2. Genome Biol. 2014;15(12):550. 82. Ren R, Horton JR, Chen Q, Yang J, Liu B, Huang Y,
et al. Structural basis for transcription factor ZBTB7A
recognition of DNA and effects of ZBTB7A somatic
mutations that occur in human acute myeloid leukemia. J
Biol Chem. 2023;299(2):102885. 65. Benjamini Y, Hochberg Y. Controlling the false discov-
ery rate: a practical and powerful approach to multiple
testing. J R Stat Soc Ser B. 1995;57(1):285–300.f 83. De Vos KJ, Grierson AJ, Ackerley S, Miller CC. Role
of axonal transport in neurodegenerative diseases. Annu
Rev Neurosci. 2008;31:151–73. 66. Anders S, Reyes A, Huber W. Detecting differen-
tial usage of exons from RNA-seq data. Genome Res. 2012;22(10):2008–17.l 67. Krueger F, Andrews SR. Bismark: a flexible aligner and
methylation caller for Bisulfite-Seq applications. Bioin-
formatics. 2011;27(11):1571–2. 84. Cromberg LE, Saez TMM, Otero MG, Tomasella E,
Alloatti M, Damianich A, et al. Neuronal KIF5b deletion
induces striatum-dependent locomotor impairments and
defects in membrane presentation of dopamine D2 recep-
tors. J Neurochem. 2019;149(3):362–80. 68. R Development Core Team. R: a language and environ-
ment for statistical computing. 2010.fi 85. Kamal A, Stokin GB, Yang Z, Xia CH, Goldstein LS. Axonal transport of amyloid precursor protein is medi-
ated by direct binding to the kinesin light chain subunit
of kinesin-I. Neuron. 2000;28(2):449–59. 69. Sun S, Zhu J, Zhou X. Efficient mixed model analysis
of count data in large-scale genomic sequencing studies. 2022. pp. 2–7. 70. Laajala E, Halla-Aho V, Gronroos T, Kalim UU, Vaha-
Makila M, Nurmio M, et al. Permutation-based signifi-
cance analysis reduces the type 1 error rate in bisulphite
sequencing data analysis of human umbilical cord blood
samples. Epigenetics. 2022;17(12):1608–27. 86. Kanai Y, Okada Y, Tanaka Y, Harada A, Terada S,
Hirokawa N. KIF5C, a novel neuronal kinesin enriched
in motor neurons. J Neurosci. 2000;20(17):6374–84. 87. Nakajima K, Yin X, Takei Y, Seog DH, Homma N,
Hirokawa N. Molecular motor KIF5A is essential for
GABA(A) receptor transport, and KIF5A deletion causes
epilepsy. Neuron. 2012;76(5):945–61. 71. Pedersen BS, Schwartz DA, Yang IV, Kechris KJ. References J Neuropsychiatry Clin Neurosci. 2000;12(1):25–8. coordinated regulation of synaptic genes. Transl Psychia-
try. 2017;7(1):e994. 73. Kechris KJ, Biehs B, Kornberg TB. Generalizing moving
averages for tiling arrays using combined p-value statis-
tics. Stat Appl Genet Mol Biol. 2010;9:29. 55. Funahashi S, Andreau JM. Prefrontal cortex and neu-
ral mechanisms of executive function. J Physiol Paris. 2013;107(6):471–82. 56. Hwang J, Kim CM, Kim JE, Oh M, Oh JS, Yoon YW,
et al. Clinical implications of amyloid-beta accumulation
in occipital lobes in Alzheimer’s continuum. Brain Sci. 2021;11(9):1232. 74. Liptak T. On the combination of independent tests. Magyar Tudomanyos Akademia Matematikai Kutato
Intezetenek Kozlemenyei. 1958;3:171–97.f 75. Stouffer SA. The American soldier. Princeton, NJ:
Princeton University Press; 1949. Ši 57. Jobson DD, Hase Y, Clarkson AN, Kalaria RN. The role
of the medial prefrontal cortex in cognition, ageing and
dementia. Brain Commun. 2021;3(3):fcab125. 76. Šidák Z. Rectangular confidence region for the means
of multivariate normal distributions. J Am Stat Assoc. 1967;62:626–33. 58. Chiou KL, Montague MJ, Goldman EA, Watowich MM,
Sams SN, Song J, et al. Rhesus macaques as a tractable
physiological model of human ageing. Philos Trans R
Soc Lond B Biol Sci. 2020;375(1811):20190612. 77. Szklarczyk D, Gable AL, Nastou KC, Lyon D, Kirsch R,
Pyysalo S, et al. The STRING database in 2021: custom-
izable protein-protein networks, and functional character-
ization of user-uploaded gene/measurement sets. Nucleic
Acids Res. 2021;49(D1):D605–12.i 59. Roth GS, Mattison JA, Ottinger MA, Chachich ME,
Lane MA, Ingram DK. Aging in rhesus monkeys:
relevance to human health interventions. Science. 2004;305(5689):1423–6. 78. Bader GD, Hogue CW. An automated method for find-
ing molecular complexes in large protein interaction net-
works. BMC Bioinformatics. 2003;13(4):2. 60. Gilardi KV, Shideler SE, Valverde CR, Roberts JA, Las-
ley BL. Characterization of the onset of menopause in
the rhesus macaque. Biol Reprod. 1997;57(2):335–40. 79. Kanehisa M, Sato Y, Kawashima M, Furumichi
M, Tanabe M. KEGG as a reference resource for
gene and protein annotation. Nucleic Acids Res. 2016;44(D1):D457–62. 61. Andrews S. FastQC: a quality control tool for high
throughput sequence data. 2010. 80. Cervera-Juanes R, Darakjian P, Ball M, Kohama SG,
Urbanski HF. Effects of estradiol supplementation on the
brain transcriptome of old rhesus macaques maintained
on an obesogenic diet. Geroscience. 2022;44(1):229–52. 62. Dobin A, Davis CA, Schlesinger F, Drenkow J, Zaleski
C, Jha S, et al. STAR: ultrafast universal RNA-seq
aligner. Bioinformatics. 2013;29(1):15–21.fi 63. Liao Y, Smyth GK, Shi W. References Kohama SG, Renner L, Landauer N, Weiss AR, Urban-
ski HF, Park B, et al. Effect of ovarian hormone therapy
on cognition in the aged female rhesus macaque. J Neu-
rosci. 2016;36(40):10416–24.i 46. Thakur MK, Paramanik V. Role of steroid hor-
mone coregulators in health and disease. Horm Res. 2009;71(4):194–200. 31. Paganini-Hill A, Henderson VW. Estrogen deficiency
and risk of Alzheimer’s disease in women. Am J Epide-
miol. 1994;140(3):256–61. 47. Zhang P, Li L, Bao Z, Huang F. Role of BAF60a/BAF60c
in chromatin remodeling and hepatic lipid metabolism. Nutr Metab (Lond). 2016;13:30. 32. Rapp SR, Espeland MA, Shumaker SA, Henderson
VW, Brunner RL, Manson JE, et al. Effect of estrogen
plus progestin on global cognitive function in post-
menopausal women: the women’s health initiative
memory study: a randomized controlled trial. JAMA. 2003;289(20):2663–72. 48. Ghosh S, Thakur MK. Interaction of estrogen receptor-
alpha ligand binding domain with nuclear proteins of aging
mouse brain. J Neurosci Res. 2009;87(11):2591–600. 49. Paramanik V, Thakur MK. Estrogen receptor beta and its
domains interact with casein kinase 2, phosphokinase C, and
N-myristoylation sites of mitochondrial and nuclear proteins
in mouse brain. J Biol Chem. 2012;287(26):22305–16. 33. Rocca WA, Grossardt BR, Shuster LT. Oophorectomy,
estrogen, and dementia: a 2014 update. Mol Cell Endo-
crinol. 2014;389(1–2):7–12. 50. Vini R, Rajavelu A, Sreeharshan S. 27-Hydroxycholes-
terol, the estrogen receptor modulator, alters DNA meth-
ylation in breast cancer. Front Endocrinol (Lausanne). 2022;13:783823. 34. Scheyer O, Rahman A, Hristov H, Berkowitz C, Isaacson
RS, Diaz Brinton R, et al. Female sex and Alzheimer’s
risk: the menopause connection. J Prev Alzheimers Dis. 2018;5(4):225–30. 51. Zhao Z, Fan L, Frick KM. Epigenetic alterations regulate
estradiol-induced enhancement of memory consolida-
tion. Proc Natl Acad Sci USA. 2010;107(12):5605–10. 35. Shao H, Breitner JC, Whitmer RA, Wang J, Hayden K,
Wengreen H, et al. Hormone therapy and Alzheimer
disease dementia: new findings from the Cache County
study. Neurology. 2012;79(18):1846–52. 52. Rehman A, Al Khalili Y. Neuroanatomy, occipital lobe. Treasure Island: StatPearls; 2024.fl 53. Stufflebeam SM, Rosen BR. Mapping cognitive function. Neuroimaging Clin N Am. 2007;17(4):469–84. 36. Brann DW, Lu Y, Wang J, Sareddy GR, Pratap UP,
Zhang Q, et al. Neuron-derived estrogen-a key neuro-
modulator in synaptic function and memory. Int J Mol
Sci. 2019;39(15):2792–809. 54. Holroyd S, Shepherd ML, Downs JH 3rd. Occipi-
tal atrophy is associated with visual hallucinations in 1
ol.: (0 3
123456789) 5838 GeroScience (2024) 46:5819–5841 Alzheimer’s disease. References Du Y, Du Y, Zhang Y, Huang Z, Fu M, Li J, et al. MKP-1
reduces Aβ generation and alleviates cognitive impair-
ments in Alzheimer’s disease models. Signal Transduct
Target Ther. 2019;4:58. 94. Leone AM, Errico M, Lin SL, Cowen DS. Activation
of extracellular signal-regulated kinase (ERK) and Akt
by human serotonin 5-HT(1B) receptors in transfected
BE(2)-C neuroblastoma cells is inhibited by RGS4. J
Neurochem. 2000;75(3):934–8. 110. Weber K, Erben RG, Rump A, Adamski J. Gene struc-
ture and regulation of the murine epithelial calcium
channels ECaC1 and 2. Biochem Biophys Res Com-
mun. 2001;289(5):1287–94. 95. Philp LK, Butler MS, Hickey TE, Butler LM, Tilley WD,
Day TK. SGTA: a new player in the molecular co-chap-
erone game. Horm Cancer. 2013;4(6):343–57. 111. Lee GS, Jeung EB. Uterine TRPV6 expression during
the estrous cycle and pregnancy in a mouse model. Am
J Physiol Endocrinol Metab. 2007;293(1):E132–8. 96. Fliss AE, Benzeno S, Rao J, Caplan AJ. Control of estro-
gen receptor ligand binding by Hsp90. J Steroid Biochem
Mol Biol. 2000;72(5):223–30. 112. Kumar S, Singh U, Singh O, Goswami C, Singru PS. Transient receptor potential vanilloid 6 (TRPV6)
in the mouse brain: distribution and estrous cycle-
related changes in the hypothalamus. Neuroscience. 2017;6(344):204–16. 97. Tan Z, Sun X, Hou FS, Oh HW, Hilgenberg LG, Hol
EM, et al. Mutant ubiquitin found in Alzheimer’s dis-
ease causes neuritic beading of mitochondria in asso-
ciation with neuronal degeneration. Cell Death Differ. 2007;14(10):1721–32. 113. Walters GC, Usachev YM. Mitochondrial calcium
cycling in neuronal function and neurodegeneration. Front Cell Dev Biol. 2023;11:1094356. 98. van Leeuwen FW, Hol EM, Fischer DF. Frameshift pro-
teins in Alzheimer’s disease and in other conformational
disorders: time for the ubiquitin-proteasome system. J
Alzheimers Dis. 2006;9(3 Suppl):319–25. 114. Echeverry S, Rodriguez MJ, Torres YP. Transient
receptor potential channels in microglia: roles in physi-
ology and disease. Neurotox Res. 2016;30(3):467–78. 115. Smani T, Gomez LJ, Regodon S, Woodard GE, Sieg-
fried G, Khatib AM, et al. TRP channels in angiogen-
esis and other endothelial functions. Front Physiol. 2018;9:1731. 99. van Tijn P, de Vrij FM, Schuurman KG, Dantuma NP,
Fischer DF, van Leeuwen FW, et al. Dose-dependent
inhibition of proteasome activity by a mutant ubiquitin
associated with neurodegenerative disease. J Cell Sci. 2007;120(Pt 9):1615–23. 116. Cameron VA, Autelitano DJ, Evans JJ, Ellmers LJ,
Espiner EA, Nicholls MG, et al. Adrenomedullin expres-
sion in rat uterus is correlated with plasma estradiol. References Comb-
p: software for combining, analyzing, grouping and cor-
recting spatially correlated p-values. Bioinformatics. 2012;28(22):2986–8. 88. Tanaka Y, Kanai Y, Okada Y, Nonaka S, Takeda S,
Harada A, et al. Targeted disruption of mouse con-
ventional kinesin heavy chain, kif5B, results in 72. Cervera-Juanes R, Wilhelm LJ, Park B, Grant KA,
Ferguson B. Alcohol-dose-dependent DNA methyla-
tion and expression in the nucleus accumbens identifies 1
Vol:. ( 3
(1234567890) GeroScience (2024) 46:5819–5841 5839 abnormal perinuclear clustering of mitochondria. Cell. 1998;93(7):1147–58. 103. Dil Kuazi A, Kito K, Abe Y, Shin RW, Kamitani T, Ueda
N. NEDD8 protein is involved in ubiquitinated inclusion
bodies. J Pathol. 2003;199(2):259–66. 89. Twelvetrees AE, Yuen EY, Arancibia-Carcamo IL,
MacAskill AF, Rostaing P, Lumb MJ, et al. Deliv-
ery of GABAARs to synapses is mediated by HAP1-
KIF5 and disrupted by mutant huntingtin. Neuron. 2010;65(1):53–65. 104. Hara Y, Waters EM, McEwen BS, Morrison JH. Estro-
gen effects on cognitive and synaptic health over the life-
course. Physiol Rev. 2015;95(3):785–807. 105. Appleman ML, Thomas JL, Weiss AR, Nilaver BI,
Cervera-Juanes R, Kohama SG, et al. Effect of hormone
replacement therapy on amyloid beta (Abeta) plaque den-
sity in the rhesus macaque amygdala. Front Aging Neu-
rosci. 2024;15:1326747.i 90. Landers JE, Melki J, Meininger V, Glass JD, van den
Berg LH, van Es MA, et al. Reduced expression of the
kinesin-associated protein 3 (KIFAP3) gene increases
survival in sporadic amyotrophic lateral sclerosis. Proc
Natl Acad Sci USA. 2009;106(22):9004–9. 106. Ahmed T, Zulfiqar A, Arguelles S, Rasekhian M,
Nabavi SF, Silva AS, et al. Map kinase signaling as
therapeutic target for neurodegeneration. Pharmacol Res. 2020;160:105090. 91. Pan X, Kaminga AC, Wen SW, Wu X, Acheampong K,
Liu A. Dopamine and dopamine receptors in Alzheimer’s
disease: a systematic review and network meta-analysis. Front Aging Neurosci. 2019;11:175. 107. Newton K, Dixit VM. Signaling in innate immunity
and inflammation. Cold Spring Harb Perspect Biol. 2012;4(3):a006049. 92. Nguyen LK, Kolch W, Kholodenko BN. When ubiquit-
ination meets phosphorylation: a systems biology per-
spective of EGFR/MAPK signalling. Cell Commun Sig-
nal. 2013;31(11):52. 108. Shih RH, Wang CY, Yang CM. NF-kappaB signaling
pathways in neurological inflammation: a mini review. Front Mol Neurosci. 2015;8:77. 93. Anger T, Klintworth N, Stumpf C, Daniel WG, Mende
U, Garlichs CD. RGS protein specificity towards Gq- and
Gi/o-mediated ERK 1/2 and Akt activation, in vitro. J
Biochem Mol Biol. 2007;40(6):899–910. 109. References Hu D, Dong X, Wang Q, Liu M, Luo S, Meng Z, et al. PCP4 promotes Alzheimer’s disease pathogenesis by
affecting amyloid-beta protein precursor processing. J Alz-
heimers Dis. 2023;94(2):737–50. 123. Xu Y, Krukoff TL. Adrenomedullin in the rostral ventro-
lateral medulla increases arterial pressure and heart rate:
roles of glutamate and nitric oxide. Am J Physiol Regul
Integr Comp Physiol. 2004;287(4):R729–34. 139. Penugurti V, Khumukcham SS, Padala C, Dwivedi
A, Kamireddy KR, Mukta S, et al. HPIP protoonco-
gene differentially regulates metabolic adaptation and
cell fate in breast cancer cells under glucose stress via
AMPK and RNF2 dependent pathways. Cancer Lett. 2021;10(518):243–55. 124. Fernandez AP, Masa JS, Guedan MA, Futch HS, Mar-
tinez-Murillo R. Adrenomedullin expression in Alzhei-
mer’s brain. Curr Alzheimer Res. 2016;13(4):428–38. 125. Ferrero H, Larrayoz IM, Martisova E, Solas M, Howl-
ett DR, Francis PT, et al. Increased levels of brain adre-
nomedullin in the neuropathology of Alzheimer’s disease. Mol Neurobiol. 2018;55(6):5177–83. 140. Seyfried NT, Dammer EB, Swarup V, Nandakumar D,
Duong DM, Yin L, et al. A multi-network approach
identifies protein-specific co-expression in asympto-
matic and symptomatic Alzheimer’s disease. Cell Syst. 2017;4(1):60-72e4. 126. Macheda ML, Rogers S, Best JD. Molecular and cellular
regulation of glucose transporter (GLUT) proteins in can-
cer. J Cell Physiol. 2005;202(3):654–62. 141. Tandon R, Levey AI, Lah JJ, Seyfried NT, Mitchell CS. Machine learning selection of most predictive brain pro-
teins suggests role of sugar metabolism in Alzheimer’s dis-
ease. J Alzheimers Dis. 2023;92(2):411–24. 127. Zhang Y, Chen K, Sloan SA, Bennett ML, Scholze AR,
O’Keeffe S, et al. An RNA-sequencing transcriptome and
splicing database of glia, neurons, and vascular cells of the
cerebral cortex. J Neurosci. 2014;34(36):11929–47. 142. Karamese M, Aksak S, Gundogdu OB, Unal B. A new
hypothesis about hematopoietic Pbx-interaction pro-
tein (HPIP): can it be a key factor in neurodegenera-
tion in the post-menopausal period? Med Hypotheses. 2013;81(3):470–6.f 128. Scott H, Panin VM. N-glycosylation in regulation of the
nervous system. Adv Neurobiol. 2014;9:367–94. 129. Scott H, Panin VM. The role of protein N-glycosylation in
neural transmission. Glycobiology. 2014;24(5):407–17. 143. Yang J, AlTahan A, Jones DT, Buffa FM, Bridges E, Interi-
ano RB, et al. Estrogen receptor-alpha directly regulates the
hypoxia-inducible factor 1 pathway associated with anties-
trogen response in breast cancer. Proc Natl Acad Sci USA. 2015;112(49):15172–7. 130. Murrey HE, Gama CI, Kalovidouris SA, Luo WI, Drig-
gers EM, Porton B, et al. References Am
J Physiol Endocrinol Metab. 2002;282(1):E139–46. 100. Govindarajulu M, Ramesh S, Shankar T, Kora MK,
Moore T, Dhanasekaran M. Role of neddylation in neu-
rodegenerative diseases. NeuroSci. 2022;3(4):533–45. 117. Ikeda K, Arao Y, Otsuka H, Kikuchi A, Kayama F. Estrogen and phytoestrogen regulate the mRNA expres-
sion of adrenomedullin and adrenomedullin recep-
tor components in the rat uterus. Mol Cell Endocrinol. 2004;223(1–2):27–34.f 101. Schmidt MF, Gan ZY, Komander D, Dewson G. Ubiq-
uitin signalling in neurodegeneration: mechanisms
and therapeutic opportunities. Cell Death Differ. 2021;28(2):570–90. 118. Jerat S, Kaufman S. Effect of pregnancy and steroid hor-
mones on plasma adrenomedullin levels in the rat. Can J
Physiol Pharmacol. 1998;76(4):463–6. 102. Mori F, Nishie M, Piao YS, Kito K, Kamitani T, Taka-
hashi H, et al. Accumulation of NEDD8 in neuronal and
glial inclusions of neurodegenerative disorders. Neuro-
pathol Appl Neurobiol. 2005;31(1):53–61. 119. Watanabe H, Takahashi E, Kobayashi M, Goto M,
Krust A, Chambon P, et al. The estrogen-responsive 1
ol.: (0 3
123456789) 5840 GeroScience (2024) 46:5819–5841 135. Khaksari M, Maghool F, Asadikaram G, Hajializadeh
Z. Effects of sex steroid hormones on neuromedin S and
neuromedin U2 receptor expression following experi-
mental traumatic brain injury. Iran J Basic Med Sci. 2016;19(10):1080–9. adrenomedullin and receptor-modifying protein 3 gene
identified by DNA microarray analysis are directly
regulated by estrogen receptor. J Mol Endocrinol. 2006;36(1):81–9. 120. Serrano J, Uttenthal LO, Martinez A, Fernandez AP,
Martinez de Velasco J, Alonso D, et al. Distribution of
adrenomedullin-like immunoreactivity in the rat central
nervous system by light and electron microscopy. Brain
Res. 2000;853(2):245–68. 136. Vigo E, Roa J, Pineda R, Castellano JM, Navarro VM,
Aguilar E, et al. Novel role of the anorexigenic peptide
neuromedin U in the control of LH secretion and its regula-
tion by gonadal hormones and photoperiod. Am J Physiol
Endocrinol Metab. 2007;293(5):E1265–73. 121. Kato J, Kitamura K, Uemura T, Kuwasako K, Kita T,
Kangawa K, et al. Plasma levels of adrenomedullin and
atrial and brain natriuretic peptides in the general popula-
tion: their relations to age and pulse pressure. Hypertens
Res. 2002;25(6):887–92. 137. DeNardo DG, Kim HT, Hilsenbeck S, Cuba V, Tsimelzon
A, Brown PH. Global gene expression analysis of estrogen
receptor transcription factor cross talk in breast cancer:
identification of estrogen-induced/activator protein-1-de-
pendent genes. Mol Endocrinol. 2005;19(2):362–78. 122. Taylor MM, Samson WK. A possible mechanism for the
action of adrenomedullin in brain to stimulate stress hor-
mone secretion. Endocrinology. 2004;145(11):4890–6.f 138. References Protein fucosylation regulates
synapsin Ia/Ib expression and neuronal morphology in
primary hippocampal neurons. Proc Natl Acad Sci USA. 2006;103(1):21–6. 144. Xu X, Yang M, Zhang B, Dong J, Zhuang Y, Ge Q,
et al. HIF-1alpha participates in secondary brain injury
through regulating neuroinflammation. Transl Neurosci. 2023;14(1):20220272. 131. Li X, Nott SL, Huang Y, Hilf R, Bambara RA, Qiu X,
et al. Gene expression profiling reveals that the regulation
of estrogen-responsive element-independent genes by 17
beta-estradiol-estrogen receptor beta is uncoupled from
the induction of phenotypic changes in cell models. J Mol
Endocrinol. 2008;40(5):211–29. 145. Shou Y, Koroleva E, Spencer CM, Shein SA, Korchagina
AA, Yusoof KA, et al. Redefining the role of lymphotoxin
beta receptor in the maintenance of lymphoid organs and
immune cell homeostasis in adulthood. Front Immunol. 2021;12:712632. 132. Chen Z, Yu Q, Yu Q, Johnson J, Shipman R, Zhong X,
et al. In-depth site-specific analysis of N-glycoproteome
in human cerebrospinal fluid and glycosylation landscape
changes in Alzheimer’s disease. Mol Cell Proteomics. 2021;20:100081. 146. Osorio J. Reproductive endocrinology: less estrogen, more
neuroinflammation? Nat Rev Endocrinol. 2012;8(7):381. 133. Guan XM, Yu H, Jiang Q, Van Der Ploeg LH, Liu Q. Dis-
tribution of neuromedin U receptor subtype 2 mRNA in the
rat brain. Brain Res Gene Expr Patterns. 2001;1(1):1–4. l
147. Dejardin E, Droin NM, Delhase M, Haas E, Cao Y, Makris
C, et al. The lymphotoxin-beta receptor induces different
patterns of gene expression via two NF-kappaB pathways. Immunity. 2002;17(4):525–35. 134. Iwai T, Iinuma Y, Kodani R, Oka J. Neuromedin U inhibits
inflammation-mediated memory impairment and neuronal
cell-death in rodents. Neurosci Res. 2008;61(1):113–9. 148. Li F, Oh I, Kumar S, Eteleeb A, Gupta A, Buchser W, et al. Loss of estrogen unleashing neuro-inflammation increases 1
Vol:. ( 3
(1234567890) GeroScience (2024) 46:5819–5841 5841 the risk of Alzheimer’s disease in women. bioRxiv. 2022. https://doi.org/10.1101/2022.09.19.508592.i Publisher’s Note Springer Nature remains neutral with regard
to jurisdictional claims in published maps and institutional
affiliations. 149. Walker DG. Defining activation states of microglia in
human brain tissue: an unresolved issue for Alzhei-
mer’s
disease. Neuroimmunol
Neuroinflammation. 2020;7:194–214. 150. Wu WF, Tan XJ, Dai YB, Krishnan V, Warner M, Gustafs-
son JA. Targeting estrogen receptor beta in microglia and T
cells to treat experimental autoimmune encephalomyelitis. Proc Natl Acad Sci USA. 2013;110(9):3543–8. 3
0123456789) 1
Vol.: (01
|
https://openalex.org/W2140958451
|
http://escholarship.mcgill.ca/downloads/j098zg629
|
English
| null |
Identifying key domains of health-related quality of life for patients with Chronic Obstructive Pulmonary Disease: the patient perspective
|
Health and quality of life outcomes
| 2,014
|
cc-by
| 9,682
|
© 2014 Paap et al.; licensee BioMed Central Ltd. This is an Open Access article distributed under the terms of the Creative
Commons Attribution License (http://creativecommons.org/licenses/by/4.0), which permits unrestricted use, distribution, and
reproduction in any medium, provided the original work is properly credited. The Creative Commons Public Domain
Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article,
unless otherwise stated. Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Abstract Background: Numerous instruments are available to measure health-related quality of life (HRQoL) in patients with
Chronic Obstructive Pulmonary Disease (COPD), covering a wide array of domains ranging from symptoms such as
dyspnea, cough and wheezing, to social and emotional functioning. Currently no information or guide is available
yet to aid the selection of domains for a particular study or disease population. The aim of this paper is to identify
which domains of HRQoL are most important with respect to COPD, from the patient perspective. Methods: Twenty-one Dutch patients with COPD were asked to describe important domains impacted by COPD
freely; second, they were presented with cues (domains from the Patient-Reported Outcomes Measurement
Information System (PROMIS) framework) and were asked to select the domains that were most relevant to them. During the interview, the patients were asked to indicate in which way the selected domains impact their lives. Both the answers to the open question, and the patient statements motivating nomination of PROMIS domains
were coded into themes. Results: The most relevant (sub)domains of HRQoL for patients with COPD were: physical health (fatigue, physical
functioning), social health (instrumental support, ability to participate in social roles and activities, companionship,
and emotional support), and coping with COPD. Results: The most relevant (sub)domains of HRQoL for patients with COPD were: physical health (fatigue, physical
functioning), social health (instrumental support, ability to participate in social roles and activities, companionship,
and emotional support), and coping with COPD. Conclusion: We identified which domains of HRQoL are most important to patients with COPD. One of these
(coping with COPD) is not explicitly covered by PROMIS, or by traditional questionnaires that are used to measure
HRQoL in COPD. Conclusion: We identified which domains of HRQoL are most important to patients with COPD. One of these
(coping with COPD) is not explicitly covered by PROMIS, or by traditional questionnaires that are used to measure
HRQoL in COPD. Conclusion: We identified which domains of HRQoL are most important to patients with COPD. One of these
(coping with COPD) is not explicitly covered by PROMIS, or by traditional questionnaires that are used to measure
HRQoL in COPD. Keywords: HRQoL, COPD, Physical functioning, Physical health, Social health, Interview study, Qualitative research,
PROMIS oL, COPD, Physical functioning, Physical health, Social health, Interview study, Qualitative research, Keywords: HRQoL, COPD, Physical functioning, Physical health, Social health, Interview study, Qualitative research,
PROMIS Identifying key domains of health-related quality
of life for patients with Chronic Obstructive
Pulmonary Disease: the patient perspective Muirne CS Paap1*, Christina Bode2, Lonneke IM Lenferink3,4, Lianne C Groen3, Caroline B Terwe
Owis Eilayyan7 and Job van der Palen1,8 Muirne CS Paap1*, Christina Bode2, Lonneke IM Lenferink3,4, Lianne C Groen3, Caroline B Terwee5, Sara Ahmed6,
Owis Eilayyan7 and Job van der Palen1,8 Open Access Open Access * Correspondence: m.c.s.paap@utwente.nl
1Department of Research Methodology, Measurement, and Data-Analysis,
Behavioral Sciences, University of Twente, P.O. Box 217, 7500 AE Enschede,
The Netherlands
Full list of author information is available at the end of the article Background life (HRQoL) [3]. Consequently, HRQoL has become an
important outcome measure in COPD research and
clinical care. Chronic Obstructive Pulmonary Disease (COPD) is one
of the leading causes for mortality worldwide [1]. COPD
is characterized by dyspnea, chronic cough, sputum pro-
duction, a decreased exercise performance and reduced
physical activity level [2,3]. COPD cannot be cured; the
main goal of COPD treatments is managing symptoms
and their effect on the patient’s health-related quality of HRQoL encompasses the physical, functional, emo-
tional, and social well-being of the patient [4]. HRQoL
is a highly subjective experience by definition and there-
fore measured by self-report questionnaires (patient re-
ported outcome measures; PROMs). Many questionnaires
are available to measure HRQoL in patients with COPD,
covering a wide array of domains ranging from symp-
toms such as dyspnea, cough and wheezing, to social
and emotional functioning (see [5] for an overview), and it
can be a challenge to choose the appropriate questionnaire. * Correspondence: m.c.s.paap@utwente.nl
1Department of Research Methodology, Measurement, and Data-Analysis,
Behavioral Sciences, University of Twente, P.O. Box 217, 7500 AE Enschede,
The Netherlands
Full list of author information is available at the end of the article Page 2 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 interest” [28]. Within the PROMIS framework, patient
perspective has played an important role in item bank de-
velopment [29-32]. Focus-groups were used to evaluate
item content, coverage and wording, as well as the content
validity of the item banks by evaluating the fit between the
domain map that was drafted by a panel of experts, and
concepts that focus-group participants identified as im-
portant aspects of HRQoL [33-36]. It should be noted that
in this set-up, feedback from experts was used to con-
ceptualize a domain-map, and subsequently input from
patients (responding to open questions) was used to verify
the domain map. Patients were not explicitly asked to
comment on the domain-map, or to choose domains
themselves. Aspects to consider include domain coverage, test length
(e.g. [6,7]), recall period (for example, last year or last few
weeks), the interpretation of (change in) scores, psy-
chometric properties (e.g. [8]), and whether it is generic or
disease-specific, among other things [9]. Since both gen-
eric and disease-specific instruments have desirable prop-
erties, several researchers advocate using both types of
instruments to assess HRQoL in patients with COPD
[10,11]. Background Generic instruments can be used with any (pa-
tient) population, facilitating direct comparison among
populations, including the general population. Disease-
specific instruments are developed for a specific patient
population, which may increase the sensitivity to measure
intra-individual change after an intervention. However, cli-
nicians tend to prefer short instruments for use in clinical
practice, so the test battery should not be too lengthy. Un-
fortunately, short instruments often fail to provide a suffi-
ciently detailed picture of the most relevant aspects of a
patient’s HRQoL. Currently, there is no consensus as to which instru-
ments are most appropriate to assess HRQoL in COPD
patients. However, it has been argued that combining gen-
eric and disease-specific measures may provide the most
useful estimations. PROMIS is probably the best generic
instrument that is currently available to measure HRQoL;
it consists of a wide range of generic item banks that have
been developed with a rigorous and sound methodology. However, no core sets or recommendations are available
to guide the selection process of PROMIS item banks for
use with COPD patients (or any disease group for that
matter); nor is it clear whether all domains relevant for
COPD are covered by current PROMIS item banks. In line
with aforementioned guidelines and published studies, we
agree the patient perspective should play an important
role in domain selection and assessment of domain cover-
age. The aim of this paper is to identify which domains of
HRQoL are most important from the COPD patient’s per-
spective, and why. We will do this in two steps: first pa-
tients are asked to describe important domains freely;
second, they are presented with PROMIS domains and are
asked to select those most relevant to them. The patient is
invited to explain the motives behind their choice, provid-
ing insight in the way they conceptualize and experience
HRQoL. The results of this study can be used to inform
instrument selection and development. This study is the
first of an international collaboration (the Netherlands
and Canada) that involve two research groups following
the same steps (Additional file 1) to create a CAT to meas-
ure HRQoL in COPD patients. In recent years, Computerized Adaptive Testing (CAT)
[12] based on Item Response Theory (IRT) [13] has been
put forward as a possible solution to the dilemma. Background A CAT
is a digital questionnaire tailored to the individual patient,
resulting in each item (question) contributing valuable in-
formation, while maintaining comparability across pa-
tients. Item selection in a CAT is dependent on a patient’s
response to previous items. In this way the latent trait
estimate is continuously adjusted, until a specific level of
measurement precision (reliability) is reached. In recent
years, a large number of IRT-calibrated item banks have
been developed to measure domains of HRQoL. This
initiative is referred to as “PROMIS” (Patient Reported
Outcomes Measurement Information System) [14], and
resulted in item banks covering physical, mental, and so-
cial health. Both CATs and short forms have been devel-
oped using the item banks [15]. The PROMIS banks are
generic, and have been calibrated using a large sample
from the general population as well as subsamples of nu-
merous patient groups, including COPD. However, it is
still up to the user to decide which domains to select. Since HRQoL is a highly subjective experience, it is
not only paramount to use PROMs to measure it, but
also to involve patients in the development and selec-
tion process of PROMs. It has been repeatedly shown
that taking patient perspective into account during
PROM development allows for the identification of
problems with item content and coverage as well as
problems with domain coverage and/or poor operatio-
nalization (e.g., [16-27]). These findings have inspired sev-
eral guidelines concerning the development of PROMs. The European Organisation for Research and Treatment
of Cancer (EORTQ) even proposes that patient perspec-
tive should be leading when “…compiling an exhaustive
list of relevant QoL issues that cover the domain(s) of Ethics The ethical review board of the University of Twente
approved the study. All patients gave informed consent. This study did not need approval of the Medical Ethical
Review Board, according to European regulations. Patients The target population consisted of COPD patients seek-
ing treatment. We engaged two pulmonary clinics that
assisted in recruiting patients: Medisch Spectrum Twente
hospital, Enschede (the Netherlands) and the Sint Franciscus
Gasthuis hospital, Rotterdam (the Netherlands). The pa-
tients were invited to participate in the interview study by
their pulmonologists. The only inclusion criterion was a
diagnosis of COPD. If the patients agreed to participate,
they were taken to a quiet hospital room where the inter-
viewer explained the study in more detail, and presented the
patients with an informed consent form before starting the
interview. Consecutive patients who had appointments with
their pulmonologists in March and April 2013 were consid-
ered for inclusion. Purposive sampling was used, aimed at
maximum obtainable variation with regard to patient char-
acteristics, including gender, age and GOLD stage (I&II and
III&IV). Inclusion stopped when saturation was reached. Coding was performed in several steps by two raters
(LG and LL). The coding process was supervised by CB
and MP. LG and LL first coded the interviews on their
own, after which several consensus meetings took place. In challenging cases, MP was involved in the consensus
process. The open question and PROMIS card sorting task
were analysed separately, yet the same coding procedure
was used. Prior to coding, irrelevant interview passages
(spontaneous statements that do not concern the research
question) were removed. We used two types of coding
strategies described in grounded theory research: open
and axial coding [39]. When using open coding, the data
are broken down into units (events, actions, interactions,
emotions) that are assigned conceptual labels, so they can
be grouped together into themes. Meaningful units consti-
tute parts of a sentence, a whole sentence, or a passage of
text that pertains to the same topic. A meaningful unit has
to be long enough (contain enough information) to allow
meaningful interpretation with respect to the research
question and the theme with which it is associated. When
using axial coding, units are related to themes and sub-
themes. In our study, this process was facilitated by what
we refer to as interpretations of meaningful units (Table 1). For example, the unit “When I have to walk up and down
the stairs, I move up the stairs in a sitting position and
then I’m very short of breath” was interpreted in the fol-
lowing way: “Going up the stairs is a difficult and laborious Context of the study
h
l
d Due to time constraints, it was decided that
the interview study would be executed in the Netherlands
first. The drafting of the framework was a joint effort. The
interview scheme used in this study was translated into
English and will be used in a future study to validate the
findings of the current study in Canada. Data analysis
Th The interviews were held and transcribed by a trained
interviewer (LG). Patients’ statements were coded and
interpreted by hand, and the number of times a domain
was chosen was counted. After choosing the domains,
the patients were asked to rank order these domains
from most relevant to least relevant, but not all patients
followed the instructions. Some patients chose fewer or
more than five domains, and some said they could not
rank them because they felt all were equally (un)import-
ant. We therefore decided to not include the rank orders
of the domains in the analysis. Context of the study
h
l
d This exploratory study was initiated in order to establish
which domains of HRQoL are most relevant to patients
with COPD. MP and JP acquired funding from the Dutch
Lung Foundation in order to develop a new instrument to
measure HRQoL in patients with COPD. However, at
present no guidelines are available that can aid an inter-
ested party to select appropriate domains for their purpose Page 3 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 (e.g., instrument development, clinical trial, clinical evalu-
ation); this applies to PROMIS domains as well as legacy
instruments. Therefore, MP and JP decided to start their
project by conducting an interview study. CB was involved
as an expert in qualitative research and patient perspec-
tive, and CT was involved because of her affiliation with
the PROMIS initiative, as well as her methodological ex-
pertise. SA and OE were involved since they had the same
goals as MP and JP; it was decided that an international
collaboration would increase the overall value and impact
of the project. Due to time constraints, it was decided that
the interview study would be executed in the Netherlands
first. The drafting of the framework was a joint effort. The
interview scheme used in this study was translated into
English and will be used in a future study to validate the
findings of the current study in Canada. specific domains of HRQoL were most relevant from the
patient’s perspective. We felt that ranking all 16 domains
would be too challenging, so we decided to divide the task
in two parts: first the most important domains were
chosen, and then these were ranked. Previous research has
shown that rating and ranking five domains is a doable
task [38], so patients were asked to select and rank five
domains. (e.g., instrument development, clinical trial, clinical evalu-
ation); this applies to PROMIS domains as well as legacy
instruments. Therefore, MP and JP decided to start their
project by conducting an interview study. CB was involved
as an expert in qualitative research and patient perspec-
tive, and CT was involved because of her affiliation with
the PROMIS initiative, as well as her methodological ex-
pertise. SA and OE were involved since they had the same
goals as MP and JP; it was decided that an international
collaboration would increase the overall value and impact
of the project. Interview The interview was semi-structured (see Additional file 2
for the interview scheme). The focus was assessing how
COPD impacts HRQoL from the patient’s perspective. The
interview scheme consisted of two parts: an open question,
and a card sorting task. First, patients were asked: “In what
way does your COPD influence your quality of life?” Next,
participants were presented with 16 PROMIS domains
[37] printed on separate cards, along with three randomly
chosen example items from that domain (see Additional
file 3). The patients were invited to select and rank the five
domains that were the most relevant to them with regards
to their COPD. Patients were asked to think aloud while
making this selection, and elaborate on their choices. Each
interview was recorded and transcribed verbatim. At the time of the interview, Dutch translations of 17
PROMIS domains were available. We chose not to use the
domain “global health” since we wanted to know what Page 4 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Table 1 Examples showing how units were interpreted and coded into themes for answers given to the open question
Main theme
Sub-theme
Selected unit
Interpretation
Physical health
Light physical activity
causes physical complaints
“When I have to walk up and down the stairs, I move
up the stairs in a sitting position and then I’m very
short of breath.”
Going up the stairs is a difficult and laborious
exercise, which causes shortness of breath. Physical health
Heavy physical activity
causes physical symptoms
“Especially, during heavy physical exertions, you feel
some pain at times, and you experience some
shortness of breath.”
Heavy physical exertion triggers pain and
shortness of breath. Physical health
Stamina
“My stamina is, of course, somewhat lower than others. I think that is actually the most important point.”
Stamina is lower in comparison to others. Autonomy
Asking for help
“Now I have to ask others can you please help me? Mind you, I haven’t done it yet, but that’s very hard.”
It is difficult to ask others for help. Autonomy
Independence
“Then I get irritable, because I like to do everything
myself, and I’m not able to do that.”
Loss of independence causes anger. Results Some patients experienced limitations regarding hob-
bies and leisure time. Autonomy was mentioned several
times; patients reported that it is difficult and frustrating
to be dependent upon others (see Table 1 for examples). For some patients, their social lives changed negatively
due to COPD. Anxiety or fear of suffocation was also
experienced by some. Twenty-one COPD patients (13 men; mean age 66.1
(SD = 9.3) years) were included; 24% of them were re-
cruited in Rotterdam; 19% were inpatients; 9.5% had GOLD
stage I, 38% GOLD stage II, 43% GOLD stage III, and 9.5%
GOLD stage IV. The face-to-face interviews took 15–30
minutes. See Table 3 for descriptive characteristics for each
patient. “And then I was at home alone and then I screamed
for help: I thought I was going to suffocate. The feeling
just wouldn’t pass.” (ID 5) Interview Used coping strategies were: doing only as much as
they could or trying to avoid activities that could lead to
dyspnoea, and performing short bouts of light to moder-
ate intensity activities in order to maintain a balance
between rest and activity. exercise, which causes shortness of breath.” This unit was
subsequently placed in the sub-theme “Light physical activ-
ity causes physical complaints”, which was associated with
the main theme “Physical health”. The main themes phys-
ical health and autonomy which emerged from the open
question, and the PROMIS domains fatigue and ability to
participate in social roles and activities were chosen to
illustrate the coding process (Tables 1 and 2, respectively). exercise, which causes shortness of breath.” This unit was
subsequently placed in the sub-theme “Light physical activ-
ity causes physical complaints”, which was associated with
the main theme “Physical health”. The main themes phys-
ical health and autonomy which emerged from the open
question, and the PROMIS domains fatigue and ability to
participate in social roles and activities were chosen to
illustrate the coding process (Tables 1 and 2, respectively). “You do your household chores as best as you can, but
you also take a lot of rest breaks. In that way you’re
able to cope with it.” (ID 6) Open question: “In what way does your COPD influence
your quality of life?” Table 4 presents the main themes that emerged from the
analysis of the open question, along with sub-themes. Below, all main themes that emerged from the answers
given by more than one patient are briefly discussed; for
some themes, patient quotes are given. “There is a tram stop nearby… walking that
distance…sometimes I can manage it, sometimes I
can’t.” (ID 1) “Luckily, I have a domestic help, and if I hadn’t had
that kind of help nothing would have gotten done…”
(ID16) Selecting the most relevant PROMIS domains Selecting the most relevant PROMIS domains The card sorting method produced results on the rela-
tive importance of the PROMIS domains (Figure 1). The
statements that the patients gave when motivating their
choice of domains were coded into themes. In Table 5,
all main themes are listed by PROMIS domain. Of the ten main themes, two were by far the most
popular: physical health and coping with COPD-related
complaints. Patients described that light physical activ-
ities, such as walking, climbing the stairs and doing
household chores, trigger physical complaints. Decline
of stamina, restrictions in general physical activity and
invalidity were the next most common subthemes of
physical health (see Table 1 for examples). Some pa-
tients indicated that the impact of their COPD on their
physical activity fluctuated. The three most frequently chosen domains were in-
strumental support, fatigue and ability to participate in
social roles and activities. Instrumental support was rele-
vant for patients because they need help or assistance
due to their physical constraints. “Luckily, I have a domestic help, and if I hadn’t had
that kind of help nothing would have gotten done…”
(ID16) “There is a tram stop nearby… walking that
distance…sometimes I can manage it, sometimes I
can’t.” (ID 1) Page 5 of 12 Page 5 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Table 2 Examples showing how units were interpreted and coded into themes for two PROMIS domains
Selected domain
Main theme
Sub theme
Selected unit
Interpretation
Fatigue
Coping with fatigue
Rest
“When I’m at home and I’m tired, I
really can’t be bothered with
anything, the whole world may be
turned upside down for all I care, all
I want is to lie down.”
Lying down as a reaction to
fatigue. Fatigue
Effects of fatigue
Downward performance
spiral of fatigue: fatigue
leads to activity restrictions. Activities trigger breathing
difficulties. “Yes, you get tired more quickly. You’ve also got the feeling that if you
want to do something…then you ask
yourself right away should I do that or
how should I go about it so that I
won’t suffer breathing problems.”
Activity limitations due to
fatigue, and activities trigger
breathing problems. Fatigue
Determinants of
fatigue
Combination of work and
medicines lead to fatigue. Selecting the most relevant PROMIS domains “I’m always tired anyway, if I didn’t
have to go to work I would be tired
all the same, you actually get tired
because of the medicines you have
to take during the day. One
medicine has to widen the blood
vessels, the other has to narrow
them again …it’s a combination of
(the aforementioned).”
Combination of work and
medicines lead to severe fatigue. Ability to participate
in social roles and
activities
Determinants of
ability to participate
in social roles and
activities
Mobility restrictions
“Because of your shortness of
breath you are restricted in your
mobility and therefore also in your
social roles. A while ago, I was
supposed to attend a funeral at
XX…that’s a problem.”
Symptoms cause mobility
restrictions as a result of which
social contacts are not possible
which in turn leads to limitation
in social roles. Ability to participate
in social roles and
activities
Hobby/Leisure time
Limitation in social role at
sports club
“I used to be the leader of a football
team, and I could run as fast as the
boys, but those days are over.”
Quit participation in social role
and sports activity
Ability to participate
in social roles and
activities
Hobby/Leisure time
Limitation during sports
activity
“You have to limit it somewhat,
don’t you? Limitation in degree of physical
activity during sports activity
When I go swimming, for instance, I
bring two people; well, those two are
able to swim very well, when they
have reached the other side of the
pool for the second time, I have yet to
reach the other side for the first time.” Lying down as a reaction to
fatigue. Activity limitations due to
fatigue, and activities trigger
breathing problems. In contrast, some patients indicated that they had
trouble accepting help from others, and had to employ
coping strategies to deal with this change in dependency. Companionship was described in terms of how content
patients were with the companionship of others. Most
statements consisted of summing up the social contacts,
e.g. children, partner and grandchildren. Physical func-
tion was described as being restricted in daily life tasks,
such as dressing, climbing stairs and vacuum cleaning. A
few patients described themselves as physically disabled. Autonomy was another reported main theme. Companionship was described in terms of how content
patients were with the companionship of others. Most
statements consisted of summing up the social contacts,
e.g. children, partner and grandchildren. Selecting the most relevant PROMIS domains Physical func-
tion was described as being restricted in daily life tasks,
such as dressing, climbing stairs and vacuum cleaning. A
few patients described themselves as physically disabled. Autonomy was another reported main theme. Patients described fatigue as highly bothersome in
various ways; a chronic lack of energy, feeling already
totally exhausted when waking up or experiencing feel-
ings of weariness, etc. The most frequently mentioned
way to cope with fatigue was to lie down and rest. Patients
were not always very clear on determinants of fatigue: it
could occur without any reason, or result from physical
activity or use of medication. See Table 2 for quotes. Patients associated ability to participate in social roles
and activities primarily with hobbies and leisure time. They experienced restrictions in physical activities dur-
ing holidays; for example, climbing stairs of a tower or
hiking. Some described adjusting the intensity of sports
activities and avoiding social activities. See Table 2 for
more examples. A “The feeling of powerlessness, that for everything you
have always to rely on others to help you, that is
annoying.” (ID 5) Emotional support was relevant because patients have
the need to talk to someone to be comforted, to vent their
feelings, to discuss problems or ask for advice. Partners
and children are the most favoured persons patients con-
fide in. Some stated that talking to someone is ‘healing’, it
prevents emotional problems from getting worse and it
improves mood. The next three most frequently chosen domains were
companionship, physical function and emotional support. Paap et al. Selecting the most relevant PROMIS domains Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Page 6 of 12 Table 3 Patient characteristics
ID
Gender
Age
GOLD stage
Location
Outpatient/inpatient
Comorbidity
1
M
58
III
R
Outpatient
Yes
2
M
78
III
R
Outpatient
Yes
3
M
67
II
R
Outpatient
Yes
4
M
72
III
R
Outpatient
Yes
5
M
76
IV
R
Outpatient
Yes
6
F
66
III
E
Outpatient
No
7
M
68
III
E
Inpatient
No
8
M
52
I
E
Outpatient
Yes
9
M
63
III
E
Outpatient
Yes
10
M
52
II
E
Outpatient
Yes
11
M
54
II
E
Outpatient
Yes
12
F
58
II
E
Outpatient
Yes
13
F
69
II
E
Outpatient
No
14
F
67
III
E
Outpatient
Yes
15
F
81
II
E
Outpatient
Yes
16
F
62
IV
E
Outpatient
Yes
17
M
73
II
E
Outpatient
Yes
18
F
51
II
E
Outpatient
Yes
19
M
84
I
E
Inpatient
Yes
20
M
70
III
E
Inpatient
Yes
21
F
67
III
E
Inpatient
No
Location: R = Rotterdam, E = Enschede. Table 3 Patient characteristics (independently). Losing one’s autonomy is a struggle for
patients. Additional notable results Not one patient explicitly chose the domain depression,
even though this theme emerged several times during the
interviews in connection with other domains or themes. Feelings of depression were associated with fatigue,
autonomy and acute exacerbations of COPD. “I’d like to do it more often but that isn’t possible. Domestic help, for instance…terrible. But on the other
hand I also think: my house is clean. Everything spic
and span. But it vexes me, that I can’t do it
myself.” (ID 12) “I’d like to do it more often but that isn’t possible. Domestic help, for instance…terrible. But on the other
hand I also think: my house is clean. Everything spic
and span. But it vexes me, that I can’t do it
myself.” (ID 12) “And fatigue, sometimes I’m exhausted and I feel
depressed and I think heck, why can’t I do that, but
there are also moments when I like it and don’t at all
resent it. It’s so difficult.” (ID 5) Discussion Physical health and social health emerged as important
overarching themes, while domains associated with mental
health were hardly chosen or mentioned. Physical health
emerged as the most important theme from the spontan-
eous statements that patients made when asked about
HRQoL in relation to COPD, while two of the six most
frequently chosen PROMIS domains (fatigue and physical
functioning) pertain to the overarching domain of physical
health [40]. Coping with COPD emerged as the second
most important theme from the spontaneous statements,
while the remaining four PROMIS domains pertained to
social health (instrumental support, ability to participate
in social roles and activities, companionship, and emo-
tional support) [40]. In addition to the obvious overlap be-
tween the outcomes of the open question and the card A few patients expressed fear of suffocating associated
with respiratory distress, which lead to thoughts of
wanting to die or not minding to die. “When it is so bad and stays so bad then I just hope it
will be over.” (ID 7) Strikingly, the topic of autonomy was frequently
mentioned in conjunction with various domains (see
Table 5). Patients mentioned having trouble accepting
help from others or that they avoid asking help
from others. They get frustrated, angry or depressed
when they are unable to do the things they want Page 7 of 12 Paap et al. Discussion Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Table 4 Overview of main themes and sub-themes connected to the open question
Main themes (number of occurrences)
Sub-themes (number of occurrences)
Physical health (22)
Light physical activity triggers physical complaints (6)
Stamina (4)
Fluctuating character of COPD (4)
Restriction in general physical activity (3)
Invalidity (2)
Restriction in physical functioning due to physical symptoms (1)
Heavy physical activity causes physical complaints (1)
Mobility (1)
Coping with COPD-related complaints/restrictions (9)
Avoiding activities (3)
Balance between rest and activity (3)
Performing physical activities in order to avoid sitting at home (1)
Adapting activities (1)
Professional help for anxiety (1)
Hobby/Leisure time (3)
Going out (1)
Holidays (1)
Sport (1)
Autonomy (2)
Asking for help (1)
Independence (1)
Anxiety (2)
Fear of being alone (1)
Fear of suffocating (1)
Social life (2)
Homebound (1)
Offering help to others (1)
Additional factors affecting symptoms (1)
Weather conditions (1)
Fatigue (1)
Tired (1)
Anger (1)
Frustration (1)
Work (1)
Losing one’s job (1)
Examples of light physical activity are walking up and down the stairs. Examples of heavy physical activity are heavy lifting and running. General physical activity
when the respondent did not give details. Table 4 Overview of main themes and sub-themes connected to the open question
Main themes (number of occurrences)
Sub-themes (numbe Sub-themes (number of occurrences) 10
10
10
8
8
8
7
6
4
3
2
2
1
1
Figure 1 Number of times PROMIS-domains were selected. Note. Ability to part. in soc. roles and act = ability to participate in social roles and
activities; Satisfaction with part. in soc. roles and act. = satisfaction with participation in social roles and activities. The patients were instructed to
select the five most relevant domains, but twelve patients chose fewer than five domains (four domains n=5, three domains n=3, zero domains
n=4) and four patients chose more than five domains (six domains n=3, eight domains n=2). Figure 1 Number of times PROMIS-domains were selected. Note. Ability to part. in soc. roles and act = ability to participate in social roles and
activities; Satisfaction with part. in soc. roles and act. = satisfaction with participation in social roles and activities. Discussion In their study, Strang and colleagues started with a
very general question (“Can you describe what living with
COPD means to you?”), but continued with probing ques-
tions, including “What are your experiences of anxiety?”
Their asking about anxiety directly may partly explain the
differences between the results of our open question and
their findings. When comparing these anxiety-related
themes to the PROMIS anxiety item bank, it becomes ap-
parent that the PROMIS anxiety items are formulated in a
very general way. This may be an explanation as to why
only few patients in this study chose this domain. It may
make more sense to include disease-specific anxiety items
that are directly related to COPD symptoms (such as
shortness of breath) in an instrument that aims to meas-
ure HRQoL in COPD patients, rather than using the PRO-
MIS anxiety domain. sorting task (PROMIS domains) with respect to physical
health, there is a more subtle overlap with respect to cop-
ing. Analysis of the statements patients made to explain
their choice of PROMIS domains, showed that coping was
a frequently mentioned theme for three of the six most
popular PROMIS domains. It should be noted that the
statements elicited by the cues (PROMIS domains) were
far richer in content than the spontaneous statements,
providing us with a lot of information on the patients’
perspectives on these different domains of HRQoL. However, the open question elicited highly valuable infor-
mation as well, since patients were free to describe
HRQoL in their own words; this resulted in an important
main theme (coping with COPD) that is not explicitly
covered by any of the existing PROMIS domains. These
findings underline the importance of using a funnel-
shaped questioning strategy, as recommended by Brod
and colleagues [27]. Surprisingly, very few patients mentioned or chose do-
mains pertaining to mental health; only two patients men-
tioned anxiety when answering the open question, while
one patient mentioned anger. During the card sorting
task, four patients chose the PROMIS domain anxiety,
and two patients chose anger. The PROMIS domain de-
pression was not chosen by a single patient. These find-
ings are striking, since the literature indicates that the
prevalence of depression or the level of depressive symp-
toms is much higher in patients with COPD than in the
general population; and also anxiety has been shown to be
a serious problem in COPD [41-46]. Discussion The patients were instructed to
select the five most relevant domains, but twelve patients chose fewer than five domains (four domains n=5, three domains n=3, zero domains
n=4) and four patients chose more than five domains (six domains n=3, eight domains n=2). Page 8 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Table 5 Overview of main themes derived from patient statements associated with the selected PROMIS domain
Selected domain
Main themes
N*
Instrumental support
Description of instrumental support
11
Autonomy
2
Coping with instrumental support
2
Level of importance of instrumental support
2
Fatigue
Description of fatigue
6
Coping with fatigue
4
Determinants of fatigue
3
Consequences of fatigue
2
Physical activity
1
Comorbidity leads to misconception
1
Mobility
1
Ability to participate in social roles and activities
Hobby/Leisure time
6
Coping with limitations in the ability to participate in social roles and activities
3
Determinants of the ability to participate in social roles and activities
2
Restrictions in physical activities
1
Description of social roles and activities
1
Level of importance of social roles and activities
1
Companionship
Description social contacts
10
Pointing out positive results of social contacts
3
Importance of social contacts
3
Description social activities
1
Level of satisfaction with company
1
Pointing out negative results of social contacts
1
Life and death
1
Physical function
Experiencing limitation or complaints during physical exertion
8
Autonomy
2
Additional factors affecting physical complaints
1
Fatigue
1
Level of satisfaction with physical function
1
Emotional support
Description of emotional support
8
Level of importance of emotional support
2
Pointing out positive results of emotional support
2
Sleep disturbance
Description of sleep disturbance
5
Determinants of fatigue
1
Consequences of stress
1
Sleep related impairment
Coping with problems caused by sleep disturbances
2
Description of problems caused by sleep disturbances
1
Comorbidity leads to misconception
1
Satisfaction with participation in social roles and activities
Autonomy
8
Social life
1
Description of attitude to life
1
Determinants of fatigue
1
Consequences of fatigue
1
Anger
1
Level of importance of being independent from others
1 Page 9 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Paap et al. Discussion Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Table 5 Overview of main themes derived from patient statements associated with the selected PROMIS domain
(Continued)
Informational support
Description of informational support
3
Anxiety
Description of anxiety
4
Consequences of physical complaints
1
Pain interference
Description of pain
1
Description of limitations due to pain
1
Pain behaviour
Comorbidity leads to misconception
1
Anger
Determinants of anger
2
Coping with anger
1
Importance of coping with anger
1
Description of anger
1
Autonomy
1
*N = number of occurences. For each selected PROMIS-domain the units were interpreted and coded into main and sub themes. Only the main themes are presented in this table. themes derived from patient statements associated with the selected PROMIS domain *N = number of occurences. N = number of occurences. For each selected PROMIS-domain the units were interpreted and coded into main and sub themes. Only the main themes are presented in this table. Additionally, many COPD patients are plagued by feelings
of guilt [48], knowing that they are at least partly respon-
sible for the onset of their disease (tobacco smoking). As
a result they may feel the need to keep a stiff upper lip,
believing they have no ‘right’ to complain, resulting in an
underreporting of psychological distress. We discussed
this point with a number of COPD experts (researchers
and pulmonologists), and several of them pointed out that
it requires quite some probing in an interview/consult-
ation to get the patients to open up about their depressive
feelings. We therefore presume that the patients not
choosing depression may have been a method-effect, and
it cannot be ruled out that this domain is in fact relevant
to patients with COPD. When it comes to anxiety, Strang
and colleagues [46] found that patients experienced high
levels of anxiety related to COPD symptoms, mostly in
connection with the themes death anxiety (fear of suffoca-
tion, awareness of death, fear of dying, separation anxiety)
and life anxiety (fear of living, fear of the future). Further-
more, patients also talked about coping strategies they
used to deal with the feeling of suffocation, or fear of
dying. Discussion Depression is still
a taboo-subject for many; especially elderly people have
been found to underreport depressive symptoms [47]. It
should be noted, though, that although depression was
not explicitly chosen, depressive feelings were mentioned
by some patients in relation to fatigue, autonomy and
acute exacerbations. The interviewed patients may have
felt a bit daunted when confronted with the word directly. Page 10 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Page 10 of 12 When comparing the most important themes and do-
mains that emerged in this study, to domains covered by
the most frequently used instruments to assess HRQoL in
COPD [5], a few things stand out. Among the domains
most frequently covered by existing instruments are en-
ergy/fatigue and social functioning; our findings clearly
show support for these being important domains from the
patient perspective. However, although many existing in-
struments focus at least in part on COPD symptoms (dys-
pnea, cough, phlegm, chest tightness), only few focus on
the impact of COPD on daily life [5]. Our results show
that this is an important shortcoming of the existing in-
struments, as many patients indicated they struggle with
the impact of COPD on daily activities, as well as finding a
way to cope with this negative impact. Most patients indi-
cated that physical activity triggers or aggravates their
symptoms, and several patients indicated that they have to
avoid or adapt their daily activities. For some patients,
these limitations were so severe that they considered them-
selves as invalids. Many patients struggle daily with their
dependency on others in performing daily life tasks; they
feel ashamed and frustrated that they are no longer self-
reliant. development of a disease-specific module to be included
in the CAT, to capture important HRQoL aspects not cov-
ered by the current PROMIS domains. When selecting or
developing instruments, we argue that it is important to
take into account expert opinion as well as patient experi-
ence (see Additional file 1). Therefore, we will conduct in-
terviews with healthcare professionals in a future study. To ensure the cross-cultural relevance and external valid-
ity of our findings, we will repeat these interviews (with
patients and healthcare professionals) in other countries
as well, starting with Canada. Author details
1 1Department of Research Methodology, Measurement, and Data-Analysis,
Behavioral Sciences, University of Twente, P.O. Box 217, 7500 AE Enschede,
The Netherlands. 2Department of Psychology, Health & Technology,
Behavioral Sciences, University of Twente, Enschede, The Netherlands. 3University of Twente, Enschede, The Netherlands. 4Current affiliation:
Department of Clinical Psychology, Behavioural and Social Sciences,
University of Groningen, Groningen, The Netherlands. 5Department of
Epidemiology and Biostatistics, The EMGO Institute for Health and Care
Research, VU University Medical Center, Amsterdam, The Netherlands. 6School of Physical and Occupational Therapy, Faculty of Medicine, McGill
University; with concordant appointments at McGill University Health
Center’s Division of Clinical Epidemiology; and, the Centre de recherche
interdisciplinaire en réadaptation, Constance Lethbridge Rehabilitation
Center, Montréal, Québec, Canada. 7Faculty of Medicine, School of Physical
Therapy, McGill University, Montreal, QC, Canada. 8Medical School Twente,
Medisch Spectrum Twente, Enschede, The Netherlands. Received: 17 March 2014 Accepted: 19 June 2014
Published: 9 July 2014 Acknowledgements
W
h
k M
P
B We thank Mitzi Paap, Bachelor of Arts in English language and culture, for
translating the interview scheme. We also thank all patients that participated
in this study. This study was supported by grant #3.4.11.004 from Lung
Foundation Netherlands. Authors’ contributions
MP
i
l
d i
h d Authors contributions
MP was involved in the design of the study, analysis and interpretation of
data, and drafted the manuscript. CB was involved in the design of the study,
critically reviewed all aspects of data collection, analysis and interpretation, and
revised the manuscript critically for important intellectual content. LL played a
key role in data analysis and the interpretation of the data, and revised the
manuscript critically for important intellectual content. LG collected the data,
and made a contribution to data analysis and revision of the manuscript. SA and OE drafted Additional file 1 and critically reviewed all aspects of the
study, including the manuscript. CT was involved in the design of the study,
selected PROMIS example items, and critically reviewed all aspects of the study,
including the manuscript. JP was involved in the design of the study and the
drafting of the manuscript. All authors read and approved the final manuscript. Competing interests
The authors declare that they have no competing interests. It should be noted that some patients found it difficult
or refused to follow the instructions. Four patients did not
pick any PROMIS domain. They argued that they were in
good physical shape or were at least able to do everything
they wanted; or they fully accepted the consequences of
COPD and were able to adjust to it. It may be that the
PROMIS domains were too general, which could be solved
by adding a disease-specific module to the PROMIS do-
main framework. Some patients had comorbid disorders
and indicated that it was difficult for them to identify the
exact impact of COPD. Other patients attributed part of
the symptoms that impacted their HRQoL to the ‘normal’
ageing process. Some patients had trouble to pick exactly
five important domains. Patients that picked fewer than
five domains indicated that they had trouble seeing the
difference among some of the domains. Additional files Additional file 3: Lists the 16 PROMIS domains (with example items)
the patients had to choose from during the card sorting task. Competing interests
The authors declare that they have no competing interests. Competing interests Competing interests
The authors declare that they have no competing interests. Additional file 1: Outlines the framework we use in developing a
CAT to measures HRQoL.
Additional file 2: Constitutes the interview scheme used to gather
data for this study. References Irwin DE, Varni JW, Yeatts K, DeWalt DA: Cognitive interviewing
methodology in the development of a pediatric item bank: a patient
reported outcomes measurement information system (PROMIS) study. Health Qual Life Outcomes 2009, 7:3. 15. Cella D, Riley W, Stone A, Rothrock N, Reeve B, Yount S, Amtmann D, Bode
R, Buysse D, Choi S, Cook K, DeVellis R, DeWalt D, Fries JF, Gershon R, Hahn
EA, Lai J-S, Pilkonis P, Revicki D, Rose M, Weinfurt K, Hays R: The
Patient-Reported Outcomes Measurement Information System (PROMIS)
developed and tested its first wave of adult self-reported health
outcome item banks: 2005–2008. J Clin Epidemiol 2010, 63:1179–1194. 35. Ravens-Sieberer U, Devine J, Bevans K, Riley AW, Moon J, Salsman JM,
Forrest CB: Subjective well-being measures for children were developed
within the PROMIS project: presentation of first results. J Clin Epidemiol
2014, 67:207–218. 16. Zeldenryk L, Gray M, Gordon S, Speare R, Hossain M: The use of focus
groups to develop a culturally relevant quality of life tool for lymphatic
filariasis in Bangladesh. Qual Life Res 2014, 23:299–309. 36. Walsh TR, Irwin DE, Meier A, Varni JW, DeWalt DA: The use of focus groups
in the development of the PROMIS pediatrics item bank. Qual Life Res
2008, 17:725–735. 17. Ferrell BR, Grant MM, Funk B, Otis-Green S, Garcia N: Quality of Life in
Breast Cancer Survivors as Identified by Focus Groups. Psycho-Oncology
1997, 6:13–23. 37. Terwee CB, Roorda LD, Vet HCW, Dekker J, Westhovens R, Leeuwen J,
Cella D, Correia H, Arnold B, Perez B, Boers M: Dutch–Flemish
translation of 17 item banks from the Patient-Reported Outcomes
Measurement Information System (PROMIS). Qual Life Res 2014,
[Epub ahead of print]. 18. Brod M, Stewart AL, Sands L, Walton P: Conceptualization and
Measurement of Quality of Life in Dementia: The Dementia Quality of
Life Instrument (DQoL). The Gerontologist 1999, 39:25–36. 19. Ronen G, Rosenbaum P, Law M, Streiner D: Health-related quality of life in
childhood disorders: A modified focus group technique to involve
children. Qual Life Res 2001, 10:71–79. 38. Ahmed S, Mayo NE, Wood-Dauphinee S, Hanley JA, Cohen SR: Using the
Patient Generated Index to evaluate response shift post-stroke. Qual Life
Res 2005, 14(10):2247–2257. 38. Ahmed S, Mayo NE, Wood-Dauphinee S, Hanley JA, Cohen SR: Using the
Patient Generated Index to evaluate response shift post-stroke. Qual Life 20. References 24. Bredart A, Marrel A, Abetz-Webb L, Lasch K, Acquadro C: Interviewing to
develop Patient-Reported Outcome (PRO) measures for clinical research:
eliciting patients' experience. Health Qual Life Outcomes 2014, 12:15. 1. Chronic obstructive pulmonary disease (COPD) (Fact Sheet No.315). [http://www.who.int/mediacentre/factsheets/fs315/en/index.html] 25. Patrick D, Burke L, Gwaltney C, Leidy N, Martin M, Molsen E, Ring L:
Content validity-establishing and reporting the evidence in newly
developed patient-reported outcomes (PRO) instruments for medical
product evaluation: ISPOR PRO good research practices task force
report: part 1-eliciting concepts for a new PRO instrument. Value Health 2011, 14:967–977. 2. Nici L, Donner C, Wouters E, Zuwallack R, Ambrosino N, Bourbeau J, Carone
M, Celli B, Engelen M, Fahy B, Garvey C, Goldstein R, Gosselink R, Lareau S,
MacIntyre N, Maltais F, Morgan M, O'Donnell D, Prefault C, Reardon J,
Rochester C, Schols A, Singh S, Troosters T: American thoracic society/
European respiratory society statement on pulmonary rehabilitation. Am J Respir Crit Care Med 2006, 173(12):1390–1413. 3. Pauwels RA, Buist AS, Calverley PMA, Jenkins CR, Hurd SS: Global Strategy
for the Diagnosis, Management, and Prevention of Chronic Obstructive
Pulmonary Disease. Am J Respir Crit Care Med 2001, 163(5):1256–1276. 26. Patrick D, Burke L, Gwaltney C, Leidy N, Martin M, Molsen E, Ring L: Content
validity-establishing and reporting the evidence in newly developed
patient-reported outcomes (PRO) instruments for medical product evalu-
ation: ISPOR PRO Good Research Practices Task Force report: part 2-
assessing respondent understanding. Value Health 2011, 14:978–988. 4. Cella D: Quality of life: the concept. J Palliat Care 1992, 8(3):8–13. 4. Cella D: Quality of life: the concept. J Palliat Care 1992, 8(3):8–13. 5. Weldam SW, Schuurmans MJ, Liu R, Lammers JW: Evaluation of Quality of
Life instruments for use in COPD care and research: A systematic review. Int J Nurs Stud 2013, 50(5):688–707. 27. Brod M, Tesler L, Christensen T: Qualitative research and content validity:
developing best practices based on science and experience. Qual Life Res
2009, 18:1263–1278. 6. Kruyen PM, Emons WHM, Sijtsma K: On the Shortcomings of Shortened
Tests: A Literature Review. Int J Test 2013, 13(3):223–248. 6. Kruyen PM, Emons WHM, Sijtsma K: On the Shortcomings of Shortened
Tests: A Literature Review. Int J Test 2013, 13(3):223–248. 28. Johnson C, Aaronson N, Blazeby JM, Bottomley A, Fayers P, Koller M, Kuliś D,
Ramage J, Sprangers M, Velikova G, Young T: EORTC Quality of Life Group
Guidelines for Developing Questionnaire Modules. 4th edition. References Brussels:
European Organisation for Research and Treatment of Cancer; 2011. 7. Kruyen PM, Emons WHM, Sijtsma K: Assessing Individual Change Using
Short Tests and Questionnaires. Appl Psychol Meas 2014, 38(3):201–216. 8. Paap MCS, Brouwer D, Glas CAW, Monninkhof EM, Forstreuter B, Pieterse
ME, van der Palen J: The St George's Respiratory Questionnaire revisited:
a psychometric evaluation. Qual Life Res 2013. [Epub ahead of print]. 29. Kelly MA, Morse JQ, Stover A, Hofkens T, Huisman E, Shulman S, Eisen SV,
Becker SJ, Weinfurt K, Boland E, Pilkonis PA: Describing depression:
congruence between patient experiences and clinical assessments. Br J Clin Psychol 2011, 50:46–66. 9. Barclay-Goddard R, Epstein JD, Mayo NE: Response shift: a brief overview
and proposed research priorities. Qual Life Res 2009, 18(3):335–346. 30. Riley WT, Pilkonis P, Cella D: Application of the National Institutes of
Health Patient-reported Outcome Measurement Information System
(PROMIS) to mental health research. J Ment Health Policy Econ 2011,
14:201–208. 10. Ackerman TA: Developments in multidimensional item response theory. Appl Psychol Meas 1996, 20:309–310. 11. Daudey L, Peters JB, Molema J, Dekhuijzen PN, Prins JB, Heijdra YF,
Vercoulen JH: Health status in COPD cannot be measured by the St
George's Respiratory Questionnaire alone: an evaluation of the
underlying concepts of this questionnaire. Respir Res 2010, 11:98. 31. Pilkonis PA, Choi SW, Reise SP, Stover AM, Riley WT, Cella D: Item banks for
measuring emotional distress from the Patient-Reported Outcomes
Measurement Information System (PROMIS(R)): depression, anxiety, and
anger. Assessment 2011, 18:263–283. 12. Computerized Adaptive Testing: Theory and Practice. Edited by Van der
Linden WJ, Glas CAW. Dordrecht: Kluwer Academic Publishers; 2000. g
32. DeWalt DA, Rothrock N, Yount S, Stone AA: Evaluation of item candidates:
the PROMIS qualitative item review. Med Care 2007, 45:S12–21. 13. Embretson SE, Reise S: Item response theory for psychologists. Mahwah, NJ:
Erlbaum; 2000. 33. Castel LD, Williams KA, Bosworth HB, Eisen SV, Hahn EA, Irwin DE, Kelly MA,
Morse J, Stover A, DeWalt DA, DeVellis RF: Content validity in the PROMIS
social-health domain: a qualitative analysis of focus-group data. Qual Life
Res 2008, 17:737–749. 14. Cella D, Yount S, Rothrock N, Gershon R, Cook K, Reeve B, Ader D, Fries JF,
Bruce B, Rose M: The Patient-Reported Outcomes Measurement
Information System (PROMIS): progress of an NIH Roadmap cooperative
group during its first two years. Med Care 2007, 45:S3–S11. 34. Conclusion The most relevant (sub)domains of HRQoL for patients
with COPD were: physical health (fatigue, physical func-
tioning), social health (instrumental support, ability to par-
ticipate in social roles and activities, companionship, and
emotional support), and coping with COPD. The latter is
not explicitly covered by any of the existing PROMIS do-
mains, or by the most popular traditional questionnaires
that are used to measure HRQoL in COPD. Our results
reaffirm what has been pointed out in previous studies
[27]: engaging patients in PROM development and evalu-
ation is crucial to ensure content validity. The identified
PROMIS domains could form the basis for a CAT meas-
uring HRQoL in COPD patients. We recommend the Page 11 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 References Groenvold M, Petersen MA, Aaronson NK, Arraras JI, Blazeby JM, Bottomley
A, Fayers PM, de Graeff A, Hammerlid E, Kaasa S, Sprangers MAG, Bjorner JB,
for the EORTC Quality of Life Group: The development of the EORTC QLQ-
C15-PAL: a shortened questionnaire for cancer patients in palliative care. Eur J Cancer 2006, 42:55–64. 39. Corbin J, Strauss A: Grounded theory research: Procedures, canons, and
evaluative criteria. Qual Sociol 1990, 13:3–21. 40. Domain Frameworks PROMIS Adult Self-Reported Health. [http://www.nihpromis.org/measures/domainframework1] 40. Domain Frameworks PROMIS Adult Self-Reported Health [http://www.nihpromis.org/measures/domainframework1] 21. Velikova G, Awad N, Coles-Gale R, Wright EP, Brown JM, Selby PJ: The
clinical value of quality of life assessment in oncology practice—a qualitative
study of patient and physician views. Psycho-Oncology 2008, 17:690–698. 41. von Leupoldt A, Kenn K: The psychology of chronic obstructive
pulmonary disease. Curr Opin Psychiatry 2013, 26(5):458–463. 410.1097/YCO.1090b1013e328363c328361fc. 42. Di Marco F, Verga M, Reggente M, Maria Casanova F, Santus P, Blasi F, Allegra L,
Centanni S: Anxiety and depression in COPD patients: The roles of gender
and disease severity. Respir Med 2006, 100(10):1767–1774. 42. Di Marco F, Verga M, Reggente M, Maria Casanova F, Santus P, Blasi F, Allegra L,
Centanni S: Anxiety and depression in COPD patients: The roles of gender
and disease severity. Respir Med 2006, 100(10):1767–1774. 22. Nikolaus S, Bode C, Taal E, van de Laar MA: Which dimensions of fatigue
should be measured in patients with rheumatoid arthritis? A Delphi
study. Musculoskeletal Care 2012, 10:13–17. y
43. Maurer J, Rebbapragada V, Borson S, Goldstein R, Kunik ME, Yohannes AM,
Hanania NA: Anxiety and depression in COPD: current understanding,
unanswered questions, and research needs. Chest 2008, 134(4):43s–56s. 43. Maurer J, Rebbapragada V, Borson S, Goldstein R, Kunik ME, Yohannes AM,
Hanania NA: Anxiety and depression in COPD: current understanding,
unanswered questions, and research needs. Chest 2008, 134(4):43s–56s. 23. Lasch K, Marquis P, Vigneux M, Abetz L, Arnould B, Bayliss M, Crawford B,
Rosa K: PRO development: rigorous qualitative research as the crucial
foundation. Qual Life Res 2010, 19:1087–1096. Page 12 of 12 Page 12 of 12 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 44. Zhang MW, Ho RC, Cheung MW, Fu E, Mak A: Prevalence of depressive
symptoms in patients with chronic obstructive pulmonary disease: a
systematic review, meta-analysis and meta-regression. Gen Hosp
Psychiatry 2011, 33(3):217–223. 44. Zhang MW, Ho RC, Cheung MW, Fu E, Mak A: Prevalence of depressive
symptoms in patients with chronic obstructive pulmonary disease: a
systematic review, meta-analysis and meta-regression. Gen Hosp
Psychiatry 2011, 33(3):217–223. 45. Lou P, Zhu Y, Chen P, Zhang P, Yu J, Zhang N, Chen N, Zhang L, Wu H,
Zhao J: Prevalence and correlations with depression, anxiety, and other
features in outpatients with chronic obstructive pulmonary disease in
China: a cross-sectional case control study. BMC Pulm Med 2012, 12:53. 46. Strang S, Ekberg-Jansson A, Henoch I: Experience of anxiety among
patients with severe COPD – A qualitative, in-depth interview study. Palliat Support Care 2013. [Epub ahead of print]. 46. Strang S, Ekberg-Jansson A, Henoch I: Experience of anxiety among
patients with severe COPD – A qualitative, in-depth interview study. Palliat Support Care 2013. [Epub ahead of print]. 47. Lyness JM, Cox C, Curry J, Conwell Y, King DA, Caine ED: Older age and the
underreporting of depressive symptoms. Journa J Am Geriatr Soc 1995,
43(3):216–221. 47. Lyness JM, Cox C, Curry J, Conwell Y, King DA, Caine ED: Older age and the
underreporting of depressive symptoms. Journa J Am Geriatr Soc 1995,
43(3):216–221. 48. Lindqvist G, Hallberg LR: Feelings of guilt due to self-inflicted disease': a
grounded theory of suffering from chronic obstructive pulmonary
disease (COPD). J Health Psychol 2010, 15(3):456–466. doi:10.1186/s12955-014-0106-3
Cite this article as: Paap et al.: Identifying key domains of health-related
quality of life for patients with Chronic Obstructive Pulmonary Disease:
the patient perspective. Health and Quality of Life Outcomes 2014 12:106. Paap et al. Health and Quality of Life Outcomes 2014, 12:106
http://www.hqlo.com/content/12/1/106 Submit your next manuscript to BioMed Central
and take full advantage of:
• Convenient online submission
• Thorough peer review
• No space constraints or color figure charges
• Immediate publication on acceptance
• Inclusion in PubMed, CAS, Scopus and Google Scholar
• Research which is freely available for redistribution
Submit your manuscript at
www.biomedcentral.com/submit Submit your next manuscript to BioMed Central
and take full advantage of:
• Convenient online submission
• Thorough peer review
• No space constraints or color figure charges
• Immediate publication on acceptance
• Inclusion in PubMed, CAS, Scopus and Google Scholar
• Research which is freely available for redistribution
Submit your manuscript at
www.biomedcentral.com/submit
|
https://openalex.org/W3190301934
|
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0255961&type=printable
|
English
| null |
Embryonic exposure to predation risk and hatch time variation in fathead minnows
|
PloS one
| 2,021
|
cc-by
| 5,496
|
PLOS ONE RESEARCH ARTICLE a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 Embryonic exposure to predation risk and
hatch time variation in fathead minnows Marianna E. HornID*, Douglas P. Chivers Department of Biology, University of Saskatchewan, Saskatoon, SK, Canada Department of Biology, University of Saskatchewan, Saskatoon, SK, Canada * marianna.horn@usask.ca * marianna.horn@usask.ca OPEN ACCESS Citation: Horn ME, Chivers DP (2021) Embryonic
exposure to predation risk and hatch time variation
in fathead minnows. PLoS ONE 16(8): e0255961. https://doi.org/10.1371/journal.pone.0255961 Editor: Michael Schubert, Laboratoire de Biologie
du De´veloppement de Villefranche-sur-Mer,
FRANCE Published: August 12, 2021 Copyright: © 2021 Horn, Chivers. This is an open
access article distributed under the terms of the
Creative Commons Attribution License, which
permits unrestricted use, distribution, and
reproduction in any medium, provided the original
author and source are credited. Abstract a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 Organisms are exposed to a wealth of chemical information during their development. Some of these chemical cues indicate present or future dangers, such as the presence of
predators that feed on either the developing embryos or their nearby parents. Organisms
may use this information to modify their morphology or life-history, including hatching timing,
or may retain information about risk until it gains relevance. Previous research has shown
predation-induced alterations in hatching among embryonic minnows that were exposed to
mechanical-injury-released alarm cues from conspecific embryos. Here, we test whether
minnows likewise hatch early in response to alarm cues from injured adult conspecifics. We
know that embryonic minnows can detect adult alarm cues and use them to facilitate learned
recognition of predators; however, it is unknown whether these adult alarm cues will also
induce a change in hatching time. Early hatching may allow animals to rapidly disperse
away from potential predators, but late hatching may allow animals to grow and develop
structures that allow them to effectively escape when they do hatch. Here, we found here
that unlike embryonic fathead minnows (Pimephales promelas) exposed to embryonic cues,
embryonic minnows exposed to adult alarm cues do not exhibit early hatching. The ability of
embryos to recognize adult alarm cues as a future threat, but not a current one, demon-
strates sophisticated ontogenetic specificity in the hatching response of embryonic
minnows. Introduction Animals facing predation must continually weigh the gains of activities such as foraging and
mating against the risk of being injured or killed by a predator. Predation risk has a large
impact on behaviour, morphology and life-history. The behavioural impacts are well studied;
animals typically exhibit fright behaviours, such as reduced movement and foraging [1], and
in the case of fish, increased shelter use and shoaling [2]. These behaviours may significantly
decrease their risk of predation [3, 4]. Individuals that are under a constant threat of predation
may even begin to demonstrate neophobia–a fear of all novel stimuli [5]. These more drastic
behavioural responses may come at a greater cost, as exhibiting fear of everything may prevent
low-risk gains–a willingness to take opportunities when the threat is low rather than non-exis-
tent [1]. Individuals that experience extended exposure to predation risk at certain life stages PLOS ONE PLOS ONE Data Availability Statement: All relevant data is
included within the manuscript and Supporting
Information files. Data Availability Statement: All relevant data is
included within the manuscript and Supporting
Information files. Funding: This work was supported by the Natural
Sciences and Engineering Research Council of
Canada (https://www.nserc-crsng.gc.ca/index_eng. asp) to D.P.C. (RGPIN-2014–04974) and the
University of Saskatchewan (https://www.usask.ca/
). The funders had no role in study design, data
collection and analysis, decision to publish, or
preparation of the manuscript. University of Saskatchewan (https://www.usask.ca/
). The funders had no role in study design, data
collection and analysis, decision to publish, or
preparation of the manuscript. 1 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows may also change morphologically to decrease their risk of predation. A classic example is the
crucian carp, whose body shape deepens in the presence of pike predation [6]. This morphol-
ogy is advantageous in the presence of the gape-limited pike, which cannot open their mouths
wide enough to consume the deeper-bodied morphotype. When the predation risk is great, the
cost of this morphological variation, specifically decreased swimming speed, is negligible com-
pared to the decreased risk of predation [6]. Fathead minnows (Pimephales promelas) likewise
change their morphology in response to risk, but this trait is restricted to males. Females
appear to have a consistent morphology, whereas males exhibit considerable variation, with
early alarm cue exposure inducing deeper head and body structures, as well as shorter caudal
penduncles and fins and longer dorsal fins [7]. As morphological changes may help animals
avoid predation, so too can life-history shifts such as time of hatch. Because some predators
forage selectively on specific life stages of prey, either shifting stages early or late may help prey
reduce their predation risk. For example, newly-hatched salamander larvae are at high risk of
predation by flatworms. Sih and Moore [8] found that in the presence of flatworms, salaman-
ders delayed hatching to postpone their encounters with these predators until they were larger
and better able to withstand the attacks. Competing interests: The authors have declared
that no competing interests exist. Competing interests: The authors have declared
that no competing interests exist. Newly-hatched organisms are commonly considered to be at their most vulnerable due to
their size, their naivety and the sudden loss of their shell [9]. However, being an embryo is not
without risk either, as its immobility makes it impossible for an embryo to escape danger. Data Availability Statement: All relevant data is
included within the manuscript and Supporting
Information files. Risk-induced hatching variation is one of the few mechanisms by which an embryo can miti-
gate risk. Embryos typically hatch spontaneously at a certain stage under normal conditions,
but may hatch prematurely or delay hatching in the presence of higher-than-normal cue levels
or extreme conditions [10]. Threats such as low oxygen levels [11], pathogen presence [12, 13],
elevated temperature [14, 15], risk of desiccation [16], high population densities or predation
pressure [8, 17, 18] may all impact embryonic hatching times [10, 19]. In some cases the organ-
isms can actually speed up their growth within the shell in order to hatch out earlier but at the
same developmental stage, yet in other cases they simply escape their shell at an earlier devel-
opmental stage [20]. For some organisms that are under threat of predation, early hatching may afford them the
ability to escape their predators. This phenomenon, has been observed across a wide range of
taxa, including arthropods, amphibians and fish [17, 21–23]. Kusch and Chivers [17] showed
that when fathead minnow embryos were subject to predation threat, as represented by
repeated exposure to crayfish predation cues augmented by a single crushed embryonic con-
specific, they increased the speed with which they hatched out of their shells, affording them
the opportunity to seek shelter, while costing them developmental time within the egg. Indi-
viduals that hatched early due to predation pressure on the embryos had shorter fork lengths
than their unthreatened conspecifics, the lifetime consequences of which are unstudied in fish. Studies in amphibians show a wide range of consequences, ranging from changes in hatching
time, to morphological changes, to differences in growth rates, all varied by species [24]. Another study shows effects of predation-induced hatching that carry through two subsequent
life stages in red-eyed tree frogs [23]. It is possible that while embryos that hatch early may be
afforded the ability to escape whatever immediate predation pressure they incur, it may come
at a significant cost over their lifespan, depending on what physiological changes are needed to
induce early hatching. For some organisms that are under threat of predation, early hatching may afford them the
ability to escape their predators. This phenomenon, has been observed across a wide range of
taxa, including arthropods, amphibians and fish [17, 21–23]. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 Competing interests: The authors have declared
that no competing interests exist. Holding conditions One hundred and twenty-five mating pairs of adult fathead minnows were obtained from
Osage Catfisheries Inc. of Osage Beach, Missouri, USA. Each mating pair was placed in an
individual 10-L glass tank (Hagen, Montreal, Canada) filled with dechlorinated water and an
airstone. Fish were held on a light:dark cycle of 16:8 hours at 25.8˚C (± 2.8). Because air strati-
fication within the facility caused a temperature gradient of eight degrees (21–29˚C), treat-
ments were equally distributed across the shelves. A piece of polyvinyl chloride pipe cut in half
was added to serve as a shelter for mating and egg-laying. Minnows were fed a combination of
dried flakes and fresh brine shrimp. The adult minnows were removed from the tanks as soon
as the eggs were deposited to prevent a parental care bias, as the father typically guards the
eggs. The airstone was moved beneath the eggs to encourage oxygenation and reduce the risk
of fungal infection. Any pair that spawned a particularly low viability set of eggs (less than ten
percent hatch rate) was replaced with a different partner and allowed to have a second discrete
mating event. Data Availability Statement: All relevant data is
included within the manuscript and Supporting
Information files. Kusch and Chivers [17] showed
that when fathead minnow embryos were subject to predation threat, as represented by The ability to respond to a threat is predicated on the ability to detect said threat. It has long
been established that embryos are capable of identifying predation risk, usually via olfactory or
mechanical cues. Mechanical cues may simply be direct physical contact. Chivers et al. [21]
found that Pacific treefrogs (Hyla regilla) subject to direct mechanical contact from both pred-
atory leeches (families Glossiphonidae and Erpobdellidae) and non-predatory worms hatched found that Pacific treefrogs (Hyla regilla) subject to direct mechanical contact from both pred-
atory leeches (families Glossiphonidae and Erpobdellidae) and non-predatory worms hatched 2 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows early. These responses were intensified by the combined presence of olfactory cues. Olfactory
cues are often innately recognized cues from injured conspecifics in the form of alarm cues
[2]. They may also come from innately recognized predators [25], but this is not typically the
case in fish [26]. The cues could also theoretically even be learned predator cues, based on
recent evidence that embryos can learn to identify predators in the embryonic stages [25, 27–
29]. Interestingly, some fish are capable of discerning the ontogeny of the conspecifics that
produced the alarm cues [30–32]. Fish that can differentiate between cues from differently
aged conspecifics may have the benefit of being able to respond only to relevant cues, rather
than responding to cues from a life stage that experiences different predation risk due to
changes in size, habitat or behaviour. In this experiment, we investigate whether alarm cues from adult minnows induce a change
in hatching time in embryonic minnows and whether the concentration of the alarm cue
impacts the hatch time. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 Conditioning Starting 24–36 h after deposition, 138 clutches of eggs were exposed to the conditioning cues
for one hour each morning and one hour each afternoon for two days. We did not believe
there would be any gain to beginning conditioning prior to this time because the fundamental
neural structure development would be incomplete (35). The egg surface (pipe) was trans-
ferred into a bucket with 1.5 L of water, which also contained one of 6 sets of conditioning
cues: distilled water (25 mL distilled water); predator odor (20 mL predator odor + 5 mL DW);
alarm cue mL high conspecific alarm cue control + 20 mL distilled water); Low (5 mL low con-
centration AC + 20 mL predator odor); Medium (5 mL medium concentration AC + 20 mL
predator odor); High (5 mL high concentration AC + 20 mL predator odor). As mentioned,
these conditioning treatments were designed for another experiment, but for our purpose they
provide three concentrations of alarm cue, and a control to ensure that our addition of preda-
tor odor had no impact on hatching. The final concentrations of alarm cue in the treatment
buckets were as follows: 1 cm2 / 73 200 L in the Low, 1 cm2 / 36 600 L in the Medium, and
1cm 2 / 12 200 L in the alarm cue and High, with none in the distilled water and predator odor
buckets. After exposure, the pipe with the eggs was removed from the cue and placed in a
clean water bath for two min before it was returned to its holding tank. Collection of cues Four adult fathead minnows were sacrificed via a blow to the head (as per guidelines from the
Canadian Council on Animal Care) for alarm cue collection. A thin layer of skin was removed
from each side of each fish (1 cm2 per fish) and was homogenized in 40 ml of chilled, distilled
water before being filtered through cotton batting to remove any remaining tissue. The solu-
tion was diluted to produce three concentrations of alarm cue stock: high, medium and low
(1 cm2 of skin/ 40 L, 120 L or 240 L respectively). Thirty-ml aliquots of skin solution were
stored at -20˚C and thawed in a water bath prior to use. We know that these concentrations
are sufficient to induce behavioural changes in minnows [33]. As these fish were going to be used for another experiment post-hatch, we also included a
novel predator odor in four of our conditioning treatments. The predator odor is not expected
to have impacted this experiment because many experiments with minnows have established
that upon hatching minnows lack recognition of northern pike (Esox lucius) as a predator. However, for the sake of thoroughness, we explain the process of predator odor collection. Predator odor was collected from three pike (fork length 19.1 cm ± SE: 0.2) starved for one
week prior to cue collection to prevent the presence of dietary alarm cues [34]. The pike were
placed in individual 60 L glass collection tanks with only an airstone and clean dechlorinated
water for 24 h to produce the predator odor. After the fish were returned to their regular tanks, 3 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows the water was filtered through polywool. Bags of 125 ml of predator odor were stored at -20˚C
and thawed just before use. the water was filtered through polywool. Bags of 125 ml of predator odor were stored at -20˚C
and thawed just before use. Testing conditions Eggs were checked every 4 h during the day (0600h, 1000h, 1400h, 1800h, 2200h) for signs of
hatching. We considered clutches as replicates rather than individual eggs due to the large
number of eggs (almost 17 000 in total). We noted the temperature at each 4 h interval, the
times at which the eyes appeared, the first fish hatched, approximately 90% had hatched, and
the last viable (not discolored) egg hatched, and recorded if there were any signs of fungal
infection (common in eggs lacking parental care). Any infected eggs were carefully excised
from the rest of the clutch to prevent pathogen spread. Discussion Our results provide strong evidence that hatching rates were not affected by the presence of
adult alarm cues. Given our design, unequivocal results and large sample sizes, we are confi-
dent that our findings are robust and reflect a true non-significant effect of risk on hatching
time. Studies examining predator-induced hatching responses among fishes are at their
infancy. We feel that it is just as important to publish results from carefully designed and exe-
cuted studies that fail to find effects, as it is to publish those that confirm effects. The only sig-
nificant decreases in hatching time observed in our experiment occurred as a result of
increased temperature, which is a known phenomenon across various species of fish [36]. p
p
p
[
]
As mentioned, a myriad of factors can affect the hatching time of embryos. It may therefore
seem inconsequential to have examined a factor that does not induce an effect. However, what
makes this observation interesting is the fact that embryonic minnows seem to be differentiat-
ing between this and other highly similar pieces of information. Kusch and Chivers [17], for
example, showed earlier hatching in minnows exposed to alarm cues from crushed conspecific
embryos combined with feeding cues from virile crayfish fed embryos. In our experiment, we
tested whether embryos exposed to adult alarm cues might also hatch prematurely, but found
that they did not. The concentration of alarm cues from embryos and adults cannot be directly
compared as it is measured by the numbers of eggs or the area (# of cm2 of skin) per volume
(respectively). However, we do know from an experiment that followed from our current
investigation, that the concentration of adult cues to which the embryos were subjected was
enough to elicit a learned antipredator response [37], which clearly indicates that the concen-
tration was adequate to indicate a threat. Despite the recognized threat to adults, however,
these embryos did not hatch early. Although it is theoretically possible that ability to hatch
early is not present in this genetic line of fathead minnows, as it was in the minnows used by
Kusch and Chivers [17], many studies have demonstrated condition-dependent hatching rates
across genetically independent fathead minnow populations [17, 36, 38, 39]. We believe it is
far more plausible that the minnow embryos are responding differently to cues based on the
ontogenetic stage of the donors. Results Clutch hatch rates (mean ± SE) from egg deposition ranged from first hatch at 79 h ± 1.7, to
90% hatch at 111 h ± 1.8, to final hatch at 122 h ± 1.8. From the appearance of eye spots the
first hatch was at 35 h ± 1.3, 90% hatch at 67 h ± 1.2, and final hatch at 79 h ± 1.3. All data is
available in the Supporting File (S1 Dataset). The first eigenvector of the PCA captured 73% of
the variance and had correlation coefficients with the original response variables that ranged
from 0.63 to 0.92. Clutch hatch rate was unaffected by treatment (F5,110 = 0.927, p = 0.467, Fig
1), but was affected by temperature (F9,110 = 1.330, p < 0.001). Temperature did not vary sig-
nificantly across treatments (F5,119 = 0.196, p = 0.963). Statistical analyses 4 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows Animal welfare note This study was conducted as approved by the University of Saskatchewan Committee on Ani-
mal Ethics under the protocol number 20070083. At the start of the experiment, four individu-
als were killed by a blow to the head to produce conspecific cues; MS-222 cannot be used as it
interferes with cue production. Both the adults and the offspring were maintained for use for
future experiments, but following their use in multiple experiments the study fish were eutha-
nized with MS-222 as the permit did not allow release. Statistical analyses Because we were considering clutches rather than individual embryos, we used several differ-
ent measures for hatching time, all recorded in hours. We used two starting points: time from
deposition, and time from eye development, and three different end points: first hatch, 90%
hatch, and final hatching of all viable eggs, for a total of 6 measures of hatching time. We
included the time from eye development measure to prevent bias from our treatments not
beginning until 24 hours (shortly before eye development at around 43 h). The appearance of
eye spot pigmentation also lines up with developmental milestones including completion of
fundamental structural neural development, including the telencephalon and olfactory bulb,
which may be important for cue detection [35]. We used a correlation-based principal component analysis (PCA) to combine the six mea-
sures of hatching time into a single synthetic variable. We used this variable in an analysis of
variance (ANOVA) to evaluate the effect of conditioning treatments with temperature as a
covariate. No interaction was found between temperature and treatment (F5,77 = 1.330,
p = 0.261). Clutches with hatching success rates of less than ten percent were excluded due to
their low viability, leaving 118 clutches of eggs (subgroup of clutches with and without outliers,
n = 18–22). We also looked at temperature across treatments to make sure there were not cate-
gorical differences We used a correlation-based principal component analysis (PCA) to combine the six mea-
sures of hatching time into a single synthetic variable. We used this variable in an analysis of
variance (ANOVA) to evaluate the effect of conditioning treatments with temperature as a
covariate. No interaction was found between temperature and treatment (F5,77 = 1.330, p = 0.261). Clutches with hatching success rates of less than ten percent were excluded due to
their low viability, leaving 118 clutches of eggs (subgroup of clutches with and without outliers,
n = 18–22). We also looked at temperature across treatments to make sure there were not cate-
gorical differences. p = 0.261). Clutches with hatching success rates of less than ten percent were excluded due to
their low viability, leaving 118 clutches of eggs (subgroup of clutches with and without outliers,
n = 18–22). We also looked at temperature across treatments to make sure there were not cate-
gorical differences. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 Discussion Werner [40] suggests that shifts in the timing of life-history switch points, such as hatching
or metamorphosis, should only occur in instances when the mortality/growth ratio of the 5 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows Fig 1. Variation in clutch hatching times following embryonic exposure to different treatment cues as represented by a PCA correlation-based synthetic factor
that combines six measures of hatching time. DW = water, PO = predator odor, AC = alarm cue, LO = PO + low concentration AC, MED = PO + medium
concentration AC HI = PO + high concentration AC
y
p
g Fig 1. Variation in clutch hatching times following embryonic exposure to different treatment cues as represented by a PCA correlation-based synthetic factor
that combines six measures of hatching time. DW = water, PO = predator odor, AC = alarm cue, LO = PO + low concentration AC, MED = PO + medium
concentration AC, HI = PO + high concentration AC. htt
//d i
/10 1371/j
l
0255961 001 Fig 1. Variation in clutch hatching times following embryonic exposure to different treatment cues as represented by a PCA correlation-based synthetic factor
that combines six measures of hatching time. DW = water, PO = predator odor, AC = alarm cue, LO = PO + low concentration AC, MED = PO + medium
concentration AC, HI = PO + high concentration AC. https://doi.org/10.1371/journal.pone.0255961.g001 https://doi.org/10.1371/journal.pone.0255961.g001 current life stage is greater than that of the subsequent stage. Warkentin [18] expands this idea
to propose that if embryos are in danger but juveniles are safe, early hatching would be
favoured, and conversely, high juvenile mortality and safe embryos would favour a delay in
hatching. The findings of Kusch and Chivers [17] follow this trend, with high embryonic risk
inducing early hatching. Our experiment tests the reverse–a situation where embryos are not
at risk, but adults are. We did not observe early hatching in this scenario, but neither did we
observe delayed hatching. Nevertheless, when considered alongside Kusch and Chivers’ [17]
work demonstrating early hatching in embryos following exposure to embryonic cues, our
results suggest that the minnows are able to discern the ontogeny of the cues and use the infor-
mation accordingly. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 Acknowledgments We would like to thank SMC and PJF for their feedback on early drafts of this manuscript. Writing – review & editing: Marianna E. Horn, Douglas P. Chivers. Writing – review & editing: Marianna E. Horn, Douglas P. Chivers. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 Discussion Several species of fish are known to discern the ontogeny of conspecific
alarm cues and to put more value in the cues from individuals of the same age. For example,
Lo¨nnstedt & McCormick [30] show a clear trend in the response of newly hatched damselfish
to alarm cues of different aged conspecifics: response weakens as the age difference increases. Responses range from strong threat-sensitive responses to ontogenetically similar recruit-aged 6 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows fish, to lower and non-threat dependent responses to juvenile cues, down to a complete lack of
response to adult cues. Our findings indicate that minnows perceive the presence of a threat to
a different life-stage (their free-swimming conspecifics) and recognize that this does not indi-
cate a current threat to their safety. Because hatching early would not help them avoid this
threat, they have no cause to hatch early. Indeed, in this instance, early hatching in the pres-
ence of a predator to adults would prove to be mismatched as it would increase their risk of
mortality rather than decreasing it, not only through increased predator exposure, but also
through the long-term costs associated with hatching at a less developed stage [23]. A sophisti-
cated level of perception of risk should provide advantages to the current life stage by not
inducing ill-advised premature hatching, while still allowing collection of information regard-
ing future predation threats. Author Contributions Conceptualization: Marianna E. Horn, Douglas P. Chivers. Conceptualization: Marianna E. Horn, Douglas P. Chivers. Formal analysis: Marianna E. Horn. Formal analysis: Marianna E. Horn. Funding acquisition: Douglas P. Chivers. Funding acquisition: Douglas P. Chivers. Investigation: Marianna E. Horn. Investigation: Marianna E. Horn. Methodology: Marianna E. Horn. Supervision: Douglas P. Chivers. Visualization: Marianna E. Horn. Visualization: Marianna E. Horn. Writing – original draft: Marianna E. Horn. Writing – original draft: Marianna E. Horn. References 1. Lima SL, Dill LM. Behavioral decisions made under the risk of predation: a review and prospectus. Can
J Zool. 1990 Apr 1; 68(4):619–40. 2. Chivers DP, Smith RJF. Chemical alarm signalling in aquatic predator-prey systems: A review and pro-
spectus. Ecoscience. 1998; 5(3):338–52. 3. Mirza RS, Chivers DP. Predator-recognition training enhances survival of brook trout: evidence from
laboratory and field-enclosure studies. Can J Zool. 2000 Dec 1; 78(12):2198–208. 4. Mirza RS, Chivers DP. Chemical alarm signals enhance survival of brook charr (Salvelinus fontinalis)
during encounters with predatory chain pickerel (Esox niger). Ethology. 2001; 107(11):989–1005. 5. Brown GE, Ferrari MCO, Elvidge CK, Ramnarine I, Chivers DP. Phenotypically plastic neophobia: a
response to variable predation risk. Proc R Soc B Biol Sci. 2013 Apr 7; 280(1756):20122712. https://doi. org/10.1098/rspb.2012.2712 PMID: 23390103 6. Bro¨nmark C, Miner JG. Predator-induced phenotypical change in body morphology in crucian carp. Sci-
ence. 1992 Nov 20; 258(5086):1348–50. https://doi.org/10.1126/science.258.5086.1348 PMID:
17778362 7 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows 7. Meuthen D, Ferrari MCO, Lane T, Chivers DP. Predation risk induces age- and sex-specific morpholog-
ical plastic responses in the fathead minnow Pimephales promelas. Sci Rep. 2019 Oct 25; 9(1):1–9. https://doi.org/10.1038/s41598-018-37186-2 PMID: 30626917 8. Sih A, Moore RD. Delayed hatching of salamander eggs in response to enhanced larval predation risk. Am Nat. 1993 Dec; 142(6):947–60. https://doi.org/10.1086/285583 PMID: 19425943 9. Sogard SM. Size-selective mortality in the juvenile stage of teleost fishes: A review. Bull Mar Sci. 1997;
60(3):1129–57. 10. Warkentin KM. Plasticity of hatching in amphibians: Evolution, trade-offs, cues and mechanisms. Integr
Comp Biol. 2011 Jul 1; 51(1):111–27. https://doi.org/10.1093/icb/icr046 PMID: 21642239 11. Czerkies P, Brzuzan P, Kordalski K, Luczynski M. Critical partial pressures of oxygen causing preco-
cious hatching in Coregonus lavaretus and C. albula embryos. Aquaculture. 2001 May 1; 196(1):151–8. 12. Pompini M, Clark ES, Wedekind C. Pathogen-induced hatching and population-specific life-history
response to waterborne cues in brown trout (Salmo trutta). Behav Ecol Sociobiol. 2013 Apr; 67(4):649–
56. 13. Warkentin KM, Currie CR, Rehner SA. Egg-killing fungus induces early hatching of red-eyed treefrog
eggs. Ecology. 2001; 82(10):2860–9. 14. Jungwirth M, Winkler H. The temperature dependence of embryonic development of grayling (Thymal-
lus thymallus), Danube salmon (Hucho hucho), Arctic char (Salvelinus alpinus) and brown trout (Salmo
trutta fario). Aquaculture. 1984 Jun 1; 38(4):315–27. 15. Re´alis-Doyelle E, Pasquet A, De Charleroy D, Fontaine P, Teletchea F. References Strong effects of temperature
on the early life stages of a cold stenothermal fish species, brown trout (Salmo trutta L.). PLoS ONE. 2016 May 12; 11(5). 16. Wedekind C, Mu¨ller R. Risk-induced early hatching in Salmonids. Ecology. 2005; 86(9):2525–9. 17. Kusch RC, Chivers DP. The effects of crayfish predation on phenotypic and life-history variation in fat-
head minnows. Can J Zool. 2004 Jun; 82(6):917–21. 18. Warkentin KM. Adaptive plasticity in hatching age: a response to predation risk trade-offs. Proc Natl
Acad Sci. 1995 Apr 11; 92(8):3507–10. https://doi.org/10.1073/pnas.92.8.3507 PMID: 11607529 19. Martin K, Bailey K, Moravek C, Carlson K. Taking the Plunge: California grunion embryos emerge rap-
idly with environmentally cued hatching. Integr Comp Biol. 2011 Jul 1; 51(1):26–37. https://doi.org/10. 1093/icb/icr037 PMID: 21665921 20. Warkentin KM. Environmentally cued hatching across taxa: Embryos respond to risk and opportunity. Integr Comp Biol. 2011 Jul 1; 51(1):14–25. https://doi.org/10.1093/icb/icr017 PMID: 21705799 21. Chivers DP, Kiesecker JM, Marco A, Devito J, Anderson MT, Blaustein AR. Predator-induced life his-
tory changes in amphibians: egg predation induces hatching. Oikos. 2001; 92(1):135–42. 22. Mirza RS, Chivers DP, Godin JJ. Brook charr alevins alter timing of nest emergence in response to
chemical cues from fish predators. J Chem Ecol N Y. 2001 Sep; 27(9):1775–85. https://doi.org/10. 1023/a:1010404624556 PMID: 11545370 23. Touchon JC, McCoy MW, Vonesh JR, Warkentin KM. Effects of plastic hatching timing carry over
through metamorphosis in red-eyed treefrogs. Ecology. 2013; 94(4):850–60. 24. Relyea RA, Stephens PR, Barrow LN, Blaustein AR, Bradley PW, Buck JC, et al. Phylogenetic patterns
of trait and trait plasticity evolution: Insights from amphibian embryos. Evolution. 2018; 72(3):663–78. https://doi.org/10.1111/evo.13428 PMID: 29345312 25. Mathis A, Ferrari MCO, Windel N, Messier F, Chivers DP. Learning by embryos and the ghost of preda-
tion future. Proc R Soc B-Biol Sci. 2008 Nov 22; 275(1651):2603–7. https://doi.org/10.1098/rspb.2008. 0754 PMID: 18682368 26. Brown GE. Learning about danger: chemical alarm cues and local risk assessment in prey fishes. Fish
Fish. 2003 Sep; 4(3):227. 27. Atherton JA, McCormick MI. Active in the sac: damselfish embryos use innate recognition of odours to
learn predation risk before hatching. Anim Behav. 2015 May 1; 103:1–6. 28. Horn ME, Ferrari MCO, Chivers DP. Retention of learned predator recognition in embryonic and juvenile
rainbow trout. Behav Ecol. 2019 Nov 8; 30(6):1575–82. 29. Nelson AB, Alemadi SD, Wisenden BD. Learned recognition of novel predator odour by convict cichlid
embryos. Behav Ecol Sociobiol. 2013 Aug 1; 67(8):1269–73. 30. PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 References Lo¨nnstedt OM, McCormick MI. Chemical alarm cues inform prey of predation threat: the importance of
ontogeny and concentration in a coral reef fish. Anim Behav. 2011 Aug 1; 82(2):213–8. 31. Mirza RS, Chivers DP. Brook char (Salvelinus fontinalis) can differentiate chemical alarm cues pro-
duced by different age/size classes of conspecifics. J Chem Ecol N Y. 2002 Mar; 28(3):555–64. https://
doi.org/10.1023/a:1014544112763 PMID: 11944832 8 / 9 PLOS ONE | https://doi.org/10.1371/journal.pone.0255961
August 12, 2021 PLOS ONE Embryonic risk exposure and hatching times in minnows 32. Mitchell MD, McCormick MI. Ontogenetic differences in chemical alarm cue production determine anti-
predator responses and learned predator recognition. Behav Ecol Sociobiol. 2013 Jul 1; 67(7):1123–9. 32. Mitchell MD, McCormick MI. Ontogenetic differences in chemical alarm cue production determine anti-
predator responses and learned predator recognition. Behav Ecol Sociobiol. 2013 Jul 1; 67(7):1123–9. 33. Ferrari MCO, Trowell JJ, Brown GE, Chivers DP. The role of learning in the development of threat-sen-
sitive predator avoidance by fathead minnows. Anim Behav. 2005 Oct 1; 70(4):777–84. 34. Mathis A, Smith RJF. Fathead minnows, Pimephales promelas, learn to recognize northern pike, Esox
lucius, as predators on the basis of chemical stimuli from minnows in the pike’s diet. Anim Behav. 1993
Oct 1; 46(4):645–56. 35. US EPA. US EPA Report: Prehatching development of the fathead minnow, Pimephales promelas
Rafinesque. EPA/600/R-96/079. 1996 [cited 2019 Nov 19]. Available from: https://nepis.epa.gov/Exe/
ZyNET.exe/9100YDUL.TXT 36. Brungs WA. Chronic effects of constant elevated temperature on the fathead minnow (Pimephales pro-
melas Rafinesque). Trans Am Fish Soc. 1971; 100(4):659–64. 37. Horn ME, Chivers DP. Preschool for small frys: Threat-sensitive learning of predators by embryonic
minnows (Pimephales promelas). Anim Behav. 2021; Forthcoming. 38. Brungs WA. Chronic effects of low dissolved oxygen concentrations on the fathead minnow (Pime-
phales promelas). J Fish Res Board Can. 1971 Aug 1; 28(8):1119–23. 39. Sargent RC. Allopaternal care in the fathead minnow, Pimephales promelas: Stepfathers discriminate
against their adopted eggs. Behav Ecol Sociobiol. 1989; 25(6):379–85. 40. Werner EE. Amphibian metamorphosis: Growth rate, predation risk, and the optimal size at transforma-
tion. Am Nat. 1986 Sep 1; 128(3):319–41. 9 / 9
|
https://openalex.org/W3004605560
|
https://bmcmedicine.biomedcentral.com/track/pdf/10.1186/s12916-019-1486-3
|
English
| null |
Mapping malaria seasonality in Madagascar using health facility data
|
BMC medicine
| 2,020
|
cc-by
| 8,275
|
Mapping malaria seasonality in
Madagascar using health facility data Michele Nguyen1*, Rosalind E. Howes1, Tim C.D. Lucas1, Katherine E. Battle1, Ewan Cameron1,
Harry S. Gibson1, Jennifer Rozier1, Suzanne Keddie1, Emma Collins1, Rohan Arambepola1,
Su Yun Kang1, Chantal Hendriks1, Anita Nandi1, Susan F. Rumisha1, Samir Bhatt2, Sedera A. Mioramalala3,
Mauricette Andriamananjara Nambinisoa3, Fanjasoa Rakotomanana4, Peter W. Gething1†
and Daniel J. Weiss1† Abstract Background: Many malaria-endemic areas experience seasonal fluctuations in case incidence as Anopheles
mosquito and Plasmodium parasite life cycles respond to changing environmental conditions. Identifying
location-specific seasonality characteristics is useful for planning interventions. While most existing maps of malaria
seasonality use fixed thresholds of rainfall, temperature, and/or vegetation indices to identify suitable transmission
months, we construct a statistical modelling framework for characterising the seasonal patterns derived directly from
monthly health facility data. Methods: With data from 2669 of the 3247 health facilities in Madagascar, a spatiotemporal regression model was
used to estimate seasonal patterns across the island. In the absence of catchment population estimates or the ability
to aggregate to the district level, this focused on the monthly proportions of total annual cases by health facility level. The model was informed by dynamic environmental covariates known to directly influence seasonal malaria trends. To identify operationally relevant characteristics such as the transmission start months and associated uncertainty
measures, an algorithm was developed and applied to model realisations. A seasonality index was used to incorporate
burden information from household prevalence surveys and summarise ‘how seasonal’ locations are relative to their
surroundings. Results: Positive associations were detected between monthly case proportions and temporally lagged covariates of
rainfall and temperature suitability. Consistent with the existing literature, model estimates indicate that while most
parts of Madagascar experience peaks in malaria transmission near March–April, the eastern coast experiences an
earlier peak around February. Transmission was estimated to start in southeast districts before southwest districts,
suggesting that indoor residual spraying should be completed in the same order. In regions where the data
suggested conflicting seasonal signals or two transmission seasons, estimates of seasonal features had larger
deviations and therefore less certainty. Conclusions: Monthly health facility data can be used to establish seasonal patterns in malaria burden and augment
the information provided by household prevalence surveys. The proposed modelling framework allows for
evidence-based and cohesive inferences on location-specific seasonal characteristics. As health surveillance systems
continue to improve, it is hoped that more of such data will be available to improve our understanding and planning
of intervention strategies. Keywords: Seasonality, Malaria, Geostatistical model, Health facility data, Madagascar *Correspondence: michele.nguyen@bdi.ox.ac.uk
†Peter W. Gething and Daniel J. Weiss are joint senior authors. Nguyen et al. BMC Medicine (2020) 18:26
https://doi.org/10.1186/s12916-019-1486-3 Nguyen et al. BMC Medicine (2020) 18:26
https://doi.org/10.1186/s12916-019-1486-3 Background within a subannual window of fixed size. In order to quan-
tify the distribution of malaria cases in each district over a
year, Mabaso et al. used Markham’s concentration index, a
measure previously used to determine rainfall concentra-
tions [18]. In their analysis, the concentration maps from
the case numbers that were estimated using a Bayesian
spatiotemporal regression model displayed clearer spatial
patterns compared to those derived from raw case num-
bers. Spatiotemporal models smooth out idiosyncratic
deviations, thus enabling the main seasonal trend to be
discerned more easily. They are also useful for explic-
itly relating the seasonality to input covariates as well as
accounting for unknown spatiotemporal effects. g
Malaria is a disease caused by the Plasmodium parasite
and remains a major cause of child mortality in sub-
Saharan Africa [1]. As with many vector-borne diseases,
malaria transmission exhibits seasonality across endemic
areas. That is, malaria burden, which can be measured
by metrics including parasite prevalence or the number
of clinical cases, follows an annually recurring seasonal
pattern that is typically attributed to the relationship of
the mosquito vector and parasite life cycles with the
environment. The rationale for developing methods capa-
ble of enumerating location-specific seasonal characteris-
tics is to assist planning for intervention distributions to
improve their efficacy, develop early warning systems, and
improve the temporal resolution and overall accuracy of
malaria burden estimation models [2]. g
p
p
In this paper, we build on previous attempts and map
malaria seasonality in Madagascar, a country of marked
ecological and epidemiological diversity that is struggling
to meet targets for malaria burden reductions and hence
where further information for optimising interventions
would be valuable [1, 19]. We demonstrate how common
descriptors of seasonality can be made comparable across
locations to facilitiate modelling and support policy deci-
sions, a topic of interest for not just modellers but also
the wider public health community. The modelling frame-
work, which aims to provide a cohesive and evidence-
based analysis, is applied to 2013–2016 health facility case
data from Madagascar. Despite the lack of catchment pop-
ulation estimates or data from all health facilities, we show
that the monthly case data can be used to model spatially
heterogenous seasonal patterns of malaria. Background We identify
seasonality features such as the peak and length of trans-
mission by estimating the proportions of cases in each
month using a log-linear spatiotemporal regression model
and fits to rescaled von Mises densities. By applying the
algorithm to posterior samples of the monthly proportion
curves, we also obtain uncertainty measures associated
with each derived seasonal characteristic. To reflect both
the timing and the amplitude aspects of seasonality, a
seasonality index is used to synthesise the monthly case
proportion estimates with existing annual case or parasite
incidence (API) estimates. Past studies on the seasonality of malaria vary in
their degree of sophistication and scope. For example,
some give empirical descriptions of the cyclic patterns
at specific locations, while others model the time series
by relating them to underlying seasonal conditions or
mathematical structures such as in seasonal autoregres-
sive integrated moving average models and trigonometric
models [3–8]. To guide intervention policies, there have also been
attempts to derive maps related to seasonality. By using
thresholds of, for example, rainfall, temperature, and veg-
etation cover, it is possible to estimate the start, the end,
and the length of the period suitable for transmission [9–
11]. Maps of malaria seasonality patterns are relevant to
the planning of intervention campaigns to maximise their
impact. For example, seasonal malaria chemoprevention
(SMC) has been shown to be most effective when deliv-
ered in areas with highly seasonal transmission. As such,
the World Health Organization guidelines recommend
targeted SMC in malaria endemic areas where more than
60% of clinical cases occur during a short period of about
4 months [12]. Despite their potential utility, the threshold-based
malaria seasonality maps have several limitations. For
example, metrics such as total rainfall can be linked to
either the creation or the washing away of mosquito
breeding sites depending on the local topology and rainfall
intensity [13, 14]. Using fixed environmental thresholds
does not account for the variation of responses to envi-
ronmental forcing or allow for other potential drivers
such as seasonal migration of human populations [15, 16]. Likewise, because the distribution of vector species is spa-
tially heterogeneous and their preferences for breeding
sites vary, a one-size-fits-all approach for characterising
malaria seasonality may miss important nuances [17]. Abstract 1Malaria Atlas Project, Oxford Big Data Institute, Nuffield Department of
Medicine, University of Oxford, Oxford, UK
Full list of author information is available at the end of the article *Correspondence: michele.nguyen@bdi.ox.ac.uk
†Peter W. Gething and Daniel J. Weiss are joint senior authors. 1Malaria Atlas Project, Oxford Big Data Institute, Nuffield Department of
Medicine, University of Oxford, Oxford, UK
Full list of author information is available at the end of the article © The Author(s). 2020 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the
Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Page 2 of 11 Page 2 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine Spatiotemporal monthly proportion model Proportions or probabilities are often modelled using
multinomial or compositional regressions. However, in
this scenario, this would mean computing ratios with
respect to a fixed reference month. By using monthly case
proportions, it is easier to relate each month’s propor-
tion to the values of its covariates explicitly. To estimate
monthly case proportions over the study region, we use
the following spatiotemporal model which can be viewed
as the linear predictor of a multinomial regression written
in a log-linear form: By focusing on proportions instead of the case counts,
we bypass the need to estimate catchment populations for
the health facilities. Deriving incidence measures using
catchment population data is commonly used to adjust for
magnitude differences in count data, but estimating these
catchment population sizes could have introduced bias
to the analysis as only an incomplete set of health facil-
ity geolocation data was available to inform this analysis. Additional features of this modelling approach include the
following: (a) utilising a standardised definition of a trans-
mission period as the months with the proportion of cases
exceeding 1/12 of the annual total, and (b) restricting the
analysis to dynamic environmental covariates like rainfall
and temperature that are likely to impact seasonal malaria
transmission patterns. log(pi,j) = Xijβ + φij + ϵij. (1) (1) Here, pi,j is the average proportion of cases at location j in
month i. To avoid applying logarithms on zeros, we added
an offset of 0.00001 to pi,j and rescaled the raw monthly
proportions at each location to sum to one before mod-
elling. Similarly, rescaling was conducted after modelling
with a location-specific normalising constant. This allows
locations to be more or less sensitive to the variation in
the underlying covariates. A suite of environmental variables were assembled
as 5 km spatial grids. These were temporally aligned
with the health facility data and included the Climate
Hazards Group Infrared Precipitation and Station data
(CHIRPS), enhanced vegetation index (EVI), daytime land
surface temperature (LST_day), diurnal difference in land
surface temperature (LST_delta), night-time land sur-
face temperature (LST_night), tasselled cap brightness y
g
In Eq. (1), Xij ∈Rn×m is a covariate design matrix
including an intercept, β
∈Rm is the corresponding
parameter vector, and ϵ ∼N(0, σ 2
e ) denotes the inde-
pendent, identically distributed noise. The spatiotemporal
Gaussian field φ is constructed such that: Fig. Methods
Study data Malaria seasonality in Madagascar was modelled using
monthly case reports submitted by health facilities to
the centralised Ministry of Health between 2013 and
2016. This dataset was provided by the National Malaria
Control Programme (NMCP) in Madagascar and gave
the number of patients who tested positive for malaria
by rapid diagnostic tests (RDTs), irrespective of species. After cleaning the data to ensure consistent nomencla-
ture, 2801 health facilities were successfully geo-located
and verified using a database of 3274 geo-located health
facilities from the Institut Pasteur de Madagascar (IPM). Another class of seasonality maps consists of concen-
tration indices that aim to quantify the proportion of an
annual amount (of any variable of interest) which falls Page 3 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (TCB), tasselled cap wetness (TCW), and the tempera-
ture suitability indices for Plasmodium falciparum and
Plasmodium vivax (TSI_Pf and TSI_Pv). Details on the
sources of these data are available elsewhere [19, 20]. To
relate the observed seasonal patterns to the potential driv-
ing factors, monthly medians of these environmental data
were derived and standardised. One to 3 month lags were
included for each covariate to allow for delayed and accu-
mulated responses to these environmental variables [19]. The IPM database itself was further validated against a
database of 120 global positioning system (GPS) geo-
located health facilities from the President’s Malaria Ini-
tiative (PMI). To account for year-on-year trends and help avoid
unwanted bias in the monthly health facility data from,
for example, stock-outs of RDTs, median monthly case
counts were derived for each site. With a focus on
location-specific seasonal trends, monthly proportions
were obtained by dividing the monthly case medians by
their annual sum. This is illustrated for an example Mala-
gasy health centre in Fig. 1. After excluding sites with
incomplete intra-annual patterns, data from 2669 health
facilities were used in the later analysis. Seasonality index and monthly case incidence (2) Seasonality statistics were derived from each posterior
sample of the location-specific monthly proportions. To
quantify ‘how seasonal’ a location is, a seasonality index
was defined [25]. For location j, this index is given by
the product of an entropy measure and the normalised
amplitude: |a| < 1 and ξi,j correspond to zero-mean Gaussian inno-
vations which are temporally independent but spatially
coloured with a Matérn covariance: Sj = Dj ×
Rj
Rmax
,
(4)
where Dj =
12
i=1
pi,j log2
pi,j
q
. (5) Cov(h) =
σ 2
f
(ν)2ν−1 (κh)νKν(κh),
(3) (4) (3) (5) where h is the distance between two locations and κ > 0
is a scaling parameter. In practice, it is difficult to identify
the order of the modified Bessel function of second kind,
denoted by Kν in Eq. (3) [21]. Thus, this was set to 1 as per
the convention in the R-INLA package, which was used
for model fitting and selection [22–24]. Since pi,j is the case proportion for month i and q =
1/12, Dj corresponds to the Kullback–Leibler divergence
between the estimated intra-annual distribution and a
uniform distribution. Thus, it quantifies how different the
monthly proportions are from a uniform distribution over
the year. In the context of malaria, Rj can be represented
by the API at location j and Rmax is the maximum API over
the region. Before fitting the model, the log proportions were exam-
ined and outliers were excluded to model prototypical
seasonal behaviour. Based on the histogram of log(pi,j)
values in Additional file 1: Figure S1, log(pi,j) ≤−11
were deemed as outliers. Since the proportions were
previously rescaled to sum up to one at each location,
this does not mean that all data zeros were excluded
from the analysis. Instead, zeros were only removed if
much higher case proportions were observed in other
months. One benefit of using Sj is that it separates the timing and
amplitude aspects of seasonality. Since high-resolution
malaria burden estimates already exist [26–28], the model
did not need to estimate the number of cases and could
focus exclusively on estimating the monthly proportions
at each location. Estimates of the monthly parasite inci-
dence (MPI) for each location could also be obtained by
multiplying the estimated monthly proportions with the
mean Pf API estimates for 2016. Seasonality index and monthly case incidence This synthesises the esti-
mated seasonal pattern obtained from the health facility
data with the magnitude-level information provided by
household prevalence surveys since these were used in the
API model. A randomly selected 30% of sites were excluded from
the model fitting to validate our results. Working with
data from the remaining 70% of the locations, the set
of covariates was reduced to facilitate model selection
and account for multicollinearity by iteratively comput-
ing the variance inflation factors (VIFs) and remov-
ing the covariates with the highest VIF value until all
the remaining covariates have VIF values less than 10. Since these covariates have low correlations with each
other, their estimated regression coefficients are more
robust. Spatiotemporal monthly proportion model 1 a Number of positive rapid diagnostic tests (RDTs) reported from an example Malagasy health centre recorded monthly between 2013 and
2016. b The corresponding monthly proportions computed by dividing the monthly medians by the annual total Fig. 1 a Number of positive rapid diagnostic tests (RDTs) reported from an example Malagasy health centre recorded monthly between 2013 and
2016. b The corresponding monthly proportions computed by dividing the monthly medians by the annual total Nguyen et al. BMC Medicine (2020) 18:26 Page 4 of 11 Page 4 of 11 Nguyen et al. BMC Medicine φi,j =
ξ1j for i = 1,
aφi−1,j + ξi,j for i = 2, . . . , 12,
(2) Seasonality index and monthly case incidence Deriving seasonality features Locations were considered as potentially seasonal if their
entropy Dj
> 0. When this criterion was satisfied, a
rescaled von Mises (RvM) density was fitted via least
squares to the estimated monthly proportions. This is
illustrated for an example Malagasy health facility in Addi-
tional file 1: Figure S3. To speed up the covariate selection via backwards
regression, the 70% training set was randomly split into
two smaller sets of equal size and spatial coverage to
search for the best model in terms of deviance information
criterion (DIC). A map of the test and training locations
is shown in Additional file 1: Figure S2. The two result-
ing candidates from the separate backwards regressions
on the two smaller training sets were then refitted to the
whole training set to select the final model with the lower
DIC. After checking for reasonable results on the test data,
the model was refitted to the entire dataset before predic-
tions were made over the gridded surface. An analysis of
the robustness of the methodology to the spatial and tem-
poral extents as well as the quality of the data is provided
in the Additional file 1. By treating the month in a year as a random variable
on a circle, i.e. defining θ = 2πi
12 where i = 1, . . . , 12, the
two-component RvM density function can be written as
follows: f (θ; s, ω, μ1, κ1, μ2, κ2) = s
ωf1(θ; μ1, κ1)
+(1 −ω)f2(θ; μ2, κ2)
(6) (6) where fk(θ; μk, κk) =
1
2πI0(κk) exp{κk cos(θ −μk)} (7) Nguyen et al. BMC Medicine (2020) 18:26 Page 5 of 11 Nguyen et al. BMC Medicine Algorithm 1 Algorithm for deriving seasonality statistics
from a monthly proportion realisation curve of location j. is a one-component vM density for k = 1, 2 with mean
and concentration parameters μk and κk. Here, I0 is the
modified Bessel function and ω is a probability weight. The scale parameter s > 0 modulates between the con-
tinuous density function and monthly proportions over
discrete months. Require: pi,j ≥0,
12
i=1
pi,j = 1 and error threshold ˜ϵ > 0. Record Dj = 12
i=1 pi,j log2
12pi,j
if Dj > 0 then Require: pi,j ≥0,
12
i=1
pi,j = 1 and error threshold ˜ϵ > 0. Deriving seasonality features A high temperature suitability value indicates
that many mosquitoes will survive long enough to become
infectious. Since this index was derived from a biological
model, it accounts for a non-linear relationship with the
monthly proportions. Plasmodium vivax temperature suitability index at a 2-
month lag. The latter is a modelled parameter that esti-
mates the combined effect of temperature on Anopheles
survival as well as the development of sporozoites within
mosquitoes. A high temperature suitability value indicates
that many mosquitoes will survive long enough to become
infectious. Since this index was derived from a biological
model, it accounts for a non-linear relationship with the
monthly proportions. To quantify the uncertainty associated with the derived
statistics, the results from 100 posterior samples of the
monthly proportions were summarised. A location was
deemed as unimodal or bimodal if more than half of
the samples supported that interpretation and the degree
of certainty was the proportion of such samples. Based
on this majority decision and the corresponding sam-
ples, the uncertainty was also assessed in the estimated
seasonal characteristics. Circular medians and deviations
were used for the start, end, and peak of each transmis-
sion season [30]. To interpret the deviations in terms of
months, the circular deviations was multiplied by 12
2π . Seasonality categories and monthly parasite incidence
estimates ‘How seasonal’ malaria is in a location is related to
both the magnitude and the intra-annual distribution
of cases. This is quantified using the seasonality index. Figure 2 shows the map of seasonal types derived from the
median seasonality index, as computed using 100 realisa-
tions from the fitted model for Madagascar. The different
degrees of seasonality (‘Non-seasonal’, ‘Low’, ‘Medium’,
and ‘High’) were defined for the unimodal and bimodal
locations separately using the quartiles of their seasonality
indices. Deriving seasonality features j
if Dj > 0 then Instead of identifying characteristics based on the
monthly proportion estimates directly, seasonal features
were based on fitted vM curves, which further smoothed
out the estimates. The benefit of using a circular dis-
tribution was the continuity of the curve between the
months of December and January. Using vM densities, in
particular, is convenient for identifying the peaks of the
distribution since these correspond to the mean parame-
ters [29]. By comparing the values of the fitted curve, the
major and the minor peaks of a bimodal distribution can
be identified. Although an arbitrary number of von Mises
components can be used, one or two were used because
areas with seasonal malaria transmission typically have
one or two main seasons [2]. j
Fit a rescaled, one-component von Mises density to
{pi,j}i=1,...,12. j
Fit a rescaled, one-component von Mises density to
{
} {pi,j}i=1,...,12. if the squared error of the fit > ˜ϵ then {p ,j}
,
,
if the squared error of the fit > ˜ϵ then p ,j
,
,
if the squared error of the fit > ˜ϵ then Fit a rescaled, two-component von Mises den-
sity to {pi,j}i=1,...,12. end if Fit a rescaled, two-component von Mises den-
sity to {pi,j}i=1,...,12. y
p ,j
end if Record the major peak months and the minor peak
months where applicable. Record the start, end and length of each transmis-
sion season based on when the fitted values exceed
1
12. Label the location as ‘bimodal’ if it has two seasons
and ‘unimodal’ otherwise. To reduce computational burden, a bimodal distribution
was only considered if the error from the fit of a unimodal
distribution exceeded a set threshold ˜ϵ > 0. For Madagas-
car, ˜ϵ was empirically chosen to be 0.0015. Based on the
fitted vM curve, the transmission periods were identified
by marking the months where the curve was at or above
1
12. In this way, the start, end, and length of each season
could also be estimated. Algorithm 1 summarises the pro-
cedure used to obtain the seasonality statistics from the
monthly proportion realisation curves. Plasmodium vivax temperature suitability index at a 2-
month lag. The latter is a modelled parameter that esti-
mates the combined effect of temperature on Anopheles
survival as well as the development of sporozoites within
mosquitoes. Dominant environmental relationship The regression component of the log-linear spatiotem-
poral model allows us to infer the dominant relationship
between the monthly case proportions and the envi-
ronmental covariates while the spatiotemporal random
field accounts for deviations from this. As expected,
the selected model (Table 1) suggests positive relations
between the monthly case proportions and rainfall for
the concurrent month as well as at 2- and 3-month lags
[20, 31, 32]. There is also a positive relation with the Examples of the estimated MPI curves for each sea-
sonal category are shown alongside the map. In general,
we observe that higher seasonality indices are associ-
ated with higher average levels of MPI as well as greater
amplitudes of the fluctuations. As shown in Additional
file 1: Figure S4, the bimodal locations (i.e. those with
two seasonal peaks in MPI) tend to have lower seasonal
index values than the unimodal locations because their
distributions are more spread out over the year. Page 6 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Page 6 of 11 Nguyen et al. BMC Medicine Table 1 Parameter posterior summaries of the refitted model for Madagascar Table 1 Parameter posterior summaries of the refitted model for Madagascar
Description
Term
Posterior median
95% credible interval
Intercept
Intercept
−2.655
(−2.740, −2.570)
Precipitation
CHIRPS_r
0.060
(0.029, 0.090)
CHIRPS_r_lag1
0.019
(−0.012, 0.050)
CHIRPS_r_lag2
0.051
(0.021, 0.082)
CHIRPS_r_lag3
0.053
(0.022, 0.084)
Temperature suitability
TSI_Pv_r
0.013
(−0.022, 0.047)
TSI_Pv_r_lag2
0.074
(0.039, 0.109)
Vegetation cover
EVI_r_lag3
0.006
(−0.021, 0.032)
Tasselled cap brightness
TCB_r
−0.019
(−0.050, 0.012)
TCB_r_lag3
0.011
(−0.020, 0.043)
Observation variance
σ 2
e
0.326
(0.318, 0.333)
Field variance
σ 2
f
0.245
(0.221, 0.268)
Matérn scaling parameter
κ
3.163
(2.834, 3.522)
Autoregressive parameter
a
0.756
(0.718, 0.777)
The posterior medians of the statistically significant parameters under a 5% significance level are italicized. The Matérn smoothness parameter ν was fixed to 1 Fig. 2 Map of seasonality types based on quartiles of the estimated seasonality index as well as representative examples of the estimated monthly
parasite incidence for the categories. Here, ‘1’ and ‘2’ refer to the unimodal and bimodal intra-annual distributions, respectively, while ‘Low’,
‘Medium’, and ‘High’ refer to the different degrees of seasonality Fig. 2 Map of seasonality types based on quartiles of the estimated seasonality index as well as representative examples of the estimated monthly
parasite incidence for the categories. Seasonal features and associated uncertainties trends on the east coast [33]. The lower data avail-
ability (see Additional file 1: Figure S2) as well as the
remoteness of western and northern coasts could also
contribute to the uncertainty of the estimates in these
regions [34]: lower reporting rates and differing care-
seeking behaviour, which could arise due to the lower
accessibility of the health facilities, can cause conflicting
seasonal signals in the data. Next, we focus on the timing aspect of seasonality and
derive seasonality characteristics such as the start and
peak months of transmission. Since we work with the
estimated monthly case proportions which rely on the
environmental covariates and spatiotemporal correlation,
we also obtain results for areas deemed ‘non-seasonal’
via the seasonal index in Fig. 2. Following the definition
of the seasonality index in Eq. (4), such non-seasonality
could arise due to a relatively uniform intra-annual distri-
bution of cases or extremely low malaria burden. In the
latter scenario, the derived seasonality features describe a
theoretical transmission season which could materialise if
transmission re-establishes itself. The median peak months and associated deviations of
the first transmission season are shown in Fig. 4. The
results are consistent with the existing literature [34]. Large parts of the island experience peaks in March–April
while the east coast sees an earlier peak around Febru-
ary. The heterogeneity in Fig. 4a in the western region
of Melaky (near 45◦E, 17◦S) is associated with high
deviations. This may be due to its remoteness and low
population density [34]. In Additional file 1: Figure S5, we
show the time series of the number of people tested posi-
tive for malaria via RDTs between 2013 and 2016 at three
example health facilities in Melaky. The relatively low and
highly variable case numbers lead to higher stochastic-
ity in the observed and estimated seasonality patterns. Reporting difficulties, as illustrated by the multiple gaps
in the time series, add further uncertainty to the derived
monthly proportion curves. Additional seasonality plots
including the maps of transmission end months and trans-
mission season duration can be found in the Additional
file 1. From Fig. 2, we see that most of the island was deemed
to have unimodal seasonality. However, as shown in Fig. 3,
there is generally less certainty along the western and
northern coasts. This is consistent with the analysis of
Liebmann et al. Seasonal features and associated uncertainties which described increased likelihood of
bimodal rainfall patterns on the west coast and unimodal Fi
3 P
b bili
f l
i
h
i
l
k i
l i Fig. 3 Probability of locations having one seasonal peak in malaria
cases. This is calculated by the proportion of posterior samples which
indicate that the locations have unimodal intra-annual case
distributions rather than bimodal distributions Dominant environmental relationship Here, ‘1’ and ‘2’ refer to the unimodal and bimodal intra-annual distributions, respectively, while ‘Low’,
‘Medium’, and ‘High’ refer to the different degrees of seasonality Page 7 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 (2020) 18:26 Nguyen et al. BMC Medicine Discussion This paper introduces a statistical modelling framework
for mapping malaria seasonality in Madagascar using
health facility data. The approach relies on a log-linear
spatiotemporal regression model to smooth and estimate
location-specific monthly proportions of cases. As coun-
tries increasingly adopt digital surveillance platforms such
as the District Health Information Software 2 (DHIS2) for
the digital recording of cases at the health facility level, it
is hoped that more of such data will be available to inform
seasonal and localised intervention strategies. Due to the nature of the health facility data, only rela-
tive levels of burden can be derived to inform location-
specific seasonal trends. The modelling framework lever-
ages existing API maps to bring together the amplitude
as well as timing aspects of seasonality. For a cohesive
analysis, characteristics such as the start, peak, and length
of each transmission season as well as MPI estimates are
obtained via the same estimated curve of monthly pro-
portions. The latter is also used to compute a seasonality
index and categorise seasonality types. For each seasonal
feature, measures of uncertainty are also presented to
facilitate statistically sound decision-making. Fig. 3 Probability of locations having one seasonal peak in malaria
cases. This is calculated by the proportion of posterior samples which
indicate that the locations have unimodal intra-annual case
distributions rather than bimodal distributions Fig. 3 Probability of locations having one seasonal peak in malaria
cases. This is calculated by the proportion of posterior samples which
indicate that the locations have unimodal intra-annual case
distributions rather than bimodal distributions In Madagascar, the 2018–2022 National Strategic Plan
includes indoor residual spraying (IRS) as a tool to help Nguyen et al. BMC Medicine (2020) 18:26 (2020) 18:26 Page 8 of 11 Nguyen et al. BMC Medicine Fig. 4 a Median peak months of the first transmission season in Madagascar. b The associated deviations f
f Fig. 4 a Median peak months of the first transmission season in Madagascar. b The associated deviations of malaria outbreaks [34, 38]. Likewise, periodic events
related to El Niño-Southern Oscillation and/or global cli-
mate change also impact malaria seasonal patterns [31]. Changes in vector species composition and behaviour
driven by large-scale coverage of vector control interven-
tions (such as the 2013 and 2015 national campaigns to
distribute insecticide-treated nets) could potentially also
result in shifts to the timings of the transmission season
[39]. Discussion For example, a novel vector, Anopheles coustani, was
recently described in the Malagasy highlands [40], and
evidence of strong, fine-spatial scale differences in vector
behaviour also allows for adaptive plasticity in response
to external pressures which could translate to changes in
parasite transmission over time [41]. Given this reality,
future iterations of this work could use a moving window
approach to continually update the model with new data. reduce transmission in the highest disease burden dis-
tricts and as an emergency response tool to epidemic
outbreaks [35, 36]. Given that sprayed insecticide gener-
ally remains efficacious for less than 6 months (depending
on the insecticide used and types of surfaces sprayed)[37],
local seasonality patterns are important to guide optimal
timing of IRS campaigns. Spraying must be timed for com-
pletion ahead of the start of transmission, but not so early
that the insecticide bio-efficacy will wear off before the
end of the season. Through this modelling framework,
we can estimate the median start months and associated
deviations of the first transmission season. The results, as
illustrated in Fig. 5, suggest that IRS should be completed
in southeast districts ahead of the southwest. This is in
line with PMI’s 2017–2018 strategy. Despite the many advantages of this approach, there
are some limitations. An important assumption was made
when the empirical monthly proportions were computed
by averaging case counts over a number of years. The
notion that there should be a static seasonal trend over
multiple years is a common and practical one; however,
while climatic patterns are broadly predictable, there is
significant inter-annual variability in factors such as the
beginning of the rainy season. The impact of the annual
cyclone season in Madagascar is particularly significant in
this respect, triggering both unusually high rainfall (and
subsequently increased mosquito vector abundance) and
infrastructure damage which can severely disrupt malaria
control intervention efforts, resulting in unusual patterns Another
noteworthy
limitation
of
the
proposed
methodology relates to relying on sparse, spatially dis-
crete health facility reports to establish seasonal patterns
across space. Although the issue of under-reporting due
to RDT stock-outs was mitigated somewhat by averaging
case counts over several years, the issue of zero recorded
cases in a facility still poses a potential problem as these
could be due to the low parasite prevalence (whether
historical or only recent) or the low popularity of the
facility itself. Discussion Another consideration is whether a zero is
a true representation of cases in a facility rather than a
placeholder for unreported data. While we have tried to
ensure the accuracy of the response data by, for example, Nguyen et al. BMC Medicine (2020) 18:26 Page 9 of 11 (2020) 18:26 Nguyen et al. BMC Medicine Fig. 5 a Median start months of the first transmission season in Madagascar. b The associated deviations Fig. 5 a Median start months of the first transmission season in Madagascar. b The associated deviations tend to peak in April. Such an interpretation is analogous
to the theoretical peak transmission season in a country
that has eliminated malaria, yet continues to experience
seasonally high vector densities. omitting health facilities with insufficient data to establish
a full year-long seasonal trend, it is possible that flawed
points were included in the model. This possibility is
illustrated in Fig. 6, which shows the empirical and fitted
monthly proportions for three health facilities. Health
Centre B (Fig. 6b) illustrates a scenario where there were
no cases and the model estimated a non-seasonal trend. In contrast, Health Centre C (Fig. 6c) had no cases but an
estimated seasonal trend. The clearest interpretation of
a pattern in the absence of data is that while there were
no cases reported, the environmental conditions in that
area suggest that if there were to be any cases, they would The presented model establishes the dominant rela-
tionship between environmental covariates and monthly
proportions in the study area. This is driven by data in
obviously seasonal locations such as Health Centre A
in Fig. 6a. The spatiotemporal field accounts for other
unknown factors and smooths out the estimated monthly
proportions between locations. In this way, information
is borrowed from the seasonal locations identified within Fig. 6 Examples of the model fit and rescaled von Mises density fit for three health facilities. The black line denotes the empirical monthly
proportions of cases, the black dotted lines represent the median proportions and 95% credible intervals, and the red line the fitted rescaled von
Mises density. Note that no cases were reported for Health Centres B and C, leading to a uniform empirical intra-annual distribution. a Health Centre A. b Health Centre B. c Health Centre C Fig. 6 Examples of the model fit and rescaled von Mises density fit for three health facilities. Availability of data and materials Sample, anonymised data, and sample code are available at http://bitbucket. org/mntd/malaria-seasonality. The raw data that support the findings of this
study are available from the Programme National de Lutte Contre le
Paludisme de Madagascar and the Institut Pasteur de Madagascar (IPM). Health facility locations were updated and prepared by the SaGEO (Santé et
GEOmatique) group at IPM. The source was made available to IPM by the
Service d’Information Sanitaire(SIS)/Ministry of Health. Supplementary information pp
y
Supplementary information accompanies this paper at
https://doi.org/10.1186/s12916-019-1486-3. Supplementary information accompanies this paper at
https://doi.org/10.1186/s12916-019-1486-3. Supplementary information accompanies this paper at
https://doi.org/10.1186/s12916-019-1486-3. Additional file 1: Supplementary information including additional
illustrations of the methodology, time series and empirical monthly
proportion curves for three example health centres in Melaky as well as
maps of other estimated seasonal characteristics such as the lengths of the
transmission seasons. This document also contains an additional analysis of
the methodology’s robustness towards changes in data quality as well as
temporal and spatial extents. Funding We would like to thank the Bill & Melinda Gates Foundation for funding this
research (OPP1132415). Abbreviations API: Annual parasite incidence; CHIRPS: Climate Hazards Group Infrared
Precipitation and Station; DHIS2: District Health Information Software 2; DIC:
Deviance information criterion; EVI: Enhanced vegetation index; GPS: Global
positioning system; IPM: Institut Pasteur de Madagascar; IRS: Indoor residual
spraying; LST: Land surface temperature; MPI: Monthly parasite incidence;
NMCP: National Malaria Control Programme; Pf: Plasmodium falciparum; PMI:
President’s Malaria Initiative; Pv: Plasmodium vivax; RDT: Rapid diagnostic test;
RvM: Rescaled von Mises; SMC: Seasonal malaria chemoprevention; TCB:
Tasselled cap brightness; TCW: Tasselled cap wetness; TSI: Temperature
suitability index; VIF: Variance inflation factor The seasonality we model is limited by the nature of our
data and the available seasonal signal as well as the rela-
tions we can establish. Since we work with case data, if
treatment-seeking behaviour itself is seasonal and related
to environmental factors such as rainfall, the seasonality
we observe and hence model is merely the seasonality of
cases at health facilities which may not be reflective of the
seasonal trends for cases at the population level. Authors’ contributions MN and DJW conceived of the presented idea. MN designed the analysis,
performed the computations, and wrote the paper. DJW and REH advised on
and helped shape the research. HSG, JR, SK, EC and FR prepared the datasets. All authors provided critical feedback and approved the final manuscript. Acknowledgements
h
h
ld l k The authors would like to thank Catherine Dentinger from the President’s
Malaria Initiative (PMI) in Madagascar for reviewing the manuscript and to the
wider PMI team for sharing their database of health facility GPS locations. As previously mentioned, different settings can give
rise to different responses to environmental forcing. For
example, while one frequently links increased mosquito
breeding habitats to the period after the rainy season, in
the Brazilian Amazon, this is instead linked to the dry sea-
son when small, isolated water bodies are created with the
receding of rivers [13, 14]. While the spatiotemporal field
in our model helps adjust for differences from the dom-
inant environmental relation, more research is required
on these different settings and how to integrate them into
our model structure. Local knowledge may also be useful
for adjusting the models to, for example, subset the study
regions based on differing responses. Consent for publication
Not applicable. Consent for publication
Not applicable. Discussion The black line denotes the empirical monthly
proportions of cases, the black dotted lines represent the median proportions and 95% credible intervals, and the red line the fitted rescaled von
Mises density. Note that no cases were reported for Health Centres B and C, leading to a uniform empirical intra-annual distribution. a Health Centre A. b Health Centre B. c Health Centre C Fig. 6 Examples of the model fit and rescaled von Mises density fit for three health facilities. The black line denotes the empirical monthly
proportions of cases, the black dotted lines represent the median proportions and 95% credible intervals, and the red line the fitted rescaled von
Mises density. Note that no cases were reported for Health Centres B and C, leading to a uniform empirical intra-annual distribution. a Health Centre A. b Health Centre B. c Health Centre C Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine (2020) 18:26 Page 10 of 11 the data and applied to areas with similar environmental
profiles. improve our understanding and planning of intervention
strategies. improve our understanding and planning of intervention
strategies. In addition to the level of malaria burden, spatial scale
affects the amount of stochasticity in seasonality analyses. Although we bypassed the issue of catchment populations
by modelling monthly proportions instead of case num-
bers, the number of cases seen at a health facility will be
more variable if it serves less people. This was seen for
the Melaky region in the Madagascar case study. If we had
data for all health facilities and aggregated the cases to
the administrative (district) level, it is likely that a stronger
seasonal signal would be observed. The trade-off is that
the relation between administrative-level seasonality and
area-representative environmental covariates (e.g. average
rainfall) may be less strong. Received: 29 August 2019 Accepted: 20 December 2019 Ethics approval and consent to participate
Not applicable. Ethics approval and consent to participate
Not applicable. Competing interests Competing interests
The authors declare that they have no competing interests. p
g
The authors declare that they have no competing interests. Conclusion Malaria seasonality maps are useful for targeting inter-
ventions such as seasonal malaria chemoprevention and
indoor residual spraying. As illustrated for Madagascar,
subannual health facility data can be used to estab-
lish seasonal patterns in malaria burden and augment
the information provided by household prevalence sur-
veys. The proposed modelling framework represents
a robust approach towards obtaining evidence-based
seasonality maps and estimates. With the ability to
infer the dominant environmental relation in the study
region as well as to provide cohesive results and uncer-
tainty measures for the estimated seasonal features, this
research presents an advancement from the existing
threshold and concentration-based mapping procedures. As more health facility case data becomes available, it
is hoped that more of such data will be available to References 27. Battle KE, et al. Mapping the global endemicity and clinical burden of
Plasmodium vivax, 2000-17: a spatial and temporal modelling study. Lancet. 2019;394(10195):332–43. 2. Stuckey EM, Smith T, Chitnis N. Seasonally dependent relationships
between indicators of malaria transmission and disease provided by
mathematical model simulations. PLoS Comput Biol. 2014;10(9):e100381 2. Stuckey EM, Smith T, Chitnis N. Seasonally dependent relationships
between indicators of malaria transmission and disease provided by
th
ti
l
d l i
l ti
PL S C
t Bi l 2014 10(9) 100381 between indicators of malaria transmission and disease provided by 28. The Malaria Atlas Project. Explorer. https://map.ox.ac.uk/explorer/#/. Accessed 13 Aug 2019. 3. Hamad AA, et al. A marked seasonality of malaria transmission in two rural
sites in eastern Sudan. Acta Trop. 2002;83(1):71–82. 29. Pewsey A, Neuhäuser M, Ruxton GD. Circular statistics in R. Oxford:
Oxford University Press; 2013. 4. Wardrop NA, Barnett AG, Atkinson JA, Clements ACA. Plasmodium vivax
malaria incidence over time and its association with temperature and
rainfall in four counties of Yunnan Province, China. Malar J. 2013;12(1):452. 30. Fisher NI. Statistical analysis of circular data. Cambridge: Cambridge
University Press; 1995. 31. Reiner RC, Geary M, Atkinson PM, Smith DL, Gething PW. Seasonality of
Plasmodium falciparum transmission: a systematic review. Malar J. 2015;14(1):343. 5. Dery DB, et al. Patterns and seasonality of malaria transmission in the
forest-savannah transitional zones of Ghana. Malar J. 2010;9(1):314. Dery DB, et al. Patterns and seasonality of malaria transmission in t 5. Dery DB, et al. Patterns and seasonality of malaria transmission in the
forest-savannah transitional zones of Ghana. Malar J. 2010;9(1):314. 32. Nanvyat N, Mulambalah CS, Barshep Y, Ajiji JA, Dakul DA, Tsingalia HM. Malaria transmission trends and its lagged association with climatic factors
in the highlands of Plateau State, Nigeria. Trop Parasitol. 2018;8(1):18. 6. Silal SP, Barnes KI, Kok G, Mabuza A, Little F. Exploring the seasonality of
reported treated malaria cases in Mpumalanga, South Africa. PloS ONE. 2013;8(10):e76640. 7. Rumisha SF, Smith T, Abdulla S, Masanja H, Vounatsou P. Modelling
heterogeneity in malaria transmission using large sparse spatio-temporal
entomological data. Glob Health Action. 2014;7(1):22682. 33. Liebmann B, Bladé I, Kiladis GN, Carvalho LMV, Senay GB, Allured D, et al. Seasonality of African precipitation from 1996 to 2009. J Climate. 2012;25(12):4304–22. 8. Wangdi K, Singhasivanon P, Silawan T, Lawpoolsri S, White NJ,
Kaewkungwal J. References Anopheles mosquito surveillance in Madagascar reveals
multiple blood feeding behavior and Plasmodium infection. PLoS Negl
Trop Dis. 2019;13(7):e0007176. 16. Ihantamalala FA, et al. Estimating sources and sinks of malaria parasites in
Madagascar. Nat Commun. 2018;9(1):3897. Author details 1Malaria Atlas Project, Oxford Big Data Institute, Nuffield Department of
Medicine, University of Oxford, Oxford, UK. 2Department of Infectious Disease
Epidemiology, Imperial College London, London, UK. 3National Malaria
Control Programme, Antananarivo, Madagascar. 4Unité d’Epidémiologie,
Institut Pasteur de Madagascar, Antananarivo, Madagascar. Received: 29 August 2019 Accepted: 20 December 2019 Page 11 of 11 Nguyen et al. BMC Medicine (2020) 18:26 Nguyen et al. BMC Medicine Publisher’s Note 17. Sinka ME, et al. Modelling the relative abundance of the primary African
vectors of malaria before and after the implementation of indoor,
insecticide-based vector control. Malar J. 2016;15(1):142. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. 18. Mabaso MLH, Craig M, Vounatsou P, Smith T. Towards empirical
description of malaria seasonality in southern Africa: the example of
Zimbabwe. Trop Med Int Health. 2005;10(9):909–18. 19. Kang SY, et al. Spatio-temporal mapping of Madagascar’s Malaria
Indicator Survey results to assess Plasmodium falciparum endemicity
trends between 2011 and 2016. BMC Med. 71;16(1):. 20. Weiss DJ, et al. Re-examining environmental correlates of Plasmodium
falciparum malaria endemicity: a data-intensive variable selection
approach. Malar J. 2015;14(1):68. 21. Krainski ET, Gómez-Rubio V, Bakka H, Lenzi A, Castro-Camilo D, Simpson
D, et al. Advanced spatial modeling with stochastic partial differential
equations using R and INLA. Boca Raton: Chapman and Hall/CRC; 2018. 22. Rue H, Martino S, Chopin N. Approximate Bayesian inference for latent
Gaussian models by using integrated nested Laplace approximations. J R
Stat Soc Ser B (Stat Methodol). 2009;71(2):319–92. 23. Lindgren F, Rue H, Lindström J. An explicit link between Gaussian fields
and Gaussian Markov random fields: the stochastic partial differential
equation approach. J R Stat Soc Ser B (Stat Methodol). 2011;73(4):423–98. 24. Martins TG, Simpson D, Lindgren F, Rue H. Bayesian computing with
INLA: new features. Comput Stat Data Anal. 2013;67:68–83. 23. Lindgren F, Rue H, Lindström J. An explicit link between Gaussian fields
and Gaussian Markov random fields: the stochastic partial differential
equation approach. J R Stat Soc Ser B (Stat Methodol). 2011;73(4):423–98. 24
M
i
TG Si
D Li d
F R
H B
i
i
i h 23. Lindgren F, Rue H, Lindström J. An explicit link between Gaussian fields
and Gaussian Markov random fields: the stochastic partial differential
equation approach. J R Stat Soc Ser B (Stat Methodol). 2011;73(4):423–98. 24. Martins TG, Simpson D, Lindgren F, Rue H. Bayesian computing with 24. Martins TG, Simpson D, Lindgren F, Rue H. Bayesian computing with
INLA: new features. Comput Stat Data Anal. 2013;67:68–83. 25. Feng X, Porporato A, Rodriguez-Iturbe I. Changes in rainfall seasonality in
the tropics. Nat Clim Change. 2013;3(9):811–5. 25. Feng X, Porporato A, Rodriguez-Iturbe I. Changes in rainfall seasonality in
the tropics. Nat Clim Change. 2013;3(9):811–5. 26. References Development of temporal modelling for forecasting and
prediction of malaria infections using time-series and ARIMAX analyses: a
case study in endemic districts of Bhutan. Malar J. 2010;9(1):251. 34. Howes RE, et al. Contemporary epidemiological overview of malaria in
Madagascar: operational utility of reported routine case data for malaria
control planning. Malar J. 2016;15(1):502. 35. National Malaria Control Programme of Madagascar. National strategic
plan for malaria control in Madagascar 2018–2022. Madagascar:
Progressive malaria elimination from Madagascar; 2017. 9. Cairns M, et al. Estimating the potential public health impact of seasonal
malaria chemoprevention in African children; 2012. p 881. 10. Gemperli A, et al. Mapping malaria transmission in West and Central
Africa. Trop Med Int Health. 2006;11(7):1032–46. 36. President’s Malaria Initiative. Abbreviated Malaria Operational Plan FY
2019. Madagascar; 2019. https://www.pmi.gov/docs/default-source/
default-document-library/malaria-operational-plans/fy19/fy-2019-
madagascar-abbreviated-malaria-operational-plan.pdf?sfvrsn=9. 11. Tanser FC, Sharp B, Le Sueur D. Potential effect of climate change on
malaria transmission in Africa. Lancet. 2003;362(9398):1792–8. 12. World Health Organisation. Seasonal malaria chemoprevention with
sulfadoxine-pyrimethamine plus amodiaquine in children: a field guide. Geneva; 2013. 37. Dengela D, et al. Multi-country assessment of residual bio-efficacy of
insecticides used for indoor residual spraying in malaria control on
different surface types: results from program monitoring in 17
PMI/USAID-supported IRS countries. Parasites Vectors. 2018;11(1):71. ld
k
d
d
h 13. Barros FSM, Arruda ME, Gurgel HC, Honorio NA. Spatial clustering and
longitudinal variation of Anopheles darlingi (Diptera: Culicidae) larvae in a
river of the Amazon: the importance of the forest fringe and of
obstructions to flow in frontier malaria. Bull Entomol Res. 2011;101(6):
643–58. 38. World Bank. Madagascar Economic Update. Washington D.C.; 2017. https://doi.org/10.1596/27779. 39. Trape JF, et al. The rise and fall of malaria in a west African rural
community, Dielmo, Senegal, from 1990 to 2012: a 22 year longitudinal
study. Lancet Infect Dis. 2014;14(6):476–88. 14. Valle D, Lima JMT. Large-scale drivers of malaria and priority areas for
prevention and control in the Brazilian Amazon region using a novel
multi-pathogen geospatial model. Malar J. 2014;13(1):443. 40. Nepomichene TNJJ, Tata E, Boyer S. Malaria case in Madagascar, probable
implication of a new vector, Anopheles coustani. Malar J. 2015;14(1):475. 15. Martinez ME. The calendar of epidemics: seasonal cycles of infectious
diseases. PLoS Pathog. 2018;14(11):e1007327. 41. Tedrow RE, et al. Anopheles mosquito surveillance in Madagascar reveals
multiple blood feeding behavior and Plasmodium infection. PLoS Negl
Trop Dis. 2019;13(7):e0007176. 41. Tedrow RE, et al. Publisher’s Note Weiss DJ, et al. Mapping the global prevalence, incidence, and mortality
of Plasmodium falciparum, 2000-17: a spatial and temporal modelling
study. Lancet. 2019;394(10195):322–31. 26. Weiss DJ, et al. Mapping the global prevalence, incidence, and mortality
of Plasmodium falciparum, 2000-17: a spatial and temporal modelling
study. Lancet. 2019;394(10195):322–31.
|
https://openalex.org/W4231300326
|
https://malariajournal.biomedcentral.com/track/pdf/10.1186/s12936-021-03635-z
|
English
| null |
Parasite Genetic Diversity Reflects Continued Residual Malaria Transmission in Vhembe District, A Hotspot in the Limpopo Province of South Africa
|
Research Square (Research Square)
| 2,020
|
cc-by
| 10,818
|
Abstract Background: South Africa aims to eliminate malaria transmission by 2023. However, despite sustained vector control
efforts and case management interventions, the Vhembe District remains a malaria transmission hotspot. To better
understand Plasmodium falciparum transmission dynamics in the area, this study characterized the genetic diversity of
parasites circulating within the Vhembe District. Methods: A total of 1153 falciparum-positive rapid diagnostic tests (RDTs) were randomly collected from seven clin‑
ics within the district, over three consecutive years (2016, 2017 and 2018) during the wet and dry malaria transmission
seasons. Using 26 neutral microsatellite markers, differences in genetic diversity were described using a multiparam‑
eter scale of multiplicity of infection (MOI), inbreeding metric (Fws), number of unique alleles (A), expected heterozy‑
gosity (He), multilocus linkage disequilibrium (LD) and genetic differentiation, and were associated with temporal and
geospatial variances. Results: A total of 747 (65%) samples were successfully genotyped. Moderate to high genetic diversity (mean
He = 0.74 ± 0.03) was observed in the parasite population. This was ascribed to high allelic richness (mean
A = 12.2 ± 1.2). The majority of samples (99%) had unique multi-locus genotypes, indicating high genetic diversity in
the sample set. Complex infections were observed in 66% of samples (mean MOI = 2.13 ± 0.04), with 33% of infec‑
tions showing high within-host diversity as described by the Fws metric. Low, but significant LD (standardised index
of association, ISA = 0.08, P < 0.001) was observed that indicates recombination of distinct clones. Limited impact of
temporal (FST range − 0.00005 to 0.0003) and spatial (FST = − 0.028 to 0.023) variation on genetic diversity existed dur‑
ing the sampling timeframe and study sites respectively. Conclusions: Consistent with the Vhembe District’s classification as a ‘high’ transmission setting within South Africa,
P. falciparum diversity in the area was moderate to high and complex. This study showed that genetic diversity within
the parasite population reflects the continued residual transmission observed in the Vhembe District. Gwarinda et al. Malar J (2021) 20:96
https://doi.org/10.1186/s12936-021-03635-z Gwarinda et al. Malar J (2021) 20:96
https://doi.org/10.1186/s12936-021-03635-z Malaria Journal Open Access Parasite genetic diversity reflects continued
residual malaria transmission in Vhembe
District, a hotspot in the Limpopo Province
of South Africa nda1, Sofonias K. Tessema2, Jaishree Raman3,4, Bryan Greenhouse2* and Lyn‑Marié Birkholtz1* Hazel B. Gwarinda1, Sofonias K. Tessema2, Jaishree Raman3,4, Bryan Greenhouse2* and Lyn‑M Abstract This data
can be used as a reference point for the assessment of the effectiveness of on-going interventions over time, the *Correspondence: bryan.greenhouse@ucsf.edu; lbirkholtz@up.ac.za
1 Malaria Parasite Molecular Laboratory, Department of Biochemistry,
Genetics and Microbiology, Institute for Sustainable Malaria Control,
University of Pretoria, Private Bag X20, Hatfield, 0028 Pretoria, South Africa
2 Division of HIV, Infectious Diseases, and Global Medicine, Department
of Medicine, University of California San Francisco, San Francisco, CA, USA
Full list of author information is available at the end of the article Background transmission based on travel histories [4, 10]. Other
causative factors for the persistent residual transmission
observed in the Vhembe District, despite sustained vec-
tor control strategies and public health interventions,
include antimalarial drug resistance, insecticide resist-
ance and vector species variance between An. gambiae
and An. funestus [7, 11–15].h Malaria remains a global health problem, with about
228 million cases reported worldwide in 2018, 93%
of which occurred in the World Health Organization
(WHO) African Region. As the southern Africa region,
excluding high-transmission countries like Mozambique,
accounted for < 10% of the 213 million cases reported in
the WHO African region, several southern African coun-
tries have been earmarked for malaria elimination by
2023 guided by the WHO Global Technical Strategy for
Malaria [1]. Unfortunately, like a number of other regions
in the world, southern Africa experienced a resurgence
in malaria cases and deaths during the 2017/2018 season
[2]. This resulted in South Africa reporting more than
30 000 cases, a surge in numbers previously only experi-
enced during the 1999/2000 drug and insecticide resist-
ance outbreak [3–5]. The addition of malaria parasite population genetic
data to the standard surveillance data collected by
malaria control programmes has assisted in understand-
ing malaria transmission dynamics and also allowed for
spatio-temporal inferences to be made from e.g. local vs. imported malaria cases [16–24]. These data reflect that
typically, parasite genetic complexity decreases with a
decline in malaria transmission, which holds true for low
transmission settings such as Southeast Asia and Latin
America compared to high transmission settings of sub-
Saharan Africa based on incidence data. However, the
limited data available from microsatellite genotyping of
parasites from low transmission settings in sub-Saharan
Africa (from the KZN Province in South Africa, Eswatini,
and Namibia [9, 25, 26]), using the same approach as in
the current study, suggests the opposite. In these study
sites, parasites were highly complex and diverse, and
while in some of these settings this relatively high diver-
sity was attributed to frequent importations from neigh-
bouring high transmission settings, in other settings this
diversity was characterized by local transmissions sug-
gesting that something different is happening to the para-
sites in the region. © The Author(s) 2021. This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing,
adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and
the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material
in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material
is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds
the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://crea‑
tivecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdo‑
main/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Page 2 of 13 Gwarinda et al. Malar J (2021) 20:96 identification of imported cases and/or outbreaks, as well as monitoring for the potential spread of anti-malarial drug
resistance. f
f
f Keywords: Plasmodium falciparum, Genetic diversity, Microsatellites, Multiplicity of infection, Residual transmission,
South Africa, Vhembe District, Limpopo Keywords: Plasmodium falciparum, Genetic diversity, Microsatellites, Multiplicity of infection, Residual transmission,
South Africa, Vhembe District, Limpopo Background Plasmodium falciparum is the predominant species
which accounts for the majority of cases and fatalities
in the South Africa [5], with Anopheles funestus and the
Anopheles gambiae complex the main vector species
associated with transmission, which mainly occurs in
the hot and rainy season between September and May
[5]. While South Africa has made significant progress in
the reduction in malaria cases since the 1999/2000 out-
break through the implementation of sustained vector
control and case management interventions, progress
has stalled [3–9]. The country is characterized with het-
erogeneous transmission settings in the three remaining
endemic provinces: Kwa-Zulu Natal (KZN), Mpuma-
langa and Limpopo [4, 5]. The Vhembe District in the
Limpopo Province with the greatest burden of disease is
classified as a moderate transmission area with 3.79 local
cases/1000 population at risk in 2018, compared to very
few locally transmitted cases (< 0.1 cases/1000 population
at risk) reported for the KwaZulu-Natal (KZN) Province
[5]. The Vhembe District is situated in the north-eastern
border region of the country bordered by Mozambique
to the southeast, Zimbabwe to the north and Botswana
to the northwest (Fig. 1). This region experiences sus-
tained, seasonal malaria transmission and accounts for
60% of the country’s burden [4]. While importation of
cases, mostly from Mozambique and Zimbabwe, has
been implicated in on-going transmission in the Vhembe
District, the majority (63%) of the cases collected from
1998 to 2017 in the district were classified as from local To better understand the malaria parasite-associated
factors that contribute to residual malaria transmis-
sion in the Vhembe District, microsatellite genotyping
was applied to describe the population of P. falciparum
parasites in South Africa at different spatial and tempo-
ral scales. This work identifies the contributing factors
associated with sustained residual transmission in the
Vhembe District in South Africa as the country works
towards malaria elimination. Study site and study design Study samples were randomly collected from seven
primary health clinics within five known source health
districts (Nzhelele/Tshipise, Thohoyandou, Mutale,
Elim, and Levubu/Shingwedzi) within the Vhembe Gwarinda et al. Malar J (2021) 20:96 Page 3 of 13 Zimbabwe
Botswana
Namibia
South Africa
Angola
Zambia
Eswatini
Zimbabwe
South Africa
(Vhembe District,
Limpopo Province)
Botswana
Mozambique
E8 Frontline countries
E8 Second line countries
Unknown
Elim
Levubu/Shingwedzi
Nzhelele/Tshipise
Thohoyandou
Mutale
0 37 74 111km
Fig. 1 Study area and design. Map of the study site in the Vhembe District, Limpopo Province, South Africa. Bar graphs show the proportion
of samples collected from the different source health districts and the years of transmission. The study district shares borders with Zimbabwe,
Botswana and Mozambique. South Africa is shown alongside other malaria endemic countries in the E8 region. The “unknown” category represents
45% of the samples that could not be linked to source health districts Angola Zambia Zimbabwe Botswana Namibia South Africa
(Vhembe District,
Limpopo Province) Eswatini E8 Frontline countries
E8 Second line countries Fig. 1 Study area and design. Map of the study site in the Vhembe District, Limpopo Province, South Africa. Bar graphs show the proportion
of samples collected from the different source health districts and the years of transmission. The study district shares borders with Zimbabwe,
Botswana and Mozambique. South Africa is shown alongside other malaria endemic countries in the E8 region. The “unknown” category represents
45% of the samples that could not be linked to source health districts District, Limpopo Province, South Africa (Fig. 1). Out
of a total of 1892 confirmed cases that occurred during
the entire study period and reported only at the 7 study
clinics, a total of 1153 (61%) RDT samples from symp-
tomatic patients that tested positive for malaria on P. falciparum-specific RDTs (First Response® Malaria
Antigen P. falciparum card test HRP2, Premier Medical
Corporation, India) were randomly collected from the
seven different clinics in the wet and dry seasons from
January to December of the years 2016, 2017 and 2018. Samples were transported and stored at room tem-
perature in sealed bags with desiccant. Demographic
and travel history information on each of the indi-
vidual patients was obtained from the LMC database. After linking genotyped data with patient information
from the LCM database, samples were stratified based District, Limpopo Province, South Africa (Fig. 1). DNA isolation and quantification DNA was extracted from the nitrocellulose strip of
First Response™ RDTs in accordance with the World-
wide Antimalarial Resistance Network Guidelines [27]. The Saponin-Chelex method [28] was used for all DNA
extractions and extracted genomic DNA stored at − 20
°C. Isolates were screened for P. falciparum using ultra-
sensitive varATS [29] and TARE-2 [29, 30] quantita-
tive PCR (qPCR) as described before. Parasite density
was quantified on a random subset of 353 high volume
samples from all years. It was not possible to quantify all
samples due to a low DNA volume for a proportion of
samples. The genotyping threshold was set at a parasite
concentration of ≥ 10 parasites/µL of blood. The other measure of the within-host diversity, the FWS
index, is a measure of diversity in an individual infection
relative to the population level genetic diversity and was
determined as previously described [25, 26, 32]. A low
FWS indicates high within-host diversity relative to the
population thereby suggesting higher chances of out-
breeding. FWS was calculated for each sample using the
equation: Fws = 1 −Hw/Hs , where Hw is the allele fre-
quency of each unique allele found at a particular locus
for each individual and Hs is the heterozygosity of the
local parasite population. Outbreeding is reported as
1-FWS with a 0 value indicative of a perfect clone and
therefore low within-host diversity. Previously described
thresholds of Fws ≥ 0.95 (1-Fws ≤ 0.05) were used to
identify samples containing a single genotype (or “clonal”
infections) in spite of additional genotypes that may be
present at relatively low proportions; and Fws ≤ 0.70
(1-Fws ≥ 0.30) to describe samples with highly diverse
infections respectively [25, 32–34]. Study site and study design Out
of a total of 1892 confirmed cases that occurred during
the entire study period and reported only at the 7 study
clinics, a total of 1153 (61%) RDT samples from symp-
tomatic patients that tested positive for malaria on P. falciparum-specific RDTs (First Response® Malaria
Antigen P. falciparum card test HRP2, Premier Medical
Corporation, India) were randomly collected from the
seven different clinics in the wet and dry seasons from
January to December of the years 2016, 2017 and 2018. Samples were transported and stored at room tem-
perature in sealed bags with desiccant. Demographic
and travel history information on each of the indi-
vidual patients was obtained from the LMC database. After linking genotyped data with patient information
from the LCM database, samples were stratified based on the source of infection health district (Fig. 1) as it
was established that patients that acquired their infec-
tions from similar source areas did not necessarily visit
the same clinics for testing and treatment. Therefore,
it was concluded that source health districts would be
more informative for geospatial analysis than clinics. 45% (45%) of the samples however, could not be linked
to source health districts and were therefore classified
as “unknown”. Source of infection could not be estab-
lished not because information was not available on
the LCM database, but because the genotyped samples
could not be linked back to patient identity as the only
unique identifiers that could link the patient RDT to
their information on the database were either missing
or illegible on the RDT. The study was started off with
blinded patient identities with only knowledge of year Gwarinda et al. Malar J (2021) 20:96 Page 4 of 13 Gwarinda et al. Malar J (2021) 20:96 Page 4 of 13 of infection and clinic visited by patients from where
samples were then collected. of infection and clinic visited by patients from where
samples were then collected. distinct P. falciparum clones) and the within-host fixa-
tion index (FWS). To reduce the probability false positive
alleles influencing MOI, the MOI in an individual sam-
ple was defined as the second highest number of alleles
detected at any of the 26 microsatellite loci genotyped. Since the P. falciparum parasite is haploid in the human
host, multiple peaks or alleles correspond to an infection
with multiple genotypes or strains (a polygenomic or pol-
yclonal infection).h Characterization of population level genetic diversity p p
g
y
Population level genetic diversity was estimated using
expected heterozygosity (He) which is defined as the
probability of randomly drawing a pair of different alleles
from the allele pool. Heterozygosity was, therefore, cal-
culated
on
each
locus
using
the
equation:
He =
n
n−1
∗
1 − pi2)] , where n is the number of
genotyped samples and pi is the frequency of the ith allele
in the population [25, 26]. Values for He range from
0 indicating no diversity, to 1 indicating that all alleles are
different and therefore there is maximum diversity. The
mean He was calculated by taking the average He across
all loci. The number of haplotypes (unique multilocus
genotypes) as well as the unique alleles detected per locus
(A - allelic richness), were also determined. Microsatellite genotyping g
yp
g
A total of 1153 samples were genotyped using a previ-
ously described 26 microsatellite marker panel protocol
[25, 26, 31]. Briefly, the 26 microsatellite loci were ampli-
fied using a semi-nested PCR protocol. The primary PCR
was performed in 4 groups of multiplex reactions, and 1
µL of the primary amplified product used as a template
for the secondary individual PCR for each marker. To
determine repeat length sizes, the labelled PCR products
were diluted and sized by denaturing capillary electro-
phoresis on an ABI 3730XL analyser using GeneScan™
400HD ROX™ Size Standard (Thermo Fisher Scientific). MicroSPAT software (https://github.com/Greenhouse
-Lab/MicroSPAT/releases/tag/v2.0.3) was then used to
automate identification of true alleles and differentiate
real peaks from artefacts of the resulting electrophero-
grams using a classifier algorithm based on the location
and size of locus-specific patterns relative to a primary
peak as done in studies conducted in Eswatini [25],
Namibia [26], the KZN Province of South Africa [9] and
China [31] that used similar experimental conditions as
those used in his study. Multiple alleles per locus were
scored if minor peaks were at least a third of the height of
the major peak. Collated genotyping data from all sam-
ples was processed with similar microSPAT software set-
tings in which a semi-supervised naïve Bayes classifier
was used [25] to avoid variability in allele calling. All sam-
ples that met the genotyping threshold were genotyped
and had to have a genotyping coverage ≥ 60% (alleles
detected on at least 15 or more loci) to be included in the
downstream population genetics analysis. Linkage disequilibrium To assess whether alleles from different loci were asso-
ciated with each other, the multilocus linkage disequi-
librium (LD) was determined as previously described
[35] using the Poppr package in R software [36]. LD was
determined for the whole dataset which includes mono-
clonal and polyclonal infections, with LD for monoclonal
infections alone determined as a precaution against the Characterisation of within‑host genetic diversityh The within-host diversity of infections was determined
using multiplicity of infection (MOI, or genetically Gwarinda et al. Malar J (2021) 20:96 Page 5 of 13 Gwarinda et al. Malar J (2021) 20:96 bias that may result from presence of any false domi-
nant haplotypes [16]. The Monte Carlo method was used
to test the significance of LD in the complete data set of
each population stratified by geographic origin of the
infection (source health district). In this study, 10 000per-
mutations were completed. LD values range from 0 (no
loci in LD) to 1 (all loci in LD). Pairwise standardized
index of association (ISA) over all loci was assessed to
determine whether the observed pattern of LD is due to a
single or multiple pairs of loci. number of PCs to be retained. Sampling and DAPC pro-
cedures were repeated 1000 times at each level of PC
retention, and the optimal number of PCs retained was
associated with the lowest root mean square error. The
resultant clusters were then plotted in a scatterplot of the
first and second linear discriminants of DAPC. Influence of temporal variation on genetic diversityl To determine the influence of temporal changes in trans-
mission on genetic diversity, the ANOVA pairwise t-test
was used to compare MOI, 1-FWS and He between the
parasite populations stratified by year of transmission. Finer scale stratification by month of infection was also
assessed to determine how MOI changes in the dry and
wet transmission seasons and pairwise t-tests were used
to compare MOI between the different seasons. Characterising pairwise genetic relatedness
between infections To determine the genetic connectivity/relatedness of
pairs of infections including all alleles detected in both
monoclonal and polyclonal infections of successfully gen-
otyped samples, a modified identity by state (IBS) metric
was used [26]. Overall, pairwise IBS was calculated as the
average of locus specific estimates under the assumption
of independent loci. This metric was calculated using
the formula: IBS = 1
n
n
i=1
Si
XiYi where n is the number
of genotyped loci; Si is the total number of shared alleles
at locus i between samples X; and YiXi is the number
of alleles in sample X at locus I; and Yi is the number of
alleles in sample Y at locus i. A total of 85,078 pairs of
infection within the Vhembe District dataset were ana-
lysed and highly related infection pairs above the cut-
off of IBS ≥ 0.5 [26] identified. Pairwise comparisons of
relatedness of parasite pairs were then grouped into two
categories depending on whether they occurred between
two parasites isolated from individuals who acquired
infections in the same (within) source health district or
between two parasites from individuals who acquired
infections from different (between) source health dis-
tricts respectively. ANOVA pairwise t-test was used to
compare differences in the proportions of highly related
infections within and between the groups. Geospatial population substructure and genetic
differentiationl To determine the influence of geographic origin of infec-
tions on genetic diversity, the ANOVA pairwise t-test
was used to compare MOI, 1-FWS and He between the
parasite populations stratified by source health district. Population substructure between the geographic areas
was investigated by measuring Wright’s F-statistics (FST),
using the adegenet package [37] in R. Hendrick’s GST and
Jost’s D, were calculated using the mmod package [38] in
R. Genetic differentiation between populations ranges
from 0 to 1 representing absence of to complete differen-
tiation, respectively. The Monte Carlo method was used
to test the significance of pairwise FST between source
health districts. In this study, 999 permutations were
completed. Additionally, discriminant analysis of prin-
cipal components (DAPC) using the adegenet package
in R software was used to confirm signatures of popula-
tion structure [37, 39]. DAPC infers population structure
based on whether haplotypes (estimated from multi-
locus genotypes generated from all major and minor
allele data) clustered into distinct genetic populations. Unlike the traditional principal component analysis
(PCA) which identifies linear axes that explain the most
variability in all groups together, DAPC seeks to detect
the linear axes which explain the most between-group
variability in data [37]. K-means clustering was used to
detect the number of inferred genetic clusters in the par-
asite population, and the best number of clusters chosen
was that with the lowest associated Bayesian Informa-
tion Criterion (BIC). To prevent overfitting of clusters,
the optimal number of principal components (PC) to be
retained was confirmed by cross validation of the DAPC. Data was divided into a training set (90% of data), and a
validation set (10% of data), and members of each of the
identified clusters were stratified by random sampling to
ensure that at least one member of each cluster is rep-
resented in both training and validation sets. DAPC was
then performed on the training set with variable num-
bers of PCs retained. The extent to which the analysis was
able to accurately predict group memberships of individ-
uals in the validation set was used to identify the optimal Microsatellite genotyping indicates parasite complexity
d d y
Of the 1153 genotyped samples, 65% of the samples
(747/1153) had sufficient coverage at a minimum of 15
of the 26 microsatellite loci evaluated and were included
in the final sample set for population genetics analysis. Overall, a high proportion (66%) of polyclonal infections
was observed with a mean MOI = 2.13 in the genotyped
samples (Fig. 2a). This indicates a moderate complexity
of infection within individual samples and thus moderate
to high within-host diversity in the parasite population. Mean MOI did not differ significantly (P = 0.73, ANOVA,
n = 353 excluding unknowns) between male (mean
MOI = 2.11) and female participants (mean MOI = 2.16). The different age groups also exhibited similar mean
MOIs (from 2 to 2.17) which were not significantly dif-
ferent (P = 0.94, ANOVA, n = 353 excluding unknowns). A significant positive relationship (Pearson’s r = 0.85
[95% CI 0.83–0.87], P < 0.001, t-test, n = 747) was seen
between outbreeding (1-FWS) and MOI, which suggests
that both metrics support the presence of within-host
diversity. Similarly to the one third of samples appearing
monoclonal observed, only 40% of samples had 1-FWS <
0.05 (Fws ≥ 0.95, indicating effectively clonal infections,
Fig. 2b). Mean outbreeding (1-FWS) was low at 0.22,
with only 33% of samples with a stringent 1-Fws value of
≥ 0.30 (Fws ≤ 0.70), suggesting that these were the most
highly diverse infections (Fig. 2b). Of the 1153 genotyped samples, 65% of the samples
(747/1153) had sufficient coverage at a minimum of 15
of the 26 microsatellite loci evaluated and were included
in the final sample set for population genetics analysis. Overall, a high proportion (66%) of polyclonal infections
was observed with a mean MOI = 2.13 in the genotyped
samples (Fig. 2a). This indicates a moderate complexity
of infection within individual samples and thus moderate
to high within-host diversity in the parasite population. Mean MOI did not differ significantly (P = 0.73, ANOVA,
n = 353 excluding unknowns) between male (mean
MOI = 2.11) and female participants (mean MOI = 2.16). The different age groups also exhibited similar mean
MOIs (from 2 to 2.17) which were not significantly dif-
ferent (P = 0.94, ANOVA, n = 353 excluding unknowns). Results A total of 1153 P. falciparum RDT positive samples were
collected from the Vhembe district, the highest propor-
tion (56%) of which were collected in 2017 and, for those
with known source health district data, the majority
came from within the Mutale district (Fig. 1). A slightly
higher proportion (54 vs. 46%) of females compared to
males was sampled during the study with a median age
of 23 years, ranging between 19 and 65 years. The median
parasite density of a subset of randomly selected quan-
tified samples (n = 313) was 660 parasites/µL of blood,
which was above the genotyping threshold of ≥ 10 para-
sites/µL of blood. All 1153 samples were therefore sub-
jected to microsatellite genotyping. Additionally, low LD (standardized index of associa-
tion, ISA = 0.08) was observed between alleles of the P. falciparum haplotypes (Table 1) and this was not due to
a single locus. The observed ISA value fell outside of the
re-sampled distribution expected under no linkage when
compared to histograms showing results of 10 000 per-
mutations. The Monte Carlo method was used to test the
significance of LD in the complete data set and alleles
of monoclonal infections (n = 253) were linked across
loci with P = 0.0001. For all infections including poly-
clonal infection, LD was also low at 0.138 but significant
(P = 0.0001, n = 747). This was emphasized by a small
proportion (0.26%, 221/85,078) of pairwise infections in
the sample set being highly related (IBS ≥ 0.5). The sig-
nificantly low LD therefore indicates high recombination
of distinct parasite clones which supports the moderate
to high within-host diversity observed in Vhembe, and
is consistent with the presence of some degree of local
transmission. Assessing the impact of control interventions
on the complexity of infectionsh The impact of the main strategy for control, indoor resid-
ual spraying (IRS) on the within-host diversity of P. falci-
parum was also assessed based on the number of unique
genotypes (MOI) identified in sprayed vs. unsprayed
households. IRS in the Limpopo Province typically takes
place at the beginning of each malaria season (wet sea-
son between September and May), with the number of Gwarinda et al. Malar J (2021) 20:96 Gwarinda et al. Malar J (2021) 20:96 Page 6 of 13 Page 6 of 13 which is indeed reflected in the high mean number of
unique alleles (mean A of 12.2) with anywhere from 3 to
26 unique alleles detected across all 26 loci (Fig. 2c). This
was supported by a moderate to high mean He of 0.74
(Fig. 2d) that indicates frequent recombination of differ-
ent parasite clones. This suggests a larger P. falciparum
population than that expected in a low transmission set-
ting, but is consistent with the Vhembe District being
the highest transmission setting in South Africa. Locus
PfPK2 was the most diverse marker (Nei’s genetic diver-
sity of 0.91) and contributed to the high genotypic diver-
sity whereas locus Ara2 had the most evenly distributed
alleles (0.86) and, therefore, contributed to the most gen-
otypic evenness. Overall, the sample set had a moderate
to high genotypic richness, evenness and diversity. households to be sprayed determined by the provincial
malaria control programme based on factors such as the
number of structures within the malaria endemic area,
insecticide availability and resistance data [4]. Parasites are fragmented based on their level
of within‑host diversity A significant positive relationship (Pearson’s r = 0.85
[95% CI 0.83–0.87], P < 0.001, t-test, n = 747) was seen
between outbreeding (1-FWS) and MOI, which suggests
that both metrics support the presence of within-host
diversity. Similarly to the one third of samples appearing
monoclonal observed, only 40% of samples had 1-FWS <
0.05 (Fws ≥ 0.95, indicating effectively clonal infections,
Fig. 2b). Mean outbreeding (1-FWS) was low at 0.22,
with only 33% of samples with a stringent 1-Fws value of
≥ 0.30 (Fws ≤ 0.70), suggesting that these were the most
highly diverse infections (Fig. 2b). To further evaluate the genetic relatedness between the
parasite genotypes, k-means clustering was employed
based on individual multi-locus genotype discrimination. Eight genetic clusters were identified in the parasite pop-
ulation with the parasite populations in genetic clusters
1, 2, 4, 7 and 8 observed using DAPC (Fig. 3a) separated
by linear discriminant 1 (LD1) from parasites in clusters
5 and 6. Linear discriminant 2 (LD2) further separated
clusters 2, 4 and 8 from clusters 1 and 7. The proportion
of correct assignment of the haplotypes to each inferred
cluster ranged between 0.95 and 1. The DAPC analy-
sis could be performed with missing data in place with
missing data which was randomly distributed in the data
set basically replaced by the mean allele frequency in the
case of multi-locus genotype (MLG) calculations. MLGs
were generated from all major and minor allele data. On a population level, the majority of the samples
(99%, 742/747) had unique haplotypes thus indicating
high levels of outcrossing and, therefore, high genotypic
diversity in the parasite population. The high number
of unique haplotypes implies underlying allelic richness Gwarinda et al. Malar J (2021) 20:96 Page 7 of 13 a
Monoclonal
(MOI=1)
Polyclonal
(MOI>1)
34%
66%
b
33% 40%
Highly diverse
(1-Fws≥0.30)
Clonal
(1-Fws≤0.05)
c
d
Fig. 2 Within-host and population level diversity of P. falciparum parasites in the Vhembe District. a Multiplicity of infection (MOI) measured as
the second highest number of alleles detected at any of the 26 loci. The dashed red line indicates the mean MOI = 2.13. The inserted pie chart
shows proportion of single (34%) to multiple (66%) infections. b Within-host diversity index (1-Fws). 1-Fws value shows outbreeding and a value of
0 indicates a perfect clone. The dashed blue line indicates the cut-off of 1-Fws ≤ 0.05 which represents samples with clonal infections. Parasites are fragmented based on their level
of within‑host diversity The dashed
red line indicates the cut-off of 1-Fws ≥ 0.30 which represents samples with high genetic diversity. The inserted pie chart shows proportion of clonal
(40%) to highly diverse (33%) infections. c Distribution of number of unique alleles (allelic richness) detected in 26 microsatellite loci. The dashed
red line indicates the mean = 12.2. d Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci. The
dashed red line indicates the mean heterozygosity = 0.74 a
Monoclonal
(MOI=1)
Polyclonal
(MOI>1)
34%
66% b
33% 40%
Highly diverse
(1-Fws≥0.30)
Clonal
(1-Fws≤0.05) b c c d d Fig. 2 Within-host and population level diversity of P. falciparum parasites in the Vhembe District. a Multiplicity of infection (MOI) measured as
the second highest number of alleles detected at any of the 26 loci. The dashed red line indicates the mean MOI = 2.13. The inserted pie chart
shows proportion of single (34%) to multiple (66%) infections. b Within-host diversity index (1-Fws). 1-Fws value shows outbreeding and a value of
0 indicates a perfect clone. The dashed blue line indicates the cut-off of 1-Fws ≤ 0.05 which represents samples with clonal infections. The dashed
red line indicates the cut-off of 1-Fws ≥ 0.30 which represents samples with high genetic diversity. The inserted pie chart shows proportion of clonal
(40%) to highly diverse (33%) infections. c Distribution of number of unique alleles (allelic richness) detected in 26 microsatellite loci. The dashed
red line indicates the mean = 12.2. d Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci. The
dashed red line indicates the mean heterozygosity = 0.74 Gwarinda et al. Malar J (2021) 20:96 Page 8 of 13 Fig. 3 Fragmentation of parasites based on inferred genetic
clusters. a Scatterplot of the discriminant analysis of principal
components (DAPC) based on discrimination of the 8 inferred
genetic clusters of P. falciparum populations. Samples whose
source of infection is unknown are included. Individual multi-locus
genotypes appear as dots. Colours and lines represent population
membership. Analysis is based on retention of 50 principal
components (top right insert). b Proportion of monoclonal (MOI = 1)
to polyclonal (MOI > 1) infections in the fragmented genetic clusters. c Proportion of clonal (1-Fws ≤ 0.05) to highly diverse (1-Fws ≥ 0.30)
infections. Medium represents infections with 1-Fws > 0.05 but < 0.30 Table 1 Multi-locus linkage disequilibrium in P. Parasites are fragmented based on their level
of within‑host diversity falciparum
populations of Vhembe district
n = number of isolates; ISA = standardised index of association; NA = not
applicable
The Monte Carlo method was used to test the significance of LD
Population
All infections
Single clones
n
ISA (P value)
n
ISA (P value)
Mutale
329
0.14 (0.0001)
111
0.03 (0.2633)
Unknown
393
0.14 (0.0001)
134
0.12 (0.0001)
Levubu/Shingwedzi
2
NA
1
NA
Thohoyandou
4
0.08 (0.0319)
3
-0.11 (1)
Nzhelele/Tshipise
17
0.14 (0.0001)
4
0.05 (0.3665)
Elim
2
NA
0
NA
TOTAL
747
0.138 (0.0001)
253
0.08 (0.0001) Table 1 Multi-locus linkage disequilibrium in P. falciparum
populations of Vhembe district Although all samples with any missing genotypes/data
were included, loci PfPK2 and TA1 in which the majority
of 83% and 90% of data was missing, respectively, were
discarded in the DAPC analysis. Interestingly, clusters 5
and 6 contained the majority (98%, 249/253) of mono-
clonal (MOI = 1) infections (Fig. 3b). This was consistent
with the mixture of mostly clonal (1-Fws < 0.05) and less
diverse (medium, 1-Fws > 0.05 but < 0.30) infections in
clusters 5 and 6 (Fig. 3c). Clusters 1 and 2, and to a lesser
extent cluster 7, appeared fragmented and contained
only highly diverse infections (1-Fws > 0.30, Fig. 3c). This indicates that although the majority of the parasite
population is indeed structured, the most highly diverse
infections result in fragmentation in the population. The
moderate genetic diversity and MOI, and relatively pro-
nounced population structure are all indicative of con-
stant transmission at overall relatively moderate levels. Fig. 3 Fragmentation of parasites based on inferred genetic
clusters. a Scatterplot of the discriminant analysis of principal
components (DAPC) based on discrimination of the 8 inferred
genetic clusters of P. falciparum populations. Samples whose
source of infection is unknown are included. Individual multi-locus
genotypes appear as dots. Colours and lines represent population
membership. Analysis is based on retention of 50 principal
components (top right insert). b Proportion of monoclonal (MOI = 1)
to polyclonal (MOI > 1) infections in the fragmented genetic clusters. c Proportion of clonal (1-Fws ≤ 0.05) to highly diverse (1-Fws ≥ 0.30)
infections. Medium represents infections with 1-Fws > 0.05 but < 0.30 Fig. 3 Fragmentation of parasites based on inferred genetic
clusters. a Scatterplot of the discriminant analysis of principal
components (DAPC) based on discrimination of the 8 inferred
genetic clusters of P. falciparum populations. Parasites are fragmented based on their level
of within‑host diversity Samples whose
source of infection is unknown are included. Individual multi-locus
genotypes appear as dots. Colours and lines represent population
membership. Analysis is based on retention of 50 principal
components (top right insert). b Proportion of monoclonal (MOI = 1)
to polyclonal (MOI > 1) infections in the fragmented genetic clusters. c Proportion of clonal (1-Fws ≤ 0.05) to highly diverse (1-Fws ≥ 0.30)
infections. Medium represents infections with 1-Fws > 0.05 but < 0.30 No geospatial correlation exists to explain genetic diversity
Overall, the levels of within-host and population level
diversity were not influenced by where infections were
reported since the mean MOI (global ANOVA P = 0.36,
n = 747, Fig. 4a); the level of outbreeding (global
ANOVA, P = 0.27, n = 747, Fig. 4b) and heterozygo-
sity (global ANOVA P = 0.23, n = 747, Fig. 4c) between
the different source health districts did not signifi-
cantly differ. Only differences in the MOI from Elim
and Thohoyandou were observed compared to the
overall mean MOI (pairwise t-test, n = 747, P ≤ 0.01
and P ≤ 0.05, respectively), which may be due to small
sample size from these sites. The different source dis-
tricts also did not contribute to the genetic clusters
observed from the DAPC analysis, as infections from
the different areas were represented/distributed in the
eight different inferred genetic clusters, implying free
gene flow and possible parasite mixing between these sites. This was confirmed by the very low FST values
(Fig. 4d), with only the Elim and Levubu/Shingwedzi
districts sharing significant FST with two other dis-
tricts each, implying some degree of differentiation
but again associated with small sample size from these
areas. A Hendrick’s GST at − 0.0394 and Jost’s D at −
0.0122 supports general parasite mixing for the com-
plete Vhembe district. This lack of separation based
on geospatial data agrees with patient demographic Gwarinda et al. Malar J (2021) 20:96 Page 9 of 13 Fig. 4 Geospatial variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection
(MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different source health districts in the Vhembe
District. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different
source health districts. Parasites are fragmented based on their level
of within‑host diversity The dashed red line indicates the mean 1-FWS = 0.22. c Population level genetic diversity measured as the distribution of
heterozygosity in 26 microsatellite loci across the different source health districts. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001. d Heatmap
showing matrix of between source health district pairwise FST. The range of FST values for the pairwise comparisons is shown in the legend and
significance was tested using the Monte Carlo method Fig. 4 Geospatial variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection
(MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different source health districts in the Vhembe
District. The dashed red line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different
source health districts. The dashed red line indicates the mean 1-FWS = 0.22. c Population level genetic diversity measured as the distribution of
heterozygosity in 26 microsatellite loci across the different source health districts. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test) are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001. d Heatmap
showing matrix of between source health district pairwise FST. The range of FST values for the pairwise comparisons is shown in the legend and
significance was tested using the Monte Carlo method Transmission dynamics was not temporally influenced
The level of genetic diversity did not differ between
the years of transmission as demonstrated by global
ANOVA P values (n = 747) for MOI (Fig. 5a), outbreed-
ing (Fig. 5b) and heterozygosity (Fig. 5c) of 0.90, 0.77
and 0.07, respectively, providing no evidence for dif-
fering transmission intensity during that period. No
genetic differentiation (FST range − 0.00005 to 0.0003)
between parasite populations from the different years
was observed, which suggests that the malaria outbreak
experienced in 2017 was not due to an introduction and travel history information, with 99% of the infec-
tions locally acquired of which 95% are within the
Mutale health district. Parasites are fragmented based on their level
of within‑host diversity Pairwise P values (t-test)
are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001 d MOI distribution of collated samples
throughout all the months of the year against different rainfall (black line) and temperature (blue line) patterns Fig. 5 Temporal variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection
(MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different years of transmission. The dashed red
line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different years. The dashed red line
indicates the mean 1-Fws = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across
the different years from when the samples were collected. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test)
are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001 d MOI distribution of collated samples
throughout all the months of the year against different rainfall (black line) and temperature (blue line) patterns of a completely distinct/new parasite population to
Vhembe.i complexity of infections in the Vhembe District. Out
of the 220 patients who knew which insecticides were
sprayed in their households, 53% (116/220), 44% (97/220)
and 3% (7/220) reported use of DDT, Fendona® and
K-Othrine®, respectively. Stratification of MOI distribution by transmission
season (month of infection) (Fig. 5d) showed that infec-
tions were persistently complex throughout the year. In spite of an approximately 15-fold reduction in the
number of cases and notable decrease in rainfall levels
between the wet (high transmission) and dry (low trans-
mission) seasons (Fig. 5d), mean MOI was also not sig-
nificantly different (P = 0.42, Bonferroni P adjustment
method) between the two seasons (wet season mean
MOI = 2.14 ± 0.056, and mean MOI = 1.96 ± 0.178 in
the dry season). Parasites are fragmented based on their level
of within‑host diversity Infections were similarly complex (mean
MOI ± SE = 2.15 ± 0.075 and 2.14 ± 0.101; P = 1, Bon-
ferroni P adjustment method) between infections from
sprayed or unsprayed households suggesting the main-
tenance of complex infections in spite of vector control
implementation during wet seasons, suggesting possible
co-transmission of strains. These data may indicate that
the mean MOI may be seasonally stable thus reflecting
the impact of continued residual transmission on the Parasites are fragmented based on their level
of within‑host diversity This also correlated to resi-
dential status, with 93% of the individuals residing in
Mutale. Additionally, 1-IBS analysis showed that infec-
tions were genetically connected within and between
source areas, with highly related infections signifi-
cantly higher (P < 0.0001, ANOVA, n = 221) within
source areas (mean 1-IBS = 0.76 ± 0.022) compared
to between source areas (mean 1-IBS = 0.56 ± 0.007)
which confirms some level of local transmission. Gwarinda et al. Malar J (2021) 20:96 Page 10 of 13 Fig. 5 Temporal variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection
(MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different years of transmission. The dashed red
line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different years. The dashed red line
indicates the mean 1-Fws = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across
the different years from when the samples were collected. The dashed red line indicates the mean heterozygosity = 0.74. Pairwise P values (t-test)
are indicated in all plots where, not significant: P > 0.05; *: P ≤ 0.05; **: P ≤ 0.01; ***: P ≤ 0.001; ****: P ≤ 0.0001 d MOI distribution of collated samples
throughout all the months of the year against different rainfall (black line) and temperature (blue line) patterns Fig. 5 Temporal variation of within-host and population level genetic diversity of P. falciparum parasites in Vhembe. a Multiplicity of infection
(MOI) measured as the second highest number of alleles detected at any of the 26 loci across the different years of transmission. The dashed red
line indicates the mean MOI = 2.13. b Within-host diversity index (outbreeding, 1-FWS) measured across the different years. The dashed red line
indicates the mean 1-Fws = 0.22. c Population level genetic diversity measured as the distribution of heterozygosity in 26 microsatellite loci across
the different years from when the samples were collected. The dashed red line indicates the mean heterozygosity = 0.74. Discussionh Detectable genetic clusters of different
genotypes mean if studies are strategically designed and
patient parasite genetic and demographic data accurately
linked in all remaining endemic areas in South Africa and
neighbouring endemic countries, particularly at the bor-
der areas, parasites from different countries can easily be
detected or traced back to their origins. This information
can then be used to make better decisions on a national
level and as a regional block on what interventions
should be put in place, and concentrated in which areas. Therefore, regional comparison of parasite genotypes will
be informative to understand parasite mixing in the con-
text of malaria transmission. over time, selection and/or targeting of interventions. Furthermore, the genetic data may be used for the iden-
tification of imported cases and/or outbreaks, as well as
monitoring for the potential spread of anti-malarial drug
resistance and potentially revealing infection patterns. Although South Africa is overall a low transmission
setting, the Vhembe District is a transmission hotspot
and here it is shown that the parasite population within
this hotspot behaves genetically like those typically seen
in high transmission settings (based on incidence data)
such as Guinea, Mali and The Gambia [16, 40–42] - the
P. falciparum parasite population in the Vhembe Dis-
trict is complex and diverse. This is typically associated
with high levels of gene flow between areas of different
transmission intensities that serve to compound allelic
richness by introducing new alleles into the popula-
tion, thereby increasing the level of heterozygosity in the
parasite population [9, 25]. Although the Vhembe dis-
trict is located along the border with Mozambique and
Zimbabwe, very limited evidence exists for imported
malaria cases and rather, the high level of heterozygo-
sity observed in this study implies localised diversity in
a transmission hotspot, where relatively higher transmis-
sion occurs compared to other areas in the country. This
is supported by a marked level of gene flow and parasite
mixing between parasite populations from the differ-
ent source areas within the district, resulting in a low
but significant LD, with frequent and random associa-
tion between alleles and a panmictic parasite population
[43]. Geospatial and temporal variances had little effect
on within-host and population diversity in the Vhembe
District suggesting that genetic diversity was stable over
space and time. Discussionh The impact of malaria transmission intensity on P. falci-
parum parasite genetic diversity is only now being clari-
fied in South Africa. By using multilocus genotyping,
this is the first study that shows that continued residual
malaria transmission in a malaria hotspot within South
Africa is associated with parasite diversity.h The results generated in this study are a useful addition
to the growing resource of P. falciparum genetic data in
the southern African E8 region which will facilitate more
detailed evaluations of cross-border parasite spread in
future studies. The genetic data may also be useful to
control programmes with decision making for malaria
elimination as it can be used as a reference point for the
assessment of the effectiveness of on-going interventions Gwarinda et al. Malar J (2021) 20:96 Page 11 of 13 Page 11 of 13 parasite complexity and heterozygosity are low, and LD
is high using both microsatellite markers and merozoite
surface protein variants for genotyping [21, 44]. In Mada-
gascar, however, high levels of genotypic diversity and a
high proportion of polyclonal infections were associ-
ated with a transmission hotspot using single nucleotide
polymorphism genotyping [45]. These differences may
have been due to differences in technology platforms
used for genotyping in comparison to this study or due
to the challenge of non-standardisation of study designs
in molecular epidemiology studies. Additionally, since
“low” in Africa is very different than “low” in Asia (which
is generally much lower based on for example entomo-
logical inoculation rates and parasite prevalence rates)
it could have also been due to differences in underlying
epidemiology of parasite transmission between Malay-
sia and Madagascar. In other low transmission areas
of southern Africa [9, 25, 26], where a similar panel of
microsatellite markers was used, the level of genetic
diversity was as high as that in the Vhembe District. However, in Eswatini and in the KZN province of South
Africa, the high levels of within-host and population
diversity and lack of parasite population structure could
be explained by high levels of importation from neigh-
bouring high transmission areas. On the other hand, in
north-eastern Namibia, while infections were genetically
diverse, transmission was mostly as a result of locally
acquired infections and fine-scale parasite fragmenta-
tion based on the geographic origin of parasites was
observed [26]. Ethics approval and consent to participate Ethical approval for the study was obtained from the University of Pretoria,
Faculty of Health Sciences Research Ethics Committee (Ethics Reference No. 406–2014). Patient information was extracted from the Limpopo Malaria Case
database based on the clinics from which RDT samples were collected, after
receiving ethical approval from the Limpopo Department of Health (Ref:
LP_201906_011). Acknowledgements Gratitude is expressed to the study population in the Vhembe District,
Limpopo Province, as well as the Folovhodwe, Madimbo, Manenzhe, Masisi,
Mulala, Makuya and Tshipise clinic and laboratory staff. Eric Mabunda and
health information officers from the Limpopo Department of Health are
acknowledged for facilitating access to patient information through the LMC
database. The University of Pretoria Institute for Sustainable Malaria Control
acknowledges the South African Medical Research Council as Collaborating
Centre for Malaria Research. 6. Moonasar D, Maharaj R, Kunene S, Candrinho B, Saute F, Ntshalintshali N,
et al. Towards malaria elimination in the MOSASWA (Mozambique, South
Africa and Swaziland) region. Malar J. 2016;15:419. 7. Moonasar D, Nuthulaganti T, Kruger PS, Mabuza A, Rasiswi ES, Benson FG,
et al. Malaria control in South Africa 2000–2010: beyond MDG6. Malar J. 2012;11:294. 7. Moonasar D, Nuthulaganti T, Kruger PS, Mabuza A, Rasiswi ES, Benson FG,
et al. Malaria control in South Africa 2000–2010: beyond MDG6. Malar J. 2012;11:294. 8. Khosa E, Kuonza LR, Kruger P, Maimela E. Towards the elimination of
malaria in South Africa: a review of surveillance data in Mutale Municipal‑
ity, Limpopo Province, 2005 to 2010. Malar J. 2013;12:7. 8. Khosa E, Kuonza LR, Kruger P, Maimela E. Towards the elimination of
malaria in South Africa: a review of surveillance data in Mutale Municipal‑
ity, Limpopo Province, 2005 to 2010. Malar J. 2013;12:7. Funding We thank the South African National Research Foundation (NRF) South African
Research Chair (SARChI) programme (the DST/NRF South African Research
Chairs Initiative Grant (LB UID 84627), and the South African Medical Research
Council for financial support. Opinions expressed and conclusions arrived at,
are those of the author and are not necessarily attributed to the NRF. 11. Brooke B, Koekemoer I, Kruger P, Urbach J, Misiani E, Coetzee M. Malaria
vector control in South Africa. S Afr Med J. 2013;103:784–8. 12. Christian R, Dahan-Moss Y, Munhenga G, Lobb L, Erlank E, Dandalo L, et al. Malaria Vector Surveillance Report, South Africa, January–December,
2017. Johannesburg: National Institute for Communicable Diseases-
Bulletin; 2016. Author details 1 Malaria Parasite Molecular Laboratory, Department of Biochemistry, Genetics
and Microbiology, Institute for Sustainable Malaria Control, University of Pre‑
toria, Private Bag X20, Hatfield, 0028 Pretoria, South Africa. 2 Division of HIV,
Infectious Diseases, and Global Medicine, Department of Medicine, University
of California San Francisco, San Francisco, CA, USA. 3 Centre for Emerging
Zoonotic and Parasitic Diseases, National Institute for Communicable Diseases,
a Division of the National Health Laboratory Service, Gauteng, South Africa. 4 Wits Research Institute for Malaria, Faculty of Health Sciences,, University
of Witwatersrand, Johannesburg, Gauteng, South Africa. Received: 31 August 2020 Revised: 5 February 2021 Accepted: 6 February
2021 Received: 31 August 2020 Revised: 5 February 2021 Accepted: 6 February
2021 Received: 31 August 2020 Revised: 5 February 2021 Accepted: 6 February
2021 Competing interests
Th
h
d
l
h Competing interests
The authors declare that they have no competing interests. Abbreviations
D PC D DAPC: Discriminant analysis of principal components; IRS: Indoor residual
spraying; KZN: Kwa-Zulu Natal; LD: Linkage disequilibrium; LMC: Limpopo
Malaria Case; MOI: Multiplicity of infection; PCA: Principal component analysis;
RDT: Rapid diagnostic tests. 4. Raman J, Morris N, Frean J, Brooke B, Blumberg L, Kruger P, et al. Review‑
ing South Africa’s malaria elimination strategy (2012–2018): progress,
challenges and priorities. Malar J. 2016;15:438. 5. Malaria Elimination Strategic Plan for South. Africa 2019–2023 [Internet]. South African Department of Health. 2019. Conclusion
h
d In this study, the impact of continued malaria transmis-
sion intensity on P. falciparum genetic diversity in the
Vhembe District is demonstrated. The P. falciparum
population is moderate to highly diverse and genetically
complex, which is key and advantageous to the parasite’s
evolution and survival. Thisdata could be informative
as a reference point in evaluating the efficacy of strate-
gic control interventions over time, aimed at eliminating
residual malaria transmission in malaria transmission
‘hotspots’ in South Africa. Furthermore, this data can be
used to identify imported cases and/or outbreaks, as well
as monitor for the potential spread of antimalarial drug
resistance. Linking data on P. falciparum genetic diversity
from Vhembe/South Africa to that from neighbouring
sub-Saharan countries in the E8 regional initiative would
need to be investigated as the transmission dynamics in
the region is not fully understood. Discussionh The fact that mean MOI remained sea-
sonally stable may be a reflection of the contribution of
complex infections to continued residual transmission in
the Vhembe District. A major limitation of this study was that a large num-
ber of samples were classified as ‘unknown’ and could not
be linked to their district of origin, thereby leaving the
geospatial analyses to a certain extent underpowered in
most districts. Additionally, the majority of the samples
coming from the Mutale district may have been influ-
enced by a biased sampling plan from the onset based on
the fact that samples were collected from a few selected
clinics in a known hotspot area based on case incidence
data. It was, therefore, not possible to get genetic rep-
resentation of parasites from the other source districts
and those seeded through importation from neighbour-
ing high transmission settings reported in the province if
any and what their contribution to the local transmission
dynamics is. Some clones in an infection may exist at lower propor-
tions than others due to either competitive suppression
by other genotypes or possibly host specific selection
due to immunity or receptor polymorphisms. In Plasmo-
dium chabaudi, minor clones in mixed/multiple infec-
tions may produce as many, or more, oocysts than they
would have as a single clone infection [46], highlighting
that competitive stress may increase transmission of cer-
tain clones. Multiple distinct parasite clones are impli-
cated in high gametocyte production and emergence of
highly virulent and drug resistant parasite strains due to Hotspot areas in other low transmission settings, such
as Malaysia have demonstrated opposite trends where Gwarinda et al. Malar J (2021) 20:96 Gwarinda et al. Malar J (2021) 20:96 Page 12 of 13 intense within-host competition [47–50]. While the rela-
tionship between parasite density and MOI is complex,
and may not be enough to explain possible within-host
competition of parasite clones in individual infections in
the Vhembe District, a detailed, longitudinal study of the
contribution of specific clones to parasite transmissibility
and virulence would therefore be important. References 1. WHO. World malaria report 2019. Geneva: World Health Organization;
2019. 2. WHO. Global technical strategy for malaria 2016–2030. Geneva: World
Health Organization; 2015. 2. WHO. Global technical strategy for malaria 2016–2030. Geneva: World
Health Organization; 2015. 3. Maharaj R, Raman J, Morris N, Moonasar D, Durrheim D, Seocharan I, et al. Epidemiology of malaria in South Africa: From control to elimination. S
Afr Med J. 2013;103:779–83. 3. Maharaj R, Raman J, Morris N, Moonasar D, Durrheim D, Seocharan I, et al. Epidemiology of malaria in South Africa: From control to elimination. S
Afr Med J. 2013;103:779–83. Authors’ contributions 9. Raman J, Gast L, Balawanth R, Tessema S, Brooke B, Maharaj R, et al. High
levels of imported asymptomatic malaria but limited local transmission
in KwaZulu-Natal, a South African malaria-endemic province nearing
malaria elimination. Malar J. 2020;19:152. JR, LB and BG designed the study. HBG, JR and LB coordinated collection of
the field samples and patient information. HBG and SKT processed the sam‑
ples and HBG analysed the data. HBG drafted the manuscript and SKT, JR, BG
and LB revised the draft. All authors read and approved the final manuscript. 10. Adeola A, Ncongwane K, Abiodun G, Makgoale T, Rautenbach H, Botai J,
et al. Rainfall trends and malaria occurrences in Limpopo Province, South
Africa. Int J Environ Res Public Health. 2019;16:5156. Consent for publication
bl h h d Consent to publish the data presented in this paper was obtained from the
Limpopo Department of Health and the University of Pretoria. Availability of data and materials MMOD: an R library for the calculation of population differen‑
tiation statistics. Mol Ecol Resour. 2012;12:1158–60. 39. Jombart T, Devillard S, Balloux F. Discriminant analysis of principal
components: a new method for the analysis of genetically structured
populations. BMC Genet. 2010;11:94. 20. Carter TE, Malloy H, Existe A, Memnon G, Victor YS, Okech BA, et al. Genetic diversity of Plasmodium falciparum in Haiti: insights from micros‑
atellite markers. PLoS One. 2015;10:e0140416. 40. Mobegi VA, Loua KM, Ahouidi AD, Satoguina J, Nwakanma DC,
Amambua-Ngwa A, et al. Population genetic structure of Plasmodium
falciparum across a region of diverse endemicity in West Africa. Malar J. 2012;11:223. 21. Razak MRMA, Sastu UR, Norahmad NA, Abdul-Karim A, Muhammad A,
Muniandy PK, et al. Genetic diversity of Plasmodium falciparum popula‑
tions in malaria declining areas of Sabah, East Malaysia. PLoS One. 2016;11:e0152415. 41. Murray L, Mobegi VA, Duffy CW, Assefa SA, Kwiatkowski DP, Laman E,
et al. Microsatellite genotyping and genome-wide single nucleotide
polymorphism-based indices of Plasmodium falciparum diversity within
clinical infections. Malar J. 2016;15:275. 22. Bei AK, Niang M, Deme AB, Daniels RF, Sarr FD, Sokhna C, et al. Dramatic
changes in malaria population genetic complexity in Dielmo and
Ndiop, Senegal, revealed using genomic surveillance. J Infect Dis. 2018;217:622–7. 42. Nabet C, Doumbo S, Jeddi F, Konaté S, Manciulli T, Fofana B, et al. Genetic
diversity of Plasmodium falciparum in human malaria cases in Mali. Malar
J. 2016;15:353. 23. Amambua-Ngwa A, Jeffries D, Amato R, Worwui A, Karim M, Ceesay S,
et al. Consistent signatures of selection from genomic analysis of pairs
of temporal and spatial Plasmodium falciparum populations from The
Gambia. Sci Rep. 2018;8:9687. 43. Conway DJ, Roper C, Oduola AM, Arnot DE, Kremsner PG, Grobusch MP,
et al. High recombination rate in natural populations of Plasmodium
falciparum. Proc Natl Acad Sci USA. 1999;96:4506–11. 44. Anthony TG, Conway DJ, Cox-Singh J, Matusop A, Ratnam S, Shamsul S,
et al. Fragmented population structure of Plasmodium falciparum in a
region of declining endemicity. J Infect Dis. 2005;191:1558–64. 24. Daniels R, Chang H-H, Séne PD, Park DC, Neafsey DE, Schaffner SF, et al. Genetic surveillance detects both clonal and epidemic transmission
of malaria following enhanced intervention in Senegal. PLoS One. 2013;8:e60780. 45. Rice BL, Golden CD, Anjaranirina EJG, Botelho CM, Volkman SK, Hartl DL. Genetic evidence that the Makira region in northeastern Madagascar is a
hotspot of malaria transmission. Malar J. 2016;15:596. 25. Availability of data and materials 13. Kyalo D, Amratia P, Mundia CW, Mbogo CM, Coetzee M, Snow RW. A geo-
coded inventory of anophelines in the Afrotropical Region south of the
Sahara: 1898–2016. Wellcome Open Res. 2017;2:57. The datasets supporting the conclusions of this article are available from the
corresponding authors on reasonable request. Gwarinda et al. Malar J (2021) 20:96 Page 13 of 13 Page 13 of 13 14. Samuel M, Qwabe B, Dlamini D, Mabaso N, Manyawo Z, Zhikali J, et al. Malaria Vector Surveillance Report, South Africa, January–December
2018. Johannesburg: National Institute for Communicable Diseases-
Bulletin; 2018. 32. Auburn S, Campino S, Miotto O, Djimde AA, Zongo I, Manske M, et al. Characterization of within-host Plasmodium falciparum diversity using
next-generation sequence data. PLoS ONE. 2012;7:e32891. 33. Manske M, Miotto O, Campino S, Auburn S, Almagro-Garcia J, Maslen G,
et al. Analysis of Plasmodium falciparum diversity in natural infections by
deep sequencing. Nature. 2012;487:375. 15. Ukpe IS, Moonasar D, Raman J, Barnes K, Baker L, Blumberg L. Case
management of malaria: treatment and chemoprophylaxis. S Afr Med J. 2013;103:793–8. 34. Mobegi VA, Duffy CW, Amambua-Ngwa A, Loua KM, Laman E, Nwakanma
DC, et al. Genome-wide analysis of selection on the malaria parasite
Plasmodium falciparum in West African populations of differing infection
endemicity. Mol Biol Evol. 2014;31:1490–9. 16. Anderson TJ, Haubold B, Williams JT, Estrada-Franco § JG, Richardson L,
Mollinedo R, et al. Microsatellite markers reveal a spectrum of population
structures in the malaria parasite Plasmodium falciparum. Mol Biol Evol. 2000;17:1467–82. y
35. Agapow PM, Burt A. Indices of multilocus linkage disequilibrium. Mol Ecol
Notes. 2001;1:101–2. 17. Auburn S, Barry AE. Dissecting malaria biology and epidemiology using
population genetics and genomics. Int J Parasito. 2017;47:77–85. 36. Kamvar ZN, Tabima JF, Grünwald NJ. Poppr: an R package for genetic
analysis of populations with clonal, partially clonal, and/or sexual repro‑
duction. PeerJ. 2014;2:e281. 18. Patel JC, Taylor SM, Juliao PC, Parobek CM, Janko M, Gonzalez LD, et al. Genetic evidence of importation of drug-resistant Plasmodium falciparum
to Guatemala from the Democratic Republic of the Congo. Emerg Infect
Dis. 2014;20:932. 37. Jombart T. adegenet: a R package for the multivariate analysis of genetic
markers. Bioinformatics. 2008;24:1403–5. 19. Escalante AA, Ferreira MU, Vinetz JM, Volkman SK, Cui L, Gamboa D,
et al. Malaria molecular epidemiology: lessons from the International
Centers of Excellence for Malaria Research Network. Am J Trop Med Hyg. 2015;93:79–86. 38. Winter DJ. Availability of data and materials Roh M, Tessema S, Murphy M, Nhlabathi N, Mkhonta N, Vilakati S, et al. High genetic diversity of Plasmodium falciparum in the low transmission
setting of the Kingdom of Eswatini. J Infect Dis. 2019;220:e1346-54. 46. Taylor LH, Walliker D, Read AF. Mixed–genotype infections of malaria
parasites: within–host dynamics and transmission success of competing
clones. Proc Biol Sci. 1997;264:927–35. 26. Tessema S, Wesolowski A, Chen A, Murphy M, Wilheim J, Mupiri A-R, et al. Using parasite genetic and human mobility data to infer local and cross-
border malaria connectivity in Southern Africa. Elife. 2019;8:e43510. 47. Sondo P, Derra K, Lefevre T, Diallo-Nakanabo S, Tarnagda Z, Zampa O,
et al. Genetically diverse Plasmodium falciparum infections, within-host
competition and symptomatic malaria in humans. Sci Rep. 2019;9:127. y
27. Module M. Preparation of Rapid Diagnostic Tests (RDTs) for DNA extrac‑
tion v1.1. WWARN Procedure. 2011. 28. Plowe CV, Djimde A, Bouare M, Doumbo O, Wellems TE. Pyrimethamine
and proguanil resistance-conferring mutations in Plasmodium falciparum
dihydrofolate reductase: polymerase chain reaction methods for surveil‑
lance in Africa. Am J Trop Med Hyg. 1995;52:565–8. 48. Nassir E, Abdel-Muhsin A-MA, Suliaman S, Kenyon F, Kheir A, Geha H, et al. Impact of genetic complexity on longevity and gametocytogenesis of
Plasmodium falciparum during the dry and transmission-free season of
eastern Sudan. Int J Parasitol. 2005;35:49–55. 49. Bose J, Kloesener MH, Schulte RD. Multiple-genotype infections and their
complex effect on virulence. Zoology. 2016;119:339–49. 29. Hofmann N, Mwingira F, Shekalaghe S, Robinson LJ, Mueller I, Felger I. Ultra-sensitive detection of Plasmodium falciparum by amplification of
multi-copy subtelomeric targets. PLoS Med. 2015;12:e1001788. 50. Pollitt LC, Mideo N, Drew DR, Schneider P, Colegrave N, Reece SE. Compe‑
tition and the evolution of reproductive restraint in malaria parasites. Am
Nat. 2011;177:358–67. 30. Awandu SS, Raman J, Bousema T, Birkholtz L-M. Ultralow-density
Plasmodium falciparum Infections in African Settings. Clin Infect Dis. 2019;69:1463–4. 31. Liu Y, Tessema SK, Murphy M, Xu S, Schwartz A, Wang W, et al. Confirma‑
tion of the absence of local transmission and geographic assignment of
imported falciparum malaria cases to China using microsatellite panel. Malar J. 2020;19:244. Publisher’s note Springer Nature remains neutral with regard to jurisdictional claims in pub‑
lished maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in pub‑
lished maps and institutional affiliations.
|
https://openalex.org/W3201553630
|
https://europepmc.org/articles/pmc8448308?pdf=render
|
English
| null |
The minimum effective concentration (MEC90) of ropivacaine for ultrasound-guided caudal block in anorectal surgery. A dose finding study
|
PloS one
| 2,021
|
cc-by
| 7,253
|
PLOS ONE PLOS ONE RESEARCH ARTICLE RESEARCH ARTICLE
The minimum effective concentration
(MEC90) of ropivacaine for ultrasound-guided
caudal block in anorectal surgery. A dose
finding study Xuehan Li1☯, Jun Li1☯, Pei Zhang1, Huifei Deng1, Mingan Yang2, Hongbo He3,
Rurong WangID1* Xuehan Li1☯, Jun Li1☯, Pei Zhang1, Huifei Deng1, Mingan Yang2, Hongbo He3,
Rurong WangID1* 1 Department of Anesthesiology, and Laboratory of Anesthesia and Intensive Care Medicine, West China
Hospital of Sichuan University, Chengdu, Sichuan, China, 2 Division of Biostatistics & Epidemiology, School
of Public Health, San Diego State University, San Diego, CA, United States of America, 3 Benign
Coloproctological Diseases Center, West China Hospital of Sichuan University, Chengdu, Sichuan, China a1111111111
a1111111111
a1111111111
a1111111111
a1111111111 ☯These authors contributed equally to this work. * wangrurong@scu.edu.cn Patients Copyright: © 2021 Li et al. This is an open access
article distributed under the terms of the Creative
Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in
any medium, provided the original author and
source are credited. 50 males and 51 females scheduled for anorectal surgery. Background Caudal epidural block (CEB) provides reliable anesthesia for adults undergoing anorectal
surgery. Despite the widely utilization, the minimum effective concentration for 90% patients
(MEC90) of ropivacaine for CEB remains unknown. Setting Operating room and postoperative recovery area of Chengdu Shangjin Nanfu Hospital, from
October 2019 to January 2020. OPEN ACCESS Citation: Li X, Li J, Zhang P, Deng H, Yang M, He
H, et al. (2021) The minimum effective
concentration (MEC90) of ropivacaine for
ultrasound-guided caudal block in anorectal
surgery. A dose finding study. PLoS ONE 16(9):
e0257283. https://doi.org/10.1371/journal. pone.0257283 Editor: Ehab Farag, Cleveland Clinic, UNITED
STATES Editor: Ehab Farag, Cleveland Clinic, UNITED
STATES To estimate MEC of ropivacaine for CEB in anorectal surgery. Received: October 15, 2020
Accepted: July 13, 2021
Published: September 17, 2021 Design A prospective dose-finding study using biased coin design up-and-down sequential method. Setting A prospective dose-finding study using biased coin design up-and-down sequential method. Peer Review History: PLOS recognizes the
benefits of transparency in the peer review
process; therefore, we enable the publication of
all of the content of peer review and author
responses alongside final, published articles. The
editorial history of this article is available here:
https://doi.org/10.1371/journal.pone.0257283 ☯These authors contributed equally to this work. Conclusions A concentration of 0.35% ropivacaine with a volume of 14ml provided a successful CEB in
90% of the male patients, while 0.353% ropivacaine with a volume of 12ml provided a suc-
cessful CEB in 90% of the female patients. A concentration of 0.4% and a volume of 14ml
for male and 12 ml for female would be successful in 99% of the patients. Results The MEC90 of ropivacaine for CEB were estimated to be 0.35% (95% CI 0.29 to 0.4%) for
male and 0.353% (95%CI 0.22 to 0.4%) for female. By extrapolation to MEC in 99% of sub-
jects (MEC99) and pooled adjacent violators algorithm (PAVA) adjusted responses, it would
be optimal to choose 0.4% ropivacaine with a volume of 14ml for male and 12ml for female. Competing interests: The authors have declared
that no competing interests exist. Trial registration Chictr.org.cn identifier: No. ChiCTR 1900024315. Interventions We conducted two independent biased coin design up-and down trials by genders. The con-
centration of ropivacaine administered to the first patient of male and female were 0.25%
with fixed volume of 14ml for male and 12ml for female patients based on our previous
study. In case of failure, the concentration was increased by 0.05% in the next subject. Data Availability Statement: All relevant data are
within the manuscript and its Supporting
Information files. Data Availability Statement: All relevant data are
within the manuscript and its Supporting
Information files. 1 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Otherwise, the next subject was randomized to a concentration 0.05% less with a probability
of 0.11, or the same concentration with a probability of 0.89. Success was defined as com-
plete sensory blockade of perineal area 15 min after the block evidenced by the presence of
a lax anal sphincter and pain-free surgery. Otherwise, the next subject was randomized to a concentration 0.05% less with a probability
of 0.11, or the same concentration with a probability of 0.89. Success was defined as com-
plete sensory blockade of perineal area 15 min after the block evidenced by the presence of
a lax anal sphincter and pain-free surgery. Funding: Dr Xuehan Li has no conflict of interest to
declare. She received a grant from National Natural
Science Foundation of China (Grant No. 81900064)
and a grant from Science and Technology Support
Project of Sichuan Province (No. 2020YJ0050) for
this study. Dr Hongbo He has no conflict of interest
to declare. He received a grant from Science and
Technology Support Project of Sichuan Province
(No. 2018SZ0113) for this study. Dr. Jun Li, Dr Pei
Zhang, Dr Huifei Deng, Dr Mingan Yang and Dr
Rurong Wang have no conflict of interest to declare
and did not receive funds for this study. Main outcome measures The MEC of ropivacaine to achieve a successful CEB in 90%(MEC90) of the patients. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 Patient enrollment After provided with written informed consent, patients undergoing hemorrhoidectomy or
anal fistula resection surgery or anorectal polypectomy from October 2019 to January 2020 in
Chengdu Shangjin Nanfu Hospital were prospectively enrolled into female or male group. Inclusion criteria were aged between 18 and 65 years old, American Society of Anesthesiolo-
gists (ASA) status I to III, and body mass index between 18 and 30 kg/m2. Exclusion criteria
were as follows: ultrasound showed that the sacral canal was narrow or occlusive (the antero-
posterior diameter of the sacral hiatus less than 1.6mm [3]); other test drugs were taken within
3 months before the study was selected or participated in other clinical trials; allergic to amide
local anesthetics, or contraindicated; patients with coagulopathy or taking anticoagulant; pre-
existing neuropathy, chronic obstructive pulmonary disease, hepatic or renal failure, spinal
disease; local infection in the patient’s caudal region; prior surgery or injury in the sacrococcy-
geal region; oral administration of contraceptives during the previous week; pregnancy or lac-
tation; inability to consent to the study. Introduction Perioperative pain management is vital for anorectal surgery, and caudal block may lower the
postoperative complication by reducing the use of opioid analgesics and other systemic drugs. Besides, cauda block provides the possibility of patient-controlled epidural analgesia postoper-
atively with few motor blocks. Ropivacaine, as a long-acting amide local anesthetic, shows a better sensory block while
presents less motor block than bupivacaine and less central nerve toxicity and cardiotoxicity,
and these characteristics make it the optimal reginal anesthetic agent for anorectal surgery,
especially for ambulatory anorectal surgery [1]. Plenty of studies had reported how ropivacaine
applied in caudal block, mostly with concentration of 0.1–0.5% and volume of 10-30ml, but
the most appropriate dosage regiment remains unknown. The rising application of caudal
block urges studies in local anesthetic volume and concentration, most of which were just sim-
ple comparisons of two volume or concentration groups. Although Y Li et al. reported mini-
mum effective concentration in 50% of patients (MEC50) of ropivacaine in caudal block by
using Dixon’s up-and-down method, MEC90 remains unknown which might be of clinical
sense. Our group has identified minimum effective volume in 90% of patients (MEV90) of
ropivacaine with a fixed concentration 0.5% for caudal block in adults by applying a biased
coin design (BCD) up-and-down method (UDM) (BCD-UDM) and reported a volume of
12.88 ml and 10.73ml ropivacaine 0.5% provided a successful caudal block in 90% of the male
and female patients respectively and a volume of 14ml for male and 12 ml for female would be PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 2 / 14 PLOS ONE MEC90 of ropivacaine for caudal block successful in 99% of the patients [2]. Hence, we are exploring MEC90 of ropivacaine in caudal
block for anorectal surgery with fixed volume of 14ml for male and 12ml for female patients in
the present study. successful in 99% of the patients [2]. Hence, we are exploring MEC90 of ropivacaine in caudal
block for anorectal surgery with fixed volume of 14ml for male and 12ml for female patients in
the present study. Methods The study was approved by the Clinical Trial Ethics Committee of Chengdu Shangjin Nanfu
hospital (No. 2019042506), and was registered on Chinese Clinical Trail Registry (No. ChiCTR
1900024315). PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 Ultrasound-guided caudal epidural block (CEB) After injection, the nee-
dle was removed and the patient was turned to supine for further assessment. Block onset was evaluated by pinprick around the perineal area(S3 dermatome) and the
existence of flaccid anal sphincter [6]. We defined the effective caudal block only if the pres-
ence of a lax anal sphincter 15 minutes after the caudal injection and the patient had pain-free
surgery without the need for rescue blocks including supplemental opioids, general anesthesia
or local infiltration by the surgeon. After completion of the assessment at 15 min indicating
the success of CEB, 1-2mg midazolam and 0.5-1ug/kgh dexmedetomidine were administered
intravenously for maintenance of anesthesia. The block was considered ineffective if there was
pain during surgery or the presence of a tight anal sphincter, and the patient received rescue
blocks. The block was considered ineffective if there was pain during surgery or the presence
of a tight anal sphincter, and the patient received rescue blocks. bl
k l
l
l
d
f ll
k
d f Sensory block level was evaluated as follows: sensitivity to pinprick was tested from S3 to
even L4 dermatomes by pricking the skin twice with a 26 G needle. The pinprick test was
repeated at 5, 10, 15min following administration of ropivacaine and at the end of the surgery. Motor block was evaluated at the end of surgery according to the Bromage scale (0 = full flex-
ion of feet and knees, 1 = just able to move knees, 2 = able to move feet only, and 3 = unable to
move feet or knees) performed at 5, 10, 15min following administration of ropivacaine and at
the end of the surgery. Ultrasound-guided caudal epidural block (CEB) No opioid analgesics or other analgesics was administered before or during the operation. The
patient was routinely monitored since entering the preparing room, including electrocardiog-
raphy, non-invasive blood pressure, pulse oximetry and supplemental oxygen (nasal cannulate
at 4 l/min), an 18 G intravenous catheter was placed in the upper limb contralateral to the
non-invasive blood pressure detect site. Fluid administration was controlled to 6–10 ml kg-
1h-1 in operation room. After preparation, patients were placed in a left lateral position, and
ultrasound (M7, Mindray, Shenzhen, China) guided caudal block was performed by one expe-
rienced anesthetist using the same ultrasound as follows [3, 4]: At first, the probe was placed in the middle of the sacrum and the transverse view (S1A Fig)
showing the superficial sacrococcygeal ligament (SL) in between two sacral cornua, and the
deeper sacral bone base. Between the sacrococcygeal ligament and the sacral bone is the sarcral
hiatus, where the needle would be inserted to. Measurement of the distance from anterior edge
of sacrococcygeal ligament to sacrum (line c), skin to anterior edge of sacral ligament distance
(line a) were done. Then, the probe was turned 90 degrees to get longitudinal view (S1B Fig)
and thickness of sacrococcygeal ligament (line d) was measured and then a 20G intravenous
catheter with an inner stylet was inserted through the sacrococcygeal ligament into the sacral
hiatus (S1C Fig). The caudal space was identified with the loss of resistance technique using
saline. The block needle was visualized in real time to keep the advancement of needle tip
beyond the apex of sacral hiatus limited to 5 mm to avoid dural puncture [5]. Unidirectional
flow on color doppler was utilized to identify the success of a caudal block (S1D Fig). After
negative aspiration, 1 ml of a solution containing 5ug epinephrine was administrated as a test
dose. If after 1 min there was no evidence of intravascular injection, ropivacaine (10% Naro-
pin; AstraZeneca, Sodertalje, Sweden) diluted with 0.9% w/v saline to achieve targeted PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 3 / 14 PLOS ONE MEC90 of ropivacaine for caudal block concentration without epinephrine was injected at the rate of 0.2 ml/s. After injection, the nee-
dle was removed and the patient was turned to supine for further assessment. concentration without epinephrine was injected at the rate of 0.2 ml/s. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 Results A total of 105 patients were enrolled in the study (53 males and 52 females, Fig 1 CONSORT
flow chart). There were 3 male patients and 1 female patient were excluded for difficulties in
needle insertion because of narrow sacral hiatus. 101 patients (50 males and 51 females) had
CEB. There were 5 failed blocks in the male group and 6 in the female group. They all had pain
during the incision or surgical operation but lax anal sphincter. The patients had painless sur-
gery after rescue blocks. Patient characteristics are shown in Table 1 and in S1 Data sheet. Differences were shown
in weight (p<0.001), height (p<0.001) and BMI (p<0.001) between male and female group. However, the other characters including age, ASA and types of surgery of male group were
comparable to those of female group. As ultrasound measurement shown, female patients pre-
sented a longer distance from the anterior edge of SL to sacrum (5.10±1.3 vs. 4.17±1.51,
p = 0.001) and a narrower SL width (7.24[6.2 to 8.1] vs. 9.62[7.20 to 12.2], p<0.001) compared
to male patients, while the distance from skin to anterior edge of SL and SL thickness showed
no difference. The biased coin design up-and-down sequence is displayed in Fig 2. The MEC90 was 0.35%
(95% CI 0.29 to 0.4%) for male and 0.353% (95%CI 0.22 to 0.4%) for female respectively. By
further analysis, the MEC95 was estimated to be 0.375% (95% CI 0.34 to 0.4%) for male and
0.376 (95% CI 0.26 to 0.4%) for female; while the MEV99 was 0.395% (95% CI 0.393 to 0.4%)
for male and 0.395 (95% CI 0.392 to 0.4%) for female. The observed response rates for each volume of ropivacaine are shown in Table 2. Also
shown are the response rates adjusted by the pooled adjacent violators algorithm (PAVA) to
generate monotonically non-decreasing response rates for the isotonic regression method. Of
those successful blocks, there were 43 of 45 males and 42 of 45 females got success block at first
attempt. CEB general characteristics and block complication data of successful caudal block are
shown in Table 3. Anesthesia onset time showed no difference between groups, neither did
operation time. While supplying effective analgesia and a lax anal sphincter, few motor block
was reported in both groups (1 in male and 4 in female, the Bromage scale can be seen in S1
Data). Implementation and blinding Xuehan Li generated the random allocation sequence, Jun Li enrolled participants and
assigned participants to interventions, and analysis was done by Mingan Yang who was
blinded to the interventions. Statistics Data were collected and presented as median (interquartile range) and mean (SD) as appropri-
ate. Mean (SD) values were analyzed by using the unpaired Student t test or Welch t test for
different variances, median (interquartile) by using the Mann-Whitney U test. Categorical var-
iables were reported as Number (proportion) and evaluated using Fisher’s exact or the X2 test
where appropriate. For all tests, P < 0.05 was defined as statistically significant. Statistical analysis was performed using the R statistical software package, version 3.2.1
(2015 The R Foundation for Statistical Computing, Vienna, Austria; ISBN 3-900051-07-0,
URL http://www.r-project.org) and SPSS 22 (SPSS Inc. USA). Biased coin design up-and-down sequential method (BCD-UDM) The first patient recruited received a concentration of 0.25% with fixed volume (14ml for
male and 12ml for female), based on clinical practice and previous studies. Subsequently, if
a patient had an inadequate block, the ropivacaine concentration was increased by 0.05%
in the next subject. Following Stylianou et al. [7, 8], we randomize the next patient with
probability b = (1-T)/T to the next lower volume and 1-b = 0.89 to the same volume, where
T = 0.90 in the MEV90.If a patient had a successful block, the next subject was randomized
with probability b = 0.11 to the next lower concentration and 1-b = 0.89 to the same
concentration. Stylianou et al. [7–9] performed extensive trials and found that the estimated probability
of toxicity associated with the recommended dose is stabilized with a sample size of at least
20 and best at over 40. Following this, we choose the sample size of 45 to accommodate
potential dropout. To estimate MEC90, a minimum of 45 positive responses were required
[7, 8]. Thus, we prospectively recruited patients until 45 successful blocks were accom-
plished, and a set of 44 sealed envelopes (with the random volume assignments inside for
successful blocks) were opened. The envelopes were prepared by a resident who took no
further part in the study. The MEC90 was calculated using isotonic regression, and the 95%
confidence interval (CI) was derived from the 2000 bootstrap replicates. Data were further
analyzed using isotonic regression and bootstrapping CI to estimate the minimum effective
concentration required to produce a successful block in 95% and 99% of patients (MEC95
and MEC99) [7, 8]. The observer also recorded noninvasive systemic arterial blood pressure, measured with an
automatic cycling device, and heart rate (HR), from the electrocardiogram during and after
the caudal injection and during the operation. Hypotension was defined as a decrease in sys-
tolic blood pressure by 30% of the preanesthetic value or a systolic blood pressure less than 90
mm Hg. Hypotension was treated by administering ephedrine 3 mg or metaraminol 0.2 mg i. v. based on the HR of patients with increase infusion of crystalloid fluids. Bradycardia (<55
bpm) was treated by administering 0.3–0.5 mg atropine i.v. 4 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 Results The pain block extended to 7.33[6 to 9]h for male group and 7.14[3 to 9]h in female
group postoperatively with a significant difference (p = 0.026). One case of bradycardia
(2.22%) occurred in the female group during surgery which was relieved by intravenous atro-
pine 0.3mg. 3 males (6.67%) and 4 females (8.89%) suffered urinary retention after operation PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 5 / 14 PLOS ONE MEC90 of ropivacaine for caudal block Fig 1. CONSORT flow chart. https://doi.org/10.1371/journal.pone.0257283.g001 Fig 1. CONSORT flow chart. https://doi.org/10.1371/journal.pone.0257283.g001 and were subjected to urethral catheterization. One case (2.22%) in male group complained
with low back pain postoperatively with no need for further dealation. No other serious com-
plications occurred in either group. and were subjected to urethral catheterization. One case (2.22%) in male group complained
with low back pain postoperatively with no need for further dealation. No other serious com-
plications occurred in either group. Sensory block level at the time of anesthesia on set and the end of surgery was shown in Fig
3. The dermatome was around S2 and S3 at the onset of anesthesia and showed a rising to
higher dermatome level (S2-L4) after surgery. Discussion While high volumes of local anesthetic in CEB might cause a great increase in
intracranial pressure and a high block level in lumbosacral nerve [15]. Thus, BCD-UDM was
identified as a better way to investigate higher quantile EV or MEV, which had been used to
explore MEV90 of ropivacaine in our previous study and was used to explore MEC90 of ropiva-
caine in ultrasound-guided CEB in the present study. resulting from anatomical variation especially the sacral hiatus and sacral cornual variation
[12], which have been reduced by ultrasound technique [4, 13]. This motivated researches on
precise dose of local anesthetics for CEB. Li.et al. found MEC50 of ropivacaine for caudal anes-
thesia was 0.296% in men and 0.389% in women with a fixed 20ml volume by utilizing Dixon’s
up-and-down sequential allocation [14]. However, Dixon’s method remains as the main way
to investigate MEV50 and MEC50 in most studies, which has been firstly used to study the con-
centration of inhalational anesthetic agent required to prevent movement on surgical incision
in 50% patients (ED50), also known as minimal alveolar concentration. ED95 of inhaled anes-
thetic can be approximated from ED50 because of the steep relation of the inhaled anesthetics’
concentration-response. Nevertheless, it is relatively difficult to apply MEV50 and MEC50 of
local anesthetic clinically. Although logistic or probit regression has been introduced to extrap-
olate ED50 or MEV50 to higher quantiles, like ED95 or MEV95, criticization has aroused by stat-
istician. While high volumes of local anesthetic in CEB might cause a great increase in
intracranial pressure and a high block level in lumbosacral nerve [15]. Thus, BCD-UDM was
identified as a better way to investigate higher quantile EV or MEV, which had been used to
explore MEV90 of ropivacaine in our previous study and was used to explore MEC90 of ropiva-
caine in ultrasound-guided CEB in the present study. Gender differences have been shown in many studies referring to many types of anesthesia
and analgesia. Previous studies showed that topical anesthetic and opioid analgesics had
greater effect in males than that in females, while some researchers found opiates showed the
opposite [16, 17]. Furthermore, Asghar et al. reported higher volumes of sacral canal and cau-
dal space in males than in females [18]. Discussion By utilizing the BCD-UDM, we found that the MEC90 of ropivacaine with fixed volume 14ml
for male and 12ml for female in ultrasound-guided CEB was 0.35% for male and 0.353% for
female. This is the first study to assess MEC90 of ropivacaine for CEB in adults. CEB is widely suggested in anorectal surgeries providing safe and effective anesthesia while
cost saving and complication reduction [10, 11]. Despite these advantages of CEB, clinical
anesthesiologists prefer not to use CEB in anorectal surgeries to avoid technical failure 6 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Table 1. Characteristics of patients. Male(n = 50)
Female(n = 51)
Age(y)
38 [33.75 to 52]
38 [31.0 to 53.0]
Weight (Kg)
70 [62 to 75.25]
55[52.0 to 60.0]
Height(cm)
170.36±5.89
159.10±5.40
BMI
23.99±2.93
21.99±2.47
ASA
I
40
41
II
10
10
Ultrasound measurement(mm)
Skin to anterior edge of SL
13.02±2.87
13.98±4.23
Anterior edge of SL to sacrum
4.27±1.56
5.10±1.3
SL width
9.15[7.18,12.13]
6.9[6.2,8.1]
SL thickness
4.07±1.31
4.28±0.99
Types of surgery
Hemorrhoids
32
41
Perianal abscess
5
2
Anal fistula
12
8
Anal polyp
1
0
Values are mean ± SD, median [IQR] or number where appropriate. ASA indicates American Society of
Anesthesiologists. SL indicates sacrococcygeal ligament. https://doi org/10 1371/journal pone 0257283 t001 https://doi.org/10.1371/journal.pone.0257283.t001 resulting from anatomical variation especially the sacral hiatus and sacral cornual variation
[12], which have been reduced by ultrasound technique [4, 13]. This motivated researches on
precise dose of local anesthetics for CEB. Li.et al. found MEC50 of ropivacaine for caudal anes-
thesia was 0.296% in men and 0.389% in women with a fixed 20ml volume by utilizing Dixon’s
up-and-down sequential allocation [14]. However, Dixon’s method remains as the main way
to investigate MEV50 and MEC50 in most studies, which has been firstly used to study the con-
centration of inhalational anesthetic agent required to prevent movement on surgical incision
in 50% patients (ED50), also known as minimal alveolar concentration. ED95 of inhaled anes-
thetic can be approximated from ED50 because of the steep relation of the inhaled anesthetics’
concentration-response. Nevertheless, it is relatively difficult to apply MEV50 and MEC50 of
local anesthetic clinically. Although logistic or probit regression has been introduced to extrap-
olate ED50 or MEV50 to higher quantiles, like ED95 or MEV95, criticization has aroused by stat-
istician. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 Values are mean ± SD, median [IQR] or number where appropriate. ASA indicates American Society of
Anesthesiologists. SL indicates sacrococcygeal ligament. PLOS ONE PLOS ONE MEC90 of ropivacaine for caudal block Table 2. Observed and pooled-adjacent violators algorithm-adjusted response rates. Group
Assigned concentration
Successful blocks
Trails
Observed response rate
PAVA-adjusted response rate
Male
0.25
1
2
0.50
0.50
0.3
6
8
0.75
0.75
0.35
18
20
0.90
0.90
0.4
20
20
1
1
Female
0.25
5
7
0.71
0.71
0.3
11
13
0.85
0.85
0.35
17
19
0.89
0.89
0.4
12
12
1
1
PAVA indicates pooled-adjacent-violators algorithm. Table 2. Observed and pooled-adjacent violators algorithm-adjusted response rates. the volume/concentration of ropivacaine would affect the incidence of post anesthesia compli-
cations and onset time of anesthesia. It has been reported that there is gender differences (including weight and height differ-
ences) in the pharmacokinetics and pharmacodynamics of anesthetics [19–21]. Coincidence
with other studies, there are significant differences in height and weight between female group
and male group in this research (see Table 1 and Fig 1), which might be related to the gender
gap of ropivacaine volume and concentration in caudal block. To date, weight and height may
affect the anesthesia level of local anesthetics [22], and only few studies explored the correla-
tion between the height and dose of local anesthetics in epidural block [23, 24]. Correlation
analysis enrolling more patients is needed to figure out the specific relationship between height
or weight and local anesthetics in caudal block. Besides, it has been reported higher volumes of
sacral canal and caudal space in males than in females [18], which might affect the spread of
ropivacaine and the duration of epidural anesthesia [25]. In our study, a longer distance from
the anterior edge of SL to sacrum and a narrower SL width were presented in female group
compared to male group (Table 1) which might result in the difference of anesthetic dosage
maintaining a success caudal block in different gender. Despite plenty of studies reporting
anatomy data by measuring cadavers [26] and dry sacral bones [27] in adults, this is the first
study presenting ultrasound measurement of sacral canal in Chinese people. However, correla-
tion analysis with more data is needed to explore the relationship between anatomical differ-
ence of sacral canal and anesthetic effect. Ropivacaine, as a greater separation of sensory and motor effects and less cardiotoxic long
acting amide local anesthetic than bupivacaine, has been widely used for caudal blocks in chil-
dren and adults [28–30]. Values are mean ± SD, median [IQR] or number (proportion) where appropriate. Discussion This fact motivated researches to explore what is the
dose of ropivacaine works in caudal block in consideration of gender-specificity, and our pre-
vious study identified a relatively higher MEV90 for male than that for female of ropivacaine
0.5% in CEB consistently. Li et al. found lower MEC50 of ropivacaine for caudal anesthesia in
men than in women [14]. However, we revealed similar MEC90 in males and in females which PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 7 / 14 PLOS ONE MEC90 of ropivacaine for caudal block might be resulted from the different fixed volume we applied in the study. In other words, the
dosage (volume times concentration) for male is a little bit higher than that for female. Further
Fig 2. The biased coin design up-and-down sequence. Graph of successful (solid circle) and failed (hollow circle) caudal epidural
blocks with different ropivacaine concentrations in female (A) and male group (B). The horizontal line is the calculated minimum
effective concentration of ropivacaine providing successful caudal block in 90% of patients (MEC90). https://doi.org/10.1371/journal.pone.0257283.g002 Fig 2. The biased coin design up-and-down sequence. Graph of successful (solid circle) and failed (hollow circle) caudal epidural
blocks with different ropivacaine concentrations in female (A) and male group (B). The horizontal line is the calculated minimum
effective concentration of ropivacaine providing successful caudal block in 90% of patients (MEC90). https://doi.org/10.1371/journal.pone.0257283.g002 https://doi.org/10.1371/journal.pone.0257283.g002 might be resulted from the different fixed volume we applied in the study. In other words, the
dosage (volume times concentration) for male is a little bit higher than that for female. Further
studies are needed to explore either gender differences of MEC90 and MEV90 in other epidural
blocks and peripheral nerve blocks or the possible mechanisms, and whether the difference in PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 8 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 tps://doi.org/10.1371/journal.pone.0257283.t003 https://doi.org/10.1371/journal.pone.0257283.t003 PLOS ONE 0.1–0.5% ropivacaine was widely used to keep steady surgical Table 3. Caudal epidural block characteristics and block complications of successful caudal block. Table 3. Caudal epidural block characteristics and block complications of successful caudal block. Male(n = 45)
Female(n = 45)
Anesthesia Onset time(min)
9.33 [7 to 11]
8.95 [6.5 to 10]
Operation time(min)
35.4 [25 to 42.5]
37 [30 to 45]
Postoperative pain onset time(h)
7.33 [6 to 9]
7.14 [3 to 9]
Motor block
1(2.22%)
4(8.89%)
Bradycardia
0
1(2.22%)
Urinary retention
3(6.67%)
4(8.89%)
Back pain
1(2.22%)
0 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021
9 / 14 9 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Fig 3. Sensory dermatome level of patients subjected to successful caudal block. Sensory dermatome level of female (n = 45, A and C) and male
(n = 45, B and D) patients administrated with different volume of ropivacaine at the onset of caudal block (hollow circle in A and B) and at the end of
surgery (solid circle in C and D). L: lumbar segment; S: sacral segment. htt
//d i
/10 1371/j
l
0257283 003 Fig 3. Sensory dermatome level of patients subjected to successful caudal block. Sensory dermatome level of female (n = 45, A and C) and male
(n = 45, B and D) patients administrated with different volume of ropivacaine at the onset of caudal block (hollow circle in A and B) and at the end of
surgery (solid circle in C and D). L: lumbar segment; S: sacral segment. https://doi.org/10.1371/journal.pone.0257283.g003 https://doi.org/10.1371/journal.pone.0257283.g003 anesthesia in caudal block [14, 31–35], and MEC50 of ropivacaine for caudal anesthesia was
0.296% in men and 0.389% in women [14]. In the present study, we chose 0.25% ropivacaine
as an initial concentration to avoid deficient anesthesia and provide reliable MEC [36].There is
few motor block in the this ropivacaine dose finding study while presenting effective pain
block for over 5 hours (see Table 3). However, a significant difference has shown in postopera-
tive pain onset time (7.33[6 to 9] vs. 7.14[3 to 9]) and which might related to the difference of
dural surface area and anesthetic dose in gender [25, 37]. Further studies are needed to clarify
this. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 Conclusions In conclusion, we found that ultrasound-guided CEB using ropivacaine 0.35% with a volume
of 14ml and 0.353% with a volume of 12 ml can provide successful caudal block in 90% of mid-
dle-aged males and females respectively with normal body habitus. PLOS ONE It has been shown that urinary retention was the main complaint in patients undergoing
CEB with no specific data reported, and 8% of male and 9.8% of female patients suffered from
this in our study. We also revealed one case of bradycardia during operation. No other compli-
cation was reported indicating that CEB is a relatively safe and effective anesthesia choice for
anorectal surgery in adults. On the basis of the results of the pooled-adjacent violators algo-
rithm-adjusted analysis in Table 2, it could be concluded that ropivacaine 0.4% 14ml for male
patients and 12ml for female patients were both competent and safe in caudal block, which is PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 10 / 14 PLOS ONE MEC90 of ropivacaine for caudal block obviously lower than the dosage applied in previous studies [14, 38]. It has been shown a dose-
dependent pattern in complication when epidural administrating of ropivacaine [1], and our
study could prospectively lower the dosage of ropivacaine in caudal block therefore might
reduce complications related to anesthesia. The limitation of our study is that all blocks were performed by one experienced anesthesi-
ologist which might restrict the applicability of our results. Secondly, the definition of a suc-
cessful caudal block lacks objective and quantitative indices. For example, anal sphincter tone
detector would be an objective way to evaluate the degree of anal sphincter relaxation. Thirdly,
ultrasound measurement is not accurate enough to explore correlation between anatomical
difference of sacral canal and anesthetic effect, and Magnetic Resonance Imaging (MRI) has
been suggested to be a better way [39]. Further studies are needed to solve these problems. Besides, all blocks in this study were performed in patients with BMI from 18 to 27 Kg/m2,
which might limit the application in patients with high BMI. S2 Checklist. CONSORT checklist.
(DOC) S1 Fig. Ultrasound image of sacral canal. (A) Transversal ultrasound image of sacral canal. (B) Longitudinal ultrasound image of sacral canal. Measurement of the distance from anterior
edge of sacrococcygeal ligament (SL) to sacrum (line c), skin to anterior edge of sacral ligament
distance (line a), sacrococcygeal ligament width (b) and thickness (line d) were done. (C) Lon-
gitudinal ultrasound image of the needle in sacral canal. (D) Unidirectional flow on color
doppler showing the injection of ropivacaine into sacral canal. (TIF) S1 Fig. Ultrasound image of sacral canal. (A) Transversal ultrasound image of sacral canal. (B) Longitudinal ultrasound image of sacral canal. Measurement of the distance from anterior
edge of sacrococcygeal ligament (SL) to sacrum (line c), skin to anterior edge of sacral ligament
distance (line a), sacrococcygeal ligament width (b) and thickness (line d) were done. (C) Lon-
gitudinal ultrasound image of the needle in sacral canal. (D) Unidirectional flow on color
doppler showing the injection of ropivacaine into sacral canal. (TIF) Supporting information Supporting information
S1 Checklist. TREND statement checklist. (PDF)
S2 Checklist. CONSORT checklist. (DOC)
S1 Fig. Ultrasound image of sacral canal. (A) Transversal ultrasound image of sacral canal. (B) Longitudinal ultrasound image of sacral canal. Measurement of the distance from anterior
edge of sacrococcygeal ligament (SL) to sacrum (line c), skin to anterior edge of sacral ligament
distance (line a), sacrococcygeal ligament width (b) and thickness (line d) were done. (C) Lon-
gitudinal ultrasound image of the needle in sacral canal. (D) Unidirectional flow on color
doppler showing the injection of ropivacaine into sacral canal. (TIF)
S1 Data. (XLSX)
S1 File. MEC research plan. (DOC) S1 Checklist. TREND statement checklist. S1 Checklist. TREND statement checklist. (PDF) References 1. Simpson D, Curran MP, Oldfield V, Keating GM. Ropivacaine: a review of its use in regional anaesthe-
sia and acute pain management. Drugs. 2005; 65(18):2675–717. https://doi.org/10.2165/00003495-
200565180-00013 PMID: 16392884 2. Xuehan Li PZ, Rurong Wang. The minimum effective volume (MEV90) of ropivacaine for ultrasound-
guided caudal block in anorectal surgery. European journal of anaesthesiology. 2020; 37(e-Supplement
58):7–. 3. Chen CP, Wong AM, Hsu CC, Tsai WC, Chang CN, Lin SC, et al. Ultrasound as a screening tool for pro-
ceeding with caudal epidural injections. Arch Phys Med Rehabil. 2010; 91(3):358–63. https://doi.org/10. 1016/j.apmr.2009.11.019 PMID: 20298824 4. Kao SC, Lin CS. Caudal Epidural Block: An Updated Review of Anatomy and Techniques. BioMed
research international. 2017; 2017:9217145. https://doi.org/10.1155/2017/9217145 PMID: 28337460 5. Aggarwal A, Aggarwal A, Harjeet, Sahni D. Morphometry of sacral hiatus and its clinical relevance in
caudal epidural block. Surg Radiol Anat. 2009; 31(10):793–800. https://doi.org/10.1007/s00276-009-
0529-4 PMID: 19578805 6. Siddiqui ZI, Denman WT, Schumann R, Hackford A, Cepeda MS, Carr DB. Local anesthetic infiltration
versus caudal epidural block for anorectal surgery: a randomized controlled trial. Journal of clinical
anesthesia. 2007; 19(4):269–73. https://doi.org/10.1016/j.jclinane.2006.12.004 PMID: 17572321 7. Stylianou M, Flournoy N. Dose finding using the biased coin up-and-down design and isotonic regres-
sion. Biometrics. 2002; 58(1):171–7. https://doi.org/10.1111/j.0006-341x.2002.00171.x PMID:
11890313 8. Stylianou M, Proschan M, Flournoy N. Estimating the probability of toxicity at the target dose following
an up-and-down design. Statistics in medicine. 2003; 22(4):535–43. https://doi.org/10.1002/sim.1351
PMID: 12590412 9. Ivanova A, Montazer-Haghighi A, Mohanty SG, Durham SD. Improved up-and-down designs for phase
I trials. Statistics in medicine. 2003; 22(1):69–82. https://doi.org/10.1002/sim.1336 PMID: 12486752 10. Gudaityte J, Marchertiene I, Pavalkis D. Anesthesia for ambulatory anorectal surgery. Medicina (Kau-
nas). 2004; 40(2):101–11. PMID: 15007268 11. Parrish AB, O’Neill SM, Crain SR, Russell TA, Sonthalia DK, Nguyen VT, et al. An Enhanced Recovery
After Surgery (ERAS) Protocol for Ambulatory Anorectal Surgery Reduced Postoperative Pain and
Unplanned Returns to Care After Discharge. World J Surg. 2018; 42(7):1929–38. https://doi.org/10. 1007/s00268-017-4414-8 PMID: 29318355 12. Sekiguchi M, Yabuki S, Satoh K, Kikuchi S. An anatomic study of the sacral hiatus: a basis for success-
ful caudal epidural block. Clin J Pain. 2004; 20(1):51–4. https://doi.org/10.1097/00002508-200401000-
00010 PMID: 14668657 13. Abukawa Y, Hiroki K, Morioka N, Iwakiri H, Fukada T, Higuchi H, et al. Ultrasound versus anatomical
landmarks for caudal epidural anesthesia in pediatric patients. BMC Anesthesiol. 2015; 15:102. https://
doi.org/10.1186/s12871-015-0082-0 PMID: 26169595 14. Li Y, Zhou Y, Chen H, Feng Z. Writing – review & editing: Mingan Yang, Rurong Wang. Writing – review & editing: Mingan Yang, Rurong Wang. Author Contributions Conceptualization: Xuehan Li, Hongbo He. Data curation: Xuehan Li. Formal analysis: Mingan Yang. Funding acquisition: Hongbo He. Investigation: Jun Li, Pei Zhang, Huifei Deng. Methodology: Xuehan Li. Conceptualization: Xuehan Li, Hongbo He. Data curation: Xuehan Li. Formal analysis: Mingan Yang. Funding acquisition: Hongbo He. Investigation: Jun Li, Pei Zhang, Huifei Deng. Methodology: Xuehan Li. 11 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block Project administration: Hongbo He. Project administration: Hongbo He. Software: Mingan Yang. Supervision: Rurong Wang. Visualization: Jun Li, Pei Zhang. Writing – original draft: Xuehan Li. Writing – review & editing: Mingan Ya Software: Mingan Yang. Supervision: Rurong Wang. Visualization: Jun Li, Pei Zhang. Writing – original draft: Xuehan Li. Writing – review & editing: Mingan Yang, Rurong Wang. References The effect of sex on the minimum local analgesic concentration of ropiva-
caine for caudal anesthesia in anorectal surgery. Anesthesia and analgesia. 2010; 110(5):1490–3. https://doi.org/10.1213/ANE.0b013e3181d6bade PMID: 20304981 15. Lee B, Koo BN, Choi YS, Kil HK, Kim MS, Lee JH. Effect of caudal block using different volumes of local
anaesthetic on optic nerve sheath diameter in children: a prospective, randomized trial. British journal of
anaesthesia. 2017; 118(5):781–7. https://doi.org/10.1093/bja/aex078 PMID: 28486629 16. Robinson ME, Riley JL 3rd, Brown FF, Gremillion H. Sex differences in response to cutaneous anesthe-
sia: a double blind randomized study. Pain. 1998; 77(2):143–9. https://doi.org/10.1016/S0304-3959(98)
00088-8 PMID: 9766832 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 12 / 14 PLOS ONE MEC90 of ropivacaine for caudal block 17. Chia YY, Chow LH, Hung CC, Liu K, Ger LP, Wang PN. Gender and pain upon movement are associ-
ated with the requirements for postoperative patient-controlled iv analgesia: a prospective survey of
2,298 Chinese patients. Canadian journal of anaesthesia = Journal canadien d’anesthesie. 2002; 49
(3):249–55. https://doi.org/10.1007/BF03020523 PMID: 11861342 18. Asghar A, Naaz S. The volume of the caudal space and sacral canal in human sacrum. Journal of clini-
cal and diagnostic research: JCDR. 2013; 7(12):2659–60. https://doi.org/10.7860/JCDR/2013/6287. 3724 PMID: 24551603 19. Ciccone GK, Holdcroft A. Drugs and sex differences: a review of drugs relating to anaesthesia. British
journal of anaesthesia. 1999; 82(2):255–65. https://doi.org/10.1093/bja/82.2.255 PMID: 10365004 20. Campesi I, Fois M, Franconi F. Sex and gender aspects in anesthetics and pain medication. Handbook
of experimental pharmacology. 2012(214):265–78. https://doi.org/10.1007/978-3-642-30726-3_13
PMID: 23027455 21. Maurer AJ, Lissounov A, Knezevic I, Candido KD, Knezevic NN. Pain and sex hormones: a review of
current understanding. Pain management. 2016; 6(3):285–96. https://doi.org/10.2217/pmt-2015-0002
PMID: 26983893 22. Park WY, Massengale M, Macnamara TE. Age, height, and speed of injection as factors determining
caudal anesthetic level, and occurrence of severe hypertension. Anesthesiology. 1979; 51(1):81–4. https://doi.org/10.1097/00000542-197907000-00019 PMID: 453598 23. Huang B, Huang Q, Hai C, Zheng Z, Li Y, Zhang Z. Height-based dosing algorithm of bupivacaine in spi-
nal anaesthesia for decreasing maternal hypotension in caesarean section without prophylactic fluid
preloading and vasopressors: study protocol for a randomised controlled non-inferiority trial. BMJ
Open. 2019; 9(5):e024912. https://doi.org/10.1136/bmjopen-2018-024912 PMID: 31101694 24. Nofal WH, Abdelaal WA, Elfawal SM. Minimum effective volume of bupivacaine in spinal anesthesia for
elective cesarean section. Does it differ with height? A non-randomized parallel study. Egyptian Journal
of Anaesthesia. 2017; 33(1):67–72. 25. Higuchi H, Adachi Y, Kazama T. PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 References Factors affecting the spread and duration of epidural anesthesia with
ropivacaine. Anesthesiology. 2004; 101(2):451–60. https://doi.org/10.1097/00000542-200408000-
00027 PMID: 15277929 26. Senoglu N, Senoglu M, Oksuz H, Gumusalan Y, Yuksel KZ, Zencirci B, et al. Landmarks of the sacral
hiatus for caudal epidural block: an anatomical study. British journal of anaesthesia. 2005; 95(5):692–5. https://doi.org/10.1093/bja/aei236 PMID: 16155035 27. Crighton IM, Barry BP, Hobbs GJ. A study of the anatomy of the caudal space using magnetic reso-
nance imaging. British journal of anaesthesia. 1997; 78(4):391–5. https://doi.org/10.1093/bja/78.4.391
PMID: 9135359 28. Ye F, Feng YX, Lin JJ. A ropivacaine-lidocaine combination for caudal blockade in haemorrhoidectomy. The Journal of international medical research. 2007; 35(3):307–13. https://doi.org/10.1177/
147323000703500304 PMID: 17593858 29. Wiegele M, Marhofer P, Lonnqvist PA. Caudal epidural blocks in paediatric patients: a review and practi-
cal considerations. British journal of anaesthesia. 2019; 122(4):509–17. https://doi.org/10.1016/j.bja. 2018.11.030 PMID: 30857607 30. Sanghvi C, Dua A. Caudal Anesthesia. StatPearls. Treasure Island (FL): StatPearls Publishing Stat-
Pearls Publishing LLC.; 2020. 31. Da Conceicao MJ, Coelho L. Caudal anaesthesia with 0.375% ropivacaine or 0.375% bupivacaine in
paediatric patients. British journal of anaesthesia. 1998; 80(4):507–8. https://doi.org/10.1093/bja/80.4. 507 PMID: 9640159 32. Khalil S, Campos C, Farag AM, Vije H, Ritchey M, Chuang A. Caudal block in children: ropivacaine com-
pared with bupivacaine. Anesthesiology. 1999; 91(5):1279–84. https://doi.org/10.1097/00000542-
199911000-00018 PMID: 10551577 33. Ala-Kokko TI, Partanen A, Karinen J, Kiviluoma K, Alahuhta S. Pharmacokinetics of 0.2% ropivacaine
and 0.2% bupivacaine following caudal blocks in children. Acta anaesthesiologica Scandinavica. 2000;
44(9):1099–102. https://doi.org/10.1034/j.1399-6576.2000.440911.x PMID: 11028730 34. Deng XM, Xiao WJ, Tang GZ, Luo MP, Xu KL. Minimum local analgesic concentration of ropivacaine for
intra-operative caudal analgesia in pre-school and school age children. Anaesthesia. 2010; 65
(10):991–5. https://doi.org/10.1111/j.1365-2044.2010.06454.x PMID: 20659102 35. Ingelmo P, Frawley G, Astuto M, Duffy C, Donath S, Disma N, et al. Relative analgesic potencies of
levobupivacaine and ropivacaine for caudal anesthesia in children. Anesthesia and analgesia. 2009;
108(3):805–13. https://doi.org/10.1213/ane.0b013e3181935aa5 PMID: 19224787 13 / 14 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 PLOS ONE MEC90 of ropivacaine for caudal block 36. Li Y, Zhu S, Bao F, Xu J, Yan X, Jin X. The effects of age on the median effective concentration of ropi-
vacaine for motor blockade after epidural anesthesia with ropivacaine. Anesthesia and analgesia. 2006;
102(6):1847–50. https://doi.org/10.1213/01.ane.0000215999.60513.da PMID: 16717335 37. Fam MD, Potash A, Potash M, Robinson R, Karnell L, O’Brien E, et al. 36.
Li Y, Zhu S, Bao F, Xu J, Yan X, Jin X. The effects of age on the median effective concentration of ropi-
vacaine for motor blockade after epidural anesthesia with ropivacaine. Anesthesia and analgesia. 2006;
102(6):1847–50. https://doi.org/10.1213/01.ane.0000215999.60513.da PMID: 16717335 PLOS ONE | https://doi.org/10.1371/journal.pone.0257283
September 17, 2021 References Skull Base Dural Thickness and
Relationship to Demographic Features: A Postmortem Study and Literature Review. J Neurol Surg B
Skull Base. 2018; 79(6):614–20. https://doi.org/10.1055/s-0038-1651501 PMID: 30456033 38. Casati A, Borghi B, Fanelli G, Cerchierini E, Santorsola R, Sassoli V, et al. A double-blinded, random-
ized comparison of either 0.5% levobupivacaine or 0.5% ropivacaine for sciatic nerve block. Anesthesia
and analgesia. 2002; 94(4):987–90, table of contents. https://doi.org/10.1097/00000539-200204000-
00039 PMID: 11916809 39. Forestier J, Castillo P, Finnbogason T, Lundblad M, Eksborg S, Lo¨nnqvist PA. Volumes of the spinal
canal and caudal space in children zero to three years of age assessed by magnetic resonance imag-
ing: implications for volume dosage of caudal blockade. British journal of anaesthesia. 2017; 119
(5):972–8. https://doi.org/10.1093/bja/aex280 PMID: 29028948 14 / 14
|
https://openalex.org/W2943692970
|
https://europepmc.org/articles/pmc6606988?pdf=render
|
English
| null |
Building Capacity for Cyberbiosecurity Training
|
Frontiers in bioengineering and biotechnology
| 2,019
|
cc-by
| 3,859
|
PERSPECTIVE
published: 26 June 2019
doi: 10.3389/fbioe.2019.00112 PERSPECTIVE
published: 26 June 2019
doi: 10.3389/fbioe.2019.00112 Building Capacity for
Cyberbiosecurity Training
Lauren C. Richardson*, Stephen M. Lewis and Ryan N. Burnette
Merrick and Company, Arlington, TX, United States Cyberbiosecurity lies at the intersection of cybersecurity and biosecurity and addresses
the protection of valuable biological material and associated information. As an emerging
concept, cyberbiosecurity requires the integration of training strategies targeted to
both current and future professionals; as well as an increased awareness in the wider
stakeholder community. As the discrete discipline of cyberbiosecurity continues to
develop, initial training efforts are likely to include workshops and specialized training
that bridge the disciplines of information technology (IT) and life sciences. Potential
threats, risks, and vulnerabilities will be defined, cooperative relationships formed,
and collaborative solutions developed. As the scope of the training framework for
assessing potential threats is adapted to various audiences, in-service trainings will
ensure awareness and understanding of threats relevant to specific industries. This
framework may also be incorporated into existing curricula across IT and science fields. The scope of potential threats is vast, and eventual specialization will likely fall within the
realm of IT professionals, who carry the capability for action. In this paper, we identify
stakeholders in the development of cyberbiosecurity training; discuss current training
methods, educational requirements, and credentialing for professionals in cybersecurity,
biosecurity, and life sciences; suggest mechanisms for integration of cyberbiosecurity
training into existing training approaches; and discuss potential for future development
of specialized professionals. Edited by:
Diane DiEuliis,
National Defense University,
United States Reviewed by:
Bruno Jorge Antunes Colaço,
University of Trás-os-Montes and Alto
Douro, Portugal
Johannes Rath,
University of Vienna, Austria Reviewed by:
Bruno Jorge Antunes Colaço,
University of Trás-os-Montes and Alto
Douro, Portugal
Johannes Rath,
University of Vienna, Austria *Correspondence:
Lauren C. Richardson
lauren.richardson@merrick.com *Correspondence:
Lauren C. Richardson
lauren.richardson@merrick.com Specialty section:
This article was submitted to
Biosafety and Biosecurity,
a section of the journal
Frontiers in Bioengineering and
Biotechnology
Received: 11 January 2019
Accepted: 02 May 2019
Published: 26 June 2019
Citation:
Richardson LC, Lewis SM and
Burnette RN (2019) Building Capacity
for Cyberbiosecurity Training. Front. Bioeng. Biotechnol. 7:112. doi: 10.3389/fbioe.2019.00112 Specialty section:
This article was submitted to
Biosafety and Biosecurity,
a section of the journal
Frontiers in Bioengineering and
Biotechnology Keywords: cyberbiosecurity, biosecurity, cybersecurity, training, risk, threat, biosafety, capacity building
(including competencies) Keywords: cyberbiosecurity, biosecurity, cybersecurity, training, risk, threat, biosafety, capacity building
(including competencies) INTRODUCTION Received: 11 January 2019
Accepted: 02 May 2019
Published: 26 June 2019 Received: 11 January 2019
Accepted: 02 May 2019
Published: 26 June 2019
Citation:
Richardson LC, Lewis SM and
Burnette RN (2019) Building Capacity
for Cyberbiosecurity Training. Front. Bioeng. Biotechnol. 7:112. doi: 10.3389/fbioe.2019.00112 Cyberbiosecurity is a new, multidisciplinary concept with potentially significant impacts on the
bioeconomy. Cyberbiosecurity addresses the potential for actual malicious destruction, misuse, or
exploitation of valuable information, processes, and material at the interface of the life sciences and
digital worlds, requiring an understanding of both (Richardson et al., 2019). Though the scope and
definition of potential components continues to be refined and expanded, a common language and
framework for the training and growth of a cadre of professionals is needed. Here, we propose a
potential pathway for the development of cyberbiosecurity training. IDENTIFYING CYBERBIOSECURITY
STAKEHOLDERS industry training programs. Further, many experts in the field
of information technology obtain their primary education and
experience through informal, hands-on training in one of a
few domains, such as networking, cybersecurity, development,
or systems engineering. With respect to cybersecurity training,
many professionals also get their experience on the job; that being
said, the International Information System Security Certification
Consortium (ISC²) offers both training and a credentialing
system aimed at standardizing topics of expertise, including
security and risk management, asset security, security operations,
security assessment and testing. These subjects are deeply
congruent with the training and on-the-job experience offered
within the fields of biorisk management and security. This intersection of cybersecurity and biosecurity has the
potential to affect organizations in multiple different fields, from
agriculture and manufacturing to healthcare. Though many
stakeholders possess a potential interest in the outcomes of
cyberbiosecurity, a relatively small subset of individuals are well-
suited to its execution. Due to the multidisciplinary nature of this
field, those who conduct assessment, protection, and mitigation
of cyberbiosecurity vulnerabilities should be well-versed in both
the life sciences and information technology. Today, biosecurity typically falls under the purview of
institutional security and biosafety professionals, working
together with external biosecurity assessors. It is generally
understood that biosecurity requires an understanding of
applicable assets (i.e., valuable biological materials and associated
data) as well as an understanding of the threat landscape
(e.g., negligent scientists without malicious intent, actors with
targeted intent of theft or destruction for specific gain, and
anarchic disruptors intent on disturbance of the system or
organization). Cybersecurity is maintained at an institutional
level by information technology professionals with myriad
foundational knowledge bases in network security, systems
engineering, on-site training in specific protection of systems
within an organization. In the life sciences, biosecurity training has historically
been comprised of a varied and blended approach of teaching
methodologies, including traditional classroom-based, non-
traditional classroom-based (e.g., active learning, hands-on
workshops), web-based/ online/ on-demand modules, train-
the-trainer, on-the-job training, and others. Deciding which
training methods to employ rests largely on considerations of (1)
expected mastery of content and (2) proficiency of employing the
information beyond the training. Further, the type of training
content plays a significant role in dictating appropriate training
approaches, frequency, and duration. As science-based disciplines with a backbone in the biological
sciences, biosafety and biosecurity benefit from serving a niche
community of professionals and students. IDENTIFYING CYBERBIOSECURITY
STAKEHOLDERS Like cybersecurity,
the foundation of both resides in the broader discipline of
risk management; biosafety is in fact a scientific-oriented field
of risk assessment, mitigation, and management. Biosecurity,
meanwhile, finds its roots in the field of threat assessment and
management. Combined, the two disciplines converge at overall
biorisk management (Burnette, 2013; Salerno and Gaudioso,
2015). Training in these areas has been largely developed by
trade practitioners and official and unofficial repositories of
training content; programs are maintained by professional
and international organizations (e.g., ABSA International,
International
Federation
of
Biosafety
Organizations). Effective organization of biosecurity training—as well as
the training approaches themselves—remains in development
(Minehata et al., 2013; Nixdorff, 2013). Developing professionals in this nascent field requires training
that draws—at least initially—from disparate disciplines within
the life sciences and information technology. An individual
with a thorough understanding of information technology and
cybersecurity, plus a background in biological sciences, can
be taught the basic tenets of risk, threat, and vulnerability
assessment to achieve a comprehensive cyberbiosecurity base
of knowledge. STATUS OF CURRICULA IN THE
CYBERSECURITY AND BIORISK
MANAGEMENT FIELDS Training in the field of information technology is varied but well-
established. While it is certainly possible to become an expert
in one of the myriad IT fields via traditional education (i.e.,
university or vocational training programs), it is not required:
many pathways and opportunities exist toward becoming a
trained expert in one of the disciplines within the broader field
of IT. Depending on the IT discipline in which one wishes to
specialize, there are a number of training programs designed to
teach individuals with little to no experience. In a traditional
academic environment, individuals may choose to major in a
computer engineering program, specializing in one of a range of
disciplines, from network engineering to software development. Unlike the life sciences, however, IT expertise can also be gained
through a less formal path: an individual may choose to attend a
training program hosted by a non-academic organization (e.g.,
Computing Technology Industry Association). Individuals are
also able to specialize in cybersecurity through academic and Citation: Citation:
Richardson LC, Lewis SM and
Burnette RN (2019) Building Capacity
for Cyberbiosecurity Training. Front. Bioeng. Biotechnol. 7:112. doi: 10.3389/fbioe.2019.00112 June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org Building Capacity for Cyberbiosecurity Training Richardson et al. Frontiers in Bioengineering and Biotechnology | www.frontiersin.org CONVERGENCE OF DISPARATE
PROFESSIONAL FIELDS AND CURRICULA A cyberbiosecurity professional is a practitioner with requisite
foundational understanding of biological science principles
and practice, fluency in IT lexicon and management, and
concept mastery of risk and threat assessment. While this is
an appropriate foundation for the cyberbiosecurity professional,
additional understanding of a relevant field of practice (e.g.,
healthcare, pharmaceuticals manufacture) will be required for
comprehensive understanding of field-specific vulnerabilities, as
well as the ability to develop and promote mitigation strategies to
address risks and threats to applicable assets. An ideal candidate
may be an individual with a university degree in biology, or they June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 2 Building Capacity for Cyberbiosecurity Training Richardson et al. that provide foundations toward these credentials. Recently,
ABSA International has undertaken an exploratory stance
on the development of a biosecurity credentialing program
somewhat analogous to the RBP and CBSP. However, with the
exception of the IFBA certificate in biosecurity, no standardized
biosecurity curricula or credential has been developed and
implemented. This is in part due to the fact that biosafety has
been a recognized scientific discipline for several decades, during
which time biosecurity, as a discrete field of practice, remains
inadequately defined. may possess a combination of technical and professional training
in IT, post-graduate training in biorisk management, and on-
the-job training in cybersecurity. These unique and historically
disconnected disciplines are rapidly converging in many sectors. Despite the recent emergence of cyberbiosecurity as a discrete
discipline, many professionals possess overlapping skill sets. Integration Into Existing Training Integration Into Existing Training
It stands to reason that the general field of information
technology and cybersecurity is substantially larger that the field
of biorisk management. This is especially true with regard to
the number of extant professionals, curricula, and credentialing
programs; as well as their overall applicability and integration
into innumerable industries. In short, IT touches almost every
aspect of daily existence. The same is not necessarily true for
biorisk management, which remains a highly-specialized field
of practice in discrete environments. From this, it can be
inferred that incorporating elements of cybersecurity training
into life sciences and biorisk management training would
be a logical first step toward integrating seemingly disparate
curricula. This argument is bolstered in the U.S. by the fact
that the U.S. Federal Select Agent Program has stringent
requirements surrounding appropriate access of information
regarding biological select agents and toxins. This requires
institutions with biological select agents and toxins to conform END-STATE OF SUCCESSFUL
CONVERGENCE The professional development of specialists in this field will likely
be similar to that of similar risk- and threat-based professions in
the sciences, such as biosafety or industrial hygiene. Professionals
in these fields typically receive training that includes university
education in a basic science, post-secondary training in the
field, and on-the-job training specific to their organization and
position. Though large organizations may be well-served to
employ specialized cyberbiosecurity professionals, it is likely
most entities will have neither the resources nor the need for
full-time employment, and the pool of available personnel will
remain small. Need for Awareness and Definition Need for Awareness and Definition
Today, there is limited awareness of concepts associated with
cyberbiosecurity and their potential impacts on the bioeconomy. Significant change is required to move to an end state in
which comprehensive management of cyberbiosecurity threats
is integrated into existing organizations and systems. In the
initial stages, this includes raising awareness regarding risks,
threats, and vulnerabilities associated with cyberbiosecurity
across many disparate sectors. Professionals within the risk and
threat assessment communities are valuable allies and assets in
identifying concepts, strategizing for integration, and sculpting
the practice of cyberbiosecurity. Like similar fields, the specialist is not the only player
with significant impact: biosafety, biosecurity, and cybersecurity
professionals not specialized in cyberbiosecurity will potentially
play a much larger role than the specialist, as they will be
working on the front lines to recognize and address issues
that threaten the science, data, and automation interface with
the workforce and the public. Much like the executor of
mitigations and corrective actions following a biosecurity audit,
these professionals will likely bear the responsibility for following
through on necessary measures to ensure sufficient cybersecurity
within an organization or facility. Important first steps have been taken in assessment of
the potential impacts on the bioeconomy (Murch et al.,
2018; Peccoud et al., 2018), definition of the threat landscape
(Richardson et al., 2019), and assembly of professionals to begin
to describe the field (Murch, 2017). Additional efforts are still
needed: some will be described throughout this series, but
more discourse is required to define the needs, impacts, and
limitations of the field. Though cyberbiosecurity is not a fully-
established field, integration of many of the concepts described
can be easily integrated into existing training at the universities,
technical trainings, and professional continuing education across
related fields. To
achieve
this
end-state,
scientific,
IT,
and
security
professionals must understand the requirements for and
consequences of compliance with protocols and systems
directed to address cyberbiosecurity. Just as scientists receive
training in and comply with practices and policies to ensure
biosafety, biosecurity, and cybersecurity as appropriate to their
positions, they should also receive some degree of training
in cyberbiosecurity. 1(2005). Possession, Use, and Transfer of Select Agents and Toxins, in 7 § 331.
United States Code of Federal Regulations.
2(2005). Possession, Use, and Transfer of Select Agents and Toxins, in 9 § 121.,
United States Code of Federal Regulations.
3(2005). Select Agents and Toxins, in 42 § 73., United States Code of Federal
Regulations. CREDENTIALING Credentialing frameworks may need to be designed and
implemented in order to identify and educate interested
practitioners
working
within
the
emerging
field
of
cyberbiosecurity. There is currently a high barrier to learning
concepts in each of the cybersecurity and biosecurity disciplines
as independent entities; interested parties willing to take the
steps toward an applied career in cyberbiosecurity will need
to understand the unique challenges that exist within both
disciplines. The implementation of credentialing systems may
be beneficial toward standardization of the knowledge base
required to be an expert in the field. There are also sub-fields
of each discipline ostensibly more relevant to the emergence of
cyberbiosecurity (e.g., bioinformatics, network security, sequence
origin identification, cloud laboratories, machine learning). These sub-fields could be used to develop a credentialing
framework (distinct from existing frameworks today) via
employing each component as separate training module. Alternatively, it may be prudent for leaders in this emerging
field to partner with existing and well-established organizations
in cybersecurity credentialing (e.g., International Information
System Security Certification Consortium) to develop and
implement a cyberbiosecurity training program. At the time
of this writing, there is no credentialing system established for
biosecurity: it remains in development by organizations like
the American Biological Safety Association. Discrete training
courses and workshops could also be implemented as a starting
point to introduce the need for a credential, as well as to receive
support from cybersecurity and biosecurity experts. CURRICULUM DEVELOPMENT A significant challenge in the burgeoning field of cyberbiosecurity
is the development of a curriculum relevant from both
discipline and market perspectives. It is reasonable to assume
that curricula will be driven by both technical needs (e.g.,
discrete and relevant content representative of the needs of
practitioners) and by the market pool of would-be professionals
and students supporting the industry. Given the breadth of
existing curriculum in the fields of biosafety, biosecurity,
and cybersecurity, it stands to reason that a comprehensive
requirements identification process can be conducted to cross-
reference the three disparate disciplines at technical and content
levels. Further, this requirements development process is likely
to reveal substantial information about the market itself. It
is anticipated that many independent requirements already
in existence (such as biosafety and cybersecurity curricula),
will reveal common, logically-linked themes. However, new
requirements not currently captured in any singular discipline
are likely to be identified; new content will have to be developed
to constitute a body of knowledge representative of the field as it
is developing today, with a focus on future development. Like many developing fields, the establishment of instructors,
trainers, and teaching professionals capable of maintaining a
curriculum focused on industry needs is likely to be one of
the more challenging aspects of training in the cyberbiosecurity
field; the general lack of professionals who are equally expert in
the biological sciences and cybersecurity practices speaks to this
challenge. This is also demonstrated by the fact that biosecurity
has yet to be adequately codified in the fields it touches (such
as laboratories, agriculture, and personalized medicine, among
others). The result is a general lack of professionals who
can justify their status as a “biosecurity professional.” Often,
credentials help their respective fields maintain their relevance. STANDARDIZATION OF PROFESSIONAL
TRAINING Standardization of professional training—often resulting in
credentialing—is well-established in the fields of biosafety and
cybersecurity. ABSA International (formerly the American
Biological
Safety
Association)—in
conjunction
with
the
American Society for Microbiology— has developed and
maintained
dual
credentialing
programs
for
biosafety
professionals: the Registered Biosafety Professional (RBP)
and the Certified Biological Safety Professional (CBSP) programs
are experience and exam-based, respectively. Similarly, the
International Federation of Biosafety Associations (IFBA) offers
credentials in both biosafety and biosecurity. Both of these
organizations offer a variety of training programs and curricula June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 3 Building Capacity for Cyberbiosecurity Training Richardson et al. with a certain threshold of cybersecurity 1,2,3. An achievable goal
in support of awareness and definition—as well as in support
of building a developing repository of curricula—is to provide
existing, relevant cybersecurity training to professionals in the
biorisk management field. For example, we see Registered Biological Safety Professional
(RBP) and/or Certified Biological Safety Professional (CBSP)
listed as a requirement within job descriptions for biosafety
personnel. Accordingly, it is often an expectation that qualified
teaching staffhave the same credentials. While analogous
professional biosecurity credentials will be considered, it is
premature to assume this credential will offer any specialization
toward cybersecurity. Cybersecurity training is widely available via academic and
industry-led curricula. There are also myriad massive online
open courses (MOOC) available through credible services, some
with linkages to universities. Additionally, many universities
are offering formal education, including master’s programs via
remote, online programs; for which accessibility and affordability
are key components. As the demand for cybersecurity experts at
the intersection of IT and life sciences continues to grow, it is
not difficult to imagine that cyberbiosecurity courses will become
popular offerings at online and traditional universities. THE PATH FORWARD A new discipline is not built in a matter of months: it
grows organically from existing, related fields, and is supported
by advocates and experts who recognize its significance
and distinction. Additional workshops, papers, and open
fora will encourage collaboration for further definition of
relevant concepts. Introduction of these concepts should be
presented at various professional symposia and conferences in
order to raise awareness, introduce ideas for integration, and
bring together interested individuals. From these interested
parties, a working group may consolidate in order to develop
educational materials that can be integrated into professional and
academic organizations. A working group with experts from multiple fields will define
gaps and areas for integration across sectors and personnel June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 4 Building Capacity for Cyberbiosecurity Training Richardson et al. within organizations—potentially leading to the development
of a formalized cyberbiosecurity curriculum. A well-defined
curriculum may be easily integrated into an academic or technical
training system, as appropriate. At this stage, a credentialing
mechanism is likely to emerge; however, it is challenging to
predict whether this curriculum and credentialing system will
fall within the scope of the life sciences or IT. Foundational
elements of a cyberbiosecurity credentialing framework are
currently in development by thought leaders spanning both
IT and life sciences disciplines. The biosecurity credential,
currently under evaluation by ABSA International, accounts
for cybersecurity elements as a basis for and component
of an industry credentialing program. Specifications for a
credentialing framework will be further developed and include
core competencies, such as physical security, regulations and
compliance, biorisk management, secure network architecture,
identity management, disaster recovery, and security operations
in life sciences facilities. as well as affected stakeholders, is required. Professionals
in
cyberbiosecurity
will
require
not
only
expertise
and
training
in
science
and
technology
concepts,
but
also
the ability to effectively execute a new form of technical
communication across disciplines and organizations to achieve
comprehensive solutions. FUNDING Merrick and Company provided indirect funding support for
this paper by way of employment of the authors. No additional
funding was provided for this paper by Merrick and Company or
any other entity. Concepts
addressed
in
cyberbiosecurity
span
myriad
disciplines, so an open dialogue between subject matter experts, AUTHOR CONTRIBUTIONS LR, SL, and RB contributed conception and wrote sections of the
manuscript. All authors contributed to manuscript revision, read,
and approved the submitted version. Copyright © 2019 Richardson, Lewis and Burnette. This is an open-access article
distributed under the terms of the Creative Commons Attribution License (CC BY).
The use, distribution or reproduction in other forums is permitted, provided the
original author(s) and the copyright owner(s) are credited and that the original
publication in this journal is cited, in accordance with accepted academic practice.
No use, distribution or reproduction is permitted which does not comply with these
terms. June 2019 | Volume 7 | Article 112 REFERENCES Peccoud, J., Gallegos, J. E., Murch, R., Buchholz, W. G., and Raman, S. (2018). Cyberbiosecurity: from naive trust to risk awareness. Trends Biotechnol. 36, 4–7. doi: 10.1016/j.tibtech.2017.10.012 Burnette, R. (2013). Biosecurity: Understanding, Assessing, and Preventing the
Threat. Hoboken, NJ: John Wiley & Sons. Richardson, L. C., Connell, N. D., Lewis, S. M., Pauwels, E., and Murch, R. S. (2019). Cyberbiosecurity: a call for cooperation in a new threat landscape. Front. Bioeng. Biotechnol. 7:99. doi: 10.3389/fbioe.2019.00099 Minehata,
M.,
Sture,
J.,
Shinomiya,
N.,
and
Whitby,
S. (2013). Implementing
biosecurity
education:
approaches,
resources
and
programmes. Sci. Eng. Ethics 19, 1473–1486. doi: 10.1007/s11948-011-
9321-z Salerno, R. M., and Gaudioso, J. (2015). Laboratory Biorisk Management: Biosafety
and Biosecurity. Boca Raton, FL: CRC Press. Murch, R. S. (eds.). (2017). Securing the Bioeconomy – Cyberbiosecurity
Workshop. (Arlington). Conflict of Interest Statement: LR, SL, and RB were employed by Merrick and
Company. Murch, R. S., So, W. K., Buchholz, W. G., Raman, S., and Peccoud, J. (2018). Cyberbiosecurity: an emerging new discipline to help safeguard
the bioeconomy. Front. Bioeng. Biotechnol. 6:39. doi: 10.3389/fbioe.2018. 00039 Copyright © 2019 Richardson, Lewis and Burnette. This is an open-access article
distributed under the terms of the Creative Commons Attribution License (CC BY). The use, distribution or reproduction in other forums is permitted, provided the
original author(s) and the copyright owner(s) are credited and that the original
publication in this journal is cited, in accordance with accepted academic practice. No use, distribution or reproduction is permitted which does not comply with these
terms. Nixdorff,
K. (2013). Education
for
life
scientists
on
the
dual-use
implications
of
their
research:
commentary
on
implementing
biosecurity
education:
approaches,
resources
and
programmes. Sci. Eng. Ethics
19,
1487–1490. doi:
10.1007/s11948-013-
9478-8 June 2019 | Volume 7 | Article 112 Frontiers in Bioengineering and Biotechnology | www.frontiersin.org 5
|
https://openalex.org/W2019509877
|
https://europepmc.org/articles/pmc3967532?pdf=render
|
English
| null |
White matter integrity is associated with alcohol cue reactivity in heavy drinkers
|
Brain and behavior
| 2,013
|
cc-by
| 10,286
|
Funding Information This project was funded by NIAAA grants
5R01AA012238 and 5R01AA014886 to
Hutchison and by NIBIB grant 1R01EB006841
to Calhoun. Monnig received support from
NIAAA institutional training grant
1T32AA01818-01A through the Center on
Alcoholism, Substance Abuse, and Addictions
(CASAA) and by NIAAA individual fellowship
1F31AA021631-01. Received: 2 May 2013; Revised: 17
November 2013; Accepted: 25 November
2013 Received: 2 May 2013; Revised: 17
November 2013; Accepted: 25 November
2013 doi: 10.1002/brb3.204 white matter on the cellular level by increasing oxidative
stress (Crews and Nixon 2009; Fernandez-Lizarbe et al. 2009; Pascual et al. 2011) and downregulating genes criti-
cal to myelination (Lewohl et al. 2000; Liu et al. 2007). A
recent
meta-analysis
of
magnetic
resonance
imaging
(MRI) studies comparing white matter volume in AUD
and healthy control groups found a significant effect size
of g = 0.304 for the white matter volume deficit associ-
ated with AUD diagnosis (Monnig et al. 2012b). Individ-
uals with AUDs exhibit neuropsychological impairment in ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. This is an open access article under the terms of
the Creative Commons Attribution License, which permits use, distribution and reproduction in any medium,
provided the original work is properly cited. White matter integrity is associated with alcohol
reactivity in heavy drinkers 1Mind Research Network, Albuquerque, 87106 New Mexico
2University of New Mexico, Albuquerque, 87106 New Mexico
3University of Colorado, Boulder, 80309 Colorado Correspondence Correspondence
Kent E. Hutchison, Department of Psychology
D-244, University of Colorado,
Boulder, CO 80309. Tel: 303-492-8662; Fax: 303-492-2967;
E-mail: kent.hutchison@colorado.edu Keywords y
Alcohol use disorders, diffusion tensor
imaging, functional magnetic resonance
imaging, tract-based spatial statistics, white
matter Neuroimaging studies have shown that white matter damage accompanies
excessive alcohol use, but the functional correlates of alcohol-related white mat-
ter disruption remain unknown. This study applied tract-based spatial statistics
(TBSS) to diffusion tensor imaging (DTI) data from 332 heavy drinkers (mean
age = 31.2 9.4; 31% female) to obtain averaged fractional anisotropy (FA)
values of 18 white matter tracts. Statistical analyses examined correlations of FA
values with blood-oxygenation-level-dependent (BOLD) response to an alcohol
taste cue, measured with functional magnetic resonance imaging (fMRI). FA
values of nine white matter tracts (anterior corona radiata, body of corpus
callosum, cingulate gyrus, external capsule, fornix, inferior frontooccipital fas-
ciculus, posterior corona radiata, retrolenticular limb of internal capsule, and
superior longitudinal fasciculus) were significantly, negatively correlated with
BOLD activation in medial frontal gyrus, parahippocampal gyrus, fusiform
gyrus, cingulum, thalamus, caudate, putamen, insula, and cerebellum. The
inverse relation between white matter integrity and functional activation during
the alcohol taste cue provides support for the hypothesis that lower white mat-
ter integrity in frontoparietal and corticolimbic networks is a factor in loss of
control over alcohol consumption. Brain and Behavior 2014; 4(2): 158–170 doi: 10.1002/brb3.204 White matter integrity is associated with alcohol cue
reactivity in heavy drinkers
Mollie A. Monnig1,2, Rachel E. Thayer3, Arvind Caprihan1, Eric D. Claus1,2, Ronald A. Yeo1,2,
Vince D Calhoun1,2 & Kent E Hutchison3 White matter integrity is associated with alcohol cue
reactivity in heavy drinkers
Mollie A. Monnig1,2, Rachel E. Thayer3, Arvind Caprihan1, Eric D. Claus1,2, Ronald A. Yeo1,2,
Vince D. Calhoun1,2 & Kent E. Hutchison3
1Mind Research Network, Albuquerque, 87106 New Mexico
2University of New Mexico, Albuquerque, 87106 New Mexico
3University of Colorado, Boulder, 80309 Colorado Introduction Alcohol is the most readily available and commonly
abused drug across all age groups in the United States
(Substance Abuse and Mental Health Services Administra-
tion 2010), making alcohol-related brain damage a press-
ing public health concern. In particular, white matter
damage is a signature injury of alcohol use disorders
(AUDs; Harper and Kril 1990; Kril and Halliday 1999). Evidence suggests that chronic alcohol abuse damages 158 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. complex functions that rely on intact white matter,
including memory retrieval, visuospatial processing, and
emotional regulation (Filley 2001; Moselhy et al. 2001;
Oscar-Berman and Marinkovic 2007). Several studies have
found associations between lower white matter integrity
and poorer visuospatial processing, executive functioning,
and memory in AUD (Pfefferbaum et al. 2006; Rosen-
bloom et al. 2009; Konrad et al. 2012; Trivedi et al. 2013). However, the relation between integrity of specific
white matter tracts and alcohol cue processing in individ-
uals with AUDs has not been investigated to date. This
relationship may be especially important because height-
ened neural reactivity to alcohol cues is a reliable finding
in AUDs (Schacht et al. 2013) and may be associated with
increased craving or risk for alcohol relapse (Gr€usser et al. 2004; Beck et al. 2012). a control group (Yeh et al. 2009). Moreover, AUD indi-
viduals with at least 1 year of abstinence exhibited lower
FA in the superior corona radiata, splenium of corpus
callosum, internal capsule, posterior thalamic radiation,
and sagittal striatum compared to a healthy group (Mon-
nig et al. 2012a). Taken together, previous studies suggest
that alcohol-related white matter abnormality occurs in
broadly distributed white matter tracts, yet it may prefer-
entially affect networks regulating motivation and reward
salience (Harris et al. 2008; Pfefferbaum et al. 2009; Yeh
et al. 2009). Evidence of widespread white matter damage in AUDs
raises questions about the functional import of these
changes. A study that classified participants who com-
pleted AUD treatment as returning to heavy use or sus-
taining treatment gains at 6-month follow-up found
significantly higher FA in frontal white matter at baseline
in the treatment sustainers (Sorg et al. 2012). This associ-
ation between baseline white matter integrity and treat-
ment outcome suggests that the role of white matter in
AUDs warrants further attention. Introduction Diffusion tensor imaging (DTI) offers fine-grained
analysis of white matter microstructure beyond volumet-
ric measures and can detect abnormality prior to the
onset of measureable atrophy (Fjell et al. 2008; Giorgio
et al. 2010). DTI is based on the principle of Brownian
motion of water molecules (Basser and Pierpaoli 1996)
and allows inferences about the integrity of white matter
to be made noninvasively. In general, optimal myelination
of fibers results in increased directionality of water diffu-
sion in white matter microstructure. The extent to which
diffusion in a voxel is nonrandom, or anisotropic, is
quantified in terms of fractional anisotropy (FA), a value
ranging from 0, which corresponds to unrestricted diffu-
sion, to 1, indicative of diffusion along a single axis. FA is
believed to reflect multiple properties of white matter
microstructure, such as axonal diameter, axonal density,
myelination, and fiber bundle organization (Pierpaoli
et al. 2001; Beaulieu 2002; Song et al. 2002, 2003, 2005),
and is often reported as a summary index of white matter
integrity. A possible mechanism relating white matter integrity to
susceptibility to alcohol problems is that alcohol may dis-
rupt top-down, behavioral regulation networks that mod-
ulate reactivity to environmental cues, including alcohol
stimuli. This study approached this issue by examining
the association between white matter integrity and neural
reactivity to an alcohol taste cue in heavy drinkers. It has
been hypothesized that alcohol affects the neuronal net-
works that underlie reward-based learning and executive
control, both of which have been implicated in the devel-
opment of substance dependence (Koob and Volkow
2010). At the network level, decreased white matter integ-
rity may produce disconnection or otherwise alter func-
tion in cortical and subcortical reward substrates. In
particular,
alcohol
may
sensitize
subcortical
systems
involved in reward or approach behavior while it damp-
ens frontoparietal cortical networks important for self-
regulation (Koob and Volkow 2010). Given findings of
premorbid abnormality in white matter integrity and
functional connectivity of frontoparietal and frontocere-
bellar networks, it seems likely that some structural and
functional liabilities to problem drinking predate the use
of alcohol (Herting et al. 2010, 2011; Wetherill et al. 2012). A model that takes into account both premorbid
vulnerability to and direct effects of alcohol is consistent
with models of addiction that describe an overactive
incentive motivational network in conjunction with a
compromised
control
network
(Volkow
et al. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Introduction 2002;
Kalivas and Volkow 2005; Baler and Volkow 2006; Wiers
et al. 2007; Hutchison 2010). The corpus callosum, the largest white matter tract, has
shown reduced FA or abnormal diffusivity in several stud-
ies of AUDs (Pfefferbaum et al. 2000, 2002; Pfefferbaum
and Sullivan 2005). A longitudinal study of alcohol-
dependent individuals demonstrated reversal of white
matter abnormality in the corpus callosum with a year of
abstinence, suggesting that some abnormality found in
AUDs is directly related to alcohol consumption (Alhas-
soon
et al. 2012). In
other
brain
regions,
alcohol-
dependent individuals with several months of abstinence
showed lower FA than healthy control participants in the
frontal forceps and superior cingulate, along with higher
diffusivity in the fornix, internal and external capsule,
and superior longitudinal fasciculus (Pfefferbaum et al. 2009). Another study of AUD individuals with 1 week of
abstinence found lower FA in the external capsule, ante-
rior and superior corona radiata, and thalamus relative to Multimodal neuroimaging approaches that combine
functional MRI (fMRI) and DTI are ideally suited to 159 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. Participants were instructed to abstain from alcohol for
24 h prior to study procedures, and a blood alcohol con-
tent of zero was confirmed with a breathalyzer prior to
scanning. All participants had a Clinical Institute With-
drawal Assessment Scale (Sullivan et al. 1989) score lower
than 8, indicating no need for detoxification. Study pro-
cedures were approved by the Human Research Review
Committee at the University of New Mexico, and study
participants provided informed consent. address the ramifications of white matter network abnor-
mality. The objective of this study was to investigate the
functional implications of individual differences in white
matter integrity by testing whether FA values were related
to blood-oxygenation-level-dependent (BOLD) response
elicited by an alcohol taste cue in a sample of heavy
drinkers. A previous investigation with a largely overlap-
ping sample demonstrated that the alcohol taste cue was
associated with increased BOLD response throughout net-
works involved in incentive motivation, with the magni-
tude of activation positively related to several indicators
of alcohol problem severity (Claus et al. 2011). DTI analysis DTI
preprocessing
entailed
(1)
data
quality
check,
(2) motion eddy current correction, and (3) adjustment
of diffusion gradient directions. Image acquisition All MRI scans were collected on a 3T Siemens Trio
(Erlangen, Germany) whole-body scanner. Prior to the
acquisition of anatomical scans, localizer scans were
acquired. An echo-planar, gradient-echo, pulse sequence
(TR = 2000 msec, TE = 29 msec, flip angle = 75°) was
acquired with a 12-channel head coil, and images were
acquired parallel to the ventral surface of the participant’s
orbitofrontal cortex to reduce signal dropout and distor-
tion in this region (Deichmann et al. 2003). Each volume
consisted
of
33
axial
slices
(64 9 64
matrix,
3.75
9 3.75 mm2, 3.5 mm thickness, 1 mm gap). In addition,
a high-resolution T1-weighted 3D MP-RAGE anatomical
image was acquired (TR = 2530 msec, TE = 1.64 msec,
flip angle = 7°, 192 sagittal slices, 256 9 256 matrix, slice
thickness = 1 mm) for each participant. Recruitment criteria Inclusion and exclusion criteria have been described else-
where (Claus et al. 2011). In brief, participants ranged in
age from 21 to 56, had no contraindications for MRI
scanning, and had no history of traumatic brain injury
with loss of consciousness >5 min. The study recruited
participants who reported at least five heavy-drinking
episodes (≥4 drinks for women, ≥5 drinks for men on a
single occasion) in the past month. Participants com-
pleted the Alcohol Use Disorders Identification Test
(AUDIT; Babor et al. 2001), the Alcohol Dependence
Scale (ADS; Skinner and Horn 1984), and the Impaired
Control Scale (ICS; Heather et al. 1993). Drinks per
drinking day, current smoking status, and use of other
drugs were assessed with the 60-day or 90-day timeline
follow-back (TLFB; Sobell and Sobell 1992). Participants
who reported using marijuana were not excluded from
the study. Participants with more than minimal use of
drugs other than alcohol, tobacco, or marijuana in the
past 60 days were excluded from the study. Of the final
sample (N = 332) included in analyses, data on drug use
were available for 317 participants. Cigarette smoking
was reported by 52% of participants. Thirty-seven per-
cent of participants reported using marijuana, with fre-
quency averaging 20% of days in the past 60 days. Fifteen participants (5%) reported occasional use of other
illicit drugs in the past 60 days. Relations between alco-
hol use measures and white matter FA were assessed with
Pearson correlations. DTI scans were acquired via single-shot, spin-echo,
echo-planar imaging (EPI) with a twice-refocused balanced
echo sequence to reduce eddy current distortions. DTI data
were
collected
along
the
AC/PC
line,
with
FOV =
256 9 256 mm, 128 9 128 matrix, slice thickness of
2 mm
(isotropic
2 mm
resolution),
NEX = 1,
TE = 84 msec, and TR = 9000 msec. A multiple-channel
radiofrequency (RF) coil was used, with GRAPPA (X2), 30
gradient directions, and b = 800 sec/mm2, and the b = 0
experiment was repeated five times (Jones et al. 1999). See Figure 1 for a schematic of data processing and
analysis steps following image acquisition. Introduction In line
with the concept that disruption of white matter networks
results in dysregulated alcohol cue processing, we pre-
dicted that lower white matter integrity in frontoparietal
networks that participate in behavioral control would be
associated with greater BOLD activation in response to
the alcohol taste cue, particularly in subcortical reward
processing substrates. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Data quality check After the
participant ceased movement and held still at a new loca-
tion, the image quality would be good, but the motion
registration algorithm would show a large displacement. The combined quality check criterion was highly strin-
gent, as evidenced by its exclusion of 30% of participants
who were scanned. The criterion of excluding the partici-
pant from further DTI analysis if 10% of the gradient direction, due to external RF leakage in the MRI scan
room or subject motion; and (3) large amounts of
motion in the absence of signal dropout. A DTI volume
was dropped if the motion was more than 4 mm of root
mean square displacement. If more than 10% of gradient
directions were dropped for any of the above reasons,
then the subject was not considered for further analysis. Of 481 participants scanned, data for 145 were excluded
by stringent quality control, leaving 336 participants with
acceptable DTI data. Exclusions were typically due to par-
ticipant motion or scanner noise. The data quality check
considered the effects of motion in two ways. If the par-
ticipant moved during acquisition of a specific brain vol-
ume, then the image quality was degraded. After the
participant ceased movement and held still at a new loca-
tion, the image quality would be good, but the motion
registration algorithm would show a large displacement. The combined quality check criterion was highly strin-
gent, as evidenced by its exclusion of 30% of participants
who were scanned. The criterion of excluding the partici-
pant from further DTI analysis if 10% of the gradient directions were dropped was based on empirical findings
from a previous study by our group (Ling et al. 2012). Motion and eddy current correction We registered all the images to a b = 0 sec/mm2 image. Twelve degrees of freedom, affine transformation with
mutual information cost function was used for image reg-
istration. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Data quality check The DTI data were checked for: (1) signal dropout due to
subject motion, producing striated artifacts on images;
(2) excessive background noise in the phase encoding 160 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. M. A. Monnig et al. Alcohol Cue Reactivity and Heavy Drinkers DTI acquisition
fMRI acquisition
Quality check for signal dropout,
background noise, and motion
Registration to MNI template
Tract-based spatial statistics (TBSS) on
FA maps
Calculation of average FA over 18
white matter tracts in JHU atlas
Correlation of FA values with
fMRI contrast maps at each voxel using
age as covariate
Motion correction and spatial
smoothing with 8mm FWHM Gaussian
kernel
High pass temporal filter with a 100s
cut-off and a grand mean intensity
normalization
Alcohol minus litchi contrast maps
calculated with GLM modeling
Contrast maps registered
to the MNI template
Figure 1. Schematic of data processing
and analysis steps. Figure 1. Schematic of data processing
and analysis steps. Motion correction and spatial
smoothing with 8mm FWHM Gaussian
kernel Quality check for signal dropout,
background noise, and motion High pass temporal filter with a 100s
cut-off and a grand mean intensity
normalization Registration to MNI template Tract-based spatial statistics (TBSS) on
FA maps Alcohol minus litchi contrast maps
calculated with GLM modeling Calculation of average FA over 18
white matter tracts in JHU atlas Contrast maps registered
to the MNI template Correlation of FA values with
fMRI contrast maps at each voxel using
age as covariate Figure 1. Schematic of data processing
and analysis steps. direction, due to external RF leakage in the MRI scan
room or subject motion; and (3) large amounts of
motion in the absence of signal dropout. A DTI volume
was dropped if the motion was more than 4 mm of root
mean square displacement. If more than 10% of gradient
directions were dropped for any of the above reasons,
then the subject was not considered for further analysis. Of 481 participants scanned, data for 145 were excluded
by stringent quality control, leaving 336 participants with
acceptable DTI data. Exclusions were typically due to par-
ticipant motion or scanner noise. The data quality check
considered the effects of motion in two ways. If the par-
ticipant moved during acquisition of a specific brain vol-
ume, then the image quality was degraded. FA-BOLD correlations Correlations between averaged FA values and the whole-
brain contrast maps (alcohol minus litchi) from the alco-
hol cue task were analyzed to identify task-related regions
that were significantly associated with white matter integ-
rity. This step was done for each FA map by a linear
regression of the averaged FA values with each voxel of
the BOLD contrast maps across the subjects. Age is asso-
ciated with FA decreases independent of alcohol intake
(Giorgio et al. 2010; Michielse et al. 2010) and could be a
potential confound. In this sample, a linear, negative cor-
relation was observed for age and averaged FA for 15 of
18 of the tracts of interest, with significant Pearson’s r’s
ranging from 0.128 to 0.472. Because of the relation
between FA and age, which was consistent with the aging
literature cited above, age was included as a covariate in
regression analyses. However, results did not change
appreciably when age was not included as a covariate. Four participants with acceptable DTI data did not have
fMRI taste task data and were excluded from analysis. In
addition, 15 participants had FA values that were outliers
of >3 standard deviations (SDs) on at least one white
matter region of interest (ROI). Outliers on a given ROI
were excluded for that analysis, and the number of
excluded participants ranged from 0 to 7 for the 18 white
matter ROIs. For each correlation, the thresholded image
was corrected for multiple comparisons using cluster-
based thresholding as implemented in FSL, with a voxel-
wise threshold of z > 2.3 and a cluster threshold of
P < 0.05. FA
values
were
obtained
using
FMRIB
Software
Library (FSL), tract-based spatial statistics (TBSS; Smith
et al. 2006). Each FA image was aligned to the stan-
dard-space
FMRIB58
FA
image
(voxel
size
of
1 9 1 9 1 mm) with a nonlinear registration algorithm
(FMRIB’s Nonlinear Image Registration Tool, Oxford,
UK). Following transformation to the target and affine
transformation to MNI152 space, all FA images were
merged into a single 4D image file, from which the FA
skeleton was calculated using a threshold value of 0.2. White matter tracts were defined using the Johns Hop-
kins
University,
International
Consortium
for
Brain
Mapping DTI-81 labels atlas, with highest probability
thresholding at 25% and white matter tractography atlas
(Mori et al. 2005; Wakana et al. 2007). Adjustment of diffusion gradient direction Two corrections were applied to the diffusion gradients. The nominal diffusion gradient directions were prescribed
in the magnet axis frame and rotated to correspond to
the image slice orientation. No correction was required if
the imaging slice was pure axial. A second correction
accounted for any image rotation during the previous
motion and eddy current correction step. The rotation
part
of
the
transformation
found
previously
was
extracted,
and
each
gradient
direction
vector
was 161 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. M. A. Monnig et al. registration of the T1 to the MNI152 template. All steps
used FLIRT. registration of the T1 to the MNI152 template. All steps
used FLIRT. corrected accordingly. Image registration and transforma-
tions steps were done with FMRIB’s Linear Image Regis-
tration Tool (FLIRT), and the detection of outliers and
data pruning was done with a custom program written in
IDL (www.ittvis.com). Dtifit was used to calculate the dif-
fusion tensor and the FA maps. Results The sample included 332 individuals (102 female, 230
male) with a mean of 31.2 (SD = 9.4) years of age. Table 1 summarizes demographic and clinical character-
istics of the sample. On average, participants endorsed a
moderate level of alcohol problem severity on the ADS
and AUDIT. On the ADS, 64% of the sample scored ≥9,
reflecting
a
high
likelihood
of
diagnosis
of
alcohol
dependence (Allen and Wilson 2003). Moreover, 96% of
participants scored ≥8 on the AUDIT, indicating hazard-
ous
drinking
and
possible
dependence
(Babor
et al. 2001). FA-BOLD correlations White matter
tracts were selected for analysis on the basis of previous
studies summarized above and hypotheses regarding the
involvement
of
self-regulation
and
reward
networks. These 18 tracts were as follows: genu, body, and spleni-
um of corpus callosum; fornix; forceps minor; anterior,
posterior, and retrolenticular limbs of internal capsule;
anterior, superior, and posterior corona radiata; anterior
and
posterior
thalamic
radiations;
sagittal
striatum;
external capsule; cingulate gyrus; superior longitudinal
fasciculus; and inferior frontooccipital fasciculus. Within
individuals, FA values for the skeletonized voxels that
intersected with the tract atlas were averaged to obtain
a single value per tract to be used in subsequent corre-
lations with fMRI data. Right and left hemispheres were
averaged for the 13 bilateral tracts, as hypotheses did
not stipulate differential effects based on hemisphere. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion This study investigated the functional implications of
white matter integrity in the context of heavy alcohol
consumption by correlating FA values of 18 white matter
tracts with BOLD activation during an alcohol cue. FA
values of 10 tracts subserving frontoparietal and cortico-
limbic
networks
showed
significant
correlations
with
BOLD response to the taste of alcohol. All but one of
these correlations were negative, supporting the predic-
tion that lower white matter integrity would be related to
heightened response to the alcohol cue. retrolenticular limb of internal capsule, and superior lon-
gitudinal fasciculus (Fig. 2). With the exception of the
anterior thalamic radiation, all correlations were negative,
indicating that lower FA was associated with greater
BOLD response. Evidence from a variety of imaging paradigms has
implicated abnormalities of connections among the thala-
mus, basal ganglia, limbic system, and cerebral cortex in
substance abuse and dependence. The results of this study
offer converging evidence that white matter connections
among cortical and subcortical substrates of sensorimotor
processing, reward learning, and higher level cognition
participate in the development and maintenance of prob-
lematic alcohol use. A candidate mechanism in the
development of substance dependence is the failure of
top-down systems of self-regulation and effortful process-
ing, particularly frontoparietal networks, to override sub-
cortical
networks
involved
in
habitual
responses
to
reward cues, which are strengthened with accumulated
exposure to drug cues and consumption (Koob 2006;
Koob and Volkow 2010). Given the age range of our sam-
ple (ages 21–56), it is important to recognize that changes
in FA and downstream changes in the function of neural
networks may begin relatively early in the trajectory of
problem drinking. Pearson correlations between averaged FA values for
the significant tracts and alcohol use measures are shown
in Table 2. White matter integrity was negatively related
to measures of alcohol use severity and duration, with
correlations of modest magnitude. Anterior corona radiat-
a, cingulate gyrus, fornix, and inferior frontooccipital fas-
ciculus
consistently
showed
significant
relations
with
alcohol use measures. Of the measures, number of years
of drinking and drinks per drinking day were related
most frequently to FA. Regions on the BOLD contrast maps where greater cue
reactivity was associated with lower averaged FA included
the medial frontal gyrus, cingulate gyrus, precuneus,
parahippocampal gyrus, fusiform gyrus, insula, thalamus,
putamen, caudate, and cerebellum (Fig. 3). fMRI task and analysis To measure cue-elicited responses to alcohol, we used a
task described previously in which a small amount of
the participant’s preferred alcoholic beverage was alter-
nated with litchi juice, an appetitive control (Filbey
et al. 2008; Claus et al. 2011). All analyses were com-
pleted using tools from FSL and are described in detail
in Claus et al. (2011). An overview is shown in Fig-
ure 1. The contrast of interest compared the alcohol
cue minus the juice cue. Contrast maps from individual
subject analyses were registered to the MNI152 template
in
a
two-step
registration
process
using
registration
parameters from the registration of the mean EPI image
to
the
individual
subject’s
T1
image,
and
the White matter tracts showing significant correlations
between averaged FA and BOLD were the anterior corona
radiata, anterior thalamic radiation, body of corpus callo-
sum, cingulate gyrus, external capsule, fornix, inferior
frontooccipital
fasciculus,
posterior
corona
radiata, 162 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. Table 1. Demographic and clinical characteristics (N = 332). n providing
data
M (SD) or
percent
Age
332
31.2 (9.4)
Education (years)
290
14.4 (2.5)
Alcohol Dependence
Scale (ADS)
308
13.1 (8.1)
Alcohol Use Disorder
Identification Test (AUDIT)
308
18.5 (7.7)
Impaired Control Scale (ICS)
310
44.5 (21.3)
Number of years drinking
regularly (years drink)
310
12.0 (8.9)
Average drinks per drinking
day (DPDD)
302
7.0 (4.2) Table 1. Demographic and clinical characteristics (N = 332). orbitofrontal cortex, amygdala, pons, and parahippocam-
pal gyrus (Fig. 4). Clusters with significant correlations
are listed in Table 3. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion The positive
correlation noted above was between FA of the anterior
thalamic
radiation
and
BOLD
response
in
the Lower FA consistently showed significant correlations
with greater BOLD activity in the thalamus, medial Figure 2. Atlas-based regions of interest showing significant correlations with BOLD response: anterior corona radiata (ACR; purple); anterior
thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior
frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red);
cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green). Figure 2. Atlas-based regions of interest showing significant correlations with BOLD response: anterior corona radiata (ACR; purple); anterior
thalamic radiation (ATR; blue); external capsule (EC; light orange); retrolenticular part of the internal capsule (RLIC; light blue); inferior
frontooccipital fasciculus (IFOF; magenta); fornix (FNX; orange); body of the corpus callosum (yellow); posterior corona radiata (PCR; red);
cingulate gyrus (CG; cyan); and superior longitudinal fasciculus (SLF; light green). 163 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. Table 2. Bivariate correlations of white matter ROIs with alcohol use
measures. AUDIT
ADS
ICS
Years drink
DPDD
ACR
0.213**
0.168**
0.213**
0.374**
0.263**
ATR
0.078
0.034
0.015
0.067
0.075
BCC
0.109
0.087
0.159**
0.281**
0.079
CG
0.201**
0.113
0.158**
0.156**
0.135*
EC
0.073
0.025
0.020
0.012
0.085
FNX
0.268**
0.301**
0.305**
0.382**
0.209**
IFOF
0.216**
0.167**
0.192**
0.388**
0.224**
PCR
0.111
0.090
0.109
0.220**
0.184**
RLIC
0.140*
0.057
0.053
0.144*
0.130*
SLF
0.145*
0.109
0.114
0.248**
0.160**
n’s range from 289 to 296. *P < 0.05; **P < 0.01. Table 2. Bivariate correlations of white matter ROIs with alcohol use
measures. Figure 4. Positive correlation between BOLD activation and FA in the
anterior thalamic radiation (ATR). Figure 4. Positive correlation between BOLD activation and FA in the
anterior thalamic radiation (ATR). frontal gyrus, cingulate, and parahippocampal gyrus. One
interpretation of this pattern is that individuals exhibit
greater cue reactivity when bottom-up activity originating
in the thalamus guides subsequent attentional orienting
and salience attribution in the prefrontal cortex and lim-
bic system. A great body of literature has demonstrated
the role of prefrontal cortex and cingulate in affective and
reward-related decision making (Bechara et al. 1998; Bec-
hara 2004; Rogers et al. 2004; Cohen et al. 2005). ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion Because
participants were not engaged in a decision-making task,
it remains unknown how increased cue reactivity might
affect these processes. However, one hypothesis for future
study is that lower integrity of frontoparietal white matter
networks mediates the relationship between increased cue
reactivity and alcohol urges. It should be noted that white
matter fiber tracts are largely bidirectional and that analy-
ses did not investigate the temporal sequence of activa-
tion. Thus, an alternative mechanism that might operate
instead of or in conjunction with weakened top-down
control over bottom-up response is alteration of the sig-
nal communicated upward from subcortical to cortical
regions as a result of changes in white matter integrity,
affecting the processing of cue-eliciting stimuli. (A)
(B)
(C)
(D)
Figure 3. Overlapping clusters of BOLD activation in the (A) thalamus
and caudate, (B) medial frontal gyrus, (C) parahippocampal gyrus, and
(D) cingulate gyrus, correlated with FA in the anterior corona radiata
(ACR; purple); anterior thalamic radiation (ATR; blue); external capsule
(EC; light orange); retrolenticular part of the internal capsule (RLIC;
light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix
(FNX; orange); body of the corpus callosum (yellow); posterior corona
radiata
(PCR;
red);
cingulate
gyrus
(CG;
cyan);
and
superior
longitudinal fasciculus (SLF; light green); masks from anatomical
atlases were applied to highlight the areas of specific overlap. (A) (A) (B) (B) (C) (C) A recent meta-analysis of alcohol cue reactivity found
that heavy drinkers reliably showed increased activation
in the right caudate, cingulate cortex, thalamus, and ven-
tromedial prefrontal cortex relative to control cue condi-
tions (Schacht et al. 2013). However, alcohol-elicited
activation in these areas was not significantly greater in
heavy-drinking groups compared to control groups, sug-
gesting that the incentive salience of alcohol cues may be
comparable across groups (Schacht et al. 2013). Areas
that did differentiate AUD and control groups were the
bilateral precuneus, left posterior cingulate, and left supe-
rior temporal gyrus. The findings of the current study
converge with the meta-analytic findings, which demon-
strated the importance of cue-elicited activity in posterior
regions such as the precuneus and posterior cingulate in
differentiating alcohol dependent from healthy individuals
and varying as a function of severity. The current results
provide additional support for the involvement of poster- (D) (D) Figure 3. n’s range from 289 to 296. Discussion Overlapping clusters of BOLD activation in the (A) thalamus
and caudate, (B) medial frontal gyrus, (C) parahippocampal gyrus, and
(D) cingulate gyrus, correlated with FA in the anterior corona radiata
(ACR; purple); anterior thalamic radiation (ATR; blue); external capsule
(EC; light orange); retrolenticular part of the internal capsule (RLIC;
light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix
(FNX; orange); body of the corpus callosum (yellow); posterior corona
radiata
(PCR;
red);
cingulate
gyrus
(CG;
cyan);
and
superior
longitudinal fasciculus (SLF; light green); masks from anatomical
atlases were applied to highlight the areas of specific overlap. Figure 3. Overlapping clusters of BOLD activation in the (A) thalamus
and caudate, (B) medial frontal gyrus, (C) parahippocampal gyrus, and
(D) cingulate gyrus, correlated with FA in the anterior corona radiata
(ACR; purple); anterior thalamic radiation (ATR; blue); external capsule
(EC; light orange); retrolenticular part of the internal capsule (RLIC;
light blue); inferior frontooccipital fasciculus (IFOF; magenta); fornix
(FNX; orange); body of the corpus callosum (yellow); posterior corona
radiata
(PCR;
red);
cingulate
gyrus
(CG;
cyan);
and
superior
longitudinal fasciculus (SLF; light green); masks from anatomical
atlases were applied to highlight the areas of specific overlap. 164 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. M. A. Monnig et al. Table 3. White matter tracts with locations of significantly correlated clusters of BOLD activation. e correlation between ATR and BOLD activation was positive, whereas all other correlations were negative. ACR, anterior corona radiata; ATR, anterior thalamic radiation; BCC, body of corpus callosum; EC, external capsule; CG, cingulate gyrus; FNX, for-
nix; IFOF, inferior frontooccipital fasciculus; PCR, posterior corona radiata; RLIC, retrolenticular limb of internal capsule; SLF, superior longitudinal
fasciculus. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion Z-max coordinates (mm)
WM tract
Cluster size (voxels)
Z-max
X
Y
Z
Brodmann areas
Anatomical region(s)
ACR
1854
3.61
20
4
32
3, 6, 24, 31, 32
L medial frontal gyrus
L postcentral gyrus
L cingulate gyrus
ATR*
1994
4.24
20
2
24
11, 34, 47
L orbitofrontal cortex
L inferior frontal gyrus
R, L parahippocampal gyrus
R, L amygdala
Pons
BCC
3911
3.54
30
0
38
6, 7, 24, 31
R medial frontal gyrus
R cingulate gyrus
R thalamus
R, L precuneus
2389
4.16
34
54
2
19, 37
R parahippocampal gyrus
R fusiform gyrus
R medial temporal gyrus
CG
13,511
4.54
34
54
4
18, 19, 24, 30, 37
R cingulate gyrus
R fusiform gyrus
R, L parahippocampal gyrus
R lingual gyrus
R, L thalamus
R caudate
R, L cerebellum
EC
5262
3.82
2
82
8
18, 30
R, L posterior cingulate
R, L cuneus
R, L lingual gyrus
R, L cerebellum
2083
3.28
22
24
56
3, 7, 24, 31
L cingulate gyrus
L precentral gyrus
L precuneus
FNX
11,306
4.65
14
6
12
8, 9, 10, 13, 24, 27, 32
R, L medial frontal gyrus
R, L superior frontal gyrus
R insula
R anterior cingulate
R cingulate gyrus
R, L thalamus
R, L caudate
L parahippocampal gyrus
1881
3.44
32
78
36
R, L cerebellum
IFOF
1956
3.70
20
0
32
L postcentral gyrus
L caudate
L putamen
1700
3.16
26
8
20
R thalamus
PCR
4257
3.66
20
4
32
23, 24
L putamen
R, L cingulate gyrus
R posterior cingulate
RLIC
2020
3.85
34
52
2
R thalamus
1656
3.64
32
0
22
24
L cingulate gyrus
SLF
16,354
4.40
20
4
34
8, 9, 13, 24, 31, 32
R, L superior frontal gyrus
R, L medial frontal gyrus
R, L cingulate gyrus
R, L anterior cingulate
R caudate
R, L putamen
R insula
R, L thalamus
ACR, anterior corona radiata; ATR, anterior thalamic radiation; BCC, body of corpus callosum; EC, external capsule; CG, cingulate gyrus; FNX, for-
nix; IFOF, inferior frontooccipital fasciculus; PCR, posterior corona radiata; RLIC, retrolenticular limb of internal capsule; SLF, superior longitudinal
fasciculus. Table 3. White matter tracts with locations of significantly correlated clusters of BOLD activation. 165 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. Discussion ;
)
In addition to posterior cortical regions, we also found
significant, inverse correlations between white matter
integrity and BOLD response in frontal regions including
the inferior, medial, and superior frontal gyri. Lateral
frontal regions typically have been implicated in cognitive
control and goal-directed behavior. Given that response
to alcohol cues in the dorsolateral prefrontal cortex and
medial frontal gyrus has been positively associated with
alcohol problem severity (Claus et al. 2011), our findings
could be interpreted as providing further evidence of
engagement of these regions in individuals with more
extensive drinking histories. The negative correlation of
BOLD activity in these regions with white matter integrity
suggests the possibility that, although these regions may
come online to a greater degree during alcohol cue pre-
sentation, lower white matter integrity in tracts that pro-
ject to limbic and temporal regions (e.g., fornix, cingulate,
and superior longitudinal fasciculus) may result in less
effective
control
over
representations
in
bottom-up
processing streams. Notably, the fornix and cingulate are
consistently implicated in studies of alcohol dependence
(Schulte et al. 2010). A caveat to these interpretations is
that several tracts, such as the superior longitudinal fascic-
ulus, are quite large and are known to incorporate several
subcomponents (Fernandez-Miranda et al. 2008a; Sch-
mahmann et al. 2008). Future studies examining the rela-
tion of cue reactivity to specific subtracts would be useful. A recent study found that alcohol-dependent partici-
pants had lower gray matter volume of lateral frontal,
medial frontal, and parietal-occipital clusters compared to
healthy control participants and that volume of the med-
ial frontal and parietal-occipital clusters significantly pre-
dicted time to relapse, after controlling for age, IQ, years
of alcohol use, and consumption over the 90 days preced-
ing treatment (Rando et al. 2011). The clusters that pre-
dicted relapse in that study were consistent with the
clusters of BOLD activity in the anterior and posterior
cingulate, precuneus/cuneus, and medial prefrontal cortex
associated with lower FA in our study. These findings
underscore the importance of posterior parietal and
medial frontal gray matter regions and their white matter
connections in regulating neural response to alcohol cues. In addition to posterior cortical regions, we also found
significant, inverse correlations between white matter
integrity and BOLD response in frontal regions including
the inferior, medial, and superior frontal gyri. Lateral
frontal regions typically have been implicated in cognitive
control and goal-directed behavior. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Discussion Given that response
to alcohol cues in the dorsolateral prefrontal cortex and
medial frontal gyrus has been positively associated with
alcohol problem severity (Claus et al. 2011), our findings
could be interpreted as providing further evidence of
engagement of these regions in individuals with more
extensive drinking histories. The negative correlation of
BOLD activity in these regions with white matter integrity
suggests the possibility that, although these regions may
come online to a greater degree during alcohol cue pre-
sentation, lower white matter integrity in tracts that pro-
ject to limbic and temporal regions (e.g., fornix, cingulate,
and superior longitudinal fasciculus) may result in less
effective
control
over
representations
in
bottom-up
processing streams. Notably, the fornix and cingulate are
consistently implicated in studies of alcohol dependence
(Schulte et al. 2010). A caveat to these interpretations is
that several tracts, such as the superior longitudinal fascic-
ulus, are quite large and are known to incorporate several
subcomponents (Fernandez-Miranda et al. 2008a; Sch-
mahmann et al. 2008). Future studies examining the rela-
tion of cue reactivity to specific subtracts would be useful. Although white matter damage has been established as
a hallmark injury of AUD, causal mechanisms are still
under investigation. In animal models of alcohol depen-
dence, the presence of alcohol in the brain triggers stimu-
lation of proinflammatory cascades leading to cell death
or dysfunction and inhibition of neurogenesis in adult
neural stem cells in the olfactory bulb and hippocampus
(Crews and Nixon 2009). Pinpointing mechanisms of
alcohol-induced brain damage in vivo in humans presents
a challenge, but our findings support the notion that
long-term heavy drinking contributes to decreased white
matter integrity. Alcohol-related white matter damage is
likely to be one constituent of the AUD cycle in which
heavy drinking contributes to impaired cognition and
emotion regulation, leading to further problematic drink-
ing (Crews 1999). A potential clinical implication is that
those with long-standing AUD, and therefore greater
damage to white matter substrates, may have more diffi-
culty applying cognitive or emotional-regulation strategies
in the context of AUD intervention. Discussion The single positive correlation was found between the
anterior thalamic radiation, which connects the anterior
and dorsomedial thalamic nuclei with the prefrontal cor-
tex, and BOLD activity throughout the amygdala, prefron-
tal cortex, and parahippocampal gyrus. Involvement of the
amygdala is particularly interesting because it receives
direct input from the olfactory bulb, which presumably
would be a primary sensory substrate for the alcohol taste
cue. Frank and Claus (2006) put forward a model of stri-
ato-orbitofrontal interaction in which the orbitofrontal
cortex receives input from the amygdala about reinforce-
ment value of outcomes associated with sensory cues. The
orbitofrontal cortex, which in turn projects to the basal
ganglia, encodes and maintains in working memory infor-
mation about reward to enable adaptive, differential
responding (Frank and Claus 2006). The positive correla-
tion invites speculation that repeated experiences with
alcohol selectively strengthens the influence of subcortical
outputs to prefrontal cortex and limbic structures through
enhanced white matter connectivity, possibly increasing
the relative influence of subcortical pathways over subse-
quent reward-seeking behavior. Again, given that the ante-
rior
thalamic
radiation
is
a
bidirectional
tract,
the
direction and order of effects remain unknown. ior regions in cue reactivity, as white matter tracts tra-
versing the body of the corpus callosum, cingulum bun-
dle, and external capsule all have significant projections
to
the
posterior
cingulate,
precuneus,
and/or
other
regions within the posterior parietal lobe (Hofer and
Frahm 2006; Fernandez-Miranda et al. 2008a,b; Fortin
et al. 2012; Jones et al. 2013). Importantly, these tracts
also project to regions known to respond during cue-
elicited craving, including the supplementary motor area,
medial frontal cortex, insula, and dorsal striatum (Claus
et al. 2011; Schacht et al. 2013). ior regions in cue reactivity, as white matter tracts tra-
versing the body of the corpus callosum, cingulum bun-
dle, and external capsule all have significant projections
to
the
posterior
cingulate,
precuneus,
and/or
other
regions within the posterior parietal lobe (Hofer and
Frahm 2006; Fernandez-Miranda et al. 2008a,b; Fortin
et al. 2012; Jones et al. 2013). Importantly, these tracts
also project to regions known to respond during cue-
elicited craving, including the supplementary motor area,
medial frontal cortex, insula, and dorsal striatum (Claus
et al. 2011; Schacht et al. 2013). References Alhassoon, O. M., S. F. Sorg, M. J. Taylor, R. A. Stephan, B. C. Schweinsburg, N. H. Stricker, et al. 2012. Callosal white
matter microstructural recovery in abstinent alcoholics: a
longitudinal diffusion tensor imaging study. Alcohol. Clin. Exp. Res. 36:1922–1931. doi: 10.1111/j.1530-0277.2012. 01808.x Allen, J., and V. Wilson. 2003. Assessing alcohol problems: a
guide for clinicians and researchers. U. S. Department of
Health and Human Services, Bethesda, MD. Babor, T. F., J. C. Higgins-Biddle, J. B. Saunders, and M. G. Monteiro. 2001. The alcohol use disorders identification
test: guidelines for use in primary care. 2nd ed. World
Health Organization, Geneva, Switzerland. Regarding
sampling
methodology,
the
decision
to
include participants based on quantity and frequency of
recent drinking rather than diagnosis of alcohol abuse or
dependence can be seen as an asset or a shortcoming,
depending on perspective. The objective was to link neu-
robiological outcomes to overt behavioral rather than
syndromal markers in order to increase generalizability to
the population of heavy drinkers, who may or may not
endorse diagnostic criteria. Related to this issue is the fact
that a large minority of participants reported using drugs
other than alcohol. This characteristic limits interpreta-
tion of findings, as the possible neurobiological effects of
these other drugs were not evaluated. At the same time,
the rate of illicit drug use in our sample was similar to
the rate of 31% reported by heavy drinkers in a recent
epidemiological sample (Substance Abuse and Mental
Health Services Administration 2012), lending ecological
validity to our findings. Baler, R. D., and N. D. Volkow. 2006. Drug addiction: the
neurobiology of disrupted self-control. Trends Mol. Med. 12:559–566. doi: S1471-4914(06)00241-3 [pii] 10.1016/j. molmed.2006.10.005 Basser, P. J., and C. Pierpaoli. 1996. Microstructural and
physiological features of tissues elucidated by
quantitative-diffusion-tensor MRI. J. Magn. Reson. B
111:209–219. Beaulieu, C. 2002. The basis of anisotropic water diffusion in
the nervous system – a technical review. NMR Biomed. 15:435–455. doi: 10.1002/nbm.782 Bechara, A. 2004. The role of emotion in decision-making:
evidence from neurological patients with orbitofrontal
damage. Brain Cogn. 55:30–40. doi: 10.1016/j.bandc.2003.04. 001 Bechara, A., H. Damasio, D. Tranel, and S. W. Anderson. 1998. Dissociation of working memory from decision
making within the human prefrontal cortex. J. Neurosci. 18:428–437. In conclusion, our results expand on previous studies
by establishing a relationship between lower white matter
integrity and increased functional activation to an alcohol
taste cue in a sample of heavy drinkers. Discussion y
p
A recent study found that alcohol-dependent partici-
pants had lower gray matter volume of lateral frontal,
medial frontal, and parietal-occipital clusters compared to
healthy control participants and that volume of the med-
ial frontal and parietal-occipital clusters significantly pre-
dicted time to relapse, after controlling for age, IQ, years
of alcohol use, and consumption over the 90 days preced-
ing treatment (Rando et al. 2011). The clusters that pre-
dicted relapse in that study were consistent with the
clusters of BOLD activity in the anterior and posterior
cingulate, precuneus/cuneus, and medial prefrontal cortex
associated with lower FA in our study. These findings
underscore the importance of posterior parietal and
medial frontal gray matter regions and their white matter
connections in regulating neural response to alcohol cues. A strength of this study is its use of multimodal imaging
methods to explore functional correlates of white matter
integrity in problem drinking. Further strengths are the size
of the sample and the variability in participants’ drinking
histories. A major limitation is the inherent inability of
cross-sectional design to establish causal relations between
white matter profiles and cue reactivity. Whether greater
cue reactivity preceded or followed heavy drinking remains
a topic for further investigation. In the absence of a control 166 M. A. Monnig et al. Alcohol Cue Reactivity and Heavy Drinkers oparietal and corticothalamic networks governing reward
salience and self-regulation. group, we cannot infer that relations among white matter
tracts and BOLD activation are unique to the heavy-drink-
ing population. Moreover, although DTI has been instru-
mental in increasing understanding of the brain’s structural
connectivity, its limitations as an indicator of white matter
integrity must be acknowledged. DTI metrics are influ-
enced directly and indirectly by multiple properties of
white matter and surrounding tissue, and research into pre-
cise mechanisms of change in these metrics in humans is
ongoing. In addition, methods such as higher order fitting
to address possible effects of crossing fibers were not used
in this study. Because correction for multiple comparisons
was not highly conservative, interpretation of findings
should be cautious pending replication of these results in
an independent sample. Acknowledgments This project was funded by NIAAA grants 5R01AA012238
and 5R01AA014886 to Hutchison and by NIBIB grant
1R01EB006841 to Calhoun. Monnig was supported by
NIAAA institutional training grant 1T32AA01818-01A
through the Center on Alcoholism, Substance Abuse, and
Addictions (CASAA) in Albuquerque, NM, and by NIA-
AA individual fellowship 1F31AA021631-01. The authors have no conflicts of interest to declare. The authors have no conflicts of interest to declare. Importantly, the cross-sectional design does not speak to
whether individual variability in white matter profiles was a
function of drinking history or a premorbid characteristic. A previous study found lower FA in several regions of
interest shared with this study in alcohol-na€ıve adolescents
with family history of alcohol dependence compared to
healthy control participants (Herting et al. 2010). More-
over, lower FA was significantly related to reduced fronto-
cerebellar functional connectivity (Herting et al. 2011). Taken together with a report of reduced functional connec-
tivity in frontoparietal networks in a study of a similar ado-
lescent sample (Wetherill et al. 2012), it appears that
genetic liability for AUDs may account for a substantial
proportion of variance in neural processing of alcohol cues. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. References Lower white mat-
ter integrity in the context of heavy drinking may entail
dysregulation of neural response to alcohol cues in front- Beck, A., T. W€ustenberg, A. Genauck, J. Wrase, F. Schlagenhauf, M. N. Smolka, et al. 2012. Effect of brain
structure, brain function, and brain connectivity on relapse 167 Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. decision making, and reversal. Psychol. Rev. 113: 300–326. doi: 2006-04733-004 [pii] 10.1037/0033-295X.113.2.300 in alcohol-dependent patients. Arch. Gen. Psychiatry
69:842–852. doi: 10.1001/archgenpsychiatry/2011.2026 Giorgio, A., L. Santelli, V. Tomassini, R. Bosnell, S. Smith,
N. De Stefano, et al. 2010. Age-related changes in grey and
white matter structure throughout adulthood. Neuroimage
51:943–951. doi: S1053-8119(10)00274-0 [pii] 10.1016/j. neuroimage.2010.03.004 Claus, E. D., S. W. Ewing, F. M. Filbey, A. Sabbineni, and
K. E. Hutchison. 2011. Identifying neurobiological
phenotypes associated with alcohol use disorder severity. Neuropsychopharmacology. doi: npp201199 [pii] 10.1038/
npp.2011.99 Gr€usser, S. M., J. Wrase, S. Klein, D. Hermann, M. N. Smolka
M. Ruf, et al. 2004. Cue-induced activation of the striatum
and medial prefrontal cortex is associated with subsequent
relapse in abstinent alcoholics. Psychopharmacology
175:296–302. doi: 10.1007/s00213-004-1828-4 Cohen, M. X., A. S. Heller, and C. Ranganath. 2005. Functional
connectivity with anterior cingulate and orbitofrontal
cortices during decision-making. Brain Res. Cogn. Brain Res. 23:61–70. doi: 10.1016/j.cogbrainres.2005.01.010 Crews, F. T. 1999. Alcohol and neurodegeneration. CNS Drug
Rev. 5:379–394. Harper, C. G., and J. J. Kril. 1990. Neuropathology of
alcoholism. Alcohol Alcohol. 25:207–216. Crews, F. T., and K. Nixon. 2009. Mechanisms of
neurodegeneration and regeneration in alcoholism. Alcohol
Alcohol. 44:115–127. doi: agn079 [pii] 10.1093/alcalc/agn079 Harris, G. J., S. K. Jaffin, S. M. Hodge, D. Kennedy,
V. S. Caviness, K. Marinkovic, et al. 2008. Frontal white
matter and cingulum diffusion tensor imaging deficits in
alcoholism. Alcohol. Clin. Exp. Res. 32:1001–1013. doi:
ACER661 [pii] 10.1111/j.1530-0277.2008.00661.x Deichmann, R., J. A. Gottfried, C. Hutton, and R. Turner. 2003. Optimized EPI for fMRI studies of the orbitofrontal
cortex. Neuroimage 19:430–441. doi: S1053811903000739
[pii] Heather, N., J. S. Tebbutt, R. P. Mattick, and R. Zamir. 1993. Development of a scale for measuring impaired control over
alcohol consumption: a preliminary report. J. Stud. Alcohol
54:700–709. Fernandez-Lizarbe, S., M. Pascual, and C. Guerri. 2009. Critical role of TLR4 response in the activation of microglia
induced by ethanol. J. Immunol. 183:4733–4744. doi:
jimmunol.0803590 [pii] 10.4049/jimmunol.0803590 Herting, M. M., D. Schwartz, S. H. Mitchell, and B. J. Nagel. 2010. References Delay discounting behavior and white matter
microstructure abnormalities in youth with a family history
of alcoholism. Alcohol. Clin. Exp. Res. 34:1590–1602. doi:
10.1111/j.1530-0277.2010.01244.x Fernandez-Miranda, J. C., A. L. Rhoton, J. Alvarez-Linera,
Y. Kakizawa, C. Choi, and E. P. Oliveira de. 2008a. Three-dimensional microsurgical and tractographic anatomy
of the white matter of the human brain. Neurosurgery, 62(6
Suppl. 3):989–1026, discussion 1026–1028. doi: 10.1227/01. neu.0000333767.05328.49 Herting, M. M., D. Fair, and B. J. Nagel. 2011. Altered
fronto-cerebellar connectivity in alcohol-na€ıve youth with a
family history of alcoholism. Neuroimage 54:2582–2589. doi: 10.1016/j.neuroimage.2010.10.030 Fernandez-Miranda, J. C., A. L. Rhoton, Y. Kakizawa, C. Choi,
and J. Alvarez-Linera. 2008b. The claustrum and its
projection system in the human brain: a microsurgical and
tractographic anatomical study. J. Neurosurg. 108:764–774. doi: 10.3171/JNS/2008/108/4/0764 Hofer, S., and J. Frahm. 2006. Topography of the human
corpus callosum revisited–comprehensive fiber tractography
using diffusion tensor magnetic resonance imaging. Neuroimage 32:989–994. doi: 10.1016/j.neuroimage.2006.05. 044 Filbey, F. M., E. Claus, A. R. Audette, M. Niculescu,
M. T. Banich, J. Tanabe, et al. 2008. Exposure to the taste
of alcohol elicits activation of the mesocorticolimbic
neurocircuitry. Neuropsychopharmacology 33:1391–1401. doi: 1301513 [pii] 10.1038/sj.npp.1301513 Hutchison, K. E. 2010. Substance use disorders: realizing the
promise of pharmacogenomics and personalized medicine. Annu. Rev. Clin. Psychol. 6:577–589. doi: 10.1146/annurev. clinpsy.121208.131441 Filley, C. 2001. The behavioral neurology of white matter. Oxford University Press, New York, NY. Jones, D. K., M. A. Horsfield, and A. Simmons. 1999. Optimal
strategies for measuring diffusion in anisotropic systems by
magnetic resonance imaging. Magn. Reson. Med. 42:515–
525. doi: 10.1002/(SICI)1522-2594(199909)42:3%3c515:
AID-MRM14%3e3.0.CO;2-Q [pii] Fjell, A. M., L. T. Westlye, D. N. Greve, B. Fischl, T. Benner,
A. J. van der Kouwe, et al. 2008. The relationship between
diffusion tensor imaging and volumetry as measures of
white matter properties. Neuroimage 42:1654–1668. doi:
S1053-8119(08)00719-2 [pii] 10.1016/j.neuroimage.2008.06. 005 Jones, D. K., K. F. Christiansen, R. J. Chapman, and J. P. Aggleton. 2013. Distinct subdivisions of the cingulum
bundle revealed by diffusion MRI fibre tracking:
implications for neuropsychological investigations. Neuropsychologia 51:67–78. doi: 10.1016/j.neuropsychologia. 2012.11.018 Fortin, D., C. Aubin-Lemay, A. Bore, G. Girard, J. C. Houde,
K. Whittingstall, et al. 2012. Tractography in the study of
the human brain: a neurosurgical perspective. Can. J. Neurol. Sci. 39:747–756. Kalivas, P. W., and N. D. Volkow. 2005. The neural basis of
addiction: a pathology of motivation and choice. Am. J. Frank, M. J., and E. D. Claus. 2006. References Anatomy of a decision:
striato-orbitofrontal interactions in reinforcement learning, 168 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Alcohol Cue Reactivity and Heavy Drinkers Alcohol Cue Reactivity and Heavy Drinkers M. A. Monnig et al. Psychiatry 162:1403–1413. doi: 162/8/1403 [pii] 10.1176/
appi.ajp.162.8.1403 Oscar-Berman, M., and K. Marinkovic. 2007. Alcohol: effects
on neurobehavioral functions and the brain. Neuropsychol. Rev. 17:239–257. doi: 10.1007/s11065-007-9038-6 Konrad, A., G. Vucurevic, M. Lorscheider, N. Bernow, M. Th€ummel, C. Chai, et al. 2012. Broad disruption of brain
white matter microstructure and relationship with
neuropsychological performance in male patients with severe
alcohol dependence. Alcohol Alcohol. 47:118–126. doi:
agr157 [pii] 10.1093/alcalc/agr157 Pascual, M., P. Bali~no, S. Alfonso-Loeches, C. M. Aragon, and
C. Guerri. 2011. Impact of TLR4 on behavioral and
cognitive dysfunctions associated with alcohol-induced
neuroinflammatory damage. Brain Behav. Immun. 25(Suppl. 1):S80–S91. doi: S0889-1591(11)00062-6 [pii] 10.1016/j.bbi. 2011.02.012 Koob, G. F. 2006. The neurobiology of addiction: a
neuroadaptational view relevant for diagnosis. Addiction 101
(Suppl. 1):23–30. doi: ADD1586 [pii] 10.1111/j.1360-0443. 2006.01586.x Pfefferbaum, A., and E. V. Sullivan. 2005. Disruption of brain
white matter microstructure by excessive intracellular and
extracellular fluid in alcoholism: evidence from diffusion
tensor imaging. Neuropsychopharmacology 30:423–432. doi:
1300623 [pii] 10.1038/sj.npp.1300623 Koob, G. F., and N. D. Volkow. 2010. Neurocircuitry of
addiction. Neuropsychopharmacology 35:217–238. doi:
npp2009110 [pii] 10.1038/npp.2009.110 Pfefferbaum, A., E. V. Sullivan, M. Hedehus, E. Adalsteinsson,
K. O. Lim, and M. Moseley. 2000. In vivo detection and
functional correlates of white matter microstructural
disruption in chronic alcoholism. Alcohol. Clin. Exp. Res. 24:1214–1221. Kril, J. J., and G. M. Halliday. 1999. Brain shrinkage in
alcoholics: a decade on and what have we learned? Prog. Neurobiol. 58:381–387. doi: S0301-0082(98)00091-4 [pii] Lewohl, J. M., L. Wang, M. F. Miles, L. Zhang, P. R. Dodd,
and R. A. Harris. 2000. Gene expression in human
alcoholism: microarray analysis of frontal cortex. Alcohol. Clin. Exp. Res. 24:1873–1882. Pfefferbaum, A., M. Rosenbloom, K. L. Serventi, and E. V. Sullivan. 2002. Corpus callosum, pons, and cortical white
matter in alcoholic women. Alcohol. Clin. Exp. Res. 26:400–
406. Ling, J., F. Merideth, A. Caprihan, A. Pena, T. Teshiba, and A. R. Mayer. 2012. Head injury or head motion? Assessment
and quantification of motion artifacts in diffusion tensor
imaging studies. Hum. Brain Mapp. 33:50–62. doi: 10.1002/
hbm.21192 Pfefferbaum, A., E. Adalsteinsson, and E. V. Sullivan. 2006. Dysmorphology and microstructural degradation of the
corpus callosum: interaction of age and alcoholism. Neurobiol. Aging 27:994–1009. References Monnig et al. M. A. Monnig et al. abstinent alcoholics. Brain Imaging Behav. 3:379–390. doi:
10.1007/s11682-009-9080-5 Substance Abuse and Mental Health Services Administration. 2010. Results from the 2009 National Survey on Drug Use
and Health: Volume I. Summary of National Findings. Office of Applied Studies, NSDUH Series H-38A, HHS
Publication No. SMA 10-4856 Findings, Rockville, MD. Schacht, J. P., R. F. Anton, and H. Myrick. 2013. Functional
neuroimaging studies of alcohol cue reactivity: a
quantitative meta-analysis and systematic review. Addict. Biol. 18:121–133. doi: 10.1111/j.1369-1600.2012.00464.x Substance Abuse and Mental Health Services Administration. 2012. Results from the 2011 National Survey on Drug Use
and Health: Summary of National Findings. NSDUH Series
H-44, HHS Publication No. (SMA) 12-4713. Substance
Abuse and Mental Health Services Administration,
Rockville, MD. Schmahmann, J. D., E. E. Smith, F. S. Eichler, and C. M. Filley. 2008. Cerebral white matter: neuroanatomy, clinical
neurology, and neurobehavioral correlates. Ann. N. Y. Acad. Sci. 1142:266–309. doi: 10.1196/annals.1444.017 Schulte, T., E. M. M~uller-Oehring, A. Pfefferbaum, and E. V. Sullivan. 2010. Neurocircuitry of emotion and cognition in
alcoholism: contributions from white matter fiber
tractography. Dialogues Clin. Neurosci. 12:554–560. Sullivan, J. T., K. Sykora, J. Schneiderman, C. A. Naranjo, and
E. M. Sellers. 1989. Assessment of alcohol withdrawal: the
revised clinical institute withdrawal assessment for alcohol
scale (CIWA-Ar). Br. J. Addict. 84:1353–1357. Skinner, H. A., and J. L. Horn. 1984. Alcohol dependence scale:
users guide. Addiction Research Foundation, Toronto, ON. scale (CIWA-Ar). Br. J. Addict. 84:1353–1357. Trivedi, R., D. Bagga, D. Bhattacharya, P. Kaur, P. Kumar,
S. Khushu, et al. 2013. White matter damage is associated
with memory decline in chronic alcoholics: a quantitative
diffusion tensor tractography study. Behav. Brain Res. 250:192–198. doi: 10.1016/j.bbr.2013.05.001 Smith, S. M., M. Jenkinson, H. Johansen-Berg, D. Rueckert,
T. E. Nichols, C. E. Mackay, et al. 2006. Tract-based spatial
statistics: voxelwise analysis of multi-subject diffusion data. Neuroimage 31:1487–1505. Sobell, L. C., and M. B. Sobell. 1992. Timeline followback: a
technique for assessing self-reported alcohol consumption. Pp. 55–73 in J. P. Allen and M. Columbus, eds. Assessing
alcohol problems: a guide for clinicians and researchers. National Institute on Alcohol Abuse and Alcoholism,
Bethesda, MD. Volkow, N. D., J. S. Fowler, G. J. Wang, and R. Z. Goldstein
2002. Role of dopamine, the frontal cortex and memory
circuits in drug addiction: insight from imaging studies. Neurobiol. Learn. Mem. 78:610–624. doi:
S1074742702940992 [pii] Wakana, S., A. Caprihan, M. M. Panzenboeck, J. H. References doi: S0197-4580(05)00121-1
[pii] 10.1016/j.neurobiolaging.2005.05.007 Liu, J., J. M. Lewohl, R. A. Harris, P. R. Dodd, and R. D. Mayfield. 2007. Altered gene expression profiles in the
frontal cortex of cirrhotic alcoholics. Alcohol. Clin. Exp. Res. 31:1460–1466. doi: ACER444 [pii] 10.1111/j.1530-0277. 2007.00444.x Pfefferbaum, A., M. Rosenbloom, T. Rohlfing, and E. V. Sullivan. 2009. Degradation of association and projection
white matter systems in alcoholism detected with
quantitative fiber tracking. Biol. Psychiatry 65:680–690. doi:
S0006-3223(08)01385-1 [pii] 10.1016/j.biopsych.2008.10.039 Michielse, S., N. Coupland, R. Camicioli, R. Carter, P. Seres,
J. Sabino, et al. 2010. Selective effects of aging on brain
white matter microstructure: a diffusion tensor imaging
tractography study. Neuroimage 52:1190–1201. doi:
S1053-8119(10)00726-3 [pii] 10.1016/j.neuroimage.2010.05. 019 Pierpaoli, C., A. Barnett, S. Pajevic, R. Chen, L. R. Penix, A. Virta, et al. 2001. Water diffusion changes in Wallerian
degeneration and their dependence on white matter
architecture. Neuroimage 13:1174–1185. doi:
S1053811901907657 [pii] 10.1006/nimg.2001.0765 Monnig, M. A., A. Caprihan, R. A. Yeo, C. Gasparovic, D. A. Ruhl, P. Lysne, et al. 2012a. Diffusion tensor imaging of
white matter networks in individuals with current and
remitted alcohol use disorders and comorbid conditions. Psychol. Addict. Behav. 27:455–465. Rando, K., K. I. Hong, Z. Bhagwagar, C. S. Li, K. Bergquist,
J. Guarnaccia, et al. 2011. Association of frontal and
posterior cortical gray matter volume with time to alcohol
relapse: a prospective study. Am. J. Psychiatry 168:183–192. doi: 10.1176/appi.ajp.2010.10020233 Rogers, R. D., N. Ramnani, C. Mackay, J. L. Wilson, P. Jezzard, C. S. Carter, et al. 2004. Distinct portions of
anterior cingulate cortex and medial prefrontal cortex are
activated by reward processing in separable phases of
decision-making cognition. Biol. Psychiatry 55:594–602. doi:
10.1016/j.biopsych.2003.11.012 Monnig, M. A., J. S. Tonigan, R. A. Yeo, R. J. Thoma, and
B. S. McCrady. 2012b. White matter volume in alcohol use
disorders: a meta-analysis. Addict. Biol. doi: 10.1111/j. 1369-1600.2012.00441.x Mori, S., S. Wakana, L. M. Nagae-Poetscher, and P. C. M. van Zijl. 2005. MRI Atlas of Human White Matter. Elsevier
Science, Amsterdam. Rosenbloom, M. J., S. A. Sassoon, A. Pfefferbaum, and E. V. Sullivan. 2009. Contribution of regional white matter
integrity to visuospatial construction accuracy,
organizational strategy, and memory for a complex figure in Moselhy, H. F., G. Georgiou, and A. Kahn. 2001. Frontal lobe
changes in alcoholism: a review of the literature. Alcohol
Alcohol. 36:357–368. 169 ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. Alcohol Cue Reactivity and Heavy Drinkers M. A. ª 2013 The Authors. Brain and Behavior published by Wiley Periodicals, Inc. References Fallon,
M. Perry, R. L. Gollub, et al. 2007. Reproducibility of
quantitative tractography methods applied to cerebral
white matter. Neuroimage 36:630–644. Song, S. K., S. W. Sun, M. J. Ramsbottom, C. Chang,
J. Russell, and A. H. Cross. 2002. Dysmyelination revealed
through MRI as increased radial (but unchanged axial)
diffusion of water. Neuroimage 17:1429–1436. doi:
S105381190291267X [pii] Wetherill, R. R., S. Bava, W. K. Thompson, V. Boucquey,
C. Pulido, T. T. Yang, et al. 2012. Frontoparietal
connectivity in substance-na€ıve youth with and without a
family history of alcoholism. Brain Res. 1432:66–73. doi: 10. 1016/j.brainres.2011.11.013 Song, S. K., S. W. Sun, W. K. Ju, S. J. Lin, A. H. Cross, and
A. H. Neufeld. 2003. Diffusion tensor imaging detects and
differentiates axon and myelin degeneration in mouse optic
nerve after retinal ischemia. Neuroimage 20:1714–1722. doi:
S1053811903004403 [pii] Wiers, R. W., B. D. Bartholow, E. van den Wildenberg,
C. Thush, R. C. Engels, K. J. Sher, et al. 2007. Automatic
and controlled processes and the development of addictive
behaviors in adolescents: a review and a model. Pharmacol. Biochem. Behav. 86:263–283. doi: S0091-3057(06)00323-6
[pii] 10.1016/j.pbb.2006.09.021 Song, S. K., J. Yoshino, T. Q. Le, S. J. Lin, S. W. Sun, A. H. Cross, et al. 2005. Demyelination increases radial diffusivity
in corpus callosum of mouse brain. Neuroimage 26:132–
140. doi: S1053-8119(05)00022-4 [pii] 10.1016/j.neuroimage. 2005.01.028 [pii] 10.1016/j.pbb.2006.09.021
Yeh, P. H., K. Simpson, T. C. Durazzo, S. Gazdzinski, and D. J. Meyerhoff. 2009. Tract-Based Spatial Statistics (TBSS) of
diffusion tensor imaging data in alcohol dependence:
abnormalities of the motivational neurocircuitry. Psychiatry
Res. 173:22–30. doi: S0925-4927(08)00100-5 [pii] 10.1016/j. pscychresns.2008.07.012 Sorg, S. F., M. J. Taylor, O. M. Alhassoon, A. Gongvatana,
R. J. Theilmann, L. R. Frank, et al. 2012. Frontal white
matter integrity predictors of adult alcohol treatment
outcome. Biol. Psychiatry 71:262–268. doi: 10.1016/j. biopsych.2011.09.022 170
|
https://openalex.org/W2966897235
|
http://cds.cern.ch/record/2676242/files/scoap3-fulltext.pdf
|
English
| null |
Search for Higgs and Z boson decays to J/ψ or Y pairs in the four-muon final state in proton-proton collisions at <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" altimg="si1.svg"><mml:msqrt><mml:mrow><mml:mi>s</mml:mi></mml:mrow></mml:msqrt><mml:mo linebreak="goodbreak" linebreakstyle="after">=</mml:mo><mml:mn>13</mml:mn><mml:mspace width="0.2em" /><mml:mtext>TeV</mml:mtext></mml:math>
|
Physics letters. B
| 2,019
|
cc-by
| 16,780
|
1. Introduction A new boson with a mass of 125 GeV was discovered by the
ATLAS and CMS Collaborations at the CERN LHC in 2012 [1–7]. Comprehensive studies in various decay channels and production
modes have shown that the properties of the new boson are con-
sistent, so far, with expectations for the standard model (SM) Higgs
boson (H) [7–9]. Recently, the Higgs boson couplings to top and
bottom quarks have been directly measured [10–13]. Couplings to
lighter quarks are still not observed directly. Rare exclusive decays
of the Higgs boson to mesons provide experimentally clean final
states to study Yukawa couplings to quarks and physics beyond
the SM (BSM). Examples of diagrams for decays of the Higgs and
Z boson into quarkonium pairs are shown in Fig. 1. The symbol Q
refers to charmonium and bottomonium states. With emphasis on amplitudes where the Higgs boson couples
indirectly to the final state mesons, such as represented by the
two leftmost diagrams in Fig. 1, Ref. [14] arrives at values of about
B(H →J/ψJ/ψ) = 1.5 × 10−10 and B(H →YY) = 2 × 10−9. The
mechanism where the Higgs boson couples directly to charm or
bottom quarks, which then hadronize to heavy quarkonia, was
considered in a recent calculation [24] leading to an increase of
an order of magnitude in B(H →J/ψγ). The Higgs boson decay
to the J/ψ pair could also occur when the photon in the J/ψγ
decay is virtual and transforms into a J/ψ meson. Recently, the
decay H →J/ψγ has been searched for by the ATLAS and CMS
collaborations [25,26]. This Letter also presents the first search
for decays of the Z boson into quarkonium pairs. Feynman dia-
grams are shown in Fig. 1 (two rightmost plots). The SM predic-
tion for B(Z →J/ψJ/ψ) calculated in the framework of nonrela-
tivistic QCD and leading twist light cone models is of the order
of 10−12 [27]. Several approximations for the non-perturbative
QCD processes are used, including the restriction to color-singlet
quarkonium states. The importance of the measurement of such decays has been
pointed out by Ref. [15–18]. Using a phenomenological approach
for the direct H-qq coupling, Ref. [15] finds that the dominant
quarkonium pair decay mode is H →YY with an estimated branch-
ing fraction (B) at the level of 10−5. www.elsevier.com/locate/physletb Search for Higgs and Z boson decays to J/ψ or Y pairs in the
four-muon final state in proton-proton collisions at √
s = 13 TeV a r t i c l e
i n f o Article history:
Received 24 May 2019
Received in revised form 23 July 2019
Accepted 25 July 2019
Available online 30 July 2019
Editor: M. Doser
Keywords:
CMS
Standard model physics
Higgs boson
Z boson
Rare decays Article history:
Received 24 May 2019
Received in revised form 23 July 2019
Accepted 25 July 2019
Available online 30 July 2019
Editor: M. Doser
Keywords:
CMS
Standard model physics
Higgs boson
Z boson
Rare decays A search for decays of the Higgs and Z boson to pairs of J/ψ or Y(nS) (n = 1, 2, 3) mesons, with their
subsequent decay to μ+μ−pairs, is presented. The analysis uses data from proton-proton collisions at
√
s = 13 TeV, collected with the CMS detector at the LHC in 2017 and corresponding to an integrated
luminosity of 37.5 fb−1. While an observation of such a decay with this sample would indicate the
presence of physics beyond the standard model, no significant excess is observed. Upper limits at 95%
confidence level are placed on the branching fractions of these decays. In the J/ψ pair channel, the limits
are 1.8 × 10−3 and 2.2 × 10−6 for the Higgs and Z boson, respectively, while in the combined Y(nS) pair
channel, the limits are 1.4 × 10−3 and 1.5 × 10−6, respectively, when the mesons from the Higgs and
Z boson decay are assumed to be unpolarized. When fully longitudinal and transverse polarizations are
considered the limits reduce by about 22–29% and increase by about 10–13%, respectively. © 2019 The Author(s). Published by Elsevier B.V. This is an open access article under the CC BY license
(http://creativecommons.org/licenses/by/4.0/). Funded by SCOAP3. Article history:
Received 24 May 2019
Received in revised form 23 July 2019
Accepted 25 July 2019
Available online 30 July 2019
Editor: M. Doser © 2019 The Author(s). Published by Elsevier B.V. This is an open access article under the CC BY license
(http://creativecommons.org/licenses/by/4.0/). Funded by SCOAP3. increases by an order of magnitude [19–21] when these effects are
included, in agreement with measurements by the Belle and BaBar
experiments [22,23]. Search for Higgs and Z boson decays to J/ψ or Y pairs in the
four-muon final state in proton-proton collisions at √
s = 13 TeV .The CMS Collaboration ⋆ CERN, Switzerland CERN, Switzerland ⋆E-mail address: cms -publication -committee -chair @cern .ch. Physics Letters B 797 (2019) 134811 Physics Letters B 797 (2019) 134811 ⋆E-mail address: cms -publication -committee -chair @cern .ch.
p
p
y
p
substantial modifications of the Yukawa couplings of the Higgs
https://doi.org/10.1016/j.physletb.2019.134811
0370-2693/© 2019 The Author(s). Published by Elsevier B.V. This is an open access article under the CC BY license (http://creativecommons.org/licenses/by/4.0/). Funded by
SCOAP3. ed by Elsevier B.V. This is an open access article under the CC BY license (http://creativecommons.org/licenses/by/4.0/). Funded by 1. Introduction The early calculations of
Higgs boson decays into a pair of heavy quarkonia states did not
include relativistic corrections caused by the internal motion of
quarks [14]. The importance of the latter corrections is under-
lined by the fact that the predicted e+e−→J/ψηc cross section New physics could affect the direct boson couplings or could
enter through loops, and alter the interference pattern between the
amplitudes. Any of those possibilities enhance branching fractions
with respect to the SM predictions. Many BSM theories predict
substantial modifications of the Yukawa couplings of the Higgs The CMS Collaboration / Physics Letters B 797 (2019) 134811 2 Fig. 1. Feynman diagrams for H →QQ and Z →QQ with Q = charmonium or bottomonium states. In the two leftmost diagrams [14], the virtual particles are Z bosons. The
center-right diagram depicts indirect processes in the case where the flavor of the quark q in the loop is top, and direct processes in the case where it is charm or bottom. The other virtual particles are either photons or gluons. In the latter case additional soft-gluon exchange occurs. The rightmost diagram shows direct processes for the Higgs
or Z bosons. Fig. 1. Feynman diagrams for H →QQ and Z →QQ with Q = charmonium or bottomonium states. In the two leftmost diagrams [14], the virtual particles are Z bosons. The
center-right diagram depicts indirect processes in the case where the flavor of the quark q in the loop is top, and direct processes in the case where it is charm or bottom. The other virtual particles are either photons or gluons. In the latter case additional soft-gluon exchange occurs. The rightmost diagram shows direct processes for the Higgs
or Z bosons. consists of a farm of processors running a version of the full event
reconstruction software optimized for fast processing, and reduces
the event rate to around 1 kHz before data storage. boson to quarks, such as models with Higgs-dependent Yukawa
couplings [28], the minimal flavor violation framework [29], the
Froggatt–Nielsen mechanism [30], and the Randall–Sundrum fam-
ily of models [31]. An overview of models can be found in Ref. [32]. 2. The CMS detector A detailed description of the CMS detector, together with a def-
inition of the coordinate system used and the relevant kinematic
variables, can be found in Ref. [33]. The central feature of the CMS
apparatus is a superconducting solenoid, 13 m in length and 6 m
in internal diameter, providing an axial magnetic field of 3.8 T. Within the solenoid volume are a silicon pixel and strip tracker,
a lead tungstate crystal electromagnetic calorimeter, and a brass
and scintillator hadron calorimeter, each composed of a barrel and
two endcap sections. Forward calorimeters extend the pseudora-
pidity (η) coverage provided by the barrel and endcap detectors. Muons are detected in gas-ionization chambers embedded in the
steel flux-return yoke outside the solenoid. They are measured in
the range |η| < 2.4, with detection planes made using three tech-
nologies: drift tubes, cathode strip chambers, and resistive-plate
chambers. The Z →J/ψJ/ψ and Z →YY samples are produced with the
pythia 8.226 generator [42], tune CUETP8M1 [43]. The SM Z boson
production cross section includes the next-to-next-to-leading order
(NNLO) QCD contributions, and the next-to-leading order (NLO)
electroweak corrections from fewz 3.1 [44] calculated using the
NLO PDF set NNPDF3.0. The Z boson pT is reweighted to match
the NLO calculation [37,38,45]. The total cross section is obtained
with the B(Z →μ+μ−) value from Ref. [46]. An entirely new pixel detector has been installed after 2016,
featuring an all-silicon device with four layers in the barrel and
three disks in the endcaps [34], providing four pixel detector mea-
surements. Reduced material budget in front of the calorimeters
was achieved with two-phase CO2 cooling and light-weight me-
chanical support, and moving the electronic boards and connec-
tions out of the tracking volume. In the J/ψ and Y pair channels backgrounds are assumed to
originate from prompt nonresonant pair production, which in pp
collisions dominantly occurs via ggF [47–50]. Initially, the two
mesons are color-octet bound states that then radiate soft gluons
to become real mesons. Event samples are generated according to
this model [49]. Events of interest are selected using a two-tiered trigger sys-
tem [35]. The first level, composed of custom hardware processors,
uses information from the calorimeters and muon detectors to se-
lect events at a rate of around 100 kHz within a time interval of
less than 4 μs. 3. Signal and background modeling Simulated samples of the Higgs and Z boson signals are used
to estimate the expected signal yields and model the distribu-
tion of signal events in the four-muon invariant mass. For the
H →J/ψJ/ψ and H →YY samples the Higgs boson is produced
with the powheg v2.0 Monte Carlo (MC) event generator [37,38],
which includes the gluon-gluon fusion (ggF) and vector-boson fu-
sion production processes. The parton distribution function (PDF)
set used is NNPDF3.1 [39]. The JHUGen 7.1.4 generator [40,41] is
used to decay the Higgs boson into two vector mesons taking
into account their helicity. To produce the decay for unpolarized
quarkonia, the JHUGen generator is configured to model a uni-
form muon helicity angle distribution. The generator is interfaced
with pythia 8.226 [42] for parton-showering and hadronization ac-
cording to the CUETP8M1 [43] tune. The total SM Higgs boson
production cross section for the calculation of branching fractions
is taken from the LHC Higgs cross section working group [32]. 1. Introduction In the related quarkonium–γ channels, deviations of the H-qq cou-
plings from the SM predictions can change the interference be-
tween direct and indirect amplitudes, resulting in substantial mod-
ifications of the branching fractions, particularly in the Y channel,
where the increase is up to several orders of magnitude [24]. The
observation of a Higgs or Z boson signal in the quarkonium pair
decay modes with the available LHC data sets would indicate the
presence of BSM physics. Dedicated triggers were deployed in 2017 to enhance the selec-
tion of events of interest for the present study. They require the
presence of at least three muons with pT greater than 2 GeV. Two
of these must be oppositely charged and have to originate from a
common vertex with a probability greater than 0.5%, as determined
by a Kalman vertex fit [36], thus suppressing random combinations
of two muons. The J/ψ-specific trigger requires a dimuon system’s
invariant mass to be between 2.95 and 3.25 GeV and its pT to be
greater than 3.5 GeV. The trigger used to select the Y sample re-
quires two of the three muons to have pT greater than 3.5 GeV,
and one muon pT greater than 5 GeV. The invariant mass for one
oppositely charged muon pair must lie in the interval 8.5–11.4 GeV. Both triggers gave an efficiency exceeding 85% to select events sat-
isfying the selection criteria used in the analysis. This Letter presents the first search for the Higgs and Z boson
decays into J/ψ or Y meson pairs, where Y stands for the combined
contribution of the Y(nS) states with n = 1, 2, 3. The subsequent
decay of these meson pairs to the 4μ final state offers a very clean
experimental signature that is used in this analysis. For the J/ψ
meson pairs, feed-down from higher charmonium states are not
taken into account. For the Y(nS) meson pairs, decays from higher
to lower mass Y(nS) states are included. The results presented in
this Letter are based on proton-proton (pp) collision data recorded
in 2017 with the CMS detector at a center-of-mass energy of √
s =
13 TeV, amounting to an integrated luminosity of 37.5 fb−1. 2. The CMS detector The second level, known as the high-level trigger, The generated events are processed through a detailed simula-
tion of the CMS detector based on Geant4 [51]. The high instan-
taneous luminosity of the LHC results in multiple pp interactions The CMS Collaboration / Physics Letters B 797 (2019) 134811 3 Fig. 2. The four-muon invariant mass distributions, for J/ψJ/ψ (left) and YY (right) candidates (error bars for zero entries are omitted). The result of the maximum likelihood
fit is superimposed (solid blue line). For illustrative purposes, the plots also show the distributions for simulated Higgs and Z boson signals (dashed red lines), each normalized
to two events. Fig. 2. The four-muon invariant mass distributions, for J/ψJ/ψ (left) and YY (right) candidates (error bars for zero entries are omitted). The result of the maximum likelihood
fit is superimposed (solid blue line). For illustrative purposes, the plots also show the distributions for simulated Higgs and Z boson signals (dashed red lines), each normalized
to two events. (longitudinal axis). Events with at least four such muons with
pT > 3 GeV and |η| < 2.4 are accepted. To isolate the leading muon
candidate from other hadronic activity in the event, a cone of size
R =
√
(η)2 + (φ)2 = 0.3 is constructed around its momentum
direction, where φ is the azimuthal angle in radians. The sum of
the pT of the reconstructed inner-detector tracks originating from
the primary pp interaction vertex within the cone has to be less
than 50% of the muon’s pT. The transverse momentum of the lead-
ing muon is subtracted from the sum and the subleading muon pT
is also subtracted, if this muon falls within the isolation cone of
the leading muon. per bunch crossing. Simultaneous pp interactions that overlap with
the event of interest, i.e. pileup, are included in simulated samples. The distribution of the number of additional interactions per event
in simulation corresponds to that observed in the data, where the
average pileup number is found to be 32. The acceptance of the final states changes with the angular
distribution of the muons in the quarkonium decay. The distri-
bution of the decay angle θ, defined as the angle between the
positive muon direction of flight in the rest frame of the quarko-
nium with respect to the quarkonium direction in the boson rest
frame, is proportional to (1 + λθ cos2 θ). 4. Data reconstruction and selection Muons are reconstructed by combining information from the
silicon tracker and the muon system [52]. The matching between
tracks reconstructed in each of the subsystems proceeds either
outside-in, starting from a track in the muon system, or inside-out,
starting from a track provided by the silicon tracker. In the latter
case, tracks that match track segments in only one or two stations
of the muon system are also considered in the analysis to collect
very low-pT muons that may not have sufficient energy to pen-
etrate the entire muon system. The muons are selected from the
reconstructed muon track candidates that match with at least one
segment in any muon station in both x and y. The number of sili-
con tracker layers with hits used in the muon track candidate has
to be greater than 5 and include at least one pixel detector layer. Matching muons to tracks measured in the silicon tracker results
in a relative transverse momentum (pT) resolution of 1% in the
barrel and 3% in the endcaps for muons with pT up to 100 GeV. The pT resolution in the barrel is better than 7% for muons with
pT up to 1 TeV [52]. For the selection of Y pair candidates, the same event selec-
tion criteria are applied, except that the Y candidate pT has to be
greater than 5 GeV, and the invariant mass has to fall within the
range 8.5–11 GeV. Furthermore, the four-muon Kalman vertex fit
probability has to be greater than 1% to suppress random combi-
nations. The nonprompt background is negligible in this channel. After applying the selections, 106 events are found in data in the
20–140 GeV four-muons invariant mass range. Fig. 2 (right) shows
the four-muon invariant mass distribution. The differences in efficiencies between data and simulation for
the trigger, offline muon reconstruction, identification, and iso-
lation are corrected by reweighting the simulated events with
data-to-simulation correction factors, which are obtained with the
“tag-and-probe” method [53] using J/ψ →μ+μ−events. The scale
correction factors are observed to deviate from unity by less than
3%. The difference in the four-muon Kalman vertex fit efficiency
between data and simulation is evaluated with J/ψ pair event The reconstructed vertex with the largest value of summed
charged particle p2
T is taken to be the primary pp interaction ver-
tex. 2. The CMS detector In this Letter, the nom-
inal results are obtained using a signal acceptance calculated for
the unpolarized case (λθ = 0). Two extreme scenarios have also
been considered, where the J/ψ and Y mesons are either fully
transversely polarized, λθ = +1, or fully longitudinally polarized,
λθ = −1. No azimuthal anisotropies have been considered. Accord-
ing to Refs. [14,27] the J/ψ and Y mesons produced in the decays
of both bosons are expected to be dominantly longitudinally polar-
ized. The J/ψ and Y candidates are built from pairs of oppositely
charged muons. Each muon pair must fit to their common vertex
with a probability greater than 0.5%. The J/ψ candidate’s pT has to
be greater than 3.5 GeV, matching the trigger requirement, and the
invariant masses of the higher and lower-pT J/ψ candidates have
to be within 0.1 and 0.15 GeV, respectively, of the nominal mass
of the J/ψ. The dimuon mass resolution is about 30 MeV. The mass
window of the subleading J/ψ is wider to allow further monitoring
of the sideband population. To suppress contributions from non-
prompt hadrons, separately produced J/ψs and muons from other
sources, the four-muon Kalman vertex fit probability of J/ψ pairs
has to be greater than 5%. Finally, the absolute value of the dif-
ference in rapidity between the two J/ψ candidates has to be less
than 3. This criterion marginally affects the signal while removing
about 20% of the selected events. After the selection, 189 events
are found in data in the 40–140 GeV four-muon invariant mass
range. Fig. 2 (left) shows the four-muon invariant mass distribu-
tion. 6. Summary In summary, this Letter presents the first search for decays of
the Higgs and Z boson to pairs of J/ψ or Y(nS) (n = 1, 2, 3)
mesons, with their subsequent decay to μ+μ−pairs. Data from pp
collisions at √
s = 13 TeV, corresponding to an integrated luminos-
ity of 37.5 fb−1 are used. No excess has been observed above a
small background in the J/ψ pair and with vanishingly small back-
ground in the Y pair channels. The observed upper limits at 95%
confidence level on the branching fractions for the Higgs boson de-
cays for unpolarized mesons are B(H →J/ψJ/ψ) < 1.8 × 10−3 and
B(H →YY) < 1.4 ×10−3. The observed upper limits on the branch-
ing fractions for the Z boson decay in the unpolarized scenario are
B(Z →J/ψJ/ψ) < 2.2 × 10−6 and B(Z →YY) < 1.5 × 10−6, where
all three Y(nS) states are considered. Extreme polarization scenar-
ios give rise to variations in the observed boson decay branch-
ing fractions between −(22–29)% for fully longitudinally polarized
J/ψ and Y mesons and +(10–13)% for fully transversely polarized
mesons. This analysis is expected to motivate renewed calculations
of the Higgs boson branching fractions for rare standard model
decays, as only a few positive signal events would indicate the
presence of physics beyond the standard model. The four-muon invariant mass distribution up to 140 GeV is
described by an exponential plus constant function. The relative
contribution and decay constant of the exponential function are
varied in the fit to data. The values of both parameters are found
to be in close agreement between observation and simulation [49]. The result of the fit is shown as a solid blue line in Fig. 2 (left). In the Y pair sample, no events are observed above the four-
muon invariant mass of 40 GeV. The four-muon invariant mass
distribution is modeled analogously to the J/ψ pair channel. The
M4μ distribution below 40 GeV is well described by an exponen-
tial function. The decay constant of the exponential function is also
varied in the fit. The same function describes an event sample gen-
erated with the pair production model [49]. Fig. 2 (right) shows the
observed M4μ distribution with the fit superimposed. μ
Given the absence of a signal for either of the bosons, up-
per limits on the branching fractions are obtained. Acknowledgements We congratulate our colleagues in the CERN accelerator depart-
ments for the excellent performance of the LHC and thank the
technical and administrative staffs at CERN and at other CMS in-
stitutes for their contributions to the success of the CMS effort. In addition, we gratefully acknowledge the computing centers and
personnel of the Worldwide LHC Computing Grid for delivering so
effectively the computing infrastructure essential to our analyses. Finally, we acknowledge the enduring support for the construc-
tion and operation of the LHC and the CMS detector provided by
the following funding agencies: BMBWF and FWF (Austria); FNRS
and FWO (Belgium); CNPq, CAPES, FAPERJ, FAPERGS, and FAPESP
(Brazil); MES (Bulgaria); CERN; CAS, MOST, and NSFC (China);
COLCIENCIAS (Colombia); MSES and CSF (Croatia); RPF (Cyprus);
SENESCYT (Ecuador); MoER, ERC IUT, PUT and ERDF (Estonia);
Academy of Finland, MEC, and HIP (Finland); CEA and CNRS/IN2P3
(France); BMBF, DFG, and HGF (Germany); GSRT (Greece); NK-
FIA (Hungary); DAE and DST (India); IPM (Iran); SFI (Ireland);
INFN (Italy); MSIP and NRF (Republic of Korea); MES (Latvia); LAS
(Lithuania); MOE and UM (Malaysia); BUAP, CINVESTAV, CONACYT,
LNS, SEP, and UASLP-FAI (Mexico); MOS (Montenegro); MBIE (New
Zealand); PAEC (Pakistan); MSHE and NSC (Poland); FCT (Portu-
gal); JINR (Dubna); MON, ROSATOM, RAS, RFBR, and NRC KI (Rus-
sia); MESTD (Serbia); SEIDI, CPAN, PCTI, and FEDER (Spain); MoSTR
(Sri Lanka); Swiss Funding Agencies (Switzerland); MST (Taipei);
ThEPCenter, IPST, STAR, and NSTDA (Thailand); TUBITAK and TAEK
(Turkey); NASU and SFFR (Ukraine); STFC (United Kingdom); DOE
and NSF (USA). The value for B(J/ψ →μ+μ−) is taken from Ref. [46]. This
analysis does not distinguish between the three Y(nS) states. To
calculate their contribution to the corresponding H and Z boson
branching fraction the coupling strength of the bosons to any Y(nS)
pairing is assumed to be the same. All Y states can directly de-
cay into muon pairs with the different branching fractions taken
from Ref. [46]. In addition, it is assumed that one of the Y states
could be the result of a transition Y(3S) →Y(2S), Y(3S) →Y(1S),
or Y(2S) →Y(1S) before decaying into muons [46]. The observed and median expected exclusion limits for the
branching fractions at 95% confidence level (CL) for the H and Z
boson decays are listed in Table 1. Table 1 Exclusion limits at 95% CL for the branching fractions of the H and Z boson decays
to J/ψ or Y mesons pairs. The second column lists the observed limits. The third
column shows the median expected limits with the upper and lower bounds in the
expected 68% CL intervals. Process
Observed
Expected
B(H →J/ψJ/ψ)
1.8 × 10−3
(1.8+0.2
−0.1) × 10−3
B(H →YY)
1.4 × 10−3
(1.4 ± 0.1) × 10−3
B(Z →J/ψJ/ψ)
2.2 × 10−6
(2.8+1.2
−0.7) × 10−6
B(Z →YY)
1.5 × 10−6
(1.5 ± 0.1) × 10−6 6. Summary They are set
by using the modified frequentist approach, CLs, with the profile
likelihood ratio as a test statistic [55–57]. The uncertainties affect-
ing the signal yields include the contributions from the luminosity
measurement [58], the corrections applied to the simulated events
in order to compensate for differences in trigger, muon reconstruc-
tion and identification efficiencies, momentum scale and resolution
of muon candidates, and four-muon vertex fit. Sources for theoret-
ical uncertainties are the QCD coupling and PDF choice [32,39,59],
and the renormalization and factorization scale choice [59–62]. The
uncertainties in the J/ψ and Y branching fractions to muon pairs
are taken from Ref. [46]. The relative impact of the systematic un-
certainties on the upper limits is less than 2% in all channels. 5. Results Unbinned extended maximum-likelihood fits [54] to the four-
muon invariant mass distributions M4μ are performed. Yields for
signals and backgrounds are free parameters in the fit. For the
Higgs boson the invariant mass distribution obtained from simu-
lation is described with two Gaussian functions with a common
mean. The simulated Z signal is described with a Voigtian function
with the world-average value for the resonance width [46]. The
mass resolution and mean are taken from the fit to the simulation,
and they are fixed in the fit to data. 4. Data reconstruction and selection To suppress muons originating from nonprompt hadron de-
cays, the impact parameter of each muon track, computed with
respect to the position of the primary pp interaction vertex, is
required to be less than 0.3 (20.0) cm in the transverse plane The CMS Collaboration / Physics Letters B 797 (2019) 134811 4 samples and found to be less than 3%. The total signal efficiency,
including kinematic acceptance, trigger, reconstruction, identifica-
tion, and isolation efficiencies, for the J/ψJ/ψ decays with unpolar-
ized J/ψ is approximately 23% for both bosons. For the YY decays
the corresponding efficiency is about 27%. References [26] CMS Collaboration, Search for rare decays of Z and Higgs bosons to J/ψ and a
photon in proton-proton collisions at √
s = 13 TeV, Eur. Phys. J. C 79 (2019)
94, https://doi .org /10 .1140 /epjc /s10052 -019 -6562 -5, arXiv:1810 .10056. [1] ATLAS Collaboration, Observation of a new particle in the search for the Stan-
dard Model Higgs boson with the ATLAS detector at the LHC, Phys. Lett. B 716
(2012) 1, https://doi .org /10 .1016 /j .physletb .2012 .08 .020, arXiv:1207.7214. [27] A.K. Likhoded, A.V. Luchinsky, Double charmonia production in exclusive Z
boson decays, Mod. Phys. Lett. A 33 (2018) 1850078, https://doi .org /10 .1142 /
S0217732318500785, arXiv:1712 .03108. [2] ATLAS Collaboration, Evidence for the spin-0 nature of the Higgs boson us-
ing ATLAS data, Phys. Lett. B 726 (2013) 120, https://doi .org /10 .1016 /j .physletb . 2013 .08 .026, arXiv:1307.1432. [28] G.F. Giudice, O. Lebedev, Higgs-dependent Yukawa couplings, Phys. Lett. B 665
(2008) 79, https://doi .org /10 .1016 /j .physletb .2008 .05 .062, arXiv:0804 .1753. [3] CMS Collaboration, Observation of a new boson at a mass of 125 GeV with
the CMS experiment at the LHC, Phys. Lett. B 716 (2012) 30, https://doi .org /10 . 1016 /j .physletb .2012 .08 .021, arXiv:1207.7235. [29] G. D’Ambrosio, G.F. Giudice, G. Isidori, A. Strumia, Minimal flavour violation:
an effective field theory approach, Nucl. Phys. B 645 (2002) 155, https://doi . org /10 .1016 /S0550 -3213(02 )00836 -2, arXiv:hep -ph /0207036. [4] CMS Collaboration, Observation of a new boson with mass near 125 GeV in pp
collisions at √
s = 7 and 8 TeV, J. High Energy Phys. 06 (2013) 081, https://
doi .org /10 .1007 /JHEP06(2013 )081, arXiv:1303 .4571. [30] C.D. Froggatt, H.B. Nielsen, Hierarchy of quark masses, Cabibbo angles and CP
violation, Nucl. Phys. B 147 (1979) 277, https://doi .org /10 .1016 /0550 -3213(79 )
90316 -X. [5] CMS Collaboration, Precise determination of the mass of the Higgs boson and
tests of compatibility of its couplings with the standard model predictions us-
ing proton collisions at 7 and 8 TeV, Eur. Phys. J. C 75 (2015) 212, https://
doi .org /10 .1140 /epjc /s10052 -015 -3351 -7, arXiv:1412 .8662. [31] L. Randall, R. Sundrum, Large mass hierarchy from a small extra dimension,
Phys. Rev. Lett. 83 (1999) 3370, https://doi .org /10 .1103 /PhysRevLett .83 .3370. [32] D. de Florian, C. Grojean, F. Maltoni, C. Acknowledgements The relative changes in the upper limits on the Higgs boson de-
cay branching fractions with respect to the case of unpolarized de-
cay mesons are about −22% for fully longitudinally polarized J/ψ
and Y mesons, and +10% for fully transversely polarized mesons. For the Z boson the relative changes are about −29 (−26)% for
fully longitudinally polarized J/ψ (Y) mesons and +13 (+12)% for
fully transversely polarized mesons. The CMS Collaboration / Physics Letters B 797 (2019) 134811 5 Individuals have received support from the Marie-Curie pro-
gram and the European Research Council and Horizon 2020 Grant,
contract Nos. 675440, 752730, and 765710 (European Union);
the Leventis Foundation; the A.P. Sloan Foundation; the Alexan-
der von Humboldt Foundation; the Belgian Federal Science Pol-
icy Office; the Fonds pour la Formation à la Recherche dans
l’Industrie et dans l’Agriculture (FRIA-Belgium); the Agentschap
voor Innovatie door Wetenschap en Technologie (IWT-Belgium);
the F.R.S.-FNRS and FWO (Belgium) under the “Excellence of Sci-
ence – EOS” – be.h project n. 30820817; the Beijing Municipal
Science & Technology Commission, No. Z181100004218003; the
Ministry of Education, Youth and Sports (MEYS) of the Czech
Republic; the Lendület (“Momentum”) Program and the János
Bolyai Research Scholarship of the Hungarian Academy of Sci-
ences, the New National Excellence Program ÚNKP, the NKFIA re-
search grants 123842, 123959, 124845, 124850, 125105, 128713,
128786, and 129058 (Hungary); the Council of Science and Indus-
trial Research, India; the HOMING PLUS program of the Founda-
tion for Polish Science, cofinanced from European Union, Euro-
pean Regional Development Fund, the Mobility Plus program of
the Ministry of Science and Higher Education, the National Science
Center (Poland), contracts Harmonia 2014/14/M/ST2/00428, Opus
2014/13/B/ST2/02543, 2014/15/B/ST2/03998, and 2015/19/B/ST2/
02861, Sonata-bis 2012/07/E/ST2/01406; the National Priorities Re-
search Program by Qatar National Research Fund; the Programa
Estatal de Fomento de la Investigación Científica y Técnica de Ex-
celencia María de Maeztu, grant MDM-2015-0509 and the Pro-
grama Severo Ochoa del Principado de Asturias; the Thalis and
Aristeia programs cofinanced by EU-ESF and the Greek NSRF;
the Rachadapisek Sompot Fund for Postdoctoral Fellowship, Chu-
lalongkorn University and the Chulalongkorn Academic into Its
2nd Century Project Advancement Project (Thailand); the Welch
Foundation, contract C-1845; and the Weston Havens Foundation
(USA). [10] CMS Collaboration, Observation of ttH production, Phys. Rev. Lett. 120 (2018)
23180, https://doi .org /10 .1103 /PhysRevLett .120 .231801, arXiv:1804 .02610. Acknowledgements [11] ATLAS Collaboration, Observation of Higgs boson production in association
with a top quark pair at the LHC with the ATLAS detector, Phys. Lett. B 784
(2018) 173, https://doi .org /10 .1016 /j .physletb .2018 .07.035, arXiv:1806 .00425. [12] CMS Collaboration, Observation of Higgs boson decay to bottom quarks, Phys. Rev. Lett. 121 (2018) 121801, https://doi .org /10 .1103 /PhysRevLett .121.121801,
arXiv:1808 .08242. [13] ATLAS Collaboration, Observation of H →bb decays and VH production with
the ATLAS detector, Phys. Lett. B 786 (2018) 59, https://doi .org /10 .1016 /j . physletb .2018 .09 .013, arXiv:1808 .08238. [14] V. Kartvelishvili, A.V. Luchinsky, A.A. Novoselov, Double vector quarkonia pro-
duction in exclusive Higgs boson decays, Phys. Rev. D 79 (2009) 114015,
https://doi .org /10 .1103 /PhysRevD .79 .114015, arXiv:0810 .0953. [15] M. Bander, A. Soni, Decays of Higgs scalars into vector mesons and photons,
Phys. Lett. B 82 (1979) 411, https://doi .org /10 .1016 /0370 -2693(79 )90255 -7. [16] W.-Y. Keung, Decay of the Higgs boson into heavy-quarkonium states, Phys. Rev. D 27 (1983) 2762, https://doi .org /10 .1103 /PhysRevD .27.2762. [17] M.N. Doroshenko, V.G. Kartvelishvili, E.G. Chikovani, S.M. Esakiya, Vector
quarkonium in decays of heavy Higgs particles, Yad. Fiz. 46 (1987) 864. [18] V.G. Kartvelishvili, E.G. Chikovani, S.M. Esakiya, The production and decays of
heavy quark bound states in strong and electroweak interactions, Fiz. Elem. Chast. Atom. Yadra 19 (1988) 139 (in Russian). [19] A.E. Bondar, V.L. Chernyak, Is the Belle result for the cross section σ (e+e−→
J/ψ + ηC ) a real difficulty for QCD?, Phys. Lett. B 612 (2005) 215, https://doi . org /10 .1016 /j .physletb .2005 .03 .021, arXiv:hep -ph /0412335. [20] V.V. Braguta, A.K. Likhoded, A.V. Luchinsky, Observation potential for χb at the
Fermilab Tevatron and CERN LHC, Phys. Rev. D 72 (2005) 094018, https://doi . org /10 .1103 /PhysRevD .72 .094018, arXiv:hep -ph /0506009. [21] V.V. Braguta, A.K. Likhoded, A.V. Luchinsky, The processes e+e−→J/ψ/ψχc0,
ψ(2S)χc0 at √
s = 10.6 GeV in the framework of light cone formalism, Phys. Lett. B 635 (2006) 299, https://doi .org /10 .1016 /j .physletb .2006 .03 .005, arXiv:
hep -ph /0602047. [22] K. Abe, et al., Belle, Observation of double cc production in e+e−annihilation
at √
s ≈10.6 GeV, Phys. Rev. Lett. 89 (2002) 142001, https://doi .org /10 .1103 /
PhysRevLett .89 .142001, arXiv:hep -ex /0205104. [23] B. Acknowledgements Aubert, et al., BABAR, Measurement of double charmonium production in
e+e−annihilations at √
s = 10.6 GeV, Phys. Rev. D 72 (2005) 031101, https://
doi .org /10 .1103 /PhysRevD .72 .031101, arXiv:hep -ex /0506062. [24] G. Bodwin, F. Petriello, S. Stoynev, M. Velasco, Higgs boson decays to quarkonia
and the Hcc coupling, Phys. Rev. D 88 (2013) 053003, https://doi .org /10 .1103 /
PhysRevD .88 .053003, arXiv:1306 .5770. [25] ATLAS Collaboration, Search for Higgs and Z boson decays to J/ψ γ and Y(nS)
γ with the ATLAS detector, Phys. Rev. Lett. 114 (2015) 121801, https://doi .org /
10 .1103 /PhysRevLett .114 .121801, arXiv:1501.03276. References G 28 (2002)
2693, https://doi .org /10 .1088 /0954 -3899 /28 /10 /313. [57] The ATLAS Collaboration, The CMS Collaboration, The LHC Higgs Combination
Group, Procedure for the LHC Higgs Boson Search Combination in Summer
2011, Technical Report CMS-NOTE-2011-005, ATL-PHYS-PUB-2011-11, 2011,
https://cds .cern .ch /record /1379837. [43] CMS Collaboration, Event generator tunes obtained from underlying event and
multiparton scattering measurements, Eur. Phys. J. C 76 (2016) 155, https://
doi .org /10 .1140 /epjc /s10052 -016 -3988 -x, arXiv:1512 .00815. [58] CMS Collaboration, CMS Luminosity Measurements for the 2017 Data Taking
Period at √
s = 13 TeV, CMS Physics Analysis Summary CMS-PAS-LUM-17-004,
2018, https://cds .cern .ch /record /2621960. [44] Y. Li, F. Petriello, Combining QCD and electroweak corrections to dilepton
production in FEWZ, Phys. Rev. D 86 (2012) 094034, https://doi .org /10 .1103 /
PhysRevD .86 .094034, arXiv:1208 .5967. [59] J. Butterworth, et al., PDF4LHC recommendations for LHC Run II, J. Phys. G
43 (2016) 023001, https://doi .org /10 .1088 /0954 -3899 /43 /2 /023001, arXiv:1510 . 03865. [45] J. Alwall, R. Frederix, S. Frixione, V. Hirschi, F. Maltoni, O. Mattelaer, H.-S. Shao, T. Stelzer, P. Torrielli, M. Zaro, The automated computation of tree-
level and next-to-leading order differential cross sections, and their matching
to parton shower simulations, J. High Energy Phys. 07 (2014) 079, https://
doi .org /10 .1007 /JHEP07(2014 )079, arXiv:1405 .0301. [60] A.D. Martin, W.J. Stirling, R.S. Thorne, G. Watt, Parton distributions for the LHC,
Eur. Phys. J. C 63 (2009) 189, https://doi .org /10 .1140 /epjc /s10052 -009 -1072 -5,
arXiv:0901.0002. g/
/J
(
)
[46] Particle Data Group, M. Tanabashi, et al., Review of particle physics, Phys. Rev. D 98 (2018) 030001, https://doi .org /10 .1103 /PhysRevD .98 .030001. [61] H.L. Lai, M. Guzzi, J. Huston, Z. Li, P.M. Nadolsky, J. Pumplin, C.P. Yuan, New
parton distributions for collider physics, Phys. Rev. D 82 (2010) 74024, https://
doi .org /10 .1103 /PhysRevD .82 .074024, arXiv:1007.2241. [47] J.P. Lansberg, H.S. Shao, J/ψ-pair production at large momenta: indications for
double-parton scatterings and large α5
s contributions, Phys. Lett. B 751 (2015)
479, https://doi .org /10 .1016 /j .physletb .2015 .10 .083, arXiv:1410 .8822. [62] R.D. Ball, V. Bertone, F. Cerutti, L. Del Debbio, S. Forte, A. Guffanti, J.I. La-
torre, J. Rojo, M. Ubiali, NNPDF, Impact of heavy quark masses on parton
distributions and LHC phenomenology, Nucl. Phys. References Mariotti, A. Nikitenko, M. Pieri, P. Savard,
M. Schumacher, R. Tanaka, Handbook of LHC Higgs Cross Sections: 4. Deci-
phering the Nature of the Higgs Sector, CERN Report CERN-2017-002-M, 2017,
arXiv:1610 .07922. [6] ATLAS Collaboration, Measurements of the Higgs boson production and decay
rates and coupling strengths using pp collision data at √
s = 7 and 8 TeV in
the ATLAS experiment, Eur. Phys. J. C 76 (2016) 6, https://doi .org /10 .1140 /epjc /
s10052 -015 -3769 -y, arXiv:1507.04548. [33] CMS Collaboration, The CMS experiment at the CERN LHC, J. Instrum. 3 (2008)
S08004, https://doi .org /10 .1088 /1748 -0221 /3 /08 /S08004. [7] ATLAS and CMS Collaborations, Measurements of the Higgs boson produc-
tion and decay rates and constraints on its couplings from a combined AT-
LAS and CMS analysis of the LHC pp collision data at √
s = 7 and 8 TeV,
J. High Energy Phys. 08 (2016) 45, https://doi .org /10 .1007 /JHEP08(2016 )045,
arXiv:1606 .02266. [34] CMS Technical Design Report for the Pixel Detector Upgrade, Technical Report
CERN-LHCC-2012-01, CMS-TDR-11, 2012. [35] CMS Collaboration, The CMS trigger system, J. Instrum. 12 (2017) P01020,
https://doi .org /10 .1088 /1748 -0221 /12 /01 /P01020, arXiv:1609 .02366. [8] ATLAS and CMS Collaborations, Combined measurement of the Higgs boson
mass in pp collisions at √
s = 7 and 8 TeV with the ATLAS and CMS experi-
ments, Phys. Rev. Lett. 114 (2015) 191803, https://doi .org /10 .1103 /PhysRevLett . 114 .191803, arXiv:1503 .07589. [36] R. Frühwirth, Application of Kalman filtering to track and vertex fitting, Nucl. Instrum. Methods A 262 (1987) 444, https://doi .org /10 .1016 /0168 -9002(87 )
90887 -4. [37] S. Alioli, P. Nason, C. Oleari, E. Re, NLO Higgs boson production via gluon fusion
matched with shower in POWHEG, J. High Energy Phys. 04 (2009) 002, https://
doi .org /10 .1088 /1126 -6708 /2009 /04 /002, arXiv:0812 .0578. [9] CMS Collaboration, Combined measurements of Higgs boson couplings at √
s =
13 TeV, Eur. Phys. J. C 79 (2019) 421, https://doi .org /10 .1140 /epjc /s10052 -019 -
6909 -y, arXiv:1809 .10733. The CMS Collaboration / Physics Letters B 797 (2019) 134811 6 [38] P. Nason, C. Oleari, NLO Higgs boson production via vector-boson fusion
matched with shower in POWHEG, J. High Energy Phys. 02 (2010) 037, https://
doi .org /10 .1007 /JHEP02(2010 )037, arXiv:0911.5299. References [50] CMS Collaboration, Measurement of prompt J/ψ-pair production in pp colli-
sions at √
s = 7 TeV, J. High Energy Phys. 09 (2014) 094, https://doi .org /10 . 1007 /JHEP09(2014 )094, arXiv:1406 .0484. [51] S. Agostinelli, et al., GEANT4, Geant4—a simulation toolkit, Nucl. Instrum. Methods A 506 (2003) 250, https://doi .org /10 .1016 /S0168 -9002(03 )01368 -8. [39] R.D. Ball, V. Bertone, S. Carrazza, L. Del Debbio, S. Forte, P. Groth-Merrild, A. Guffanti, N.P. Hartland, Z. Kassabov, E.R. Nocera, J.I. Latorre, J. Rojo, L. Rottoli, E. Slade, M. Ubiali, NNPDF, Parton distributions from high-precision collider data,
Eur. Phys. J. C 77 (2017) 663, https://doi .org /10 .1140 /epjc /s10052 -017 -5199 -5,
arXiv:1706 .00428. [52] CMS Collaboration, Performance of the CMS muon detector and muon recon-
struction with proton-proton collisions at √
s = 13 TeV, J. Instrum. 13 (2018)
P06015, https://doi .org /10 .1088 /1748 -0221 /13 /06 /P06015, arXiv:1804 .04528. [53] CMS Collaboration, Measurement of the inclusive W and Z production cross
sections in pp collisions at √
s = 7 TeV, J. High Energy Phys. 10 (2011) 132,
https://doi .org /10 .1007 /JHEP10(2011 )132, arXiv:1107.4789. [40] S. Bolognesi, Y. Gao, A.V. Gritsan, K. Melnikov, M. Schulze, N.V. Tran, A. Whit-
beck, On the spin and parity of a single-produced resonance at the LHC,
Phys. Rev. D 86 (2012) 095031, https://doi .org /10 .1103 /PhysRevD .86 .095031,
arXiv:1208 .4018. [54] W. Verkerke, D.P. Kirkby, The RooFit toolkit for data modeling, in: Proceedings,
13th Int’l Conf. on Computing in High-Energy and Nuclear Physics, CHEP 2003,
La Jolla, California, US, 2003, arXiv:physics /0306116, [SLAC-econf-C0303241]. [41] A.V. Gritsan, R. Röntsch, M. Schulze, M. Xiao, Constraining anomalous Higgs
boson couplings to the heavy flavor fermions using matrix element techniques,
Phys. Rev. D 94 (2016) 055023, https://doi .org /10 .1103 /PhysRevD .94 .055023,
arXiv:1606 .03107. [55] T. Junk, Confidence level computation for combining searches with small statis-
tics, Nucl. Instrum. Methods A 434 (1999) 435, https://doi .org /10 .1016 /S0168 -
9002(99 )00498 -2, arXiv:hep -ex /9902006. [42] T. Sjöstrand, S. Ask, J.R. Christiansen, R. Corke, N. Desai, P. Ilten, S. Mrenna,
S. Prestel, C.O. Rasmussen, P.Z. Skands, An introduction to pythia 8.2, Com-
put. Phys. Commun. 191 (2015) 159, https://doi .org /10 .1016 /j .cpc .2015 .01.024,
arXiv:1410 .3012. [56] A.L. Read, Presentation of search results: the CLs technique, J. Phys. References B 849 (2011) 296, https://
doi .org /10 .1016 /j .nuclphysb .2011.03 .021, arXiv:1101.1300. [48] P.N. Baranov, A.M. Snigirev, P. Zotov, A. Szczurek, W. Schäfer, Interparticle
correlations in the production of J/ψ pairs in proton-proton collisions, Phys. Rev. D 87 (2013) 034035, https://doi .org /10 .1103 /PhysRevD .87.034035, arXiv:
1210 .1806. [49] C.-F. Qiao, J. Wang, Y.-H. Zheng, DJpsiFDC: an event generator for the process
gg →J/ψ J/ψ at the LHC, Chin. Phys. C 35 (2011) 209, https://doi .org /10 .1088 /
1674 -1137 /35 /3 /001, arXiv:1007.0617. A.M. Sirunyan †, A. Tumasyan A.M. Sirunyan †, A. Tumasyan
Yerevan Physics Institute, Yerevan, Armenia A.M. Sirunyan †, A. Tumasyan
Yerevan Physics Institute, Yerevan, Armenia Yerevan Physics Institute, Yerevan, Armenia W. Adam, F. Ambrogi, T. Bergauer, J. Brandstetter, M. Dragicevic, J. Erö, A. Escalante Del Valle, M. Flechl,
R. Frühwirth 1, M. Jeitler 1, N. Krammer, I. Krätschmer, D. Liko, T. Madlener, I. Mikulec, N. Rad,
J. Schieck 1, R. Schöfbeck, M. Spanring, D. Spitzbart, W. Waltenberger, C.-E. Wulz 1, M. Zarucki
Institut für Hochenergiephysik, Wien, Austria V. Drugakov, V. Mossolov, J. Suarez Gonzalez
Institute for Nuclear Problems, Minsk, Belarus V. Drugakov, V. Mossolov, J. Suarez Gonzalez
Institute for Nuclear Problems, Minsk, Belarus M.R. Darwish, E.A. De Wolf, D. Di Croce, X. Janssen, J. Lauwers, A. Lelek, M. Pieters, H. Rejeb Sfar,
H. Van Haevermaet, P. Van Mechelen, S. Van Putte, N. Van Remortel
Universiteit Antwerpen, Antwerpen, Belgium F. Blekman, E.S. Bols, S.S. Chhibra, J. D’Hondt, J. De Clercq, D. Lontkovskyi, S. Lowette, I. Marchesini,
S. Moortgat, L. Moreels, Q. Python, K. Skovpen, S. Tavernier, W. Van Doninck, P. Van Mulders,
I Van Parijs F. Blekman, E.S. Bols, S.S. Chhibra, J. D’Hondt, J. De Clercq, D. Lontkovskyi, S. Lowette, I. Marchesini,
S. Moortgat, L. Moreels, Q. Python, K. Skovpen, S. Tavernier, W. Van Doninck, P. Van Mulders,
I. Van Parijs 7 The CMS Collaboration / Physics Letters B 797 (2019) 134811 D. Beghin, B. Bilin, H. Brun, B. Clerbaux, G. De Lentdecker, H. Delannoy, B. Dorney, L. Favart,
A. Grebenyuk, A.K. Kalsi, J. Luetic, A. Popov, N. Postiau, E. Starling, L. Thomas, C. Vander Velde,
P. Vanlaer, D. Vannerom, Q. Wang
Université Libre de Bruxelles, Bruxelles, Belgium T. Cornelis, D. Dobur, I. Khvastunov 2, C. Roskas, D. Trocino, M. Tytgat, W. Verbeke, B. Vermassen, M. Vit,
N. Zaganidis
Ghent University, Ghent, Belgium Ghent University, Ghent, Belgium O. Bondu, G. Bruno, C. Caputo, P. David, C. Delaere, M. Delcourt, A. Giammanco, V. Lemaitre,
A. Magitteri, J. Prisciandaro, A. Saggio, M. Vidal Marono, P. Vischia, J. Zobec
Université Catholique de Louvain, Louvain-la-Neuve, Belgium F.L. Alves, G.A. Alves, G. Correia Silva, C. Hensel, A. Moraes, P. Rebello Teles
Centro Brasileiro de Pesquisas Fisicas, Rio de Janeiro, Brazil F.L. Alves, G.A. Alves, G. Correia Silva, C. Hensel, A. Moraes, P. Rebello Teles
Centro Brasileiro de Pesquisas Fisicas, Rio de Janeiro, Brazil E. Belchior Batista Das Chagas, W. Carvalho, J. Chinellato 3, E. Coelho, E.M. Da Costa, G.G. Da Silveira 4,
D. De Jesus Damiao, C. De Oliveira Martins, S. Fonseca De Souza, L.M. Huertas Guativa, H. Malbouisson,
J. Martins 5, D. Matos Figueiredo, M. Medina Jaime 6, M. Melo De Almeida, C. Mora Herrera, L. Mundim,
H. Nogima, W.L. Prado Da Silva, L.J. Sanchez Rosas, A. Santoro, A. Sznajder, M. Thiel,
E.J. Tonelli Manganote 3, F. Torres Da Silva De Araujo, A. Vilela Pereira
Universidade do Estado do Rio de Janeiro, Rio de Janeiro, Brazil S. Ahuja a, C.A. Bernardes a, L. Calligaris a, T.R. Fernandez Perez Tomei a, E.M. Gregores b, D.S. V. Drugakov, V. Mossolov, J. Suarez Gonzalez
Institute for Nuclear Problems, Minsk, Belarus Lemos,
P.G. Mercadante b, S.F. Novaes a, Sandra S. Padula a
a Universidade Estadual Paulista, São Paulo, Brazil
b Universidade Federal do ABC, São Paulo, Brazil A. Aleksandrov, G. Antchev, R. Hadjiiska, P. Iaydjiev, A. Marinov, M. Misheva, M. Rodozov, M. Shopova,
G. Sultanov
Institute for Nuclear Research and Nuclear Energy, Bulgarian Academy of Sciences, Sofia, Bulgaria M. Bonchev, A. Dimitrov, T. Ivanov, L. Litov, B. Pavlov, P. Petkov
University of Sofia, Sofia, Bulgaria W. Fang 7, X. Gao 7, L. Yuan
Beihang University, Beijing, China C. Avila, A. Cabrera, L.F. Chaparro Sierra, C. Florez, C.F. González Hernández, M.A. Segura Delgado
Universidad de Los Andes, Bogota, Colombia W. Fang 7, X. Gao 7, L. Yuan
Beihang University, Beijing, China M. Ahmad, G.M. Chen, H.S. Chen, M. Chen, C.H. Jiang, D. Leggat, H. Liao, Z. Liu, S.M. Shaheen 8,
A. Spiezia, J. Tao, E. Yazgan, H. Zhang, S. Zhang 8, J. Zhao
Institute of High Energy Physics, Beijing, China A. Agapitos, Y. Ban, G. Chen, A. Levin, J. Li, L. Li, Q. Li, Y. Mao, S.J. Qian, D. Wang
State Key Laboratory of Nuclear Physics and Technology, Peking University, Beijing, China C. Avila, A. Cabrera, L.F. Chaparro Sierra, C. Florez, C.F. González Hernández, M.A. Segura Delgado
Universidad de Los Andes, Bogota, Colombia The CMS Collaboration / Physics Letters B 797 (2019) 134811 8 J. Mejia Guisao, J.D. Ruiz Alvarez, C.A. Salazar González, N. Vanegas Arbelaez
Universidad de Antioquia, Medellin, Colombia D. Giljanovi´c, N. Godinovic, D. Lelas, I. Puljak, T. Sculac
University of Split, Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, Split, Croatia D. Giljanovi´c, N. Godinovic, D. Lelas, I. Puljak, T. Sculac
University of Split, Faculty of Electrical Engineering, Mechanical Engineering and Naval Architecture, Split, Croatia Z. Antunovic, M. Kovac
University of Split, Faculty of Science, Split, Croatia V. Brigljevic, S. Ceci, D. Ferencek, K. Kadija, B. Mesic, M. Roguljic, A. Starodumov 9, T. Susa
Institute Rudjer Boskovic, Zagreb, Croatia M.W. Ather, A. Attikis, E. Erodotou, A. Ioannou, M. Kolosova, S. Konstantinou, G. Mavromanolakis,
J. Mousa, C. Nicolaou, F. Ptochos, P.A. Razis, H. Rykaczewski, D. Tsiakkouri
University of Cyprus, Nicosia, Cyprus M. Finger 10, M. Finger Jr. 10, A. Kveton, J. Tomsa
Charles University, Prague, Czech Republic E. Ayala Escuela Politecnica Nacional, Quito, Ecuador Universidad San Francisco de Quito, Quito, Ecuador Academy of Scientific Research and Technology of the Arab Republic of Egypt, Egyptian Network of High Energy Physics, Cairo, Egypt S. Bhowmik, A. Carvalho Antunes De Oliveira, R.K. Dewanjee, K. Ehataht, M. Kadastik, M. Raidal,
C. Veelken
National Institute of Chemical Physics and Biophysics, Tallinn, Estonia P. Eerola, L. Forthomme, H. Kirschenmann, K. Osterberg, M. Voutilainen
Department of Physics, University of Helsinki, Helsinki, Finland F. Garcia, J. Havukainen, J.K. Heikkilä, T. Järvinen, V. Karimäki, R. Kinnunen, T. Lampén, K. Lassila-Perini,
S. Laurila, S. Lehti, T. Lindén, P. Luukka, T. Mäenpää, H. Siikonen, E. Tuominen, J. Tuominiemi
Helsinki Institute of Physics, Helsinki, Finland T. Tuuva M. Besancon, F. Couderc, M. Dejardin, D. Denegri, B. Fabbro, J.L. Faure, F. Ferri, S. Ganjour, A. Givernaud,
P. Gras, G. Hamel de Monchenault, P. Jarry, C. Leloup, E. Locci, J. Malcles, J. Rander, A. Rosowsky,
M.Ö. Sahin, A. Savoy-Navarro 13, M. Titov
IRFU, CEA, Université Paris-Saclay, Gif-sur-Yvette, France C. Amendola, F. Beaudette, P. Busson, C. Charlot, B. Diab, G. Falmagne, R. Granier de Cassagnac, I. Kucher,
A. Lobanov, C. Martin Perez, M. Nguyen, C. Ochando, P. Paganini, J. Rembser, R. Salerno, J.B. Sauvan,
Y. Sirois, A. Zabi, A. Zghiche Laboratoire Leprince-Ringuet, Ecole polytechnique, CNRS/IN2P3, Université Paris-Saclay, Palaiseau, France 9 The CMS Collaboration / Physics Letters B 797 (2019) 134811 J.-L. Agram 14, J. Andrea, D. Bloch, G. Bourgatte, J.-M. Brom, E.C. Chabert, C. Collard, E. Conte 14,
J.-C. Fontaine 14, D. Gelé, U. Goerlach, M. Jansová, A.-C. Le Bihan, N. Tonon, P. Van Hove
Université de Strasbourg CNRS IPHC UMR 7178 Strasbourg France Université de Strasbourg, CNRS, IPHC UMR 7178, Strasbourg, France S. Gadrat Centre de Calcul de l’Institut National de Physique Nucleaire et de Physique des Particules, CNRS/IN2P3, Villeurbanne, France S. Beauceron, C. Bernet, G. Boudoul, C. Camen, N. Chanon, R. Chierici, D. Contardo, P. Depasse,
H. El Mamouni, J. Fay, S. Gascon, M. Gouzevitch, B. Ille, Sa. Jain, F. Lagarde, I.B. Laktineh, H. Lattaud,
M. Lethuillier, L. Mirabito, S. Perries, V. Sordini, G. Touquet, M. Vander Donckt, S. Viret
Université de Lyon, Université Claude Bernard Lyon 1, CNRS-IN2P3, Institut de Physique Nucléaire de Lyon, Villeurbanne, France S. Beauceron, C. Bernet, G. Boudoul, C. Camen, N. Chanon, R. Chierici, D. H. El Mamouni, J. Fay, S. Gascon, M. Gouzevitch, B. Ille, Sa. Jain, F. Lagard
M. Lethuillier, L. Mirabito, S. Perries, V. Sordini, G. Touquet, M. Vander Do
Université de Lyon, Université Claude Bernard Lyon 1, CNRS-IN2P3, Institut de Physique Nucléaire de Lyon, Villeurbanne, France R. Aggleton, S. Bein, L. Benato, A. Benecke, V. Blobel, T. Dreyer, A. Ebrahimi, A. Fröhlich, C. Garbers,
E. Garutti, D. Gonzalez, P. Gunnellini, J. Haller, A. Hinzmann, A. Karavdina, G. Kasieczka, R. Klanner,
R. Kogler, N. Kovalchuk, S. Kurz, V. Kutzner, J. Lange, T. Lange, A. Malara, D. Marconi, J. Multhaup,
M. Niedziela, C.E.N. Niemeyer, D. Nowatschin, A. Perieanu, A. Reimers, O. Rieger, C. Scharf, P. Schleper, A. Khvedelidze 10 Georgian Technical University, Tbilisi, Georgia Z. Tsamalaidze 10
Tbilisi State University, Tbilisi, Georgia Z. Tsamalaidze 10 Tbilisi State University, Tbilisi, Georgia C. Autermann, L. Feld, M.K. Kiesel, K. Klein, M. Lipinski, D. Meuser, A. Pauls, M. Preuten, M.P. Rauch,
C. Schomakers, J. Schulz, M. Teroerde, B. Wittmer
RWTH Aachen University, I. Physikalisches Institut, Aachen, Germany A. Albert, M. Erdmann, S. Erdweg, T. Esch, B. Fischer, R. Fischer, S. Ghosh, T. Hebbeker, K. Hoepfner,
H. Keller, L. Mastrolorenzo, M. Merschmeyer, A. Meyer, P. Millet, G. Mocellin, S. Mondal, S. Mukherjee,
D. Noll, A. Novak, T. Pook, A. Pozdnyakov, T. Quast, M. Radziej, Y. Rath, H. Reithler, M. Rieger, J. Roemer,
A. Schmidt, S.C. Schuler, A. Sharma, S. Thüer, S. Wiedenbeck
RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany G. Flügge, W. Haj Ahmad 15, O. Hlushchenko, T. Kress, T. Müller, A. Nehrkorn, A. Nowack, C. Pistone,
O. Pooth, D. Roy, H. Sert, A. Stahl 16
RWTH Aachen University, III. Physikalisches Institut B, Aachen, Germany M. Aldaya Martin, P. Asmuss, I. Babounikau, H. Bakhshiansohi, K. Beernaert, O. Behnke, U. Behrens,
A. Bermúdez Martínez, D. Bertsche, A.A. Bin Anuar, K. Borras 17, V. Botta, A. Campbell, A. Cardini,
P. Connor, S. Consuegra Rodríguez, C. Contreras-Campana, V. Danilov, A. De Wit, M.M. Defranchis,
C. Diez Pardos, D. Domínguez Damiani, G. Eckerlin, D. Eckstein, T. Eichhorn, A. Elwood, E. Eren,
E. Gallo 18, A. Geiser, J.M. Grados Luyando, A. Grohsjean, M. Guthoff, M. Haranko, A. Harb, A. Jafari,
N.Z. Jomhari, H. Jung, A. Kasem 17, M. Kasemann, H. Kaveh, J. Keaveney, C. Kleinwort, J. Knolle,
D. Krücker, W. Lange, T. Lenz, J. Leonard, J. Lidrych, K. Lipka, W. Lohmann 19, R. Mankel,
I.-A. Melzer-Pellmann, A.B. Meyer, M. Meyer, M. Missiroli, G. Mittag, J. Mnich, A. Mussgiller,
V. Myronenko, D. Pérez Adán, S.K. Pflitsch, D. Pitzl, A. Raspereza, A. Saibel, M. Savitskyi, V. Scheurer,
P. Schütze, C. Schwanenberger, R. Shevchenko, A. Singh, H. Tholen, O. Turkot, A. Vagnerini,
M. Van De Klundert, G.P. Van Onsem, R. Walsh, Y. Wen, K. Wichmann, C. Wissing,
O. Zenaiev, R. Zlebcik R. Aggleton, S. Bein, L. Benato, A. Benecke, V. Blobel, T. Dreyer, A. Ebrahimi, A. Fröhlich, C. Garbers,
E. Garutti, D. Gonzalez, P. Gunnellini, J. Haller, A. Hinzmann, A. Karavdina, G. Kasieczka, R. Klanner,
R. Kogler, N. Kovalchuk, S. Kurz, V. Kutzner, J. Lange, T. Lange, A. Malara, D. Marconi, J. Multhaup,
M. Niedziela, C.E.N. Niemeyer, D. Nowatschin, A. Perieanu, A. Reimers, O. Rieger, C. Scharf, P. Z. Tsamalaidze 10 Schleper, The CMS Collaboration / Physics Letters B 797 (2019) 134811 10 S. Schumann, J. Schwandt, J. Sonneveld, H. Stadie, G. Steinbrück, F.M. Stober, M. Stöver, B. Vormwald,
I. Zoi
University of Hamburg, Hamburg, Germany S. Schumann, J. Schwandt, J. Sonneveld, H. Stadie, G. Steinbrück, F.M. Stober, M. Stöver, B. Vormwald,
I. Zoi
University of Hamburg, Hamburg, Germany M. Akbiyik, C. Barth, M. Baselga, S. Baur, T. Berger, E. Butz, R. Caspart, T. Chwalek, W. De Boer,
A. Dierlamm, K. El Morabit, N. Faltermann, M. Giffels, P. Goldenzweig, A. Gottmann, M.A. Harrendorf,
F. Hartmann 16, U. Husemann, S. Kudella, S. Mitra, M.U. Mozer, Th. Müller, M. Musich, A. Nürnberg,
G. Quast, K. Rabbertz, M. Schröder, I. Shvetsov, H.J. Simonis, R. Ulrich, M. Weber, C. Wöhrmann,
R. Wolf
Karlsruher Institut fuer Technologie, Karlsruhe, Germany G. Anagnostou, P. Asenov, G. Daskalakis, T. Geralis, A. Kyriakis, D. Loukas, G. Paspalaki
Institute of Nuclear and Particle Physics (INPP), NCSR Demokritos, Aghia Paraskevi, Greece G. Anagnostou, P. Asenov, G. Daskalakis, T. Geralis, A. Kyriakis, D. Loukas, G. Pa
Institute of Nuclear and Particle Physics (INPP), NCSR Demokritos, Aghia Paraskevi, Greece M. Diamantopoulou, G. Karathanasis, P. Kontaxakis, A. Panagiotou, I. Papavergou, N. Saoulidou, A. Stakia,
K. Theofilatos, K. Vellidis
National and Kapodistrian University of Athens, Athens, Greece G. Bakas, K. Kousouris, I. Papakrivopoulos, G. Tsipolitis
National Technical University of Athens, Athens, Greece I. Evangelou, C. Foudas, P. Gianneios, P. Katsoulis, P. Kokkas, S. Mallios, K. Manitara, N. Manthos,
I. Papadopoulos, J. Strologas, F.A. Triantis, D. Tsitsonis
University of Ioánnina, Ioánnina, Greece M. Bartók 20, M. Csanad, P. Major, K. Mandal, A. Mehta, M.I. Nagy, G. Pasztor, O. Surányi, G.I. Veres
MTA-ELTE Lendület CMS Particle and Nuclear Physics Group, Eötvös Loránd University, Budapest, Hungary G. Bencze, C. Hajdu, D. Horvath 21, F. Sikler, T.Á. Vámi, V. Veszpremi, G. Vesztergombi †
Wigner Research Centre for Physics, Budapest, Hungary N. Beni, S. Czellar, J. Karancsi 20, A. Makovec, J. Molnar, Z. Szillasi
Institute of Nuclear Research ATOMKI, Debrecen, Hungary P. Raics, D. Teyssier, Z.L. Trocsanyi, B. Ujvari
Institute of Physics, University of Debrecen, Debrecen, Hungary T. Csorgo, W.J. Metzger, F. Nemes, T. Novak
Eszterhazy Karoly University, Karoly Robert Campus, Gyongyos, Hungary S. Choudhury, J.R. Komaragiri, P.C. Tiwari
Indian Institute of Science (IISc), Bangalore, India S. Bahinipati 22, C. Kar, P. Mal, V.K. Muraleedharan Nair Bindhu, A. Nayak 23, D.K. Sahoo 22, S.K. S. Albergo a,b,28, S. Costa a,b, A. Di Mattia a, R. Potenza a,b, A. Tricomi a,b,28, C. Tuve a,b
a INFN Sezione di Catania, Catania, Italy
b Università di Catania, Catania, Italy Z. Tsamalaidze 10 Swain
National Institute of Science Education and Research, HBNI, Bhubaneswar, India S. Bansal, S.B. Beri, V. Bhatnagar, S. Chauhan, R. Chawla, N. Dhingra, R. Gupta, A. Kaur, M. Kaur, S. Kaur,
P. Kumari, M. Lohan, M. Meena, K. Sandeep, S. Sharma, J.B. Singh, A.K. Virdi, G. Walia
Panjab University, Chandigarh, India The CMS Collaboration / Physics Letters B 797 (2019) 134811 11 A. Bhardwaj, B.C. Choudhary, R.B. Garg, M. Gola, S. Keshri, Ashok Kumar, S. Malhotra, M. Naimuddin,
P. Priyanka, K. Ranjan, Aashaq Shah, R. Sharma
University of Delhi, Delhi, India R. Bhardwaj 24, M. Bharti 24, R. Bhattacharya, S. Bhattacharya, U. Bhawandeep 24, D. Bhowmik, S. Dey,
S. Dutta, S. Ghosh, M. Maity 25, K. Mondal, S. Nandan, A. Purohit, P.K. Rout, G. Saha, S. Sarkar,
T. Sarkar 25, M. Sharan, B. Singh 24, S. Thakur 24
Saha Institute of Nuclear Physics, HBNI, Kolkata, India P.K. Behera, P. Kalbhor, A. Muhammad, P.R. Pujahari, A. Sharma, A.K. Sikdar
Indian Institute of Technology Madras, Madras, India R. Chudasama, D. Dutta, V. Jha, V. Kumar, D.K. Mishra, P.K. Netrakanti, L.M. Pant, P. Shukla
Bhabha Atomic Research Centre, Mumbai, India T. Aziz, M.A. Bhat, S. Dugad, G.B. Mohanty, N. Sur, Ravindra Kumar Verma
Tata Institute of Fundamental Research-A, Mumbai, India S. Banerjee, S. Bhattacharya, S. Chatterjee, P. Das, M. Guchait, S. Karmakar, S. Kumar, G. Majumder,
K. Mazumdar, N. Sahoo, S. Sawant
Tata Institute of Fundamental Research-B, Mumbai, India S. Chauhan, S. Dube, V. Hegde, A. Kapoor, K. Kothekar, S. Pandey, A. Rane, A. Rastogi, S. Sharma
Indian Institute of Science Education and Research (IISER), Pune, India S. Chenarani 26, E. Eskandari Tadavani, S.M. Etesami 26, M. Khakzad, M. Mohammadi Najafabadi,
M. Naseri, F. Rezaei Hosseinabadi
Institute for Research in Fundamental Sciences (IPM), Tehran, Iran L. Benussi, S. Bianco, D. Piccolo
INFN Laboratori Nazionali di Frascati, Frascati, Italy L. Benussi, S. Bianco, D. Piccolo
INFN Laboratori Nazionali di Frascati, Frascati, Italy A. Benaglia a, A. Beschi a,b, F. Brivio a,b, V. Ciriolo a,b,16, S. Di Guida a,b,16, M.E. Dinardo a,b, P. Dini a,
S. Fiorendi a,b, S. Gennai a, A. Ghezzi a,b, P. Govoni a,b, L. Guzzi a,b, M. Malberti a, S. Malvezzi a,
D. Menasce a, F. Monti a,b, L. Moroni a, G. Ortona a,b, M. Paganoni a,b, D. Pedrini a, S. Ragazzi a,b,
T. Tabarelli de Fatis a,b, D. Zuolo a,b
a INFN Sezione di Milano-Bicocca, Milano, Italy
b Università di Milano-Bicocca, Milano, Italy S. Buontempo a, N. Cavallo a,c, A. De Iorio a,b, A. Di Crescenzo a,b, F. Fabozzi a,c, F. Fienga a,
G. Galati a, A.O.M. Iorio a,b, L. Lista a,b, S. Meola a,d,16, P. Paolucci a,16, B. Rossi a, C. Sciacca a,b,
E. Voevodina a,b
a INFN Sezione di Napoli, Napoli, Italy
b Università di Napoli ‘Federico II’, Napoli, Italy
c Università della Basilicata, Potenza, Italy
d Università G. Marconi, Roma, Italy P. Azzi a, N. Bacchetta a, A. Boletti a,b, A. Bragagnolo, R. Carlin a,b, P. Checchia a, P. De Castro Manzano a,
T. Dorigo a, U. Dosselli a, F. Gasparini a,b, U. Gasparini a,b, A. Gozzelino a, S.Y. Hoh, P. Lujan, M. Margoni a,b,
A.T. Meneguzzo a,b, J. Pazzini a,b, N. Pozzobon a,b, M. Presilla b, P. Ronchese a,b, R. Rossin a,b,
F. Simonetto a,b, A. Tiko, M. Tosi a,b, M. Zanetti a,b, P. Zotto a,b, G. Zumerle a,b
a INFN Sezione di Padova, Padova, Italy
b Università di Padova, Padova, Italy
c Università di Trento, Trento, Italy A. Braghieri a, P. Montagna a,b, S.P. Ratti a,b, V. Re a, M. Ressegotti a,b, C. Riccardi a,b, P. Salvini a, I. Vai a,b,
P. Vitulo a,b
a INFN Sezione di Pavia, Pavia, Italy
b Università di Pavia, Pavia, Italy M. Biasini a,b, G.M. Bilei a, C. Cecchi a,b, D. Ciangottini a,b, L. Fanò a,b, P. Lariccia a,b, R. Leonardi a,b,
E. Manoni a, G. Mantovani a,b, V. Mariani a,b, M. Menichelli a, A. Rossi a,b, A. Santocchia a,b, D. Spiga a
a INFN Sezione di Perugia, Perugia, Italy
b Università di Perugia, Perugia, Italy K. Androsov a, P. Azzurri a, G. Bagliesi a, V. Bertacchi a,c, L. Bianchini a, T. Boccali a, R. Castaldi a,
M.A. Ciocci a,b, R. Dell’Orso a, G. Fedi a, L. Giannini a,c, A. Giassi a, M.T. University College Dublin, Dublin, Ireland M. Abbrescia a,b, C. Calabria a,b, A. Colaleo a, D. Creanza a,c, L. Cristella a,b, N. De Filippis a,c,
M. De Palma a,b, A. Di Florio a,b, L. Fiore a, A. Gelmi a,b, G. Iaselli a,c, M. Ince a,b, S. Lezki a,b, G. Maggi a,c,
M. Maggi a, G. Miniello a,b, S. My a,b, S. Nuzzo a,b, A. Pompili a,b, G. Pugliese a,c, R. Radogna a, A. Ranieri a,
G. Selvaggi a,b, L. Silvestris a, R. Venditti a, P. Verwilligen a a INFN Sezione di Bari, Bari, Italy
b Università di Bari, Bari, Italy
c Politecnico di Bari, Bari, Italy G. Abbiendi a, C. Battilana a,b, D. Bonacorsi a,b, L. Borgonovi a,b, S. Braibant-Giacomelli a,b,
R. Campanini a,b, P. Capiluppi a,b, A. Castro a,b, F.R. Cavallo a, C. Ciocca a, G. Codispoti a,b, M. Cuffiani a,b,
G.M. Dallavalle a, F. Fabbri a, A. Fanfani a,b, E. Fontanesi, P. Giacomelli a, C. Grandi a, L. Guiducci a,b,
F. Iemmi a,b, S. Lo Meo a,27, S. Marcellini a, G. Masetti a, F.L. Navarria a,b, A. Perrotta a, F. Primavera a,b,
A.M. Rossi a,b, T. Rovelli a,b, G.P. Siroli a,b, N. Tosi a
a INFN Sezione di Bologna, Bologna, Italy
b Università di Bologna, Bologna, Italy S. Albergo a,b,28, S. Costa a,b, A. Di Mattia a, R. Potenza a,b, A. Tricomi a,b,28, C. Tuve a,b
a INFN Sezione di Catania, Catania, Italy
b Università di Catania, Catania, Italy S. Albergo a,b,28, S. Costa a,b, A. Di Mattia a, R. Potenza a,b, A. Tricomi a,b,28, C. Tuve a,b
a INFN Sezione di Catania, Catania, Italy
b Università di Catania, Catania, Italy The CMS Collaboration / Physics Letters B 797 (2019) 134811 12 G. Barbagli a, R. Ceccarelli, K. Chatterjee a,b, V. Ciulli a,b, C. Civinini a, R. D’Alessandro a,b, E. Focardi a,b,
G. Latino, P. Lenzi a,b, M. Meschini a, S. Paoletti a, G. Sguazzoni a, D. Strom a, L. Viliani a
a INFN Sezione di Firenze Firenze Italy G. Barbagli a, R. Ceccarelli, K. Chatterjee a,b, V. Ciulli a,b, C. Civinini a, R. D’Alessandro a,b, E. Focardi a,b,
G. Latino, P. Lenzi a,b, M. Meschini a, S. Paoletti a, G. Sguazzoni a, D. Strom a, L. Viliani a
a INFN Sezione di Firenze, Firenze, Italy
b Università di Firenze, Firenze, Italy a INFN Sezione di Firenze, Firenze, Italy
b Università di Firenze, Firenze, Italy B. Francois, T.J. Kim, J. Park
Hanyang University, Seoul, Republic of Korea B. Francois, T.J. Kim, J. Park
Hanyang University, Seoul, Republic of Korea S. Cho, S. Choi, Y. Go, D. Gyun, S. Ha, B. Hong, K. Lee, K.S. Lee, J. Lim, J. Park, S.K. Park, Y. Roh
Korea University, Seoul, Republic of Korea L. Benussi, S. Bianco, D. Piccolo
INFN Laboratori Nazionali di Frascati, Frascati, Italy Kim, J. Lee, S.W. Lee, C.S. Moon, Y.D. Oh, S.I. Pak, S. Sekmen, D.C. Son,
Y.C. Yang
Kyungpook National University, Daegu, Republic of Korea
H. Kim, D.H. Moon, G. Oh
Chonnam National University, Institute for Universe and Elementary Particles, Kwangju, Republic of Korea B. Kim, D.H. Kim, G.N. Kim, M.S. Kim, J. Lee, S.W. Lee, C.S. Moon, Y.D. Oh, S.I. Pak, S. Sekmen, D.C. Son,
Y.C. Yang
Kyungpook National University, Daegu, Republic of Korea J. Goh H.S. Kim
Sejong University, Seoul, Republic of Korea J. Almond, J.H. Bhyun, J. Choi, S. Jeon, J. Kim, J.S. Kim, H. Lee, K. Lee, S. Lee, K. Nam, M. Oh, S.B. Oh,
B.C. Radburn-Smith, U.K. Yang, H.D. Yoo, I. Yoon, G.B. Yu
Seoul National University, Seoul, Republic of Korea D. Jeon, H. Kim, J.H. Kim, J.S.H. Lee, I.C. Park, I. Watson
University of Seoul, Seoul, Republic of Korea Y. Choi, C. Hwang, Y. Jeong, J. Lee, Y. Lee, I. Yu
Sungkyunkwan University, Suwon, Republic of Korea L. Benussi, S. Bianco, D. Piccolo
INFN Laboratori Nazionali di Frascati, Frascati, Italy Grippo a, F. Ligabue a,c, E. Manca a,c,
G. Mandorli a,c, A. Messineo a,b, F. Palla a, A. Rizzi a,b, G. Rolandi 29, S. Roy Chowdhury, A. Scribano a,
P. Spagnolo a, R. Tenchini a, G. Tonelli a,b, N. Turini, A. Venturi a, P.G. Verdini a
a INFN Sezione di Pisa, Pisa, Italy
b Università di Pisa, Pisa, Italy
c Scuola Normale Superiore di Pisa, Pisa, Italy K. Androsov a, P. Azzurri a, G. Bagliesi a, V. Bertacchi a,c, L. Bianchini a, T. Boccali a, R. Castaldi a,
M.A. Ciocci a,b, R. Dell’Orso a, G. Fedi a, L. Giannini a,c, A. Giassi a, M.T. Grippo a, F. Ligabue a,c, E. Manca a,c,
G. Mandorli a,c, A. Messineo a,b, F. Palla a, A. Rizzi a,b, G. Rolandi 29, S. Roy Chowdhury, A. Scribano a,
P. Spagnolo a, R. Tenchini a, G. Tonelli a,b, N. Turini, A. Venturi a, P.G. Verdini a a INFN Sezione di Pisa, Pisa, Italy
b Università di Pisa, Pisa, Italy
c Scuola Normale Superiore di Pisa, Pisa, Italy The CMS Collaboration / Physics Letters B 797 (2019) 134811 13 F. Cavallari a, M. Cipriani a,b, D. Del Re a,b, E. Di Marco a,b, M. Diemoz a, E. Longo a,b, B. Marzocchi a,b,
P. Meridiani a, G. Organtini a,b, F. Pandolfia, R. Paramatti a,b, C. Quaranta a,b, S. Rahatlou a,b, C. Rovelli a,
F. Santanastasio a,b, L. Soffia,b
a INFN S
i
di R
R
It l a INFN Sezione di Roma, Rome, Italy
b Sapienza Università di Roma, Rome, Italy N. Amapane a,b, R. Arcidiacono a,c, S. Argiro a,b, M. Arneodo a,c, N. Bartosik a, R. Bellan a,b, C. Biino a,
A. Cappati a,b, N. Cartiglia a, S. Cometti a, M. Costa a,b, R. Covarelli a,b, N. Demaria a, B. Kiani a,b,
C. Mariotti a, S. Maselli a, E. Migliore a,b, V. Monaco a,b, E. Monteil a,b, M. Monteno a, M.M. Obertino a,b,
L. Pacher a,b, N. Pastrone a, M. Pelliccioni a, G.L. Pinna Angioni a,b, A. Romero a,b, M. Ruspa a,c, R. Sacchi a,b,
R. Salvatico a,b, V. Sola a, A. Solano a,b, D. Soldi a,b, A. Staiano a S. Belforte a, V. Candelise a,b, M. Casarsa a, F. Cossutti a, A. Da Rold a,b, G. Della Ricca a,b, F. Vazzoler a,b,
A. Zanetti a
a INFN Sezione di Trieste, Trieste, Italy
b Università di Trieste, Trieste, Italy B. Kim, D.H. Kim, G.N. Kim, M.S. V. Dudenas, A. Juodagalvis, G. Tamulaitis, J. Vaitkus
Vilnius University, Vilnius, Lithuania
Z.A. Ibrahim, F. Mohamad Idris 31, W.A.T. Wan Abdullah, M.N. Yusli, Z. Zolkapli
National Centre for Particle Physics, Universiti Malaya, Kuala Lumpur, Malaysia
J.F. Benitez, A. Castaneda Hernandez, J.A. Murillo Quijada, L. Valencia Palomo
Universidad de Sonora (UNISON), Hermosillo, Mexico
H. Castilla-Valdez, E. De La Cruz-Burelo, I. Heredia-De La Cruz 32, R. Lopez-Fernandez,
A. Sanchez-Hernandez
Centro de Investigacion y de Estudios Avanzados del IPN, Mexico City, Mexico
S. Carrillo Moreno, C. Oropeza Barrera, M. Ramirez-Garcia, F. Vazquez Valencia
Universidad Iberoamericana, Mexico City, Mexico
J. Eysermans, I. Pedraza, H.A. Salazar Ibarguen, C. Uribe Estrada
Benemerita Universidad Autonoma de Puebla, Puebla, Mexico
A. Morelos Pineda
Universidad Autónoma de San Luis Potosí, San Luis Potosí, Mexico
N. Raicevic
University of Montenegro, Podgorica, Montenegro
D. Krofcheck
University of Auckland, Auckland, New Zealand
S. Bheesette, P.H. Butler
University of Canterbury, Christchurch, New Zealand
A. Ahmad, M. Ahmad, Q. Hassan, H.R. Hoorani, W.A. Khan, M.A. Shah, M. Shoaib, M. Waqas
National Centre for Physics, Quaid-I-Azam University, Islamabad, Pakistan
V. Avati, L. Grzanka, M. Malawski
AGH University of Science and Technology Faculty of Computer Science, Electronics and Telecommunications, Krakow, Poland
H. Bialkowska, M. Bluj, B. Boimska, M. Górski, M. Kazana, M. Szleper, P. Zalewski
National Centre for Nuclear Research, Swierk, Poland
K. Bunkowski, A. Byszuk 33, K. Doroba, A. Kalinowski, M. Konecki, J. Krolikowski, M. Misiura,
M. Olszewski, A. Pyskir, M. Walczak
Institute of Experimental Physics, Faculty of Physics, University of Warsaw, Warsaw, Poland
M. Araujo, P. Bargassa, D. Bastos, A. Di Francesco, P. Faccioli, B. Galinhas, M. Gallinaro, J. Hollar
N. Leonardo, J. Seixas, K. Shchelina, G. Strong, O. Toldaiev, J. Varela
Laboratório de Instrumentação e Física Experimental de Partículas, Lisboa, Portugal
S. Afanasiev, P. Bunin, M. Gavrilenko, I. Golutvin, I. Gorbunov, A. Kamenev, V. Karjavine, A. Lan
A. Malakhov, V. Matveev 34,35, P. Moisenz, V. Palichik, V. Perelygin, M. Savina, S. Shmatov, S. Sh
N. Skatchkov, V. Smirnov, N. Voytishin, A. Zarubin
Joint Institute for Nuclear Research, Dubna, Russia V. Dudenas, A. Juodagalvis, G. Tamulaitis, J. Vaitkus
Vilnius University, Vilnius, Lithuania Z.A. Ibrahim, F. Mohamad Idris 31, W.A.T. Wan Abdullah, M.N. Yusli, Z. Zolkapli
National Centre for Particle Physics, Universiti Malaya, Kuala Lumpur, Malaysia J.F. Benitez, A. Castaneda Hernandez, J.A. Murillo Quijada, L. Valencia Palomo
Universidad de Sonora (UNISON), Hermosillo, Mexico H. Castilla-Valdez, E. De La Cruz-Burelo, I. Heredia-De La Cruz 32, R. Lopez-Fernandez,
A. Sanchez-Hernandez
Centro de Investigacion y de Estudios Avanzados del IPN, Mexico City, Mexico V. Veckalns 30 The CMS Collaboration / Physics Letters B 797 (2019) 134811 14 N. Raicevic H. Bialkowska, M. Bluj, B. Boimska, M. Górski, M. Kazana, M. Szleper, P. Zalewski
National Centre for Nuclear Research, Swierk, Poland K. Bunkowski, A. Byszuk 33, K. Doroba, A. Kalinowski, M. Konecki, J. Krolikowski, M. Misiura,
M. Olszewski, A. Pyskir, M. Walczak
Institute of Experimental Physics, Faculty of Physics, University of Warsaw, Warsaw, Poland M. Araujo, P. Bargassa, D. Bastos, A. Di Francesco, P. Faccioli, B. Galinhas, M. Gallinaro, J. Hollar,
N. Leonardo, J. Seixas, K. Shchelina, G. Strong, O. Toldaiev, J. Varela
Laboratório de Instrumentação e Física Experimental de Partículas, Lisboa, Portugal S. Afanasiev, P. Bunin, M. Gavrilenko, I. Golutvin, I. Gorbunov, A. Kamenev, V. Karjavine, A. Lanev,
A. Malakhov, V. Matveev 34,35, P. Moisenz, V. Palichik, V. Perelygin, M. Savina, S. Shmatov, S. Shulha,
N. Skatchkov, V. Smirnov, N. Voytishin, A. Zarubin
Joint Institute for Nuclear Research, Dubna, Russia 15 The CMS Collaboration / Physics Letters B 797 (2019) 134811 L. Chtchipounov, V. Golovtsov, Y. Ivanov, V. Kim 36, E. Kuznetsova 37, P. Levchenko, V. Murzin,
V. Oreshkin, I. Smirnov, D. Sosnov, V. Sulimov, L. Uvarov, A. Vorobyev
Petersburg Nuclear Physics Institute, Gatchina (St. Petersburg), Russia Yu. Andreev, A. Dermenev, S. Gninenko, N. Golubev, A. Karneyeu, M. Kirsanov, N. Krasnikov,
A. Pashenkov, D. Tlisov, A. Toropin
Institute for Nuclear Research, Moscow, Russia Institute for Nuclear Research, Moscow, Russia V. Epshteyn, V. Gavrilov, N. Lychkovskaya, A. Nikitenko 38, V. Popov, I. Pozdnyakov, G. Safronov,
A. Spiridonov, A. Stepennov, M. Toms, E. Vlasov, A. Zhokin
Institute for Theoretical and Experimental Physics named by A.I. Alikhanov of NRC ‘Kurchatov Institute’, Moscow, Russia V. Borchsh, V. Ivanchenko, E. Tcherniaev
Tomsk State University, Tomsk, Russia V. Borchsh, V. Ivanchenko, E. Tcherniaev
Tomsk State University, Tomsk, Russia P. Adzic 42, P. Cirkovic, D. Devetak, M. Dordevic, P. Milenovic, J. Milosevic, M. Stojanovic
University of Belgrade, Faculty of Physics and VINCA Institute of Nuclear Sciences, Serbia M. Aguilar-Benitez, J. Alcaraz Maestre, A. Álvarez Fernández, I. Bachiller, M. Barrio Luna,
J.A. Brochero Cifuentes, C.A. Carrillo Montoya, M. Cepeda, M. Cerrada, N. Colino, B. De La Cruz,
A. Delgado Peris, C. Fernandez Bedoya, J.P. Fernández Ramos, J. Flix, M.C. Fouz, O. Gonzalez Lopez,
S. Goy Lopez, J.M. Hernandez, M.I. Josa, D. Moran, Á. Navarro Tobar, A. Pérez-Calero Yzquierdo,
J. Puerta Pelayo, I. Redondo, L. Romero, S. Sánchez Navas, M.S. Soares, A. Triossi, C. Willmott
Centro de Investigaciones Energéticas Medioambientales y Tecnológicas (CIEMAT), Madrid, Spain M. Aguilar-Benitez, J. Alcaraz Maestre, A. Álvarez Fernández, I. Bachiller, M. Barrio Luna,
J.A. Brochero Cifuentes, C.A. Carrillo Montoya, M. Cepeda, M. Cerrada, N. Colino, B. De La Cruz,
A. Delgado Peris, C. Fernandez Bedoya, J.P. Fernández Ramos, J. Flix, M.C. Fouz, O. Gonzalez Lopez,
S. Goy Lopez, J.M. Hernandez, M.I. Josa, D. Moran, Á. Navarro Tobar, A. Pérez-Calero Yzquierdo,
J. Puerta Pelayo, I. Redondo, L. Romero, S. Sánchez Navas, M.S. Soares, A. Triossi, C. Willmott
Centro de Investigaciones Energéticas Medioambientales y Tecnológicas (CIEMAT), Madrid, Spain T. Aushev Moscow Institute of Physics and Technology, Moscow, Russia Moscow Institute of Physics and Technology, Moscow, Russia O. Bychkova, R. Chistov 39, M. Danilov 39, S. Polikarpov 39, E. Tarkovskii
National Research Nuclear University ‘Moscow Engineering Physics Institute’ (MEPhI), Moscow, Russia V. Andreev, M. Azarkin, I. Dremin, M. Kirakosyan, A. Terkulov
P.N. Lebedev Physical Institute, Moscow, Russia A. Belyaev, E. Boos, M. Dubinin 40, L. Dudko, A. Ershov, A. Gribushin, V. Klyukhin, O. Kodolova, I. Lokhtin,
S. Obraztsov, S. Petrushanko, V. Savrin, A. Snigirev
Skobeltsyn Institute of Nuclear Physics, Lomonosov Moscow State University, Moscow, Russia A. Barnyakov 41, V. Blinov 41, T. Dimova 41, L. Kardapoltsev 41, Y. Skovpen 41
Novosibirsk State University (NSU), Novosibirsk, Russia I. Azhgirey, I. Bayshev, S. Bitioukov, V. Kachanov, D. Konstantinov, P. Mandrik, V. Petrov, R. Ryutin,
S. Slabospitskii, A. Sobol, S. Troshin, N. Tyurin, A. Uzunian, A. Volkov
Institute for High Energy Physics of National Research Centre ‘Kurchatov Institute’, Protvino, Russia A. Babaev, A. Iuzhakov, V. Okhotnikov
National Research Tomsk Polytechnic University, Tomsk, Russia C. Albajar, J.F. de Trocóniz The CMS Collaboration / Physics Letters B 797 (2019) 134811 16 B. Alvarez Gonzalez, J. Cuevas, C. Erice, J. Fernandez Menendez, S. Folgueras, I. Gonzalez Caballero,
J.R. González Fernández, E. Palencia Cortezon, V. Rodríguez Bouza, S. Sanchez Cruz B. Alvarez Gonzalez, J. Cuevas, C. Erice, J. Fernandez Menendez, S. Folgueras, I. Gonzalez Caballero,
J.R. González Fernández, E. Palencia Cortezon, V. Rodríguez Bouza, S. Sanchez Cruz
Universidad de Oviedo, Oviedo, Spain I.J. Cabrillo, A. Calderon, B. Chazin Quero, J. Duarte Campderros, M. Fernandez, P.J. Fernández Manteca,
A. García Alonso, G. Gomez, C. Martinez Rivero, P. Martinez Ruiz del Arbol, F. Matorras, J. Piedra Gomez,
C. Prieels, T. Rodrigo, A. Ruiz-Jimeno, L. Russo 43, L. Scodellaro, N. Trevisani, I. Vila, J.M. Vizan Garcia
Instituto de Física de Cantabria (IFCA), CSIC-Universidad de Cantabria, Santander, Spain I.J. Cabrillo, A. Calderon, B. Chazin Quero, J. Duarte Campderros, M. Fernandez, P.J. Fernández Manteca,
A. García Alonso, G. Gomez, C. Martinez Rivero, P. Martinez Ruiz del Arbol, F. Matorras, J. Piedra Gomez,
C. Prieels, T. Rodrigo, A. Ruiz-Jimeno, L. Russo 43, L. Scodellaro, N. Trevisani, I. Vila, J.M. Vizan Garcia
Instituto de Física de Cantabria (IFCA), CSIC-Universidad de Cantabria, Santander, Spain K. Malagalage University of Colombo, Colombo, Sri Lanka W.G.D. Dharmaratna, N. Wickramage University of Ruhuna, Department of Physics, Matara, Sri Lanka D. Abbaneo, B. Akgun, E. Auffray, G. Auzinger, J. Baechler, P. Baillon, A.H. Ball, D. Barney, J. Bendavid,
M. Bianco, A. Bocci, E. Bossini, C. Botta, E. Brondolin, T. Camporesi, A. Caratelli, G. Cerminara, E. Chapon,
G. Cucciati, D. d’Enterria, A. Dabrowski, N. Daci, V. Daponte, A. David, O. Davignon, A. De Roeck,
N. Deelen, M. Deile, M. Dobson, M. Dünser, N. Dupont, A. Elliott-Peisert, F. Fallavollita 44, D. Fasanella,
G. Franzoni, J. Fulcher, W. Funk, S. Giani, D. Gigi, A. Gilbert, K. Gill, F. Glege, M. Gruchala, M. Guilbaud,
D. Gulhan, J. Hegeman, C. Heidegger, Y. Iiyama, V. Innocente, P. Janot, O. Karacheban 19, J. Kaspar,
J. Kieseler, M. Krammer 1, C. Lange, P. Lecoq, C. Lourenço, L. Malgeri, M. Mannelli, A. Massironi,
F. Meijers, J.A. Merlin, S. Mersi, E. Meschi, F. Moortgat, M. Mulders, J. Ngadiuba, S. Nourbakhsh,
S. Orfanelli, L. Orsini, F. Pantaleo 16, L. Pape, E. Perez, M. Peruzzi, A. Petrilli, G. Petrucciani, A. Pfeiffer,
M. Pierini, F.M. Pitters, D. Rabady, A. Racz, M. Rovere, H. Sakulin, C. Schäfer, C. Schwick, M. Selvaggi,
A. Sharma, P. Silva, W. Snoeys, P. Sphicas 45, J. Steggemann, V.R. Tavolaro, D. Treille, A. Tsirou, A. Vartak,
M. Verzetti, W.D. Zeuner
CERN, European Organization for Nuclear Research, Geneva, Switzerland D. Abbaneo, B. Akgun, E. Auffray, G. Auzinger, J. Baechler, P. Baillon, A.H. Ball, D. Barney, J. Bendavid,
M. Bianco, A. Bocci, E. Bossini, C. Botta, E. Brondolin, T. Camporesi, A. Caratelli, G. Cerminara, E. Chapon,
G. Cucciati, D. d’Enterria, A. Dabrowski, N. Daci, V. Daponte, A. David, O. Davignon, A. De Roeck,
N. Deelen, M. Deile, M. Dobson, M. Dünser, N. Dupont, A. Elliott-Peisert, F. Fallavollita 44, D. Fasanella,
G. Franzoni, J. Fulcher, W. Funk, S. Giani, D. Gigi, A. Gilbert, K. Gill, F. Glege, M. Gruchala, M. Guilbaud,
D. Gulhan, J. Hegeman, C. Heidegger, Y. Iiyama, V. Innocente, P. Janot, O. Karacheban 19, J. Kaspar,
J. Kieseler, M. Krammer 1, C. Lange, P. Lecoq, C. Lourenço, L. Malgeri, M. Mannelli, A. Massironi,
F. Meijers, J.A. Merlin, S. Mersi, E. Meschi, F. Moortgat, M. Mulders, J. Ngadiuba, S. Nourbakhsh,
S. Orfanelli, L. Orsini, F. Pantaleo 16, L. Pape, E. Perez, M. Peruzzi, A. Petrilli, G. Petrucciani, A. Pfeiffer,
M. Pierini, F.M. Pitters, D. Rabady, A. Racz, M. Rovere, H. Sakulin, C. Schäfer, C. Schwick, M. Selvaggi,
A. Sharma, P. Silva, W. W.G.D. Dharmaratna, N. Wickramage Guler, I. Hos 51, C. Isik, E.E. Kangal 52, O. Kara, A. Kayis Topaksu,
U. Kiminsu, M. Oglakci, G. Onengut, K. Ozdemir 53, S. Ozturk 54, A.E. Simsek, D. Sunar Cerci 48, U.G. Tok,
S. Turkcapar, I.S. Zorbakir, C. Zorbilmez
Çukurova University, Physics Department, Science and Art Faculty, Adana, Turkey A. Bat, F. Boran, S. Cerci 48, S. Damarseckin 49, Z.S. Demiroglu, F. Dolek, C. Dozen, I. Dumanoglu,
G. Gokbulut, Emine Gurpinar Guler 50, Y. Guler, I. Hos 51, C. Isik, E.E. Kangal 52, O. Kara, A. Kayis Topaksu,
U. Kiminsu, M. Oglakci, G. Onengut, K. Ozdemir 53, S. Ozturk 54, A.E. Simsek, D. Sunar Cerci 48, U.G. Tok,
S. Turkcapar, I.S. Zorbakir, C. Zorbilmez
Çukurova University, Physics Department, Science and Art Faculty, Adana, Turkey B. Isildak 55, G. Karapinar 56, M. Yalvac
Middle East Technical University, Physics Department, Ankara, Turkey I.O. Atakisi, E. Gülmez, M. Kaya 57, O. Kaya 58, B. Kaynak, Ö. Özçelik, S. Tekten, E.A. Yetkin 59
Bogazici University, Istanbul, Turkey A. Cakir, Y. Komurcu, S. Sen 60
Istanbul Technical University, Istanbul, Turkey W.G.D. Dharmaratna, N. Wickramage Snoeys, P. Sphicas 45, J. Steggemann, V.R. Tavolaro, D. Treille, A. Tsirou, A. Vartak,
M. Verzetti, W.D. Zeuner
CERN, European Organization for Nuclear Research, Geneva, Switzerland L. Caminada 46, K. Deiters, W. Erdmann, R. Horisberger, Q. Ingram, H.C. Kaestli, D. Kotlinski,
U. Langenegger, T. Rohe, S.A. Wiederkehr
Paul Scherrer Institut, Villigen, Switzerland L. Caminada 46, K. Deiters, W. Erdmann, R. Horisberger, Q. Ingram, H.C. Kaestli, D. Kotlinski,
U. Langenegger, T. Rohe, S.A. Wiederkehr M. Backhaus, P. Berger, N. Chernyavskaya, G. Dissertori, M. Dittmar, M. Donegà, C. Dorfer,
T.A. Gómez Espinosa, C. Grab, D. Hits, T. Klijnsma, W. Lustermann, R.A. Manzoni, M. Marionneau,
M.T. Meinhard, F. Micheli, P. Musella, F. Nessi-Tedaldi, F. Pauss, G. Perrin, L. Perrozzi, S. Pigazzini,
M. Reichmann, C. Reissel, T. Reitenspiess, D. Ruini, D.A. Sanz Becerra, M. Schönenberger, L. Shchutska,
M.L. Vesterbacka Olsson, R. Wallny, D.H. Zhu
ETH Zurich – Institute for Particle Physics and Astrophysics (IPA), Zurich, Switzerland T.K. Aarrestad, C. Amsler 47, D. Brzhechko, M.F. Canelli, A. De Cosa, R. Del Burgo, S. Donato, B. Kilminster,
S. Leontsinis, V.M. Mikuni, I. Neutelings, G. Rauco, P. Robmann, D. Salerno, K. Schweiger, C. Seitz,
Y. Takahashi, S. Wertz, A. Zucchetta
Universität Zürich, Zurich, Switzerland
T.H. Doan, C.M. Kuo, W. Lin, A. Roy, S.S. Yu
National Central University, Chung-Li, Taiwan
P. Chang, Y. Chao, K.F. Chen, P.H. Chen, W.-S. Hou, Y.y. Li, R.-S. Lu, E. Paganis, A. Psallidas, A. Steen
National Taiwan University (NTU) Taipei Taiwan T.K. Aarrestad, C. Amsler 47, D. Brzhechko, M.F. Canelli, A. De Cosa, R. Del Burgo, S. Donato, B. Kilminster
S. Leontsinis, V.M. Mikuni, I. Neutelings, G. Rauco, P. Robmann, D. Salerno, K. Schweiger, C. Seitz,
Y. Takahashi, S. Wertz, A. Zucchetta
Universität Zürich, Zurich, Switzerland P. Chang, Y. Chao, K.F. Chen, P.H. Chen, W.-S. Hou, Y.y. Li, R.-S. Lu, E. Paganis, A. Psallidas, A. Steen
National Taiwan University (NTU), Taipei, Taiwan The CMS Collaboration / Physics Letters B 797 (2019) 134811 17 B. Asavapibhop, C. Asawatangtrakuldee, N. Srimanobhas, N. Suwonjandee
Chulalongkorn University, Faculty of Science, Department of Physics, Bangkok, Thailand B. Asavapibhop, C. Asawatangtrakuldee, N. Srimanobhas, N. Suwonjandee
Chulalongkorn University, Faculty of Science, Department of Physics, Bangkok, Thailand B. Asavapibhop, C. Asawatangtrakuldee, N. Srimanobhas, N. Suwonjandee
Chulalongkorn University, Faculty of Science, Department of Physics, Bangkok, Thailand
A. Bat, F. Boran, S. Cerci 48, S. Damarseckin 49, Z.S. Demiroglu, F. Dolek, C. Dozen, I. Dumanoglu,
G. Gokbulut, Emine Gurpinar Guler 50, Y. R. Bartek, A. Dominguez, R. Uniyal
Catholic University of America, Washington, DC, USA A. Buccilli, S.I. Cooper, C. Henderson, P. Rumerio, C. West
The University of Alabama, Tuscaloosa, USA D. Arcaro, T. Bose, Z. Demiragli, D. Gastler, S. Girgis, D. Pinna, C. Richardson, J. Rohlf, D. Sperka, I. Suarez,
L. Sulak, D. Zou
Boston University, Boston, USA G. Benelli, B. Burkle, X. Coubez, D. Cutts, Y.t. Duh, M. Hadley, J. Hakala, U. Heintz, J.M. Hogan 64,
K.H.M. Kwok, E. Laird, G. Landsberg, J. Lee, Z. Mao, M. Narain, S. Sagir 65, R. Syarif, E. Usai, D. Yu
Brown University, Providence, USA R. Band, C. Brainerd, R. Breedon, M. Calderon De La Barca Sanchez, M. Chertok, J. Conway, R. Conway,
P.T. Cox, R. Erbacher, C. Flores, G. Funk, F. Jensen, W. Ko, O. Kukral, R. Lander, M. Mulhearn, D. Pellett,
J. Pilot, M. Shi, D. Stolp, D. Taylor, K. Tos, M. Tripathi, Z. Wang, F. Zhang
University of California, Davis, Davis, USA M. Bachtis, C. Bravo, R. Cousins, A. Dasgupta, A. Florent, J. Hauser, M. Ignatenko, N. Mccoll, W.A. Nash,
S. Regnard, D. Saltzberg, C. Schnaible, B. Stone, V. Valuev
University of California, Los Angeles, USA K. Burt, R. Clare, J.W. Gary, S.M.A. Ghiasi Shirazi, G. Hanson, G. Karapostoli, E. Kennedy, O.R. Long,
M. Olmedo Negrete, M.I. Paneva, W. Si, L. Wang, H. Wei, S. Wimpenny, B.R. Yates, Y. Zhang
University of California, Riverside, Riverside, USA J.G. Branson, P. Chang, S. Cittolin, M. Derdzinski, R. Gerosa, D. Gilbert, B. Hashemi, D. Klein, V. Krutelyov,
J. Letts, M. Masciovecchio, S. May, S. Padhi, M. Pieri, V. Sharma, M. Tadel, F. Würthwein, A. Yagil,
G. Zevi Della Porta
University of California, San Diego, La Jolla, USA N. Amin, R. Bhandari, C. Campagnari, M. Citron, V. Dutta, M. Franco Sevilla, L. Gouskos, J. Incandela,
B. Marsh, H. Mei, A. Ovcharova, H. Qu, J. Richman, U. Sarica, D. Stuart, S. Wang, J. Yoo
University of California, Santa Barbara – Department of Physics, Santa Barbara, USA D. Anderson, A. Bornheim, O. Cerri, I. Dutta, J.M. Lawhorn, N. Lu, J. Mao, H.B. Newman, T.Q. Nguyen,
J. Pata, M. Spiropulu, J.R. Vlimant, S. Xie, Z. Zhang, R.Y. Zhu
California Institute of Technology, Pasadena, USA M.B. Andrews, T. Ferguson, T. Mudholkar, M. Paulini, M. Sun, I. Vorobiev, M. Weinberg
Carnegie Mellon University, Pittsburgh, USA J.P. Cumalat, W.T. Ford, A. Johnson, E. MacDonald, T. Mulholland, R. Patel, A. Perloff, K. Stenson,
K.A. Ulmer, S.R. Wagner
University of Colorado Boulder, Boulder, USA J. L. Levchuk National Scientific Center, Kharkov Institute of Physics and Technology, Kharkov, Ukraine F. Ball, E. Bhal, S. Bologna, J.J. Brooke, D. Burns, E. Clement, D. Cussans, H. Flacher, J. Goldstein,
G.P. Heath, H.F. Heath, L. Kreczko, S. Paramesvaran, B. Penning, T. Sakuma, S. Seif El Nasr-Storey,
D. Smith, V.J. Smith, J. Taylor, A. Titterton
University of Bristol, Bristol, United Kingdom K.W. Bell, A. Belyaev 61, C. Brew, R.M. Brown, D. Cieri, D.J.A. Cockerill, J.A. Coughlan, K. Harder, S. Harper,
J. Linacre, K. Manolopoulos, D.M. Newbold, E. Olaiya, D. Petyt, T. Reis, T. Schuh,
C.H. Shepherd-Themistocleous, A. Thea, I.R. Tomalin, T. Williams, W.J. Womersley
Rutherford Appleton Laboratory, Didcot, United Kingdom R. Bainbridge, P. Bloch, J. Borg, S. Breeze, O. Buchmuller, A. Bundock, Gurpreet Singh Chahal 62,
D. Colling, P. Dauncey, G. Davies, M. Della Negra, R. Di Maria, P. Everaerts, G. Hall, G. Iles, T. James,
M. Komm, C. Laner, L. Lyons, A.-M. Magnan, S. Malik, A. Martelli, V. Milosevic, J. Nash 63, V. Palladino,
M. Pesaresi, D.M. Raymond, A. Richards, A. Rose, E. Scott, C. Seez, A. Shtipliyski, M. Stoye, T. Strebler,
S. Summers, A. Tapper, K. Uchida, T. Virdee 16, N. Wardle, D. Winterbottom, J. Wright, A.G. Zecchinelli,
S.C. Zenz
Imperial College, London, United Kingdom J.E. Cole, P.R. Hobson, A. Khan, P. Kyberd, C.K. Mackay, A. Morton, I.D. Reid, L. Teodorescu, S. Zahid
Brunel University, Uxbridge, United Kingdom K. Call, J. Dittmann, K. Hatakeyama, C. Madrid, B. McMaster, N. Pastika, C. Smith
Baylor University, Waco, USA Baylor University, Waco, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 18 R. Bartek, A. Dominguez, R. Uniyal
Catholic University of America, Washington, DC, USA R. Bartek, A. Dominguez, R. Uniyal
Catholic University of America, Washington, DC, USA R. Bartek, A. Dominguez, R. Uniyal
Catholic University of America, Washington, DC, USA Taylor, S. Tkaczyk, N.V. Tran, L. Uplegger, E.W. Vaandering,
C. Vernieri, M. Verzocchi, R. Vidal, M. Wang, H.A. Weber Fermi National Accelerator Laboratory, Batavia, USA D. Acosta, P. Avery, P. Bortignon, D. Bourilkov, A. Brinkerhoff, L. Cadamuro, A. Carnes, V. Cherepanov,
D. Curry, F. Errico, R.D. Field, S.V. Gleyzer, B.M. Joshi, M. Kim, J. Konigsberg, A. Korytov, K.H. Lo, P. Ma,
K. Matchev, N. Menendez, G. Mitselmakher, D. Rosenzweig, K. Shi, J. Wang, S. Wang, X. Zuo
University of Florida, Gainesville, USA R. Bartek, A. Dominguez, R. Uniyal
Catholic University of America, Washington, DC, USA Alexander, J. Chaves, Y. Cheng, J. Chu, A. Datta, A. Frankenthal, K. Mcdermott, N. Mirman,
J.R. Patterson, D. Quach, A. Rinkevicius 66, A. Ryd, S.M. Tan, Z. Tao, J. Thom, P. Wittich, M. Zientek
Cornell University, Ithaca, USA Cornell University, Ithaca, USA Cornell University, Ithaca, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 19 S. Abdullin, M. Albrow, M. Alyari, G. Apollinari, A. Apresyan, A. Apyan, S. Banerjee, L.A.T. Bauerdick,
A. Beretvas, J. Berryhill, P.C. Bhat, K. Burkett, J.N. Butler, A. Canepa, G.B. Cerati, H.W.K. Cheung,
F. Chlebana, M. Cremonesi, J. Duarte, V.D. Elvira, J. Freeman, Z. Gecse, E. Gottschalk, L. Gray, D. Green,
S. Grünendahl, O. Gutsche, Allison Reinsvold Hall, J. Hanlon, R.M. Harris, S. Hasegawa, R. Heller,
J. Hirschauer, B. Jayatilaka, S. Jindariani, M. Johnson, U. Joshi, B. Klima, M.J. Kortelainen, B. Kreis,
S. Lammel, J. Lewis, D. Lincoln, R. Lipton, M. Liu, T. Liu, J. Lykken, K. Maeshima, J.M. Marraffino,
D. Mason, P. McBride, P. Merkel, S. Mrenna, S. Nahn, V. O’Dell, V. Papadimitriou, K. Pedro, C. Pena,
G. Rakness, F. Ravera, L. Ristori, B. Schneider, E. Sexton-Kennedy, N. Smith, A. Soha, W.J. Spalding,
L. Spiegel, S. Stoynev, J. Strait, N. Strobbe, L. Taylor, S. Tkaczyk, N.V. Tran, L. Uplegger, E.W. Vaandering,
C. Vernieri, M. Verzocchi, R. Vidal, M. Wang, H.A. Weber
Fermi National Accelerator Laboratory, Batavia, USA S. Abdullin, M. Albrow, M. Alyari, G. Apollinari, A. Apresyan, A. Apyan, S. Banerjee, L.A.T. Bauerdick,
A. Beretvas, J. Berryhill, P.C. Bhat, K. Burkett, J.N. Butler, A. Canepa, G.B. Cerati, H.W.K. Cheung,
F. Chlebana, M. Cremonesi, J. Duarte, V.D. Elvira, J. Freeman, Z. Gecse, E. Gottschalk, L. Gray, D. Green,
S. Grünendahl, O. Gutsche, Allison Reinsvold Hall, J. Hanlon, R.M. Harris, S. Hasegawa, R. Heller,
J. Hirschauer, B. Jayatilaka, S. Jindariani, M. Johnson, U. Joshi, B. Klima, M.J. Kortelainen, B. Kreis,
S. Lammel, J. Lewis, D. Lincoln, R. Lipton, M. Liu, T. Liu, J. Lykken, K. Maeshima, J.M. Marraffino,
D. Mason, P. McBride, P. Merkel, S. Mrenna, S. Nahn, V. O’Dell, V. Papadimitriou, K. Pedro, C. Pena,
G. Rakness, F. Ravera, L. Ristori, B. Schneider, E. Sexton-Kennedy, N. Smith, A. Soha, W.J. Spalding,
L. Spiegel, S. Stoynev, J. Strait, N. Strobbe, L. Taylor, S. Tkaczyk, N.V. Tran, L. Uplegger, E.W. Vaandering,
C. Vernieri, M. Verzocchi, R. Vidal, M. Wang, H.A. Weber
Fermi National Accelerator Laboratory, Batavia, USA L. Spiegel, S. Stoynev, J. Strait, N. Strobbe, L. Y.R. Joshi Y.R. Joshi
Florida International University, Miami, USA Florida International University, Miami, USA T. Adams, A. Askew, S. Hagopian, V. Hagopian, K.F. Johnson, R. Khurana, T. Kolberg, G. Martinez, T. Perry,
H. Prosper, C. Schiber, R. Yohay, J. Zhang
Florida State University, Tallahassee, USA M.M. Baarmand, V. Bhopatkar, M. Hohlmann, D. Noonan, M. Rahmani, M. Saunders, F. Yumiceva
Florida Institute of Technology, Melbourne, USA M.R. Adams, L. Apanasevich, D. Berry, R.R. Betts, R. Cavanaugh, X. Chen, S. Dittmer, O. Evdokimov,
C.E. Gerber, D.A. Hangal, D.J. Hofman, K. Jung, C. Mills, T. Roy, M.B. Tonjes, N. Varelas, H. Wang, X. Wang,
Z. Wu
University of Illinois at Chicago (UIC), Chicago, USA M. Alhusseini, B. Bilki 50, W. Clarida, K. Dilsiz 67, S. Durgut, R.P. Gandrajula, M. Haytmyradov,
V. Khristenko, O.K. Köseyan, J.-P. Merlo, A. Mestvirishvili 68, A. Moeller, J. Nachtman, H. Ogul 69, Y. Onel,
F. Ozok 70, A. Penzo, C. Snyder, E. Tiras, J. Wetzel
The University of Iowa, Iowa City, USA B. Blumenfeld, A. Cocoros, N. Eminizer, D. Fehling, L. Feng, A.V. Gritsan, W.T. Hung, P. Maksimovic,
J. Roskes, M. Swartz, M. Xiao
Johns Hopkins University, Baltimore, USA C. Baldenegro Barrera, P. Baringer, A. Bean, S. Boren, J. Bowen, A. Bylinkin, T. Isidori, S. Khalil, J. King,
G. Krintiras, A. Kropivnitskaya, C. Lindsey, D. Majumder, W. Mcbrayer, N. Minafra, M. Murray, C. Rogan,
C. Royon, S. Sanders, E. Schmitz, J.D. Tapia Takaki, Q. Wang, J. Williams, G. Wilson
The University of Kansas, Lawrence, USA S. Duric, A. Ivanov, K. Kaadze, D. Kim, Y. Maravin, D.R. Mendis, T. Mitchell, A. Modak, A. Mohammadi
Kansas State University, Manhattan, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 20 A. Baden, O. Baron, A. Belloni, S.C. Eno, Y. Feng, N.J. Hadley, S. Jabeen, G.Y. Jeng, R.G. Kellogg, J. Kunkle,
A.C. Mignerey, S. Nabili, F. Ricci-Tam, M. Seidel, Y.H. Shin, A. Skuja, S.C. Tonwar, K. Wong
University of Maryland, College Park, USA A. Baden, O. Baron, A. Belloni, S.C. Eno, Y. Feng, N.J. Hadley, S. Jabeen, G.Y. Jeng, R.G. Kellogg, J. Kunkle,
A.C. Mignerey, S. Nabili, F. Ricci-Tam, M. Seidel, Y.H. Shin, A. Skuja, S.C. Tonwar, K. Wong
University of Maryland, College Park, USA D. Abercrombie, B. Allen, A. Baty, R. Bi, S. Brandt, W. Busza, I.A. Cali, M. D’Alfonso, G. Gomez Ceballos,
M. Goncharov, P. Harris, D. Hsu, M. Hu, M. Klute, D. Kovalskyi, Y.-J. Lee, P.D. Luckey, B. Maier,
A.C. A. Barker, V.E. Barnes, S. Das, L. Gutay, M. Jones, A.W. Jung, A. Khatiwada, B. Mahakud, D.H. Miller,
G. Negro, N. Neumeister, C.C. Peng, S. Piperov, H. Qiu, J.F. Schulte, J. Sun, F. Wang, R. Xiao, W. Xie
Purdue University, West Lafayette, USA Y.R. Joshi Marini, C. Mcginn, C. Mironov, S. Narayanan, X. Niu, C. Paus, D. Rankin, C. Roland, G. Roland, Z. Shi,
G.S.F. Stephans, K. Sumorok, K. Tatar, D. Velicanu, J. Wang, T.W. Wang, B. Wyslouch
Massachusetts Institute of Technology, Cambridge, USA A.C. Benvenuti †, R.M. Chatterjee, A. Evans, S. Guts, P. Hansen, J. Hiltbrand, S. Kalafut, Y. Kubota, Z. Lesko,
J. Mans, R. Rusack, M.A. Wadud
University of Minnesota, Minneapolis, USA J.G. Acosta, S. Oliveros
University of Mississippi, Oxford, USA K. Bloom, D.R. Claes, C. Fangmeier, L. Finco, F. Golf, R. Gonzalez Suarez, R. Kamalieddin, I. Kravchenko,
J.E. Siado, G.R. Snow, B. Stieger
University of Nebraska-Lincoln, Lincoln, USA G. Agarwal, C. Harrington, I. Iashvili, A. Kharchilava, C. Mclean, D. Nguyen, A. Parker, J. Pekkanen,
S. Rappoccio, B. Roozbahani
State University of New York at Buffalo, Buffalo, USA G. Alverson, E. Barberis, C. Freer, Y. Haddad, A. Hortiangtham, G. Madigan, D.M. Morse, T. Orimoto,
L. Skinnari, A. Tishelman-Charny, T. Wamorkar, B. Wang, A. Wisecarver, D. Wood
Northeastern University, Boston, USA S. Bhattacharya, J. Bueghly, T. Gunter, K.A. Hahn, N. Odell, M.H. Schmitt, K. Sung, M. Trovato, M. Velasco
Northwestern University, Evanston, USA R. Bucci, N. Dev, R. Goldouzian, M. Hildreth, K. Hurtado Anampa, C. Jessop, D.J. Karmgard, K. Lannon,
W. Li, N. Loukas, N. Marinelli, I. Mcalister, F. Meng, C. Mueller, Y. Musienko 34, M. Planer, R. Ruchti,
P. Siddireddy, G. Smith, S. Taroni, M. Wayne, A. Wightman, M. Wolf, A. Woodard
University of Notre Dame, Notre Dame, USA J. Alimena, B. Bylsma, L.S. Durkin, S. Flowers, B. Francis, C. Hill, W. Ji, A. Lefeld, T.Y. Ling, B.L. Winer
The Ohio State University, Columbus, USA S. Cooperstein, G. Dezoort, P. Elmer, J. Hardenbrook, N. Haubrich, S. Higginbotham, A. Kalogeropoulos,
S. Kwan, D. Lange, M.T. Lucchini, J. Luo, D. Marlow, K. Mei, I. Ojalvo, J. Olsen, C. Palmer, P. Piroué,
J. Salfeld-Nebgen, D. Stickland, C. Tully, Z. Wang
Princeton University, Princeton, USA S. Malik, S. Norberg
University of Puerto Rico, Mayaguez, USA S. Malik, S. Norberg
University of Puerto Rico, Mayaguez, USA S. Malik, S. Norberg
University of Puerto Rico, Mayaguez, USA A. Barker, V.E. Barnes, S. Das, L. Gutay, M. Jones, A.W. Jung, A. Khatiwada, B. Mahakud, D.H. Miller,
G. Negro, N. Neumeister, C.C. Peng, S. Piperov, H. Qiu, J.F. Schulte, J. Sun, F. Wang, R. Xiao, W. T. Cheng, J. Dolen, N. Parashar Purdue University Northwest, Hammond, USA K.M. Ecklund, S. Freed, F.J.M. Geurts, M. Kilpatrick, Arun Kumar, W. Li, B.P. Padley, R. Redjimi, J. Roberts,
J. Rorie, W. Shi, A.G. Stahl Leiton, Z. Tu, A. Zhang
Rice University, Houston, USA A. Bodek, P. de Barbaro, R. Demina, J.L. Dulemba, C. Fallon, T. Ferbel, M. Galanti, A. Garcia-Bellido, J. Han,
O. Hindrichs, A. Khukhunaishvili, E. Ranken, P. Tan, R. Taus
University of Rochester, Rochester, USA B. Chiarito, J.P. Chou, A. Gandrakota, Y. Gershtein, E. Halkiadakis, A. Hart, M. Heindl, E. Hughes,
S. Kaplan, S. Kyriacou, I. Laflotte, A. Lath, R. Montalvo, K. Nash, M. Osherson, H. Saka, S. Salur,
S. Schnetzer, D. Sheffield, S. Somalwar, R. Stone, S. Thomas, P. Thomassen
Rutgers, The State University of New Jersey, Piscataway, USA H. Acharya, A.G. Delannoy, J. Heideman, G. Riley, S. Spanier
University of Tennessee, Knoxville, USA O. Bouhali 71, A. Celik, M. Dalchenko, M. De Mattia, A. Delgado, S. Dildick, R. Eusebi, J. Gilmore, T. Huang,
T. Kamon 72, S. Luo, D. Marley, R. Mueller, D. Overton, L. Perniè, D. Rathjens, A. Safonov
Texas A&M University, College Station, USA N. Akchurin, J. Damgov, F. De Guio, S. Kunori, K. Lamichhane, S.W. Lee, T. Mengke, S. Muthumuni,
T. Peltola, S. Undleeb, I. Volobouev, Z. Wang, A. Whitbeck
Texas Tech University, Lubbock, USA S. Greene, A. Gurrola, R. Janjam, W. Johns, C. Maguire, A. Melo, H. Ni, K. Padeken, F. Romeo, P. Sheldon,
S. Tuo, J. Velkovska, M. Verweij
Vanderbilt University, Nashville, USA M.W. Arenton, P. Barria, B. Cox, G. Cummings, R. Hirosky, M. Joyce, A. Ledovskoy, C. Neu, B. Tannenwald,
Y. Wang, E. Wolfe, F. Xia
University of Virginia, Charlottesville, USA J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber 73,
M Herndon A Hervé U Hussain P Klabbers A Lanaro A Loeliger K Long R Loveless J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber 73,
M. Herndon, A. Hervé, U. Hussain, P. Klabbers, A. Lanaro, A. Loeliger, K. Long, R. Loveless,
J. Madhusudanan Sreekala, T. Ruggles, A. Savin, V. Sharma, W.H. Smith, D. Teague, S. Trembath-Reichert,
N. Woods J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber 73,
M. Herndon, A. Hervé, U. Hussain, P. Klabbers, A. Lanaro, A. Loeliger, K. Long, R. Y.R. Joshi Xie
Purdue University, West Lafayette, USA The CMS Collaboration / Physics Letters B 797 (2019) 134811 21 T. Cheng, J. Dolen, N. Parashar
Purdue University Northwest, Hammond, USA 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 11 Also at Suez University, Suez, Egypt. 12 Now at British University in Egypt, Cairo, Egypt 13 Also at Purdue University, West Lafayette, USA. 14 Also at Université de Haute Alsace, Mulhouse, France. 15 Also at Erzincan Binali Yildirim University, Erzincan, Turkey 16 Also at CERN, European Organization for Nuclear Research, Geneva, Switzerland. 16 Also at CERN, European Organization for Nuclear Research, Geneva, Switzerland. 17 Also at RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany. 17 Also at RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany. 17 Also at RWTH Aachen University, III. Physikalisches In 18 Also at University of Hamburg, Hamburg, Germany. 19 Also at Brandenburg University of Technology, Cottbus, German 20 Also at Institute of Physics, University of Debrecen, Debrecen, Hungary. 21 Also at Institute of Nuclear Research ATOMKI, Debrecen, Hungary. 22 Also at Indian Institute of Technology Bhubaneswar, Bhubaneswar, India. 23 Also at Institute of Physics, Bhubaneswar, India. 23 Also at Institute of Physics, Bhubaneswar, India 24 Also at Shoolini University, Solan, India. 25 Also at University of Visva-Bharati, Santiniketan, India. 26 Also at Isfahan University of Technology, Isfahan, Iran. 27 Also at Italian National Agency for New Technologies, Ener 27 Also at Italian National Agency for New Technologies, Energy and Sustainable Economic Development, Bologna, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura Della Materia, Catania, Italy. 28 Also at Centro Siciliano di Fisica Nucleare e di Struttura D 29 Also at Scuola Normale e Sezione dell’INFN, Pisa, Italy. 30 Also at Riga Technical University, Riga, Latvia. 31 Also at Malaysian Nuclear Agency, MOSTI, Kajang, Malaysia. 31 Also at Malaysian Nuclear Agency, MOSTI, Kajang, Malaysia. 32 Also at Consejo Nacional de Ciencia y Tecnología, Mexico City, Mexico. 32 Also at Consejo Nacional de Ciencia y Tecnología, Mexico City, Mexico. 33 Also at Warsaw University of Technology, Institute of Electronic Systems, Warsaw, Poland. 33 Also at Warsaw University of Technology, Institute of Electronic Systems, Warsaw, Poland. 33 Also at Warsaw University of Technology, Institute of Electro 34 Also at Institute for Nuclear Research, Moscow, Russia. 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 34 Also at Institute for Nuclear Research, Moscow, Russia. 35 Now at National Research Nuclear University ‘Moscow Engineering Physics Institute’ (MEPhI), Moscow, Russia. 35 Now at National Research Nuclear University ‘Moscow Engineering Physics Institute’ (MEPhI 35 Now at National Research Nuclear University ‘Moscow En 36 Also at St. Petersburg State Polytechnical University, St. Petersburg, Russia. 36 Also at St. Petersburg State Polytechnical University, St. Petersburg, Russia. 37 Also at University of Florida, Gainesville, USA. 38 Also at Imperial College, London, United Kingdom. 39 Also at P.N. Lebedev Physical Institute, Moscow, Russia. 40 Also at California Institute of Technology, Pasadena, USA. 41 Also at Budker Institute of Nuclear Physics, Novosibirsk, Russia. 42 Also at Faculty of Physics, University of Belgrade, Belgrade, Se 43 Also at Università degli Studi di Siena, Siena, Italy. 44 Also at INFN Sezione di Pavia a, Università di Pavia b, Pavia, Italy. 44 Also at INFN Sezione di Pavia a, Università di Pavia b, Pavia, Italy. 45 Also at National and Kapodistrian University of Athens, Athens, Greece. 45 Also at National and Kapodistrian University of Athens, Athens, Greece. 46 Also at Universität Zürich, Zurich, Switzerland. 47 Also at Stefan Meyer Institute for Subatomic Physics (SMI), Vienna, Austria. 47 Also at Stefan Meyer Institute for Subatomic Physics (SMI), Vienna, Austria. 47 Also at Stefan Meyer Institute for Subatomic Ph 48 Also at Adiyaman University, Adiyaman, Turkey. 49 Also at Sirnak University, SIRNAK, Turkey. 50 Also at Beykent University, Istanbul, Turkey. 51 Also at Istanbul Aydin University, Istanbul, Turkey. 52 Also at Mersin University, Mersin, Turkey 53 Also at Piri Reis University, Istanbul, Turkey. 54 Also at Gaziosmanpasa University, Tokat, Turkey 55 Also at Ozyegin University, Istanbul, Turkey. 56 Also at Izmir Institute of Technology, Izmir, Turkey. 57 Also at Marmara University, Istanbul, Turkey. 58 Also at Kafkas University, Kars, Turkey. 59 Also at Istanbul Bilgi University, Istanbul, Turkey. 60 Also at Hacettepe University, Ankara, Turkey. 61 Also at School of Physics and Astronomy, University of Southampton, Southampton, United Kingdom. 61 Also at School of Physics and Astronomy, University of Southampton, Southampton, United Kingdom. 62 Also at Institute for Particle Physics Phenomenology Durham University, Durham, United Kingdom. 62 Also at Institute for Particle Physics Phenomenology Durham University, Durham, United Kingd 63 Also at Monash University, Faculty of Science, Clayton, Australia. 63 Also at Monash University, Faculty of Science, Clayton, Australia. 64 Also at Bethel University, St. Paul, USA. T. Cheng, J. Dolen, N. Parashar Loveless,
J. Madhusudanan Sreekala, T. Ruggles, A. Savin, V. Sharma, W.H. Smith, D. Teague, S. Trembath-Reichert,
N. Woods J. Buchanan, C. Caillol, D. Carlsmith, S. Dasu, I. De Bruyn, L. Dodd, F. Fiori, C. Galloni, B. Gomber
,
M. Herndon, A. Hervé, U. Hussain, P. Klabbers, A. Lanaro, A. Loeliger, K. Long, R. Loveless,
J. Madhusudanan Sreekala, T. Ruggles, A. Savin, V. Sharma, W.H. Smith, D. Teague, S. Trembath-Reichert,
N W
d University of Wisconsin – Madison, Madison, WI, USA 1 Also at Vienna University of Technology, Vienna, Austria. 8 Also at University of Chinese Academy of Sciences, Beijing, China. 9 Also at Institute for Theoretical and Experimental Physics named by A.I. Alikhanov of NRC ‘Kurchatov Institute’, Moscow, Russia The CMS Collaboration / Physics Letters B 797 (2019) 134811 22 10 Also at Joint Institute for Nuclear Research, Dubna, Russia. 64 Also at Bethel University, St. Paul, USA. 65 Also at Karamano˘glu Mehmetbey University, Karaman, Tur 65 Also at Karamano˘glu Mehmetbey University, Karaman, Turkey 66 Also at Vilnius University, Vilnius, Lithuania. 66 Also at Vilnius University, Vilnius, Lithuania. 67 Also at Bingol University, Bingol, Turkey. 68 Also at Georgian Technical University, Tbilisi, Georgia. 68 Also at Georgian Technical University, Tbilisi, Georgia. 69 Also at Sinop University, Sinop, Turkey. 70 Also at Mimar Sinan University, Istanbul, Istanbul, Turkey. 70 Also at Mimar Sinan University, Istanbul, Istanbul, Turkey. 71 Also at Texas A&M University at Qatar, Doha, Qatar. 71 Also at Texas A&M University at Qatar, Doha, Qatar. 72 Also at Kyungpook National University, Daegu, Repub 72 Also at Kyungpook National University, Daegu, Republic of 73 Also at University of Hyderabad, Hyderabad, India. 73 Also at University of Hyderabad, Hyderabad, India.
|
https://openalex.org/W1966535501
|
https://enpc.hal.science/hal-01086752/document
|
English
| null |
Trace metal determination in total atmospheric deposition in rural and urban areas
|
Science of the total environment
| 2,003
|
cc-by
| 6,695
|
To cite this version: Sam Azimi, Alexandre Ludwig, Daniel R. Thevenot, Jean-Louis Colin. Trace metal determination in
total atmospheric deposition in rural and urban areas. Science of the Total Environment, 2003, 308,
pp.247 - 256. 10.1016/S0048-9697(02)00678-2. hal-01086752 am Azimi, Alexandre Ludwig, Daniel R. Thevenot, Jean-Louis Colin Distributed under a Creative Commons Attribution 4.0 International License Trace metal determination in total atmospheric deposition in rural
and urban areas Sam Azimi *, Alexandre Ludwig , Daniel R. Thevenot , Jean-Louis Col
a,
b
a
´ Sam Azimi *, Alexandre Ludwig , Daniel R. Thevenot , Jean-Louis Colin
a,
b
a
b
´
Centre d’Enseignement et de Recherche sur l’Eau, la Ville et l’Environnement (CEREVE), UMR MENRT-MAP 99 022 101,
a
Universite Paris XII-Val de Marne, Faculte de Sciences et Technologie, 61 Avenue du General de Gaulle, 94010 Creteil Cedex,
´
´
´ ´
´
France Centre d’Enseignement et de Recherche sur l’Eau, la Ville et l’Environnement (CEREVE), UMR MENRT-MAP 99 022 101,
a
Universite Paris XII-Val de Marne, Faculte de Sciences et Technologie, 61 Avenue du General de Gaulle, 94010 Creteil Cedex,
´
´
´ ´
´
France Laboratoire Inter Universitaire des Systemes Atmospheriques (LISA), UMR CNRS 7583, Universite Paris XII-Val de Marne,
b
`
´
´
Faculte de Sciences et Technologie, 61 Avenue du General de Gaulle, 94010 Creteil Cedex, France
´
´ ´
´ Received 21 June 2002; accepted 27 November 2002 Received 21 June 2002; accepted 27 November 2002 Abstract The wet, dry and total atmospheric depositions of some metals (Al, Cd, Cr, Cu, Fe, Na, Pb and Zn) were sampled
at two sites and atmospheric fallout fluxes were determined for these locations. This work, led by two different
research groups, allowed to reach two main goals: to define a simple analytical procedure to secure accurate shipboard
sampling and analysis of atmospheric deposition, and to assess anthropogenic impacts of heavy metals to the
environment. The first step about the validation step showed that the prevalent deposition type was dry deposition
which represents 40, 60 and 80% for Cd, Cu and Pb, respectively. This prevalence of dry deposition in total
atmospheric fallout supported the necessity of funnel wall rinsing which contains 30, 50 and 40% of collected Cd,
Cu and Pb, respectively. Moreover, the reproducibility of atmospheric deposition collection was determined. The
second step was performed by comparing two sampling sites. A rural sampling site, situated in Morvan’s regional
park (250 km south-east of Paris), was chosen for its isolation from any local and regional contamination sources. Fluxes obtained in this area were compared with those obtained at an urban site (Creteil, suburb of Paris) allowing
´
comparison between urban and rural areas and demonstrating the impact of anthropogenic activities on atmospheric
deposition of Cr, Cu and Pb. 2002 Elsevier Science B.V. All rights reserved Keywords:
Trace elements; Atmospheric fallout; Sampling procedures; Anthropogenic impacts tions in the atmosphere: natural and anthropogenic
(D’Almeida et al., 1991). Natural sources are
mainly composed of soil, sea water and volcanic
dusts and gases. Anthropogenic emissions come
from industrial gases and aerosols or fossil-fuel
combustion (Pacyna, 1984). Incineration of urban
waste water treatment sludge and of urban waste
were identified as major atmospheric sources of *Corresponding author. Tel.: q33-1-45-17-16-20; fax: q
33-1-45-17-16-27. 0048-9697/03/$ - see front matter 2002 Elsevier Science B.V. All rights reserved.
PII: S0048-9697Ž02.00678-2 E-mail address: azimi@univ-paris12.fr (S. Azimi). HAL Id: hal-01086752
https://enpc.hal.science/hal-01086752v1
Submitted on 24 Nov 2014 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License The Science of the Total Environment 308 (2003) 247–256 2.1. Sampling sites Two sampling sites were selected to assess the
spatial heterogeneity of atmospheric depositions. During a first campaign, from November 1999 to
April 2000, four collectors were placed on the roof
of University Paris XII-Val de Marne (5 km south-
east of Paris, Creteil, France, 20 m above ground
´
level), within an urban area, at 200 m from a
highway (A86) and 6 km from an urban waste
incineration plant. During a second campaign,
from May to July 2000, four other collectors were
placed at Saint-Brisson (Morvan’s natural park,
250 km south-east of Paris, France) within a rural
area surrounded by forest and lakes, at 2 km from
the closest village and 30 km from the closest
town. A weekly sampling period was chosen for
an accurate determination of sampling volume and
of heavy metal concentration (Colin, 1997). The main objective of this work was to validate
a weekly collection procedure, both in urban and
rural sites, focussing mostly on the determination
of total atmospheric deposition. Therefore, during
8 weeks, atmospheric fallout was collected weekly
in a rural area in order to set up a sampling and
analysis procedure for low concentration of heavy
metals. Indeed, a literature survey (Church et al.,
1984; Landing et al., 1998; Garnaud, 1999; Thoni
et al., 1999) showed that the collection procedures
used by different laboratories or institutions present
significant differences. Besides the material, size
and location of the collector itself, its management,
i.e. the collection period, its replacement at the
end of each period or the rinsing of aerosol
particles adsorbed on the funnel wall are quite
different. 2. Material and methods trace metals (Sweet and Vermette, 1993; Sullivan
and Woods, 2000). Metallic pollutants may be
transported over long distances by very small
particles (Koutrakis, 1984). These particles when
aggregated or washed out by rain are called atmos-
pheric deposition, respectively, dry and wet. Dry
deposition of particles occurs by direct impact and
gravitational settling on land or water surfaces. In
wet deposition, aerosols and gases are dissolved
or suspended in water droplets or ice crystals. Besides such long-range transport processes, sig-
nificant dry and wet depositions also occur locally,
and atmospheric sources in urban area may play
an important role in the metal contamination of
dry and wet depositions (Person et al., 1993). Since heavy metals present high toxicity and high
lability in atmospheric fallout (Golomb et al.,
1997), their monitoring is important both in urban
and rural areas. 1. Introduction Metal transfer through the atmosphere is a sig-
nificant part of the biogeochemical cycle of these
elements (Galloway et al., 1982). There are two
processes which increase heavy metal concentra- S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 248 2.2. Total deposition collection A simple system made with a high-density
polyethylene (HDPE) bottle (1 l) connected to a
HDPE funnel was used for total deposition (TD)
collection. The
funnel
cross-sectional
areas
were 1135 cm for CEREVE’s and 1810 cm for
2
2
LISA’s. All this equipment was placed inside a
PVC pipe with PVC needles on top to prevent
bird nesting (Fig. 1a). Collector heights varied
with site. At Creteil, the collecting funnel was
´
placed at 1.5 m above the gravel covered university
roof (20 m above the ground) and LISA’s at 2 m
above the same roof. At Saint Brisson, collection
heights were 1.3 and 2 m, respectively, above the
grass-covered ground. Comparison between the
CEREVE and LISA collectors enabled the assess-
ment of the influence of collection heights on
atmospheric deposition measurement. Moreover,
the CEREVE TD collector was placed at the same
height as the separate dry and wet deposition (DD
and WD) collectors (ARS 1000) in order to allow
an accurate comparison of TD and the sum DDq
WD. Collection bottles were filled in advance with
20 ml of 10% nitric acid (Nitric acid 65% Supra-
pur, Merck) in order to dissolve particulate matter The study was completed by an urban collection
period of 16 weeks allowing a comparison between
urban and rural atmospheric depositions as well as
a determination of temporal trends at the urban
site. This work was performed within two research
groups, the ‘Centre d’Enseignement et de Recher-
che sur l’Eau, la Ville et l’Environnement’ (CER-
EVE) and the ‘Laboratoire Inter Universitaire des
Systemes Atmospheriques’ (LISA), both situated
`
´
within the Creteil University Campus. ´ S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 249 Fig. 1. Atmospheric fallout collectors: (a) total atmospheric deposition collector and (b) separate wet and dry atmospheric deposition
collector (ARS 1000, MTX Italia, Modane, Italy). sition collector and (b) separate wet and dry atmospheric deposition Fig. 1. Atmospheric fallout collectors: (a) total atmospheric deposition collector and (b) separate wet and dry atmospheric deposition
collector (ARS 1000, MTX Italia, Modane, Italy). was done for TD collection funnel, DD and WD
vessels were rinsed with 100 ml of a 10% nitric
acid solution and the resulting solution was col-
lected in separate clean HDPE bottle. and to avoid trace metal adsorption on bottle walls. 2.2. Total deposition collection When the rain volume was high, nitric acid was
added, within the laboratory clean room, to obtain
a final pH of 1. At the end of each collection
period (7 days), the funnel was rinsed with 100
ml of a 10% nitric acid solution (Nitric acid 65%
Suprapur, Merck) and the resulting solution was
collected into a separate clean HDPE bottle. At the end of each collection period, all collec-
tion materials, i.e. for TD, DD and WD, were
replaced by clean ones. 2.3. Wet and dry depositions collection For each laboratory this procedure was applied
to all materials in contact with wet, dry or total
atmospheric fallout samples, i.e. bottles, funnels,
ARS vessels, caps and filtration units. The CER-
EVE procedure was: (1) washing with a sponge
and dishwasher detergent, outside of the clean
room, and rinsing with deionised water (Milli-Ro,
Millipore S.A.); (2) introducing into the clean
room and complete immersion into a 2% Extran
bath during 24 h; (3) rinsing with ultra pure water
and complete immersion in a 10% nitric acid bath
(Nitric Acid 68% Normapur, Prolabo) during 24
h. Sampling of TD was supplemented with sepa-
rate collection of dry and wet atmospheric depo-
sitions at each site, using an ARS 1000 equipment
(MTX Italia SPA, Modane, Italy). Both types of
samples were collected in polyethylene cylindrical
vessels (29 cm inner diameter) covered with a
single lid which automatically moves from one
container to the other, according to a rain probe
(Fig. 1b). Wet deposition was collected in a 17-l
vessel and transferred into smaller bottles (1 l) for
easier transport to the laboratory. The vessel used
for dry deposition was partially filled with purity
water (18.2 MV Milli-Q water, Millipore S.A.) to
a depth of 1 cm in order to avoid resuspension of
collected particles. The evaporation of this water
was compensated by an automatic pump triggered
by an optical fibre sensor for water level. As it The LISA procedure was: (1) washing with
dishwasher detergent outside the clean room; (2)
complete immersion during 24 h in a 2% HCl bath
(HCl 36% Normapur, Merck), then rinsing the
material with deionised water before introducing S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 250 quantities of pollutants, often in concentrations of
mgØl
, in aqueous solution. The measurement of
y1
dry deposition is more problematic. In direct meas-
urement of dry deposition, an artificial surface is
usually used that simulates the natural surface onto
which dry deposition is occurring. In this work,
for direct measurements of such depositions, a
layer of ultra pure water in a bucket served as a
surrogate water surface. A similar method of dry
deposition onto a surrogate water surface was used
by Golomb et al. (1997) and Morselli et al. (1999). Such a device clearly avoids possible resuspension
of aerosols, which have reached this water surface. 2.5. Trace metal analysis After samples were brought back to the labora-
tory and nitric acid was added (when necessary),
samples were kept in a dark room at 5 8C during
7 days in order to dissolve most of particles. Then,
samples were filtered under a class 100 laminar
hood with 0.45 mm porosity filters. The 60-ml
sub-samples obtained were kept at 5 8C until their
analysis. The analytical technique used by CER-
EVE was a Graphic Furnace Atomic Absorption
Spectrometer (GF-AAS Perkin–Elmer 1100 B)
with Argon flow (Linde, N56) and deuterium lamp
for
non-specific
absorption correction (matrix
effect). For cadmium determination, ammonium
di-hydrogeno-phosphate
(NH H PO
Merck,
4
2
4
Suprapur) was added for matrix modification and
prevention of cadmium loss by volatilisation. The
analytical technique used by LISA was an ICP-
AES (Perkin–Elmer Optima 3000) equipped with
an ultrasonic nebulisor. In countries with temperate climate and limited
precipitation, it is important to evaluate the relative
importance of DD through aerosol settling and of
WD through rain. Indeed, during wet weekly
periods, with average daily rainfall amounts above
10 mmØday
, Cd, Cu and especially Pb are
y1
mainly deposited as DD (Fig. 2): the mean relative
importance of DD at the rural site reaches 40, 60
and 80% for Cd, Cu and Pb, respectively. This
prevalence of DD has also been observed at
Creteil: the relative importance of DD reached 67,
´
73 and 76% for Cd, Cu and Pb, respectively. In
central Paris (Garnaud, 1999), DD represented 77,
83 and 87% of TD for Cd, Cu and Pb, respectively. These results show the importance of DD relative
to WD in both areas. 2.3. Wet and dry depositions collection Nevertheless, in industrial or urban areas, DD was
often sampled by immobilising aerosols deposited
on an horizontal surface covered with an adhesive
polymer named ‘DIEM small plate’ (NF X 43-
007-1973). Such adhesion is not complete and
aerosols or their metal components may be washed
out by rain and wind. Evaluation of this loss was
done by the comparison of the DD collector and
the rinsing step of the funnel walls which simulat-
ed a dry nature surface. into the clean room (class 1000); (3) rinsing with
ultra pure water in the clean room and complete
immersion into a 2% HCl bath for at least 4 days. The final step was similar in both laboratories:
rinsing with ultra pure water and drying before
sealing into double plastic bags. All procedures in
the clean rooms were performed under class 10 or
100 laminar hoods. Membranes used for sample filtration (Sartorius,
cellulose nitrate, 0.45 mm porosity) were treated
in the clean room before any use: (1) immersion
into a 5% nitric acid solution during 24 h; (2)
rinsing with ultra pure water and storing in a ultra
pure water bath. 3.1.1. Prevalent deposition mechanism The device used most frequently for collecting
TD consists of a funnel connected to a receiving
bottle (Fig. 1a). When aerosols settle on the funnel
wall, they easily adhere, adsorb and accumulate
on its walls and are mostly transferred to the bottle
during a rain event. An unknown and poorly
controlled part of such aerosols accumulated on Atmospheric deposition of aerosols and gases
occurs in two modes: wet and dry. To obtain total
atmospheric loading, it is necessary to measure
both wet and dry deposition (Golomb et al., 1997). The measurement of wet deposition is relatively
straightforward; it involves the analysis of trace 251 S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 Fig. 2. Week average of Morvan’s daily flow of dry (DD) and wet (WD) atmospheric depositions (mgØm
Ød
) for Cd, Cu and
y2
y1
Pb as well as rainfall amounts (mm) during each sampling period. Fig. 2. Week average of Morvan’s daily flow of dry (DD) and wet (WD) atmospheric depositions (mgØm
Ød
) for Cd, Cu and
y2
y1
Pb as well as rainfall amounts (mm) during each sampling period. ence between urban and rural areas is probably
caused by the highest amount of metals adsorbed
on the TD funnel walls in urban area. Indeed, a
thin black soot layer was deposited on the funnel
walls at Creteil site. This latter, playing a role
´
similar to the water layer in the DD collector, may
prevent particles deposited on funnel walls to be
resuspended by wind. We have attempted to dem-
onstrate this adsorption mechanism by rinsing the
funnel at the end of each collection period and by
determining heavy metals in the sample obtained
during such an acid rinsing step. Fig. 3 demon-
strates that during the whole campaign performed funnel walls may be resuspended during windy
periods: this is not the case of aerosol trapped by
the water layer of the DD collector. Thus, the sum
of DD and WD metal fluxes, as determined by
ARS 1000 equipment, is larger than the TD metal
flux, during the same period: at the rural site,
cumulated fluxes of DDqWD are 4 and 1.5 times
higher than TD, for Pb and Cd, respectively. In
the urban area, the same comparison for Cd, Cu
and Pb collected by ARS 1000 and TD collector
shows no difference, i.e. 3.1.4. Validation of trace metal analysis However, the acid rinsing pro-
cedure of funnels is probably far from being
complete: this is especially clear in urban areas
where
black
soot
deposits
have
been
often
observed (Garnaud, 1999). Such black deposits
are not totally released by acid rinsing and even
after long immersion in detergent bath, it is often
necessary to wipe them out with tissues. Although
some procedures used by regional or international
networks, monitoring total atmospheric deposits,
neglect the amount of metals deposited on the
funnels, we are convinced that at the end of each
sampling period, such funnels should be acid
rinsed and replaced by clean ones. y
FBs were prepared to assess the material con-
tamination during transport and installation on
sites. Total deposition FB was prepared using 20
ml of 10% nitric acid which had been transported
to the sampling site, placed on the standing PVC
pipe and brought back to the laboratory. Dry
deposition FB was prepared as the water layer
contained in the collecting vessel, transported back
to the laboratory just after filling it on the site. Wet deposition FB was prepared using the rinsing
solution, which was poured into a clean sampling
bucket at the sampling site, and brought back to
the laboratory. Table 1 compares DL, LB and FB
for each analytical technique (GF-AAS and ICP-
AES), as well as 10th and 90th percentiles (d10
and d ) of metal concentrations determined at the
90
Morvan site. Tenth percentile was taken for com- 3.1.1. Prevalent deposition mechanism (DDqWD)yTD ratio
calculated for cumulated fluxes are 1.07, 1.11 and
0.94 for Cd, Cu and Pb, respectively. This differ- S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 252 sites. Each laboratory used its own clean room,
reagents, material and analytical technique. The
statistical one-tailed t-test was used to compare the
mean flux values obtained by each laboratory at
each site. Results obtained both in rural and urban
areas showed no significant difference between the
two research groups for the 99% CI. Furthermore,
if we exclude Zn flux in the rural site, we could
observe a good agreement between values meas-
ured at each site with published data collected in
similar land occupation sites (Tripathi et al., 1993;
Vukmirovic et al., 1997; Hovmand and Kemp,
1998; Garnaud, 1999; Ridame et al., 1999). Indeed, our results are in the same order of
magnitude than previous studies. Fig. 3. Comparison of Cd, Cu and Pb total deposition rate (kg
m
year
) integrated over both campaigns performed at Cre-
y2
y1
´
teil and Morvan sites (1999–2000): each deposition rate is the
sum of the contribution of samples present in collecting bottles
(bottom part) and obtained during acid rinsing of collecting
funnels (top part). Fig. 3. Comparison of Cd, Cu and Pb total deposition rate (kg
m
year
) integrated over both campaigns performed at Cre-
y2
y1
´
teil and Morvan sites (1999–2000): each deposition rate is the
sum of the contribution of samples present in collecting bottles
(bottom part) and obtained during acid rinsing of collecting
funnels (top part). 3.1.4. Validation of trace metal analysis The validation procedure presents three steps
using laboratory blanks (LB), field blanks (FB)
and samples certified for trace metals. LBs were chosen as the rinsing solutions (10%
nitric acid) which were used for the rinsing step:
the metal analysis was performed after the filtra-
tion of the solution through a 0.45 mm pore filter
in our clean room. This procedure allows the
assessment of possible contamination by sample
handling within the clean room. The detection
limit (DL) of both GF-AAS and ICP-AES (Des-
boeufs et al., 1999) have been calculated as three
times the standard deviation of 10 laboratory
blanks analysis. at Creteil, the atmospheric metal fluxes calculated
´
from samples obtained by acid rinsing of the
funnel are significant, reaching a relative impor-
tance of 30, 50 and 40% for Cd, Cu and Pb,
respectively. In the rural area, the relative impor-
tance of the rinsing step is lower and reaches 14,
13 and 30% for Cd, Cu and Pb, respectively. The
lower importance of the rinsing step in a rural
area, i.e. without an adhesive system (water or
soot), demonstrates the possible resuspension of
aerosols by wind. However, the acid rinsing pro-
cedure of funnels is probably far from being
complete: this is especially clear in urban areas
where
black
soot
deposits
have
been
often
observed (Garnaud, 1999). Such black deposits
are not totally released by acid rinsing and even
after long immersion in detergent bath, it is often
necessary to wipe them out with tissues. Although
some procedures used by regional or international
networks, monitoring total atmospheric deposits,
neglect the amount of metals deposited on the
funnels, we are convinced that at the end of each
sampling period, such funnels should be acid
rinsed and replaced by clean ones. at Creteil, the atmospheric metal fluxes calculated
from samples obtained by acid rinsing of the
funnel are significant, reaching a relative impor-
tance of 30, 50 and 40% for Cd, Cu and Pb,
respectively. In the rural area, the relative impor-
tance of the rinsing step is lower and reaches 14,
13 and 30% for Cd, Cu and Pb, respectively. The
lower importance of the rinsing step in a rural
area, i.e. without an adhesive system (water or
soot), demonstrates the possible resuspension of
aerosols by wind. Table 1 In the Pb case, there is a relatively high
deviation between certified and measured values
(54%) for low concentrated samples, but this level
is 10 times lower than 90% of measured values in
the rural area. For other elements (Al, Cr and Zn),
the deviation is between 15 and 25%, but measured
concentrations are included in the uncertainty
interval given for the certified values. Therefore,
analytical conditions are considered as validated
for atmospheric trace metal analysis. Table 1 Table 1
Comparison of detection limits (DL), laboratory and field blank mean and standard deviation results obtained using GF-AAS and
ICP-AES, and 10th (d ) and 90th (d ) percentiles of metal concentrations in TD samples collected at Morvan site (mgØl
)
y1
10
90 Comparison of detection limits (DL), laboratory and field blank mean and standard deviation results obtained using GF-AAS and
ICP-AES, and 10th (d ) and 90th (d ) percentiles of metal concentrations in TD samples collected at Morvan site (mgØl
)
y1
10
90
GF-AAS
ICP-AES
TD at Morvan
DL
Lab blank
Field blank
DL
Lab blank
Field blank
d10
d90
(m"s)
(ns1)
(m"s)
(m"s)
(ns10)
(ns4)
(ns4)
Al
0.3
4.4"2.8
3.2"1.9
20
280
Cd
0.03
0.01"0.01
0.04
0.05
0.23"0.03
0.19"0.09
0.17
0.58
Cr
0.07
0.56"0.10
0.41"0.23
0.45
1.0
Cu
0.09
0.01"0.03
0.09
0.06
0.36"0.04
0.41"0.15
3.2
14.0
Fe
0.05
0.65"1.20
2.81"1.33
27
250
Na
0.5
1.12"0.70
3.22"1.58
34
230
Pb
0.30
0.17"0.10
-DL
0.6
0.51"0.19
0.62"0.04
2.9
90.1
Zn
0.03
1.72"3.39
2.26"1.29
10
32 parison with DL and blanks in order to estimate
the validity of each analytical method. DL obtained
by both analytical techniques are below the d10
value for all heavy
metals. The
comparison
between LB and d
shows that the material
10
cleaning and sampling treatment procedure have
no significant effect on heavy metals analysis
except for Cr and Cd. For Cr, the LB levels are
equivalent or higher than d
and for Cd, the LB
10
is higher than d
only with ICP-AES. Moreover,
10
comparison between FB and d
showed that
10
except for Cr and Cd, FB values obtained by ICP-
AES are less than 20% of d . In the case of Cd,
10
only the GF-AAS method gave FB values that
were up to 20% of sample d . As a consequence,
10
procedures have to be improved for decreasing Cr
contamination in sample handling as well as Cd
analyse by ICP-AES. The latter conclusion illus-
trates that GF-AAS is a more sensitive technique
for Cd determination in atmospheric fallout. sition (Table 2). These certified samples were
introduced into each set of analysed samples. For
some elements (Cd, Cu, Fe and Na), deviation
between measured and certified values are less
than 10%. Table 1 Table 1
Comparison of detection limits (DL), laboratory and field blank mean and standard deviation results obtained using GF-AAS and
ICP-AES, and 10th (d ) and 90th (d ) percentiles of metal concentrations in TD samples collected at Morvan site (mgØl
)
y1
10
90
GF-AAS
ICP-AES
TD at Morvan
DL
Lab blank
Field blank
DL
Lab blank
Field blank
d10
d90
(m"s)
(ns1)
(m"s)
(m"s)
(ns10)
(ns4)
(ns4)
Al
0.3
4.4"2.8
3.2"1.9
20
280
Cd
0.03
0.01"0.01
0.04
0.05
0.23"0.03
0.19"0.09
0.17
0.58
Cr
0.07
0.56"0.10
0.41"0.23
0.45
1.0
Cu
0.09
0.01"0.03
0.09
0.06
0.36"0.04
0.41"0.15
3.2
14.0
Fe
0.05
0.65"1.20
2.81"1.33
27
250
Na
0.5
1.12"0.70
3.22"1.58
34
230
Pb
0.30
0.17"0.10
-DL
0.6
0.51"0.19
0.62"0.04
2.9
90.1
Zn
0.03
1.72"3.39
2.26"1.29
10
32
parison with DL and blanks in order to estimate
the validity of each analytical method. DL obtained
by both analytical techniques are below the d10
value for all heavy
metals. The
comparison
between LB and d
shows that the material
10
cleaning and sampling treatment procedure have
no significant effect on heavy metals analysis
except for Cr and Cd. For Cr, the LB levels are
equivalent or higher than d
and for Cd, the LB
10
is higher than d
only with ICP-AES. Moreover,
10
comparison between FB and d
showed that
10
except for Cr and Cd, FB values obtained by ICP-
AES are less than 20% of d . In the case of Cd,
10
only the GF-AAS method gave FB values that
were up to 20% of sample d
As a consequence
sition (Table 2). These certified samples were
introduced into each set of analysed samples. For
some elements (Cd, Cu, Fe and Na), deviation
between measured and certified values are less
than 10%. In the Pb case, there is a relatively high
deviation between certified and measured values
(54%) for low concentrated samples, but this level
is 10 times lower than 90% of measured values in
the rural area. For other elements (Al, Cr and Zn),
the deviation is between 15 and 25%, but measured
concentrations are included in the uncertainty
interval given for the certified values. Therefore,
analytical conditions are considered as validated
for atmospheric trace metal analysis. 3.1.3. Collection procedure reproducibility A comparison was performed between our two
research groups at both the Creteil and Morvan
´ S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 253 3.1.5. Flux assessment The uncertainty of concentration measurement
varies from method to method (i.e. ICP-AES and
GF-AAS), and also from species to species. Gen-
erally, the concentration measurements of standard
samples were within 10–20% of the nominal
values. However, in atmospheric deposition meas-
urement the major source of uncertainty is not the
concentration measurement, but in the method of
collecting deposition samples (Golomb et al.,
1997). For wet deposition, there may be some loss
of the fine rain drops (or light snow flakes),
especially under wind conditions. For dry deposi-
tion measurement, both the water layer method
and the funnel method have major uncertainties
that are difficult to quantify. Bucket and funnel
walls present a significant aerodynamic interfer- The accuracy of the analytical results was veri-
fied using three samples certified in trace metals:
(1) NIST 1643d ‘Trace elements in water’, US
Department of Commerce, National Institute of
Standards and Technology, Gaithersburg, MD 20
899, USA; (2) SPS-SW1 ‘Surface Water (batch
105)’, Spectra-Pure Standards, Promochem, Mol-
shelm, France; and (3) SLRS ‘Saint-Laurent River
Surface’, Geological Survey Quality Assurance
Branch, Canada. These certified samples were
chosen because they had heavy metal concentra-
tions similar to those found in atmospheric depo- S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 254 Fig. 4. Comparison of urban (Creteil) and rural (Morvan) total
´
atmospheric deposition rate (kgØkm
Øyear
) integrated over
y2
y1
both 1999–2000 campaigns. ence to particle (and gaseous molecule) deposition. Particles, especially in the sub-micron to micron
size range, are subject to Brownian, wind and
turbulent eddy motion, and may be blown over
and around the bucket or funnel walls rather than
deposited into it. Once inside the funnel or bucket,
the particles may adhere to the walls or deposit in
the bottom of the collector. While we did rinse the
collector walls with acid and analysed the rinse
solution for metals, the deposition area was taken
only as the top area of the collector. 3.2.1. Comparison between urban and rural dep-
osition fluxes 3.2.1. Comparison between urban and rural dep-
osition fluxes from our collectors. Indeed, we have noticed that
our TD determination for Zn in Morvan park is
higher than previous works done in rural areas
(Migon et al., 1997; Ridame et al., 1999) and
lower than other results in urban areas (Tripathi et
al., 1993; Vukmirovic et al., 1997). Such differ-
ences may be related to the presence of point
sources, which are clearly site-specific. Total atmospheric deposition fluxes were com-
pared using fluxes integrated over the whole cam-
paigns conducted at our urban and rural sites (Fig. 4). The impact of human activities in Creteil area
´
could be seen on several metals like Pb, Cu, Cd,
Na, Al, Cr and Fe. This influence was more
obvious for Cu, Cd and Pb which have only
anthropogenic sources, as opposed to four other
metals, which also have many natural sources
(Pacyna, 1984; Person et al., 1993; Sullivan and
Woods, 2000). Total atmospheric Zn fluxes were
surprisingly high at our rural site of the Morvan
regional park. The high concentration of this ele-
ment was probably induced by work done during
our sampling period on building roof, which is
made with Zn-covered metal sheets located 100 m 3.2. Heavy metal impact Fig. 4. Comparison of urban (Creteil) and rural (Morvan) total
´
atmospheric deposition rate (kgØkm
Øyear
) integrated over
y2
y1
both 1999–2000 campaigns. 3.2.1. Comparison between urban and rural dep-
osition fluxes C.V. are the certified values; M.V. are the measured values which were obtained by the median of 10 analysed samples; D is the
deviation between certified and measured values. Values in bold were obtained by GF-AAS. Acknowledgments This work was supported by the atmospheric
department of ADEME and by the PIREN-Seine
research program (CNRS GDR 1067). The authors
are grateful to Vincent Rocher (CEREVE) and
Myriam Harry (Laboratoire de Biologie des Sols
et des Eaux) for their scientific support. 3.2.2. Evolution of trace metal deposition fluxes DD within TD, as evidenced both in rural and
urban sites. The analytical techniques used (GF-
AAS and ICP-OES) in this work allowed the
determination of low concentration levels of some
heavy metals like Al, Fe, Na, Pb, Cu and Zn. But
for some other metals (Cd and Cr), an improve-
ment has to be achieved in material cleaning and
collection procedures to ensure the quality of their
determination. Comparison of trace metal deposi-
tion fluxes determined separately at CEREVE and
LISA, showed good agreement: this resulted in
well-defined collection and analytical procedures,
including thorough vessel cleaning and the use of
clean rooms. Fig. 5. Comparison between total atmospheric annual deposi-
tion rate (kgØkm
Øyear
) integrated during 5 month cam-
y2
y1
paigns performed at Creteil in 1994–1995 and 1999–2000
´
winter periods, using the sum of monitored DD and WD fluxes,
and mean rainfall amount (mmØyear
) during both sampling
y1
periods. Fig. 5. Comparison between total atmospheric annual deposi-
tion rate (kgØkm
Øyear
) integrated during 5 month cam-
y2
y1
paigns performed at Creteil in 1994–1995 and 1999–2000
´
winter periods, using the sum of monitored DD and WD fluxes,
and mean rainfall amount (mmØyear
) during both sampling
y1
periods. An illustration of the impact of human activities
on urban atmospheric fallout was evidenced by
comparing Morvan and Creteil heavy metal TD:
´
the most important differences in Pb and Cd were
related to their emission by anthropogenic sources. Such urban impact was found to decrease very
significantly between 1994 and 1999 for Pb, Cu
and Cd TD fluxes, demonstrating the recent
improvement in the treatment of smoke produced
by anthropogenic activities. Indeed, Pb, Cu and Cd fluxes drop by a factor of
5, 2 and 2, respectively. During both sampling
periods registered rainfall amount was not very
different, i.e. 800 and 600 mmØyear
in 1994 and
y1
1999, respectively: such a weak difference could
not explain such a high TD decrease. Better
treatment of smoke emissions by various waste or
sludge incinerators or power plants is more likely
to be responsible for such large improvements in
air quality. 4. Conclusions During 8 weeks, atmospheric fallouts were col-
lected weekly in a rural area in order to set up a
sampling and analysis procedure for low concen-
trated heavy metal samples. The study was com-
pleted by a 16-week urban collection period, thus
allowing a comparison between urban and rural
atmospheric depositions as well as a determination
of temporal trends at Creteil. ´ 3.2.2. Evolution of trace metal deposition fluxes Determination of DD and WD fluxes was per-
formed at the same Creteil site in 1994 using the
´
same collecting equipment ARS 1000 (Garnaud,
1999). Fig. 5 shows the 5-year trend of Pb, Cu
and Cd TD fluxes assessed by the sum of DD and
WD: a decrease appears for all three heavy metals. Table 2 tion used in this work as well as 10th (d ) and 90th (d ) percentiles concentration values of metal in
10
90
orvan site (mgØl
)
y1 Table 2
Samples certified concentration used in this work as well as 10th (d ) and 90th (d ) percentiles concentration values of metal in
10
90
TD samples collected at Morvan site (mgØl
)
y1
SRM 1643d
SPS SW1
SLRS
TD at Morvan
C.V. M.V. D
C.V. M.V. D
C.V. M.V. D
d10
d90
Al
127
156.58
23%
50
51.09
2%
90.64
93.2
3%
20
280
Cd
6.47
6.32
y2%
0.5
0.46
y8%
0.028
0.03
7%
0.17
0.58
Cr
18.5
18.96
2%
2
2.29
15%
0.48
0.5
4%
0.45
1.0
Cu
20.5
22.2
8%
20
20.2
1%
2.76
2.9
5%
3.2
14.0
Fe
91
92.57
2%
20
20.94
5%
128
134
5%
27
250
Na
22.1
–
–
2000
1890
y5%
1862
1925
3%
34
230
Pb
18.15
17.7
y2%
5
4.96
y1%
0.13
0.2
54%
2.9
90.1
Zn
72.5
57.75
y20%
20
14.99
y25%
3.33
3.6
8%
10
32
C.V. are the certified values; M.V. are the measured values which were obtained by the median of 10 analysed samples; D is the
deviation between certified and measured values. Values in bold were obtained by GF-AAS. S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 255 DD within TD, as evidenced both in rural and
urban sites. The analytical techniques used (GF-
AAS and ICP-OES) in this work allowed the
determination of low concentration levels of some
heavy metals like Al, Fe, Na, Pb, Cu and Zn. But
for some other metals (Cd and Cr), an improve-
ment has to be achieved in material cleaning and
collection procedures to ensure the quality of their
determination. Comparison of trace metal deposi-
tion fluxes determined separately at CEREVE and
LISA, showed good agreement: this resulted in
well-defined collection and analytical procedures,
including thorough vessel cleaning and the use of
clean rooms. References Church TM, Tramontano JM, Scudlark JR, Jickells TD, Tokos
JJ, Knap AH, Galloway JN. The wet deposition of trace
metals to the western Atlantic Ocean at the mid-Atlantic
coast and on Bermuda’. Atmos Environ 1984;18(12):2657–
2664. A simple method of total atmospheric deposition
collection using a HDPE funnel and bottle standing
at 1.5 m above the ground within a PVC pipe was
assessed. Twenty millilitres of nitric acid was
placed into the bottle before the sampling period
in order to dissolve all the collected particles. Nevertheless, the funnel acid rinsing appeared to
be an important step of the collection procedure. This step is clearly related to the importance of Colin JL. Physico-chimie de la phase aqueuse atmospherique. ´
Eighth Environment Science and Technology International
Symposium, Creteil, France 1997. p. 7–15. ´ D’Almeida GA, Koepke P, Shettle EP. Atmospheric aerosols:
global climatology and radiative characteristics. A. Deepak
publishing, 1991. (561 pp). Desboeufs KV, Losno R, Vimeux F, Cholbi S. pH dependent
dissolution of wind transported Saharan dust. J Geophys
Res 1999;104:21287–21299. S. Azimi et al. / The Science of the Total Environment 308 (2003) 247–256 256 Pacyna JM. Estimation of the atmospheric emissions of trace
elements from anthropogenic sources in Europe. Atmos
Environ 1984;18(1):41–50. Galloway JN, Thorton JD, Norton SA, Volchok HL, McLean
RAN. Trace metals in atmospheric deposition: a review and
assessment. Atmos Environ 1982;16(7):1677–1700. Garnaud S. Transfert and geochemical evolution of metal
pollution in an urban catchment. Environmental Science and
Technology PhD. Ecole Nationale des Ponts et Chaussees,
´
1999. (393 pp). Person A, Petit-Coviaux F, Le Moullec Y, Festy B. Contribu-
tion des principales sources en metaux et metalloıdes a la
´
´
¨
`
pollution particulaire dans l’agglomeration Parisienne. Pollut
´
Atmos 1993;75–88. Golomb D, Ryan D, Eby N, Underhill J, Zemba S. Atmos-
pheric deposition of toxic onto Massachusetts Bay-I. Metals. Atmos Environ 1997;31(9):1349–1359. Ridame C, Guieu C, Loye-Pilot M-D. Trend in total atmos-
¨
pheric deposition fluxes of aluminium, iron, and trace metals
in the northwestern Mediterranean over the past decade
(1985–1997). J Geophys Res 1999;104(D232):30127–
30138. Hovmand MF, Kemp K. Heavy metal bulk deposition and
aerosol concentrations in rural Denmark 1992–1996. Envi-
ronmental Research Institute Final Report. Denmark: Ros-
kilde, 1998. (11 pp). Sullivan R, Woods I. Using emission factors to characterise
heavy metal emissions from sewage sludge incinerators in
Australia. Atmos Environ 2000;34:4571–4577. Koutrakis P. References Physico-chimie de l’aerosol urbain: identification
´
et quantification des principales sources par analyse multi-
variable. Atmospheric Environment Ph D. University Paris
XII-Val de Marne, 1984. (143 pp). Sweet CW, Vermette SJ. Sources of toxic element in urban air
in Illinois. Environ Sci Technol 1993;27:2502–2510. Thoni L, Krieg F, Siewers U. Testing the Bergerhoff method
to determine the bulk deposition loads of 49 elements. Atmos Environ 1999;33(2):337–344. Landing WM, Guentzel JL, Gill GA, Pollman CD, Lindberg
SE, Petersen G, Keeler G. Methods for measuring mercury
in
rainfall
and
aerosols
in
Florida. Atmos
Environ
1998;32(5):909–918. Tripathi RM, Ashawa SC, Khandekar RN. Atmospheric dep-
osition of Pb, Cd, Cu and Zn in Bombay, India. Atmos
Environ 1993;27B(2):269–273. Migon C, Journel B, Nicolas E. Measurement of trace metal
wet, dry and total atmospheric fluxes over the Ligurian Sea. Atmos Environ 1997;31(6):889–896. Vukmirovic Z, Marendic Miljkovic J, Rajsic S, Tasic M,
Novakovic LA. Resuspension of trace metals in Belgrade
under conditions of drastically reduced emission levels. Water Air Soil Pollut 1997;93(1–4):137–156. Morselli L, Cecchini M, Grandi E, Iannuccilli A, Barrili L,
Olivieri P. Heavy metals in atmospheric surrogate dry
deposition. Chemosphere 1999;38(4):899–907.
|
https://openalex.org/W2992361014
|
http://journal.ipb.ac.id/index.php/jurnaltin/article/download/27958/17865
|
Indonesian
| null |
SINERGI SUPPLY CHAIN YANG EFEKTIF : LITERATURE REVIEW AGROINDUSTRI BAWANG MERAH DI SUMATERA BARAT
| null | 2,019
|
cc-by-sa
| 4,686
|
Terakreditasi Peringkat 2
Dirjen Penguatan Riset dan Pengembangan No 30/E/KPT/2018
Tersedia online http://journal.ipb.ac.id/index.php/jurnaltin Terakreditasi Peringkat 2
Dirjen Penguatan Riset dan Pengembangan No 30/E/KPT/2018
Tersedia online http://journal.ipb.ac.id/index.php/jurnaltin Terakreditasi Peringkat 2
Dirjen Penguatan Riset dan Pengembangan No 30/E/KPT/2018
Tersedia online http://journal.ipb.ac.id/index.php/jurnaltin Sinergi Supply Chain Yang Efektif : Literature Review …
Jurnal Teknologi Industri Pertanian 29 (2):124-131 (2019)
Nomor DOI: 10.24961/j.tek.ind.pert.2019.29.2.124
ISSN: 0216-3160 EISSN: 2252-390 SINERGI SUPPLY CHAIN YANG EFEKTIF : LITERATURE REVIEW AGROINDUSTRI BAWANG
MERAH DI SUMATERA BARAT
SYNERGI AND EFFECTIVE SUPPLY CHAIN : LITERATURE REVIEW AGROINDUSTRY
SHALLOT IN WEST SUMATERA Dedet Deperiky1,2)*, Santosa3), Rika Ampuh Hadiguna3), Nofialdi3) 1)Universitas Mohammad Natsir Bukittinggi, Sumatera Barat
Jln. Tan Malaka Bukit Cangang/Belakang Balok, Bukittinggi, Sumatera Barat
2) Mahasiswa Program Doktor Teknologi Industri Pertanian, Pasca Sarjana, Universitas Andalas, Padang, Indonesia
Email : dedve.lpdp@umnyarsi.ac.id, deverikysupplychain@gmail.com
3) Program Studi Ilmu Pertanian, Pemusatan Teknologi Industri Pertanian, Pasca Sarjana Universitas Andalas, Padang, Indonesia Makalah: Diterima 12 September 2018; Diperbaiki 29 April 2019; Disetujui 10 Mei 2019 ABSTRACT The agroindustry of shallot in West Sumatra currently requires further strengthening of the relationship
between supply chain actors to improve the efficiency of the market system and the application of modern
technology today. This study aimed to map the supply chain of shallot agroindustry in West Sumatra and
reconstruct the synergy of shallot agroindustry supply chain actors for the welfare of farmers. The research
methodology used the Systematic Literature Review (SLR), i.e. literature review method which identify, assess,
and interpret all findings on a research topic, to answer research question. The results of the study showed that
the portrait of shallot agroindustry supply chain was mapping the market potential that is a mainstay in shallot
agroindustry, conducting comparative analysis of the role of stakeholders in the supply chain as a business unit,
mapping gaps in profit distribution among supply chain actors, and accurating recorded price data. Farmers
had a high ability in market access and integrated in all business processes with all supply chain stakeholders. In conclusion, synergi of supply chain on integrated shallot agroindustry will correlated to the increasing ability
of the resources supply chain shallot agents of agroindustry from various elements and to integrate a more
efficient and effective supply chain that transforms the agricultural sector into the industrial sector. Keywords: supply chain, agroindustry, synergi, agriculture sector 124
*Penulis Korespodensi ABSTRAK Agroindustri bawang merah di Sumatera Barat saat ini membutuhkan penguatan lebih lanjut dari
hubungan antara pelaku supply chain untuk meningkatkan efisiensi sistem pasar dan penerapan teknologi
modern saat ini. Penelitian ini bertujuan untuk memotret rantai pasok agroindustri bawang merah di Sumatera
Barat dan merekonstruksi sinergi pelaku rantai pasok agroindustri bawang merah untuk kesejahteraan petani. Metodologi penelitian yang digunakan adalah metode Systematic Literature Review (SLR) yaitu
metode literature review yang menelaah, merangkum, dan menginterpretasi seluruh penemuan masalah pada
suatu topik penelitian, untuk menjawab serta menganalisis pertanyaan pada penelitian (research question). Hasil
penelitian bahwa potret rantai pasok agroindustri bawang merah adalah memetakan potensi pasar yang menjadi
andalan dalam agroindustri bawang merah, melakukan analisis komparatif terhadap peran stakeholders dalam
rantai pasok sebagai unit bisnis, memetakan kesenjangan dalam distribusi keuntungan diantara pelaku rantai
pasok dan mengakurasikan data harga yang dicatat. Sinergi pelaku supply chain itu tidak dapat berdiri sendiri
tetapi harus dikelola bersama sama dengan fungsi lainnya dalam rantai yang terkoordinasi. Pada hakikatnya,
agroindustri bawang merah melihat aspek pada petani sebagai subjek yang intinya petani sejahtera dan
mempunyai kemampuan tinggi dalam akses pasar dan terintegrasi pada semua proses bisnis dengan semua
pemangku kepentingan supply chain. Kesimpulannya, sinergi supply chain pada agroindustri bawang merah akan
berkorelasi pada peningkatan kemampuan sumber daya pelaku rantai pasok agroindustri bawang merah dari
berbagai elemen serta menghasilkan supply chain yang lebih efisiensi dan efektif dalam mentransformasi sektor
pertanian ke sektor industri. Kata kunci: supply chain, agroindustri, sinergi, sektor pertanian PENDAHULUAN sangat relatif terbatas, dengan kondisi tersebut maka
data dunia khusus tentang bawang merah sulit
dijumpai, data yang ada adalah produksi bawang
secara keseluruhan Menurut data Food And
Agriculture Organization Of The United Nation
(2017) bahwa China merupakan produsen bawang
merah terbesar di dunia yang kemudian di produksi Bawang merah merupakan sayuran rempah
yang dikonsumsi setiap orang di dunia. Hal ini
dapat dipahami bahwa sebagian besar penduduk
dunia mengkonsumsi bawang merah, sementara
penduduk yang mengkonsumsi bawang merah Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi juga oleh beberapa negara di Benua Eropa dan
Amerika. Melihat data FAO (2017) produsen dan
konsumen bawang merah yang terbesar di ASEAN
adalah Indonesia. Beberapa Negara di ASEAN
seperti Myanmar, Thailand, dan Phillipina juga
memproduksi bawang merah namun tidak sebesar
produksi di Indonesia. Dengan kondisi tersebut
maka
beberapa
negara
di
ASEAN
yang
memproduksikan bawang merah banyak ditujukan
dalam rangka ekspor ke negara-negara yang
produksi bawang merah yang tergolong rendah. Produksi bawang merah dunia dapat dilihat pada
Tabel 1. mengantungkan hidupnya pada sektor pertanian. Optimalisasi
pemanfaatan
lahan
di
wilayah
Indonesia sebagian besar diperuntukkan sebagai
lahan pertanian (Kementan, 2015). Di Indonesia
bawang merah telah ditanam di berbagai propinsi,
mulai dari Aceh sampai ke Papua. Pada tahun 2015,
Provinsi Sumatera Barat memproduksi bawang
merah yang tertinggi di Sumatera yaitu 32.442 ton. Kalau diamati pertumbuhan luas panen bawang
merah di Sumatera Barat semenjak tahun 2008
sampai dengan 2015 mencapai kenaikan 9,88%. Produksi bawang merah di Indonesia dapat dilihat
pada Tabel 2. Jika kita lihat kondisi diatas bahwa rantai
pasok agroindustri bawang merah juga sudah
menjadi perhatian utama para pelaku agroindustri. Ina (2015) penerapan konsep manajemen rantai
pasok pada sektor agroindustri dikenal dengan istilah
manajemen rantai pasok pada agroindustri tidak
berbeda dengan dengan sektor manufaktur pada
umumnya. Namun demikian, pencirian khusus
agroindustri yakni, bulki, seasonable dan perishable
memberikan pengaruh yang sangat berarti pada hal
pembangunan dan pengembangan berbagi konsep
manajemen rantai pasok. Tabel 1. Produksi bawang merah dunia tahun 2017 Tabel 1. Produksi bawang merah dunia tahun 2017
No
Negara
Produksi (Ton)
1
China
23,849,053
2
India
19,415,425
3
Mesir
3,115,482
4
USA
3,025,700
5
Iran
2,345,768
6
Belanda
2,120,581
7
Indonesia
1,446,869
8
Republik Korea
1,298,749
9
Spanyol
1,254,697
10
Jepang
1,243,000
11
Uzbekistan
1,184,863
12
Myanmar
1,170,874 j
p
Menurut Hadiguna (2015), bahwa kunci
keberhasilan dari sistem rantai pasok agroindustri
adalah bahan baku. Jurnal Teknologi Industri Pertanian 29 (2):124-131 PENDAHULUAN Agroindustri membutuhkan
pasokan bahan baku yang bermutu dan jumlah yang
sesuai dengan kebutuhan tetapi dihadapkan pada
kondisi musiman dan perishable. Rantai pasok
agroindustri secara sederhana adalah urutan dalam
sebuah rangkaian yang terdiri dari pemasok,
pemroses, distributor atau pengecer dan konsumen
dengan bahan baku utamanya adalah komoditas
pertanian
terentu. Manajemen
rantai
pasok
agroindustri
adalah
sebuah
pendekatan
yang
diterapkan untuk mengelola komoditas pertanian
tertentu dimulai dari pemasok sampai konsumen
untuk menciptakan nilai tertentu dari produk olahan
yang
memperhatikan
kontribusi
dari
pelaku
disepanjang rantai pasok secara proposional dan
berkeadilan. Menurut data Kementrian Pertanian (2015),
Indonesia adalah negara berbasis pertanian yang
memiliki sumber daya alam yang beragam dan
mempunyai wilayah pertanian yang sangat luas. Hal
ini yang menjadikan Indonesia sebagai salah satu
negara penghasil bawang merah terbesar di dunia. Di negara agraria, pertanian memiliki peranan yang
sangat strategis di bidang perekonomian ataupun
pemenuhan kebutuhan pangan. Indonesia merupakan
salah satu dari beberapa negara berkembang dengan
sektor pertanian sebagai sumber penghasilan utama
dari mayoritas penduduknya sebagai petani. Artinya,
sebagian besar masyarakat di bidang pertanian Tabel 2. Produksi bawang merah Provinsi di Indonesia tahun 2017 Tabel 2. Produksi bawang merah Provinsi di Indonesia tahun 2017 No
Provinsi
Produksi (Ton)
Persen
1
Jawa Tengah
506.357
48,27
2
Jawa Timur
203.739
19,42
3
Jawa Barat
116.396
11,10
4
NTB
104.324
9,95
5
Sumatera Barat
32.442
2,39
6
Sulawesi Selatan
23.276
2,22
7
DI Yokyakarta
19.951
1,90
8
Bali
10.981
1,05
9
Sulawesi Tengah
10.301
0,98
10
Sumatera Utara
9.413
0,90
11
Propinsi Lainnya
19.138
1,82
Indonesia
1.446.869
100 125 Sinergi Supply Chain Yang Efektif : Literature Review ………… Rantai
pasok
agroindustri
banyak
melibatkan pihak diantaranya petani, pedagang
pengepul, agroindustri, distributor, pengecer dan
pihak terkait tidak langsung lainnya. Manajemen
rantai pasok agroindustri sebenarnya menggunakan
pendekatan yang berkemampuan holistik dalam
mewujudkan sebuah agroindustri yang handal,
efektif dan efiseiensi. Disamping itu, prinsip
proposionalitas yang sangat diharapkan pada sistem
pertanian modern dapat dicapai melalui praktek
manajemen rantai pasok. Hal ini dapat dilakukan
karena konsep pendekatan manajemen rantai pasok
agroindustri mengedepankan pemenuhan kepuasaan
para pemangku kepentingan. Dalam sistem rantai
pasok agroindustri para pemangku kepentingan
mempunyai kepentingan dan tujuan yang berbeda
beda,
sehingga
setiap
pemangku
kepentingan
memilki kepentingan yag berbeda dan dipengaruhi
pula oleh lingkungan bisnis. Cara pandang yang
holistik dan tidak menghilangkan kompleksitas
sangat penting diperhatikan (Hadiguna, 2015). agroindustri mengikutsertakan sekumpulan stakeholders, mulai
dari tingkat petani hingga ke tingkat konsumen
akhir. Namun karena kurangnya sistem kolektifitas
secara berkelanjutan oleh petani, sehingga banyak
stakeholders dan aliran transaksi yang harus dimulai
terlebih dahulu, hal ini tentu berdampak pada harga
produk yang tinggi terhadap produksi pertanian
(Herawati, 2015). Masalah yang mendasar bagi
petani adalah keterbatasan petani dalam melakukan
penetapan harga jual. Bergaining Power petani pada
saat ini umumnya masih sangat lemah, hal ini
dikarenakan
pada
kendala
usaha
peningkatan
pendapatan petani. Tidak kuatnya daya tawar petani
pada dasarnya disebabkan para petani kurang
mendapatkan akses informasi pasar pada sistem
rantai pasok pertanian. PENDAHULUAN supply chain yang panjang dari petani kecil ke
pedagang, sehingga banyak para pedagang menjadi
pengendali kebijakan harga dalam supply chain
pertanian, mereka berperan sebagai aktor penentu
harga terhadap hasil produk petani kecil. Selain itu,
petani kecil masih dipersulit dengan beberapa
hambatan yang menghambat sistem pemasaran
produknya, sehingga proses distribusi produk
pertanian belum seluruhnya berjalan baik dan
ketidakberdayaan petani dalam ketatnya persaingan
di pasar nasional maupun internasional (Danil 2014;
Ambe 2014). Selama ini petani kecil, masih
melakukan
sistem
tradisional
dalam
mengoptimalkan
produksinya. Hal
ini
sangat
berpengaruh
terhadap
komoditas
panen
yang
dihasilkan, karena produk pertanian yang juga
bersifat cepat rusak dan mudah busuk (perishable)
serta musiman . Ketika panen datang, ketersedian
produk sangat banyak dan harga jual pun bisa turun
drastis dengan nilai produk yang sangat rendah,
sedangkan pada saat belum terjadi pada kondisi
musiman, ketersediaan barang menjadi langka
sehingga menyebabkan harga jual bisa diatas harga
pasar. Ketersediaan produk yang tidak stabil seperti
ini menjadi tantangan besar petani, sehingga petani
tidak bisa memenuhi permintaan pasar secara
berkesinambungan. Supply
chain
agroindustri METODE PENELITIAN Metode penelitian yang dipakai adalah
dengan metode systematic literature review atau
sering disingkat SLR. Metode ini menelaah,
merangkum, dan menginterpretasi seluruh penemuan
masalah pada suatu topik penelitian serta menjawab
pertanyaan
penelitian
yang
telah
ditetapkan
sebelumnya (Kitchenham dan Charters, 2017). Metode SLR dilakukan secara sistematis dengan
mengikuti tahapan awal pada proses literature
review sehingga terhindar dari pemahaman yang
bersifat bias dan subjektif dari penelitinya. Gambar
1 menjelaskan bahwa metode systematic literature
review
adalah
pendekatan
sistematis
pada
metodologi penelitian, sementara itu pada metode
traditional review tidak menggunakan metode
penelitian yang berdasarkan kepada kemauan
(inklinasi) penulis Panjangnya mata rantai pasok pertanian
saat ini menjadi momok yang menakutkan bagi
petani untuk dapat terus melangkah maju dan
mengoptimalkan produk pertanian terutama untuk
pangan yang sehat dan high quality. Selain itu,
tingginya biaya produksi, transportasi, biaya logistik
juga ketergantungan kebutuhan pupuk akan pabrik
industri juga menjadi hambatan tersendiri dalam
proses
supply
chain
agroindustri
dalam
hal
manajemen distribusi. Hal ini dikarenakan proses Gambar 1. Metode Systematic Literature Review Gambar 1. Metode Systematic Literature Review Jurnal Teknologi Industri Pertanian 29 (2):124-131 126 Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi Beberapa tulisan dalam metode ilmiah
traditional review adalah studi kepustakaan. Seperti
pada konsep metode penelitian, pada dasarnya
penelitian systematic literature review dimulai
dengan membuat hipotesa awal, systematic literature
review dan tahapan selanjutnya adalah dengan
melakukan penelitian systematic literature review. Analogi dengan metode penelitian secara umum, di
mana dalam systematic literature review terdapat
metode quantitative dan qualitative. (Okoli, 2017;
Kusumadewi, 2010). Peramalan permintaan dan pasokan mempunyai
tingkat kepentingan yang sama dalam rantai pasok
pertanian, tetapi anggota rantai pasok mempunyai
kemampuan yang sangat sedikit dan terbatas
untuk mengendalikannya. Rantai pasok agroindustri juga cukup
khas karena karakteristik bahan pertanian yang
sangat sensitif terhadap waktu. Oleh karena itu,
pengelolaan
persediaan,
transportasi,
dan
komponen rantai pasok lainnya perlu dirancang
dengan
memperhatikan
karakteristik
tersebut. Pembahasan rantai pasok pertanian kecil belum
banyak dilakukan karena melihat kodisi komoditi
pertanian mudah busuk dan cepat rusak sehingga
untuk melakukan kajian ini diperlukan pemahaman
yang sangat mendalam dan kajian rantai pasok pada
umumnya dilakukan oleh para peneliti dengan
latar belakang lmu manajemen atau keteknikan
yang berbasis logam. Beberapa penelitian yang
mengkaji lingkup rantai pasok pertanian antara
lain karakteristik produk-produk pertanian yang
sangat khas menyebabkan kompleksitas masalah
rantai pasok menjadi meningkat. Metode
pada
pendekatan
quantitative
systematic
literature
review
digunakan
untuk
mensintesa
rangkuman
penelitian
dengan
pendekatan statistik. Misalnya, Randomized Control
Trials (RCT), Cohort Study, Case-Control Study,
atau studi prevalensi. METODE PENELITIAN Pada metode ini dalam
merangkum sintesa hasil penelitian disebut dengan
“meta-analisis”. Secara pengertian, bahwa metode
melakukan agregasi review untuk mendapatkan nilai
kemampuan statistik (statistical power) dalam
mengidentifikasi hubungan causal-effect antara
faktor risiko dengan hasil (outcome) (Okoli, 2017;
Dostaller, 2013). Upaya untuk menjaga kestabilan harga
produk
hasil
pertanian
adalah
dengan
merekonstruksi sistem rantai pasok yang berpihak
kepada petani kecil. Tidak hanya itu, competitive
skill yang handal dari petani juga dibutuhkan sebagai
strategi
dalam
mengupayakan
memanajerial
komoditas pertanian yang unggul agar dapat
menciptakan produk yang dapat berkompetitif di
pasar global dan memenuhi standar kualitas
keamanan
pangan,
sehingga
perlu
dilakukan
kemitraan
dengan
berbagai
pihak
untuk
meminimalisir tingginya ongkos produksi baik dari
pemerintah maupun stakeholders (Kembey, 2016;
Mahsa, 2014; Al-Fawaeer, 2013). Upaya yang bisa
dilakukan secara sinergi yaitu adalah perbaikan
sarana
dan
prasarana,
pembaharuan
sejumlah
peraturan, dan pembangunan sistem kelembagaan. Rekonstruksi sistem rantai pasok pertanian harus
dikaji ulang lagi secara serius dan komprehensif. Pembuatan kebijakan ini jangan dipercayakan begitu
saja kepada pelaku pasar yang bersifat oligopoly dan
monopoli bahkan pada komoditas tertentu akan
dikuasai oleh beberapa oknum pengambil kebijakan
di dalam negeri maupun di luar negeri Pada pendekatan qualitative systematic
literature review dipakai pada mensintesa hasil
temuan beberapa penelitian yang bersifat pada data
sekunder. Merangkum
tentang hasil beberapa
penelitian qualitative ini disebut “meta-sintesa”. Meta-sintesa
adalah
teknik
pada
menyatukan
persepsi data untuk menemukan teori baru untuk
meningkatkan pemahaman yang lebih radikal dan
menyeluruh (Okoli, 2017). HASIL DAN PEMBAHASAN Potret Rantai Pasok Agroindustri Bawang Merah
Pada prinsipnya, rantai pasok pertanian
memiliki dua tipe, yaitu produk segar dan
produk yang diproses. Produk segar dapat berupa
buah, sayuran, dan sejenisnya yang tidak
membutuhkan proses pengolahan khusus atau
proses transformasi kimia. Produk pertanian yang
diproses membutuhkan proses transformasi kimia
atau perubahan bentuk. Rantai pasok untuk
produk pertanian yang diproses akan melibatkan
beberapa pemain, di antaranya petani atau
perkebunan, pengolah atau pabrik, distributor,
dan pengecer (retail). Setiap perusahaan
diposisikan dalam sebuah lapisan jaringan dan
keterlibatan minimal satu rantai pasok. Dalam
jaringan rantai pasok pertanian, lebih dari satu rantai
pasok dan lebih dari satu proses bisnis yang dapat
diidentifikasi (Tompudung, 2016; Golan, 2011;
Kogan, 2016). Harga pasar tidak boleh bergantung kepada
kebijakan harga asing karena tidak berhubungan
secara signifikan terhadap biaya produksi dan profit
(Cabigiosu, 2012; Nissen, 2011, Seethamraju,
2014). Harga harus berorientasi dengan biaya
produksi dan profit petani serta batas kekuatan daya
beli masyarakat. Harga harus dapat meminimalisir
biaya produksi dan kemampuan petani sehingga
tidak merugikan masyarakat. Aspek kelembagaan
petani seperti koperasi yang memang berorientasi
kepada kepentingan petani kecil serta pembangunan
pada perdesaan hingga sekarang belum dilakukan
secara optimal. Program yang menitikberatkan pada Dalam satu waktu, proses paralel dan
berurutan dapat terjadi dalam rantai pasok
pertanian, jika rantai pasok pada umumnya
didefinisikan sebagai sistem consumer-driven,
maka rantai pasok pertanian dapat didefinisikan
sebagai
sistem
producer
consumer-driven. 127 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Sinergi Supply Chain Yang Efektif : Literature Review ………… aspek keberlanjutan kelembagaan juga tidak
optimal. Seyogyanya,
beberapa
hal
untuk
membangun sistem rantai pasok pada agroindustri
yang harus dilakukan adalah Pertama, menata ulang
sistem rantai pasok produk pertanian dengan cara
mengidentifikasi potensi unggulan daerah yang
menjadi point strategis dalam kawasan agroindustri
pertanian. Pada sasarnya, potensi unggulan produk
pertanian yang dimiliki suatu kawasan belum
terkelola secara terpadu dan berkelanjutan. untuk meningkatkan aliran material, dan evaluasi
kinerja akhirnya untuk menentukan seberapa baik
inisiatif supply chain telah dilaksanakan. Menganalisis Supply Chain
Pendekatan
ini
disajikan
dalam
memungkinkan
peneliti
dan
praktisi
untuk
menganalisis masalah yang sebenarnya dihadapi
dalam supply chain dan alat-alat yang diperlukan
untuk mengatasi masalah ini. Rantung (2016) bahwa
supply chain dieksplorasi, dianalisis, dan berasal
tema umum tentang teknik penilaian risiko pasokan. Penelitian ini menunjukkan bahwa organisasi
pembelian bisa menilai risiko pasokan dengan teknik
yang berfokus pada mengatasi masalah kualitas
pemasok, meningkatkan proses pemasok, dan
mengurangi kemungkinan gangguan pasokan. Kedua, Kedua,
mengidentifikasi
analisa
komparatif terhadap peran serta stakeholders dalam
rantai pasok sebagai unit bisnis. Karena saat ini,
masih ditemukan gap dalam profit share diantara
stakeholders rantai pasok dimana petani kecil
menjadi pihak yang dirugikan dan memiliki risiko
yang tinggi dibanding dengan pelaku rantai pasok
lainnya. Ketiga, Data harga yang diakurasikan dan
dicatat perlu ada suatu terobosan baru yang
diharapkan mampu tercatat tentang perubahan harga
antar waktu. Akan lebih optimal jika data pada
sebuah lokasi bisa dibandingkan dengan lokasi
lainnya, sehingga perubahan pada perilaku harga
untuk skala yang lebih luas bisa dikontrol. Keempat, petani harus bisa mandiri dalam
penyedian
kebutuhan
usaha
tani
dan
tidak
ketergantungan
kepada
rentenir
dalam
hal
peminjaman dana untuk produksi. Menurut Hadiguna (2015), ciri utama dari
sistem rantai pasok agroindustri adalah komitmen
dalam mengalirkan barang dari hulu sampai hilir. Kooperasi dan kolaborasi menjadi kata kunci dari
efisiensi dan efektivitas dari rantai pasok. Kooperasi
merupakan bentuk kerjasama antar pelau secara
horizontal misalnya sesama petani. Kolaborasi
adalah bentuk kerjasama antar pelaku secara
vertikal, misalnya antara petani dengan koperasi. Penentuan
rantai
pasok
perlu
memperhatikan
cakupan kompleksitas, memulai dari industri sendiri,
pengorganisasian para petani dan transparansi
infomasi dari kegiatan. Panjang rantai pasok dan
supply chain size akan menetukan kesinambungan
bisnis dan produk yang dihantarkan.Keterlibatan
banyak pelaku dalam unit rantai pasok harus
disesuaikan
dengan
kebutuhan
kapasitas
dan
perkiraan permintaan (Pujawan, 2017) Mengembangkan Supply Chain
Fase ini tidak hanya mengidentifikasi
pemasok
handal
tetapi
juga
mencakup
pengembangan saling percaya, sistem informasi dan
hubungan baik antara berbagai mitra. alam tahap ini
konsep SCM diterapkan untuk mengembangkan
metode pembayaran, pengiriman, pengiriman untuk
menyediakan layanan pelanggan yang lebih baik. Wang (2014) membahas bahwa nilai kepercayaan
dan efek dari investasi spesifik transaksi untuk
tingkat relatif upaya bersama kolaboratif, dan juga
untuk menilai efek moderasi dari jaringan informasi
pada upaya bersama tersebut. Hal ini ditemukan
bahwa
jaringan
informasi
tidak
memoderasi
hubungan antara upaya bersama kepercayaan dan
efek moderat signifikan dari jaringan pada hubungan
antara investasi tertentu transaksi dan upaya
Bersama
(Akbar,
2013). Hasil
penelitian
menunjukkan bahwa pembeli marah investasi
khusus mereka dengan tingkat upaya bersama sesuai
dengan informasi yang diperoleh dalam jaringan. Haming (2014) menyimpulkan bahwa kolaborasi HASIL DAN PEMBAHASAN Doran
(2013) menganalisis sumber konflik antara pembeli
dan penjual yang berkaitan dengan harga barang
yang dibeli untuk digunakan dalam produksi. Penulis berpendapat bahwa konflik antara pembeli
dan penjual adalah hasil yang tak terelakkan ketika
pembeli membuat keputusan terutama berpusat pada
penafsiran literal dari peran manajemen sebagai agen
dewan yang bertanggung jawab utama adalah untuk
memaksimalkan nilai pemegang saham. dengan
menggunakan target costing sebagai alat untuk
meningkatkan supply chain. Kebutuhan pelanggan
dan hubungan supply chain diidentifikasi sebagai
kriteria utama dalam supply chain untuk memilih
metode yang paling tepat dari target costing untuk
supply
chain. Harga
berbasis
nilai,
biaya
manajemen berdasarkan aktivitas pendekatan untuk
menargetkan biaya dibahas dan rekomendasi untuk
mereka gunakan berdasarkan kebutuhan pelanggan
dan hubungan supply chain yang ditawarkan (Nepal,
2012). Menganalisis Supply Chain
Pendekatan
ini
disajikan
dalam
memungkinkan
peneliti
dan
praktisi
untuk
menganalisis masalah yang sebenarnya dihadapi
dalam supply chain dan alat-alat yang diperlukan
untuk mengatasi masalah ini. Rantung (2016) bahwa
supply chain dieksplorasi, dianalisis, dan berasal
tema umum tentang teknik penilaian risiko pasokan. Penelitian ini menunjukkan bahwa organisasi
pembelian bisa menilai risiko pasokan dengan teknik
yang berfokus pada mengatasi masalah kualitas
pemasok, meningkatkan proses pemasok, dan
mengurangi kemungkinan gangguan pasokan. Doran
(2013) menganalisis sumber konflik antara pembeli
dan penjual yang berkaitan dengan harga barang
yang dibeli untuk digunakan dalam produksi. Penulis berpendapat bahwa konflik antara pembeli
dan penjual adalah hasil yang tak terelakkan ketika
pembeli membuat keputusan terutama berpusat pada
penafsiran literal dari peran manajemen sebagai agen
dewan yang bertanggung jawab utama adalah untuk
memaksimalkan nilai pemegang saham. dengan
menggunakan target costing sebagai alat untuk
meningkatkan supply chain. Kebutuhan pelanggan
dan hubungan supply chain diidentifikasi sebagai
kriteria utama dalam supply chain untuk memilih
metode yang paling tepat dari target costing untuk
supply
chain. Harga
berbasis
nilai,
biaya
manajemen berdasarkan aktivitas pendekatan untuk
menargetkan biaya dibahas dan rekomendasi untuk
mereka gunakan berdasarkan kebutuhan pelanggan
dan hubungan supply chain yang ditawarkan (Nepal,
2012). UCAPAN TERIMA KASIH Penulis mengucapkan terimakasih kepada
Program Pascasarjana S3 Ilmu Pertanian Pemusatan
Teknologi
Industri
Pertanian
Pasca
Sarjana
Universitas Andalas, Promotor dan Co-Promotor
Komisi Pembimbing, dan Beasiswa Lembaga
Pengelola Dana Pendidikan (LPDP) Kementrian
Keuangan
dan
Kementrian
Riset
Teknologi
Pendidikan Tinggi yang telah mendukung penelitian
pada Seminar Nasional Departemen Teknologi
Industri Pertanian IPB tahun 2018. Saran Produk yang digunakan adalah cara inovatif
dalam manajemen kembali dari titik ekonomi dan
lingkungan
pandang
dan
mempelajari
sistem
pemulihan produk di mana produsen produk-produk
asli bergerak dalam remanufaktur digunakan produk
diambil kembali dari pelanggan dalam konteks
tanggung jawab produk diperpanjang. Selain itu
diselidiki apa orientasi keuntungan sejauh dalam
manajemen pemulihan produk akan merangsang
perilaku sadar lingkungan di produsen (Doran,
2013). Gambar 2 menyajikan Logframe literature
review sinergi supply chain agroindustri yang
efektif. Perlu dilakukan penelitian lebih lanjut
tentang sinergi supply chain pada agroindustri
bawang merah yang terintegrasi pada peningkatan
kemampuan sumber daya dan organisasi pelaku
rantai pasok agroindustri bawang merah yang lebih
efisiensi dan efektif dalam mentransformasi sektor
pertanian ke sektor industri. Integrasi Supply Chain Integrasi Supply Chain Terdapat peningkatan perhatian di sektor
bisnis tentang dampak peningkatan lingkungan pasar
kompetitif dan jenis-jenis pengelolaan yang adaptif
yang dibutuhkan untuk berhasil dalam lingkungan
dinamis dan berubah tersebut. Dengan demikian,
keberhasilan dalam
supply chain agroindustri
ditentukan
oleh
tingkat
keberhasilan
dalam
membangun dan mempertahankan kerjasama dan
aliansi (kontrak), yang merupakan konsep dasar
utama dalam rantai pasok agroindustri (Mahsa,
2014). Rantai pasok agroindustri bergantung pada
sinergi antar pelaku rantai pasok dan interaksi bisnis
terkait produk, jasa, sumberdaya keuangan dan
informasi. Rantai
pasok
bertujuan
untuk
mensinergikan hubungan antar pelaku rantai pasok,
yang
berarti
menciptakan
cara-cara
yang
terorganisir. Rantai pasok untuk berinteraksi satu
sama lain bergantung kepada konsensus dari para
pelaku yang terlibat dalam membangun hubungan
dalam sistem tersebut. Beberapa jurnal penelitian ini
mendefinisikan konsep, manajer, keadaan alam, sifat
bahan pertanian dan pengembangan supply chain
pada usaha agroindustri menunjukkan bahwa ada
penelitian intensif yang harus dilakukan di seluruh
dunia dalam bidang ini khususnya dalam bidang
agroindustri. Integrasi Supply Chain
Tahap berikutnya dalam supply chain
adalah
untuk
mengintegrasikan
supply
chain
membutuhkan integrasi semua kegiatan seperti
sourcing,
pengadaan,
penjadwalan
produksi,
pemrosesan
order,
manajemen
persediaan,
transportasi, manufaktur, pergudangan dan layanan
pelanggan. Ini
membuktikan
bahwa
inisiatif
perusahaan berbeda dengan tujuan merekadan
mengusulkan kerangka kerja untuk melambangkan
inisiatif
integrasi
perusahaan
berdasarkan
kemampuan organisasi yang disajikan dalam model
proses bisnis yang terintegrasi, yang menyoroti
pentingnya komunikasi antara proses dan antara
mitra dalam supply chain (Nissen, 2011). g
pp y
Al-Fawaeer (2013) menjelaskan bahwa
sinergi pada supply chain memperoleh sejumlah
pedoman manajerial untuk menggunakan pemasaran
dan
variabel
strategi
operasional
untuk
mempengaruhi
parameter
reaksi
sehingga
memperoleh manfaat maksimal dari pelaku rantai
pasok dan pasar. Selanjutnya penulis menekankan
perlunya fokus pada kemampuan sumber daya
manusia, harga dari kegiatan daripada produk, dan
penggunaan informasi tentang perilaku konsumen. Merekonstruksi Sinergi Pelaku Rantai Pasok
Agroindustri Bawang Merah g
pp y
Sebagian besar dari strategi harus fokus
pada
perencanaan
supply
chain
yang
menguntungkan
(Kogan
2015;
Vorst
2007)
menyelidiki bagaimana tim manajer dari perusahaan
dalam
supply
chain
dapat
membantu
untuk
merumuskan rencana strategis operasi seluruh rantai,
mendapatkan keuntungan setiap perusahaan dan
menguntungkan
seluruh
rantai. Golan
(2011)
menyarankan bahwa kerangka kerja yang luas untuk
menerapkan supply chain di suatu perusahaan. Ini
terdiri dari perumusan strategi, identifikasi daerah 128 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi supply chain sulit untuk menerapkan; ketika ada
perubahan
pada
teknologi,
dan
fundamental
kurangnya
kepercayaan
antara
mitra
dagang. Disimpulkan
bahwa
pembeli
harus
mempertimbangkan hubungan dengan perusahaan
mereka sendiri, pemasok yang ada dan pemasok
baru, untuk membangun kepercayaan dan bersaing
tujuan. kepada sistem baru. Banyak hasil penelitian yang
memanfaatkan kajian terhadap rantai pasok yang
berhasil daripada yang telah gagal. Pengetahuan
tentang bagaimana sebuah rantai pasok dan logistik
itu tidak berjalan, bagaimanapun, dapat membantu
pengembangan
strategi
untuk
meminimumkan
resiko, membantu dalam memperbaiki rantai pasok
yang pernah tidak berjalan, dan mencegahnya dari
kegagalan yang lebih dalam. Jurnal Teknologi Industri Pertanian 29 (2):124-131 Kesimpulan Berdasarkan
hasil
penelitian
dapat
disimpulkan bahwa potret pada proses pembentukan
rantai pasok agroindustri bawang merah pada
pengelolaannya dapat dipandang sebagai sebuah
transformasi organisasi dari sistem konvensional 129 129 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Sinergi Supply Chain Yang Efektif : Literature Review ………… Gambar 2 : Logframe literature review sinergi supply chain agroindustri yang efektif Gambar 2 : Logframe literature review sinergi supply chain agroindustri yang efektif Golan E dan Mitchell L. 2011. Economics of food
labeling. Journal Consumer Policy. 24:
117–184. DAFTAR PUSTAKA Akbar MD, Rahman A, Trantika CFM. 2013. Optimalisasi Aliran Distribusi dan Alokasi
Material
dengan
Metode
Linear
Programming (Studi Kasus: PT. PLN
(PERSERO)
APJ
Distribusi
Malang). Jurnal Rekayasan dan Manajemen Sistem
Industri. 1 (2): 403-414. Hadiguna RA. 2015. Manajemen Rantai Pasok
Agroindustri. Padang: Andalas University
Press. Haming D. 2014. Manajemen Produksi Modern :
Operasi Manufactur dan Jasa. Edisi
Ketiga. Jakarta : Penerbit Bumi Aksara. Herawati. 2015. Kinerja dan efisiensi rantai pasok
biji kakao di kabupaten Pasaman, Sumatera
Barat. J TIDP. 2(1): 43–50. Al-Fawaeer M, Alhunity S, dan Al-Onizar H. 2013. The Impact of Information Technology in
Enhancing Supply Chain Performance: An
Applied Study on the Textile Companiesin
Jordan. Research Journal of Finance and
Accounting, Vol.4, No.8 Ina AR. 2015. Risiko rantai pasok agroindustri
salak menggunakan fuzzy FMEA. [Tesis]. Bogor: Institut Pertanian Bogor. Kambey SF, Kawet L, dan Sumarauw JSB. 2016. Analisis Rantai Pasokan (Supply Chain)
Kubis Di Kelurahan Rurukan Kota
Tomohon. Jurnal
Riset
Ekonomi,
Manajemen, Bisnis dan Akuntansi.4 (5) :
303-408. Ambe IM. 2014. Key Indicators for Optimising SC
Performance. The Case of Light vehicle
manufacturers
in
South
Africa. The
Journal Applied Business Research. 30 (1)
: 277-290. [Kementan]
Kementrian
Pertanian
Republik
Indonesia. 2015. Rencana Kerja Strategis
Renstra Kementrian Pertanian Cabigiosu A, Zirpoli F, dan Camuffo A 2012. Modularity, Interfaces Definition and The
Integration
of
External
Sources
of
Innovation in The Automotive Industry. Research Policy, 42: 662-675. Kitchenham L dan Charters M. 2017. Systemic
Litetarure
Review. Int
J
Software
Engineering Group School of Computer
Science and Mathematics. 52 (2017): 792-
805. Danil MF dan Hartoyo S. 2014. Produksi dan
Pemasaran kako di kabupaten padang
pariaman. Provinsi Sumatera Barat. Jurnal
Manajemen & Agribisnis. 11 (1) ; 41-52 Kogan K dan Tapiero C. 2015. Coordination of co-
investments
in
supply
chain
infrastructure.Springer Science. 23:2471–
2475. Doran D. 2013. Supply chain implication of
modularization. International Journal of
Operations & Production Management. 23
(3): 316-326. Kusumadewi. 2010. Aplikasi Logika Fuzzy Untuk
Pendukung Keputusan. Edisi-2 Jakarta. Graha Ilmu. Dostaller I. 2013. Competing in the global
aerospace supply chain: the case of the
canadian
aerospace
industry. Springer
Science. 6 (2) :32–43. Mahsa P, Zamani S, dan Farzianpour F. 2014. Development of factors effective in the
success
of
green
supply
chain
management. American
Journal
Agricultural and Biological Sciences. 9
(1): 33-34. [FAO] Food and Agriculture Organization. 2017. United Nation. Jurnal Teknologi Industri Pertanian 29 (2):124-131 DAFTAR PUSTAKA 130 Jurnal Teknologi Industri Pertanian 29 (2):124-131 Dedet Deperiky, Santosa, Rika Ampuh Hadiguna, Nofialdi Tompodung E, Worang FG, Roring F. 2016. Analisis Rantai Pasok (Supply Chain) ikan
mujair Di Kecamatan Eris Kabupaten
Minahasa. Jurnal
Riset
Ekonomi,
Manajemen, Bisnis dan Akuntansi. 4 (3). 279-290. Nepal B. Monplaisir L, Famuyiwa O. 2012. Matching product architecture with supply
chain
design. European
Journal
of
Operational Research. 216 :312-325. Nissen ME. 2011. Agent-Based Supply Chain
Integration. Kluwer Academic Publishers. Manufactured in The Netherlands. 2: 289–
312. Vorst JG, Van Der AJ, Silva CAD, Trienkens JH. 2007. Agroindustrial
Supply
Chain
Management : Concepts and Application
Agricultural Management, Marketing and
Finance Occasional Paper. Roma : Food
and Agriculture Organization of The
United Nations. Okoli C. 2017. A Guide to Conducting a Standalone
Systematic
Literature
Review. Communications of the Association for
Information Systems. 37 : 879-910. Pujawan IN. 2017. Supply Chain Management. Edisi
Ketiga. Yokyakarta: Penerbit ANDI. Wang Y, Wallace SW, Shen B, Choi TM. 2014. Service supply chain management: a review
of operational model. European Journal of
Operational
Research. Collaboration. Gadjah Mada International Journal of
Business. 11 (2): 685–698. Rantung ML, Adolfina P, Wenas RS. 2016. Analisis
kinerja rantai pasok komoditas kacang
tanah di pasar tradisional beriman kota
Tomohon. Jurnal
Riset
Ekonomi,
Manajemen, Bisnis dan Akuntansi. 4 (2):
768-892. Seethamraju R. 2014. Enterprise systems and
demand chain management: A cross-
sectional field study. Springer Science. 15:151–161. 131 Jurnal Teknologi Industri Pertanian 29 (2):124-131
|
https://openalex.org/W1583388387
|
http://www.scielo.br/pdf/rlae/v15n4/v15n4a19.pdf
|
Portuguese
| null |
Estudio bibliométrico sobre disertaciones y tesis en enfermería con aproximación fenomenológica: tendencia y perspectivas
| null | 2,007
|
cc-by
| 3,912
|
ESTUDIO BIBLIOMÉTRICO SOBRE DISERTACIONES Y TESIS EN ENFERMERÍA CON
APROXIMACIÓN FENOMENOLÓGICA: TENDENCIA Y PERSPECTIVAS Este trabajo tuvo como objetivo analizar la producción científica sobre disertaciones y tesis de enfermería
con aproximación fenomenológica publicadas de 1981 a 2002. Fue una investigación del tipo descriptivo,
retrospectivo y bibliométrico. El análisis del material perteneciente a la base de datos del catálogo “Informaciones
sobre Investigaciones y Investigadores en Enfermería” resultó en 217 estudios: el 71,9% de maestría y el
28,1% del doctorado. Entre los resultados alcanzados, se destaca que el referencial teórico-filosófico elegido
para soportar el análisis de datos encontrados en las investigaciones no ha sido utilizados con énfasis. Se
destaca la necesidad de discutir los datos encontrados a través del discurso de los sujetos, a la luz del referencial
teórico-filosófico mencionado en la trayectoria de investigación. DESCRIPTORES: enfermería; fenomelogía; bibliometría 645 645 Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Artigo Original BIBLIOMETRIC STUDY ON NURSING THESES AND DISSERTATIONS EMPLOYING A
PHENOMENOLOGICAL APPROACH: TENDENCY AND PERSPECTIVES Miriam Ap. Barbosa Merighi1
Roselane Gonçalves2
Fernanda Cristina Ferreira3 Miriam Ap. Barbosa Merighi1
Roselane Gonçalves2
Fernanda Cristina Ferreira3 Merighi MAB, Gonçalves R, Ferreira FC. Bibliometric study on nursing theses and dissertations employing a
phenomenological approach: tendency and perspectives. Rev Latino-am Enfermagem 2007 julho-agosto;
15(4):645-50. This study aimed to analyze the scientific production of nursing dissertations and theses with a
phenomenological approach published from 1981 to 2002. A descriptive, retrospective and bibliometric research
was carried out. The material analysis, which is part of the database of the catalogue “Information on Nursing
Research and Researchers”, resulted in 217 studies, 71,9% from the master’s course and 28,1% from the
doctoral course. Among the obtained results, it stands out that the theoretical-philosophical reference chosen
to support the data discussion found in investigations has not been used emphatically. There is a need to
discuss the unveiled data, through the subjects’ discourse, in the light of the philosophical reference framework
mentioned in the research trajectory. DESCRIPTORS: nursing; phenomenology; bibliometry ESTUDO BIBLIOMÉTRICO SOBRE DISSERTAÇÕES E TESES EM ENFERMAGEM COM
ABORDAGEM FENOMENOLÓGICA: TENDÊNCIA E PERSPECTIVAS Este estudo teve por objetivo analisar a produção científica sobre dissertações e teses de enfermagem
com abordagem fenomenológica, publicadas de 1981 a 2002. Trata-se de pesquisa do tipo descritiva, retrospectiva
e bibliométrica. A análise do material, que consta na base de dados do catálogo “Informações sobre Pesquisas
e Pesquisadores em Enfermagem”, resultou em 217 estudos: 71,9% do curso de mestrado e 28,1% do curso
de doutorado. Dentre os resultados obtidos destaca-se que o referencial teórico-filosófico escolhido para subsidiar
a discussão dos dados encontrados nas investigações não tem sido utilizado com ênfase. Aponta-se a necessidade
de discutir os dados desvelados, por meio dos discursos dos sujeitos, à luz do referencial teórico-filosófico,
mencionado na trajetória da pesquisa. DESCRITORES: enfermagem; fenomenologia; bibliometria DESCRITORES: enfermagem; fenomenologia; bibliometria 1 Professor, Free Lecturer, School of Nursing, e-mail: merighi@usp.br; 2 Phd, Professor, School of Arts, Sciences and Humanities, e-mail: roselane@usp.br. University of São Paulo, Brazil; 3 RN, MSc in Nursing, e-mail: fernandausp@terra.com.br Disponible en castellano/Disponível em língua portuguesa
SciELO Brasil www.scielo.br/rlae STUDY CONCERNS AND OBJECTIVES The practical variant of the phenomenological
method applied to human research developed by
Amadeo Giorgi is much used. The procedures
proposed by Giorgi were disseminated in Brazil by a
group of psychologists, including Joel Martins, aim to
approach the phenomenological description/
interpretation of data collected by field research,
interviews, statements, etc. It seeks to detect the
meaning units of a significant groups; categorize them
according to the theoretical-philosophical framework*
guiding
the
study;
review
them
using
a
phenomenological analysis and describe them by
recalling the intentional experiences and imaginary
variations, after an eidetic reduction, that is, anything
irrelevant regarding the phenomenon was eliminated
in order to reach essence. Based on the presupposition that social reality
is not thoroughly explained by quantitative
information, qualitative research represents an
indispensable strategy to perform nursing studies(1). Based on the presupposition that social reality
is not thoroughly explained by quantitative
information, qualitative research represents an
indispensable strategy to perform nursing studies(1). Phenomenology
is
among
the
many
approaches used in qualitative research. Phenomenology
is
among
the
many
approaches used in qualitative research. The phenomenological movement appeared
as a reaction to positivism, which states that in order
to be valid, phenomena must be empirically
measured and studied. Phenomenology, in contrast,
aims at direct investigation and to delineate
conscience-experienced phenomena, without theories
concerning causal explanations and, as much as
possible, free of prejudice(2). The phenomenological method has been
broadly used in graduate-courses dissertations and
theses. However, results have not been satisfactory
because emphasis is on data analysis procedures and
not on understanding. There are many reasons for
this form of performing data analysis and discussion(8). The phenomenological method has recently
been acknowledged in qualitative research, mainly in
nursing. Several studies emphasize that the
phenomenological framework seeks the meaning of
one’s experience. Moreover, it contributes to
understand men, health care subjects, and thus meets
nursing purposes(3-5). The excessive amount of meaning units that
appear in an interview make it difficult to perform a
thorough analysis. To do that, considering the
theoretical-philosophical framework in use, it would
require, after many readings of the interviews, to
previously limit the theme, using the stated meaning
units as a background; categorization implies reducing
the object and not a simple natural categorization. * Theoretical-philosophical reference framework - this refers to the “thinking” of a phenomenologist as a connecting thread for data analysis and discussion,
while the methodological reference framework refers to the sequence of steps used for data analysis Disponible en castellano/Disponível em língua portuguesa
SciELO Brasil www.scielo.br/rlae Disponible en castellano/Disponível em língua portuguesa
SciELO Brasil www.scielo.br/rlae Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 646 INTRODUCTION From this perspective, the “form of health
care” in nursing can be seen one way by caregivers
and health care professionals, and another way by
those receiving health care, clients/patients/users. In the 1970s, a new research approach
appeared in Brazil with characteristics that differ from
the previous studies. It involves studies that use the
qualitative method which, due to its holistic descriptive
meaning-based nature, emphasizes the importance
of knowing, understanding, and interpreting meaning
and events, without considering the time they occur,
past or present. Its use favors deepening the
meanings of individuals’ beliefs and values, since it is
limited to meanings of human actions and
relationships. METHOD It is a bibliometric, descriptive and
retrospective study performed by literature review. The analysis material was limited to master’s
dissertations and doctorate theses included in the
database of the Catalogue “Information about Nursing
Research and Researchers”, at the Brazilian Nursing
Association’s Nursing Research Study Center (CEPEn-
ABEn). It is worth emphasizing that this Study Center
is the base for printed data regarding nursing
dissertations and theses produced in Brazil and are
written in Portuguese. It is noticed that a great part of the studies
with a phenomenological approach point, regarding
the method, to the use of a theoretical-philosophical
framework as the guideline for data discussion. However, the analysis shows that other authors, rather
than the one pointed in the study method as the
philosophical framework, are used for this procedure. Regarding the technique, literature reviews
comprise reading, selecting, categorizing and filing
the topics of interest for the research, with the aim of
learning which scientific contributions have been
produced for that subject(9). In addition, many phenomenological studies
state as their framework authors who provide steps
for analysis, rather than those who would support the
results found in the study, that is, theoretical-
philosophical foundation. Non-systematic reviews are “work for a
detective”, in which articles are selected by using
keywords, author names, and then reading titles(10). The inclusion criteria for the dissertations and theses
is that they should be available in the CEPEn - ABEn
database in the last two decades (1980 to 2002),
considering that, as mentioned before, the 1980s
marked the beginning of phenomenology-based
nursing research production in Brazil. There are concerns involving nursing knowledge
production employing the phenomenological approach. Hence, the present study was motivated by the interest
in knowing how sticto-sensu graduate studies using
phenomenology as the theoretical-philosophical
framework are performed. Did the performed studies
use the theoretical-philosophical framework to guide data
discussion, or was phenomenology used only to explain
the method? What is the theoretical-philosophical
framework most commonly used in these studies to
support data analysis? The search for dissertation and thesis
abstracts was performed using printed sources
available at the University of Sao Paulo School of
Nursing. STUDY CONCERNS AND OBJECTIVES Since the beginning, the phenomenological method
should be used to obtain a previous categorization
that would permit to make a phenomenologically-
oriented selection of the statements’ most relevant
meaning units; limiting and categorizing meaning
units, as well as selecting those considered most
important to clarify the phenomenon requires a
comprehension of intentional and descriptive analyses,
which the proposed procedure apparently does not
take into consideration; limited time makes many Nursing practitioners should take notice to the
meaning of experiences, the message that patients
transmit, which would allow nurses to offer more
effective healthcare, centered on patients’ needs(6). A literature survey about nursing research
similar to phenomenology showed that the 1980s
marked the beginning of phenomenology-based
nursing research. In the 1990s, there was a growing
interest on using phenomenological-approach methods
in research performed by nurses. This applied science
has sought to understand the meaning of experiences
associated with the health-disease process, in several
phases of one’s life cycle, in environments ranging
from hospital, outpatient clinic and community care,
to home care(7). Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 647 students see phenomenology as a practical shorter
pathway that offers a series of steps to be followed(8). - To verify if the studies have a theoretical-
philosophical framework, and, if so, to identify the
phenomenological motivation. It is worth emphasizing that this method
should be refined from a deeper understanding of
the method(8). Otherwise, it tends to rapidly wear out
and promote irreparable dissatisfaction among
phenomenology researchers(8). The aforementioned
author states that it is essential to return to using
sources, philosophical and phenomenological texts,
mainly Husserl and some of his followers, including
Heidegger, Merleau-Ponty, and Paul Ricouer. METHOD The three institutions that most produced
phenomenological studies were the University of Sao
Paulo School of Nursing (23%), the Federal University
of Rio de Janeiro (17.1%), and the University of Sao
Paulo at Ribeirao Preto College of Nursing (15.2%). The material was analyzed based on the
articulation of the quanti- and qualitative approaches,
since these two different perspectives are
complementary in the search for a better approach
to the investigated reality(12). The graduate program at the University of
Sao Paulo School of Nursing presented in the referred
period 27 (17.3%) masters dissertations and 23
(37.7%) doctorate theses. The graduate program at
Federal University of Rio de Janeiro came next, with
24 (15.4%) masters dissertations and 13 (21.3%)
doctorate theses, followed by the graduate program
at the University of Sao Paulo at Ribeirao Preto College
of Nursing, with 24 (15.4%) masters dissertations and
9 (14.7%) doctorate theses. The Federal University
of Minas Gerais produced exclusively masters
dissertations, but at a considerable amount - 25 (25%). In quantitative terms, the following variables
were investigated: dissertation/thesis; year of public
defense; location, and philosophical framework. Variables were stored using MS Access, analyzed using
MS Excel and later using Epi Info 6.04, by frequencies
and crossings. In qualitative terms, it was sought to analyze
the results and subject discussion regarding the
theoretical-philosophical framework, through the
following question: Did the theoretical-philosophical
framework support data analysis? In the 1980s, five phenomenological studies
were presented. As of the 1990s, studies with this
focus began to be developed in nursing, very
modestly, but increasing considerably over the last
years. This information is in line with the previous
literature survey, mentioned in the introduction, which
showed that in the 1990s there was an interesting
increase in nurse-conducted studies employing
phenomenology(7). Hence, the qualitative data from answers to
the above question were analyzed through the
following steps: identification of the theoretical-
philosophical framework in the method; reading data
analysis to identify the theoretical-philosophical
framework stated in the method. Descriptive analysis was used for results
presentation with the aim to provide better clarification
regarding the obtained data. A study on the development of nursing
graduate programs in Brazil from 1972 to 1994
reported that there was a remarkable increase of
graduate courses in the 1990s(13). METHOD From these considerations, a bibliographic
study was proposed about dissertations and theses
with phenomenological motivation, with a view to
contribute to the construction of a body of knowledge
that would support nursing health care practice from
the perspective of the involved subjects; to provide a
view of what is being studied in nursing graduate
courses regarding phenomenology, and verify
possible existing gaps in the studies employing this
approach. In this sense, the objectives of the present
study are: The first step to identify the studies was
choosing the keywords: phenomenology, qualitative
research, comprehensive approach/study. The next,
and most accurate, step to choose studies was the
analytical reading of all abstracts with the aim to
identify the thematic area and the theoretical-
methodological framework. After completing the selection, the full article
was searched for reading and data analysis(11). At this
moment, it was analyzed if the philosophical
framework, stated in the method section of the study,
was used for data analysis. - To learn the number of studies performed and the
location where they were presented. - To obtain the focused areas (education or health
care) and the studies’ knowledge areas. The theses and dissertations previously
identified by reading the abstracts were analyzed Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 648 provided they were available at the University of Sao
Paulo School of Nursing library. University of Sao Paulo at Ribeirao Preto College of
Nursing, Federal University of Minas Gerais, University
of Rio de Janeiro, Federal University of Santa Catarina,
Federal University of Ceara, Federal University of
Bahia, Federal University of Sao Paulo, Federal
University of Rio Grande do Sul, Federal University of
Para, University of Sao Paulo College of Education,
Federal University of Parana, and State University of
Rio de Janeiro. Data were collected between August 2003 and
January 2004, using a script containing the following
items: place and year of public defense, focus and
knowledge area, and questions regarding the
methodological
and
theoretical-philosophical
frameworks. After identifying the dissertations and theses
available at the University of Sao Paulo School of
Nursing library, the studies were read, analyzed, and
categorized according to the items in the script. METHOD The authors state
that the boost was due to the reform of the Law of
Education Guidelines and Foundations, approved in
1997, which determined that one-third of the faculty in
superior level schools must have a masters or
doctorate degree. This generated the opening of many
graduate courses and, consequently, an increase in
the demand for course-candidates, which explains the
expressive increase in the number of dissertations and
theses employing phenomenology as of the mid-1990s. FINAL CONSIDERATIONS The present studied offered a view of what
has been studied in nursing graduate courses in Brazil,
regarding the phenomenological approach. It is the commitment of health care
professionals to consolidate the body of knowledge
in nursing, developing studies that would contribute
simultaneously with its increase and consolidation in
the referred profession. A study about nursing knowledge production
in Brazil, in the 1990s, reported that there is significant
prevalence of production in the health care are, mainly
directed to health care issues, followed by women-
and child- related issues. The organizational area
appears is ranked second, followed by the
professional area(14). The present study also aimed to inform nurses
about phenomenology. This method is in line with the
nursing proposals in terms of proving health care form
patients’ perspective. This study can help interested researchers
to develop/deepen phenomenology-based studies. In
addition, it supports the nursing knowledge area in
terms of improving group discussions about research,
in qualitative graduate classes and in scientific events
associated to research. It is stated that this difference is probably
associated with the focus in graduate programs, which
maintain a strong connection with the biomedical model
(obstetrics, pediatrics, psychiatry). Regarding
educational themes, there are lacks in nursing
knowledge, which confirms a general tendency for
reduction in studies in the educational area over the
last decade in the country(14). Results show that in the mid-1990s there was
a marking increase in phenomenological dissertations
and thesis, mainly in nursing graduate courses at the
University of Sao Paulo, as well as at the Federal
University of Rio de Janeiro and the University of Sao
Paulo - Ribeirao Preto. There was a significant
prevalence of scientific productions in the health care
area, with themes associated with adult, women’s,
and child health. Most of the analyzed abstracts (89.9%) did
not present a methodological framework for analysis. Only 22 (10.1%) stated this information, and the most
referenced authors were Martins and Bicudo (54.5%),
followed by Giorgi (18.2%). Most of the analyzed abstract do not present
a methodological framework for analysis. Moreover,
45% of the studies analyzed in full do not have a
theoretical-philosophical framework. Thus, it is
concluded that studies employing this methodological
approach remain ambiguous. Regarding the theoretical-philosophical
framework used in the studies, stated in the abstracts,
53% were specified and 47% did not use it. The most
referenced authors were Heidegger (50.4%), followed
by Alfred Schultz (21.7%), and Merleau-Ponty (20%). RESULTS AND DISCUSSION From 1980 to 2002, there were 217 published
studies using the phenomenology method, of which
156 (71.9%) refer to master’s dissertations and 61
(28.1%) to doctorate theses. The public defenses of dissertations and
theses produced employing the phenomenological
approach were performed in the graduate programs
of the following institutions: University of Sao Paulo
School of Nursing, Federal University of Rio de Janeiro, Considering the 217 analyzed abstracts, 189
studies (87%) had health care as the theme area, Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 649 only 23 (11%) were focused on education, and most
(71.9%) referred to masters dissertations. include a brief statement of the purpose and its
relevance, the method used, the obtained results, a
statement regarding the main conclusions and
additional information about the credibility of results
or the article’s organization(16). There were more studies associated with adult
health, women’s health, and child health. Only two
studies (0.9%) on collective health were developed. It is observed that building nursing body of
knowledge and associated themes reflect the
differences and contradictions of its historical
process(14). In this sense, it is observed that there
has been an increase to the understanding of the object
of nursing practice, comprising illness and humans in
the health-disease process; the many health care
levels, from primary to tertiary; health promotion and
disease cure and prevention; nursing and health care
work organization; integral health care, focused on
issues concerning health, disease, and human beings
as social and historical processes(15). FINAL CONSIDERATIONS Of the 75 studies analyzed in full, with the
aim to identify, in the method, the indication of a
philosophical framework, 55% indicated their use, and
the most cited philosophers were Heidegger (43.9%)
and Merleau-Ponty (24.4%). To
perform
phenomenological
studies,
researchers should study the texts by philosophers and
phenomenologists, considering their presuppositions
throughout the development of the research. Researchers
should justify, for reader clarification, the reasons for
choosing qualitative research, phenomenology, and also
why the chosen theoretical-philosophical framework
meets the study proposals. It is concluded that dissertation and thesis
abstracts have not been given the appropriate
importance, considering that study abstracts should Rev Latino-am Enfermagem 2007 julho-agosto; 15(4):645-50
www.eerp.usp.br/rlae Bibliometric study on nursing theses... Merighi MAB, Gonçalves R, Ferreira FC. 650 in nursing is highlighted, since health, illness, and
health care, in the most different aspects, can be
rethought from the perspective of existential
phenomenology
and
be
phenomenologically
understood from the perspective of people
experiencing these phenomena. It is worth emphasizing that meaning units
should be extracted from subjects’ statements, based
on
the
mentioned
theoretical-philosophical
framework, and the data should also be discussed
from this framework’s perspective. The pertinence of phenomenological research REFERENCES 1. Merighi MAB. Trajetória profissional das enfermeiras
obstétricas egressas da Escola de Enfermagem da
Universidade de São Paulo: um enfoque da fenomenologia
social. Rev Latino-am Enfermagem 2002 setembro-outubro;
10(5):644-53. 2. Valle ERM. Câncer infantil: compreender e agir. Campinas
(SP): Pry Editorial; 1997. 2. Valle ERM. Câncer infantil: compreender e agir. Campinas
(SP): Pry Editorial; 1997. 3. Capalbo C. Abordando a enfermagem a partir da
fenomenologia. Rev Enfermagem UERJ 1994 maio; 2(1): 70-
6. 3. Capalbo C. Abordando a enfermagem a partir da
fenomenologia. Rev Enfermagem UERJ 1994 maio; 2(1): 70-
6. 4. Koch T. Interpretative approaches in nursing research: the
influence of Husserl and Heidegger. Adv Nurs 1995; 2(5):827-
36. 4. Koch T. Interpretative approaches in nursing research: the
influence of Husserl and Heidegger. Adv Nurs 1995; 2(5):827-
36. 4. Koch T. Interpretative approaches in nursing research: the
influence of Husserl and Heidegger. Adv Nurs 1995; 2(5):827-
36. 5. Silva LF, Damasceno MMC, Moreira RVO. Contribuição
dos estudos fenomenológicos para o cuidado de enfermagem. Rev Bras Enfermagem 2001 julho-setembro; 54(3):475-81. 6. Chubaci RYS, Merighi MAB. A comunicação no processo
da hospitalização do imigrante japonês. Rev Latino-am
Enfermagem 2002 novembro-dezembro; 10(6):805-12. 5. Silva LF, Damasceno MMC, Moreira RVO. Contribuição
dos estudos fenomenológicos para o cuidado de enfermagem. 6. Chubaci RYS, Merighi MAB. A comunicação no processo
da hospitalização do imigrante japonês. Rev Latino-am
Enfermagem 2002 novembro-dezembro; 10(6):805-12. 7. Lopes RML, Rodrigues BMRD, Damasceno MMC. Fenomenologia e a pesquisa em enfermagem. Rev Esc
Enfermagem UERJ 1995 maio; 3(1):49-52. 8. Josgrilberg RS. O método fenomenológico e as ciências
humanas. In: Castro DSP, organizador. Fenomenologia e
análise do existir. São Paulo (SP): Universidade Metodista
de São Paulo/Sobraphe; 2000. p. 75-93. 9. Ferrari AT. Metodologia da pesquisa científica. São Paulo
(SP): Mcgraw-Hill do Brasil; 1992. 10. Jorge MT, Ribeiro AL. Fundamentos para o conhecimento
científico das áreas de saúde. São Paulo (SP): CLR Balieiro;
1999. 11. Severino AJ. Metodologia do trabalho científico. 21ª. ed. São Paulo (SP): Cortes; 2000. 12. Minayo MCS, Sanches O. Quantitativo-qualitativo:
oposição ou complementariedade? Cad Saúde Publica 1993
julho; 3 (9):239-62. 13. Moriya TM, Rodrigues ARF, Almeida MCP, Ruffino MC,
Oliveira MFP. Pós-graduação “strictu sensu” em enfermagem:
um estudo do seu desenvolvimento no Brasil. Ribeirão Preto
(SP): Fundação Instituto de Enfermagem de Ribeirão Preto;
1998. 14. Prado ML, Gelbeke FL. Produção do conhecimento em
enfermagem no Brasil: as temáticas da investigação. Rev
Bras Enfermagem 2001 janeiro-março; 54(1):34-42. 14. 15. Almeida MCP. Considerações finais. In: Seminario
Nacional de Pesquisa em Enfermagem; 1995. Ribeirão Preto
(SP), Brasil. Ribeirão Preto (SP): ABEn; 1995. p. 184-96.
16. Grenne LJ. O trabalho científico: enfoque do editor. In:
Anais do I Curso de Editoração Científica; 2001; Brasília
(DF), Brasil. Brasília (DF): ABECS/ GDF/ FEPECS; 2001. 15. Almeida MCP. Considerações finais. In: Seminario
Nacional de Pesquisa em Enfermagem; 1995. Ribeirão Preto
(SP), Brasil. Ribeirão Preto (SP): ABEn; 1995. p. 184-96.
16. Grenne LJ. O trabalho científico: enfoque do editor. In:
Anais do I Curso de Editoração Científica; 2001; Brasília
(DF), Brasil. Brasília (DF): ABECS/ GDF/ FEPECS; 2001. REFERENCES Prado ML, Gelbeke FL. Produção do conhecimento em
enfermagem no Brasil: as temáticas da investigação. Rev
Bras Enfermagem 2001 janeiro-março; 54(1):34-42. Recebido em: 26.10.2005
Aprovado em: 26.4.2007
|
https://openalex.org/W2890796305
|
https://europepmc.org/articles/pmc6558927?pdf=render
|
English
| null |
SKP2 and OTUD1 govern non-proteolytic ubiquitination of YAP that promotes YAP nuclear localization and activity
|
Cell stress
| 2,018
|
cc-by
| 1,784
|
SKP2 and OTUD1 govern non-proteolytic ubiquitination of
YAP that promotes YAP nuclear localization and activity Fan Yao1, Zhenna Xiao1,2, Yutong Sun3 and Li Ma1,2,*
1 Department of Experimental Radiation Oncology, The University of Texas MD Anderson Cancer Center, Houston, Texas 77030, USA. 2 The University of Texas MD Anderson Cancer Center UTHealth Graduate School of Biomedical Sciences, Houston, Texas 77030, USA. 3 Department of Molecular and Cellular Oncology, The University of Texas MD Anderson Cancer Center, Houston, Texas 77030, USA. * Corresponding Author: Fan Yao1, Zhenna Xiao1,2, Yutong Sun3 and Li Ma1,2,* Li Ma, Department of Experimental Radiation Oncology, The University of Texas MD Anderson Cancer Center, 6565
Boulevard, Unit 1052, Houston, Texas 77030, USA; E-mail: lma4@mdanderson.org YAP and its paralog TAZ are key effectors of the evolution-
arily conserved Hippo signaling pathway, a pathway that
regulates organ size, tissue homeostasis, and tumorigene-
sis. In human cells, MST1/2 (mammalian homologs of Dro-
sophila Hippo kinase) and LATS1/2 (mammalian homologs
of Drosophila Wts kinase) form the core Hippo kinase com-
plex (Figure 1). Once activated, MST1/2 phosphorylates
and activates LATS1/2, which in turn phosphorylates YAP
or TAZ. Phosphorylated YAP binds to 14-3-3, a scaffold
protein, leading to cytoplasmic retention and functional
inactivation of YAP. In addition, the binding of YAP to
AMOT and ZO-2 can also retain YAP in the cytoplasm. Upon
dephosphorylation by a phosphatase, such as PP1, YAP
translocates into the nucleus, binds to TEAD proteins or
other transcription factors, and activates the transcription
of target genes. Moreover, under high cell density condi-
tions, Hippo signaling-mediated YAP phosphorylation is
followed by casein kinase 1 δ/ε-mediated YAP phosphory-
lation and SCFβ-TRCP-mediated ubiquitination and degrada-
tion of YAP (Figure 1). Thus, posttranslational modifications
of YAP govern its activity and stability. Despite the estab-
lished role of Hippo signaling, accumulating genetic and
biochemical evidence suggests that YAP can be regulated
in a Hippo pathway-independent manner. Dysregulation of signaling pathways that control organ
size, such as the AKT-mTOR and Hippo-YAP pathways,
often leads to tumorigenesis and metastasis. The Hip-
po pathway effector YAP is a transcriptional co-
activator overexpressed or activated in human tumors. Accumulating evidence has demonstrated that YAP
promotes tumor initiation and/or progression in vari-
ous types of cancer. YAP shuttles between the nucleus
and the cytoplasm of the cell. When in the nucleus,
YAP binds to transcription factors, such as SMAD, p73,
RUNX, and the TEA domain (TEAD) family members, to
activate gene transcription. MICROREVIEW on: Yao F, Zhou Z, Kim J, Hang Q, Xiao Z, Ton BN, Chang L, Liu N, Zeng L, Wang W, Wang Y, Zhang P, Hu X, Su X, Liang H, Sun
Y, Ma L (2018). SKP2- and OTUD1-regulated non-proteolytic ubiquitination of YAP promotes YAP nuclear localization and activity. Nat
Commun 9(1):2269. doi: 10.1038/s41467-018-04620-y. doi: 10.15698/cst2018.09.153
Received 18.07.2018; Accepted 23.07.2018, Published 14.08.2018.
Keywords: YAP, non-proteolytic ubiquitination, SKP2, OTUD1. Microreview www.cell-stress.com Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 SKP2 and OTUD1 govern non-proteolytic ubiquitination of
YAP that promotes YAP nuclear localization and activity Right panel: low cell density promotes SKP2 to interact with
and ubiquitinate YAP via the K63 linkage, leading to enhanced YAP-TEAD interaction and nuclear retention of YAP (upper); high cell densi-
ty promotes OTUD1 to bind YAP and reverse its K63-linked ubiquitination, leading to cytoplasmic localization of YAP (lower). FIGURE 1: Models for the regulation of YAP localization and activity. Left panel: various upstream signals provide inputs that feed into
the MST1/2 substrates, LATS1/2, to phosphorylate YAP at Ser127, leading to its binding to 14-3-3, which in turn retains YAP in the cyto-
plasm. Moreover, the subsequent phosphorylation of YAP by casein kinase 1δ/ε triggers the recruitment of the SCFβ-TRCP complex, which
promotes YAP’s proteolytic ubiquitination under high cell density conditions. Right panel: low cell density promotes SKP2 to interact with
and ubiquitinate YAP via the K63 linkage, leading to enhanced YAP-TEAD interaction and nuclear retention of YAP (upper); high cell densi-
ty promotes OTUD1 to bind YAP and reverse its K63-linked ubiquitination, leading to cytoplasmic localization of YAP (lower). tion of YAP is important for its nuclear localization and
activity. the non-K48-linked polyubiquitination of YAP was in-
creased at low cell density, a condition in which YAP is en-
riched in the nucleus. To identify the E3 ligase that is responsible for YAP’s
non-proteolytic ubiquitination, we screened a panel of E3
ligases previously reported to be involved in K63-linked
ubiquitination. SKP2 stood out as the only one that in-
creased K63-linked ubiquitination of YAP, and this effect
was found to be mediated by the SCFSKP2 complex and the
ubiquitin-conjugating enzyme UBCH5c (Figure 1). In paral-
lel, by screening a library of 68 human DUBs, we identified
OTUD1 as the only deubiquitinase that reversed K63-linked
ubiquitination of YAP (Figure 1). Based on the evidence
from overexpression, knockdown, and CRISPR-Cas9-
mediated knockout of SKP2 or OTUD1, we found that SKP2
promotes, while OTUD1 inhibits the nuclear localization,
transcriptional activity, and growth-promoting function of
YAP. Interestingly, neither SKP2’s nor OTUD1’s effect on
YAP’s K63-linked ubiquitination depends on Hippo signal-
ing-mediated Ser127 phosphorylation of YAP. K63-linked polyubiquitination regulates protein interac-
tion, activity, and subcellular localization. Using an anti-
body that recognizes K63-linkage-specific polyubiquitin, we
confirmed that low cell density promoted non-proteolytic,
K63-linked ubiquitination of YAP at the endogenous level. Human YAP protein contains 14 lysine residues. SKP2 and OTUD1 govern non-proteolytic ubiquitination of
YAP that promotes YAP nuclear localization and activity The nuclear localization of
YAP can be inhibited by the Hippo phosphorylation
cascade and the cytoplasmic binding partners of YAP. In addition, YAP has previously been shown to be
ubiquitinated by the SCFβ-TRCP complex and degraded
by the proteasome. Recently, we discovered a novel
mechanism by which non-proteolytic, K63-linked
polyubiquitination of YAP promotes its nuclear locali-
zation, transcriptional activity, and growth-promoting
function (Yao et al. Nat Commun 9:2269). Moreover,
by screening ubiquitin E3 ligases implicated in K63-
linked ubiquitination and a human deubiquitinase
(DUB) library, we identified the SCFSKP2 complex and
OTUD1, respectively, as the E3 ligase and the DUB that
regulate this non-proteolytic ubiquitination without
altering YAP protein level. Interestingly, this ubiquiti-
nation-mediated regulation of YAP is independent of
Hippo pathway-mediated phosphorylation of YAP. Cell density is relevant to both organ growth and can-
cer, because: (1) contact inhibition (caused by high cell
density) is critical for embryonic morphogenesis and
maintenance of adult organ architecture; and (2) a hall-
mark of solid cancers is uncontrolled growth due to the
loss of contact inhibition. When we examined the level of
YAP polyubiquitination at different cell densities, we found
that the total as well as K48-linked (proteolytic) polyubiqui-
tination of YAP was increased at high cell density, whereas MICROREVIEW on: Yao F, Zhou Z, Kim J, Hang Q, Xiao Z, Ton BN, Chang L, Liu N, Zeng L, Wang W, Wang Y, Zhang P, Hu X, Su X, Liang H, Sun
Y, Ma L (2018). SKP2- and OTUD1-regulated non-proteolytic ubiquitination of YAP promotes YAP nuclear localization and activity. Nat
Commun 9(1):2269. doi: 10.1038/s41467-018-04620-y. Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 233 233 Regulation of YAP by non-proteolytic ubiquitination F. Yao et al. (2018) FIGURE 1: Models for the regulation of YAP localization and activity. Left panel: various upstream signals provide inputs that feed into
the MST1/2 substrates, LATS1/2, to phosphorylate YAP at Ser127, leading to its binding to 14-3-3, which in turn retains YAP in the cyto-
plasm. Moreover, the subsequent phosphorylation of YAP by casein kinase 1δ/ε triggers the recruitment of the SCFβ-TRCP complex, which
promotes YAP’s proteolytic ubiquitination under high cell density conditions. OPEN ACCESS | www.cell-stress.com CONFLICT OF INTEREST The authors declare no conflict of interest. SKP2 and OTUD1 govern non-proteolytic ubiquitination of
YAP that promotes YAP nuclear localization and activity Using a
series of KR mutants and K-specific mutants of YAP (e.g.,
the K321R mutant contains a single lysine-to-arginine mu-
tation at K321, whereas the K321-specific mutant contains
only one lysine, K321, with all other lysines mutated to
arginine), we identified K321 and K497 as the K63-linked
ubiquitination sites on YAP. Notably, double mutations of
these two sites (K321R/K497R) retained YAP in the cyto-
plasm and inhibited its transcriptional activity and tumor-
promoting function, suggesting that K63-linked ubiquitina- Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 234 F. Yao et al. (2018) F. Yao et al. (2018) Regulation of YAP by non-proteolytic ubiquitination ubiquitination of YAP, and if so, how are SKP2 and OTUD1
involved? (3) Do SKP2 and OTUD1 govern a non-proteolytic
ubiquitination event to modulate YAP-induced organ
growth, tissue regeneration, and tumorigenesis in vivo? Since K63-linked ubiquitination is known to serve as a
scaffold to mediate protein-protein interaction, we deter-
mined whether K63-linked ubiquitination of YAP facilitates
its interaction with binding partners. At low cell density,
YAP exhibited more interaction with SKP2 and its known
nuclear binding partner TEAD, but less interaction with
OTUD1 and its known cytoplasmic binding partners, includ-
ing LATS1, AMOT, and 14-3-3. Next, we found that SKP2
and K63-linked ubiquitination induce the interaction of YAP
with TEAD, leading to nuclear retention and functional
activation of YAP (Figure 1). ACKNOWLEDGMENTS The authors’ research is supported by US National Insti-
tutes
of
Health
(NIH)
grants
R01CA166051
and
R01CA181029, a Cancer Prevention and Research Institute
of Texas (CPRIT) grant RP150319, and a Stand Up To Cancer
Innovative Research Grant (award number: 403235). In summary, we demonstrated that K63-linked
polyubiquitination of YAP by the SCFSKP2 complex promotes
YAP nuclear localization and activity, and that this non-
proteolytic ubiquitination is reversed by the deubiquitinase
OTUD1. This novel Hippo signaling-independent mecha-
nism provides new insights into the regulation of YAP,
growth, and tumorigenesis. Several important questions
remain: (1) how does low cell density promote SKP2 to
interact with and ubiquitinate YAP? (2) In addition to con-
tact inhibition (high cell density), a number of other signals
have been shown to inactivate YAP, including energy stress,
serum deprivation, actin depolymerization, and stimulation
of Gs-coupled receptors. On the other hand, hypoxia and
stimulation of G12/13-coupled receptors have been re-
ported to activate YAP. It is thought that these upstream
signals provide inputs that feed into the Hippo pathway to
regulate YAP. Do these various signals regulate K63-linked COPYRIGHT © 2018 Yao et al. This is an open-access article released
under the terms of the Creative Commons Attribution (CC
BY) license, which allows the unrestricted use, distribution,
and reproduction in any medium, provided the original
author and source are acknowledged. Please cite this article as: Fan Yao, Zhenna Xiao, Yutong Sun and Li
Ma
(2018). SKP2
and
OTUD1
govern
non-proteolytic
ubiquitination of YAP that promotes YAP nuclear localization and
activity. Cell Stress 2(9): 233-235. doi: 10.15698/cst2018.09.153 Cell Stress | SEPTEMBER 2018 | Vol. 2 No. 9 235 OPEN ACCESS | www.cell-stress.com
|
https://openalex.org/W4386928566
|
https://biosignaling.biomedcentral.com/counter/pdf/10.1186/s12964-023-01325-8
|
English
| null |
Correction: The roles of different microRNAs in the regulation of cholesterol in viral hepatitis
|
Cell communication and signaling
| 2,023
|
cc-by
| 917
|
Cell Communication
and Signaling Cell Communication
and Signaling Meng et al. Cell Communication and Signaling (2023) 21:254
https://doi.org/10.1186/s12964-023-01325-8 Meng et al. Open Access Correction: The roles of different microRNAs
in the regulation of cholesterol in viral hepatitis
Xuan Meng1,2, Yeganeh Eslami3, Ehsan Derafsh4, Anwar Saihood5, Nikoo Emtiazi6, Saman Yasamineh7,
Omid Gholizadeh8* and Renzon Daniel Cosme Pecho9* Correction: Cell Commun Signal 21, 231 (2023)
https://doi.org/10.1186/s12964-023-01250-w Following publication of the original article [1], the
authors identified a typesetting error pertaining to the
name of the author Renzon Daniel Cosme Pecho. The
author’s name was mistakenly tagged as two names. This
has been amended in this correction article and the origi-
nal article [1] has been corrected. © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecom-
mons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Reference Reference
1. Meng X, Eslami Y, Derafsh E, et al. The roles of different microRNAs in
the regulation of cholesterol in viral hepatitis. Cell Commun Signal. 2023;21:231. https://doi.org/10.1186/s12964-023-01250-w. © The Author(s) 2023. Open Access This
permits use, sharing, adaptation, distribu
original author(s) and the source, provide
other third party material in this article ar
to the material. If material is not included
regulation or exceeds the permitted use
licence, visit http://creativecommons.org
mons.org/publicdomain/zero/1.0/) appl
The original article can be found online at https://doi.org/10.1186/s12964-
023-01250-w. *Correspondence:
Omid Gholizadeh
ogholizade1374@gmail.com
Renzon Daniel Cosme Pecho
rcosme@usil.edu.pe
1 Hepatobiliary Surgery Department, National Cancer Center/National
Clinical Research Center for Cancer/Cancer Hospital, Chinese Academy
of Medical Sciences and Peking Union Medical College, Beijing 100021,
China
2 Jiangsu Center for the Collaboration and Innovation of Cancer
Biotherapy, Cancer Institute, Xuzhou Medical College, Xuzhou 221002,
Jiangsu, China
3 Faculty of Medicine, Mazandaran University of Medical Sciences, Sari,
Iran
4 Windsor University, School of Medicine, St. Kitts, Canada
5 Department of Microbiology, College of Medicine, University of Al-
Qadisiyah, Baqubah, Iraq
6 Department of Pathology, Firoozgar Hospital, Iran University of Medical
Sciences, Tehran, Iran
7 Young Researchers and Elite Club, Tabriz Branch, Islamic Azad University,
Tabriz, Iran
8 Department of Bacteriology and Virology, Faculty of Medicine, Tabriz
University of Medical Sciences, Tabriz, Iran
9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA
(USIL), Lima, Peru The original article can be found online at https://doi.org/10.1186/s12964-
023-01250-w. 023-01250-w. *Correspondence:
Omid Gholizadeh
ogholizade1374@gmail.com
Renzon Daniel Cosme Pecho
rcosme@usil.edu.pe
1 Hepatobiliary Surgery Department, National Cancer Center/National
Clinical Research Center for Cancer/Cancer Hospital, Chinese Academy
of Medical Sciences and Peking Union Medical College, Beijing 100021,
China
2 Jiangsu Center for the Collaboration and Innovation of Cancer
Biotherapy, Cancer Institute, Xuzhou Medical College, Xuzhou 221002,
Jiangsu, China
3 Faculty of Medicine, Mazandaran University of Medical Sciences, Sari,
Iran
4 Windsor University, School of Medicine, St. Kitts, Canada
5 Department of Microbiology, College of Medicine, University of Al-
Qadisiyah, Baqubah, Iraq
6 Department of Pathology, Firoozgar Hospital, Iran University of Medical
Sciences, Tehran, Iran
7 Young Researchers and Elite Club, Tabriz Branch, Islamic Azad University,
Tabriz, Iran
8 Department of Bacteriology and Virology, Faculty of Medicine, Tabriz
University of Medical Sciences, Tabriz, Iran
9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA
(USIL), Lima, Peru 3 Faculty of Medicine, Mazandaran University of Medical Sciences, Sari,
Iran 4 Windsor University, School of Medicine, St. Reference Kitts, Canada 5 Department of Microbiology, College of Medicine, University of Al-
Qadisiyah, Baqubah, Iraq
6 6 Department of Pathology, Firoozgar Hospital, Iran University of Medical
Sciences, Tehran, Iran 7 Young Researchers and Elite Club, Tabriz Branch, Islamic Azad University,
Tabriz, Iran
8 8 Department of Bacteriology and Virology, Faculty of Medicine, Tabriz
University of Medical Sciences, Tabriz, Iran 9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA
(USIL), Lima, Peru 9 Department of Biochemistry, UNIVERSIDAD SAN IGNACIO DE LOYOLA
(USIL), Lima, Peru © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativecom-
mons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data.
|
https://openalex.org/W2236616832
|
https://lifescienceglobal.com/pms/index.php/jtire/article/download/3487/2033
|
English
| null |
Regional Electric-Power Systems Planning and Carbon Dioxide Emissions Management under Uncertainty
|
Journal of technology innovations in renewable energy
| 2,015
|
cc-by
| 14,137
|
1. INTRODUCTION to human-induced imprecision or fuzziness, such as
lack of available data and biased judgments (or
preferences) in assigning priority factors (weighting
levels) to multiple management objectives. The
inherent complexity and uncertainty that exist in
electric-power systems planning have essentially
placed them beyond the conventional deterministic
optimization methods [5]. Carbon dioxide (CO2) is the prominent greenhouse
gas (GHG) that leads to global warming and climatic
change
with
increasing
concentrations
above
preindustrial levels [1-3]. Current annual emissions now
exceed 30 Gt/y of CO2, while atmospheric CO2 levels
recently exceeded 400 ppm [4]. In the World average,
the electricity sector is likely to play a pivotal role in
reducing CO2 emissions. Because electricity can be
produced by various ways such as fossil fuel burning,
nuclear fission and by harnessing of various carbon-
free renewable energy resources, there are strong
options for carbon mitigation in electricity sector, with
different socio-environmental costs and benefits [1-4]. Therefore,
innovative
planning,
adaptation,
and
mitigation
approaches
as
well
as
policies
for
sustainable electric-power systems management are
desired. As a result, a number of energy systems planning
models, which could facilitate reflection of such
complexities as well as analyze tradeoffs between
emission mitigation and cost minimization, were
developed based on two-stage stochastic programming
(TSP) approaches [6-12]. TSP had advantages in
reflecting complexities of system uncertainties as well
as analyzing policy scenarios when the pre-regulated
targets were violated. In TSP, the first-stage decision is
to be made before uncertain information is revealed,
whereas the second-stage one (recourse) is to adapt to
the previous decision based on the further information;
the second-stage decision is used to minimize
‘penalties’ that may appear due to any infeasibility [5,
13-15]. Nürnberg and Römisch [6] developed a two-
stage stochastic programming model for the short- or
mid-term
cost-optimal
electric
power
production
planning, considering the power generation in a hydro-
thermal generation system under uncertainty in
demand (or load) and prices for fuel and delivery
contracts. Lin et al. [10] developed a hybrid interval-
fuzzy two-stage stochastic energy systems planning
model to deal with uncertainties that can be expressed
as fuzzy numbers, probability distributions, and discrete
intervals. Lin and Huang [11] proposed an in exact two- However, electric-power systems planning and CO2
emissions management efforts are complicated with a
variety of uncertainties due to parameter estimation,
input data, and model structure, which may affect the
relevant optimization analyses and thus the associated
decision-making process [5]. *Address correspondence to this author at the MOE Key Laboratory of
Regional Energy Systems Optimization, Sino-Canada Resources and
Environmental Research Academy, North China Electric Power University,
Beijing 102206, China; Tel: +86 10 6177 3887; Fax: +86 10 6177 3885;
E-mail: yongping.li@iseis.org, yongpingli33@163.com Regional Electric-Power Systems Planning and Carbon Dioxide
Emissions Management under Uncertainty Y.F. Li, Y.P. Li* and G.H. Huang MOE Key Laboratory of Regional Energy Systems Optimization, Sino-Canada Resources and Environmental
Research Academy, North China Electric Power University, Beijing 102206, China MOE Key Laboratory of Regional Energy Systems Optimization, Sino-Canada Resource
Research Academy, North China Electric Power University, Beijing 102206, China Abstract: In this study, an interval two-stage integer programming model is formulated for planning electric-power
systems and managing carbon dioxide (CO2) emissions under uncertainty. The developed model can reflect dynamic,
interactive, and uncertain characteristics of regional energy systems. Besides, the model can be used for answering
questions related to types, times, demands and mitigations of energy systems planning practices, with the objective of
minimizing system cost over a long-time planning horizon. The developed model is also applied to a case study of
planning CO2-emission mitigation for an electric-power system that involves fossil-fueled and renewable energy sources. Solutions can help generate electricity-generation schemes and capacity-expansion plans under different CO2-mitigation
options and electricity-demand levels. Different CO2-emission management policies corresponding to different renewable
energy development plans are analyzed. A high system cost will increase renewable energy supply and reduce CO2
emission, while a desire for a low cost will run into risks of a high energy deficiency and a high CO2 emission. Keywords: CO2 emission, electric-power systems, optimization, planning, renewable energy, uncertainty analysis. Journal of Technology Innovations in Renewable Energy, 2015, 4, 129-146 Journal of Technology Innovations in Renewable Energy, 2015, 4, 129-146 129 subject to: Ar X Br, r = 1, 2, ..., m1
(2b)
At X + At
'Y wh, t = 1, 2, ..., m2; h = 1, 2, ..., v
(2c)
x j 0, x j X, j = 1, 2, ..., n1
(2d)
y jh 0, y jh Y, j = 1, 2, ..., n2; h = 1, 2, ..., v
(2e) (2b) (2c) x j 0, x j X, j = 1, 2, ..., n1 (2d) (2e) Obviously, model (2) can deal with uncertainties in
the
right-hand
sides
presented
as
probability
distributions when coefficients in the left-hand sides
and in the objective function are deterministic. However, in real-world optimization problems, the
quality of information that can be obtained is mostly not
satisfactory enough to be presented as probabilities
[17]. Such complexities cannot be solved through
model (2). 1. INTRODUCTION )
take discrete values h with probability levels
ph ( h = 1, 2, ..., v and
ph
= 1), the above TSP can be
equivalently where X R
n1 , C R
n1 , and Y R
n2 . Here, is a
random variable from space (,F,P) with Rk ,
f : R
n2 ,
h: R
m2 ,
D : R
m2n2 ,
and T : R
m2n1 . By letting random variables (i.e. )
take discrete values h with probability levels
ph ( h = 1, 2, ..., v and
ph
= 1), the above TSP can be
equivalently T : R
m2n1 . By letting random variables (i.e. )
take discrete values h with probability levels
ph ( h = 1, 2, ..., v and
ph
= 1), the above TSP can be
equivalently formulated as a linear programming model as follows
[17-19]: formulated as a linear programming model as follows
[17-19]: Min f = CT1X +
phDT2Y
h=1
v
(2a) (2a) Therefore,
an
interval
two-stage
integer
programming model will be formulated for managing
CO2 emissions within an electric-power system over a
long-time planning horizon. This paper will be
organized as follows: Section 2 describes the interval
two-stage integer programming method; Section 3
provides a case study of managing CO2 emissions in
electric-power systems through the proposed method;
Section 4 presents result analysis, where a number of
scenarios based on different CO2-mitigation options
and energy-demand levels are analyzed; Section 5
draws some conclusions. 1. INTRODUCTION Uncertainties can be
derived from energy-related processes and activities
(e.g. exploration/exploitation, conversion/processing,
and supply/demand); uncertainties can also arise due E-ISSN: 1929-6002/15 © 2015 Lifescience Global Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 130 Li et al. Li et al. No. 4
Li et al. subject to: subject to: subject to: subject to: stage stochastic energy systems planning model for
managing greenhouse gas emission at a municipal
level, where GHG-emission reduction target was
treated as random variable. Chen et al. [12] discussed
CO2- emission trading scheme with an integrated
energy system using interval two-stage stochastic
programming, which could deal with uncertainties
expressed as discrete intervals and random variables. stage stochastic energy systems planning model for
managing greenhouse gas emission at a municipal
level, where GHG-emission reduction target was
treated as random variable. Chen et al. [12] discussed
CO2- emission trading scheme with an integrated
energy system using interval two-stage stochastic
programming, which could deal with uncertainties
expressed as discrete intervals and random variables. The previous studies emphasized on the planning of
either electric power systems or entire energy systems
by regarding the CO2 emissions management as a
single constraint. Studies on how to apply various
carbon-free renewable energy technologies to adjust
the electricity generating structure, however, have
hardly been covered in their models. There are many
ways to generate electricity, and this flexibility gives the
electricity sector a major advantage in responding to
changes in market incentives to encourage carbon-free
technologies [16]. D()y h() +T()x
(1d)
y Y
(1e) D()y h() +T()x
(1d) (1d) y Y
(1e) y Y (1e) where X R
n1 , C R
n1 , and Y R
n2 . Here, is a
random variable from space (,F,P) with Rk ,
f : R
n2 ,
h: R
m2 ,
D : R
m2n2 ,
and where X R
n1 , C R
n1 , and Y R
n2 . Here, is a
random variable from space (,F,P) with Rk ,
f : R
n2 ,
h: R
m2 ,
D : R
m2n2 ,
and
T : R
m2n1 . By letting random variables (i.e. subject to: Ar
± X ± Br
±, r = 1, 2, ..., m1
(3b) (4g) Ar
± X ± Br
±, r = 1, 2, ..., m1
(3b)
At
± X ± + At
'±Y ± wh
±, t = 1, 2, ..., m2; h = 1, 2, ..., v (3c)
x j
± 0, x j
± X ±, j = 1, 2, ..., n1
(3d)
y jh
± 0, y jh
± Y ±, j = 1, 2, ..., n2; h = 1, 2, ..., v
(3e) (3b) where x j
± , j = 1, 2, ..., k1 , are interval variables with
positive coefficients in the objective function; x j
± ,
j = k1 +1, k1 + 2, ..., n1are interval variables with negative
coefficients; y jh
± , j = 1, 2, ..., k2 and h = 1, 2, ..., v are
random variables with positive coefficients in the
objective
function; y jh
± ,
j = k2 +1, k2 + 2, ..., n2
and
h = 1, 2, ..., v are random variables with negative
coefficients. Solutions
of where x j
± , j = 1, 2, ..., k1 , are interval variables with
positive coefficients in the objective function; x j
± ,
j = k1 +1, k1 + 2, ..., n1are interval variables with negative
coefficients; y jh
± , j = 1, 2, ..., k2 and h = 1, 2, ..., v are
random variables with positive coefficients in the
objective
function; y jh
± ,
j = k2 +1, k2 + 2, ..., n2
and
h = 1, 2, ..., v are random variables with negative
coefficients. subject to: Solutions
of (3d) x j
± 0, x j
± X ±, j = 1, 2, ..., n1 where
Ar
± R±
{
}
m1n1 ,
At
± R±
{
}
m2n2 ,
Br
± R±
{
}
m11 ,
CT1
± R±
{
}
1n1 ,
DT2
± R±
{
}
1n2 , X ± R±
{
}
n11 , Y ± R±
{
}
n21 x j opt
( j = 1, 2, ..., k1 ), x j opt
+
( j = k1 +1, k1 + 2, ..., n1), y jh opt
( j = 1, 2, ..., k2 ), and y jh opt
+
( j = k2 +1, k2 + 2, ..., n2 ) can and
R±
{
} denote a set of interval parameters and/or and
R±
{
} denote a set of interval parameters and/or
variables; superscripts ‘’ and ‘+’ represent lower and
upper bounds of the interval values, respectively. In
model (3), decision variables can be sorted into two
categories: continuous and binary. Model (3) can be
transformed into two deterministic sub models that
correspond to the lower and upper bounds of desired
objective function value. This transformation process is
based on an interactive algorithm, which is different
from the best/worst case analysis [20]. Interval
solutions can then be obtained by solving the two sub
models sequentially. The sub model corresponding to
the lower-bound objective function value ( f ) can be
firstly formulated as follows (assume that B± > 0 ,
and f ± > 0 ): {
}
variables; superscripts ‘’ and ‘+’ represent lower and
upper bounds of the interval values, respectively. In
model (3), decision variables can be sorted into two
categories: continuous and binary. Model (3) can be
transformed into two deterministic sub models that
correspond to the lower and upper bounds of desired
objective function value. This transformation process is be obtained through sub model (4). 2. METHODOLOGY Two-stage stochastic programming (TSP) method is
effective for problems where an analysis of policy
scenarios is desired and the related data are mostly
uncertain. In TSP, decision variables are divided into
two subsets: those that must be determined before
random variables are disclosed, and those (recourse
variables) that will be determined after the uncertainties
are disclosed. A general TSP model can be formulated
as follows [17, 18]: Interval
mathematical
programming
(IMP)
is
effective in tackling uncertainties expressed as interval
values with known lower and upper bounds but
unknown distribution functions [20]. Moreover, mixed
integer linear programming (MILP) technique is used
for facilitating dynamics analysis of the timing, sizing
and siting in terms of capacity expansions. Therefore,
through incorporating IMP, MILP and TSP within a
general optimization framework, an interval two-stage
integer programming (ITSIP) model can be formulated
as follows: = minCT X + E[Q(X,)]
(1a) (1a) = minCT X + E[Q(X,)] subject to:
x X
(1b)
with
Q(x,) = min f ()T y
(1c) (1b) x X with Q(x,) = min f ()T y Q(x,) = min f ()T y (1c) Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 131 Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Regional Electric-Power Systems Planning and Carbon Diox 131 3a)
3b)
x j
+ 0, j = k1 +1, k1 + 2, ..., n1
(4e)
y jh
0, h; j = 1, 2, ..., k2
(4f)
y jh
+ 0, h; j = k2 +1, k2 + 2, ..., n2
(4g) Min f ± = CT1
± X +
phDT2
±Y ±
h=1
v
(3a)
subject to:
Ar
± X ± Br
±, r = 1, 2, ..., m1
(3b)
x j
+ 0, j = k1 +1, k1 + 2, ..., n1
(4e)
y jh
0, h; j = 1, 2, ..., k2
(4f)
y jh
+ 0, h; j = k2 +1, k2 + 2, ..., n2
(4g) (4e) Min f ± = CT1
± X +
phDT2
±Y ±
h=1
v
(3a) (4f) subject to: Based on theabove
solutions, the second sub model for f + can be
formulated as follows: Min f + =
c j
+x j
+
j=1
k1
+
c j
+x j
j=k1+1
n1
+
p jhd j
+ y jh
+
h=1
v
j=1
k2 Min f + =
c j
+x j
+
j=1
k1
+
c j
+x j
j=k1+1
n1
+
p jhd j
+ y jh
+
h=1
v
j=1
k2
+
p jhd j
+ y jh
h=1
v
j=k2+1
n2
(5a) (5a) +
p jhd j
+ y jh
h=1
v
j=k2+1
n2 subject to: subject to: arj
Sign arj
(
)x j
+
j=1
k1
+
arj
+
Sign arj
+
(
)x j
j=k1+1
n1
br
, r (5b) (5b) Min f =
c j
x j
j=1
k1
+
c j
x j
+
j=k1+1
n1
+
p jhd j
y jh
h=1
v
j=1
k2
+
p jhd j
y jh
+
h=1
v
j=k2+1
n2
(4a)
subject to: atj
Sign atj
(
)x j
+
j=1
k1
+
atj
+
Sign atj
+
(
)x j
j=k1+1
n1
+
atj
'
Sign atj
'
(
) y jh
+
j=1
k2
+
atj
' +
Sign atj
'+
(
) y jh
j=k2+1
n2
wh
+, t, h (5c) atj
Sign atj
(
)x j
+
j=1
k1
+
atj
+
Sign atj
+
(
)x j
j=k1+1
n1 (4a) +
atj
'
Sign atj
'
(
) y jh
+
j=1
k2
+
atj
' +
Sign atj
'+
(
) y jh
j=k2+1
n2
wh
+, t, h (5c) subject to: x j
+ x j opt
, j = 1, 2, ..., k1
(5d) arj
+
Sign arj
+
(
)x j
j=1
k1
+
arj
Sign arj
(
)x j
+
j=k1+1
n1
br
+, r (4b)
atj
+
Sign atj
+
(
)x j
j=1
k1
+
atj
Sign atj
(
)x j
+
j=k1+1
n1
+
atj
' +
Sign atj
'+
(
) y jh
j=1
k2
+
atj
'
Sign atj
'
(
) y jh
+
j=k2+1
n2
wh
, t, h (4c)
x j
+ x j opt
, j = 1, 2, ..., k1
0 x j
x j opt
+
, j = k1 +1, k1 + 2, . subject to: y jh
+ y jh opt
, h; j = 1, 2, ..., k2
0 y jh
y jh opt
+
, h; j = k2 +1, k2
+ arj
+
Sign arj
+
(
)x j
j=1
k1
+
arj
Sign arj
(
)x j
+
j=k1+1
n1
br
+, r (4b)
atj
+
Sign atj
+
(
)x j
j=1
k1
+
atj
Sign atj
(
)x j
+
j=k1+1
n1
+
atj
' +
Sign atj
'+
(
) y jh
j=1
k2
+
atj
'
Sign atj
'
(
) y jh
+
j=k2+1
n2
wh
, t, h (4c)
0 j
1 2
k
(4d) x j
+ x j opt
, j = 1, 2, ..., k1 (5d) arj
+
Sign arj
+
(
)x j
j=1
k1
+
arj
Sign arj
(
)x j
+
j=k1+1
n1
br
+, r (4b) (4b) 0 x j
x j opt
+
, j = k1 +1, k1 + 2, ..., n1
(5e) (5e) atj
+
Sign atj
+
(
)x j
j=1
k1
+
atj
Sign atj
(
)x j
+
j=k1+1
n1 y jh
+ y jh opt
, h; j = 1, 2, ..., k2
(5f) (5f) (5g) Solutions
of
x j opt
+
( j = 1, 2, ..., k1 ),
x j opt
( j = k1 +1, k1 + 2, ..., n1), y jh opt
+
( j = 1, 2, ..., k2 ),
and x j
0, j = 1, 2, ..., k1
(4d)
Solutions
of
x j opt
+
( j = 1, 2, ..., k1 ),
x j opt
( j = k1 +1, k1 + 2, ..., n1), y jh opt
+
( j = 1, 2, ..., k2 ),
and x j
0, j = 1, 2, ..., k1
(4d) x j
0, j = 1, 2, ..., k1 (4d) 132 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. The study system is complicated with uncertainties
related to various economic and technical parameters
as well as the process of energy demand/supply,
conversion, transmission, consumption, CO2-emission
inventory control measures. 3.1. Overview of the Study System In the study system (as shown in Figure 1), six
kinds
of
power
conversion
technologies
are
considered, including coal-fired power, gas-fired power,
petroleum-fired power, hydropower, wind power and
solar power conversion technologies. The planning
horizon is 15 years, which is further divided into three
5-year periods. The end-user’s random electricity
demands and electricity generation targets of each
power conversion technology are presented in Table 1. The peak load demands are [1.5, 3.0], [2.0, 3.5] and
[2.5, 4.0] GW in periods 1, 2 and 3, respectively. Table
2 provides the economic and technological datum of
each power conversion technology. Each technology
has a residual capacity; coal-fired power has a residual
capacity of 1 GW, natural gas-fired power has a
residual capacity of 0.22 GW, petroleum-fired power
has a residual capacity of 0.15 GW, hydropower has a
residual capacity of 0.28 GW but the initial capacity of
wind power and solar power are all 0. The
representative
costs
and
technical
data
were
investigated based on governmental reports and other
related literature [10-15, 21]. Consider an electric-power system where local
decision makers are responsible for supplying electric
power to multiple end users over a long-term planning
horizon. A number of power-conversion technologies
are available for installation to meet electricity demand
in each period. Since different technologies have
diverse conversion efficiencies, CO2 emissions, capital
investments, and operation costs, they compete with
each other to supply a mixture of options to end users. The existing electric utilities include coal-fired, natural
gas-fired, petroleum-fired, hydropower, wind power and
solar power facilities. The electricity demand would rise
with the economy development and population growth. Thus the planners are forced to decide whether new
electric-power utilities (hydropower, wind power and
solar power facilities) should be established. The
second measure is to expand the existing electric-
power utilities to satisfy the increasing demand. Energy
strategy and policy are strongly driven by the twin
objectives of sustainability (including environmental
aspects) and security of energy supply. The utilization
of
energy
resources
is
restrained
by
source
availabilities, high costs of new technologies, as well as
environmental and CO2 concerns. On one hand,
increasing concentration of CO2 emitted from fossil fuel
combustion is likely to accelerate the rate of global
warming. Consequently, less fossil fuel consumptions
and more renewable energy resources (e.g. hydro,
wind and solar) are utilized to satisfy increasing energy
demand and CO2 reduction requirement. subject to: In this study, potential
energy demand may vary with the population increase
and economic development, which can be expressed
as random variable with a given probability level in one
case and the other uncertain parameters may be
expressed as intervals (e.g. generation target, cost and
benefit parameters, CO2-emission permit, pollutant
control capacity); besides, the relevant electricity-
generation plan would be of dynamic features and a
pre-regulated policy is desired [13-15]. y jh opt
( j = k2 +1, k2 + 2, ..., n2 ) can be obtained through
sub model (5). Through integrating solutions of sub
models (4) and (5), interval solution for model (3) can
be expressed as follows: x j opt
±
= x j opt
, x j opt
+
, j
(6a)
y jh opt
±
= y jh opt
, y jh opt
+
, j, h
(6b)
fopt
± =
fopt
, fopt
+
. (6c) (6a) (6b) (6c) 3.1. Overview of the Study System On the other
hand, availabilities of renewable energy resources (e.g. hydro
and
wind)
are
highly
dependent
on
meteorological conditions that fluctuate within a certain
range due to climate change. Such variations of
renewable energy availabilities would then affect
operating statuses of relevant facilities, resulting in
changes in their energy outputs [13-15]. Two measures are used to reduce the amount of
CO2 emissions for three fossil-fueled power plants: (i)
capture and storage (CS), and (ii) chemical absorption (CA). In order to meet the increasing electricity
demand, CO2 emissions will rise sharply if the current
trends (exploiting a large amount of fossil fuels)
continue. Decision makers are thus forced to make
efforts to reduce the carbon intensity by replacing fossil
fuels
with
non-CO2-emission
sources
(e.g. hydroelectric plants, wind power, and solar power). However, decision makers are unaware of the
occurrences of CO2-reduction levels under uncertain
electricity demand over a long-term planning horizon. Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 133 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 13 Regional Electric-Power Systems Planning and Carbon Dioxide 133 Based on the regional environmental protection
policy, the gross of CO2 emissions are interpreted as
constraints in the developed model. Correspondingly,
different environmental management policies may lead
to varied power generation plans and changed capacity
expansion schemes. In this study, three different cases
are considered in order to make in-depth analysis of
i t
ti
l
it
i
•
Case 1 is based on current status of the regional
electric-power system without any particular
regulatory, economic or political barriers, targets
or strategies. Under this case, the developed
model is run without any exterior constraints
(e.g. without CO2 emission control constraints). Given a range of energy resources and
t
h
l
lt
ti
it
ill
t
ti
ll
Figure 1: The schematic of regional electric-power system. 3.1. Overview of the Study System Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets
Time Period
t = 1
t = 2
t = 3
End-User’s Total Electricity Demand (10
3GWh)
Demand Level
Probability
(%)
Electricity
Demand
Probability
(%)
Electricity
Demand
Probability
(%)
Electricity
Demand
Low (L)
25
[50, 65]
20
[85, 105]
15
[135, 150]
Medium (M)
50
[65, 81]
60
[105, 127]
55
[150, 175]
High (H)
25
[81, 96]
20
[127, 147]
30
[175, 200]
Electricity generation targets of each power conversion technology (10
3GWh)
Coal-fired power
[27.5, 50.0]
[25.0, 60.0]
[22.5, 70.0]
Gas-fired power
[6.0, 20.0]
[7.0, 25.0]
[8.0, 30.0]
Petroleum-fired power
[0.5, 8.0]
[0.75, 8.5]
[1.0, 9.5]
Hydropower
[5.0, 10.0]
[5.5, 15.0]
[6.0, 20.0]
Wind power
[0, 5.0]
[0, 5.0]
[0, 5.0]
Solar power
[0, 5.0]
[0, 5.0]
[0, 5.0] Figure 1: The schematic of regional electric-power system. Figure 1: The schematic of regional electric-power system. Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets
Time Period
t = 1
t = 2
t = 3
End-User’s Total Electricity Demand (10
3GWh)
Demand Level
Probability
(%)
Electricity
Demand
Probability
(%)
Electricity
Demand
Probability
(%)
Electricity
Demand
Low (L)
25
[50, 65]
20
[85, 105]
15
[135, 150]
Medium (M)
50
[65, 81]
60
[105, 127]
55
[150, 175]
High (H)
25
[81, 96]
20
[127, 147]
30
[175, 200]
Electricity generation targets of each power conversion technology (10
3GWh)
Coal-fired power
[27.5, 50.0]
[25.0, 60.0]
[22.5, 70.0]
Gas-fired power
[6.0, 20.0]
[7.0, 25.0]
[8.0, 30.0]
Petroleum-fired power
[0.5, 8.0]
[0.75, 8.5]
[1.0, 9.5]
Hydropower
[5.0, 10.0]
[5.5, 15.0]
[6.0, 20.0]
Wind power
[0, 5.0]
[0, 5.0]
[0, 5.0]
Solar power
[0, 5.0]
[0, 5.0]
[0, 5.0] Based on the regional environmental protection
policy, the gross of CO2 emissions are interpreted as
constraints in the developed model. Correspondingly,
different environmental management policies may lead
to varied power generation plans and changed capacity
expansion schemes. In this study, three different cases
are considered in order to make in-depth analysis of
interactions among energy-supply security, economic
cost, and environmental requirement. These cases can
be described as follow:
•
Case 1 is based on current status of the regional
electric-power system without any particular
regulatory, economic or political barriers, targets
or strategies. Under this case, the developed
model is run without any exterior constraints
(e.g. without CO2 emission control constraints). 3.1. Overview of the Study System Given a range of energy resources and
technology alternatives, it will automatically
choose the lowest-cost set of options to meet the
random electricity demand in the region. Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets
Time Period
t = 1
t = 2
t = 3
End-User’s Total Electricity Demand (10
3GWh)
Demand Level
Probability
(%)
Electricity
Demand
Probability
(%)
Electricity
Demand
Probability
(%)
Electricity
Demand
Low (L)
25
[50, 65]
20
[85, 105]
15
[135, 150]
Medium (M)
50
[65, 81]
60
[105, 127]
55
[150, 175]
High (H)
25
[81, 96]
20
[127, 147]
30
[175, 200]
Electricity generation targets of each power conversion technology (10
3GWh)
Coal-fired power
[27.5, 50.0]
[25.0, 60.0]
[22.5, 70.0]
Gas-fired power
[6.0, 20.0]
[7.0, 25.0]
[8.0, 30.0]
Petroleum-fired power
[0.5, 8.0]
[0.75, 8.5]
[1.0, 9.5]
Hydropower
[5.0, 10.0]
[5.5, 15.0]
[6.0, 20.0]
Wind power
[0, 5.0]
[0, 5.0]
[0, 5.0]
Solar power
[0, 5.0]
[0, 5.0]
[0, 5.0] Table 1: End-User’s Total Electricity Demands and Electricity Generation Targets Based on the regional environmental protection
policy, the gross of CO2 emissions are interpreted as
constraints in the developed model. Correspondingly,
different environmental management policies may lead
to varied power generation plans and changed capacity
expansion schemes. In this study, three different cases
are considered in order to make in-depth analysis of
interactions among energy-supply security, economic
cost, and environmental requirement. These cases can
be described as follow: Case 1 is based on current status of the regional
electric-power system without any particular
regulatory, economic or political barriers, targets
or strategies. Under this case, the developed
model is run without any exterior constraints
(e.g. without CO2 emission control constraints). Given a range of energy resources and
technology alternatives, it will automatically
choose the lowest-cost set of options to meet the
random electricity demand in the region. Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. Li et al. 3.1. Overview of the Study System 134 2: Economic and Technological Datum of Each Power Conversion Technology •
In Case 2, the totaling amount of CO2 emitted
•
Case
3
provides
an
analysis
of
varied
Table 2: Economic and Technological Datum of Each Power Conversion Technology
Time Period
Conversion technology
t = 1
t = 2
t = 3
Regular and surplus costs for power generation by each power conversion technology ($10
3/GWh)
Regular cost
[6.5, 7.0]
[7.0, 7.5]
[7.5, 8.0]
Coal-fired power
Surplus cost
[4.0, 5.0]
[4.5, 5.5]
[5.0, 6.0]
Regular cost
[6.0, 6.5]
[6.5, 7.0]
[7.0, 7.5]
Gas-fired power
Surplus cost
[3.5, 4.5]
[4.0, 5.0]
[4.5, 5.5]
Regular cost
[5.5, 6.0]
[6.0, 6.5]
[6.5, 7.0]
Petroleum-fired power
Surplus cost
[3.0, 4.0]
[3.5, 4.5]
[4.0, 5.0]
Regular cost
[5.0, 6.0]
[5.5, 6.5]
[6.0, 7.0]
Hydropower
Surplus cost
[4.5, 5.5]
[5.0, 6.0]
[5.5, 6.5]
Regular cost
[3.0, 3.5]
[3.5, 4.0]
[4.0, 4.5]
Wind power
Surplus cost
[1.5, 2.5]
[2.0, 3.0]
[2.5, 3.5]
Regular cost
[2.0, 3.0]
[2.5, 3.5]
[2.7, 4.0]
Solar power
Surplus cost
[1.0, 2.0]
[1.5, 2.5]
[2.0, 3.0]
Fixed ($10
6) and variable ($10
6/GW) costs for capacity expansion
Fixed cost
[385, 395]
[445, 455]
[505, 515]
Coal-fired power
Variable cost
[825, 850]
[875, 900]
[925, 950]
Fixed cost
[350, 375]
[405, 425]
[455, 475]
Gas-fired power
Variable cost
[785, 800]
[835, 850]
[885, 900]
Fixed cost
[310, 335]
[370, 395]
[415, 435]
Petroleum-fired power
Variable cost
[735, 750]
[775, 800]
[835, 850]
Fixed cost
[875, 900]
[950, 970]
[1000, 1040]
Hydropower
Variable cost
[1790, 1800]
[1890, 1900]
[1990, 2000]
Fixed cost
[975, 1000]
[1055, 1080]
[1135, 1160]
Wind power
Variable cost
[2400, 2450]
[2450, 2500]
[2500, 2550]
Fixed cost
[1175, 1200]
[1215, 1250]
[1285, 1300]
Solar power
Variable cost
[2350, 2400]
[2450, 2500]
[2550, 2600]
Variable upper bounds for capacity expansion of each power conversion technology (GW)
Coal-fired power
0.7
0.5
0.3
Gas-fired power
0.5
0.6
0.7
Petroleum-fired power
0.45
0.5
0.6
Hydropower
0.3
0.4
0.5
Wind power
0.1
0.2
0.3
Solar power
0.2
0.3
0.4 •
In Case 2, the totaling amount of CO2 emitted
are to be mitigated by 30% based on case 1over
the planning horizon. Therefore, this case
corresponds
to
decisions
with
efforts
for
allocation and management of energy resources,
services,
activities
and
investment
under
stabilized environmental management policies. •
In Case 2, the totaling amount of CO2 emitted
are to be mitigated by 30% based on case 1over
the planning horizon. Therefore, this case
corresponds
to
decisions
with
efforts
for
allocation and management of energy resources,
services,
activities
and
investment
under
stabilized environmental management policies.
•
Case
3
provides
an
analysis
of
varied
environmental management policies for CO2
emissions allowances under an aggressive
environmental protection goal over the planning
horizon. Based on case 1, the gross of region’s
CO2 emissions are to be mitigated by 50% along
with the time period. 3.2. Modeling Formulation (W3t
± + Q3th
± )FE3t
± Z3t
±, t;h = 1,...,Ht
(7h) (W3t
± + Q3th
± )FE3t
± Z3t
±, t;h = 1,...,Ht (7h) Based on the ITSIP method, the objective is to
minimize the system cost under consideration of
generating desired energy resources allocation, import
electricity quantities, capacity expansion plans and CO2
emissions management policies. The system cost
includes expense for energy resources supply, cost for
import
electricity,
operating
cost,
and
capacity
expansion cost for power conversion technologies,
operating cost for CO2 control techniques, and
economic penalty as corrective measures or recourse
cost against any infeasibilities arising due to a
particular realization of an uncertain event. Therefore,
the study problem can be formulated as follows: (2) Constraints for availabilities of energy resources:
These
constraints
identify
energy
resource
availabilities. There are limited renewable energy
resources, which imply necessity for effective use of
them. When local available resources cannot meet
demand, importing electricity from other regions at high
purchase costs will become necessary. (2) Constraints for availabilities of energy resources:
These
constraints
identify
energy
resource
availabilities. There are limited renewable energy
resources, which imply necessity for effective use of
them. When local available resources cannot meet
demand, importing electricity from other regions at high
purchase costs will become necessary. (W4t
± + Q4th
± )FE4t
± UPHt
±, t;h = 1,...,Ht
(7i)
(W5t
± + Q5th
± )FE5t
± UPWt
±, t;h = 1,...,Ht
(7j)
(W6t
± + Q6th
± )FE6t
± UPSt
±, t;h = 1,...,Ht
(7k) (7i) (7j) (7k) (3) Constraints for electricity supply and demand
balance: These constraints are established to ensure
that the electricity generated from various energy
resources is not less than the amount of demand
specified by the end users. Electricity demand is
presented by random intervals with a given probability. 3.1. Overview of the Study System •
Case
3
provides
an
analysis
of
varied
environmental management policies for CO2
emissions allowances under an aggressive
environmental protection goal over the planning
horizon. Based on case 1, the gross of region’s
CO2 emissions are to be mitigated by 50% along
with the time period. •
In Case 2, the totaling amount of CO2 emitted
are to be mitigated by 30% based on case 1over
the planning horizon. Therefore, this case
corresponds
to
decisions
with
efforts
for
allocation and management of energy resources,
services,
activities
and
investment
under
stabilized environmental management policies. •
Case
3
provides
an
analysis
of
varied
environmental management policies for CO2
emissions allowances under an aggressive
environmental protection goal over the planning
horizon. Based on case 1, the gross of region’s
CO2 emissions are to be mitigated by 50% along
with the time period. Regional Electric-Power Systems Planning and Carbon Dioxide Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 135 ournal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 135 135 3.2. Modeling Formulation Min f ± = (a) + (b) + (c) + (d)
(7a) (7a) (a) Purchase costs for coal, natural gas, petroleum and
imported electricity: (a) Purchase costs for coal, natural gas, petroleum and
imported electricity: (PECt
±Z1t
± + PENt
±Z2t
± + PEOt
±Z3t
±
t=1
T
) +
pthPIEt
±Z4th
±
h=1
Ht
t=1
T
(7b) (Wit
± + Qith
± + Z4th
± ) dth
±
i=1
I
, t;h = 1,...,Ht
(7l)
Wit
± + Qith
± (RCi +
Xith
±
t'=1
t
)STit
±, i,t;h = 1,...,Ht
(7m)
Wit
± Qith
± 0, i,t;h = 1,...,Ht
(7n) (7l) (b) Operating costs for electricity conversion: (b) Operating costs for electricity conversion: PVit
±Wit
±
t=1
T
+
pth(PVit
± + PPit
±)Qith
±
h=1
Ht
t=1
T
i=1
I
i=1
I
(7c) (7c) (7m) (C) Capital costs for capacity expansions of electricity
conversion technologies: (7n) (4) Constraints for electricity load demand: These
constraints regulate the existing and future expanding
capacities have to satisfy the local electricity load
demand. pth(Ait
±Yith
± + Bit
± Xith
± )
h=1
Ht
t=1
T
i=1
I
(7d) (7d) (d) Operating costs for CO2 emission control: (d) Operating costs for CO2 emission control: (RCi +
Xith
±
t'=1
t
)
i=1
I
Vt
±, t;h = 1,...,Ht
(7o) (7o) CC jct
± XCijct
±
t=1
T
jc=1
nc
i=1
I
+
pth
h=1
Ht
t=1
T
jc=1
nc
i=1
I
DC jct
± YCijcth
±
(7e) (7e) (5) Constraints for capacity expansion of electricity-
generation
facilities:
If
electricity
supply
cannot
sufficiently meet increasing demand from end-users,
decision-makers have to face a dilemma of either
investing more funds on capacity expansion of existing
facilities or turning to other energy production options
with higher costs. Integer programming technique is
used to facilitate dynamic analysis, such as timing,
sizing and siting decisions in capacity-expansion
schemes for electricity-generation facilities [5]. Meanwhile, the total system cost should be
minimized subject to a set of constraints that describe
various impact factors and their interactions. The
constraints can be formulated as follows: (1) Constraints for mass balance: These constraints
describe the balance of energy flows in the study
system. They are established to ensure that the input
energy is greater than the output one. 3.2. Modeling Formulation (W1t
± + Q1th
± )FE1t
± Z1t
±, t;h = 1,...,Ht
(7f)
(W2t
± + Q2th
± )FE2t
± Z2t
±, t;h = 1,...,Ht
(7g)
Yith
± = 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(7p)
Nit Xith
± MitYith
± , i,t;h = 1,...,Ht
(7q) Yith
± = 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(7p)
Nit Xith
± MitYith
± , i,t;h = 1,...,Ht
(7q) (W1t
± + Q1th
± )FE1t
± Z1t
±, t;h = 1,...,Ht
(7f)
(W2t
± + Q2th
± )FE2t
± Z2t
±, t;h = 1,...,Ht
(7g) Yith
± = 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(7p)
Nit Xith
± MitYith
± , i,t;h = 1,...,Ht
(7q) (7f) (7p) Nit Xith
± MitYith
± , i,t;h = 1,...,Ht
(7q) (7q) Nit Xith
± MitYith
± , i,t;h = 1,...,Ht Li et al. Li et al. 136 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 (6) Constraints for CO2 control demand: These
constraints assure that the amount of CO2 be mitigated
by control measure jc in period t must exceed actual
emissions. and 3, respectively. Petroleum supply would be [83.54,
103.20], [148.38, 183.70] and [217.88, 293.55] 103 TJ
in periods 1, 2 and 3, respectively. In addition, for the
imported electricity, as shown in the Figure 3a, the
amount would be varied according to the electricity
demand-levels in each period. Wit
±INCit
±
XCijct
±
jc
nc
, i;t
(7r)
Qith
± INCit
±
YCijcth
±
jc
nc
, i;t;h = 1,...,Ht
(7s) (7r) Compared with the results under case 1, as shown
in the Figure 2b, the amount of coal supply would
almost be stabilized at a certain level over the planning
horizon. This is because the total amount of CO2
emitted would be confined with a certain level during
the planning periods, while coal-fired power conversion
technology corresponds to a higher air pollution-
emission rate, compared with other power conversion
technologies. In comparison, the amount of natural gas
supply would be raised with the increasing electricity
demand. 4. RESULT ANALYSIS Figure 4 present the optimized electricity generation
plans of every power conversion technology under the
three cases. Under case 1, coal-fired power would play
the most important part in the electricity generation
activities, whose optimized generation targets would be
39.50, 29.25 and 50.70103GWh in periods 1, 2 and 3,
respectively. For the gas-fired power, its optimized
generation targets would be 14.18, 15.58 and
28.96103GWh
in
the
three
planning
periods,
respectively, which would nearly reach its upper target
level in periods 2 and 3 (as shown in Table 1). For
petroleum-fired power, its optimized generation targets
would be 4.91, 8.33 and 9.25 103GWh in the three
planning periods, respectively. For the hydropower, its
optimized generation targets would increase in period
3, being 14.95103GWh. The optimized generation
targets of the wind and solar power would be 0, 0,
3.00103GWh and 0, 0, 4.14103GWh in periods 1, 2
and 3, respectively. Under case 2, as constraints for 3.2. Modeling Formulation This is because capacities of gas-fired power
would be expanded to meet the random electricity
demands in these periods. The amount of petroleum
supply would decrease in period 1, but increase in
period 2. For the imported electricity, as shown in the
Figure 3b, there would also be decrease in periods 1
and 2. Under case 3, the role of coal supply would be
ever decreasing in the energy supply activities
compared with the results under cases 1 and 2 as
shown in Figure 2c. This is because, under this case,
strict
environmental
policies
for
CO2
emissions
management would be adopted. Qith
± INCit
±
YCijcth
±
jc
nc
, i;t;h = 1,...,Ht
(7s) (7s) (7) Constraints for CO2 emission allowance: These
constraints require the cumulative CO2 emissions over
the planning horizon must not exceed specified
amount. (1 jc
± )(XCijct
± +YCijcth
±
jc=1
nc
i=1
I
) ECt
±, t;h = 1,...,Ht (7t) (7t) (8) Non-negativity constraints: These constraints
assure that only positive electricity-conversion activities
are considered in the solution. (8) Non-negativity constraints: These constraints
assure that only positive electricity-conversion activities
are considered in the solution. Z1t
±, Z2t
±, Z3t
±, Z4th
± , Wit
±, Qith
± , XCijct
± , YCijcth
±
0,
i; jc; t; h = 1 ,..., Ht
(7u) (7u) i; jc; t; h = 1 ,..., Ht The detailed nomenclatures for the variables and
parameters are provided in Appendix A. Solution
procedure of the proposed model is provided in
Appendix B. 4.1. Energy Resources Supply Scheme Figures 2 and 3 show the energy resources supply
schemes under cases 1, 2 and 3. In this study, coal,
natural gas and petroleum would be supplied based on
the results of the worst scenario (i.e. related to a
maximum electricity deficit level); this is to guarantee
the security of energy supplies under uncertainty. Under case 1, as shown in the Figure 2a, the amount
of coal supply would significantly increase, being
[390.0., 487.50], [579.15, 725.40] and [496.86, 663.59]
103 TJ in periods 1, 2 and 3, respectively. Coal would
play the most important role in the energy supply
activities under this case. This is due to the following
two facts: (i) there are no CO2 emission control
constraints under this case; (ii) coal-fired power
conversion technology has the lowest operating and
penalty cost of all the power conversion technologies. Natural gas supply would be [75.24, 96.14], [277.32,
355.22] and [307.65, 426.24] 103 TJ in periods 1, 2 Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 13
Figure 2: Coal, natural gas and petroleum supply under cases 1, 2 and 3. Figure 3: Imported electricity supply under cases 1, 2 and 3. Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 137 Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 137 Regional Electric-Power Systems Planning and Carbon Dioxide Figure 2: Coal, natural gas and petroleum supply under cases 1, 2 and 3. Figure 2: Coal, natural gas and petroleum supply under cases 1, 2 and 3. Coal, natural gas and petroleum supply under cases 1, 2 and 3. g
g
p
pp y
Figure 3: Imported electricity supply under cases 1, 2 and 3. Figure 3: Imported electricity supply under cases 1, 2 and 3. 8 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. 138 Figure 4: Optimized electricity generation plans for each power conversion technology under cases 1, 2 and 3. Figure 4: Optimized electricity generation plans for each power conversion technology under cases 1, 2 and 3. 103GWh for the solar power and [2.86, 4.00]103GWh
for the solar power when the demand-level is high in
period 1 (probability is 25%). 4.1. Energy Resources Supply Scheme gross control of CO2 emission are added, generation
quantity of coal-fired power would not significantly
increase,
due
to
its
high
CO2-emission
rates. Meanwhile, generation quantities of gas-fired power
and hydropower would markedly increase and clean
power conversion technologies (associated with low
CO2-emission rates) would be adopted. Under case 3,
as more strict environmental protection objectives must
be achieved than those under cases1 and 2, the
dominant role of coal-fired power would completely be
replaced by other conversion technologies. 4.3. Capacity Expansion Table 3 displays the solutions of capacity expansion
schemes of each conversion technology under the
three cases. Generally, shortages would occur if the
electricity demand-levels are continuously high, and a
capacity expansion project would be undertaken to
avoid insufficient electricity supply. For example, under
case 3, there would be [0, 0.65] GW for coal-fired
power conversion technology to be expanded when the
electricity demand-level is low (probability is 25%) in
period
1. When
the
demand-level
is
medium
(probability is 50%) and high (probability is 25%) in
period 1, the amount of expansion would all be [0, 0.57]
GW. For hydropower, the amount of expansion would
all be [0, 0.20], 0.28 and 0.28 when the demand-level is
low, medium and high, respectively. For wind power
and solar power, there would be no capacity expansion Deficits would occur if the available generation
targets cannot meet the random electricity demand,
especially when the demand-level is high. In general,
different power conversion technology has varied
excess generation quantities under changed possible
scenarios. For example, under case 3, the excess
generation quantities would be [0, 3.25] 103GWhfor
the coal-fired power, [0, 2.76] 103GWh for the gas-
fired power, [0, 2.25] 103GWh for the petroleum-fired
power, [8.45, 12.35] 103GWh for the hydropower, 3.00 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4.3. Capacity Expansion When the electricity demand-levels are
low, medium and high (probabilities are 20%, 60% and
20%) in period 2, the amount of mitigation by CS would
be [70.88, 75.12], [58.30, 62.54] and [47.25, 55.74]
103 tonnes, the amount of mitigation by CA would be [0,
8.48],
[25.16,
33.65]
and
47.25
103tonnes,
respectively. in periods 1 and 2. 0.15, 0.30 and 0.30 GW would be
expanded for wind power when the demand-level is low
(probability is 15%), medium (probability is 55%) and
high (probability is 30%) in period 3, respectively. 0.26,
0.40 and 0.40 GW would be expanded for solar power
when the demand-level is low, medium and high in
period 3, respectively. 4.3. Capacity Expansion 4 13 Regional Electric-Power Systems Planning and Carbon Dioxide 139 Table 3: Capacity Expansion Schemes under Cases 1, 2 and 3
Expansion Amount (GW) under Varied Electricity Demand-Level
Low
Medium
High
Conversion
Technology
Period
Case 1
Case 2
Case 3
Case 1
Case 2
Case 3
Case 1
Case 2
Case 3
t=1
[0, 0.70]
[0, 0.40]
[0, 0.65]
[0, 0.70]
[0, 0.65]
[0, 0.57]
[0, 0.62]
[0, 0.57]
[0, 0.57]
t=2
[0.34,
0.50]
[0, 0.50]
[0, 0.45]
[0.23,
0.50]
[0.15,
0.50]
[0, 0.35]
0.50
0.50
[0, 0.35]
Coal-fired
power
t=3
0.30
0.30
0.30
0.30
0.30
0.30
0.30
0.30
0.30
t = 1
0
[0, 0.50]
[0.18,
0.50]
0
[0.22,
0.50]
[0.35,
0.50]
0
[0.22,
0.50]
[0.35,
0.50]
t = 2
[0.19,
0.60]
[0.50,
0.60]
[0.59,
0.60]
0.60
0.60
0.60
0.60
0.60
0.60
Gas-fired
power
t = 3
0.70
0.70
0.70
0.70
0.70
0.70
0.70
0.70
0.70
t = 1
[0, 0.45]
[0, 0.45]
0
[0.11,
0.45]
0
0
[0.13,
0.45]
0
0
t = 2
[0.10,
0.50]
[0.14,
0.50]
[0.12,
0.50]
[0.35,
0.50]
[0.44,
0.50]
[0.38,
0.50]
[0.35,
0.47]
[0.44,
0.47]
[0.38,
0.50]
Petroleum-
fired power
t = 3
0.60
0.60
0.60
0.60
0.60
0.60
0.60
0.60
0.60
t = 1
[0, 0.20]
0
[0, 0.20]
[0, 0.20]
[0, 0.20]
0.28
0.28
0.28
0.28
t = 2
[0, 0.25]
[0, 0.25]
[0.06,
0.30]
[0, 0.25]
[0, 0.25]
0.40
0.28
0.28
0.40
Hydropower
t = 3
[0.22,
0.34]
[0.22,
0.37]
[0.22,
0.37]
0.50
0.50
0.50
0.50
0.50
0.50
t = 1
0
0
0
0
0
0
0
0
0
t = 2
0
0
0
0
0
0
0
0
0
Wind power
t = 3
0.15
0.15
0.15
0.30
0.30
0.30
0.30
0.30
0.30
t = 1
0
0
0
0
0
0
0
0
0
t = 2
0
0
0
0
0
0
0
0
0
Solar power
t = 3
0.26
0.26
0.26
0.40
0.40
0.40
0.40
0.40
0.40 Table 3: Capacity Expansion Schemes under Cases 1, 2 and 3 exterior constraints (e.g. without CO2 emissions control
constraints) under this case. There would be [40.97,
43.97], [27.80, 33.32] and [27.31, 33.32] 103 tonnes of
CO2 mitigated by CS, [0, 6.01], [26.34, 27.31] and
27.31 103 tonnes of CO2 mitigated by CA, when the
electricity demand-levels are low, medium and high
(probabilities are 25%, 50% and 25%) in period 1,
respectively. 4.4. CO2 Emissions Control In this study, a project of air-pollution control was
considered, in order to satisfy the ambient air quality
requirement and to reduce the penalty towards excess
emission. Figure 5 shows the optimized CO2 mitigation
plans under the three cases. Under case 1, the target
amounts of treated CO2 would be significantly
increased along with the ever increasing electricity
demand-levels as shown in Figure 5a. This is attributed
to the fact that the developed model is run without any Under case 2, when environmental constraints are
added, high-efficiency mitigation measures must be
installed to reduce the CO2 emissions and to satisfy the
environmental requirements. Thus, the results would 140 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. 140 Figure 5: CO2 mitigation plans under cases 1, 2 and 3. Figure 5: CO2 mitigation plans under cases 1, 2 and 3. techniques. Figure 6 presents the detailed systems
cost under different cases. The costs for energy
resources supply are $[21.19, 43.15] 109 (or [51.12,
61.84]% of the total system cost) under case 1,$[20.84,
41.42] 109 (or [48.96, 59.46]% of the total system
cost) under case 2, and $[23.74, 49.82] 109 (or [50.68,
63.99]% of the total system cost) under case 3. This
indicates that the strict environmental policies would
lead to an increased energy resources supply cost. The
operating costs for power conversion are $[6.03, 7.56]
109 (or [10.83, 14.55] % of the total system cost)
under case 1, $[7.61, 9.44] 109 (or [13.55, 17.89] % of
the total system cost) under case 2, $[7.46, 9.09] 109
(or [11.67, 15.93] % of the total system cost) under
case 3. This demonstrates that the strict environmental
policies would lead to reduced operating costs for
power
conversion. The
expenses
for
capacity
expansion of power conversion technologies are
$[11.85, 16.02] 109 (or [22.96, 28.59] % of the total
system cost) under case 1, $[11.87, 15.89] 109 (or provide
useful
bases
for
generating
decision
alternatives with a desired technology combination that
would lead to a satisfied environmental quality as well
as a minimized abatement cost. Under case 3, the
target amounts of treated CO2would be significantly
decreased along with the time periods. This is because
an aggressive environmental protection goal must be
achieved under this case. Therefore,
electricity
generated from coal-fired, gas-fired and petroleum-fired
power conversion technologies would be reduced
accordingly. 4.4. CO2 Emissions Control And thus, mitigation measures with higher
efficiency must be installed to reduce the pollution
emissions and to satisfy the stricter environmental
requirements. 4.5. System Cost The system cost includes expenses for energy
resources supply, operating costs and capacity
expansion costs for power conversion technologies,
and operating costs for CO2 emissions control Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 141 Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 141 141 Fi
6 D t il d
t
t
d
1 2
d 3 Figure 6: Detailed system cost under cases 1, 2 and 3. [22.81, 27.89] % of the total system cost) under case 2,
and $[13.50, 16.25] 109 (or [20.88, 28.81] % of the
total system cost) under case 3. This is due to more
power conversion technologies with high price but low
CO2 emission rates would be adopted in cases 2 and 3
compared with those in case 1. The operating costs for
CO2 emissions control techniques are $[2.38, 3.05]
109 (or [4.37, 5.74] % of the total system cost) under
case 1, $[2.24, 2.91] 109 (or [4.18, 5.26] % of the total
system cost) under case 2, and $[2.14, 2.69] 109 (or
[3.46, 4.58] % of the total system cost) under case 3. This
implies
that
aggressive
environmental
management policies would lead to reduced operating costs for CO2 emissions control techniques. Therefore,
decisions with stricter environmental constraints would
lead to a higher system cost but a cleaner environment;
conversely, a desire for reducing the system cost would
result in increased risk of violating the environmental
criteria. 5. CONCLUSIONS CLATURES
FOR
ES
cost over the planning
onversion technology,
for coal-fired power
logy, i = 2 for natural
onversion technology,
troleum-fired
power
nology,
i = 4
for
for wind power; i = 6
control
measure,
= 1 for capture and
jc = 2
for
chemical
2, ..., T
h
Electricity demand-level, h = 1,
Parameters
pth
Probability of demand level h
in period t (%)
PECt
±
Cost for coal supply in period t
PENt
±
Cost for natural gas supply
($103/TJ)
PEOt
±
Cost for petroleum supply i
($103/TJ)
PIEt
±
Cost for imported electricity
period t ($103/GWh)
PVit
±
Operating cost of power
technology i for pre-regulated
generation in period t ($103/GW
PPit
±
Penalty
cost
of
power
technology
i
for
excess
generation in period t ($103/GW
Ait
±
Fixed-charge cost for capacity
of power conversion techno
period t ($106)
Bit
±
Variable cost for capacity ex
power conversion technology
($106/GW)
CC jct
±
Operating cost of control mea
pre-regulated
CO2
emissio
period t ($/tonne)
DC jct
±
Operating and penalty cost
measure js for excess CO2
during period t ($/tonne)
FEit
±
Units of energy carrier pe
electricity
production
fo
conversion technology i in
(TJ/GWh)
UPHt
±
Upper bound of the ava
hydropower in period t (103 TJ
UPWt
±
Upper bound of the availabil
power in period t (103 TJ)
UPSt
±
Upper bound of the availabil
power in period t (103 TJ)
dth
±
Random variable of total
demand during period t (GWh) h
Electricity demand-level, h = 1, 2, ..., Ht
Parameters
pth
Probability of demand level h occurrence
in period t (%)
PECt
±
Cost for coal supply in period t ($103/TJ)
PENt
±
Cost for natural gas supply in period t
($103/TJ)
PEOt
±
Cost for petroleum supply in period t
($103/TJ)
PIEt
±
Cost for imported electricity supply in
period t ($103/GWh)
PVit
±
Operating cost of power conversion
technology i for pre-regulated electricity
generation in period t ($103/GWh)
PPit
±
Penalty
cost
of
power
conversion
technology
i
for
excess
electricity
generation in period t ($103/GWh)
Ait
±
Fixed-charge cost for capacity expansion
of power conversion technology i in
period t ($106)
Bit
±
Variable cost for capacity expansion of
power conversion technology i in period t
($106/GW)
CC jct
±
Operating cost of control measure jc for
pre-regulated
CO2
emissions
during
period t ($/tonne)
DC jct
±
Operating and penalty cost of control
measure js for excess CO2 emissions
during period t ($/tonne)
FEit
±
Units of energy carrier per units of
electricity
production
for
power
conversion technology i in period t
(TJ/GWh)
UPHt
±
Upper bound of the availability of
hydropower in period t (103 TJ)
UPWt
±
Upper bound of the availability of wind
power in period t (103 TJ)
UPSt
±
Upper bound of the availability of solar
power in period t (103 TJ)
dth
±
Random variable of total electricity
d
d d
i
i d
(GWh) Electricity demand-level, h = 1, 2, ..., Ht interactions among multiple energy-related activities,
but also address uncertainties in multiple forms and
dynamics within a multi-period, multi-facility, and multi-
demand-level context. 5. CONCLUSIONS It has also advantages in
providing an effective linkage between the pre-
regulated environmental policies and the associated
economic implications. The CO2-emission reduction
target and energy demand are both assumed to be
random over a long-term planning horizon. The
modeling results can be used for supporting decisions
of
electricity-generation
schemes
and
capacity-
expansion plans under different CO2-mitigation options
and electricity-demand levels. The results suggest that,
aggressive environmental management policies would
lead to reduced operating costs for CO2 emissions
control techniques. Therefore, decisions with stricter
environmental constraints would lead to a higher
system cost but a cleaner environment; conversely, a
desire for reducing the system cost would result in
increased risk of violating the environmental criteria. h ACKNOWLEDGEMENTS This research was supported by the National Basic
Research Program of China (2013CB430406), the
National Natural Sciences Foundation (51225904) and
the Fundamental Research Funds for the Central
Universities (2014QN33). The authors are grateful to
the editors and the anonymous referees for their
insightful comments and suggestions. Variable cost for capacity expansion of
power conversion technology i in period t
($106/GW) CC jct
± Operating cost of control measure jc for
pre-regulated
CO2
emissions
during
period t ($/tonne) FOR 5. CONCLUSIONS In this study, an
interval two-stage
integer
programming model is formulated for planning electric-
power systems and managing CO2 emissions under
uncertainty. The proposed model could not only reflect Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. Li et al. 142 Li et
Electricity demand-level, h = 1, 2, ..., Ht
s
Probability of demand level h occurrenc
in period t (%)
Cost for coal supply in period t ($103/TJ
Cost for natural gas supply in period
($103/TJ)
Cost for petroleum supply in period
($103/TJ)
Cost for imported electricity supply
period t ($103/GWh)
Operating cost of power conversio
technology i for pre-regulated electrici
generation in period t ($103/GWh)
Penalty
cost
of
power
conversio
technology
i
for
excess
electrici
generation in period t ($103/GWh)
Fixed-charge cost for capacity expansio
of power conversion technology i
period t ($106)
Variable cost for capacity expansion
power conversion technology i in period
($106/GW)
Operating cost of control measure jc fo
pre-regulated
CO2
emissions
durin
period t ($/tonne)
Operating and penalty cost of contr
measure js for excess CO2 emission
during period t ($/tonne)
Units of energy carrier per units
electricity
production
for
powe
conversion technology i in period
(TJ/GWh)
Upper bound of the availability
hydropower in period t (103 TJ)
Upper bound of the availability of win
power in period t (103 TJ)
Upper bound of the availability of sola
power in period t (103 TJ)
Random variable of total electrici
demand during period t (GWh) n Renewable Energy, 2015, Vol. 4, No. 4
ergy-related activities,
in multiple forms and
multi-facility, and multi-
also advantages in
e between the pre-
s and the associated
O2-emission reduction
both assumed to be
anning horizon. The
r supporting decisions
mes
and
capacity-
CO2-mitigation options
he results suggest that,
gement policies would
ts for CO2 emissions
decisions with stricter
ld lead to a higher
onment; conversely, a
cost would result in
vironmental criteria. by the National Basic
(2013CB430406), the
dation (51225904) and
unds for the Central
authors are grateful to
us referees for their
ions. APPENDIX
A.
NOMENCLATURES
PARAMETERS AND VARIABLES 4 143 RCi
Residual
capacity
of
conversion
technology i (GW)
STit
Average
service
time
of
power
conversion technology i in period t (h)
Vt
Peak load demand in period t (GW)
Mit
Variable upper bounds for capacity
expansion
of
power
conversion
technology i in period t (GW)
Nit
Variable lower bounds for capacity
expansion
of
power
conversion
technology i in period t, and Nit 0 (GW)
INCit
±
Units of CO2 emission per unit of
electricity
production
for
power
conversion technology i in period t
(tonne/GWh)
jc
±
Average
efficiency
of
CO2
control
measure jc (%)
ECt
±
CO2 emission allowance in period t
(tonne)
Decision Variables
Z1t
±
Coal supply in period t (TJ)
Z2t
±
Natural gas supply in period t (TJ)
Z3t
±
Petroleum supply in period t (TJ)
Z4th
±
Imported
electricity
supply
when
electricity demand level is h in period t
(103 GWh)
Wit
±
Pre-regulated
electricity
generation
target of power conversion technology i
which is promised to end-users during
period t (103GWh)
Qith
±
Excess electricity generation of power
conversion
technology
i
by
which
electricity generation target ( Wkt ) is
exceeded when electricity demand level
is h in period t (103GWh)
Xith
±
Continuous variables about the amount
of
capacity
expansion
of
power
conversion technology i when electricity
demand level is h in period t (GW)
Yith
±
Binary variables for identifying whether
or not a capacity expansion action of RCi
Residual
capacity
of
conversion
technology i (GW)
STit
Average
service
time
of
power
conversion technology i in period t (h)
Vt
Peak load demand in period t (GW)
Mit
Variable upper bounds for capacity
expansion
of
power
conversion
technology i in period t (GW)
Nit
Variable lower bounds for capacity
expansion
of
power
conversion
technology i in period t, and Nit 0 (GW)
INCit
±
Units of CO2 emission per unit of
electricity
production
for
power
conversion technology i in period t
(tonne/GWh)
jc
±
Average
efficiency
of
CO2
control
measure jc (%)
ECt
±
CO2 emission allowance in period t
(tonne)
Decision Variables
Z1t
±
Coal supply in period t (TJ)
Z2t
±
Natural gas supply in period t (TJ)
Z3t
±
Petroleum supply in period t (TJ)
Z4th
±
Imported
electricity
supply
when
electricity demand level is h in period t
(103 GWh)
Wit
±
Pre-regulated
electricity
generation
target of power conversion technology i
which is promised to end-users during
period t (103GWh)
Qith
±
Excess electricity generation of power
conversion
technology
i
by
which
electricity generation target ( Wkt ) is
exceeded when electricity demand level
is h in period t (103GWh)
Xith
±
Continuous variables about the amount
of
capacity
expansion
of
power
conversion technology i when electricity power conversion technology I needs to
be undertaken when electricity demand
level is h in period t RCi Pre-regulated amount of CO2 generated
from power conversion technology i to be
mitigated by control measure jc in period
t (tonne) Excess amount of CO2 generated from
power conversion technology i to be
mitigated by control measure jc when
electricity demand level is h in period t
(tonne) APPENDIX
A.
NOMENCLATURES
PARAMETERS AND VARIABLES Expected system cost over the planning
horizon ($109) Operating and penalty cost of control
measure js for excess CO2 emissions
during period t ($/tonne) Type of power conversion technology,
i = 1, 2, ..., I ; i = 1 for coal-fired power
conversion technology, i = 2 for natural
gas-fired power conversion technology,
i = 3
for
petroleum-fired
power
conversion
technology,
i = 4
for
hydropower, i = 5 for wind power; i = 6
for solar power Units of energy carrier per units of
electricity
production
for
power
conversion technology i in period t
(TJ/GWh) Upper bound of the availability of
hydropower in period t (103 TJ) Type
of
CO2
control
measure,
jc = 1, 2, ..., nc ; jc = 1 for capture and
storage
(CS);
jc = 2
for
chemical
absorption (CA)
UPWt
±
UPSt
± Upper bound of the availability of wind
power in period t (103 TJ) Upper bound of the availability of solar
power in period t (103 TJ) Upper bound of the availability of solar
power in period t (103 TJ) Time period, t = 1, 2, ..., T Random variable of total electricity
demand during period t (GWh) dth
± Regional Electric-Power Systems Planning and Carbon Dioxide Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. APPENDIX B. SOLUTION PROCEDURE OF THE
PROPOSED MODEL In the proposed model, the electricity generation
targets of each conversion technology ( Wit
± ) are
expressed as interval numbers; however, as the first-
stage decision variables, they should be identified
before the related total electricity demand (i.e. random
variables) are known [13]. In this study, an optimized
set of Wit
± values will be identified by having uit being
decision variables; this optimized set may correspond
to minimized system cost under the uncertain electricity
generation targets of each conversion technology and
total
electricity
demand
[14]. In
detail,
let
Wit
± = Wit
+ Wituit , where Wit = Wit
+ Wit
and uit [0,1]. Thus, when Wit
± approach their lower bounds (i.e. when uit = 0 ), a relatively low cost would be obtained;
however, a higher penalty may have to be paid when
the electricity demand is not satisfied. Conversely,
when Wit
± reach their upper bounds (i.e. when uit = 1),
a higher cost would be generated but, at the same
time, a lower risk of violating the promised targets (and
thus lower penalty). Then, model (7) can be
transformed into two deterministic submodels based on
the interactive algorithm [17]. Because the objective is
to minimize the system cost, submodel corresponding
to f is first desired. The lower bounds of cost
coefficients and total electricity demand, as well
aselectricity
generation
shortages
and
capacity
expansions
will
correspond
to f . Thus,
submodel f can be formulated as follows: Decision Variables Excess electricity generation of power
conversion
technology
i
by
which
electricity generation target ( Wkt ) is
exceeded when electricity demand level
is h in period t (103GWh) Continuous variables about the amount
of
capacity
expansion
of
power
conversion technology i when electricity
demand level is h in period t (GW) Min f =
(PECt
Z1t
+ PENt
Z2t
+ PEOt
Z3t
t=1
T
) +
pthPIEt
Z4th
h=1
Ht
t=1
T
Min f =
(PECt
Z1t
+ PENt
Z2t
+ PEOt
Z3t
t=1
T
) +
pthPIEt
Z4th
h=1
Ht
t=1
T
Min f = Min f = (PECt
Z1t
+ PENt
Z2t
+ PEOt
Z3t
t=1
T
) +
pthPIEt
Z4th
h=1
Ht
t=1
T
Binary variables for identifying whether
or not a capacity expansion action of Yith
± Li et al. Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. Decision Variables 4 144 +
PVit
(Wit
t=1
T
+ Wituit) +
pth(PVit
+ PPit
)Qith
h=1
Ht
t=1
T
i=1
I
i=1
I
+
pth(Ait
Yith
+ Bit
Xith
)
h=1
Ht
t=1
T
i=1
I
CC jct
XCijct
t=1
T
jc=1
nc
i=1
I
+
pth
h=1
Ht
t=1
T
jc=1
nc
i=1
I
DC jct
YCijcth
(9a)
Subject to:
(W1t
+ W1tu1t + Q1th
)FE1t
Z1t
, t;h = 1,...,Ht
(9b)
(W2t
+ W2tu2t + Q2th
)FE2t
Z2t
, t;h = 1,...,Ht
(9c)
(W3t
+ W3tu2t + Q3th
)FE3t
Z3t
, t;h = 1,...,Ht
(9d)
(W4t
+ W4tu4t + Q4th
)FE4t
+ UPHt
, t;h = 1,...,Ht
(9e)
(W5t
+ W5tu5t + Q5th
)FE5t
+ UPWt
, t;h = 1,...,Ht
(9f)
(W6t
+ W6tu6t + Q6th
)FE6t
+ UPSt
, t;h = 1,...,Ht
(9g)
(Wit
+ Wituit + Qith
+ Z4th
) dth
i=1
I
, t;h = 1,...,Ht
(9h)
Wit
+ Wituit + Qith
(RCi +
Xith
t'=1
t
)STit
, i,t;h = 1,...,Ht (9i)
Wit
+ Wituit Qith
0, i,t;h = 1,...,Ht
(9j)
(RCi +
Xith
t'=1
t
)
i=1
I
Vt
, t;h = 1,...,Ht
(9k)
Yith
= 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(9l)
Nit Xith
MitYith
, i,t;h = 1,...,Ht
(9m)
Z1t
, Z2t
, Z3t
, Z4th
, Wit
, Qith
, XCijct
,
YCijcth
0, i; jc; t; h = 1 ,..., Ht
(9q)
where
Qith
,
Xith
,
XCijct
and YCijcth
are
continuous
decision variables, and Yith
are binary ones. Solution
for f provides the extreme lower bound of system
cost under uncertain inputs. Let Qith opt
, Xith opt
, XCijct opt
,
YCijcth opt
, Yith opt
, and fopt
be solutions of sub model (9). Then the optimized electricity generation targets would
be Wit opt
±
= Wit
+ Wituit opt . Decision Variables 4, No. 4 14 and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Regional Electric-Power Systems Planning and Carbon Dioxide 145 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. Decision Variables 4 Regional Electric-Power Systems Planning and Carbon Diox Wit opt Qith
+ 0, i,t;h = 1,...,Ht
(10j)
(RCi +
Xith
+
t'=1
t
)
i=1
I
Vt
+, t;h = 1,...,Ht
(10k)
Yith opt
±
= [Yith opt
, Yith opt
+
], i,t;h = 1,...,Ht
Xith opt
±
= [Xith opt
, Xith opt
+
], i,t;h = 1,...,Ht Wit opt Qith
+ 0, i,t;h = 1,...,Ht
(10j)
(RCi +
Xith
+
t'=1
t
)
i=1
I
Vt
+, t;h = 1,...,Ht
(10k)
Yith
+
= 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(10l)
Nit Xith
+ MitYith
+ , i,t;h = 1,...,Ht
(10m)
Yith opt
±
= [Yith opt
, Yith opt
+
], i,t;h = 1,...,Ht
Xith opt
±
= [Xith opt
, Xith opt
+
], i,t;h = 1,...,Ht
XCijct opt
±
= [XCijct opt
, XCijct opt
+
], i, jc,t
YCijcth opt
±
= [YCijcth opt
, YCijcth opt
+
], i, jc,t;h = 1,...,Ht
fopt
± = [ fopt
, fopt
+ ] (10j) Y +
= 1, if capacity expansion is undertaken
Yith
+
= 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(10l)
Nit Xith
+ MitYith
+ , i,t;h = 1,...,Ht
(10m)
Wit optINCit
+
XCijct
+
jc
nc
, i;t
(10n)
Qith
+ INCit
+
YCijcth
+
jc
nc
, i;t;h = 1,...,Ht
(10o)
(1 jc
)(XCijct
+
jc=1
nc
i=1
I
+YCijcth
+ ) ECt
+, t;h = 1,...,Ht (10p)
Z1t
+ Z1t
, t
(10q)
Z2t
+ Z2t
, t
(10r)
Z3t
+ Z3t
, t
(10s)
Z4th
+ Z4th
, t;h = 1,...,Ht
(10t)
Qith
+ Qith
, i;t;h = 1,...,Ht
(10u)
Yith
+ Yith
, i;t;h = 1,...,Ht
(10v)
Xith
+ Xith
, i;t;h = 1,...,Ht
(10w)
XCijct
+ XCijct
, i; jc;t;h = 1,...,Ht
(10x)
YCijcth
+
YCijcth
, i; jc;t;h = 1,...,Ht
(10y)
where Qith
+ , Xith
+ , XCijct
+ , YCijcth
+ and Yith
+ are decision
variables. Decision Variables Let Qith opt
+
, Xith opt
+
, XCijct opt
+
, YCijcth opt
+
, Yith opt
+
and
fopt
+ be solutions of sub model (10).Thus, we have
solutions for the proposed model under the optimized
electricity generation targets (i.e. Wit opt
±
= Wit
+ Wituit opt )
as follows:
XCijct opt = [XCijct opt, XCijct opt], i, jc,t
YCijcth opt
±
= [YCijcth opt
, YCijcth opt
+
], i, jc,t;h = 1,...,Ht
fopt
± = [ fopt
, fopt
+ ]
REFERENCES
[1]
Saysel AK, Hekimolu M. Exploring the options for carbon
dioxide mitigation in Turkish electricpower industry: System
dynamics approach. Energ Policy 2014; 60: 675-86. http://dx.doi.org/10.1016/j.enpol.2013.04.053
[2]
Suo MQ, Li YP, Huang GH, Deng DL, Li YF. Electric power
system planning under uncertainty using in exact inventory
non-linear programming method. J Environ Inform 2013; 22:
49-67. http://dx.doi.org/10.3808/jei.201300245
[3]
Chen ZM, Chen GQ, Chen B. Embodied carbon dioxide
emission by the globalized economy: a systems ecological
input-output simulation. J Environ Inform 2013; 21: 35-44. http://dx.doi.org/10.3808/jei.201300230
[4]
Krishna PGS, Santanu B, Raymond RT. Power system
planning
with
emission
constraints:
Effects
of
CCS
retrofitting. Process Saf Environ 2014; 92: 447-55. http://dx.doi.org/10.1016/j.psep.2014.02.010
[5]
Li YP, Huang GH. Electric-power systems planning and
green house-gas emission management under uncertainty. Energ Convers Manage 2012; 57: 173-82. http://dx.doi.org/10.1016/j.enconman.2011.12.018
[6]
Nürnberg R, Römisch W. A two-stage planning model for
power
scheduling
in
a
hydro-thermal
system
under
uncertainty. Optim Eng 2002; 3: 355-78. http://dx.doi.org/10.1023/A:1021531823935
[7]
Bagajewicz M, Barbaro AF. Financial risk management in the
planning of energy recovery in the total site. Ind Eng Chem
Res 2003; 42: 5239-48. http://dx.doi.org/10.1021/ie020389u
[8]
Albornoz VM, Benario P, Rojas ME. A two-stagestochastic
integer programming model for a thermal power system
expansion. Int Toper Res 2004; 11: 243-57. [9]
Floros N, Vlachou A. Energy demand and energy related
CO2 emissions in Greek manufacturing: Assessing the
impact of a carbon tax. Energ Econ 2005; 27: 387-413. http://dx.doi.org/10.1016/j.eneco.2004.12.006
[10]
Lin QG, Huang GH, Bass B, Qin XS. IFTEM: An interval-
fuzzy two-stage stochastic optimization model for regional
energy systems planning under uncertainty. Energ Policy
2009; 37: 868-78. http://dx.doi.org/10.1016/j.enpol.2008.10.038
[11]
Lin QG, Huang GH. An in exact two-stage stochastic energy
systems planning model for managing green house gas
emission at a municipal level. Energ 2010; 35: 2270-80. http://dx.doi.org/10.1016/j.energy.2010.01.042
[12]
Chen WT, Li YP, Huang GH, Chen X, Li YF. Decision Variables Therefore, sub model (10)
corresponding to the upper bound of the objective
function value ( f + ) can be formulated as follows:
Min f + =
(PECt
+Z1t
+ + PENt
+Z2t
+ + PEOt
+Z3t
+
t=1
T
) +
pthPIEt
+Z4th
+
h=1
Ht
t=1
T
+
PVit
+Wit opt
t=1
T
+
pth(PVit
+ + PPit
+)Qith
+
h=1
Ht
t=1
T
i=1
I
i=1
I
+
pth(Ait
+Yith
+ + Bit
+ Xith
+ )
h=1
Ht
t=1
T
i=1
I
CC jct
+ XCijct
+
t=1
T
jc=1
nc
i=1
I
+
pth
h=1
Ht
t=1
T
jc=1
nc
i=1
I
DC jct
+ YCijcth
+
(10a)
Subject to:
(W1t opt + Q1th
+ )FE1t
+ Z1t
+, t;h = 1,...,Ht
(10b)
(W2t opt + Q2th
+ )FE2t
+ Z2t
+, t;h = 1,...,Ht
(10c)
(W3t opt + Q3th
+ )FE3t
+ Z3t
+, t;h = 1,...,Ht
(10d)
(W4t opt + Q4th
+ )FE4t
UPHt
+, t;h = 1,...,Ht
(10e) +
PVit
(Wit
t=1
T
+ Wituit) +
pth(PVit
+ PPit
)Qith
h=1
Ht
t=1
T
i=1
I
i=1
I
+
pth(Ait
Yith
+ Bit
Xith
)
h=1
Ht
t=1
T
i=1
I
CC jct
XCijct
t=1
T
jc=1
nc
i=1
I
+
pth
h=1
Ht
t=1
T
jc=1
nc
i=1
I
DC jct
YCijcth
(9a)
Subject to: Z1t
, Z2t
, Z3t
, Z4th
, Wit
, Qith
, XCijct
,
YCijcth
0, i; jc; t; h = 1 ,..., Ht
(9q) (9q) (9a) Subject to: (W1t
+ W1tu1t + Q1th
)FE1t
Z1t
, t;h = 1,...,Ht
(9b)
(W2t
+ W2tu2t + Q2th
)FE2t
Z2t
, t;h = 1,...,Ht
(9c)
(W3t
+ W3tu2t + Q3th
)FE3t
Z3t
, t;h = 1,...,Ht
(9d)
(W4t
+ W4tu4t + Q4th
)FE4t
+ UPHt
, t;h = 1,...,Ht
(9e)
(W5t
+ W5tu5t + Q5th
)FE5t
+ UPWt
, t;h = 1,...,Ht
(9f)
(W6t
+ W6tu6t + Q6th
)FE6t
+ UPSt
, t;h = 1,...,Ht
(9g)
(Wit
+ Wituit + Qith
+ Z4th
) dth
i=1
I
, t;h = 1,...,Ht
(9h)
Wit
+ Wituit + Qith
(RCi +
Xith
t'=1
t
)STit
, i,t;h = 1,...,Ht (9i)
Wit
+ Wituit Qith
0, i,t;h = 1,...,Ht
(9j)
(RCi +
Xith
t'=1
t
)
i=1
I
Vt
, t;h = 1,...,Ht
(9k) (9b) (9d) Min f + =
(PECt
+Z1t
+ + PENt
+Z2t
+ + PEOt
+Z3t
+
t=1
T
) +
pthPIEt
+Z4th
+
h=1
Ht
t=1
T
+
PVit
+Wit opt
t=1
T
+
pth(PVit
+ + PPit
+)Qith
+
h=1
Ht
t=1
T
i=1
I
i=1
I
+
pth(Ait
+Yith
+ + Bit
+ Xith
+ )
h=1
Ht
t=1
T
i=1
I
CC j t
+ XCij t
+
T
nc
I
+
pth
Ht
T
nc
I
DC j t
+ YCij th
+
(10a) (10a) (9j) (10b) (9k) (RCi +
Xith
t'=1
)
i=1
Vt , t;h = 1,...,Ht
(9k)
Yith
= 1, if capacity expansion is undertaken
= 0, if otherwise , i,t;h = 1,...,Ht
(9l)
Nit Xith
MitYith
, i,t;h = 1,...,Ht
(9m)
(Wit
+ Wituit)INCit
XCijct
jc
nc
, i;t
(9n)
Qith
INCit
YCijcth
jc
nc
, i;t;h = 1,...,Ht
(9o)
(1 jc
+ )(XCijct
jc=1
nc
i=1
I
+YCijcth
) ECt
, t;h = 1,...,Ht (9p)
(W2t opt + Q2th
+ )FE2t
+ Z2t
+, t;h = 1,...,Ht
(10c)
(W3t opt + Q3th
+ )FE3t
+ Z3t
+, t;h = 1,...,Ht
(10d)
(W4t opt + Q4th
+ )FE4t
UPHt
+, t;h = 1,...,Ht
(10e)
(W5t opt + Q5th
+ )FE5t
UPWt
+, t;h = 1,...,Ht
(10f)
(W6t opt + Q6th
+ )FE6t
UPSt
+, t;h = 1,...,Ht
(10g)
(Wit opt + Qith
+ + Z4th
+ ) dth
+
i=1
I
, t;h = 1,...,Ht
(10h)
Wit opt + Qith
+ (RCi +
Xith
+
t'=1
t
)STit
+, i,t;h = 1,...,Ht
(10i) Y
= 1, if capacity expansion is undertaken
(9l) (1 jc
+ )(XCijct
jc=1
c
i=1
+YCijcth
) ECt
, t;h = 1,...,Ht (9p)
Wit opt + Qith
+ (RCi +
Xith
+
t'=1
t
)STit
+, i,t;h = 1,...,Ht
(10i) (10i) Regional Electric-Power Systems Planning and Carbon Dioxide
Journal of Technology Innovations in Renewable Energy, 2015, Vol. Decision Variables A stochastic-fuzz y programming model
with soften constraints for electricity generation planning with
green house-gas abatement. Int J Energ Res 2013; 37: 843-
56. http://dx.doi.org/10.1002/er.2885
[16]
Ford A. Simulation scenarios for rapid reduction in carbon
dioxide emissions in the western electricity system. Energ
Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 [13]
Chen C, Li YP, Huang GH, Zhu Y. An in exact robust non-
linear optimization method for energy systems planning
under uncertainty. Renew Energ 2012; 47: 55-66. http://dx.doi.org/10.1016/j.renene.2012.04.007
[14]
Chen C, Li YP, Huang GH. An in exact robust optimization
method
for
supporting
carbon
dioxide
emissions
management in regional electric-power systems. Energ Econ
2013; 40: 441-56. http://dx.doi.org/10.1016/j.eneco.2013.07.022
[15]
Li YP, Huang GH. A stochastic-fuzz y programming model
with soften constraints for electricity generation planning with
green house-gas abatement. Int J Energ Res 2013; 37: 843-
56. http://dx.doi.org/10.1002/er.2885
[16]
Ford A. Simulation scenarios for rapid reduction in carbon
dioxide emissions in the western electricity system. Energ
Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 [17] [17]
Li YP, Huang GH, Yang ZF, Nie SL. An integrated two-stage
optimization model for the development of long-term waste-
management strategies. Sci Total Environ2008; 392: 175-86. http://dx.doi.org/10.1016/j.scitotenv.2007.11.028 [13]
Chen C, Li YP, Huang GH, Zhu Y. An in exact robust non-
linear optimization method for energy systems planning
under uncertainty. Renew Energ 2012; 47: 55-66. http://dx.doi.org/10.1016/j.renene.2012.04.007 [14]
Chen C, Li YP, Huang GH. An in exact robust optimization
method
for
supporting
carbon
dioxide
emissions
management in regional electric-power systems. Energ Econ
2013; 40: 441-56. [18]
Birge
JR,
Louveaux
FV. Introduction
to
Stochastic
Programming. New York, NY: Springer; 1997. [19]
Ahmed S, Tawarmalani M, Sahinidis NV. A finite branch-and-
bound algorithm for two-stage stochastic integer programs. Math Program 2004; 100: 355-77. [15] [15]
Li YP, Huang GH. A stochastic-fuzz y programming model
with soften constraints for electricity generation planning with
green house-gas abatement. Int J Energ Res 2013; 37: 843-
56. http://dx.doi.org/10.1002/er.2885 [20] [20]
Huang GH, Baetz BW, Patry GG. An interval linear
programming
approach
for
municipal
solid
waste
management planning under uncertainty. Civ Eng Environ
Syst 1992; 9: 319-35. htt
//d d i
/10 1080/02630259208970657 http://dx.doi.org/10.1002/er.2885 Syst 1992; 9: 319-35. http://dx.doi.org/10.1080/02630259208970657 [16] [16]
Ford A. Simulation scenarios for rapid reduction in carbon
dioxide emissions in the western electricity system. Energ
Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 [16]
Ford A. Simulation scenarios for rapid reduction in carbon
dioxide emissions in the western electricity system. Energ
Policy 2008; 36: 443-55. Decision Variables A two-stage in
exact-stochastic programming model for planning carbon Nit Xith
+ MitYith
+ , i,t;h = 1,...,Ht
(10m)
fopt
± = [ fopt
, fopt
+ ] Xith
+ MitYith
+ , i,t;h = 1,...,Ht
(10m)
fopt
± = [ fopt
, fopt
+ ] [1]
Saysel AK, Hekimolu M. Exploring the options for carbon
dioxide mitigation in Turkish electricpower industry: System
dynamics approach. Energ Policy 2014; 60: 675-86. http://dx.doi.org/10.1016/j.enpol.2013.04.053 Z1t
+ Z1t
, t [8]
Albornoz VM, Benario P, Rojas ME. A two-stagestochastic
integer programming model for a thermal power system
expansion. Int Toper Res 2004; 11: 243-57. [9]
Floros N, Vlachou A. Energy demand and energy related
CO2 emissions in Greek manufacturing: Assessing the
impact of a carbon tax. Energ Econ 2005; 27: 387-413. http://dx.doi.org/10.1016/j.eneco.2004.12.006 where Qith
+ , Xith
+ , XCijct
+ , YCijcth
+ and Yith
+ are decision
variables. Let Qith opt
+
, Xith opt
+
, XCijct opt
+
, YCijcth opt
+
, Yith opt
+
and [10]
Lin QG, Huang GH, Bass B, Qin XS. IFTEM: An interval-
fuzzy two-stage stochastic optimization model for regional
energy systems planning under uncertainty. Energ Policy
2009; 37: 868-78. fopt
+ be solutions of sub model (10).Thus, we have
solutions for the proposed model under the optimized
electricity generation targets (i.e. Wit opt
±
= Wit
+ Wituit opt )
as follows: doi.org/10.1016/j.enpol.2008.10.038 [11]
Lin QG, Huang GH. An in exact two-stage stochastic energy
systems planning model for managing green house gas
emission at a municipal level. Energ 2010; 35: 2270-80. http://dx.doi.org/10.1016/j.energy.2010.01.042 [12] [12]
Chen WT, Li YP, Huang GH, Chen X, Li YF. A two-stage in
exact-stochastic programming model for planning carbon
dioxide emission trading under uncertainty. Appl Energ 2010;
87: 1033-47. Qith opt
±
= [Qith opt
, Qith opt
+
], i,t;h = 1,...,Ht http://dx.doi.org/10.1016/j.apenergy.2009.09.016 146 146 Journal of Technology Innovations in Renewable Energy, 2015, Vol. 4, No. 4 Li et al. [13]
Chen C, Li YP, Huang GH, Zhu Y. An in exact robust non-
linear optimization method for energy systems planning
under uncertainty. Renew Energ 2012; 47: 55-66. http://dx.doi.org/10.1016/j.renene.2012.04.007
[14]
Chen C, Li YP, Huang GH. An in exact robust optimization
method
for
supporting
carbon
dioxide
emissions
management in regional electric-power systems. Energ Econ
2013; 40: 441-56. http://dx.doi.org/10.1016/j.eneco.2013.07.022
[15]
Li YP, Huang GH. Decision Variables http://dx.doi.org/10.1016/j.enpol.2007.09.023 [16]
Ford A. Simulation scenarios for rapid reduction in carbon
dioxide emissions in the western electricity system. Energ
Policy 2008; 36: 443-55. http://dx.doi.org/10.1016/j.enpol.2007.09.023 tp://dx.doi.org/10.1080/02630259208970657 [21]
Li W, Huang GH, Dong C, Liu Y. An in exact fuzzy
programming approach for power coal blending. J Environ
Inform 2013; 21: 112-8. http://dx.doi.org/10.3808/jei.201300238 Published on 18-12-2015 Accepted on 16-09-2015 Received on 02-03-2015 DOI: http://dx.doi.org/10.6000/1929-6002.2015.04.04.3
|
https://openalex.org/W4362530189
|
https://figshare.com/articles/journal_contribution/Supplementary_Material_2_from_Gene_Expression_Profiling_Predicts_the_Development_of_Oral_Cancer/22524354/1/files/39987180.pdf
|
English
| null |
Supplementary Material 4 from Gene Expression Profiling Predicts the Development of Oral Cancer
| null | 2,023
|
cc-by
| 1,899
|
###########################################################################
########## #
ANALYSIS of Leukoplakia microarray data
#
Readme of the R code:
###########################################################################
########## # The following R code was written for the analysis of gene expression
microarray data
# of leukoplakia samples. The CooxBoost package must be installed prior to
running the R script. # Use needs to modify the data directory (Data.dir) to the datafiles. Data dir '//mdadqsfs02/workspace/zhangli/Research/Pierre # The following R code was written for the analysis of gene expression
microarray data
# of leukoplakia samples. The CooxBoost package must be installed prior to
running the R script. # Use needs to modify the data directory (Data.dir) to the datafiles. Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre-
new/Leukoplakia_LZ/Leukoplakia_LZ' # Use needs to modify the data directory (Data.dir) to the datafiles. Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre- # Use needs to modify the data directory (Data.dir) to the
Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre-
new/Leukoplakia_LZ/Leukoplakia_LZ' Data.dir='//mdadqsfs02/workspace/zhangli/Research/Pierre-
new/Leukoplakia LZ/Leukoplakia LZ' #installing packages if necessary
source("http://bioconductor.org/biocLite.R")
biocLite("CoxBoost","peperr","locfit", "rrp") library('CoxBoost')
library('peperr')
library('locfit')
library('Hmisc')
library('rrp')
#library(survival)
#library(affydata)
#library(genefilter)
#library(sma)
#library(Biobase)
#library(affy)
#library(simpleaffy)
#library(multtest)
#library(samr)
#library(Design) #library(Design) ###########################################################################
##########
#step 1: read data ###########################################################################
##########
#step 1: read data setwd(Data.dir)
set.seed(124) #to reproduce exactly, results shown in the paper, when a
different seed is used, the
#results differ slightly. setwd(Data.dir)
set.seed(124) #to reproduce exactly, results shown in the paper, when a
different seed is used, the
#results differ slightly. X=read.table("leuko2.txt", sep='\t', header=T,fill=T) Clinic = t(read.table("pleuko.txt", sep='\t', header=T)) colnames(Clinic) = Clinic[1,] S.time = as.numeric(Clinic['oraltime_papa',]) Clinic = Clinic[,is.na(S.time)==F] x=t(X[,-1])
pid= X[,1]
x=x[(is.na(S.time)==F),] #NAs must be removed before loading
dim(x) #86 29096
#
x is a 86 by 29096 numerical matrix with 29096 covariates, which
contains x=t(X[,-1])
pid= X[,1]
x=x[(is.na(S.time)==F),] #NAs must be removed before loading
dim(x) #86 29096
#
x is a 86 by 29096 numerical matrix with 29096 covariates, which
contains x) #86 29096
x is a 86 by 29096 numerical matrix with 29096 covariates, which
ains contains microarray gene expression data # S.time = as.numeric(Clinic['oraltime_papa',])
S.status = as.numeric(Clinic['outcome1',])
#
S.time is time to event vector of length n, status = event yes/no
(1/0),
dim(Clinic)
xc=Clinic[c('p63','strata', 'podo','age'),]
p63=as.numeric(xc[1,])
strata=as.numeric(xc[2,])
podo=as.numeric(xc[3,])
age=as.numeric(xc[4,]) S.time = as.numeric(Clinic['oraltime_papa',]) S.time = as.numeric(Clinic[ oraltime_papa ,])
S.status = as.numeric(Clinic['outcome1',]) S.time is time to event vector of length n, status = event yes/n
/ #
S.time is time to event vector of length n, status = event y
(1/0) #p values and hazard ratios using single variate COxph #p values and hazard ratios using single variate COxph #p values and hazard ratios using single variate COxph
tmp.p63 = summary(coxph(Surv(S.time, S.status) ~p63))$coef
tmp.strata = summary(coxph(Surv(S.time, S.status) ~strata))$coef
tmp.podo = summary(coxph(Surv(S.time, S.status) ~podo))$coef
tmp.age = summary(coxph(Surv(S.time, S.status) ~age))$coef
i i
i
(
) rite.table(clinic.only.coxph, "clinic.only.coxph.txt", sep='\t',
uote=F) write.table(clinic.only.coxph, "clinic.only.coxph.txt", sep='\t',
quote=F) write.table(clinic.only.coxph, "clinic.only.coxph.txt", sep='\t',
quote=F) #Process clinical covariates: xc, imputing missing values with nearest
neighbor imputation method rrp. g
p
p
tmp =data.frame(t(Clinic))
colnames(tmp)
tmp.new = rrp.impute(data=tmp)$new.data
Clinic = t(tmp.new) tmp =data.frame(t(Clinic)) colnames(tmp) xc=Clinic[c('p63','strata', 'podo','age'),]
xc=matrix(as.numeric(xc),byrow=F,nrow=4) x1 = cbind(t(xc),x)
#note: xc contains the clinical covariates and microarray gene expression
data. dim(x);length(S.time); length(S.status) ###########################################################################
########## #step 2: optimize penatlty score for CoxBoost method setwd(paste(Data.dir,'/newout2',sep='')) #Find optimal parameters for model using only microarray data
optim.res <-
optimCoxBoostPenalty(S.time,S.status,x=x,trace=TRUE,start.penalty=500) #Find optimal parameters for model using only microarray data
optim.res <- p
optimCoxBoostPenalty(S.time,S.status,x=x,trace=TRUE,start.penalty=500) #Find optimal parameters for model using clinical and microarray data
optim.res2 <- optimCoxBoostPenalty(S.time,S.status,x=x1,unpen.index=1:4,
trace=TRUE,start.penalty=500) Find optimal parameters for model using clinical and microarray data
ptim.res2 <- optimCoxBoostPenalty(S.time,S.status,x=x1,unpen.index=1:4
race=TRUE,start.penalty=500) o.p =optim.res$penalty o.p2 = optim.res2$penalty #Determine optimal boosting steps by cross validation
cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,m
K=5,type="verweij",penalty=o.p) #Determine optimal boosting steps by cross validation
cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxstepno=150,
K=5,type="verweij",penalty=o.p) #Determine optimal boosting steps by cross validation
cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxstepno=150,
K=5,type="verweij",penalty=o.p) #Determine optimal boosting steps by cross validation, with clinical
covariates #Determine optimal boosting steps by cross validation, with clinical
covariates cv.res.mand <- cv.CoxBoost(time=S.time,status=S.status,x=x1,unpen.index=1:4,maxstepno=150,
K=5,type="verweij",penalty=o.p2) plot(cv.res$mean.logplik, xlab='Boosting step', ylab='Mean
Logplik',ty='l',lty=1) gp
, y
,
y
)
lines(cv.res.mand$mean.logplik,col='red',lty=2) legend('bottomright', c("without clinical variates", "with clinical legend('bottomright', c("without clinical variates", "with clinical
variates"), col = c(1,2), #the optimal boosting steps are:
cv.res$optimal.step #118 cv.res$optimal.step #118 cv.res.mand$optimal.step #63 cv.res.mand$optimal.step #63 ###########################################################################
########## CB0 <-
CoxBoost(S.time,S.status,x=x,stepno=optim.res$cv.res$optimal.step,penalty=o
.p)
summary(CB0)
coef0 = CB0$coefficients[optim.res$cv.res$optimal.step,]
xm0 =cbind(x[,coef0>0], x[,coef0<0])
dim(xm0) #86 41 CB1 <-
CoxBoost(S.time,S.status,x1,unpen.index=1:4,stepno=optim.res2$cv.res$optima
l.step,penalty=o.p2)
summary(CB1) CB1 <-
CoxBoost(S.time,S.status,x1,unpen.index=1:4,stepno=optim.res2$cv.res$optima
l.step,penalty=o.p2)
summary(CB1) coef = CB1$coefficients[optim.res2$cv.res$optimal.step,] m2 =cbind(x1[,coef>0], x1[,coef<0]) # positive and negative markers, th
anditory are the first three xm2 =cbind(x1[,coef>0], x1[,coef<0]) # positive and negative markers, the
manditory are the first three
ncol(x1[,coef>0]); ncol(x1[,coef<0])# the good and the bad prognosis xm2 =cbind(x1[,coef>0], x1[,coef<0]) # positive and negative markers, the
manditory are the first three
ncol(x1[,coef>0]); ncol(x1[,coef<0])# the good and the bad prognosis
markers 13 up (include the the clinical) an 6 dn
dim(xm2) #86 21 ncol(x1[,coef>0]); ncol(x1[,coef<0])# the good and the bad prognosis #now, repeat step 2 and 3 by 100 times: coef0.set = NULL perr.value.set=NULL perr.attr.set=NULL for(k in 1:100) { (
) {
cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxstepno=100, res <- cv.CoxBoost(time=S.time,statu cv.res <- cv.CoxBoost(time=S.time,status=S.status,x=x,maxs K=5,type="verweij",penalty=o.p) CB0 <- CoxBoost(S.time,S.status,x=x,stepno=cv.res$optimal.step,pena oost(S.time,S.status,x=x,stepno=cv.res$optimal.step,penalty=o.p) coef0 = CB0$coefficients[cv.res$optimal.step,] coef0.set = cbind(coef0.set,coef0) xm0 =cbind(x[,coef0>0], x[,coef0<0] xm0 =cbind(x[,coef0>0], x[,coef0<0]) peperr.object <- peperr(response=Surv(S.time, S.status), x=xm0, perr.object <- peperr(response=Surv fit.fun=fit.CoxBoost, args.fit=list(penalty=o.p), complexity=complexity.mincv.CoxBoost, args.complexity=list(penal indices=resample.indices(n=length(S.time), method="sub632", indices=resample.indices(n=length(S.time), method="sub632",
) )
perr.attr.set=cbind(perr.attr.set,peperr.object$attribute) err.value.set = cbind(perr.value.set,as.numeric(perr(peperr.object))) perr.value.set = cbind(perr.value.set,as.numeric(perr(peperr.object)))
} rite.table(coef0.set,'coef0.set.txt', sep='\t', row.names=F, quote=F)
rite.table(perr.value.set,'perr.value.set.txt', sep='\t', row.names=F,
uote=F) write.table(coef0.set,'coef0.set.txt', sep='\t', row.names=F, quote=F)
write.table(perr.value.set,'perr.value.set.txt', sep='\t', row.names=F,
quote=F) q
write.table(perr.attr.set,'perr.attr.set.txt', sep='\t', row.names=F,
quote=F) coef1.set = NULL perr.value1.set=NULL perr.attr1.set=NULL for(k in 1:100) { cv.res1 <- cv.res1 <
cv.CoxBoost(time=S.time,status=S.status,x=x1,unpen.index=1:4,maxstepno=100,
K=5 type="verweij" penalty=o p) res1 <
oxBoost(time=S.time,status=S.status,x=x1,unpen.index=1:4,maxstepno=100
K=5,type="verweij",penalty=o.p) CB1 <
CoxBoost(S.time,S.status,x=x1,unpen.index=1:4,stepno=cv.res1$optimal.step,p
enalty=o.p2) y
p
coef1 = CB1$coefficients[cv.res1$optimal.step,] coef1.set = cbind(coef1.set,coef1) xm1 =cbind(x1[,coef1>0], x1[,coef1<0]) peperr.object1 <- peperr(response=Surv(S.time, S.status)
i
i
i
i fit.fun=fit.CoxBoost, args.fit=list(penalty=o.p2), fit.fun=fit.CoxBoost, args.fit=list(penalty=o.p2), n=fit.CoxBoost, args.fit=list(penalt complexity=complexity.mincv.CoxBoost, args.complexity=list(penalty=o.p2), args.complexity=list(penalty=o.p2), indices=resample.indices(n=length(S.time), method="sub632",
sample.n=20), indices=resample.indices(n=length(S.time), method="sub632",
sample.n=20),
trace TRUE) trace=TRUE) perr.attr1.set=cbind(perr.attr1.set,peperr.object1$attribute)
perr.value1.set = cbind(perr.value1.set,as.numeric(perr(peperr.object1)))
} perr.attr1.set=cbind(perr.attr1.set,peperr.object1$attribute)
perr.value1.set = cbind(perr.value1.set,as.numeric(perr(peperr.object1)))
} write.table(coef1.set,'coef1.set.txt', sep='\t', row.names=F, quote=F)
write.table(perr.value1.set,'perr.value1.set.txt', sep='\t', row.names=F,
quote=F) write.table(coef1.set,'coef1.set.txt', sep='\t', row.names=F, quote=F)
write.table(perr.value1.set,'perr.value1.set.txt', sep='\t', row.names=F,
quote=F) q
write.table(perr.attr1.set,'perr.attr1.set.txt', sep='\t', row.names=F,
quote=F) #brief list of nonzero coefficients #brief list of nonzero coefficients count.nz =function(x) sum(abs(x)>0) tmp.sum =apply(coef1.set,1,sum) tmp.freq =apply(coef1.set,1,count.nz) table2 = cbind('PID'=X[,1],tmp.sum[-(1:4)], tmp.freq[-(1:4)] table2 = table2[as.numeric(as.character(table2[,2])) !=0,]
dim(table2) table2 = table2[as.numeric(as.character(table2[,2])) !=0,] table2[,2] = table2[,2]/table2[,3] colnames(table2)=c('PID', 'Coef.mean', 'F perr.value.clin.set=NULL
perr.attr.clin.set=NULL
for( k in 1:100) { peperr.clin <- peperr(response=Surv(S.time, S.status), x=t(xc),
fit.fun=fit.coxph, indices=resample.indices(n=length(S.time),
method="sub632", sample.n=20),
trace=TRUE)
perr.attr.clin.set=cbind(perr.attr.clin.set,peperr.clin$attribute)
perr.value.clin.set =
cbind(perr.value.clin.set,as.numeric(perr(peperr.clin)))
}
write.table(perr.value.clin.set,'perr.value1.clinic.only.set.txt',
sep='\t', row.names=F, quote=F)
write.table(perr.attr.clin.set,'perr.attr1.clinic.only.set.txt', sep='\t',
row.names=F, quote=F) peperr.clin <- peperr(response=Surv(S.time, S.status), x=t(xc),
fit.fun=fit.coxph, indices=resample.indices(n=length(S.time),
method="sub632", sample.n=20),
trace=TRUE)
perr.attr.clin.set=cbind(perr.attr.clin.set,peperr.clin$attribute)
perr.value.clin.set =
cbind(perr.value.clin.set,as.numeric(perr(peperr.clin)))
}
write.table(perr.value.clin.set,'perr.value1.clinic.only.set.txt',
sep='\t', row.names=F, quote=F)
write.table(perr.attr.clin.set,'perr.attr1.clinic.only.set.txt', sep='\t',
row.names=F, quote=F) peperr.clin <- peperr(response=Surv(S.time, S.status), x=t(xc),
fit.fun=fit.coxph, indices=resample.indices(n=length(S.time),
method="sub632", sample.n=20), trace=TRUE)
perr.attr.clin.set=cbind(perr.attr.clin.set,peperr.clin$attribute)
perr.value.clin.set = cbind(perr.value.clin.set,as.numeric(perr(peperr.clin)))
} write.table(perr.value.clin.set,'perr.value1.clinic.only.set.txt',
sep='\t', row.names=F, quote=F) sep= \t , row.names=F, quote=F)
write.table(perr.attr.clin.set,'perr.attr1.clinic.only.set.txt', sep='\t',
row.names=F, quote=F) ###########################################################################
##########
#step 4: produce output files and graphs #step 4: produce output files and graphs step 4: produce output files and graphs #drawing errbars on micr array data
xm =apply(perr.value.set ,1,mean)
perr.sd = apply(perr.value.set ,1,sd)
errbar(perr.attr.set[,1], xm,xm+perr.sd, xm-perr.sd, xlim=c(0,7),
ylim=c(0,0.3),
l b 'Ti
(
)'
l b 'P
d iti
t ') #drawing errbars on micr array data
xm =apply(perr.value.set ,1,mean)
perr.sd = apply(perr.value.set ,1,sd)
errbar(perr.attr.set[,1], xm,xm+perr.sd, xm-perr.sd, xlim=c(0,7),
ylim=c(0,0.3),
i
(
)
i i
) errbar(perr.attr.set[,1], xm,xm+perr.sd, xm-perr.sd, xlim=c(0,7),
ylim=c(0,0.3), xlab='Time(year)', ylab='Predcition err rate')
lines(perr.attr.set[,1], xm, ty='l', lwd=2) #drawing errbars on micr+clinical array data
xm1 =apply(perr.value1.set ,1,mean)
perr.sd1 = apply(perr.value1.set ,1,sd)
errbar(perr.attr1.set[,1], xm1,xm1+perr.sd1, xm1-perr.sd1, xlim=c(0,7),
ylim=c(0,0.55), #drawing errbars on micr+clinical array data
1
l (
l
1
1
) #drawing errbars on micr+clinical array data r.sd1 = apply(perr.value1.set ,1,sd) rrbar(perr.attr1.set[,1], xm1,xm1+perr.sd1, xm1-perr.sd1, xlim=c(0,7),
lim=c(0,0.55), xlab='Time(year)', ylab='Predcition err rate',add=T,col=2) xlab='Time(year)', ylab='Predcition err rate',add=T,col=2) lines(perr.attr1.set[,1], xm1, ty='l', lwd=2,col=2) lines(perr.attr1.set[,1], xm1, ty='l', lwd=2,col=2) #drawing errbars on clinical array data #drawing errbars on clinical array data #drawing errbars on clinical array data
xm.c =apply(perr.value.clin.set ,1,mean)
perr.sd.clin = apply(perr.value.clin.set ,1,sd)
errbar(perr.attr.clin.set[,1], xm.c,xm.c+perr.sd.clin, xm.c-perr.sd.clin,
xlim=c(0,7), ylim=c(0,0.55), xm.c =apply(perr.value.clin.set ,1,mean) perr.sd.clin = apply(perr.value.clin.set ,1,sd) rrbar(perr.attr.clin.set[,1], xm.c,xm.c+perr.sd.clin, xm.c-perr.sd.clin
lim=c(0,7), ylim=c(0,0.55), errbar(perr.attr.clin.set[,1], xm.c,xm.c+perr.sd.clin, xm.c-perr.sd.clin,
xlim=c(0,7), ylim=c(0,0.55), xlab='Time(year)', ylab='Predcition err rate',add=T,col=3) xlab='Time(year)', ylab='Predcition err rate',add=T,col=3) lines(perr.attr.clin.set[,1], xm.c, ty='l', lwd=2,col=3) lines(perr.attr.clin.set[,1], xm.c, ty='l', lwd=2,col=3) xm.rr =apply(perr.value.r.set ,1,mean)
perr.sd.r = apply(perr.value.r.set ,1,sd)
errbar(perr.attr.r.set[,1], xm.rr,xm.rr+perr.sd.r, xm.rr-perr.sd.r,
xlim=c(0,7), ylim=c(0,0.55), perr.sd.r = apply(perr.value.r.set ,1,sd) rrbar(perr.attr.r.set[,1], xm.rr,xm.rr+perr.sd.r, xm.rr-perr.sd.r,
lim=c(0,7), ylim=c(0,0.55), errbar(perr.attr.r.set[,1], xm.rr,xm.rr+perr.sd.r, xm.rr-perr.sd.r,
xlim c(0 7)
ylim c(0 0 55) xlab='Time(year)', ylab='Predcition err rate',add=T,col=4) lines(perr.attr.r.set[,1], xm.rr, ty='l', lwd=2,col=4) legend('topleft', c("Null", "Model 1","Model 2","Model 3"), lty=c(1 col = c('blue','black','red','green'), merge = TRUE,lwd=2) write.table(file='coeff.txt',
cbind('pid'=pid,'coeff.mic.and.clinic'=coef[-
(1:4)],'coef.mic.only'=coef0),
sep='\t',row.names=F, quote=F)
coeff.with.clinical=CB1$coefficients[cv.res1$optimal.step, -(1:4)]
t.co =coeff.with.clinical[coeff.with.clinical !=0]
xt.co =x[,coeff.with.clinical !=0]
oral.cancer.index =xt.co %*% t.co
summary(coxph(Surv(S.time, S.status) ~ oral.cancer.index))
#pvalue: 7.8e-16
high =rep(1, length(oral.cancer.index))
high[oral.cancer.index<median(oral.cancer.index)]=0
png('survival KMplot-new.png')
plot(survfit(Surv(S.time, S.status) ~ high), lty=c(1,1),
col=c('green','red'), lwd=3,
xlab='Time(year)', ylab='Oral Cancer-Free Survival')
for(k in 1:50) {
bs=sample(1:86, replace=TRUE)
bs.S.time = S.time[bs]
bs.S.status = S.status[bs]
bs.oral.cancer.index = oral.cancer.index[bs]
high =rep(1, length(bs.oral.cancer.index))
high[bs.oral.cancer.index<median(bs.oral.cancer.index)]=0
lines(survfit(Surv(bs.S.time, bs.S.status) ~ high),
lty=c('dotted','dotted'), col=c('green','red'))
}
dev.off()
###########################################################################
##########
#step 5:
#Ten fold cross validation with DLDA
###########################################################################
######## write.table(file='coeff.txt', cbind('pid'=pid,'coeff.mic.and.clinic'=coef[- cbind('pid'=pid,'coeff.mic. step 4: produce output files and graphs (1:4)],'coef.mic.only'=coef0), (1:4)],'coef.mic.only'=coef0), sep='\t',row.names=F, quote=F) coeff.with.clinical=CB1$coefficients[cv.res1$optimal.step, -(1:4)] t.co =coeff.with.clinical[coeff.with.clinical !=0] xt.co =x[,coeff.with.clinical !=0] oral.cancer.index =xt.co %*% t.co summary(coxph(Surv(S.time, S.status) ~ oral.cancer.index))
#pvalue: 7.8e-16 high =rep(1, length(oral.cancer.index)) high[oral.cancer.index<median(oral.cancer.index)]=0 high[oral.cancer.index<median(oral.cancer.index)]=0 png('survival KMplot-new.png') plot(survfit(Surv(S.time, S.status) ~ high), lty=c(1,1), c('green','red'), lwd=3, xlab='Time(year)', ylab='Oral Cancer-Free Survival') bs=sample(1:86, replace=TRUE) bs.S.time = S.time[bs] bs.S.status = S.status[bs] bs.oral.cancer.index = oral.cancer.index[bs] high =rep(1, length(bs.oral.cancer.index)) lines(survfit(Surv(bs.S.time, bs.S.status) ~ high) lty=c('dotted','dotted'), col=c('green','red'))
} ###########################################################################
##########
#step 5:
#Ten fold cross validation with DLDA
###########################################################################
########
resultx = NULL
pid.top50=NULL ##########
#step 5:
#Ten fold cross validation with DLDA
###########################################################################
########
resultx = NULL # remove samples with inadequate follow up time: # remove samples with inadequate follow up time:
filter = (S.status==1) | (S.time>5)
x2=x[filter,]
S2.time=S.time[filter]
S2.status=S.status[filter]
i (
)
(
)
(
i
) #
#
# # remove samples with inadequate follow up time: filter = (S.status==1) | (S.time>5) x2=x[filter,] S2.time=S.time[filter] S2.status=S.status[filter] dim(x2); length(S2.status);length(S2.time) #69 29096# 69 #69 dim(x2); length(S2.status);length(S2.time) #69 29096# 69 #69 ls.list = sample(1:length(S2.time),63) # learning set samples p
(
g
(
),
)
g
p
ls= x2[ls.list,] # learning dataset ls= x2[ls.list,] # learning dataset x2[ls.list,] # learning dataset ts= x2[-ls.list,]# testing dataset ls.time = S2.time[ls.list] #learnging set survival time ls.time = S2.time[ls.list] #lea ls.status= S2.status[ls.list] cll=ls.time<5 # cll: class labels with cll=T represents short survivor #
p
t.cll= (S2.time[-ls.list]<5) t.cll= (S2.time[-ls.list]<5) t.cll= (S2.time[-ls.list]<5) p.value=rep(NA, ncol(ls)) for( k in 1: ncol(ls)) {
p.value[k]=1
if(sd(ls[,k])>0.4) {
p.value[k] =cph(Surv(ls.time, ls.status) ~ ls[,k])$stats[5]
}
}
#select top 50 markers
nmark=50
r = rank(p.value,ties.method='random')
pid.top50 =c(pid.top50, pid[r<=nmark])
m.set = ls[,r<=nmark]
t.set = ts[, r<=nmark]
if(ncol(m.set)<49) stop("rank order of p values wrong. marker gene set not
found")
fit = stat.diag.da(ls=m.set,cll=cll,ts=t.set,pool=1)
if(sum(table(fit$pred,t.cll))>8) stop("sample size >8")
resultx = rbind(resultx,c(fit$pred,t.cll))
}
t.1 = resultx[,c(1,7)]
for(k in 2:6) t.1 = rbind(t.1, resultx[,c(k,k+6)])
table(paste(paste("A",t.1[,1], sep=""), t.1[,2],sep=""))
# A00 A01 A10 A11
# 294 30 77 199
tx=sort(table(pid.top50),decreasing=T)
pid.top50.DLDA =cbind('pid.top50'=names(tx), 'freq'=tx)
pid.markers =cbind('pid'=pid[coeff54.with.clinical
!=0],'coeff'=coeff54.with.clinical[coeff54.with.clinical !=0])
pid.top50.freq= merge(pid.markers,pid.top50.DLDA, by.x=1,by.y=1,
all.x=T,all.y=T)
write.table(pid.top50.freq, 'pid.top50.freq.txt', row.names=F,
quote=F,sep='\t')
##################################################################
#################SAMR analysis ############################
genenames=paste('g', 1:nrow(t(x2)),sep='')
geneid=as.character(1:nrow(t(x2)))
d=list(x=ls,y=ls.time,censoring.status=ls.status,geneid=geneid,genenames=ge
nenames)
d list(x t(x2) y S2 time censoring status S2 status geneid geneid genenames for( k in 1: ncol(ls)) { p.value[k] =cph(Surv(ls.time, ls.status) ~ ls[,k])$stats[5]
} #select top 50 markers #select top 50 markers r = rank(p.value,ties.method='random') pid.top50 =c(pid.top50, pid[r<=nmark]) m.set = ls[,r<=nmark] t.set = ts[, r<=nmark] if(ncol(m.set)<49) stop("rank order of p values wrong. marker gene set not
found") if(ncol(m.set)<49) stop("rank order of p values wrong. step 4: produce output files and graphs marker gene set not
found") fit = stat.diag.da(ls=m.set,cll=cll,ts=t.set,pool=1) if(sum(table(fit$pred,t.cll))>8) stop("sample size >8") t.1 = resultx[,c(1,7)] for(k in 2:6) t.1 = rbind(t.1, resultx[,c(k,k+6)]) for(k in 2:6) t.1 = rbind(t.1, resultx[,c(k,k+6)]) table(paste(paste("A",t.1[,1], sep=""), t.1[,2],sep="")) tx=sort(table(pid.top50),decreasing=T) pid.markers =cbind('pid'=pid[coeff54.with.clinical
!=0],'coeff'=coeff54.with.clinical[coeff54.with.clinical !=0])
pid.top50.freq= merge(pid.markers,pid.top50.DLDA, by.x=1,by.y=1,
all.x=T,all.y=T) pid.top50.freq= merge(pid.markers,pid.top50.DLDA, by.x=1,by.y=1,
all.x=T,all.y=T) write.table(pid.top50.freq, 'pid.top50.freq.txt', row.names=F,
quote=F,sep='\t') ##################################################################
#################SAMR analysis ############################
genenames=paste('g', 1:nrow(t(x2)),sep='')
geneid=as.character(1:nrow(t(x2)))
d=list(x=ls,y=ls.time,censoring.status=ls.status,geneid=geneid,genenames=ge
nenames) genenames=paste('g', 1:nrow(t(x2)),
geneid=as.character(1:nrow(t(x2))) g
d=list(x=ls,y=ls.time,censoring.status=ls.status,geneid=geneid,genenames=ge
nenames) d=list(x=t(x2),y=S2.time,censoring.status=S2.status,geneid=geneid,genenames
=genenames) samr.obj=samr(d, resp.type="Survival", nperms=100) samr.obj=samr(d, resp.type="Survival", nperms=100)
delta.table<- samr.compute.delta.table(samr.obj,min.foldchange=1.5)
t.0 = samr.compute.siggenes.table(samr.obj, del=0.2, data=d, delta.table,
min.foldchange=1.5) samr.plot(samr.obj,del=1.5)
|
https://openalex.org/W4255727431
|
https://asdj.journals.ekb.eg/article_169175_99ba064695498a37a2ca590db787e8e1.pdf
|
English
| null |
December index 2020
|
Deleted Journal
| 2,020
|
cc-by
| 749
|
ASDJ
AINSHAMS DENTAL
J O U R N A L
Contents Section I :Dental Material Science Section
1.Effect of Dimethyl Sulfoxide wet bonding technique
on dentin wettability and resin-dentin bond strength;
an In vitro study ….1
Dalia A. Youssef, Mohamed M. Kandil, Tarek S. El-Dine Hussein Section II:Fixed Prosthodontics Endodontics,
Conservative Section
1. Effect of Different Light Curing Distances on Surface
Hardness of Two Different Bulk-Fill Flowable Resin-
Based Composite Materials …….. 11
Dr. Omaima Hassan Ghallab, Dr. Asmaa Youssef Harhash, &Sara Ismail
Abdel Wakeel Mntasser
2.Measurement of mandibular canal diameter using
cone beam computed tomography. An experimental
pilot study
…….23
Alya Mahmoud, Shaimaa Abu Elsadat, &Shehab Al-Din Saber
3.The Effect Of Silver Diamine Fluoride On Bond
Strength of Universal Adhesive To Demineralized
Dentin ……………30
Amany Y.Radwan, Mohammed M. Anwar & Khaled A. Nour
4.Evaluation of Bond Strength of Two types of Resins
with Different Viscositiest to Lithium Disilicate Glass
Ceramic after Two Types of Surface Treatments. (In
vitro study)…………..38
Haitham Tohamy, Marwa M. Wahsh & Maged Zohdy 5.Accuracy of Two Electronic Apex locators in
Determining Simulated Root perforation (In Vitro
Study)…………….51
Mohamad Samir ,Abeer Elgendy, &Tarek ElSewefy
6. Clinical Study Comparing The Internal Adaptation
And Marginal Fit Of All-Ceramic Zirconia Fixed
Restorations Obtained From Conventional And Digital
Intra oral Impression Techniques. (Randomized
Controlled Clinical Trial)………..60
Rivan Mahmoud Gamal , BDS / Suzan Mahmoud El said, BDS, MSD, PhD
&Rabab Mohamed Ibrahim BDS, MDS, PhD
Section III :Histopathologoical
Section .Accuracy of Two Electronic Apex locators in
Determining Simulated Root perforation (In Vitro
t d )
51 Section III :Histopathologoical
Section 1.Investigation of the toxic effect of titanium dioxide
nanoparticles and the possible recovery after 4 weeks
withdrawal on the submandibular salivary gland of
albino rats: An in vivo study ................... 70 1.Investigation of the toxic effect of titanium dioxide
nanoparticles and the possible recovery after 4 weeks
withdrawal on the submandibular salivary gland of
albino rats: An in vivo study ................... 70
Mark Mokhles Fekry, Medhat Ahmed El-Zainy & Reham Magdy Amin
2. Comparative study on the effect of Grape seed extract
and sodium fluoride on demineralized Cementum of
Human premolar samples ....................... 77
Abeer A.A. Mohamed, Medhat A. El-Zainy & Dahlia Ghazy M. Rateb 1.Investigation of the toxic effect of titanium dioxide
nanoparticles and the possible recovery after 4 weeks
withdrawal on the submandibular salivary gland of
albino rats: An in vivo study ................... 70
Mark Mokhles Fekry, Medhat Ahmed El-Zainy & Reham Magdy Amin
2. Comparative study on the effect of Grape seed extract
and sodium fluoride on demineralized Cementum of
Human premolar samples ....................... 77
Ab
A A M h
d M dh
A El Z i
& D hli Gh
M R
b Mark Mokhles Fekry, Medhat Ahmed El-Zainy & Reham Magdy Amin
2. Comparative study on the effect of Grape seed extract
and sodium fluoride on demineralized Cementum of
Human premolar samples ....................... 77 Section IV :Oral & Maxillofacial Surgery
Section
1
S
i
l M
t
f V l
h
l Section IV :Oral & Maxillofacial Surgery
Section Section IV :Oral & Maxillofacial Surgery
Section y
1. Leukocyte - Platelet Rich Fibrin (L-PRF) in Combin
with Tunneling Technique in Management of Ging
Recession: Randomized Clinical Study……..91 Section VI :Orthodontics & Pedodontics 'Section
1.Modified Haas Expander for Relief of Crowding in Children
A Randomized Controlled Trial …………………..96
Mohamed Moustafa Hadhoud, Hamdy Hafez Elzahed, Ibrahim Mazen Negm
& Noha Hussien Abbas
Section VII : Prosthodontics' Section
1. Comparing Two Suggested Techniques to Correct
Improperly Angulated Implants in Mandibular Kennedy
Class I Implant Supported Partial Overdenture ………….105
Noura A. EL-batrick, Hany Eid & Shaimaa Lotfy
2. Stress Induced by Mandibular Screw Retained Hybrid
Denture on “All-On-Four” Implant Distribution:
Comparison between Three Different Hybrid Denture
Materials: In-Vitro Study ……………..111
Ingy Amin Talaat, Yasmine Thabet,& Essam Ragab Abd-Ellah Section VI :Orthodontics & Pedodontics 'Sec 1.Modified Haas Expander for Relief of Crowding in Children
A Randomized Controlled Trial …………………..96
Mohamed Moustafa Hadhoud, Hamdy Hafez Elzahed, Ibrahim Mazen Negm
& Noha Hussien Abbas 1. Comparing Two Suggested Techniques to Correct
Improperly Angulated Implants in Mandibular Kennedy
Class I Implant Supported Partial Overdenture ………….105
Noura A. EL-batrick, Hany Eid & Shaimaa Lotfy 1. Comparing Two Suggested Techniques to Correct
Improperly Angulated Implants in Mandibular Kennedy
Class I Implant Supported Partial Overdenture ………….105
Noura A. EL-batrick, Hany Eid & Shaimaa Lotfy 2. Stress Induced by Mandibular Screw Retained Hybrid
Denture on “All-On-Four” Implant Distribution:
Comparison between Three Different Hybrid Denture
Materials: In-Vitro Study ……………..111
Ingy Amin Talaat, Yasmine Thabet,& Essam Ragab Abd-Ellah
|
https://openalex.org/W4323856436
|
https://www.ijfmr.com/papers/2023/2/1778.pdf
|
English
| null |
Perceptions of Stakeholders towards College Autonomy on Quality of Higher Education in Northern and Southern Odisha
|
International Journal For Multidisciplinary Research
| 2,023
|
cc-by-sa
| 7,222
|
ABSTRACT The main aim of the study was to investigate the perception of stakeholder towards college autonomy on
quality in higher education. The present study has been conducted in two autonomous (VD College,
Jeypore and MPC College, Baripada and two non-autonomous (DAV College, Koraput and Women’s
College, Baripada) government colleges in the southern and northern regions of Odisha, India. The
perceptions of students, parents, and teachers of autonomous colleges relating to their satisfaction with
different quality dimensions of higher education have been compared with the perceptions of students,
parents, and teachers of non-autonomous colleges using 't’ test to assess the impact of college autonomy
on quality in higher education. The impact of college autonomy on quality in higher education was
explored using the causal comparative method taking non-autonomous colleges as control group. The
study found that; i) college autonomy impacts positively on quality of teacher, curriculum, co-curricular
activities, method of teaching, library, infrastructural facilities and examination system; ii) college
autonomy impacts positively on students’ achievement; iii) college autonomy impacts positively on
customer orientation, client education, quality in education, teachers’ participation, innovation and
linkages. The study recommended that autonomous colleges should be sufficiently funded by central
government, UGC and state government or should be provided opportunity to generate their own
financial resources to carry out developmental activities for achieving total quality in higher education. It is recommended that steps should be taken to institute appropriate mechanism in every autonomous
college to look into teachers’ recruitment and promotion policy; terms and conditions of services; and
techniques of inspiration, motivation and involvement. Autonomous colleges should be given
administrative freedom to recruit teachers and other members of non teaching staff in conformity with
UGC guidelines. Autonomy, quality and accountability are interrelated. Autonomy without
accountability cannot ensure quality in higher education. Proper guidelines and regulations need to be
formulated to ensure both autonomy and accountability in higher education. Keywords: Quality education, autonomy, accountability, perception, development International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com Perceptions of Stakeholders towards College
Autonomy on Quality of Higher Education in
Northern and Southern Odisha Ms. Subhasmita Das Ms. Subhasmita Das
Ph.D. Research Scholar, PG Dept. of Education, Fakir Mohan University, Balasore, Odisha . Research Scholar, PG Dept. of Education, Fakir Mohan University, Balasore, Odisha IJFMR23021778 International Journal for Multidisciplinary Research (IJFMR) through teaching, research and extension service. Higher education operates within different contexts in
which it plays numerous roles and faces various challenges. The improvements in higher education lead
to social development and social change. Higher education empowers people by raising the quality of
life. It is about learning to know, learning to do, learning to be and learning to live together (Faure,
1972). Learning, research and extension service at higher education institutions are the forefronts of
knowledge generation and dissemination, and are thus important contributors to forces of social change. through teaching, research and extension service. Higher education operates within different contexts in
which it plays numerous roles and faces various challenges. The improvements in higher education lead
to social development and social change. Higher education empowers people by raising the quality of
life. It is about learning to know, learning to do, learning to be and learning to live together (Faure,
1972). Learning, research and extension service at higher education institutions are the forefronts of
knowledge generation and dissemination, and are thus important contributors to forces of social change. In most parts of the developing countries, education in general and higher education in particular
is seen as playing an indispensable role in national economic development. It cultivates necessary civil
values for societal and political participation. Development of a nation depends on how government
utilizes the national higher education system to train people in skills necessary for economic growth. Higher education is also seen as cultivating and inculcating social and moral values in students and
communities. It plays an integral role in social and cultural transformation or preservation. It plays
important role in cultivating democratic values or global citizenship. Higher education creates socially
responsible graduates capable of leading a country or community towards prosperity and success. Higher
education is seen to contribute to human capital and capacity development. It provides the knowledge
base skills and training to perform specific tasks and job. More recently, the social and economic role of
higher education institutions (HEIs) in development has regained prominence in the development agenda
of all countries over the global. The United Nations (UN) has viewed higher education as an integral part
to all aspects of development such as environmental awareness and sustainability, post- conflict
resolution, poverty alleviation, and cultivating values such as human rights, health care issues and
cultural preservation or change. BACKGROUND OF THE STUDY Development of higher education has become the prime task of countries across the world. The role of higher education is vital in the development of a nation. It includes a wide variety of
universities and colleges along with other formal, non-formal and informal institutions. Higher education
plays a necessary and an increasingly important role in human, social and economic development. Through it is complex fluid and dynamic in nature, it promotes development both directly and indirectly Volume 5, Issue 2, March-April 2023 IJFMR23021778 1 International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com
education require to be examined empirically to resolve the discourse on dependence or independence of
autonomy and quality in education. education require to be examined empirically to resolve the discourse on dependence or independence of
autonomy and quality in education. Grant of autonomy to potential colleges by the universities concerned has been the new trend in
Indian higher education since the implementation of the National Policy on Education (MHRD, 1986) to
ensure quality and excellence. Autonomous colleges are empowered with academic freedom to frame
their own curriculum and syllabi, admit students by conducting entrance examinations, innovate and
experiment with new methods and strategies for transacting curriculum, conduct examination and
publish results, and award degrees to the students. Provisions are being made in national budget every
year to provide substantial grants to autonomous colleges through University Grants Commission
(UGC). The UGC has been providing assistance to autonomous colleges to incur expenditure for
inviting guests faculties; orienting and retraining teachers; redesigning courses at par with international
standard; developing teaching learning materials; procuring equipments, furniture, books and journals;
reforming examination systems; extending and constructing buildings, organizing workshops and
seminars; holding meeting of governing bodies; and providing fees for accreditation. Besides these, the
National Assessment and Accreditation Council (NAAC) have been established at Bangalore to assess
the quality of colleges. The role of NAAC in assessing the quality of autonomous colleges using pre-
fixed criteria is no doubt desirable but not acceptable from research point of view. Use of pre-fixed
criteria to judge the quality of goods and services has been denounced by the researchers. The trend, all
over the globe, has to evaluate quality of goods and services in terms of how far the goods and services
satisfy customers’ or stakeholders’ needs and expectations. Since higher education has come under the
service sector, its customers or stakeholders are mainly students, parents, teachers and principals. Therefore, the quality of college autonomy needs to be studied in terms of how far the services provided
by autonomous colleges focus on customers’ needs, expectations and satisfaction. Review of literature
reveals that no systematic and comprehensive study has been conducted so far either in India or at
international level to assess the impact of college autonomy on quality (in terms of satisfaction of
students, parents, teachers and principals) in higher education. That’s why the quality of college
autonomy needs to be studied in terms of how far the services provided by autonomous colleges focus
on stakeholder’s perception. International Journal for Multidisciplinary Research (IJFMR) Society and HEIs are mutually constitutive as society and HEIs co-
evolve. The HEIs in general and universities in particular are considered to be the progenitors of social
change through the generation and dissemination of knowledge and new ideas especially in the context
of globalization . This suggests for re-conceptualization of the importance of HEIs in society, culture
and development. Thus, a major theme focused throughout the contemporary literature on higher
education is the proactive role of HEIs in the development process. The higher education and its
institutions should be aware of its role and base its operations around developmental objectives. Higher
education is transformative education. This transformative education creates the potential for wider
process of social and human development. O’ Sullivan (1999) argues that education can be critical of
transcend or improve discourses and concept of progress and development through shifts of
consciousness in transformative learning. It is largely accepted that autonomy and quality are related directly. Researchers have studied
quality in higher education as a dependent variable which might be influenced by many factors. Reforms
in structural and functional aspects of higher education might be necessary condition, but not sufficient
condition in determining quality in education. Quality in education depends on the satisfaction of
beneficiaries. There found a dearth of systematic research studies investigating the effect of college
autonomy on quality in higher education in terms of satisfaction of such beneficiaries as students,
parents, teachers, principals and members of community, except a study conducted by Mohanty (2005). Mohanty’s study compared the satisfaction of students and teachers with some structural and functional
aspects of higher education. The findings of his study suffers from methodological shortcomings, and
lack of ecological and population validity. The effects of college autonomy on quality in higher Volume 5, Issue 2, March-April 2023 2 IJFMR23021778 2 International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com
education require to be examined empirically to resolve the discourse on dependence or independence of
autonomy and quality in education. POPULATION AND SAMPLE OF THE STUDY The present study has been conducted in two autonomous (VD College, Jeypore and MPC
College, Baripada and two non-autonomous (DAV College, Koraput and Women’s College, Baripada)
government colleges in the southern and northern regions of Odisha, India. The study was conducted on
students, parents and teachers of autonomous and non-autonomous colleges associated at least one year
with various activities of those colleges. The concept of quality was connoted to the satisfaction of such
customers of higher education as students, parents, and teachers with different dimensions of education. The population of the present study comprises all students, parents, and teachers of the selected
autonomous and non-autonomous colleges. Since it is difficult to include all of them in the purview of
this study, a sample of 80 students, 80 parents, and 80 teachers representing the population are selected
randomly from the studied colleges. OBJECTIVES OF THE STUDY The objectives of the present study are as follows: 1. To study the college autonomy on quality in higher education in terms of students’ perception
relating to the quality of teachers, curriculum, co-curricular activities, methods of teaching, library,
laboratory, infrastructural facilities and examination. 1. To study the college autonomy on quality in higher education in terms of students’ perception
relating to the quality of teachers, curriculum, co-curricular activities, methods of teaching, library,
laboratory, infrastructural facilities and examination. 2. To study the college autonomy on quality in higher education in terms of teachers’ perception
relating to the principal as a leader, quality of teachers, linkages and interface, students, co-curricular
activities, teaching, office management, relationships, material resources, examinations and job
satisfaction. 3. To study the college autonomy on quality in higher education in terms of parents’ perception relating
to the students’ achievement, curriculum, quality of teachers, physical facilities, examination system
and co-curricular activities. International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com
education require to be examined empirically to resolve the discourse on dependence or independence of
autonomy and quality in education. The present study seeks answers to such questions as (i) whether there exists any impact of
college autonomy on quality in higher education in terms of students’ perception relating to their
satisfaction with quality of teachers, curriculum, co-curricular activities, methods of teaching, library,
laboratory, infrastructural facilities and examination; (ii) whether there exists any impact of college
autonomy on quality in higher education in terms of parents’ perception relating to their satisfaction with
students’ achievement, curriculum, quality of teachers, physical facilities, examination system and co-
curricular activities; (iii) whether there exists any impact of college autonomy on quality in higher
education in terms of principals' perception relating to their satisfaction with customer’s orientation,
client education, quality education, participation, innovation, parent’s involvement and linkage; and (iv)
whether there exists any impact of college autonomy on quality in higher education in terms of teachers’
perception relating to their satisfaction with principal as a leader, quality of teachers, linkages and
interface, students, co-curricular activities, teaching, office management, relationships, material
resources, examination and job satisfaction. Volume 5, Issue 2, March-April 2023 IJFMR23021778 3 International Journal for Multidisciplinary Research (IJFMR) relationships, material resources, examination and job satisfaction have been compared to study the
magnitude of impact of college autonomy on quality in higher education. METHODOLOGY OF THE STUDY The main purpose of the present study was to investigate the perceptions of stakeholders
towards college autonomy on quality in higher education. Since college autonomy in India has been a
planned program launched by the central government through University Grants Commission to achieve
excellence in higher education, and quality in higher education was understood in the present study as
satisfaction of students, parents, and teachers with different educational aspects of higher education; the
perception of students, parents, and teachers of both autonomous college and non-autonomous college
with regard to different dimensions of higher education have been compared using causal- comparative
method and ex-post facto research. Firstly, the perceptions of students of both autonomous and non-
autonomous colleges relating to their satisfaction with quality of teachers, curriculum, co-curricular
activities, methods of teaching, library, infrastructural facilities and examination have been compared;
secondly, the perceptions of parents of students studying in autonomous and non-autonomous colleges
relating to their satisfaction with students achievement curriculum, quality of teacher, physical facilities,
examination system, co-curricular activities and parents meeting; thirdly, the perceptions of teachers of
both autonomous and non-autonomous colleges relating to their satisfaction with principal as leader,
teacher quality, linkages and interface, students, co-curricular activities, teaching, office management, Volume 5, Issue 2, March-April 2023 IJFMR23021778 4 rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com Teachers of autonomous colleges were highly competent, well, cooperative, helpful and in
taking lots of care as compared to teachers of non-autonomous colleges as perceived by students. Therefore, the null hypothesis stating that there exists no significance of difference between the
perception of students of autonomous colleges and non-autonomous colleges relating to satisfaction with
quality of teachers was rejected in favour of alternative hypothesis. Table 1 shows that there found
significance of difference between the perception of students studying in autonomous colleges and non-
autonomous colleges (t =26.726; df = 18; P < 0.05) in favour of students studying in autonomous
colleges (M= 20.80000 > M= 6.0000) relating to their satisfaction with curriculum. Further, the analysis
shows that students of autonomous colleges were highly satisfied with curriculum as the average
perception score of students was greater than the average scale value for the level of satisfaction (M=
20.80000 > M=20.0), whereas, students of non-autonomous colleges were just satisfied with the
curriculum as the average perception score of students was greater than the average scale value for
neutral level of satisfaction (M=6.0000> M=10.0). The curriculum of autonomous colleges was
significantly better than the curriculum of non-autonomous colleges because it included new concepts,
theories and principles, and was designed according to the present need of the society as perceived by
students. Therefore, the null hypothesis stating that there exists no significance of difference between the
perception of the students of autonomous colleges and non-autonomous colleges relating to satisfaction
with curricular was rejected in favour of alternative hypothesis. As, it is evident from table 1, there found significance of difference between the perception of
students studying in autonomous colleges and non-autonomous colleges (t = 18.635; df = 18; P < 0.05)
in favour of students studying in autonomous (M=26.9000 > M=13.9000) relating to their satisfaction
with quality of infrastructural facilities in their colleges. Further, it shows that students of autonomous
colleges were highly satisfied with infrastructural facilities in their colleges as the average perception
score of students was greater than the average scale value for the level of satisfaction (M= 26.9000 >
M=25.0), whereas, the students of non-autonomous colleges were just satisfied with infrastructural
facilities in their colleges as the average perception score of students was greater than the average scale
value for neutral level of satisfaction (M=13.9000> M=10.0). RESULTS AND DISCUSSION The main aim of the study was to investigate the perception of stakeholder towards college
autonomy on quality in higher education. Since the concept of quality in the present study was defined
as meeting, exceeding and delighting customers’ needs and expectations with the recognition that these
needs and desires would change over time (Downey, 1992), the data collected from customers of higher
education such as students, parents, and teachers on their perceptions relating to satisfaction with various
quality dimensions of higher education by administering the Satisfaction Scale for Students, the
Satisfaction Scale for Parents, and the Mukhopadhyay’s Institutional Profile Questionnaire (MIPQ) for
teachers were presented, analysed and discussed in this section. The perceptions of students, parents, and teachers of autonomous colleges relating to their
satisfaction with different quality dimensions of higher education have been compared with the
perceptions of students, parents, and teachers of non-autonomous colleges using 't’ test to assess the
impact of college autonomy on quality in higher education. Table 1: College Autonomy and Quality in Higher Education in terms of Students’ Satisfactio
Types of
College
Autonomous
College
Non-Autonomous
College
‘t’
value
Level of
significance
Quality
Dimension
Mean
SD
Mean
SD
Quality of
Teachers
25.7000
1.94651
21.1000
2.64365
4.431
0.05
Curriculum
20.8000
0.91894
6.0000
1.49071
26.726
0.05
Co-curricular
Activities
21.9000
1.59513
15.7000
1.82878
8.079
0.05
Methods of
Teaching
24.7000
1.33749
16.8000
1.93218
10.631
0.05
Library
10.1000
1.59513
2.8000
0.78881
12.972
0.05
Infrastructur
al Facilities
26.9000
1.52388
13.9000
1.59513
18.635
0.05
Examination
28.1000
1.52388
17.3000
1.56702
15.625
0.05
Total
158.200
0
10.44096
93.6000
11.84628
97.099
0.05 e 1: College Autonomy and Quality in Higher Education in terms of Students’ Satis Volume 5, Issue 2, March-April 2023 IJFMR23021778 5 rnational Journal for Multidisciplinary Research (IJFMR) The quality of infrastructural facilities in
autonomous colleges was better than the non-autonomous colleges as the students in autonomous
colleges used to sit comfortably in the classroom, and were satisfied with the urinal, lavatory and
drinking water facilities provided in the college. In autonomous colleges, infrastructural facilities like
classroom, library, laboratory, playground, garden etc. were available and were maintained properly as
compared to non-autonomous college as perceived by students. Therefore, the null hypothesis stating
that there exists no significance of difference between the perception of students of autonomous colleges
and non-autonomous colleges relating to satisfaction with infrastructural facilities was rejected in favour
of alternative hypothesis. In sum, the quality of education as perceived by students studying in
autonomous colleges differed significantly from the quality of education in non-autonomous colleges (t
=97.099; df = 18; P < 0.05). From the table 1, it is evident that quality of higher education in
autonomous colleges was significantly better than the quality of education in non-autonomous colleges
(M= 158.2000 >M=93.6000). Volume 5, Issue 2, March-April 2023 IJFMR23021778 6 International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com
Table 2: College Autonomy and Quality in Higher Education in terms of Parents’ Satisfaction
Type of
College
Autonomous College
Non-Autonomous
College
‘t’ value
Level of
Significance
Quality
Dimensions
Mean
SD
Mean
SD
Student’s
Achievement
12.9000
0.87560
6.1000
0.99443
16.229
0.05
Curriculum
5.3000
1.15950
2.5000
0.52705
6.952
0.05
Quality of
Teacher
12.8000
0.91894
7.1000
1.37032
10.925
0.05
Physical
Facilities
11.8000
1.39841
8.6000
1.71270
4.577
0.05
Examination
System
11.5000
1.71594
6.0000
1.24722
8.199
0.05
Co-
curricular
Activities
14.6000
1.42984
10.8000
1.75119
5.315
0.05
Parents’
Meeting
8.7000
1.63639
6.1000
1.79196
3.388
0.05
Total
77.6000
9.13462
47.2000
9.39487
55.585
0.05 International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com ational Journal for Multidisciplinary Research (IJFMR) onomy and Quality in Higher Education in terms of Parents’ Satisfaction From the above analysis, the finding emerged that the parents of students studying in
autonomous colleges were just satisfied with the achievement of their children; where as parents of
students studying in non-autonomous colleges were dissatisfied with the achievement of their children. Therefore, the null hypothesis stating that there exists no significance of difference between the
perception of parents of students studying in autonomous colleges and non-autonomous colleges relating
to satisfaction with achievement of their children was rejected in favour of alternative hypothesis. rnational Journal for Multidisciplinary Research (IJFMR) Table
2 shows significance of difference between the perception of parents of students studying in autonomous
colleges and parents of students studying in non-autonomous colleges (t = 5.315; df = 18; P < 0.05) in
favour of parents of students studying in autonomous colleges (M=14.6000 > M=10.8000) relating to
their satisfaction with co-curricular activities organised in colleges. The quality of co-curricular
activities in autonomous colleges was better than the quality of co-curricular activities in non-
autonomous colleges, because autonomous colleges treated co-curricular activities as an important
activity in the college and students were motivated to participate in those activities as perceived by
parents. Therefore, the null hypothesis stating that there exists no significance of difference between the
perception of parents of students studying in autonomous colleges and non-autonomous colleges relating
to satisfaction with co-curricular activities was rejected in favour of alternate hypothesis. Volume 5, Issue 2, March-April 2023 7 IJFMR23021778 7 Volume 5, Issue 2, March-April 2023 rnational Journal for Multidisciplinary Research (IJFMR) Table 3: College Autonomy and Quality in Higher Education in terms of Teachers’ Satisfaction
Types of
Colleges
Autonomous college
Non-autonomous
college
‘t’ value
Level of
significance
Quality
Dimension
Mean
SD
Mean
SD
Principal as
leader
35.4000
1.95505
23.3000
3.91720
8.740
0.05
Teacher
quality
49.7000
4.16467
40.2000
4.15799
5.105
0.05
Linkages and
interface
22.4000
2.17051
8.5000
2.17307
14.311
0.05
Students
28.0000
3.29983
14.9000
2.46982
10.051
0.05
Co-
curricular
activities
26.8000
3.19026
15.5000
1.95789
9.546
0.05
Teaching
27.8000
2.57337
21.5000
3.13581
4.911
0.05
Office
management
26.5000
3.47211
19.8000
3.01109
4.610
0.05
Relationships
21.4000
1.71270
19.9000
1.72884
1.949
0.05
Material
resources
35.8000
2.20101
16.6000
3.86437
13.653
0.05 Table 3: College Autonomy and Quality in Higher Education in terms of Teachers nomy and Quality in Higher Education in terms of Teachers’ Satisfaction Volume 5, Issue 2, March-April 2023 Volume 5, Issue 2, March-April 2023 IJFMR23021778 8 International Journal for Multidisciplinary Research (IJFMR)
E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com
Examination
42.5000
1.71594
36.8000
4.41714
3.804
0.05
Job
satisfaction
42.2000
1.81353
31.6000
3.30656
8.888
0.05
Total
358.5000
28.26898
248.6000
34.13978
85.568
0.05 The above table shows that the teachers of autonomous colleges and non autonomous colleges
differed significantly on their perception relating to satisfaction with principal as a leader (t=8.740;
df=18; P<0.05).The perception of teachers in non autonomous colleges relating to satisfaction with
principal as a leader was better than the teachers in autonomous colleges (M=35.4000 <M= 23.3000). From the above analysis, the finding emerged that the teachers of autonomous colleges were highly
dissatisfied with the principal as a leader; whereas the teachers of non autonomous colleges were
dissatisfied with principal as a leader. Therefore, the null hypothesis stating that there exists no
significance of difference between the perception of teachers of autonomous colleges and non
autonomous relating to satisfaction with principal as a leader was rejected in favour of alternative
hypothesis. Table 3 reveals that teachers of autonomous colleges and non autonomous colleges did not
differ significantly on their perception relating to satisfaction with Co-Curricular activities organised in
the colleges (t=9.546; df=18; P> 0.05). From the above analysis, the finding emerged that the teachers of
autonomous colleges were neither satisfied nor dissatisfied with co-curricular activities organized in the
colleges, whereas the teachers of non autonomous colleges were dissatisfied with co-curricular activities
organized in the colleges. rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com As it can be seen in table 2, there found significance of difference between the perception of
parents of students studying in autonomous colleges and non-autonomous colleges (t=3.388; df=18,
P<0.05) in favour of parents of the students studying in autonomous colleges (M=8.7000 > M=6.1000)
relating to their satisfaction with parents’ meeting organized in colleges. From the above analysis, the
finding emerged that organisation of parents’ meeting in autonomous colleges was significantly better
than organisation of parents’ meeting in non-autonomous colleges, although parents of the students
studying in autonomous colleges maintained neutrality in the level of satisfaction. Therefore, the null
hypothesis stating that there exists no significance of difference between autonomous colleges and non-
autonomous in organisation of parents’ meeting was rejected in favour of alternate hypothesis. Quality
of higher education from the view of parents’ perception with regard to their satisfaction with
autonomous colleges differed significantly from the quality of education in non-autonomous colleges (t
= 55.585; df = 18; P < 0.05). From the table 2, it was made clear that the quality of higher education in
autonomous colleges was significantly better than the quality of education in non-autonomous colleges
(M=77.6000> M=47.2000). It also reveals that autonomous colleges were having significant edges over
non-autonomous colleges on student’s achievement, quality of teachers, physical facilities available,
examination system, co-curricular activities and organisation of parents meeting, but had a slight edge
over curriculum. rnational Journal for Multidisciplinary Research (IJFMR) Therefore, the null hypothesis stating that there exists no significance of
difference between the perception of teachers of autonomous colleges and non autonomous colleges
relating to satisfaction with co curricular activities was retained. It is also seen that the teachers of autonomous colleges and non autonomous colleges differed
significantly on their perception relating to satisfaction with teaching (t=4.911; df =18; P<0.05). The
perception of teachers in autonomous colleges relating to satisfaction with teaching was better than the
perception of teachers in non autonomous colleges (M=27.8000 > M=21.5000). From the above
analysis, the finding emerged that the quality of teaching in autonomous colleges was significantly better
than the quality of teaching in non autonomous. Teachers’ of autonomous colleges developed teaching
plans, took care for students’ understanding , completed curriculum in time and reviewed their teaching
in better line as compared to their counterparts in non autonomous colleges. Therefore, the hull
hypothesis stating that there exists no significance of difference between the perception of teachers of
autonomous colleges and non autonomous colleges relating to satisfaction with the quality of teaching
was rejected in favour of alternative hypothesis. rnational Journal for Multidisciplinary Research (IJFMR) (iii) The students studying in autonomous colleges were satisfied with co-curricular activities organized
in the colleges than their counterparts studying in non-autonomous colleges. The curricular activities in
autonomous colleges were frequently and systematically organized. (iv) The quality of teaching methods in autonomous colleges were better than non-autonomous colleges
as teachers of autonomous colleges used to follow innovative methods in teaching, encourage students to
participate in teaching learning process, encourage students to ask questions to clarify their doubts and
explain difficult concept and principles clearly. (v) The students of autonomous colleges were more satisfied with the quality of library facilities in
autonomous colleges than the students of non-autonomous colleges. The library of autonomous colleges
were having sufficient number of books, journals and magazine and reading room facilities. (vi) The quality of infrastructural facilities in autonomous colleges was better than non-autonomous
colleges as perceived by the students. In autonomous colleges students used to sit comfortably in the
class room. The urinal, lavatory and drinking water facilities provided in autonomous colleges were
better than non-autonomous colleges. (vii) The students of autonomous colleges were satisfied with the examination system than the students
of non-autonomous colleges. The examination systems in autonomous colleges were conduced
smoothly, questions asked in the examinations were free from ambiguity, answer scripts of the students
were evaluated properly and impartially, and results were published in time. Findings Based on Parents’ Perception (i) The quality of autonomous college was better than the quality of non autonomous college as
perceived by parents. The parents of students studying in autonomous colleges were satisfied with the
achievement of their children than the parents of students studying in non-autonomous colleges. (ii) The parents of students studying in both autonomous and non-autonomous colleges showed their
satisfaction with the curriculum on similar line. (iii) The teachers’ quality in autonomous colleges was significantly better than the quality teacher in
non-autonomous colleges as perceived by parents. (iv) Physical facilities available in autonomous colleges were better than non-autonomous colleges as
perceived by parents. (iv) Physical facilities available in autonomous colleges were better than non-autonomous colleges as
perceived by parents. (v) The quality of examination system in autonomous colleges was significantly better than non-
autonomous colleges as perceived by parents. (vi) The parents of students studying in autonomous colleges were more satisfied with the quality of co-
curricular activities organized in the colleges than the parents of the students studying in non-
autonomous colleges. (vii) Organization of parents’ meeting in autonomous colleges was significantly better than parents’
meeting organized in non-autonomous colleges. Findings Based on Teachers’ Perception Findings Based on Students’ Perception (i) The students studying in autonomous colleges were more satisfied with their teachers as compared to
the students of non-autonomous colleges. Quality of teachers in autonomous colleges was better. They
were competent, well, co-operative, and helpful and student concerned. (ii) The curriculums of autonomous colleges were significantly better than the curriculum of non-
autonomous colleges as perceived by students. The curriculum of autonomous colleges was designed
with new concepts, theories and principles, and was according to the present need of the society. Volume 5, Issue 2, March-April 2023 IJFMR23021778 9 9 rnational Journal for Multidisciplinary Research (IJFMR) (ii) The qualities of teachers of autonomous colleges were significantly better than the quality of
teachers in non-autonomous colleges as perceived by teachers. (iii) The teachers of both autonomous and non-autonomous colleges showed their dissatisfaction with
linkages and interface. (iv) The teachers of both autonomous and non-autonomous colleges were dissatisfied with their students. (iv) The teachers of both autonomous and non-autonomous colleges were dissatisfied with their students. (v) The teachers of both autonomous and non-autonomous colleges were dissatisfied with co-curricular
activities organized in colleges. The teachers of non-autonomous colleges showed more dissatisfaction
with co-curricular activities organized in the college. (vi) The quality of teaching in autonomous colleges was significantly better than the quality of teaching
in non-autonomous colleges as perceived by teachers. (vii) The teachers of both autonomous and non-autonomous colleges were equally dissatisfied with
office management in their colleges. (viii) The teachers in autonomous colleges showed less satisfaction with relationship than the teachers in
non-autonomous colleges. (ix) The teachers of autonomous colleges were satisfied with the material resources available in their
colleges than the teachers of non-autonomous colleges. (x) The examination system in autonomous colleges was significantly better than the examination
system in non-autonomous colleges as perceived by teachers. (x) The examination system in autonomous colleges was significantly better than the examination
system in non-autonomous colleges as perceived by teachers. Findings Based on Teachers’ Perception (i) Though, the teachers of both autonomous and non-autonomous colleges were dissatisfied with
principals, the teachers of autonomous colleges were more dissatisfied with principals. (i) Though, the teachers of both autonomous and non-autonomous colleges were dissatisfied with
principals, the teachers of autonomous colleges were more dissatisfied with principals. Volume 5, Issue 2, March-April 2023 10 IJFMR23021778 rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com relationships, examination system and job bear significant educational implications. It is recommended
that Teachers’ Council should be formulated in every autonomous college and teachers’ council meeting
should be held frequently. The needs and expectations of teachers are require to be discussed thoroughly
and resolved amicably in the meeting. Constructive suggestion of teachers should be acknowledged
while planning for developmental activities in the college. There should be teachers’ representative in
various committees which look into continuous improvement of the quality in higher education. Further,
it is recommended that teachers’ needs and expectations should be given priority for the procurement of
books and journals to the college library. They should be involved in developmental activities of the
college library. On the basis of the finding of teachers’ dissatisfaction with office management, it is
recommended that teachers problems relating to service matters need to be resolved immediately and
every autonomous college should have a grievance re-addressable cell. On the basis of the finding that
the teachers were dissatisfied with relations, it can be recommended that there should be common room
facilities available in every autonomous college and opportunities should be created for continuous
interaction, relation and communication among teachers. relationships, examination system and job bear significant educational implications. It is recommended
that Teachers’ Council should be formulated in every autonomous college and teachers’ council meeting
should be held frequently. The needs and expectations of teachers are require to be discussed thoroughly
and resolved amicably in the meeting. Constructive suggestion of teachers should be acknowledged
while planning for developmental activities in the college. There should be teachers’ representative in
various committees which look into continuous improvement of the quality in higher education. Further,
it is recommended that teachers’ needs and expectations should be given priority for the procurement of
books and journals to the college library. They should be involved in developmental activities of the
college library. On the basis of the finding of teachers’ dissatisfaction with office management, it is
recommended that teachers problems relating to service matters need to be resolved immediately and
every autonomous college should have a grievance re-addressable cell. On the basis of the finding that
the teachers were dissatisfied with relations, it can be recommended that there should be common room
facilities available in every autonomous college and opportunities should be created for continuous
interaction, relation and communication among teachers. EDUCATIONAL IMPLICATIONS The finding revealing superiority of college autonomy in influencing quality in higher education
bears remarkable educational implications. It is recommended that the present scheme of college
autonomy which is restricted to a limited number of colleges needs to be extended to a large number of
colleges in the country. Both central government as well as state government require to take necessary
steps in this regard. The present scheme of college autonomy in India has been restricted to academic
autonomy only. Besides academic autonomy, the scheme of college autonomy should make provision
for administrative autonomy as well as financial autonomy. College autonomy should be made fully
functional in order to enhance quality in higher education. Autonomous colleges should be given
freedom to formulate their own rules and regulations for college administration, supervision and
accountability in order to ensure continuous improvement. The autonomous colleges should also be
given freedom to recruit and promote their members of staff within national and constitutional
framework. The finding revealing that principals of autonomous colleges were dissatisfied with the
involvement of parents in educational activities of the colleges bears important educational implication. On the basis of this finding, it can be recommended that Parent Teacher Association should be formed in
each autonomous colleges and necessary planning should be made for the involvement of parents in
curricular, co-curricular and other developmental activities of the colleges. The UGC scheme of college
autonomy should focus on involvement of parents and local community members in college activities
and necessary guidelines should be prepared in this regard. The finding revealing that teachers of autonomous colleges were dissatisfied with library
facilities, principals, linkages and interface, students, co-curricular activities, office managements, Volume 5, Issue 2, March-April 2023 IJFMR23021778 11 CONCLUSION The present study is very much useful in the field of higher education in India and abroad. It is
unique of its kind on two grounds. The study ventured to investigate for the first time the quality in
higher education empirically in terms of customers’ satisfaction. The impact of college autonomy on
quality in higher education was also explored for the first time using the causal comparative method
taking non autonomous colleges as control group. The study concludes with the establishment of an
empirically verified proposition i.e. college autonomy has positive impact on quality in higher education. The study comes to a close with following generalizations: i) college autonomy impacts positively on
quality of teacher, curriculum, co-curricular activities, method of teaching, library, infrastructural
facilities and examination system; ii) college autonomy impacts positively on students’ achievement; iii)
college autonomy impacts positively on customer orientation, client education, quality in education,
teachers’ participation, innovation and linkages. rnational Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com REFERENCES 1. Altbach,P.(2007). Peripheries and centers: Research universities in developing countries, Higher
Education Management and Policy, Vol 19, No.2. 1. Altbach,P.(2007). Peripheries and centers: Research universities in developing countries, Higher
Education Management and Policy, Vol 19, No.2. 2. Barnett, R. A., “The maintenance of quality in the public sector of UK higher education, in: Higher
Education”, 16, 1987, p. 279-301. 2. Barnett, R. A., “The maintenance of quality in the public sector of UK higher education, in: Higher
Education”, 16, 1987, p. 279-301. 3. Berdahl, R. (1990). Academic freedom, autonomy and accountability in British Universities. Studies
in Higher Education, 15(2): 169-180. 3. Berdahl, R. (1990). Academic freedom, autonomy and accountability in British Universities. Studies
in Higher Education, 15(2): 169-180. 4. Berdhal, R (1990). Academic freedom, autonomy and accountability in British Universities. Studies
in Higher Education, 15(2): 169-180. 4. Berdhal, R (1990). Academic freedom, autonomy and accountability in British Universities. Studies
in Higher Education, 15(2): 169-180. 5. Bladh, A. (2007). Institutional autonomy with increasing dependency on outside actors. Higher
Education Policy, 20(3): 243-259. 5. Bladh, A. (2007). Institutional autonomy with increasing dependency on outside actors. Higher
Education Policy, 20(3): 243-259. 6. Davanesan ,D.S.(1979). Autonomous college experiment. University News, 27, 20, 528-549,
October 15. 6. Davanesan ,D.S.(1979). Autonomous college experiment. University News, 27, 20, 528-549,
October 15. 7. Deo, Rahul and Kohli ,Namrata (2014). “A study of Student Satisfaction in Autonomous and Non-
Autonomous Institutes in Indore City” .Prestige e-Journal of Management and Research, Vol. 1,
No.1. 7. Deo, Rahul and Kohli ,Namrata (2014). “A study of Student Satisfaction in Autonomous and Non-
Autonomous Institutes in Indore City” .Prestige e-Journal of Management and Research, Vol. 1,
No.1. 8. Dill, D. (2001). The regulation of public research universities: changes in academic competition and
implication for university autonomy and accountability. Higher Education Policy, 14(l): 21-35. 9. Downey, C.J. (1992).Quality fit framework. Tailor Road, Thousand Oks: Crown Press Inc Sage
Publication Company. 10. Dwibedi, R. (2006). Financing of autonomous colleges in Orissa –A case study of Gangadhar Meher
College, Sambalpur. Unpublished Ph.D. Thesis in Education, Bhubaneswar: Utkal University, 11. Gananam, A & Stella, A. (1999). Emerging trends in higher education and their implications for the
future. Journal of educational planning and administration, NIEPA, Vol XIII, No. 2, April 1999, PP. 187-197. 12. Goyal J.C., and Ajitsingh, Non-enforcement of conditions of Affiliation in the colleges of Education
–a study of reasons, NECERT, New Delhi, 1981. 13. rnational Journal for Multidisciplinary Research (IJFMR) Further, it is recommended that every autonomous college should form Q+ team consisting of
teachers, parents, administrators, students and classified personnel. The team should strive to foster
opportunities which will create commitment to continual improvement in the college by encouraging
open communication, shared participation, and an atmosphere of mutual trust and confidence. The Q+
team should be responsible for planning, implementation and management of the quality process. Besides Q+ team, subcommittees like search for opportunity, education, examination, process
improvement corrective action, internal audit and evaluation, research and innovations should be
formulated. Further, it is recommended that autonomous colleges should be sufficiently funded by
Central Government, UGC and State Government or should be provided opportunity to generate their
own financial resources to carry out developmental activities for achieving total quality in higher
education. The finding revealing that teachers are not satisfied with their jobs has its educational
implication. It is recommended that steps should be taken to institute appropriate mechanism in every
autonomous college to look into teachers’ recruitment and promotion policy; terms and conditions of
services; and techniques of inspiration, motivation and involvement. Autonomous colleges should be
given administrative freedom to recruit teachers and other members of non teaching staff in conformity
with UGC guidelines. Autonomy, quality and accountability are interrelated. Autonomy without
accountability cannot ensure quality in higher education. Proper guidelines and regulations need to be
formulated to ensure both autonomy and accountability in higher education. The personnel involved in
higher education should be made aware of their roles, duties and functions. On the basis of the finding of
the present study, it is recommended that defined criteria used by the NAAC for assessing and
accreditating the quality of higher education in the country should be supplemented with the assessment
of customers’ satisfaction. The UGC should allocate and release funds on priority basis to carryout
major and minor research projects on different aspects of college autonomy. Research and development
should go in a linear direction. Research findings should be utilized for continuous improvement of
quality in higher education. Therefore, it is recommended that the UGC should establish appropriate
mechanism to collect and utilize research findings for improvement of college autonomy. Volume 5, Issue 2, March-April 2023 IJFMR23021778 12 REFERENCES Harvey, L. & Green, D.(1993). Defining quality in assessment and evaluation in higher education,
18(1). 14. Huisman, J. (2007). The anatomy of autonomy. Higher Education Policy, 20:219-221. Volume 5, Issue 2, March-April 2023 13 IJFMR23021778 International Journal for Multidisciplinary Research (IJFMR) E-ISSN: 2582-2160 ● Website: www.ijfmr.com ● Email: editor@ijfmr.com E-ISSN: 2582-2160 ● Website: www.ijfmr.com 15. Joseph Thomas, “Commission versus Commission in Higher Education”, Economic & Political
Weekly, December 15, 2007, pp 20. 16. M. Manivannan, & K. S. Premila, (2009). “Application of Principles of Total Quality Management
(TQM) In Teacher Education Institutions”. Journal of College Teaching & Learning, Vol.6, Number
6. PP 77-88. 17. Mohanty, S.B. (1992). Improving functioning of autonomous colleges in Orissa. University News,
30(18), 13-26. 18. Moses, I. (2007).Institutional autonomy revisited: autonomy justified and accounted. Higher
Education Policy, 20(3): 261-274. 19. Muhammad Dilshad, and Hafiz Muhammad Iqbal (2010). “Quality Indicators in Teacher Education
Programmes”. Pakistan Journal of Social Sciences (PJSS), V0l. 30, No.2 (December 2010), pp.401-
411. 20. Salamsall, A. (2006). Abstracts paper presented at the 1AU/IAUP President’s symposium on
institutional autonomy revisited: National dimensions, cross-regional experiences. Chiang Mai,
Thailand. 21. Salmi, J. (2007). Autonomy from the state vs responsiveness to markets. Higher Education Policy,
20(3).223-242. 22. Sizer, J.& Mackie, D. (1995). Greater accountability: The price of autonomy. Higher Education
Management, 7(3):323-333. 23. Sudha Rao, K. (1990). Autonomy concept and educational institution. IIMB management Review
5(1), 117-25. 24. Sudha Rao,K.& Mathew,G. (1993).Autonomous scheme: Myths and realities. University News,
31(12), 9-13. 25. Williams, P. (1992). Total quality management: Some thoughts. Higher education, 25(3). 26. Xavier Alphonse S.J., and Mani Jacob, (2000). Autonomous Colleges in India, Lokadobhan Kendra
Publications, New Delhi. Volume 5, Issue 2, March-April 2023 IJFMR23021778 14
|
https://openalex.org/W2417050404
|
https://europepmc.org/articles/pmc4682069?pdf=render
|
English
| null |
Assessing the pollution risk of soil Chromium based on loading capacity of paddy soil at a regional scale
|
Scientific reports
| 2,015
|
cc-by
| 7,442
|
Assessing the pollution risk of
soil Chromium based on loading
capacity of paddy soil at a regional
scale
eived: 24 July 2015
8 November 2015
OPEN received: 24 July 2015
accepted: 18 November 2015
Published: 17 December 2015 received: 24 July 2015
accepted: 18 November 2015
Published: 17 December 2015 gkai Qu1, Weidong Li2, Chuanrong Zhang2, Biao Huang1 & Yongcun Zhao1 Mingkai Qu1, Weidong Li2, Chuanrong Zhang2, Biao Huang1 & Yongcun Zhao1 The accumulation of a trace metal in rice grain is not only affected by the total concentration of the
soil trace metal, but also by crop variety and related soil properties, such as soil pH, soil organic matter
(SOM) and so on. However, these factors were seldom considered in previous studies on mapping the
pollution risk of trace metals in paddy soil at a regional scale. In this study, the spatial nonstationary
relationships between rice-Cr and a set of perceived soil properties (soil-Cr, soil pH and SOM) were
explored using geographically weighted regression; and the relationships were then used for calculating
the critical threshold (CT) of soil-Cr concentration that may ensure the concentration of rice-Cr being
below the permissible limit. The concept of “loading capacity” (LC) for Cr in paddy soil was then defined
as the difference between the CT and the real concentration of Cr in paddy soil, so as to map the
pollution risk of soil-Cr to rice grain and assess the risk areas in Jiaxing city, China. Compared with the
information of the concentration of the total soil-Cr, such results are more valuable for spatial decision
making in reducing the accumulation of rice-Cr at a regional scale. With increasing worldwide industrialization and rapid urbanization, pollution of trace metals (i.e., heavy metals)
in the terrestrial environment has become a global problem1–3. Trace metals in soil may accumulate in crops,
directly or indirectly threatening human health4,5. Therefore, many regulatory bodies in different countries, such
as the Ministry of Health of China, the United States Environment Protection Agency (US EPA), the Food and
Agriculture Organization (FAO) and Word Health Organization (WHO) of United Nations, have strictly regulated
the maximum permitted concentrations of toxic trace metals in foodstuffs6–8. For Chromium (Cr), the maximum
permissible limit in rice grain is 1 mg kg−1 in China6, and such standards have the force of law. p
g
g g
Crops can only absorb soil trace metals in dissolved (from soil solution) and exchangeable (from organic and
inorganic components) forms, and trace metals in other forms cannot be absorbed directly by plants9. www.nature.com/scientificreports www.nature.com/scientificreports www.nature.com/scientificreports Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 Assessing the pollution risk of
soil Chromium based on loading
capacity of paddy soil at a regional
scale
eived: 24 July 2015
8 November 2015
OPEN The LC for a trace metal in soil reflects the risk degree of
the level of the trace metal in soil to a crop. permissible limits. The critical threshold (CT) of a trace metal in paddy soil, which corresponds to the permissible
limit of the trace metal in crop, may be deduced from the permissible limit and the relationships between the con-
centration of the trace metal in crop and its impact factors in soil. These relationships are often calibrated using
traditional regression methods such as ordinary least squares regression (OLS)13–15. However, this kind of models
are aspatial, that is to say, geographical location information is not considered in the estimation of model parame-
ters16–19 and consequently the results obtained do not reflect the local characteristics of the relationships between a
trace metal in a crop and its impact factors in the soil. Furthermore, traditional regression analysis methods such as
OLS are based on the assumption of independence of field observations, failing to capture spatial data dependence
when applied to geo-referenced data20. Global relationships derived from OLS regression analysis between a trace
metal in rice grain and related impact factors in paddy fields may deviate considerably from those observed locally,
and may provide only an average impression of the relationships over an entire region21. Therefore, GWR may be
a useful tool to explore the spatially varying relationships between a trace metal in a crop and the impact factors
in the soil. Based on the relationships and the permissible limit for the concentration of a trace metal in crop, the
CT of the trace metal in soil that may ensure the concentration of the trace metal in rice grain being below the
corresponding permissible limit could be deduced. The CT can reflect the sensitivity of crops to trace metals in
soil. In this study, another index, loading capacity (LC), which is defined as the difference between the CT and the
real concentration of a trace metal in soil, was assessed. The LC for a trace metal in soil reflects the risk degree of
the level of the trace metal in soil to a crop. p
Rice is the second most abundant crop worldwide and is the dominant grain in China22. Jiaxing is a typical
agricultural area in east China, and rice has been planted there for a long time. Assessing the pollution risk of
soil Chromium based on loading
capacity of paddy soil at a regional
scale
eived: 24 July 2015
8 November 2015
OPEN (%)
Permissible
limit
Numbe†
Rice Cr (mg kg−1)
0.00
1.15
0.46
0.26
57.16
1.00
5
Soil Cr (mg kg−1)
35.00
122.33
60.63
9.61
15.85
Soil pH
4.48
8.01
6.38
0.61
9.60
Soil organic matter (mg kg−1)
6.62
43.75
24.00
8.80
35.90 Table 1. Sample summary statistics for Cr concentrations in rice grain and three related soil properties
in paddy fields. †Number of sampling sites where rice-Cr concentrations exceed the permissible limit for ric
grain. permissible limits. The critical threshold (CT) of a trace metal in paddy soil, which corresponds to the permissible
limit of the trace metal in crop, may be deduced from the permissible limit and the relationships between the con-
centration of the trace metal in crop and its impact factors in soil. These relationships are often calibrated using
traditional regression methods such as ordinary least squares regression (OLS)13–15. However, this kind of models
are aspatial, that is to say, geographical location information is not considered in the estimation of model parame-
ters16–19 and consequently the results obtained do not reflect the local characteristics of the relationships between a
trace metal in a crop and its impact factors in the soil. Furthermore, traditional regression analysis methods such as
OLS are based on the assumption of independence of field observations, failing to capture spatial data dependence
when applied to geo-referenced data20. Global relationships derived from OLS regression analysis between a trace
metal in rice grain and related impact factors in paddy fields may deviate considerably from those observed locally,
and may provide only an average impression of the relationships over an entire region21. Therefore, GWR may be
a useful tool to explore the spatially varying relationships between a trace metal in a crop and the impact factors
in the soil. Based on the relationships and the permissible limit for the concentration of a trace metal in crop, the
CT of the trace metal in soil that may ensure the concentration of the trace metal in rice grain being below the
corresponding permissible limit could be deduced. The CT can reflect the sensitivity of crops to trace metals in
soil. In this study, another index, loading capacity (LC), which is defined as the difference between the CT and the
real concentration of a trace metal in soil, was assessed. Assessing the pollution risk of
soil Chromium based on loading
capacity of paddy soil at a regional
scale
eived: 24 July 2015
8 November 2015
OPEN Under the same soil use and
management, many soil properties, such as soil pH and SOM and so on, have been in a relatively stable state in
the study area. In this study, a regional scale survey in Jiaxing city, China, was carried out to map the CT of the
concentration of Cr (Chromium) in paddy soil (soil-Cr) and its corresponding LC in a soil-rice system at a regional
scale, under real field conditions. Soil pH and SOM are two of the major factors affecting soil processes and prop-
erties - chemical, physical and biological, such as Eh, CEC and so on23,24. Considering the redundancy among
explanatory variables and the large amount of financial and human cost for other minor factors, only three major
factors (i.e. soil-Cr, soil pH and soil organic matter) were adopted to explore the joint influence of soil factors on
the accumulation of Cr in rice grain in the study area. The specific objectives of this study were to: (1) explore the
spatially non-stationary relationships between Cr in rice grain (rice-Cr) and major related soil properties (soil-Cr,
soil pH and SOM) using GWR; (2) map the spatial distribution of the CT of soil-Cr that ensures the concentration
of rice-Cr not exceeding the corresponding permissible limit; (3) map the LC of soil-Cr to rice crop in Jiaxing city;
and (4) delineate the risk areas where rice-Cr may exceed or may potentially exceed the permissible limit. Because
the results obtained by the suggested method contained the influence of the crop variety and related soil properties,
they would be valuable for developing more specific measures to reduce the accumulation of Cr in rice grain of
specific variety in risk areas of the study area. Assessing the pollution risk of
soil Chromium based on loading
capacity of paddy soil at a regional
scale
eived: 24 July 2015
8 November 2015
OPEN Many pre-
vious studies have shown that the availability of trace metals in soil was associated with several environmental soil
factors, including pH, soil organic matter content (SOM), oxidation-reduction status (Eh), cation exchange capacity
(CEC), and the concentration of calcium carbonate, clay minerals, Fe and Mn oxides10,11. Apart from the levels of
trace metals themselves, soil pH plays the most important role in determining phytoavailability of trace metals in
soil, due to its strong effect on speciation and solubility of trace metals both in soil and in soil solution9,12. SOM is
the other major environmental factor affecting the phytoavailability of trace metals, being a major contributor to
the capability of a soil to retain trace metals in exchangeable forms9.hf p
y
g
The accumulation of a trace metal in rice grain is not only affected by the concentration of the trace metal in
paddy soil, but also by rice variety and related soil properties. Therefore, for a specific rice variety, the degree of
pollution risk of a trace metal in paddy soil is affected by multiple soil properties, such as soil pH, SOM and so
on. However in previous studies, these soil factors were seldom considered in mapping the pollution risk of trace
metals in paddy soil at a regional scale. Within a region, all of the environmental factors that impact trace metal
phytoavailability in soil are non-stationary spatial variables, which may eventually lead to spatial non-stationarity
of the soil trace metal thresholds that ensure concentrations of trace metals in crops do not exceed corresponding 1Key Laboratory of Soil Environment and Pollution Remediation, Institute of Soil Science, Chinese Academy
of Sciences, 210008 Nanjing, China. 2Department of Geography and Center for Environmental Sciences and
Engineering, University of Connecticut, Storrs, Connecticut 06269. Correspondence and requests for materials
should be addressed to M.K.Q. (email: qumingkai@gmail.com) Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 1 www.nature.com/scientificreports/ Properties
Min. Max. Mean
S.D. C.V. (%)
Permissible
limit
Numbe†
Rice Cr (mg kg−1)
0.00
1.15
0.46
0.26
57.16
1.00
5
Soil Cr (mg kg−1)
35.00
122.33
60.63
9.61
15.85
Soil pH
4.48
8.01
6.38
0.61
9.60
Soil organic matter (mg kg−1)
6.62
43.75
24.00
8.80
35.90
Table 1. Sample summary statistics for Cr concentrations in rice grain and three related soil pr
in paddy fields. †Number of sampling sites where rice-Cr concentrations exceed the permissible lim
grain. Properties
Min. Max. Mean
S.D. C.V. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 Results and Discussions
Sample data analysis.
Sel Variable
Rice Cr
Soil Cr
Soil pH
Soil organic matter
Rice Cr
1
0.71**
− 0.48**
0.51**
Soil Cr
1
− 0.13*
0.09
Soil pH
1
0.07
Soil organic matter
1
Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil
properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level
(2-tailed). Variable
Rice Cr
Soil Cr
Soil pH
Soil organic matter
Rice Cr
1
0.71**
− 0.48**
0.51**
Soil Cr
1
− 0.13*
0.09
Soil pH
1
0.07
Soil organic matter
1 Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil
properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level
(2-tailed). Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil
properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level
(2-tailed). Spatially non-stationary relationships. Local regression parameters (i.e. intercept, slopes and local R2)
from GWR of rice-Cr against the three explanatory variables (i.e., soil-Cr, pH, and SOM) are presented in Fig. 1. The spatially varied regression parameters estimated by GWR mean that the relationships between rice-Cr and
related soil properties were spatially non-stationary, varying from one location to another over the study area
(Fig. 1). The influences of the three soil properties on Cr accumulation in rice grain can be explained by their
respective regression coefficients. A positive coefficient means a positive contribution while a negative coefficient
indicates a negative contribution. Similarly, a large absolute coefficient value means a strong correlation while a
small absolute coefficient value indicates a weak correlation. The strength of the influence of each soil factor on Cr
accumulation in rice grain changes with the variation of its coefficient value over space.h g
gfi
p
The majority of soil trace metals is bound to minerals and passive SOM, and therefore are not phytoavailable25. However, active SOM may enhance metal phytoavailability by increasing CEC in soil, enhancing metal chelation
and increasing the solubility of nutrients in soil solution26. Hence, the influence of SOM on trace metal accumu-
lation in plants is not only dependent on its content, but also on its components. Moreover, the phytoavailabilities
of different metal minerals vary with soil pH. However, soil pH, and the contents and speciation of soil Cr and
SOM, are not the same across the study area. Results and Discussions
Sample data analysis.
Sel This fact should be the main reason that causes the effects of the
three most important soil properties (i.e., soil-Cu, pH, and SOM) on the accumulation of Cr in rice grain to vary
spatially (i.e., show apparent spatial non-stationarity). Rice cultivars may also have an important influence on the
accumulation of Cr in rice grain27. In this study, the japonica rice cultivar Xiushui 63, which dominates Jiaxing
city, was sampled. If other rice cultivars were planted in the study area, influence of the related soil properties in
paddy fields on the Cr accumulation in rice grain might not be exactly the same28–30. Therefore, pollution risk of
a trace metal in paddy soil should be closely related to the type of crops grown.h p
y
y
yp
p g
The explanatory power of the GWR model also varies spatially, as demonstrated by the local estimates of R2
for the model (see Fig. 1e). The R2 map for the GWR model has varying values from 0.51 to 0.92. Considering
the redundancy among explanatory variables and the large amount of financial and human cost for other minor
factors, only three major factors (i.e. soil-Cr, soil pH and soil organic matter) were adopted to explore the joint
influence of soil factors on the accumulation of Cr in rice grain in the study area. It can be seen from Fig. 1e that
the three major soil factors (i.e. soil-Cr, soil pH and SOM) could well explained the accumulation of Cr in rice
grain. In this study, adaptive bandwidth was used in GWR when modeling the relationships between rice grain
and the three most important explanatory variables (i.e., soil-Cr, pH, and SOM). Therefore, the bandwidth in the
model changes spatially with the local density of sample points. As the bandwidth declines or enlarges, the GWR
analysis becomes increasingly local or global, revealing more or less geographical detail like some sort of spatial
microscope20. The sparseness of sample points in the central-northwest zone of the study area may be an important
reason why the explanatory power of the GWR model is relatively weak. Spatial distribution of the critical threshold of Cr in paddy soil. The CT values of soil-Cr at all sam-
pling locations were deduced using the permissible limit for rice-Cr from the Chinese National Standards and the
local relationships between rice-Cr and soil properties calibrated by GWR. Results and Discussions
Sample data analysis.
Sel Sample data analysis. Selected descriptive statistics of sample data for rice-Cr concentrations and three
impact factors in soil (i.e., soil-Cr, soil pH and SOM) are listed in Table 1. Rice-Cr, soil-Cr and SOM all have wide
value ranges. The CVs for rice-Cr, soil-Cr, pH and SOM are 57.16%, 15.85%, 9.60%, and 35.90%, respectively,
indicating that rice-Cr, soil-Cr, and SOM exhibited moderate variability in the study area while pH was of low
variability. The permissible limit for the concentration of rice-Cr in Chinese National Standards is 1 mg kg−1 6. In this study, five rice samples reached this level, which implied that the concentrations of soil-Cr at these five
sampling points all exceeded the corresponding CTs of soil-Cr at these locations. The CTs of soil-Cr vary spatially
because the accumulation of Cr in rice grain is related with many spatially variable factors, including soil-Cr,
SOM content and type, and soil pH, among others, rather than just total soil-Cr. yp
p
g
j
To characterize the global infulence of the three major factors in soil on Cr accumulation in rice grain, we cal-
culated the pearson’s non-parametric correlation coefficients between each soil property and rice-Cr (Table 2). The
results show that rice-Cr is positively correlated with soil-Cr (correlation coefficient r = 0.71) and SOM (r = 0.51)
and negtatively correlated with soil pH (r = − 0.48), all being significant at the 0.01 level. These global correlation
relationships indicate that soil-Cr, soil pH, and SOM all play important roles in Cr accumulation in rice grain, and
soil-Cr is the most important factor among the three determinants because it has the highest correlation coefficient
with rice-Cr. However, the correlation coefficients between the three soil properies are not significant at the 0.01
level. Therefore, the three major factors were adopted in exploring the joint influence on the accumulation of Cr
in rice grain in the study area. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 2 www.nature.com/scientificreports/ Variable
Rice Cr
Soil Cr
Soil pH
Soil organic matter
Rice Cr
1
0.71**
− 0.48**
0.51**
Soil Cr
1
− 0.13*
0.09
Soil pH
1
0.07
Soil organic matter
1
Table 2. Pearson’s non-parametric correlation coefficients between rice Cr concentration and related soil
properties. *Correlation is significant at the 0.05 level (2-tailed). **Correlation is significant at the 0.01 level
(2-tailed). Results and Discussions
Sample data analysis.
Sel The mean CT value (147.28 mg kg−1)
is far greater than the mean Cr concentration (60.63 mg kg−1) in paddy soil in Jiaxing city. Therefore, the risk
for soil Cr exceeding its local CTs is relatively low in the study area. The CV for soil-Cr CT is 52.09%, indicating
moderate variability across the study area. y
y
The spatial distribution map of CT of soil-Cr, interpolated by OK, is presented in Fig. 2. Low values mainly
appear in the west side and two wide east-west strips located in the middle-north and middle-south of the study
area. This means that rice is more sensitive to soil-Cr in the west side and two strips than in other places in the
study area. Assessing the risk areas of soil Cr to rice grain. The LC of soil-Cr reflects the risk degree of soil Cr at a
location to rice grain. The spatial distribution pattern of LC of soil-Cr (Fig. 3a) is similar to the spatial pattern of
CT of soil-Cr (Fig. 2). In the study, the mean value of CT is far greater than the mean Cr concentration in paddy
soil at sample locations across Jiaxing city. Thus, after soil-Cr CT values were subtracted by corresponding real
concentration values of soil-Cr at each location, the overall spatial distribution trend of the differences was not
much different from that of the CT values of soil-Cr across the study area. Areas with low LC values should be
intensively monitored to prevent further accumulation of Cr in rice grain. The maps for risk areas delineated from
the LC map based on different risk grades I, II and III (i.e., 20 mg kg−1 ≤ LC < 50 mg kg−1, 0 mg kg-1 ≤ LC < 20 mg
kg−1, LC < 0 mg kg−1) are provided in Fig. 3b. Risk areas mainly occur in the west side and the two east-west
stripes, where low LC values were observed and intensive monitoring should be first implemented in these areas. In risk areas of grade III, the LC values of soil-Cr are negative, indicating that rice-Cr may have already exceeded Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 3 www.nature.com/scientificreports/ Figure 1. Local GWR parameters at sampling locations for Cr in rice grain against three mostly related
soil properties. Results and Discussions
Sample data analysis.
Sel (a) model intercept, (b) regression coefficient of soil Cr concentration, (c) regression coefficient
of soil pH, (d) regression coefficient of soil organic matter (SOM), and (e) local estimate of the coefficient of
determination (R2) (Local GWR parameters at sampling locations were calculated using the GWR 4.0 and the
maps were created using the ArcGIS 9.3). Figure 1. Local GWR parameters at sampling locations for Cr in rice grain against three mostly related
soil properties. (a) model intercept, (b) regression coefficient of soil Cr concentration, (c) regression coefficient
of soil pH, (d) regression coefficient of soil organic matter (SOM), and (e) local estimate of the coefficient of
determination (R2) (Local GWR parameters at sampling locations were calculated using the GWR 4.0 and the
maps were created using the ArcGIS 9.3). the permissible limit in these places. In these areas, remedial measures should be implemented, such as increasing
soil pH to reduce the phytoavailability of the soil Cr, planting other crops that exhibit weaker propensity for Cr
accumulation and so on. In the study, the assessment of the pollution risk of soil-Cr was based on a specific recep-
tor, japonica rice cultivar Xiushui 63. The pollution risk of soil-Cr to another rice variety may not be the same,
because the absorptive capability of rice crop to trace metals may vary with different rice cultivars. the permissible limit in these places. In these areas, remedial measures should be implemented, such as increasing
soil pH to reduce the phytoavailability of the soil Cr, planting other crops that exhibit weaker propensity for Cr
accumulation and so on. In the study, the assessment of the pollution risk of soil-Cr was based on a specific recep-
tor, japonica rice cultivar Xiushui 63. The pollution risk of soil-Cr to another rice variety may not be the same,
because the absorptive capability of rice crop to trace metals may vary with different rice cultivars. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 Materials and Method
Study area and data. h Study area and data. This study was conducted in Jiaxing city, a part of the Taihu Plain in northeast
Zhejiang Province (Fig. 4). The study area is bounded by the longitudes of 120°18′ and 121°16′ east, and the
latitudes of 30°21′ and 31°2′ north, and has an area of 3915 km2 (Fig. 4). Situated within the northern subtropical
monsoonal climate zone, the study site has a temperate-humid climate throughout the year and four distinct
seasons, with an average annual temperature of 15.9 °C and an average annual precipitation of 1168.6 mm. Due
to the distribution of dense river networks and abundant water resources, Jiaxing is a typical agricultural area in
east China, where paddy field is the dominant land use type. The major soil type is Stagnic Anthrosols (i.e. Gleyi-
Stagnic Anthrosols, Fe-leachi-Stagnic Anthrosols, Fe-accumuli-Stagnic Anthrosols, Hapli-Stagnic Anthrosols),
which were derived from lacustrine alluvium through long-term paddy cultivation31. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 4 www.nature.com/scientificreports/ www.nature.com/scientificreports/ Figure 2. Spatial distribution of the critical threshold (CT) of Cr in soil that may ensure the concentration
of Cr in rice grain being below the permissible limit of Cr in rice grain (ArcGIS 9.3). igure 2. Spatial distribution of the critical threshold (CT) of Cr in soil that may ensure the concentration
f Cr in rice grain being below the permissible limit of Cr in rice grain (ArcGIS 9.3). Figure 3. Spatial distributions of the loading capacity (LC) of Cr in soil and the risk areas. (a) loading
capacity, (b) risk areas at grade I (20 mg kg−1 ≤ LC < 50 mg kg−1), grade II (0 mg kg−1 ≤ LC < 20 mg kg−1) and
grade III (LC < 0 mg kg−1) (ArcGIS 9.3). Figure 3. Spatial distributions of the loading capacity (LC) of Cr in soil and the risk areas. (a) loading
capacity, (b) risk areas at grade I (20 mg kg−1 ≤ LC < 50 mg kg−1), grade II (0 mg kg−1 ≤ LC < 20 mg kg−1) and
grade III (LC < 0 mg kg−1) (ArcGIS 9.3). Figure 4. Study area and spatial distribution of sampling points (ArcGIS 9.3). Figure 4. Study area and spatial distribution of sampling points (ArcGIS 9.3). Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 5 www.nature.com/scientificreports/ In October, 2006, random sampling of soil and rice grain was conducted in paddy fields for aquatic rice produc-
tion, while mountain and urban areas were avoided. β( ) =
( )
( )
−
ˆ u
X W u X
X W u Y
[
]
T
T
1 ( )
2 where X and Y are the one-dimensional arrays formed by the values of variables x and y; W(u) is the local weights
matrix, which is calculated from a kernel function that places more weights on locations spatially closer to the
calibration location20. As sample densities vary over space, the adaptive bi-square kernel function was adopted
for weight estimation in the study. The optimal adaptive bandwidth was chosen based on Akaike information
criterion as described in Fotheringham et al.20, and 35 surrounding data points were finally used for calibrating
the GWR model at each location. Critical threshold of Cr in paddy soil. The critical threshold (CT) for the concentration of soil-Cr is
defined as the maximum concentration of soil-Cr that ensures the concentration of rice-Cr is below its permissi-
ble limit. Such an index essentially reflects the sensitivity of rice grain to a trace metal in paddy soil. At a specific
location, it can be deduced from the permissible limit of rice-Cr and the local relationships between rice-Cr and
its impact factors in soil, which are calibrated by GWR. In this study, the CT of soil-Cr at a specific location was
estimated using a function revised from Equation (1): β
β
β
β
( ) =
−
( ) −
( )
( ) −
( )
( )
( )
( )
T
P
x
x
u
u
u
u
u
u
u
3
1
1
0
2
2
3
3
1 ( )
3 where P1 is the permissible limit for the concentration of rice-Cr, T1(u) is the CT of soil-Cr at location u, and
the meanings of other symbols are the same as in equation (1). For this study, equation (3) can be more clearly
rewritten as where P1 is the permissible limit for the concentration of rice-Cr, T1(u) is the CT of soil-Cr at location u, and
the meanings of other symbols are the same as in equation (1). Materials and Method
Study area and data. h 160 pairs of samples of rice grain and surface soils (0–15 cm
depth) were collected from the same locations in rice fields throughout the study area (Fig. 4). The rice genotype
was mainly the japonica rice cultivar Xiushui 63. Rice plants at grain maturity (just before harvest) were cut with
scissors underneath their ears. At each sampling point, 4–5 sub-samples within a distance of 10 m surrounding a
specific sampling location were randomly chosen to obtain a composite sample.t pi
p
g
y
p
p
Soil samples were air-dried at room temperature (20–22 °C) and after stones or other debris were removed,
soil samples were sieved <2 mm. A portion of each soil sample (50 g) was ground in an agate grinder to a particle
size of <0.149 mm (i.e., passing through a sieve of 1/100 mm meshes). Grain samples were oven-dried at 38 °C to
constant weight. Dried rice samples were first hulled, and then ground using a stainless steel grinder into powder
(< 0.25 mm) for trace metal analysis. Standard methods commonly used in China were adopted to measure the
concentrations of rice-Cr, soil-Cr, SOM and soil pH32. The total Cr concentrations of soil samples were deter-
mined using flame-atomic absorption spectroscopy (FAAS)32. The total Cr concentrations of rice grain samples
were determined with graphite furnace atomic absorption spectroscopy (GFAAS)32. Soil pH was measured in a
soil suspension (soil:water = 1:2.5 ) with a glass electrode32. Soil organic matter was obtained by the potassium
bichromate wet combustion procedure32. For quality control, duplicates, method blanks, and standard reference
materials were also analyzed. Geographically weighted regression. GWR was used to model the relationships between rice-Cr and
three most related soil properties in paddy soil (i.e. Cr, pH and SOM). Compared with ordinary least square
(OLS) regression, GWR has the advantage of taking the spatial locations of samples into consideration, permit-
ting parameters to vary spatially, thus better reflecting the spatially varying relationships between dependent and
independent variables. Materials and Method
Study area and data. h Here a GWR model with one dependent variable and three independent variables was
re-written from Fotheringham et al.20 as: ( )
1 β
β
β
β
ε
( ) =
( ) +
( )
( ) +
( )
( ) +
( )
( ) +
( )
( )
y
x
x
x
u
u
u
u
u
u
u
u
u
1
0
1
1
2
2
3
3 where u denotes a specific spatial location vector; y(u), x1(u), x2(u), x3(u) and ε(u) represent the dependent variable,
the three independent variables (i.e. soil Cr, soil pH, SOM) and the Gaussian error term, respectively, at the spatial
position u; β0(u), β1(u), β2(u), and β3(u) represent the model intercept for location u and the local regression coef-
ficients (i.e., slopes) for independent variables x1, x2, and x3, respectively, at location u. The regression coefficients
at location u can be estimated using a weighting function20. β( ) =
( )
( )
( )
−
ˆ u
X W u X
X W u Y
[
]
2
T
T
1 References The availability of Cd, Pb and Zn and their relationships with soil pH and microbia
biomass in soils amended by natural clinoptilolite. Plant Soil Environ. 51, 26–33 (2005). y
p
13. Li, F., Shan, X., Zhang, T. & Zhang, S. Evaluation of plant availability of rare earth elements in soils by chemical fractionation
multiple regression analysis. Environ. Pollut. 102, 269–277 (1998). p
g
y
(
)
14. Wang, K., Zhang, C. & Li, W. Predictive mapping of soil total nitrogen at a regional scale: A comparison between geographi
weighted regression and ordinary cokriging. Appl. Geogr. 42, 73–85 (2013).i g
g
y
g
g
pp
g
15. Zhao, K. et al. Modeling transfer of heavy metals in soil–rice system and their risk assessment in paddy fields. Environ. Earth Sci. 59,
519–527 (2009).i (
)
16. Foody, G. M. Geographical weighting as a further refinement to regression modelling: An example focused on the NDVI–rainfall
relationship. Remote Sens. Environ. 88, 283–293 (2003).f p
7. Pratt, B. & Chang, H. Effects of land cover, topography, and built structure on seasonal water quality at multiple spatial scales. J
Hazard. Mater. 209, 48–58 (2012).i (
)
18. Zhang, C., Tang, Y., Luo, L. & Xu, W. Outlier identification and visualization for Pb concentrations in urban soils and its implications
for identification of potential contaminated land. Environ. Pollut. 157, 3083–3090 (2009). i
p
9. Chang, H. & Psaris, M. Local landscape predictors of maximum stream temperature and thermal sensitivity in the Columbia River
basin, USA. Sci. Total Environ. 461-462, 587–600 (2013).h 0. Fotheringham, A. S., Brunsdon, C. & Charlton, M. Geographically weighted regression: The analysis of spatially varying relationships
27–64 (John Wiley & Sons, 2002). y
21. Tu, J. & Xia, Z. Examining spatially varying relationships between land use and water quality using geographically weighted regression
I: Model design and evaluation. Sci. Total Environ. 407, 358–378 (2008).i g
22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. Spatial dependence and bioavailability of metal fractions in paddy fields on m g
22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. Spatial dependence and bioavailability of metal fractions in paddy f
concentrations in rice grain at a regional scale J Soils Sediments 11 1165 1177 (2011) 22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. β( ) =
( )
( )
−
ˆ u
X W u X
X W u Y
[
]
T
T
1 The LC at a specific position u can be estimated using: ( ) =
( ) −
( )
( )
_
_
_
LC
T
X
u
u
u
6
soil Cr
soil Cr
soil Cr ( ) =
( ) −
( )
_
_
_
LC
T
X
u
u
u
soil Cr
soil Cr
soil Cr ( )
6 where
( )
_
T
u
soil Cr
and
( )
_
X
u
soil Cr
are OK estimates of the CT and the total concentration of soil-Cr at position u,
respectively. A smaller LC value indicates higher risk for soil-Cr to exceed the CT at the position u and also indicates
that rice grain is more vulnerable to soil-Cr. When the LC of soil-Cr at a location has a negative value, it means
that rice-Cr at the location should already exceed its permissible limit. In this study, GWR analyses and kriging interpolation were performed on a regular square grid with a cell
size of 400 m × 400 m. GWR 4.0 was used for performing GWR analyses. ArcGIS 9.3 was used for geostatistical
computation and producing maps. References 1. Lee, C. S., Li, X. D., Shi, W. Z., Cheung, S. C. & Thornton, I. Metal contamination in urban, suburban, and country park soils of Hong
Kong: A study based on GIS and multivariate statistics. Sci. Total Environ. 356, 45–61 (2006). g
y
2. Facchinelli, A., Sacchi, E. & Mallen, L. Multivariate statistical and GIS-based approach to identify heavy metal sources in soils. Environ
Pollut. 114, 313–324 (2001). (
)
3. Qu M. K., Li, W. D., Zhang, C. R., Huang, B. & Zhao, Y. C. Spatially nonstationary relationships between copper accumulation in rice
grain and some related soil properties in paddy fields at a regional scale. Soil Sci. Soc. Am. J. 78, 1765–1774 (2014). Ad
C T
l
l
h
b
l b l
d
k
f
l
(S
) 4. Adriano, D. C. Trace elements in terrestrial environments: Biogeochemistry, bioavailability, and risks of metals. 5–15 (Springer, 2001)
5. Qu M. K., Li, W. D. & Zhang, C. R. Assessing the risk costs in delineating soil nickel contamination using sequential Gaussian
simulation and transfer functions. Ecol. Inform. 13, 99–105 (2013). f
6. Ministry of Health of China. Maximum level of contaminants in food (GB2762–2005). (In Chinese) 1–5 (Standards Press of China,
Beijing, 2005). j
g
7. FAO/WHO. List of contaminants and their maximum levels in foods, 1st edn, vol. XVII. 51–69 (Codex Alimentarius Comm
1984).f )
8. US EPA. Handbook for non-cancer health effects evaluation. 2–5 (United States Environmental Protection Agency, 2000).hl f
9. Zeng, F. et al. The influence of pH and organic matter content in paddy soil on heavy metal availability and their uptake by rice p
Environ. Pollut. 159, 84–91 (2011).fl (
)
0. Kashem, M. A. & Singh, B. R. Metal availability in contaminated soils: I. Effects of flooding and organic matter on changes in Eh, pH
and solubility of Cd, Ni and Zn. Nutr. Cycling Agroecosyst. 61, 247–255 (2001).fl y
y
g
g
y
1. Antonladis V., Robinson, J. S. & Alloway, B. J. Effects of short-term pH fluctuations on cadmium, nickel, lead, and zinc availability
to ryegrass in a sewage sludge-amended field. Chemosphere 71, 759–764 (2008).h y
y
g
g
y
11. Antonladis V., Robinson, J. S. & Alloway, B. J. Effects of short-term pH fluctuations on cadm
to ryegrass in a sewage sludge-amended field. Chemosphere 71, 759–764 (2008).h y g
g
gi
p
2. Muhlbachova, G., Simon, T. & Pechova, M. β( ) =
( )
( )
−
ˆ u
X W u X
X W u Y
[
]
T
T
1 For this study, equation (3) can be more clearly
rewritten as β
β
β
β
( ) =
−
( ) −
( )
( ) −
( )
( )
( )
( )
_
_
_
T
P
X
X
u
u
u
u
u
u
u
4
soil Cr
rice Cr
pH
pH
SOM
SOM
soil Cr
0 ( )
4 where X represents the value of an explanatory variable and u denotes a spatial location vector. In this study,
Price_Cr = 1.0 mg kg−1. Kriging interpolation. In this study, ordinary kriging (OK) was used to map the spatial distributions of Cr
and CT in paddy soil in Jiaxing city, based on the calculated CT values at 160 sampling locations. OK is a widely
used interpolation method for continuous variables, and can minimize the variance of estimation errors and
investigation costs33–36. OK is expressed as a linearly weighted average of observations in the neighborhood of
unsampled location x0: Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 6 www.nature.com/scientificreports/ ∑λ
(
) =
(
)
( )
=
y
y
x
x
5
a
n
a
a
0
1 ∑λ
(
) =
(
)
=
y
y
x
x
a
n
a
a
0
1 ( )
5 where (
)
y x0 is the predicted value at location x0, (
)
y xa is the value of the target soil property at position xa, and λ a
is the weight of the corresponding datum, obtained from the ordinary kriging system with the constraint
λ
∑
=
=
1
a
n
a
1
. Here n is the number of sample data in the neighborhood. The interpolated grid had a resolution of
400 m × 400 m. Readers may see Goovaerts37,38 for more technical description of OK. Loading capacity of Cr in paddy soil. Here we propose the concept of “loading capacity” (LC): The LC for
soil-Cr is defined as the difference between the CT and the real concentration of soil-Cr. This index essentially
reflects the risk degree of soil-Cr to rice grain. ∑λ
(
) =
(
)
=
y
y
x
x
a
n
a
a
0
1 Acknowledgementsh c
o
edge
e ts
This work was supported by the National Natural Science Foundation of China (41401523), the Natural Science
Foundation of Jiangsu Province (BK20141055) and the China Postdoctoral Science Foundation Funded Project g
This work was supported by the National Natural Science Foundation of China (41401523), the Natural Science h
pp
y
(
),
Foundation of Jiangsu Province (BK20141055) and the China Postdoctoral Science Foundation Funded Project
(2014T70554). www.nature.com/scientificreports/ www.nature.com/scientificreports/ 9. Zeng, F., Mao, Y., Cheng, W., Wu, F. & Zhang, G. Genotypic and environmental variation in chromium, cadmium and lead
concentrations in rice. Environ. Pollut. 153, 309–314 (2008). 0. Cao, F. et al. Genotypic and environmental variation in cadmium, chromium, lead and copper in rice and approaches for reducing
the accumulation. Sci. Total Environ. 496, 275–281 (2014).i the accumulation. Sci. Total Environ. 496, 275–281 (2014). (
)
1. Gong, Z. T., Zhang, G. L. & Chen, Z. C. Development of soil classification in China. In: Eswaran, H., Ahrens, R., Rice, T. & Stewart
B., editors, Soil classification: A global desk reference. 101–125 (CRC Press, 2003). i
32. Agricultural Chemistry Committee of China. Conventional methods of soil and agricultural chemistry analysis. (In Chinese) 25
(Sci. Press, Beijing, 1983).i (
j
g
)
33. Ferguson, C. C. et al. Risk Assessment for Contaminated Sites in Europe, Vol. 1. Scientific Basis. 135–146 (LQM Press, 1998). i
34. Saito, H., McKenna, S. A., Zimmerman, D. A. & Coburn, T. C. Geostatistical interpolation of object counts collected from mu
strip transects: Ordinary kriging versus finite domain kriging. Stoch. Env. Res. Risk A. 19, 71–85 (2005). i
35. Lark, R. M. & Webster, R. Geostatistical mapping of geomorphic variables in the presence of trend. Earth Surf. Proc. Land. 31, 862
(2006).f (2006). 36. Qu, M. K., Li, W. D., Zhang, C. R. & Wang, S. Q. Effect of Land Use Types on the Spatial Prediction of Soil Nitrogen. Gisci. Remote
Sens. 49, 397–411 (2012). 36. Qu, M. K., Li, W. D., Zhang, C. R. & Wang, S. Q. Effect of Land Use Types on the Spatial Prediction
Sens. 49, 397–411 (2012). (
)
37. Goovaerts, P. Geostatistics for natural resources evaluation. 125–185 (Oxford Univ. Press, 1997). 37. Goovaerts, P. Geostatistics for natural resources evaluation. 12 f
(
)
38. Goovaerts, P., Collins, M., Mcbratney, A., Voltz, M. & Walter, C. Estimation or simulation of soil properties? an optimization problem
with conflicting criteria. Geoderma 97, 165–186 (2000). 38. Goovaerts, P., Collins, M., Mcbratney, A., Voltz, M. & Walter, C. Estimation or simulation of soil
with conflicting criteria. Geoderma 97, 165–186 (2000). Author Contributions M.K.Q., W.D.L. and B.H. designed the experiment; B.H. and Y.C.Z carried out the field work and laboratory
analyses; M.K.Q., C.R.Z. and Y.C.Z. performed data analysis; M.K.Q. drafted the manuscript. All authors revised/
reviewed the manuscript. M.K.Q., W.D.L. and B.H. designed the experiment; B.H. and Y.C.Z carried out the field work and laboratory
analyses; M.K.Q., C.R.Z. and Y.C.Z. performed data analysis; M.K.Q. drafted the manuscript. All authors revised/
reviewed the manuscript. Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 References Spatial dependence and bioavailability of metal fractions in paddy fields on metal
concentrations in rice grain at a regional scale. J. Soils Sediments 11, 1165–1177 (2011).h 22. Zhao, K., Liu, X., Zhang, W., Xu, J. & Wang, F. Spatial dependence and bioavailability of metal fractions in paddy fields
concentrations in rice grain at a regional scale. J. Soils Sediments 11, 1165–1177 (2011).h g
g
23. Brady, N. C. & Weil, R. R. The Nature and Properties of Soil, thirteenth ed. 321–380 (Springer, Netherlands, 2002).h yh
p
f
g
24. Huang, C. Y. & Xu, J. M. Soil science, Third ed. 29–43 (China Agriculture Press, Beijing, 2010). h
25. Jones, C. & Jacobsen, J. Micronutrients: Cycling, testing and fertilizer recommendations. Nutr. Manage. Module 7. 2–4 (Montana State
Univ. Ext. Serv., Bozeman, 2009). 26. McCauley, A., Jones, C. & Jacobsen, J. Soil pH and organic matter. Nutr. Manage. Module 8. (Montana State Univ. Ext. Serv., Bozeman,
2009). )
27. Kabata-Pendias, A. & Pendias, H. Trace elements in soils and plants. 93–95 (CRC Press, Florida, 1992). ,
,
p
(
,
,
)
28. Norton, G. J. et al. Environmental and Genetic Control of Arsenic Accumulation and Speciation in Rice Grain: Comparing a Range
of Common Cultivars Grown in Contaminated Sites Across Bangladesh, China, and India. Environ. Sci. Technol. 43, 8381–8386
(2009). Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 7 Additional Informationi Competing financial interests: The authors declare no competing financial interests. Competing financial interests: The authors declare no competing financial interests. Competing financial interests: The authors declare no competing financial interests. How to cite this article: Qu, M. et al. Assessing the pollution risk of soil Chromium based on loading capacity
f paddy soil at a regional scale. Sci. Rep. 5, 18451; doi: 10.1038/srep18451 (2015). This work is licensed under a Creative Commons Attribution 4.0 International License. The images
or other third party material in this article are included in the article’s Creative Commons license,
unless indicated otherwise in the credit line; if the material is not included under the Creative Commons license,
users will need to obtain permission from the license holder to reproduce the material. To view a copy of this
license, visit http://creativecommons.org/licenses/by/4.0/ Scientific Reports | 5:18451 | DOI: 10.1038/srep18451 8
|
https://openalex.org/W2911407603
|
https://europepmc.org/articles/pmc6455691?pdf=render
|
English
| null |
Japanese cross-cultural validation study of the Pain Stage of Change Questionnaire
|
Pain reports
| 2,019
|
cc-by
| 7,779
|
Abstract Abstract
Introduction: Although evidence supports efficacy of treatments that enhance self-management of chronic pain, the efficacy of
these treatments has been hypothesized to be influenced by patient readiness for self-management. The Pain Stage of Change
Questionnaire (PSOCQ) is a reliable and valid measure of patient readiness to self-manage pain. However, there is not yet
a Japanese version of the PSOCQ (PSOCQ-J), which limits our ability to evaluate the role of readiness for pain self-management in
function and treatment response in Japanese patients with chronic pain. p
p
p
p
ctive: Here, we sought to develop the PSOCQ-J and evaluate its psychometric properties. Methods: We recruited 201 patients with chronic pain. The study participants were asked to complete the PSOCQ-J and other
measures assessing pain severity, pain interference, catastrophizing, self-efficacy, and pain coping strategies. Results: The results supported a 4-factor structure of the PSOCQ-J. We also found good to excellent internal consistencies and
good test–retest reliabilities for the 4 scales. The Precontemplation scale had weak to moderate positive correlations with measures
of pain-related dysfunction and maladaptive coping. The Action and Maintenance scales had weak to moderate positive
correlations with measures of self-efficacy and adaptive coping. The Contemplation scale had weak positive correlations with
measures of pain interference and both adaptive and maladaptive coping. Conclusions: The PSOCQ-J demonstrated adequate psychometric properties in a sample of Japanese patients with chronic pain. This measure can be used to evaluate the role that readiness to self-manage pain may play in adjustment to chronic pain in
Japanese pain populations. Keywords: Readiness to change, Motivation, Chronic pain, Cross-cultural validation Sponsorships or competing interests that may be relevant to content are disclosed at the end of this article.
a Pain Management Clinic, Shiga University of Medical Science Hospital, Otsu, Shiga, Japan, b Department of Rehabilitation Medicine, University of Washington, Seattle, WA,
USA, c Japan Society for the Promotion of Science, Chiyoda, Tokyo, Japan, d Department of Psychology, Concordia University, Montreal, QC, Canada, e Center for Pain
Management, Osaka University Medical Hospital, Suita, Osaka, Japan, f Plat Room Suita, Suita, Osaka, Japan, g Sakaue Clinic, Nishinomiya, Hyogo, Japan, h Department of
Orthopedic Surgery, Japanese Red Cross Otsu Shiga Hospital, Otsu, Shiga, Japan, i Department of Psychosomatic and General Internal Medicine, Kansai Medical
University, Hirakata, Osaka, Japan, j Department of Pharmacy, Ashiya Municipal Hospital, Ashiya, Hyogo, Japan, k Faculty of Health Science, Osaka Yukioka College of
Health Science, Ibaraki, Osaka, Japan, l Center for Pain Management, Hayaishi Hospital, Osaka, Osaka, Japan, m Department of Rheumatology, Yukioka Hospital, Osaka,
Osaka, Japan, n Nitta Pain Clinic, Toyonaka, Osaka, Japan, o Department of Anesthesiology, Shiga University of Medical Science, Otsu, Shiga, Japan, p Department of Health
Science, Naragakuen University, Nara, Japan, q Department of Human Sciences, Graduate School of Human Sciences, Osaka University, Suita, Osaka, Japan
*Corresponding author. Address: Pain Management Clinic, Shiga University of Medical Science Hospital, Seta Tsukinowa-cho, Otsu, Shiga 520-2192, Japan. Tel.: 181-77-
548-2281; fax: 181-77-548-2781. E-mail address: a.tom.8567@gmail.com (T. Adachi).
Copyright © 2019 The Author(s). Published by Wolters Kluwer Health, Inc. on behalf of The International Association for the Study of Pain. This is an open access article
distributed under the Creative Commons Attribution License 4.0 (CCBY), which permits unrestricted use, distribution, and reproduction in any medium, provided the original
work is properly cited. Research Paper Japanese cross-cultural validation study of the Pain
Stage of Change Questionnaire Tomonori Adachia,b,c,*, Momoka Sunoharad, Kiyoka Enomotoa,e, Keitaro Sasakif, Gaku Sakaueg,
Yoshitsugu Fujitah, Yasuyuki Mizunoi, Yoshiaki Okamotoj, Kenji Mikik,l,m, Masao Yukiokam, Kazuhito Nittan,
Narihito Iwashitaa,o, Hirotoshi Kitagawao, Masahiko Shibatae,p, Jun Sasakiq, Mark P. Jensenb, Sei Fukuia,o PR9 4 (2019) e711 2.1. Participants The study participants were outpatients with chronic pain
recruited from 5 medical facilities: 2 pain clinics at secondary
and tertiary care hospitals, 2 orthopedic surgery units at
secondary care hospitals, and a unit of psychosomatic medicine
at a tertiary care hospital. Eligibility criteria were as follows: (1)
history of pain lasting at least 3 months, (2) at least 20 years of
age, and (3) ability to read and write Japanese. We excluded
individuals who had evidence of psychological dysfunction (eg,
medical records indicating a history of dementia, schizophrenia,
or
substance
abuse),
which
might
interfere
with
study
participation. To evaluate the utility of the PRC model, as well as to evaluate
the role that readiness to self-manage pain may play in patient
function and treatment response, a measure of readiness to self-
manage pain with adequate psychometric properties is required. The Pain Stage of Change Questionnaire (PSOCQ)26 is a self-
report measure designed to assess the extent to which
individuals are considering adopting a self-management ap-
proach to pain. The PSOCQ consists of scales representing the 4
stages of change. 1. Introduction approach is believed to be an important factor that may influence
treatment dropout, relapse, and adherence.9,18,24 Evidence supports the efficacy of treatments that enhance pain
self-management for improving patient function.11,23,48 However, Readiness to change is a key concept of the Transtheoretical
Model of Behavior Change (TTM).36–38 The TTM was developed
to describe behavior change processes in problematic health
behaviors, such as alcohol abuse and smoking. The TTM researchers have also noted substantial treatment dropout
and relapse rates, as well as low adherence to these treat-
ments.14,35,45,46
Readiness
to
adopt
a
self-management http://dx.doi.org/10.1097/PR9.0000000000000711 1 4 (2019) e711 4 (2019) e711 www.painreportsonline.com T. Adachi et al.·4 (2019) e711 PAIN Reports® 2 opposite pattern. We also hypothesized weak associations
between the Contemplation scale and measures of pain-related
function and coping. We hypothesized that individuals who are
participating in exercise would score lower on Precontemplation,
and higher on Contemplation, Action, and Maintenance. Be-
cause analgesic medication use could potentially be viewed as
both an active self-management strategy as well as a passive
one, we predicted weak and nonsignificant associations between
the PSOCQ-J scales and analgesic medication use. hypothesizes that there are specific stages in a process of
behavior change, and that individuals proceed through these
stages because they work toward behavior change goals. Kerns
and Habib24 proposed a pain readiness to change (PRC) model,
which is an adaptation of the TTM for understanding how patients
make changes in pain self-management. The PRC model
hypothesizes 4 stages of change: Precontemplation (no intention
to self-manage pain), Contemplation (considering the adoption of
pain
self-management),
Action
(making
changes
in
self-
management behaviors), and Maintenance (ongoing use of pain
self-management strategies). The PRC model hypothesizes that
the stage of change is associated with commitment to treatments
teaching self-management strategies.24 In line with this model,
high precontemplation has been shown to predict high dropout
rates in interdisciplinary treatments.4,12,25 Moreover, decrease in
the precontemplation and increases in the Contemplation,
Action, and Maintenance have been shown to be associated
with increases in use of adaptive coping strategies and improved
outcomes.5,10,12,21 opposite pattern. We also hypothesized weak associations
between the Contemplation scale and measures of pain-related
function and coping. We hypothesized that individuals who are
participating in exercise would score lower on Precontemplation,
and higher on Contemplation, Action, and Maintenance. 2.2. Procedure We first translated the English PSOCQ instructions and items into
Japanese using standard translation procedures (see Study
Measures section). Study participants were then invited to
participate in the study when they came each facility for their
routine clinic visits. We also invited participants who returned to
the clinics (in 1–12 weeks) to complete a second PSOCQ-J, to be
able to compute ICC coefficients. Data collection was performed
from October 2016 to July 2017. The Institutional Review Boards
at Shiga University of Medical Science Hospital and Osaka
University Graduate School of Human Sciences approved the
study procedures. We obtained written informed consent form
each participant before data collection. g
g
Previous research supports the reliability and validity of the
PSOCQ. For example, the PSOCQ scales have demonstrated
patterns of associations indicating positive associations between
the Precontemplation scale and measures of negative outcomes,
and negative associations between this scale and positive
outcomes, while the Action and Maintenance scales evidence
the opposite pattern of associations.6,19,20,26,32 With respect to
the Contemplation scale, the evidence tends to show weak
associations with pain-related variables.6,19,20,26,32 Research
also shows negative associations between the Precontemplation
and both the Action and Maintenance scales, and positive
associations between the Action scale and both Contemplation
and Maintenance scales.6,13,19,26,41,42 Previous research supports the reliability and validity of the
PSOCQ. For example, the PSOCQ scales have demonstrated
patterns of associations indicating positive associations between
the Precontemplation scale and measures of negative outcomes,
and negative associations between this scale and positive
outcomes, while the Action and Maintenance scales evidence
the opposite pattern of associations.6,19,20,26,32 With respect to the Contemplation scale, the evidence tends to show weak
associations with pain-related variables.6,19,20,26,32 Research Although the PSOCQ has been translated into a number of
languages,31,32,41 there is not yet a Japanese version. Given
evidence
supporting
the
efficacy
of
self-management
approaches among Asians (including Japanese) with chronic
pain,15,40,49 developing a Japanese version of the PSOCQ
(PSOCQ-J) would be useful, to be able to better understand the
role of self-management readiness in function and treatment
response in these patients. 1. Introduction Be-
cause analgesic medication use could potentially be viewed as
both an active self-management strategy as well as a passive
one, we predicted weak and nonsignificant associations between
the PSOCQ-J scales and analgesic medication use. hypothesizes that there are specific stages in a process of
behavior change, and that individuals proceed through these
stages because they work toward behavior change goals. Kerns
and Habib24 proposed a pain readiness to change (PRC) model,
which is an adaptation of the TTM for understanding how patients
make changes in pain self-management. The PRC model
hypothesizes 4 stages of change: Precontemplation (no intention
to self-manage pain), Contemplation (considering the adoption of
pain
self-management),
Action
(making
changes
in
self-
management behaviors), and Maintenance (ongoing use of pain
self-management strategies). The PRC model hypothesizes that
the stage of change is associated with commitment to treatments
teaching self-management strategies.24 In line with this model,
high precontemplation has been shown to predict high dropout
rates in interdisciplinary treatments.4,12,25 Moreover, decrease in
the precontemplation and increases in the Contemplation,
Action, and Maintenance have been shown to be associated
with increases in use of adaptive coping strategies and improved
outcomes.5,10,12,21 2.3.1. Readiness to change: Japanese version of the Pain
Stage of Change Questionnaire The PSOCQ-J has 30 items that assess the responder’s
readiness to self-manage their pain. Study participants are asked
to rate to how much extent they agree with each statement of
items on a 5-point scale from 1 (“strongly disagree”) to 5 (“strongly
agree”). The original PSOCQ has 4 scales labeled Precontem-
plation, Contemplation, Action, and Maintenance. Each scale is
scored as the mean ratings provided for the items on that scale. Thus, the scale scores can range from 1 to 5, with higher scores
indicating more agreement to the items reflecting each readiness
stage. To address this need, we sought to translate and examine the
psychometric properties of a PSOCQ-J. We hypothesized that
the PSOCQ-J would evidence a 4-factor structure. We also
hypothesized that the scales would evidence at least adequate
internal consistency (ie, Cronbach’s alphas $0.70)27 and at least
adequate test–retest reliability (ie, intraclass correlation [ICC]
coefficients $0.60).7 We also anticipated that the Precontem-
plation scale would be negatively associated with the Action and
Maintenance scales, and that the Action scale would be positively
associated with the Contemplation and Maintenance scales. With respect to construct validity, we hypothesized that the
Precontemplation scale would evidence a pattern of positive
associations with measures of pain-related dysfunction, and
negative associations with measures of functional and adaptive
coping, while the Action and Maintenance scales would show the 2.3.6. Pain-related coping A Japanese version of the Chronic Pain Coping Inventory (CPCI-J)
was used to assess 9 types of coping, reflected by 9 scales:
Guarding, Resting, Asking for Assistance, Exercise/Stretch, Re-
laxation, Task Persistence, Coping Self-Statements, Pacing, and
Seeking Social Support.22 The former 3 and the latter 6 strategies
are believed to reflect less useful/maladaptive and more useful/
adaptive pain coping strategies, respectively. In response to each
item assessing a specific coping response, respondents are asked
to rate how many days during the past week they used that strategy
to cope with their pain. A higher score for each scale indicates more
frequent use of the category of coping assessed by each scale. The
CPCI-J has evidence supporting its reliability and validity in
Japanese patients with chronic pain.2 The internal consistency
coefficients for the CPCI-J scales in the current sample indicated
adequate (at least 0.70) to excellent (over 0.90) reliability for most of
the scales. The Seeking Social Support had marginal internal
consistency (Cronbach’s alpha 5 0.66). To evaluate the convergent and discriminant validity of the
PSOCQ-J, we then asked participants to complete 4 measures
assessing pain-related variables. 2.3.2. Translation procedures We used Beaton’s recommendation for translating cross-
culturally adapting the PSOCQ into Japanese.3 Specifically, 2
bilingual Japanese PhD candidates majoring clinical psychology
first independently translated the original English language
PSOCQ into Japanese. Next, these 2 initial translations were
merged into a single translation by the initial translators in 4 (2019) e711 3 www.painreportsonline.com collaboration with a bilingual PhD-level Japanese psychologist. Any differences in the specific translations for the instruction and
items were discussed and resolved through consensus. As a third
step, the revised version was reviewed by a Japanese anesthe-
siologist. After this, a back translation (from Japanese back into
English) of the instructions and items was completed by a bilingual
Japanese native. The back translation was then reviewed by the
original PSOCQ developer, who provided feedback on any
changes needed to ensure that the instructions and items
reflected their original meaning. The instructions and items were
revised as needed and reviewed again until the developer
approved the final version of the PSOCQ-J. scale score that ranges from 0 to 52, with higher scores indicating
higher levels of catastrophizing. The internal consistency coefficient
for the PCS-J in the current sample was excellent (0.91). 2.3.3. Pain severity and pain interference Pain severity and interference were assessed by the Japanese
version of the Brief Pain Inventory (BPI-J). Both the 4-item Pain
Severity scale and 7-item Pain Interference scale of the Brief Pain
Inventory have a great deal of evidence supporting their reliability
and validity in a variety of patient samples with pain.8,44 Previous
research also supports reliability and validity of the BPI-J in
Japanese patients with cancer pain.47 The BPI-J Pain Severity
items ask respondents to rate their worst, least, and average pain
severity over the last week, as well as their current pain severity on
0 (“no pain”) to 10 (“pain as bad as you can imagine”) numerical
rating scales. The average of the responses to these 4 items is
computed to create the Pain Severity scale score. In the current
sample, the internal consistency (Cronbach’s alpha) for this scale
was excellent (0.90). The BPI-J Pain Interference items ask
respondents to rate the extent to which pain has interfered with 7
different activities of daily living over the last week (general activity,
walking, work, mood, enjoyment of life, relations with others, and
sleep) on a 0 (“does not interfere”) to 10 (“completely interferes”)
numerical rating scale. Responses to these items are then
averaged into a total Pain Interference scale score. In the current
sample, the internal consistency coefficient for the Pain In-
terference scale was excellent (0.91). 2.4. Data analysis The demographic characteristics of the study participants were
summarized by computing descriptive statistics. Next, we
evaluated the factor structure of the PSOCQ-J using a confirma-
tory factor analysis (CFA). The model fit was evaluated with
following fit indices: Chi-square goodness of fit index (x2;
a nonsignificant result at a 0.05 threshold indicates good fit28),
Normed Chi-square (x2/df; a value below 2–3 indicates an
acceptable fit28), root mean square error of approximation
(RMSEA; a value below 0.08 indicates an acceptable fit29),
Comparative Fit Index (CFI; a value more than 0.95 indicates an
acceptable fit16), and Akaike Information Criterion (AIC; with
a smaller value indicating a more parsimonious model fit28). Maximum likelihood estimation was used to estimate models in
the CFA. Because responses were missing for items 6 (2%
missing) and 18 (1% missing) of the PSOCQ-J, a full information
maximum likelihood method was applied to account for missing
data. Because previous studies reported substantial associations
between
the
3
factors
except
for
Precontemplation,
we
compared the fit of a 4-factor model with 2-factor (combining
the 3 factors) and 3-factor (combining the Action and Mainte-
nance) models using the likelihood ratio test. A sample size of 200
cases is considered adequate for CFA analyses.28 2.3.5. Self-efficacy The Japanese version of the 10-item Pain Self-Efficacy Ques-
tionnaire (PSEQ-J) was used to assess the degree of confidence
the participants had to perform certain activities in daily life
despite pain.34 The PSEQ-J has evidence supporting its reliability
and validity in Japanese patients with chronic pain.1 With the
PSEQ-J, respondents are asked to rate how confident they are
on a 0 (“not at all confident”) to 6 (“completely confident”) scale. The total PSEQ-J score ranges from 0 to 60, with higher scores
representing higher levels of self-efficacy in functioning despite
pain. The internal consistency coefficient for the PSEQ-J in the
current sample was excellent (0.95). As a final step, we asked ten outpatients with chronic pain
attending a primary care pain clinic (8 women and 2 men, average
age 6 SD was 67.55 6 12.81 years) to evaluate the PSOCQ-J for
understandability and appropriateness of phrasing. Eighteen
items for understandability and 8 items for appropriateness of
phrasing (60% and 27% of the items, respectively) were rated as
problematic by at least one of these patients. However, the most
times any one item (items 1, 15, and 16) was rated as problematic
was 3 (ie, all items were rated as clear and understandable by
70% to 100% of these patients). Also, these items were rated as
difficult to understand with respect to them reflecting pain self-
management, not with respect to the translation. Thus, no
additional changes in the instructions or any of the items were
deemed necessary. PAIN Reports® 4 Table 1
Demographic characteristics of the study participants. Variable
Mean (SD)
n (%)
Age (y)
61.32 (13.93)
—
Pain duration (mo)
91.99 (110.21)
—
Sex
Men
68 (34)
Women
133 (66)
Primary pain location
Head, face, or mouth region
14 (7)
Cervical region
13 (6)
Upper shoulder or arms
32 (16)
Thoracic region
9 (4)
Abdominal region
5 (2)
Low back
57 (28)
Lower limbs
54 (27)
Pelvic region
3 (1)
Anal, perineal, or genital region
4 (2)
Multiple pain locations (more than
1 location)
10 (5)
Marital status
Married
146 (73)
Unmarried
19 (9)
Divorced
15 (7)
Widowed
20 (10)
No response
1 (0)
Education
Elementary
0 (0)
Junior high
20 (10)
High
76 (38)
Vocational
27 (13)
Junior college
17 (8)
Undergraduate
55 (27)
Graduate school, master
4 (2)
Graduate school, doctor
1 (0)
No response
1 (0)
Work status
Full time
41 (20)
Part time
20 (10)
Student
0 (0)
Homemaker
59 (29)
Retirement
30 (15)
Suspension or retirement due to pain
19 (9)
Not working unrelated to pain
18 (9)
Others
14 (7)
Pain-related compensation
Yes
10 (5)
Past surgery for pain treatment
Yes
33 (16)
Current pain treatment
Medication
166 (83)
Nerve block
44 (22)
Spinal cord stimulation
2 (1)
Cognitive behavior therapy
15 (7)
Exercise
61 (30)
Other types of rehabilitation (eg,
massage, hot or cold pack, traction
therapy, and electrotherapy)
43 (21)
Other treatments
21 (10)
No treatment
2 (1)
No. of current pain treatment
Zero
2 (1)
Single treatment
98 (49)
2 treatments
59 (29)
3 treatments
34 (17)
4 treatments
6 (3)
5 treatments
2 (1)
Total sample size is 201. internal consistency, between scale associations, and test–retest
stability of the PSOCQ-J scales, respectively. We also performed
independent t tests to determine whether there were sex
differences in the PSOCQ-J scales. Next, to evaluate the
construct validity of the PSOCQ-J scales, we computed the
Pearson correlation coefficients between the PSOCQ-J scales
and the other study measures. Also, we compared the means of
the PSOCQ scales between participants participating or not
participating in exercise treatment, and using or not using
analgesic medication. We used the criterion of P , 0.05 to determine statistical
significance. Each of the validity criterion measures had very few
missing values (range: 0%–1%). Thus, we used pairwise deletion
to compute the validity correlation coefficients. 2.3.4. Catastrophizing Catastrophizing was assessed using the Japanese version of the
13-item Pain Catastrophizing Scale (PCS-J).30,43 The PCS-J has
evidence supporting its reliability and validity in Japanese patients
with chronic pain.17 Each item reflects a pain-related negative
thought, and respondents are asked to rate the frequency that they
have each thought when they experience pain on a 0 (“not at all”) to
4 (“all the time”) scale. The responses are summed to form a total We then computed Cronbach’s alpha coefficients, interscale
correlation coefficients, and ICC coefficients to evaluate the T. Adachi et al.·4 (2019) e711 3. Results 3. Results PAIN Reports® We used Mplus
version 8.0.33 for the CFA analyses and the statistical package R
version 3.2.4.39 for the other analyses. BPI-J, Japanese version of the Brief Pain Inventory; CPCI-J, Japanese version of the Chronic Pain Coping
Inventory; PCS-J, Japanese version of the Pain Catastrophizing Scale; PSEQ-J, Japanese version of the Pain
Self-Efficacy Questionnaire. 3.3. Reliability and interscale correlations of the Japanese
version of the Pain Stage of Change Questionnaire scales All the Cronbach’s alpha coefficients for the PSOCQ-J scales
exceeded 0.70 (range 0.72–0.80; Table 3), indicating at least
adequate internal consistency. The ICCs between 2 measure-
ment points showed good stability over time (range 0.62–0.71;
Table 3). No significant sex differences were observed for
PSOCQ-J scales. Moreover, the interscale correlations were
consistent with the study hypotheses for the most part, except
that we found an unpredicted significant positive association
between the Contemplation and Maintenance scales (Table 4). The CFA of the 2-factor model with the same error covariances
showed poor fit (x2
(396) 5 966.96, P , 0.001, x2/df 5 2.44,
RMSEA 5 0.09, CFI 5 0.71, and AIC 5 15909.67), but the CFA of
the 3-factor model using the same error covariances had
acceptable fit (x2
(394) 5 824.53, P , 0.001, x2/df 5 2.11,
RMSEA 5 0.07, CFI 5 0.78, and AIC 5 15444.20). However, the
results of the likelihood ratio test suggested significant de-
terioration when adopting either the 2-factor (x2
(5) 5 154.23, P , 3.2. Factor structure of the Japanese version of the Pain
Stage of Change Questionnaire 0.001) or 3-factor models (x2
(3) 5 11.79, P , 0.01). Thus the
evidence supported the 4-factor model over the other 2 models. Model fit statistics for the first 4-factor model did not indicate
sufficient fit (x2
(399) 5 972.23, P , 0.001, x2/df 5 2.44, RMSEA 5
0.09, CFI 5 0.71, and AIC 5 15581.91). To improve this model,
we allowed 8 error covariances between items with modification
indices above 10. We chose these error covariances with
reference to not only modification index but also overlap of
phrasing and meaning (ie, the error variances of items that seem
to assess similar aspects of readiness were allowed to correlate
with one another). The second CFA showed acceptable fit (x2
(391)
5 812.74, P , 0.001, x2/df 5 2.08, RMSEA 5 0.07, CFI 5 0.78,
and AIC 5 15438.41). Item loadings of the second model ranged
0.34 to 0.77 (Fig. 1). 3.1. Demographic characteristics of participants Factor structure of the Japanese version of the Pain Stage of Change Questionnaire. *P , 0.05, **P , 0.01, ***P
Thus, for example, the “i1” represents item 1 of the Japanese version of the Pain Stage of Change Questionnaire. T
standardized parameter estimate values. 3.1. Demographic characteristics of participants A total of 201 participants provided data for this study. Their mean
age 6 SD was 61.32 6 13.93 years (range: 26–84), and their
mean pain duration was 91.99 6 110.21 months (range: 3–948;
0.25–79.00 years). Most participants were women (66%), were
married (73%), had at least high school education (90%), and had
a job or were homemakers (59%). The most common primary
pain location was low back (28%). About one-third of the
participants
attended
an
exercise
treatment. Seventy-one
participants (35%) provided responses to the PSOCQ-J 2
occasions, with an average of 35.72 6 19.34 days (range 7–77
days) between assessments. Additional descriptive details re-
garding the study participants and study measures are presented
in Tables 1 and 2. Table 2
Mean values, SDs, Cronbach’s alpha coefficients of the pain-
related measures. Pain-related criterion variable
Mean
SD
a (95% CI)
Pain severity (BPI-J)
4.37
1.93
0.90 (0.87–0.92)
Pain interference (BPI-J)
3.65
2.43
0.91 (0.89–0.93)
Catastrophizing (PCS-J)
27.41
10.70
0.91 (0.89–0.93)
Self-efficacy (PSEQ-J)
34.48
13.79
0.95 (0.94–0.96)
Guarding (CPCI-J)
19.31
14.40
0.76 (0.71–0.81)
Resting (CPCI-J)
22.91
12.76
0.72 (0.67–0.78)
Asking for assistance (CPCI-J)
6.44
8.04
0.83 (0.79–0.87)
Exercise/stretch (CPCI-J)
35.25
24.30
0.91 (0.89–0.93)
Relaxation (CPCI-J)
14.88
11.85
0.78 (0.73–0.82)
Task persistence (CPCI-J)
22.41
11.23
0.71 (0.65–0.77)
Coping self statement (CPCI-J)
18.76
18.15
0.88 (0.85–0.90)
Pacing (CPCI-J)
18.60
11.20
0.73 (0.67–0.79)
Seeking social support (CPCI-J)
13.56
10.06
0.66 (0.59–0.73)
BPI-J, Japanese version of the Brief Pain Inventory; CPCI-J, Japanese version of the Chronic Pain Coping
Inventory; PCS-J, Japanese version of the Pain Catastrophizing Scale; PSEQ-J, Japanese version of the Pain
Self-Efficacy Questionnaire. Table 2
Mean values, SDs, Cronbach’s alpha coefficients of the pain-
related measures. 4 (2019) e711 5 www.painreportsonline.com Figure 1. Factor structure of the Japanese version of the Pain Stage of Change Questionnaire. *P , 0.05, **P , 0.01, ***P , 0.001. The “i” represents the item. Thus, for example, the “i1” represents item 1 of the Japanese version of the Pain Stage of Change Questionnaire. The “e” represents error. We reported
standardized parameter estimate values. Figure 1. Factor structure of the Japanese version of the Pain Stage of Change Questionnaire. *P , 0.05, **P , 0.01, ***P , 0.001. The “i” represents the item. Thus, for example, the “i1” represents item 1 of the Japanese version of the Pain Stage of Change Questionnaire. The “e” represents error. We reported
standardized parameter estimate values. Figure 1. 4. Discussion Here, we sought to translate and evaluate the psychometric
properties of the PSOCQ-J. The findings supported a 4-factor
structure, and all 4 scales of the PSOCQ-J evidenced good
internal consistencies and test–retest reliabilities. In addition, the
results supported the hypothesized pattern of between scale
associations, except for a substantial positive association
between the Contemplation and Maintenance scales. The study
hypotheses with respect to construct validity of the PSOCQ-J
scales were also supported. The zero-order correlations between the PSOCQ-J scales and
CPCI-J scales are presented in Table 6. The Precontemplation
scale showed significant weak positive correlations with the 3
maladaptive pain coping scales. The Action and Maintenance
scales had weak to moderate positive correlations with the 6
adaptive pain coping scales, except for the nonsignificant
correlation between the Maintenance scale and the Seeking
Social Support scale. The Contemplation scale had weak positive
correlations with the 9 CPCI-J scales. The 4-factor structure, with items loading on the Precontem-
plation, Contemplation, Action, and Maintenance factors, is
consistent with the results of previous research in samples of
individuals with chronic pain from diverse clinical and cultural
settings and using different language versions of the mea-
sure.13,19,26,31,32 The present results also supported the 4-factor
model over the 2-factor and 3-factor models. Thus, the findings
provide support for cross-cultural validity of the 4 readiness
domains hypothesized by the PRC model.24 PAIN Reports® PAIN Reports® 6 Table 4
Interscale correlations of the PSOCQ-J scales. PSOCQ-J scale
Contemplation
Action
Maintenance
Precontemplation
0.01 (20.13 to 0.15)
20.14 (20.28 to 0.00)*
20.24 (20.36 to 20.10)***
Contemplation
—
0.48 (0.36 to 0.58)***
0.37 (0.25 to 0.49)***
Action
—
0.75 (0.68 to 0.80)***
Maintenance
—
*P , 0.05, **P , 0.01, ***P , 0.001. PSOCQ-J, Japanese version of the Pain Stage of Change Questionnaire. 6
T. Adachi et al.·4 (2019) e711
PAIN Reports® than the participants who were not. No significant differences in
the mean values of the PSOCQ scales were found between the
participants who were taking analgesic medications or not. self-efficacy, and catastrophizing are presented in Table 5. As
can be seen, and as hypothesized, the Precontemplation scale
had significant weak to moderate positive correlations with the
measures of pain severity, pain interference, and catastrophizing,
whereas it had a weak negative correlation with the self-efficacy
measure. The Maintenance scale had weak negative correlations
with the measures assessing pain severity, pain interference, and
catastrophizing, whereas it had a significant weak positive
correlation with the self-efficacy measure. The Action scale had
a weak positive correlation with the self-efficacy measure and
a weak negative correlation with the catastrophizing measure. The Contemplation scale had a weak positive correlation with the
pain interference measure. 3.5. Comparison of scores of the Japanese version of the
Pain Stage of Change Questionnaire scales with respect to
current treatments On the other hand, the substantial associations between the
PSOCQ-J scales cast some doubt on the “stage” concept
underlying the PRC model, that is, the idea that people
necessarily move from one stage to the next, as they become
more ready to self-manage pain. Previous studies have also
reported
significant
associations
between
PSOCQ
scales.6,13,19,26,31,41,42 This suggests the possibility that readi-
ness to change might be better viewed as a continuum than as
discrete stages.18 In addition, the strong association found
between the Contemplation and Maintenance scales in the
current sample cast some doubt on the utility of viewing these as
entirely distinct constructs. Thus, participants who are consider-
ing the usefulness of pain self-management (ie, who score high On the other hand, the substantial associations between the
PSOCQ-J scales cast some doubt on the “stage” concept
underlying the PRC model, that is, the idea that people
necessarily move from one stage to the next, as they become
more ready to self-manage pain. Previous studies have also
reported
significant
associations
between
PSOCQ
scales.6,13,19,26,31,41,42 This suggests the possibility that readi- Mean values and SDs of the PSOCQ scales between the
participants who were participating or not participating in exercise
treatment, and between the participants taking analgesic
medications or not, are presented in Table 7. The independent
t tests revealed significant differences in the mean values of the
PSOCQ scale as a function of treatment. Specifically, the
participants who were participating in exercise treatment scored
lower on Precontemplation (t(199) 5 2.31, P 5 0.02), and higher
on Contemplation (t(199) 5 24.12, P , 0.001), Action (t(194) 5
25.61, P , 0.001), and Maintenance (t(196) 5 25.26, P , 0.001) 3.4. Correlations between the Japanese version of the Pain
Stage of Change Questionnaire scales and pain-
related measures The zero-order correlations between the 4 PSOCQ-J scales and
the validity variables assessing pain severity, pain interference, Table 3
Mean values, SDs, Cronbach’s alphas, and intraclass correlations (ICC) of the PSOCQ-J scales. PSOCQ-J scale
No. of items
Overall
Men
Women
a (95% CI)
ICC (95% CI)
Mean
SD
Mean
SD
Mean
SD
Precontemplation
7
2.74
0.60
2.78
0.61
2.72
0.60
0.72 (0.66–0.78)
0.62 (0.45–0.74)***
Contemplation
10
3.41
0.55
3.41
0.56
3.41
0.55
0.77 (0.73–0.82)
0.62 (0.46–0.75)***
Action
6
2.80
0.71
2.85
0.72
2.78
0.70
0.80 (0.75–0.84)
0.65 (0.49–0.77)***
Maintenance
7
3.22
0.67
3.16
0.60
3.26
0.71
0.80 (0.75–0.84)
0.71 (0.57–0.81)***
*P , 0.05, **P , 0.01, ***P , 0.001. PSOCQ-J, Japanese version of the Pain Stage of Change Questionnaire. n values, SDs, Cronbach’s alphas, and intraclass correlations (ICC) of the PSOCQ-J scales. T. Adachi et al.·4 (2019) e711 T. Adachi et al.·4 (2019) e711 Table 5 on the Contemplation scale) may also be using a number of self-
management approaches to manage their pain (ie, they may also
score high on the Maintenance scale). ability to self-manage pain. Thus, the extent to which the
findings would replicate in other samples of individuals with
chronic pain from Japan remains unknown. Additional re-
search with other samples is needed to determine which of the
findings replicate. Second, this study used a cross-sectional
design to evaluate the validity of the PSOCQ-J. Thus, we were
not able to evaluate the extent to which the PSOCQ-J scales
are sensitive to treatments designed to enhance readiness to
self-manage pain, nor were we able to determine the causal
influence of changes in the PSOCQ-J scales and subsequent
changes in important outcomes. Longitudinal and clinical trial
research is
needed
to
evaluate
these
aspects
of
the
measure’s validity. Third, we did not collect any data that
would allow us to determine, separately from the PSOCQ-J,
what readiness stage the participants might be in. For
example, patients who are just beginning an exercise program
might be expected to be at a lower readiness stage for pain
self-management than patients who have been exercising
regularly for many months. The internal consistency and test–retest reliability results
supported the reliability of the PSOCQ-J scales. That said, the
stabilities of the PSOCQ-J scales were somewhat lower than
those reported in previous studies.26,32 This difference may be
due, at least in part, to the longer period between assessments in
the current study, relative to other studies, combined with the
expectation that readiness to self-manage pain is believed to be
influenced by many factors, that is, readiness to self-manage pain
may be more a state than a trait.18,24 The findings also support the construct validity of the PSOCQ-J. The 4 scales generally evidenced the patterns of associations with
other pain-related measures and pain treatments that were
hypothesized a priori. As expected, the Precontemplation and
Maintenance scales evidenced patterns of associations suggest
that the former may be a less useful/maladaptive cognitive and
behavioral state, whereas the latter may reflect a more useful/
adaptive one. Despite the study’s limitations, the findings provide important
information regarding the reliability and validity of the PSOCQ-J. We found that the measure has a 4-factor structure, and provides
reliable and valid measures of Precontemplation, Contemplation,
Action, and Maintenance. Table 5 Table 5
Pearson correlations between PSOCQ-J scales and measures assessing pain severity, pain interference, self-efficacy, and
catastrophizing. PSOCQ-J scale
Pain-related criterion variable
Pain severity (BPI-J)
Pain interference (BPI-J)
Self-efficacy (PSEQ-J)
Catastrophizing (PCS-J)
Precontemplation
0.28 (0.15 to 0.40)***
0.31 (0.18 to 0.43)***
20.27 (20.39 to 20.14)***
0.49 (0.38 to 0.59)***
Contemplation
0.09 (20.05 to 0.22)
0.21 (0.07 to 0.34)**
20.01 (20.15 to 0.13)
0.06 (20.08 to 0.19)
Action
20.14 (20.27 to 0.00)
20.07 (20.21 to 0.07)
0.17 (0.03 to 0.30)*
20.17 (20.30 to 20.03)*
Maintenance
20.16 (20.29 to 20.02)*
20.17 (20.30 to 20.03)*
0.25 (0.11 to 0.38)***
20.29 (20.42 to 20.16)***
*P , 0.05, **P , 0.01, ***P , 0.001. BPI-J, Japanese version of the Brief Pain Inventory; PCS-J, Japanese version of the Pain Catastrophizing Scale; PSEQ-J, Japanese version of the Pain Self-Efficacy Questionnaire; PSOCQ-J, Japanese version of the Pain Stage
of Change Questionnaire. ween PSOCQ-J scales and measures assessing pain severity, pain interference, self-efficacy, and Pearson correlations between PSOCQ-J scales and measures assessing pain severity, pain interferen
catastrophizing. www.painreportsonline.com 4 (2019) e711 7 Table 6
Pearson correlations between PSOCQ-J and CPCI-J scales. CPCI-J scale
PSOCQ-J scale
Precontemplation
Contemplation
Action
Maintenance
Guarding
0.22 (0.09 to 0.35)**
0.17 (0.03 to 0.30)*
0.06 (20.08 to 0.20)
0.03 (20.13 to 0.15)
Resting
0.23 (0.10 to 0.36)***
0.23 (0.10 to 0.36)***
0.03 (20.11 to 0.17)
0.01 (20.13 to 0.15)
Asking for assistance
0.21 (0.08 to 0.34)**
0.19 (0.05 to 0.32)**
0.09 (20.05 to 0.23)
20.01 (20.15 to 0.13)
Exercise/stretch
20.10 (20.23 to 0.04)
0.21 (0.08 to 0.34)**
0.39 (0.27 to 0.50)***
0.34 (0.21 to 0.46)***
Relaxation
20.02 (20.16 to 0.12)
0.24 (0.11 to 0.37)***
0.44 (0.32 to 0.59)***
0.44 (0.31 to 0.54)***
Task persistence
20.08 (20.22 to 0.06)
0.15 (0.01 to 0.28)*
0.22 (0.08 to 0.35)**
0.26 (0.13 to 0.39)***
Coping self-statements
0.05 (20.09 to 0.19)
0.31 (0.18 to 0.43)***
0.28 (0.15 to 0.41)***
0.32 (0.19 to 0.44)***
Pacing
0.05 (20.09 to 0.19)
0.21 (0.08 to 0.34)**
0.30 (0.17 to 0.42)***
0.26 (0.13 to 0.39)***
Seeking social support
0.14 (0.00 to 0.27)
0.25 (0.11 to 0.38)***
0.18 (0.04 to 0.31)*
0.13 (20.01 to 0.27)
*P , 0.05, **P , 0.01, ***P , 0.001. CPCI-J, Japanese version of the Chronic Pain Coping Inventory; PSOCQ-J, japanese version of the Pain Stage of Change Questionnaire. References [24] Kerns RD, Habib S. A critical review of the pain readiness to change
model. J Pain 2004;5:357–67. [1]
Adachi T, Nakae A, Maruo T, Shi K, Shibata M, Maeda L, Saitoh Y, Sasaki
J. Validation of the Japanese version of the Pain Self-Efficacy
Questionnaire in Japanese patients with chronic pain. Pain Med 2014;
15:1405–17. [1]
Adachi T, Nakae A, Maruo T, Shi K, Shibata M, Maeda L, Saitoh Y, Sasaki
J. Validation of the Japanese version of the Pain Self-Efficacy
Questionnaire in Japanese patients with chronic pain. Pain Med 2014;
15:1405–17. [25] Kerns RD, Rosenberg R. Predicting responses to self-management
treatments for chronic pain: application of the pain stages of change
model. PAIN 2000;84:49–55. [2]
Arimura T, Hosoi M, Yamashiro K, Iwaki R, Hiasa A, Kawata H, Kubo C,
Sud A. Validation study of the Japanese version of the Chronic Pain
Coping Inventory: the second report (in Japanese). Jpn J Psychosom
Med 2010;50:525. [26] Kerns RD, Rosenberg R, Jamison RN, Caudill MA, Haythornthwaite J. Readiness to adopt a self-management approach to chronic pain: the
Pain Stages of Change Questionnaire (PSOCQ). PAIN 1997;72:227–34. [27] Kline P. The handbook of psychological testing. London; New York:
Routledge, 2000. [3]
Beaton DE, Bombardier C, Guillemin F, Ferraz MB. Guidelines for the
process of cross-cultural adaptation of self-report measures. Spine 2000;
25:3186–91. [28] Kline RB. Principles and practice of structural equation modeling. New
York: Guilford, 2011. [4]
Biller N, Arnstein P, Caudill MA, Federman CW, Guberman C. Predicting
completion of a cognitive-behavioral pain management program by initial
measures of a chronic pain patient’s readiness for change. Clin J Pain
2000;16:352–9. [29] MacCallum RC, Browne MW, Sugawara HM. Power analysis and
determination of sample size for covariance structure modeling. Psychol Methods 1996;1:130. [30] Matsuoka H, Sakano Y. Assessment of cognitive aspect of pain:
development, reliability, and validation of Japanese version of pain
catastrophizing scale (in Japanese). Jpn J Psychosom Med 2007;47:
95–102. [5]
Burns JW, Nielson WR, Jensen MP, Heapy A, Czlapinski R, Kerns RD. Specific and general therapeutic mechanisms in cognitive behavioral
treatment of chronic pain. J Consult Clin Psychol 2015;83:1–11. [6]
Carr JL, Moffett JAK, Sharp DM, Haines DR. Is the Pain Stages of Change
Questionnaire (PSOCQ) a useful tool for predicting participation in a self-
management programme? Further evidence of validity, on a sample of UK
pain clinic patients. BMC Musculoskelet Disord 2006;7:101. References [31] Maurischat C, H ¨arter M, Auclair P, Kerns RD, Bengel J. Preliminary
validation of a German version of pain stages of change questionnaire. Eur J Pain 2002;6:43–8. [32] Monticone M, Ferrante S, Ferrari S, Mugnai R, Pillastrini P, Rocca B, Vanti
C, Foti C. Development of the Italian version of the Pain Stages of Change
Questionnaire in patients with chronic low back pain: cross-cultural
adaptation, confirmatory factor analysis, reliability and validity. Int J
Rehabil Res 2014;37:205–11. [7]
Cicchetti DV. Guidelines, criteria, and rules of thumb for evaluating
normed and standardized assessment instruments in psychology. Psychol Assess 1994;6:284–90. [8]
Cleeland C, Ryan K. Pain assessment: global use of the Brief Pain
Inventory. Ann Acad Med Singapore 1994;23:129–38. [33] Muth ´en L, Muth ´en B. Mplus user’s guide. 8th ed. Los Angeles: Muth ´en &
Muth ´en, 1998–2017. [9]
Dijkstra A. The validity of the stages of change model in the adoption of the
self-management approach in chronic pain. Clin J Pain 2005;21:27–37. [34] Nicholas MK. The pain self-efficacy questionnaire: taking pain into
account. Eur J Pain 2007;11:153–63. [10] Elander J, Richardson C, Morris J, Robinson G, Schofield MB. Motivational and behavioural models of change: a longitudinal analysis
of change among men with chronic haemophilia-related joint pain. Eur J
Pain 2017;21:1384–96. [35] Nicholas MK, Asghari A, Corbett M, Smeets RJ, Wood BM, Overton S,
Perry C, Tonkin LE, Beeston L. Is adherence to pain self-management
strategies associated with improved pain, depression and disability in
those with disabling chronic pain? Eur J Pain 2012;16:93–104. [11] Geneen LJ, Moore A, Clarke C, Martin D, Colvin LA, Smith BH. Physical
activity and exercise for chronic pain in adults: an overview of Cochrane
Reviews. Cochrane Database Syst Rev 2017;CD011279. [36] Prochaska JO, DiClemente CC. Transtheoretical therapy: toward a more
integrative model of change. Psychotherapy 1982;19:276–88. [12] Gersh E, Arnold C, Gibson SJ. The relationship between the readiness for
change and clinical outcomes in response to multidisciplinary pain
management. Pain Med 2011;12:165–72. [37] Prochaska JO, DiClemente CC, Norcross JC. In search of how people
change: applications to addictive behaviors. Am Psychol 1992;47:
1102–14. [13] Habib S, Morrissey SA, Helmes E. Readiness to adopt a self-
management approach to pain: evaluation of the pain stages of change
model in a non-pain-clinic sample. PAIN 2003;104:283–90. [38] Prochaska JO, Velicer WF. The transtheoretical model of health behavior
change. Am J Health Promot 1997;12:38–48. [39] R Core Team. Table 5 Thus, the findings support the use of
the PSOCQ-J to evaluate the role that readiness to self-manage
pain may have in adjustment to chronic pain in Japanese chronic
pain populations. There are a number of limitations to this study that should
be considered when interpreting the results. First, the sample
was one of convenience, made up of consecutive patients
seen in a number of specific clinics who agreed to participate
in the study. The average age of participants was relatively
high, most of the participants were women, and many were
not receiving training in treatments designed to enhance their Table 7
Mean values and SDs of PSOCQ-J scales based on the current treatment. Treatment
PSOCQ scale
Yes
No
t
df
Hedges’ g
Mean
SD
Mean
SD
Exercise
Precontemplation
2.59
0.63
2.80
0.58
2.31*
199
20.35
Contemplation
3.64
0.54
3.31
0.53
24.12***
199
0.63
Action
3.20
0.62
2.63
0.68
25.61***
194
0.87
Maintenance
3.58
0.55
3.06
0.67
25.26***
196
0.81
Medication
Precontemplation
2.77
0.60
2.56
0.59
21.97
199
0.37
Contemplation
3.41
0.55
3.40
0.54
20.13
199
0.02
Action
2.77
0.72
2.97
0.62
1.52
194
20.28
Maintenance
3.19
0.68
3.36
0.63
1.33
196
20.25
*P , 0.05, **P , 0.01, ***P , 0.001. PSOCQ-J, Japanese version of the Pain Stage of Change. T. Adachi et al.·4 (2019) e711 PAIN Reports® PAIN Reports® 8 community-dwelling older adults with chronic pain: a randomized
controlled trial. Eur J Pain 2018;22:592–600. Disclosures The authors have no conflict of interest to declare. The authors have no conflict of interest to declare. [16] Hu LT, Bentler PM. Cutoff criteria for fit indexes in covariance structure
analysis: conventional criteria versus new alternatives. Struct Equ Model
1999;6:1–55. This study was presented at the 7th Asian Pain Symposium on
October 27, 2017, as a poster presentation. [17] Iwaki R, Arimura T, Jensen MP, Nakamura T, Yamashiro K, Makino S,
Obata T, Sudo N, Kubo C, Hosoi M. Global catastrophizing vs
catastrophizing subdomains: assessment and associations with patient
functioning. Pain Med 2012;13:677–87. Article history: Received 23 August 2018 [22] Jensen MP, Turner JA, Romano JM, Nielson WR. Chronic pain coping
inventory:
professional
manual. Lutz:
Psychological
Assessment
Resources, 2008. Received 23 August 2018
Received in revised form 11 December 2018 Received 23 August 2018
Received in revised form 11 December 2018 Accepted 16 December 2018 [23] Kamper SJ, Apeldoorn A, Chiarotto A, Smeets R, Ostelo R, Guzman J,
van Tulder M. Multidisciplinary biopsychosocial rehabilitation for chronic
low back pain: cochrane systematic review and meta-analysis. BMJ
2015;350:h444. Acknowledgment [18] Jensen MP, Nielson WR, Kerns RD. Toward the development of
a motivational model of pain self-management. J Pain 2003;4:477–92. The authors thank Professor Robert D. Kerns for granting us
permission to develop the Japanese version of the Pain Stage of
Change Questionnaire and providing feedback on the back-
translations of the measure, as well as his helpful comments and
suggestions on an earlier version of this manuscript. [19] Jensen MP, Nielson WR, Romano JM, Hill ML, Turner JA. Further
evaluation
of
the
pain
stages
of
change
questionnaire:
is
the
transtheoretical model of change useful for patients with chronic pain? PAIN 2000;86:255–64. [20] Jensen MP, Nielson WR, Turner JA, Romano JM, Hill ML. Readiness to
self-manage pain is associated with coping and with psychological and
physical functioning among patients with chronic pain. PAIN 2003;104:
529–37. This study was supported by the Grant-in-Aid for Japan Society
for the Promotion of Science (JSPS) Fellows (16J00100) of the
JSPS, Japan. [21] Jensen MP, Nielson WR, Turner JA, Romano JM, Hill ML. Changes in
readiness to self-manage pain are associated with improvement in
multidisciplinary pain treatment and pain coping. PAIN 2004;111:84–95. Article history: References R: A language and environment for statistical computing. R
Foundation for Statistical Computing 2014, Vienna. R Foundation for
Statistical Computing, 2017. [14] Hicks GE, Benvenuti F, Fiaschi V, Lombardi B, Segenni L, Stuart M,
Pretzer-Aboff I, Gianfranco G, Macchi C. Adherence to a community-
based exercise program is a strong predictor of improved back pain
status in older adults: an observational study. Clin J Pain 2012;28:195. [40] Shirado O, Doi T, Akai M, Hoshino Y, Fujino K, Hayashi K, Marui E, Iwaya
T. Multicenter randomized controlled trial to evaluate the effect of home-
based exercise on patients with chronic low back pain: the Japan low
back pain exercise therapy study. Spine 2010;35:e811–819. [15] Hirase T, Kataoka H, Nakano J, Inokuchi S, Sakamoto J, Okita M. Effects
of a psychosocial intervention programme combined with exercise in 4 (2019) e711 9 www.painreportsonline.com [46] Turk DC, Rudy TE. Neglected topics in the treatment of chronic pain
patients—relapse, noncompliance, and adherence enhancement. PAIN
1991;44:5–28. [41] Strand EB, Kerns RD, Christie A, Haavik-Nilsen K, Klokkerud M, Finset A. Higher levels of pain readiness to change and more positive affect reduce
pain reports—a weekly assessment study on arthritis patients. PAIN
2007;127:204–13. [47] Uki J, Mendoza T, Cleeland CS, Nakamura Y, Takeda F. A brief
cancer pain assessment tool in Japanese: the utility of the Japanese
Brief Pain Inventory—BPI-J. J Pain Symptom Manage 1998;16:
364–73. [42] Strong J, Westbury K, Smith G, McKenzie I, Ryan W. Treatment outcome
in individuals with chronic pain: is the Pain Stages of Change
Questionnaire (PSOCQ) a useful tool? PAIN 2002;97:65–73. [43] Sullivan MJL, Bishop SR, Pivik J. The pain catastrophizing scale:
development and validation. Psychol Assess 1995;7:524–32. [48] Williams ACDC, Eccleston C, Morley S. Psychological therapies for the
management of chronic pain (excluding headache) in adults. Cochrane
Database Syst Rev 2012;CD007407. [44] Tan G, Jensen MP, Thornby JI, Shanti BF. Validation of the Brief Pain
Inventory for chronic nonmalignant pain. J Pain 2004;5:133–7. [49] Yang SY, McCracken LM, Moss-Morris R. Psychological treatments for
chronic pain in East and Southeast Asia: a systematic review. Int J Behav
Med 2016;23:473–84. [45] Turk DC, Rudy TE. Neglected factors in chronic pain treatment outcome
studies—referral patterns, failure to enter treatment, and attrition. PAIN
1990;43:7–25.
|
https://openalex.org/W3205865005
|
http://papers.iafor.org/wp-content/uploads/papers/iicseehawaii2021/IICSEEHawaii2021_59043.pdf
|
English
| null |
Get Out of Your Comfort Zone: Externalization in Architecture to Increase Social and Environmental Connectivity
|
IAFOR International Conference on Sustainability, Energy & the Environment, official conference proceedings
| 2,021
|
cc-by
| 5,851
|
The IAFOR International Conference on Sustainability, Energy & the Environment –
Hawaii 2021
Official Conference Proceedings Hawaii 2021
Official Conference Proceedings Get Out of Your Comfort Zone: Externalization in Architecture to Increase Social
and Environmental Connectivity Get Out of Your Comfort Zone: Externalization in Architecture to Increase Social
and Environmental Connectivity Christina Brown, Carnegie Mellon University, United States
Erica Cochran, Carnegie Mellon University, United States
Dana Cupkova, Carnegie Mellon University, United States
Vivian Loftness, Carnegie Mellon University, United States
Azadeh Sawyer, Carnegie Mellon University, United States
Nida Rehman, Carnegie Mellon University, United States Christina Brown, Carnegie Mellon University, United States
Erica Cochran, Carnegie Mellon University, United States
Dana Cupkova, Carnegie Mellon University, United States
Vivian Loftness, Carnegie Mellon University, United States
Azadeh Sawyer, Carnegie Mellon University, United States
Nida Rehman, Carnegie Mellon University, United States Abstract Buildings currently account for 39% of energy-related carbon dioxide emissions
annually, worldwide. Despite the acceleration of climate change, architecture is
increasingly designed as hermetically sealed boxes, requiring increased conditioning,
which in turn further contributes to the greenhouse gas emissions warming up our
planet. In addition to disassociating people from the natural environment, this also
creates spaces where people disconnect from their community, and live within boxes
both physically and socially. Though current research addresses many environmental
and human health concerns that arise from internalized architecture, it does not
address the social disconnection nor is there any specific terminology and research
that focus on externalizing programming as a strategy. To fill this gap, this synthesis
establishes important terminology and research to support ‘externalization’, and
explores the environmental and social impacts of externalizing programs through both
design evaluation and morphology. Through thorough literature review, case studies
research and analysis, the importance and impacts of externalization is defined. Then
an externalization taxonomy is developed to support designers in two ways – as a
design evaluation tool and as a design support for integrated architectural design and
innovation that would better demonstrate how externalization can create integrated
designs that provide layers of environmental, social, and health benefits while
reducing the total building energy demands. Especially in the context of the current
pandemic (COVID-19), externalization is evermore important. The synthesis provides
the necessary groundwork to allow for externalization to be researched further, and
provide designers the necessary framework to shift towards externalized design
approaches. Introduction Currently the challenge is twofold- there is increase in designs where spaces are
disconnected from the outdoor environment, which not only has energy demand and
environmental implications, but also health and wellbeing implications. Second, by
designing internalized spaces that disconnect people from the outdoor environment,
designers have also created socially disconnected spaces that are not conducive to
increased social interaction. Without the ability to hear neighborhood chatter and
noises of the community from outside our window, people gain increasing levels of
isolation, and lose a sense of belonging within their local communities. Loss of
community vibrancy and a lack of diversity in terms of interactions between
occupants, and an understanding result in a sense of insecurity and anonymity within
the neighborhood that can greatly affect the social and cultural vibrancy and resiliency
of communities. For environmental connectivity, externalization provides building performance and
energy savings, biophilic benefits for health and wellbeing, and biodiversity benefits
for the environment. In terms of building performance and energy savings, robust
research on passive design strategies (Wang et al. 2014), mixed mode design
(Loftness 2014; Loftness and Haase 2013; Watson 2013; Liebard and Herde 2009),
and daylight and thermal autonomy all increase the overall environmental
connectivity while reducing the overall energy demands. Dynamic envelope design is
crucial as architecture becomes increasingly flexible based on weather conditions and
activity levels as it reduces the energy demand of the building, but also provides
alliesthesia (thermal delight) to the occupants. Furthermore, simulation softwares
enable designers to further explore the potentials of integrated passive designs to best
balance between the indoor and outdoor environments given local contexts. Another benefit of increased environmental connectivity is increased biophilic
benefits in terms of occupant health and wellbeing. Biophilia is a human's innate
biological tendency to seek connection with nature, which can have emotional,
mental, and physiological impacts on our wellbeing. Based on Edward O. Wilson’s
biophilia hypothesis, biophilic design focuses on designing in connection with nature
(Wilson 1986). Notable research by Stephen Kellert and Bill Browning solidified the
importance of biophilic design within architecture, as well as highlighted its impact
on human wellbeing (Heerwagen, Kellert, and Mador 2008; Browning, Catherine, and
Joseph 2014; Terrapin Bright Green 2012). For example, several studies indicated that
connection to nature could lower tension, anxiety, anger, fatigue, and confusion, and
could positively influence mood and self-esteem (Alcock et al. 2014; Barton and
Pretty 2010; D. K. Keywords:
Externalization,
Sustainable
Living,
Climate
Change,
Social
Sustainability, Architecture
iafor
The International Academic Forum
www.iafor.org Keywords:
Externalization,
Sustainable
Living,
Climate
Change,
Social
Sustainability, Architecture Keywords:
Externalization,
Sustainability, Architecture iafor
The International Academic Forum
www.iafor.org Introduction Brown, Barton, and Gladwell 2013). Biophilic design supported
the connection of humans to nature encouraged the strengthening of indoor-outdoor
relationships as there are studies that indicate that application can provide both
biophilic and environmental benefits to architectural practice (Dreiseitl 2019). Lastly, increased environmental connectivity can support local biodiversity through
regenerative design or the creation of nature corridors and hotspots. In research by
Hes and Du Plessi, regenerative design that focused on designing for local ecologies
helped rejuvenate damaged ecosystems (Hes and Plessis 2014). This encourages for a
close relationship between occupants and nature. Given growing climate change and
biodiversity concerns, ecologically driven approaches become increasingly important. The integration of nature and porosity within architecture can support the migration
and growth of flora and fauna within an urban setting, providing both occupants
biophilic benefits while also allowing nature to have spots of habitation amongst the
urban concrete jungle (Jain 2019). Building program externalization also contribute to enhanced social connectivity,
which can reduce isolation, improve community cohesion and vibrancy. In January of
2019, the Health Resources and Services Administration issued the “Loneliness
Epidemic”, which notes that nearly 1 out of 3 older Americans now live alone, which
can result in serious mental and physical health effects (Health Resources & Services
Administration 2019). “Loneliness and social isolation can be as damaging to health
as smoking 15 cigarettes a day”, and thus serious actions need to be taken to address
this concern (Health Resources & Services Administration 2019). Though spatial
conditions are not the sole contributor to the loneliness epidemic, there are studies that
support the impact of spatial conditions on isolation. Social capital is also a growing
research topic, as social connectivity becomes a growing concern within
predominantly urban design (Putnam 2020). However, what are the building level
implications when there is minimal social connectivity, when one cannot open the
window to hear children playing, when there is not a porch where people can interact
in passing? How has the internalized approach to architecture started to discourage
social interaction and connectivity, and what impacts and implications it may have? These questions are explored to varying degrees by researchers, though there exists a
missing link between externalization and social connectivity. This thesis links both environmental and social connectivity, and establish why
designing for externalization would be better than the current internalized approach. Introduction Especially now in the context of COVID-19 pandemic and social inequity, what role
can externalization play? Existing research already support the importance of
externalization as people lean towards balconies, porches, and other externalized
spaces that allow them to regain connectivity in a forced disconnected environment
due to quarantine (Ottoni et al. 2016; Martin 2020; Nisenson 2020). Additionally,
flexible boundaries such as sliding doors or outdoor classrooms enable schools to
continue teaching while enforcing safe distancing, which are all enabled through
externalized design (Bellafante 2020; Superville 2020; Couzin-Frankel, Vogel, and
Weil 2020). Given this new context, externalization grows in value as we become
increasingly aware of the disconnectivity of existing spaces. With improved social
connectivity, study also show its impact on safety and wellbeing within lower-income
communities, as spaces designed often don’t encourage social interaction or allow for
community identity to develop (Saegert, Winkel, and Swartz 2002; Knapp et al. 2019). This can greatly affect vulnerable communities, which can lead to more severe
mental and physical health impacts due to poor ventilation, lack of access to nature,
etc. Externalization Palette First set of criteria is the environmental connectivity of building programming - based
on how the space is sealed, how much daylight is available, and what kind of activity
takes place in these spaces. The worst scenario is a space that is fully sealed with full
mechanical support and no access to natural daylight. Then the introduction of natural
daylight opportunities while remaining fully sealed and full mechanical support is the next improvement towards environmental connectivity. With the introduction of
versatility, the dynamically sealed spaces allow for added operability and access to
passive strategies and natural daylight. Then externalized low function spaces
introduce fully externalized transitory spaces. Lastly, the most amount of
environmental connectivity represent fully externalized high function spaces where
social living spaces would be fully externalized. Considerations for environmental
connectivity could result in a significant amount of energy savings due to the decrease
in conditioned internalized space. Additionally, this allow for an increase in physical
activity and circulation, which can increase the overall social connection. Through
environmental externalization, there is added visual richness and connectivity, and
well as auditory and sensory richness. This allows for the community to gain a sense
of vibrancy through architectural design. Second set of criteria is the social connectivity of building programming, which
focuses on the amount of social connectivity that the space enables for its occupants. The most socially disconnected is individual and disconnected spaces. Then it moves
onto individual but visually connected spaces, which are typically spaces with glass
facades where you can see, but not hear or interact. Then it moves onto the building
community, which allows for the occupants within a building to socialize and interact
with one another. It then moves onto higher levels of public engagement with the
neighborhood community connection and finally the urban community connection
where it is fully open to the public. The increased social connections allow for the
success, resiliency, and longevity of the externalization strategies through increased
social connections, an increase in the amount of outdoor activities, and allow for
increased
socio-cultural
richness. Additionally
this
encourages
people
to
communicate and develop a level of tolerance through a sense of community, which
can increase the community resiliency in times of crises such as the current COVID-
19 pandemic. Externalization Palette When both the environmental connectivity and social connectivity are overlapped, it
creates a larger palette that can then evaluate architectural design through this color
schema - The Externalization Palette. The palette allows for immediate understanding
of a design’s externalization quality in regards to its social and environmental
considerations and creates a set of vocabulary for building program externalization
that can then evaluate architectural design through the criteria of environmental and
social connectivity. Architectural design can then be evaluated through this palette to
better understand the externalization quality of a design through this evaluation color
palette. This palette is arranged so that both criteria must be considered during
evaluation as both levels of connectivity determines the quality and effectiveness of
externalization in application, and diversity in the types of connectivity within a
design is also crucial to its overall success. This palette does not seek to over-simplify
the depth of spatial quality and social spaces, but aims to better consider the multiple
layers through a more defined set of criteria and vocabulary. In doing so, a better
understanding of building program externalization could be reached, and result in
more appropriate applications of externalization in architectural design practice. Externalization Taxonomy The externalization taxonomy is a series of fifty strategies that help support designers
when thinking about externalization in architectural design, it doesn’t serve as a
comprehensive list or a copy-paste solution, but as a series of potential inquiry
sparked by existing design strategies stemming from prior case study research. However behind each strategy generated within the taxonomy also lies deeper
literature review and research that support the importance and value of the strategies
generated. The full taxonomy can be divided into the following four broad categories: •
Externalize Circulation
•
Externalize Family
•
Externalize Community
•
Embrace Ecology •
Externalize Circulation
•
Externalize Family
•
Externalize Community
•
Embrace Ecology •
Externalize Circulation
•
Externalize Family
•
Externalize Community
•
Embrace Ecology Each category contains several externalization strategies, each of which includes an
explanatory diagram, a description, scientific research that supports the environmental
and social benefits of the strategy, and a precedent study that utilizes the specified
strategy. The layout of each taxonomy is shown in Figure 1. These strategies will not
be shown in this paper itself, though are accessible online. Figure 1: Externalization Taxonomy Layout Figure 1: Externalization Taxonomy Layout Externalization Taxonomy to Support Design Externalization Taxonomy to Support Design How can designers could use the 50 externalization taxonomies in design - and what
are the qualitative and quantitative benefits of implementation? Four specific
strategies were chosen and applied to a case study in Pittsburgh to better understand
its impact on the building’s design, its daylighting and energy performance, and lastly
its experiential impact. The four specific strategies chosen where the shutter facade,
dynamic facade, periphery social, and terraced garden strategies. These four strategies
were applied to the Environmental Charter School (ECS) in Garfield to explore the
value of externalization in architectural design. Figure 2: Four Externalization Strategies Applied to ECS Figure 2: Four Externalization Strategies Applied to ECS The existing ECS building is an enclosed building with thick brick wall construction
due to how old the building is. The window sizes and overall building performance
was enhanced with the renovation prior to the school’s opening, though all windows
in the building are inoperable to the outdoors. This results in a fully internalized
spatial experience that does not encourage students and school staff to experience and
connect with the outdoor environment despite the school’s out-the-door learning
approach. Analyzing the current baseline, the school is primarily enclosed with 71.8%
of the total school providing visual connection to the outdoors alone (in red) as shown
in Figure 91. The paved area on the southern side of the school as well as the parking
lot on the northern side of the school is used for students to play, which is 6.3% of the
total program area and the only area that is high function externalized to the outdoors. Due to the lack of greenspace located on the site itself, the adjacent open greenspaces
(both located on steep hills that prevent easy access) as well as parks further away are
relied on. Spatially and architecturally, the baseline does not allow the school to take
advantage of the outdoor environment at all. The school follows a standard
educational layout with a central circulation and classrooms facing both the north and
southern facades, and the building is three stories tall. The school building does not
contain a traditional gym space, so the activity room on the ground floor (a larger
classroom area) along with the outdoor spaces are used in lieu of the gym space. Externalization Taxonomy to Support Design Blinds are still available given that the use of projectors and
other technologies may require the classroom to be fully dark at times, though the
opportunity to use natural daylighting rather than artificial lighting will have profound
impacts on the student’s wellbeing as well as the operational costs of the school as a
whole. In addition to the natural daylighting benefits that resulted from the shutter façade, the
overall building energy use intensity (EUI) also is impacted. Due to the use of natural
daylighting and natural ventilation strategies, the total building EUI would be as an
astonishing 24.17 kBtu/ft2/year. This is only slightly above the 2030 EUI Target for
educational buildings. Given the use of passive strategies that would reduce existing
cooling, heating, and lighting loads, it results in the equipment becoming the highest
energy load for the whole building instead. Additionally, using Cove.tool, a simple
cost analysis was conducted to see the various renovation options possible, which
aims to calibrate between the amount of money spent relative to the building’s energy
performance. As shown in Figure 196, the lowest cost bundle is making no further
changes from the design iteration, though for $1,321 the energy could be optimized
even further, resulting in a less than 2-year payback and a 2% energy savings. Another strategy with greater alterations to the baseline is the dynamic facade, which
provides even more porosity and flexibility into the architectural design. The dynamic
façade externalizes internal program into a flexible shared space that can provide
exposure to seasonal weather changes and provide sensory delight. The space can be
customized by the occupant and allow for layers of privacy. When externalized, the
usage encourages a sense of community and offers social bonding opportunities. Given the strategy and climate type, a dynamic buffer zone is also added on the
southern facade to take advantage of thermal capture in winter months. This strategy
allows for mostly dynamically externalized spaces, but increases the amount of high
function externalized spaces through balconies. This results in great increases in
teachable area, social area, and playable area through the added buffer space and
balcony additions. Due to this implementation, there is 73% dynamically externalized
building community space, and a combined total of 8% circulation externalized and
high function externalized spaces. Externalization Taxonomy to Support Design Physical activity is crucial to children’s physical and mental development, making the
importance of the outdoors evermore important due to the lack of gym space for
physical activity. Given the evident limitations to the baseline ECS building, how can
externalization provide valuable impacts to the experience and performance of the
existing architecture? This is explored in increasingly more drastic applications –
starting with the shutter façade externalization strategy from the externalization
taxonomy. The shutter façade aims to externalize the façade to provide façade operability that
can act as shading devices when opened while providing thermal insulation when
closed. When opened, the shutters can provide shading and rain/snow coverage to
allow for use as long as temperature is permitting. This can also help extend internal
spaces outwards when folded, encouraging occupants to take advantage of the indoor-
outdoor connection. Passive strategies such as natural daylighting and natural
ventilation can also be utilized with this approach. The use of the shutter façade
allows the building externalization ratio to shift from a predominantly internalized
space to primarily dynamically externalized space (73%). The amount of
environmentally disconnected and high function externalized spaces do not change
however due to the strategy mainly influencing the building façade design alone. However, the northern and southern outdoor areas are landscaped to provide
improved outdoor areas that had better encourage students to play outside. Additionally due to the inclusion of the shutter façade, the ground floor classrooms
are able to spill out to the nearby greenspaces due to the operability of the design. This approach does not greatly affect the cafeteria or circulatory experiences of the
school, but given that students are spending most of their time in classroom settings,
this approach can still have profound impacts with biophilic benefits for the students
and faculty at ECS. Furthermore, due to the shading provided by the shutter when
opened, the natural daylight simulations indicate great levels of spatial daylight
autonomy (83.1%) while having very little possibilities of glare. This means that
classrooms could take advantage of natural daylight strategies without worrying about
issues of glare, which is especially important for the classroom experience given that
issues of glare usually deter school staff from taking advantage of natural daylighting
opportunities as much. Externalization Taxonomy to Support Design There is still a significant amount of internalized
spaces in the center of the building, though it does improve slightly from the original
baseline building externalization ratios (BER). Additionally in this iteration, unlike
the shutter façade, there are programmatic and spatial impacts. With the
implementation of dynamic façade, there is a 24% increase in the total teachable areas, a 109% increase in the total social areas, and a 79% increase in the total
playable area. This is due to the inclusion of balcony spaces and the dynamic buffer
space. This strategy delivers a very different connection to the outdoors for the
students given that this strategy acts more like layers of indoor-outdoor-ness (much
like an onion), while still providing many of the externalization benefits that the
shutter façade offered. In terms of daylight performance, this iteration provided even higher spatial daylight
autonomy (sDA) of 94.9%. However, this also resulted in increased annual sunlight
exposure (ASE) of 28.3%. The increase is to be expected given that this strategy does
not offer shading solutions, so additional shading strategies could be explored to
address the visual comfort concerns. Similar to the shutter façade, the dynamic façade
also had a similar EUI value of 24.39 kBtu/ft2/year. Moreover, like the previous
iteration, the equipment load is the main dominant load for the whole building energy
use intensity breakdown. However, unlike the previous iteration, the cost analysis
showed that significant energy savings could be made with actually less cost. This
indicates that the design of the school provided more energy savings with less
construction and system costs. The most optimized bundle offers a $26,730 reduction
in cost for an added 3% energy savings, which would result in immediate payback! The third strategy is the terraced garden, which aims to embrace ecology while
offering both social and biophilic benefits. Terraced garden aims to externalize
rooftops and facades to become terraced gardenscape that can offer biophilic benefits
and social opportunities at various levels of the building. This can have added
rainwater collection and other ecological design strategies integrated into the design
process. In this iteration, there are terraced landscapes west of the building that
embraces a bigger outdoor play area for the students. The parking lot is in return
moved offsite to the adjacent open space. Externalization Taxonomy to Support Design Additionally, this can be combined
with greenscapes or vegetation to provide added environmental benefits in addition to
the social richness that stems from this strategy. In this iteration, the use of the
periphery social pushes the central circulation to the perimeter of the building, which
hollows out the building center to create a new atrium that can allow natural daylight
to penetrate in. This also provides the school flexibility to adjust the building’s
porosity based on seasonal conditions on all sides given the dynamically externalized
double skin. The approach makes the building largely dynamically externalized (at a
combined 91.5%) based on seasonal conditions, and offer more natural daylight into
the whole building. However this does reduce the amount of high function or
circulation externalized spaces, which reduces the amount of diversity and gradients
of externalization is provided in the design, as well as can result in the “over
cladding” of the double skin. In this iteration operability becomes highly important,
influential in the success or failure of externalization (based on occupant behavior),
and proposes new challenges in terms of construction cost, material cost, and
questions of excess. The newly created atrium space allows for improved daylighting
qualities all the way to the first floor, removing large amounts of originally
environmentally disconnected spaces, but results in a seemingly less efficient
circulation design for the building. Though the strategy does not perfectly fit the case,
it does provide important environmental and social benefits that should be further
considered, while the design’s drawbacks should also be re-evaluated for future
design development. For the natural daylight performance of this iteration, the large additions did not
benefit the overall lighting performance of the building. The spatial daylight
autonomy decreased to 62.4% (in comparison to previous iterations), and the annual
sunlight exposure was still at 21.7%. This indicated that this iteration provided the
most natural daylight challenges, meaning the approaches from other iterations
provided more successful natural daylight design solutions in comparison to this
iteration. Further exploration and simulation would be needed to improve the building
performance of this design. This iteration similarly performed well compared to the
2030 baseline, though comparatively less than the shutter façade and terraced garden
iterations. This indicated that the approach was not ideal given its (comparatively)
poor daylighting performance with no evident improvement in the EUI performance
either. Externalization Taxonomy to Support Design The southern paved area is now transformed
into a flexible garden space and outdoor kitchen space with balconies on the second
and third floors. This approach greatly increases the amount of high function
externalized spaces, with the majority of the design being either dynamically or fully
externalized to the outdoors. This also results in incredible increases in the total
teachable area (41%), social area (159%), playable area (297%), and circulation in the
outdoors (154%). In this iteration, the BER shifts from a predominantly dynamically
externalized building to one that is mostly dynamically externalized or high function
externalized. This indicates that a large amount of occupied space is actually fully
externalized to the environment. For ECS with their out-the-door curriculum, this
ratio best aligns with their educational beliefs. For daylight performance, the terraced garden iteration actually performed lesser than
the two previous iterations. This was likely due to the more intensive structures added
on the southern façade, which resulted in less optimal daylight performance. The
overall performance was still high, though more formal considerations would need to
be taken prior to its implementation. For this exploration however, that level of detail
will not be explored further. However, in contrast, the EUI analysis showed that the
terraced garden iteration performed better than the shutter façade or dynamic façade,
which could be due to the impact of the dynamic structure added to the southern
façade that acts as a thermal buffer and storage during winter months. Understandably, the heating load becomes miniscule, with added focus on equipment
loads becoming the largest building load. Lastly, the cost analysis indicated that similar to the dynamic façade, reduced construction cost can actually serve to improve
the overall building performance by a slight amount. In the most optimized scenario,
$11,082 can be saved while providing 1% payback in energy savings. This would
result in improved energy performance in addition to reduced construction costs. Last of all, periphery social completely transforms the school by pushing the
circulation to the perimeter of the building. Periphery Social pushes circulation to the
periphery edge of the building while incorporating social spaces and community
gathering spaces into the circulation itself. This allows for a richer and engaging
circulation that allows for spontaneous interactions, collaboration, and social activities
to take place in traditionally “transitory” spaces. Externalization Taxonomy to Support Design Lastly, similar to the previous two iterations, periphery social actually
benefitted from improved energy savings with less upfront cost. The construction
would save $16,190 with 2% improved energy savings based on the most optimized
option found in Cove.tool. This is once again likely due to the thermal storage of the
double skin that allows for performative savings that may result in some building system machinery being too high-tech relative to their overall usage/impact on the
total building energy load. In terms of building performance, each iteration performs at roughly half of the US
national median EUI for schools through externalization, which equipment now
becoming the main energy load factor in each iteration. Due to the implementation of
externalization along with the use of passive strategies, the heating, cooling, and
lighting loads are all significantly reduced. This results in the equipment load being
the dominant load for each iteration. These iterations are still slightly above the 2030
target of 18.33 kBtu/ft2/year, but through an iterative design process, these
preliminary designs could likely reach the 2030 target. Especially considering that,
these four iterations are all preliminary designs to explore the value of externalization;
these results highlight the potential of externalized thinking. Additionally natural
daylight analysis shows that the daylight quality improves greatly through these
designs due to increased connections to the environment, though to varying degrees. Overall, their performance are still quite meaningful. Conclusion From the growing impacts of climate change and concerns for building energy loads
to the established importance of nature on human health and wellbeing as we become
increasingly urbanized to the growing concerns for isolation and social
disconnectivity, how we understand ‘boundary’ and shape our spaces become ever
more critical. The conventional approach of internalization was supported and
bolstered by the development of technology, but as new concerns arise in the 21st
century, it is necessary for architecture to shift from the internalized design approach
that have become the ‘norm’ to a new externalized design approach that reconnect
people to the environment and to each other. Especially in the age of pandemic where
quarantine,
isolation,
and
social
distancing
have
become
commonplace,
externalization becomes a crucial design approach that serves to support the necessary
connections that are needed while abiding by the many health and social restrictions
that define the current lifestyle. This synthesis establishes foundational research, framework, and design work to
encourage and support design professionals in shifting from the current internalized
design approach to an externalized approach that allows its occupants to embrace both
nature and the community, so that we can create spatial environments that embraces
connectivity rather than isolation. Acknowledgements Sincere acknowledgements to Joshua Bard and Sarah Rafson, who provided
encouragement and support through the development of this research. Additional
thank you to the many professors at Carnegie Mellon University School of
Architecture who provided valuable feedback for this body of work. Without the
kindness and enthusiasm of many professionals, this work would not have been
possible. References Browning, William, Ryan Catherine, and Clancy Joseph. 14 Patterns of Biophilic
Design, 2014. https://www.terrapinbrightgreen.com/reports/14-patterns/. Heerwagen, Judith, Stephen R. Kellert, and Martin Mador. Biophilic Design: The
Theory, Science and Practice of Bringing Buildings to Life. Hoboken, N.J. : Wiley,
2008. Liebard, Alain, and Andre de Herde. Bioclimatic Facades, 2009. Putnam, Robert. Bowling Alone: Revised and Updated: The Collapse and Revival of
American Community. Updated Edition. Simon & Schuster, 2020. Terrapin Bright Green. The Economics of Biophilia. Terrapin Bright Green, June 12,
2012. https://www.terrapinbrightgreen.com/reports/the-economics-of-biophilia/. Wilson, Edward O. Biophilia. Cambridge, UNITED STATES: Harvard University
Press, 1986. Hes, Dominique, and Chrisna du Plessis. Designing for Hope: Pathways to
Regenerative Sustainability. 1 edition. New York: Routledge, 2014. Alcock, Ian, Mathew P. White, Benedict W. Wheeler, Lora E. Fleming, and Michael
H. Depledge. 2014. “Longitudinal Effects on Mental Health of Moving to Greener
and Less Green Urban Areas.” Environmental Science & Technology 48 (2): 1247–
55. https://doi.org/10.1021/es403688w. Barton, Jo, and Jules Pretty. “What Is the Best Dose of Nature and Green Exercise for
Improving Mental Health? A Multi-Study Analysis.” Environmental Science &
Technology 44, no. 10 (May 15, 2010): 3947–55. https://doi.org/10.1021/es903183r. Barton, Jo, and Jules Pretty. “What Is the Best Dose of Nature and Green Exercise for
Improving Mental Health? A Multi-Study Analysis.” Environmental Science &
Technology 44, no. 10 (May 15, 2010): 3947–55. https://doi.org/10.1021/es903183r. Bellafante, Ginia. “Schools Beat Earlier Plagues With Outdoor Classes. We Should,
Too.” The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- Bellafante, Ginia. “Schools Beat Earlier Plagues With Outdoor Classes. We Should,
Too.” The New York Times, July 17, 2020, sec. New York. Bellafante, Ginia. “Schools Beat Earlier Plagues With Outdoor Classes. We Should,
Too.” The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening- Bellafante, Ginia. Schools Beat Earlier Plagues With Outdoor Classes. We Should,
Too.” The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening-
outdoors.html. Too. The New York Times, July 17, 2020, sec. New York. https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening-
outdoors.html. y
https://www.nytimes.com/2020/07/17/nyregion/coronavirus-nyc-schools-reopening-
outdoors.html. Brown, Daniel K., Jo L. Barton, and Valerie F. Gladwell. “Viewing Nature Scenes
Positively Affects Recovery of Autonomic Function Following Acute-Mental Stress.”
Environmental Science & Technology 47, no. 11 (June 4, 2013): 5562–69. https://doi.org/10.1021/es305019p. Brown, Daniel K., Jo L. Barton, and Valerie F. Gladwell. “Viewing Nature Scenes
Positively Affects Recovery of Autonomic Function Following Acute-Mental Stress.”
Environmental Science & Technology 47, no. 11 (June 4, 2013): 5562–69. https://doi.org/10.1021/es305019p. Dreiseitl, Herbert. 2019. “Biophilia for Healthy Cities.” Topos, no. 106.
https://shop.georg-media.de/topos-106/. Watson, Donald. 2013. “Bioclimatic Design.” In Sustainable Built Environments,
edited by Vivian Loftness. n.d. “Mixed Mode Ventilation Adopted in Advanced Office
Buildings.” Green Build Conference. Accessed July 19, 2020. Jain, Anuj. 2019. “Landscape Ecology.” Presented at the Master of Science in
Integrated Sustainable Design Workshop, National Univeristy of Singapore, January
16. References Couzin-Frankel, Jennifer, Gretchen Vogel, and Meagan Weil. 2020. “School
Openings across Globe Suggest Ways to Keep Coronavirus at Bay, despite
Outbreaks.” Science | AAAS. July 7, 2020. https://www.sciencemag.org/news/2020/07/school-openings-across-globe-suggest-
ways-keep-coronavirus-bay-despite-outbreaks. Couzin-Frankel, Jennifer, Gretchen Vogel, and Meagan Weil. 2020. “School
Openings across Globe Suggest Ways to Keep Coronavirus at Bay, despite
Outbreaks.” Science | AAAS. July 7, 2020. https://www.sciencemag.org/news/2020/07/school-openings-across-globe-suggest-
ways-keep-coronavirus-bay-despite-outbreaks. Couzin-Frankel, Jennifer, Gretchen Vogel, and Meagan Weil. 2020. “School
Openings across Globe Suggest Ways to Keep Coronavirus at Bay, despite
Outbreaks.” Science | AAAS. July 7, 2020. |
y
https://www.sciencemag.org/news/2020/07/school-openings-across-globe-suggest-
ways-keep-coronavirus-bay-despite-outbreaks. Dreiseitl, Herbert. 2019. “Biophilia for Healthy Cities.” Topos, no. 106. https://shop.georg-media.de/topos-106/. Health Resources & Services Administration. 2019. “The ‘Loneliness Epidemic.’”
Text. Official Web Site of the U.S. Health Resources & Services Administration. January 10, 2019. https://www.hrsa.gov/enews/past-issues/2019/january-
17/loneliness-epidemic. Knapp, Megan B., Megan T. Hall, Adrienne R. Mundorf, Kerrie L. Partridge, and
Carolyn C. Johnson. 2019. “Perceptions of School-Based Kitchen Garden Programs
in Low-Income, African American Communities.” https://journals-sagepub-
com.proxy.library.cmu.edu/doi/full/10.1177/1524839918782157. Loftness, Vivian. 2014. “Indoor Environmental Quality.” Architect. October 20, 2014
https://www.architectmagazine.com/Design/indoor-environmental-quality_o. Loftness, Vivian, and Dagmar Haase, eds. 2013. Sustainable Built Environments. New York, NY: Springer New York. https://doi.org/10.1007/978-1-4614-5828-9. Martin, Rebeca Ibanez. 2020. “The Balcony: Normativity Lessons in Times of
Crisis.” Somatosphere (blog). April 9, 2020. http://somatosphere.net/2020/the-balcony-
normativity-lessons-in-times-of-crisis.html/. Nisenson, Lisa. 2020. “Outdoor Dining & Sidewalk Cafes.” 2020. https://www.greaterplaces.com/whats-new-city-design/i/10005280/outdoor-dining-
sidewalk-cafes. Ottoni, Callista A., Joanie Sims-Gould, Meghan Winters, Myrthe Heijnen, and
Heather A. McKay. 2016. “‘Benches Become like Porches’: Built and Social
Environment Influences on Older Adults’ Experiences of Mobility and Well-Being.”
Social Science & Medicine (1982) 169: 33–41. https://doi.org/10.1016/j.socscimed.2016.08.044. Saegert, Susan, Gary Winkel, and Charles Swartz. 2002. “Social Capital and Crime in
New York City’s Low-income Housing.” Housing Policy Debate 13 (1): 189–226. https://doi.org/10.1080/10511482.2002.9521439. Superville, Denisa R. 2020. “Outdoor Classrooms in the Age of COVID-19: Pros and
Cons.” Education Week - District Dossier. June 1, 2020. http://blogs.edweek.org/edweek/District_Dossier/2020/06/outdoor_classrooms_coron
avirus.html?cmp=SOC-SHR-FB. Wang, Yang, Fu-Yun Zhao, Jens Kuckelkorn, Di Liu, Jun Liu, and Jun-Liang Zhang. 2014. “Classroom Energy Efficiency and Air Environment with Displacement Natural
Ventilation in a Passive Public School Building.” Energy and Buildings 70
(February): 258–70. https://doi.org/10.1016/j.enbuild.2013.11.071. Watson, Donald. 2013. “Bioclimatic Design.” In Sustainable Built Environments,
edited by Jain, Anuj. 2019. “Landscape Ecology.” Presented at the Master of Science in
Integrated Sustainable Design Workshop, National Univeristy of Singapore, January
16.
Vivian Loftness. n.d. “Mixed Mode Ventilation Adopted in Advanced Office
Buildings.” Green Build Conference. Accessed July 19, 2020. Jain, Anuj. 2019. “Landscape Ecology.” Presented at the Master of Science in
Integrated Sustainable Design Workshop, National Univeristy of Singapore, January
16. Vivian Loftness. n.d. “Mixed Mode Ventilation Adopted in Advanced Office
Buildings.” Green Build Conference. Accessed July 19, 2020.
|
https://openalex.org/W4361986599
|
https://www.e3s-conferences.org/10.1051/e3sconf/202337605047/pdf
|
English
| null |
The role of technological innovations in institutional regulation of the financial capital market
|
E3S web of conferences
| 2,023
|
cc-by
| 3,413
|
* Corresponding author: abuzov.arthur@mail.ru The
role
of
technological
innovations
in
institutional regulation of the financial capital
market 1SSEU, Department of Economics, Organization, and Enterprise Development Strategy, 443031
Samara, Russia Abstract. Financial technologies (fintech) have been actively developing
in recent years and are overturning conventional notions about the financial
capital market. The article explores the role of technological innovations in
institutional regulation of the financial capital market. Thanks to innovations
such as blockchain technology, artificial intelligence, and machine learning,
market participants are able to make more accurate and faster decisions,
ensure transaction security and reliability, and have more transparent and
efficient risk management. The article describes some examples of
successful implementation of technological innovations in institutional
regulation of the financial capital market, such as the use of blockchain in
supply chain management, automation of risk management, and real-time
processing of large volumes of data. A mathematical model of optimal
institutional regulation of the financial capital market is presented. However,
in addition to the advantages, the use of technological innovations also
carries potential risks such as breach of confidentiality, incomplete
information of market participants, and the possibility of technological
glitches. Therefore, it is important to develop and effectively implement
measures to regulate the use of fintech, which must comply with rules and
legislation. © The Authors, published by EDP Sciences. This is an open access article distributed under the terms of the Creative
Commons Attribution License 4.0 (http://creativecommons.org/licenses/by/4.0/). E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 1 Introduction The financial capital market is one of the most significant elements of the economy in many
countries. As a result, institutional regulation of this market plays an important role in
ensuring its stability and efficiency. In recent years, there have been numerous new
technological innovations that can be used to improve institutional regulation processes. This
can include the use of blockchain technology, machine learning, artificial intelligence, and
other tools. Although many of these innovations are still only beginning to be used in
financial capital market regulation, they have already shown their potential for increasing
regulation efficiency and protecting investor interests. In this article, we will analyze which technological innovations can be applied to
institutional regulation of the financial capital market and how they are already being used in
different countries around the world. We will also evaluate the advantages and disadvantages E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 associated with the use of these innovations and how they can be used to achieve more
efficient institutional regulation in the future. associated with the use of these innovations and how they can be used to achieve more
efficient institutional regulation in the future. Technological innovations in the field of financial technology, including blockchain,
artificial intelligence, and machine learning, are increasingly being used in the financial
capital market. They represent the potential to improve market efficiency, transparency, and
security, as well as to ensure compliance with regulatory requirements. Studies show that the use of blockchain can significantly reduce transaction costs and
improve the security of operations in financial markets (Swan, 2015 [1]; Crosby et al., 2016
[2]). In particular, blockchain technology allows for the creation of blockchains that contain
information about transactions and other operations. Blockchain can be used to improve
transparency and reliability in the securities system and risk management (Vigna & Casey,
2015 [3]). However, as noted by Zhang et al. [4], standardization and integration between
different blockchain platforms remain the main obstacles to their widespread adoption. Artificial intelligence and machine learning also have the potential to improve the efficiency
and accuracy of decision-making in financial markets (Chen et al., 2018 [5]; Schroeck et al.,
2019 [6]). However, as noted by Zhou et al. [7], the use of artificial intelligence can also raise
concerns about data confidentiality and discrimination. 1 Introduction Therefore, the implementation of
artificial intelligence and machine learning in the financial capital market should be
accompanied by appropriate measures to protect data and ethical responsibility. These technologies can be used to analyze large volumes of data and identify trends and
risks that may potentially threaten market stability. Additionally, they can help automate
some regulatory processes, which can increase efficiency and reduce costs associated with
these tasks. Despite the potential benefits that technological innovations can bring to institutional
regulation of the financial capital market, there are also risks associated with their
application. For example, issues with data protection and confidentiality may arise, and new
types of fraud and cyber-attacks may emerge. Therefore, it is important to strike a balance
between the use of new technologies and ensuring the safety and protection of investor rights. Recent studies also highlight the role of collaboration between the private sector and the
government in the development and implementation of technological innovations in the
financial capital market. This allows regulators to gain wider access to the expertise and
technologies needed for effective market regulation, and also fosters collaboration between
the private sector and the government in the development and implementation of
technological innovations [8]. Finally, it should be noted that technological innovations in the field of financial
technology are still in the developmental stage, and their impact on the financial capital
market can be unpredictable. However, as many researchers note, the implementation of
technological innovations can lead to significant improvements in the efficiency,
transparency, and security of the financial capital market, which can ultimately lead to a more
stable and resilient financial capital market as a whole [9]. Thus, there is significant potential for the use of technological innovations in institutional
regulation of the financial capital market. However, to successfully realize this potential, it
is necessary to consider the risks and benefits of using these innovations, as well as develop
appropriate standards and guidelines for their safe and effective use. 3 Results The analysis of the role of technological innovations in institutional regulation of the
financial capital market has shown that these innovations can provide significant benefits in
terms of efficiency, security, and stability of the market. Figure 1 shows the evolution of digital technologies that have influenced the development
of the financial capital market. n
y
Voice identification
to verify
the identity of customers
when calling the bank
2016 Fig. 1. Evolution of financial technologies. The Bitcoin system
was the first application
of blockchain technology
2008
1998-1999
PayPal
1995
First Virtual Bank
Security First Network Bank
(www.sfhb.com)
The First Diners
Credit Cards
1950
1967
The first cash withdrawal ATM
at a Barclays Bank branch
in Enfield
NASDAQ - the world's first
electronic stock market
1971
The first mobile payment
via SMS. Helsinki
1997
2017
Smile to pay
Voice identification
to verify
the identity of customers
when calling the bank
2016
2013
N26 — 100%
online banking NASDAQ - the world's first
electronic stock market
1971 2017
mile to p 1998-1999
PayPal Fig. 1. Evolution of financial technologies. The blockchain technology has been identified as a promising tool for accounting and
transferring securities, managing risks, and reducing transaction costs. The use of smart
contracts and digital identities can help to automate many processes and improve the
accuracy of transactions. However, the lack of standardization and interoperability of
different blockchain platforms remains a major challenge for their widespread adoption. The use of blockchain technology can lead to a reduction in back-office operations costs
by 30-50%. However, these figures apply to the costs of operations related to data processing
and transmission and may vary depending on the specific application of blockchain
technology [10]. One example of using blockchain in regulating the financial capital market is using the
technology to improve investment attraction processes through Initial Coin Offerings (ICO). ICO is a process in which companies attract investments by issuing their own cryptocurrency
and selling it to investors. However, this practice poses certain risks for investors, as
companies may misuse the funds raised, and there is a risk of fraud. To address these issues, blockchain can be used to create a secure and reliable platform
for conducting ICOs. Blockchain allows creating a chain of blocks with information about
all transactions that occur within an ICO. 2 Materials and Methods To compile a review of the practices of using blockchain, artificial intelligence, and machine
learning in regulating financial capital, the following sources of information were used: - Scientific articles and reports published in various journals and databases, including
Google Scholar and Scopus; 2 2 E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 - Official documents and publications of international organizations such as the World
Bank, the International Monetary Fund (IMF), the Organization for Economic Cooperation
and Development (OECD), among others; p
(
)
g
- News articles and blogs published in financial media such as Bloomberg and the
Financial Times. To construct a mathematical model for optimal institutional regulation of the financial
capital market, the following mathematical methods were used: To construct a mathematical model for optimal institutional regulation of the financial
capital market, the following mathematical methods were used: p
g
- Functional analysis and optimization theory for formulating the optimization problem - Functional analysis and optimization theory for formulating the optimization problem;
- Theory of monotone functions for assuming a monotonic increasing relationship - Functional analysis and optimization theory for formulating the optimization problem;
- Theory of monotone functions for assuming a monotonic increasing relationship
between the yield function and the level of regulation and economic growth. - Functional analysis and optimization theory for formulating the optimization problem;
- Theory of monotone functions for assuming a monotonic increasing relationship
between the yield function and the level of regulation and economic growth. 3 Results This gives investors the opportunity to ensure that
the funds they invest in ICOs are used for their intended purpose and to monitor the project's
development process. Another example is using blockchain to create decentralized exchanges (DEX). Traditional exchanges are centralized, meaning they have a centralized structure and store all
data and funds on a central server. This creates security risks, as the server can be hacked or
attacked by hackers. 3 3 3 E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 In DEX, blockchain is used to create a decentralized platform on which users can trade
without intermediaries. This increases the security and reliability of trading in the financial
capital market. In addition, blockchain allows for the creation of smart contracts that are
automatically executed when certain conditions are met, making the trading process easier
and reducing risks for investors. g
The standard scheme of financial transactions includes several stages and intermediary
roles: - Initiation of the transaction: the client initiates the transaction, usually through their
bank account, using online banking or a mobile application; - Verification of client data: the bank verifies the client's personal data and checks whether
they have sufficient funds to conduct the transaction; - Data transfer: the bank transfers data about the transaction to other participants in the
financial system, such as payment systems, payment processors, or other banks; - Processing the transaction: financial system participants process the transaction and
confirm it; - Completion of the transaction: the bank carries out the final transfer of funds to the
recipient's account. The roles of intermediaries in this scheme may vary depending on the type of transaction
and the country, but usually include banks, payment systems, payment processors, card
networks, and other financial system participants. Blockchain technology can simplify this scheme by removing some intermediaries and
making transactions faster and more secure. For example, blockchain can be used to create a
decentralized payment system that allows clients to exchange funds directly without the
involvement of intermediaries. In this case, blockchain technology replaces the role of banks
and other financial system participants. In addition, blockchain can improve the security of transactions and reduce the risks of
fraud and errors. Blockchain uses cryptography and digital signatures to protect data, and all
transactions are recorded in an immutable ledger, making them immutable and more reliable. 3 Results Artificial intelligence and machine learning can also provide valuable insights into market
trends and risks, and help to identify potential fraud and other illegal activities. The use of
advanced analytics and predictive modeling can improve risk management and decision-
making, and reduce the impact of market volatility on the overall performance of the market. However, the potential risks associated with the use of AI and machine learning, such as bias
and data privacy concerns, should be carefully addressed to ensure their responsible and
ethical use. One example of the application of artificial intelligence and machine learning in
institutional regulation of the financial capital market is the use of machine learning
algorithms to detect manipulation on financial markets. For instance, Nasdaq uses AI and machine learning technologies to detect abnormal
trading activity and manipulation on stock exchanges. Nasdaq systems employ machine
learning algorithms to automatically process and analyze large volumes of trading data and
identify anomalies that may indicate manipulation. Another example is the use of artificial intelligence to assess investment risks. Some
companies use machine learning algorithms to analyze data and determine the risks
associated with investing in certain assets or markets. This can help investors and regulatory
bodies make more informed decisions based on quantitative data [11]. Consider a mathematical model describing the optimal institutional regulation of the
financial capital market. Let $y$ be the return on the financial capital market, $x$ be the level
of regulation, and $z$ be economic growth. Then the function of the return on the financial capital market can be expressed as follows: 4 E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 (1) $$y=f(x,z)$$, Assume that the function $f$ is monotonically increasing in $x$ and $z$, that is, the
higher the level of regulation and economic growth, the higher the return on the financial
capital market. p
Now suppose that regulatory bodies can control the level of regulation $x$. Regulatory
bodies can choose the optimal level of regulation that maximizes the return on the financial
capital market, provided that this does not adversely affect economic growth $z$. y, this can be written as an optimization problem: Mathematically, this can be written as an optimization problem: $$\max_{x} f(x,z)$$ subject to $g(x,z) \geq 0$,
(2) (2) Where $g(x,z)$ is a constraint function that defines the relationship between the level of
regulation $x$ and economic growth $z$. 3 Results Thus, the optimal level of regulation will be the one that maximizes the return on the
financial capital market, subject to not negatively affecting economic growth. j
g
y
g
g
Of course, in practice, the level of regulation cannot be chosen simply based on a
mathematical model. Many other factors need to be taken into account, such as political and
social conditions, external economic factors, etc. However, the mathematical model can be a
useful tool for decision-making based on quantitative data and assessing the effectiveness of
various regulatory measures. 4 Discussion This 5 5 E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 indicates that investors continue to see significant potential in the development of fintech
technologies [16]. indicates that investors continue to see significant potential in the development of fintech
technologies [16]. The prospects for the development of financial technologies (fintech) look promising. With the increasing number of participants in financial markets and growing trading volumes,
the use of technology becomes increasingly necessary. Fintech has the potential to lead to the
emergence of new financial products and services. For example, microfinance and
microcredit are becoming more popular due to the use of technologies that enable the
automation and acceleration of the loan issuing process. 5 Conclusion In conclusion, it can be noted that technological innovations such as blockchain and artificial
intelligence are playing an increasingly important role in regulating the financial capital
market. These technologies offer a number of advantages, such as increased transparency,
easier trading, and improved forecasting accuracy, which help to enhance market processes
and ensure the safety and reliability of financial transactions. Furthermore, the implementation of technological innovations in the financial industry
can lead to significant cost reductions, which is an important factor for market participants. However, it is important to also consider the potential risks associated with the use of these
technologies and effectively regulate them in accordance with rules and legislation. Therefore, technological innovations are an important factor in the institutional regulation
of the financial capital market, and with consideration of their potential and risks, measures
should be taken for their effective use and regulation in accordance with market rules and
legislation. 4 Discussion Blockchain and artificial intelligence have increasingly been influencing the financial capital
market in recent years. Below are some examples of how these technologies have impacted
the market: 1. Facilitating trading: Blockchain technology allows for faster and cheaper financial
transactions. For example, payments can be made directly between participants without the
need for intermediaries such as banks. These speeds up processes and reduces costs. 2. Improving transparency: Blockchain technology can provide a more transparent and
secure way of storing and transmitting data. This is particularly important for financial
transactions where participants must be sure that the data has not been altered or falsified. 2. Improving transparency: Blockchain technology can provide a more transparent and
secure way of storing and transmitting data. This is particularly important for financial
transactions where participants must be sure that the data has not been altered or falsified. 3. Enhancing prediction accuracy: Artificial intelligence can be used to analyze large
amounts of data and predict trends in the financial market. This can help investors make more
informed decisions and improve their investment outcomes. Some specific figures that confirm the impact of blockchain and artificial intelligence on
the market include: In 2020, the market volume of blockchain technology in the financial industry was $4.4
billion. (Source: MarketsandMarkets) [12]. In 2020, the market volume of blockchain technology in the financial industry was $4.4
billion. (Source: MarketsandMarkets) [12]. According to Accenture, the use of artificial intelligence could lead to a 22% reduction in
financial company costs by 2030 [13]. According to Accenture, the use of artificial intelligence could lead to a 22% reduction in
financial company costs by 2030 [13]. According to McKinsey & Company, the implementation of blockchain technology could
lead to a 30-50% reduction in back-office operation costs [14]. According to McKinsey & Company, the implementation of blockchain technology could
lead to a 30-50% reduction in back-office operation costs [14]. The PwC "Global Fintech Report 2021" states that 88% of financial companies believe
that implementing fintech solutions helps improve customer experience. In addition, 77% of
companies believe that fintech technologies help increase operational efficiency, and 54% of
survey participants stated that they plan to acquire or strengthen their partnerships with
fintech companies in the coming years [15]. Also, the KPMG "Pulse of Fintech 2021" report notes that more than $44 billion was
invested in global fintech companies in 2020, despite the COVID-19 pandemic. References 1. M. Swan, Blockchain, blueprint for a new economy (O'Reilly Media, Inc., 2015) 2. M. Crosby, P. Pattanayak, S.S. Verma, V. Kalyanaraman, Applied Innovation 2, 6-10
(2016) DOI: 10.1016/j.apinov.2016.05.001 3. P. Vigna, M.J. Casey, The age of cryptocurrency: How bitcoin and digital money are
challenging the global economic order (St. Martin's Press, 2015) 4. Y. Zhang, Y. Xu, L. Ye, International Journal of Financial Research 11(2), 199-211
(2020) DOI: 10.5430/ijfr.v11n2p199 5. M. Chen, Y. Ma, Z. Li, X. Li, Journal of Financial Management Science 1(1), 14-27
(2018) DOI: 10.3934/jfms.2018002 6. M. Schroeck, R. Shockley, J. Smart, D. Romero-Morales, P. Tufano, Deloitte Insights,
1-14 (2019) 7. L. Zhou, J. Zhang, X. Chen, W. Liu, Journal of Business Research 117, 159-164
(2020) DOI: 10.1016/j.jbusres.2020.04.027 8. T.H. Lee, H., Kim, H. Kim, Journal of Financial Stability 53, 100-119 (2021) DOI:
10.1016/j.jfs.2021.100119 9. R. Turrin, M. Donadelli, R. Demirer, Journal of Financial Stability 54, 100-113 (2021)
DOI: 10.1016/j.jfs.2021.100134 10. T. Nakamura, Y. Nemoto, M. Takahashi, McKinsey & Company (2016) 11. M. Bayern, How AI and machine learning are transforming banking and finance
(TechRepublic, 2020) URL: https://www.techrepublic.com/article/how-ai-and-
machine-learning-are-transforming-banking-and-finance/ 6 E3S Web of Conferences 376, 05047 (2023)
ERSME-2023 https://doi.org/10.1051/e3sconf/202337605047 12. Markets and Markets, Blockchain Market by Component, Provider, Application, and
Region - Global Forecast to 2025 (2020) URL:
https://www.marketsandmarkets.com/Market-Reports/blockchain-market-
90100890.html 13. Accenture. Banking Technology Vision (2019) URL:
https://www.accenture.com/_acnmedia/pdf-96/accenture-2019-banking-tech-vision.pdf 14. McKinsey & Company. Blockchain beyond the hype: What is the strategic business
value? (2018) URL: https://www.mckinsey.com/business-functions/digital-
mckinsey/our-insights/blockchain-beyond-the-hype-what-is-the-strategic-business-
value 15. PwC Global Fintech Report (2021) URL:
https://www.pwc.com/gx/en/industries/financial-services/fintech/global-fintech-report-
2021.html 15. PwC Global Fintech Report (2021) URL:
https://www.pwc.com/gx/en/industries/financial-services/fintech/global-fintech-report-
2021.html 16. KPMG Pulse of Fintech 2021 (2021) URL:
https://home.kpmg/xx/en/home/insights/2021/06/pulse-of-fintech-h1-2021.html 16. KPMG Pulse of Fintech 2021 (2021) URL:
https://home.kpmg/xx/en/home/insights/2021/06/pulse-of-fintech-h1-2021.html 7 7
|
W1981278455.txt
|
https://www.frontiersin.org/articles/10.3389/fnmol.2012.00016/pdf
|
en
|
Conditional RARα knockout mice reveal acute requirement for retinoic acid and RARα in homeostatic plasticity
|
Frontiers in molecular neuroscience
| 2,012
|
cc-by
| 7,811
|
ORIGINAL RESEARCH ARTICLE
MOLECULAR NEUROSCIENCE
published: 15 February 2012
doi: 10.3389/fnmol.2012.00016
Conditional RARα knockout mice reveal acute requirement
for retinoic acid and RARα in homeostatic plasticity
Federica Sarti 1,2 , Jessica Schroeder 1 , Jason Aoto 1 and Lu Chen 1*
1
2
Department of Psychiatry and Behavioral Sciences, Stanford Institute of Neuro-Innovation and Translational Neuroscience, Stanford University School of
Medicine, Stanford, CA, USA
Department of Molecular and Cell Biology, University of California, Berkeley, CA, USA
Edited by:
R. Suzanne Zukin, Albert Einstein
College of Medicine, USA
Reviewed by:
Roger L. Papke, University of Florida
School of Medicine, USA
Gong Chen, The Pennsylvania State
University, USA
*Correspondence:
Lu Chen, Department of Psychiatry
and Behavioral Sciences, Stanford
University, Lorry Lokey Stem Cell
Research Building, 265 Campus
Drive, Room G1034B, Stanford,
CA 94305-5453, USA.
e-mail: luchen1@stanford.edu
All-trans retinoic acid (RA) plays important roles in brain development through regulating
gene transcription. Recently, a novel post-developmental role of RA in mature brain was
proposed. Specifically, RA rapidly enhanced excitatory synaptic transmission independent
of transcriptional regulation. RA synthesis was induced when excitatory synaptic
transmission was chronically blocked, and RA then activated dendritic protein synthesis
and synaptic insertion of homomeric GluA1 AMPA receptors, thereby compensating for
the loss of neuronal activity in a homeostatic fashion. This action of RA was suggested to
be mediated by its canonical receptor RARα but no genetic evidence was available. Thus,
we here tested the fundamental requirement of RARα in homeostatic plasticity using
conditional RARα knockout (KO) mice, and additionally performed a structure-function
analysis of RARα. We show that acutely deleting RARα in neurons eliminated RA’s effect
on excitatory synaptic transmission, and inhibited activity blockade-induced homeostatic
synaptic plasticity. By expressing various RARα rescue constructs in RARα KO neurons,
we found that the DNA-binding domain of RARα was dispensable for its role in
regulating synaptic strength, further supporting the notion that RA and RARα act in a
non-transcriptional manner in this context. By contrast, the ligand-binding domain (LBD)
and the mRNA-binding domain (F-domain) are both necessary and sufficient for the
function of RARα in homeostatic plasticity. Furthermore, we found that homeostatic
regulation performed by the LBD/F-domains leads to insertion of calcium-permeable
AMPA receptors. Our results confirm with unequivocal genetic approaches that RA and
RARα perform essential non-transcriptional functions in regulating synaptic strength, and
establish a functional link between the various domains of RARα and their involvement
in regulating protein synthesis and excitatory synaptic transmission during homeostatic
plasticity.
Keywords: retinoic acid, retinoic acid receptor alpha, homeostatic synaptic plasticity, synaptic scaling, mRNA
binding, calcium-permeable AMPA receptor, dendritic protein translation, conditional RARalpha knockout
INTRODUCTION
During development, retinoic acid (RA) performs essential functions as a morphogen regulating gene expression. In the nervous
system, RA-signaling is involved in neurogenesis and neuronal
differentiation. However, several recent lines of evidence support
the idea that RA also performs post-developmental functions in
the adult brain. First, RA can be rapidly synthesized in various
regions of the adult brain (Dev et al., 1993). Second, compromised RA-signaling (through either genetic knockout (KO) of
RA receptors or vitamin A deficiency) leads to impaired longterm synaptic plasticity in the hippocampus (Chiang et al., 1998;
Misner et al., 2001). The involvement of RA in synaptic plasticity was further supported by deficits in learning and memory
tasks observed in mice with a genetic deletion of RA receptors
or with vitamin A deficiency (Chiang et al., 1998; Cocco et al.,
2002). Third, recent evidence established a role of RA in synaptic
signaling in that RA directly potentiates glutamatergic synaptic transmission (Aoto et al., 2008). Blocking synaptic glutamate
Frontiers in Molecular Neuroscience
receptors activates RA synthesis, which in turn promotes local
synthesis of various synaptic proteins, including GluA1 subunit of
AMPA receptors. Synaptic insertion of homomeric GluA1 AMPA
receptors increases synaptic transmission and, therefore, compensates the changes in synaptic activity homeostatically (Aoto et al.,
2008). At least the latter action of RA is different from its role in
development in that it does not require transcriptional activation
(Aoto et al., 2008).
The action of RA is primarily mediated by nuclear retinoid
receptor proteins called retinoic acid receptors (RAR-α, -β, -γ)
and retinoid “X” receptors (RXR-α, -β, -γ). Like other members
of the steroid receptor family, RARs and RXRs are transcription
factors. Although structurally similar, the ligand specificity differs
between RARs and RXRs in that RARs bind RA with high affinity, whereas RXRs exclusively bind 9-cis-retinoic acid (Soprano
et al., 2004). Because 9-cis-RA is undetectable in vivo, the effects
of retinoids on gene transcription are presumed to be mediated
by RA interactions with RARs. In the mammalian brain, RARα
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 1
Sarti et al.
RARα and synaptic scaling
is found in the cortex and hippocampus, while RARβ is highly
expressed in the basal ganglia, and RARγ is not detectable (Krezel
et al., 1999; Zetterstrom et al., 1999).
The expression and subcellular distribution of RARα in the
hippocampus exhibit interesting developmental changes (Huang
et al., 2008). Specifically, the expression levels of RARα in hippocampal neurons gradually decrease postnatally, and the subcellular localization of RARα protein shifts from the nucleus to the
cytosol. While almost exclusively localized in the nucleus of developing neurons, at least equal amounts of RARα were detected in
the cytosol and dendrites in mature hippocampal pyramidal and
granule cells (Aoto et al., 2008; Huang et al., 2008; Maghsoodi
et al., 2008). Functionally, dendritic RARα acts as an mRNAbinding protein that represses translation of target mRNAs, and
thus performs a different role than the transcriptional function
of RARα localized in the nucleus (Poon and Chen, 2008). In the
dendrites, RA binding to RARα reduces RARα binding to mRNA,
and de-represses translation (Poon and Chen, 2008).
The region of RARα that mediates mRNA binding has been
determined (Poon and Chen, 2008), but it is unknown whether
RA binding by RARα and its mRNA-binding ability are required
for its role in regulating synaptic strength. Here, we combine
mouse genetics and electrophysiology to rigorously test the role
of RA and RARα in homeostatic plasticity, and to systematically
examine the contribution of various domains of RARα to synaptic signaling by RA. Consistent with earlier results, we found
that RARα is essential for some forms of homeostatic plasticity,
and that the carboxyl terminal half of the RARα, which contains
the ligand-binding domain (LBD) and the RNA-binding domain
(F-domain), are both necessary and sufficient for the function
of RARα in the homeostatic regulation of excitatory synaptic
strength.
MATERIALS AND METHODS
MOUSE HUSBANDRY AND GENOTYPING
The RARα floxed mouse (C57BL/6 background) is a generous
gift from Drs. Pierre Chambon and Norbert Ghyselinck (IGBMC,
Strasbourg, France) (Chapellier et al., 2002). Breeding colonies
are maintained in the animal facility at Stanford Medical School.
Genotyping of the mice was achieved by PCR with the following
primers: Primer 1 Fwd 5 -GTGTGTGTGTGTATTCGCGTGC-3,
Primer 2 Rev 5 -ACAAAGCAAGGCTTGTAGATGC-3 and compared with wild-type (WT) C57BL/6. Following infection with a
lentiviral vector expressing Cre recombinase or a truncated and
inactive version of Cre, successful lox-P mediated recombination in neuronal cultures was assayed by PCR with Primer 1 and
Primer 3: 5 -TACACTAACTACCCTTGACC-3 . Conditions were
30 cycles for 30 s at 92◦ C, annealing at decreasing temperatures in
the range from 62◦ C to 56◦ C to increase product specificity and
elongation for 30 s at 72◦ C.
with a retroviral vector expressing proteins of interest at 4–7
DIV. Manipulations used to induce synaptic scaling in dissociated cultures include: TTX + APV (1 μM TTX + 100 μM APV,
24 h); TTX + APV + DEAB (1 μM TTX + 100 μM APV + DEAB
10 μM, 24 h); RA (1 μM, 30 min followed by 1 h of washout).
VIRAL VECTORS AND VIRUS PRODUCTION
Lentivirus was produced and purified as described previously
(Aoto et al., 2008). Briefly, human embryonic kidney 293T
(HEK293T) cells were transfected using calcium phosphate with
the transfer vector and three helper plasmids. After 48 h, supernatants were pooled, spun at 25,000 rpm through a sucrose
cushion for 1.5 h, and resuspended in PBS. Virus expressing Crerecombinase or a truncated and inactive version of Cre (Cre)
[gifts from Dr. Thomas Sudhof ’s lab, (Kaeser et al., 2011)] was
applied overnight to the media of dissociated neuronal cultures
generated from RARα floxed mice and washed out the following day. In rescue experiments, Cre-recombinase or Cre and
RARα were expressed simultaneously from a bicistronic lentiviral transfer vector containing a GFP-Cre 5 open reading frame
immediately followed by an IRES sequence fused to the RARα
reading frame RARα or truncated versions of RARα expressing
the different domains were inserted in the forward direction into
the unique BstXI site located in the MCS region. Neurons were
infected at 4–7 DIV and recorded from at 14–16 DIV.
ELECTROPHYSIOLOGY
Whole-cell patch-clamp recordings were made at room temperature from 14–16 DIV cultured neurons, with 4–6 M patch
pipettes filled with an internal solution containing (in mM) 120
CsCl, 2 MgCl2 , 5 EGTA, 10 HEPES, 0.3 Na3 -GTP, 4 Na2 -ATP
(pH 7.35). Cultures were continuously superfused with external
solution (in mM, 100 NaCl, 26 NaHCO3 , 2.5 KCl, 11 glucose,
2.5 CaCl2 , 1.3 MgSO4 , 1.0 NaH2 PO4 ). For mEPSC recording, tetrodotoxin (TTX) (1 μM) and picrotoxin (100 μM) were
included in the external saline. Cells were held at −60 mV. To
test for the presence of calcium permeable AMPA receptors on
the post-synaptic membrane, 10 μM 1-Naphtylacetylspermine
trihydrochloride (NASPM) was bath perfused for 10 min before
recording. mEPSCs were collected using Clampex (Axon laboratory) and analyzed with Mini Analysis Program (Synaptosoft).
STATISTICAL ANALYSIS
T-test was used for statistical analysis. Values are presented as
mean ± SEM in the figures.
DRUGS AND CHEMICALS
RA, Picrotoxin, Naphtyl-acetyl-spermine trihydrochloride, and
4-Diethylaminobenzaldehyde were purchased from SigmaAldrich. TTX was purchased from Ascent Scientific (Bristol, UK)
and D-(-)-2-Amino-5-phosphonopentanoic acid was purchased
from Tocris Biosciences (Ellisville, MO).
PRIMARY HIPPOCAMPAL CULTURES
Primary hippocampal cultures were prepared from mouse brains at
postnatal day 0 and maintained in serum and Neurobasal medium
supplemented with Gem21 (Gemini Bioproducts, Sacramento,
CA) and Glutamax (GIBCO-Brl, Grand Island, NY) for 2
weeks in vitro (Nam and Chen, 2005). Neurons were infected
Frontiers in Molecular Neuroscience
SUBCELLULAR LOCALIZATION OF RARα DOMAINS
Rat neuronal cultures were co-transfected at 12 DIV using
Lipofectamine 2000 with pmCherry-N1, a plasmid that expresses
high levels of mCherry to allow neuronal visualization, and
pEGFP-N1 expressing various truncated versions of RARα. Cells
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 2
Sarti et al.
RARα and synaptic scaling
were then fixed at 14 DIV with 4% para-Formaldehyde, washed
with PBS before mounting. Images were acquired using an
Olympus FV1000 BX61WI laser-scanning confocal microscope.
RESULTS
LENTIVIRUS-MEDIATED CONDITIONAL KNOCKOUT (KO) OF RARα
IN HIPPOCAMPAL NEURONS CULTURED FROM POSTNATAL
RARαfl/fl MICE
We previously investigated the involvement of RARα in activity blockade-induced homeostatic synaptic plasticity (also called
synaptic scaling) using shRNA-mediated knockdown (Aoto et al.,
2008). However, shRNA-mediated knockdowns suffer from a
number of intrinsic limitations, such as potential off-target effects
and the fact that no knockdown is ever complete. To test whether
the shRNA-dependent results were reliable, we used a previously described conditional floxed RARα mouse (Chapellier et al.,
2002). The RARαfl/fl mouse contains loxP sites flanking exon 4
(this exon was called exon 8 at the time of publication and was
later corrected; Norbert Ghyselinck, personal communication)
(Figure 1A). Cre-mediated recombination leads to excision of
exon 4 that encodes a significant part of the DNA-binding domain
of RARα (Zelent et al., 1989); after excision of exon 4, the exon 3/5
junction shifts the reading frame, resulting in an RARα null allele
FIGURE 1 | Characterization of the RARα conditional allele. (A) Schematic
drawing representing the RARα loxP-flanked allele (RARα fl/fl ), as well as the
same allele following Cre-mediated excision of exon 4 (RARα−/− ). Black
boxes represent exons 1–10 (E1–E10). White arrowheads represent loxP
sites. The arrows indicate location of primers 1–3 used for characterization of
the loxP-flanked allele and the recombined allele. Schematic is based on
Gene ID: 19401. (B) Tail DNAs extracted from RARαfl/fl and wild-type
C57BL/6 mice were genotyped by PCR using primers number 1 and
Frontiers in Molecular Neuroscience
(Chapellier et al., 2002) (Figure 1A). Because exon 4 is the first
common exon shared by all RARα isoforms (Leroy et al., 1991),
its excision leads to a complete deletion of all RARα isoforms.
We confirmed the presence of the loxP sites in conditional
RARα KO mice by PCR analysis of tail DNA (Figure 1B).
To obtain RARα KO neurons, we cultured hippocampal neurons from newborn RARαfl/fl mice and infected the neurons with lentiviruses expressing recently optimized versions of
EGFP-tagged active or inactive Cre-recombinase (Cre or DCre)
(Kaeser et al., 2011). Rescue experiments were performed by coexpressing various RARα rescue proteins from the same vector as
Cre-recombinase via an IRES sequence (Figures 1C,D).
SYNAPTIC SCALING IS ABSENT IN RARα KO NEURONS
We first tested whether the genetic KO of RARα impairs
homeostatic synaptic plasticity. Under control conditions, Creexpressing conditional RARα KO neurons did not show changes
in miniature excitatory post-synaptic current (mEPSC) amplitude or frequency, suggesting that RARα is not required
for the maintenance of basal excitatory synaptic transmission (Figures 2A–D). To induce synaptic scaling, we applied
a 24 h treatment of TTX and D-2-amino-5-phosphonovalerate
(APV), a well-established activity blockade protocol that activates
number 2. Wild-type: 390 bp; floxed allele: 453 bp. (C) Schematic
representation of the lentiviral transfer vector used to express
Cre-recombinase or Cre and RARα rescue constructs. (D) DNA from
dissociated hippocampal neuronal cultures infected with either the
active recombinase Cre or the inactive form Cre was harvested and
genotyped by PCR using primers 1 and 3 to test for successful
recombination indicated by the presence of a recombined allele (316 bp) or of
a floxed allele (1296 bp).
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 3
Sarti et al.
RARα and synaptic scaling
FIGURE 2 | Retinoic Acid Receptor α is required in synaptic scaling
induced by activity blockade and by retinoic acid (RA). (A) Representative
traces of mEPSCs from RARαfl/fl neurons infected with a lentiviral vector
expressing Cre-recombinase or the inactive Cre. Neurons have been
treated with TTX and APV for 24 h. Scale bars: 10 pA, 0.5 s. (B) Quantification
of average mEPSC amplitude (no inf/ctrl: 9.29 ± 0.29 pA; no inf/TTX + APV:
11.05 ± 0.46 pA; Cre/ctrl: 9.94 ± 0.39 pA; Cre/TTX + APV: 9.83 ± 0.34 pA;
Cre/ctrl: 9.46 ± 0.57 pA; Cre/TTX + APV: 11.43 ± 0.33 pA; n = 12–19 from
three independent experiments; ∗∗ p < 0.005) and frequency (no inf/ctrl:
0.63 ± 0.09 Hz; no inf/TTX + APV: 0.68 ± 0.10 Hz; Cre/ctrl: 0.96 ± 0.19 Hz;
Cre/TTX + APV: 0.73 ± 0.17 Hz; Cre/ctrl: 1.11 ± 0.12 Hz; Cre/TTX + APV:
Frontiers in Molecular Neuroscience
0.74 ± 0.15; n = 12–19 from three independent experiments from
experiments; p > 0.5) shown in (A). (C) Representative traces of mEPSCs
from RARα KO neurons treated with RA for 30 min followed by 1 h of wash
out. Scale bars: 10 pA, 0.5 sec. (D) Quantification of mEPSC amplitude (no
inf/ctrl: 8.31 ± 0.86 pA; no inf/RA: 12.60 ± 0.76 pA; Cre/ctrl: 9.37 ± 1.07 pA;
Cre/RA: 9.83 ± 0.34 pA; Cre/ctrl: 9.72 ± 0.63 pA; Cre/RA: 13.06 ± 0.59 pA;
n = 12–19, from three independent experiments; ∗∗∗ p < 0.001) and
frequency (no inf/ctrl: 0.73 ± 0.10 Hz; no inf/RA: 0.58 ± 0.07 Hz; Cre/ctrl:
1.23 ± 0.22 Hz; Cre/RA: 0.89 ± 0.14 Hz; Cre/ctrl: 1.00 ± 0.20 Hz; Cre/RA:
0.94 ± 0.18 Hz; n = 12–19, from three independent experiments; p > 0.5)
from experiments shown in (C).
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 4
Sarti et al.
RARα and synaptic scaling
homeostatic synaptic plasticity (Ju et al., 2004; Sutton et al.,
2006; Aoto et al., 2008). TTX + APV treatment induced a
robust increase in mEPSC amplitude in uninfected and Creinfected neurons (Figure 2B). Strikingly, deletion of RARα by
Cre-recombinase in RARα conditional KO neurons blocked this
effect (Figure 2B).
Our previous work established a role of RA in mediating
activity blockade-induced homeostatic plasticity. Specifically, we
found that blocking synaptic activity rapidly induces RA synthesis
in neurons, and that the newly synthesized RA increases excitatory synaptic transmission through activation of dendritic protein
synthesis (Aoto et al., 2008; Maghsoodi et al., 2008). Consistent
with this observation, the conditional deletion of RARα eliminated the ability of RA to increase the mEPSC amplitude
(Figures 2C,D), thus confirming the role of RARα in synaptic
RA-signaling using a genetic approach.
RARα MUTANTS EXHIBIT DISTINCT SUBCELLULAR LOCALIZATIONS
The absence of synaptic scaling and RA-signaling in conditional
RARα KO neurons provides a basis for a structure-function analysis of RARα. We, therefore, generated RARα deletion mutants to
investigate the contribution of various protein domains to RARα
function. Similar to other members of the nuclear receptor superfamily, RARα protein has a modular domain structure, which is
comprised of six regions: the N-terminal trans-activation domain
(A/B region), the DNA binding domain (DBD or C region), a
hinge region (D region), a LBD (or E region) (Evans, 1988; Green
and Chambon, 1988; Tora et al., 1988a,b; Tasset et al., 1990), and
a C-terminal F-domain whose function is unclear but that we
previously implicated in mRNA binding (Poon and Chen, 2008)
(Figure 3A).
We generated three deletion mutants of RARα: RARα DBD,
RARα LBD/F (LBD and F-domain), and RARα F (F-domain containing the terminal α-helix of LBD-H12) (Figure 3A). When
expressed in cultured neurons as GFP-tagged proteins, the different RARα proteins exhibited distinct subcellular distributions.
Compared to full-length RARα which was present in both the
nucleus and the cytosol, RARα DBD was confined to the nucleus,
presumably because of its two nuclear localization signals (NLS)
(Hamy et al., 1991) (Figure 3B). By contrast, significant amounts
of both the RARα LBD/F and the F-domain protein were present
outside of the nucleus and present at high levels in dendrites
(Figure 3B).
RESCUE OF SYNAPTIC SCALING IN RARα KO NEURONS
Individual domains of RARα are associated with different functions. The two most important domains for mediating RA’s
effect on protein translation are the LBD and the F-domain—the
F-domain is required for RARα’s ability to bind to mRNA and to
repress translation, while the LBD binds to RA and acts as a switch
to allow translational activation (or de-repression) by RA (Poon
and Chen, 2008). To directly examine the role of various RARα
domains in synaptic scaling, we expressed RARα mutant proteins
in neurons with RARα deletion. To achieve this, the various RARα
mutants were expressed by inserting their coding sequences after
the IRES sequence into the same lentiviral vector that we used for
generating RARα KO neurons (Figure 1C). Co-expression of Cre
Frontiers in Molecular Neuroscience
and RARα in the same neurons allows us to examine the effect
of rescue by the various RARα deletion mutants in the RARα KO
background.
We examined the ability of various RARα mutants to
restore RA-induced increase in synaptic strength and to rescue TTX + APV-induced synaptic scaling in RARα KO neurons by co-expressing RARα with Cre in RARαfl/fl neurons. As
expected, expression of RARα FL completely rescued synaptic scaling, induced by RA or TTX + APV, in RARα KO
neurons (Figures 4B,C). Expression of RARα DBD failed to
rescue synaptic scaling by either RA or TTX + APV, which
is consistent with its role in DNA- but not RNA-binding
(Figures 4B,C). Importantly, RARα LBD/F fully restored synaptic scaling (Figures 4A,B,C). This indicates that the LBD and
F-domain, which convey the ligand-binding and RNA-binding
ability, respectively, works independently from the DBD in mediating RA’s effect at the synapses and is sufficient to restore
synaptic scaling when expressed at appropriate levels. This result
also confirms the notion that RA and RARα function in a
transcription-independent manner in synaptic scaling as the
RARα LBD/F lacks the ability to bind DNA. Not surprisingly,
when only the F-domain is expressed in RARα KO neurons,
RA failed to increase synaptic strength (Figures 4A,B). Likewise,
synaptic scaling induced by TTX + APV was absent when only Fdomain is expressed (Figure 4C), demonstrating that activation
of RARα by RA is a required step in synaptic scaling. Moreover,
when RA synthesis is blocked by 4-diethylamino-benzaldehyde
(DEAB), an inhibitor for RALDH (Russo et al., 1988), TTX +
APV-induced synaptic scaling was completely blocked in RARα
LBD/F-expressing neurons (Figures 5A,B).
Results from above establish that two RARα activities primarily mediate synaptic scaling: the RNA binding by the F-domain,
and RA binding by the LBD. While the former interaction silences
translation of target mRNAs, the latter interaction acts as a switch
to turn on translation of substrate mRNAs in neuronal dendrites
(Poon and Chen, 2008). Our previous work demonstrated that
one of the essential targets of RA/RARα regulation of protein
translation in the context of synaptic scaling is the AMPA receptor subunit GluA1 (Poon and Chen, 2008). As a result, the newly
inserted synaptic AMPA receptors after TTX + APV treatment are
calcium-permeable GluA1 homomeric receptors that are sensitive
to polyamine blockers (Aoto et al., 2008). We, therefore, asked
whether synaptic scaling rescued in RARα LBD/F-expressing neurons is also mediated by synaptic insertion of GluA1 homomeric
receptors. 1-naphthyl acetyl spermine (NASPM), a synthetic analog of Joro Spider toxin in the polyamine toxin family, completely
reversed the increase in mEPSC amplitude in TTX + APV-treated
neurons (Figures 5A,B), indicating that RARα LBD/F likely activates the signaling pathway identical to that of full-length RARα
upon activity blockade and is fully capable of mediating RAsignaling in the context of synaptic scaling.
VALIDATION OF shRNA-BASED KNOCKDOWN AND RESCUE APPROACH
TO STUDY RARα FUNCTION
We previously suggested a critical involvement of RARα in homeostatic synaptic plasticity by using a shRNA-based knockdown
approach (Aoto et al., 2008). Although accepted as a useful and
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 5
Sarti et al.
RARα and synaptic scaling
FIGURE 3 | Subcellular localization of RARα and its deletion mutants.
(A) Schematic of RARα deletion constructs. Recombinant full-length and
truncated RARα domains were encoded as N-Terminal eGFP fusion proteins
(FL, Full-length; DBD, N-terminal DNA Binding Domain; LBD; F, C-Terminal
less time-consuming method in understanding the function(s)
of a particular protein, the RNAi method also faced skepticism
given the potential off-target effects inherent to the approach.
We, therefore, decided to go back to this system and compare the
Frontiers in Molecular Neuroscience
F-domain). NLS, Nuclear Localization Signal; NES, Nuclear Export Signal.
(B) Subcellular distribution of full-length or truncated RARα proteins (green).
mCherry (red) was co-expressed to visualize neuronal morphology. Scale bar:
10 μm.
results obtained with the knockdown-rescue approach with that
of the genetic approach. We performed standard knockdownrescue experiments by transfecting cultured hippocampal neurons with plasmids expressing both a shRNA against RARα
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 6
Sarti et al.
RARα and synaptic scaling
FIGURE 4 | Functional rescue of synaptic scaling in RARα KO neurons
RARα expression. (A) Representative traces of mEPSCs from RARαfl/fl
hippocampal neurons infected with a bicistronic lentiviral vector coding for
Cre-recombinase and either FL RARα or truncated RARα proteins. Neurons
were treated with RA or with DMSO as control. Scale bars: 10 pA, 0.5 s.
(B) mEPSCs amplitude and frequency were quantified showing rescue of
RA-induced synaptic scaling in neurons expressing FL or LBD/F RARα.
Amplitude: no inf/DMSO: 9.94 ± 0.56 pA; no inf/RA: 11.58 ± 0.45 pA;
Cre + FL/DMSO: 9.34 ± 0.50 pA; Cre + FL/RA: 12.15 ± 0.70 pA;
Cre + DBD/DMSO: 9.55 ± 0.57 pA; Cre + DBD/RA: 9.75 ± 0.4 pA;
Cre + LBD-F/DMSO: 9.15 ± 0.52 pA; Cre + LBD-F/RA: 11.15 ± 0.50 pA;
Cre + F/DMSO: 9.34 ± 0.34 pA; Cre + F/RA: 9.30 ± 0.62 pA; n = 12–19, from
three independent experiments; ∗ p < 0.05; ∗∗ p < 0.005; ∗∗∗ p < 0.001.
Frequency: no inf/DMSO: 1.00 ± 0.17 Hz; no inf/RA: 1.28 ± 0.20 Hz;
Cre + FL/DMSO: 0.89 ± 0.11 Hz; Cre + FL/RA: 1.04 ± 0.18 Hz;
Cre + DBD/DMSO: 0.90 ± 0.16 Hz; Cre + DBD/RA: 1.15 ± 0.25 Hz;
Cre + LBD-F/DMSO: 1.00 ± 0.14 Hz; Cre + LBD-F/RA: 0.76 ± 0.12 Hz;
Frontiers in Molecular Neuroscience
Cre + F/DMSO: 1.01 ± 0.13 Hz; Cre + F/RA: 0.82 ± 0.09 Hz; n = 12–19,
from three independent experiments; p > 0.5. (C) Synaptic scaling
induced by activity blockade is rescued by LBD/F-domain
expression in neurons treated with TTX and APV for 24 h. Amplitude:
no inf/ctrl: 9.83 ± 0.45 pA; no inf/TTX + APV: 12.69 ± 0.65 pA;
Cre + FL/ctrl: 9.79 ± 0.39 pA; Cre + FL/TTX + APV: 11.55 ± 0.43 pA;
Cre + DBD/ctrl: 9.78 ± 0.30 pA; Cre + DBD/TTX + APV: 9.63 ± 0.44 pA;
Cre + LBD-F/ctrl: 9.33 ± 0.35 pA; Cre + LBD-F/TTX + APV: 11.67 ± 0.48 pA;
Cre + F/ctrl: 9.64 ± 0.40 pA; Cre + F/TTX + APV: 9.36 ± 0.50 pA;
n = 12–19, from three independent experiments; ∗ p < 0.05; ∗∗ p < 0.005;
∗∗∗ p < 0.001. Frequency: no inf/ctrl: 1.09 ± 0.12 Hz; no inf/TTX + APV:
1.32 ± 0.17 Hz; Cre + FL/ctrl: 0.85 ± 0.25 Hz; Cre + FL/TTX + APV:
1.41 ± 0.25 Hz; Cre + DBD/ctrl: 1.28 ± 0.17 Hz; Cre + DBD/TTX + APV:
1.03 ± 0.18 Hz; Cre + LBD-F/ctrl: 1.46 ± 0.16 Hz; Cre + LBD-F/TTX + APV:
1.1 ± 0.18 Hz; Cre + F/ctrl: 1.28 ± 0.21 Hz; Cre + F/TTX + APV:
0.88 ± 0.15 Hz; n = 12–19, from three independent experiments;
p > 0.5.
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 7
Sarti et al.
RARα and synaptic scaling
FIGURE 5 | Synaptic scaling mediated by LBD/F-domain depends on RA
synthesis and leads to synaptic insertion of calcium permeable AMPA
receptors. (A) Representative traces from RARα KO neurons expressing the
LBD/F-domain. To verify the dependence of synaptic scaling mediated by the
LBD/F-domain on RA synthesis, neurons were co-treated for 24 h with TTX,
APV and DEAB. In addition, to test whether synaptic scaling mediated by the
LBD/F-domain manifests as the insertion of calcium permeable AMPA
receptors, neurons were pretreated with TTX and APV for 24 h and NASPM
and a truncated version of the RARα that is also resistant to
the shRNA (rescue), and subject these neurons to 24 h TTX +
APV treatment. The results thus obtained completely corroborate those obtained with the genetic KO-rescue experiments
(Figures 6A–C), demonstrating that the shRNA approach is a
valid approach for studying RARα functions in mature neurons.
SYNAPTIC SCALING IN NEURONS OVEREXPRESSING VARIOUS
RARα MUTANTS
Results from the rescue experiments done in RARα KO or KD
neurons provided important functional information regarding
the contribution of different RARα domains to synaptic RAsignaling. We were curious whether any of the RARα deletion
mutants could act dominant negatively in neurons expressing
normal levels of endogenous RARα. To achieve this, we simply co-expressed Cre with various RARα fragments, using the
same lentiviral vector that delivered Cre and RARα in the rescue
experiments.
Interestingly, when challenged with RA treatment, neurons
overexpressing RARα full-length protein failed to up-regulate
mEPSC amplitude to a similar level as the uninfected neurons
(Figures 7A,B), suggesting that increasing expression levels of
RARα compromises a neuron’s ability to undergo up-regulation
of synaptic strength by RA. This result is somewhat unexpected as
it cannot be explained by a simple dominant negative scenario,
Frontiers in Molecular Neuroscience
was bath applied during mEPSCs recording. Scale bars: 10 pA, 0.5 s.
(B) mEPSCs amplitude and frequency analysis of (A). Amplitude: ctrl:
9.65 ± 0.40 pA; TTX + APV: 11.29 ± 0.45 pA; TTX + APV + DEAB:
9.18 ± 0.32 pA; TTX + APV + NASPM: 8.74 ± 0.27 pA (n = 16–18, from three
independent experiments; ∗ p < 0.05). Frequency: ctrl: 1.08 ± 0.22 Hz; TTX +
APV: 1.09 ± 0.14 Hz; TTX + APV + DEAB: 1.02 ± 0.13 Hz; TTX + APV +
NASPM: 1.04 ± 0.14 Hz (n = 16–18, from three independent experiments,
p > 0.5).
and is not likely due to general side effects associated with
viral infection because RARα FL rescued synaptic scaling when
expressed in RARα KO neurons.
We then examined RA-induced scaling in neurons overexpressing the RARα DBD. The RARα DBD localizes primarily
to the nucleus and does not participate in RNA binding or
RA binding. Overexpression of RARα DBD did not affect RAinduced synaptic scaling because endogenous RARα is sufficient
to mediate RA’s action (Figures 7A,B). This again rules out the
possibility of viral infection-induced side effects in general, and
suggests instead that the expression levels of RARα affect its
function in synaptic signaling. Indeed, similar to RARα fulllength overexpression result, overexpression of RARα LBD/F also
impaired synaptic scaling by RA (Figures 7A,B), although this
mutant RARα is able to bind to mRNA and respond to RA (Poon
and Chen, 2008). Interestingly, overexpression of F-domain in
neurons also prevented the increase in mEPSC amplitude after
RA treatment (Figures 7A,B). Because F-domain mediates RNAbinding, but does not mediate RA-induced translational switch,
it can act dominant negatively when expressed alone to compete with endogenous RARα in RNA-binding and sequester RNA
substrates.
Given the critical role of RA in activity blockade-induced
synaptic scaling, we next examined the effect of overexpression of
various RARα mutants in TTX + APV-induced synaptic scaling
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 8
Sarti et al.
RARα and synaptic scaling
FIGURE 6 | LDB/F-domain is required for activity blockade induced
synaptic scaling. Rat primary hippocampal cultures were co-transfected
with shRNA against RARα and three different truncated forms of RARα
spanning (A) the DBD, (B) the F-domain, and (C) the LBD/F-domains.
Synaptic scaling induced by activity blockade with TTX and APV for 24 h was
rescued by co-expression of an RNAi resistant form of the LBD/F-domain as
shown by quantitative analysis of mEPSCs amplitude (A: ctrl/no treatment:
8.85 ± 0.32 pA; ctrl/TTX + APV: 10.60 ± 0.29 pA; shRNA + DBD/no treatment:
9.20 ± 0.47 pA; shRNA + DBD/TTX + APV: 9.70 ± 0.40 pA. B: ctrl/no
treatment: 9.11 ± 0.40 pA; ctrl/TTX + APV: 11.40 ± 0.61 pA; shRNA + F/no
treatment: 8.80 ± 0.22 pA; shRNA + F/TTX + APV: 9.43 ± 0.40 pA. C:
ctrl/no treatment: 8.90 ± 0.28 pA; ctrl/TTX + APV: 10.75 ± 0.25 pA; shRNA +
LBD-F/no treatment: 9.24 ± 0.32 pA; shRNA + LBD-F/TTX + APV:
10.70 ± 0.62 pA. n = 9–12, from two independent experiments; ∗ p < 0.05).
with the prediction that those mediate by normal RA-induced
synaptic scaling should also support TTX + APV-induced synaptic scaling. Indeed, neurons overexpressing RARα DBD did not
interfere with the function of endogenous RARα in TTX + APVinduced synaptic scaling, but overexpression of RARα FL, LBD/F,
and F-domain blocked synaptic scaling (Figure 7C). These results
suggest that RARα expression levels in neurons are tightly coupled
to its function, and may be strictly regulated in both developing
and mature neurons.
of the receptor do not participate in DNA-binding, and, therefore,
are not known to be directly mediating the transcriptional regulation by RARα. Instead, our previous work demonstrated that the
F-domain has mRNA binding abilities and that binding occurs in
a sequence specific manner. The consensus sequences for binding
are potentially present in many dendritically localized mRNAs, in
particular the ones encoding proteins known to be involved in
synaptic scaling, such as the mRNA coding for the GluA1 subunit of AMPA receptors (Poon and Chen, 2008). In vitro studies
suggested that binding of the LBD/F-domain to mRNA regulates translation in an RA-dependent manner so that addition
of RA leads to translational de-repression and increased GluA1
protein levels (Poon and Chen, 2008). Recent evidence from our
lab and others indicate that RARα protein is not restricted in
the nucleus in mature neurons, but can be found also in neuronal dendrites (Huang et al., 2008; Maghsoodi et al., 2008),
further supporting a possible non-genomic function of RARα in
mature brains. Taken together, we hypothesize that direct binding of RARα to GluA1 mRNA through the F-domain and the
ability of RARα to localize to dendrites provides a repertoire of
dendritic GluA1 mRNA that is translationally dormant under
basal synaptic activity. Another important piece of the puzzle is
the regulation of RA synthesis by changes in synaptic activity.
We have shown that blocking excitatory synaptic transmission
leads to rapid up-regulation of RA synthesis (Aoto et al., 2008),
a process that is tightly controlled by dendritic calcium levels
(Wang et al., 2011). The RA thus made binds to the LBD domain
of RARα and reduces its mRNA-binding affinity, allowing rapid
increase of dendritic GluA1 synthesis through translational derepression (Poon and Chen, 2008). Synaptic insertion of newly
synthesized GluA1 homomeric AMPA receptors compensates the
decrease in excitatory synaptic transmission. Calcium-permeable
AMPA receptors have been implicated in many forms of synaptic
plasticity and diseases (Isaac et al., 2007; Liu and Zukin, 2007).
In this case, the calcium-permeable nature of these receptors
sends a negative feedback signal to reduce and eventually halt RA
DISCUSSION
The involvement of RARα in RA-mediated homeostatic synaptic plasticity was demonstrated previously using a shRNA-based
knockdown method (Aoto et al., 2008). Although rescue experiments with a shRNA-resistant version of full-length RARα was
done in that study, the complexity of RNAi experiments does
not allow us to completely exclude the possibility of an off-target
effect. We intended to achieve two goals in the current study: to
validate the shRNA results using a genetic approach, and to perform structure-function analysis of RARα. Indeed, results from
the RARα KO neurons confirmed our previous findings, validating the conclusion that RARα is required for homeostatic
up-regulation of synaptic strength. Importantly, co-expression
of full-length RARα together with the Cre-recombinase successfully rescued synaptic scaling, making this an ideal system for
subsequent structure-function analyses.
Our results provide strong evidence for a non-genomic role of
RARα in regulating excitatory synaptic strength. Specifically, we
show that knocking out RARα in mature neurons acutely blocks
homeostatic up-regulation of synaptic strength, a process mediated by RA. The rescue experiments with various forms of mutant
RARα revealed that individual RARα domains perform differential functions in RA-mediated homeostatic synaptic plasticity—
the DNA-binding activity of RARα was dispensable, while the
RNA-binding activity of the F-domain and the RA-binding
activity of the LBD were both required. The LBD and F-domains
Frontiers in Molecular Neuroscience
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 9
Sarti et al.
RARα and synaptic scaling
FIGURE 7 | Synaptic scaling in neurons overexpressing RARα domains.
(A) Representative traces from RARαfl/fl hippocampal neurons infected with
lentiviral vectors co-expressing Cre and either full-length or deletion
mutants of RARα. Neurons were treated with RA or with DMSO as control
and mEPSCs recorded at −60 mV. Scale bars: 10 pA, 0.5 s. (B) Quantitative
analysis of mEPSCs amplitude and frequency in neurons treated with RA.
Amplitude: no inf/DMSO: 9.20 ± 0.25 pA; no inf/RA: 10.70 ± 0.31 pA; Cre +
FL/DMSO: 9.67 ± 0.51 pA; Cre + FL/RA: 9.67 ± 0.33 pA; Cre +
DBD/DMSO: 9.25 ± 0.23 pA; Cre + DBD/RA: 10.92 ± 0.34 pA; Cre +
LBD-F/DMSO: 9.71 ± 0.46 pA; Cre + LBD-F/RA: 9.74 ± 0.34 pA; Cre +
F/DMSO: 9.36 ± 0.25 pA; Cre + F/RA: 9.13 ± 0.16 pA; n = 16–18, from
three independent experiments; ∗∗∗ p < 0.001. Frequency: no inf/DMSO:
1.17 ± 0.13 Hz; no inf/RA: 0.98 ± 0.18 Hz; Cre + FL/DMSO: 1.06 ± 0.11 Hz;
Cre + FL/RA: 1.15 ± 0.11 Hz; Cre + DBD/DMSO: 0.94 ± 0.11 Hz; Cre +
DBD/RA: 0.97 ± 0.14 Hz; Cre + LBD-F/DMSO: 1.20 ± 0.18 Hz; Cre +
LBD-F/RA: 1.17 ± 0.12 Hz; Cre + F/DMSO: 1.08 ± 0.13 Hz; Cre + F/RA:
Frontiers in Molecular Neuroscience
1.07 ± 0.10 Hz; n = 16–18, from three independent experiments; p > 0.5.
(C) Quantitative analysis of mEPSCs amplitude and frequency recorded in
RARα KO hippocampal neurons upon treatment with TTX and APV for 24 h.
Amplitude: no inf/ctrl: 9.71 ± 0.31 pA; no inf/TTX + APV: 11.27 ± 0.33 pA;
Cre + FL/ctrl: 9.48 ± 0.31 pA; Cre + FL/TTX + APV: 9.74 ± 0.28 pA;
Cre + DBD/ctrl: 9.34 ± 0.25 pA; Cre + DBD/TTX + APV: 11.19 ± 0.48 pA;
Cre + LBD-F/ctrl: 9.33 ± 0.35 pA; Cre + LBD-F/TTX + APV:
9.69 ± 0.46 pA; Cre + F/ctrl: 9.36 ± 0.33 pA; Cre + F/TTX + APV:
9.14 ± 0.39 pA; n = 16–18, from three independent experiments;
∗∗ p < 0.005. Frequency: no inf/ctrl: 1.04 ± 0.12 Hz; no inf/TTX + APV:
0.97 ± 0.13 Hz; Cre + FL/ctrl: 1.39 ± 0.11 Hz; Cre + FL/TTX + APV:
1.20 ± 0.19 Hz; Cre + DBD/ctrl: 1.23 ± 0.10 Hz; Cre + DBD/TTX + APV:
1.27 ± 0.14 Hz; Cre + LBD-F/ctrl: 1.04 ± 0.14 Hz; Cre + LBD-F/TTX +
APV: 0.98 ± 0.12 Hz; Cre + F/ctrl: 1.04 ± 0.13 Hz; Cre + F/TTX + APV:
1.10 ± 0.07 Hz; n = 16–18, from three independent experiments;
p > 0.5.
www.frontiersin.org
February 2012 | Volume 5 | Article 16 | 10
Sarti et al.
RARα and synaptic scaling
synthesis, thus stabilizing synaptic strength. In this context, findings from this study on the critical role of the RARα LBD/Fdomains in synaptic scaling provide an important functional
correlate to the observations previously made in vitro, and also
suggest a basic mechanism for translational regulation that allows
neurons to quickly respond to changes in activity with increased
protein levels.
An unexpected finding of our study is the impact of RARα
expression levels on synaptic scaling—synaptic scaling is fully rescued when full-length RARα or the LBD/F-domain of the RARα is
expressed in RARα KO neurons, but is impaired by expression of
full-length RARα or the LBD/F-domains in WT neurons containing endogenous RARα (Figures 4 and 5). A possible explanation
for this observation is that there may be two limiting factors in
dendrites for synaptic RA-signaling: the amount of RA produced
during activity blockade-induced synthesis, and the amount of
mRNAs in dendrites that serve as RARα substrates. When RARα
is expressed at higher levels, these two factors can limit synaptic scaling through two non-mutually exclusive mechanisms. If
the amount of GluA1 mRNA is limiting, there will be a fraction of RARα that is not mRNA-bound. Additionally, a large
part of GluA1 mRNA may fail to localize to dendrites because
of their association with somatically localized RARα due to high
RARα expression levels. If the amount of RA is limiting, on
the other hand, part of dendritic RARα that is GluA1 mRNAbound may not be activated by RA produced during activity
blockade. Additionally, the mRNA-free RARα will further exacerbate the situation by competing with GluA1-bound RARα for
RA binding. One or both limiting factors could explain the lack
of synaptic scaling upon TTX + APV treatment in the presence
of excess RARα. The fact that synaptic scaling induced by direct
application of exogenous RA is impaired in RARα full-length
and LBD/F-domain expressing WT neurons argues that simply
supplying more RA is not enough, and that dendritically localized
GluA1 mRNA may be the other limiting factor. The developmentally regulated reduction of RARα expression as neurons become
mature (Huang et al., 2008) supports this notion, and suggests
that protein expression levels can be tightly coupled with switches
of function during development.
In summary, we have in the present study pursued two
goals: first, to use rigorous genetic tools to test our hypothesis that RARα, previously only known to function as a nuclear
RA-activated transcription factor, leads a double life as a dendritic repressor of protein translation whose repressive activity
is reversed by RA (Aoto et al., 2008); and second, to examine
whether the same protein domains of RARα are required for this
double life, or whether there is a dissociation in domain requirements for its two functions. Our data confirm RARα’s double
life, validating that this RA-regulated protein exhibits an amazing
and unexpected versatility in which RA activates transcription of
genes but inactivates repression of protein translation. Moreover,
together with previous studies on the structure/function relationship of RARα as a transcription factor (Evans, 1988; Green and
Chambon, 1988; Tora et al., 1988a,b; Tasset et al., 1990), our
data reveal that the two functional lives of RARα depend on distinct protein domains, whereby RA-binding to the LBD serves as
the central event that regulates either an N-terminal transcription activity (via the DBD that is not needed for the translational
function of RARα ) or a C-terminal translation repression activity (via the F-domain). Thus, the architecture of RARα exhibits an
exquisite symmetry in which the same central regulatory domain
(the LBD) acts either on a transcriptional or translational control
element, both of which affect gene expression as the final readout
but operate by completely different mechanisms.
REFERENCES
Isaac, J. T., Ashby, M. C., and McBain,
C. J. (2007). The role of the GluR2
subunit in AMPA receptor function
and synaptic plasticity. Neuron 54,
859–871.
Ju, W., Morishita, W., Tsui, J., Gaietta,
G., Deerinck, T. J., Adams, S.
R., Garner, C. C., Tsien, R. Y.,
Ellisman, M. H., and Malenka, R.
C. (2004). Activity-dependent regulation of dendritic synthesis and
trafficking of AMPA receptors. Nat.
Neurosci. 7, 244–253.
Kaeser, P. S., Deng, L., Wang, Y.,
Dulubova, I., Liu, X., Rizo, J., and
Sudhof, T. C. (2011). RIM proteins tether Ca2+ channels to presynaptic active zones via a direct
PDZ-domain interaction. Cell 144,
282–295.
Krezel, W., Kastner, P., and Chambon,
P. (1999). Differential expression
of retinoid receptors in the adult
mouse central nervous system.
Neuroscience 89, 1291–1300.
Leroy, P., Krust, A., Zelent, A.,
Mendelsohn, C., Garnier, J. M.,
Aoto, J., Nam, C. I., Poon, M. M., Ting,
P., and Chen, L. (2008). Synaptic
signaling by all-trans retinoic acid
in homeostatic synaptic plasticity.
Neuron 60, 308–320.
Chapellier, B., Mark, M., Garnier, J.
M., LeMeur, M., Chambon, P., and
Ghyselinck, N. B. (2002). A conditional floxed (loxP-flanked) allele
for the retinoic acid receptor alpha
(RARalpha) gene. Genesis 32, 87–90.
Chiang, M. Y., Misner, D., Kempermann, G., Schikorski, T., Giguere,
V., Sucov, H. M., Gage, F. H.,
Stevens, C. F., and Evans, R. M.
(1998). An essential role for retinoid
receptors RARbeta and RXRgamma
in long-term potentiation and
depression. Neuron 21, 1353–1361.
Cocco, S., Diaz, G., Stancampiano, R.,
Diana, A., Carta, M., Curreli, R.,
Sarais, L., and Fadda, F. (2002).
Vitamin A deficiency produces
spatial learning and memory
impairment in rats. Neuroscience
115, 475–482.
Frontiers in Molecular Neuroscience
Dev, S., Adler, A. J., and Edwards,
R. B. (1993). Adult rabbit brain
synthesizes retinoic acid. Brain Res.
632, 325–328.
Evans, R. M. (1988). The steroid and
thyroid hormone receptor superfamily. Science 240, 889–895.
Green, S., and Chambon, P. (1988).
Nuclear receptors enhance our
understanding
of
transcription regulation. Trends Genet. 4,
309–314.
Hamy, F., Verwaerde, P., Helbecque,
N., Formstecher, P., and Henichart,
J. P. (1991). Nuclear targeting of
a viral-cointernalized protein by a
short signal sequence from human
retinoic acid receptors. Bioconjug.
Chem. 2, 375–378.
Huang, H., Wei, H., Zhang, X., Chen,
K., Li, Y., Qu, P., Chen, J., Liu,
Y., Yang, L., and Li, T. (2008).
Changes in the expression and subcellular localization of RARalpha
in the rat hippocampus during
postnatal development. Brain Res.
1227, 26–33.
www.frontiersin.org
Kastner, P., Dierich, A., and
Chambon, P. (1991). Multiple
isoforms of the mouse retinoic acid
receptor alpha are generated by
alternative splicing and differential
induction by retinoic acid. EMBO J.
10, 59–69.
Liu, S. J., and Zukin, R. S. (2007).
Ca2+-permeable AMPA receptors
in synaptic plasticity and neuronal death. Trends Neurosci. 30,
126–134.
Maghsoodi, B., Poon, M. M., Nam,
C. I., Aoto, J., Ting, P., and Chen,
L. (2008). Retinoic acid regulates
RARalpha-mediated control of
translation in dendritic RNA granules during homeostatic synaptic
plasticity. Proc. Natl. Acad. Sci.
U.S.A. 105, 16015–16020.
Misner, D. L., Jacobs, S., Shimizu,
Y., de Urquiza, A. M., Solomin,
L., Perlmann, T., De Luca, L.
M., Stevens, C. F., and Evans,
R. M. (2001). Vitamin A deprivation results in reversible loss
of hippocampal long-term synaptic
February 2012 | Volume 5 | Article 16 | 11
Sarti et al.
plasticity. Proc. Natl. Acad. Sci.
U.S.A. 98, 11714–11719.
Nam, C. I., and Chen, L. (2005).
Postsynaptic assembly induced
by neurexin-neuroligin interaction and neurotransmitter. Proc.
Natl. Acad. Sci. U.S.A. 102,
6137–6142.
Poon, M. M., and Chen, L. (2008).
Retinoic acid-gated sequencespecific translational control by
RARalpha. Proc. Natl. Acad. Sci.
U.S.A. 105, 20303–20308.
Russo, J. E., Hauguitz, D., and Hilton,
J. (1988). Inhibition of mouse
cytosolic aldehyde dehydrogenase
by 4-(diethylamino)benzaldehyde.
Biochem. Pharmacol. 37, 1639–1642.
Soprano, D. R., Qin, P., and Soprano,
K. J. (2004). Retinoic acid receptors
and cancers. Annu. Rev. Nutr. 24,
201–221.
Sutton, M. A., Ito, H. T., Cressy,
P., Kempf, C., Woo, J. C.,
and Schuman, E. M. (2006).
Frontiers in Molecular Neuroscience
RARα and synaptic scaling
Miniature neurotransmission stabilizes synaptic function via
tonic suppression of local dendritic protein synthesis. Cell 125,
785–799.
Tasset, D., Tora, L., Fromental, C.,
Scheer, E., and Chambon, P. (1990).
Distinct classes of transcriptional
activating domains function by
different mechanisms. Cell 62,
1177–1187.
Tora, L., Gaub, M. P., Mader, S.,
Dierich, A., Bellard, M., and
Chambon, P. (1988a). Cellspecific activity of a GGTCA
half-palindromic
oestrogenresponsive element in the chicken
ovalbumin gene promoter. EMBO J.
7, 3771–3778.
Tora, L., Gronemeyer, H., Turcotte,
B., Gaub, M. P., and Chambon,
P. (1988b). The N-terminal region
of the chicken progesterone receptor specifies target gene activation.
Nature 333, 185–188.
Wang, H. L., Zhang, Z., Hintze, M.,
and Chen, L. (2011). Decrease in
calcium concentration triggers neuronal retinoic acid synthesis during homeostatic synaptic plasticity.
J. Neurosci. 31, 17764–17771.
Zelent, A., Krust, A., Petkovich, M.,
Kastner, P., and Chambon, P.
(1989). Cloning of murine alpha
and beta retinoic acid receptors and
a novel receptor gamma predominantly expressed in skin. Nature
339, 714–717.
Zetterstrom, R. H., Lindqvist, E.,
Mata de Urquiza, A., Tomac, A.,
Eriksson, U., Perlmann, T., and
Olson, L. (1999). Role of retinoids
in the CNS: differential expression
of retinoid binding proteins and
receptors and evidence for presence
of retinoic acid. Eur. J. Neurosci. 11,
407–416.
Conflict of Interest Statement: The
authors declare that the research
www.frontiersin.org
was conducted in the absence of any
commercial or financial relationships
that could be construed as a potential
conflict of interest.
Received: 12 October 2011; paper
pending published: 24 November 2011;
accepted: 02 February 2012; published
online: 15 February 2012.
Citation: Sarti F, Schroeder J, Aoto J
and Chen L (2012) Conditional RARα
knockout mice reveal acute requirement
for retinoic acid and RARα in homeostatic plasticity. Front. Mol. Neurosci.
5:16. doi: 10.3389/fnmol.2012.00016
Copyright © 2012 Sarti, Schroeder,
Aoto and Chen. This is an openaccess article distributed under the terms
of the Creative Commons Attribution
Non Commercial License, which permits non-commercial use, distribution,
and reproduction in other forums, provided the original authors and source are
credited.
February 2012 | Volume 5 | Article 16 | 12
|
|
https://openalex.org/W2043511741
|
https://europepmc.org/articles/pmc4192677?pdf=render
|
English
| null |
NblA1/A2-Dependent Homeostasis of Amino Acid Pools during Nitrogen Starvation in Synechocystis sp. PCC 6803
|
Metabolites
| 2,014
|
cc-by
| 5,424
|
metabolites
ISSN 2218-1989
www.mdpi.com/journal/metabolites/
OPEN ACCESS metabolites
ISSN 2218-1989
www.mdpi.com/journal/metabolites/
OPEN ACCESS Metabolites 2014, 4, 517-531; doi:10.3390/metabo4030517
metabolites
ISSN 2218-1989
www.mdpi.com/journal/metabolites/
Article
NblA1/A2-Dependent Homeostasis of Amino Acid Pools during
Nitrogen Starvation in Synechocystis sp. PCC 6803
Hiroshi Kiyota 1,2, Masami Yokota Hirai 2 and Masahiko Ikeuchi 1,3,*
1 Department of Biological Sciences, Graduate School of Science, The University of Tokyo,
7-3-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp
2 RIKEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokohama,
Kanagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp
3 Department of Life Sciences (Biology), Graduate School of Arts and Science,
The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan
* Author to whom correspondence should be addressed; E-Mail: mikeuchi@bio.c.u-tokyo.ac.jp;
Tel.: +81-3-5454-6641; Fax: +81-3-5454-4337.
Received: 17 March 2014; in revised form: 14 June 2014 / Accepted: 23 June 2014 /
Published: 30 June 2014
OPEN ACCESS Metabolites 2014, 4, 517-531; doi:10.3390/metabo4030517 Hiroshi Kiyota 1,2, Masami Yokota Hirai 2 and Masahiko Ikeuchi 1,3,* 1 Department of Biological Sciences, Graduate School of Science, The University of Tokyo,
7-3-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp partment of Biological Sciences, Graduate School of Science, The University of Tokyo,
-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp
KEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokoha
nagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp Department of Biological Sciences, Graduate School of Science, The University of Tokyo,
7-3-1 Hongo, Bunkyo-ku, Tokyo 113-0033, Japan; E-Mail: kiyo_hiro@bio.c.u-tokyo.ac.jp
2 RIKEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokohama,
Kanagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp 2 RIKEN Center for Sustainable Resource Science, 1-7-22 Suehiro-cho, Tsurumi-ku, Yokohama,
Kanagawa 230-0045, Japan; E-Mail: masami.hirai@riken.jp 3 Department of Life Sciences (Biology), Graduate School of Arts and Science,
The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan 3 Department of Life Sciences (Biology), Graduate School of Arts and Science,
The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan 3 Department of Life Sciences (Biology), Graduate School of Arts and Science,
The University of Tokyo, 3-8-1 Komaba, Meguro-ku, Tokyo 153-8902, Japan * Author to whom correspondence should be addressed; E-Mail: mikeuchi@bio.c.u-tokyo.ac.jp;
Tel.: +81-3-5454-6641; Fax: +81-3-5454-4337. * Author to whom correspondence should be addressed; E-Mail: mikeuchi@bio.c.u-tokyo.ac.jp;
Tel.: +81-3-5454-6641; Fax: +81-3-5454-4337. Received: 17 March 2014; in revised form: 14 June 2014 / Accepted: 23 June 2014 /
Published: 30 June 2014 Abstract: Nutrient balance is important for photosynthetic growth and biomass production
in microalgae. Here, we investigated and compared metabolic responses of amino
acid pools to nitrogen and sulfur starvation in a unicellular model cyanobacterium,
Synechocystis sp. PCC 6803, and its mutant nblA1/A2. It is known that NblA1/A2-dependent
and -independent breakdown of abundant photosynthetic phycobiliproteins and other
cellular proteins supply nutrients to the organism. However, the contribution of the
NblA1/A2-dependent nutrient supply to amino acid pool homeostasis has not been studied. Our study demonstrates that changes in the pool size of many amino acids during nitrogen
starvation can be categorized as NblA1/A2-dependent (Gln, Glu, glutathione, Gly, Ile, Leu,
Met, Phe, Pro, Ser, Thr, Tyr and Val) and NblA1/A2-independent (Ala, Asn, Lys, and
Trp). We also report unique changes in amino acid pool sizes during sulfur starvation in
wild type and the mutant and found a generally marked increase in the Lys pool in
cyanobacteria during nutrient starvation. In conclusion, the NblA1/A2-dependent protein
turnover contributes to the maintenance of many amino acid pools during nitrogen starvation. Keywords: cyanobacteria; nbl; amino acid; nitrogen metabolism; Synechocystis 1. Introduction Nutrient balance is critical for the phototrophic growth of microalgae, because proteins, nucleic
acids, carbohydrates, lipids, and pigments must be supplied in a ratio suitable for actively growing
cells. Once the nutrient supply is out of balance, microalgae try to accommodate by inducing nutrient
uptake, reducing photosynthesis, suppressing growth and autophagy, etc. [1,2]. In contrast, it is often
important to limit nutrient supply, e.g., when microalgae produce certain biomass compounds [3]. For
commercial purposes, it is desirable to artificially separate biomass production from cell proliferation
in microalgae, which allows the microalgae to be used as a photobioreactor for the production of a
specific biomass. Gene expression during nutrient starvation and related stresses has been studied
extensively in microalgae using DNA microarray and RNA sequencing (RNA-Seq) analyses [4,5]. Little,
however, is known about the precise mechanisms underlying metabolic acclimation to nutrient starvation. Nitrogen is a key macronutrient for microalgae, which adjust for nitrogen availability by global or
specific regulation of gene expression, metabolic pathways, protein turnover, photosynthetic capacity,
and the cell cycle [6,7]. In eukaryotic microalgae, autophagy is induced by nitrogen starvation to
degrade cytoplasmic components including plastids in the large vacuoles [8]. In cyanobacteria, a
unique NblA-dependent mechanism is induced to degrade certain phycobiliproteins, which are major
components of the phycobilisome, the supramolecular photosynthetic antenna that harvests light for
photosynthesis in these organisms. They are soluble proteins attached to the thylakoid surface and may
constitute up to ~50% of total soluble proteins in many cyanobacterial cells [9]. Upon nitrogen—and
sometimes sulfur—starvation, cyanobacteria degrade most of these blue-colored phycobiliproteins,
resulting in a bleached cell color. Phycobiliprotein degradation has been believed to contribute to
the supply of macronutrients that are necessary to maintain cellular functions during nutrient
starvation [10]. The non-bleaching phenotype gene (nblA) was identified as an essential factor for the
specific degradation of phycobiliproteins [11,12]. Because the small protein NblA directly binds to
certain phycobiliproteins, its binding may trigger proteolytic breakdown of the target proteins [13]. It
is, however, still unknown to what extent NblA-dependent protein degradation contributes to the
amino acid supply during nitrogen starvation [14–17]. The unicellular cyanobacterium Synechocystis sp. PCC 6803 (hereafter Synechocystis) is a model
species for basic and applied research of photosynthesis, metabolism, and many other cellular processes. The complete genome of the standard strain PCC 6803 was determined in 1996, and many related
substrains have been sequenced recently [18]. Hiroshi Kiyota 1,2, Masami Yokota Hirai 2 and Masahiko Ikeuchi 1,3,* Keywords: cyanobacteria; nbl; amino acid; nitrogen metabolism; Synechocystis Metabolites 2014, 4 Metabolites 2014, 4 518 Metabolites 2014, 4 To investigate the contribution of amino acid recycling in Synechocystis, we therefore analyzed the
metabolic responses of amino acid pools in Synechocystis and its mutant nblA1/A2 to nitrogen and
sulfur starvation. 1. Introduction DNA microarray, RNA-Seq, proteome, and metabolome
analyses of this organism have been carried out in many laboratories [19,20]. Regulation of
photosynthetic metabolisms has been studied by metabolic phenotyping under stress conditions (high
light and low CO2) and trophic conditions (photoautotrophic and photomixotrophic) [21,22]. More
recently, this species has also been used for metabolic engineering and biomass production [23–25]. Synechocystis does not fix molecular nitrogen but assimilates ammonium, nitrate, and other
compounds into amino acids. Upon nitrogen starvation, the global nitrogen regulator NtcA mainly
regulates genes for carbon and nitrogen metabolism [26,27]. Expression of nblA, which consists of
two tandemly arranged nblA1 and nblA2 loci in Synechocystis, is induced under starvation for
nitrogen [28]. The phycobilisome is believed to have a role in nitrogen storage as well as its role as a
photosynthetic antenna, but this hypothesis has not yet been tested [29]. 519 Metabolites 2014, 4 Metabolites 2014, 4 In the presence of sufficient nitrogen, the most abundant amino acid was Glu, followed by glutathione
(2000–12,000 pmol/mg FW). The pool size of Ala, Asp, and Gln was high (100–300 pmol/mg FW),
whereas the remaining amino acid pools were low in abundance. This free amino acid profile is consistent
with previous reports in Synechocystis [19], the unicellular cyanobacterium Anacystis nidulans [15],
and the multicellular cyanobacterium Arthrospira platensis [14]. Similar patterns are also found in
Escherichia coli and Saccharomyces cerevisiae [31,32]. In contrast, patterns in higher plants, such as
Arabidopsis thaliana, are quite different [33]. When Synechocystis cells were collected by filtration,
suspended, and cultured in N-free medium for 24 h under otherwise normal culture conditions, we
found two types of responses (Figure 2). The first is a transient increase after 1–5 h, followed by a
return to the starting levels (Ala, Asn, Gly, Ile, Leu, Met, Phe, Pro, Ser, Thr, and Val). The second is a
long-term increase throughout the 24-h incubation period (Lys and Tyr). In contrast, we found a severe
decline in Asp. The pool size of Asp, Glu, and ornithine gradually declined to approximately half of
the control level and remained low for 24 h. It should be noted that a marked increase of Gln and
ornithine was found only at 0 h (just after washing) irrespective of whether the N-deficient or
N-containing medium was used for washing. Therefore, this is likely an effect caused by the medium
change, whereas the other responses most likely result from changes in amino acid biosynthesis,
supply from protein degradation, and interconversion among amino acids and other metabolites during
nitrogen starvation. The overall responses of amino acid pools during nitrogen starvation were similar
to those reported in cyanobacteria, although some variation in the time course and/or extent of
responses occurred [14–17]. We did not study further responses beyond 24 h but the long-term
responses would also be important for regulation and maintenance of metabolites. Hauf et al. [17]
reported some differential responses in Synechocystis cells after 168 h of nitrogen starvation. 2.1. Responses of Amino Acid Pools to Nitrogen Starvation in Synechocystis Cells To quickly and quantitatively extract free amino acids from Synechocystis cells, cells were collected
with a filter and disrupted with zirconia beads, and free amino acids were then extracted with
methanol. The free amino acids were derivatized and subjected to gas chromatography–mass
spectrometry (GC-MS) analysis as described [30]. This method provided quantitative data for free
amino acids, except Arg and His, as depicted in the biosynthesis pathway (Figure 1). Figure 2 shows
the change in the free amino acid pools in Synechocystis cells during 24-h nitrogen starvation. Note that Cys levels were not reported, because the Cys pool size was below the detection limit
(<0.2 pmol/mg fresh weight [FW]). We also quantified non-standard amino acids, ornithine and
glutathione. Ornithine is an intermediate of Arg biosynthesis. Glutathione is a redox carrier consisting
of Cys, Glu and Gly (Figure 1). Figure 1. Amino acid biosynthesis pathways in Synechocystis and summary of responses
during nitrogen or sulfur starvation. Amino acids shown in red were analyzed in this study. Responses to nitrogen starvation (–N↑ or –N↓) or to sulfur starvation (–S↑) are
indicated in blue and the responses that depend on NblA1/A2 are boxed. Note that –N
stands for amino acids, whose levels are maintained by NblA1/A2 during nitrogen starvation. Metabolites 2014, 4 520 Metabolites 2014, 4 Figure 2. Changes in amino acid pools of cells during nitrogen starvation. Orange bars:
cells cultured in nitrogen free medium (0 ~ 24 h), green bars: control cells cultured in the
nitrate containing medium (0 ~ 24 h) after the same medium exchange treatment as the
nitrogen free cells. Note that cells at 0 h were collected just after the medium exchange
treatment. Standard deviation is shown from three measurements (n = 3), but asterisks and
dots above bars in phenylalanine represent n = 2 and n = 1, respectively. 521 Metabolites 2014, 4 2.2. Responses to Nitrogen Repletion following Starvation Next, we investigated the effects of nitrate re-addition on the amino acid pools of cells that have
been nitrogen starved for 24 h (Figure 3). The long-term changes in Asp, Glu, Lys, ornithine, and Tyr
during nitrogen starvation were approximately reversed by the subsequent addition of nitrogen. Thus,
we are able to confirm the reversible responses of amino acids upon nitrogen starvation and nitrogen
re-assimilation, although the experiment was done once. More specifically, the pool size of Lys and
Tyr did not change much after 1 h but fully recovered to its original level 6 h after re-addition. The
long-term accumulation of Lys and Tyr during starvation may be due to the suppression of de novo
protein biosynthesis and the degradation of cellular proteins, whereas the reversion to the original level
during the repletion may result from the recovery of protein biosynthesis. The pool size of Asp, Glu,
and ornithine transiently overshot and then dropped to levels found in nitrogen-sufficient conditions. A
similar overshoot was found in Ala, Gln, and Ser. The reversion of the overshoot could be due to the
recovery of protein biosynthesis, whereas the overshoot itself could result from nitrogen re-assimilation
in the absence of protein biosynthesis, because these amino acids can be readily produced from the
nitrogen source via central metabolites (Figure 1). Metabolites 2014, 4 522 Metabolites 2014, 4 Figure 3. Effects of nitrogen re-addition on the amino acid pools of Synechocystis cells
that were nitrogen starved for 24 h. Blue bars: cells nitrogen starved for 24 h (0 h), or then
cultured after re-addition of nitrate (1, 6, 24 h). Green bars: control cells grown under
nitrogen containing condition. NA, not assigned in gas chromatography (GC). Figure 3. Effects of nitrogen re-addition on the amino acid pools of Synechocystis cells
that were nitrogen starved for 24 h. Blue bars: cells nitrogen starved for 24 h (0 h), or then
cultured after re-addition of nitrate (1, 6, 24 h). Green bars: control cells grown under
nitrogen containing condition. NA, not assigned in gas chromatography (GC). Metabolites 2014, 4 Metabolites 2014, 4 523 2.3. Response of the nblA1/A2 Mutant to Nitrogen Starvation Metabolites 2014, 4 To evaluate the overall contribution of NblA1/A2 to amino acid pool sizes, the total protein content
of wild-type and mutant Synechocystis cells was compared. In wild-type cells, the protein content
(relative to the fresh cell weight) was reduced to one-fourth during 24 h of nitrogen starvation
(Figure 6). In the mutant, protein content before starvation was comparable to that of the wild type,
whereas it was reduced to nearly one-half of the initial level after starvation. This suggests that
approximately one-third of the protein turnover triggered by nitrogen starvation depends on the
NblA1/A2-induced breakdown of the abundant phycobiliproteins, whereas the remaining two-thirds of
protein turnover may be due to the breakdown of other proteins. Nitrogen supply in the NblA1/A2-dependent group of amino acid pools must be derived from the
major phycobilisome components, which consist of two phycobiliproteins, CpcA and CpcB, and two
colorless linker proteins, CpcC1 and CpcC2. During nitrogen starvation, it is generally believed that
two outer hexameric discs of phycobiliproteins are degraded together with each associated linker
protein, although the extent of degradation depends on the severity and duration of the starvation. The
amino acid composition of these proteins is reasonably similar to the NblA1/A2-dependent group
noted above. In this context, it is important to note that the NblA1/A2-dependent amino acids are
found in a relatively large amount in the CpcA/B proteins, though the independent ones such as Ala,
Asp, and Lys are also contained. It is thus suggested that the latter amino acids may also be supplied
from other sources. Figure 6. Total amount of cellular protein in WT Synechocystis and the nblA1/A2 mutant
(∆nblA1/A2) after 24 h in nitrogen-sufficient (+N) or nitrogen-deficient (–N) medium. Standard deviation is shown from three independent experiments. 2.4. Response of the nblA1/A2 Mutant to Sulfur Starvation
We also examined amino acid pools of the nblA1/A2 mutant under sulfur starvation (Figure 7). In
wild-type cells, Ala, Asn, Asp, Gln, Ile, Lys, Ser, and Thr increased 24 h after starvation, in agreement
with our previous report [30]. None of these amino acids were affected by the disruption of nblA1/A2. This is consistent with a report that sulfur starvation does not induce phycobilisome degradation in
Synechocystis [34]. 2.4. Response of the nblA1/A2 Mutant to Sulfur Starvation 2.4. Response of the nblA1/A2 Mutant to Sulfur Starvation 2.4. 2.3. Response of the nblA1/A2 Mutant to Nitrogen Starvation To study the turnover of phycobiliproteins, we examined the pool size of free amino acids in the
nblA1/A2 mutant during nitrogen starvation. First, the tandemly arranged nblA1 and nblA2 were
replaced with the screening cassette (Figure 4A), and complete segregation was confirmed by PCR
(Figure 4B). We also visually confirmed the non-bleaching phenotype of the mutant during nitrogen
starvation (Figure 4C). Then, the pool size of free amino acids was analyzed after 24 h of nitrogen
starvation. The increase of Gly, Ile, Leu, Phe, Pro, Thr and Tyr was abolished in the nblA1/A2 mutant,
whereas the increase of Lys was not affected at all (Figure 5). The decrease of Asp and ornithine was
not affected, either. For the remaining amino acids, their pool sizes were maintained after 24 h
of nitrogen starvation, irrespective of the presence or absence of transient changes. These were
divided into two groups: NblA1/A2-dependent amino acids and NblA1/A2-independent ones. The
NblA1/A2-dependent group includes Asn, Gln, Glu, Ser, Val, and glutathione. The NblA1/A2-independent
group includes Ala, and Trp. It should be noted that the NblA1/A2-dependent nitrogen supply was
critical for Glu and glutathione homeostasis in cells during nitrogen starvation. Figure 4. (a) Deletion of nblA1/A2 by a kanamycin resistance cassette (KmR); (b) PCR
analysis of nblA1/A2. The calculated DNA size of each PCR product is 2588 bp for the
nblA1/A2 mutant (ΔnblA1/A2) and 1649 bp for wild type; (c) Non-bleaching phenotype of
the nblA1/A2 mutant under nitrogen starvation. WT, wild type. Metabolites 2014, 4 Metabolites 2014, 4 524 Figure 5. Amino acid pools in WT Synechocystis and the nblA1/A2 mutant (∆nblA1/A2)
after 24 h in nitrogen-sufficient (+N) or nitrogen-deficient (–N) medium. Standard
deviation is shown from three independent experiments. ND, not detected. 525 3.1. Culture Conditions and Cell Sampling Cells of Synechocystis sp. PCC 6803 glucose-tolerant substrain [17] were grown under normal growth
conditions at 30 °C in BG11 medium supplemented with 20 mM HEPES-KOH (pH 7.8) [36] with
bubbling 1% (v/v) CO2 and continuous illumination with white fluorescent lamps (30–40 μmol·s−1·m−2). For medium changes, cells at an optical density (A730) of 1.0–1.5 were harvested by filtration and
resuspended in fresh BG11 medium, nitrogen-free BG11(–N) medium, or sulfur-free BG11(–S)
medium. In BG11(–N), 17 mM NaNO3 was replaced by 17 mM of NaCl. In BG11(–S), 0.3 mM
MgSO4 was replaced by 0.3 mM MgCl2. After 24 h, cells were collected by filtration and the cell pellet
scraped were weighted, frozen in liquid nitrogen, and preserved at −80 °C. For experiments of nitrogen
re-addition, 1.5 mM NaNO3 was simply added to the nitrogen-starved cells. 2.5. NblA1/A2-Dependent and -Independent Homeostasis of Amino Acids In Figure 1, we summarized the NblA1/A2-dependent and -independent amino acid homeostasis
during nitrogen and sulfur starvation in the model cyanobacterium Synechocystis sp. PCC 6803. The
amino acids, which responded or were maintained during nitrogen starvation by NblA1/A2, are
highlighted with a box, whereas the NblA1/A2-independent ones, which responded either to nitrogen
or sulfur starvation, are also indicated but not highlighted. Thus, we can conclude that many amino
acids (Asn, Gln, Glu, glutathione, Gly, Ile, Leu, Phe, Pro, Ser, Thr, Tyr, and Val) can be at least in part
supplied from phycobilisome components via NblA1/A2–mediated rapid turnover. We can also
assume that sulfur starvation suppressed conversion of Asp–to–Met and Ser–to–Cys, which may lead
to accumulation of Asp, Ser and other amino acids nearby (Figure 1), as previously reported [24]. However, the enhanced accumulation of Lys is not correlated with the pool size of Asp (high during
sulfur starvation, but low during nitrogen starvation). This finding may rule out the previous
interpretation for Lys accumulation via Asp during sulfur starvation. There are no Lys–metabolizing
enzymes annotated for Synechocystis in the Kyoto Encyclopedia of Genes and Genomes (KEGG)
pathway [35]. Moreover, there are many Lys–rich proteins hypothetically coded for in the
Synechocystis genome [18]. Turnover of such proteins and the absence of Lys-metabolizing enzymes
might result in Lys accumulation during nitrogen and sulfur starvation. On the other hand, the increase
of Ala and Gln was unique to sulfur starvation, whereas the decrease of Asp and ornithine was unique
to nitrogen starvation irrespective of NblA1/A2 protein. Thus, some selective acclimation might also
occur in amino acid homeostasis to mitigate each nutrient starvation. Further characterization in the
common and specific acclimation in amino acid recycling would give a clue for metabolic plasticity of
phototrophic organisms. Metabolites 2014, 4 Response of the nblA1/A2 Mutant to Sulfur Starvation We also examined amino acid pools of the nblA1/A2 mutant under sulfur starvation (Figure 7). In
wild-type cells, Ala, Asn, Asp, Gln, Ile, Lys, Ser, and Thr increased 24 h after starvation, in agreement
with our previous report [30]. None of these amino acids were affected by the disruption of nblA1/A2. This is consistent with a report that sulfur starvation does not induce phycobilisome degradation in
Synechocystis [34]. Metabolites 2014, 4 Metabolites 2014, 4 526 Figure 7. Amino acid pools in WT Synechocystis and the nblA1/A2 mutant (∆nblA1/A2)
after 24 h in sulfur-sufficient (+S) or sulfur-deficient (–S) medium. Standard deviation is
shown from three independent experiments. shown from three independent experiments. Metabolites 2014, 4 Metabolites 2014, 4 527 2.5. NblA1/A2-Dependent and -Independent Homeostasis of Amino Acids 3.5. Bradford Assay To extract total cellular proteins, we added zirconia beads and a protein extraction buffer (100 mM
NaCl, 10% (w/v) glycerol, 20 mM HEPES-NaOH (pH 7.5)) to the frozen cells and vortexed the
mixture at 3000 rpm for 30 sec. After centrifugation at 10,000 g, the protein content of the supernatant
was detected using a Bradford kit [30]. 3.4. Derivatization and GC-MS Analysis of Amino Acids Dried extracts were dissolved in 60% (v/v) methanol containing 2 nmol of norvaline as an internal
standard and derivatized using EZ:faast™ (Phenomenex, Torrance, CA, USA). GC-MS was performed
using the QP2010 Plus GC-MS (Shimadzu, Kyoto, Japan) equipped with a ZB-AAA column
(Phenomenex). The analytical conditions were as follows: carrier gas, He (1.17 mL/min); ionization
voltage, 70 kV; injector temperature, 280 °C; and oven program, 110 °C (1-min hold), with an increase
of 20 °C min−1 to 300 °C (2-min hold). Analyses were carried out in Selected Ion Monitoring mode. Each amino acid was identified and quantified in the extracted ion chromatogram at its respective
retention time. Quantified data were normalized to the fresh weight of the frozen cell pellet [30]. 3.2. Disruption of nblA1/nblA2 A DNA fragment harboring nblA1 and nblA2 was amplified from genomic DNA by PCR using the
primers ACAACATTGGGCACGAGA and ACTACCATGATCAATCCC. The fragment was then
cloned into a pT7Blue vector. The entire region of nblA1 and a portion of nblA2 were excised by MfeI Metabolites 2014, 4 528 Metabolites 2014, 4 and HpaI and replaced with a kanamycin resistance cassette. Synechocystis cells were transformed
by homologous recombination and screened in the presence of 20 µg/mL kanamycin. Complete
segregation of the mutant allele was confirmed by PCR using the same primers as mentioned above. 3.3. Extraction of Amino Acids To disrupt the cells, 1 mL of 60% (v/v) methanol in H2O and 1 g of zirconia beads were added to
the frozen cell pellet at 4 °C, followed by vortexing twice for 30 s with a 1-min interval between
vortexing. The mixture was centrifuged at 9000 g for 5 min, and the supernatant was collected. The
beads were washed with 500 µL of 60% methanol, centrifuged at 20,000 g for 5 min, and the
supernatant was collected. Combined extracts were dried and stored until further analysis. [30]. 4. Conclusions We studied the effects of protein turnover on pool sizes of free amino acids in cyanobacteria,
including in the nblA1/A2 mutant, during nitrogen and sulfur starvation. The abundant phycobiliproteins
are degraded specifically during nitrogen starvation in an NblA1/A2-dependent manner. Many other
cellular proteins are also degraded to supply free amino acids during such nutrient starvation. The
contribution of the NblA1/A2-dependent supply to nutrient starvation, however, has not been studied. Here we demonstrated that the changes in pool size of many amino acids during nitrogen starvation
can be categorized into NblA1/A2-dependent (Gln, Glu, glutathione, Gly, Ile, Leu, Met, Phe, Pro, Ser,
Thr, Tyr and Val) and NblA1/A2-independent (Ala, Asn, Lys, and Trp). We confirmed that there are
changes in amino acid pools that differ under nitrogen and under sulfur starvation and found that the
marked increase in the Lys pool is a general event that occurs in cyanobacteria during nutrient starvation. The mechanism and biological role of this increase in Lys remain unknown but its marked accumulation
may be adopted for some applied purpose in a photosynthetic biomass production. Metabolites 2014, 4 Metabolites 2014, 4 Metabolites 2014, 4 529 Author Contributions Hiroshi Kiyota, Masami Yokota Hirai, and Masahiko Ikeuchi designed the study. Hiroshi Kiyota
performed the experiments. Hiroshi Kiyota and Masahiko Ikeuchi wrote the manuscript. Acknowledgments We thank Ayuko Kuwahara for her help in GC-MS measurements. This work was supported by
Grants-in-Aid for Scientific Research from Ministry of Education and Science (M.I.), the Global
Center of Excellence (GCOE) program “From the Earth to Earths” from Ministry of Education and
Science (M.I.), and Core Research for Evolutionary Science and Technology (CREST) from the Japan
Science and Technology Agency (to M.I.). Conflicts of Interest The authors declare no conflict of interest. References A small polypeptide triggers complete degradation of light-harvesting
phycobiliproteins in nutrient-deprived cyanobacteria. EMBO J. 1994, 13, 1039–1047. 12. Li, H.; Sherman, L.A. Characterization of Synechocystis sp. strain PCC 6803 and deltanbl mutants
under nitrogen-deficient conditions. Arch. Microbiol. 2002, 178, 256–266. 13. Karradt, A.; Sobanski, J.; Mattow, J.; Lockau, W.; Baier, K. NblA, a key protein of
phycobilisome degradation, interacts with ClpC, a HSP100 chaperone partner of a cyanobacterial
Clp protease. J. Biol. Chem. 2008, 283, 32394–32403. 14. Hasunuma, T.; Kikuyama, F.; Matsuda, M.; Aikawa, S.; Izumi, Y.; Kondo, A. Dynamic metabolic
profiling of cyanobacterial glycogen biosynthesis under conditions of nitrate depletion. J. Exp. Bot. 2013, 64, 2943–2954. 15. Coronil, T.; Lara, C. Amino acid level and expression of the nitrate assimilation system in
Anacystis nidulans cells. Plant Physiol. Biochem. 1991, 29, 651–655. 16. Osanai, T.; Oikawa, A.; Shirai, T.; Kuwahara, A.; Iijima, H.; Tanaka, K.; Ikeuchi, M.; Kondo, A.;
Saito, K.; Hirai, M.Y. Capillary electrophoresis-mass spectrometry reveals the distribution of
carbon metabolites during nitrogen starvation in Synechocystis sp. PCC 6803. Environ. Microbiol. 2014, 16, 512–524. 17. Hauf, W.; Schlebusch, M.; Hüge, J.; Kopka, J.; Hagemann, M.; Forchhammer, K. Metabolic changes in Synechocystis PCC6803 upon nitrogen-starvation: excess NADPH sustains
polyhydroxybutyrate accumulation. Metabolites 2013, 3, 101–118. 18. Kaneko, T.; Sato, S.; Kotani, H.; Tanaka, A.; Asamizu, E.; Nakamura, Y.; Miyajima, N.;
Hirosawa, M.; Sugiura, M.; Sasamoto, S.; et al. Sequence analysis of the genome of the
unicellular cyanobacterium Synechocystis sp. strain PCC6803. II. Sequence determination of the
entire genome and assignment of potential protein-coding regions (supplement). DNA Res. 1996,
3, 185–209. 19. Yoshikawa, K.; Hirasawa, T.; Ogawa, K.; Hidaka, Y.; Nakajima, T.; Furusawa, C.; Shimizu, H. Integrated transcriptomic and metabolomic analysis of the central metabolism of Synechocystis sp. PCC 6803 under different trophic conditions. Biotechnol. J. 2013, 8, 571–580. 20. Kanesaki, Y.; Shiwa, Y.; Tajima, N.; Suzuki, M.; Watanabe, S.; Sato, N.; Ikeuchi, M.; Yoshikawa, H. Identification of substrain-specific mutations by massively parallel whole-genome resequencing
of Synechocystis sp. PCC 6803. DNA Res. 2012, 19, 67–79. 21. Eisenhut, M.; Huege, J.; Schwarz, D.; Bauwe, H.; Kopka, J.; Hagemann, M. Metabolome
phenotyping of inorganic carbon limitation in cells of the wild type and photorespiratory mutants
of the cyanobacterium Synechocystis sp. strain PCC 6803. Plant Physiol. 2008, 148, 2109–2120. 22. Takahashi, H.; Uchimiya, H.; Hihara, Y. Difference in metabolite levels between photoautotrophic
and photomixotrophic cultures of Synechocystis sp. References 1. Schwarz, R.; Forchhammer, K. Acclimation of unicellular cyanobacteria to macronutrient
deficiency: Emergence of a complex network of cellular responses. Microbiology 2005, 151,
2503–2514. 1. Schwarz, R.; Forchhammer, K. Acclimation of unicellular cyanobacteria to macronutrient
deficiency: Emergence of a complex network of cellular responses. Microbiology 2005, 151,
2503–2514. 2. Grossman, A. Acclimation of Chlamydomonas reinhardtii to its nutrient environment. Protist 2000, 151, 201–224. 2. Grossman, A. Acclimation of Chlamydomonas reinhardtii to its nutrient environment. Protist 2000, 151, 201–224. 3. Markou, G.; Nerantzis, E. Microalgae for high-value compounds and biofuels production: A
review with focus on cultivation under stress conditions. Biotechnol. Adv. 2013, 31, 1532–1542. 3. Markou, G.; Nerantzis, E. Microalgae for high-value compounds and biofuels production: A
review with focus on cultivation under stress conditions. Biotechnol. Adv. 2013, 31, 1532–1542. 4. Toepel, J.; Albaum, S.P.; Arvidsson, S.; Grossman, A.; la Russa, M.; Rogge, K.; Kruse, O. Construction and evaluation of a whole genome microarray of Chlamydomonas reinhardtii. BMC Genomics 2011, 12, 579. 4. Toepel, J.; Albaum, S.P.; Arvidsson, S.; Grossman, A.; la Russa, M.; Rogge, K.; Kruse, O. Construction and evaluation of a whole genome microarray of Chlamydomonas reinhardtii. BMC Genomics 2011, 12, 579. 5. Mitschke, J.; Vioque, A.; Haas, F.; Hess, W.R.; Muro-Pastor, A.M. Dynamics of transcriptional
start site selection during nitrogen stress-induced cell differentiation in Anabaena sp. PCC7120. Proc. Natl. Acad. Sci. USA 2011, 108, 20130–20135. 5. Mitschke, J.; Vioque, A.; Haas, F.; Hess, W.R.; Muro-Pastor, A.M. Dynamics of transcriptional
start site selection during nitrogen stress-induced cell differentiation in Anabaena sp. PCC7120. Proc. Natl. Acad. Sci. USA 2011, 108, 20130–20135. 6. Dagenais-Bellefeuille, S.; Morse, D. Putting the N in dinoflagellates. Front. Microbiol. 2013, 4, 369. 7. Ito, T.; Tanaka, M.; Shinkawa, H.; Nakada, T.; Ano, Y.; Kurano, N.; Soga, T.; Tomita, M. Metabolic and morphological changes of an oil accumulating trebouxiophycean alga in
nitrogen-deficient conditions. Metabolomics 2013, 9, 178–187. 8. Dong, H.P.; Williams, E.; Wang, D.Z.; Xie, Z.X.; Hsia, R.C.; Jenck, A.; Halden, R.; Li, J.;
Chen, F.; Place, A.R. Responses of Nannochloropsis oceanica IMET1 to long-term nitrogen
starvation and recovery. Plant Physiol. 2013, 162, 1110–1126. 9. Watanabe, M.; Ikeuchi, M. Phycobilisome: Architecture of a light-harvesting supercomplex. Photosynth. Res. 2013, 116, 265–276. 10. Collier, J.L.; Grossman, A.R. Chlorosis induced by nutrient deprivation in Synechococcus sp. strain PCC 7942: Not all bleaching is the same. J. Bacteriol. 1992, 174, 4718–4726. 530 Metabolites 2014, 4 11. Collier, J.L.; Grossman, A.R. References PCC 6803 examined by capillary electrophoresis
electrospray ionization mass spectrometry. J. Exp. Bot. 2008, 59, 3009–3018. 23. Liu, X.; Sheng, J.; Curtiss, R. Fatty acid production in genetically modified cyanobacteria. Proc. Natl. Acad. Sci. USA 2011, 108, 6899–6904. 24. Bentley, F.K.; Melis, A. Diffusion-based process for carbon dioxide uptake and isoprene
emission in gaseous/aqueous two-phase photobioreactors by photosynthetic microorganisms. Biotechnol. Bioeng. 2012, 109, 100–109. 531 Metabolites 2014, 4 25. Atsumi, S.; Higashide, W.; Liao, J.C. Direct photosynthetic recycling of carbon dioxide to
isobutyraldehyde. Nat. Biotechnol. 2009, 27, 1177–1180. 26. Kuniyoshi, T.M.; Gonzalez, A.; Lopez-Gomollon, S.; Valladares, A.; Bes, M.T.; Fillat, M.F.;
Peleato, M.L. 2-oxoglutarate enhances NtcA binding activity to promoter regions of the
microcystin synthesis gene cluster. FEBS Lett. 2011, 585, 3921–3926. 27. Ohashi, Y.; Shi, W.; Takatani, N.; Aichi, M.; Maeda, S.; Watanabe, S.; Yoshikawa, H.; Omata, T. Regulation of nitrate assimilation in cyanobacteria. J. Exp. Bot. 2011, 62, 1411–1424. 28. Baier, K.; Nicklisch, S.; Grundner, C.; Reinecke, J.; Lockau, W. Expression of two nblA-homologous
genes is required for phycobilisome degradation in nitrogen-starved Synechocystis sp. PCC 6803. FEMS Microbiol. Lett. 2001, 195, 35–39. 29. Grossman, A.R.; Schaefer, M.R.; Chiang, G.G.; Collier, J.L. The phycobilisome, a light-harvesting
complex responsive to environmental conditions. Microbiol. Rev. 1993, 57, 725–749. 30. Kiyota, H.; Ikeuchi, M.; Hirai, M.Y. Response of amino acid metabolism to sulfur starvation in
Synechocystis sp. PCC 6803. In Sulfur Metabolism in Plants; Springer: Dordrecht, Netherlands,
2012; pp. 53–59. 31. Bennett, B.D.; Kimball, E.H.; Gao, M.; Osterhout, R.; Van Dien, S.J.; Rabinowitz, J.D. Absolute metabolite concentrations and implied enzyme active site occupancy in Escherichia coli. Nat. Chem. Biol. 2009, 5, 593–599. 32. Hans, M.A.; Heinzle, E.; Wittmann, C. Quantification of intracellular amino acids in batch
cultures of Saccharomyces cerevisiae. Appl. Microbiol. Biotechnol. 2001, 56, 776–779. 33. Field, B.; Cardon, G.; Traka, M.; Botterman, J.; Vancanneyt, G.; Mithen, R. Glucosinolate and
amino acid biosynthesis in Arabidopsis. Plant Physiol. 2004, 135, 828–839. 34. Richaud, C.; Zabulon, G.; Joder, A.; Thomas, J.C. Nitrogen or sulfur starvation differentially
affects phycobilisome degradation and expression of the nblA gene in Synechocystis strain PCC
6803. J. Bacteriol. 2001, 183, 2989–2994. 35. KEGG
Lysine
degradation—Synechocystis
sp. PCC
6803. Available
online:
http://www.genome.jp/kegg-bin/show_pathway?syn00310 (accessed on 26 June 2014). 36
Rippka R Isolation and purification of cyanobacteria Methods Enzymol 1988 167 3 27 http://www.genome.jp/kegg-bin/show_pathway?syn00310 (accessed on 26 June 2014). 36. Rippka, R. Isolation and purification of cyanobacteria. Methods Enzymol. 1988, 167, 3–27. References 36. Rippka, R. Isolation and purification of cyanobacteria. Methods Enzymol. 1988, 167, 3–27. 36. Rippka, R. Isolation and purification of cyanobacteria. Methods Enzymol. 1988, 167, 3–27. © 2014 by the authors; licensee MDPI, Basel, Switzerland. This article is an open access article
distributed under the terms and conditions of the Creative Commons Attribution license
(http://creativecommons.org/licenses/by/3.0/). © 2014 by the authors; licensee MDPI, Basel, Switzerland. This article is an open access article
distributed under the terms and conditions of the Creative Commons Attribution license
(http://creativecommons.org/licenses/by/3.0/). © 2014 by the authors; licensee MDPI, Basel, Switzerland. This article is an open access article
distributed under the terms and conditions of the Creative Commons Attribution license
(http://creativecommons.org/licenses/by/3.0/).
|
https://openalex.org/W2169132078
|
https://dspace.mit.edu/bitstream/1721.1/134224/2/Chatrchyan2011_Article_MeasurementOfTheInclusiveZCros.pdf
|
English
| null |
Measurement of the inclusive Z cross section via decays to tau pairs in pp collisions at $ \sqrt {s} = 7 $ TeV
|
The Journal of high energy physics/The journal of high energy physics
| 2,011
|
cc-by
| 16,554
|
MIT Open Access Articles
Measurement of the inclusive Z cross section via
decays to tau pairs in pp collisions at √ s = 7 TeV
The MIT Faculty has made this article openly available. Please share
how this access benefits you. Your story matters.
Citation: Chatrchyan, S., et al. "Measurement of the Inclusive Z Cross Section Via Decays to Tau
Pairs in Pp Collisions at Root S=7 Tev." Journal of High Energy Physics 8 (2011).
As Published: 10.1007/JHEP08(2011)117
Publisher: Springer Science and Business Media LLC
Persistent URL: https://hdl.handle.net/1721.1/134224
Version: Final published version: final published article, as it appeared in a journal, conference
proceedings, or other formally published context
Terms of use: Creative Commons Attribution 4.0 International license MIT Open Access Articles
Measurement of the inclusive Z cross section via
decays to tau pairs in pp collisions at √ s = 7 TeV
The MIT Faculty has made this article openly available. Please share
how this access benefits you. Your story matters. Citation: Chatrchyan, S., et al. "Measurement of the Inclusive Z Cross Section Via Decays to Tau
Pairs in Pp Collisions at Root S=7 Tev." Journal of High Energy Physics 8 (2011). As Published: 10.1007/JHEP08(2011)117
Publisher: Springer Science and Business Media LLC
Persistent URL: https://hdl.handle.net/1721.1/134224
Version: Final published version: final published article, as it appeared in a journal, conference
proceedings, or other formally published context
Terms of use: Creative Commons Attribution 4.0 International license MIT Open Access Articles The MIT Faculty has made this article openly available. Please share
how this access benefits you. Your story matters. Version: Final published version: final published article, as it appeared in a journal, conference
proceedings, or other formally published context Terms of use: Creative Commons Attribution 4.0 International license Received: May 3, 2011
Revised: July 1, 2011
Accepted: August 3, 2011
Published: August 25, 2011 JHEP08(2011)117 Open Access, Copyright CERN,
for the benefit of the CMS collaboration The CMS collaboration The CMS collaboration Abstract: The first measurement of inclusive Z →τ +τ −production in pp collisions at
the LHC is presented, in the final states µ+hadrons, e+hadrons, e+µ, and µ+µ. The
data sample corresponds to an integrated luminosity of 36 pb−1 collected with the CMS
detector. The measured cross section is σ (pp →ZX)×B (Z →τ +τ −) = 1.00±0.05 (stat.)±
0.08 (syst.) ± 0.04 (lumi.) nb, which is in good agreement with the next-to-next-to-leading
order QCD prediction and improves on previous measurements in the Z →e+e−and
µ+µ−channels. The reconstruction efficiency for hadronic τ decays is determined with a
precision of 7%. Keywords: Hadron-Hadron Scattering Keywords: Hadron-Hadron Scattering doi:10.1007/JHEP08(2011)117 Open Access, Copyright CERN,
for the benefit of the CMS collaboration Contents
1
Introduction
1
2
CMS detector
2
3
Lepton reconstruction and identification
3
4
Event selection
4
5
Background estimation
6
6
Systematic uncertainties
7
7
Cross section measurement
8
8
Conclusions
12
The CMS collaboration
15 Contents
1
Introduction
1
2
CMS detector
2
3
Lepton reconstruction and identification
3
4
Event selection
4
5
Background estimation
6
6
Systematic uncertainties
7
7
Cross section measurement
8
8
Conclusions
12
The CMS collaboration
15 1
2
3
4
6
7
8
12
15 JHEP08(2011)117 7
Cross section measurement 8
Conclusions The CMS collaboration 2
CMS detector The central feature of the CMS apparatus is a superconducting solenoid, of 6 m internal
diameter, providing a magnetic field of 3.8 T. Within the field volume are the silicon pixel
and strip tracker, the crystal electromagnetic calorimeter (ECAL) and the brass/scintillator
hadron calorimeter (HCAL). Muons are measured in gas-ionization detectors embedded in
the steel return yoke. JHEP08(2011)117 CMS uses a right-handed coordinate system, with the origin at the nominal interaction
point, the x axis pointing to the centre of the LHC, the y axis pointing up perpendicular
to the LHC plane, and the z axis along the counterclockwise-beam direction. The polar
angle θ is measured from the positive z axis and the azimuthal angle φ is measured in the
xy plane. Variables used in this article are the pseudorapidity, η ≡−ln[tan(θ/2)], and the
transverse momentum, pT =
q
p2x + p2y. q
The ECAL is designed to have both excellent energy resolution and high granularity,
which are crucial for reconstructing electrons and photons produced in τ decays. The ECAL
is constructed with projective lead tungstate crystals in two pseudorapidity regions: the
barrel (|η| < 1.479) and the endcap (1.479 < |η| < 3). The transition regions between the
barrel and the endcaps, 1.444 < |η| < 1.567, are not used for electron reconstruction. In the
barrel region, the crystals are 25.8 X0 long, where X0 is the radiation length, and conform
to a granularity of ∆η × ∆φ = 0.0174 × 0.0174. The endcap region is instrumented with
a lead-silicon-strip preshower detector consisting of two orthogonal strip detectors with a
strip pitch of 1.9 mm. One plane is at a depth of 2X0 and the other at 3X0. The ECAL
has an energy resolution of better than 0.5% for unconverted photons with transverse
energies above 100 GeV. The energy resolution is 3% or better for the range of electron
energies relevant for this analysis. The HCAL barrel and endcap regions cover the range
|η| < 3 and are subdivided into towers with a segmentation of ∆η × ∆φ = 0.087 × 0.087,
corresponding to 5 × 5 ECAL crystals in the barrel region. The HCAL forward region
extends the calorimetry to |η| < 5. The inner tracker measures charged particle tracks within the range |η| < 2.5. 1
Introduction The measurement of the inclusive Z production cross section with Z →τ +τ −constitutes an
important physics benchmark at the Large Hadron Collider (LHC). The τ lepton can decay
either into purely leptonic final states (τ →eνeντ denoted as “τe” or τ →µνµντ denoted
as “τµ”) or into hadronic final states denoted by “τhad” consisting of a hadronic system and
a ντ. Constrained by the τ mass, the hadronic system is characterized by a low particle
multiplicity and a highly collimated jet which allows a τhad signal to be separated from the
large QCD jet backgrounds. The validation of the τhad signal is essential in searches for
new physics based on τ leptons, such as Higgs boson decays to τ +τ −[1]. The Compact
Muon Solenoid (CMS) Collaboration recently reported a search for the Higgs boson in this
channel [2]. Tau leptons can also be important signatures for searches of supersymmetry,
extra dimensions, and extra gauge bosons [3]. The Z →τ +τ −production cross section has been previously measured in proton-
antiproton collisions by the CDF and D0 Collaborations [4, 5]. In this study, Z →τ +τ −
events in the τµτhad, τeτhad, τeτµ, and τµτµ final states are selected from a sample of
√s = 7 TeV proton-proton collision data recorded by the CMS experiment at the LHC. The data sample corresponds to an integrated luminosity of 36±1 pb−1. Previous measure-
ments of the Z production cross section have been made with lower statistics and higher
luminosity uncertainty in the e+e−and µ+µ−final states [6, 7]. The results presented
in this paper constitute the first measurement of the Z production cross section with the – 1 – full integrated luminosity collected in 2010 and the first step of a comprehensive set of
measurements of the Z cross section, with all three lepton species. The measurement of
the Z →τ +τ −production cross section provides also a validation of τhad reconstruction
and identification [8–10] and a direct measurement of the tau selection efficiency. 3
Lepton reconstruction and identification Muons produced by τ decays in the Z →τ +τ −process are reconstructed in the tracker and
muon chambers [12]. Quality cuts, based on the minimum number of hits in the silicon
tracker, pixel detector, and muon chambers, are applied to suppress backgrounds from
hadron punch-through and decay in flight. Electrons are reconstructed by combining tracks produced by the Gaussian Sum Filter
algorithm with ECAL clusters [13]. Requirements are imposed that distinguish prompt
electrons from charged pions mimicking electron signatures, and from electrons produced
by photon conversions. JHEP08(2011)117 The CMS particle flow (PF) algorithm [9] is used to form a mutually exclusive collection
of reconstructed particles (muons, electrons, photons, and charged and neutral hadrons) by
combining tracks and calorimeter clusters. These reconstructed particles are used to build
composite objects such as τ’s and jets, and to measure the missing transverse energy E/T. /T
Electrons and muons from τ decays are expected to be isolated in the detector, while
leptons from heavy-flavour (c and b) decays and decays in flight are expected to be found
inside jets. A measure of isolation is used to discriminate the signal from the QCD multijet
background, based on the charged hadrons, photons, and neutral hadrons falling within a
cone ∆R =
p
∆η2 + ∆φ2 = 0.4 around the lepton momentum direction. In the τµτµ final
state, a cone of ∆R = 0.3 is used. A sum of the pT for each particle type is made for
charged hadrons with pT > 0.5 GeV and for photons and neutral hadrons with pT > 1 GeV;
photons and neutral hadrons are excluded from the sum if they fall within inner cones
of ∆R = 0.05 and ∆R = 0.08, respectively. The relative isolation variable is IPF
rel
=
Σ
pcharged
T
+ pphoton
T
+ pneutral
T
/pℓ
T, where pcharged
T
, pphoton
T
, and pneutral
T
refer to the charged
hadrons, photons, and neutral hadrons in the sum, respectively, and pℓ
T refers to the pT
of the lepton ℓ= e, µ. For muons, it is required that IPF
rel < 0.1, while for electrons it is
required that IPF
rel < 0.08 in the barrel and IPF
rel < 0.04 in the endcaps. 2
CMS detector It
consists of 1 440 silicon pixel and 15 148 silicon strip detector modules and provides an
impact parameter resolution of ∼15 µm and a transverse momentum resolution of about
1.5% for 100 GeV particles. The muon barrel region is covered by drift tubes and the endcap regions by cathode
strip chambers. In both regions resistive plate chambers provide additional coordinate and
timing information. Muons can be reconstructed in the range |η| < 2.4, with a typical pT
resolution of 1% for pT ≈40 GeV. A more detailed description of CMS can be found in [11]. – 2 – 4
Event selection The events preselected for this analysis in the τµτhad, τeτµ, and τµτµ final states are required
to pass the single-muon Level-1 (L1) trigger with a pT threshold of 7 GeV and the single
muon High Level Trigger (HLT) [15], with a threshold varying from 9 GeV to 15 GeV, de-
pending on the instantaneous luminosity. Events in the τeτhad final state are selected using
the single-electron L1 trigger with a threshold of 8 GeV in the transverse energy, and a
single-electron HLT trigger with a threshold of 12 GeV at higher instantaneous luminosity. At the end of the 2010 data taking period, a combined e+τ trigger was used to maintain
efficiency as the instantaneous luminosity increased. The trigger has the same L1 require-
ments as the electron trigger, but the HLT requires the presence of an electron of transverse
energy larger than 12 GeV and a hadronic tau decay with pT larger than 15 GeV, tagged
with a simplified version of the tau reconstruction algorithm with a less restrictive selec-
tion than the one used in the offline analysis. The tau reconstruction at HLT is performed
using PF objects. Jets are reconstructed with an iterative cone algorithm and tracking is
performed only for jets with ET above 8 GeV. All charged particles are treated as pions,
e.g. no muon or electron identification was applied. It is required that there is at least one
track of pT > 1 GeV in a cone of radius 0.2 and no additional charged hadrons (tracks)
with pT above 1.5 GeV in a cone of ∆R = 0.4. The efficiency of the L1+HLT to trigger on
τ leptons is measured from data and is found to be ≈93% for a τhad identified by the full
offline algorithm with a reconstructed pT above 15 GeV. JHEP08(2011)117 Offline event selection starts with the requirement of a well-defined primary vertex [16]. For the τµτhad and τeτhad final states, one isolated muon or electron is required with pT >
15 GeV and |η| < 2.1. The associated τhad must be oppositely charged, with pT > 20 GeV
and |η| < 2.3. 3
Lepton reconstruction and identification For the τeτµ final
state the isolation quantities are based directly on tracker and calorimeter information [7],
Irel = Σ (ET(ECAL) + ET(HCAL) + pT(tracks)) /pℓ
T, calculated in a cone of ∆R = 0.3. In
this case, it is required that Irel < 0.15 for muons and Irel < 0.1 for electrons. The τhad identification algorithm used in this measurement is known as the Hadrons
Plus Strips algorithm [10]. The reconstruction starts with the clustering of all PF particles
into jets with the anti-kt algorithm with a distance parameter R = 0.5 [14]. For each jet, a
charged hadron is combined with other nearby charged or neutral hadrons to reconstruct
the decay modes, considering all possible combinations. The identification of π0 mesons is
enhanced by clustering electrons and photons in ”strips” along the bending plane to take
into account possible broadening of calorimeter signatures by photon conversions. Then
strips and charged hadrons are combined to reconstruct the combinations: single hadron,
hadron plus a strip, hadron plus two strips and three hadrons. The hadron plus strip(s)
decay modes require one charged hadron and one or two strips with a minimum ET of 1
GeV. A constraint is applied on the strip mass to match the π0 mass and the invariant
mass of the hadron plus strip(s) is calculated. This invariant mass should be compatible
with the mass of the ρ(770) or a1(1260) resonances. To reduce the contamination from – 3 – QCD jets, the τhad-candidate isolation is calculated in a cone of ∆R = 0.5 around the
reconstructed τ-momentum direction. It is requested that there be no charged hadrons
with pT > 1.0 GeV and no photons with ET > 1.5 GeV in the isolation cone, other than the
τ constituents. The probability of a jet (electron) to be misidentified as a τhad is smaller
than 2% (3%). 4
Event selection In order to reject events coming from the W+jets background, the transverse
mass of the lepton and the E/T, MT(ℓ, E/T) =
q
2pℓ
TE/T · (1 −cos ∆φ), is required to be less
than 40 GeV, where ∆φ is the difference in azimuthal angle between the lepton and E/T
vectors. The MT distribution and the selection requirement applied are illustrated in
figure 1 for the τµτhad, τeτhad and τeτµ final states. For the τeτµ final state, one isolated muon with |η| < 2.1 and one oppositely charged
isolated electron with |η| < 2.4 are required, both with pT > 15 GeV. Further background
suppression is achieved by requiring MT(µ, E/T) < 50 GeV and MT(e, E/T) < 50 GeV. For the τµτµ final state, events with two oppositely charged isolated muons with |η| <
2.1 are selected if one satisfies pT > 19 GeV and the other pT > 10 GeV. The requirement
E/T < 50 GeV suppresses tt and W+jets backgrounds, and a requirement on the azimuthal
angle difference between the muons, ∆φµµ > 2, rejects QCD background events, for muons
originating from the same quarkonia decay or from a decay chain of heavy-flavour hadrons. 4
Event selection – 4 – ) [GeV]
T
E
,
µ
(
T
M
0
20
40
60
80
100
120
Events / (10 GeV)
0
50
100
150
200
250
300
data
τ
τ
→
Z
W+jets
t
EWK+t
QCD
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
µτ
→
τ
τ
→
Z
) [GeV]
T
E
( e,
T
M
0
20
40
60
80
100
120
Events / (10 GeV)
0
50
100
150
200
250
data
τ
τ
→
Z
W+jets
t
EWK+t
QCD
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
eτ
→
τ
τ
→
Z
) [GeV]
T
E
( e,
T
M
0
50
100
150
200
Events / (20 GeV)
0
20
40
60
80
data
τ
τ
→
Z
t
EWK+t
W+jets
QCD
CMS
= 7 TeV
s
at
-1
36 pb
µτ
eτ
→
τ
τ
→
Z
) [GeV]
T
E
,
µ
(
T
M
0
50
100
150
200
Events / (20 GeV)
0
20
40
60
80
data
τ
τ
→
Z
t
EWK+t
W+jets
QCD
CMS
= 7 TeV
s
at
-1
36 pb
µτ
eτ
→
τ
τ
→
Z
Figure 1. Lepton+E/T transverse mass for the final states τµτhad (top left), τeτhad (top right) and
τeτµ (bottom). The arrow shows the final selection criteria applied. 4
Event selection ) [GeV]
T
E
( e,
T
M
0
20
40
60
80
100
120
Events / (10 GeV)
0
50
100
150
200
250
data
τ
τ
→
Z
W+jets
t
EWK+t
QCD
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
eτ
→
τ
τ
→
Z ) [GeV]
T
E
,
µ
(
T
M
0
20
40
60
80
100
120
Events / (10 GeV)
0
50
100
150
200
250
300
data
τ
τ
→
Z
W+jets
t
EWK+t
QCD
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
µτ
→
τ
τ
→
Z CMS JHEP08(2011)117 ) [
]
(
) [GeV]
T
E
,
µ
(
T
M
0
50
100
150
200
Events / (20 GeV)
0
20
40
60
80
data
τ
τ
→
Z
t
EWK+t
W+jets
QCD
CMS
= 7 TeV
s
at
-1
36 pb
µτ
eτ
→
τ
τ
→
Z ) [GeV]
T
E
( e,
T
M
0
50
100
150
200
Events / (20 GeV)
0
20
40
60
80
data
τ
τ
→
Z
t
EWK+t
W+jets
QCD
CMS
= 7 TeV
s
at
-1
36 pb
µτ
eτ
→
τ
τ
→
Z Figure 1. Lepton+E/T transverse mass for the final states τµτhad (top left), τeτhad (top right) and
τeτµ (bottom). The arrow shows the final selection criteria applied. Effective suppression of the Drell-Yan background is achieved with a multivariate likelihood
ratio technique. For each event, the relative probabilities to belong to two event classes
(Z →τ +τ −→τµτµ and Z/γ∗→µ+µ−) are computed, exploiting the following set of
discriminating variables: the ratio of the transverse momentum of the dimuon system
to the scalar sum of the momenta of the two muons; the significance of the distance of
closest approach (DCA) between the two muon helix tracks; the pseudorapidity of the
dimuon system; and the azimuthal angle between the positive muon momentum and E/T. A normalized likelihood discriminant is computed and is shown in figure 2. Events with a
likelihood discriminant value larger than 0.87 are kept in the final sample. 4
Event selection For the plots in figures 1 and 2, the QCD multijet, W and diboson backgrounds
were simulated with PYTHIA [17], the Drell-Yan signal and background with the next-
to-leading order (NLO) Monte Carlo generator POWHEG [18–20], and the top samples – 5 – Normalized Likelihood
0
0.2
0.4
0.6
0.8
1
Events / 0.05
1
10
2
10
3
10
4
10
5
10
data
µ
µ
→
*
γ
Z/
τ
τ
→
Z
ν
µ
→
W
t
t
QCD
CMS
= 7 TeV
s
at
-1
36 pb
µτ
µτ
→
τ
τ
→
Z
Figure 2. Likelihood discriminant for the τµτµ final state. The arrow shows the final selection
criterion applied. Normalized Likelihood
0
0.2
0.4
0.6
0.8
1
Events / 0.05
1
10
2
10
3
10
4
10
5
10
data
µ
µ
→
*
γ
Z/
τ
τ
→
Z
ν
µ
→
W
t
t
QCD
CMS
= 7 TeV
s
at
-1
36 pb
µτ
µτ
→
τ
τ
→
Z JHEP08(2011)117 Figure 2. Likelihood discriminant for the τµτµ final state. The arrow shows the final selection
criterion applied. with Madgraph [21]. The tau decays were performed with Tauola [22]. The samples were
normalized using the cross section at next-to-next-to-leading order (NNLO) for Drell-Yan
and W, at leading order (LO) for QCD, and NLO for the tt sample. The EWK label in
the figure refers to the Z →e+e−, µ+µ−, and diboson backgrounds. with Madgraph [21]. The tau decays were performed with Tauola [22]. The samples were
normalized using the cross section at next-to-next-to-leading order (NNLO) for Drell-Yan
and W, at leading order (LO) for QCD, and NLO for the tt sample. The EWK label in
the figure refers to the Z →e+e−, µ+µ−, and diboson backgrounds. 5
Background estimation The Z →τ +τ −signal is established using the visible mass, which is the reconstructed
mass of the ℓτhad system in the τℓτhad final states, and the dilepton invariant mass for
the τeτµ and τµτµ final states. Due to the presence of neutrinos in the final state, the
Z →τ +τ −visible mass peak extends across the range 30–100 GeV, which is considerably
broader than the Z resonance itself. The backgrounds generally span the same mass range,
so an accurate determination of the signal yield requires effective background estimation
techniques. The main background sources are QCD multijet processes, W+jets, and Z →
ℓ+ℓ−, with small contributions from top-quark decays and dibosons. All backgrounds are
measured in control regions where their contributions are enhanced and extrapolated to the
signal selection region using selection efficiencies determined either from data or the Monte
Carlo simulation. In the τℓτhad final state, the QCD multijet background is estimated
using samples of same-sign (SS) and opposite-sign (OS) events from data, for which the
electron or muon isolation requirement is inverted; the QCD background estimate is based
on the ratio of OS to SS yields. The visible mass distribution of the SS events is used to
describe the background in the signal region. The W contribution is extracted from the
region MT(ℓ, E/T) > 60 GeV, where it dominates the sample. In the τeτµ final state, the
background contributions are expected to be small and are estimated from the simulation. The large-transverse-mass region is used to check the estimated background contributions
from W, diboson, and tt backgrounds. For the τµτµ final state, the Drell-Yan muon-pair – 6 – τµτhad
τeτhad
τeτµ
τµτµ
(Mµµ < 70 GeV)
Z →ℓ+ℓ−, jet misidentified as τ
6.4 ± 2.4
15.0 ± 6.2
-
Z →ℓ+ℓ−, lepton misidentified as τ
12.9 ± 3.5
109 ± 28
2.4 ± 0.3
20.1 ± 1.3
tt
6.0 ± 3.0
2.6 ± 1.3
7.1 ± 1.3
0.15 ± 0.03
W →ℓν
54.9 ± 4.8
30.6 ± 3.1
W →τν
14.7 ± 1.3
7.0 ± 0.7
1.5 ± 0.5
2.5 ± 2.5
QCD multijet
132 ± 14
181 ± 23
WW/WZ/ZZ
1.6 ± 0.8
0.8 ± 0.4
3.0 ± 0.4
-
Total background
228 ± 16
346 ± 37
14.0 ± 1.8
22.8 ± 2.8
Total data
517
540
101
58
Table 1. 5
Background estimation Numbers of expected background events and number of data events passing all the selec-
tion criteria in the four final states. The uncertainties shown include the statistical and systematic
uncertainties added in quadrature. JHEP08(2011)117 Table 1. Numbers of expected background events and number of data events passing all the selec-
tion criteria in the four final states. The uncertainties shown include the statistical and systematic
uncertainties added in quadrature. Table 1. Numbers of expected background events and number of data events passing all the selec-
tion criteria in the four final states. The uncertainties shown include the statistical and systematic
uncertainties added in quadrature. production events are selected with a reduced likelihood without including the muon DCA
significance, and the resulting muon DCA significance distribution is fitted with signal and
background shapes. The QCD multijet background estimate is obtained from a sample of
SS dimuon events. The numbers of selected events and the expected background contributions are sum-
marized in table 1. The statistical and systematic uncertainties in the methods used are
also given, where the uncertainties are added in quadrature. The uncertainty is dominated
by the statistical precision of the data samples used to obtain the estimates of the number
of background events. 6
Systematic uncertainties The efficiencies for electron and muon reconstruction, identification, and isolation, as well
as the trigger efficiencies are obtained from data. Correction factors for the values extracted
from the simulation are determined using the method described in ref. [7] (tag-and-probe
method). The measured efficiencies have a small dependence on pT and cover the full
range of pT used in the analysis. Typical Monte Carlo to data correction factors for muon
(electron) trigger and reconstruction efficiencies are 0.97 (1.01) and 1.01 (0.98) respectively. The uncertainties on the correction factors are in the range of 0.2–1.1%. A similar technique is used to estimate the hadronic tau identification efficiency. A
data sample of taus is selected using Z →τ +τ −→τµτhad events. The events are pres-
elected without applying the full tau identification but only kinematic cuts and a set of
requirements to suppress the background from Z →µ+µ−, W, and QCD events. The effi-
ciency is then calculated as a ratio of the number of events that pass the tau identification
requirement to the number of all preselected events. The total uncertainty of the measure-
ment arises from the statistical uncertainty of the sample and the systematic uncertainties – 7 – related to the understanding of the backgrounds in the preselection sample and amounts
to 23% [10]. To estimate the efficiency of the MT selection and the likelihood selection efficiency
for the τµτµ final state, an embedded sample is used where the muons in a Z →µ+µ−
data sample are replaced by simulated tau decays with the original muon momentum. The
estimated uncertainties amount to 2%, which comes from the statistical precision of the
selected Z →µ+µ−data and the difference seen between the efficiency obtained with the
embedded sample and a genuine Z →τ +τ −MC sample. To estimate the effect of the energy-scale uncertainties on the acceptance, the ener-
gies of all reconstructed objects (electrons, muons, taus, and jets) are varied within their
respective uncertainty. After each independent shift, the missing transverse energy is re-
calculated and the event selection is repeated. The event yield is compared to the nominal
value and the relative difference is quoted as the systematic uncertainty. The systematic
uncertainties are in the range from 1% to 3.5%. JHEP08(2011)117 To obtain the acceptance corrections, the D6T and Z2 PYTHIA tunes [23] were used
in the simulation. 6
Systematic uncertainties The effect of the use of different tunes on the final extracted cross section
is smaller than 1% and is not included in the systematic uncertainties. The numbers of background events from various sources have been estimated from
data and are given in table 1. The uncertainties are dominated by the statistical precision
of the data samples used in the estimation. The luminosity has been measured with an uncertainty of 4% [24]. The main source of theoretical uncertainty in the calculation of the experimental accep-
tance comes from the parton distribution functions (PDFs). The central acceptance value
is obtained with the CT10 PDF [25]. The uncertainty is estimated using the error sets
of the PDFs: CT10, MSTW2008NLO [26], and NNPDF2.0 [27], following the PDF4LHC
prescription [28], and amounts to 2%. The experimental and theoretical uncertainties are summarized in table 2. 7
Cross section measurement The cross section is obtained for each final state with the following formula: The cross section is obtained for each final state with the following formula: σ(pp →ZX) × B(Z →τ +τ −) =
N
A ϵ B
′ L ,
(7.1) (7.1) where N is the number of extracted signal events, A is the acceptance of signal events, ϵ
is the signal selection efficiency, B
′ is the branching fraction of the τ-decay mode consid-
ered [29], and L is the integrated luminosity [24]. The visible mass distributions of the τµτhad, τeτhad, τeτµ and τµτµ final states are shown
in figure 3. To estimate the number of signal events, a fit is performed using the visible
mass shapes from the simulation, except for the QCD multijet and Z →ℓ+ℓ−backgrounds,
which are obtained from data. For the simulation shapes, a variation of the electron and
tau energy scales within their uncertainties is considered. The effect of the muon energy
scale is negligible. The background normalizations correspond to the numbers listed in – 8 – Source
τµτhad
τeτhad
τeτµ
τµτµ
Trigger
0.2%
3%
0.2%
0.3%
Lepton identification and isolation
1.0%
1.1%
1%
1%
τhad identification
23%
-
Efficiency of MT selection
2%
-
Likelihood selection efficiency
-
2%
Acceptance due to τhad energy scale, 3%
3.5%
-
Acceptance due to e energy scale, 2%
-
1.6%
1.6%
-
Acceptance due to µ momentum scale, 1%
1%
-
1%
2%
Luminosity
4%
Parton distribution functions
2%
able 2. Summary of the sources of systematic uncertainties and their estimated effect on the
easured Z →τ +τ −cross section. JHEP08(2011)117 ummary of the sources of systematic uncertainties and their estimated effect on the
→τ +τ −cross section. τµτhad
τeτhad
τeτµ
τµτµ
Acceptance A
0.128
0.116
0.074
0.163
Selection efficiency ϵ
0.35
0.22
0.55
0.173
Mass window correction fout
0.03
0.03
0.02
0.01
Nfit
306
205
90.5
35
Integrated luminosity L (pb−1)
35.7
35.7
35.5
35.7 Table 3. Acceptance, selection efficiency, fraction of selected events outside the generator-level
mass window, number of extracted signal events from the fit and integrated luminosity, for the four
final states considered. Table 3. Acceptance, selection efficiency, fraction of selected events outside the generator-level
mass window, number of extracted signal events from the fit and integrated luminosity, for the four
final states considered. table 1 and are allowed to vary within the estimated uncertainties. 7
Cross section measurement The background yields
and signal shapes shown in figure 3 are those obtained from the fitting procedure. The acceptances were obtained with the NLO QCD program POWHEG in the Z →
τ +τ −mass region 60 < Mτ +τ −< 120 GeV. For the acceptance calculation, events with an
electron or muon with pT > 15 GeV and |η| < 2.1 and a visible τhad pT > 20 GeV and
|η| < 2.3 are used in the τeτhad and τµτhad final states. For the τeτµ final state, events with
an electron with pT > 15 GeV and |η| < 2.3 and a muon with pT > 15 GeV and |η| < 2.1
are used. For the τµτµ final state, events are requested to have two muons of pT > 19 GeV
and pT > 10 GeV with |η| < 2.1. The momentum and η are taken for muons and electrons
after final state radiation. Table 3 shows the acceptances and the selection efficiencies for
the different final states considered. The number of extracted events from the fit, Nfit, is
corrected for the fraction of signal events outside the generator-level mass window, fout,
where N = Nfit·(1−fout) in eq. 7.1. The number of extracted events and correction factors
used are also shown in table 3. 7
Cross section measurement – 9 – Visible Mass [GeV]
0
50
100
150
200
Events / (10 GeV)
0
50
100
150
data
τ
τ
→
Z
t
EWK+t
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
µτ
→
τ
τ
→
Z
Visible Mass [GeV]
0
50
100
150
200
Events / (10 GeV)
0
50
100
150
data
τ
τ
→
Z
t
EWK+t
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
eτ
→
τ
τ
→
Z
Invariant Mass [GeV]
µ
e-
0
50
100
150
200
Events / (10 GeV)
0
10
20
30
40
50
data
τ
τ
→
Z
t
EWK+t
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
µτ
eτ
→
τ
τ
→
Z
Invariant Mass [GeV]
µ
-
µ
0
50
100
150
200
Events / (10 GeV)
1
10
2
10
3
10
data
τ
τ
→
Z
µ
µ
→
*
γ
Z/
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
µτ
µτ
→
τ
τ
→
Z
Figure 3. Visible mass distributions of the τµτhad (top left), τeτhad (top right), τeτµ (bottom left),
and τµτµ (bottom right) final states. 7
Cross section measurement Visible Mass [GeV]
0
50
100
150
200
Events / (10 GeV)
0
50
100
150
data
τ
τ
→
Z
t
EWK+t
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
µτ
→
τ
τ
→
Z Visible Mass [GeV]
0
50
100
150
200
Events / (10 GeV)
0
50
100
150
data
τ
τ
→
Z
t
EWK+t
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
had
τ
eτ
→
τ
τ
→
Z Events / (10 GeV)
1
1 JHEP08(2011)117 [
]
Invariant Mass [GeV]
µ
-
µ
0
50
100
150
200
Events / (10 GeV)
1
10
2
10
3
10
data
τ
τ
→
Z
µ
µ
→
*
γ
Z/
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
µτ
µτ
→
τ
τ
→
Z Invariant Mass [GeV]
µ
e-
0
50
100
150
200
Events / (10 GeV)
0
10
20
30
40
50
data
τ
τ
→
Z
t
EWK+t
QCD
yields from fit
CMS
= 7 TeV
s
at
-1
36 pb
µτ
eτ
→
τ
τ
→
Z Events / (10 GeV) Events / (10 GeV) Figure 3. Visible mass distributions of the τµτhad (top left), τeτhad (top right), τeτµ (bottom left),
and τµτµ (bottom right) final states. The measured values of the cross section from the four final states considered are shown
in table 4, where the uncertainties shown are due to statistical, systematic, integrated
luminosity and τ identification uncertainties. The measured values are compatible with each other and with the NNLO theoretical
prediction, obtained with the program FEWZ and the MSTW08 set of PDFs, 0.972 ±
0.042 nb [30]. They are also consistent with the CMS measurement based on Z →e+e−,
µ+µ−events [7]. The dominant uncertainty on the Z →τ +τ −cross section measurement comes from
the τhad reconstruction and identification efficiency. A simultaneous fit to all four final
states is performed to obtain the cross section and a scale factor for the τhad efficiency,
which is the ratio of the efficiency in the data to that in the simulation. The result of the
global fit is shown in figure 4 (left), where the likelihood contours for the best estimates – 10 – Final state
σ (pp →ZX) × B (Z →τ +τ −) nb
stat. syst. lumi. 7
Cross section measurement τhad −ID
τµτhad
0.83
0.07
0.04
0.03
0.19
τeτhad
0.94
0.11
0.03
0.04
0.22
τeτµ
0.99
0.12
0.06
0.04
τµτµ
1.14
0.27
0.04
0.05 Table 4. The measured values of the cross section from the four final states considered. The
statistical, systematic and luminosity uncertainties are given. The uncertainty associated to the
τhad reconstruction and identification efficiency, τhad −ID, is shown separately. JHEP08(2011)117 -ID Efficiency (data/sim)
had
τ
0.6
0.8
1
1.2
1.4
) [nb]
τ
τ
→
B(Z
×
ZX)
→
(pp
σ
0.7
0.8
0.9
1
1.1
1.2
1.3
68% CL
95% CL
central value
σ
1
±
CMS
= 7 TeV
s
at
-1
36 pb
) [nb]
τ
τ
→
B(Z
×
ZX)
→
(pp
σ
0.5
1
1.5
2
2.5
NNLO, FEWZ+MSTW08 [PDF4LHC 68% CL] (60-120 GeV)
µ
µ
ee,
→
Z
µτ
+
eτ
µτ
+
µτ
had
τ
+
µτ
had
τ
+
eτ
(combined)
τ
τ
→
Z
luminosity uncertainty not shown
CMS
= 7 TeV
s
at
-1
36 pb
Figure 4. Likelihood contours for the joint parameter estimation of the cross section and the
τ-identification (left). The fitted central values (solid line) and their estimated 1σ uncertainties
(dashed lines) are also shown. Summary of the measured Z →τ +τ −cross sections in the τµτhad,
τeτhad, τeτµ, and τµτµ final states, in the invariant mass range of 60 < Mτ +τ −< 120 GeV (right). The inner error bar represents the statistical uncertainty. The extracted cross section from the
combined fit and the NNLO theoretical prediction are also shown. -ID Efficiency (data/sim)
had
τ
0.6
0.8
1
1.2
1.4
) [nb]
τ
τ
→
B(Z
×
ZX)
→
(pp
σ
0.7
0.8
0.9
1
1.1
1.2
1.3
68% CL
95% CL
central value
σ
1
±
CMS
= 7 TeV
s
at
-1
36 pb ) [nb]
τ
τ
→
B(Z
×
ZX)
→
(pp
σ
0.5
1
1.5
2
2.5
NNLO, FEWZ+MSTW08 [PDF4LHC 68% CL] (60-120 GeV)
µ
µ
ee,
→
Z
µτ
+
eτ
µτ
+
µτ
had
τ
+
µτ
had
τ
+
eτ
(combined)
τ
τ
→
Z
luminosity uncertainty not shown
CMS
= 7 TeV
s
at
-1
36 pb Figure 4. Likelihood contours for the joint parameter estimation of the cross section and the
τ-identification (left). The fitted central values (solid line) and their estimated 1σ uncertainties
(dashed lines) are also shown. Acknowledgments We wish to congratulate our colleagues in the CERN accelerator departments for the excel-
lent performance of the LHC machine. We thank the technical and administrative staffat
CERN and other CMS institutes, and acknowledge support from: FMSR (Austria); FNRS
and FWO (Belgium); CNPq, CAPES, FAPERJ, and FAPESP (Brazil); MES (Bulgaria);
CERN; CAS, MoST, and NSFC (China); COLCIENCIAS (Colombia); MSES (Croatia);
RPF (Cyprus); Academy of Sciences and NICPB (Estonia); Academy of Finland, ME,
and HIP (Finland); CEA and CNRS/IN2P3 (France); BMBF, DFG, and HGF (Germany);
GSRT (Greece); OTKA and NKTH (Hungary); DAE and DST (India); IPM (Iran); SFI
(Ireland); INFN (Italy); NRF (Korea); LAS (Lithuania); CINVESTAV, CONACYT, SEP,
and UASLP-FAI (Mexico); PAEC (Pakistan); SCSR (Poland); FCT (Portugal); JINR (Ar-
menia, Belarus, Georgia, Ukraine, Uzbekistan); MST and MAE (Russia); MSTDS (Ser-
bia); MICINN and CPAN (Spain); Swiss Funding Agencies (Switzerland); NSC (Taipei);
TUBITAK and TAEK (Turkey); STFC (United Kingdom); DOE and NSF (USA). Open Access. This article is distributed under the terms of the Creative Commons
Attribution Noncommercial License which permits any noncommercial use, distribution,
and reproduction in any medium, provided the original author(s) and source are credited. 7
Cross section measurement Summary of the measured Z →τ +τ −cross sections in the τµτhad,
τeτhad, τeτµ, and τµτµ final states, in the invariant mass range of 60 < Mτ +τ −< 120 GeV (right). The inner error bar represents the statistical uncertainty. The extracted cross section from the
combined fit and the NNLO theoretical prediction are also shown. of the cross section and the τhad efficiency scale factor are shown. In addition to the one-
standard-deviation contour, the contours for which the likelihood L is reduced by 2∆ln L =
2.30 and 6.18 compared to the maximum value are also shown, corresponding to a coverage
of 68% and 95% in the two-parameter plane, respectively. The value of the cross section
extracted from the fit is σ (pp →ZX) × B
Z →τ +τ −
= 1.00 ± 0.05 (stat.) ± 0.08 (syst.) ± 0.04 (lumi.) nb, which is compared to the individual final state measurements in figure 4 (right). The value
for the cross section is dominated by the dilepton final states which have smaller systematic
uncertainties. In the simultaneous fit, the τhad-ID scale factor is measured to be 0.93±0.09. A more precise value of the hadronic tau reconstruction efficiency can be obtained by
performing a fit of the τµτhad and τeτhad final states, where the cross section is fixed to
the value measured by CMS in the electron and muon decay channels,
σ (pp →ZX) ×
B (Z →e+e−, µ+µ−)
=
0.931 ± 0.026 (stat.) ± 0.023 (syst.) ± 0.102 (lumi.) nb [7]. The – 11 – extracted value of the τhad-ID scale factor is 0.96 ± 0.07, which corresponds to a tau
identification efficiency of (47.4 ± 3.3)% in data, for hadronically decaying tau leptons in
the Z →τ +τ −sample with visible pT > 20 GeV within the detector acceptance. 8
Conclusions A measurement of the cross section for the process pp →ZX with Z →τ +τ −has been
performed, based on the τµτhad, τeτhad, τeτµ, and τµτµ final states. A clear signal is es-
tablished in the visible mass distributions for all channels. The measured cross section,
σ (pp →ZX) × B (Z →τ +τ −) = 1.00 ± 0.05 (stat.) ± 0.08 (syst.) ± 0.04 (lumi.) nb, is con-
sistent with theoretical expectations, and the CMS measurements in the Z →e+e−and
µ+µ−decay channels, made with lower integrated luminosity. A global fit of the τµτhad
and τeτhad channels provides a 7% constraint on the efficiency for reconstructing hadronic
tau decays in CMS. The results presented in this paper constitute the first measurement
of the Z production cross section with the full luminosity collected by CMS in 2010. JHEP08(2011)117 [1] J. Gunion et al., The Higgs hunter’s guide, Westview Press, U.S.A. (2000). [3] CMS collaboration, G.L. Bayatian et al., CMS technical design report, volume II: Physics
performance, J. Phys. G 34 (2007) 995 [SPIRES]. [2] CMS collaboration, Search for neutral MSSM Higgs bosons decaying to tau pairs in pp
collisions at √s = 7 TeV, submitted to Phys. Rev. Lett., CMS-PAS-HIG-10-002 (2011). [1] J. Gunion et al., The Higgs hunter’s guide, Westview Press, U.S.A. (2000).
[2] CMS collaboration, Search for neutral MSSM Higgs bosons decaying to tau pairs in pp
collisions at √s = 7 TeV, submitted to Phys. Rev. Lett., CMS-PAS-HIG-10-002 (2011).
[3] CMS collaboration, G.L. Bayatian et al., CMS technical design report, volume II: Physics
performance, J. Phys. G 34 (2007) 995 [SPIRES]. References [3] CMS collaboration, G.L. Bayatian et al., CMS technical design report, volume II: Physics
performance, J. Phys. G 34 (2007) 995 [SPIRES]. – 12 – [4] CDF collaboration, A. Abulencia et al., Measurement of sigma p¯p →ZBr(Z →2τ) in p¯p
collisions at √s = 1.96 TeV, Phys. Rev. D 75 (2007) 092004 [SPIRES]. [5] D0 collaboration, V.M. Abazov et al., Measurement of σ(p¯p →Z + X)Br(Z →τ +τ −) at
√s = 1.96 TeV, Phys. Lett. B 670 (2009) 292 [arXiv:0808.1306] [SPIRES]. [6] ATLAS collaboration, G. Aad et al., Measurement of the W →lν and Z/γ∗→ll production
cross sections in proton-proton collisions at √s = 7 TeV with the ATLAS detector, JHEP 12
(2010) 060 [arXiv:1010.2130] [SPIRES]. [7] CMS collaboration, V. Khachatryan et al., Measurements of inclusive W and Z cross
sections in pp collisions at √s = 7 TeV, JHEP 01 (2011) 080 [arXiv:1012.2466] [SPIRES]. JHEP08(2011)117 JHEP08(2011)117 [8] CMS collaboration, CMS strategies for tau reconstruction and identification using
particle-flow techniques, CMS Physics Analysis Summary, CMS-PAS-PFT-08-001 (2008). [9] CMS collaboration, Particle-flow event reconstruction in CMS and performance for jets,
taus, and E/T , CMS Physics Analysis Summary, CMS-PAS-PFT-09-001 (2009). [10] CMS collaboration, Performance of tau reconstruction algorithms in 2010 data collected with
CMS, CMS Physics Analysis Summary, CMS-PAS-TAU-11-001 (2011). [11] CMS collaboration, S. Chatrchyan et al., The CMS experiment at the CERN LHC, 2008
JINST 3 S08004 [SPIRES]. [12] CMS collaboration, Performance of muon identification in pp collisions at √s = 7 TeV, CMS
Physics Analysis Summary, CMS-PAS-MUO-10-002 (2010). [13] CMS collaboration, Electron reconstruction and identification at √s = 7 TeV, CMS Physics
Analysis Summary, CMS-PAS-EGM-10-004 (2010). [14] M. Cacciari, G.P. Salam and G. Soyez, The anti-kt jet clustering algorithm, JHEP 04 (2008)
063 [arXiv:0802.1189] [SPIRES]. [15] CMS collaboration, CMS high level trigger, LHCC Report, CERN-LHCC-2007-021 (2007). [16] CMS collaboration, Tracking and primary vertex results in first 7 TeV collisions, CMS
Physics Analysis Summary, CMS-PAS-TRK-10-005 (2010). [17] T. Sj¨ostrand, S. Mrenna and P.Z. Skands, PYTHIA 6.4 physics and manual, JHEP 05
(2006) 026 [hep-ph/0603175] [SPIRES]. [18] S. Alioli, P. Nason, C. Oleari and E. Re, NLO vector-boson production matched with shower
in POWHEG, JHEP 07 (2008) 060 [arXiv:0805.4802] [SPIRES]. [19] P. Nason, A new method for combining NLO QCD with shower Monte Carlo algorithms,
JHEP 11 (2004) 040 [hep-ph/0409146] [SPIRES]. [20] S. Frixione, P. Nason and C. [23] R. Field, Early LHC underlying event data-findings and surprises, arXiv:1010.3558
[SPIRES]. References Oleari, Matching NLO QCD computations with parton shower
simulations: the POWHEG method, JHEP 11 (2007) 070 [arXiv:0709.2092] [SPIRES]. [21] F. Maltoni and T. Stelzer, MadEvent: automatic event generation with MadGraph, JHEP 02
(2003) 027 [hep-ph/0208156] [SPIRES]. [22] S. Jadach, Z. Was, R. Decker and J.H. Kuhn, The tau decay library TAUOLA: version 2.4,
Comput. Phys. Commun. 76 (1993) 361 [SPIRES]. [23] R. Field, Early LHC underlying event data-findings and surprises, arXiv:1010.3558
[SPIRES]. – 13 – [24] CMS collaboration, Absolute luminosity normalization, CMS Detector Performance
Summary, CMS-DPS-2011-002 (2008). [25] M. Guzzi et al., CT10 parton distributions and other developments in the global QCD
analysis, arXiv:1101.0561 [SPIRES]. [26] A.D. Martin, W.J. Stirling, R.S. Thorne and G. Watt, Parton distributions for the LHC,
Eur. Phys. J. C 63 (2009) 189 [arXiv:0901.0002] [SPIRES]. [27] R.D. Ball et al., A first unbiased global NLO determination of parton distributions and their
uncertainties, Nucl. Phys. B 838 (2010) 136 [arXiv:1002.4407] [SPIRES]. [28] PDF4LHC Working Group, http://www.hep.ucl.ac.uk/pdf4lhc/PDF4LHCrecom.pdf. JHEP08(2011)117 [29] Particle Data Group collaboration, K. Nakamura et al., Review of particle physics, J. Phys. G 37 (2010) 075021 [SPIRES]. [29] Particle Data Group collaboration, K. Nakamura et al., Review of particle physics, J. Phys. G 37 (2010) 075021 [SPIRES]. [30] K. Melnikov and F. Petriello, Electroweak gauge boson production at hadron colliders through
O(α2
s), Phys. Rev. D 74 (2006) 114017 [hep-ph/0609070] [SPIRES]. [30] K. Melnikov and F. Petriello, Electroweak gauge boson production at hadron colliders through
O(α2
s), Phys. Rev. D 74 (2006) 114017 [hep-ph/0609070] [SPIRES]. – 14 – Vrije Universiteit Brussel, Brussel, Belgium F. Blekman, S. Blyweert, J. D’Hondt, O. Devroede, R. Gonzalez Suarez, A. Kalogeropoulos,
J. Maes, M. Maes, W. Van Doninck, P. Van Mulders, G.P. Van Onsem, I. Villella Universit´e Libre de Bruxelles, Bruxelles, Belgium Universit´e Libre de Bruxelles, Bruxelles, Belgium O. Charaf, B. Clerbaux, G. De Lentdecker, V. Dero, A.P.R. Gay, G.H. Hammad, T. Hreus,
P.E. Marage, L. Thomas, C. Vander Velde, P. Vanlaer Ghent University, Ghent, Belgium Universiteit Antwerpen, Antwerpen, Belgium L. Benucci, E.A. De Wolf, X. Janssen, T. Maes, L. Mucibello, S. Ochesanu, B. Rolan L. Benucci, E.A. De Wolf, X. Janssen, T. Maes, L. Mucibello, S. Ochesanu, B. Roland,
R. Rougny, M. Selvaggi, H. Van Haevermaet, P. Van Mechelen, N. Van Remortel R. Rougny, M. Selvaggi, H. Van Haevermaet, P. Van Mechelen, N. Van Remortel Vrije Universiteit Brussel, Brussel, Belgium The CMS collaboration Yerevan Physics Institute, Yerevan, Armenia
S. Chatrchyan, V. Khachatryan, A.M. Sirunyan, A. Tumasyan Yerevan Physics Institute, Yerevan, Armenia S. Chatrchyan, V. Khachatryan, A.M. Sirunyan, A. Tumasyan S. Chatrchyan, V. Khachatryan, A.M. Sirunyan, A. Tumasyan Institut f¨ur Hochenergiephysik der OeAW, Wien, Austria
W. Adam, T. Bergauer, M. Dragicevic, J. Er¨o, C. Fabjan, M. Friedl, R. Fr¨uhwirth,
V.M. Ghete, J. Hammer1, S. H¨ansel, M. Hoch, N. H¨ormann, J. Hrubec, M. Jeitler,
G. Kasieczka,
W. Kiesenhofer,
M. Krammer,
D. Liko,
I. Mikulec,
M. Pernicka,
H. Rohringer, R. Sch¨ofbeck, J. Strauss, F. Teischinger, P. Wagner, W. Waltenberger,
G. Walzel, E. Widl, C.-E. Wulz JHEP08(2011)117 National Centre for Particle and High Energy Physics, Minsk, Belarus
V. Mossolov, N. Shumeiko, J. Suarez Gonzalez National Centre for Particle and High Energy Physics, Minsk, Belarus V. Mossolov, N. Shumeiko, J. Suarez Gonzalez V. Mossolov, N. Shumeiko, J. Suarez Gonzalez Universiteit Antwerpen, Antwerpen, Belgium Ghent University, Ghent, Belgium V. Adler, A. Cimmino, S. Costantini, M. Grunewald, B. Klein, J. Lellouch, A. Marinov,
J. Mccartin, D. Ryckbosch, F. Thyssen, M. Tytgat, L. Vanelderen, P. Verwilligen, S. Walsh,
N. Zaganidis Universit´e Catholique de Louvain, Louvain-la-Neuve, Belgium
S. Basegmez, G. Bruno, J. Caudron, L. Ceard, E. Cortina Gil, J. De Favereau De Jeneret,
C. Delaere1, D. Favart, A. Giammanco, G. Gr´egoire, J. Hollar, V. Lemaitre, J. Liao,
O. Militaru, S. Ovyn, D. Pagano, A. Pin, K. Piotrzkowski, N. Schul Universit´e de Mons, Mons, Belgium
N. Beliy, T. Caebergs, E. Daubie Universit´e de Mons, Mons, Belgium
N. Beliy, T. Caebergs, E. Daubie N. Beliy, T. Caebergs, E. Daubie Centro Brasileiro de Pesquisas Fisicas, Rio de Janeiro, Brazil
G.A. Alves, D. De Jesus Damiao, M.E. Pol, M.H.G. Souza Universidade do Estado do Rio de Janeiro, Rio de Janeiro, Brazil
W. Carvalho, E.M. Da Costa, C. De Oliveira Martins, S. Fonseca De Souza, L. Mundim,
H. Nogima, V. Oguri, W.L. Prado Da Silva, A. Santoro, S.M. Silva Do Amaral, A. Sznajder,
F. Torres Da Silva De Araujo – 15 – Instituto de Fisica Teorica, Universidade Estadual Paulista, Sao Paulo, Brazil
F.A. Dias, T.R. Fernandez Perez Tomei, E. M. Gregores2, C. Lagana, F. Marinho,
P.G. Mercadante2, S.F. Novaes, Sandra S. Padula Institute for Nuclear Research and Nuclear Energy, Sofia, Bulgaria Institute for Nuclear Research and Nuclear Energy, Sofia, Bulgaria
N. Darmenov1, L. Dimitrov, V. Genchev1, P. Iaydjiev1, S. Piperov, M. Rodozov,
S. Stoykova, G. Sultanov, V. Tcholakov, R. Trayanov, I. Vankov N. Darmenov1, L. Dimitrov, V. Genchev1, P. Iaydjiev1, S. Piperov, M. Rodozo
S. Stoykova, G. Sultanov, V. Tcholakov, R. Trayanov, I. Vankov University of Sofia, Sofia, Bulgaria University of Sofia, Sofia, Bulgaria A. Dimitrov, R. Hadjiiska, A. Karadzhinova, V. Kozhuharov, L. Litov, M. Mateev,
B. Pavlov, P. Petkov JHEP08(2011)117 Institute of High Energy Physics, Beijing, China
J.G. Bian, G.M. Chen, H.S. Chen, C.H. Jiang, D. Liang, S. Liang, X. Meng, J. Tao,
J. Wang, J. Wang, X. Wang, Z. Wang, H. Xiao, M. Xu, J. Zang, Z. Zhang State Key Lab. of Nucl. Phys. and Tech., Peking University, Beijing, China
Y. Ban, S. Guo, Y. Guo, W. Li, Y. Mao, S.J. Qian, H. Teng, L. Zhang, B. Zhu, W. Zou Universidad de Los Andes, Bogota, Colombia Universidad de Los Andes, Bogota, Colombia Universidad de Los Andes, Bogota, Colombia
A. Cabrera, B. Gomez Moreno, A.A. Ocampo Rios, A.F. Osorio Oliveros, J.C. Sanabria A. Cabrera, B. Gomez Moreno, A.A. Ocampo Rios, A.F. Osorio Oliveros, J.C. Sanabria Technical University of Split, Split, Croatia
N. Godinovic, D. Lelas, K. Lelas, R. Plestina3, D. Polic, I. Puljak y
p
,
p
,
N. Godinovic, D. Lelas, K. Lelas, R. Plestina3, D. Polic, I. Puljak University of Split, Split, Croatia
Z. Antunovic, M. Dzelalija University of Split, Split, Croatia Z. Antunovic, M. Dzelalija University of Cyprus, Nicosia, Cyprus
A. Attikis, M. Galanti, J. Mousa, C. Nicolaou, F. Ptochos, P.A. Razis Charles University, Prague, Czech Republic
M. Finger, M. Finger Jr. Academy of Scientific Research and Technology of the Arab Republic of Egypt,
Egyptian Network of High Energy Physics, Cairo, Egypt
Y. Assran4, S. Khalil5, M.A. Mahmoud6 National Institute of Chemical Physics and Biophysics, Tallinn, Estonia
A. Hektor, M. Kadastik, M. M¨untel, M. Raidal, L. Rebane Department of Physics, University of Helsinki, Helsinki, Finland
V. Azzolini, P. Eerola, G. Fedi Helsinki Institute of Physics, Helsinki, Finland Helsinki Institute of Physics, Helsinki, Finland
S. Czellar, J. H¨ark¨onen, A. Heikkinen, V. Karim¨aki, R. Kinnunen, M.J. Kortelainen,
T. Lamp´en, K. Lassila-Perini, S. Lehti, T. Lind´en, P. Luukka, T. M¨aenp¨a¨a, E. Tuominen,
J. Tuominiemi, E. Tuovinen, D. Ungaro, L. Wendland Helsinki Institute of Physics, Helsinki, Finland
S. Czellar, J. H¨ark¨onen, A. Heikkinen, V. Karim¨aki, R. Kinnunen, M.J. Kortelainen,
T. Lamp´en, K. Lassila-Perini, S. Lehti, T. Lind´en, P. Luukka, T. M¨aenp¨a¨a, E. Tuominen,
J Tuominiemi E Tuovinen D Ungaro L Wendland Helsinki Institute of Physics, Helsinki, Finland
S. Czellar, J. H¨ark¨onen, A. Heikkinen, V. Karim¨aki, R. Kinnunen, M.J. Kortelainen,
T L
´
K L
il
P
i i S L hti T Li d´
P L
kk
T M¨
¨¨ E T
i S. Czellar, J. Harkonen, A. Heikkinen, V. Karimaki, R. Kinnunen, M.J. Kortelainen,
T. Lamp´en, K. Lassila-Perini, S. Lehti, T. Lind´en, P. Luukka, T. M¨aenp¨a¨a, E. Tuominen,
J. Tuominiemi, E. Tuovinen, D. Ungaro, L. Wendland J. Tuominiemi, E. Tuovinen, D. Ungaro, L. Wendland – 16 – Lappeenranta University of Technology, Lappeenranta, Finland
K. Banzuzi, A. Korpela, T. Tuuva DSM/IRFU, CEA/Saclay, Gif-sur-Yvette, France DSM/IRFU, CEA/Saclay, Gif-sur-Yvette, France
M. Besancon, S. Choudhury, M. Dejardin, D. Denegri, B. Fabbro, J.L. Faure, F. Ferri,
S. Ganjour, F.X. Gentit, A. Givernaud, P. Gras, G. Hamel de Monchenault, P. Jarry,
E. Locci, J. Malcles, M. Marionneau, L. Millischer, J. Rander, A. Rosowsky, I. Shreyber,
M. Titov, P. Verrecchia JHEP08(2011)117 Laboratoire Leprince-Ringuet, Ecole Polytechnique, IN2P3-CNRS, Palaiseau,
France Lappeenranta University of Technology, Lappeenranta, Finland Laboratoire d’Annecy-le-Vieux de Physique des Particules, IN2P3-CNRS,
Annecy-le-Vieux, France
D. Sillou France S. Baffioni, F. Beaudette, L. Benhabib, L. Bianchini, M. Bluj7, C. Broutin, P. Busson,
C. Charlot, T. Dahms, L. Dobrzynski, S. Elgammal, R. Granier de Cassagnac, M. Hague-
nauer, P. Min´e, C. Mironov, C. Ochando, P. Paganini, D. Sabes, R. Salerno, Y. Sirois,
C. Thiebaux, B. Wyslouch8, A. Zabi Institut Pluridisciplinaire Hubert Curien, Universit´e de Strasbourg, Univer-
sit´e de Haute Alsace Mulhouse, CNRS/IN2P3, Strasbourg, France
J.-L. Agram9, J. Andrea, D. Bloch, D. Bodin, J.-M. Brom, M. Cardaci, E.C. Chabert,
C. Collard, E. Conte9, F. Drouhin9, C. Ferro, J.-C. Fontaine9, D. Gel´e, U. Goerlach,
S. Greder, P. Juillot, M. Karim9, A.-C. Le Bihan, Y. Mikami, P. Van Hove Centre de Calcul de l’Institut National de Physique Nucleaire et de Physique
des Particules (IN2P3), Villeurbanne, France
F Fassi D Mercier Centre de Calcul de l’Institut National de Physique Nucleaire et de Physique
des Particules (IN2P3), Villeurbanne, France
F. Fassi, D. Mercier F. Fassi, D. Mercier Universit´e de Lyon, Universit´e Claude Bernard Lyon 1, CNRS-IN2P3, Institut
de Physique Nucl´eaire de Lyon, Villeurbanne, France C. Baty, S. Beauceron, N. Beaupere, M. Bedjidian, O. Bondu, G. Boudoul, D. Boumediene,
H. Brun, R. Chierici, D. Contardo, P. Depasse, H. El Mamouni, J. Fay, S. Gascon,
B. Ille, T. Kurca, T. Le Grand, M. Lethuillier, L. Mirabito, S. Perries, V. Sordini, S. Tosi,
Y. Tschudi, P. Verdier Institute of High Energy Physics and Informatization, Tbilisi State University,
Tbilisi, Georgia
D. Lomidze Institute of High Energy Physics and Informatization, Tbilisi State University,
Tbilisi, Georgia
D. Lomidze D. Lomidze RWTH Aachen University, I. Physikalisches Institut, Aachen, Germany RWTH Aachen University, I. Physikalisches Institut, Aachen, Germany
G. Anagnostou, M. Edelhoff, L. Feld, N. Heracleous, O. Hindrichs, R. Jussen, K. Klein,
J. Merz, N. Mohr, A. Ostapchuk, A. Perieanu, F. Raupach, J. Sammet, S. Schael,
D. Sprenger, H. Weber, M. Weber, B. Wittmer – 17 – RWTH Aachen University, III. Physikalisches Institut A, Aachen, Germany
M. Ata, W. Bender, E. Dietz-Laursonn, M. Erdmann, J. Frangenheim, T. Hebbeker,
A. Hinzmann, K. Hoepfner, T. Klimkovich, D. Klingebiel, P. Kreuzer, D. Lanske†,
C. Magass, M. Merschmeyer, A. Meyer, P. Papacz, H. Pieta, H. Reithler, S.A. Schmitz,
L. Sonnenschein, J. Steggemann, D. Teyssier, M. Tonutti RWTH Aachen University, III. Physikalisches Institut B, Aachen, Germany
M. Bontenackels, M. Davids, M. Duda, G. Fl¨ugge, H. Geenen, M. Giffels, W. Haj Ahmad,
D. Heydhausen, T. Kress, Y. Kuessel, A. Linn, A. Nowack, L. Perchalla, O. Pooth,
J. France Rennefeld, P. Sauerland, A. Stahl, M. Thomas, D. Tornier, M.H. Zoeller JHEP08(2011)117 Deutsches Elektronen-Synchrotron, Hamburg, Germany M. Aldaya Martin, W. Behrenhoff, U. Behrens, M. Bergholz10, A. Bethani, K. Borras,
A. Cakir, A. Campbell, E. Castro, D. Dammann, G. Eckerlin, D. Eckstein, A. Floss-
dorf, G. Flucke, A. Geiser, J. Hauk, H. Jung1, M. Kasemann, I. Katkov11, P. Katsas,
C. Kleinwort, H. Kluge, A. Knutsson, M. Kr¨amer, D. Kr¨ucker, E. Kuznetsova, W. Lange,
W. Lohmann10, R. Mankel, M. Marienfeld, I.-A. Melzer-Pellmann, A.B. Meyer, J. Mnich,
A. Mussgiller, J. Olzem, D. Pitzl, A. Raspereza, A. Raval, M. Rosin, R. Schmidt10,
T. Schoerner-Sadenius, N. Sen, A. Spiridonov, M. Stein, J. Tomaszewska, R. Walsh,
C. Wissing University of Hamburg, Hamburg, Germany University of Hamburg, Hamburg, Germany C. Autermann, V. Blobel, S. Bobrovskyi, J. Draeger, H. Enderle, U. Gebbert, K. Kaschube,
G. Kaussen, R. Klanner, J. Lange, B. Mura, S. Naumann-Emme, F. Nowak, N. Pietsch,
C. Sander, H. Schettler, P. Schleper, M. Schr¨oder, T. Schum, J. Schwandt, H. Stadie,
G. Steinbr¨uck, J. Thomsen G. Kaussen, R. Klanner, J. Lange, B. Mura, S. Naumann-Emme, F. Nowak, N. Pietsch,
C. Sander, H. Schettler, P. Schleper, M. Schr¨oder, T. Schum, J. Schwandt, H. Stadie,
G Steinbr¨uck J Thomsen C. Sander, H. Schettler, P. Schleper, M. Schr¨oder, T. Schum, J. Schwandt, H. Stadie,
G St i b ¨ k J Th Institut f¨ur Experimentelle Kernphysik, Karlsruhe, Germany University of Delhi, Delhi, India S. Ahuja, S. Bhattacharya, B.C. Choudhary, P. Gupta, S. Jain, S. Jain, A. Kumar,
K. Ranjan, R.K. Shivpuri Bhabha Atomic Research Centre, Mumbai, India
R.K. Choudhury, D. Dutta, S. Kailas, V. Kumar, A.K. Mohanty1, L.M. Pant, P. Shukla R.K. Choudhury, D. Dutta, S. Kailas, V. Kumar, A.K. Mohanty1, L.M. Pant, P. Shukla Tata Institute of Fundamental Research - EHEP, Mumbai, India
T. Aziz, M. Guchait14, A. Gurtu, M. Maity15, D. Majumder, G. Majumder, K. Mazumdar,
G.B. Mohanty, A. Saha, K. Sudhakar, N. Wickramage Tata Institute of Fundamental Research - HECR, Mumbai, India
S. Banerjee, S. Dugad, N.K. Mondal Institute for Research and Fundamental Sciences (IPM), Tehran, Iran Institut f¨ur Experimentelle Kernphysik, Karlsruhe, Germany Institut fur Experimentelle Kernphysik, Karlsruhe, Germany
C. Barth, J. Bauer, V. Buege, T. Chwalek, W. De Boer, A. Dierlamm, G. Dirkes, M. Feindt,
J. Gruschke, C. Hackstein, F. Hartmann, M. Heinrich, H. Held, K.H. Hoffmann, S. Honc,
J.R. Komaragiri, T. Kuhr, D. Martschei, S. Mueller, Th. M¨uller, M. Niegel, O. Oberst,
A. Oehler, J. Ott, T. Peiffer, D. Piparo, G. Quast, K. Rabbertz, F. Ratnikov, N. Ratnikova,
M. Renz, C. Saout, A. Scheurer, P. Schieferdecker, F.-P. Schilling, M. Schmanau, G. Schott,
H.J. Simonis, F.M. Stober, D. Troendle, J. Wagner-Kuhr, T. Weiler, M. Zeise, V. Zhukov11,
E.B. Ziebarth Institute of Nuclear Physics ”Demokritos”, Aghia Paraskevi, Greece
G. Daskalakis, T. Geralis, K. Karafasoulis, S. Kesisoglou, A. Kyriakis, D. Loukas,
I. Manolakos, A. Markou, C. Markou, C. Mavrommatis, E. Ntomari, E. Petrakou
University of Athens, Athens, Greece
L. Gouskos, T.J. Mertzimekis, A. Panagiotou, E. Stiliaris
University of Io´annina Io´annina Greece Institute of Nuclear Physics ”Demokritos”, Aghia Paraskevi, Greece
G. Daskalakis, T. Geralis, K. Karafasoulis, S. Kesisoglou, A. Kyriakis, D. Loukas,
I. Manolakos, A. Markou, C. Markou, C. Mavrommatis, E. Ntomari, E. Petrakou
University of Athens Athens Greece University of Athens, Athens, Greece University of Athens, Athens, Greece
L. Gouskos, T.J. Mertzimekis, A. Panagiotou, E. Stiliaris L. Gouskos, T.J. Mertzimekis, A. Panagiotou, E. Stiliaris University of Io´annina, Io´annina, Greece y
,
,
I. Evangelou, C. Foudas, P. Kokkas, N. Manthos, I. Papadopoulos, V. Patras, F.A. Triantis I. Evangelou, C. Foudas, P. Kokkas, N. Manthos, I. Papadopoulos, V. Patras, F.A. Triantis – 18 – KFKI Research Institute for Particle and Nuclear Physics, Budapest, Hungary
A. Aranyi, G. Bencze, L. Boldizsar, C. Hajdu1, P. Hidas, D. Horvath12, A. Kapusi,
K. Krajczar13, F. Sikler1, G.I. Veres13, G. Vesztergombi13 Institute of Nuclear Research ATOMKI, Debrecen, Hungary
N. Beni, J. Molnar, J. Palinkas, Z. Szillasi, V. Veszpremi University of Debrecen, Debrecen, Hungary
P. Raics, Z.L. Trocsanyi, B. Ujvari Panjab University, Chandigarh, India
S. Bansal, S.B. Beri, V. Bhatnagar, N. Dhingra, R. Gupta, M. Jindal, M. Kaur, J.M. Kohli,
M.Z. Mehta, N. Nishu, L.K. Saini, A. Sharma, A.P. Singh, J.B. Singh, S.P. Singh JHEP08(2011)117 M.Z. Mehta, N. Nishu, L.K. Saini, A. Sharma, A.P. Singh, J.B. Singh, S.P. Singh University of Delhi, Delhi, India INFN Sezione di Milano-Biccoca a, Universit`a di Milano-Bicocca b,
Milano,
Italy INFN Sezione di Milano-Biccoca a, Universit`a di Milano-Bicocca b,
Milano,
Italy JHEP08(2011)117 A. Benagliaa,b, F. De Guioa,b,1, L. Di Matteoa,b, A. Ghezzia,b, S. Malvezzia, A. Martellia,b, A. Massironia,b, D. Menascea, L. Moronia, M. Paganonia,b, D. Pedrinia, S. Ragazzia,b,
N. Redaellia, S. Salaa, T. Tabarelli de Fatisa,b, V. Tancinia,b A. Massironia,b, D. Menascea, L. Moronia, M. Paganonia,b, D. Pedrinia, S. Ragazzia ,
,
,
g
,
,
g
,
N. Redaellia, S. Salaa, T. Tabarelli de Fatisa,b, V. Tancinia,b N. Redaellia, S. Salaa, T. Tabarelli de Fatisa,b, V. Tancinia,b INFN Sezione di Napoli a, Universit`a di Napoli ”Federico II” b, Napoli, Italy
S. Buontempoa, C.A. Carrillo Montoyaa,1, N. Cavalloa,20, A. De Cosaa,b, F. Fabozzia,20,
A.O.M. Iorioa,1, L. Listaa, M. Merolaa,b, P. Paoluccia INFN
Sezione
di
Padova
a,
Universit`a
di
Padova
b,
Universit`a
di
Trento (Trento) c, Padova, Italy P. Azzia, N. Bacchettaa, P. Bellana,b, A. Brancaa, R. Carlina,b, P. Checchiaa, M. De
Mattiaa,b, T. Dorigoa, U. Dossellia, F. Gasparinia,b, U. Gasparinia,b, A. Kaminskiya,b,11, ,
,
,
,
,
,
Mattiaa,b, T. Dorigoa, U. Dossellia, F. Gasparinia,b, U. Gasparinia,b, A. Kaminskiya,b,1 S. Lacapraraa,21, I. Lazzizzeraa,c, M. Margonia,b, M. Mazzucatoa, A.T. Meneguzzoa M. Nespoloa,1,
M. Passaseoa,
L. Perrozzia,1,
N. Pozzobona,b,
P. Ronchesea,b,
F. Simonettoa,b, E. Torassaa, M. Tosia,b, S. Vaninia,b, S. Venturaa, P. Zottoa,b M. Nespoloa,1,
M. Passaseoa,
L. Perrozzia,1,
N. Pozzobona,b,
P. Ronchesea,b,
F Simonettoa,b E Torassaa M Tosia,b S Vaninia,b S Venturaa P Zottoa,b F. Simonettoa,b, E. Torassaa, M. Tosia,b, S. Vaninia,b, S. Venturaa, P. Zottoa,b INFN Sezione di Pavia a, Universit`a di Pavia b, Pavia, Italy INFN Sezione di Pavia a, Universita di Pavia b, Pavia, Italy
P. Baessoa,b, U. Berzanoa, S.P. Rattia,b, C. Riccardia,b, P. Torrea,b, P. Vituloa,b,
C. Viviania,b P. Baessoa,b, U. Berzanoa, S.P. Rattia,b, C. Riccardia,b, P. Torrea,b, P. Vituloa,b,
C. Viviania,b INFN Sezione di Perugia a, Universit`a di Perugia b, Perugia, Italy INFN Sezione di Perugia a, Universit`a di Perugia b, Perugia, Italy
M. Biasinia,b, G.M. Bileia, B. Caponeria,b, L. Fan`oa,b, P. Laricciaa,b, A. Lucaronia,b,1,
G Mantovania,b M Menichellia A Nappia,b F Romeoa,b A Santocchiaa,b S Taronia,b,1 INFN Sezione di Perugia a, Universit`a di Perugia b, Perugia, Italy
M. Biasinia,b, G.M. Bileia, B. Caponeria,b, L. Fan`oa,b, P. Laricciaa,b, A. Lucaronia,b,1,
G. Mantovania,b, M. Menichellia, A. Nappia,b, F. Romeoa,b, A. Santocchiaa,b, S. Taronia,b,1,
M. Valdataa,b INFN Sezione di Perugia a, Universita di Perugia b, Perugia, Italy
M. Biasinia,b, G.M. Bileia, B. Caponeria,b, L. Fan`oa,b, P. Laricciaa,b, A. stitute for Research and Fundamental Sciences (IPM), Tehran, Iran H. Arfaei, H. Bakhshiansohi16, S.M. Etesami, A. Fahim16, M. Hashemi, A. Jafari16,
M. Khakzad, A. Mohammadi17, M. Mohammadi Najafabadi, S. Paktinat Mehdiabadi,
B. Safarzadeh, M. Zeinali18 H. Arfaei, H. Bakhshiansohi16, S.M. Etesami, A. Fahim16, M. Hashemi, A. Jafari
17 INFN Sezione di Bari a, Universit`a di Bari b, Politecnico di Bari c, Bari, Italy
M. Abbresciaa,b, L. Barbonea,b, C. Calabriaa,b, A. Colaleoa, D. Creanzaa,c, N. De
Filippisa,c,1, M. De Palmaa,b, L. Fiorea, G. Iasellia,c, L. Lusitoa,b, G. Maggia,c, M. Maggia,
N. Mannaa,b, B. Marangellia,b, S. Mya,c, S. Nuzzoa,b, N. Pacificoa,b, G.A. Pierroa,
A. Pompilia,b, G. Pugliesea,c, F. Romanoa,c, G. Rosellia,b, G. Selvaggia,b, L. Silvestrisa,
R. Trentaduea, S. Tupputia,b, G. Zitoa INFN Sezione di Bologna a, Universit`a di Bologna b, Bologna, Italy INFN Sezione di Bologna a, Universit`a di Bologna b, Bologna, Italy
G. Abbiendia, A.C. Benvenutia, D. Bonacorsia, S. Braibant-Giacomellia,b, L. Brigliadoria,
P. Capiluppia,b, A. Castroa,b, F.R. Cavalloa, M. Cuffiania,b, G.M. Dallavallea, F. Fabbria,
A. Fanfania,b, D. Fasanellaa, P. Giacomellia, M. Giuntaa, C. Grandia, S. Marcellinia,
G. Masetti, M. Meneghellia,b, A. Montanaria, F.L. Navarriaa,b, F. Odoricia, A. Perrottaa,
F. Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b G. Abbiendia, A.C. Benvenutia, D. Bonacorsia, S. Braibant-Giacomellia,b, L. Brigliado P. Capiluppia,b, A. Castroa,b, F.R. Cavalloa, M. Cuffiania,b, G.M. Dallavallea, F. Fabbria,
A. Fanfania,b, D. Fasanellaa, P. Giacomellia, M. Giuntaa, C. Grandia, S. Marcellinia, P. Capiluppia,b, A. Castroa,b, F.R. Cavalloa, M. Cuffiania,b, G.M. Dallavallea, F. Fabbr A. Fanfania,b, D. Fasanellaa, P. Giacomellia, M. Giuntaa, C. Grandia, S. Marcellin G. Masetti, M. Meneghellia,b, A. Montanaria, F.L. Navarriaa,b, F. Odoricia, A. Perrotta Masetti, M. Meneghellia,b, A. Montanaria, F.L. Navarriaa,b, F. Odoricia, A. Perrottaa,
Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b F. Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b F. Primaveraa, A.M. Rossia,b, T. Rovellia,b, G. Sirolia,b INFN Sezione di Catania a, Universit`a di Catania b, Catania, Italy
S. Albergoa,b, G. Cappelloa,b, M. Chiorbolia,b,1, S. Costaa,b, A. Tricomia,b, C. Tuvea – 19 – INFN Sezione di Firenze a, Universit`a di Firenze b, Firenze, Italy
G. Barbaglia, V. Ciullia,b, C. Civininia, R. D’Alessandroa,b, E. Focardia,b, S. Frosalia,b,
E. Galloa,
S. Gonzia,b,
P. Lenzia,b,
M. Meschinia,
S. Paolettia,
G. Sguazzonia,
A. Tropianoa,1 INFN Laboratori Nazionali di Frascati, Frascati, Italy
L. Benussi, S. Bianco, S. Colafranceschi19, F. Fabbri, D. Piccolo INFN Sezione di Genova, Genova, Italy
P. Fabbricatore, R. Musenich INFN Sezione di Milano-Biccoca a, Universit`a di Milano-Bicocca b,
Milano,
Italy Lucaronia,b G. Mantovania,b, M. Menichellia, A. Nappia,b, F. Romeoa,b, A. Santocchiaa,b, S. Taronia,b,1,
M. Valdataa,b M. Valdataa,b Kwangju, Korea Zero Kim, J.Y. Kim, S. Song Korea University, Seoul, Korea
S. Choi, B. Hong, M.S. Jeong, M. Jo, H. Kim, J.H. Kim, T.J. Kim, K.S. Lee, D.H. Moon,
S.K. Park, H.B. Rhee, E. Seo, S. Shin, K.S. Sim S.K. Park, H.B. Rhee, E. Seo, S. Shin, K.S. Sim University of Seoul, Seoul, Korea INFN Sezione di Pisa a, Universit`a di Pisa b, Scuola Normale Superiore di
Pisa c, Pisa, Italy INFN Sezione di Pisa a, Universit`a di Pisa b, Scuola Normale Superiore di
Pisa c, Pisa, Italy
P A
a c G B
l
a J B
d
a b
B
l a 1 G B
l a c R C
ld a INFN Sezione di Pisa
, Universita di Pisa
, Scuola Normale Superiore di
Pisa c, Pisa, Italy
P. Azzurria,c, G. Bagliesia, J. Bernardinia,b, T. Boccalia,1, G. Broccoloa,c, R. Castaldia,
R.T. D’Agnoloa,c,
R. Dell’Orsoa,
F. Fioria,b,
L. Fo`aa,c,
A. Giassia,
A. Kraana,
F. Ligabuea,c, T. Lomtadzea, L. Martinia,22, A. Messineoa,b, F. Pallaa, G. Segneria,
A.T. Serbana, P. Spagnoloa, R. Tenchinia, G. Tonellia,b,1, A. Venturia,1, P.G. Verdinia R.T. D’Agnoloa,c,
R. Dell’Orsoa,
F. Fioria,b,
L. Fo`aa,c,
A. Giassia,
A. Kraana,
F. Ligabuea,c, T. Lomtadzea, L. Martinia,22, A. Messineoa,b, F. Pallaa, G. Segneria,
A.T. Serbana, P. Spagnoloa, R. Tenchinia, G. Tonellia,b,1, A. Venturia,1, P.G. Verdinia INFN Sezione di Roma a, Universit`a di Roma ”La Sapienza” b, Roma, Italy
L. Baronea,b, F. Cavallaria, D. Del Rea,b, E. Di Marcoa,b, M. Diemoza, D. Francia,b,
M. Grassia,1, E. Longoa,b, S. Nourbakhsha, G. Organtinia,b, F. Pandolfia,b,1, R. Paramattia,
S. Rahatloua,b S. Rahatloua,b – 20 – INFN Sezione di Torino a, Universit`a di Torino b, Universit`a del Piemonte
Orientale (Novara) c, Torino, Italy INFN Sezione di Torino a, Universit`a di Torino b, Universit`a del Piemonte
Orientale (Novara) c, Torino, Italy N. Amapanea,b, R. Arcidiaconoa,c, S. Argiroa,b, M. Arneodoa,c, C. Biinoa, C. Bottaa,b,1, N. Amapanea,b, R. Arcidiaconoa,c, S. Argiroa,b, M. Arneodoa,c, C. Biinoa, C. Bottaa,b,1,
N. Cartigliaa, R. Castelloa,b, M. Costaa,b, N. Demariaa, A. Grazianoa,b,1, C. Mariottia,
b
b
b
b
b N. Cartigliaa, R. Castelloa,b, M. Costaa,b, N. Demariaa, A. Grazianoa,b,1, C. Mariotti N. Cartiglia , R. Castello , , M. Costa , , N. Demaria , A. Graziano , , , C. Mariotti ,
M. Maronea,b, S. Masellia, E. Migliorea,b, G. Milaa,b, V. Monacoa,b, M. Musicha,b,
M.M. Obertinoa,c, N. Pastronea, M. Pelliccionia,b, A. Romeroa,b, M. Ruspaa,c, R. Sacchia,b,
V. Solaa,b, A. Solanoa,b, A. Staianoa, A. Vilela Pereiraa,b M. Maronea,b, S. Masellia, E. Migliorea,b, G. Milaa,b, V. Monacoa,b, M. Musicha INFN Sezione di Trieste a, Universit`a di Trieste b, Trieste, Italy
S. Belfortea, F. Cossuttia, G. Della Riccaa,b, B. Gobboa, D. Montaninoa,b, A. Penzoa JHEP08(2011)117 Kangwon National University, Chunchon, Korea
S.G. Heo, S.K. Nam Kangwon National University, Chunchon, Korea
S.G. Heo, S.K. Nam Kyungpook National University, Daegu, Korea S. Chang, J. Chung, D.H. Kim, G.N. Kim, J.E. Kim, D.J. Kong, H. Park, S.R. Ro, D. Son,
D.C. Son, T. Son Chonnam National University, Institute for Universe and Elementary Particles,
Kwangju, Korea
Zero Kim, J.Y. Kim, S. Song University of Seoul, Seoul, Korea M. Choi, S. Kang, H. Kim, C. Park, I.C. Park, S. Park, G. Ryu Sungkyunkwan University, Suwon, Korea
Y. Choi, Y.K. Choi, J. Goh, M.S. Kim, E. Kwon, J. Lee, S. Lee, H. Seo, I. Yu Sungkyunkwan University, Suwon, Korea g y
y,
,
Y. Choi, Y.K. Choi, J. Goh, M.S. Kim, E. Kwon, J. Lee, S. Lee, H. Seo, I. Yu Vilnius University, Vilnius, Lithuania M.J. Bilinskas, I. Grigelionis, M. Janulis, D. Martisiute, P. Petrov, T. Sabonis Centro de Investigacion y de Estudios Avanzados del IPN, Mexico City, Mexico
H. Castilla-Valdez, E. De La Cruz-Burelo, R. Lopez-Fernandez, R. Maga˜na Villalba,
A. S´anchez-Hern´andez, L.M. Villasenor-Cendejas Universidad Iberoamericana, Mexico City, Mexico
S. Carrillo Moreno, F. Vazquez Valencia Benemerita Universidad Autonoma de Puebla, Puebla, Mexico
H.A. Salazar Ibarguen Universidad Aut´onoma de San Luis Potos´ı, San Luis Potos´ı, Mexico
E. Casimiro Linares, A. Morelos Pineda, M.A. Reyes-Santos University of Auckland, Auckland, New Zealand
D. Krofcheck, J. Tam – 21 – University of Canterbury, Christchurch, New Zealand
P.H. Butler, R. Doesburg, H. Silverwood Portugal N. Almeida, P. Bargassa, A. David, P. Faccioli, P.G. Ferreira Parracho, M. Gallinar N. Almeida, P. Bargassa, A. David, P. Faccioli, P.G. Ferreira Parracho, M. Gallinaro,
P. Musella, A. Nayak, P.Q. Ribeiro, J. Seixas, J. Varela P. Musella, A. Nayak, P.Q. Ribeiro, J. Seixas, J. Varela Joint Institute for Nuclear Research, Dubna, Russia Moscow State University, Moscow, Russia Moscow State University, Moscow, Russia Moscow State University, Moscow, Russia
E. Boos, M. Dubinin23, L. Dudko, A. Ershov, A. Gribushin, O. Kodolova, I. Lokhtin,
A. Markina, S. Obraztsov, M. Perfilov, S. Petrushanko, L. Sarycheva, V. Savrin, A. Snigirev E. Boos, M. Dubinin23, L. Dudko, A. Ershov, A. Gribushin, O. Kodolova, I. Lokhtin,
A. Markina, S. Obraztsov, M. Perfilov, S. Petrushanko, L. Sarycheva, V. Savrin, A. Snigirev P.N. Lebedev Physical Institute, Moscow, Russia y
,
,
V. Andreev, M. Azarkin, I. Dremin, M. Kirakosyan, A. Leonidov, S.V. Rusakov, A. Vino-
gradov State Research Center of Russian Federation, Institute for High Energy
Physics, Protvino, Russia University of Canterbury, Christchurch, New Zealand
P.H. Butler, R. Doesburg, H. Silverwood National Centre for Physics, Quaid-I-Azam University, Islamabad, Pakistan
M. Ahmad, I. Ahmed, M.I. Asghar, H.R. Hoorani, W.A. Khan, T. Khurshid, S. Qazi Institute of Experimental Physics, Faculty of Physics, University of Warsaw,
Warsaw, Poland G. Brona, M. Cwiok, W. Dominik, K. Doroba, A. Kalinowski, M. Konecki, J. Krolikows Soltan Institute for Nuclear Studies, Warsaw, Poland Soltan Institute for Nuclear Studies, Warsaw, Poland JHEP08(2011)117 JHEP08(2011)117 T. Frueboes, R. Gokieli, M. G´orski, M. Kazana, K. Nawrocki, K. Romanowska-Rybinska,
M. Szleper, G. Wrochna, P. Zalewski Laborat´orio de Instrumenta¸c˜ao e F´ısica Experimental de Part´ıculas, Lisboa,
Portugal Joint Institute for Nuclear Research, Dubna, Russia S. Afanasiev, I. Belotelov, P. Bunin, I. Golutvin, A. Kamenev, V. Karjavin, G. Kozlo S. Afanasiev, I. Belotelov, P. Bunin, I. Golutvin, A. Kamenev, V. Karjavin, G. Kozlov,
A. Lanev, P. Moisenz, V. Palichik, V. Perelygin, S. Shmatov, V. Smirnov, A. Volodko,
A. Zarubin Petersburg Nuclear Physics Institute, Gatchina (St Petersburg), Russia
V. Golovtsov, Y. Ivanov, V. Kim, P. Levchenko, V. Murzin, V. Oreshkin, I. Smirnov,
V. Sulimov, L. Uvarov, S. Vavilov, A. Vorobyev, A. Vorobyev Institute for Nuclear Research, Moscow, Russia
Yu. Andreev, A. Dermenev, S. Gninenko, N. Golubev, M. Kirsanov, N. Krasnikov,
V. Matveev, A. Pashenkov, A. Toropin, S. Troitsky Institute for Theoretical and Experimental Physics, Moscow, Russia V. Epshteyn, V. Gavrilov, V. Kaftanov†, M. Kossov1, A. Krokhotin, N. Lychkovskaya,
V. Popov, G. Safronov, S. Semenov, V. Stolin, E. Vlasov, A. Zhokin Universidad Aut´onoma de Madrid, Madrid, Spain C. Albajar, G. Codispoti, J.F. de Troc´oniz Instituto de F´ısica de Cantabria (IFCA),
CSIC-Universidad de Cantabri
Santander, Spain J.A. Brochero Cifuentes, I.J. Cabrillo, A. Calderon, S.H. Chuang, J. Duarte Campderros,
M. Felcini25, M. Fernandez, G. Gomez, J. Gonzalez Sanchez, C. Jorda, P. Lobelle Pardo,
A. Lopez Virto, J. Marco, R. Marco, C. Martinez Rivero, F. Matorras, F.J. Munoz Sanchez,
J. Piedra Gomez26, T. Rodrigo, A.Y. Rodr´ıguez-Marrero, A. Ruiz-Jimeno, L. Scodellaro,
M. Sobron Sanudo, I. Vila, R. Vilar Cortabitarte Centro
de
Investigaciones
Energ´eticas
Medioambientales
y
Te
nol´ogicas (CIEMAT), Madrid, Spain M. Aguilar-Benitez, J. Alcaraz Maestre, P. Arce, C. Battilana, E. Calvo, M. Cepeda,
M. Cerrada, M. Chamizo Llatas, N. Colino, B. De La Cruz, A. Delgado Peris, C. Diez
Pardos, D. Dom´ınguez V´azquez, C. Fernandez Bedoya, J.P. Fern´andez Ramos, A. Ferrando,
J. Flix, M.C. Fouz, P. Garcia-Abia, O. Gonzalez Lopez, S. Goy Lopez, J.M. Hernandez,
M.I. Josa, G. Merino, J. Puerta Pelayo, I. Redondo, L. Romero, J. Santaolalla, M.S. Soares,
C. Willmott JHEP08(2011)117 Universidad Aut´onoma de Madrid, Madrid, Spain
C. Albajar, G. Codispoti, J.F. de Troc´oniz Universidad Aut´onoma de Madrid, Madrid, Spain Universidad Aut´onoma de Madrid, Madrid, Spain
C. Albajar, G. Codispoti, J.F. de Troc´oniz State Research Center of Russian Federation, Institute for High Energ
Physics, Protvino, Russia I. Azhgirey, S. Bitioukov, V. Grishin1, V. Kachanov, D. Konstantinov, A. Korablev, I. Azhgirey, S. Bitioukov, V. Grishin1, V. Kachanov, D. Konstantinov, A. Korablev,
V. Krychkine, V. Petrov, R. Ryutin, S. Slabospitsky, A. Sobol, L. Tourtchanovitch, I. Azhgirey, S. Bitioukov, V. Grishin1, V. Kachanov, D. Konstantinov, A. Korablev,
V. Krychkine, V. Petrov, R. Ryutin, S. Slabospitsky, A. Sobol, L. Tourtchanovitch,
S. Troshin, N. Tyurin, A. Uzunian, A. Volkov V. Krychkine, V. Petrov, R. Ryutin, S. Slabospitsky, A. Sobol, L. Tourtchanovitch,
S. Troshin, N. Tyurin, A. Uzunian, A. Volkov S. Troshin, N. Tyurin, A. Uzunian, A. Volkov – 22 – University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear
Sciences, Belgrade, Serbia University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear
Sciences, Belgrade, Serbia
P. Adzic24, M. Djordjevic, D. Krpic24, J. Milosevic P. Adzic24, M. Djordjevic, D. Krpic24, J. Milosevic P. Adzic24, M. Djordjevic, D. Krpic24, J. Milosevic Centro
de
Investigaciones
Energ´eticas
Medioambientales
y
Tec-
nol´ogicas (CIEMAT), Madrid, Spain Universidad de Oviedo, Oviedo, Spain J. Cuevas, J. Fernandez Menendez, S. Folgueras, I. Gonzalez Caballero, L. Lloret Iglesias,
J.M. Vizan Garcia Instituto de F´ısica de Cantabria (IFCA),
CSIC-Universidad de Cantabria,
Santander, Spain CERN, European Organization for Nuclear Research, Geneva, Switzerland D. Abbaneo, E. Auffray, G. Auzinger, P. Baillon, A.H. Ball, D. Barney, A.J. Bell27,
D. Benedetti, C. Bernet3, W. Bialas, P. Bloch, A. Bocci, S. Bolognesi, M. Bona, H. Breuker,
K. Bunkowski, T. Camporesi, G. Cerminara, J.A. Coarasa Perez, B. Cur´e, D. D’Enterria,
A. De Roeck, S. Di Guida, A. Elliott-Peisert, B. Frisch, W. Funk, A. Gaddi, S. Gennai,
G. Georgiou, H. Gerwig, D. Gigi, K. Gill, D. Giordano, F. Glege, R. Gomez-Reino Garrido,
M. Gouzevitch, P. Govoni, S. Gowdy, L. Guiducci, M. Hansen, C. Hartl, J. Harvey,
J. Hegeman, B. Hegner, H.F. Hoffmann, A. Honma, V. Innocente, P. Janot, K. Kaadze,
E. Karavakis, P. Lecoq, C. Louren¸co, T. M¨aki, M. Malberti, L. Malgeri, M. Mannelli,
L. Masetti, A. Maurisset, F. Meijers, S. Mersi, E. Meschi, R. Moser, M.U. Mozer,
M. Mulders, E. Nesvold1, M. Nguyen, T. Orimoto, L. Orsini, E. Perez, A. Petrilli,
A. Pfeiffer, M. Pierini, M. Pimi¨a, G. Polese, A. Racz, J. Rodrigues Antunes, G. Rolandi28,
T. Rommerskirchen, C. Rovelli, M. Rovere, H. Sakulin, C. Sch¨afer, C. Schwick, I. Segoni,
A. Sharma, P. Siegrist, M. Simon, P. Sphicas29, M. Spiropulu23, M. Stoye, P. Tropea,
A. Tsirou, P. Vichoudis, M. Voutilainen, W.D. Zeuner A. Tsirou, P. Vichoudis, M. Voutilainen, W.D. Zeuner – 23 – Universit¨at Z¨urich, Zurich, Switzerland E. Aguil´o, C. Amsler, V. Chiochia, S. De Visscher, C. Favaro, M. Ivova Rikova, B. Millan
Mejias, P. Otiougova, C. Regenfus, P. Robmann, A. Schmidt, H. Snoek National Central University, Chung-Li, Taiwan y,
g
,
Y.H. Chang, K.H. Chen, C.M. Kuo, S.W. Li, W. Lin, Z.K. Liu, Y.J. Lu, D. Mekterovic,
R. Volpe, J.H. Wu, S.S. Yu National Taiwan University (NTU), Taipei, Taiwan
P. Bartalini, P. Chang, Y.H. Chang, Y.W. Chang, Y. Chao, K.F. Chen, W.-S. Hou,
Y. Hsiung, K.Y. Kao, Y.J. Lei, R.-S. Lu, J.G. Shiu, Y.M. Tzeng, M. Wang Paul Scherrer Institut, Villigen, Switzerland Paul Scherrer Institut, Villigen, Switzerland W. Bertl,
K. Deiters,
W. Erdmann,
K. Gabathuler,
R. Horisberger,
Q. Ingram,
H.C. Kaestli, S. K¨onig, D. Kotlinski, U. Langenegger, F. Meier, D. Renker, T. Rohe,
J. Sibille30, A. Starodumov31 Institute for Particle Physics, ETH Zurich, Zurich, Switzerland Institute for Particle Physics, ETH Zurich, Zurich, Switzerland
P. Bortignon, L. Caminada32, N. Chanon, Z. Chen, S. Cittolin, G. Dissertori, M. Dittmar,
J. Eugster, K. Freudenreich, C. Grab, A. Herv´e, W. Hintz, P. Lecomte, W. Lustermann,
C. Marchica32, P. Martinez Ruiz del Arbol, P. Meridiani, P. Milenovic33, F. Moortgat,
C. N¨ageli32, P. Nef, F. Nessi-Tedaldi, L. Pape, F. Pauss, T. Punz, A. Rizzi, F.J. Ronga,
M. Rossini, L. Sala, A.K. Sanchez, M.-C. Sawley, B. Stieger, L. Tauscher†, A. Thea,
K. Theofilatos, D. Treille, C. Urscheler, R. Wallny, M. Weber, L. Wehrli, J. Weng C. Marchica32, P. Martinez Ruiz del Arbol, P. Meridiani, P. Milenovic33, F. Moortgat,
C. N¨ageli32, P. Nef, F. Nessi-Tedaldi, L. Pape, F. Pauss, T. Punz, A. Rizzi, F.J. Ronga,
M. Rossini, L. Sala, A.K. Sanchez, M.-C. Sawley, B. Stieger, L. Tauscher†, A. Thea,
K. Theofilatos, D. Treille, C. Urscheler, R. Wallny, M. Weber, L. Wehrli, J. Weng JHEP08(2011)117 M. Rossini, L. Sala, A.K. Sanchez, M.-C. Sawley, B. Stieger, L. Tauscher†, A. Thea,
K. Theofilatos, D. Treille, C. Urscheler, R. Wallny, M. Weber, L. Wehrli, J. Weng Universit¨at Z¨urich, Zurich, Switzerland Boston University, Boston, USA T. Bose, E. Carrera Jarrin, C. Fantasia, A. Heister, J. St. John, P. Lawson, D. Lazic,
J. Rohlf, D. Sperka, L. Sulak Imperial College, London, United Kingdom R. Bainbridge, G. Ball, J. Ballin, R. Beuselinck, O. Buchmuller, D. Colling, N. Cripps,
M. Cutajar, G. Davies, M. Della Negra, W. Ferguson, J. Fulcher, D. Futyan, A. Gilbert,
A. Guneratne Bryer, G. Hall, Z. Hatherell, J. Hays, G. Iles, M. Jarvis, G. Karapostoli,
L. Lyons, B.C. MacEvoy, A.-M. Magnan, J. Marrouche, B. Mathias, R. Nandi, J. Nash,
A. Nikitenko31, A. Papageorgiou, M. Pesaresi, K. Petridis, M. Pioppi43, D.M. Raymond,
S. Rogerson, N. Rompotis, A. Rose, M.J. Ryan, C. Seez, P. Sharp, A. Sparrow, A. Tapper,
S. Tourneur, M. Vazquez Acosta, T. Virdee, S. Wakefield, N. Wardle, D. Wardrope,
T. Whyntie JHEP08(2011)117 T. Whyntie Brunel University, Uxbridge, United Kingdom Brunel University, Uxbridge, United Kingdom M. Barrett, M. Chadwick, J.E. Cole, P.R. Hobson, A. Khan, P. Kyberd, D. Leslie,
W. Martin, I.D. Reid, L. Teodorescu Baylor University, Waco, USA
K. Hatakeyama Brown University, Providence, USA A. Avetisyan, S. Bhattacharya, J.P. Chou, D. Cutts, A. Ferapontov, U. Heintz, S. Jabeen,
G. Kukartsev, G. Landsberg, M. Narain, D. Nguyen, M. Segala, T. Sinthuprasith, T. Speer,
K.V. Tsang University of California, Davis, Davis, USA Cukurova University, Adana, Turkey A. Adiguzel, M.N. Bakirci34, S. Cerci35, C. Dozen, I. Dumanoglu, E. Eskut, S. Girgis,
G. Gokbulut, Y. Guler, E. Gurpinar, I. Hos, E.E. Kangal, T. Karaman, A. Kayis Topaksu,
A. Nart, G. Onengut, K. Ozdemir, S. Ozturk, A. Polatoz, K. Sogut36, D. Sunar Cerci35,
B. Tali, H. Topakli34, D. Uzun, L.N. Vergili, M. Vergili, C. Zorbilmez Middle East Technical University, Physics Department, Ankara, Turkey I.V. Akin, T. Aliev, S. Bilmis, M. Deniz, H. Gamsizkan, A.M. Guler, K. Ocalan,
A. Ozpineci, M. Serin, R. Sever, U.E. Surat, E. Yildirim, M. Zeyrek Bogazici University, Istanbul, Turkey
M. Deliomeroglu,
D. Demir37,
E. G¨ulmez,
B. Isildak,
M. Kaya38,
O. Kaya38,
S. Ozkorucuklu39, N. Sonmez40 National Scientific Center, Kharkov Institute of Physics and Technology,
Kharkov, Ukraine
L. Levchuk University of Bristol, Bristol, United Kingdom
F. Bostock, J.J. Brooke, T.L. Cheng, E. Clement, D. Cussans, R. Frazier, J. Goldstein,
M. Grimes, M. Hansen, D. Hartley, G.P. Heath, H.F. Heath, J. Jackson, L. Kreczko,
S. Metson, D.M. Newbold41, K. Nirunpong, A. Poll, S. Senkin, V.J. Smith, S. Ward University of Bristol, Bristol, United Kingdom M. Grimes, M. Hansen, D. Hartley, G.P. Heath, H.F. Heath, J. Jackson, L. Kreczko,
S. Metson, D.M. Newbold41, K. Nirunpong, A. Poll, S. Senkin, V.J. Smith, S. Ward S. Metson, D.M. Newbold41, K. Nirunpong, A. Poll, S. Senkin, V.J. Smith, S. Ward – 24 – Rutherford Appleton Laboratory, Didcot, United Kingdom
L. Basso42, K.W. Bell, A. Belyaev42, C. Brew, R.M. Brown, B. Camanzi, D.J.A. Cockerill,
J.A. Coughlan, K. Harder, S. Harper, B.W. Kennedy, E. Olaiya, D. Petyt, B.C. Radburn-
Smith, C.H. Shepherd-Themistocleous, I.R. Tomalin, W.J. Womersley, S.D. Worm Rutherford Appleton Laboratory, Didcot, United Kingdom Imperial College, London, United Kingdom Baylor University, Waco, USA Boston University, Boston, USA Cornell University, Ithaca, USA Cornell University, Ithaca, USA L. Agostino, J. Alexander, D. Cassel, A. Chatterjee, S. Das, N. Eggert, L.K. Gibbons,
B. Heltsley, W. Hopkins, A. Khukhunaishvili, B. Kreis, G. Nicolas Kaufman, J.R. Patter-
son, D. Puigh, A. Ryd, E. Salvati, X. Shi, W. Sun, W.D. Teo, J. Thom, J. Thompson,
J. Vaughan, Y. Weng, L. Winstrom, P. Wittich Fairfield University, Fairfield, USA
A. Biselli, G. Cirino, D. Winn University of California, Davis, Davis, USA R. Breedon, M. Calderon De La Barca Sanchez, S. Chauhan, M. Chertok, J. Conway,
P.T. Cox, J. Dolen, R. Erbacher, E. Friis, W. Ko, A. Kopecky, R. Lander, H. Liu,
S. Maruyama, T. Miceli, M. Nikolic, D. Pellett, J. Robles, S. Salur, T. Schwarz, M. Searle,
J. Smith, M. Squires, M. Tripathi, R. Vasquez Sierra, C. Veelken University of California, Los Angeles, Los Angeles, USA V. Andreev, K. Arisaka, D. Cline, R. Cousins, A. Deisher, J. Duris, S. Erhan, C. Farrell,
J. Hauser, M. Ignatenko, C. Jarvis, C. Plager, G. Rakness, P. Schlein†, J. Tucker, V. Valuev University of California, Riverside, Riverside, USA J. Babb, A. Chandra, R. Clare, J. Ellison, J.W. Gary, F. Giordano, G. Hanson, G.Y. Jeng,
S.C. Kao, F. Liu, H. Liu, O.R. Long, A. Luthra, H. Nguyen, B.C. Shen†, R. Stringer,
J. Sturdy, S. Sumowidagdo, R. Wilken, S. Wimpenny – 25 – University of California, San Diego, La Jolla, USA
W. Andrews, J.G. Branson, G.B. Cerati, E. Dusinberre, D. Evans, F. Golf, A. Holzner,
R. Kelley, M. Lebourgeois, J. Letts, B. Mangano, S. Padhi, C. Palmer, G. Petruc-
ciani, H. Pi, M. Pieri, R. Ranieri, M. Sani, V. Sharma, S. Simon, Y. Tu, A. Vartak,
S. Wasserbaech44, F. W¨urthwein, A. Yagil, J. Yoo University of California, Santa Barbara, Santa Barbara, USA D. Barge, R. Bellan, C. Campagnari, M. D’Alfonso, T. Danielson, K. Flowers, P. Geffer D. Barge, R. Bellan, C. Campagnari, M. D Alfonso, T. Danielson, K. Flowers, P. Geffert,
J. Incandela, C. Justus, P. Kalavase, S.A. Koay, D. Kovalskyi, V. Krutelyov, S. Lowette,
N. Mccoll, V. Pavlunin, F. Rebassoo, J. Ribnik, J. Richman, R. Rossin, D. Stuart, W. To,
J.R. Vlimant g ,
,
p g
,
,
,
,
,
J. Incandela, C. Justus, P. Kalavase, S.A. Koay, D. Kovalskyi, V. Krutelyov, S. Lowette,
N Mccoll V Pavlunin F Rebassoo J Ribnik J Richman R Rossin D Stuart W To J. Incandela, C. Justus, P. Kalavase, S.A. Koay, D. Kovalskyi, V. Krutelyov, S. Lowett N. Mccoll, V. Pavlunin, F. Rebassoo, J. Ribnik, J. Richman, R. Rossin, D. Stuart, W. To,
J.R. Vlimant JHEP08(2011)117 California Institute of Technology, Pasadena, USA California Institute of Technology, Pasadena, USA A. Apresyan, A. Bornheim, J. Bunn, Y. Chen, M. Gataullin, Y. Ma, A. Mott, H.B. New-
man, C. Rogan, K. Shin, V. Timciuc, P. Traczyk, J. Veverka, R. Wilkinson, Y. Yang,
R.Y. Zhu Carnegie Mellon University, Pittsburgh, USA Carnegie Mellon University, Pittsburgh, USA Carnegie Mellon University, Pittsburgh, USA
B. Akgun, R. Carroll, T. Ferguson, Y. Iiyama, D.W. Jang, S.Y. Jun, Y.F. Liu, M. Paulini,
J. Russ, H. Vogel, I. Vorobiev University of Colorado at Boulder, Boulder, USA
J.P. Cumalat, M.E. Dinardo, B.R. Drell, C.J. Edelmaier, W.T. Ford, A. Gaz, B. Heyburn,
E
L i
i L
U
N
b
J G
S
ith
K
St
K A
Ul
S R
W University of Colorado at Boulder, Boulder, USA University of Colorado at Boulder, Boulder, USA
J.P. Cumalat, M.E. Dinardo, B.R. Drell, C.J. Edelmaier, W.T. Ford, A. Gaz, B. Heybur E. Luiggi Lopez, U. Nauenberg, J.G. Smith, K. Stenson, K.A. Ulmer, S.R. Wagner,
S.L. Zang University of Florida, Gainesville, USA D. Acosta, P. Avery, D. Bourilkov, M. Chen, M. De Gruttola, G.P. Di Giovanni, D. Do D. Acosta, P. Avery, D. Bourilkov, M. Chen, M. De Gruttola, G.P. Di Giovanni, D. Dobur,
A. Drozdetskiy, R.D. Field, M. Fisher, Y. Fu, I.K. Furic, J. Gartner, B. Kim, J. Konigsberg,
A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Muniz,
C. Prescott, R. Remington, M. Schmitt, B. Scurlock, P. Sellers, N. Skhirtladze, M. Snow-
ball, D. Wang, J. Yelton, M. Zakaria y
A. Drozdetskiy, R.D. Field, M. Fisher, Y. Fu, I.K. Furic, J. Gartner, B. Kim, J. Konigsberg,
A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Muniz,
C Prescott R Remington M Schmitt B Scurlock P Sellers N Skhirtladze M Snow- A. Drozdetskiy, R.D. Field, M. Fisher, Y. Fu, I.K. Furic, J. Gartner, B. Kim, J. Konigsberg, A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Mun A. Korytov, A. Kropivnitskaya, T. Kypreos, K. Matchev, G. Mitselmakher, L. Muniz,
C. Prescott, R. Remington, M. Schmitt, B. Scurlock, P. Sellers, N. Skhirtladze, M. Snow-
ball, D. Wang, J. Yelton, M. Zakaria The University of Kansas, Lawrence, USA P. Baringer, A. Bean, G. Benelli, O. Grachov, R.P. Kenny Iii, M. Murray, D. Noonan,
S. Sanders, J.S. Wood, V. Zhukova University of Illinois at Chicago (UIC), Chicago, USA M.R. Adams, I.M. Anghel, L. Apanasevich, Y. Bai, V.E. Bazterra, R.R. Betts, J. Callner,
R. Cavanaugh, C. Dragoiu, L. Gauthier, C.E. Gerber, D.J. Hofman, S. Khalatyan,
G.J. Kunde46, F. Lacroix, M. Malek, C. O’Brien, C. Silvestre, A. Smoron, D. Strom,
N. Varelas Florida Institute of Technology, Melbourne, USA Florida Institute of Technology, Melbourne, USA M.M. Baarmand, B. Dorney, S. Guragain, M. Hohlmann, H. Kalakhety, R. Ralich,
I. Vodopiyanov University of Illinois at Chicago (UIC), Chicago, USA Florida State University, Tallahassee, USA Florida State University, Tallahassee, USA T. Adams, A. Askew, D. Bandurin, J. Bochenek, J. Chen, B. Diamond, S.V. Gleyzer,
J. Haas, S. Hagopian, V. Hagopian, M. Jenkins, K.F. Johnson, H. Prosper, L. Quertenmont,
S. Sekmen, V. Veeraraghavan Johns Hopkins University, Baltimore, USA B.A. Barnett, B. Blumenfeld, A. Bonato, C. Eskew, D. Fehling, G. Giurgiu, A.V. Gritsan,
Z.J. Guo, G. Hu, P. Maksimovic, S. Rappoccio, M. Swartz, N.V. Tran, A. Whitbeck The University of Kansas, Lawrence, USA Fairfield University, Fairfield, USA
A. Biselli, G. Cirino, D. Winn Fermi National Accelerator Laboratory, Batavia, USA
S. Abdullin, M. Albrow, J. Anderson, G. Apollinari, M. Atac, J.A. Bakken, S. Banerjee,
L.A.T. Bauerdick, A. Beretvas, J. Berryhill, P.C. Bhat, I. Bloch, F. Borcherding, K. Bur-
kett, J.N. Butler, V. Chetluru, H.W.K. Cheung, F. Chlebana, S. Cihangir, W. Cooper,
D.P. Eartly, V.D. Elvira, S. Esen, I. Fisk, J. Freeman, Y. Gao, E. Gottschalk, D. Green,
K. Gunthoti, O. Gutsche, J. Hanlon, R.M. Harris, J. Hirschauer, B. Hooberman, H. Jensen,
M. Johnson, U. Joshi, R. Khatiwada, B. Klima, K. Kousouris, S. Kunori, S. Kwan,
C. Leonidopoulos, P. Limon, D. Lincoln, R. Lipton, J. Lykken, K. Maeshima, J.M. Marraf-
fino, D. Mason, P. McBride, T. Miao, K. Mishra, S. Mrenna, Y. Musienko45, C. Newman-
Holmes, V. O’Dell, R. Pordes, O. Prokofyev, N. Saoulidou, E. Sexton-Kennedy, S. Sharma,
W.J. Spalding, L. Spiegel, P. Tan, L. Taylor, S. Tkaczyk, L. Uplegger, E.W. Vaandering,
R. Vidal, J. Whitmore, W. Wu, F. Yang, F. Yumiceva, J.C. Yun Fermi National Accelerator Laboratory, Batavia, USA
S. Abdullin, M. Albrow, J. Anderson, G. Apollinari, M. Atac, J.A. Bakken, S. Banerjee,
L.A.T. Bauerdick, A. Beretvas, J. Berryhill, P.C. Bhat, I. Bloch, F. Borcherding, K. Bur-
kett, J.N. Butler, V. Chetluru, H.W.K. Cheung, F. Chlebana, S. Cihangir, W. Cooper,
D.P. Eartly, V.D. Elvira, S. Esen, I. Fisk, J. Freeman, Y. Gao, E. Gottschalk, D. Green,
K. Gunthoti, O. Gutsche, J. Hanlon, R.M. Harris, J. Hirschauer, B. Hooberman, H. Jensen,
M. Johnson, U. Joshi, R. Khatiwada, B. Klima, K. Kousouris, S. Kunori, S. Kwan,
C. Leonidopoulos, P. Limon, D. Lincoln, R. Lipton, J. Lykken, K. Maeshima, J.M. Marraf-
fino, D. Mason, P. McBride, T. Miao, K. Mishra, S. Mrenna, Y. Musienko45, C. Newman-
Holmes, V. O’Dell, R. Pordes, O. Prokofyev, N. Saoulidou, E. Sexton-Kennedy, S. Sharma,
W.J. Spalding, L. Spiegel, P. Tan, L. Taylor, S. Tkaczyk, L. Uplegger, E.W. Vaandering,
R. Vidal, J. Whitmore, W. Wu, F. Yang, F. Yumiceva, J.C. Yun – 26 – Florida International University, Miami, USA Florida International University, Miami, USA C. Ceron, V. Gaultney, L. Kramer, L.M. Lebolo, S. Linn, P. Markowitz, G. Martinez,
D. Mesa, J.L. Rodriguez JHEP08(2011)117 The University of Iowa, Iowa City, USA U. Akgun, E.A. Albayrak, B. Bilki, W. Clarida, F. Duru, C.K. Lae, E. McCliment, J.-
P. Merlo, H. Mermerkaya47, A. Mestvirishvili, A. Moeller, J. Nachtman, C.R. Newsom,
E. Norbeck, J. Olson, Y. Onel, F. Ozok, S. Sen, J. Wetzel, T. Yetkin, K. Yi Johns Hopkins University, Baltimore, USA University of Notre Dame, Notre Dame, USA University of Notre Dame, Notre Dame, USA L. Antonelli, D. Berry, M. Hildreth, C. Jessop, D.J. Karmgard, J. Kolb, T. Kolber L. Antonelli, D. Berry, M. Hildreth, C. Jessop, D.J. Karmgard, J. Kolb, T. Kolberg,
K. Lannon, W. Luo, S. Lynch, N. Marinelli, D.M. Morse, T. Pearson, R. Ruchti,
J. Slaunwhite, N. Valls, M. Wayne, J. Ziegler ate University of New York at Buffalo, Buffalo, USA U. Baur, A. Godshalk, I. Iashvili, S. Jain, A. Kharchilava, A. Kumar, S.P. Shipkowski,
K. Smith Northeastern University, Boston, USA G. Alverson, E. Barberis, D. Baumgartel, O. Boeriu, M. Chasco, S. Reucroft, J. Swain,
D. Trocino, D. Wood, J. Zhang Northwestern University, Evanston, USA A. Anastassov, A. Kubik, N. Odell, R.A. Ofierzynski, B. Pollack, A. Pozdnyakov,
M. Schmitt, S. Stoynev, M. Velasco, S. Won Massachusetts Institute of Technology, Cambridge, USA B. Alver, G. Bauer, J. Bendavid, W. Busza, E. Butz, I.A. Cali, M. Chan, V. Dutta,
P. Everaerts, G. Gomez Ceballos, M. Goncharov, K.A. Hahn, P. Harris, Y. Kim, M. Klute,
Y.-J. Lee, W. Li, C. Loizides, P.D. Luckey, T. Ma, S. Nahn, C. Paus, D. Ralph, C. Roland,
G. Roland, M. Rudolph, G.S.F. Stephans, F. St¨ockli, K. Sumorok, K. Sung, E.A. Wenger,
S. Xie, M. Yang, Y. Yilmaz, A.S. Yoon, M. Zanetti JHEP08(2011)117 University of Minnesota, Minneapolis, USA Kansas State University, Manhattan, USA Kansas State University, Manhattan, USA A.f. Barfuss, T. Bolton, I. Chakaberia, A. Ivanov, S. Khalil, M. Makouski, Y. Maravin,
S. Shrestha, I. Svintradze, Z. Wan Lawrence Livermore National Laboratory, Livermore, USA
J. Gronberg, D. Lange, D. Wright J. Gronberg, D. Lange, D. Wright – 27 – University of Maryland, College Park, USA A. Baden, M. Boutemeur, S.C. Eno, D. Ferencek, J.A. Gomez, N.J. Hadley, R.G. Kellog A. Baden, M. Boutemeur, S.C. Eno, D. Ferencek, J.A. Gomez, N.J. Hadley, R.G. Kellogg,
M. Kirn, Y. Lu, A.C. Mignerey, K. Rossato, P. Rumerio, F. Santanastasio, A. Skuja,
J. Temple, M.B. Tonjes, S.C. Tonwar, E. Twedt M. Kirn, Y. Lu, A.C. Mignerey, K. Rossato, P. Rumerio, F. Santanastasio, A. Skuja,
J. Temple, M.B. Tonjes, S.C. Tonwar, E. Twedt Massachusetts Institute of Technology, Cambridge, USA The Ohio State University, Columbus, USA The Ohio State University, Columbus, USA The Ohio State University, Columbus, USA
B. Bylsma, L.S. Durkin, J. Gu, C. Hill, P. Killewald, K. Kotov, T.Y. Ling, M. Rodenburg,
G. Williams B. Bylsma, L.S. Durkin, J. Gu, C. Hill, P. Killewald, K. Kotov, T.Y. Ling, M. Rodenburg,
G. Williams University of Minnesota, Minneapolis, USA S.I. Cooper, P. Cushman, B. Dahmes, A. De Benedetti, P.R. Dudero, G. Franzoni, J. Haupt, S.I. Cooper, P. Cushman, B. Dahmes, A. De Benedetti, P.R. Dudero, G. Franzoni, J. Haupt,
K Klapoetke Y Kubota J Mans V Rekovic R Rusack M Sasseville A Singovsky p
,
,
,
,
,
,
p ,
K. Klapoetke, Y. Kubota, J. Mans, V. Rekovic, R. Rusack, M. Sasseville, A. Singovsky University of Mississippi, University, USA University of Mississippi, University, USA
L.M. Cremaldi, R. Godang, R. Kroeger, L. Perera, R. Rahmat, D.A. Sanders, D. Summers L.M. Cremaldi, R. Godang, R. Kroeger, L. Perera, R. Rahmat, D.A. Sanders, D. Summe University of Nebraska-Lincoln, Lincoln, USA University of Nebraska-Lincoln, Lincoln, USA
K. Bloom, S. Bose, J. Butt, D.R. Claes, A. Dominguez, M. Eads, J. Keller, T. Kelly,
I. Kravchenko, J. Lazo-Flores, H. Malbouisson, S. Malik, G.R. Snow State University of New York at Buffalo, Buffalo, USA
U. Baur, A. Godshalk, I. Iashvili, S. Jain, A. Kharchilava, A. Kumar, S.P. Shipkowski,
K. Smith State University of New York at Buffalo, Buffalo, USA Princeton University, Princeton, USA Princeton University, Princeton, USA
N. Adam, E. Berry, P. Elmer, D. Gerbaudo, V. Halyo, P. Hebda, A. Hunt, J. Jones,
E. Laird, D. Lopes Pegna, D. Marlow, T. Medvedeva, M. Mooney, J. Olsen, P. Pirou´e, Princeton University, Princeton, USA
N. Adam, E. Berry, P. Elmer, D. Gerbaudo, V. Halyo, P. Hebda, A. Hunt, J. Jones,
E L i d D L
P
D M
l
T M d
d
M M
J Ol
P Pi
´ N. Adam, E. Berry, P. Elmer, D. Gerbaudo, V. Halyo, P. Hebda, A. Hunt, J. Jones, E. Laird, D. Lopes Pegna, D. Marlow, T. Medvedeva, M. Mooney, J. Olsen, P. Pirou´e,
X. Quan, H. Saka, D. Stickland, C. Tully, J.S. Werner, A. Zuranski E. Laird, D. Lopes Pegna, D. Marlow, T. Medvedeva, M. Mooney, J. Olsen, P. Pirou X. Quan, H. Saka, D. Stickland, C. Tully, J.S. Werner, A. Zuranski – 28 – University of Rochester, Rochester, USA B. Betchart, A. Bodek, Y.S. Chung, R. Covarelli, P. de Barbaro, R. Demina, Y. Eshaq,
H. Flacher, A. Garcia-Bellido, P. Goldenzweig, Y. Gotra, J. Han, A. Harel, D.C. Miner,
D. Orbaker, G. Petrillo, D. Vishnevskiy, M. Zielinski The Rockefeller University, New York, USA Purdue University, West Lafayette, USA Purdue University, West Lafayette, USA
E. Alagoz, V.E. Barnes, G. Bolla, L. Borrello, D. Bortoletto, A. Everett, A.F. Garfinkel,
L. Gutay, Z. Hu, M. Jones, O. Koybasi, M. Kress, A.T. Laasanen, N. Leonardo, C. Liu,
V. Maroussov, P. Merkel, D.H. Miller, N. Neumeister, I. Shipsey, D. Silvers, A. Svy-
atkovskiy, H.D. Yoo, J. Zablocki, Y. Zheng JHEP08(2011)117 Purdue University Calumet, Hammond, USA
P. Jindal, N. Parashar Rice University, Houston, USA C. Boulahouache, V. Cuplov, K.M. Ecklund, F.J.M. Geurts, B.P. Padley, R. Redjimi,
J. Roberts, J. Zabel Texas Tech University, Lubbock, USA N. Akchurin, C. Bardak, J. Damgov, C. Jeong, K. Kovitanggoon, S.W. Lee, Y. Roh, A. Sill,
I. Volobouev, R. Wigmans, E. Yazgan I. Volobouev, R. Wigmans, E. Yazgan Texas A&M University, College Station, USA Texas A&M University, College Station, USA J. Asaadi, R. Eusebi, J. Gilmore, A. Gurrola, T. Kamon, V. Khotilovich, R. Montalvo,
C.N. Nguyen, I. Osipenkov, Y. Pakhotin, J. Pivarski, A. Safonov, S. Sengupta, A. Tatari-
nov, D. Toback, M. Weinberger Texas Tech University, Lubbock, USA University of Tennessee, Knoxville, USA G. Cerizza, M. Hollingsworth, S. Spanier, Z.C. Yang, A. York University of Puerto Rico, Mayaguez, USA J.G. Acosta, X.T. Huang, A. Lopez, H. Mendez, S. Oliveros, J.E. Ramirez Vargas,
A. Zatserklyaniy The Rockefeller University, New York, USA A. Bhatti, R. Ciesielski, L. Demortier, K. Goulianos, G. Lungu, S. Malik, C. Mesropian,
M. Yan Rutgers, the State University of New Jersey, Piscataway, USA O. Atramentov, A. Barker, D. Duggan, Y. Gershtein, R. Gray, E. Halkiadakis, D. Hidas,
D. Hits, A. Lath, S. Panwalkar, R. Patel, A. Richards, K. Rose, S. Schnetzer, S. Somalwar,
R. Stone, S. Thomas University of Tennessee, Knoxville, USA University of Virginia, Charlottesville, USA M.W. Arenton, M. Balazs, S. Boutle, B. Cox, B. Francis, R. Hirosky, A. Ledovskoy, C. Lin,
C. Neu, R. Yohay Wayne State University, Detroit, USA
S. Gollapinni, R. Harr, P.E. Karchin, P. Lamichhane, M. Mattson, C. Milst`ene, A. Sakharov Wayne State University, Detroit, USA
S. Gollapinni, R. Harr, P.E. Karchin, P. Lamichhane, M. Mattson, C. Milst`ene, A. Sakharov Wayne State University, Detroit, USA
S. Gollapinni, R. Harr, P.E. Karchin, P. Lamichhane, M. Mattson, C. Milst`ene, A. Sakharov University of Wisconsin, Madison, USA
M. Anderson, M. Bachtis, J.N. Bellinger, D. Carlsmith, S. Dasu, J. Efron, K. Flood,
L. Gray, K.S. Grogg, M. Grothe, R. Hall-Wilton, M. Herndon, P. Klabbers, J. Klukas,
A. Lanaro, C. Lazaridis, J. Leonard, R. Loveless, A. Mohapatra, F. Palmonari, D. Reeder,
I. Ross, A. Savin, W.H. Smith, J. Swanson, M. Weinberg University of Wisconsin, Madison, USA
M. Anderson, M. Bachtis, J.N. Bellinger, D. Carlsmith, S. Dasu, J. Efron, K. Flood,
L. Gray, K.S. Grogg, M. Grothe, R. Hall-Wilton, M. Herndon, P. Klabbers, J. Klukas,
A. Lanaro, C. Lazaridis, J. Leonard, R. Loveless, A. Mohapatra, F. Palmonari, D. Reeder,
I. Ross, A. Savin, W.H. Smith, J. Swanson, M. Weinberg JHEP08(2011)117 I. Ross, A. Savin, W.H. Smith, J. Swanson, M. Vanderbilt University, Nashville, USA Vanderbilt University, Nashville, USA E. Appelt, E. Brownson, D. Engh, C. Florez, W. Gabella, M. Issah, W. Johns, P. Kur E. Appelt, E. Brownson, D. Engh, C. Florez, W. Gabella, M. Issah, W. Johns, P. Kurt,
C. Maguire, A. Melo, P. Sheldon, B. Snook, S. Tuo, J. Velkovska C. Maguire, A. Melo, P. Sheldon, B. Snook, S. Tuo, J. Velkovska – 29 – University of Virginia, Charlottesville, USA Weinberg †: Deceased †
1: Also at CERN, European Organization for Nuclear Research, Geneva, Switzerland 2: Also at Universidade Federal do ABC, Santo Andre, Brazil 3: Also at Laboratoire Leprince-Ringuet, Ecole Polytechnique, IN2P3-CNRS, Palaiseau, France Also at Laboratoire Leprince-Ringuet, Ecole P 3
p
R
g
,
y
q
,
3 C RS,
,
4: Also at Suez Canal University, Suez, Egypt 4: Also at Suez Canal University, Suez, Egypt 4: Also at Suez Canal University, Suez, Egypt 4: Also at Suez Canal University, Suez, Egypt 5: Also at British University, Cairo, Egypt 6: Also at Fayoum University, El-Fayoum, Egypt 7: Also at Soltan Institute for Nuclear Studies, Warsaw, Poland 7: Also at Soltan Institute for Nuclear Studies, Warsaw, Poland 8: Also at Massachusetts Institute of Technology, Cambridge, USA 9: Also at Universit´e de Haute-Alsace, Mulhouse, France 10: Also at Brandenburg University of Technology, Cottbus, Germany 11: Also at Moscow State University, Moscow, Russia 12: Also at Institute of Nuclear Research ATOMKI, Debrecen, Hungary 13: Also at E¨otv¨os Lor´and University, Budapest, Hungary 14: Also at Tata Institute of Fundamental Research - HECR, Mumbai, India 15: Also at University of Visva-Bharati, Santiniketan, India 16: Also at Sharif University of Technology, Tehran, Iran 17: Also at Shiraz University, Shiraz, Iran 18: Also at Isfahan University of Technology, I 19: Also at Facolt`a Ingegneria Universit`a di Roma ”La Sapienza”, Roma, Italy lso at Facolt`a Ingegneria Universit`a di Roma ”La 20: Also at Universit`a della Basilicata, Potenza, Italy 21: Also at Laboratori Nazionali di Legnaro dell’ INFN, Legnaro, Italy 21: Also at Laboratori Nazionali di Legnaro dell’ INFN, Legnaro, Italy 22: Also at Universit`a degli studi di Siena, Siena, Italy 23: Also at California Institute of Technology, Pasadena, USA 24: Also at Faculty of Physics of University of Belgrade, Belgrade, Serbia 25: Also at University of California, Los Angeles, Los Angeles, USA 26: Also at University of Florida, Gainesville, USA 27: Also at Universit´e de Gen`eve, Geneva, Switzerland 28: Also at Scuola Normale e Sezione dell’ INFN, Pisa, Italy 29: Also at University of Athens, Athens, Greece 30: Also at The University of Kansas, Lawrence, USA 31: Also at Institute for Theoretical and Experimental Physics, Moscow, Russia p
y
,
,
32: Also at Paul Scherrer Institut, Villigen, Switzerland 32: Also at Paul Scherrer Institut, Villigen, Switzerland – 30 – 33: Also at University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear Sciences,
Belgrade, Serbia 33: Also at University of Belgrade, Faculty of Physics and Vinca Institute of Nuclear Sciences,
Belgrade, Serbia 34: Also at Gaziosmanpasa University, Tokat, Turkey 35: Also at Adiyaman University, Adiyaman, Turkey 36: Also at Mersin University, Mersin, Turkey 37: Also at Izmir Institute of Technology, Izmir, Turkey 38: Also at Kafkas University, Kars, Turkey 39: Also at Suleyman Demirel University, Isparta, Turkey 40: Also at Ege University, Izmir, Turkey 41: Also at Rutherford Appleton Laboratory, Didcot, United Kingdom 41: Also at Rutherford Appleton Laboratory, Didcot, United Kingdom 42: Also at School of Physics and Astronomy, University of Southampton, Southampton, United
Kingdom JHEP08(2011)117 43: Also at INFN Sezione di Perugia; Universit`a di Perugia, Perugia, Italy 43: Also at INFN Sezione di Perugia; Universit`a di Perugia, Perugia, Italy 44: Also at Utah Valley University, Orem, USA 45: Also at Institute for Nuclear Research, Moscow, Russia 45: Also at Institute for Nuclear Research, Moscow, Russia 46: Also at Los Alamos National Laboratory, Los Alamos, USA 46: Also at Los Alamos National Laboratory, Los Alamos, USA 47: Also at Erzincan University, Erzincan, Turkey 47: Also at Erzincan University, Erzincan, Turkey – 31 –
|
https://openalex.org/W3012584695
|
https://revistas.uned.ac.cr/index.php/cuadernos/article/download/2811/3581, https://www.redalyc.org/journal/5156/515663758007/515663758007.pdf
|
es
|
Los pastos estrella africana, kikuyo y “rye grass” en Cartago, Costa Rica: biomasa, composición botánica y nutrientes
|
Cuadernos de Investigación UNED/Cuadernos de investigación UNED
| 2,020
|
cc-by
| 4,681
|
Los pastos estrella africana, kikuyo y “rye grass” en Cartago, Costa Rica:
biomasa, composición botánica y nutrientes
Luis Villalobos Villalobos1
& Rodolfo WingChing-Jones2
1. Universidad de Costa Rica, Escuela de Zootecnia, Centro de Investigación en Nutrición Animal, San José, Costa Rica;
2.
luis.villalobosvillalobos@ucr.ac.cr
Universidad de Costa Rica, Escuela de Zootecnia, Centro de Investigación en Nutrición Animal (CINA), San José,
Costa Rica; rodolfo.wingching@ucr.ac.cr
Recibido 28-VIII-2019 Corregido 9-XI-2019 Aceptado 12-XII-2019
DOI: https://doi.org/10.22458/urj.v12i1.2811
ABSTRACT. “African Stargrass, Kikuyograss and Ryegrass
in Cartago, Costa Rica: biomass, field composition and
nutrients”. Introduction: Forage is the main feedstuff for
dairy cattle and its quality and biomass define optimal
nutritional balances. Objectives: To evaluate the biomass,
botanical composition, and crude protein, neutral
detergent fiber and digestibility of Stargrass, Kikuyugrass
and perennial Ryegrass with 30, 30, and 38 days of
regrowth, respectively, located in the foothills of Irazu
volcano, Costa Rica. Methods: We collected forage
samples in paddocks 1-2 days before grazing from June
2016 through July 2017, 20 samples in each forage. We
estimated biomass by using a visual assessment technique
and separated each sample in three subsamples for
nutritional analyses, number of leaves per tiller, and
botanical composition. Results: We found greater
allowance (kg DM/cow/paddock), protein, and digestible
fiber in Stargrass. We found no significant differences in
nutrients between Kikuyu and Ryegrass. We used four
groups to classify the plant cover in the paddocks. The
main species of grass varied between 50-99% while other
grasses represented 0-36 % of the plant cover. The
percent of weeds and legumes were 0-7,5% and 0-15% in
the paddocks, respectively. We found that senescent
material could represent up to 46% in some of the
paddocks. Conclusion: The botanical composition in the
paddocks had no effect on the nutritional value of the
three grasses.
RESUMEN. Introducción: El forraje es el alimento
principal para el ganado lechero y su calidad y biomasa
definen equilibrios nutricionales óptimos. Objetivo:
Valoramos la disponibilidad de biomasa, la composición
botánica, los contenidos de proteína cruda, fibra
detergente neutro y la digestibilidad del pasto estrella
africana, kikuyo y ryegrass bajo pastoreo, ubicados en las
faldas del volcán Irazú, Costa Rica con 30, 30 y 38 días de
rebrote, respectivamente. Métodos: De junio 2016 a julio
2017, recolectamos muestras de los tres forrajes, 1-2 días
antes del ingreso de los animales, para 20 muestreos en
cada forraje, mediante el uso de una técnica visual que
permite determinar la biomasa disponible en cada aparto.
Esta muestra se dividió en tres partes, para el análisis de
composición nutricional, número de hojas y composición
botánica. Resultados: Encontramos que el pasto estrella
africana ofrece mayor cantidad de materia seca
disponible (Kg MS/animal/potrero), proteína disponible,
FDN digestible y materia seca digestible que los pastos
kikuyo y ryegrass. Además, no determinamos diferencias
en los aportes nutricionales entre el pasto kikuyo y
ryegrass. Identificamos cuatro coberturas en los potreros,
donde la gramínea principal fluctuó entre 50 y 99%, la
secundaria, entre 0 y 36%, las arvenses y leguminosas de
0 a 7,5% y 0 a 15% respectivamente. Mientras que, el
material senescente vario entre 0 a 46% según la especie
forrajera. Conclusión: La composición botánica en los
potreros no tuvo efecto sobre el valor nutricional de los
tres pastos.
Keywords: Forages, weed, crude protein, digestibility,
fiber.
Palabras clave: Forraje, malezas, proteína cruda,
digestibilidad, fibra.
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1):e2811, June, 2020
El área de cultivo de forraje en Costa Rica equivale al 25% del territorio nacional (INEC,
2015), área cubierta por gramíneas y leguminosas de piso para el pastoreo de los semovientes y en
sistemas de corta y acarreo. Por sus características inherentes, se pueden agrupar por pisos
altitudinales, resistencia a enfermedades y plagas (Castillo, 2006), adaptabilidad a suelos con pH
bajos (Jiménez, Granados, Oliva, Quiroz, & Barrón, 2010), alta salinidad (Cardamone, Cuatrín,
Grunberg, & Tomás, 2018) y humedad. Como meta, los sistemas de producción buscan optimizar la
relación entre productividad por hectárea del cultivo y aporte efectivo de nutrimentos. Por
consiguiente el requerimiento nutricional del semoviente es cubierto por la sumatoria de los
aportes del forraje consumido, más lo suministrado en la canoa, como el alimento balanceado,
forraje de corta, forrajes conservados, subproductos agrícolas y aditivos nutricionales (NRC, 2001).
Desde la perspectiva de manejo del cultivo, la meta se logra al recolectar información de la
producción de biomasa producida y la composición botánica de este material a través del tiempo,
para obtener un inventario forrajero, que permita proyectar la capacidad de carga de la finca, como
también, las variaciones del aporte nutricional. Estudios de esta índole en Costa Rica, describen la
producción y calidad del pasto estrella africana, kikuyo y ryegrass; a diferentes edades de cosecha.
En el caso del pasto estrella (28 días/pastoreo), se registran producciones de biomasa de 4 642kg
MS/ha/ciclo en promedio (Salazar, 2007), con porcentajes de aprovechamiento de 43,05% y
contenidos de materia seca (MS%), proteína cruda (PC%), fibra detergente neutro (FDN%), fibra
detergente ácida (FDA%), extracto etéreo (EE%) y cenizas de 22,09; 20,25; 72,81; 37,88; 0,91 y 8,69%
respectivamente (Salazar, 2007). Para el pasto Kikuyo, se informa de una disponibilidad a 28 días de
rotación de 7 108kg MS/ha (Andrade, 2006), con valores porcentuales de MS, PC, FDN, FDA, EE y
cenizas de 20,19; 22,62; 58; 29; 3,05 y 9,05% respectivamente (Andrade, 2006). Por último, en el
pasto Ryegras se resume una producción promedio de 4 110kg MS/ha/ciclo y valores de MS, PC,
FDN, FDA, EE y cenizas de 15,92; 25,21; 49,76; 25,57; 2,61 y 9,96% respectivamente (Villalobos,
2006).
Sumado a este ejercicio de caracterizar la productividad del cultivo, valorar su composición
botánica y su dinámica según el pastoreo, es una señal de sostenibilidad de la pastura, debido a que
las coberturas secundarias, compiten por espacio, radiación, nutrimentos de la solución del suelo
con el cultivo principal (Galon et al., 2018), presentan alelopatías que reducen la viabilidad de la
pastura (Yuan et al., 2018), albergan poblaciones de nematodos que afectan las raíces del cultivo
principal (Núñez, 2017); además de reducir la disponibilidad (Harker, Baron, Chanasyk, Naeth, &
Stevenson, 2000) y la calidad de la materia seca comestible para los semovientes (Belle, Marchi,
Martins, Sousa, & Pinheiro, 2018) . En el caso de la composición botánica, los estudios en pasto
estrella, kikuyo y ryegrass, describen además de la cobertura principal, la presencia de otras
gramíneas, arvenses y material senescente. Valores que fluctúan para la cobertura principal entre
82,56 y 95,11 para Estrella africana (Salazar, 2007), de 77,42 a 86,5 en Kikuyo (Andrade, 2006) y
67,72 a 80,63 en Ryegrass (Villalobos, 2006). Para las otras coberturas analizadas, en el pasto
estrella, se informan rangos a través del año para las otras gramíneas, malezas y material senescente
de 1,04 a 4,11; de 0 a 5,44 y de 2,72 a 10,93% respectivamente (Salazar, 2007). Mientras que en el
pasto Kikuyo, los rangos fueron de 8,26 a 14,4; 0,43 a 0,77 y 3,11 a 6,09% respectivamente (Andrade,
2006). En el caso del pasto ryegrass, los valores descritos fueron de 9,29 a 18,61; de 0,49 a 2,02 y
de 0,27 a 6,01, para las coberturas de otras gramíneas, arvenses y material senescente
respectivamente (Villalobos, 2006). El conocer la composición de la pastura es una herramienta de
medición que permite categorizar el grado de degradación que presenta el cultivo, donde valores
mayores a 10% de malezas, 2% de leguminosas y menos del 80% de la biomasa proveniente de la
gramínea principal, son indicadores del inicio de un proceso de degradación (Garzón & Mora, 2014).
Por tal motivo, el objetivo de esta propuesta fue valorar la disponibilidad de biomasa, la
composición botánica, los contenidos de proteína cruda, fibra detergente neutro y la digestibilidad
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
del cultivo del pasto estrella africana, kikuyo y ryegrass bajo pastoreo, ubicados en las faldas del
volcán Irazú, Costa Rica.
MATERIALES Y MÉTODOS
Ubicación de los sistemas: Los tres forrajes utilizados en esta investigación se ubicaron en
la provincia de Cartago, Costa Rica, en las faldas del Volcán Irazú. En el caso del pasto estrella
africana, se encontró a 1 400m.s.n.m. (9°51´48.40"N & 83°56´51.57"O) y presentó un periodo de
descanso/ocupación de 30/1 días. Para el pasto Kikuyo, el periodo de descanso/ocupación fue de
30/0,5 días, a una altura de 2 400m.s.n.m. (9°56´24.90"N & 83°52´44.28"O). Por último, el pasto
Ryegrass, presento un ciclo de descanso/ocupación de 38/0,5 días y se ubicó a 2 800m.s.n.m.
(9°57´25.39"N & 83°49´57.21"O)
Periodo experimental: De junio 2016 a julio 2017, muestreamos los tres forrajes, entre uno
o dos días antes del ingreso de los animales, para un total de 20 muestreos en cada forraje durante
el periodo experimental. Este muestreo consistió en la utilización de una técnica visual (Botanal®)
para la determinación de la biomasa disponible en cada aparto (Hargraves & Kerr, 1978). Esta asocia
un valor numérico (1, 2 y 3) a una cobertura característica dentro del potrero, donde se considera
la altura y la densidad del forraje; el valor de uno considera un estrato con baja disponibilidad, dos,
con una disponibilidad media y tres con una alta disponibilidad de forraje. En una primera etapa, el
aparto se inspecciona para definir y ubicar los tres estratos, posterior a esta identificación, el aparto
se recorre de forma sistemática, donde cada 5 pasos, se determina el tipo de estrato al frente de la
persona que aplica el muestreo. Las lecturas se realizan hasta completar un mínimo de 60 puntos.
Al finalizar, con ayuda de un marco de 0,50m de lado, se cosecha en bolsas individuales los estratos
(1, 2 y 3) definidos en la primera etapa de esta técnica, a una altura de 10cm. Estas tres muestras se
pesan y se multiplica cada una con su respectiva frecuencia relativa, tomando como base las 60
muestras visuales. Estos productos (peso estrato(1,2,3) * frecuencia relativa(1,2,3) se suman y se dividen
entre el total de muestras visuales tomadas, para obtener la ponderación de la biomasa disponible
por aparto en 0,25m2. En el caso de este trabajo, este valor se multiplicó por el tamaño del aparto
y se dividió entre el número de animales, para obtener los kilogramos de biomasa disponible
promedio por animal en cada aparto.
De forma proporcional a los resultados obtenidos por la técnica visual de muestreo en cada
forraje, se tomó una porción del forraje de forma aleatoria de cada estrato, para obtener una
muestra compuesta, la cual fue enviada al laboratorio de bromatología del Centro de Investigación
en Nutrición Animal (CINA) de la Universidad de Costa Rica, donde se realizaron los análisis de
materia seca (MS), proteína cruda (PC), fibra detergente neutro (FDN), digestibilidad de la fibra
detergente neutro (dFDN) y digestibilidad de la materia seca (DIVMS) (AOAC,1991).
En el caso de la determinación del número de hojas uno o dos días antes del pastoreo, en
cada muestreo se realizaron 50 observaciones aleatorias, con la finalidad de contar el número de
hojas, para tal fin, solo se consideraron las hojas verdes, descartando las hojas senescentes en cada
rebrote. Al obtener estas 50 observaciones, los valores obtenidos se promediaron, para obtener el
número de hojas promedio al momento del pastoreo.
Por último, para la determinación de la composición botánica de la pastura, se utilizó, la
plantilla del programa Botanal®, la cual asume y clasifica las tres principales especies en orden
descendente, en cobertura mayor (70,2%), media (21,1%) y baja (8,7%). Permitiendo repetir una
especie dos o tres veces en la categorización, tal como ocurrió en los potreros de este estudio con
los tres pastos que se consideran monocultivos. Partiendo de este supuesto, en cada lectura se
realizaba una separación visual de las coberturas presentes, valor que se ponderó entre el número
de muestras visuales, para cada cobertura evaluada.
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
Análisis de la información: La información de cada potrero se organizó en un diseño
irrestricto al azar, para definir el efecto de la composición botánica del aparto (proporción gramínea
principal, gramínea secundaria, arvenses, leguminosas y material senescente) sobre la
disponibilidad de biomasa, el contenido de proteína cruda, fibra detergente neutro y la
digestibilidad de la materia seca y de la fibra. De igual manera, con ayuda del comando Proc GLM
del programa SAS (2011), se comparó los indicadores de producción de biomasa, número de hojas,
contenido de proteína, fibra y la digestibilidad de los tres forrajes analizados.
Ética, conflicto de interés y declaración de financiamiento: Los autores declaramos haber
cumplido con todos los requisitos éticos y legales pertinentes, tanto durante el estudio como en el
manuscrito; que no hay conflictos de interés de ningún tipo, y que todas las fuentes financieras se
detallan plena y claramente en la sección de agradecimientos. Asimismo, estamos de acuerdo con
la versión editada final del documento. El respectivo documento legal firmado se encuentra en los
archivos de la revista.
RESULTADOS
Productividad y aporte nutricional: Al separar las especies forrajeras estudiadas según la
altitud del sistema productivo, se nota que la especie cultivada por debajo de los 2 000m.s.n.m,
supera en 2,68 y 2,40 veces los kg MS/animal/potrero disponible para cada animal en el caso del
pasto kikuyo y Ryegrass respectivamente (Cuadro 1). De igual manera, al considerar el número de
hojas de los materiales forrajeros al momento de la cosecha, el pasto estrella africana, presenta 1,64
y 2,70 más hojas, que los pastos cultivados a 2 400 y 2 800m.s.n.m., respectivamente. En el caso de
los kilogramos de proteína disponible para los animales durante el pastoreo, en este trabajo se
determinó que el pasto estrella (4,56kg PC) aporta 2,28 y 2,21 veces más PC que el pasto kikuyo (2kg
PC) y ryegrass (2,06kg) respectivamente. Al evaluar la disponibilidad de la FDN digestible para los
semovientes en cada aparto, se encontró que el pasto estrella (10,24kg FDN) supera al pasto kikuyo
(3,89 kg FDN) y ryegrass (4,48kg FDN) en 2,63 y 2,28 veces respectivamente. Por último, los
kilogramos de materia seca digestible disponible para los animales, fue de 22,18kg en el pasto
estrella, 9,33kg en el pasto kikuyo y de 10,71kg en el pasto ryegrass, presentando una proporción
de 2,38 y 2,07 respectivamente. En el caso de la relación entre el pasto kikuyo y el ryegrass para los
kg de PC, FDN digestible y la materia seca digestible disponible en cada aparto fue cercana a uno.
En las tres especies forrajeras estudiadas, la proporción de la cobertura de la gramínea
principal, fluctúo entre el 50 y 99% (Cuadro 2). Para el caso de la cobertura secundaria, está alcanzó
un máximo de 35,61% en el pasto ryegrass, un valor intermedio en el pasto estrella (19,13%) y un
valor de 9,22% en la pastura de kikuyo. Los valores máximos de arvenses obtenidos en este trabajo
fluctuaron entre 1,12 hasta 7,52% (Cuadro 2). Los forrajes por encima de los 2 000m s.n.m
presentaron mayor proporción de plantas leguminosas que en el caso del pasto estrella, mientras
que la proporción de material senescente superó el 40% de la cobertura en las pasturas de estrella
y kikuyo, no así en el pasto ryegrass, que obtuvo un valor máximo de 15,2%. Valores de otras
coberturas hasta un valor promedio de 18,31, 17,32 y 21,65% en los forrajes estrella africana, kikuyo
y ryegrass, respectivamente; no afectan la cantidad (kg MS) ni la calidad (PC, DIVMS y FDN) de la
materia seca disponible para los semovientes al momento del pastoreo (Cuadro 3).
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
Cuadro 1
Producción de biomasa, número de hojas, contenido de proteína, fibra y digestibilidad de la materia seca de estrella
africana, kikuyo y Ryegrass bajo pastoreo
Variable
N
Especie forrajera
Estrella Africana
N
Kikuyo
29,11 a
10,86 b
N
Biomasa disponible (Kg MS/animal/potrero)
20
20
20
20
6,56 a
20
3,99 b
20
Número hojas verdes/rebrote
18
15,66 b
18
18,45 a
18
Proteína cruda (%)
a
b
20
57,43
20
48,89
20
Fibra detergente neutro (%)
c
b
20
61,26
20
73,31
20
Digestibilidad de la FDN (%)
20
76,21 c
20
85,95 b
20
DIVMS (%)
* Letras distintas en una misma variable significan diferencias significativas entre especies forrajeras (p>0,5).
Ryegrass
12,16 b
2,43 c
16,94 ab
47,80 b
77,17a
88,11 a
Cuadro 2
Composición botánica de apartos de estrella africana, Kikuyo y ryegrass en pastoreo
Composición de la cobertura (%)
Tipo de cobertura
N
Mínimo
Promedio
Máximo
Estrella Africana
Gramínea principal
Gramínea secundaria
Arvenses
Leguminosas
Material senescente
20
20
20
20
20
53,44
0
0
0
0
81,69
2,56
0,29
0,07
15,39
Kikuyo
99,13
19,13
1,12
0,96
46,01
Gramínea principal
Gramínea secundaria
Arvenses
Leguminosas
Material senescente
20
20
20
20
20
54,43
0
0
0
0
83,24
2,7
1,02
1,54
12,06
Ryegrass
99,65
9,22
4
5,48
44,03
Gramínea principal
Gramínea secundaria
Arvenses
Leguminosas
Material senescente
20
20
20
20
20
49,4
0
0
0
0
78,33
10,85
1,52
6,71
2,57
96,01
35,61
7,52
14,66
15,2
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
Cuadro 3
Significancia del tipo de cobertura sobre la biomasa disponible y la calidad nutricional de la estrella africana, kikuyo y
ryegrass en pastoreo
Tipo de cobertura
Biomasa disponible
(Kg MS/animal/potrero)
Proteína cruda
(%)
Fibra detergente
neutro (%)
DIVMS (%)
Estrella africana
Gramínea principal
Gramínea secundaria
Arvenses
Leguminosas
Material senescente
ns*
ns
ns
ns
ns
Gramínea principal
Gramínea secundaria
Arvenses
Leguminosas
Material senescente
ns
ns
ns
ns
ns
Gramínea principal
Gramínea secundaria
Arvenses
Leguminosas
Material senescente
*ns: no significativo; p>0,05
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
Kikuyo
ns
ns
ns
ns
ns
Ryegrass
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
ns
DISCUSIÓN
Los tres cultivos estudiados presentan un rango de altura que favorece el desarrollo del
mismo, en el caso de este estudio esta diferencia fue 1 000 y 1 400m.s.n.m. entre el pasto estrella
africana en comparación al pasto kikuyo y ryegrass, respectivamente. Estos rangos de altura
generan ecosistemas con gradientes de temperatura, radiación, humedad relativa, nubosidad,
humedad del suelo, temperatura del suelo y velocidad del viento (Conejo, 2017); factores que
afectan el crecimiento del forraje y la velocidad de recuperación después de un periodo de pastoreo
por parte del semoviente. Además del componente ambiental para su adaptación, las características
propias del cultivo, al tener crecimiento estolonífero (estrella africana), rizomatoso (Kikuyo) y en
cepa (Ryegrass), le permite una mayor cantidad de puntos de crecimiento (yemas), hojas
remanentes al pastoreo y estructuras de reserva de carbohidratos (estolones y rizomas), con lo que
su recuperación es más rápida en el caso de la estrella y el kikuyo, al compararlo con el sistema
radical del pasto ryegrass.
Estas variables ambientales, que permite el crecimiento del cultivo, podrían generar
condiciones durante el desarrollo de la planta que reducen su tasa de crecimiento (Gonçalves,
Riberio, Reis, & Cóser, 2018), al alcanzar periodos de nubosidad y precipitación que interfieren con
la radiación que podría capturar el forraje. Dicha situación produce una reducción de la temperatura
ambiental tanto en el día como en la noche, hasta el punto de inhibir el crecimiento del forraje, lo
que reduce la productividad e incrementa los días de recuperación para obtener una mayor
disponibilidad de forraje; sin dejar de lado el efecto físico del pisoteo de los semovientes sobre el
cultivo y el suelo en condiciones con contenidos de humedad diferente (WingChing-Jones,
Cabalceta-Aguilar, & Alvarado-Hernández, 2009). Esta afirmación se fortalece al valorar la edad
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
fenológica de los tres cultivos, donde por encima de los 2 000m s.n.m presentan una menor cantidad
de hojas en desarrollo y se nota una tendencia a la disminución del número de hojas según aumenta
la altitud. El uso de la edad fenológica para establecer los días de recuperación, permite optimizar
la productividad de la pastura, siendo en el caso del pasto estrella (Villalobos & Arce, 2013), kikuyo
(Cascante, 2018) y ryegrass (Villalobos, 2006) de 6-8, 4,5 y 2,5-3,0, el número de hojas verdes
apropiado para la cosecha respectivamente.
Al evaluar los aportes de proteína cruda, pared celular (FDN) y digestibilidad de la materia
seca consumida, se observa que conforme aumenta la altitud, mayor es la concentración de
proteína y materia seca digestible, lo que podría relacionarse a una mayor proporción entre el
contenido celular y la pared celular de los forrajes evaluados. En estudios similares en Costa Rica, se
determinaron valores de proteína de 19,79 a 20,79, 21,31 a 23,49 y de 24,32 a 36,30% para los
forrajes estrella (Salazar, 2007), kikuyo (Andrade, 2006) y ryegrass (Villalobos, 2006) cosechados a
28, 28 y 40 días de recuperación respectivamente. Rangos que superan los valores determinados en
este trabajo, diferencias que se podrían asociar al manejo de la pastura, a los programas de
fertilización implementados y a las condiciones climáticas durante el periodo de evaluación
(Redfearn, Venuto, Pitman, Alison, & Ward, 2002). Además, estas diferencias fortalecen la
importancia de establecer en los sistemas de producción, la práctica rutinaria de evaluación
productiva y nutritiva de las pasturas, con la meta de satisfacer los requerimientos de los animales
(NRC, 2001).
Al valorar las proporciones de las coberturas presentes, se nota como el tipo de crecimiento
que presentan los tres forrajes evaluados, permiten la presencia de otras gramíneas, leguminosas y
malezas. Como se comentó, el crecimiento estolonífero y rizomatoso permite una recuperación de
la pastura que evita la proliferación de puntos de crecimientos de arvenses y leguminosas, como
también, la competencia por otras gramíneas, caso contrario, el tipo cepa, característica del cultivo
del ryegrass, donde por efecto del pisoteo y el pastoreo, estas unidades de crecimiento se debilitan
y permite el ingreso del pasto kikuyo u otras gramíneas dentro del área de pastoreo de los sistemas
de producción. Por otro lado, es importante considerar el manejo del pastoreo, donde la utilización
del aparto por un periodo de medio día, genera una presión de pastoreo sobre el forraje, que en el
momento de cambiar a los semovientes de aparto, el área recién pastoreada queda con un
remanente aproximado al 55 al 68% de la biomasa inicial, material que cubre el suelo y evita la
proliferación de otras coberturas (Villalobos, Arce, & WingChing, 2013).
Las prácticas implementadas en el manejo de los cultivos en sistemas de producción
especializada de leche en zona de altura como la suplementación en canoa, el pastoreo rotacional,
presión de pastoreo no mayor a 12 horas continuas, uso de purines como enmiendas orgánicas
(VanWieringen et al., 2005), aplicación de fertilizantes (N,P, K); y control cultural y químico de
malezas, permiten mantener la cobertura principal del forraje, con la intención de garantizar un
aporte de consumo de materia seca alto del forraje, debido a que es una fuente alimenticia de bajo
costo (Villalobos, Arce, & WingChing, 2013) en comparación a otras fuentes forrajeras, alimento
balanceado y subproductos agrícolas utilizados en estos sistemas de producción.
AGRADECIMIENTOS
Agradecemos el apoyo brindado de la Vicerrectoría de Investigación de la Universidad de
Costa Rica mediante el proyecto 739-B6-258 Estimación de biomasa con el plato medidor (Rising
Platemeter) en pastos ryegrass, kikuyo y estrella africana. A los productores participantes, que de
forma desinteresada nos permitieron trabajar en las áreas de pastoreo.
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
REFERENCIAS
Andrade, M. (2006). Evaluación de técnicas de manejo para mejorar la utilización del pasto kikuyo (Pennisetum
clandestinum Hochst. Ex Chiov) en la producción de ganado lechero en Costa Rica (Tesis de Licenciatura).
Universidad de Costa Rica, Costa Rica.
Association of Official Analytical Chemist (AOAC). (1991). Methods of analysis. Washington D.C., USA: AOAC, Inc.
Belle, J. R., Marchi, S. R., Martins, D., Sousa, A. C., & Pinheiro, G. H. R. (2018). Nutritional value of marandú palisade grass
according to increasing coexistence periods with weed. Planta Daninha, 36, e018170348. DOI: 10.1590/S010083582018360100070
Cascante, S. (2018). Validación del sistema de pastoreo bajo el concepto de edad fenólogica del pasto Kikuyo (Kikuyuocloa
clandestina) en la lechería La Guaria, de la Hacienda La Concordia, Alajuela, Costa Rica (Tesis de Licenciatura).
Universidad de Costa Rica, Costa Rica.
Castillo, S. (2006). Uso de Metarhizium anisopliae para el control biológico del salivazo (Aeneolamia spp. y Prosapia spp.)
en pastizales de Brachiaria decumbens en el Petén, Guatemala (Trabajo de maestría). CATIE, Costa Rica.
Cardamone, L., Cuatrín, A., Grunberg, K., & Tomás, M. A. (2018). Variability for salt tolerance in a collection of Panicum
coloratum var. Makarikariense during early growth stages. Tropical Grassland, 6(3), 134-147, DOI:
10.17138/TGFT(6)134-147
Conejo, J. (2017). Efecto de las condiciones ambientales sobre la producción láctea de dos hatos de ganado Jersey en dos
pisos altitudinales de la provincia de Cartago (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica.
Galon, L., Santin, C. O., Andres, A., Basso, F. J. M., Nonemacher, F., Agazzi, L. R., … Fernandez, F. F. (2018). Competitive
interaction between sweet sorghum with weed. Planta Daninha, 36, e018173689, DOI: 10.1590/S010083582018360100053
Garzón, E. F. & Mora, J. (2014). Análisis multicriterio del estado de las pasturas de la Hacienda Ganadera García abajo en
Corinto (Cuaca, Colombia). Revista de la Facultad de Medicina Veterinaria y de Zootecnia, 61(1), 64-82. DOI:
10.15446/rfmvz.v61n1.44182
Gonçalves, M., Ribeiro, W., Reis, E., & Cóser A. (2018). Bromatología de gramíneas tropicais sob diferentes tensões de
água no solo em ambiente protegido. Nativa, 6(4), 415-421. DOI: 10.31413/nativa.v6i4.5588
Hargraves, J. N. G., & Kerr J. D. (1978). Botanal: a comprehensive sampling and computing procedure for estimating pasture
yield and composition. II. Computational package (Technical Memorandum Nº. 9). Division of Tropical Crops and
Pastures, Tropical Agronomy, CSIRO, Australia.
Harker, K., Baron, V., Chanasyk, D., Naeth, M., & Stevenson, F. (2000) Grazing intensity effects on weed populations in
annual and perennial pasture systems. Weed Science, 48(2), 231-238. DOI: 10.1614/00431745(2000)048[0231:GIEOWP]2.0.CO;2
INEC (Instituto Nacional de Estadísticas y Censos). (2015). VI Censo Nacional Agropecuario: Resultados generales. Instituto
Nacional de Estadística y Censos, San José, CRC. Recuperado de http://www.mag.go.cr/bibliotecavirtual/U4010581.pdf
Jiménez, O. M. M., Granados, L., Oliva, J., Quiroz, J., & Barrón, M. (2010). Calidad nutritiva de Brachiaria humidicola con
fertilización orgánica e inorgánica en suelos ácidos. Archivos de Zootecnia, 59(228), 561-570. DOI:
10.21071/az.v59i228.4711
NRC (National Research Council). (2001). Nutrient requirements of dairy cattle (7th Ed.). National Academy Press,
Washington DC., USA.
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
Núñez, L. (2017). Identificación de nematodos fitoparásitos asociados a las principales malezas en fincas productoras de
papa (Solanum tuberosum L.) en la provincia de Cartago (Tesis de Licenciatura). Universidad de Costa Rica, Costa
Rica.
Redfearn, D., Venuto, B., Pitman, D., Alison, M., & Ward, J. (2002). Cultivar and environment effects on anual ryegrass
forage yield, yield distribution and nutritive value. Crop Science, 42, 2049-2054. DOI: 10.2135/cropsci2002.2049
Salazar, S. (2007). Disponibilidad de biomasa y valor nutricional del pasto estrella africana (Cynodon nlemfuensis) en el
distrito de Quesada, Cantón de San Carlos. (Tesis de Licenciatura). Universidad de Costa Rica, San José, Costa Rica.
SAS. (2011). The SAS system for Windows No. 9.3. SAS Inst., Cary, NC, USA.
VanWieringen, L., Harrison, J., Nennich, T., Davidson, D., Morgan, L., Chen, S., … Hoisington, F. (2005). Manure
management effects on grass production, nutritive content and soil nitrogen for a grass silage-based dairy farm.
Journal Environmental Quality, 34, 164-173.
Villalobos, L. (2006). Disponibilidad y valor nutricional del pasto ryegrass perenne tetraploide (Lolium perenne) en las zonas
altas de Costa Rica (Tesis de Licenciatura). Universidad de Costa Rica, Costa Rica.
Villalobos, L., & Arce, J. (2013). Evaluación agronómica y nutricional del pasto Estrella africana (Cynodon nlemfuensis) en
la zona de Monteverde, Puntarenas, Costa Rica. I. Disponibilidad de biomasa y fenología. Agronomía Costarricense,
37, 91-101.
Villalobos, L., Arce, J., & WingChing, R. (2013). Producción de biomasa y costos de producción de pastos Estrella africana
(Cynodon nlemfuensis), Kikuyo (Kikuyocloa clandestina) y Ryegrass perenne (Lolium perenne) en lecherías de Costa
Rica. Agronomía Costarricense, 37(2), 91-103.
WingChing-Jones, R., Cabalceta-Aguilar, G., & Alvarado-Hernández, A. (2009). Impacto del pastoreo con ganado Holstein
y Jersey sobre la densidad aparente de un andisol. Agronomía Mesoamericana, 20(2), 369-377. DOI:
10.15517/am.v20i2.4953
Yuan, Z., Zheng, X., Zhao, Y., Liu, Y., Zhou, S., Wei, C., … Shao, H. (2018). Phytotoxic compounds isolated from leaves of the
invasive weed Xanthium spinosum. Molecules, 23(11), 2840. DOI: 10.3390/molecules23112840
UNED Research Journal (e-ISSN 1659-441X), Vol. 12(1): e2811, June, 2020
|
|
https://openalex.org/W4393236115
|
https://dergipark.org.tr/tr/download/article-file/3720267
|
Turkish
| null |
FOTOVOLTAİK VE BİYOGAZ ENERJİ SİSTEMLERİNİN ENERJİ VE ÇEVRESEL POTANSİYELLERİNİN İNCELENMESİ: SÜT SIĞIRI ÇİFTLİĞİ ÖRNEĞİ
|
Deleted Journal
| 2,024
|
cc-by
| 7,216
|
Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 ARAŞTIRMA Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024
DOI: 10.17482/uumfd.1434976 DOI: 10.17482/uumfd.1434976 1Bursa Teknik Üniversitesi, Mühendislik ve Doğa Bilimleri Fakültesi, Çevre Mühendisliği Bölümü, Yıldırım/Bursa
*İletişim Yazarı: Dr. Öğr. Üyesi Saadet HACISALİHOĞLU (saadet.hacisalihoglu@btu.edu.tr) FOTOVOLTAİK VE BİYOGAZ ENERJİ SİSTEMLERİNİN ENERJİ
VE ÇEVRESEL POTANSİYELLERİNİN İNCELENMESİ: SÜT
SIĞIRI ÇİFTLİĞİ ÖRNEĞİ Beyza KORKMAZ*
Saadet HACISALİHOĞLU1* Geliş: 10.02.2024; düzeltme: 19.03.2024; kabul: 20.03.2024 Geliş: 10.02.2024; düzeltme: 19.03.2024; kabul: 20.03.2024 Öz: Doğal kaynaklardan enerji kazanımları dünya genelinde yaygınlaşmaya başlamıştır. Günümüzde de
sık duyduğumuz güneş ve biyogaz enerji sistemleri yatırımcıların da ilgisini çekmektedir. Uygun bölgede
uygun yatırımlar ile büyük kazançlar elde edilmesi hem enerjiyi daha çevreci hem de yatırımcıyı daha karlı
duruma getirmiştir. Bu çalışmada Bursa’nın Karacabey ilçesinde bir süt sığırı çiftliğine güneş veya biyogaz
enerji sistemlerinin kurulumu için enerji ve çevresel açıdan potansiyelleri incelenerek iki enerji sistemleri
arasında karşılaştırma yapılmıştır. Güneş enerji sistemi için RETScreen programı kullanılarak süt sığırı
çiftliğinin toplamda 1.026.597 kWh/yıl’lık elektrik üreteceği ve sistemin toplamda 345 tCO2/yıl sera gazı
emisyonu azaltılabileceği tespit edilmiştir. Biyogaz sistemi için 2023 yılının sonunda çiftlikten üretilecek
toplam elektrik üretim potansiyeli 1.012.158 kWh/yıl olduğu ve toplamda 692,316 ton/yıl CO2 emisyonun
engellenebileceği belirlenmiştir. Çiftliğin yıllık tüketilen elektrik enerjisi miktarının 885.855 kWh/yıl
olduğu tespit edilmiştir. İki enerji sistemi ile de çiftliğin elektrik enerji miktarının karşılanacağı fakat
biyogaz tesisinin sera gazı emisyonunu daha fazla engelleyeceği sonucuna varılmıştır. Ancak, biyogaz
tesisinin ilk yatırım ve işletme maliyetlerinin fazla olması ve yıllara göre hayvan miktarlarında düşüşlere
bağlı olarak atık miktarlarında azalmaların meydana gelmesi ve bu durumun tesisin verimliliğini olumsuz
etkilemesi gibi durumlar nedeniyle süt sığırı çiftliğine güneş panellerinin kurulmasına karar verilmiştir. Anahtar Kelimeler: Biyogaz, RETScreen, fotovoltaik, elektrik enerjisi, sera gazı, çiftlik 1. GİRİŞ Gün geçtikçe artan nüfus, sanayileşme ve gelişmekte olan teknolojiler ile birlikte dünyanın
enerjiye olan ihtiyacı da artmaktadır. Kömür, petrol, doğalgaz gibi fosil yakıtlar dünyada yaygın
halde kullanılmaktadır ve bu yakıtların kullanımı ile dünyanın büyük orandaki enerji ihtiyacı
karşılanmaktadır. Ancak nüfusun hızlı bir şekilde artması ile dünyada sınırlı miktarda bulunan
fosil yakıt miktarında azalma görülmektedir. Evsel ısıtmalarda, fabrikalarda vb. yerlerde fosil
yakıtların kullanılması ve ulaşımda petrole dayalı olan yakıtların kullanılması atmosferdeki CO2
miktarı ve diğer sera gazı emisyonlarını arttırarak küresel ısınma, iklim değişikliği ve asit
yağmurlarının oluşmalarına neden olmaktadır. Nüfusun hızlı bir şekilde artması ile gıdaların
miktarında da azalma görülmektedir (Alma, 2022). Bu nedenle de gıda ihtiyacında artış durumu
söz konusu olacaktır. Hayvansal üretimin arttırılması ile de gıda ihtiyacı karşılanmış olacaktır. Hayvansal üretimler sonucunda oluşan hayvansal atıklar önemli bir değere sahip olmakla birlikte
ayrıca gübre görevi de taşımaktadır (Hacısalihoğlu, 2023). Gübrelerin tarımda kullanılması
bitkilerin daha kaliteli ve verimli olmasını sağlamaktadır. Ülke ekonomisine katkısının çok fazla
olduğu tarım sektörü için gübre, çok önemli bir değere sahiptir. Organik madde içeriği
bakımından çok zengin değerlere sahip olan gübre, toprağın daha verimli olmasını sağlayacak ve
ülkenin ekonomik kalkınmasına yardımcı olacaktır. Böyle önemli bir konuda hayvansal atıklar
atık olmaktan ziyade ülkenin ekonomisine fayda sağlayan değer olarak görülmelidir. Dünyada ve
Türkiye'de hayvansal atıkların düzenli olarak depolanmaması bir takım olumsuz sonuçlara neden
olmaktadır. Atıkların düzensiz olarak depolanması nedeniyle; mikroorganizmaların çoğalmasına,
su kaynakları ile temas halinde su kirliliğine, kötü koku oluşumuna, atıkların içerisinde bulunan
organik maddelerin (azot, fosfor) yüzeysel sularda ötrofikasyona neden olmasına, görüntü
kirliliğine, doğrudan tarım arazilerine verilmesiyle bitkilerin ürün kalitesinin düşmesine, sera gazı
emisyon artışına neden olmaktadır (Tırınk, 2023). Bu nedenle atıkların uygun işlemlere tabi
tutularak gübreye dönüştürülmesiyle olası çevresel problemlerin önüne geçilmiş olacaktır. Tarımsal üretim tüm ülkelerde olduğu gibi ülkemizde de önemli bir değere sahiptir ve bu
üretimin en önemli ihtiyacı enerjidir. Tarımsal işletmelerde üretilen ürünlerin maliyetine etki eden
en önemli unsurlardan biri enerji maliyetidir. İşletmelerde kar payını arttırmak için enerji
maliyetini en aza indirmek işletmelere fayda sağlayacaktır. Tarımsal üretim işlemleri arasında
çok fazla miktarda enerji tüketilen başlıca işlemler; sulama, ürün kurutma, sera ve hayvan
barınaklarının ısıtma ve soğutulması, aydınlatma ile hayvancılık işletmelerindeki süt sağım
üniteleridir. Teknolojinin en çok kullanıldığı ve en fazla enerji kullanımının gerçekleştiği sektör
süt hayvancılığıdır. Yılın her günü ve günde iki üç sağım yapılır. Süt hayvancılığında harcanılan
enerjinin büyük bir çoğunluğu süt sağım pompalarından kaynaklanmaktadır. Bu işlemler
sırasında yaygın olarak; motorin, doğal gaz, elektrik, sıvılaştırılmış petrol gazı veya propan gibi
yakıtlar kullanılır. Examination of Energy and Environmental Potentials of Photovoltaic and Biogas Energy Systems:
The Case of a Dairy Cattle Farm Examination of Energy and Environmental Potentials of Photovoltaic and Biogas Energy Systems:
The Case of a Dairy Cattle Farm Abstract: Energy gains from natural sources have become widespread around the world. Solar and biogas
energy systems, which we hear frequently today, also attract the attention of investors. Obtaining large
gains with appropriate investments in the appropriate region has made both energy more environmentally
friendly and more profitable for the investor. In this study, the energy and environmental potentials for the
installation of solar or biogas energy systems on a dairy farm in Karacabey district of Bursa were examined
and a comparison was made between the two energy systems. Using the RETScreen program for the solar
energy system, it was determined that the dairy farm would generate a total of 1.026.597 kWh/year of
electricity and the system could reduce greenhouse gas emissions by 345 tCO2/year. For the biogas system,
it was determined that the total electricity generation potential to be produced from the farm at the end of
2023 is 1.012.158 kWh/year and a total of 692,316 tons/year of CO2 emissions can be prevented. It was
determined that the annual electricity consumption of the farm was 885.855 kWh/year. It is concluded that
both energy systems will meet the electricity energy amount of the farm, but the biogas plant will prevent
greenhouse gas emissions more. However, it was decided to install solar panels on the dairy cattle farm due
to the high initial investment and operating costs of the biogas plant and the decrease in the amount of waste
due to the decrease in the amount of animals over the years and this situation negatively affects the
efficiency of the plant. Keywords: Biogas, RETScreen, photovoltaic, electrical energy, greenhouse gases, farm 245 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. 1.1. Biyokütle Enerjisi Biyokütle enerjisi, üretim teşvikleri nedeniyle son yıllarda kullanımı giderek artan
yenilenebilir enerji kaynaklarından biridir. Biyogaz üretimi için ana bileşen olarak protein,
karbonhidrat, hemiselüloz ve selüloz içeren her türlü biyokütle, biyogaz üretiminde
kullanılabilir (Yağlı ve Koç, 2019). Biyokütle enerji kaynaklarından elde edilen yakıtlardan biri
olan biyogaz, bitkisel ve hayvansal kökenli organik atıkların (biyokütle), havasız (anaerobik)
ortamda mikroorganizmaların yardımı ile bozunması sonucunda oluşan nihai gaz ürünüdür
(Anonim, 2020). Biyogaz, havadan hafif, renksiz, kokusuz ve mavi renkli alevle yanan bir
karışımdır. Bileşiminin içerisinde % 50-75 metan (CH4), % 25-50 karbondioksit (CO2), % 5-6 su
ve az miktarlarda hidrojen sülfür (H2S), oksijen (O2), hidrojen (H2), karbon monoksit (CO) ve
nitrojen (N2) bulunmaktadır (Yapılcan, 2021). Biyogazın en temel bileşeni organik maddedir. Hayvansal ve tarımsal atıklar organik maddelerin en önemli kaynaklarıdır. Bunlar genellikle
tarımsal atıklar, evsel atıklar, atık su arıtma tesisi atıkları, hayvansal atıklar (tavuk, hindi, inek,
koyun vs.), gıda atıkları, sıvı atıklar, mısır silajı, endüstriyel atıklar örnek olarak verilebilir (Ay
ve Kaya, 2020). Organik maddenin miktarı, atık türü (hayvansal, bitkisel), yeterli miktarda
mikroorganizma, C/N oranı ve reaktör sıcaklığı biyogazın verimli bir şekilde üretimi için önemli
parametrelerdir. Biyogazın enerji verimliliği pH, sıcaklık ve reaktör karışımının uygunluğu gibi parametrelere
bağlı olarak değişmektedir. Biyogaz tesislerinin işletilebilmesi için bu parametreler dikkate
alınmalıdır (Hacısalihoğlu, 2022; Tırınk, 2022). Biyogaz çeşitli çiftlik hayvanlarının atıklarından
üretilebilir. Ancak dünyada en yaygın kullanılanlar sığır, koyun, keçi, domuz ve kümes
hayvanlarıdır. Biyoparçalanabilen organik madde diğer hayvan gübrelerine oranla kümes
hayvanlarında daha fazla miktarda bulunur. Tavuk başına günde 0,08 ile 0,125 kg arasında ıslak
gübre üretilir. Bu katının çoğu uçucu katılardır. Bu durum kanatlı hayvan gübresinin önemli bir
biyogaz kaynağı olduğunu göstermektedir. Gübrenin içeriğine bakıldığında azot içeriği fazla
miktarda bulunur ve bu da biyogaz oluşumu sırasında amonyak birikimine neden olur. Biyogaz
üretim aşamasında amonyak tesis veriminin azalmasına neden olmaktadır. Biyogaz üretiminde
dünyada en çok inek, sığır gibi büyükbaş hayvan gübreleri kullanılmaktadır. Bunun temel nedeni
günlük gübre miktarının diğer hayvanlara göre daha fazla olmasıdır (Yağlı ve Koç, 2019). 1. GİRİŞ Bu fosil yakıtların kullanımı neticesinde oluşan çevre sorunlarının
önlenebilmesi için fosil yakıtların yerine çevre dostu olan yenilenebilir enerji kaynaklarının
kullanımı faydalı olacaktır (Güler, 2014). Güneş enerjisi, biyokütle enerjisi, rüzgar enerjisi vb. gibi kaynaklar kendini yenilediği, çevre dostu ve tükenmeyen enerji kaynakları oldukları için
yenilenebilir enerji kaynakları olarak adlandırılırlar. Bu kaynakların avantajları arasında da fosil
yakıt kullanımını azaltarak karbondioksit emisyon miktarını azaltma, yerli kaynak oldukları için
enerjide dışa bağımlılığı azaltma, çevre dostu enerji tüketimi sağlama gibi birçok faydaları vardır
(Alma, 2022).Yenilenebilir enerji kaynakları tüm sektörlerde kullanılabildiği gibi hayvancılık ve
tarım sektörlerinde kullanılması ile de sektörlerin kendi enerji tüketimlerini karşılayarak dışarıya
olan enerji bağımlılığını azaltmaktadır. İklim ve çevre koşulları, tarım ve hayvancılık sektöründe
enerji kaynaklarının kullanımı ve ekonomikliği açısından son derece önemlidir. Tarım ve
hayvancılık sektöründe kullanılan başlıca yenilenebilir enerji sistemleri; biyokütle, güneş, rüzgâr
ve jeotermal enerji sistemleridir (Emiroğlu ve diğ., 2021). Bu çalışma kapsamında Bursa’nın Karacabey ilçesinde bulunan bir süt sığırı çiftliğine güneş
veya biyogaz enerji sistemlerinin kurulumu için enerji ve çevresel potansiyelleri incelenerek iki 246 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 enerji sistemi arasında karşılaştırma yapılacaktır. Güneş enerjisi sistemi için RETScreen yazılımı
kullanılarak kurulması düşünülen fotovoltaik sistem için fizibilite çalışması yapılacaktır. Yazılımda sistemin aylık veya yıllık ne kadar enerji üreteceği ve bu enerji ile yıllık ne kadar sera
gazı emisyonu azaltımının sağlanacağı ve maliyetler belirlenecektir. Biyogaz tesisi için yapılacak
olan hesaplamalar hayvan gübresinden biyogaz eldesinin teorik olarak hesaplanması ile
belirlenecektir. Büyükbaş hayvan sayıları esas alınarak, hayvansal kaynaklı atıkların gübre
potansiyelleri, gübrelerin teorik biyogaz miktarları, elektrik üretim potansiyelleri ve engellenen
CO2 salınım değerleri karşılaştırılarak hangi enerji sisteminin gerçekleştirileceğine karar
verilecektir. 1.2. Güneş Enerjisi Güneş enerjisi, yaşamın kaynağı olan güneşten elde edilen bir yenilenebilir enerji türüdür. Güneşten gelen ışınlar güneş panellerine gelerek burada ısı veya elektriğe dönüştürülerek
kullanılmaktadır. Elektriğe dönüşümünü sağlayan fotovoltaik enerji sistemleri doğrudan güneş
ışığından aldığı enerjiyi elektrik enerjisine dönüştürmektedir. Fotovoltaik güneş enerji sistemleri,
doğru akımın (DA) üretildiği fotovoltaik paneller (PV), üretildiği doğru akımın alternatif akıma
(AA) dönüştürüldüğü invertörler, üretilen elektriğin depolandığı akü, akülerin daha sağlıklı
elektrik depolayabilmesi için şarj kontrol cihazları ve elektrik sayaçlarından oluşmaktadır. Sistemlerin en çok bilinen çeşitleri şebekeye bağlantısı olmayan (off grid) sistemler ile bulunduğu
bölgenin elektrik şebekesine bağlı (on grid) olan sistemler olarak ikiye ayrılmaktadır. On Grid
Sistemler, fotovoltaik enerji sisteminden üretilen elektrik invertörler yardımı ile alternatif akıma 247 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. dönüştürüldükten sonra çift yönlü elektrik sayacına ulaşarak daha sonra şebekelere verilir. PV
sisteminde elektrik yetersiz kaldığı durumunda tekrardan şebekeden elektriği geri çekmek
mümkündür. Bu sistemler evsel amaçlı kullanımlarda ve yüksek güçte santral sistemlerinde
kullanılır (URL-1; URL-4). Off Grid Sistemler, fotovoltaik enerji sisteminde üretilen elektrik şarj
kontrol cihazına gelerek düzenlenir daha sonra akülere verilerek orada depolanır. Akülere gelen
elektrik doğru akım olduğu için akülerden sonra invertörlere gelen elektrikler burada alternatif
akıma dönüştürülerek evler (dağ evi, bağ evi), karavanlar, yatlar gibi yerlerde kullanılabilir. Fotovoltaik sistemlerin arazi üzerine kurulumu ilk zamanlarda daha fazla yaygın iken son
dönemlerde çatı üstüne fotovoltaik sistemler daha fazla tercih edilmektedir (URL-7). Fotovoltaik
sistemlerin verimini belirleyen en önemli etkenler coğrafi konum, günün zamanı, mevsim, yerel
hava durumu (bulutluluk, kar vs.)’dur. Bu etkenler fotovoltaik enerji sistemlerinin verimini
önemli derecede etkilemektedir. Bu faktörler ile işletmelerin elektrik üretiminin nasıl
etkileneceğinin önceden belirlenmesi çok önemlidir. Bu nedenle kurulum yapılmadan önce bir
firmanın proje tasarımında en iyi performansın hangi koşullar altında elde edilebileceğinin
belirlenmesi için bir analiz yapılması gerekmektedir. Bu noktada işletmenizin elektrik üretimini
önceden belirleyecek bir yazılımın kullanılması mantıklı olacaktır (Öztürk, 2022). 2.1. Materyal Bir süt sığırı çiftliğine güneş veya biyogaz enerji sistemlerinin kurulumu için enerji ve
çevresel potansiyelleri incelenerek iki enerji sistemi arasında karşılaştırma yapılacaktır. Bu
amaçla çalışma Bursa’nın Karacabey ilçesinde gerçekleştirilmiştir. Hayvancılık faaliyetleri
sonucu oluşan hayvansal atıkların gübre ve biyogaz değerlerinin belirlenmesi amaçlanmıştır. Çalışmada biyogaz tesisi için yapılan tüm hesaplamalarda 2023 yılı sağmal hayvan ve genç
hayvan sayıları için çiftlik bilgileri esas alınmıştır. Çiftlikte mevcut olan hayvan türleri, sayıları
ve 2023 yılına göre oluşabilecek gübre miktarları belirlenerek, bu gübrelerden elde edilebilecek
biyogaz içerikleri hesaplanmıştır. Fotovoltaik enerji sistemi için RETScreen analiz programı
kullanılarak Karacabey’in günlük güneş radyasyonunun 4,18 kWh/M2/g olduğu lokasyona
kurulması düşünülen sistem için fizibilite çalışması yapılmıştır (URL-5). İki sistem enerji ve
çevresel açılardan değerlendirilmiştir. 2.2. Çalışma Alanı Bursa, Marmara Bölgesinin Güney Marmara bölümünde, 40° batı boylam ve 29° kuzey enlem
dairelerinde yer almaktadır. Türkiye’nin dördüncü en kalabalık şehri olup, 17 ilçesi
bulunmaktadır (URL-10). Karacabey ilçesi, Bursa’nın 70 km batısında yer alıp, nüfus bakımından
Bursa’nın 9. en büyük ilçesidir. İlçede hayvancılık ileri düzeyde yapılmaktadır. Hayvancılık
faaliyetleri halka büyük gelir sağlamakta ve önemli geçim kaynağını oluşturmaktadır (URL-6). Bursa iline ait güneş enerji potansiyeli atlası (GEPA) Şekil 1’de verilmiştir (URL-8). Şekil 2'de
Bursa için aylık ve günlük güneş radyasyonu ile ortalama sıcaklık değerleri gösterilmektedir. Güneş ışınımının Aralık ve Şubat aylarında minimum değer gösterdiği, Ağustos ayında ise
maksimum değere ulaştığı görülmüştür. Sıcaklık değeri 5,2 °C ile 23,9°C arasında değişirken,
günlük güneş radyasyonu 1,37 ile 7.06 kWh/M2/g değerleri arasında değişmektedir (URL-5). 248 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Şekil 1:
2024 yılı güneş enerji potansiyeli atlası Bursa ili örneği (URL-8) 2024 yılı güneş enerji potansiyeli atlası Bursa ili örneği (URL-8) Şekil 2:
2024 yılı güneş radyasyonu ile ortalama sıcaklık değerlerinin günlük ve aylık değerleri (URL-5) 2024 yılı güneş radyasyonu ile ortalama sıcaklık değerlerinin günlük ve aylık değerleri (URL-5 Çalışmanın gerçekleşeceği işletme, 2013 yılında Bursa’nın Karacabey ilçesine bağlı
Fevzipaşa Köyünde, toplamda 300.000 m2 arazi içerisinde kurulmuştur. Süt üretimi, damızlık
düve yetiştiriciliği ve besicilik faaliyet alanlarıyla üretim yapan işletme 1000 baş sağmal olmak
üzere toplamda 3500 büyükbaş hayvan kapasitesine sahiptir. Şu an çiftlikte 1100 adet sağmal
hayvan, 900 adet genç hayvan bulunmaktadır. Çiftliğin sağmal ahırlarında süt sağım pompaları,
aydınlatma, havalandırma, ısıtma üniteleri gibi ekipmanların bulunmasından dolayı enerji
tüketimleri diğer ahırlara göre daha fazladır. İşletme ile görüşme gerçekleştirildiğinde On Grid
güneş enerjisi sistemlerinin, sağmal ahır çatısına kurulması uygun görülmüştür. Ahırın çatı alanı
ise 4500 m2 (150m–30m)’dir. Çalışmada incelenen ve enerji sisteminin uygulanacağı süt sığırı
işletmesinin üstten görünüşü Şekil 3’te gösterilmiştir. 249 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 3:
Çalışmanın uygulanacağı yerin üstten görüntüsü (URL-5) Şekil 3:
Çalışmanın uygulanacağı yerin üstten görüntüsü (URL-5) 2.3.1. Biyogaz Potansiyelinin ve Engellenen CO2 Emisyonunun Belirlenmesi Kaliteli gübre üretimi için hayvan türleri, beslenme türleri, günlük su içme sıklıkları,
hayvanların ağırlıkları önemli bir durumdur. Bu çalışmada Bursa’nın Karacabey ilçesinde
bulunan bir süt sığırı çiftliği için 2023 yıllarında mevcut olan hayvan sayıları değerlendirilmiş ve
bu veriler yardımıyla gübre miktarları, yıllık biyogaz miktarları ve biyogazdan üretilebilecek
enerji miktarları hesaplanmıştır. Hayvansal atıklardan oluşacak gübrenin hesaplanmasında
hayvan türüne göre birim yükün bireysel olarak ölçülebilirliği söz konusu olmadığından
literatürde öngörülen bazı kabullerin kullanılması gereklidir. Buna göre bu kabuller Tablo 1’de,
hayvansal atık kaynaklı gübre ve biyogaz potansiyeli hesaplamasında kullanılan eşitlikler ise
Tablo 2’de verilmiştir (Hacısalihoğlu, 2023;Tırınk, 2022). Hesaplamalar Tablo 1’de verilen en
büyük ve en küçük değer aralıkları baz alınarak yapılmış, bu değerler dışına çıkılmamıştır. Tablo 1. Hayvan türlerine göre literatür katsayı değerleri (Hacısalihoğlu, 2023)
Simge
Katsayı/Birim
Büyükbaş
Hayvan
(BBH)
Küçükbaş
Hayvan
(KBH)
Kanatlı
Hayvan
(KH)
ACH
Canlı Hayvan Ağırlığı (kg)
135-800
30-75
1,5-12
TYGM
Toplam Yaş Gübre Miktarı (kg/gün)
6-48
1,2-3,75
0,045-0,48
YKG
Kullanılabilir Gübre (%)
65
13
99
MB
1 Ton Yaş Gübreden Elde Edilen Biyogaz
Oranı (m3/ton)
33
58
78
EB
Biyogaz Isıl Değeri (MJ/ m3)
20-27
20-27
20-27 Tablo 1. Hayvan türlerine göre literatür katsayı değerleri (Hacısalihoğlu, 2023) Tablo 1 incelendiğinde ACH (kg) hayvan türüne göre hayvanların ağırlıklarını ifade
etmektedir. Çiftlikte 1100 adet sağmal hayvan ve 900 adet genç hayvan bulunmaktadır. Hesaplamalarda bu değer sağmal hayvan için 550 kg, genç hayvan için 200 kg olarak kabul
edilmiştir. Benzer şeklide Tablo 1’deki aralık değerleri dikkate alınarak üretilen toplam yaş gübre
miktarları (TYGM; kg/gün) sağmal hayvan için 43 kg/gün, genç hayvan için 2,48 kg/gün (Yağlı ve
Koç, 2019;Görmüş, 2018) olarak kabul edilmiştir. Buzağı, genç hayvan olarak kabul edilecektir. YKG (%) değeri hayvanların türlerine göre oluşan gübrenin kullanılabilirlik oranını ifade
etmektedir. Hayvan türlerinin ahırda veya kümeste kalma süreleri dikkate alınarak, oluşan atığın 250 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 kullanılabilirliğini ifade eden bu değer, hayvan türüne göre BBH için 0,65 olacak şekilde
alınmıştır. Hesaplamalarda kullanılan NCH değeri canlı hayvan sayısını ifade etmektedir. Biyogazın üretim miktarı hayvan türü ve atık özelliğine göre farklılıklar gösterebilmektedir. 1 ton yaş gübreden elde edilen biyogaz miktarı MB (m3/ton) ile ifade edilmekte olup, bu değer
hayvan türüne göre BBH için 33 m3/ton olarak alınmıştır (Tırınk, 2022; Ay ve Kaya, 2020). Hayvansal atıklardan elde edilen biyogaz enerjisinin ısıl değerinin hesaplanabilmesi için, birim
biyogazın ısıl değerinden (EB; MJ/m3) faydalanılır. Oluşacak biyogazın içerdiği metan miktarına
göre biyogaz ısıl değeri 20-27 MJ/m3 aralığında değişim göstermektedir (Ayhan, 2015). 2.3.1. Biyogaz Potansiyelinin ve Engellenen CO2 Emisyonunun Belirlenmesi Çalışmada bu değer 23,5 MJ/m3 olarak alınmıştır. Biyogazın 23,5 MJ’lük ısıl değerinin elektrik
enerjisi eşdeğeri 6,53 kWh’e eşdeğerdir (1 kWh elektrik enerji değeri 3,6 MJ’e eşittir) (Tırınk,
2022; Salihoğlu ve diğ., 2019). Biyogazdan elektrik enerjisi üretiminin gerçekleşmesi için
kojenerasyon sistemleri kullanılmaktadır. Kojenerasyon, enerjinin etkin kullanımı için elektrik ve
ısı enerjisinin birlikte üretilmesini sağlayan teknolojidir. Bu sistemlerde gaz yakılarak mekanik
enerjiye dönüştürülür. Kombine ısı ve güç sistemlerinin elektriksel verimliliği %35-40 arasında
değişmektedir. Hesaplamalarda bu değer %40 olarak kabul edilmiştir ve bu oranla çalışan
kojenerasyon sistemi için 1 m3 biyogazın elektriksel eşdeğeri 2,61 kWh olarak kabul edilmiştir. Toz kömürün yakılmasıyla 1 kWh elektrik üretimi için ortalama sera gazı emisyonu 710 gCO2
olurken, biyogazın yakılması için bu değer ortalama 26 gCO2’dir (Tırınk, 2022). Yılda ne kadar
CO2 salınımının engellenebileceğini hesaplamak için bu iki değer arasındaki fark alınmıştır ve
işlemlerde 684 g kWh-1 katsayısı kullanılmıştır. Tablo 2. Hayvansal atık kaynaklı gübre ve biyogaz potansiyeli hesaplamasında kullanılan
eşitlikler (Hacısalihoğlu, 2023)
Eşitlik Adı
Birim
Formülasyon
Toplam Kullanılabilir Yaş Gübre Miktarı (1)
kg/gün
TKYGM = TYGM*YKG
Yıllık Toplam Yaş Gübre Potansiyeli (2)
ton/yıl
TYGP = TKYGM*NCH*365/1000
Yıllık Biyogaz Miktarı (3)
m3/yıl
Tbiyogaz = TYGP*MB
Biyogazdan Üretilebilecek Enerji Miktarı (4)
MJ/yıl
Eısı = Tbiyogaz*EB ablo 2. Hayvansal atık kaynaklı gübre ve biyogaz potansiyeli hesaplamasında kullanılan
eşitlikler (Hacısalihoğlu, 2023) Tablo 2’de sunulan Eşitlik 1’de TKYGM toplam kullanılabilir yaş gübre miktarını ifade
etmektedir ve bu miktarı bulmak için toplam yaş gübre miktarı ile oluşan gübrenin
kullanılabilirlik oranı çarpılarak hesaplanmaktadır. Eşitlik 2’de TYGP yıllık toplam yaş gübre
potansiyelini ifade etmektedir ve bu potansiyeli bulmak için toplam kullanılabilir yaş gübre
miktarı ile hayvan türlerine göre hayvan sayıları çarpılarak hesaplanmaktadır. Eşitlik 3’te Tbiyogaz
hayvansal atıklardan elde edilebilecek biyogaz miktarını ifade etmektedir ve bu miktarı bulmak
için toplam yaş gübre miktarı ile 1 ton yaş gübreden elde edilebilecek biyogaz oranı çarpılarak
hesaplanmaktadır. Son olarak Eşitlik 4’te Eısı biyogazdan üretilebilecek enerji miktarını ifade
etmektedir ve bu miktarı bulmak için yıllık üretilen biyogaz miktarı ile biyogazın ısıl değeri
çarpılarak hesaplanmaktadır. 2.3.3. RETScreen Enerji Menüsü Çalışma alanında yer alan ve hayvanların barındığı ahırın çatısına kurulacak olan güneş enerji
santralinin (GES) kurulu gücü 864 kW’tır. Ahırın toplam çatı alanı 4500 m2’dir. Toplam 4500
m2 çatı alanına sahip ahır için çatının her iki kısmına 800 adet olacak şekilde toplamda 1600 adet
panel kullanılacaktır. Panel tipi olarak daha yüksek verim ve dolaylı olarak daha fazla elektrik
enerjisi vermesinden dolayı RETScreen programına mono-si panel tipi girilmiştir (Gültuna,
2015). Panel markası Jinko solar ve her bir panelin gücü ise 540 W kapasitesine sahip olacak
şekilde seçilmiş, panel eğimi 30⁰, azimut açısı -72⁰ olacak şekilde kabul edilmiştir. İnverter sayısı
6 adet olacak şekilde planlanmış ve her bir inverterin verimlilik değeri %98, kapasiteleri 100 kW
olacak şekilde RETScreen programına girilmiştir (Diken ve Kayişoğlu, 2022). Yıllık elektrik
ihracat fiyatı RETScreen programında 0,10 $/kWh olarak kabul edilmiştir ve bu değerler Şekil
4’te gösterilmiştir. Şekil 4:
RETScreen programında kabul edilen fotovoltaik panel parametreleri (URL-5) Ş
RETScreen programında kabul edilen fotovoltaik panel parametreleri (URL-5) 2.3.2. RETScreen Analiz Programı RETScreen, enerji verimliliği, yenilenebilir enerji ve kojenerasyon proje fizibilite çalışmaları
ve devam eden enerji verimliliği analizlerine yönelik temiz bir enerji yönetim yazılımı sistemidir
(URL-5). RETScreen, Microsoft Excel program altyapısı ile birlikte çalışır. Programı
çalıştırdığınızda karşınıza çıkan sayfada projenin kapsamına ilişkin kapak bilgilerini
girebileceğiniz bir bölüm bulunmaktadır. Bu bölümün hemen altında ise analiziniz için gerekli
temel girişleri girebileceğiniz bir bölüm bulunmaktadır. Gireceğiniz veriler seçtiğiniz proje türüne
bağlıdır. Bu program basit veya ayrıntılı analiz yapma olanağı sağlar. Program,
"Başlat" sayfasında girilen alan referans girişi ve online veri tabanına entegre edilen iklim veri
tabanı sayesinde otomatik olarak çalışabilmektedir. RETScreen iklim veri tabanı enlem, boylam 251 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. ve rakım değerlerini, aylık sıcaklıkları, bağıl nemi, güneş radyasyonunu, barometrik basıncı,
rüzgar hızını, yüzey sıcaklığını, ısıtma ve soğutma talebi değerlerini görüntülemenize olanak
sağlar (Doğan ve diğ., 2012). 2.3.5. RETScreen Emisyon Menüsü Emisyon analizi için ülkemizde kullanılan yakıt türleri araştırılmıştır. Kullanılan yakıt türleri
T.C Enerji ve Tabii Kaynakları Bakanlığı sitesinden alınmıştır (URL-9). Sera gazı azaltma kredi
oranı 15 $/tCO2 olarak kabul edilmiştir (Diken ve Kayişoğlu, 2022). Emisyon analizi için kabul
edilen değerler Şekil 6’da gösterilmiştir. Şekil 6: Emisyon analiz kabulleri (URL-5) Şekil 6: Emisyon analiz kabulleri (URL-5) 2.3.4. RETScreen Maliyet Menüsü İlk maliyetler bölümünde, etüt - proje giderleri ve geliştirme kısmına, birim maliyet 2400 $
olacak şekilde kabul edilmiştir (Durgun ve diğ., 2021). Mühendislik, birim maliyeti 28800 $,
konstrüksiyon birim maliyeti 43200 $ (URL-2), inverter miktarı 6 adet, birim maliyeti 2250 $
(URL-3), işçilik, birim maliyeti 28800 $, Dc-Ac kablo için Dc kablonun metresi 0,85 $, Ac
kablonun metresi 17 $ Çaçan (2018) olacak şekilde kabul edilmiştir. Dc kablo için 2400 m, Ac
kablo için 1200 m kablo uzunluğu kabul edilmiştir. Elektrik sistemi kısmında GES kurulu gücü
olan 864 kW’a panel birim maliyet 500 $ (URL-2) olacak şekilde kabul edilmiştir ve bu değerler
Şekil 5’de gösterilmiştir. 252 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Şekil 5: RETScreen maliyet analizi ekranı (URL-5) Şekil 5: RETScreen maliyet analizi ekranı (URL-5) 2.3.5. RETScreen Emisyon Menüsü 2.3.6. RETScreen Finansman Menüsü Enflasyon oranı %10, iskonto ve yeniden yatırım oranı %9 (Diken ve Kayişoğlu, 2022), proje
ömrü ise 25 yıl olacak şekilde kabul edilmiştir. Borç oranı %70, borç faiz oranı %10 ve borç
vadesi 10 yıl (İzmirli 2019), elektrik ihracatı eskalasyon oranı %3, temiz enerji (TE) üretim kredi
oranı 0,007 $/tCO2, TE üretim kredi eskalasyon oranı %2 olarak kabul edilmiştir (Eremkere ve
Aktaş, 2020). Finansal analiz için kabul edilen değerler Şekil 7’de gösterilmiştir. 253 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 7: Finansal analiz kabulleri (URL-5) Şekil 7: Finansal analiz kabulleri (URL-5) 3.1. Yıllık Biyogaz Miktarı ve Engellenen CO2 Salınım Bulguları Çiftliğin elektrik faturalarından 2023
yılında yıllık tüketilen toplam elektrik enerjisi miktarının 885.855 kWh/yıl olduğu tespit
edilmiştir ve böylece çiftliğe biyogaz tesisi kurulumu tercih edilirse çiftliğin elektrik enerjisi
ihtiyacı karşılanmış olacaktır. Benzer bir çalışma, Tırınk (2022) tarafından yapılmıştır. Araştırmada, 2020 yılında Iğdır ve Tablo 4. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri
ÇİFTLİK
Hayvan
Türü
Hayvan
Sayısı
(adet)
Biyogazdan
Üretilen Enerji
Miktarı
(Eısı; MJ/yıl)
Elektrik
Enerjisi
Miktarı
(kWh/yıl)
Engellenen
CO2 Salınım
Miktarı
(ton/yıl)
2023
TOPLAM
Sağmal Hayvan
1.100
8.702.661
966.551
661,121
Genç Hayvan
900
410.639
45.607
31,195
Toplam (Sağmal
+ Genç Hayvan)
2000
9.113.300
1.012.158
692,316 Tablo 4. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri Tablo 4 incelendiğinde, biyogazdan üretilen enerji miktarının en yüksek olduğu (8.702.661
MJ/yıl) hayvan türü sağmal hayvan kaynaklı olduğu tespit edilmiştir. Elde edilen bu veriler
hayvan sayıları ve oluşan gübrenin kullanılabilirliği ile ilişkilidir. Biyogaz enerjisinin elektrik
enerjisi eşdeğeri de benzer şekilde değişim göstermektedir. En yüksek elektrik enerjisi miktarı
(966.551 kWh/yıl) sağmal hayvan atıklarından, en düşük elektrik enerjisi miktarı (45.607
kWh/yıl) ise genç hayvan atıklarından elde edilmiştir. Engellenen CO2 salınım değerine bakıldığı
zaman 2023 yılında toplamda 692,316 ton/yıl CO2 emisyonunun engellendiği tespit edilmiştir. Çalışmada 2023 yılında çiftlikten üretilen toplam elektrik üretim potansiyeli (sağmal hayvan +
genç hayvan) 1.012.158 kWh/yıl olarak belirlenmiştir. Çiftliğin elektrik faturalarından 2023
yılında yıllık tüketilen toplam elektrik enerjisi miktarının 885.855 kWh/yıl olduğu tespit
edilmiştir ve böylece çiftliğe biyogaz tesisi kurulumu tercih edilirse çiftliğin elektrik enerjisi
ihtiyacı karşılanmış olacaktır. Benzer bir çalışma, Tırınk (2022) tarafından yapılmıştır. Araştırmada, 2020 yılında Iğdır ve
ilçelerinde oluşan hayvansal atıkların miktarları esas alınmıştır. Bu yıla ait toplam hayvan sayıları
157.426 adet büyükbaş, 1.279.203 adet küçükbaş ve 1.279.203 adet kümes hayvanı bulunduğu
belirlenmiştir. Hayvan gübresinden yıllık üretilebilecek biyogaz potansiyeli 43.952.304 m3, ısı
enerji miktarı 1.032.879 GJ ve elektrik enerji miktarı 114.716 MWh olarak hesaplanmıştır. Yıllık
elektrik üretim potansiyeli en yüksek olan Iğdır İli Merkez İlçesi'nde 55.367 MWh, en düşük
elektrik
üretimine
sahip
olan
Karakoyunlu
İlçesi'nde
ise
15.366
MWh
elektrik
üretilebileceği hesaplanmıştır. Ayrıca fosil yakıtlar yerine yenilenebilir enerji kaynaklarından biri
olan biyogaz enerjisinin kullanılmasıyla Iğdır bölgesinin tamamında karbon tasarrufu sağlanarak
yılda 78.465 ton karbondioksit emisyonunun önüne geçilebileceği bulunmuştur. 3.1. Yıllık Biyogaz Miktarı ve Engellenen CO2 Salınım Bulguları Bursa’nın Karacabey ilçesi bir süt sığırı çiftliğinde hayvancılık faaliyetlerinden kaynaklanan
atıkların gübre ve biyogaz potansiyelleri hesaplanmıştır. Hesaplamalarda, çiftlikte 2023 yılında
mevcut olan hayvan sayıları işletmeden temin edilmiştir. Hayvan türlerine ve 2023 yılına göre
oluşabilecek gübre miktarları belirlenerek, bu gübrelerden elde edilebilecek biyogaz içerikleri
hesaplanmıştır. Tablo 3’te çiftliğin 2023 yılı ve türlerine göre hayvan sayıları verilmiştir. Bu
veriler yardımı ile hesaplanan yıllık yaş gübre potansiyeli ve yıllık üretilen biyogaz miktarları da
Tablo 3’de sunulmuştur. Tablo 3. Süt Sığırı Çiftliğinin yıllara ve hayvan türlerine göre elde edilen gübre ve biyogaz
miktarları
ÇİFTLİK
Hayvan
Türü
Hayvan
Sayısı
(adet)
Yıllık Yaş Gübre
Potansiyeli
(TYGP; ton/yıl)
Yıllık Biyogaz
Miktarı
(TBiyogaz m3/yıl)
2023
TOPLAM
Sağmal hayvan
1.100
11.222
370.326
Genç hayvan
900
529,5
17.474
Toplam (Sağmal + Genç Hayvan)
2000
11.752
387.800 ablo 3. Süt Sığırı Çiftliğinin yıllara ve hayvan türlerine göre elde edilen gübre ve biyogaz
miktarları Tablo 3 incelendiğinde, hayvan türüne göre en fazla sayıya sahip olan türün sağmal hayvan
olduğu görülmektedir. Elde edilen yıllık yaş gübre potansiyeli incelendiğinde, sağmal hayvan
sayısı yüksek olduğundan yıllık en yüksek yaş gübre potansiyeline (11.222 ton/yıl) sahip olduğu
görülmektedir. Hayvansal atıklardan elde edilen yıllık biyogaz üretim miktarı incelendiğinde en
düşük biyogaz üretiminin genç hayvan kaynaklı olduğu (17.474 m3/yıl) tespit edilmiştir. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri Tablo 4’te
gösterilmiştir. 254 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 Tablo 4. Biyogazdan üretilen elektrik enerjisi ve engellenen CO2 salınım değerleri
ÇİFTLİK
Hayvan
Türü
Hayvan
Sayısı
(adet)
Biyogazdan
Üretilen Enerji
Miktarı
(Eısı; MJ/yıl)
Elektrik
Enerjisi
Miktarı
(kWh/yıl)
Engellenen
CO2 Salınım
Miktarı
(ton/yıl)
2023
TOPLAM
Sağmal Hayvan
1.100
8.702.661
966.551
661,121
Genç Hayvan
900
410.639
45.607
31,195
Toplam (Sağmal
+ Genç Hayvan)
2000
9.113.300
1.012.158
692,316
Tablo 4 incelendiğinde, biyogazdan üretilen enerji miktarının en yüksek olduğu (8.702.661
MJ/yıl) hayvan türü sağmal hayvan kaynaklı olduğu tespit edilmiştir. Elde edilen bu veriler
hayvan sayıları ve oluşan gübrenin kullanılabilirliği ile ilişkilidir. Biyogaz enerjisinin elektrik
enerjisi eşdeğeri de benzer şekilde değişim göstermektedir. En yüksek elektrik enerjisi miktarı
(966.551 kWh/yıl) sağmal hayvan atıklarından, en düşük elektrik enerjisi miktarı (45.607
kWh/yıl) ise genç hayvan atıklarından elde edilmiştir. Engellenen CO2 salınım değerine bakıldığı
zaman 2023 yılında toplamda 692,316 ton/yıl CO2 emisyonunun engellendiği tespit edilmiştir. Çalışmada 2023 yılında çiftlikten üretilen toplam elektrik üretim potansiyeli (sağmal hayvan +
genç hayvan) 1.012.158 kWh/yıl olarak belirlenmiştir. 3.2. RETScreen Enerji Analizi Bulguları Kullanılan panel özellikleri ve hava koşulları RETScreen programına girildikten sonra aylık
ve yıllık toplam enerji üretimi belirlenmiştir. Şekil 8' deki aylık sonuçlara göre; en düşük elektrik
üretimine 34,303 MWh ile Aralık ayında, en yüksek elektrik üretimine ise 134,633 MWh ile
Temmuz ayında ulaşılmıştır. Yazılım ile elde edilen sonuçta yıllık toplam 1.026,597 MWh’lik
elektrik üretimi gerçekleşmiştir. Fotovoltaik enerji sistemleri kurulumunun gerçekleşmesi ile
çiftliğin elektrik enerjisi karşılanmış olacaktır. 255 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 8:
Aylık ve yıllık olarak panellerin enerji üretim miktarları (URL-5) Şekil 8:
Aylık ve yıllık olarak panellerin enerji üretim miktarları (URL-5) Aylık ve yıllık olarak panellerin enerji üretim miktarları (URL-5) 3.3. RETScreen Emisyon Analizi Bulguları Yenilenebilir enerji kaynaklarının kullanımının sosyal maliyetlere etkisi oldukça önemlidir. Emisyonların azaltılması sayesinde hem çevreye hem de insanlığa katkısı büyüktür. Yapılan
emisyon analizi hesaplamaları sonucunda toplam 345 tCO2 yıllık sera gazı emisyon azaltımı
sağlanmaktadır. Elde edilen sonuç, ülkemizde bulunmakta olan yakıt türleri değerlerinin sisteme
girilmesi ile bulunmaktadır. Sistemden elde edilen sonuçlara bakılacak olursa 345 tCO2 yıllık sera
gazı, 119 ton geri kazanılmış atığa, 63,2 kullanılmamış araba ve kamyonete, tüketilmeyen 802
ham petrol variline eşdeğerdir. Sera gazı emisyon azaltımı sonuçları Şekil 9’da gösterilmiştir. Şekil 9: Sera gazı emisyon azaltım sonuçları (URL-5) Şekil 9: Sera gazı emisyon azaltım sonuçları (URL-5) 3.4. RETScreen Ekonomik Analiz Bulguları Programın ekonomik analiz kısmı beş bölümden oluşmaktadır: Finansal Parametreler, Yıllık
Gelirler, Proje Maliyet ve Gelir Özeti, Finansal Sürdürülebilirlik ve Yıllık Nakit Akışları. "Proje
Maliyet ve Gelirlerinin Özeti" ve "Yıllık Gelirler" bölümleri; enerji modelinin, maliyet analizinin
ve emisyon analizinin bir özetidir. 256 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 "Finansal parametreler" bölümünde kullanıcı tarafından girilen bilgilere göre projenin
finansal göstergelerini oluşturan bölüm "Finansal Sürdürülebilirlik" bölümüdür. Kullanıcıların
vergi öncesi nakit akışını, vergi sonrası nakit akışını ve toplam nakit akışını görebildiği bölüm
yıllık nakit akışı bölümüdür. Bir projenin kümülatif nakit akışı genellikle negatif bir değer olarak
başlar ve yıllar geçtikçe pozitif değere doğru artar. Kümülatif nakit akışının 0 olması projenin
başa baş noktasını gösterir (Şanlı ve Günöz, 2018). Bu çalışmada yukarıdaki veriler
doğrultusunda ilk kurulum maliyetleri için ihtiyaç duyulan miktarın 573.100 $, yıllık maliyetler
ve borç ödemelerinin 81.705 $, yıllık tasarruflar ve gelirin 115.019 $ olduğu saptanmıştır. Tablo
5’te maliyet analizi tablosu gösterilmektedir. Tablo 5. Maliyet analizi tablosu (URL-5)
401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin
şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan
sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı
için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde
söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde
edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit
akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022)
tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi
kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi
(çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi
sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş
enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası
Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı
kullanılarak yapılmıştır. Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji
üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş
enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera
gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. Tablo 5. Maliyet analizi tablosu (URL-5) Tablo 5. 3.4. RETScreen Ekonomik Analiz Bulguları Maliyet analizi tablosu (URL-5) 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin
şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan
sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı
için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde
söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde
edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit
akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022)
tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi
kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi
(çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi
sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş
enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası
Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı
kullanılarak yapılmıştır. Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji
üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş
enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera
gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. 401.170 $ tutarındaki kredi borcu ödemesi (Şekil 7) 10 yıl boyunca nakit akışında belirgin
şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan
sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı
için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde
söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde
edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit
akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022)
tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi
kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi
(çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi
sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş
enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası
Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı
kullanılarak yapılmıştır. 3.4. RETScreen Ekonomik Analiz Bulguları Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji
üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş
enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera
gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. (Ş
)
y
y
ş
g
şekilde fark edilmektedir. Çatıya, panellerin kurulumundan itibaren 10 yıllık süre tamamlandıktan
sonra kredi borçları bittiği için yatırımın getirisi artık önemli ölçüde artmaktadır. Çiftliğin çatısı
için kurulması planlanan 1600 adet güneş panelinin kümülatif nakit akışları değerlendirildiğinde
söz konusu panel sayılarına ait projenin geri ödeme süresinin 5,3 yıl olduğu 25 yılın sonunda elde
edilecek paranın ise 1.489.237 $ olacağı tespit edilmiştir. GES kurulu gücü 864 kW için nakit
akış grafiği Şekil 10’da gösterilmektedir. Benzer bir çalışma, Diken ve Kayişoğlu (2022)
tarafından yapılmıştır. Namık Kemal Üniversitesi Ziraatbiyotek binasına 14 kW’lık PV sistemi
kurulumu yapılmadan önce RETScreen programı ile sistemin uygunluğunun analiz edilmesi
(çevresel, finansal, enerji, gölge analizleri) ve performansının gözlemlenmesi amaçlanmıştır. Program tasarlanırken panel konumu, eğim açısı, gölgeleme ve panel tipi gibi güneş enerjisi
sistemini etkileyen faktörler dikkate alınmıştır. Ziraatbiyotek laboratuvar binasındaki güneş
enerjisi santrali için 405 m2 alana sahip 60 adet panel kullanılmıştır. Seçilen panel markası
Astronergy Solar olup her panelin gücü 240 W’tır. Gölge analizi Helioscope programı
kullanılarak yapılmıştır. Sonuçlara göre güneş santralinden yıllık toplam 20.1 MWh enerji
üretilmiştir. Ziraatbiyotek binasının yıllık elektrik ihtiyacının yaklaşık %40'ının güneş
enerjisinden karşılanabileceği, güneş enerjisi sisteminden elde edilen 20.1 MWh enerji ile de sera
gazı emisyonlarının 9.5 tCO2/yıl azaltılabileceği tespit edilmiştir. 257 257 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. Şekil 10:
GES kurulu gücü 864 kW için nakit akış grafiği (URL-5) GES kurulu gücü 864 kW için nakit akış grafiği (URL-5) 4. 4. SONUÇ Doğal kaynaklardan su, rüzgar, güneş, biyogaz birer enerji kaynağıdır. Gün geçtikçe artan
enerji ihtiyacının karşılanması için son zamanlarda yenilenebilir enerji sistemlerine yatırımlar
artmaktadır. Bu yatırımlardan biri de güneş enerjisidir. Güneş enerjisi, güneş ışığı potansiyelinin
fazla olduğu bölgelerde kurulması ile yatırımcıya büyük kar sağlar. Yatırımcıların bu durumu
değerlendirebilmeleri için RETScreen gibi yazılım programları ile fizibilite analizleri yaparak
uygunluğu belirlemeleri gereklidir. Böylece bölgenin uygun olması ile hem bölgedeki insanlar
hem de yatırımcılar büyük kazanç sağlayabilir. Fizibilite analizleri ile bölgede kurulması
planlanan yenilenebilir enerji sistemlerinin ekonomik ve emisyon değerleri elde edilerek gerekli
kararlar verilir. Bu çalışmada Bursa’nın Karacabey ilçesinde bulunan bir süt sığırı çiftliğinde
kurulması planlanan güneş enerji sistemi için RETScreen programı kullanılarak 864 kW güçte
1600 adet güneş paneli yatırımının fizibilite analizi yapılmıştır. Karacabey’in ortalama günlük
güneş radyasyonu 4,18 kWh/M2/g ve yıllık toplam da 1.026.597 kWh ’lik elektrik üreteceği
sonucuna varılmıştır. 1600 adet güneş paneli için ilk yatırım maliyeti 573.100 $ olarak analiz
edilmiştir. Süt sığırı çiftliğinde kurulması planlanan bu tesis için geri ödeme süresinin 5,3 yıl
olduğu, 25 yıl yatırım ömrü sonunda kazancın 1.489.237 $ olacağı ve toplam da 345 tCO2 yıllık
sera gazı emisyon azaltımı sağlayacağı sonucuna varılmıştır. Böylece çiftliğin yatırım açısından
uygun olabileceği, 15 yıldan fazla kar sağlayacağı öngörülmüştür. Diğer önemli yatırımlardan
biri de biyogaz enerjisidir. Çalışmanın yapıldığı süt sığırı çiftliğinde 2023 yılında mevcut, sağmal
hayvan ve genç hayvan sayıları esas alınarak, hayvansal kaynaklı atıkların gübre potansiyelleri
belirlenmiştir. Ayrıca, oluşan gübrelerin teorik biyogaz miktarları ve elektrik üretim potansiyeli
hesaplanmıştır. Sonuç olarak, 2023 yılının sonunda 11.752 ton/yıl yaş gübre oluşma potansiyeli ve 387.800
m3/yıl biyogaz potansiyelinin elde edilebileceği belirlenmiştir. Oluşan biyogazın 9.113.300
MJ/yıl enerji potansiyeline sahip olduğu ve buna bağlı olarak çiftlikten üretilecek toplam elektrik
üretim potansiyeli 1.012.158 kWh/yıl olarak belirlenmiştir. Hayvansal atıklardan biyogaz elde
edilmesi ile 2023 yılında toplamda 692,316 ton/yıl CO2 salınımının engellenebileceği
belirlenmiştir. Bu çalışma kapsamında biyogaz enerjisi için yapılan hesaplamalar hayvansal
atıktan biyogaz eldesinin teorik olarak belirlenmesi esasına dayanmaktadır. Ancak biyogaz 258 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 tesisinin hayata geçirilmesinde hayvansal atığın katı madde içeriği, toplanması, taşınması,
biyogaz enerji tesislerinin ilk yatırım ve işletme maliyetleri, hayvan miktarlarındaki değişimler
vb. konularda göz önünde tutularak tesisin hayata geçirilmesi önerilmektedir. Süt sığırı çiftliğine
kurulması planlanan güneş panelleri veya biyogaz tesisi için enerji ve çevresel potansiyelleri
açısından karşılaştırma yapılmıştır. Sonuçta, çiftliğin yıllık tüketilen elektrik enerjisi miktarının
885.855 kWh/yıl olduğu tespit edilmiştir. 4. 4. SONUÇ İki enerji sistemi ile de çiftliğin elektrik enerji
miktarının karşılanacağı fakat biyogaz tesisinin sera gazı emisyonunu daha fazla engelleyeceği
sonucuna varılmıştır. Biyogaz tesisinin ilk yatırım ve işletme maliyetlerinin fazla olması,
toplanması ve taşınması için gerekli maliyetler (mazot vs.), yıllara göre hayvan miktarlarında
düşüşlerin olabilmesi ve buna bağlı olarak atık miktarlarında azalmaların meydana gelmesi,
herhangi bir ekipmanda arıza olması durumunda yeni ekipmanın temininde aksaklıkların
oluşabilmesi gibi risklerin tesis verimliliğini olumsuz etkileyebileceği göz önünde
bulundurularak, süt sığırı çiftliğine biyogaz tesisi yerine güneş panellerinin kurulmasına karar
verilmiştir. ÇIKAR ÇATIŞMASI Bu çalışmanın yazarları olarak, herhangi bir kurum/kuruluş ya da kişi ile çıkar çatışmasının
bulunmadığını onaylarız. YAZAR KATKISI Beyza KORKMAZ, çalışmanın kavramsal ve tasarım süreçlerinin belirlenmesi, veri
toplama,
veri
analizi
ve
yorumlama,
makale
taslağının
oluşturulması,
Saadet
HACISALİHOĞLU, çalışmanın kavramsal ve tasarım süreçlerinin belirlenmesi ve yönetimi, veri
analizi ve yorumlama, fikirsel içeriğin eleştirel incelemesi ile son onay ve tam sorumluluk
kısımlarına katkı sağlamıştır. KAYNAKLAR 1. Ayhan, A. (2015) Biogas Production Potential from Animal Manure of Bursa Province,
Uludağ Üniversitesi Ziraat Fakültesi Dergisi, 29(2), 47-53. İ
Ö 1. Ayhan, A. (2015) Biogas Production Potential from Animal Manure of Bursa Province,
Uludağ Üniversitesi Ziraat Fakültesi Dergisi, 29(2), 47-53. 2. Anonim, (2020) Ardahan İli Biyogaz Tesisi Ön Fizibilite Raporu, Serhat Kalkınma Ajansı,
Ardahan. 2. Anonim, (2020) Ardahan İli Biyogaz Tesisi Ön Fizibilite Raporu, Serhat Kalkınma Ajansı,
Ardahan. Ö
İ 3. Ay, Ö. F. ve Kaya, A. (2020) Kahramanmaraş İlinin Hayvansal Atık Kaynaklı Biyogaz
Potansiyeli, Iğdır Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 10(4), 2822-2830. doi:
10.21597/jist.660101 3. Ay, Ö. F. ve Kaya, A. (2020) Kahramanmaraş İlinin Hayvansal Atık Kaynaklı Biyogaz
Potansiyeli, Iğdır Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 10(4), 2822-2830. doi:
10.21597/jist.660101 j
4. Alma, M. H. (2022) TÜBA Biyokütle Enerjisi Raporu. Ankara: Türkiye Bilimler Akademisi. j
4. Alma, M. H. (2022) TÜBA Biyokütle Enerjisi Raporu. Ankara: Türkiye Bilimler Akademis
Ö 4. Alma, M. H. (2022) TÜBA Biyokütle Enerjisi Raporu. Ankara: Türkiye Bilimler Akademisi. 5. Çaçan, F. (2018). Fotovoltaik Sistemlerin Kurulum ve Maliyet Analizinin Örnek Bir Otele
Uygulanması, Yüksek Lisans Tezi, Fırat Üniversitesi Fen Bilimleri Enstitüsü, Elazığ. 5. Çaçan, F. (2018). Fotovoltaik Sistemlerin Kurulum ve Maliyet Analizinin Örnek Bir Otele
Uygulanması, Yüksek Lisans Tezi, Fırat Üniversitesi Fen Bilimleri Enstitüsü, Elazığ. 6. Doğan, B. T., Çolakoğlu, A. ve Kıncay, O. (2012) RETScreen Analiz Programı ile Hatay'da
Rüzgar Enerji Santrali Fizibilite Analizi, Tesisat Mühendisliği, 15-26. 6. Doğan, B. T., Çolakoğlu, A. ve Kıncay, O. (2012) RETScreen Analiz Programı ile Hatay'da
Rüzgar Enerji Santrali Fizibilite Analizi, Tesisat Mühendisliği, 15-26. 7. Durgun, İ. S., Arslan, M. ve Kalkışım, Ö. (2021). Gümüşhane OSB’de Çatı Tip Ges
Kurulumu Ön Fizibilite Raporu, Gümüşhane Ticaret Ve Sanayi Odası, Gümüşhane. 8. Diken, B. ve Kayişoğlu, B. (2022) RETScreen Programı Kullanılarak Tekirdağ Namık Kemal
Üniversitesi Ziraatbiyotek Binasına Uygulanabilecek Fotovoltaik Tasarımın Fizibilite
Analizi, Tekirdağ Ziraat Fakültesi Dergisi, 19(3), 656-667. doi: 10.33462/jotaf.1058491 ğ
g
( )
j
9. Eremkere, M. ve Aktaş, T. (2020) Tekirdağ Bağcılık Araştırma Enstitüsü Üzüm Suyu İşleme
Tesis Çatısına Uygulanabilecek Fotovoltaik Tasarımların Teknik, Ekonomik ve Çevresel
Açılardan Analizi, El-Cezerî Fen ve Mühendislik Dergisi, 7(1), 275-294. doi:
10.31202/ecjse.636966 259 Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. 10. Emiroğlu, F. M., Aybek, A. ve Kuzu, H. (2021) İki Farklı Fotovoltaik (PV) Enerji Sisteminin
Farklı Hayvancılık İşletmelerinde Kullanımının Değerlendirilmesi, Mustafa Kemal
Üniversitesi Tarım Bilimleri Dergisi, 26(3), 808-820. doi: 10.37908/mkutbd.957647 11. Korkmaz B.,Hacısalihoğlu S.: Ftovlt. Ve Byg. Enrj. Sist. Enrj. Ve Çevrs. Potns. İncln: Süt Sğr. Çiftl. Örn. 31. Tırınk, S. (2022) Calculation of Biogas Production Potential of Animal Wastes: Example of
Iğdır Province, Journal of the Institute of Science and Technology, 12(1), 152-163. doi:
10.21597/jist.1026987 j
32. Yağlı, H. ve Koç, Y. (2019) Hayvan Gübresinden Biyogaz Üretim Potansiyelinin
Belirlenmesi: Adana İli Örnek Hesaplama, Çukurova Üniversitesi Mühendislik Mimarlık
Fakültesi Dergisi, 34(3), 35-48. doi.org/10.21605/cukurovaummfd.637603 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 KAYNAKLAR Güler, S. (2014) Orta Ölçekli Hayvancılık İşletmelerinde Yenilenebilir Enerji Kullanım
Olanakları Ve Örnek Bir Uygulama, Yüksek Lisans Tezi, Namık Kemal Üniversitesi Fen
Bilimleri Enstitüsü, Tekirdağ. 12. Gültuna, K. M. (2015) Gürsu-Bursa Fotovoltaik Güç Santralinin Simülasyonu;
Teknoekonomik Ve Çevresel Optimizasyon, Yüksek Lisans Tezi, Başkent Üniversitesi Fen
Bilimleri Enstitüsü, Bursa. 13. Görmüş, C. (2018) Türkiye' deki Hayvan Gübrelerinin Biyogaz Enerji Potansiyelinin
Belirlenmesi, Yüksek Lisans Tezi, Tekirdağ Namık Kemal Üniversitesi Fen Bilimleri
Enstitüsü, Tekirdağ. ğ
14. Hatice, E. Y. (2021) Aksaray İli Hayvansal Atık Kaynaklı Biyogaz Potansiyelinin
Değerlendirilmesi, Yüksek Lisans Tezi, Aksaray Üniversitesi Sosyal Bilimler Enstitüsü. Aksaray. 15. Hacısalihoğlu, S. (2022). Hayvansal Kaynaklı Yayılı Kirlilik Yükleri Hesabı, Bursa Örneği,
Uludağ University Journal of The Faculty of Engineering, 27 (1), 361-374. doi.org/10.17482/uumfd.1059035. 16. Hacısalihoğlu, S. (2023) Hayvansal Atıkların Yönetimi,Bursa-Karacabey Örneği, BAUN Fen
Bilimleri Enstitüsü Dergisi, 25(2), 403-415. doi: 10.25092/baunfbed.1145589 17. https://www.greensolarnetwork.org, Erişim Tarihi: 25 Mayıs 2021, Konu: Güneş Ener
Sistemi Nedir? Sistem Bileşenleri Nelerdir? (URL-1). 18. https://www.solarenerjin.com, Erişim Tarihi: 29 Ocak 2022, Konu: 2023 yılı 100 kW Güne
Enerjisi Kurulum Maliyeti, (URL-2). 19. https://www.keremcilli.com, Erişim Tarihi: 06 Ocak 2023, Konu: Güneş Enerjisi Kurulum
Maliyeti 2023, (URL-3). y
(
)
20. https://muhendistan.com, Erişim Tarihi: 07 Ocak 2023, Konu: Şebeke Bağlantılı (On Grid)
Solar Sistem Tasarımı, (URL-4). , (
)
21. http://www.retscreen.net, Erişim Tarihi: 10 Ocak 2024, Konu: RETScreen, (URL-5) 22. https://tr.wikipedia.org/wiki/Karacabey, Erişim Tarihi: 27 Aralık 2023, Konu: Karacabe
(URL-6). 3. https://www.incitas.com.tr, Erişim Tarihi: 2023, Konu: Off Grid Sistem Nedir? Nasıl Kurulur
ve Nerede Kullanılır? (URL-7). 24. https://gepa.enerji.gov.tr, Erişim Tarihi: 10 Ocak 2024, Konu: Güneş Enerjisi Potansiyel
Atlası (GEPA), (URL-8). 25. https://enerji.gov.tr, Erişim Tarihi: 2023, Konu: Elektrik, (URL-9). 26. https://tr.wikipedia.org/wiki/Bursa, Erişim Tarihi: 28.01.2024, Konu: Bursa, (URL-10). İ 27. İzmirli, A. C. (2022) 200 Kw’lık Pv Güneş Enerji Güç Sisteminin RETScreen Programı
Kullanılarak Amortisman Ve Enerji Analizlerinin İrdelenmesi, Yüksek Lisans Tezi,
İskenderun Teknik Üniversitesi Lisansüstü Eğitim Enstitüsü, Hatay. Ö
Ü
Ü 28. Öztürk, S. (2022) Güneş Enerjisinden Isı ve Elektrik Üretimi, Bursa Teknik Üniversite
Yenilenebilir Enerji Sistemleri Ders Notları, Bursa. 29. Salihoğlu, N. K., Teksoy, A. ve Altan, K. (2019) Büyükbaş ve Küçükbaş Hayvan
Atıklarından Biyogaz Üretim Potansiyelinin Belirlenmesi: Balıkesir İli Örneği, Ömer
Halisdemir
Üniversitesi
Mühendislik
Bilimleri
Dergisi,
8(1),
31-47. doi:
10.28948/ngumuh.516798 30. Şanlı, B. ve Günöz, A. (2018) Mersin İlinin Farklı İlçelerinde Kurulabilecek Rüzgar Enerjisi
Santrallerinin RETScreen Programı ile Fizibilite Analizleri ve Karşılaştırmaları. Erzincan
Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 11(3), 478-487. doi: 10.18185/erzifbed.420365 260 Uludağ Üniversitesi Mühendislik Fakültesi Dergisi, Cilt 29, Sayı 1, 2024 j
32. KAYNAKLAR Yağlı, H. ve Koç, Y. (2019) Hayvan Gübresinden Biyogaz Üretim Potansiyelinin
Belirlenmesi: Adana İli Örnek Hesaplama, Çukurova Üniversitesi Mühendislik Mimarlık
Fakültesi Dergisi, 34(3), 35-48. doi.org/10.21605/cukurovaummfd.637603 261 262
|
https://openalex.org/W4242417055
|
https://f1000research.com/articles/10-543/pdf
|
English
| null |
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A systematic review and meta-analysis
|
F1000Research
| 2,021
|
cc-by
| 12,887
|
SYSTEMATIC REVIEW
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1
approved, 2 approved with reservations] Dhan Bahadur Shrestha
1, Pravash Budhathoki2, Yub Raj Sedhai3,
Achyut Marahatta
4, Samit Lamichhane
4, Sarbin Nepal
4,
Anurag Adhikari
5, Ayusha Poudel
6, Samata Nepal
7, Alok Atreya
8 Open Peer Review
Approval Status
1
2
3
version 2
(revision)
06 Sep 2021
view
view
version 1
07 Jul 2021
view
view
view Open Peer Review
Approval Status
1
2
3
version 2
(revision)
06 Sep 2021
view
view
version 1
07 Jul 2021
view
view
view
Sijan Basnet
, Reading Hospital and
Medical Centre, West Reading, USA
1. Chudchawal Juntarawijit
, Naresuan
University, Phitsanulok, Thailand
2. Prajwal Gyawali
, University of Southern
Queensland, Toowoomba, Australia
3. Any reports and responses or comments on the
article can be found at the end of the article. Open Peer Review
Approval Status
1
2
3
version 2
(revision)
06 Sep 2021
view
view
version 1
07 Jul 2021
view
view
view
Sijan Basnet
, Reading Hospital and
Medical Centre, West Reading, USA
1. Chudchawal Juntarawijit
, Naresuan
University, Phitsanulok, Thailand
2. Prajwal Gyawali
, University of Southern
Queensland, Toowoomba, Australia
3. Any reports and responses or comments on the
article can be found at the end of the article. First published: 07 Jul 2021, 10:543
https://doi.org/10.12688/f1000research.53970.1
Latest published: 06 Sep 2021, 10:543
https://doi.org/10.12688/f1000research.53970.2
v2 SYSTEMATIC REVIEW
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1
approved, 2 approved with reservations] SYSTEMATIC REVIEW
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1
approved, 2 approved with reservations]
Dhan Bahadur Shrestha
1, Pravash Budhathoki2, Yub Raj Sedhai3,
Achyut Marahatta
4, Samit Lamichhane
4, Sarbin Nepal
4,
Anurag Adhikari
5, Ayusha Poudel
6, Samata Nepal
7, Alok Atreya
8
1Department of Emergency Medicine, Mangalbare Hospital, Morang, 56600, Nepal
2Department of Emergency Medicine, Dr. Iwamura Memorial Hospital, Bhaktapur, 44800, Nepal
3Department of Internal Medicine, Virginia Commonwealth University, School of Medicine, Richmond, Virginia, 23298, USA
4Chitwan Medical College Teaching Hospital, Chitwan, 44200, Nepal
5Department of Emergency Medicine, Nepal National Hospital, Kathmandu, Bagmati, 44600, Nepal
6Department of Emergency Medicine, Alka Hospital, Lalitpur, Bagmati, 44600, Nepal
7Department of Community Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal
8Department of Forensic Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal
First published: 07 Jul 2021, 10:543
https://doi.org/10.12688/f1000research.53970.1
Latest published: 06 Sep 2021, 10:543
https://doi.org/10.12688/f1000research.53970.2
v2
Abstract
Aims: To evaluate the prevalence and risk factors of type 2 diabetes
mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:
PubMed, Embase, Scopus, and Google Scholar were searched using
the appropriate keywords. All Nepalese studies mentioning the
prevalence of T2DM and/or details such as risk factors were included.
Studies were screened using Covidence. Two reviewers independently
selected studies based on the inclusion criteria. Meta-analysis was
conducted using Comprehensive Meta-Analysis Software v.3. Results:
A total of 15 studies met the inclusion criteria. The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the
last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%),
and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in
the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to
11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times
higher odds of having T2DM if the body mass index was ≥24.9 kg/m2.
Analysis showed normal waist circumference, normal blood pressure,
and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower
odds of having T2DM, respectively. Conclusion: The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was
estimated to be 10%, 19.4%, and 11% respectively.
Keywords
Blood Pressure Body Mass Index Diabetes Mellitus Type 2 Nepal
Open Peer Review
Approval Status
1
2
3
version 2
(revision)
06 Sep 2021
view
view
version 1
07 Jul 2021
view
view
view
Sijan Basnet
, Reading Hospital and
Medical Centre, West Reading, USA
1.
Chudchawal Juntarawijit
, Naresuan
University, Phitsanulok, Thailand
2.
Prajwal Gyawali
, University of Southern
Queensland, Toowoomba, Australia
3.
Any reports and responses or comments on the
article can be found at the end of the article.
F1000Research 2021, 10:543 Last updated: 01 APR 2022 Keywords
Blood Pressure Body Mass Index Diabetes Mellitus Type 2 Nepal
Open Peer Review
Approval Status
1
2
3
version 2
(revision)
06 Sep 2021
view
view
version 1
07 Jul 2021
view
view
view
Sijan Basnet
, Reading Hospital and
Medical Centre, West Reading, USA
1. Chudchawal Juntarawijit
, Naresuan
University, Phitsanulok, Thailand
2. Prajwal Gyawali
, University of Southern
Queensland, Toowoomba, Australia
3. Any reports and responses or comments on the
article can be found at the end of the article. F1000Research 2021, 10:543 Last updated: 01 APR 2022 SYSTEMATIC REVIEW
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1
approved, 2 approved with reservations]
Dhan Bahadur Shrestha
1, Pravash Budhathoki2, Yub Raj Sedhai3,
Achyut Marahatta
4, Samit Lamichhane
4, Sarbin Nepal
4,
Anurag Adhikari
5, Ayusha Poudel
6, Samata Nepal
7, Alok Atreya
8
1Department of Emergency Medicine, Mangalbare Hospital, Morang, 56600, Nepal
2Department of Emergency Medicine, Dr. Iwamura Memorial Hospital, Bhaktapur, 44800, Nepal
3Department of Internal Medicine, Virginia Commonwealth University, School of Medicine, Richmond, Virginia, 23298, USA
4Chitwan Medical College Teaching Hospital, Chitwan, 44200, Nepal
5Department of Emergency Medicine, Nepal National Hospital, Kathmandu, Bagmati, 44600, Nepal
6Department of Emergency Medicine, Alka Hospital, Lalitpur, Bagmati, 44600, Nepal
7Department of Community Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal
8Department of Forensic Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal
First published: 07 Jul 2021, 10:543
https://doi.org/10.12688/f1000research.53970.1
Latest published: 06 Sep 2021, 10:543
https://doi.org/10.12688/f1000research.53970.2
v2
Abstract
Aims: To evaluate the prevalence and risk factors of type 2 diabetes
mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:
PubMed, Embase, Scopus, and Google Scholar were searched using
the appropriate keywords. All Nepalese studies mentioning the
prevalence of T2DM and/or details such as risk factors were included.
Studies were screened using Covidence. Two reviewers independently
selected studies based on the inclusion criteria. Meta-analysis was
conducted using Comprehensive Meta-Analysis Software v.3. Results:
A total of 15 studies met the inclusion criteria. The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the
last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%),
and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in
the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to
11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times
higher odds of having T2DM if the body mass index was ≥24.9 kg/m2.
Analysis showed normal waist circumference, normal blood pressure,
and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower
odds of having T2DM, respectively. Conclusion: The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was
estimated to be 10%, 19.4%, and 11% respectively.
Keywords
Blood Pressure Body Mass Index Diabetes Mellitus Type 2 Nepal
Open Peer Review
Approval Status
1
2
3
version 2
(revision)
06 Sep 2021
view
view
version 1
07 Jul 2021
view
view
view
Sijan Basnet
, Reading Hospital and
Medical Centre, West Reading, USA
1.
Chudchawal Juntarawijit
, Naresuan
University, Phitsanulok, Thailand
2.
Prajwal Gyawali
, University of Southern
Queensland, Toowoomba, Australia
3.
Any reports and responses or comments on the
article can be found at the end of the article.
F1000Research 2021, 10:543 Last updated: 01 APR 2022 SYSTEMATIC REVIEW
Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1
approved, 2 approved with reservations]
Dhan Bahadur Shrestha
1, Pravash Budhathoki2, Yub Raj Sedhai3,
Achyut Marahatta
4, Samit Lamichhane
4, Sarbin Nepal
4,
Anurag Adhikari
5, Ayusha Poudel
6, Samata Nepal
7, Alok Atreya
8
1Department of Emergency Medicine, Mangalbare Hospital, Morang, 56600, Nepal
2Department of Emergency Medicine, Dr. Iwamura Memorial Hospital, Bhaktapur, 44800, Nepal
3Department of Internal Medicine, Virginia Commonwealth University, School of Medicine, Richmond, Virginia, 23298, USA
4Chitwan Medical College Teaching Hospital, Chitwan, 44200, Nepal
5Department of Emergency Medicine, Nepal National Hospital, Kathmandu, Bagmati, 44600, Nepal
6Department of Emergency Medicine, Alka Hospital, Lalitpur, Bagmati, 44600, Nepal
7Department of Community Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal
8Department of Forensic Medicine, Lumbini Medical College, Palpa, Lumbini, 32500, Nepal
First published: 07 Jul 2021, 10:543
https://doi.org/10.12688/f1000research.53970.1
Latest published: 06 Sep 2021, 10:543
https://doi.org/10.12688/f1000research.53970.2
v2
Abstract
Aims: To evaluate the prevalence and risk factors of type 2 diabetes
mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:
PubMed, Embase, Scopus, and Google Scholar were searched using
the appropriate keywords. All Nepalese studies mentioning the
prevalence of T2DM and/or details such as risk factors were included. Studies were screened using Covidence. Two reviewers independently
selected studies based on the inclusion criteria. Meta-analysis was
conducted using Comprehensive Meta-Analysis Software v.3. Results:
A total of 15 studies met the inclusion criteria. The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the
last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%),
and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in
the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to
11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times
higher odds of having T2DM if the body mass index was ≥24.9 kg/m2. Analysis showed normal waist circumference, normal blood pressure,
and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower
odds of having T2DM, respectively. Conclusion: The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was
estimated to be 10%, 19.4%, and 11% respectively. F1000Research 2021, 10:543 Last updated: 01 APR 2022 Abstract Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10
:543 https://doi.org/10.12688/f1000research.53970.2
First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Corresponding author: Alok Atreya (alokraj67@hotmail.com)
Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation;
Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR:
Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project
Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation,
Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology,
Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software,
Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing;
Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision,
Validation, Writing – Review & Editing
Competing interests: No competing interests were disclosed. Grant information: The author(s) declared that no grants were involved in supporting this work. Copyright: © 2021 Shrestha DB et al. This is an open access article distributed under the terms of the Creative Commons Attribution
License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10
:543 https://doi.org/10.12688/f1000research.53970.2
First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Abstract Aims: To evaluate the prevalence and risk factors of type 2 diabetes
mellitus (T2DM) from 2000-2020 in various parts of Nepal. Methods:
PubMed, Embase, Scopus, and Google Scholar were searched using
the appropriate keywords. All Nepalese studies mentioning the
prevalence of T2DM and/or details such as risk factors were included. Studies were screened using Covidence. Two reviewers independently
selected studies based on the inclusion criteria. Meta-analysis was
conducted using Comprehensive Meta-Analysis Software v.3. Results:
A total of 15 studies met the inclusion criteria. The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal in the
last two decades was 10% (CI, 7.1%- 13.9%), 19.4% (CI, 11.2%- 31.3%),
and 11.0% (CI, 4.3%- 25.4%) respectively. The prevalence of T2DM in
the year 2010-15 was 7.75% (CI, 3.67-15.61), and it increased to
11.24% between 2015-2020 (CI, 7.89-15.77). There were 2.19 times
higher odds of having T2DM if the body mass index was ≥24.9 kg/m2. Analysis showed normal waist circumference, normal blood pressure,
and no history of T2DM in a family has 64.1%, 62.1%, and 67.3% lower
odds of having T2DM, respectively. Conclusion: The prevalence
of T2DM, pre-diabetes, and impaired glucose tolerance in Nepal was
estimated to be 10%, 19.4%, and 11% respectively. Sijan Basnet
, Reading Hospital and
Medical Centre, West Reading, USA
1. Keywords
Blood Pressure, Body Mass Index, Diabetes Mellitus Type 2, Nepal Keywords
Blood Pressure, Body Mass Index, Diabetes Mellitus Type 2, Nepal Page 1 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Corresponding author: Alok Atreya (alokraj67@hotmail.com)
Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation;
Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR:
Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project
Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation,
Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology,
Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software,
Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing;
Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision,
Validation, Writing – Review & Editing
Competing interests: No competing interests were disclosed. Abstract Grant information: The author(s) declared that no grants were involved in supporting this work. Copyright: © 2021 Shrestha DB et al. This is an open access article distributed under the terms of the Creative Commons Attribution
License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10
:543 https://doi.org/10.12688/f1000research.53970.2
First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Corresponding author: Alok Atreya (alokraj67@hotmail.com)
Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation;
Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR:
Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project
Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation,
Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology,
Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software,
Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing;
Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision,
Validation, Writing – Review & Editing
Competing interests: No competing interests were disclosed. Grant information: The author(s) declared that no grants were involved in supporting this work. Copyright: © 2021 Shrestha DB et al. This is an open access article distributed under the terms of the Creative Commons Attribution
License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Introduction The burden of type 2 diabetes mellitus (T2DM) is increas-
ing across the globe with time. The growing prevalence of
diabetes lead to big impact in societal socio-economic and
health aspect1. In 2019, the International Diabetes Federation
(IDF) estimated that 463 million adults worldwide had diabetes1. The statistics showed that these individuals were in the
age range of 20 to 79, have diabetes, and 79.4% were from
low- and middle-income countries1. Additionally, IDF estimates
that the global prevalence of diabetes will be 578.4 million by
2030, with this rising to 700.2 million by 2045 among adults
aged between 20 to 79 years1 In the region of Southeast Asia,
the prevalence of diabetes was 8.8% in 2019, and this is pro-
jected to increase to 9.7% by 20302. T2DM still remains a
major cause of worldwide morbidity and mortality, which leads
to complications such as neuropathy, nephropathy, stroke,
and coronary artery disease3. In 2017, over 10, 000 individu-
als died due to T2DM or diabetes-related complications in
Nepal, which is the 11th most common cause of disability in
terms of disability-adjusted life years (DALYs) (1226 DALYs
per 10,000 population)4. In 2020, the prevalence of T2DM in
Nepal was 8.5% (95% CI 6.9–10.4%), which was higher than
that of 8.4% (95% CI 6.2–10.5%) in 20145,6. Similarly, in 2020
the prevalence of pre-diabetes was 9.2% (95% CI 6.6 – 12.6%)
compared to 2014, which was 10.3% (95% CI 6.1–14.4%)5,6. In the advent of growing non-communicable diseases, a Multi-
Sectoral Action Plan has been adopted by the government
of Nepal to prevent and control non-communicable diseases
including T2DM7. There
are
several
prevalence
studies
across the countries and in different localities, however,
there is no appropriate pooling of the data on the risk factors
of T2DM in Nepal. Thus, with the objective to pool the avail-
able data on prevalence and risk factors for pre-diabetes, and
T2DM in Nepal over the past 20 years we conducted this
meta-analysis. Pooling the studies done in various parts of the
country by gathering data of individual prevalence and risk
factor study on T2DM can be helpful for the further preven-
tion and control of this disease. This will build the foundation
of the evidence for evidence based practice. Editorials, commentaries, viewpoint articles without adequate
data on T2DM and its related issues were excluded. Corresponding author: Alok Atreya (alokraj67@hotmail.com) Corresponding author: Alok Atreya (alokraj67@hotmail.com) Author roles: Shrestha DB: Conceptualization, Data Curation, Formal Analysis, Methodology, Writing – Original Draft Preparation;
Budhathoki P: Data Curation, Formal Analysis, Methodology, Supervision, Validation, Writing – Original Draft Preparation; Sedhai YR:
Data Curation, Methodology, Supervision, Validation, Writing – Review & Editing; Marahatta A: Data Curation, Formal Analysis, Project
Administration, Software, Writing – Original Draft Preparation; Lamichhane S: Data Curation, Formal Analysis, Investigation,
Methodology, Project Administration, Writing – Original Draft Preparation; Nepal S: Data Curation, Formal Analysis, Methodology,
Software, Writing – Original Draft Preparation; Adhikari A: Data Curation, Formal Analysis, Investigation, Methodology, Software,
Writing – Review & Editing; Poudel A: Data Curation, Formal Analysis, Investigation, Methodology, Software, Writing – Review & Editing;
Nepal S: Formal Analysis, Investigation, Methodology, Software, Supervision, Writing – Review & Editing; Atreya A: Supervision,
Validation, Writing – Review & Editing ant information: The author(s) declared that no grants were involved in supporting this work. How to cite this article: Shrestha DB, Budhathoki P, Sedhai YR et al. Type 2 Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis [version 2; peer review: 1 approved, 2 approved with reservations] F1000Research 2021, 10
:543 https://doi.org/10.12688/f1000research.53970.2 p
g
First published: 07 Jul 2021, 10:543 https://doi.org/10.12688/f1000research.53970.1 Page 2 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Information sources and search strategy
Electronic databases such as PubMed, PubMed Central, Google
Scholar, Scopus, and Embase were used to search relevant arti-
cles (Extended data file 110). Published articles from 2000 to
2020 were searched with the use of the appropriate keywords
such as “diabetes mellitus”, “high blood sugar”, “type 2 diabe-
tes”, “prevalence”, “risk factor” and “Nepal” along with relevant
Boolean operators. Eligibility criteria All published studies that took place in Nepal from 2000–2020
were included in this review. These studies comprised of
cross-sectional studies, case series that reported on more than
50 patients, cohort study, randomized control trial (RCTs) that
were based on prevalence of T2DM and/or its related issues
such as risk factors, outcome, and outcome predictors. Introduction Furthermore,
studies that took place before 1999, outside of Nepal, as well
as those that were on Type 1 and gestational diabetes were
excluded. Data analysis Data analysis
Comprehensive Meta-Analysis Software (CMA) v.3 was used
to analyze the extracted data. Amendments from Version 1
REVISED The manuscript is revised based on the reviewer’s comments. More information on prevalence and risk factors for diabetes is
added. We have also added a statement describing the rationale
of the review. Furthermore, we have elaborated the qualitative
summary. Any further responses from the reviewers can be found at
the end of the article Any further responses from the reviewers can be found at
the end of the article Study selection The studies were selected with the use of Covidence11. The
title and abstract were screened based on the inclusion crite-
ria independently by two authors (SL, SN). Discrepancies were
resolved by consensus obtained from the third author (AM). Further full-text review (SN, AM) was done independently,
and discrepancies (SL) were resolved. Data collection process and data extraction Data collection process and data extraction
Three authors (SL, AM, and SN) were independently involved
in the data extraction and adding that to a standardized form in
Excel. The accuracy and completion of each other’s work was
verified by all the reviewers. The characteristics extracted for
each selected study included, first author, year, study design,
sample size, study location, prevalence rate, and risk factors of
T2DM such as Body Mass Index (BMI), exercise (moderate to
high level of exercise (≥ 30 minutes/days) is taken as adequate),
waist circumference (≥85 cm in females, and ≥90 cm in
males were defined as high), family history, fruit and vegetable
serving per day, alcohol, smoking/tobacco, literacy, and increased
blood pressure (BP) (≥140/90 mmHg is taken as hypertensive)
(Please see Underlying data12). Methods T2DM was defined as a fasting blood glucose (FBG) of
≥ 126 mg/dl (7.0 mmol/l) or a 2-h oral glucose tolerance test
(OGTT) blood glucose level of ≥ 200 mg/dl (11.1 mmol/l). Pre-
diabetes was defined as FBG level between 100 (5.6 mmol/l) and
125 mg/dL (< 7 mmol/l) or a 2-h OGTT blood glucose level
between 140 (7.8 mmol/l) and 199 mg/dl (11 mmol/l). Impaired Protocol registration
The
systematic
review
is
registered
in
PROSPERO
(CRD42020215247). It is documented as per the guidelines of
the Meta-Analysis of Observational Studies in Epidemiology
(MOOSE)8,9. Page 3 of 24 Page 3 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 had T2DM (Proportion, 0.1040; 95% CI, 0.0668-0.1596) (Extended
data file 2, Figure 2), while 9.23% among hospital/Directly
observed, treatment short-course (DOTS) center-based studies
have this disease (Proportion, 0.0923; 95% CI, 0.0509-0.1617)
(Extended data file 2, Figure 310). glucose tolerance (IGT) was defined as two-hour glucose
levels of 140 to 199 mg per dL (7.8 to 11.0 mmol) on the 75-g oral
glucose tolerance test13. Assessment of heterogeneity The heterogeneity in the included studies was assessed based
on the Cochrane Handbook for Systematic reviews by the
I2 statistics (I2>50%)15. Thus, a random-effects model with
the inverse variance heterogeneity model was performed. If
I²>50% significant heterogeneity random effect model was
preferred. If I²<50% then fixed effect model was preferred. Risk factors of T2DM
Exercise. Random-effects model that incorporated data from
six studies on exercise showed that the difference in T2DM sta-
tus between adequate and inadequate exercise groups were
not statically significant (OR, 0.75, 95% CI, 0.49-1.16; I2,
67.85%) (Figure 4). Qualitative summary A qualitative summary of all 15 individual study is presented
in (Table 2). Nine studies were done in community setting
while rest six were done in hospital setting. Two community
based studies, and one hospital based study included sam-
ple from different part of Nepal to represent the country, while
rest were loco-regional studies. Alcohol consumption. T2DM status in relation with alco-
hol consumption was assessed by four studies with the use of
random-effects model. The results showed that T2DM status
among alcoholic and non-alcoholic groups were not statisti-
cally significant (OR, 0.750; 95% CI, 0.439-1.281 I2; 37.72%)
(Figure 7). Result A total of 4651 studies were analyzed after thorough data-
base search, of which 736 were identified as duplicates and
removed. Title and abstracts of 3915 studies were screened and
3822 studies were excluded. The full-text eligibility of
92 studies was assessed and 77 studies were excluded for
definite reasons. A total of 15 studies were included in the quali-
tative and quantitative analysis. The following information is
depicted in the PRISMA flow diagram (Figure 1). Waist circumference. Individuals with healthy waist circum-
ference had 64.1% lower odds of having T2DM compared
with those with high waist circumference (OR, 0.361; 95% CI,
0.284-0.460; I2, 0%) (Extended data file 2, Figure 410). Smoking status. The random-effects meta-analysis of four
T2DM studies based on smoking status indicated that the dif-
ferences in T2DM status among smokers and non-smoker were
not significant (OR, 0.752; 95% CI, 0.366-1.546; I2; 87.2%)
(Figure 6). Bias assessment Bias assessment of the included studies was done by the
Joanna Briggs Institute (JBI) tool (Table 1)14. Pre-diabetes was present in 19.4% (Proportion, 0.194; 95%
CI, 11.2%- 31.3%) (Extended data file 2, Figure 4) and IGT in
11.0% (Proportion, 0.110; 95% CI, 4.3%- 25.4%) (Extended
data file 2, Figure 510). Sensitivity analysis The sensitivity analysis was performed by excluding studies
that did not show any significant difference in the prevalence of
T2DM. BMI. Fixed-effect meta-analysis of five studies that reported
on the BMI indicated that with a BMI ≥24.9 kg/m2 the
odds of having T2DM is 2.19 times higher than with BMI
<24.9 kg/m2 (OR, 2.197; 95% CI, 1.799-2.683) (Figure 5). Quantitative synthesis A total of 15 studies were included in the quantitative analysis. BP. Fixed-effect meta-analysis of three studies that have
reported on T2DM status in relation with BP has indicated that
the odds of individuals with normal BP having T2DM is 62.1%
lower than those with high BP (OR, 0.379; 95% CI,
0.290-0.495) (Figure 8). Prevalence of T2DM The random effects meta-analysis assessment of 15 studies
indicated T2DM prevalence at 10% (95% CI, 7.1%- 13.9%)
(Figure 2). Sensitivity analysis was performed with the exclusion
of individual studies which resulted in no significant differences
in the prevalence of T2DM (Extended data file 2, Figure 110) Literacy. The assessment of four studies that reported on
T2DM based on literacy status did not show any significant
differences in T2DM between literate and illiterate groups
(OR, 1.165; 95% CI, 0.664-2.045; I2, 93.61%) (Figure 9). The assessment of T2DM prevalence between 2010–2015 with
the use of random-effects meta-analysis was 7.75% (Propor-
tion, 0.0775; 95% CI, 0.0367-0.1561; studies: 4; I2:99.62),
while this value increased to 11.24%, between 2015–2020
(Proportion, 0.1124; 95% CI, 0.0789-0.1577; I2: 96.74) (Figure 3). Family history. The random-effects meta-analysis of three stud-
ies indicated that the odds of T2DM in individuals without a
family history of T2DM were 67.3% lower in comparison to
those with a family history (OR, 0.327; 95% CI, 0.202-0.529;
I2, 56.62%) (Figure 10). In relation to the study setting, the re-analysis of the data with
the use of the random-effects model showed that 10.4% among
surveyed adult population based on community-based studies Page 4 of 24 Page 4 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Table 1. JBI checklist for bias assessment. Author/year
Was the
sample
frame
appropriate
to address
the target
population? Were study
participants
sampled
in an
appropriate
way? Was the
sample size
adequate? Were the
study
subjects
and the
setting
described
in detail? Was the
data
analysis
conducted
with
sufficient
coverage
of the
identified
sample? Were valid
methods
used for the
identification
of the
condition? Was the
condition
measured in
a standard,
reliable
way for all
participants? Was there
appropriate
statistical
analysis? Was the
response rate
adequate, and
if not, was the
low response
rate managed
appropriately? Sharma B16 et al. 2019
yes
yes
No
Yes
Yes
yes
yes
yes
yes
Gyawali B17 et al. 2018
yes
yes
Yes
Yes
Yes
yes
yes
yes
yes
Sharma SK18 et al. 2011
yes
yes
Yes
Yes
Yes
yes
yes
yes
yes
Sharma SK19 et al. 2013
yes
yes
Yes
Yes
yes
yes
yes
yes
yes
Chhetri MR20 et al. 2009
yes
yes
Yes
Yes
yes
yes
yes
yes
yes
Paudyal G21 et al. 2008
yes
yes
Yes
Yes
yes
yes
yes
yes
yes
Bhandari GP22 et al. Prevalence of T2DM 2014
yes
yes
Yes
Yes
yes
yes
yes
no
yes
Karki P23 et al. 2000
yes
yes
Yes
Yes
yes
yes
yes
no
yes
Paudel S24 et al. 2020
yes
yes
Yes
Yes
yes
yes
yes
yes
yes
Koirala S25 et al. 2018
yes
yes
yes
Yes
yes
yes
yes
yes
yes
Ranabhat K26 et al. 2016
no
yes
no
Yes
yes
yes
yes
yes
yes
Mehta KD27 et al. 2011
yes
yes
yes
Yes
yes
yes
yes
yes
yes
Shrestha UK28 et al. 2006
yes
yes
yes
Yes
yes
yes
yes
yes
yes
Dhimal M29 et al. 2019
yes
no
yes
Yes
yes
yes
yes
yes
yes
Kushwaha A30 et al. 2020
no
yes
no
Yes
yes
yes
yes
yes
yes F1000Research 2021, 10:543 Last updated: 01 APR 2022 Discussion Fruits and vegetables intake. The data assessment of the two
studies that had reported on T2DM status in relation to fruits
and vegetable intake did not reach a significant difference (OR,
0.933; 95% CI, 0.441-1.976; I2, 78.72%). (Extended data file 2,
Figure 710). The prevalence of T2DM, pre-diabetes, and IGT in Nepal was
found to be 10%, 19.4%, and 11% respectively. Our results
show that in Nepal obesity is the highest risk factor for T2DM,
while individuals with normal waist circumference and lack
of family history of T2DM had lower risk of T2DM. Publication bias. Publication bias among the included stud-
ies were tested with the use of Egger’s test and was presented
in a Funnel plot. The prevalence of T2DM in the Funnel plot
showed an asymmetric distribution of studies, which suggested
publication bias (Extended data file 2, Figure 810). The estimated prevalence of T2DM was higher than that
reported in WHO STEP wise approach to Surveillance (STEPS)
survey in 2013 (3.6%), and previous meta-analyses (8.4% and
8.5%)5,6,31. Similarly, the estimated prevalence of pre-diabetes Figure 1. PRISMA flow diagram. Page 6 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Table 2. Qualitative summary. Author/s
Study
Year
Study Design
Sample Size
Study Area
Pre-diabetes
T2DM
IGT
Dhimal M29 et al. 2019
2019
Cross-sectional study
12557
72 districts (all provinces)
1067/12557
Shrestha UK28 et al. 2006
2006
Cross-sectional study
1012
Seven wards of metropolitan and
sub-metropolitan of Nepal
192/1012
107/1012
Kushwaha A30 et al. 2020
2020
Cross-sectional study
114
Community Hospital
5/114
Sharma B16 et al. 2019
2019
Cross-sectional study
320
Morang
55/320
38/320
57/320
Gyawali B17 et al. 2018
2018
Cross-sectional study
2310
Lekhnath municipality
302/2310
271/2310
Sharma SK18 et al. 2011
2011
Cross-sectional study
14425
Eastern Nepal
889/14008
Sharma SK19 et al. 2013
2013
Cross-sectional study
3218
Dharan
242/3218
Chhetri MR20 et al. 2009
2009
Cross-sectional study
1633
Kathmandu valley
422/1633
Paudyal G21 et al. 2008
2008
Cross-sectional study
1475
Mulpani ,Gothar Kathmandu valley
60/1475
34/1475
Bhandari G22 et al. 2014
2014
Cross-sectional study
11901
31 selected hospital institutions
(28 non-speciality and 3 speciality)
391/11901
Karki P23 et al. 2000
2000
Cross-sectional Study
1,840
Outpatient clinic of BPKIHS
116/1840
Paudel S24 et al. 2020
2020
Secondary analysis of
the data
1977
Across Nepal
179/1977
Koirala S25 et al. 2018
2018
Cross-sectional study
188(85M/103F)
Mustang district
59/188
9/188
Ranabhat K26 et al. 2016
2016
Cross-sectional study
154 (80M/74F)
Tribhuwan University Teaching
Hospital of Nepal
66/154
Mehta KD27 et al. 2011
2011
Cross-sectional study
2006(1096M/910F)
Sunsari , Eastern Nepal
422/2006
80/289
BPKIHS, B.P. Koirala Institute of Health Sciences; F, female; IGT, Impaired Glucose Test; M, Male. Table 2. Qualitative summary. Author/s
Study
Year
Study Design
Sample Size
Study Area
Pre-diabetes
T2DM
IGT
Dhimal M29 et al. 2019
2019
Cross-sectional study
12557
72 districts (all provinces)
1067/12557
Shrestha UK28 et al. 2006
2006
Cross-sectional study
1012
Seven wards of metropolitan and
sub-metropolitan of Nepal
192/1012
107/1012
Kushwaha A30 et al. 2020
2020
Cross-sectional study
114
Community Hospital
5/114
Sharma B16 et al. 2019
2019
Cross-sectional study
320
Morang
55/320
38/320
57/320
Gyawali B17 et al. 2018
2018
Cross-sectional study
2310
Lekhnath municipality
302/2310
271/2310
Sharma SK18 et al. 2011
2011
Cross-sectional study
14425
Eastern Nepal
889/14008
Sharma SK19 et al. 2013
2013
Cross-sectional study
3218
Dharan
242/3218
Chhetri MR20 et al. 2009
2009
Cross-sectional study
1633
Kathmandu valley
422/1633
Paudyal G21 et al. Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. 2008
2008
Cross-sectional study
1475
Mulpani ,Gothar Kathmandu valley
60/1475
34/1475
Bhandari G22 et al. 2014
2014
Cross-sectional study
11901
31 selected hospital institutions
(28 non-speciality and 3 speciality)
391/11901
Karki P23 et al. 2000
2000
Cross-sectional Study
1,840
Outpatient clinic of BPKIHS
116/1840
Paudel S24 et al. 2020
2020
Secondary analysis of
the data
1977
Across Nepal
179/1977
Koirala S25 et al. 2018
2018
Cross-sectional study
188(85M/103F)
Mustang district
59/188
9/188
Ranabhat K26 et al. 2016
2016
Cross-sectional study
154 (80M/74F)
Tribhuwan University Teaching
Hospital of Nepal
66/154
Mehta KD27 et al. 2011
2011
Cross-sectional study
2006(1096M/910F)
Sunsari , Eastern Nepal
422/2006
80/289
BPKIHS, B.P. Koirala Institute of Health Sciences; F, female; IGT, Impaired Glucose Test; M, Male. Page 7 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Figure 5. Forest plot showing BMI category and T2DM in Nepal. F1000Research 2021, 10:543 Last updated: 01 APR 2022 F1000Research 2021, 10:543 Last updated: 01 APR 2022 increased sedentary behaviors with limited physical activities
have contributed to the rise of overweight and obesity among
children and adolescents33. Rapid development of the economic
situation in developing countries like Nepal has resulted in a
change of diet rich in cereal and vegetables to one with animal
products and processed food with high fat and sugar content34. In
a study by Hills et al. the prevalence of overweight in Nepal was in our study was almost double than what has been
reported in other studies5,6. One explanation for this find-
ing can be the rapid urbanization, and migration from rural to
urban areas which has promoted a sedentary lifestyle among
individuals, along with consumption of unhealthy foods32. As per our study, high BMI was the main cause of T2DM in
Nepal. In South Asia, lifestyle factors such as poor diet, and Figure 2. Prevalence of T2DM in Nepal. Figure 2. Prevalence of T2DM in Nepal. Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. Page 8 o Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. Figure 3. Prevalence of T2DM in Nepal taking consideration of time frame from 2010–2020. Page 8 of 24 Page 8 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 estimated to be 16.7%, with a higher prevalence in women
(19.6%) compared to men (13.6%)34. Obesity is closely linked with premature onset of T2DM and cardiovascular disease35. A similar increasing trend of T2DM led by obesity is seen in with premature onset of T2DM and cardiovascular disease35. A similar increasing trend of T2DM led by obesity is seen in Figure 4. Forest plot showing exercise status and T2DM in Nepal. Figure 4. Forest plot showing exercise status and T2DM in Nepal. Figure 5. Forest plot showing BMI category and T2DM in Nepal. Figure 4. Forest plot showing exercise status and T2DM in Nepal. Figure 7. Forest plot showing alcohol consumption status and T2DM in Nepal. Page 9 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Figure 6. Forest plot showing smoking status and T2DM in Nepal. Figure 6. Forest plot showing smoking status and T2DM in Nepal. Fi
7 F
l
h
i
l
h l
i
d T2DM i
N
l Figure 6. Forest plot showing smoking status and T2DM in Nepal. Figure 9. Forest plot showing literacy status and T2DM in Nepal. Figure 8. Forest plot showing blood pressure status and T2DM in Nepal. Figure 8. Forest plot showing blood pressure status and T2DM in Nepal. Page 10 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Forest plot showing blood pressure status and T2DM in Nepal. Figure 8. Forest plot showing blood pressure status and T2DM in Nepal. Page 11 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 re 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal. Figure 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal. Figure 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal Africa as well36. It is important to target T2DM risk factors
in order to take control of this disease in Nepal. Physicians
advise for special diet and regular exercise for diabetic patients,
however, there are noncompliance has been observed in Nepa-
lese population37. Our findings highlight the importance of
exercise and a healthy diet to prevent the increased morbidity
among individuals with T2DM in this country. Shrestha et al. found that the T2DM awareness to be low, with nearly half of
the population unaware of the fact that they had this disease6. Increasing public awareness about non-communicable diseases
like T2DM and hypertension, and the need to implement a
healthy lifestyle is of paramount importance given that our
results indicated that individuals with normal blood pressure
had less chance of developing T2DM compared to those with
hypertension. Increased intake of oily foods, reusing cook-
ing oils which can cause increased conversion of unsaturated
fats to trans fats, and low consumption of fruits and vegetables
have been found throughout South Asia38,39. These unhealthy
dietary habits lead to increased risks of non-communicable dis-
eases like T2DM and hypertension. Thus, interventions are
needed to better manage the overweight and obesity epidemic. This can be achieved through various measures such as open-
ing public parks in the cities for exercise, educating the
population about what a healthy lifestyle entails such as
decreasing the intake of oily foods, increasing the intake
of fruits and vegetable, as well as improving the quality of
food. Our study has several strengths. Firstly, we performed
comprehensive literature search to pool the results of fifteen studies over the last twenty years to evaluate the prevalence
of T2DM in Nepal. In addition, no prior meta-analysis has
evaluated the risk factors for T2DM, specifically IGT in Nepal,
prior to our study. We also analyzed data based on a time
frame, where significant increase in T2DM prevalence was
observed in Nepal when comparing 2010–2015 with 2015–2020. Our study had some limitations. There was heterogeneity in
the studies due to variation in the T2DM diagnostic criteria,
different demographics of the population, etc. Most of the
included studies were based on specific areas such as province
1 and 3, and not enough studies have been done on a national
scale. Finally, risk factors for T2DM were not reported in
all the studies that were included. Conclusion The prevalence of T2DM, pre-diabetes and IGT in Nepal was
estimated to be 10%, 19.4% and 11% respectively. Obesity
is the major risk factor of T2DM in Nepal and people with
normal waist circumference, normal blood pressure and lack
of family history of T2DM had lower odds of developing
this disease. Figure 10. Forest plot showing the family history of T2DM and Diabetes status in patients in Nepal. p;
;
(
)
PubMed Abstract | Publisher Full Text PubMed Abstract | Publisher Full Text
8. Stroup DF, Berlin JA, Morton SC, et al.: Meta-analysis of observational studies
in epidemiology: A proposal for reporting. Meta-analysis Of Observational
Studies in Epidemiology (MOOSE) group. JAMA. 2000; 283(15): 2008–12. PubMed Abstract | Publisher Full Text
9. Budhathoki P, Shrestha D, Marahatta A, et al.: Diabetes Mellitus in Nepal,
A Meta-Analysis of prevalence and risk factor studies. PROSPERO
CRD42020215247. 2020; [cited 2021 May 19]. Reference Source
10. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Extended data- Diabetes Mellitus
in Nepal from 2000 to 2020: A systematic review and meta-analysis. 2021;
[cited 2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14854065.v1
11. Covidence systematic review software, Veritas Health Innovation,
Melbourne, Australia. [cited 2021 May 13]. Reference Source
12. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Diabetes Mellitus in Nepal from
2000 to 2020: A systematic review and meta-analysis. figshare. 2021; [cited
2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14706648.v1
13. American Diabetes Association: Diagnosis and classification of diabetes 8. Stroup DF, Berlin JA, Morton SC, et al.: Meta-analysis of observational studies
in epidemiology: A proposal for reporting. Meta-analysis Of Observational
Studies in Epidemiology (MOOSE) group. JAMA. 2000; 283(15): 2008–12. PubMed Abstract | Publisher Full Text 21. Paudyal G, Shrestha MK, Meyer JJ, et al.: Prevalence of diabetic retinopathy
following a community screening for diabetes. Nepal Med Coll J. Nepal
Pediatric Ocular Diseases Study View project Reconstructing Nepali Population
History View project Prevalence of diabetic retinopathy following a community
screening for diabetes. 2008; 10(3): 160–3. PubMed Abstract 9. Budhathoki P, Shrestha D, Marahatta A, et al.: Diabetes Mellitus in Nepal,
A Meta-Analysis of prevalence and risk factor studies. PROSPERO
CRD42020215247. 2020; [cited 2021 May 19]. Reference Source 22. Bhandari GP, Angdembe MR, Dhimal M, et al.: State of non-communicable
diseases in Nepal. BMC Public Health. 2014; 14(1): 23. PubMed Abstract | Publisher Full Text | Free Full Text 10. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Extended data- Diabetes Mellitus
in Nepal from 2000 to 2020: A systematic review and meta-analysis. 2021;
[cited 2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14854065.v1 23. Karki P, Baral N, Lamsal M, et al.: Prevalence of non-insulin dependent
diabetes mellitus in urban areas of eastern Nepal: a hospital based study. Southeast Asian J Trop Med Public Health. 2000; 31(1): 163–6. PubMed Abstract 24. Data availability statement
Underlying data Figshare: Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis https://doi.org/10.6084/m9.figshare.14706648.v112 Page 12 of 24 Page 12 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Data are available under the terms of the Creative Commons
Zero “No rights reserved” data waiver (CC0 1.0 Public domain
dedication). The project contains the following underlying data: Dataset: Quantitative data, glycemic control, socio-economic
status, BMI, exercise, T2DM prevalence, waist circumfer-
ence, family history, fruit and vegetable serving per day, alcohol
consumption, smoking, education, and BP) )
PubMed Abstract | Publisher Full Text | Free Full Text 2. Saeedi P, Petersohn I, Salpea P, et al.: Global and regional diabetes
prevalence estimates for 2019 and projections for 2030 and 2045: Results
from the International Diabetes Federation Diabetes Atlas, 9 th edition. Diabetes Res Clin Pract. 2019; 157: 107843. PubMed Abstract | Publisher Full Text 14. critical-appraisal-tools: Critical Appraisal Tools. Joanna Briggs Institute. [cited
2020 Dec 18]. Reference Source 15. 9.5.2 Identifying and measuring heterogeneity. [cited 2020 Dec 18]. Reference Source 3. Yau JW, Rogers SL, Kawasaki R, et al.: Global prevalence and major risk
factors of diabetic retinopathy. Diabetes Care. 2012; 35(3): 556–64. PubMed Abstract | Publisher Full Text | Free Full Text 16. Sharma B, Khanal VK, Jha N, et al.: Study of the magnitude of diabetes and
its associated risk factors among the tuberculosis patients of Morang,
Eastern Nepal. BMC Public Health. 2019; 19(1): 1545. PubMed Abstract | Publisher Full Text | Free Full Text 4. Khanal P, Nielsen MO: Is foetal programming by mismatched pre- And
postnatal nutrition contributing to the prevalence of obesity in Nepal? Prev Nutr Food Sci. Korean Society of Food Science and Nutrition; 2019; 24(3):
235–44. 17. Gyawali B, Hansen MRH, Povlsen MB, et al.: Awareness, prevalence,
treatment, and control of type 2 diabetes in a semi-urban area of Nepal:
Findings from a cross-sectional study conducted as a part of COBIN-D trial. PLoS One. 2018; 13(11): e0206491. PubMed Abstract | Publisher Full Text | Free Full Text 2011: 821971.
PubMed Abstract | Publisher Full Text | Free Full Text 19. Sharma SK, Dhakal S, Thapa L, et al.: Community-based screening for chronic
kidney disease, hypertension and diabetes in dharan. JNMA J Nepal Med
Assoc. 2013; 52(189): 205–12. PubMed Abstract | Publisher Full Text 235 44.
PubMed Abstract | Publisher Full Text | Free Full Text 5. Gyawali B, Sharma R, Neupane D, et al.: Prevalence of type 2 diabetes in
Nepal: a systematic review and meta-analysis from 2000 to 2014. Glob
Health Action. 2015; 8(1): 29088. PubMed Abstract | Publisher Full Text | Free Full Text 18. Sharma SK, Ghimire A, Radhakrishnan J, et al.: Prevalence of hypertension,
obesity, diabetes, and metabolic syndrome in Nepal. Int J Hypertens. 2011;
2011: 821971. PubMed Abstract | Publisher Full Text | Free Full Text 6. Shrestha N, Mishra SR, Ghimire S, et al.: Burden of Diabetes and Prediabetes
in Nepal: A Systematic Review and Meta-Analysis. Diabetes Ther. Adis; 2020;
11(9): 1935–46. PubMed Abstract | Publisher Full Text | Free Full Text Extended data DBS, PB, and YRS contributed to the concept and design,
analysis, and interpretation of data. DBS, PB, AM, SL, SN,
AA, and AP contributed to the literature search, data extraction,
review, and initial manuscript drafting. YRS, SN, and AA
interpretation of data, revising the manuscript for important
intellectual content, and approval of the final manuscript. Figshare: Diabetes Mellitus in Nepal from 2000 to 2020: A
systematic review and meta-analysis https://doi.org/10.6084/m9.figshare.14854065.v110 https://doi.org/10.6084/m9.figshare.14854065.v110 The project contains the following underlying data:i The project contains the following underlying data:i •
Data file 1: Electronic search details •
Data file 2: Additional analysis All authors were involved in drafting and revising the
manuscript and approved the final version. •
Data file 3: PRISMA checklist ( )
PubMed Abstract | Publisher Full Text | Free Full Text 7. Mishra SR, Kallestrup P, Neupane D: Country in Focus: confronting the
challenge of NCDs in Nepal. Lancet Diabetes Endocrinol. Lancet Publishing
Group; 2016; 4(12): 979–80. PubMed Abstract | Publisher Full Text 20. Chhetri MR, Chapman RS: Prevalence and determinants of diabetes among
the elderly population in the Kathmandu Valley of Nepal. Nepal Med Coll J. 2009; 11(1): 34–8. PubMed Abstract References 1. IDF Diabetes Atlas 9th edition. 2019; [cited 2021 Mar 29]. (
)
PubMed Abstract | Publisher Full Text 37. Ghimire S: Barriers to Diet and Exercise among Nepalese Type 2 Diabetic
Patients. Int Sch Res Notices. 2017; 2017: 1273084. PubMed Abstract | Publisher Full Text | Free Full Textf 2020; 58(225): 314 7.
PubMed Abstract | Publisher Full Text | Free Full Text 31. Aryal KK, Mehata S, Neupane S, et al.: The burden and determinants of non
communicable diseases risk factors in Nepal: Findings from a nationwide
STEPS survey. PLoS One. 2015; 10(8): e0134834. PubMed Abstract | Publisher Full Text | Free Full Text 2017; 42(2): 228 34.
PubMed Abstract | Publisher Full Text 27. Mehta KD, Karki P, Lamsal M, et al.: Hyperglycemia, glucose intolerance,
hypertension and socioeconomic position in eastern Nepal. Southeast Asian
J Trop Med Public Health. 2011; 42(1): 197–207. PubMed Abstract p
(
)
PubMed Abstract | Publisher Full Text 29. Dhimal M, Karki KB, Sharma SK, et al.: Prevalence of Selected Chronic Non-
Communicable Diseases in Nepal. J Nepal Health Res Counc. 2019; 17(3):
394–401. PubMed Abstract | Publisher Full Text Full Text 35. Gupta N, Goel K, Shah P, et al.: Childhood obesity in developing countries:
Epidemiology, determinants, and prevention. Endocr Rev. 2012; 33(1): 48–70. PubMed Abstract | Publisher Full Text 28. Shrestha UK, Singh DL, Bhattarai MD: The prevalence of hypertension and
diabetes defined by fasting and 2-h plasma glucose criteria in urban
Nepal. Diabet Med. 2006; 23(10): 1130–5. PubMed Abstract | Publisher Full Text 36. NCD Risk Factor Collaboration (NCD-RisC): Trends in adult body-mass index
in 200 countries from 1975 to 2014: a pooled analysis of 1698 population-
based measurement studies with 19·2 million participants. Lancet. 2016;
387(10026): 1377–96. PubMed Abstract | Publisher Full Text 34.
Hills AP, Arena R, Khunti K, et al.: Epidemiology and determ
diabetes in south Asia. Lancet Diabetes Endocrinol. Lancet
2018; 6(12): 966–78.
PubMed Abstract | Publisher Full Text 34. Hills AP, Arena R, Khunti K, et al.: Epidemiology and determinants of type 2
diabetes in south Asia. Lancet Diabetes Endocrinol. Lancet Publishing Group;
2018; 6(12): 966–78. PubMed Abstract | Publisher Full Text PubMed Abstract | Publisher Full Text 30. Kushwaha A, Kadel AR: Prevalence of type 2 diabetes mellitus among people
attending medical camp in a community hospital. JNMA J Nepal Med Assoc. 2020; 58(225): 314–7. PubMed Abstract | Publisher Full Text | Free Full Text 38. Bhardwaj S, Passi SJ, Misra A, et al.: Effect of heating/reheating of fats/oils, as
used by Asian Indians, on trans fatty acid formation. Food Chem. 2016; 212:
663–70. PubMed Abstract | Publisher Full Text p;
;
(
)
PubMed Abstract | Publisher Full Text Paudel S, Tran T, Owen AJ, et al.: The contribution of physical inactivity and
socioeconomic factors to type 2 diabetes in Nepal: A structural equation
modelling analysis. Nutr Metab Cardiovasc Dis. 2020; 30(10): 1758–67. PubMed Abstract | Publisher Full Text 12. Shrestha DB, Budhathoki P, Sedhai YR, et al.: Diabetes Mellitus in Nepal from
2000 to 2020: A systematic review and meta-analysis. figshare. 2021; [cited
2021 Jun 27]. http://www.doi.org/10.6084/m9.figshare.14706648.v1 i
13. American Diabetes Association: Diagnosis and classification of diabetes 25. Koirala S, Nakano M, Arima H, et al.: Current health status and its risk factors F1000Research 2021, 10:543 Last updated: 01 APR 2022 J Glob Health. 2019; 9(2): 020301. PubMed Abstract | Publisher Full Text | Free Full Text J Glob Health. 2019; 9(2): 020301. PubMed Abstract | Publisher Full Text | Free Full Text J Glob Health. 2019; 9(2): 020301. PubMed Abstract | Publisher Full Text | Free Full Text of the Tsarang villagers living at high altitude in the Mustang district of
Nepal. J Physiol Anthropol. 2018; 37(1): 20. 33. Misra A, Khurana L: Obesity and the metabolic syndrome in developing
countries. J Clin Endocrinol Metab. 2008; 93(11 Suppl 1): S9–30. PubMed Abstract | Publisher Full Text 26. Ranabhat K, Mishra SR, Dhimal M, et al.: Type 2 Diabetes and Its correlates:
A Cross Sectional Study in a Tertiary Hospital of Nepal. J Community Health. 2017; 42(2): 228–34. PubMed Abstract | Publisher Full Text PubMed Abstract | Publisher Full Text 39. Kanungsukkasem U, Ng N, Van Minh H, et al.: Fruit and vegetable
consumption in rural adults population in indepth hdss sites in asia. Glob
Health Action. 2009; 2(1): 35–43. PubMed Abstract | Publisher Full Text | Free Full Text 39. Kanungsukkasem U, Ng N, Van Minh H, et al.: Fruit and vegetable
consumption in rural adults population in indepth hdss sites in asia. Glob
Health Action. 2009; 2(1): 35–43. PubMed Abstract | Publisher Full Text | Free Full Text 32. Adhikari B, Mishra SR: Culture and epidemiology of diabetes in South Asia. Page 14 of 24 Page 14 of 24 Open Peer Review Current Peer Review Status: https://doi.org/10.5256/f1000research.77195.r93501 © 2021 Juntarawijit C. This is an open access peer review report distributed under the terms of the Creative
Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium,
provided the original work is properly cited. Chudchawal Juntarawijit
Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resources, and
Environment, Naresuan University, Phitsanulok, Thailand
Although the author has addressed some of my comments, there were still a few important points
to be elaborated on before final approval. Prevalence of pre-diabetes and T2DM were largely different from those found in previous
meta-analysis studies, one recently published in the year 2020. This inconsistency may not
be solely explained by the fact that there was a rapid increase in urbanization and lifestyle
change as claimed by the authors. ○ Version 2 © 2021 Basnet S. This is an open access peer review report distributed under the terms of the Creative Commons
Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the
original work is properly cited. Competing Interests: No competing interests were disclosed. I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard. Reviewer Report 07 September 2021 https://doi.org/10.5256/f1000research.77195.r93501 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Open Peer Review
Current Peer Review Status:
Version 2
Reviewer Report 22 September 2021
https://doi.org/10.5256/f1000research.77195.r93500
© 2021 Basnet S. This is an open access peer review report distributed under the terms of the Creative Com
Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided
original work is properly cited. Sijan Basnet
Department of Internal Medicine, Reading Hospital and Medical Centre, West Reading, PA, U
Thank you for adding limitations to your article. Competing Interests: No competing interests were disclosed. Reviewer Expertise: Internal Medicine
I confirm that I have read this submission and believe that I have an appropriate level
expertise to confirm that it is of an acceptable scientific standard. Reviewer Report 07 September 2021
https://doi.org/10.5256/f1000research.77195.r93501
© 2021 Juntarawijit C. This is an open access peer review report distributed under the terms of the Creative
Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium
provided the original work is properly cited. Chudchawal Juntarawijit
Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resourc
Environment, Naresuan University, Phitsanulok, Thailand
Although the author has addressed some of my comments there were still a few important
p Open Peer Review Version 1 Reviewer Report 06 September 2021 https://doi.org/10.5256/f1000research.57408.r89248 https://doi.org/10.5256/f1000research.57408.r89248 © 2021 Gyawali P. This is an open access peer review report distributed under the terms of the Creative
Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium,
provided the original work is properly cited. Prajwal Gyawali
School of Health and Wellbeing, Faculty of Health, Engineering and Sciences, University of
Southern Queensland, Toowoomba, QLD, Australia Chudchawal Juntarawijit Although the author has addressed some of my comments, there were still a few important points
to be elaborated on before final approval. Prevalence of pre-diabetes and T2DM were largely different from those found in previous
meta-analysis studies, one recently published in the year 2020. This inconsistency may not
be solely explained by the fact that there was a rapid increase in urbanization and lifestyle
change as claimed by the authors. ○ Page 15 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 The main study objective was to identify risk factors. However, information on the issues
was very limited, and the study failed to identify some common risk factors, e.g. cigarette
smoking, alcohol consumption, fruit and vegetable intake, and exercise. The association
between these common risk factors and diabetes has been well supported by various
studies from different countries. The discrepancy might cause by bias or the study
limitations, e.g. small sample size. To avoid any misleading and faulty conclusions, further
discussion and study limitations should be explicitly presented. The discussion section
should be reorganized into subsections by the risk factors. In the discussion and conclusion, the author stated that obesity was the only major risk
factor. However, the relative strength of the contribution of individual factors was not
analyzed or adequately discussed before. As mention earlier, this might cause misleading. ○ The quality of every figure was still needed to be improved as already suggested. ○ Competing Interests: No competing interests were disclosed. Competing Interests: No competing interests were disclosed. Reviewer Expertise: Environmental health science I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard, however I have
significant reservations, as outlined above. References 1. Gyawali B, Sharma R, Neupane D, Mishra SR, et al.: Prevalence of type 2 diabetes in Nepal: a
systematic review and meta-analysis from 2000 to 2014.Glob Health Action. 2015; 8: 29088 PubMed
Abstract | Publisher Full Text
2. Shrestha N, Mishra SR, Ghimire S, Gyawali B, et al.: Burden of Diabetes and Prediabetes in
Nepal: A Systematic Review and Meta-Analysis.Diabetes Ther. 2020; 11 (9): 1935-1946 PubMed
Abstract | Publisher Full Text B) Methods )
The authors have reported the prevalence of impaired glucose tolerance and prediabetes. Why were these keywords not used in the search strategy? Likewise, have the authors used
the terminology 'glucose' as a keyword in a search strategy? 1. C) Di
i The metanalysis published in 2020 by Shrestha N. et al.2 included 14 papers in the final
analysis. All papers were after 2000. They reported the prevalence of pre-diabetes is much
less than what the current paper has reported. The reason provided by the authors for this
large difference is not properly addressed in the discussion. This is very important to
address. 1. The papers should be discussed in sub-sections. 2. reference is more focused on foetal programming contributing to the prevalence of obesity
in Nepal. reference is more focused on foetal programming contributing to the prevalence of obesity
in Nepal. There are already two systematic reviews published in this sector, references 5 and 6:
3. There are already two systematic reviews published in this sector, references 5 and 6:
Gyawali B, Sharma R, Neupane D, et al.: Prevalence of type 2 diabetes in Nepal: a systematic
review and meta-analysis from 2000 to 20141. Shrestha N, Mishra SR, Ghimire S, et al.: Burden of Diabetes and Prediabetes in Nepal: A
Systematic Review and Meta-Analysis2. 3. Authors need to provide a valid reason for conducting this systematic review in the same
area in the background section. Paper by Shrestha N. et al.2 was published less than 1 year
ago and they have included 14 papers for the final analysis
4. Gyawali B, Sharma R, Neupane D, et al.: Prevalence of type 2 diabetes in Nepal: a systematic
review and meta-analysis from 2000 to 20141. Shrestha N, Mishra SR, Ghimire S, et al.: Burden of Diabetes and Prediabetes in Nepal: A
Systematic Review and Meta-Analysis2. Authors need to provide a valid reason for conducting this systematic review in the same
area in the background section. Paper by Shrestha N. et al.2 was published less than 1 year
ago and they have included 14 papers for the final analysis. 4. A) Background A) Background Please check for sentence structure;
"In 2019, the International Diabetes Federation (IDF) estimated that 463 million adults worldwide
had diabetes1. The statistics showed that these individuals were in the age range of 20 to 79,
have diabetes, and 79.4% were from low- and middle-income countries."
1. Reference number 4 used in the background does not match with the authors' claim. This
2. Reference number 4 used in the background does not match with the authors' claim. This
2. Reference number 4 used in the background does not match with the authors' claim. This
2. Page 16 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Chudchawal Juntarawijit Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resources, and
Environment, Naresuan University, Phitsanulok, Thailand Department of Natural Resources and Environment, Faculty of Agriculture, Natural Resources, and
Environment, Naresuan University, Phitsanulok, Thailand https://doi.org/10.5256/f1000research.57408.r91625 © 2021 Juntarawijit C. This is an open access peer review report distributed under the terms of the Creative
Commons Attribution License, which permits unrestricted use, distribution, and reproduction in any medium,
provided the original work is properly cited. I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard, however I have
significant reservations, as outlined above. Reviewer Report 13 August 2021 https://doi.org/10.5256/f1000research.57408.r91625 Are sufficient details of the methods and analysis provided to allow replication by others?
No Is the statistical analysis and its interpretation appropriate? I cannot comment. A qualified statistician is required. Are the conclusions drawn adequately supported by the results presented in the review? Are the conclusions drawn adequately supported by the results presented in the review? Page 17 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 y
Competing Interests: No competing interests were disclosed. Reviewer Expertise: Stroke
I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard, however I have
significant reservations, as outlined above. Competing Interests: No competing interests were disclosed. Background: In the introduction, more information about the prevalence and risk factors of diabetes
should be presented and reorganized for easy reading. The research problem and
hypothesis also need to be clearly articulated. 1. The rationale for the review was also not clearly described in the context of what is already
known. As there have been few studies in Nepal, it was not a good reason for conducting
meta-analysis. Doing a meta-analysis using a small number of studies might cause bias. 2. h d Methods: In an attempt to identify diabetes risk factors, the study limited only those studies from
Nepal. How this will affect the study results? 4. Conclusion: In the conclusion statement, only obesity was claimed to cause diabetes. This conclusion
might need more justification since obesity and other risk factors were not extensively
discussed. This result was also in contrast to that observed by Jayawardena et al.2, a similar
study using data from all countries in South Asia. In that study, family history, urban
residency, age, higher BMI, sedentary lifestyle, hypertension, and waist-hip ratio were found
to be associated with an increased risk of diabetes. 1. The conclusion statement should also provide study limitations and recommendations for
public health use. 2. The conclusion statement should also provide study limitations and recommendations for
public health use. 2. Is the statistical analysis and its interpretation appropriate?
Partly Are the conclusions drawn adequately supported by the results presented in the review? Partly Methods: Study methods were poorly described and hard to read (see a good example study by
Miller et al.1). To help readers replicate the study, the authors should provide more detailed
information on electronic search strategy, methods of results synthesis, and sensitivity
analysis. 1. Using only the global search engine, e.g. PubMed, Embase, Scopus, and Google Scholar
might cause publication bias if there were some researches papers published locally or in
other databases. In point had not been mention in the study limitation. 2. Using only the global search engine, e.g. PubMed, Embase, Scopus, and Google Scholar
might cause publication bias if there were some researches papers published locally or in
other databases. In point had not been mention in the study limitation. 2. esults: Results were inadequately described. In the qualitative summary, the authors should
talk about the important features of the information in Table 1. In quantitative synthesis,
information on how the pooled prevalence was calculated is also needed. In every figure,
the total events should be indicated, and the figure legend should contain more
information. 1. Discussion:
In the Discussion, more information should be provided and reorganized for an easy read. 1. Discussion:
In the Discussion, more information should be provided and reorganized for an easy read. 1. Page 18 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 In the study limitation, the authors mention T2DM diagnostic criteria and demographic data
as a problem. However, the authors did not mention how the problems affect the results
and how the study handled them. 2. In the study limitation, the authors mention T2DM diagnostic criteria and demographic data
as a problem. However, the authors did not mention how the problems affect the results
and how the study handled them. 2. The statement: “Our finds highlight the importance of exercise and a healthy diet to prevent
the increased morbidity among individuals with T2DM in this country”, needs more
justification. Was the information from the results of this study or from the literature? 3. The statement: “Our finds highlight the importance of exercise and a healthy diet to prevent
the increased morbidity among individuals with T2DM in this country”, needs more
justification. Was the information from the results of this study or from the literature? 3. In an attempt to identify diabetes risk factors, the study limited only those studies from
Nepal. How this will affect the study results? 4. References References
1. Miller K, Areerob P, Hennessy D, Gonçalves-Bradley D, et al.: Aerobic, resistance, and mind-body
exercise are equivalent to mitigate symptoms of depression in older adults: A systematic review
and network meta-analysis of randomised controlled trials. F1000Research. 2021; 9. Publisher Full
Text
2. Jayawardena R, Ranasinghe P, Byrne NM, Soares MJ, et al.: Prevalence and trends of the
diabetes epidemic in South Asia: a systematic review and meta-analysis.BMC Public Health. 2012; 12
: 380 PubMed Abstract | Publisher Full Text 1. Miller K, Areerob P, Hennessy D, Gonçalves-Bradley D, et al.: Aerobic, resistance, and mind-body
exercise are equivalent to mitigate symptoms of depression in older adults: A systematic review
and network meta-analysis of randomised controlled trials. F1000Research. 2021; 9. Publisher Full
Text
2. Jayawardena R, Ranasinghe P, Byrne NM, Soares MJ, et al.: Prevalence and trends of the
diabetes epidemic in South Asia: a systematic review and meta-analysis.BMC Public Health. 2012; 12
: 380 PubMed Abstract | Publisher Full Text Reviewer Expertise: Environmental health science Reviewer Expertise: Environmental health science I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard, however I have
significant reservations, as outlined above. Author Response 29 Aug 2021 Alok Atreya, Lumbini Medical College, Palpa, Nepal Background: In the introduction, more information about the prevalence and risk factors of
diabetes should be presented and reorganized for easy reading. The research problem and
hypothesis also need to be clearly articulated. Reply: Thank you for the comment. We have presented the situation of T2DM in a
funnel pattern in the background giving an overview of global, regional, and national
scenarios. We have rephrased and edited as per requirement by the reviewer’s
comment to further clarify the rationale. Are the conclusions drawn adequately supported by the results presented in the review?
Partly Competing Interests: No competing interests were disclosed. Page 19 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Reviewer Expertise: Environmental health science Reply: Thank you for the comment. We have presented the situation of T2DM in a
funnel pattern in the background giving an overview of global, regional, and national
scenarios. We have rephrased and edited as per requirement by the reviewer’s
comment to further clarify the rationale. The rationale for the review was also not clearly described in the context of what is already
known. As there have been few studies in Nepal, it was not a good reason for conducting
meta-analysis. Doing a meta-analysis using a small number of studies might cause bias. Reply: Thank you for the comment. We have edited the rationale as per requirement
by the reviewer’s comment to further clarify the rationale. We included 15 prevalence-
based studies with justifiable sample sizes and assessed the quality of those individual
studies using the JBI bias tool to reduce the bias of including studies. Due to the urge
of the evidence-based practice, we authors think pooling of the data from available
individual studies to give pooled prevalence is justifiable. Methods: Study methods were poorly described and hard to read (see a good example
study by Miller et al.1). To help readers replicate the study, the authors should provide more
detailed information on electronic search strategy, methods of results synthesis, and
sensitivity analysis. Reply: Thank you for the comment. We have conducted our study as per the standard
guideline and abide by the MOOSE checklist for the meta-analysis of observational
studies. Our electronic search details including the link, and additional sensitivity
analysis are available in the extended data file and shared publicly. Using only the global search engine, e.g. PubMed, Embase, Scopus, and Google Scholar
might cause publication bias if there were some researches papers published locally or in
other databases. In point had not been mention in the study limitation. Reply: Thank you for the comment. We have conducted our study as per the standard
guideline and abide by the MOOSE checklist for the meta-analysis of observational
studies. In Nepal, almost all Nepalese local journals are listed in NEPJOL (Nepalese
Journal Online), which is the common platform and all the published papers are Page 20 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 available through Google scholar so we included the Google scholar database in our
review, which is missed by some prior reviews. So, we authors believe including
Google scholar and other standard global databases won’t miss published literature. Results: Results were inadequately described. In the qualitative summary, the authors
should talk about the important features of the information in Table 1. In quantitative
synthesis, information on how the pooled prevalence was calculated is also needed. Are the rationale for, and objectives of, the Systematic Review clearly stated?
Yes Are sufficient details of the methods and analysis provided to allow replication by others? Yes
Is the statistical analysis and its interpretation appropriate? Yes
Are the conclusions drawn adequately supported by the results presented in the review? Reply: Thank you for the comment. We have presented the situation of T2DM in a
funnel pattern in the background giving an overview of global, regional, and national
scenarios. We have rephrased and edited as per requirement by the reviewer’s
comment to further clarify the rationale. This
conclusion might need more justification since obesity and other risk factors were not Page 21 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 extensively discussed. This result was also in contrast to that observed by Jayawardena et al. 2, a similar study using data from all countries in South Asia. In that study, family history,
urban residency, age, higher BMI, sedentary lifestyle, hypertension, and waist-hip ratio
were found to be associated with an increased risk of diabetes. The conclusion statement
should also provide study limitations and recommendations for public health use. Reply: Thank you for the comment. The conclusion statement states obesity as one of
the many major risk factors for diabetes. We kindly apologize, but we have not
claimed only obesity causes diabetes. The limitations have already been provided at
the end of the discussion section, so due to fear of duplication, we did not include
them in the conclusion section. Competing Interests: No competing interests were disclosed. Reviewer Report 29 July 2021 https://doi.org/10.5256/f1000research.57408.r89249 https://doi.org/10.5256/f1000research.57408.r89249 © 2021 Basnet S. This is an open access peer review report distributed under the terms of the Creative Commons
Attribution License, which permits unrestricted use, distribution, and reproduction in any medium, provided the
original work is properly cited. Reply: Thank you for the comment. We have presented the situation of T2DM in a
funnel pattern in the background giving an overview of global, regional, and national
scenarios. We have rephrased and edited as per requirement by the reviewer’s
comment to further clarify the rationale. In
every figure, the total events should be indicated, and the figure legend should contain
more information. Reply: Thank you for the comment. We elaborated qualitative summary as “A
qualitative summary of all 15 individual studies is presented in (Table 2). Nine studies
were done in a community setting while the rest six were done in the hospital setting. Two community-based studies and one hospital-based study included samples from
different parts of Nepal to represent the country, while the rest were loco-regional
studies.” For transparency of our work we made our data available in public data
repository Figshare; link: https://doi.org/10.6084/m9.figshare.14706648.v1. Regarding data pooling methods, based on heterogeneity we used a random or fixed-
effect model. And we mentioned the model used in every section before the
description of the individual results and forest plot. Regarding total events, I agree
with the reviewer, however, due to the default setting of the software CMA-3, we
could not edit the figure. Discussion: In the Discussion, more information should be provided and reorganized for an easy read. In the study limitation, the authors mention T2DM diagnostic criteria and demographic data
as a problem. However, the authors did not mention how the problems affect the results
and how the study handled them. The statement: “Our finds highlight the importance of
exercise and a healthy diet to prevent the increased morbidity among individuals with
T2DM in this country”, needs more justification. Was the information from the results of this
study or from the literature? Reply: Thank you for the comment. There are perceived barriers for the non-
compliance for physician’s advice to a special diet and regular exercise as shown in a
Nepalese study. We have added a reference to justify this statement. In an attempt to identify diabetes risk factors, the study limited only those studies from
Nepal. How this will affect the study results? Reply: Thank you for the comment. Diabetes prevalence and risk differ across
different societies and regions across the globe. This study is solely aimed to estimate
prevalence and risk factors in the context of Nepal to build foundation evidence to
make evidence-based practice in Nepal so may be different than other regions across
the globe. Conclusion: In the conclusion statement, only obesity was claimed to cause diabetes. Sijan Basnet j
Department of Internal Medicine, Reading Hospital and Medical Centre, West Reading, PA, USA This is a very well-written manuscript with robust statistical analysis. y
p
y
Please mention the limitations of your study if any. 1. y
p
y
Please mention the limitations of your study if any. 1. Most of the studies cited are from the 2010s. There is one from 2000 with 1840 subjects
from an outpatient clinic in a city that may not be representative of the country’s
demographics and one from 2006 with 1012 subjects from seven wards that are being used
to study the trend. Does this skew your results in any way? Also, the authors justify the
increasing prevalence of rapid urbanization but the above studies were done in cities. 2. Most of the studies cited are from the 2010s. There is one from 2000 with 1840 subjects
from an outpatient clinic in a city that may not be representative of the country’s
demographics and one from 2006 with 1012 subjects from seven wards that are being used
to study the trend. Does this skew your results in any way? Also, the authors justify the
increasing prevalence of rapid urbanization but the above studies were done in cities. 2. Is the statistical analysis and its interpretation appropriate?
Yes Are the conclusions drawn adequately supported by the results presented in the review? Are the conclusions drawn adequately supported by the results presented in the review? Are the conclusions drawn adequately supported by the results presented in the review? Page 22 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 Yes Competing Interests: No competing interests were disclosed. Reviewer Expertise: Internal Medicine I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard, however I have
significant reservations, as outlined above. I confirm that I have read this submission and believe that I have an appropriate level of
expertise to confirm that it is of an acceptable scientific standard, however I have
significant reservations, as outlined above. Author Response 29 Aug 2021 Alok Atreya, Lumbini Medical College, Palpa, Nepal Thank you for the comment. Due to the relatively few studies from 2000-2010. We did an
analysis based on a published study between 2010-2015, and 2015-2020 as “The assessment
of T2DM prevalence between 2010–2015 with the use of random-effects meta-analysis was
7.75% (Proportion, 0.0775; 95% CI, 0.0367-0.1561; studies: 4; I 2:99.62), while this value
increased to 11.24%, between 2015–2020 (Proportion, 0.1124; 95% CI, 0.0789-0.1577; I 2:
96.74)”. Analysis showed some increasing trends of T2DM in Nepal which is of concern. Being our meta-analysis is a secondary analysis of the published literature, we do have
some limitations due to primary studies variation. We have included our study limitations as
“Our study had some limitations. There was heterogeneity in the studies due to variation in
the T2DM diagnostic criteria, different demographics of the population, etc. Most of the
included studies were based on specific areas such as provinces 1 and 3, and not enough
studies have been done on a national scale. Finally, risk factors for T2DM were not reported
in all the studies that were included.” Competing Interests: No competing interests were disclosed. Competing Interests: No competing interests were disclosed. Page 23 of 24 F1000Research 2021, 10:543 Last updated: 01 APR 2022 The benefits of publishing with F1000Research:
Your article is published within days, with no editorial bias
•
You can publish traditional articles, null/negative results, case reports, data notes and more
•
The peer review process is transparent and collaborative
•
Your article is indexed in PubMed after passing peer review
•
Dedicated customer support at every stage
•
For pre-submission enquiries, contact research@f1000.com The benefits of publishing with F1000Research:
Your article is published within days, with no editorial bias
•
You can publish traditional articles, null/negative results, case reports, data notes and more
•
The peer review process is transparent and collaborative
•
Your article is indexed in PubMed after passing peer review
•
Dedicated customer support at every stage
•
For pre-submission enquiries, contact research@f1000.com The benefits of publishing with F1000Research: The benefits of publishing with F1000Research: Page 24 of 24
|
https://openalex.org/W3090716283
|
https://dipot.ulb.ac.be/dspace/bitstream/2013/314491/3/PAMJ-37-107.pdf
|
French
| null |
Expérience d´intégration de la santé mentale en première ligne de soins en Guinée
|
The Pan African medical journal
| 2,020
|
cc-by
| 5,240
|
Abdoulaye Sow, Bart Criel, Bernard Branger, Michel Roland, Myriam De Spiegelaere Abdoulaye Sow, Bart Criel, Bernard Branger, Michel Roland, Myriam De Spiegelaere Corresponding author: Abdoulaye Sow, Ecole de Santé Publique, Université Libre de Bruxelles, Bruxelles, Belgique. drsowab@msn.com Received: 14 Sep 2019 - Accepted: 21 Aug 2020 - Published: 01 Oct 2020 Keywords: Santé mentale, soins de santé primaire, intégration, Guinée Copyright: Abdoulaye Sow et al. Pan African Medical Journal (ISSN: 1937-8688). This is an Open Access article distributed
under
the
terms
of
the
Creative
Commons
Attribution
International
4.0
License
(https://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any
medium, provided the original work is properly cited. Cite this article: Abdoulaye Sow et al. Expérience d´intégration de la santé mentale en première ligne de soins en Guinée. Pan African Medical Journal. 2020;37(107). 10.11604/pamj.2020.37.107.20351 Available online at: https://www.panafrican-med-journal.com//content/article/37/107/full &Auteur correspondant
Abdoulaye Sow, Ecole de Santé Publique,
Université Libre de Bruxelles, Bruxelles, Belgique Article Research Expérience d´intégration de la santé mentale en
première ligne de soins en Guinée Study on the integration of mental health support
into primary health care in Guinea Abdoulaye Sow1,2,&, Bart Criel3, Bernard Branger4,
Michel Roland1, Myriam De Spiegelaere1 1Ecole de Santé Publique, Université Libre de
Bruxelles, Bruxelles, Belgique, 2Université Gamal
Abdel Nasser de Conakry, Conakry, Guinée, 3Institut
de Médecine Tropicale d´Anvers, Kronenburgstraat
43, 2000 Antwerpen, Belgique,
4Organisation
ESSENTIEL, 11 bis rue Gabriel Luneau 44000
Nantes, France Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 1 1 Article health care is a substantial and feasible
complementary intervention to specialized services. We collected and analyzed data from 5 Health Care
Centers (HCC) that had integrated this care package
in Guinea. Methods: we conducted a descriptive
study of new cases of mental health issues between
2012 and 2017. The reasons for consultations and
diagnoses were identified and analyzed on the basis
of consultation registries and individual medical
records. Results: a total of 4.995 patients with
mental health problems received consultations
(2.8% of general consultations; 0.5 -7.7% according
to the centers). The average age of patients was
27,9 years (± 16.1). The most common reasons for
consultations were: insomnia 44.4% (n = 2081),
seizures 39% (n = 1827), behavioral disorders 31.9%
(n = 1263) and hallucinations 26.1% (n = 1224). The
most common diagnoses were: epilepsy 36.8% (n =
1773) and psychotic disorders 33.5% (n = 1613). Eighty eight point four per cent (n = 4418) of
patients received medical treatment, most often
combined with psychological support. Conclusion:
this study highlights that in the Guinean context,
where access to specialized mental health care is
very limited, patients with mental ill, even with
severe medical conditions, can be followed up in the
health centers by non-specialized but trained
mental health professionals. Introduction Les troubles mentaux représentent une charge de
morbidité très élevée dans le monde [1]. Ils
représentaient 19% de la charge d´incapacité en
Afrique (Années de Vie Corrigée du facteur
d'Invalidité, AVCI) en 2010 et cette part devrait
s´alourdir dans les années qui viennent [2]. Le défi
que ces troubles posent aux systèmes de santé
africains est donc particulièrement important [3]. En Afrique les enquêtes communautaires montrent
que seule une minorité des personnes souffrant de
troubles graves de santé mentale bénéficient d´un
traitement [4, 5]. Les moyens alloués aux
programmes nationaux de santé mentale sont Résumé Introduction: la faible couverture des services
spécialisés et la pénurie en ressources humaines en
santé mentale représentent d´immenses défis pour
les systèmes de santé en Afrique. L'intégration de la
santé mentale dans les soins de santé primaires
constitue un complément substantiel et faisable aux
services spécialisés. Cette étude rassemble et
analyse les données générées dans 5 Centres de
santé (CS) ayant intégrés ce paquet de soins en
Guinée. Méthodes: l'étude descriptive porte sur les
nouveaux cas de santé mentale entre 2012 et 2017. Les motifs de consultations et les diagnostics posés
ont été répertoriés et analysés sur la base des
registres de consultation et des dossiers médicaux
individuels. Résultats: au total 4995 patients ont
consulté pour un problème de santé mentale, ce qui
représente 2,8% des consultations générales (de 0,5
à 7,7% selon les centres). La moyenne d'âge des
patients était de 27,9 ans (± 16,1). Les motifs de
consultations les plus fréquents étaient les
insomnies: 44,4% (n = 2081), les crises convulsives:
39% (n = 1827), les troubles du comportement:
31,9% (n = 1263) et les hallucinations: 26,1% (n =
1224). Les diagnostics les plus fréquemment posés
étaient l'épilepsie : 36,8% (n = 1773) et les troubles
psychotiques: 33,5% (n = 1613). 88,4% (n = 4418)
des
patients
ont
reçu
un
traitement
médicamenteux, le plus souvent combiné avec un
soutien psychologique. Conclusion: l´étude montre
que dans le contexte guinéen où l´accès aux soins
spécialisés en santé mentale est très limité, les
malades mentaux, même atteints de pathologies
lourdes, peuvent être suivis dans des Centres de
santé par un personnel non spécialiste mais formé
en santé mentale. Key words: Mental health, mental disorders, health
centers, integration, Guinea Population d´étude Tous les patients ayant consulté dans les 5 CS pour
un problème de santé mentale entre le 1er janvier
2012 et le 31 décembre 2017 ont été inclus. Seuls
les nouveaux cas (premier contact pour un
problème de santé mentale) ont été pris en
compte. Type et cadre de l´étude Cette étude descriptive et rétrospective, a été
réalisée dans 5 CS ayant intégré la santé mentale
dans leur paquet de soins: 3 centres de FMG (Hafia
Minière, Tata1 et Moriady), et 2 centres non FMG
(Timbi Madina et Pita Centre). Deux de ces CS sont
situés en zone rurale (Moriady et Timbi Madina), les
3 autres en zone urbaine. Méthodes Face à cette situation, le traitement des troubles
mentaux au niveau des soins primaires, est la
stratégie la plus souvent avancée et soutenue par
L´OMS [3, 4, 6]. De plus en plus d´études évaluent
l´efficacité de l´offre de soins en santé mentale
dans les services généraux des structures
communautaires et services de santé de base
comme alternative aux structures hospitalières
insuffisantes dans les pays moins avancés [7, 8]. Il
en ressort que la prise en charge des troubles
mentaux dans les soins de santé primaires avec un
dispositif de transfert de compétences des
spécialistes vers les agents de santé travaillant
à
proximité
des
patients
est
faisable
et
acceptable [9], et efficace [10] sous certaines
conditions. Cette étude vise à évaluer une
expérience d´intégration des soins en santé
mentale par la première ligne de soins en Guinée. English abstract Introduction:the low coverage of specialized
mental health services and the shortage of human
resources for mental health are enormous
challenges for the health care system in Africa. The
integration of mental health support into primary 2 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Article faibles, et généralement orientés vers les hôpitaux
psychiatriques, le plus souvent inaccessibles aux
plus nécessiteux. Au-delà des structures, la pénurie
de moyens touche surtout les ressources humaines
spécialisées et les médicaments. On y compte 1,4
professionnel de santé mentale pour 100 000
habitants, contre 9 dans le monde [6]. collectées par ces 5 CS, cette étude vise à évaluer
l´utilisation des soins de santé mentale dans ces
centres et à déterminer les caractéristiques des
patients et des pathologies rencontrées ainsi que
leur prise en charge. Analyses statistiques Les données ont été analysées avec le logiciel SPSS
22.0. Les comparaisons de proportions ont été
effectuées avec le test du χ² avec un seuil de
signification à p < 0.05. Distribution des patients dans les 5 CS Leur distribution était très inégale entre les centres. Les 3 centres de FMG ont pris en charge 92,6% (n =
4628) des patients. Le Tableau 1 présente le
nombre de nouveaux cas de santé mentale par
rapport au nombre total de nouveaux cas
enregistrés dans chaque centre. Pour l´ensemble
des CS, en moyenne 2,8% (n=4995)
des
consultations étaient en lien avec des problèmes de
santé
mentale. Cette
proportion
différait
fortement d´un centre à l´autre et d´une année à
l´autre. Motifs de consultation La Figure 1 montre les principaux motifs de
consultations. Très peu de patients, 2,8% (n = 126),
consultaient pour consommation de substances
psychoactives. Les symptômes étaient le plus
souvent multiples, plus de la moitié des patients
(53%, n=2647) présentaient 4 symptômes ou plus. Diagnostic Le Tableau 3 présente la fréquence des principaux
diagnostics. L´épilepsie est le diagnostic le plus
fréquent, suivi par les psychoses qui représentent
un tiers des cas. La catégorie « autres » comprenait
des retards psychomoteurs, les démences et
d´autres problèmes psychosociaux. La distribution
des diagnostics posés différait significativement
entre les CS (p < 0.001). En particulier, on observait
une
fréquence
plus
élevée
de
diagnostic
d´épilepsies dans le CS Moriady et de troubles
psychotiques dans les CS non-FMG (Timbi Madina
et Pita). Au total 4995 patients se présentant pour la
première fois avec un problème de santé mentale
ont été enregistrés entre 2012 et 2017 dans les 5
CS. Toutes les données n´étaient pas disponibles
pour tous les patients et pour toutes les variables. Les résultats présentés portent sur les données
valides et donc les totaux diffèrent selon les
analyses. Article Les patients étaient âgés de 0 à 98 ans (moyenne
27,9 ans ± 16,1). Le Tableau 2 présente les
caractéristiques
sociodémographiques
de
la
population d´étude. La situation matrimoniale
différait en fonction du genre: par rapport aux
hommes, les femmes étaient plus souvent
célibataires: 46,7% versus 26,8%, divorcées: 2,4%
versus 1,3% ou veuves: 2,3% versus 0,3% (p <
0.001). La répartition des ethnies correspondait à la
situation géographique des CS et à la proportion
des différents groupes ethniques dans le pays. pratique et à la qualification des soignants de
première ligne dans le contexte guinéen. Ces
données quantitatives ont été complémentées par
des informations venant des rapports d´activités de
routine des différentes structures de soins
concernées par l´étude, ainsi que par le vécu des
professionnels travaillant dans ces structures. Considérations éthiques L´étude a été approuvée par la Commission
Nationale d´éthique pour la Recherche en santé
(CNERS) de Guinée (N°010/CNRS/17). Traitement La plupart des patients, 88,4% (n = 4260), avaient
reçu
un
traitement
médicamenteux. Cette
proportion différait significativement selon le
diagnostic posé: 97,6% (n = 702) des troubles de
l´humeur, 96,7% (n = 1560) des psychoses et 95,9%
(n = 1701) des épilepsies avaient été traités par
médicaments pour 25,1% (n=88) des troubles
névrotiques et 90,1% (n=329) des diagnostics «
autres » (p < 0.001). L´Halopéridol est le
médicament le plus souvent administré. Les Collecte des données La Guinée ne dispose que d´un seul service de
psychiatrie situé dans la capitale Conakry,
comptant une trentaine de lits d´hospitalisation
et 5 psychiatres, sans infirmiers spécialisés ni
psychologues, pour près de 11 millions d´habitants. Dans la quasi-totalité du territoire, les soins aux
malades mentaux relèvent des seuls guérisseurs
traditionnels [11]. C´est dans ce contexte que l´ONG
Fraternité Médicale Guinée (FMG), qui gère des
Centres de santé (CS) avec des équipes de soins
multidisciplinaires dont des médecins de famille, a
intégré la prise en charge des malades mentaux
dans 3 de ses CS depuis 2000, dans le cadre du
projet « Santé Mentale en Milieu Ouvert Africain »
(SaMOA) [12]. Elle a ensuite étendu cette
intégration dans deux autres CS non FMG. Le
paquet de soins offert en santé mentale comprend
la consultation, le traitement médicamenteux,
l´accompagnement
psychosocial
et
la
réhabilitation. Sur base des données de routine Le recueil des données a été réalisé à partir des
registres de consultation. Les données des dossiers
médicaux individuels ont également été utilisées
dans les 3 centres FMG qui en disposent. Les
données recueillies portaient d´une part sur des
informations socio-démographiques et d´autre part
sur les caractéristiques médicales : motif de
consultation,
diagnostic
posé,
traitements
prescrits. L´outil de collecte des données reprenait
pour chaque item une liste de choix à cocher
(plusieurs réponses possibles), les catégories «
autres » ouvrant un champ en texte libre. Les
diagnostics ont été recodés en 7 catégories
exclusives
(schizophrénie
et
autre
troubles
délirants,
troubles
de
l´humeur,
troubles
névrotiques,
épilepsies,
démence,
retard
psychomoteur, autres) sur base de la classification
internationale des maladies (CIM10), adaptée à la 3 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 3 Article Discussion Cette étude montre le potentiel important des CS
pour améliorer la couverture des besoins en santé
mentale en Afrique. L´évaluation du système
national de santé mentale réalisée en Guinée
montrait qu´en 2014 le service de psychiatrie de
l´hôpital national Donka, seul service spécialisé
public du pays, avait admis 1264 patients en
consultation ambulatoire [11], alors que, pour la
même année, les 5 CS objets de la présente étude
avaient pris en charge 661 nouveaux cas en santé
mentale, soit 52% du nombre de cas suivis par
Donka pour une zone couvrant environ 40 000
habitants. Avant l´intégration de la santé mentale
dans les 5 CS, toutes les personnes ayant des
troubles mentaux étaient référées au service de
psychiatrie de l´hôpital national. Nos résultats
montrent que la prise en charge de la santé
mentale dans les CS, est faisable et permet
d´améliorer la couverture des services de soins en
santé mentale, ce qui rejoint les conclusions
d´autres études [10]. Dans notre étude, la part des
consultations pour un problème de santé mentale
représente 2,8% de l´ensemble des consultations,
alors qu´au Québec, un tout autre contexte avec
une couverture en soins de santé mentale bien plus
adéquate, 25% des visites chez les médecins de
famille sont liées à des troubles mentaux et 24%
dans une autre étude sur 15 sites [13-16]. Pour les centres non-FMG, le nombre de cas est
plus important la première année du fait de la
publicité et de l´effet de nouveauté et diminue
ensuite. Les variations dans le temps peuvent être
liées aussi aux mouvements du personnel,
fréquents dans le secteur public, comme au CS de
Pita. Plusieurs autres facteurs, documentés dans les
rapports d´activités des centres de santé,
interviennent
tels
que
les
ruptures
de
médicaments, l´arrivée de nouveaux guérisseurs
traditionnels ou l´épidémie d´Ebola. Au cours du
temps, par la nécessité d´un suivi à long terme, le
nombre de patients suivis augmente ainsi que la
charge de travail. Ceci implique que la part de
nouveaux cas en santé mentale dans les
consultations ne reflète pas forcément la part de la
charge de travail qui y est consacrée. Selon les
rapports d´activités des centres de santé, au début
du processus d´intégration, les malades viennent
de la zone de couverture des CS, mais au fil des ans,
ils viennent de zones de plus en plus éloignées
grâce au bouche à oreille et aux succès
thérapeutiques constatés. Article médicaments utilisés sont présentés dans le
Tableau 4. Les médicaments étaient le souvent
combinés avec d´autres approches thérapeutiques. Ainsi, parmi les patients ayant reçu au moins 1
médicament, 98,6% (n = 3483) avaient bénéficié
d´un soutien psychologique, 20,8% (n = 682) d´une
assistance sociale et 7,6% (n = 337) d´une
réinsertion. importante de l´activité de médecine générale si
l´on considère l´ensemble des consultations
réalisées par les médecins de famille. D´autre part,
dans le contexte guinéen, les patients ne consultent
pas pour certains troubles mentaux qu´ils jugent
relevé des guérisseurs traditionnels. Enfin, nous
avons pris en compte l´ensemble des consultations
primaires curatives alors que, dans certains CS,
seules certaines consultations assurées par des
professionnels formés offraient ces soins. Les
différences entre CS sont partiellement dues à la
chronologie de l´intégration de la santé mentale
entre 2000 (Hafia Minière) et 2012 (Tata1). En
général,
les
premières
années
après
l´intégration, le nombre de consultations augmente
progressivement avant de se stabiliser, voire
régresser. La part croissante des pathologies
mentales dans le CS Tata1 est liée à sa position
géographique. Ce centre couvre en effet toute une
région sanitaire et étant le seul à offrir les soins de
santé mentale dans cette région, il est perçu
comme un « Centre de santé mentale ». Caractéristiques sociodémographiques Caractéristiques sociodémographiques 4 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 4 Article Discussion Cette part semble donc faible et varie fortement
d´un centre à un autre et d´une année à l´autre (0,2
à 20,4%). Elle s´explique par différents facteurs. Tout d´abord, seuls les premiers contacts ont été
comptabilisés. Les
troubles
mentaux
sont
chroniques et impliquent en général un nombre
élevé de contacts, ce qui peut expliquer la part 5 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. (Communication personnelle des responsables des
centres de santé). Article (Communication personnelle des responsables des
centres de santé). (Communication personnelle des responsables des
centres de santé). Concernant les caractéristiques des patients,
toutes les tranches d´âge sont représentées. Même
si le nombre de divorcés est peu important, les
femmes sont les plus concernées. Dans le contexte
guinéen en effet, quand la maladie mentale
survient dans un foyer, le couple finit souvent par
se disloquer et généralement, si les femmes ne sont
pas « rendues » à leurs parents, elles sont
abandonnées par leur conjoint. L´insomnie ressort
comme le principal motif de consultation pour les
patients avec un problème de santé mentale. Ce
symptôme étant également fréquemment retrouvé
dans de nombreuses pathologies physiques,
l´intégration de la santé mentale dans l´offre des
soins de première ligne constitue une opportunité
pour sensibiliser les soignants des CS à la prise en
compte des aspects psychosociaux dans leur
consultation de médecine générale. Nos résultats
montrent que toutes les pathologies psychiatriques
rencontrées dans les services spécialisés sont
susceptibles d´être identifiées dans les CS, que ce
soit les pathologies psychiatriques lourdes comme
les psychoses et la dépression ou certaines
maladies neurologiques comme les épilepsies, les
démences et les retards psychomoteurs. Si
les
médicaments
restent
les
moyens
thérapeutiques les plus utilisés, l´accompagnement
psychosocial et la réinsertion, pour lesquels les
soignants ont été formés dans le processus
d´intégration, apportent une valeur ajoutée dans
l´offre de soins en première ligne. Des placebos
sont aussi utilisés pour réduire la consommation
des médicaments souvent exigés par les familles
des patients. Les difficultés rencontrées lors du
recueil des informations quantitatives limitent
l´interprétation de certains résultats. Les sources
de
données
n´étaient
pas
homogènes
et
dépendaient des outils de routine utilisés par les
différents centres. Les trois CS FMG utilisaient, en
plus des registres standards, des dossiers médicaux
individuels ainsi que des cahiers de visite à domicile
et de réinsertion des patients. Les deux autres CS
n´utilisaient que les registres de consultation. Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Remerciements Nous remercions le Pr Keïta Mamady Mory pour le
protocole, Isabelle Godin pour les analyses
statistiques; Hamidou Diallo et Youssouf Baldé pour
la récolte des données, les soignants des 5 CS pour
la facilité de recueil et Monique Van Dormael de
l´Institut de Médecine Tropicale d´Anvers et
Mamadou Pathé Diallo de l´Université de Conakry
pour la relecture du manuscrit. Etat des connaissances sur le sujet Etat des connaissances sur le sujet
La morbidité liée aux troubles mentaux est
élevée dans tous les pays; Discussion La
faible qualité du remplissage et l´absence de
dossiers médicaux expliquent l´importance des
données manquantes et/ou aberrantes pour
certaines variables dans ces CS. Pour les centres disposant de dossiers médicaux, le
recueil de données ne s´est pas toujours limité aux
informations du premier contact avec le patient,
des informations provenant des documents du suivi
du patient ont été recueillies expliquant dans
certains cas des diagnostics et traitements
multiples à première vue incohérents. Toutefois,
cette proportion de patients reste marginale. Du
fait de la faible qualité des données des registres,
nous n´avons pu obtenir certaines informations,
comme la proportion de malades améliorés, des
perdus de vue et de rechutes. On note que la distribution des diagnostics varie
entre CS. Au CS de Moriady, plus de la moitié des
cas sont des épilepsies. Ceci s´explique par les
activités communautaires plus importantes qui ont
été réalisées autour du CS, avec l´implication de la
radio rurale qui couvre plusieurs sous-préfectures
et a longuement parlé des épilepsies dans les
langues nationales. Tous les CS publics de Kindia y
réfèrent
également
les
épileptiques
sur
recommandation du médecin chef de district
(Communication personnelle du médecin chef de
district de Kindia). Dans les CS non FMG, les
pathologies
psychotiques
sont
les
plus
représentées. L´une des hypothèses est la présence
plus importante de ce type de patients dans les
petites agglomérations (petites villes ou villages) où
sont situés ces CS. Lorsque les familles sont
épuisées dans le parcours de soins avec les malades
mentaux en ville, elles préfèrent les envoyer au
village où ils seraient plus faciles à canaliser avec
des méthodes traditionnelles de contention Une étude plus approfondie devrait se pencher sur
ces dimensions de la qualité des soins sur base d´un
suivi longitudinal, et donc la tenue de dossiers
individuels [10]. Cette étude montre qu'il est
possible d´analyser, sur base de données de
routine, l´utilisation des soins de santé mentale en
première ligne des soins dans un pays d´Afrique
lorsque ceux-ci y sont offerts. Pour réellement Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 6 Article Tableaux et figure
La disponibilité des soins de santé mentale en
Afrique est marginale; Tableau 1: proportion des patients avec problèmes
de santé mentale (SM) parmi l´ensemble des
patients des consultations générales des centres de
santé
Plusieurs études confirment l´efficacité des
services de santé de base comme modalité de
prise en charge des malades mentaux. Tableau 2: caractéristiques sociodémographiques
des patients Conclusion Abdoulaye Sow: conception et rédaction de
l'article, Bart Criel, Michel Roland et Bernard
Branger: Contribution à la rédaction de l'article,
Myriam De Spiegelaere : Correction de la
présentation des résultats, contribution à la
rédaction de l´article et amélioration du manuscrit. Notre expérience montre que l´intégration de la
santé mentale en première ligne de soins est
possible et utile: les patients utilisent les CS qui
peuvent être des lieux « adéquats » pour offrir des
soins
aux
patients
ayant
des
pathologies
neuropsychiatriques lourdes. Les médicaments
essentiels
génériques,
l´accompagnement
psychologique et une réinsertion apportent des
réponses efficaces à un nombre important de
problèmes de santé mentale. Des enquêtes
communautaires devraient être menées pour
estimer les besoins en santé mentale dans les zones
desservies par ces centres de manière à évaluer et
progressivement améliorer la couverture des soins. Contribution de notre étude à la connaissance Tableau 3: diagnostics posés par centres de santé
Tableau 4: principaux médicaments utilisés
Figure 1: principaux motifs de consultation
Quand les soins en santé mentale sont intégrés
dans les centres de santé en Guinée, ils sont
utilisés par la population;
Du fait du contexte local, des pathologies
neurologiques graves comme les épilepsies et
les démences peuvent se retrouver dans la
sphère des maladies mentales; Conflits d'intérêts évaluer l´amélioration de la couverture des besoins
il est toutefois indispensable de disposer de
données plus spécifiques sur les besoins dans la
population générale et leur évolution dans le
temps [15]. Les auteurs ne déclarent aucun conflits d´intérêts. PubMed| Google Scholar 13. Fleury MJ, Bamvita JM, Tremblay J, Lesage A,
Farand L, Aubé D et al. Rôle des médecins
omnipraticiens en santé mentale au Québec,
IRSC. 2008. 6. World Health Organization. Mental Health in
Primary Care: Illusion or Inclusion? Technical
Series on Primary Health Care. WHO; 2018. Google Scholar 14. Lamboy B. La santé mentale: Etat des lieux et
problématique. SFSP “Santé Publique”. 2005
Dec;17(4): 583-96. PubMed| Google Scholar 7. Kohrt BA, Asher L, Bhardwaj A, Fazel M,
Jordans MJD, Mutamba BB et al. The Role of
Communities in Mental Health Care in Low-
and Middle-Income Countries: A Meta-Review
of
Components
and
Competencies. International Journal of envoronnemental
research and public health. 2018 Jun 16;15(6):
1279. PubMed| Google Scholar 7. 15. De Silva M J, Lee L, Daniela C F, Rathod S,
Chisholm D, Schellenberg J, Patel V. Estimating
the coverage of mental health programmes: a
systematic review (2014). International Journal
of Epidemiology. 2014 Apr;43(2): 341-53. Scholar 5. Williams DR, Herman A, Stein DJ, Heeringa SG,
Jackson PB, Moomal H et al. Twelve-month
mental disorders in South Africa: prevalence,
service use and demographic correlates in the
population-based South African Stress and
Health
Study. Psychol
Med. 2008
February;38(2): 211-220. Google Scholar Références 1. Herricks JR, Hotez PJ, Wanga V, Coffeng LE,
Haagsma JA, María-Gloria Basáñez et al. The
global burden of disease study 2013: What
does it mean for the NTDs? PLoS Negl Trop Dis. 2017 Aug 3;11(8): e0005424. eCollection 2017
Aug. Google Scholar
En cas de pénurie en ressources humaines et de
structures spécialisées en santé mentale, les CS
polyvalents peuvent être une alternative
valable pour améliorer l´accessibilité aux soins
pour les personnes ayant des troubles
mentaux. Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 7 7 Article 2. Charlson FJ, Diminic S, Lund C, Degenhardt L,
Whiteford HA. Mental and Substance Use
Disorders in Sub-Saharan Africa: Predictions of
Epidemiological Changes and Mental Health
Workforce Requirements for the Next 40
Years. PLoS ONE. 2014 Oct 13;9(10): e110208
eCollection 2014. PubMed| Google Scholar 9. Padmanathan P, De Silva MJ. The acceptability
and feasibility of task-sharing for mental
healthcare
in
low-
and
middle-income
countries: a systematic review. Soc Sci Med. 2013 Nov;97: 82-6 Epub 2013 Aug 24. PubMed| Google Scholar PubMed| Google Scholar 10. Jordans MJD, Luitel NP, Kohrt BA, Rathod SD,
Garman EC, Mary De Silva et al. Community-,
facility-, and individual-level outcomes of a
district mental healthcare plan in a low-
resource setting in Nepal: A population-based
evaluation. PLoS Med. 2019 Feb 14;16(2):
e1002748. PubMed| Google Scholar 3. World
Health
Organization
and
World
Organization of Family Doctors (Wonca). Integrating mental health into primary care A
global perspective, 2008. Google Scholar 4. Gureje O, Abdulmalik J, Kola L, Musa E, Yasamy
MT, Adebayo K. Integrating mental health into
primary care in
Nigeria:
report of a
demonstration project using the mental health
gap action programme intervention guide. BMC Health Services Research. 2015. Google
Scholar 11. Organisation mondiale de la santé (OMS). Rapport de l´OMS-AIMS sur le système de
Santé Mentale de la République de Guinée. OMS-Guinée. Conakry. 2016. 12. Sow A, Van Dormael M, Criel B, De Spiegelaere
M. Intégration de la santé mentale dans les
centre de santé communautaire en Guinée
Conakry. Santé Publique. 2019;31(2): 305- 313. b
d|
l
h l Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. PubMed| Google Scholar 16. Marie-Josée
Fleury. Santé
mentale
en
première ligne. Santé mentale au Québec. 2009; 34(1): p19-34. 8. Van Ginneken N, Tharyan P, Lewin S, Rao GN,
Meera SM, Pian J et al. Non-specialist health
worker interventions for the care of mental,
neurological and substance-abuse disorders in
low- and middle-income countries. Cochrane
Database Syst Rev. 2013 Nov 19;(11):
CD009149. PubMed| Google Scholar 8 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 8 Article Tableau 1: proportion des patients avec problèmes de santé mentale (SM) parmi l´ensemble des patients des
consultations générales des centres de santé
Hafia
manière
Moriady
Tata1
Timbi
madina
Pita centre Total
2012
SM
380
182
241
69
105
977
Total
11 931
2 853
6 190
4 300
10 789
36 063
%
3,2%
6,4%
3,9%
1,6%
1,0%
2,7%
2013
SM
260
192
221
16
45
734
Total
9 789
2 622
6 283
4 260
8 725
31 679
%
2,7%
7,3%
3,5%
0,4%
0,5%
2,3%
2014
SM
210
184
237
10
20
661
Total
11 852
3 152
2 921
4 236
9 432
31 593
%
1,8%
5,8%
8,1%
0,2%
0,2%
2,1%
2015
SM
204
177
226
12
23
642
Total
9 857
2 623
2 104
4 128
6 333
25 045
%
2,1%
6,7%
10,7%
0,3%
0,4%
2,6%
2016
SM
456
116
312
30
3
917
Total
12 128
1 619
2 095
5 328
4 877
26 047
%
3,8%
7,2%
14,9%
0,6%
0,1%
3,5%
2017
SM
396
190
444
16
18
1 064
Total
12 616
1 211
2 173
5 532
5 831
27 363
%
3,1%
15,7%
20,4%
0,3%
0,3%
3,9%
Total
SM
1 906
1 041
1 681
153
214
4 995
Total
68 173
14 080
21 766
27 784
45 987
177 790
%
2,8%
7,4%
7,7%
0,6%
0,5%
2,8% Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. PubMed| Google Scholar 9 Article Tableau 2: caractéristiques sociodémographiques des patients
N
%
Sexe
Homme
2697
54,1%
Femme
2286
45,9%
Total
4983
100,0%
Résidence
Urbaine
3786
79,4%
Rurale
984
20,6%
Total
4770
100%
Ethnie
Peulh
2595
72,0%
Soussou
484
13,4%
Malinké
426
11,8%
Forestier
64
1,8%
Autres
37
1,0%
Total
3606
100%
Situation familiale
Célibataire
1408
35,80%
Marié
2413
61,30%
Divorcé
70
1,80%
Veuf
46
1,20%
Total
3937
100% Tableau 2: caractéristiques sociodémographiques des patients
N
%
Sexe
Homme
2697
54,1%
Femme
2286
45,9%
Total
4983
100,0%
Résidence
Urbaine
3786
79,4%
Rurale
984
20,6%
Total
4770
100%
Ethnie
Peulh
2595
72,0%
Soussou
484
13,4%
Malinké
426
11,8%
Forestier
64
1,8%
Autres
37
1,0%
Total
3606
100%
Situation familiale
Célibataire
1408
35,80%
Marié
2413
61,30%
Divorcé
70
1,80%
Veuf
46
1,20%
Total
3937
100%
Tableau 3: principaux diagnostics posés par centres de santé
Hafia-Minière
Moriady
Tata1
Timbi-
Madina
Pita Centre Total
Epilepsies
604
531
522
49
67
1773
33,2%
52,8%
31,9%
32,9%
31,8%
36,8%
Schizophrénie et autres
troubles délirants
602
221
606
71
113
1613
33,1%
22,0%
37,1%
47,7%
53,6%
33,5%
Troubles de l´humeur
308
155
241
7
8
719
16,9%
15,4%
14,7%
4,7%
3,8%
14,9%
Troubles névrotiques, liés au
stress et somatoformes
134
29
179
5
2
349
7,4%
2,9%
11,0%
3,4%
0,9%
7,2%
Autres
171
70
86
17
21
365
9,4%
7,0%
5,3%
11,4%
10,0%
7,6%
Total
1819
1006
1634
149
211
4819
100,0%
100,0%
100,0%
100,0%
100,0%
100,0% Tableau 3: principaux diagnostics posés par centres de santé
Hafia-Minière
Moriady
Tata1
Timbi-
Madina
Pita Centre Total
Epilepsies
604
531
522
49
67
1773
33,2%
52,8%
31,9%
32,9%
31,8%
36,8%
Schizophrénie et autres
troubles délirants
602
221
606
71
113
1613
33,1%
22,0%
37,1%
47,7%
53,6%
33,5%
Troubles de l´humeur
308
155
241
7
8
719
16,9%
15,4%
14,7%
4,7%
3,8%
14,9%
Troubles névrotiques, liés au
stress et somatoformes
134
29
179
5
2
349
7,4%
2,9%
11,0%
3,4%
0,9%
7,2%
Autres
171
70
86
17
21
365
9,4%
7,0%
5,3%
11,4%
10,0%
7,6%
Total
1819
1006
1634
149
211
4819
100,0%
100,0%
100,0%
100,0%
100,0%
100,0% 1
0 1
0 1 Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. PubMed| Google Scholar Article Tableau 4: principaux médicaments administrés
Halopéridol
48,5%
Carbamazépine
36,6%
Biperiden
33,3%
Diazépam
32,4%
Amitripline
15,3%
Chlorpromazine
14,2%
Autres
11,8%
Placebo
7,8%
Magnésium/vitamine B6
7,2%
Lévomépromazine
3,4%
Clonazepam
1,9% Tableau 4: principaux médicaments administrés
Halopéridol
48,5%
Carbamazépine
36,6%
Biperiden
33,3%
Diazépam
32,4%
Amitripline
15,3%
Chlorpromazine
14,2%
Autres
11,8%
Placebo
7,8%
Magnésium/vitamine B6
7,2%
Lévomépromazine
3,4%
Clonazepam
1,9% Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. Article
Figure 1: principaux motifs de consultation Article Figure 1: principaux motifs de consultation Figure 1: principaux motifs de consultation Figure 1: principaux motifs de consultation Abdoulaye Sow et al. PAMJ - 37(107). 01 Oct 2020. - Page numbers not for citation purposes. 12
|
https://openalex.org/W1003470624
|
https://durham-repository.worktribe.com/file/1388058/1/Published%20Journal%20Article
|
English
| null |
Stochastic growth dynamics and composite defects in quenched immiscible binary condensates
|
Physical review. A/Physical review, A
| 2,016
|
cc-by
| 6,840
|
I. INTRODUCTION [38,47–52]. In many scenarios, however, potentially nonuni-
versal postquench defect dynamics strongly influence the
system
behavior. Work
on
homogeneous
spinor
Bose
gases [49,50] has identified two distinct time scales in the
process of domain formation: a short time scale for initial
domain formation via the KZ mechanism, and a long “mem-
ory” time scale for nonlinear coarse-graining dynamics to
erase traces of the initial domains. Related work indicates that
characteristic memory time scales may exceed experimental
system lifetimes [51,52]. Pattern formation and the presence of coexisting phases in
spatially separated domains are an emergent feature of diverse
dynamical systems throughout physics [1], chemistry [2],
and biology [3]. Ultracold gases offer a highly controllable
theoretical and experimental test bed for studying these phe-
nomena, particularly in the context of condensate formation
dynamics [4–6], a subject of sustained interest and significance
in nonequilibrium physics, both in the ultracold gas context
[7–20] and beyond [21–24]. Previous works have highlighted
the generic importance of the Kibble-Zurek (KZ) mechanism
in defect formation during phase transitions [25,26], connect-
ing ultracold gases with a range of phenomena from high-
energy and condensed matter physics [27–29], with composite
defects [28] emerging in the context of multicomponent fields
by condensation in the defect core [30]. In this paper, we discuss the competing growth dynamics of
instantaneously quenched immiscible two-component BECs, FIG. 1. Memory of stochastic defect dynamics in an immiscible
two-component condensate (schematic, compiled from simulation
data). On short postquench time scales, the fastest condensing
component (here 87Rb) contains multiple spontaneously generated
defects (top). The ensuing stochastic dynamics generically lead to
either destruction of defects or survival of a single composite defect in
which the second component (here 133Cs) preferentially condenses,
forming a dark-bright solitary wave (middle row). The long-lived
metastable states (bottom row) retain a memory of the prior stochastic
dynamics. Experiments with single-component atomic Bose-Einstein
condensates (BECs) have revealed the spontaneous forma-
tion of defects in the form of vortices [31], dark solitonic
vortices [32,33], and persistent currents [34] during the
BEC phase transition, providing quantitative confirmation
of KZ scaling [19,35–38]. In multicomponent BECs (e.g. 87Rb - 41K [39], 87Rb - 85Rb [40], and 87Rb - 133Cs [41,42]),
studies have focused on the formation of two same-species
BECs in a tunnel-coupled geometry [43], and quantum
phase transitions in binary [44–46] and spinor Bose gases FIG. 1. *nikolaos.proukakis@ncl.ac.uk Published by the American Physical Society under the terms of the
Creative Commons Attribution 3.0 License. Further distribution of
this work must maintain attribution to the author(s) and the published
article’s title, journal citation, and DOI. PHYSICAL REVIEW A 93, 023628 (2016) PHYSICAL REVIEW A 93, 023628 (2016) DOI: 10.1103/PhysRevA.93.023628 Published by the American Physical Society h dynamics and composite defects in quenched immiscible binary condensates I.-K. Liu,1,2 R. W. Pattinson,2 T. P. Billam,3 S. A. Gardiner,3 S. L. Cornish,3
T.-M. Huang,4 W.-W. Lin,5 S.-C. Gou,1 N. G. Parker,2 and N. P. Proukakis2,*
1Department of Physics, National Changhua University of Education, Changhua 50058, Taiwan
2Joint Quantum Centre (JQC) Durham-Newcastle, School of Mathematics and Statistics, Newcastle University,
Newcastle upon Tyne, NE1 7RU, United Kingdom
3Joint Quantum Centre (JQC) Durham-Newcastle, Department of Physics, Durham University, Durham, DH1 3LE, United Kingdom
4Department of Mathematics, National Taiwan Normal University, Taipei 11677, Taiwan
5Department of Applied Mathematics and Shing-Tung Yau Center, National Chiao Tung University, Hsinchu 30010, Taiwan
(Received 5 August 2014; revised manuscript received 23 May 2015; published 18 February 2016) We study the sensitivity of coupled condensate formation dynamics on the history of initial stochastic domain
formation in the context of instantaneously quenched elongated harmonically trapped immiscible two-component
atomic Bose gases. The spontaneous generation of defects in the fastest condensing component, and subsequent
coarse-graining dynamics, can lead to a deep oscillating microtrap into which the other component condenses,
thereby establishing a long-lived composite defect in the form of a dark-bright solitary wave. We numerically
map out diverse key aspects of these competing growth dynamics, focusing on the role of shot-to-shot fluctuations
and global parameter changes (initial state choices, quench parameters, and condensate growth rates), with our
findings also qualitatively confirmed by realistic finite-duration quenches. We conclude that phase-separated
structures observable on experimental time scales are likely to be metastable states whose form is influenced by
the stability and dynamics of the spontaneously emerging dark-bright solitary wave. I. INTRODUCTION (a)–(b): postquench evolution, up to 2 s, of 2D column densities
(ncol, n0,col) and 1D integrated density profiles (nint,n0,int) for c-field and PO (Penrose–Onsager) condensate respectively. (c): corresponding
condensate phase. (d)–(e): evolution of (respectively) condensate number, N0, and occupation ratio r between condensate mode and the
next-most-highly occupied mode. (f): single-run evolution of the number of spontaneously generated dark solitons, Nsol(t) (obtained, to
within the estimated uncertainty shown, by examining density minima and phase jumps, similar to the procedure of [36]). In all simulations
in this work, both components are confined in harmonic traps with frequencies (ωRb
z ,ωRb
⊥,ωCs
z ,ωCs
⊥) = 2π × (3.89,32.2,4.55,40.2) Hz, with
longitudinal and transverse shifts of ∼1 μm in their centers [41,53], and we use scattering lengths (aRb,Rb,aCs,Cs,aRb,Cs) = (100,280,650) Bohr
radii. Temperature is quenched from T0 = 80 nK to T = 20 nK. In the first part of this work, we use initial chemical potentials μRb/kB = 2.13
nK, μCs = 0.956μRb (μRb = 1.38ℏωRb
⊥, μCs = 1.05ℏωCs
⊥), and rates γRb = γCs = 0.263 s−1 (equivalent to ℏγk/kBT = 10−4), with μ′
Rb = μRb
and μ′
Cs = 7.34μCs. The initial condition is an equilibrated state with no single condensate mode (r ∼1). In (f) inset, we also plot the average
defect number ⟨Nsol⟩immediately following finite-duration quenches with (Tk, μk) ramped linearly from initial to final values (as given above)
over time tR. Lines qualitatively show potential defect number scalings with tR. providing strong evidence that the density profiles emerging
over experimentally relevant time scales are determined by
the history of spontaneous defect formation and subsequent
dynamics (Fig. 1). This long-term memory is facilitated by the
added stability provided by formation, during coarse-graining
dynamics, of a composite dark-bright solitary wave [54–59]
defect, a process found to be robust to perturbations, but sensi-
tive to shot-to-shot fluctuations and global parameter changes. occupied mode, we analyze the role of fluctuations and quench
parameters [Figs. 3 and 4(a)], under the assumption that Rb
condenses fastest. Wethenanalyzearangeof other initial states
and quenches, and critically discuss our main assumptions
[Figs. 4(b), 5, and 2(f) inset]. Within current computational
constraints, this provides a qualitative characterization of the
dynamical phase diagram. I. INTRODUCTION Memory of stochastic defect dynamics in an immiscible
two-component condensate (schematic, compiled from simulation
data). On short postquench time scales, the fastest condensing
component (here 87Rb) contains multiple spontaneously generated
defects (top). The ensuing stochastic dynamics generically lead to
either destruction of defects or survival of a single composite defect in
which the second component (here 133Cs) preferentially condenses,
forming a dark-bright solitary wave (middle row). The long-lived
metastable states (bottom row) retain a memory of the prior stochastic
dynamics. Published by the American Physical Society under the terms of the
Creative Commons Attribution 3.0 License. Further distribution of
this work must maintain attribution to the author(s) and the published
article’s title, journal citation, and DOI. Published by the American Physical Society 023628-1 2469-9926/2016/93(2)/023628(7) PHYSICAL REVIEW A 93, 023628 (2016) I.-K. LIU et al. FIG. 2. Typical numerical evolution of a quenched two-component system. (a)–(b): postquench evolution, up to 2 s, of 2D column densities
(ncol, n0,col) and 1D integrated density profiles (nint,n0,int) for c-field and PO (Penrose–Onsager) condensate respectively. (c): corresponding
condensate phase. (d)–(e): evolution of (respectively) condensate number, N0, and occupation ratio r between condensate mode and the
next-most-highly occupied mode. (f): single-run evolution of the number of spontaneously generated dark solitons, Nsol(t) (obtained, to
within the estimated uncertainty shown, by examining density minima and phase jumps, similar to the procedure of [36]). In all simulations
in this work, both components are confined in harmonic traps with frequencies (ωRb
z ,ωRb
⊥,ωCs
z ,ωCs
⊥) = 2π × (3.89,32.2,4.55,40.2) Hz, with
longitudinal and transverse shifts of ∼1 μm in their centers [41,53], and we use scattering lengths (aRb,Rb,aCs,Cs,aRb,Cs) = (100,280,650) Bohr
radii. Temperature is quenched from T0 = 80 nK to T = 20 nK. In the first part of this work, we use initial chemical potentials μRb/kB = 2.13
nK, μCs = 0.956μRb (μRb = 1.38ℏωRb
⊥, μCs = 1.05ℏωCs
⊥), and rates γRb = γCs = 0.263 s−1 (equivalent to ℏγk/kBT = 10−4), with μ′
Rb = μRb
and μ′
Cs = 7.34μCs. The initial condition is an equilibrated state with no single condensate mode (r ∼1). In (f) inset, we also plot the average
defect number ⟨Nsol⟩immediately following finite-duration quenches with (Tk, μk) ramped linearly from initial to final values (as given above)
over time tR. Lines qualitatively show potential defect number scalings with tR. FIG. 2. Typical numerical evolution of a quenched two-component system. I. INTRODUCTION Dynamical two-component BEC simulations to date have
been based on coupled ordinary [54,55,61,62] or dissipa-
tive [20,63,64] Gross-Pitaevskii equations (GPEs), or on
classical field [65], truncated Wigner [44,45], or ZNG (cou-
pled GPE-Boltzmann) [66] methods. The effects of thermal
fluctuations during condensate growth are best captured by
three-dimensional (3D) coupled stochastic projected Gross-
Pitaevskii equations [52,67,68], While the equilibrium states of immiscible two-component
BECs in the mean-field approximation are known to display
various symmetric and asymmetric structures [53,60] similar
to those observed in experiment [40,41], we show similar
structures emerging as part of a rich nonequilibrium dynamical
behavior long before the system reaches an equilibrium
state. Our work offers insight into the complexities of
two-component BEC formation, and suggests caution when
concluding that an experimental immiscible two-component
BEC has reached a true equilibrium state. dψk = P
−i
ℏLkψk + γk
kBT (μk −Lk)ψk
dt + dWk,
(1) describing the evolution of highly occupied “classical” modes
ψk, where k labels the species (here Rb or Cs). Here Lk =
−ℏ2∇2/2mk + Vk + 4πℏ2(akk|ψk|2/mk + akj|ψj|2/Mkj), for
scattering lengths akk (intraspecies) and akj (interspecies),
atomic masses mk, and reduced mass Mkj. The “c-field”
region defined by projector P consists of single-particle
modes φl with energies below a carefully selected energy
cutoff [69], which is coupled to the above-cutoff reservoir at
temperature T via growth (described by the species-dependent
rates γk) and noise (described by dWk [70]) processes. To simulate two-component condensate formation, we first
obtain an initial state by numerically propagating Eq. (1) to A. Typical coupled dynamics simulation A typical numerical run of the post-instantaneous-quench
dynamics demonstrating the formation of a composite defect
for a given initial state (see figure caption for parameters)
is shown in Fig. 2, a result with which subsequent results
will be compared. Snapshots (left panels) of the c-field
density (a), condensate mode density (b), and condensate
phase (c) reveal three characteristic dynamical stages: (i) a
short postquench “condensation onset” stage with strongly
nonequilibrium dynamics (for t ≲0.1 s) in which multiple
quench-induced defects proliferate; (ii) a rapid relaxation
stage (here t ≲0.5 s, featuring rapid Rb growth), dominated
by defect coarse-graining dynamics, leading to a metastable
equilibrium state with a number of long-lived defects [this
number can be zero, one (as shown here), or potentially
more]; (iii) a slow evolution towards global equilibrium, during
which the other component (here Cs) may (but need not)
also condense. While the details of the coupled dynamics
are sensitive to global system and quench parameters, our
subsequent analysis confirms that the occurrence of these
three stages is generic. Within our model, for a given set of
quench parameters, the long-term evolution tends to favor the
dominance of either Rb or Cs. FIG. 3. Evolution of four different postquench random noise
sequences, with identical prequench states. (a)–(d) show the c-field
density evolution [shown here via n(z)
k = nk(x = 0,y = 0,z)], and
(e)–(h) the condensate density profiles after 1 s (insets 2 s; ticks on
inset axes correspond to those on the main figure axes). After this
time the Rb defect has either been stabilized by Cs infilling (e); fully
decayed within Rb (f); or decayed to the left (g) or right (h) edge of
the condensate. Quench parameters are as in Fig. 2. Over longer time scales, the growing mean-field potential
converts this dark-bright solitary wave into a fixed domain
wall [74,75]. A Cs condensate also subsequently forms at the
system edges, slightly compressing the Rb condensate towards
the trap center. This interplay between condensate growth,
defect formation, and dissipative evolution in the first com-
ponent, and condensate growth in the second component—
alongside increasing mean-field repulsion between the co-
forming immiscible condensates—leads to interesting features
that should be observable in current experiments. The right panels in Fig. A. Typical coupled dynamics simulation 2 show the dynamics of the PO
condensate atom number N0 (d), the occupation ratio, r of the
condensate mode to the next-most-highly occupied mode (e),
and the number of soliton defects (f). While initially r ∼1,
it increases rapidly postquench as a macroscopically occupied
condensate mode emerges. Coherence growth, caused by the
suppression of phase fluctuations during condensation [15,16],
coincides with the rapid decrease in the defect numbers due
to merging and decay [33]. Due to the larger initial Rb atom
number, Cs condensation follows that of Rb [40]; moreover,
because our simulations do not include evaporative cooling, we
find that Cs condensation is associated with a gradual decrease
in the Rb condensate. In the following we consider (i) the role of shot-to-shot
fluctuations (Fig. 3); (ii) dependence on growth rates and
final quench parameters when starting from quasicondensate
initial states (Fig. 4); (iii) changes to the evolution due to
less coherent initial states (Fig. 5), also demonstrating that
the scenario of a defect in Rb leading to Cs infilling can be
effectively reversed for particular parameters and time scales
[Fig. 5(f), t = 0.25 s]; (iv) finite-duration quenches, showing
that our qualitative findings also hold for quenches of realistic
experimental duration [Fig. 2(f), inset]. Depending on dimensionality [29], the emerging defect
could also be a vortex or solitonic vortex [72], whose infilling
would create a (solitonic) vortex-bright soliton [73] rather than
a dark-bright soliton. However, our geometry and parame-
ters, which have {μRb,μ′
Rb} < 4ℏωRb
⊥and {μCs,μ′
Cs} < 8ℏωCs
⊥,
favor 1D solitonic defects [72]. In Fig. 2, the initial multiple
defects in the fastest condensing component eventually lead
to exactly one long-lived defect, which acts as a tight mobile
microtrap [11], facilitating rapid condensation of the other
component. Growth of the bright (infilling) component in the
microtrap (which stabilizes the dark soliton against decay [63])
leads to a spontaneously generated dark-bright soliton; for this
particular simulation, this soliton forms close to the trap center. II. QUENCH PROTOCOL AND MODELING DETAILS Our quench scheme closely follows that of Ref. [31],
namely, a sudden temperature and chemical potential quench,
appropriately generalized to two components. We consider
a prolate (aspect ratio ≈10) two-component atomic cloud
of approximately 1.4 × 106 87Rb and 8 × 105 133Cs atoms,
equilibrated in slightly displaced traps at T0 = 80 nK (close to
the ideal gas critical temperature Tc). Based on a characteristic example (Fig. 2), in which
neither component initially possesses a single macroscopically 023628-2 PHYSICAL REVIEW A 93, 023628 (2016) STOCHASTIC GROWTH DYNAMICS AND COMPOSITE . . . FIG. 3. Evolution of four different postquench random noise
sequences, with identical prequench states. (a)–(d) show the c-field
density evolution [shown here via n(z)
k = nk(x = 0,y = 0,z)], and
(e)–(h) the condensate density profiles after 1 s (insets 2 s; ticks on
inset axes correspond to those on the main figure axes). After this
time the Rb defect has either been stabilized by Cs infilling (e); fully
decayed within Rb (f); or decayed to the left (g) or right (h) edge of
the condensate. Quench parameters are as in Fig. 2. equilibrium for initial chemical potentials μk and common
temperature T0 ⪆TC, and then instantaneously quench these
parameters to final values T < TC and μ′
k ⩾μk. We extract the
time-dependent condensate mode using the Penrose-Onsager
(PO) criterion [71], by seeking a macroscopically occupied
eigenmode of the one-body density matrix in short-time
averages over a single trajectory [67]. B. Shot-to-shot variations We investigate sensitivity to fluctuations by looking at
different numerical runs (loosely corresponding to different
experimental runs) for the same fixed quench sequence
[Figs. 3(a)–3(d)]. Such runs feature statistically identical
condensate number evolution [see error bars in Fig. 4(a)]. Figure 3(a) reveals a three-stage evolution in the “reference”
case of Fig. 2: slow-moving solitonic defect, near-stationary
dark-bright solitary wave, and eventual static domain wall
structure. Figures 3(b)–3(d) reveal alternative (and roughly 023628-3 PHYSICAL REVIEW A 93, 023628 (2016) I.-K. LIU et al. FIG. 4. Dependence of evolution on quench parameters. (a)
shows condensate number evolution (Rb solid, Cs dashed) for
different final chemical potentials μ′
k; standard parameters μ′
Rb =
μRb,μ′
Cs = 7.34μCs (red and blue circles); μ′
Rb = 2.63μRb,μ′
Cs =
7.34μCs [black squares, example of c-field density evolution shown in
(c)]; μ′
Rb = μRb,μ′
Cs = 11.9μCs [green triangles, example of c-field
density evolution shown in (d)]. Error bars in (a) for standard
parameters indicate the standard deviation over six numerical tra-
jectories. (b) shows condensate number evolution for different rates
γk; standard parameters γCs = γRb = 0.263 s−1 (red and blue circles),
and γCs = 10γRb = 2.63 s−1 (brown stars). equally likely) outcomes for different (same mean amplitude)
postquench dynamical noise realizations, describing thermal
fluctuations. Figure 3(c) shows slower Cs growth, in an initially
shallower (hence more rapidly moving) dark solitary-wave
microtrap. Unlike Fig. 3(a), where dark solitary wave decay
and stabilization occur at the trap center, Figs. 3(c)–3(d) show
this process occurring either to the left (c), or to the right
(d), illustrating the crucial role of the motion of the decaying
dark solitary wave [76]. Figure 3(b) illustrates the potential
for coexistence of more than one (shallow) defect for an
appreciable time [see also Fig. 4(d) for t ≲0.5 s], which
typically decay without Cs growth in the solitonic microtraps. In this case, Cs only condenses around Rb, minimizing mean-
field repulsion. Figures 3(e)–3(h) show the condensate profile
after 1 s (insets 2 s), consisting of either a large Cs structure
in the middle separating the Rb [inset to Fig. 3(e)], or a large
Rb structure enclosed by Cs [insets to Figs. 3(f)–3(h)]. Further
evolution of case (a) (to ≳3 s) also yields an Rb structure
enclosed by Cs, after gradual merging of the two Rb peaks. FIG. 4. Dependence of evolution on quench parameters. D. Role of quasicondensation in prequench states Our simulations so far exhibit a consistent predominance
of rapid Rb growth initially, set by the prequench conditions,
with long-term evolution dictated by the quench parameters. Although our initial states featured no single macroscopically
occupied state in either component, both initial states exhibited
quasicondensation, with multiple states having occupations
greater than half that of the most occupied state [≈10 states for
Rb (largest occupation ≈2200), and ≈5 states for Cs (largest
occupation ≈1100)]. To demonstrate the generality of our
findings, Fig. 5 shows the effects of decreasing the initial
Rb quasicondensation, i.e., changing μRb from >0 [Fig. 5(c)]
to ≈0 [Fig. 5(d)] and <0 [Fig. 5(e)], while allowing for an
initial, more pronounced, Cs quasicondensate (through the
increased μCs = 2.1ℏωCs
⊥). This leads to a large Cs condensate
forming before significant Rb condensate growth. Under these
conditions we find that enhancing the final Rb chemical
potential, μ′
Rb [Fig. 5(f)], can lead either to approximately
equal Rb and Cs condensate number, or to the generation of
a quasistable Cs defect enabling the short-time formation and
entrapment of an Rb condensate (at t = 0.25 s). B. Shot-to-shot variations We have also investigated the effect of the growth
rate on the condensate evolution (standard estimates [67]
suggest that γCs ∼10γRb), and find that increasing γCs/γRb,
for fixed chemical potentials, favors the rapid growth of Cs
(after a brief initial transient of rapid Rb growth) [Fig. 4(b)]. C. Dependence on global quench parameters Distinct dynamical regimes occurring for different quench
parameters are shown in Fig. 4. We focus on the dependence
of N0 on variations of the chemical potentials μ′
k and growth
rates γk for fixed initial quasicondensate states. With γRb = γCs
fixed, we find Rb dominates the evolution for a broad range
of μ′
Rb > μRb [squares and black lines in Fig. 4(a)]. Here,
spontaneously generated defects tend to decay within Rb, with
Cs not condensing into a dark-bright solitary wave microtrap
but instead at the trap edges [Fig. 4(c)]. For quenches with large
μ′
Cs [Fig. 4(a), green triangles], despite the early atom number
evolution remaining practically unchanged, Cs condensation
rapidly overtakes that of Rb, which gradually disappears B. Shot-to-shot variations (a)
shows condensate number evolution (Rb solid, Cs dashed) for
different final chemical potentials μ′
k; standard parameters μ′
Rb =
μRb,μ′
Cs = 7.34μCs (red and blue circles); μ′
Rb = 2.63μRb,μ′
Cs =
7.34μCs [black squares, example of c-field density evolution shown in
(c)]; μ′
Rb = μRb,μ′
Cs = 11.9μCs [green triangles, example of c-field
density evolution shown in (d)]. Error bars in (a) for standard
parameters indicate the standard deviation over six numerical tra-
jectories. (b) shows condensate number evolution for different rates
γk; standard parameters γCs = γRb = 0.263 s−1 (red and blue circles),
and γCs = 10γRb = 2.63 s−1 (brown stars). y
,
g
g g
p
We have confirmed that the qualitative findings above
are unchanged when using different (same temperature)
thermalized initial states in the same simulations, loosely
corresponding to different experimental runs. In particular,
although different, randomly generated, initial (prequench)
states yield different postquench defect formation dynamics,
we find that at least three out of nine simulations with
different initial and dynamical noise reveal clear evidence
of spontaneous dark-bright soliton formation, with two of
the emerging composite defects being relatively deep and
central. Despite the differences in emergent density profile,
condensate atom number evolution is the same [within
statistical variations, see error bars in Fig. 4(a)], irrespective
of the formation, stabilization, or decay of the dark-bright
solitary wave. The importance of dark-bright solitary waves
in the early stages of formation is further confirmed through
dissipative GPE simulations, showing that even perfectly
imprinted multiple dark-bright solitons quickly coalesce into
a single long-lived dark-bright soliton, with rapid dynamical
mean-field stabilization. Importantly, we find that the presence,
or absence, of small asymmetries (∼1 μm) in the trap minima
alter only the details, but not the qualitative structures, of
the emerging density profiles, indicating that shot-to-shot
and thermal fluctuations can strongly suppress experimentally
relevant trap imperfections (whose role can dominate mean-
field simulations [53]). [Fig. 4(d)]. We have also investigated the effect of the growth
rate on the condensate evolution (standard estimates [67]
suggest that γCs ∼10γRb), and find that increasing γCs/γRb,
for fixed chemical potentials, favors the rapid growth of Cs
(after a brief initial transient of rapid Rb growth) [Fig. 4(b)]. [Fig. 4(d)]. E. Effects of finite quench duration This coalescence
often occurs shortly after the Rb condensate number decreases
below that of Cs, providing a plausible indirect explanation for
the observation of such a regime in Ref. [41]. 87Rb - 85Rb [40] or 87Rb - 133Cs [41] mixtures. Although our
simulations feature sudden quenches, we can still draw some
interesting, albeit indirect, analogies to these experiments:
(i) Both experiments sometimes found (depending on param-
eters) a condensate in only one component, in qualitative
agreement with the long-term evolution of our stochastic
simulations. (ii) Our simulations reveal long-lived metastable
phase-separated profiles resembling those seen in exper-
iment [41]. While the energy of the immiscible system
is generally lowered by reducing the number of domains,
larger aspect ratios add an energy barrier to the process of
reduction; the experiment of Ref. [40] (with larger aspect
ratio) reported metastable states with lifetimes exceeding 1
s, consistent with our simulation time scales. (iii) The relative
time scales for condensation in the two components influence
the form of the emergent profiles, as the component condensing
second (typically with fewer initial atoms, and thus lower
critical temperature) can only do so when the density of
the other component is low [40,41]; this explains why, over
the probed time scale, simulations in the scenario of Fig. 3
most commonly exhibit a central Rb condensate surrounded
by the more massive Cs (a feature not easily reproduced at
equilibrium [53]). The long-term evolution will, in principle,
erase fluctuations from the formation dynamics (although in
practice this time scale may be too long to be experimentally
relevant). Indeed, longer term evolution in the scenario of
Fig. 2 (t ≳3 s) exhibits coalescence of the two Rb structures
into a single structure surrounded by Cs. This coalescence
often occurs shortly after the Rb condensate number decreases
below that of Cs, providing a plausible indirect explanation for
the observation of such a regime in Ref. [41]. FIG. 5. Evolution of (a) condensate atom number, (b) occupation
ratio r, and (c)–(f) coupled 1D integrated condensate density
profiles for initial states with different amount of coherence in
the Rb initial state. Shown are cases with μCs > 0 and (c) μRb =
1.38ℏωRb
⊥(corresponding to “reference” Fig. E. Effects of finite quench duration 2 data, plotted only for
ease of comparison here), (d) μRb = 0.01ℏωRb
⊥, and (e)–(f) μRb =
−2.42ℏωRb
⊥; (f) differs from (e) only in the larger postquench Rb
chemical potential [μ′
Rb = 3.02ℏωRb
⊥in (f), as opposed to 1.38ℏωRb
⊥
in (e)]. Note that for (d)–(f) μCs is increased to 2.11ℏωCs
⊥. ramped linearly from the same initial to final values as in
Fig. 2 over time tR. For short but realistic ramp durations
(tR ⪅ω−1
z ) we find identical short-term (t ⪅tR) and very
similar long-term (t ∼500–1000 ms) dynamics, supporting
our findings about the emergence of a single relatively deep
dark soliton (Rb), partly infilled by the other component (Cs)];
this is in qualitative agreement with earlier findings for single-
component systems (see Supplementary Information in [31]). The scaling of the immediate postquench defect number
for finite-duration quenches with tR, starting from a state
exhibiting quasicondensation (T0 ⪆Tc), is shown in Fig. 2(f),
inset (for the relevant time scales shorter than the characteristic
time scale for the emergence of a composite defect). V. CONCLUSIONS We have qualitatively analyzed the formation dynamics of
immiscible two-component condensates following a sudden
temperature quench, elucidating the importance of composite
defect formation and dynamics. While our model is computa-
tionally challenging (even the coupled dissipative model, with-
out noise, has eight independent parameters), analysis of over
100 three-dimensional stochastic simulations has enabled us
to broadly classify the dynamics into three evolution stages: (i)
condensation of the fastest growing component, with dynamics
mainly determined by the prequench state and final temper-
ature, in which multiple defects are spontaneously formed;
(ii) fluctuation-determined coarse-graining dynamics, during
which defects in the fastest growing component coalesce and
gradually decay, potentially yielding a small number of long-
lived defects; and (iii) relaxation, with long-term dynamics set
by the quench parameters, during which the second component
condenses in regions of low mean-field density. Importantly,
a statistically non-negligible fraction (≳30%) of simulations
exhibit a composite defect, whose spontaneous formation and
subsequent evolution lead to stark shot-to-shot variations in the
observable phase-separated density profiles over a broad range
of experimentally relevant time scales. We have verified the
generic nature of our observations both by confirming that our
findings also hold for realistic finite-duration quenches, and As the physical scheme considered here does not fully
conform to the standard adiabatic-impulse-adiabatic scenario
of the Kibble-Zurek mechanism [29], we cautiously avoid
directly linking our findings for the study of the soliton
number to Kibble-Zurek exponents. Nonetheless and rather
remarkably we find some qualitative resemblance to scalings
observed in the short- and long-term evolution of spinor gases
quenched from miscible to immiscible in homogeneous or
harmonically trapped systems [44–46,49,77]. E. Effects of finite quench duration As a further check on the generality of our results, we
also consider finite-duration quenches in which (Tk,μk) are 023628-4 PHYSICAL REVIEW A 93, 023628 (2016) STOCHASTIC GROWTH DYNAMICS AND COMPOSITE . . FIG. 5. Evolution of (a) condensate atom number, (b) occupation
ratio r, and (c)–(f) coupled 1D integrated condensate density
profiles for initial states with different amount of coherence in
the Rb initial state. Shown are cases with μCs > 0 and (c) μRb =
1.38ℏωRb
⊥(corresponding to “reference” Fig. 2 data, plotted only for
ease of comparison here), (d) μRb = 0.01ℏωRb
⊥, and (e)–(f) μRb =
−2.42ℏωRb
⊥; (f) differs from (e) only in the larger postquench Rb
chemical potential [μ′
Rb = 3.02ℏωRb
⊥in (f), as opposed to 1.38ℏωRb
⊥
in (e)]. Note that for (d)–(f) μCs is increased to 2.11ℏωCs
⊥. 87Rb - 85Rb [40] or 87Rb - 133Cs [41] mixtures. Although our
simulations feature sudden quenches, we can still draw some
interesting, albeit indirect, analogies to these experiments:
(i) Both experiments sometimes found (depending on param-
eters) a condensate in only one component, in qualitative
agreement with the long-term evolution of our stochastic
simulations. (ii) Our simulations reveal long-lived metastable
phase-separated profiles resembling those seen in exper-
iment [41]. While the energy of the immiscible system
is generally lowered by reducing the number of domains,
larger aspect ratios add an energy barrier to the process of
reduction; the experiment of Ref. [40] (with larger aspect
ratio) reported metastable states with lifetimes exceeding 1
s, consistent with our simulation time scales. (iii) The relative
time scales for condensation in the two components influence
the form of the emergent profiles, as the component condensing
second (typically with fewer initial atoms, and thus lower
critical temperature) can only do so when the density of
the other component is low [40,41]; this explains why, over
the probed time scale, simulations in the scenario of Fig. 3
most commonly exhibit a central Rb condensate surrounded
by the more massive Cs (a feature not easily reproduced at
equilibrium [53]). The long-term evolution will, in principle,
erase fluctuations from the formation dynamics (although in
practice this time scale may be too long to be experimentally
relevant). Indeed, longer term evolution in the scenario of
Fig. 2 (t ≳3 s) exhibits coalescence of the two Rb structures
into a single structure surrounded by Cs. ACKNOWLEDGMENTS Stoof and M. J. Bijlsma, J. Low Temp. Phys. 124, 431
(2001). [34] L. Corman,
L. Chomaz,
T. Bienaim´e,
R. Desbuquois,
C. Weitenberg, S. Nascimb`ene, J. Dalibard, and J. Beugnon,
Phys. Rev. Lett. 113, 135302 (2014). [13] M. K¨ohl, M. J. Davis, C. W. Gardiner, T. W. H¨ansch, and T. Esslinger, Phys. Rev. Lett. 88, 080402 (2002). [35] W. H. Zurek, Phys. Rev. Lett. 102, 105702 (2009). [14] N. P. Proukakis, J. Schmiedmayer, and H. T. C. Stoof,
Phys. Rev. A 73, 053603 (2006). [36] B. Damski and W. H. Zurek, Phys. Rev. Lett. 104, 160404
(2010). [37] E. Witkowska, P. Deuar, M. Gajda, and K. Rz ˛a˙zewski,
Phys. Rev. Lett. 106, 135301 (2011). [15] M. Hugbart, J. A. Retter, A. F. Var´on, P. Bouyer, A. Aspect, and
M. J. Davis, Phys. Rev. A 75, 011602 (2007). [16] S. Ritter, A. ¨Ottl, T. Donner, T. Bourdel, M. K¨ohl, and
T. Esslinger, Phys. Rev. Lett. 98, 090402 (2007). [38] A. del Campo, A. Retzker, and M. B. Plenio, New J. Phys. 13,
083022 (2011). [17] T. Donner, S. Ritter, T. Bourdel, A. ¨Ottl, M. K¨ohl, and
T. Esslinger, Science 315, 1556 (2007). [39] G. Modugno, M. Modugno, F. Riboli, G. Roati, and M. Inguscio,
Phys. Rev. Lett. 89, 190404 (2002). g
[18] M. C. Garrett, A. Ratnapala, E. D. van Ooijen, C. J. Vale, [40] S. B. Papp, J. M. Pino, and C. E. Wieman, Phys. Rev. Lett. 101,
040402 (2008). [18] M. C. Garrett, A. Ratnapala, E. D. van Ooijen, C. J. Vale,
K. Weegink, S. K. Schnelle, O. Vainio, N. R. Heckenberg,
H. Rubinsztein-Dunlop, and M. J. Davis, Phys. Rev. A 83,
013630 (2011). [41] D. J. McCarron, H. W. Cho, D. L. Jenkin, M. P. K¨oppinger, and
S. L. Cornish, Phys. Rev. A 84, 011603 (2011). [19] N. Navon, A. L. Gaunt, R. P. Smith, and Z. Hadzibabic, Science
347, 167 (2015). [42] A. Lercher, T. Takekoshi, M. Debatin, B. Schuster, R. Rameshan,
F. Ferlaino, R. Grimm, and H.-C. N¨agerl, Eur. Phys. J. D 65, 3
(2011). [20] S. Ronen, J. L. Bohn, L. E. Halmo, and M. Edwards, Phys. Rev. A 78, 053613 (2008). [43] S.-W. Su, S.-C. Gou, A. S. Bradley, O. Fialko, and J. Brand,
Phys. Rev. Lett. 110, 215302 (2013). [21] E. del Valle, D. Sanvitto, A. Amo, F. P. Laussy, R. Andr´e,
C. Tejedor, and L. Vi˜na, Phys. Rev. Lett. 103, 096404 (2009). ACKNOWLEDGMENTS We acknowledge funding from the U.K. EPSRC (Grant
Nos. EP/K03250X/1 and EP/K030558/1). I.K.L. and S.C.G. were supported by the Ministry of Science and Technology,
Taiwan (Grant No. 103-2112-M-018-002-MY3). T.P.B. was
supported by the John Templeton Foundation via the Durham
Emergence Project (http://www.dur.ac.uk/emergence). [23] A.-W. de Leeuw, H. T. C. Stoof, and R. A. Duine, Phys. Rev. A
88, 033829 (2013). [1] M. C. Cross and P. C. Hohenberg, Rev. Mod. Phys. 65, 851
(1993). [24] A. Chiocchetta and I. Carusotto, Phys. Rev. A 90, 023633 (2014). [2] E. Meron, Phys. Rep. 218, 1 (1992). [3] J. D. Murray, Mathematical Biology. II, Spatial Models and
Biomedical Applications, Interdisciplinary Applied Mathemat-
ics (Springer, New York, 2003). [25] T. W. B. Kibble, J. Phys. A 9, 1387 (1976). [26] W. H. Zurek, Nature 317, 505 (1985). [27] W. Zurek, Phys. Rep. 276, 177 (1996). [4] H. T. C. Stoof, Phys. Rev. Lett. 78, 768 (1997). [28] T. Kibble and A. Srivastava, J. Phys. Condens. Matter 25, 400301
(2013). [5] Y. Kagan and B. V. Svistunov, Phys. Rev. Lett. 79, 3331
(1997). [29] A. del Campo, T. W. B. Kibble, and W. H. Zurek, J. Phys. Condens. Matter 25, 404210 (2013). [6] D. V. Semikoz and I. I. Tkachev, Phys. Rev. D 55, 489 (1997). [7] E. Levich and V. Yakhot, J. Phys. A 11, 2237 (1978). [30] N. D. Antunes, P. Gandra, R. J. Rivers, and A. Swarup,
Phys. Rev. D 73, 085012 (2006). [8] H.-J. Miesner, D. M. Stamper-Kurn, M. R. Andrews, D. S. [31] C. N. Weiler, T. W. Neely, D. R. Scherer, A. S. Bradley, M. J. Davis, and B. P. Anderson, Nature 455, 948 (2008). Durfee, S. Inouye, and W. Ketterle, Science 279, 1005 (1998). [9] C. W. Gardiner, M. D. Lee, R. J. Ballagh, M. J. Davis, and
P. Zoller, Phys. Rev. Lett. 81, 5266 (1998). P. Zoller, Phys. Rev. Lett. 81, 5266 (1998). [32] G. Lamporesi, S. Donadello, S. Serafini, F. Dalfovo, and
G. Ferrari, Nat. Phys. 9, 656 (2013). [10] M. J. Bijlsma, E. Zaremba, and H. T. C. Stoof, Phys. Rev. A 62,
063609 (2000). [33] S. Donadello, S. Serafini, M. Tylutki, L. P. Pitaevskii, F. Dalfovo,
G. Lamporesi, and G. Ferrari, Phys. Rev. Lett. 113, 065302
(2014). [11] D. M. Stamper-Kurn, H.-J. Miesner, A. P. Chikkatur, S. Inouye,
J. Stenger, and W. Ketterle, Phys. Rev. Lett. 81, 2194 (1998). [12] H. T. C. IV. EXPERIMENTAL RELEVANCE Recent experiments have explored the emergent immiscible
density profiles following the gradual sympathetic cooling of 023628-5 I.-K. LIU et al. PHYSICAL REVIEW A 93, 023628 (2016) that for suitable parameter choices, a defect-induced microtrap
can emerge in either species. Data supporting this publication is openly available under
an Open Data Commons Open Database License [79]. While the prevailing composite defect in our inhomo-
geneous system is a dark-bright solitary wave, higher di-
mensional analogs are also possible, and the related “core
condensation” dynamics in the context of condensed matter
and high-energy physics remain only partly understood even
in uniform systems [28,30]. Controlled experiments with
cold atoms could help shed further light on this important
problem by, e.g., statistically analyzing the evolution of density
profiles following quenched evaporative cooling of binary
gases initially near the critical temperature. PHYSICAL REVIEW A 93, 023628 (2016) PHYSICAL REVIEW A 93, 023628 (2016) [46] J. Hofmann, S. S. Natu, and S. Das Sarma, Phys. Rev. Lett. 113,
095702 (2014). [64] R. W. Pattinson, N. G. Parker, and N. P. Proukakis, J. Phys. Conf. Ser. 497, 012029 (2014). [65] N. G. Berloff, Phys. Rev. Lett. 94, 120401 (2005). [47] L. E. Sadler, J. M. Higbie, S. R. Leslie, M. Vengalattore, and
D. M. Stamper-Kurn, Nature 443, 312 (2006). [66] M. J. Edmonds, K. L. Lee, and N. P. Proukakis, Phys. Rev. A
91, 011602 (2015). [48] H. Saito, Y. Kawaguchi, and M. Ueda, J. Phys. Condens. Matter
25, 404212 (2013). [67] P. B. Blakie, A. S. Bradley, M. J. Davis, R. J. Ballagh, and
C. W. Gardiner, Adv. Phys. 57, 363 (2008). [49] T. ´Swisłocki, E. Witkowska, J. Dziarmaga, and M. Matuszewski,
Phys. Rev. Lett. 110, 045303 (2013). [68] A. S. Bradley and P. B. Blakie, Phys. Rev. A 90, 023631
(2014). [50] E. Witkowska, J. Dziarmaga, T. ´Swisłocki, and M. Matuszewski,
Phys. Rev. B 88, 054508 (2013). [69] To make our simulations numerically tractable, we use a
plane-wave basis without strict de-aliasing (a procedure subtly
different from Refs. [67,78]). However, we have confirmed that
our main results remain qualitatively similar when the cutoff is
changed by ∼10%. [51] D. M. Stamper-Kurn and M. Ueda, Rev. Mod. Phys. 85, 1191
(2013). [52] S. De, D. L. Campbell, R. M. Price, A. Putra, B. M. Anderson,
and I. B. Spielman, Phys. Rev. A 89, 033631 (2014). and I. B. Spielman, Phys. Rev. A 89, 033631 (2014) [70] Here dWk is complex white noise defined by ⟨dW ∗
k (x,t)dWj
(x′,t)⟩= 2γkδkjδC;k(x −x′)dt, where δC;k(x −x′) = El⩽Ec;k
l
φ∗
l (x′)φl(x). [53] R. W. Pattinson, T. P. Billam, S. A. Gardiner, D. J. McCarron,
H. W. Cho, S. L. Cornish, N. G. Parker, and N. P. Proukakis,
Phys. Rev. A 87, 013625 (2013). y
[54] T. Busch and J. R. Anglin, Phys. Rev. Lett. 87, 010401 (2001). l
[71] O. Penrose and L. Onsager, Phys. Rev. 104, 576 (1956). [54] T. Busch and J. R. Anglin, Phys. Rev. Lett. 87, 010401 (2001). [55] P. ¨Ohberg and L. Santos, Phys. Rev. Lett. 86, 2918 (2001). [55] P. ¨Ohberg and L. Santos, Phys. Rev. Lett. 86, 2918 (2001). [72] J. Brand and W. P. Reinhardt, Phys. Rev. A 65, 043612
(2002). [56] U. Shrestha, J. Javanainen, and J. Ruostekoski, Phys. Rev. ACKNOWLEDGMENTS [44] J. Sabbatini, W. H. Zurek, and M. J. Davis, Phys. Rev. Lett. 107,
230402 (2011). [22] G. Nardin, K. G. Lagoudakis, M. Wouters, M. Richard, A. [22] G. Nardin, K. G. Lagoudakis, M. Wouters, M. Richard, A. Baas, R. Andr´e, L. S. Dang, B. Pietka, and B. Deveaud-Pl´edran,
Phys. Rev. Lett. 103, 256402 (2009). [45] J. Sabbatini, W. H. Zurek, and M. J. Davis, New J. Phys. 14,
095030 (2012). Baas, R. Andr´e, L. S. Dang, B. Pietka, and B. Deveaud-Pl´edran,
Phys. Rev. Lett. 103, 256402 (2009). 023628-6 023628-6 STOCHASTIC GROWTH DYNAMICS AND COMPOSITE . . . PHYSICAL REVIEW A 93, 023628 (2016) Lett. 103, 190401 (2009). [73] K. J. H. Law, P. G. Kevrekidis, and L. S. Tuckerman, Phys. Rev. Lett. 105, 160405 (2010). [57] C. Becker, S. Stellmer, P. Soltan-Panahi, S. D¨orscher,
M. Baumert, E.-M. Richter, J. Kronj¨ager, K. Bongs, and
K. Sengstock, Nat. Phys. 4, 496 (2008). [74] S. Coen and M. Haelterman, Phys. Rev. Lett. 87, 140401
(2001). [58] C. Hamner, J. J. Chang, P. Engels, and M. A. Hoefer, Phys. Rev. [58] C. Hamner, J. J. Chang, P. Engels, and M. A. Hoefer, Phys. Rev. Lett. 106, 065302 (2011). [75] D. M. Stamper-Kurn, H.-J. Miesner, A. P. Chikkatur, S. Inouy
J. Stenger, and W. Ketterle, Phys. Rev. Lett. 83, 661 (1999). [75] D. M. Stamper Kurn, H. J. Miesner, A. P. Chikkatur, S. Inouy
J. Stenger, and W. Ketterle, Phys. Rev. Lett. 83, 661 (1999). Lett. 106, 065302 (2011). [59] C. Hamner, Y. Zhang, J. J. Chang, C. Zhang, and P. Engels,
Phys. Rev. Lett. 111, 264101 (2013). [76] S. P. Cockburn, H. E. Nistazakis, T. P. Horikis, P. G. Kevrekidis, [76] S. P. Cockburn, H. E. Nistazakis, T. P. Horikis, P. G. Kevrekidis,
N. P. Proukakis, and D. J. Frantzeskakis, Phys. Rev. Lett. 104,
174101 (2010). [60] M. Trippenbach, K. Goral, K. Rzazewski, B. Malomed, and
Y. B. Band, J. Phys. B 33, 4017 (2000). [77] T. ´Swisłocki, E. Witkowska, J. Dziarmaga, and M. Matuszewski
(private communication). [61] K. Kasamatsu and M. Tsubota, Phys. Rev. A 74, 013617 (2006). [61] K. Kasamatsu and M. Tsubota, Phys. Rev. A 74, [62] K. Sasaki, N. Suzuki, and H. Saito, Phys. Rev. A 83, 033602
(2011). [78] P. B. Blakie, Phys. Rev. E 78, 026704 (2008). [79] Additional metadata are available at: http://dx.doi.org/10.17634/
122626-2. Please contact Newcastle Research Data Service at
rdm@ncl.ac.uk for access instructions. [63] V. Achilleos, D. Yan, P. G. Kevrekidis, and D. J. Frantzeskakis,
New J. Phys. 14, 055006 (2012). 023628-7 023628-7
|
https://openalex.org/W2052551677
|
https://europepmc.org/articles/pmc2683565?pdf=render
|
English
| null |
Novel Application of Fluorescence Lifetime and Fluorescence Microscopy Enables Quantitative Access to Subcellular Dynamics in Plant Cells
|
PloS one
| 2,009
|
cc-by
| 10,416
|
Received October 31, 2008; Accepted April 30, 2009; Published May 27, 2009 Copyright: 2009 Elgass et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscrip
Ph.D. fellowships from the state Baden-Wuerttemberg to KE and KC and a DFG grant to KH (HA2146/10-1). ad no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. This work was funded by
e state Baden-Wuerttemberg to KE and KC and a DFG grant to KH (HA2146/10-1). Competing Interests: The authors have declared that no competing interests exist. * E-mail: alfred.meixner@uni-tuebingen.de (AJM); klaus.harter@zmbp.uni-tuebingen.de (KH) Kirstin Elgass1, Katharina Caesar2, Frank Schleifenbaum1,2, York-Dieter Stierhof3, Alfred J. Meixner1*,
Klaus Harter2* 1 Institute for Physical and Theoretical Chemistry, University of Tu¨bingen, Tu¨bingen, Germany, 2 Center for Plant Molecular Biology, Department of Plant Physiology,
University of Tu¨bingen, Tu¨bingen, Germany, 3 Center for Plant Molecular Biology, Microscopy, University of Tu¨bingen, Tu¨bingen, Germany PLoS ONE | www.plosone.org ation: Elgass K, Caesar K, Schleifenbaum F, Stierhof Y-D, Meixner AJ, et al. (2009) Novel Application of Fluorescence Lifetime and Flu
ables Quantitative Access to Subcellular Dynamics in Plant Cells. PLoS ONE 4(5): e5716. doi:10.1371/journal.pone.0005716 Novel Application of Fluorescence Lifetime and
Fluorescence Microscopy Enables Quantitative Access to
Subcellular Dynamics in Plant Cells arina Caesar2, Frank Schleifenbaum1,2, York-Dieter Stierhof3, Alfred J. Meixner1*, Kirstin Elgass1, Katharina Caesar2, Frank Schleifenbaum1,2, York-Dieter Stierhof3, Alfred J. Meixner1*,
Klaus Harter2* Abstract Background: Optical and spectroscopic technologies working at subcellular resolution with quantitative output are
required for a deeper understanding of molecular processes and mechanisms in living cells. Such technologies are
prerequisite for the realisation of predictive biology at cellular and subcellular level. However, although established in the
physical sciences, these techniques are rarely applied to cell biology in the plant sciences. Principal Findings: Here, we present a combined application of one-chromophore fluorescence lifetime microscopy and
wavelength-selective fluorescence microscopy to analyse the function of a GFP fusion of the Brassinosteroid Insensitive 1
Receptor (BRI1-GFP) with high spatial and temporal resolution in living Arabidopsis cells in their tissue environment. We
show a rapid, brassinolide-induced cell wall expansion and a fast BR-regulated change in the BRI1-GFP fluorescence lifetime
in the plasmamembrane in vivo. Both cell wall expansion and changes in fluorescence lifetime reflect early BR-induced and
BRI1-dependent physiological or signalling processes. Our experiments also show the potential of one-chromophore
fluorescence lifetime microscopy for the in vivo monitoring of the biochemical and biophysical subcellular environment
using GFP fusion proteins as probes. Significance: One-chromophore fluorescence lifetime microscopy, combined with wavelength-specific fluorescence
microscopy, opens up new frontiers for in vivo dynamic and quantitative analysis of cellular processes at high resolution
which are not addressable by pure imaging technologies or transmission electron microscopy. Citation: Elgass K, Caesar K, Schleifenbaum F, Stierhof Y-D, Meixner AJ, et al. (2009) Novel Application of Fluorescence Lifetime and Fluorescence Microscopy
Enables Quantitative Access to Subcellular Dynamics in Plant Cells. PLoS ONE 4(5): e5716. doi:10.1371/journal.pone.0005716 Editor: Markus Grebe, Umea˚ Plant Science Centre, Sweden Received October 31, 2008; Accepted April 30, 2009; Published May 27, 2009 Introduction in mammalian cells [14], plant protoplasts [15–16] or plant cells after
plasmolysis [17]. An in vivo FCS analysis of phytochrome mobility was
reported for moss protonemal tip cells [18]. However, protoplast
preparation and plasmolysis induce stress responses and may modify
the subcellular partitioning, intracellular dynamics and activity of the
receptors. Furthermore, expression of plant receptors in heterologous
systems may lead to artificial results. Due to these limitations, our
knowledge on cell biological mechanisms, by which, for instance,
membrane-associated receptors act at the plant cell surface, traffic
inside the plant cell and induce early cellular responses, is restricted. Fluorescence microscopy is a powerful tool for studying the
subcellular partitioning and intracellular dynamics of fluorophor-
tagged proteins in living cells [1–3]. It has become possible to
combine fluorescence microscopy with new time-resolved laser
spectroscopic methods. Higher-order pulsed laser irradiation (Stim-
ulated Emission Depletion microscopy, STED) [4–5] or single
molecule blinking statistics (PhotoActivated Localization Microscopy,
PALM) [6] and high resolution colocalization of single molecules
(STORM) [7] are used for obtaining ultra-high spatial resolution far
below the diffraction limit. For observing dynamic processes
associated with single molecules, techniques such as fluorescence
correlation spectroscopy (FCS) are available [8–13]. However, the
high resolution and sensitive fluorescence microscopy of proteins,
such as membrane-bound receptor kinases, is difficult to carry out in
living plant cells, especially in the context of their tissue, due to the
autofluorescence of cellular compartments such as the cell wall. This
problem is usually circumvented by studying proteins of higher plants To overcome these limitations, we applied one-chromophore
fluorescence lifetime microscopy (ocFLM), combined with wave-
length-selective fluorescence microscopy, to plant cells in their
tissue environment in Arabidopsis thaliana at high local resolution. Our ocFLM system consisted of a confocal sample scanning
microscope (CSSM), a spectrally integrating detector for measur-
ing fluorescence intensity and a time-correlated single-photon
counting board for recording fluorescence lifetime decays, which
was custom-built in our lab [19–20]. For plant material, light- PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 1 May 2009 | Volume 4 | Issue 5 | e5716 Subcellular Dynamics in Plants intensity image over the plasmalemma-cell wall area of BRI1-
GFP-expressing and wild type seedlings in root and shoot
(cotyledon) cells. In contrast to the spectra of non-transformed
wild type cells (Fig. Introduction 1A and B, black dots), the spectra of the BRI1-
GFP-expressing cells showed a higher overall intensity and two
main peaks (Fig. 1A and B, green dots). These two peaks are
typical of and specific for GFP in aqueous solution (Figure S1)
[25]. However, the spectra recorded from the plants differed
significantly and the shoulder amplitudes and intensity ratios of the
two maxima varied between root and cotyledon cells (Fig. 1A and
B). These data indicate that the degree and properties of
autofluorescence depend on the cell type and the autofluorescence
strongly interferes with the spectrum of GFP fluorescence
emission. Secondly, we recorded fluorescence lifetime decay traces
from a selected probe volume with pulsed laser excitation in living
plant cells. At the maximum of fluorescence emission between 500 grown seedlings expressing a BRI1-GFP fusion protein were used. BRI1, a plasmalemma-bound receptor kinase for plant steroids
like brassinolide (BL) [21], recycles through endosomes [22–23]
and regulates many aspects of growth and differentiation,
including cell expansion [24]. As shown here, our combined optical-spectroscopic application,
together with a novel data analysis approach using BRI1-GFP as a
model receptor, provides unprecedented insight into cells and
opens up new frontiers for in vivo dynamic, quantitative analysis of
molecular and subcellular processes at high local resolution. Differentiation of GFP and fluorescence background Differentiation of GFP and fluorescence background
To differentiate between background fluorescence and the
BRI1-GFP signal, we recorded a two-dimensional fluorescence To differentiate between background fluorescence and the
BRI1-GFP signal, we recorded a two-dimensional fluorescence Figure 1. Differentiation of autofluorescence and the GFP signal in BRI1-GFP-expressing and wildtype Arabidopsis cells. (A–B)
Wavelength-resolved fluorescence spectra from plasmalemma-cell wall sections of BRI1-GFP-expressing cells (green) and wildtype cells (black). The
spectra were recorded in root, A, or cotyledon cells, B. The areas (50650 mm) used for recording are shown in the inlets. (C) In vivo decay trace of
fluorescence lifetime from BRI1-GFP expressing hypocotyl cells fitted by a mono-exponential function (black line). The lifetime decay was measured at
the peak of fluorescence intensity at 500 to 512 nm. (D) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall area of wildtype
hypocotyl cells fitted by a mono-exponential function (black line). (E) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall
area of wildtype hypocotyl cells fitted by a multi-exponential function (black line). The lifetime decay was measured at around 500 to 512 nm. The
residuals indicate the deviation between the measured and the model decay function. In a good fit the residuals are distributed symmetrically around
0. IRF, instrument response function. doi:10.1371/journal.pone.0005716.g001 Figure 1. Differentiation of autofluorescence and the GFP signal in BRI1-GFP-expressing and wildtype Arabidopsis cells. (A–B)
Wavelength-resolved fluorescence spectra from plasmalemma-cell wall sections of BRI1-GFP-expressing cells (green) and wildtype cells (black). The
spectra were recorded in root, A, or cotyledon cells, B. The areas (50650 mm) used for recording are shown in the inlets. (C) In vivo decay trace of
fluorescence lifetime from BRI1-GFP expressing hypocotyl cells fitted by a mono-exponential function (black line). The lifetime decay was measured at
the peak of fluorescence intensity at 500 to 512 nm. (D) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall area of wildtype
hypocotyl cells fitted by a mono-exponential function (black line). (E) In vivo decay trace of autofluorescence lifetime in the plasmalemma-cell wall
area of wildtype hypocotyl cells fitted by a multi-exponential function (black line). The lifetime decay was measured at around 500 to 512 nm. The
residuals indicate the deviation between the measured and the model decay function. In a good fit the residuals are distributed symmetrically around
0. IRF, instrument response function. Results Differentiation of GFP and fluorescence background Differentiation of GFP and fluorescence background doi:10.1371/journal.pone.0005716.g001 May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 2 Subcellular Dynamics in Plants Figure 2. Dimensional appearance of periclinal and anticlinal cell walls in confocal and TEM images. (A) Fluorescence intensity curve
recorded over a plasmalemmata-wall section of the periclinal wall of BRI1-GFP expressing Arabidopsis root cells. The full width at half maximum value
(FWHM) of the Gaussian fitting revealed an apparent wall thickness of 425630 nm. (B) Fluorescence intensity curve recorded over a plasmalemmata-
wall section of the anticlinal wall of the identical root cell described in A. The FWHM of the Gaussian fitting revealed an apparent wall thickness of
773633 nm. (C) Ultrathin TEM image of a tissue section cutting three different root cells. Two anticlinal and one periclinal cell walls (CW) are shown. CO, cortical cell; EP, epidermal cell; ER, endoplasmatic reticulum; EB, ER body; M, mitochondrium; V, vacuole. The arrow heads point to Golgi-derived
vesicles. The bar represents 500 nm. doi:10.1371/journal.pone.0005716.g002 Figure 2. Dimensional appearance of periclinal and anticlinal cell walls in confocal and TEM images. (A) Fluorescence intensity curve
recorded over a plasmalemmata-wall section of the periclinal wall of BRI1-GFP expressing Arabidopsis root cells. The full width at half maximum value
(FWHM) of the Gaussian fitting revealed an apparent wall thickness of 425630 nm. (B) Fluorescence intensity curve recorded over a plasmalemmata-
wall section of the anticlinal wall of the identical root cell described in A. The FWHM of the Gaussian fitting revealed an apparent wall thickness of
773633 nm. (C) Ultrathin TEM image of a tissue section cutting three different root cells. Two anticlinal and one periclinal cell walls (CW) are shown. CO, cortical cell; EP, epidermal cell; ER, endoplasmatic reticulum; EB, ER body; M, mitochondrium; V, vacuole. The arrow heads point to Golgi-derived
vesicles. The bar represents 500 nm. doi:10.1371/journal.pone.0005716.g002 and 512 nm of BRI1-GFP expressing hypocotyl cells (Fig. 1B), the
lifetime was characterized by a mono-exponential decay (Fig. 1C)
typical for GFP (Figure S1) [26–27]. In contrast, the background
autofluorescence, which was recorded at the identical wavelength
range in wildtype hypocotyl cells, strongly deviated from the
mono-exponential decay function (Fig. 1D). An acceptable fit to
the experimental data with respect to the average lifetime and
amplitude could only be achieved by a multi-exponential decay
function (Fig. 1E, see Table S1 for additional information on the
fitting parameters of all lifetime decay traces shown here). Differentiation of GFP and fluorescence background bordering a cell wall with a real thickness of 100 nm at a slant
of 30u generates a FWHM value of around 730 nm (see Text S1
for calculation). Thus, the prevailing larger FWHM values of the
anticlinal cell wall measurements can be explained by their higher
bending probability which results in higher slanting effects in the
focus of the confocal microscope. Therefore, for an accurate
determination of small changes in the expansion of plasmamem-
brane-cell wall areas, the selected section has to be kept in tight
focus during the entire analysis, which is enabled by our
experimental CSSM setup. In addition, the differences of GFP and background fluores-
cence with respect to their spectra and fluorescence lifetime
enabled us to choose the appropriate experimental set-up for the
distinction of subcellular compartments such as the plasmalemma
and the cell wall (Fig. 3). Thus, we used the emission range at
around 500 nm for recording GFP fluorescence and the range at
around 600 nm for recording cell wall autofluorescence (hatched
bars in Fig. 3A). Furthermore, we were faced with the problem that the cell wall
in the CSSM images appeared to be much thicker than when it
was determined by transmission electron microscopy (TEM)
(Fig. 2). However, one has to take into account the non-point-
shaped dimension of the confocal laser beam focus. When this is
considered, the measured full width at half maximum (FWHM)
values of the Gaussian fits of the fluorescence intensity distribution
of 425 nm for the periclinal cell wall (Fig. 2A) and 774 nm for the
anticlinal cell wall (Fig. 2B) reflect a thickness of 83 nm and
432 nm, respectively (see Text S1 for calculation). The values of
the periclinal cell walls are, therefore, consistent with those
determined by TEM (about 45 to 100 nm; Fig. 2C; Table S5). The width of the anticlinal walls detected by our fluorescence
intensity approach was still too large to correspond to our TEM
measurements. However, to understand the values determined for
the longer anticlinal walls, one has to take into account that a cell
wall slanted to a few degrees appears to have a higher CSSM-
measured thickness. For instance, imaging cell membranes Rapid BL-induced cell wall expansion in vivo We next addressed the problem of real-time measurement of
possible physiological effects of BRI1-GFP at subcellular level in
living plant cells. Former studies have shown that BL does not alter
the fluorescence intensity, the number of vesicles in the endosomal
pool and the intracellular distribution of BRI1-GFP in root cells
[22]. This is in agreement with our observations (Fig. 4A to C,
Fig. 5 and data not shown). However, the local fluorescence
intensity of BRI1-GFP as a function of BL, time and a defined PLoS ONE | www.p PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 3 Subcellular Dynamics in Plants Figure 3. Measurement ranges for comparison between GFP-fluorescence and cell wall-derived autofluorescence. (A) Overlap of the
fluorescence spectrum of purified GFP in water (green) and the autofluorescence spectrum (blue) of wildtype Arabidopsis hypocotyl cells. The broad
band of the spectrum (500–640 nm, blue) originates from the cell wall, the sharp peak at 680 nm originates from chlorophyll. The grey hatched areas
show the spectral ranges used for recording GFP-fluorescence (around 500 nm) and autofluorescence, respectively (around 600 nm). (B) Fluorescence
decay trace recorded in the 500 nm region (left hatched bar in A) in a BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function
(black line), proves the main presence of GFP-fluorescence. (C) Fluorescence decay trace recorded in the 600 nm region (right hatched bar in A) in a
BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function (black line), proves the dominant presence of autofluorescence. IRF,
instrument response function. doi:10.1371/journal.pone.0005716.g003 Figure 3. Measurement ranges for comparison between GFP-fluorescence and cell wall-derived autofluorescence. (A) Overlap of the
fluorescence spectrum of purified GFP in water (green) and the autofluorescence spectrum (blue) of wildtype Arabidopsis hypocotyl cells. The broad
band of the spectrum (500–640 nm, blue) originates from the cell wall, the sharp peak at 680 nm originates from chlorophyll. The grey hatched areas
show the spectral ranges used for recording GFP-fluorescence (around 500 nm) and autofluorescence, respectively (around 600 nm). (B) Fluorescence
decay trace recorded in the 500 nm region (left hatched bar in A) in a BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function
(black line), proves the main presence of GFP-fluorescence. PLoS ONE | www.plosone.org Rapid BL-induced cell wall expansion in vivo (A–C) Fluorescence
intensity images and the corresponding profiles (Gaussian fits including FWHM values) of root tip cells recorded over the subcellular section indicated
by the white line (representing 5 mm) shown in the confocal image inlets before (0 min) A, 15 min, B, and 30 min, C, after addition of 10 nM BL. (D)
Combined Gaussian fits of the intensity profiles shown in A–C. (E–F) Fluorescence intensity profiles recorded over a 5 mm section of the
plasmalemmata-cell wall area of two neighbouring hypocotyl cells before, E, and 30 min after application of 10 nM BL, F. For the determination of the
FWHM error see Material and Methods. For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g004 Figure 4. BL-induced expansion of the GFP fluorescence in BRI1-GFP expressing root tips and hypocotyl cells. (A–C) Fluorescence
intensity images and the corresponding profiles (Gaussian fits including FWHM values) of root tip cells recorded over the subcellular section indicated
by the white line (representing 5 mm) shown in the confocal image inlets before (0 min) A, 15 min, B, and 30 min, C, after addition of 10 nM BL. (D)
Combined Gaussian fits of the intensity profiles shown in A–C. (E–F) Fluorescence intensity profiles recorded over a 5 mm section of the
plasmalemmata-cell wall area of two neighbouring hypocotyl cells before, E, and 30 min after application of 10 nM BL, F. For the determination of the
FWHM error see Material and Methods. For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g004 A BL-induced expansion of cell wall by 49629% (n = 15,
p = 0,0131) was also observed when the BRI1-GFP expressing
seedlings were stained with the cell wall-staining dye Calcofluor
(Fig. 6B, see Table S4 for the single measurement values). difficulties with respect to the TEM measurements). In addition, our
data showed that the cellular structures including the plasmalem-
mata and cell walls were normal in BL-treated as well as in untreated
cells (Figs. 2 and 7). Furthermore, there was no detachment of the
plasmalemmata from the cell wall in response to BL treatment
(Fig. 7). The latter observation excludes a possible plasmolytic cause
for the BL-induced expansion in the BRI1-GFP signal. g
g
We also carried out a TEM analysis of control and BL-treated
(30 min) root cells. Rapid BL-induced cell wall expansion in vivo (C) Fluorescence decay trace recorded in the 600 nm region (right hatched bar in A) in a
BRI1-GFP expressing hypocotyl cell, fitted by a mono-exponential function (black line), proves the dominant presence of autofluorescence. IRF,
instrument response function. doi:10.1371/journal.pone.0005716.g003 individual cells (Fig. 5). The Gaussian fitting of the GFP intensity
profiles of more than 30 independent sections measured in several
individual cells from 5 seedlings revealed that the fluorescence
signals expanded around 34622% (n = 31, p = 0,0003) in response
to BL treatment (see Table S2 for the single measurement values). The spatial separation of the plasmalemmata could have been
caused by BL-induced plasmolysis or BL-induced cell wall
expansion. Therefore, we determined the spatial behavior of the
cell wall in response to BL treatment in BRI1-GFP-expressing
seedlings. The measurement of fluorescence from different
subcellular origins was possible as demonstrated before (Fig. 3). The cell wall autofluorescence expanded around 41624% (n = 29,
p = 0,0145) after brassinolide treatment coincidentally with the
separation of the plasmalemmata in the analysed cells (see Table
S3 for the single measurement values and Fig. 6A as an example). subcellular area was not yet studied. We therefore, recorded
fluorescence intensity profiles over selected plasmalemmata-cell
wall sections before and after treating the cells for 15 to 30 min
with 10 nM BL. The intensity profiles enabled us to discriminate
between the fluorescence signal of the proper plasmalemmata-cell
wall section and membrane vesicles, which budded from the
plasmalemmata during the incubation time. As shown in Fig. 4A–
D and Fig. 5, the treatment of seedlings with BL induced an
expansion of the BRI1-GFP signal in the plasmalemma-cell wall
section of the root cells within 30 min. This response was also
observed in hypocotyl cells, where BL induced an expansion of the
BRI1-GFP signal of two neighboring cells, so that the plasma-
lemmata became optically distinguishable (Fig. 4E and F). The
degree of expansion did not only depend on the cell type but also
on the position of the measured section along the cell wall of PLoS ONE | www.plosone.org PLoS ONE | www PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 4 Subcellular Dynamics in Plants Figure 4. BL-induced expansion of the GFP fluorescence in BRI1-GFP expressing root tips and hypocotyl cells. Rapid BL-induced cell wall expansion in vivo Root tips from two seedlings of each were frozen
under high
pressure, freeze-substituted in osmium tetroxide
containing acetone, embedded in epoxy resin, cut and subjected to
TEM. Using the TEM images, the width of 72 periclinal cell walls of
each was measured, and the mean width calculated. The
measurements resulted in a wall width of 62,5610,8 nm for the
control and 64,9610,1 nm for BL-treated root tip cells (Fig. 7; see
Table S 5 for the single measurement values). Thus, a statistically
significant difference with high confidence between BL-treated and
mock-treated seedlings (p = 0,0845) could not be observed by using
TEM. We realized, however, that the variation of the wall width
between individual cells and within an individual cell was high and
ranged from 47 to 88 nm in the mock-treated and from 49 to 94 nm
in the BL-treated root tips (Table S 5; see Discussion for the set of To determine the specificity of the response, we carried out
identical experiments on seedlings, expressing plasmalemma-
located
aquaporin-GFP
[28]
and
wildtype
seedlings. Our
experiments revealed a slight BL-induced separation of adjacent
GFP signals by 1068% (see Table S6 for statistics and single
measurement values; Fig. 8A–F) in aquaporin-GFP expressing
seedlings and a slight expansion of the cell wall autofluorescence
by 18616% in wild type seedlings (see Table S7 for statistics and
single measurement values) without general statistical significance. We obtained similar results, when Calcofluor-stained cell walls or
the autofluorescence of the cell walls in aquaporin-GFP-expressing
cells were measured (Fig. 8G–H; data not shown). PLoS ONE | w May 2009 | Volume 4 | Issue 5 | e5716 May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 5 Subcellular Dynamics in Plants Figure 5. BL-induced expansion of the GFP fluorescence signal in BRI1-GFP expressing root tip cells. (A) Confocal image of root tip tissue
before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections
indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated before and 30 min after addition of BL. (B–J)
FWHM values of the plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. For the determination of the
FWHM error in B to J see Material and Methods. Rapid BL-induced cell wall expansion in vivo For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g005 Figure 5. BL-induced expansion of the GFP fluorescence signal in BRI1-GFP expressing root tip cells. (A) Confocal image of root tip tissue
before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections
indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated before and 30 min after addition of BL. (B–J)
FWHM values of the plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. For the determination of the
FWHM error in B to J see Material and Methods. For the statistical analysis of the BRI1-GFP fluorescence measurements see Table S2. doi:10.1371/journal.pone.0005716.g005 areas adjacent to the plasmalemma region remained largely
unchanged (Fig. 10B). By the spatial extension of our measure-
ments, BL-induced changes in BRI1-GFP lifetime were not only
observed in sections over the plasmalemma-wall areas but also
over larger cell areas (Fig. 10C). Significant changes in GFP
fluorescence lifetime were never measured after mock-treatment of
the
BRI1-GFP
line
or
in
the
BL-treated
aquaporin-GFP
expressing cells (Fig. 10D and E; data not shown). Monitoring the environment of plasmalemma-bound
GFP fusion proteins in vivo The lifetime of GFP fluorescence provides information about
the physical and chemical environment of the fluorophore and,
thus, the GFP fusion protein [29–30]. In addition to fluorescence
intensity, we recorded GFP fluorescence lifetime decay traces
across plasmalemmata-cell wall sections in hypocotyl cells of
aquaporin-GFP and BRI1-GFP expressing seedlings at up to
200 nm intervals. The measurements were based on a different
but sufficient number of fluorescence counts (Table S1), which is
reflected in the error calculation [31]. We observed significant
differences in GFP fluorescence lifetime across plasmalemma-cell
wall sections and regularly also between adjacent cells for both
aquaporin-GFP and BRI1-GFP (Fig. 9A and B). A detailed
subcellular analysis revealed that the most significant differences in
BRI1-GFP lifetime existed within the cell between the cytoplasm,
plasmalemma and cell wall (Fig. 9C). PLoS ONE | www.plosone.org BR-induced responses are cell physiological processes BR-induced responses are cell physiological processes
Recent studies suggested that the endosomal pool of BRI1 is
critical for the signaling and regulation of BL-responsive genes in
Arabidopsis as shown by treatment with Brefeldin A (BFA) [22–23]. BFA inhibits the function of ARF-GTPases by interacting with
their associated GEFs and, thus, has strong effects on the integrity
of subcellular compartments and the endosomal vesicle pool by
inhibiting intracellular trafficking pathways [32–33]. We, there-
fore, addressed the question whether BFA treatment also interferes
with BL-induced cell wall expansion and BRI-GFP fluorescence
lifetime. In the presence of the inhibitor BFA compartments
appeared and both processes were strongly inhibited, suggesting
that an intact intracellular trafficking system is required for their
execution (Fig. 11 and Figure S3). To determine whether BL also induces changes in the
environment of BRI1-GFP, we analysed the fluorescence lifetime
of the receptor fusion. After the addition of BL, we again observed
cell wall expansion (Fig. 10A). Furthermore, BRI1-GFP fluores-
cence lifetime at the plasmalemmata strongly decreased within
20 min of BL addition and then remained constant (Fig. 10B, C;
Figure S2). In contrast, fluorescence lifetime in the subcellular PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 6 Subcellular Dynamics in Plants Figure 6. BL-induced expansion of the cell wall in BRI1-GFP
expressing hypocotyl cells. (A) FWHM values of the anticlinal wall
autofluorescence from hypocotyl cells recorded over the subcellular
section indicated by the white line (10 mm) shown in the confocal
image inlet at 0 min and 30 min after addition of 10 nM BL. (B) FWHM
values of Calcofluor-stained anticlinal wall from hypocotyl cells
recorded over the subcellular section indicated by the white line
(11 mm) shown in the confocal image inlet at 0, 15 and 30 min after
addition of 10 nM BL. For the determination of the FWHM error in A and
B see Material and Methods. For the statistical analysis of the cell wall
autofluorescence and Calcofluor fluorescence measurements see Tables
S3 and S4. background fluorescence at the excitation wavelength of 473 nm
originates from different components inside the cell wall, which
have different excited-state lifetimes. Thus, the combination of
wavelength- and time-resolved fluorescence spectroscopy enables
us to distinguish unambiguously between a specific signal and
background fluorescence in a cell type-specific manner, dispensing
with the use of additional fluorescent dyes, which might interfere
with cellular processes. Specific GFP versus unspecific compartment
fluorescence As shown in Figure 1, there is a significant, cell-type specific
background fluorescence signal which mainly derives from the wall
of the plant cell. This unspecific background fluorescence can be
differentiated from the GFP signal by its spectra and also by its
characteristic fluorescence decay pattern. Whereas GFP fluores-
cence shows a prototypical monoexponential decay function,
background fluorescence can only be described by a multi-
exponential decay function. This suggests that the unspecific BR-induced responses are cell physiological processes These differences in lifetime also allowed
us to establish a procedure for the efficient background correction
and, thus, the improvement of the signal-to-background ratio in
living plant cells (patent application no. 10 2009 005 953 from
19.01.09; F. Schleifenbaum, K. Elgass, M. Sackrow, K. Caesar, K. Berendzen, K. Harter, A. Meixner, manuscript in preparation) Measurement of cell wall extension at subcellular
resolution BL-induced expansion of the cell wall in BRI1-GFP
expressing hypocotyl cells. (A) FWHM values of the anticlinal wall
autofluorescence from hypocotyl cells recorded over the subcellular
section indicated by the white line (10 mm) shown in the confocal
image inlet at 0 min and 30 min after addition of 10 nM BL. (B) FWHM
values of Calcofluor-stained anticlinal wall from hypocotyl cells
recorded over the subcellular section indicated by the white line
(11 mm) shown in the confocal image inlet at 0, 15 and 30 min after
addition of 10 nM BL. For the determination of the FWHM error in A and
B see Material and Methods. For the statistical analysis of the cell wall
autofluorescence and Calcofluor fluorescence measurements see Tables
S3 and S4. Figure 6. BL-induced expansion of the cell wall in BRI1-GFP
expressing hypocotyl cells. (A) FWHM values of the anticlinal wall
autofluorescence from hypocotyl cells recorded over the subcellular
section indicated by the white line (10 mm) shown in the confocal
image inlet at 0 min and 30 min after addition of 10 nM BL. (B) FWHM
values of Calcofluor-stained anticlinal wall from hypocotyl cells
recorded over the subcellular section indicated by the white line
(11 mm) shown in the confocal image inlet at 0, 15 and 30 min after
addition of 10 nM BL. For the determination of the FWHM error in A and
B see Material and Methods. For the statistical analysis of the cell wall
autofluorescence and Calcofluor fluorescence measurements see Tables
S3 and S4. doi:10.1371/journal.pone.0005716.g006 Measurement of cell wall extension at subcellular
resolution Our data demonstrate that the cell walls significantly expand
within a few minutes of BL treatment in BRI1-GFP expressing
cells. A slight expansion response was also observed in aquaporin-
GFP expressing and wildtype seedlings which was without clear
overall statistical significance. However, when determined at single
cell level, almost every cell showed a BL-induced wall expansion. This suggests that BRI1-GFP is necessary for the rapid BL-
induced expansion of the cell wall but its over-expression is
required to produce a significant effect. A more detailed analysis of
many cells from independent seedlings showed that there is a
linear relationship between BRI1-GFP fluorescence intensity and
the degree of cell wall expansion (K. Elgass, A. Meixner, K. Harter, unpublished). BL is known to alter the biophysical
properties of the cell wall, such as its relaxation via BRI1-mediated
transcriptional and post-transcriptional activation of cell wall-
loosening enzymes [24,34]. However, such an early BL-responsive
spatio-temporal and BL-dependent expansion has not yet been
reported in the cell wall sections of living Arabidopsis cells. From the resolution point of view, it should, in principle, also be
possible to determine cell wall expansions of the observed
dimension by TEM. However, it is not technically possible to
produce a series of TEM sections at the identical subcellular
region before and after the addition of BL. Thus, different
seedlings have to be used for the comparative physiological
analysis using TEM. The set of difficulties is documented by our
own TEM analysis, which demonstrates a high variability of cell
wall thicknesses between individual cells and even individual
periclinal walls. The high variability is probably due to the
different age of the cells, which have different wall dimensions, and
the difficulty to exactly localize the site of the measurement along
the wall. For instance, the wall thickness at the edge of a cell is
different form the width in the middle. In addition, although we
used cryofixation and freeze-substitution for the preparation of the
probes, we can not entirely exclude the possibility that this
treatment may influence the water status and spatial dimension of
the cell wall. On the one hand, we conclude that it is almost
impossible to determine weak, dynamic changes in cell wall
expansion using a TEM approach. On the other hand, these
findings unequivocally demonstrate the potential of our approach
for the analysis of the dynamics of subcellular processes in vivo. Figure 6. PLoS ONE | www.plosone.org Changes in the close environment of membrane-bound
GFP fusion proteins The observed differences in BRI1-GFP and aquaporin-GFP
fluorescence lifetime suggest strong gradients of physico-chemical
parameters, such as membrane potential, pH-value, osmotic
conditions and refraction index [30], within subcelluar compart- May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 7 Subcellular Dynamics in Plants Figure 7. TEM images of ultrathin sections from different root cells of BRI1-GFP expressing seedlings. (A) Ultrathin section of a root cell
from a seedling high-pressure frozen 30 min after the addition of 10 nM BL. (B) Ultrathin section of an independent root cell from a mock-treated,
high-pressure frozen seedling. The cell walls of epidermal cells (upper cells) facing cortex cells (lower cell) are shown. PM, plasmalemma; CW, cell wall;
PD, plasmadesmon. The bar represents 100 nm. For the statistical analysis of the cell wall measurements see Table S5. doi:10.1371/journal.pone.0005716.g007 Figure 7. TEM images of ultrathin sections from different root cells of BRI1-GFP expressing seedlings. (A) Ultrathin section of a root cell
from a seedling high-pressure frozen 30 min after the addition of 10 nM BL. (B) Ultrathin section of an independent root cell from a mock-treated,
high-pressure frozen seedling. The cell walls of epidermal cells (upper cells) facing cortex cells (lower cell) are shown. PM, plasmalemma; CW, cell wall;
PD, plasmadesmon. The bar represents 100 nm. For the statistical analysis of the cell wall measurements see Table S5. doi:10.1371/journal.pone.0005716.g007 ments of a single cell and between adjacent cells. Thus,
membrane-bound GFP fusion proteins have the potential to be
highly sensitive probes for determining such parameters at sub-
cellular resolution in vivo. Ongoing experiments are aimed at
discovering which parameters may influence the fluorescence
lifetime of BRI1-GFP, aquaporin-GFP and other fluorophore-
tagged proteins in vivo. change in the fluorescence lifetime of BRI1-GFP might reflect a
hormone-induced alteration in ion currents and membrane
potential in Arabidopsis cells which depends on the presence of
BRI1-GFP. The causal relationship between BL-induced BRI1-
GFP activation, the change in BRI1-GFP fluorescence lifetime and
cell wall expansion is currently under elucidation. Summary and concluding remarks After the addition of BL, we observed a significant change in the
fluorescence lifetime of BRI1-GFP with time, which was not
detected in BL-treated aquaporin-GFP expressing plants. These
results can be interpreted to suggest that the activation of BRI1-
GFP by BL could alter the physico-chemical properties of the
plasmalemma or plasmalemma/cytoplasm interface, which do not
affect the fluorescence lifetime of aquaporin-GFP. The observed
changes would then be a cell physiological response initiated by
BL-activated BRI1-GFP. This idea is substantiated by the fact that
BFA inhibits the BL-induced change in BRI1-GFP fluorescence
lifetime. As BL was shown to inhibit inwardly rectifying K+
currents in guard cell protoplasts of Vicia faba and to increase
ATPase activity in Azuki bean epicotyls and maize roots, leading
to proton extrusion [24,34–35], it is possible that the observed Compared to pure imaging techniques with ultra-high spatial
resolution, such as STED [4–5], PALM [6] and STORM [7], our
application of ocFLM in combination with wavelength-selective
fluorescence microscopy and a novel method of data analysis
allows the recording of the spectroscopic and fluorescence lifetime
data of GFP fusion proteins in vivo, providing new information
about their molecular properties, cell physiological function and
subcellular environment. This enables the unambiguous identifi-
cation and clear intracellular localisation of GFP fusion proteins in
plant cells. Furthermore, ligand-induced physiological responses in
plant cells and receptor dynamics at subcellular resolution can be
quantitatively recorded. The use of autofluorescence as ‘‘native’’
fluorophore avoids the use of additional chromophors or the PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 May 2009 | Volume 4 | Issue 5 | e5716 8 Subcellular Dynamics in Plants Figure 8. BL-induced changes in the cell wall width of aquaporin-GFP expressing Arabidopsis cells. (A) Confocal image of root tip tissue
before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections
indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated. (B–F) FWHM values of the
plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. (G) FWHM values of Calcofluor-stained
anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (8 mm) shown in the confocal image inlet at 0, 15
and 30 min after addition of 10 nM brassinolide. Summary and concluding remarks (H) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the
subcellular section indicated by the white line (5 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. For the
determination of the FWHM error in B to H see Material and Methods. For the statistical analysis of the aquaporin-GFP fluorescence measurements
see Table S6. doi:10.1371/journal.pone.0005716.g008 Figure 8. BL-induced changes in the cell wall width of aquaporin-GFP expressing Arabidopsis cells. (A) Confocal image of root tip tissue
before (left) and 30 min after addition of 10 nM BL (right). Fluorescence intensity curves were recorded over the plasmalemmata-cell wall sections
indicated by the white, alphabetically numbered lines and the FWHM values of their Gaussian fits calculated. (B–F) FWHM values of the
plasmalemmata-cell wall sections indicated in A before (0 min) and 30 min after addition of 10 nM BL. (G) FWHM values of Calcofluor-stained
anticlinal wall from hypocotyl cells recorded over the subcellular section indicated by the white line (8 mm) shown in the confocal image inlet at 0, 15
and 30 min after addition of 10 nM brassinolide. (H) FWHM values of the anticlinal wall autofluorescence from hypocotyl cells recorded over the
subcellular section indicated by the white line (5 mm) shown in the confocal image inlet at 0 min and 30 min after addition of 10 nM BL. For the
determination of the FWHM error in B to H see Material and Methods. For the statistical analysis of the aquaporin-GFP fluorescence measurements
see Table S6. d i
j
l doi:10.1371/journal.pone.0005716.g008 excitation light and a high numerical aperture oil immersion
objective (Zeiss Plan-Neofluar, 1006/1.30) [19–20]. The system
was equipped with an avalanche photodiode (APD, SPCM-AQR-
14) as a spectrally integrating detector to record fluorescence
intensity. Spectra were obtained by a spectrograph (Princeton
Instruments Acton Spectra Pro 300i, 300 grid grating) coupled to a
thermo-electric cooled CCD-camera (Roper Scientific). Lifetime
decays were recorded using a time-correlated single-photon
counting board (Timeharp 200, Picoquant) for data acquisition
and the APD as a detector. Fluorescence intensity images were
obtained by raster-scanning the sample and detecting emission
intensity for every spot on the sampled area. Distinct spots were
addressed to record the corresponding spectra. The pulsed 473 nm
diode laser (Picoquant LDH-P-C470), operating at a repetition rate
of 10 MHz served as source. Summary and concluding remarks The setup was equipped with a
480 nm long pass filter (Semrock Razor Edge LP02-473RU-25) to
block back-scattered excitation light, with a 500 nm bandpass filter
(Semrock BrightLine BL500/24) to detect GFP-fluorescence or with
a 600 nm bandpass filter (Semrock BrightLine BL607/36) to detect
autofluorescence. The lifetime data were recorded sequentially to
invesitgate the emission lifetime of the GFP label and the
autofluorescence background independently from each other. Acquisition time was 5 seconds per measurement. The pixel size
is diffraction-limited and the distance between each measurement
point was 250 nm. Processing of fluorescence intensity images was
accomplished with the WSxM software (Nanotec Electronica) [36]. The intensity decay curves were deconvolved from the instrument expression of further markers which might interfere with the plant
cell’s physiology. This is a marked advantage of our approach over
STED, PALM and STORM. In addition, with an image
acquisition time of approximately 3 h, PALM and STORM do
not allow the fast recording of subcellular processes. We, therefore,
propose that high resolution ocFLM combined with wavelength-
selective fluorescence microscopy will not only lead to new
experimental abilities in plants but also is a valuable novel tool for
the accomplishment of cell biology in any cell system. Plant material and growth conditions Plant material and growth conditions BRI1-GFP [22] and aquaporin-GFP [28] expressing seedlings
were grown for 5 days at 22uC and under a regime of 14 h light and
10 h darkness on agar containing 0.5 MS media. For measurements
seedlings were carefully removed from the plates and transferred
onto microscopic slides and covered with water. The BL solutions at
the indicated concentrations and Calcofluor (1% w/v) were applied
to side of the microscopic slide and allowed to diffuse to the seedling
sample. For the response of the cell walls in presence of BFA, the
seedlings were pre-incubated for 1 h in 50 mM BFA solution. Optical and spectroscopic measurements The measurements were performed with a homemade CSSM,
based on a Zeiss Axiovert, and equipped with a pulsed 473 nm
diode laser operating at a repetition rate of 10 MHz as source for PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 9 Subcellular Dynamics in Plants Figure 9. ocFLM of BRI1-GFP and aquaporin-GFP reveals gradients in their subcellular environment. (A) GFP fluorescence
(filled squares) and the corresponding intensity profiles (open circles) recorded over 5.0 mm plasmalemma-cell wall sections of two
hypocotyl cells from two independent BRI1-GFP expressing Arabidopsis seedlings. (B) GFP fluorescence lifetimes (filled squares)
corresponding intensity profiles (open circles) recorded over 4.0 mm plasmalemma-cell wall sections of two different hypocotyl cells
independent aquaporin-GFP expressing Arabidopsis seedlings. (C) GFP fluorescence lifetime (filled squares) and the corresponding intens
(open circles) over a 6.0 mm plasmalemma-cell wall area of a hypocotyl cell from a BRI1-GFP expressing Arabidopsis seedling. The white l
confocal image inlet shows the recorded section. For the calculation of the fluorescence lifetime values and error bars see Material and
Additional BRI1-GFP and aquaporin-GFP fluorescence lifetime measurements are presented in Fig. 10D and E. Subcellular Dynamics Figure 9. ocFLM of BRI1-GFP and aquaporin-GFP reveals gradients in their subcellular environment. (A) GFP fluorescence lifetimes
(filled squares) and the corresponding intensity profiles (open circles) recorded over 5.0 mm plasmalemma-cell wall sections of two different
hypocotyl cells from two independent BRI1-GFP expressing Arabidopsis seedlings. (B) GFP fluorescence lifetimes (filled squares) and the
corresponding intensity profiles (open circles) recorded over 4.0 mm plasmalemma-cell wall sections of two different hypocotyl cells from two
independent aquaporin-GFP expressing Arabidopsis seedlings. (C) GFP fluorescence lifetime (filled squares) and the corresponding intensity profile
(open circles) over a 6.0 mm plasmalemma-cell wall area of a hypocotyl cell from a BRI1-GFP expressing Arabidopsis seedling. The white line in the
confocal image inlet shows the recorded section. For the calculation of the fluorescence lifetime values and error bars see Material and Methods. Additional BRI1-GFP and aquaporin-GFP fluorescence lifetime measurements are presented in Fig. 10D and E. doi:10.1371/journal.pone.0005716.g009 May 2009 | Volume 4 | Issue 5 | e5716 PLoS ONE | www.plosone.org 10 Subcellular Dynamics in Plants Figure 10. BL-induced cell wall expansion is paralleled by changes in the BRI1-GFP fluorescence lifetime. (A) BL-induced cell wall
expansion of BRI1-GFP expressing hypocotyl cells from Arabidopsis seedlings before (black circles) and 30 min after (green circles) hormone
application. Optical and spectroscopic measurements The fluorescence intensity was recorded over a 7.0 mm section as indicated by the white line in the confocal image inlet. (B) Fluorescence
lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A before (black squares), 10 (red squares), 20 (blue squares) and 30 min
(green squares) after addition of 25 nM BL. The minima in the lifetime curves correspond to the maxima in the intensity profiles shown in A as
indicated by the dashed lines. (C) Fluorescence lifetimes of BRI1-GFP in root tip cells 0 to 30 min after application of 25 nM BL. Lifetimes were
obtained by integrating over all recorded pixels of the confocal image. (D) GFP fluorescence lifetime (filled squares) and the corresponding intensity
profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of a BRI1-GFP expressing hypocotyl cell before (black squares), 15 min
(blue squares) and 30 min (green squares) after onset of mock treatment. (E) GFP fluorescence lifetime (filled squares) and the corresponding
intensity profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of an aquaporin-GFP expressing hypocotyl cell before (black
squares) and 30 min (green squares) after application of 25 nM BL. For the calculation of the lifetime values and error bars see Material and Methods. The experiments in B and C were repeated three times using cells from three independent seedlings. Representative results are shown. The results of
the additional BRI1-GFP lifetime measurements along plasmalemma-cell wall sections are presented in Figure S2. doi:10.1371/journal.pone.0005716.g010 Figure 10. BL-induced cell wall expansion is paralleled by changes in the BRI1-GFP fluorescence lifetime. (A) BL-induced cell wall
expansion of BRI1-GFP expressing hypocotyl cells from Arabidopsis seedlings before (black circles) and 30 min after (green circles) hormone
application. The fluorescence intensity was recorded over a 7.0 mm section as indicated by the white line in the confocal image inlet. (B) Fluorescence
lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A before (black squares), 10 (red squares), 20 (blue squares) and 30 min
(green squares) after addition of 25 nM BL. The minima in the lifetime curves correspond to the maxima in the intensity profiles shown in A as
indicated by the dashed lines. (C) Fluorescence lifetimes of BRI1-GFP in root tip cells 0 to 30 min after application of 25 nM BL. Lifetimes were
obtained by integrating over all recorded pixels of the confocal image. Optical and spectroscopic measurements (D) GFP fluorescence lifetime (filled squares) and the corresponding intensity
profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of a BRI1-GFP expressing hypocotyl cell before (black squares), 15 min
(blue squares) and 30 min (green squares) after onset of mock treatment. (E) GFP fluorescence lifetime (filled squares) and the corresponding
intensity profile (open circles) recorded over a 3.0 mm plasmalemma-cell wall section of an aquaporin-GFP expressing hypocotyl cell before (black
squares) and 30 min (green squares) after application of 25 nM BL. For the calculation of the lifetime values and error bars see Material and Methods. The experiments in B and C were repeated three times using cells from three independent seedlings. Representative results are shown. The results of
the additional BRI1-GFP lifetime measurements along plasmalemma-cell wall sections are presented in Figure S2. doi:10.1371/journal.pone.0005716.g010 response function (IRF) measured without the long pass filter and
then fitted by a mono- or multi-exponential decay function. 15 h, each) epoxy resin. The resin was allowed to polymerise for 2
days at 60uC. Ultrathin sections of the root tip samples were stained
with 3% uranyl acetate in ethanol and lead citrate and viewed in a
LEO 906 transmission electron microscope [37]. 72 walls derived
from two independent, mock-treated BRI1-GFP expressing seed-
lings and 72 walls derived from two independent, BL-treated BRI1-
GFP expressing seedlings were measured. The cell physiological experiments (cell wall expansion, BRI1-
GFP and aquaporin lifetime measurements) were repeated at least
3 times using independent seedling samples. Data analysis Seedlings were incubated in water or 10 nM brassinolide solution
for 30 min at room temperature. Thereafter, root tips were high-
pressure frozen and freeze-substituted in acetone containing 2.5%
osmium tetroxide (60 h at 290uC, 8 h at 260uC and 8 h 235uC)
before transfer for 60 min to 0uC [37]. Then, the root tips were
washed five times with acetone followed by infiltration with 10%
(4 h), 25% (12 h), 50% (12 h), 75% (12 h) and 100% (2 times for The standard deviations in the Gaussian fits of the intensity
profiles, as represented by the error bars, reflect the accuracy of
the fit and rest on the different signal-to-noise ratio of the
measurements. The FWHM-based and TEM-based wall mea-
surements of cells before/without and after treatment with BL
were performed as indicated in the Tables S 2, S3, S4, S5, S6 and PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 11 Subcellular Dynamics in Plants Figure 11. BL-induced wall expansion and changes in BRI1-GFP fluorescence lifetime require a functional intracellular trafficking
system. (A) FWHM values of GFP intensity profiles recorded over a 4.0 mm plasmalemmata-cell wall section of hypocotyl cells from BRI1-GFP
expressing Arabidopsis seedlings in the presence of 50 mM BFA before (0 min) and 30 min after application of 10 nM BL. For the determination of the
FWHM error see Material and Methods. (B) Fluorescence lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A in the
presence of 50 mM BFA before (black squares) and 30 min (green squares) after addition of 25 nM BL. For the calculation of the lifetime values and
error see Material and Methods. (C) Confocal images of hypocotyl cells treated with 50 mM BFA. The BFA compartments are indicated by white
arrows. The white bars represent 6 mm (left) and 10 mm (right). The experiments in A and B were repeated four times using cells from four
independent seedlings. One representative result is presented. The results of additional measurements are shown in Figure S3. doi:10.1371/journal.pone.0005716.g011 Figure 11. BL-induced wall expansion and changes in BRI1-GFP fluorescence lifetime require a functional intracellular trafficking
system. Data analysis (A) FWHM values of GFP intensity profiles recorded over a 4.0 mm plasmalemmata-cell wall section of hypocotyl cells from BRI1-GFP
expressing Arabidopsis seedlings in the presence of 50 mM BFA before (0 min) and 30 min after application of 10 nM BL. For the determination of the
FWHM error see Material and Methods. (B) Fluorescence lifetimes of BRI1-GFP in the identical plasmalemma-cell wall section shown in A in the
presence of 50 mM BFA before (black squares) and 30 min (green squares) after addition of 25 nM BL. For the calculation of the lifetime values and
error see Material and Methods. (C) Confocal images of hypocotyl cells treated with 50 mM BFA. The BFA compartments are indicated by white
arrows. The white bars represent 6 mm (left) and 10 mm (right). The experiments in A and B were repeated four times using cells from four
independent seedlings. One representative result is presented. The results of additional measurements are shown in Figure S3. doi:10.1371/journal.pone.0005716.g011 Figure S2
BL induces changes in the BRI1-GFP fluorescence
lifetime in plant cells. (A–B) Fluorescence lifetimes of BRI1-GFP in
4.0 mm plasmalemma-cell wall sections of two hypocotyl cells from
two independent seedlings (A, B) before (black squares) and 10 (red
squares), 20 (blue squares) and 30 min (green squares) after
addition of 25 nM BL. S7. For statistical evaluation, the data were analysed by one-sided
t-test. The number of independent measurements (n), the p-values
and the number of independent seedlings are given in the legends
of the Tables S2, S3, S4, S5, S6 and S7 and in Results. The lifetime values derived from mono- or multi-exponential
decay fittings. The error bars were calculated according to [31]
taking into account the number of photons and the time resolution
of the measurements. The BRI1-GFP and aquaporin-GFP
fluorescence lifetime measurements were repeated at least three
times using individual cells from at least three independent
seedlings and representative results are shown. The results of the
additional experiments are presented in the Figures S2 and S3. Found
at:
doi:10.1371/journal.pone.0005716.s002
(0.08
MB
PDF) Figure S3
BL-induced cell wall expansion and change in BRI1-
GFP fluorescence lifetime require a functional intracellular
trafficking system. Data analysis (A–C) FWHM values of GFP intensity profiles
(left) and fluorescence lifetime decays (right) recorded over
plasmalemmata-cell wall sections of three hypocotyl cells (A, B,
C) from three independent, BRI1-GFP expressing Arabidopsis
seedlings in the presence of 50 mM BFA before (black) and 30 min
(green) after application of 25 nm BL. Found
at:
doi:10.1371/journal.pone.0005716.s003
(0.15
MB
PDF) PLoS ONE | www.plosone.org Supporting Information Text S1
Calculation of the width of plasmalemma-cell wall
sections from apparent GFP fluorescence data (FWHM values). Text S1
Calculation of the width of plasmalemma-cell wall
sections from apparent GFP fluorescence data (FWHM values). Found
at:
doi:10.1371/journal.pone.0005716.s011
(0.23
MB
PDF) Found
at:
doi:10.1371/journal.pone.0005716.s007
(0.01
MB
PDF) pp
Found
at:
doi:10.1371/journal.pone.0005716.s011
(0.23
MB
PDF) Table S5
Statistics of 72 periclinal cell wall width measurements,
each,
derived
from
ultrathin
TEM
sections
of
BRI-GFP
expressing, high-pressure-frozen root cells, which were either
mock-treated or treated for 30 min with 10 nM BL. Found
at:
doi:10.1371/journal.pone.0005716.s008
(0.01
MB
PDF) Table S5
Statistics of 72 periclinal cell wall width measurements,
each,
derived
from
ultrathin
TEM
sections
of
BRI-GFP
expressing, high-pressure-frozen root cells, which were either
mock-treated or treated for 30 min with 10 nM BL. Acknowledgments We thank Felicity de-Courcy for proofreading the manuscript, N Geldner
for seeds and K Schumacher for helpful suggestions. We thank Felicity de-Courcy for proofreading the manuscript, N Geldner
for seeds and K Schumacher for helpful suggestions. Found
at:
doi:10.1371/journal.pone.0005716.s008
(0.01
MB
PDF) References 19. Blum C, Stracke F, Becker S, Mu¨llen K, Meixner AJ (2001) Discrimination and
Interpretation of Spectral Phenomena by Room-Temperature Single-Molecule
Spectroscopy. J Phys Chem A 105: 6983–6990. 1. Hood L, Heath JR, Phelps ME, Lin B (2004) Systems biology and new
technologies enable predictive and preventative medicine. Science 306: 640–643. 1. Hood L, Heath JR, Phelps ME, Lin B (2004) Systems biology and new
technologies enable predictive and preventative medicine. Science 306: 640–643. 2. Liu ET (2005) Systems biology, integrative biology, predictive biology. Cell 121:
505–506. 20. Schleifenbaum F, Blum C, Elgass K, Subramanian V, Meixner AJ (2008) New
insights into the photophysics of DsRed by multiparameter spectroscopy on
single proteins. J Phys Chem B 112: 7669–7674. 3. Miyawaki A, Sawano A, Kogure T (2003) Ligthing up cells: labelling proteins
with fluorophores. Nature Cell Biol 5: S1–7. g
p
J
y
21. Wang Z-Y, Seto H, Fujioka S, Yoshida S, Chory J (2001) BRI1 is a critical
component ofa plasmamembrane receptor forplantsteroids.Nature 410: 380–383. 4. Willig KI, Rizzoli SO, Westphal V, Jahn R, Hell SW (2006) STED microscopy
reveals that synaptotagmin remains clustered after synaptic vesicle exocytosis. Nature 440: 935–939. 22. Geldner N, Hyman DL, Wang X, Schumacher K, Chory J (2007) Endosomal
signaling of plant steroid receptor BRI1. Genes Develop 21: 1598–1602. 5. Westphal V, Rizzoli SO, Lauterbach MA, Kamin D, Jahn R, et al. (2008)
Video-rate far-field optical nanoscopy dissects synaptic versicle movement. Science 320: 246–249. 23. Robert S, Chary SN, Drakakaki G, Li SD, Yang ZB, et al. (2008) Endosidin 1
defines a compartment involved in endocytosis of the brassinosteroid receptor
BRI1 and the auxin transporters PIN2 and Aux1. Proc Natl Acad Sci U S A
105: 8464–8469. 6. Betzig E, Patterson GH, Sougrat R, Lindwasser OW, Olenych S, et al. (2006)
Imaging intracellular fluorescent proteins at nanometer resolution. Science 313:
1642–1645. 24. Clouse SD (1998) Brassinosteroids: Essential Regulators of Plant Growth and
Development. Annu Rev Plant Physiol Plant Mol Biol 49: 427–451. 7. Heinlein T, Biebricher A, Schlu¨ter P, Herten DP, Wolfram J, et al. (2005) High-
resolution colocalization of single molecules within the resolution gap of far-field
microscopy. Chem Phys Chem 6: 949–955. 25. Tsien RY (1998) The green fluorescent protein. Annu Rev Biochem 67:
509–544. 26. Lakowicz JR (1999) Principles of fluorescence spectroscopy. New York: Kluwer
Academic. 8. Ries J, Schwille P (2008) New concepts for fluorescence correlation spectroscopy
on membranes. Author Contributions Table S6
FWHM changes in the widening of the plasmalemma-
bound GFP fluorescence signal in aquaporin-GFP expressing
hypocotyl and root cells before (0 min) and 30 min after
application of 10 nM BL (30 min.). Conceived and designed the experiments: KE FS YDS AM KH. Performed the experiments: KE KC YDS. Analyzed the data: KE KC
FS YDS AM KH. Wrote the paper: KE AM KH. Supporting Information Figure S1
Reference fluorescence spectrum and lifetime decay
rate of purified GFP. (A) Fluorescence spectrum of GFP at a
concentration of 1025 M after pulse excitation with light of
473 nm. The spectrum shows a peak at 510 nm and a shoulder at
540 nm. (B) Fluorescence decay rate of GFP at a concentration of
1027 M in 20 mM TRIS (pH = 6.8) after pulse excitation with
light of 473 nm. The decay shows a mono-exponential function. The residuals indicate the deviation between the measured and the
model decay function. In a good fit the residuals are distributed
symmetrically around 0. IRF, instrument response function. Found
at:
doi:10.1371/journal.pone.0005716.s001
(0.07
MB
PDF) Table S1
Fitting parameters of lifetime decay traces. Found
at:
doi:10.1371/journal.pone.0005716.s004
(0.17
MB
XLS) Table S2
FWHM changes in the widening of the plasmalemma-
bound GFP fluorescence signal in BRI1-GFP expressing hypocotyl
and root cells before (0 min) and 30 min after application of
10 nM BL (30 min.). Table S2
FWHM changes in the widening of the plasmalemma-
bound GFP fluorescence signal in BRI1-GFP expressing hypocotyl
and root cells before (0 min) and 30 min after application of
10 nM BL (30 min.). Found
at:
doi:10.1371/journal.pone.0005716.s001
(0.07
MB
PDF) PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 12 Subcellular Dynamics in Plants Found
at:
doi:10.1371/journal.pone.0005716.s009
(0.01
MB
PDF) Found at: doi:10.1371/journal.pone.0005716.s005 (0.01 MB PDF) Found
at:
doi:10.1371/journal.pone.0005716.s009
(0.01
MB
PDF) Table S3
FWHM changes in the expansion of the cell wall
autofluorescence in BRI1-GFP expressing hypocotyl and root cells
before (0 min) and 30 min after application of 10 nM BL (30 min). Found
at:
doi:10.1371/journal.pone.0005716.s006
(0.01
MB
PDF) Table S7
FWHM changes in the widening of the cell wall
autofluorescence in wildtype hypocotyl and root cells before
(0 min) and 30 min after application of 10 nM BL (30 min). Found
at:
doi:10.1371/journal.pone.0005716.s010
(0.01
MB
PDF) Table S4
FWHM changes in the expansion of Calcofluor-stained
cell walls in BRI1-GFP expressing hypocotyl and root cells before
(0 min) and 30 min after application of 10 nM BL (30 min). Found
at:
doi:10.1371/journal.pone.0005716.s007
(0.01
MB
PDF) Table S4
FWHM changes in the expansion of Calcofluor-stained
cell walls in BRI1-GFP expressing hypocotyl and root cells before
(0 min) and 30 min after application of 10 nM BL (30 min). References Phys Chem Chem Phys 10: 3487–3497. 27. Striker G, Subramaniam V, Seidel CAM, Volkmer A (1999) Photochromicity
and fluorescence lifetimes of green fluorescent protein. J Phys Chem B 103:
8612–8617. 9. Vale RD (2008) Microscopes for Fluorimeters: The Era of Single Molecule
Measurements. Cell 135: 779–785. 10. Fernandez-Suarez, Ting AY (2008) Fluorescent probes for super-resolution
imaging in living cells. Nat Rev Mol Cell Biol 9 (12): 929–943. 28. Cutler SR, Ehrhardt DW, Griffitts JS, Somerville CR (2000) Random GFP:
cDNA fusions enable visualization of subcellular structures in cells of Arabidopsis
at a high frequency. Proc Natl Acad Sci U S A 97: 3718–3723. 11. Slaughter BD, Schwartz JW, Li R (2007) Mapping dynamic protein interactions
in MAP kinase signaling using live-cell fluorescence fluctuation spectroscopy and
imaging. Proc Natl Acad Sci USA 104: 20320–20325. at a high frequency. Proc Natl Acad Sci U S A 97: 3718–3723 29. Nakabayashi T, Wang HP, Kinjo M, Ohta N (2008) Application of fluorescence
lifetime imaging of enhanced green fluorescent protein to intracellular pH
measurements. Photochem Photobiol Sci 7: 668–670. 12. Slaughter BD, Huff JM, Wiegraebe W, Schwartz JW, Li R (2008) SAM domain-
based protein oligomerization observed by live-cell fluorescence fluctuation
spectroscopy. PLoS One 3 (4): e1931. 30. van Manen HJ, Verkuijlen P, Wittendorp P, Subramaniam V, van den Berg TK,
et al. (2008) Refractive index sensing of green fluorescent proteins in living cells
using fluorescence lifetime imaging microscopy. Biophysical J 94: L67–L69. p
py
( )
13. Maeder CI, Hink MA, Kinkhabwala A, Mayr R, Bastiaens PIH, et al. (2007)
Spatial regulation of Fus3 MAP kinase activity through a reaction-diffusion
mechanism in yeast pheromone signalling. Nature Cell Biol 9: 1319–1326. 31. Zander C, Sauer M, Drexhage KH, Ko DS, Schulz A, et al. (1996) Detection
and characterization of single molecules in aqueous solution. Appl Phys B 63:
517–523. 14. Muto H, Kinjo M, Yamamoto KT (2009) Fluorescence cross-correlation
spectroscopy of plant proteins. Methods Mol Biol 479: 203–215. 32. Anders N, Ju¨rgens G (2008) Large ARF guanine nucleotide exchange factors in
membrane trafficking. Cell Mol Life Sci; doi: 10.1007/s00018-008-8227-7. 15. Hink MA, Shah K, Russinova E, de Vries SC, Visser AJWG (2008) Fluorescence
fluctuation analysis of Arabidopsis thaliana somatic embryogenesis receptor-like
kinase and brassinosteroid sensitive 1 receptor oligomerization. Biophysical J 94:
1052–1062. 33. Robinson DG, Jiang LW, Schumacher K (2008) The endosomal system of
plants: Charting new and familiar territories. Plant Phys 147: 1482–1492. References plants: Charting new and familiar territories. Plant Phys 147: 1482– 34. Haubrick LL, Assmann SM (2006) Brassinosteroids and plant function: some
clues, more puzzles. Plant Cell Environment 29 (3): 446–457. 16. Martini J, Schmied K, Palmisano R, Toensing K, Anselmetti D, et al. (2007)
Multifocal two-photon laser scanning microscopy combined with photo-
activatable GFP for in vivo monitoring of intracellular protein dynamics in
real time. J Struct Biol 158: 401–409. 35. Haubrick LL, Torsethaugen G, Assmann SM (2006) Effect of brassinolide, alone
and in concert with abscisic acid, on control of stomatal aperture and potassium
currents of Vicia faba guard cell protoplasts. Physiol Plantarum 128: 134–143. 17. Li J, Wen JQ, Lease KA, Doke JT, Tax FE, et al. (2002) BAK1, an Arabidopsis
LRR receptor-like protein kinase, interacts with BRI1 and modulates
brassinosteroid signalling. Cell 110: 213–222. 36. Horcas I, Fernandez R, Gomez-Rodriguez JM, Colchero J, Gomez-Herrero J, et
al. (2007) WSXM: A software for scanning probe microscopy and a tool for
nanotechnology. Rev Sci Instrum 78: e013705. 18. Bo¨se G, Schwille P, Lamparter T (2004) The mobility of phytochrome within
protonemal tip cells of the moss Ceratodon purpureus, monitored by
fluorescence correlation spectroscopy. Biophys J 87 (3): 2013–2021. 37. Dettmer J, Hong-Hermesdorf A, Stierhof Y-D, Schumacher K (2006) Vacuolar
H+-ATPase activity is required for endocytic and secretory trafficking in
Arabidopsis. Plant Cell 18: 715–730. PLoS ONE | www.plosone.org May 2009 | Volume 4 | Issue 5 | e5716 May 2009 | Volume 4 | Issue 5 | e5716 13
|
https://openalex.org/W4384665939
|
https://www.frontiersin.org/articles/10.3389/fpsyt.2023.1213590/pdf
|
English
| null |
Case report: ADHD and prognosis in tyrosinemia type 1
|
Frontiers in psychiatry
| 2,023
|
cc-by
| 5,250
|
attention-deficit hyperactivity disorder, tyrosinemia type 1, treatment compliance,
neurometabolic disorders, case report Helene Barone1, Irene Bircow Elgen2, Yngve Thomas Bliksrud3,
Eirik Vangsøy Hansen4, Rita Rigmor Skavhellen2,
Magne Ivar Furevik2 and Jan Haavik5,6* Helene Barone1, Irene Bircow Elgen2, Yngve Thomas Bliksrud3,
Eirik Vangsøy Hansen4, Rita Rigmor Skavhellen2,
Magne Ivar Furevik2 and Jan Haavik5,6* REVIEWED BY
Harvey L. Levy,
Boston Children’s Hospital and Harvard Medical
School, United States
Mara L. Cordeiro,
Faculdades Pequeno Principe, Brazil 1Regional Resource Center for Autism, ADHD and Tourette Syndrome, Division of Psychiatry, Haukeland
University Hospital, Bergen, Norway, 2Department of Child and Adolescent Psychiatry, Division of
Psychiatry, Haukeland University Hospital, Bergen, Norway, 3Department of Medical Biochemistry, Oslo
University Hospital, Oslo, Norway, 4Department of Pediatrics, Haukeland University Hospital, Bergen,
Norway, 5Bergen Center of Brain Plasticity, Division of Psychiatry, Haukeland University Hospital, Bergen,
Norway, 6Department of Biomedicine, University of Bergen, Bergen, Norway Neurometabolic disorders such as tyrosinemia type 1 (TYRSN1) may interfere
with brain metabolism and show symptoms of attention-deficit hyperactivity
disorder (ADHD) in patients treated with the enzyme inhibitor nitisinone
[2-(2-nitro-4-trifluoromethylbenzoyl)-1,3-cyclohexanedione, NTBC]. It has been
reported that ADHD treatment improves treatment compliance, which is
imperative for the long-term prognosis of patients with TYRSN1. In this study, we
report the case of a male patient who was diagnosed with TYRSN1 at 3 months of
age and was subsequently treated with NTBC, restricted protein intake, and amino
acids supplementation. At 7 years of age, he was referred for neuropsychiatric
assessment, diagnosed with ADHD, and treated with methylphenidate. The efects
of the treatment were monitored via parental interviews, questionnaires covering
ADHD symptoms, and a continuous performance test. A reduction in ADHD
symptoms, particularly inattentiveness, was observed across all measures. The
early identification of ADHD and the treatment of neurometabolic disorders, such
as TYRSN1, may be important from a lifetime perspective as this may improve the
prognosis of the medical condition as well. COPYRIGHT
© 2023 Barone, Elgen, Bliksrud, Vangsøy
Hansen, Skavhellen, Furevik and Haavik. This is
an open-access article distributed under the
terms of the Creative Commons Attribution
License (CC BY). The use, distribution or
reproduction in other forums is permitted,
provided the original author(s) and the
copyright owner(s) are credited and that the
original publication in this journal is cited, in
accordance with accepted academic practice. No use, distribution or reproduction is
permitted which does not comply with these
terms. KEYWORDS Case report: ADHD and prognosis
in tyrosinemia type 1 OPEN ACCESS
EDITED BY
Salman Zubedat,
Technion Israel Institute of Technology, Israel
REVIEWED BY
Harvey L. Levy,
Boston Children’s Hospital and Harvard Medical
School, United States
Mara L. Cordeiro,
Faculdades Pequeno Principe, Brazil
*CORRESPONDENCE
Jan Haavik
jan.haavik@uib.no
RECEIVED 28 April 2023
ACCEPTED 26 June 2023
PUBLISHED 18 July 2023
CITATION
Barone H, Elgen IB, Bliksrud YT, Vangsøy
Hansen E, Skavhellen RR, Furevik MI and
Haavik J (2023) Case report: ADHD and
prognosis in tyrosinemia type 1. Front. Psychiatry 14:1213590. doi: 10.3389/fpsyt.2023.1213590 OPEN ACCESS OPEN ACCESS
EDITED BY
Salman Zubedat,
Technion Israel Institute of Technology, Israel
REVIEWED BY
Harvey L. Levy,
Boston Children’s Hospital and Harvard Medic
School, United States
Mara L. Cordeiro,
Faculdades Pequeno Principe, Brazil
*CORRESPONDENCE
Jan Haavik
jan.haavik@uib.no
RECEIVED 28 April 2023
ACCEPTED 26 June 2023
PUBLISHED 18 July 2023
CITATION
Barone H, Elgen IB, Bliksrud YT, Vangsøy
Hansen E, Skavhellen RR, Furevik MI and
Haavik J (2023) Case report: ADHD and
prognosis in tyrosinemia type 1. Front. Psychiatry 14:1213590. doi: 10.3389/fpsyt.2023.1213590 EDITED BY
Salman Zubedat,
Technion Israel Institute of Technology, Israel TYPE Case Report
PUBLISHED 18 July 2023
DOI 10.3389/fpsyt.2023.1213590 TYPE Case Report
PUBLISHED 18 July 2023
DOI 10.3389/fpsyt.2023.1213590 Tyrosinemia type I Hereditary tyrosinemia type I [(TYRSN1), OMIM 276700] is an autosomal recessive
aminoacidopathy whose global incidence is estimated to be 1 in 100–120,000 live births,
and its incidence in Norway is ∼1 per 74,800 live births (1). TYRSN1 is caused by a
deficiency in fumarylacetoacetase (FAH; E.C.3.7.1.2), the final enzyme involved in tyrosine
degradation. Organ damage, including progressive liver disease with regeneration, cirrhosis,
and secondary renal tubular dysfunction, occurs because the lack of functional FAH leads to
the accumulation of toxic metabolites such as fumarylacetoacetate and succinylacetone. The
disease’s clinical symptoms widely vary as the chronic form presents with hypophosphatemic
rickets during adolescence, and the most acute form presents with severe liver failure just a
few weeks after birth. Without treatment, these patients die of cirrhosis or hepatocellular
carcinoma (HCC) at young ages. Frontiers in Psychiatry 01 frontiersin.org Barone et al. Barone et al. 10.3389/fpsyt.2023.1213590 µmol/L. Treatment was initiated with enzyme inhibitor/NTBC and
dietary treatments such as restricted protein intake and adjusted
amino acid supplements. During this treatment, the patient was
recovered from liver failure. The plasma alpha-fetoprotein (AFP)
level was initially >10,000 µg/L, but after a month, it was <1,000,
and liver enzymes also gradually normalized. The plasma AFP level
was within the normal range (<10 µg/L) after 2 years of treatment. The treatment consists of a regimen of the drug, nitisinone [2-
(2-nitro-4-trifluoromethylbenzoyl)-1,3-cyclohexanedione, NTBC],
and
a
protein-restricted
diet. The
drug
inhibits
tyrosine
degradation at an earlier step, thus avoiding the production
of carcinogenic metabolites; however, the levels of P-tyrosine
remain
elevated
or
even
increase. This
drug
dramatically
improves the prognosis of TYRSN1 patients (2). The demanding
diet regime aims to improve the amino acid profile in the
patient’s plasma to secure normal neurodevelopment. However,
neurological and neuropsychological problems, including learning
difficulties
and
symptoms
of
attention-deficit
hyperactivity
disorder (ADHD), have also been described among patients on
a regimen of NTBC and dietary treatment (3–6), and treatment
adherence in patients with TYRSN1 has been reported to be
low (7). The patient and family managed the treatment well, and
after the treatment, he showed normal physical development and
plasma tyrosine levels ranging between 300 and 600 µmol/L in
almost every blood test (Figure 1). The recommended plasma
tyrosine concentration in T1 is 200–600 µmol/L (18). However,
these treatment recommendations vary across different centers and
countries, with upper tyrosine concentrations ranging between
400 and 600 µmol/L (19). Attention-deficit hyperactivity disorder ADHD is a neurodevelopmental disorder involving either
hyperactivity/impulsivity, inattention, or both (8). It is one of the
most common psychiatric disorders affecting ∼5% of children
worldwide (9), and its symptoms may persist in adulthood (10). Impairment of executive functioning has been described as a
core deficit in ADHD, including a broad range of cognitive
“top-down” processes that enable a flexible and goal-directed
behavior, such as planning (11). Psychiatric conditions and
learning difficulties are more common in ADHD and vice versa. Furthermore, several other medical conditions are associated with
ADHD (12–15). The symptoms of ADHD may be present in
an even higher number of diseases than previously reported,
including a range of neurometabolic Mendelian disorders that
affect brain development and function, some of which involve
alterations in dopamine synthesis (4, 16). Research suggests
that the standard pharmacological treatment (methylphenidate)
could reduce the symptoms of ADHD, e.g., in phenylketonuria
and TYRSN1 (5, 17), which is reason to believe that ADHD
symptom reduction improves compliance to the comprehensive
treatment regimen associated with (neuro)metabolic disorders such
as TYRSN1 and, thereby, their prognosis (5). In this study, we
examined one patient with TYRSN1 and ADHD who underwent
methylphenidate treatment. After 2 years of commencing treatment, at the age of 2 years
and 3 months, the patient experienced seizure episodes, initially
with shaking movements in the arms and legs, blue lips, and a
lack of consciousness for 5 min. The first EEG appeared normal,
but the episodes recurred; Later, EEG showed possible epileptic
activity. Treatment with topiramate was initiated from 3 years of
age. Later, the patient developed absence seizures, following which
lamotrigine was successfully administered in response. Although
his epilepsy was well-controlled, his motor and language skills
developed more slowly from the age of 3–5 years. In kindergarten, he received permanent assistance because of
his low social functioning. At the age of 7 years, he presented
with a variety of problems, including academic challenges that
required special support in school, and was referred to the Child
and Adolescent Mental Health Service. He experienced problems
with inattention, planning, and the organizing of activities. He
also showed problems understanding information and expressing
himself. Furthermore, he described himself as being anxious in new
situations; he resorted to sitting under the table for ∼15 min in
settings with several people. In addition, he often got into conflicts
with other children during school breaks. Tyrosinemia type I At 3–5 years of age, plasma
phenylalanine transiently dipped below the normal range but
normalized after phenylalanine supplementation. Since the NTBC
and dietary treatments were established, during check-ups, neither
an indication of urinary succinylacetone nor an elevation of plasma
AFP levels appeared in his samples. Frontiers in Psychiatry frontiersin.org Case report A boy who was born healthy at birth and developed normally
during the first 2 months of his life became ill with a high fever after
3 months, which led to hospitalization. He was diagnosed with E. coli sepsis, and elevated levels of liver enzymes, C-reactive protein
(CRP), and international normalized ratio (INR) were detected. Ultrasonography and CT scans confirmed ascites, splenomegaly,
and hepatomegaly with nodular structures, signs of cirrhosis, and
portal hypertension. The patient was hospitalized with liver failure,
and TYRSN1 was suspected. The diagnosis was confirmed by the
detection of increased urinary succinylacetone levels and disease-
causing mutations in the FAH gene. Lab results also showed
low plasma albumin, low phosphate, and elevated ammonia, 112 The diagnostic procedure for ADHD was performed according
to the National Guidelines for ADHD published by the Norwegian
Directorate of Health and the guidelines for ADHD treatment
published by the Norwegian Medical Association. The diagnostic
procedure was based on a thorough evaluation of the patient’s
symptoms and functional impairments. The ADHD core symptoms (baseline and with treatment)
were evaluated using the Clinician’s Manual for the Assessment of
Disruptive Behavior Disorders Rating Scale for Parents/Teachers
(20), which is an effective rating scale for assessing attention and
hyperactivity symptoms. 02 frontiersin.org Barone et al. 10.3389/fpsyt.2023.1213590 FIGURE 1
Timeline of the patients clinical course. FIGURE 1
Timeline of the patients clinical course. recommended dosage of up to 2 mg/kg was initiated for a period of
3 weeks (10 mg × 3) and evaluated. To assess inattention, hyperactivity, and impulsivity before and
after treatment, the QB test was administered (21). This continuous
performance test assesses inattention and impulsivity combined
with measures of motor activity and is designed to measure the
core symptoms of ADHD. The test was administered on a PC and
lasted ∼15 min. The participant was instructed to press a button
when a circle is presented on the screen but not when there is
a cross on the circle. The participant’s movements were recorded
using an infrared camera that follows a reflective marker attached
to a headband. The hyperactivity was measured on the basis of
motor activity recorded by the camera. Impulsivity and inattention
were, respectively, measured through commission errors and error
rate or through reaction time and omission errors. See section
Supplementary material for a brief description of the measures
included in the QB test. Case report The study was approved by the Regional Committee for
Medical Research Ethics of Western Norway (IRB 00001872). Both
the parents and the boy signed an informed consent form and
received information about what would be presented in the article,
and they were also provided the manuscript for approval before
submission. All procedures were performed in accordance with the
Declaration of Helsinki (of 1975, as revised in 2000). Frontiers in Psychiatry Results A
standard
assessment
of
intellectual
functioning
was
administered at the local psychological-educational service when
he was 7 years of age. His intellectual functioning was below
average, with the lowest score on the index measuring working
memory and the highest measuring processing speed. There was
no difference between verbal comprehension and perceptual
reasoning. After ruling out other psychiatric disorders, it was
concluded that he met the criteria for ADHD and specific phobia
but no other diagnoses as per the K-SADS-PL-2009. The K-SADS-PL-2009 [Schedule for Affective Disorders and
Schizophrenia for School-Aged Children (6–18 years)—Present
and Lifetime (version 2009)] (22) is a semi-structured child and
adolescent psychiatric diagnostic instrument used to ascertain
psychiatric disorders according to the DSM-IV criteria. This was
used to assess potential psychiatric comorbidities. Guidelines for the treatment of ADHD, as edited by the
Norwegian Medical Association (NMA) (23) and the Norwegian
National Guidelines for ADHD, as published by the Norwegian
Directorate of Health, have suggested an integrated approach to the
treatment of ADHD. This involves reducing the core symptoms,
improving psychosocial functions, preventing the development of
additional problems, and improving functioning in everyday life. A short-acting methylphenidate formulation that lasts 3–5 h at a The effect of methylphenidate was assessed after 3 weeks of
treatment. The evaluation involved (1) clinical evaluations along
with the mother, (2) parents’ and teacher’s reports on ADHD core
symptoms, and (3) changes in inattention/hyperactivity (before and
after treatment) measured using the QB test. His mother reported that their family had “got a new life.” She
described him as more attentive, organized, and communicative. 03 frontiersin.org 10.3389/fpsyt.2023.1213590 Barone et al. Long-term functioning and treatment TABLE 1 Symptoms of ADHD in a boy with TYRSN1 before the start and
after 3 weeks of treatment with methylphenidate. Barkley ADHD questionnaire
Baseline
Treatment
Parents
Inattention
8/9
0/9
Hyperactivity
6/9
1/9
Teacher
Inattention
6/9
4/9
Hyperactivity
0/9
0/9
TABLE 2 Results from the QB test in an 8-year-old boy with TYRSN1 and
ADHD before and after 3 weeks of treatment with methylphenidate. After the initial assessment, he continued with Concerta
R⃝
(Janssen Pharmaceutica NV, Beerse, Belgium), the proprietary
name for methylphenidate, 36 mg one capsule q.a.m. and 5–10 mg
of short-acting methylphenidate, on demand, in the afternoon. At approximately the age of 10 years, he developed motor tics,
problems with understanding, and expressing language became
more prominent, and he experienced increasing problems with
academic functioning. After 3 years of the first assessment, he was
also diagnosed with chronic motor or vocal tic disorder, receptive
language disorder, and a mixed disorder of scholastic skills. After 13 years of age, his symptoms of inattention increased,
and the dosage of Concerta was successively increased to 54 mg
q.a.m, which reduced the inattention problems. This was also
when his body mass index (BMI) was in the normal range,
which gradually decreased until his 15 years; thereafter, treatment
with methylphenidate was discontinued at 15.5 years of age
(Figure 1). As the ADHD symptoms increased after treatment
discontinuation, it was planned to test other types of ADHD
medications. At the age of 15 years, he still received support at
school and thrived but felt different from the other pupils, being
more aware of his challenges. See Figure 1 for a brief summary of
the clinical course and interventions. QB test
Motion
Non-
medicated
(percentile)
Medicated
(percentile)
Time active
96
90
Distance
92
79
Area
96
84
Microevent
95
86
Motion simplicity
88
90
Inattention
Non-
medicated
(percentile)
Medicated
(percentile)
Reaction time variability
99
66
Omission error
96
66
Reaction time
96
31
Normalized variance
99
82
Impulsivity
Non-
medicated
(percentile)
Medicated
(percentile)
Commission
98
92
Anticipatory
96
8
Multi-response
99
50
Error rate
98
79 Frontiers in Psychiatry Discussion Barone et al. 10.3389/fpsyt.2023.1213590 neurodevelopmental
symptoms,
especially
when
somatic
conditions are present. Adolescents with ADHD have increased school dropout rates,
substance abuse, and injuries such as motor vehicle crashes (29). Early identification and treatment, as in the present patient,
may improve long-term social and educational outcomes (30). It is also a strong predictor for work participation as an adult,
apparently independent of substance abuse, comorbidity, and
current treatment (31). ADHD also probably affects treatment
adherence in somatic diseases. For example, poor treatment
adherence has been observed in adolescents with undiagnosed
ADHD and type 1 diabetes (32). Nylander and Fernell (33)
have emphasized the importance of screening for ADHD when
type 1 diabetes is diagnosed and to perform repeated screening,
especially in patients with poor metabolic control. It has been
suggested that all children with neurometabolic disorders should
be screened for comorbid ADHD and other neuropsychiatric
disorders, especially in their first decade of life, with an in-depth
assessment if the screening is positive. Adequate ADHD treatment
targeting inattention and impulsivity may improve self-control
and, thereby, the long-term outcomes of the neurometabolic
disorder itself (4). This is supported by research suggesting that
methylphenidate reduces the difficulties of executive functioning in
ADHD (34) and thereby probably improves treatment compliance
of the somatic condition. In the case presented here, it was
observed that the stimulant treatment also improved adherence to
TYRSN1 treatment. Conclusion The lifestyle that sometimes accompanies untreated ADHD
may be especially harmful to individuals dependent on following
strict treatment regimens for their medical conditions. Early
identification of ADHD and treatment of medical conditions such
as TYRSN1 is important from a lifetime perspective as this may also
improve the prognosis of the medical condition itself. Clinicians
working both in somatic and psychiatric wards should therefore be
aware of the association between ADHD symptoms in tyrosinemia
type 1 and other neurometabolic conditions. The term “diagnostic overshadowing” has been used to describe
the underdiagnosis of comorbid psychiatric conditions in severe
somatic diseases. For example, one study reported that ADHD
was overshadowed by neurological disorders in 71.8% of the
cases (35). Interestingly, interventions targeting medical conditions
can also mask ADHD symptoms. For the boy described in the
present article, the teacher reported no symptoms of hyperactivity
(Table 1). However, he appeared clearly hyperactive when tested
despite the highly structured situation of the QB test (Table 2). Owing to his medical condition, he was permanently attended
to by an assistant at school, which may explain the low rate
of hyperactivity observed by his teacher. Many children with
severe medical conditions may receive such support, which,
paradoxically, may hinder the early identification and treatment
of ADHD. In addition, psychiatric symptoms might be also
explained by hospitalization and stress related to the somatic
condition. Cannon Homaei et al. (4) argued that the possible
underreporting of comorbid ADHD may be especially harmful to
individuals with neurometabolic conditions, as they are particularly
dependent on cognitive functions that are compromised by their
ADHD symptoms. Furthermore, they suggested that symptoms
even below the conventional threshold for a diagnosis of ADHD
could cause significant problems with treatment adherence and
also that patients below the diagnostic threshold may need
extra help to follow the strict treatment regimen associated with
these diseases. Ethics statement The studies involving human participants were reviewed and
approved by Regional Committee for Medical Research Ethics of
Western Norway (IRB 00001872). Written informed consent to
participate in this study was provided by the participants’ legal
guardian/next of kin. Written informed consent was obtained from
the minor(s)’ legal guardian/next of kin for the publication of
any potentially identifiable images or data included in this article. Written informed consent was obtained from the participants/next
of kin for the publication of this case report. This
case
also
illustrates
the
complexity
that
often
characterizes
patients
with
neurodevelopmental
disorders. The
trajectory
of
diffuse
problems
early
in
life
and
the
successive
fulfillment
of
the
criteria
for
different
diagnoses
has
also
been
described
as
typical
by
Gillberg
(36). This
phenomenon
highlights
the
importance
of
repeated
screening
and
assessment
of
children
with
early Data availability statement The original contributions presented in the study are included
in the article/Supplementary material, further inquiries can be
directed to the corresponding author. Frontiers in Psychiatry Strengths and limitations This case highlights the importance of identifying the
symptoms of ADHD in neurometabolic disorders and the risk
of diagnostic overshadowing in such complex cases. Gathering
more data on the possible relationship between ADHD and
neurometabolic disorders could also provide deeper insights
into the etiology of ADHD and improve the patient’s clinical
management (5). However, the mechanisms leading to cognitive
deficits in treated TYRSN1 patients may be multifactorial; for
instance, it is debated if severe liver failure in TYRSN1 leads
to cognitive deficits (3). In the present case, the patient was
also diagnosed with epilepsy, which may have contributed to the
symptoms of ADHD. Discussion An 8-year-old boy with TYRSN1 was evaluated at the
Department of Child and Adolescent Psychiatry for several
neuropsychiatric symptoms, including ADHD. He was treated with
methylphenidate, which had an effective response, as informed by
himself, his parents, and his teacher, in addition to scores on the
continuous performance test. The largest effect was observed for
the symptoms of inattention. This treatment was conducted in accordance with previous
findings indicating that TYRSN1 is associated with symptoms
of inattention (24) and cognitive impairment (25). We recently
observed a strong correlation between the symptoms of inattention
and the recent and long-term plasma tyrosine levels of patients
with TYRSN1-receiving nitisinone (5). It is possible that the
reported inattention and cognitive impairments are related to
suboptimal metabolic control (25). In contrast to former beliefs
that the high levels of plasma tyrosine found in treated patients
with TYRSN1 would increase dopamine synthesis in the brain
(6), it is possible that the high level of tyrosine might inhibit
the production of dopamine and norepinephrine within brain
tissues (5). Decreased dopamine activity in the frontal cortex is
postulated to be a biological mechanism of ADHD (26) and is also
found in phenylketonuria, a more frequent and better-investigated
neurometabolic disorder with a high prevalence of comorbid
ADHD (27, 28). Shared biological mechanisms between TYRSN1
and ADHD might also explain the increased prevalence of ADHD
symptoms in patients with TYRSN1. Central stimulants, the most
common treatment for ADHD, work by inhibiting the synaptic
noradrenaline and dopamine transporters, thereby increasing the
concentration of these catecholamines in the synapses. He also exhibited less anxiety in novel situations. In school, his
learning capacity increased (reported after 6 months), and no
adverse effects were observed. Parents and the teacher reported improvements in the
core symptoms of ADHD, mostly regarding attention on the
Barkley ADHD questionnaire (Table 1). However, these reduced
hyperactivity symptoms were reported only by the family but not
by the teacher. The results of the continuous performance test (in percentiles)
for the different measures of the QB test are presented in Table 2. All
but one measure showed improvements in performance. This effect
was most prominent for inattention measures, especially reaction
time. The highest reduction for any measure was observed for the
anticipatory measure within the impulsivity scale. This means that
the number of guesses (responses registered immediately before or
following a stimulus) was substantially reduced. 04 frontiersin.org Barone et al. References 1. Bliksrud YT, Brodtkorb E, Backe PH, Woldseth B, Rootwelt H. Hereditary
tyrosinaemia type I in Norway: incidence and three novel small deletions
in
the
fumarylacetoacetase
gene. Scand
J
Clin
Lab
Invest. (2012)
72:369–
73. doi: 10.3109/00365513.2012.676210 1. Bliksrud YT, Brodtkorb E, Backe PH, Woldseth B, Rootwelt H. Hereditary
tyrosinaemia type I in Norway: incidence and three novel small deletions
in
the
fumarylacetoacetase
gene. Scand
J
Clin
Lab
Invest. (2012)
72:369–
73. doi: 10.3109/00365513.2012.676210 treatment in patients with systemic lupus erythematosus. Arthritis Rheum. (2013)
65:1313–8. doi: 10.1002/art.37893 14. Du Rietz E, Brikell I, Butwicka A, Leone M, Chang Z, Cortese S, et al. Mapping
phenotypic and aetiological associations between ADHD and physical conditions in
adulthood in Sweden: a genetically informed register study. Lancet Psychiatry. (2021)
8:774–83. doi: 10.1016/S2215-0366(21)00171-1 2. Mitchell G. The online metabolic and molecular bases of inherited disease. In: DV,
editor, The Online Metabolic and Molecular Bases of Inherited Disease. New York, NY:
McGraw-Hill Medical (2015). 15. Instanes JT, Klungsoyr K, Halmoy A, Fasmer OB, Haavik J. Adult ADHD
and comorbid somatic disease: a systematic literature review. J Atten Disord. (2018)
22:203–28. doi: 10.1177/1087054716669589 3. Masurel-Paulet A, Poggi-Bach J, Rolland MO, Bernard O, Guffon N, Dobbelaere
D, et al. NTBC treatment in tyrosinaemia type I: long-term outcome in French patients. J Inherit Metab Dis. (2008) 31:81–7. doi: 10.1007/s10545-008-0793-1 16. Haavik J. Genome guided personalized drug therapy in attention deficit
hyperactivity disorder. Front Psychiatry. (2022) 13:925442. doi: 10.3389/fpsyt.2022.92
5442 4. Cannon Homaei S, Barone H, Kleppe R, Betari N, Reif A, Haavik J, et al. symptoms
in neurometabolic diseases: underlying mechanisms and clinical implications. Neurosci
Biobehav Rev. (2022) 132:838–56. doi: 10.1016/j.neubiorev.2021.11.012 17. Arnold GL, Vladutiu CJ, Orlowski CC, Blakely EM, DeLuca J. Prevalence
of stimulant use for attentional dysfunction in children with phenylketonuria. J
Inherit
Metab
Dis. (2004)
27:137–43. doi:
10.1023/B:BOLI.0000028725.37
345.62 5. Barone H, Bliksrud YT, Elgen IB, Szigetvari PD, Kleppe R, Ghorbani S,
et al. Tyrosinemia Type 1 and symptoms of ADHD: biochemical mechanisms and
implications for treatment and prognosis. Am J Med Genet B Neuropsychiatr Genet. (2020) 183:95–105. doi: 10.1002/ajmg.b.32764 18. Chinsky JM, Singh R, Ficicioglu C, van Karnebeek CDM, Grompe M,
Mitchell G, et al. Diagnosis and treatment of tyrosinemia type I: a US and
Canadian consensus group review and recommendations. Genet Med. (2017)
19:101. doi: 10.1038/gim.2017.101 6. van Ginkel WG, Jahja R, Huijbregts SCJ, van Spronsen FJ. Conflict of interest The Supplementary Material for this article can be found
online at: https://www.frontiersin.org/articles/10.3389/fpsyt.2023. 1213590/full#supplementary-material During the past 3 years JH has received speaker fees from
Takeda and Medice, all unrelated to the present work. Funding This work was supported by grants from Stiftelsen Kristian
Gerhard Jebsen (SKGJ-MED-02), the Regional Health Authority
of Western Norway (912264), the Research Council of Norway
(Project No. 331725), and the Norwegian ADHD Research
Network (NevSom; project 51379, 815138). Author contributions RS and MF have made substantial contributions to the
acquisition of data for the work. YB, EV, HB, and IE have made
substantial contributions to the conception and design of the
work, the acquisition and interpretation of data for the work, 05 frontiersin.org Barone et al. 10.3389/fpsyt.2023.1213590 10.3389/fpsyt.2023.1213590 and drafting the work. JH has made substantial contributions
to the interpretation of data of the work. All authors have
revisited the work critically for important intellectual content,
provided approval for publication of the content, and agreed to be
accountable for all aspects of the work in ensuring that questions
related to the accuracy or integrity of any part of the work are
appropriately investigated and resolved. The
remaining
authors
declare
that
the
research
was
conducted in the absence of any commercial or financial
relationships that could be construed as a potential conflict
of interest. Publisher’s note All claims expressed in this article are solely those of the
authors and do not necessarily represent those of their affiliated
organizations, or those of the publisher, the editors and the
reviewers. Any product that may be evaluated in this article, or
claim that may be made by its manufacturer, is not guaranteed or
endorsed by the publisher. References Neurological and
neuropsychological problems in tyrosinemia type I patients. Adv Exp Med Biol. (2017)
959:111–22. doi: 10.1007/978-3-319-55780-9_10 7. Gonzalez-Lamuno D, Sanchez-Pintos P, Andrade F, Couce ML, Aldamiz-
Echevarria L. Treatment adherence in tyrosinemia type 1 patients. Orphanet J Rare
Dis. (2021) 16:256. doi: 10.1186/s13023-021-01879-1 19. van Ginkel
WG, Rodenburg
IL,
Harding CO, Hollak CEM,
Heiner-
Fokkema
MR,
van
Spronsen
FJ. Long-term
outcomes
and
practical
considerations
in
the
pharmacological
management
of
tyrosinemia
type
1. Paediatr
Drugs. (2019)
21:413–26. doi:
10.1007/s40272-019-00
364-4 8. Association AP. Diagnostic and Statistical Manual of Mental Disorders. 5th ed. Arlington, VA: American Psychiatric Publishing (2013). 20. Barkley RA. Defiant Children: A Clinician‘s Manual for Assessment and Parent
Training. 2nd ed. New York, NY: Guilford Press (1997). 20. Barkley RA. Defiant Children: A Clinician‘s Manual for Assessment and Parent
Training. 2nd ed. New York, NY: Guilford Press (1997). 9. Polanczyk G, de Lima MS, Horta BL, Biederman J, Rohde LA. The worldwide
prevalence of ADHD: a systematic review and metaregression analysis. Am J Psychiatry. (2007) 164:942–8. doi: 10.1176/ajp.2007.164.6.942 21. Knagenhjelm P, Ulberstad F. Quantified Behavioral Test (Qbtest) Technical
Manual. Stockholm: Qbtech (2010). 10. Simon V, Czobor P, Balint S, Meszaros A, Bitter I. Prevalence and correlates
of adult attention-deficit hyperactivity disorder: meta-analysis. Br J Psychiatry. (2009)
194:204–11. doi: 10.1192/bjp.bp.107.048827 22. Axelson DA, Birmaher B, Zelasny J, Kaufman J, Gill MK. K-SADS-PL 2009:
Working Draft. Western Psychiatric Institute and Clinic: Advanced Center for
Intervention and Services Research (ACISR) for Early Onset Mood and Anxiety
Disorders (2009). 11. Barkley
RA. Differential
diagnosis
of
adults
with
ADHD:
the
role
of
executive
function
and
self-regulation. J
Clin
Psychiatry. (2010)
71:e17. doi: 10.4088/JCP.9066tx1c 23. Norsk barne- og ungdomspsykiatrisk forening Dnl. Veileder i Barne-og
Undomspsykiatri. Oslo (2010). 12. Fasmer OB, Halmoy A, Eagan TM, Oedegaard KJ, Haavik J. Adult attention
deficit hyperactivity disorder is associated with asthma. BMC Psychiatry. (2011)
11:128. doi: 10.1186/1471-244X-11-128 24. Pohorecka
M,
Biernacka
M,
Jakubowska-Winecka
A,
Biernacki
M,
Kusmierska K, Kowalik A, et al. Behavioral and intellectual functioning in
patients with tyrosinemia type I. Pediatr Endocrinol Diabetes Metab. (2012)
18:96–100. 13. Garcia RJ, Francis L, Dawood M, Lai ZW, Faraone SV, Perl A. Attention
deficit and hyperactivity disorder scores are elevated and respond to N-acetylcysteine Frontiers in Psychiatry 06 frontiersin.org Barone et al. 10.3389/fpsyt.2023.1213590 Barone et al. 31. Halmoy A, Fasmer OB, Gillberg C, Haavik J. References Occupational outcome in adult
ADHD: impact of symptom profile, comorbid psychiatric problems, and treatment: a
cross-sectional study of 414 clinically diagnosed adult ADHD patients. J Atten Disord. (2009) 13:175–87. doi: 10.1177/1087054708329777 25. Bendadi F, de Koning TJ, Visser G, Prinsen HC, de Sain MG, Verhoeven-
Duif N, et al. Impaired cognitive functioning in patients with tyrosinemia type
I receiving nitisinone. J Pediatr. (2014) 164:398–401. doi: 10.1016/j.jpeds.2013. 10.001 26. Volkow ND, Wang GJ, Kollins SH, Wigal TL, Newcorn JH, Telang F, et al. Evaluating dopamine reward pathway in ADHD: clinical implications. J Am Med Assoc. (2009) 302:1084–91. doi: 10.1001/jama.2009.1308 26. Volkow ND, Wang GJ, Kollins SH, Wigal TL, Newcorn JH, Telang F, et al. Evaluating dopamine reward pathway in ADHD: clinical implications. J Am Med Assoc. (2009) 302:1084–91. doi: 10.1001/jama.2009.1308 32. Nylander C, Lindstrom K, Khalifa N, Fernell E. Previously undiagnosed
attention-deficit/hyperactivity
disorder
associated
with
poor
metabolic
control
in
adolescents
with
type
1
diabetes. Pediatr
Diabetes. (2018)
19:816–22. doi: 10.1111/pedi.12651 27. Antshel KM, Waisbren SE. Timing is everything: executive functions in
children exposed to elevated levels of phenylalanine. Neuropsychology. (2003) 17:458–
68. doi: 10.1037/0894-4105.17.3.458 33. Nylander C, Fernell E. ADHD should be considered in adolescents with
type 1 diabetes and poor metabolic control. Diabetologia. (2021) 64:1897–
8. doi: 10.1007/s00125-021-05493-5 28. Stevenson M, McNaughton N. A comparison of phenylketonuria with attention
deficit hyperactivity disorder: do markedly different aetiologies deliver common
phenotypes? Brain Res Bull. (2013) 99:63–83. doi: 10.1016/j.brainresbull.2013.10.003 34. Coghill DR, Seth S, Pedroso S, Usala T, Currie J, Gagliano A. Effects of
methylphenidate on cognitive functions in children and adolescents with attention-
deficit/hyperactivity disorder: evidence from a systematic review and a meta-analysis. Biol Psychiatry. (2014) 76:603–15. doi: 10.1016/j.biopsych.2013.10.005 29. Wolraich ML, Wibbelsman CJ, Brown TE, Evans SW, Gotlieb EM, Knight
JR, et al. Attention-deficit/hyperactivity disorder among adolescents: a review of
the diagnosis, treatment, and clinical implications. Pediatrics. (2005) 115:1734–
46. doi: 10.1542/peds.2004-1959 29. Wolraich ML, Wibbelsman CJ, Brown TE, Evans SW, Gotlieb EM, Knight
JR, et al. Attention-deficit/hyperactivity disorder among adolescents: a review of
the diagnosis, treatment, and clinical implications. Pediatrics. (2005) 115:1734–
46. doi: 10.1542/peds.2004-1959 35. Hendriksen JG, Peijnenborgh JC, Aldenkamp AP, Vles JS. Diagnostic
overshadowing in a population of children with neurological disabilities: a cross
sectional descriptive study on acquired ADHD. Eur J Paediatr Neurol. (2015)
4:4. doi: 10.1016/j.ejpn.2015.04.004 30. The
MTA
Cooperative
Group. A
14-month
randomized
clinical
trial
of
treatment
strategies
for
attention-deficit/hyperactivity
disorder. References Multimodal
Treatment
Study
of
Children
with
ADHD. Archiv
General
Psychiatr. (1999)
56:1073–86. doi:
10.1001/archpsyc.56.12. 1073 36. Gillberg C. The ESSENCE in child psychiatry: early symptomatic syndromes
eliciting neurodevelopmental clinical examinations. Res Dev Disabil. (2010) 31:1543–
51. doi: 10.1016/j.ridd.2010.06.002 36. Gillberg C. The ESSENCE in child psychiatry: early symptomatic syndromes
eliciting neurodevelopmental clinical examinations. Res Dev Disabil. (2010) 31:1543–
51. doi: 10.1016/j.ridd.2010.06.002 07 07 Frontiers in Psychiatry frontiersin.org
|
https://openalex.org/W1988540625
|
https://uir.unisa.ac.za/bitstream/10500/18298/1/Article_4.pdf
|
English
| null |
The role of records management as a tool to identify risks in the public sector in South Africa
|
South African journal of information management
| 2,014
|
cc-by
| 7,113
|
Original Research
Page 1 of 8 Original Research
Page 1 of 8 Original Research Page 1 of 8 Dates: How to cite this article:
Ngoepe, M., 2014, ‘The role
of records management as
a tool to identify risks in the
public sector in South Africa’,
SA Journal of Information
Management 16(1), Art. #615, 8 pages http://dx.doi. org/10.4102/sajim.v16i1.615 Conclusion: The study concludes by arguing that a strong records management regime can
be one of an organisation’s primary tools in identifying risks and implementing proper risk
management. Therefore, records management should be integrated with risk management
processes for organisations to benefit from the synergy. The role of records management as a tool to identify
risks in the public sector in South Africa Background: Records management is a vital element in the identification of risks. However,
there is a consensus amongst scholars that the relationship between records management and
risk identification has not been clearly articulated. As a result, risks associated with records are
often dealt with via internal audits, legal processes and information technology. Objectives: The study utilised the King III report on corporate governance in South Africa
as a framework to investigate the role of records management in identifying risks in the
public sector, with a view to entrench the synergy between records management and risk
management. Method: Quantitative data were collected through questionnaires distributed to records
managers, risk managers and auditors in governmental bodies in South Africa. Provisions of
the King III report, guided the research objectives. Results: Even though the study established that there is a reciprocal relationship between risk
identification and records management, most governmental bodies in South Africa lack records
management and risk-mitigating frameworks or strategy. Furthermore, records management
did not feature in most governmental bodies’ risk registers. It has been established that most
governmental bodies have established risk committees that do not include records management
practitioners. In most governmental bodies, risk management resides within internal audit
functions. doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Scan this QR
code with your
smart phone or
mobile device
to read online.
Read online: Problem statement Despite the importance of records management to risk
identification, as highlighted in the preceding section, it
would seem that records management in the public sector
in South Africa does not satisfy the threshold specified by
the King III report. For example, the general reports on audit
outcomes by the Auditor-General of South Africa express
concerns on the lack of adequate records that automatically
increase audit risks and fees (Bhana 2008; Ngoepe & Ngulube
2013b:52). This implies that records are not properly
managed to mitigate information-related risks; hence, the
public sector in South Africa is characterised by auditing
findings relating to poor records management. Hence, Sarens
and De Beelde (2006:64) and Fraser and Henry (2007:393)
observe that the relationship between records management
and risk identification has not been clearly explored and
articulated by scholars, practitioners and organisations. According to the Institute of Internal Auditors (2009), many
organisations are fearful that they do not really understand
the link between risk management and records management. Erima and Wamukoya (2012:32) are of the view that as a tool
for risk management, records management is important in
strategic decision-making, helps cut down costs and reduces
risks from litigation, amongst others. Isa (2009:4) ponders
that the embedding of records management into the risk
management function is a long-term exercise to ensure that
records consideration is at the heart of all management
processes. Organisations create an array of records relating
to relevant internal and external activities. These records are
needed at all levels of an organisation to identify, assess and
respond to risks (Committee of Sponsoring Organizations
of the Treadway Commission 2004:67). Failing to manage
records throughout their life cycle is a growing risk facing
every organisation across the globe. According to Isa (2009:75)
organisations have neglected proper record-keeping, which
results in exposure to risks from various angles. If records
management is used as a risk identification tool, many of the
risks associated with poor record-keeping, such as litigation,
loss of information, reputation risks and others, can be
mitigated. •
Using records to explore types of risk •
Risk to records. •
Records as causes of other types of risk. •
Risks associated with the traditional archival function •
Risks associated with the traditional archival function. •
Records management applying the risk management
process (pp. 210–211). •
Records management applying the risk management
process (pp. 210–211). Copyright: Copyright:
© 2014. The Authors. Licensee: AOSIS
OpenJournals. This work
is licensed under the
Creative Commons
Attribution License. Both public and private organisations face different kinds of risks that affect the reliability of
records and effectiveness of internal controls daily, such as losses, negative cash flows and,
ultimately, bankruptcy, which can lead to liquidation. According to Ebaid (2011:108), it is difficult
for organisations to avoid risk. However, what matters most is the identification and management
of risks that the organisation is exposed to. Records management is one of the functions that can
play a vital role in identifying and assessing risks and leading to effective risk management. Effective risk management plays an integral part in the development of the control environment
which, in turn, provides management with the necessary assurances that the organisation will
achieve its objectives within an acceptable degree of residual risk. Licensee: AOSIS
OpenJournals. This work
is licensed under the
Creative Commons
Attribution License. Scan this QR
code with your
smart phone or
mobile device
to read online. Read online: Despite the role that records management can play in identifying risks within organisations,
it is clear from the literature that the role has not been clearly articulated, particularly in the
public sector in South Africa as compared to elsewhere in the world (Bhana 2008). Lemieux
(2001; 2004:57) contends that risks associated with records are often dealt with on an ad-hoc
basis via internal audits, legal processes, information technology and in few instances records
management. Akotia (1996:6) has also observed that ‘a major defect in financial administration
arises from failure to integrate accounting and records management process, with the result that
essential information is lost or becomes subject to inaccuracies’. Palmer (2000:63) points out that
the chaotic and collapsed state of records management systems is one of the primary reasons
why accounting standards will not easily be implemented in developing countries. Indeed,
when accounting systems are weakened due to poor record-keeping, management is unable to
access records for decision-making. In this light, it is essential that records are managed properly
throughout their entire life cycle to enable identification of risk and management thereof. Willis (2005:88) is of the view that a robust records management programme should form
part of the organisation’s risk management process, as records and the management of risk http://www.sajim.co.za Original Research Page 2 of 8 are considered inseparable. Copyright: In this regard, proper records
management can be used as a tool to identify risks in the
organisation. Fraser and Henry (2007:393) identify two
contexts in which the inseparability of and nexus between
records and risks can be considered: records for identifying
business risk and business risks associated with managing
records. Furthermore, Lemieux (2010) provides a typology
between records management and risk management: according to the King III report, information management
encompasses:
protection
of
information
(information
security), the management of information and the protection
of
personal
information
processed
by
organisations
(information privacy) (IoDSA 2009:86). Problem statement In view of the above, this study utilised the King III report
on corporate governance to develop a theoretical argument
for the role of records management in identifying risk in the
public sector of South Africa, with a view to entrench the
synergy between records management and risk management. A study by Ngoepe and Ngulube (2013a) covered other
chapters of the King III report, but excluded the governance
of risk from the role of records management in corporate
governance. Therefore, this study attempts to fill the gap
by using chapter 4 and chapter 5 of the King III report as
a framework to define the role of record-keeping as a tool
to identify risks in governmental bodies. As Isa (2009:3–4)
would attest, it is essential to explore the relationship
between these two areas in order for organisations to benefit
from the synergy of their integration. The King III report was launched on 01 September 2009 by the
Institute of Directors of Southern Africa (IoDSA), and came
into effect on 01 March 2010. It heralded a new era in which
risk management and recorded information were regarded
as important. The King III report has nine chapters1. Chapter
4 and chapter 5 are relevant to this study as they deal with
risk management and information management respectively. The chapters provide valuable guidance on how the various
processes can be integrated. For example, in terms of the King
report, people responsible for organisational governance
must be able to rely on competent and trustworthy internal
resources, capable of accurately assessing the effectiveness
of the processes in place to manage and mitigate risks
(IoDSA 2009:86). The King III report applies to all private
and public entities in South Africa. Records are regarded
as important assets of the organisation as they are evidence
of business activities. The King III report recommends that
management should ensure that there are systems in place
for the management of information assets to ensure the
availability of information in a timely manner, implement
a suitable information security management, ensure that
sensitive information is identified, classified and assigned
appropriate handling criteria, implement the management
of risks associated with information and establish a business
continuity
programme
addressing
the
organisation’s
information and recovery requirements. In this regard,
1.The nine chapters of the King report can be accessed from http://www.iodsa. co.za/?kingIII 1.The nine chapters of the King report can be accessed from http://www.iodsa.
co.za/?kingIII http://www.sajim.co.za doi:10.4102/sajim.v16i1.615 The relationship between records management
and risk management Chernobai, Rachev and Fabozzi (2007:xv) contend that there
is a historical relationship between risk management and
records management, even though the risk management
field has its origin in the insurance industry. From time
immemorial, human beings have striven to understand risk
affected by factors such as storm, fire or flood (Graham &
Kaye 2006:1). In the 1980s, risk management in manufacturing
industries took hold with the adoption of total quality
management. Very few organisations took a wide-angle
view of risk and controls beyond finance. Even in these cases,
as postulated by Lemieux (2010:210), attention was generally
focused on hazard-related or insurable risk. It was only in
the 1990s that the field of risk management received greater
recognition. Sampson (1992:134; 2002:169) asserts firmly that the main
contribution of records management to risk management
is through records retention schedules, which allocate a
suitable retention period to various records, especially
perceived threats of litigation. However, it should be noted
that there are instances of public organisations in South
Africa destroying records, for accountability purposes, as a
way of managing political risks (Harris 2002; 2007). Harris
and Merrett (2007:270) are of the view that, even in an era
of more open government, it is inconceivable that compliant
procedures can be applied uniformly as they simply cost too
much. Reed (1997) suggests that not all processes generate
records and that it is the role of records management working
within a risk management framework to identify how far
each process should be recorded. However, as Isa (2009:66)
would attest, this role cannot be accomplished in the absence
of commitment from managers of various departments
across an organisation. Risk commentators such as Fraser and Henry (2007:393),
Hiles (2002), Lemieux (2010:211) and Sarens and De Beelde
(2006:64) argue that the incident on 11 September 2001 in the
United States of America changed the world with regard to
risk management as many companies ceased to exist after
the event. However, the roots of modern risk management
are much older and were already deeply embedded in the
management of many organisations long before that fateful
day. Risk was rarely projected and it was only when records
were kept that an opportunity presented itself to scrutinise
these records to offer prediction of the future. Today, most
organisations have, as part of their corporate executive
staff, an individual with the title of chief risk officer. Literature review Literature for this study is reviewed under two themes: the
role of records management in identifying risks and risks
emanating from poor or lack of records management in
organisations. Effective records management ensures the availability of
records for future assessment in order to determine whether
the recommended risk mitigation has been followed by
relevant business process owners. The success of risk
management is partly dependent on the accuracy of records
in organisations, as every judgement made must be based
on reliable information. In an age in which transparency,
accountability and compliance are of increasing concern, it is
essential that organisations comply with regulations and, if
they do not, are able to explain why not (Isa 2009:53; Lomas
2010:191). Research purpose and objectives of the study The general purpose of this study was to investigate the role
of records management as a tool to identify risks in the public
sector in South Africa, with a view to entrench the synergy
between records management and risk management. The
specific objectives were to: •
Investigate the availability of enterprise risk management
strategies
that
embrace
records
management
in
governmental bodies. •
Identify risks emanating from poor or lack of records http://www.sajim.co.za Original Research Original Research management in the public sector in South Africa. management in the public sector in South Africa. management in the public sector in South Africa or incorporated into the risk management process. Isa (2009)
proposes some guidelines for how the integration could be
done: •
Investigate how records are managed to mitigate risks in
the public sector in South Africa. p
•
Make
recommendations
on
integrating
records
managements into risk management. Record-keeping practice and risk management elements must
be nurtured and embedded in all business activities across
the organisation. This can be realised by forming a working
committee comprising the audit committee, archivist and
records manager and risk management team to implement such
an approach across the board. Therefore, records management
professionals should embrace the opportunity to contribute to
the achievement of corporate governance. (p. 258) Risks emanating from poor or lack of records
management in organisations In his keynote address to the South African Records
Management Forum conference, Bhana (2008) questions
whether it is fair to equate poor records management to high
risk. Putting it differently, Sampson (1992:134) questions
whether proper records management can help to identify
and assess risk. To answer these questions, the Auditor-
General of South Africa (2011) is on record noting the
importance of keeping records as a key component of any
entity’s risk management process. Organisations operate in a
world that grows more litigious, risky and highly regulated
(KPMG 2011). Failing to manage records throughout their
entire life cycle is a growing risk facing every organisation. In the past, records management was purely paper based
and the challenge was less onerous. Traditionally, records
management processes have been undertaken by records
management staff. The digital world brings new complexities
to records management. Now the work has been transferred
to end-users which has proved to be unsuccessful (Henttonen
& Kettunen 2011:87). In an electronic environment, the
challenges include managing access, versioning, controlling
and surrogates. Therefore, records management can no
longer be a tactical solution to a departmental problem, but
must be approached as an enterprise-wide strategy (KPMG
2011). The starting point is to identify key areas of records
management that pose a risk to the organisation or have a
significant cost impact. •
Lack of evidence that an organisation did something
under contract or according to regulation. •
Inability to find mission-critical information. •
Loss of proof of ownership, rights and obligations. •
Lack of documentation of who knew what and when. •
Inability to locate proper context information for records
that may be incriminating in one context and innocent in
another. •
Inability to demonstrate that policies and procedures
were in place and consistently followed. •
Impairment of functioning of society and its institutions. •
Loss of evidence of the rights of people as citizens and
clients. •
Inability of societal watchdogs to call to account
governments, corporations and individuals. •
Loss of collective, corporate and personal identity. From the discussions, it is no exaggeration to suggest that
a solid records management programme can be an effective
insurance policy for an organisation to identify risks. Ngoepe
(2011:33) contends that organisations without proper records
management run the risk of destroying records too soon
and consequently of not being able to produce the records
when legally required. The relationship between records management
and risk management As a
result, risk management to many is synonymous with good
governance. This also manifests itself in governance tendrils
such as the King III report on corporate governance in South
Africa. The strength and effectiveness of a record-keeping system
mainly depend on the effectiveness of risk management
that prioritises and identifies risks across an organisation. Allocating the identified risks into an organisational directory
or a file plan structure enables the identification of contextual
information, which in turn ensures that the authenticity and
integrity of electronic records are controlled (Isa 2009:91). As risk is associated with avoiding or mitigating obstacles
to achievement, from a liability standpoint, records are
necessary to demonstrate that an organisation has conducted
itself reasonably. If nothing is recorded, it difficult to prove
that it happened. Relying on human memory is dangerous
due to its elusiveness, frailty and the tendency of people to
remember things that never happened (Jimerson 2003:90;
Ngoepe 2012:44). This can lead to records and information
management risks, which encompass any threat to the Whilst internal monitoring bodies within organisations
such as internal audit functions and audit committees
are becoming increasingly involved in risk management,
records management is conspicuous by its absence. Fraser
and Henry (2007:393) argue that historically no unit within
organisations has been charged with risk management. As
a result, internal audit departments and audit committees
took the opportunity to fill the gap simply because many
risks have an obvious financial dimension. According to
Isa (2009:4), records management ensures the availability of
records for risk assessment and as such should be involved in doi:10.4102/sajim.v16i1.615 doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Original Research Page 4 of 8 business arising from inadequate records management
(Lemieux 2004:56). and designing appropriate record-keeping strategies. The
second is an assessment, by individual work units, of the
risks they face in achieving their objectives, including record-
keeping. Furthermore, Egbuji (1999:94) classifies risks into
reputation, litigation and environmental risks. The Institute
of Charted Accountants in England and Wales classifies risks
into five main categories: financial, business, compliance,
operational and knowledge management (Fraser & Henry
2007:392–393). McKemmish and Acland (1999) suggest
that failure of the record-keeping system may lead to
organisational risks and societal risks. These risks include
the following: Risks emanating from poor or lack of records
management in organisations Alternatively, organisations adopt
the costly practice of keeping everything forever, a practice
that can also backfire in legal proceedings. The organisation
is then required to produce everything it has relating to the
proceedings, not just what it is legally required to provide. At the very least, producing all related records is time-
consuming and expensive (Ngoepe 2012:84). Therefore, it is
appropriate to manage records to enable identification and
assessment of risks within organisations. Indeed, how well an organisation manages its records will
impact on certain business and legal risks. Often, the cost
of poor record-keeping is hidden; hence, few organisations
especially in the public sector bother to establish a records
management programme. There are several risks that come
to mind, but four risks stemming from poor or lack of proper
record-keeping identified by Bhana (2008) and Ngoepe
(2011:75–76) that need to be considered are reputation, legal,
financial and information loss. Bhana and Ngoepe posit that a
governmental institution with lack of proper record-keeping
is at risk of information loss when individuals resign or
leave office. This is a common phenomenon and has almost
become a cliché since organisations often refer to individuals
that they hold in high regard because of their ‘institutional
memory’. The institutional memory should in fact be vested
in the organisation’s records management systems, which are
further supported by appropriate knowledge management
frameworks. Furthermore, governmental bodies need to
comply with legislation regarding retention of records. http://www.sajim.co.za Research methodology This study relied on quantitative data collected via
questionnaires distributed to governmental bodies in South
Africa, which were listed on a government website as follows:
283 municipalities, 37 national government departments, 108
provincial government departments in all nine provinces
and 30 public entities (South Africa Government Online
n.d.). Data collected via questionnaires were supplemented
through content analysis of documents such as risk strategies
and registers of eight of the participating organisations who
were willing to provide such documents. Since the population
being studied was large and heterogeneous, a stratified Several other scholars also identify risks associated with
poor or lack of records management. For example, Fraser
and Henry (2007:393) identify two types of process-level
risk assessments for record-keeping. The first is a strategic
approach to managing business information by undertaking
a systematic, risk-based assessment of record-keeping needs doi:10.4102/sajim.v16i1.615 doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Page 5 of 8 Page 5 of 8 Original Research as the chief risk officer. It was only in a few instances 23.4%
(22), that respondents indicated that responsibility lay with
compliance and legal service units. Only 31.9% (30) indicated
that it was not clear who was responsible for risk management
as there was no such unit in their organisation. However, no
respondents indicated that the records management unit
was involved in risk management in their organisation. Four
(4.2%) respondents indicated that records management was
represented by information technology managers in risk
management meetings. With regard to the availability of
risk committees, 77.6% (73) indicated that their organisation
had established risk committees as compared to 22.3% (21)
that did not. Again, no member of a records management
team was part of the risk committees. When asked about
the interval of risk assessment, 57.4% (54) indicated that the
assessment is conducted once a year, as compared to 42.5%
(40) which did not. Only 36.1% (34) of those who conducted
risk assessments indicated that records management was
included in the assessment. random sampling technique was used. The assumption was
that if other types of probability sampling were applied,
chances are that national government departments and
statutory bodies could have been under-represented as they
were few, whilst municipalities and provincial government
departments could be over-represented as they were many. The population was divided into strata of municipalities,
national departments, provincial departments and public
entities to ensure representativeness. Municipalities and
provincial departments were further grouped into sub-
strata according to their respective provinces. Research methodology Participants
from the chosen sample were selected purposively and were
either a records management staff member, risk manager or
internal audit staff member. In some instances, especially in
municipalities, municipal managers were selected, as there
were no records managers or auditors. A proportional sample
size of 37% (171) was taken from the population based on a
scientific calculator available online. Therefore, the sample
consisted of 105 municipalities, 14 national departments, 40
provincial departments and 12 public entities. Data analysis and research findings This section analyses and presents the results of the data
obtained via questionnaires and document review. Out of
171 questionnaires distributed, only 94 were returned, a
55% response rate. Data from questionnaires were analysed
using survey software available online. Results are presented
through written descriptions and numerical summaries. Of the 94 responses, 42.5% (40) were completed by records
managers, 28.7% (27) by registry clerks, 15.9% (15) by other
information professionals such as librarians, knowledge
managers and information technology specialists, whilst
12.7% (12) were completed by different officials such as
municipal managers, risk managers and internal auditors. Principle 5.7 in Chapter 5 of the King III report indicates
that the risk committee should consider information as a
crucial element of the effective oversight or risk management
of the organisation. When asked about the availability of
a risk register, 53.2% (50) indicated that there was a risk
register in their organisations as compared to 46.8% (44)
who did not have one. The respondents indicated that the
risk register was reviewed once a year. The risks that kept
recurring as identified by the respondents were loss of
information, leakage of information, security of information
and litigation due to unavailability of information. However,
three respondents indicated that the top risk issues in
their organisation were confidential and, therefore, could
not divulge information to the researcher. Perusal of risk
registers from eight participating organisations revealed that
security of information was considered a high risk, especially
in an electronic environment. Issues identified in the registers
include: sufficient security measures to prevent unauthorised
or untracked access to the computers, networks, devices or
storage and the inclusion of user permissions, passwords
control and firewalls in the systems. However, none of the
eight risk registers mentioned the possible risks related to
paper records and their storage. Discussion of results It is clear from the study that internal audit units have
assumed the functions, systems and processes of risk
management in most governmental bodies in South Africa. As a result, risk management in most governmental bodies
resides within internal audit functions. However, in a few
instances the risk management function resides within
areas such as compliance and legal services. There was
no single instance in which the records management unit
was responsible for risk management. Therefore, records
management practitioners have taken a backseat with regard
to risk identification. Even though most governmental bodies
have established risk committees, records management
practitioners did not form part of such committees. Instead,
in most cases, records management was represented by
the information technology division. The study has further
revealed that there was an absence of a records management
risk-mitigating framework or strategy in most governmental
bodies. As a result, governmental bodies are vulnerable to
information loss and litigations. The study has established
that records management was excluded from the risk register
of many governmental bodies. In the case in which records
management was identified as a risk issue, only security and
loss of information were considered the top risks associated
with records. It is distressing to reveal that only a pitiable figure of 9.5% (9)
of governmental bodies have implemented disaster recovery
plans. With regard to disposal authorities, respondents cited
lack of support from the National Archives of South Africa
(NASA) as a contributing factor to unavailability of disposal
authority and a retention schedule in their organisation. One respondent indicated that their organisation requested
a disposal authority from NASA in 2010, but had not yet
received a response in 2014. This according to the respondent
was despite several follow-ups with NASA. The respondent
indicated that NASA cited lack of capacity as a contributing
factor. When asked how records management mitigates risk in
governmental bodies, respondents replied that with proper
records management in place, the governmental bodies
will comply with archival legislation, minimise loss of
information and be able to present records as evidence
in court and base decisions on records rather than thumb-
sucking or mental memory. They also identified that records
management allows for the availability of comprehensive
documented information about all aspects of risks and risk
sources, retention and disposal of records. The availability of risk management strategies in
governmental bodies Principles 4.1 and 4.4 in chapter 4 of the King III report require
organisations to develop risk management policy and plans
that are aligned to the purpose of the organisation (IoDSA
2009:29). The policy should be widely distributed throughout
the organisation. When asked if their organisations had
developed a risk management strategy, 57.4% (54) of
the respondents indicated that their organisations have
developed an enterprise risk management strategy as
compared to 42.6% (40) which did not have. The respondents
indicated that the risk management policy and plan
formed part of the strategy and were monitored by the risk
committee. Of those who indicated that their organisations
have developed a risk management strategy, only 36.1% (34)
mentioned that the strategy included record-keeping as a
risk. Another 21.2% (20) indicated that the strategy was not
clear on records as it just mentioned security of information
without specifying the type of information. The respondents were further asked to list five records
management areas that pose a risk to or have a significant
cost impact on their organisation. The top five issues were
information security, data integrity, information loss,
non-compliance and leaking of information. The internal
audit unit was identified by respondents as responsible for
providing assurance regarding risk management. However,
53.2% (50) of the respondents indicated that internal audit
units and records management did not always work in
unison on risk management issues. With regard to responsibility in risk management, 44.6%
(42) indicated that the accounting officers have delegated
the responsibility and designated the head of internal audit doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za Page 6 of 8 How records management mitigate risks in the
public sector management practices. •
An overwhelming volume of older stored records. •
An overwhelming volume of older stored records. •
Staff changes that leave the context of many records
unknown. The King III report views information contained in records as
the most important information assets as they are evidence of
business activities. Therefore, it is essential for organisations
to manage records for sustainability and to minimise risks
associated with poor records management (Ngoepe &
Ngulube 2013a). The availability and implementation of key
records management documents such as strategy, policy,
procedure, file plans, retention schedules, disposal authority,
vital records schedules and disaster recovery plans goes a long
way in helping organisations to mitigate risks. Respondents
were asked to indicate or state the availability of key records
management documents, as reflected in Table 1. •
Vital records not identified and secured (lack of a disaster
preparedness plan). •
Failure to implement an electronic document and records
management system (EDRMS). •
Failure to implement an electronic document and records
management system (EDRMS). •
Staff not adhering to a central filing strategy (keeping files
at their desks), resulting in inability to locates files later. g
yi
•
Documents not verified as being complete before being
returning to the registry, filing room or archives. g
yi
•
Documents not verified as being complete before being
returning to the registry, filing room or archives. Discussion of results The following
were further identified by respondents as areas of records
management that will create risks for organisations if not
attended to: The study has established that key records management
documents that have been developed in the majority of
governmental bodies include policy, procedures and a file
plan. However, these documents were not implemented
in most governmental bodies. Documents such as disaster
recovery plans, vital records schedules and retention
schedules were non-existent in many governmental bodies. This implies that the government is sitting on an ‘information
ticking time bomb’ that could have dire consequences, such •
Absence or poor implementation of records management
strategies, policies and procedures. •
Approved file plans not implemented in filing structures. •
Inability to distinguish historical records from those
with ephemeral value; as a result, the ‘keep everything
syndrome’ is applied. •
Low awareness of the importance of proper records •
Low awareness of the importance of proper records doi:10.4102/sajim.v16i1.615
http://www.sajim.co.za
TABLE 1: Availability and implementation of key records management documents (N = 94). Document
Available but not implemented
%
Implemented
%
Unavailable
%
Strategy
7
7.4
13
13.8
74
78.7
Policy
15
15.9
57
60.6
22
23.4
Procedures
17
18
58
61.7
19
20.2
File plan
21
22.3
60
63.8
13
13.8
Disposal authority
16
17
26
27.6
52
55.3
Retention schedule
15
15.9
16
17
63
67
Vital records schedule
3
3.1
10
10.6
81
86.1
Disaster recovery plan
2
2.1
9
9.5
83
88.3 Page 7 of 8 Original Research as loss of vital national memory and legal actions against
government. In the absence of rules and guidelines as to what
should be kept and for how long, staff should be reluctant
to authorise the destruction of records, which is what was
happening in most governmental bodies in South Africa. By
not implementing records management policies and carrying
out disposal authorities, governmental bodies are vulnerable
in that they may not be able to meet legislative or other
obligations required of them. For example, governmental
bodies might find it difficult to respond to requests in
terms of freedom of information legislation, as they would
struggle to sift through an ever-increasing mountain of
records. As a result, the retrieval of a particular record will
be akin to searching for the elusive needle in the haystack. Discussion of results Furthermore, in an environment of ever-decreasing budgets,
the over-retention of records may force governmental bodies
to spend more money in order to preserve records that could
have been disposed of a long time ago. future as its synergy enables the identification of not only
risk but also business opportunities, maintains competitive
advantage and facilitates the achievement of the strategic
objectives of the organisation. Therefore, as Isa (2009:257)
would attest, a risk-based approach to records management
identifies and gives priority to risky records and in the process
ensures that records are protected against destruction and
damage, retrieved when needed and disposed of at the end
of their life cycle. An effective records management programme covering
the full life cycle of a record will ensure that records are
not merely kept, but are kept well, as a resource and an
asset to increase the organisation’s efficiency. As part of
risk management, organisations should develop business
continuity plans and contingency measures to ensure that
records that are vital to the continued functioning of the
organisation are identified as part of risk analysis, protected
and recoverable when needed. As Isa (2009:91) would attest,
to limit the risks associated with records, records need to
be protected. Furthermore, organisations need to ask the
following questions: In this study, it has been established that proper records
management can mitigate risk through compliance with
legislation, minimisation of information loss and provision of
evidence of transactions. It is clear from the study that record-
keeping is viewed in the context of a key enabler without
which risk management becomes unsuccessful. Relevant
records are required to support activities performed in the
course of business, decision-making and accountability. Therefore, how well organisations manage records will
impact on certain business and legal risks, including: •
What are the risks if the records are available, not
available or fall into the wrong hands? •
Will there be sufficient evidence for a defence or to file a
claim? In view of all of the identified risks, record-keeping must
be approached by governmental institutions as a risk
management function. In this regard, the records management
unit should be involved in the management of risks
associated with records. Furthermore, records management
practitioners should be included in risk committees. Competing interests The author declares that he has no financial or personal
relationship(s) that may have inappropriately influenced
him in writing this article. Conclusion and recommendations It is clear from the study that a strong records management
regime can be one of an organisation’s primary tools in
identifying risks and can therefore lead to proper risk
management. Therefore, records management should be
integrated with risk management and record-keeping
must be viewed by organisations as a risk management
function, thereby leveraging its status in the public sector. The integration of risk and records management has a bright Akotia, P., 1996, ‘The management of public sector financial records: The implications
for good government’, University of Ghana, Legon, viewed 10 January 2013,
from http://ww4.msu.ac.zw/elearning/material/1174370018Pino%20Akotia%20
1996%20on%20governance.pdf Discussion of results Effective
risk management is the cornerstone of good governance
and can lead to improved performance, resulting in better
service delivery, more efficient use of resources, as well as
helping to minimise waste and fraud. The risk assessments in
governmental bodies should also review record-keeping, so
that government entities’ records management priorities do
not pose any legislative or business risk to the organisation. Applying the principles and practices well is no guarantee
for success, as other factors can influence and determine
outcomes. Nevertheless, failure to do so would most likely
lead to less than desired results and, probably, even failure. •
Loss of revenue (financial risk). •
Loss of revenue (financial risk). •
Loss of revenue (financial risk). •
Loss of legal rights and failure to comply with legislation
(legal risk). •
Exposure to penalties in litigations and investigations
(legal and financial risk). •
Violation of the law (compliance risk). •
Violation of the law (compliance risk). •
Waste of staff time in searching for lost or mislaid
documents (knowledge management risk). g
g
•
Inability to prove what has been done or agreed upon
(legal risk and reputation risk). •
Fruitless expenditure due to storage of records with no
archival or business value (financial risk). •
Lack of continuity in the event of disaster or employees
resigning or changing positions (knowledge management
risk). Acknowledgements
Competing interests •
Accidental access to organisational records by external
people due to employees leaving records in their work
stations unprotected (security and reputational risk). http://www.sajim.co.za References Akotia, P., 1996, ‘The management of public sector financial records: The implications
for good government’, University of Ghana, Legon, viewed 10 January 2013,
from http://ww4.msu.ac.zw/elearning/material/1174370018Pino%20Akotia%20
1996%20on%20governance.pdf Akotia, P., 1996, ‘The management of public sector financial records: The implications
for good government’, University of Ghana, Legon, viewed 10 January 2013,
from http://ww4.msu.ac.zw/elearning/material/1174370018Pino%20Akotia%20
1996%20on%20governance.pdf Auditor-General of South Africa, 2011, Simplifying audit opinions and findings to
enable government leadership to exercise meaningful oversight towards clean
administration, AG online column, viewed 16 July 2013, from http://www.agsa. co.za/portals/0/AG/Simplifying_audit_opinions_and_findings_to_enable_
government_leadership_to_exercise_oversight.pdf http://www.sajim.co.za doi:10.4102/sajim.v16i1.615 Original Research Page 8 of 8 Bhana, P., 2008, ‘The contribution of proper record-keeping towards auditing and risk
mitigation: Auditor-General of South Africa’s perspective’, paper presented at the
3rd Annual General Meeting of the South African Records Management Forum,
Midrand, South Africa, 10–11 November, viewed 15 June 2013, from http://www. khunkhwane.co.za/uploads/The Contribution of Proper Records Keeping towards
auditing and risk mitigation Auditor General Perspective.pdf merson, R.C., 2003, ‘Archives and memory’, Archives and Manuscript 19(3), 8 KPMG, 2011, Records risk management diagnose, viewed 10 December 2013, from
http://www.kpmg.com/US/en/IssuesAndInsights/ArticlesPublications/Documents/
records-risk-management-diagnostic.pdf Lemieux, V.L., 2001, ‘Competitive viability, accountability and record keeping: A
theoretical and empirical exploration using a case study of Jamaican Commercial
Bank failures’, PhD thesis, Dept. of Information Studies, University of London, London,
viewed 10 December 2013, from http://discovery.ucl.ac.uk/1317703/1/272289.pdf Chernobai, A.S., Rachev, S.T. & Fabozzi, F.J., 2007, Operational risk: A guide to Basel II
capital requirements, models and analysis, John Wiley & Sons, New Jersey. Committee of Sponsoring Organizations of the Treadway Commission, 2004,
Enterprise risk management – Integrated framework, viewed 16 May 2013, from
http://www.coso.org/publications/erm/coso_erm_executivesummary.pdf Lemieux, V.L., 2004, ‘Two approaches to managing risks’, Information Management
Journal, Sep/Oct, 56–62, viewed 15 January 2014, from http://www.arma.org/
bookstore/files/Lemieux.pdf Ebaid, I.E., 2011, ‘Internal audit function: An exploratory study from Egyptian listed
firms’, International Journal of Law and Management 53(2), 108–128. http://
dx.doi.org/10.1108/17542431111119397 Lemieux, V.L., 2010, ‘The records-risk nexus: Exploring the relationship between
records and risk’, Records Management Journal 20(2), 199–216. http://dx.doi. org/10.1108/95656981080001362 Egbuji, A., 1999, ‘Risk management of organisational records’, Records Management
Journal 9(2), 93–116. http://dx.doi.org/10.1108/EUM0000000007245 Lomas, E., 2010, ‘Information governance: information security and access within
a UK context’, Records Management Journal 20(2), 182–198. http://dx.doi. org/10.1108/09565691011064322 Erima, J.A. & Wamukoya, J., 2012, ‘Aligning records management and risk management
with business processes: A case study of Moi University in Kenya’, Journal of the
South African Society of Archivists 45, 24–38. McKemmish, S. References & Acland, G., 1999, ‘Archivists at risk: Accountability and the role of the
professional society’, paper read at the Annual Conference of the Australian Society
of Archivists, Brisbane, Australia, 29–31 July. Fraser, I. & Henry, W., 2007, ‘Embedding risk management: Structures and
approaches’, Managerial Auditing Journal 22(4), 392–409. http://dx.doi. org/10.1108/02686900710741955 Ngoepe, M., 2011. Records management practices in the South African public sector:
Challenges, trends and issues, Lambert Academic Publishing, Saarbrücken. Graham, J. & Kaye, D., 2006, A risk management approach to business continuity:
Aligning business continuity with corporate governance, Rothstein Associates,
Brookfield. Ngoepe, M., 2012. ‘Fostering a framework to embed the records management function
into the auditing process’, PhD thesis, Dept. of Information Science, University of
South Africa. Ngoepe, M. & Ngulube, P., 2013a, ‘An exploration of the role of records management
in corporate governance in South Africa’, SA Journal of Information Management
15(2), Art. #575, 8 pages. http://dx.doi.org/10.4102/sajim.v15i2.575 Harris, V., 2002, ‘The archival sliver: Power, memory, and archives in South Africa’,
Archival Science 2, 63–82, viewed 10 January 2014, from http://www.nyu.edu/
classes/bkg/methods/harris.pdf Ngoepe, M. & Ngulube, P., 2013b, ‘Contribution of record-keeping to audit opinions:
An informetrics analysis of the general reports on audit outcomes of the Auditor-
General of South Africa’, ESARBICA Journal 32, 46–54. Harris, V., 2007, ‘“They should have destroyed more”: The destruction of public
records by the South African State in the final years of apartheid, 1990-1994’, in
V. Harris (ed.), Archives and justice: A South African perspective, pp. 305–336, The
Society of American Archivists, Chicago. Palmer, M., 2000, ‘Records management and accountability versus corruption, fraud
and maladministration’, Records Management Journal 10(2), 61–72. http://dx.doi. org/10.1108/EUM0000000007256 Harris, V. & Merrett, C., 2007, ‘Toward a culture of transparency: Public rights of access
to official records in South Africa’, in V. Harris (ed.), Archives and justice: A South
African perspective, pp. 269–288, The Society of American Archivists, Chicago. Reed, B., 1997, ‘Electronic records management in Australia’, Records Management
Journal 7(3), 191–204. http://dx.doi.org/10.1108/eb027111 Henttonen, P. & Kettunen, K., 2011, ‘Functional classification of records and
organisational structure’, Records Management Journal 21(2), 86–103. http://
dx.doi.org/10.1108/09565691111152035 Sampson, K.L., 1992, Value-added records management: protecting corporate assets
and reducing business risks, 1st edn., Quorum Books, New York. Hiles, A., 2002, Enterprise risk assessment and business impact analysis: Best practices,
The Rothstein, Brookfield. Sampson, K.L., 2002. Value added records management: protecting corporate assets,
reducing business risks, 2nd edn., Quorum Books, New York. References Institute of Directors in Southern Africa, 2009, King report on corporate governance
for South Africa, Sandton, South Africa. Sarens, G. & De Beelde, I., 2006, ‘Internal auditors’ perception about their role in risk
management: A comparison between US and Belgian companies’, Managerial
Auditing Journal 21(1), 63–80. http://dx.doi.org/10.1108/02686900610634766 Institute of Internal Auditors, 2009, ‘A new level of audit committee involvement’,
Tone at the Top 44, 1–3. South Africa Government Online n.d., Together we move South Africa forward, viewed
n.d., from http://www.gov.za Isa, A.M., 2009, ‘Records management and the accountability of governance’, PhD
thesis, Humanities Advanced Technology and Information Institute, University of
Glasgow, Glasgow, Scotland, viewed 15 May 2013, from http://www.theses.gla. ac.uk/1421/ Willis, A., 2005, ‘Corporate governance and management of information
and records’, Records Management Journal 15(2), 86–97. http://dx.doi. org/10.1108/09565690510614238 doi:10.4102/sajim.v16i1.615 http://www.sajim.co.za
|
https://openalex.org/W2991524326
|
https://bmcpregnancychildbirth.biomedcentral.com/track/pdf/10.1186/s12884-019-2592-0
|
English
| null |
Factors affecting uptake of ≥ 3 doses of Sulfadoxine-Pyrimethamine for malaria prevention in pregnancy in selected health facilities, Arusha region, Tanzania
|
BMC pregnancy and childbirth
| 2,019
|
cc-by
| 6,446
|
Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440
https://doi.org/10.1186/s12884-019-2592-0 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440
https://doi.org/10.1186/s12884-019-2592-0 Open Access Abstract Background: Tanzania adopted the revised World Health Organization policy in 2013 recommending a minimum
of ≥3 doses of Intermittent Preventive Treatment during pregnancy with Sulfadoxine-Pyrimethamine (IPTp-SP) to
protect against malaria. A study in Tanzania in 2014 reported low (9%) uptake. We investigated health workers
knowledge about IPTp-SP and factors that influenced uptake of > 3 doses of IPTp-SP among pregnant women. Methods: We conducted a cross-sectional study in 2017 among post-delivery women and health care workers
from nine randomly-selected public health facilities in three Districts of Arusha Region. Probability proportional to
size methodology was used to determine number of participants per facility. We used a structured questionnaire to
collect socio-demographic and obstetric data, information on doses of SP received, and knowledge of SP for IPTp. Health care workers were interviewed about their knowledge for IPTp- SP and challenges encountered in its uptake
and use. Results: We interviewed 556 persons (median age 26 years, range 16–42 years) with the response rate of 99.3%. Of
these, 484 (87.1%) had > 3 Antenatal Care (ANC) visits. A total of 402 (72.3%) were multigravida with 362 (65.1%)
having given birth at least once. Of the 556 participants, 219 (39.4%) made their first ANC booking at < 17 weeks of
pregnancy and 269 (48.4%) had received > 3 doses of SP-IPTp. Factors associated with uptake of > 3 doses of IPTp-
SP included having secondary or higher education [Adjusted Odds Ratio (AOR) =1.6, 95%CI 1.1–2.4], attending ≥4
ANC visits [AOR = 3.1, 95%CI 2.1–4.6], having first antenatal booking at < 17 weeks [AOR = 1.8, 95%CI 1.4–2.3], and
adequate knowledge on IPTp-SP [AOR = 2.7, 95%CI 1.9–3.9]. Among 36 health care workers interviewed, 29(80.6%)
had adequate knowledge about IPTp-SP. SP was available in seven (87.5%) of the visited health facilities and was
administered under Direct Observed Therapy (DOT) in six (75%) facilities. Health care workers reported that stock
outs of SP was a challenge. Conclusions: Fewer than half of the women interviewed reported uptake of > 3 doses of IPTp-SP. That is below
the Tanzania national target of 80%. Making > 4 ANC visits, having secondary or higher education, making an early
first ANC visit and having adequate knowledge on IPTp-SP promoted uptake of > 3 doses. Further qualitative
studies are needed to explore factors that might contribute to low uptake of SP. Abstract Keywords: IPTp-SP uptake, Malaria prevention, Tanzania * Correspondence: mywitness20@yahoo.com
1Mount Meru Regional Referral Hospital (MMRRH), Preventive Section, P.O. Box 3010, Arusha, Tanzania
Full list of author information is available at the end of the article Factors affecting uptake of ≥3 doses of
Sulfadoxine-Pyrimethamine for malaria
prevention in pregnancy in selected health
facilities, Arusha region, Tanzania Factors affecting uptake of ≥3 doses of
Sulfadoxine-Pyrimethamine for malaria
prevention in pregnancy in selected health
facilities, Arusha region, Tanzania Witness Mkalukwatage Mchwampaka1*
, Donath Tarimo2, Frank Chacky3, Ahmed Mohamed4
Rogath Kishimba4,5 and Angela Samwel4 Witness Mkalukwatage Mchwampaka1*
, Donath Tarimo2, Frank Chacky3, Ahmed Mohamed4,
Rogath Kishimba4,5 and Angela Samwel4 Witness Mkalukwatage Mchwampaka1*
, Donath Tarimo2, Frank Chacky3, Ahmed Mohamed4,
Rogath Kishimba4,5 and Angela Samwel4 © The Author(s). 2019 Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Study population The study population included post-delivery women res-
iding in Arusha region. We also included health care
workers providing RCH services. Exclusion criteria Any post-delivery woman in whom SP use was contrain-
dicated (known to be allergic to sulphur, or HIV-
infected and therefore using cotrimoxazole prophylaxis)
or who had impaired communications or did not con-
sent to be interviewed was excluded. Any health care
worker who had impaired communications or did not
consent to be interviewed was excluded from the study. Since the adoption of this recommendation in 2013 in
Tanzania, few studies have focused on SP uptake and
determinants of ≥3 doses of IPTp-SP. A study in
Mozambique revealed uptake of ≥3 doses of SP to be
low (43.6%) [12], while a study in Tanzania revealed
even lower uptake (9%) [10]. Facility, provider, and client
factors have been shown to be associated with uptake of
≥2 doses of SP for IPTp in Sub-Saharan Africa [13, 14]. However, it is not known if the same factors are also as-
sociated with the uptake of uptake of ≥3 doses regimen. We investigated individual, health provider, and facility
factors that influence uptake of ≥3 doses of SP for IPTp. £= Margin of error (estimated at 2.5%) Arusha region is in Northern Tanzania on the Kenyan
border, encompassing savannah and part of the Great
Rift Valley. It has a very low prevalence of malaria (<
1%) [15]. The Region had a total population of 1.7 mil-
lion in 2012, and has an area of 14,500 m2. Arusha was
selected for the study as it was among the first three re-
gions in which health care workers in different health fa-
cilities
levels
were
trained
on
the
new
policy
of
administering the minimum of three doses of IPTp-SP
during pregnancy. £= Margin of error (estimated at 2.5%) A small margin of error was used due to the low rate
of pregnant women receiving ≥3-doses of IPTp-SP. The
sample size was adjusted for non-response rate of 10%,
resulting in a total of 560 post-delivery women to be in-
cluded. In addition, a total number of 36 health care
workers were interviewed. Background City, Meru, and Monduli councils. Public facilities were
selected as they provide free delivery services, which re-
sult in most women in the region using them for
deliveries. City, Meru, and Monduli councils. Public facilities were
selected as they provide free delivery services, which re-
sult in most women in the region using them for
deliveries. Malaria infection during pregnancy is caused chiefly by
Plasmodium falciparum, the most common malaria spe-
cies in Africa [1]. Approximately fifty million women be-
come pregnant in malaria-endemic areas each year
globally, half of whom are in sub-Saharan Africa, where
malaria transmission is intense and perennial [2–4]. An
estimated 10,000 women and 200,000 of their infants die
each year as a result of malaria infection during preg-
nancy, and half of these are due to severe malarial an-
aemia in mothers and low birth weight new-borns [5]. Inclusion criteria
A
d l Recent trials in Sub-Saharan Africa, including Tanzania,
have shown that uptake of ≥3 doses of Intermittent Pre-
ventive Treatment in pregnancy with Sulfadoxine Pyri-
methamine
(IPTp-SP)
is
superior
to
the
previously
recommended ≥2 doses. IPTp-SP should be delivered at
each scheduled Antenatal Care (ANC) visit (except during
the first trimester) and doses should be given at least 1
month apart [6, 7]. The increased doses are associated with
less placenta malaria parasitaemia, higher birth weight, and
increased protection of pregnant women against malaria in-
fection [8–10]. As a result the World health Organization
(WHO) now recommends use of ≥3 doses of IPTp-SP in
the 2nd and 3rd trimesters of pregnancy [11]. Any post-delivery woman in the postnatal ward in se-
lected health facilities and had ANC card with her and
any health care worker who was providing RCH services
at RCH clinics in the selected study facilities were in-
cluded. The data were collected for the period between
April–May 2017. Sampling procedure We used a multistage sampling technique to select par-
ticipants. In the first, stage, three districts were selected
randomly from seven Districts Council of Arusha Re-
gion. In the second stage, nine public health facilities
were selected from the listed Districts, including a Dis-
trict hospital and two health centres. We purposefully Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 2 of 8 Page 2 of 8 Sample size and assumptions The sample size was obtained by using the general for-
mula for calculating sample sizes for epidemiological
studies [16]. Sample size ðnÞ ¼ Z2P ð100−PÞ
ÁE
2
Wh Sample size ðnÞ ¼ Z2P ð100−PÞ
ÁE
2
Wh Sample size ðnÞ ¼ Z2P ð100−PÞ
Á2 Sample size ðnÞ ¼ Z2P ð100−PÞ
Á2 Where n=Sample size required z= Standard normal deviation corresponding to 95%
confidence interval which (1.96) Methods
Study site P= Proportional of pregnant women who received ≥3-
doses of IPTp-SP (estimated at 9 % [10]) £= Margin of error (estimated at 2.5%) Observation checklist An observation checklist (Additional file 3: Observation
checklist tool) was used to collect information on the
presence of IPTp-SP health education materials such as
posters and leaflets or health talks provided to patients
before the start of the clinics, availability of water and
cups for administering SP as Directly Observed Therapy
(DOT), and availability of SP at the RCH clinic on the
day of visit. Proportion of post-delivery women with uptake of > 3
doses of IPTp-SP In total, 269 (48.4%) women received ≥3 doses of SP for
IPTp, 150 (27%) received 2 doses, 110 (19.7%) received one
dose, and 27 (4.9%) did not receive IPTp-SP despite attend-
ing at ANC at least twice. Of the interviewed women, 284
(51.1%) reported not receiving SP at ANC in at least one of
their routine ANC visits. Of these, 184 (65.8%) reported it
was due to unavailability of SP at the health facility. Of the
529 (95.1%) women who received at least one dose of SP, Data collection for post-delivery women Consenting post-delivery women at selected health facil-
ities who met inclusion criteria were interviewed using a
standardized structured questionnaire designed in Eng-
lish and translated into Swahili (Additional file 1: Ques-
tionnaire
for
post-delivery
women). Data
collected
included sociodemographic, individual obstetric charac-
teristics, and knowledge about IPTp-SP. A total of nine
questions were used to assess knowledge. Providing a
correct response to at least six questions was categorized
as adequate knowledge. ANC cards were used to cross-
check the gestational age (GA) attained, number of ANC
visits, timing of ANC visits, number of IPTp-SP doses
received, and GA at first ANC visit. In addition, they
were used to exclude person using cotrimoxazole for
prevention of Mother to Child Transmission (PMTCT),
or those contraindicated to SP (those who were allergic
to sulphur). Study design A health facility-based cross-sectional study was con-
ducted in nine selected Reproductive and Child Health
(RCH) clinics of public health facilities from Arusha Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Mchwampaka et al. BMC Pregnancy and Childbirth Page 3 of 8 Page 3 of 8 then translated them into Swahili language. The second
team translated the Swahili questionnaires back to Eng-
lish. The two teams sat together and reviewed the two
English versions identifying any distortion in the meaning
then revised and approved the Swahili version. Secondly,
the questionnaires, both English and Swahili versions re-
ceived expert review during ethical clearance process and
approved for data collection. Thirdly, the approved Swahili
versions of the questionnaires were pretested in the field
prior to conducting study to ensure clarity and flow of
questionnaire and revised accordingly. Lastly, during ana-
lysis, we checked correlation of results from related ques-
tions to assess consistency in the responses. included district hospitals since they serve the largest
number of ANC clients. The same criterion was used to
identify health centres to be involved in the study. In the
third stage, at the selected health facilities, convenience
sampling was used to recruit participants for interviews. For health care workers, six workers (at the hospital
level) and three health workers (at health centre level)
from RCH were selected randomly by lottery. Data analysis Data were entered, cleaned, and analysed using Epi-Info
version 3.5.1. Frequencies were used to summarize cat-
egorical variables and determine the proportion of post-
delivery women who received three or more doses of SP
for IPTp. Continuous variables were summarized by
using measure of central tendencies (mean and median)
and dispersion (range, standard deviation). The out-
come/dependent variable (uptake of > 3 doses of SP for
IPTp) was tested for association with predictors/inde-
pendent variables; statistical significance was assessed by
using the Chi-squared test, a p value of < 0.05 was set as
a level of significance. Multiple logistic regression analysis was performed to
identify the significant predictors influencing uptake of
> 3 doses of SP for IPTp while controlling for potential
confounders. All variables with p-values < 0.25 in bivari-
ate analysis were added into the multiple variable logistic
regression model. Health care workers Consenting health care workers at selected health facilities
were interviewed using a structured questionnaire designed
in English and translated in Swahili (Additional file 2: Ques-
tionnaire for health staffs) at selected health facilities. Data
collected included sociodemographic, knowledge of the
new regimen, and challenge with its administration. A total
of 12 questions were used to assess knowledge. Providing a
correct response to at least eight questions was categorized
as adequate knowledge. Background characteristics of respondents Background characteristics of respondents
Of the 560 post-delivery women targeted, 556 (99.3%)
were interviewed. Arusha City contributed 226 (40.6%). The median age of the interviewed post-delivery women
was 26 years, (range, 16–42 years). Of the 556 respon-
dents, 484 (87.1%) had made ≥3 ANC visits before deliv-
ery and 219 (39.4%) booked their first ANC visit before
17 weeks of gestation (Table 1). Demographics characteristics Demographics characteristics A total of 36 health care workers were interviewed in
nine health facilities. The mean age was 39.5 years
(range,
19–60 years),
and
35
(97.2%)
were
female
(Table 3). In total, 29 (80.6%) had adequate knowledge
of IPTp-SP. All the interviewed health workers reported
administering SP at the ANC when it is was available Table 2 Factors associated with uptake of ≥3 doses of IPTp-SP
by post-delivery women
Variable
Crude OR (95%CI) Adjusted OR (95%CI)
Age group (yrs.)
> 20
1.8 (1.15–2.89)
1.1 (0.60–1.83)
< 20
Ref
Ref
Education level
Secondary/college
1.9 (1.42–2.81)
1.6 (1.11–2.42)**
Non/primary
Ref
Ref
Occupation
Employed/self employed
1.6 (1.15–2.26)
0.9 (0.59–1.28)
Farmer/housewife
Ref
Ref
Number of ANC visit
> 4
3.5 (2.48–5.04)
3.1 (2.12–4.62) **
< 4
Ref
Ref
Gravidity
Prima gravida
1.4 (0.97–2.05)
1.2 (0.82–1.68)
Ref
Multigravida
Ref
Parity
+ 1
1.6 (1.09–2.21)
1.7 (1.22–2.68) **
0
Ref
Ref
GA at first ANC booking (wks.)
< 17
1.6 (1.15–2.29)
1.8 (1.42–2.30) **
> 17
Ref
Ref
Knowledge of P. women on IPTp-SP
Adequate
3.1 (2.17–4.33)
2.7 (1.85–3.89) **
Low
Ref
Ref
Distance (walking time) to HF
< 30 min
1.5 (1.07–2.14)
1.3 (0.88–1.89)
> 30 min
Ref
Ref
*Statistically Significant (p = < 0.05) Table 2 Factors associated with uptake of ≥3 doses of IPTp-SP
by post-delivery women 149 (28.1%) they reported that they did not swallow SP in
front of the health care providers due to; absence of clean
water or cups at the ANC clinics 74 (50%), and being hun-
gry 20 (13.4%). Others did not mention the reasons but
were given medication to take at home. 149 (28.1%) they reported that they did not swallow SP in
front of the health care providers due to; absence of clean
water or cups at the ANC clinics 74 (50%), and being hun-
gry 20 (13.4%). Others did not mention the reasons but
were given medication to take at home. < 30 min Validity of data collection tools The validity of all questionnaires was assessed through
several processes. Firstly, we used a “Back to Back” trans-
lation method where two teams were involved; the first
team formulated the questionnaires in English language Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 4 of 8 149 (28.1%) they reported that they did not swallow SP in
front of the health care providers due to; absence of clean
Table 1 Demographic characteristics of post-delivery women
Variable
Frequency (n)
Percentage (%)
Age group (years)
< 20
49
8.8
20–35
456
82
36 + yrs
51
9.2
Marital status
Married
460
82.7
Single/widow
77
13.9
Cohabiting
19
3.4
Education level
No formal education
42
7.6
Primary education
273
49.1
Secondary education
200
35.9
College/University
41
7.4
Occupation
Farmer
101
18.2
Housewife
154
27.7
Petty business/self employed
232
41.7
Employee (Private/public)
69
12.4
Number of ANC visits
< 4
243
43.7
> 4
313
Gravidity
Prima gravida
154
27.7
Multigravida
402
72.3
Parity
0
194
34.9
> 1
362
65.1
GA at first ANC visit
< 17 weeks
219
39.4
> 17 weeks
337
60.6
Knowledge about IPTp-SP
Adequate
273
49.1
Low
283
50.9
Walking time to ANC facility in (min)
< 30
342
61.5
> 30
214
38.5 Table 1 Demographic characteristics of post-delivery women
Variable
Frequency (n)
Percentage (%) doses of SP for IPTp at the multivariate level included
having secondary or higher education [Adjusted Odds Ra-
tio (AOR) = 1.6, 95%CI 1.1–2.4], having visited an ANC at
least four times [AOR = 3.1, 95%CI, 2.1–4.6], having their
first ANC visit at < 17 gestation age (GA) [AOR = 1.8,
95%CI 1.4–2.3], having adequate knowledge of IPTp-SP
[AOR = 2.7, 95%CI, 1.8–3.8], and having delivered at least
once previously [AOR = 1.7, 95%CI 1.2–2.6] (Table 2). doses of SP for IPTp at the multivariate level included
having secondary or higher education [Adjusted Odds Ra-
tio (AOR) = 1.6, 95%CI 1.1–2.4], having visited an ANC at
least four times [AOR = 3.1, 95%CI, 2.1–4.6], having their
first ANC visit at < 17 gestation age (GA) [AOR = 1.8,
95%CI 1.4–2.3], having adequate knowledge of IPTp-SP
[AOR = 2.7, 95%CI, 1.8–3.8], and having delivered at least
once previously [AOR = 1.7, 95%CI 1.2–2.6] (Table 2). Discussion Four years after adopting new recommendations nation-
wide to provide pregnant women with ≥3 doses of SP
for IPTp, actual uptake in the Arusha region of Tanzania
was low. Fewer than half of the women interviewed re-
ceived at least three doses. Independent factors that sig-
nificantly influenced uptake of ≥3 doses of IPTp-SP
included having visited the ANC four or more times,
having booked their first ANC visit < 17 weeks of gesta-
tion, having adequate knowledge on IPTp-SP, having
secondary or higher education, and having delivered at
least once previously. Despite the fact that a ≥3 dose of
SP for IPTp is superior to two doses, it is not fully uti-
lized. Challenges to administration, including stock outs,
may be partially related to the poor uptake. y
p
y
p
p
The uptake of > 3 doses of IPTp-SP in the present
study is lower (48.4%) the national target of 80%. How-
ever, it is higher than the uptake of 9% reported two
years earlier in Tanzania [10]. Unavailability of SP at the
health facility was reported in this study, has been re-
ported in several previous studies that focused on two-
dose regimens [14, 17]. Stockouts present barriers to
achieving the target and leave pregnant women unpro-
tected from malaria. Practice of DOT in this study and
other studies in Sub Saharan Africa [17] was found to be
hampered by lack of knowledge among health care
workers about the safety of SP on empty stomach as well
as lack of availability of safe water and or cups. and directing women to swallow it in front of health
care provider. Eight (88.9%) of the nine selected health facilities
underwent observation of health care workers using the
checklist. It was observed that health education regarding mal-
aria and specifically SP for IPTp was given before the
start of services. SP was available at seven (87.5%) health
facilities at the ANC; however, only three (37.5%) had
IPTp national protocols and two (25.0%) had IPTp train-
ing manuals (Table 4). Five (62.5%) health facilities had
posters of IPTp or Malaria in Pregnancy (MIP) on their
walls; however, some of these messages were in English
and more scientific. Free, clean, and safe water was ob-
served in seven (87.5%) facilities; however, DOT was ob-
served in only six (75.0%). Factors influencing uptake of > 3 doses of IPTp-SP > 30 min After adjusting for confounding variables, factors that
remained significantly associated with the uptake of ≥3 *Statistically Significant (p = < 0.05) Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 5 of 8 Table 3 Sociodemographic characteristics of Health Care
Workers (HCW)
Variable
No of Health workers n = 36
Parentage
District
Arusha City
12
33.3
Meru
12
33.3
Monduli
12
33.3
Level of Facility
Hospital
18
50
Health centre
18
50
Age in years
< 35
11
30.6
> 35
25
69.4
Sex
Female
35
97.2
Male
1
2.8
Title
Public health nurse
3
8.3
Enrolled nurse
5
13.9
Nurse assistant
6
16.7
Nurse Midwife
13
36.1
Registered nurse
9
25.0 outside. Thirty-three (91.7%) reported that their clinics
supplied clean and safe water for pregnant women to
swallow SP in front of the health care provider, and two
(8.3%) reported giving the medicine to pregnant women
to swallow at home. Discussion Forms for reporting adverse
events associated with SP were available only in four
(50.0%) of the visited health facilities. Having made a first visit to an ANC early, as recom-
mended by Tanzania Focused Antenatal Care (FANC), im-
proved uptake of ≥3 doses of SP for IPTp. This was also
observed in studies in Zimbabwe and Tanzania that focused
on two- dose regimen [5, 18]. Similarly, having visited the
ANC more than four times influenced uptake of > 3 of SP
for IPTp. These findings are consistent with other studies
conducted in Tanzania and West Africa [3, 5, 15]. This may
be due to having an increased chance of receiving repetitive
health education messages on ANC services, including the
importance of SP, as well as increased opportunities to re-
ceive any missed doses at her multiple ANC visits. Conclusion the ANC clinics during their routine visits, and nearly all
held positive perceptions of IPTp with SP for preventing
malaria during pregnancy. This shows that pregnant
women are equipped and therefore empowered with the
correct information from the health care workers, which
is in line with the FANC guidelines [21]. However, other
means of delivering health education messages regarding
IPTp should also be taken into accounts such as using
the media (radio, television), leaflets, or others methods
so that even pregnant women who were not planning to
attend ANC early can find out the importance of attend-
ing to receive SP for IPTp. The uptake of ≥3 doses of IPTp-SP in Arusha during
2017 was below the Tanzania national target of 80%
coverage. In this study, the same factors that were previ-
ously shown to influence uptake of the two-dose regi-
men were found to influence uptake of ≥3 doses of SP
for IPTp. Having made ≥4 ANC visits, having first visited
the ANC at an early gestational age, having knowledge on
IPTp-SP, having secondary or higher education, and hav-
ing delivered at least once prior to the current delivery
were significantly associated with the uptake of ≥3 or
more doses of SP for IPTp. Strategies to ensure constant
availability of SP tablet at the RCH clinics along with a
constant supply of clean water and cups at the health facil-
ities should be emphasized. The IPT programme should
ensure provision of standardized improved Information,
Education and Communication (IEC) materials that con-
tain clear and well understood information. This informa-
tion should show not only the benefit of IPT, but also the
number of doses and gestational age at which pregnant
women should take this dose. We found that health care workers were knowledgeable
about malaria prevention in pregnancy using SP. However,
this knowledge might not be transferred to pregnant
women who attend ANC clinics, as more than a half of
post-delivery women had low knowledge about IPTp-SP. This may result in challenges accepting the drug when
these pregnant women are issued SP. A study conducted
in rural Nigeria showed that, despite of the pregnant
women having heard about IPTp, 44 (40.4%) women were
afraid of taking drugs during pregnancy [22]. This study includes few limitations: the lack of
generalizability to all health facilities as the study fo-
cused on public facilities. The stated challenges of administering SP for IPTp Knowing about IPTp-SP was another independent fac-
tor associated with uptake of ≥3 doses of SP for IPTp. This was also reported in studies in Tanzania and Ghana
that focused on the two-dose regimen [19, 20]. These
suggest that if clients are knowledgeable of the import-
ance of receiving SP, they are more likely to attend ante-
natal clinic to receive it. We also found that most
women interviewed received information on IPTp from Among the 36 interviewed health workers, 25 (69.4%)
reported running out of SP at the ANC clinic at some
point during the past 3 months. Of these, 12 (48%) re-
ported that it occurred twice in the past 3 months, and
nine (36%) reported that it occurred once; the other four
(16%) could not recall. Pregnant women who missed
medication on those days were asked to go and buy SP Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 Page 6 of 8 Table 4 Observation of practice of health workers on administering SP for IPTp Table 4 Observation of practice of health workers on administering SP for IPTp
Variable
No.of facilities
Percentage (%)
Health talk given at ANC on day of visit
8
100
Health talk given that day included malaria in pregnancy
8
100
Health talk given that day included IPTp
8
100
Presence of request forms for ANC medicines including SP
3
37.5
Presence of posters of IPTp/MIP on the wall
5
62.5
Presence of ANC Report Book for daily summaries
8
100
SP given is recorded in ANC report Book for daily summaries
8
100
SP given is recorded in ANC cards of clients
8
100
SP available at ANC
7
87.5
Practice of DOT observed
6
75
Presence of Adverse Effects forms for SP
4
50
Presence of free, clean, safe water for DOT
7
87.5
Presence of safe, clean water for sale for DOT
0
0
Availability of IPTp National protocol
3
37.5
Availability of IPTp training manual
2
25 Conclusion In addition, the question-
naire required some information from during the
early stage of pregnancy that might have introduced
recall bias. The ANC card was used to verify some of
the key variables, which may have limited this type. Finally, although efforts were made to control for
confounders
at
analyses
stage,
due
to
the
cross-
section
design,
unidentified
confounders
may
still
have affected the observations. Received: 21 August 2018 Accepted: 11 November 2019 Received: 21 August 2018 Accepted: 11 November 2019 Received: 21 August 2018 Accepted: 11 November 2019 Funding
Thi
d This study was funded by Training Programs in Epidemiology and Public
Health Interventions Network (TEPHINET). The funders had no role in the
study design, data collection, analysis and interpretation of results, writing
the manuscripts or the decision to submit for publication. 11. Access O. WHO Malaria Policy Advisory Committee and Secretariat. Malaria
Policy Advisory Committee to the WHO: conclusions and recommendations
of September 2012 meeting. Malaria J. 2012;11:424. Available from: http://
www.pubmedcentral.nih.gov/articlerender.fcgi?artid=3558335&tool=
pmcentrez&rendertype=abstract . 12. Brentlinger PE, Dgedge M, Correia MAC, Rojas AJB, Saúte F, Gimbel-Sherr
KH, et al. Intermittent preventive treatment of malaria during pregnancy in
central Mozambique. Bull World Health Organ. 2007;85(11):873–9 Available
from: http://www.ncbi.nlm.nih.gov/pmc/articles/PMC2636267/. References 1. Hay SI, Guerra CA, Gething PW, Patil AP, Tatem AJ, Noor AM, et al. A world malaria
map: plasmodium falciparum endemicity in 2007. PLoS Med. 2009;6(3):286. 1. Hay SI, Guerra CA, Gething PW, Patil AP, Tatem AJ, Noor AM, et al. A world malaria
map: plasmodium falciparum endemicity in 2007. PLoS Med. 2009;6(3):286. 1. Hay SI, Guerra CA, Gething PW, Patil AP, Tatem AJ, Noor AM, et al. A world malaria
map: plasmodium falciparum endemicity in 2007. PLoS Med. 2009;6(3):286. 2. Briand V, Cottrell G, Massougbodji A, Cot M. Intermittent preventive
treatment for the prevention of malaria during pregnancy in high
transmission areas. Malar J. 2007;6:160. 2. Briand V, Cottrell G, Massougbodji A, Cot M. Intermittent preventive
treatment for the prevention of malaria during pregnancy in high
transmission areas. Malar J. 2007;6:160. 2. Briand V, Cottrell G, Massougbodji A, Cot M. Intermittent preventive
treatment for the prevention of malaria during pregnancy in high
transmission areas. Malar J. 2007;6:160. 3. Vanga-Bosson HA, Coffie PA, Kanhon S, Sloan C, Kouakou F, Eholie SP, et al. Coverage of intermittent prevention treatment with sulphadoxine-
pyrimethamine among pregnant women and congenital malaria in Côte
d’Ivoire. Malar J. 2011;10:105. 3. Vanga-Bosson HA, Coffie PA, Kanhon S, Sloan C, Kouakou F, Eholie SP, et al. Coverage of intermittent prevention treatment with sulphadoxine-
pyrimethamine among pregnant women and congenital malaria in Côte
d’Ivoire. Malar J. 2011;10:105. Author details
1 1Mount Meru Regional Referral Hospital (MMRRH), Preventive Section, P.O. Box 3010, Arusha, Tanzania. 2Muhimbili University of Health and Allied
Sciences (MUHAS), Dar es Salaam, Tanzania. 3Tanzania National Malaria
Control Programme (NMCP), Dar es Salaam, Tanzania. 4Tanzania Field
Epidemiology and Laboratory Training Programme (TFELTP), Dar es Salaam,
Tanzania. 5Ministry of Health, Community Development, Gender, Elderly and
Children (MoHCDGEC), Dar es Salaam, Tanzania. Acknowledgments These are directed to the Ministry of Health, Community Development,
Gender, Elderly and Children (MoHCDGEC), Tanzania National Malaria and
Control Programme (NMCP), the Region Administrative Secretary’ (RAS) office
of Arusha, the Regional Medical Officer (RMO) office of Arusha, the District
Medical officers of Arusha City, Meru and Monduli, the Health facilities in
charge of the visited facilities in Arusha Region, Muhimbili University of
Health and Allied Sciences (MUHAS), Tanzania Field Epidemiology and
Laboratory Training Programme (TFELTP) staff, Drs. Susan Rumisha and Julie
Harris. 4. Dellicour S, Tatem AJ, Guerra CA, Snow RW, ter Kuile FO. Quantifying the
number of pregnancies at risk of malaria in 2007: a demographic study. PLoS Med. 2010;7(1):e1000221. 5. Exavery A, Mbaruku G, Mbuyita S, Makemba A, Kinyonge IP, Kweka H. Factors affecting uptake of optimal doses of sulphadoxine-pyrimethamine
for intermittent preventive treatment of malaria in pregnancy in six districts
of Tanzania. Malar J. 2014;13(1):22 Available from: http://www.malariajournal. com/content/13/1/22. 6. The United Republic of Tanzania Ministry of Health and social welfare. National Malaria Strategic Plan 2014-2020. National Malaria Control
Programme, Dar es Salaam; 2014. The authors declare that they have no competing interests. Additional file 3. Observation checklist. This tool was used to collect
information on the presence of IPTp-SP, health education materials such
as posters and leaflets or health talks provided to patients before the start
of the clinics, availability of water and cups for administering SP as dir-
ectly observed therapy (DOT), and availability of SP at the RCH clinic on
the day of visit. Abbreviation ANC: Antenatal Care; CHMT: Council Health Management Team;
DOT: Directly Observed Therapy; FANC: Focused Antenatal Care; HCW: Health
care workers; HF: Health facility; IPT: Intermittent Preventive Treatment;
IPTp: Intermittent Preventive Treatment in pregnancy; ITN: Insecticide treated
net; MoHCDGEC: Ministry of Health, Community Development, Gender,
Elderly and Children; PMTCT: Prevention of Mother to Child Transmission;
RCH: Reproductive and child health; RCH: Reproductive and Child Health;
SP: Sulfadoxine- Pyrimethamine; TDHS: Tanzania Demographic and Health
Survey; THMIS: Tanzania HIV/Malaria Indicator Survey; WHO: World Health
Organization Authors’ contributions WMM Drafted research proposal, design study and research tools, provided
technical expertise to the study data collection, supervised data entry
processes, analysis and interpretation of findings, provided logistic and
administrative issues, contributed to the manuscript development. DT
Designed study and research tools, provided technical expertise to the study
implementation, supervised the data entry process; analysis, and
interpretation of the findings, contributed to the manuscript development;
provided scientific expertise. FC Designed study and research tools, technical
advisory the administrative issues, provided useful inputs to the manuscript. AM Reviewed study design and tools; provided technical expertise on the
analysis and manuscript development. RK provided technical expertise on
the analysis and manuscript development.AS Participated in developing
Study design, study tools and fieldwork supervision, also played an
important part in the manuscript development. All authors read and
approved the final manuscripts. 7. Tanzania Ministry of Health and Social Welfare. National Guidelines for
Diagnosis and Treatment of Malaria:Malaria control series 11. National
Malaria Control Programme, Dar es Salaam; 2006. p. 105. 8. Maiga OM, Kayentao K, Traoré BT, Djimde A, Traoré B, Traoré M, et al. Superiority of 3 over 2 doses of intermittent preventive treatment with
sulfadoxine-pyrimethamine for the prevention of malaria during pregnancy
in Mali: a randomized controlled trial. Clin Infect Dis. 2011;53(3):215–23. 8. Maiga OM, Kayentao K, Traoré BT, Djimde A, Traoré B, Traoré M, et al. Superiority of 3 over 2 doses of intermittent preventive treatment with
sulfadoxine-pyrimethamine for the prevention of malaria during pregnancy
in Mali: a randomized controlled trial. Clin Infect Dis. 2011;53(3):215–23. 9. Kayentao K, Kodio M, Newman RD, Maiga H, Doumtabe D, Ongoiba A, et al. Comparison of intermittent preventive treatment with chemoprophylaxis
for the prevention of malaria during pregnancy in Mali. J Infect Dis. 2005;
191(1):109–16. 9. Kayentao K, Kodio M, Newman RD, Maiga H, Doumtabe D, Ongoiba A, et al. Comparison of intermittent preventive treatment with chemoprophylaxis
for the prevention of malaria during pregnancy in Mali. J Infect Dis. 2005;
191(1):109–16. 10. Mpogoro FJ, Matovelo D, Dosani A, Ngallaba S, Mugono M, Mazigo HD. Uptake of intermittent preventive treatment with sulphadoxine-
pyrimethamine for malaria during pregnancy and pregnancy outcomes: a
cross-sectional study in Geita district, North-Western Tanzania. Malar J. 2014;13:
455 Available from: http://www.ncbi.nlm.nih.gov/pmc/articles/PMC4256934/. Availability of data and materials The data used and/or analysed during the current study are available from
the corresponding author on reasonable request. 13. Hill J, Hoyt J, van Eijk AM, D’Mello-Guyett L, ter Kuile FO, Steketee R, et al. Factors affecting the delivery, access, and use of interventions to prevent
malaria in pregnancy in sub-Saharan Africa: a systematic review and meta-
analysis. PLoS Med. 2013;10(7):e1001488. 13. Hill J, Hoyt J, van Eijk AM, D’Mello-Guyett L, ter Kuile FO, Steketee R, et al. Factors affecting the delivery, access, and use of interventions to prevent
malaria in pregnancy in sub-Saharan Africa: a systematic review and meta-
analysis. PLoS Med. 2013;10(7):e1001488. Supplementary information
f Supplementary information
f Supplementary information
Supplementary information accompanies this paper at https://doi.org/10. 1186/s12884-019-2592-0. Supplementary information
Supplementary information accompanies this paper at https://doi.org/10. 1186/s12884-019-2592-0. Additional file 1 Questionnaire for post-delivery women. The tool used
to interview the post-delivery woman to assess factors affecting uptake
of > 3 doses of Sulfadoxine Pyrimethamine for Malaria prevention in
Arusha. Additional file 2. Questionnaire for health facility staffs. This tool was
used to collect information from health workers working in the
department of Obstetrics and Gynaecology on their demographic
characteristics, knowledge on the new regime of administering the Page 7 of 8 Page 7 of 8 Page 7 of 8 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 (2019) 19:440 Competing interests minimum of three doses during pregnancy and challenges associated
with administering IPT-SP. minimum of three doses during pregnancy and challenges associated
with administering IPT-SP. minimum of three doses during pregnancy and challenges associated
with administering IPT-SP. p
g
The authors declare that they have no competing interests. Ethics approval and consent to participate
E h
l l
d
l
d
h Ethical clearance and approval to conduct this study was granted by
National Institute for Medical Research (NIMR) of Tanzania before conducting
the study with reference no of NIMR/HQ/R.8a/vol.IX/2435.Consent for
voluntary participation was sought from each participant signing the
informed consent form after the study been explained to them. 14. Anders K, Marchant T, Chambo P, Mapunda P, Reyburn H. Timing of
intermittent preventive treatment for malaria during pregnancy and the
implications of current policy on early uptake in north-East Tanzania. Malar
J. 2008;7:79. 14. Anders K, Marchant T, Chambo P, Mapunda P, Reyburn H. Timing of
intermittent preventive treatment for malaria during pregnancy and the
implications of current policy on early uptake in north-East Tanzania. Malar
J. 2008;7:79. Consent for publication
Not applicable. Consent for publication
Not applicable. Knowledge and utilization of intermittent
preventive treatment for malaria among pregnant women attending antenatal
clinics in primary health care centers in rural southwest, Nigeria: a cross-
sectional study. BMC Pregnancy Childbirth. 2009;9(1):28 Available from: http://
bmcpregnancychildbirth.biomedcentral.com/articles/10.1186/1471-2393-9-28. Consent for publication
Not applicable. Consent for publication
Not applicable. 15. Tanzania Commission for AIDS (TACAIDS), Zanzibar AIDS Commission (ZAC)
NB of S, (NBS), Office of the Chief Government Statistician (OCGS), and ICF 15. Tanzania Commission for AIDS (TACAIDS), Zanzibar AIDS Commission (ZAC)
NB of S, (NBS), Office of the Chief Government Statistician (OCGS), and ICF Page 8 of 8 Mchwampaka et al. BMC Pregnancy and Childbirth (2019) 19:440 International. Survey I. Tanzania HIV/AIDS and Malaria Indicator Survey
2011–12: Key Findings. Dar es Salaam. Tanzania: TACAIDS, ZAC, NBS, OCGS,
and ICF International; 2013. International. Survey I. Tanzania HIV/AIDS and Malaria Indicator Survey
2011–12: Key Findings. Dar es Salaam. Tanzania: TACAIDS, ZAC, NBS, OCGS,
and ICF International; 2013. 16. Lemeshow S, Hosmer DW, Klar J, Lwanga SK, World Health Organization. Adequacy of sample size in health studies. 1990. 16. Lemeshow S, Hosmer DW, Klar J, Lwanga SK, Wor
Adequacy of sample size in health studies. 1990. 16. Lemeshow S, Hosmer DW, Klar J, Lwanga SK, World Health Organization. Adequacy of sample size in health studies. 1990. 17. Tarimo DS. Appraisal on the prevalence of malaria and anaemia in
pregnancy and factors influencing uptake of intermittent preventive
therapy with sulfadoxine-pyrimethamine in Kibaha district. Tanzania: East
African Public Health Association; 2007. 17. Tarimo DS. Appraisal on the prevalence of malaria and anaemia in
pregnancy and factors influencing uptake of intermittent preventive
therapy with sulfadoxine-pyrimethamine in Kibaha district. Tanzania: East
African Public Health Association; 2007. 18. Aaron E, Alvare T, Gracely EJ, Riviello R, Althoff A. Predictors of Linkage to
Care for Newly Diagnosed HIV-Positive Adults. West J Emerg Med. 2015;
16(4):535–42 [cited 2016 Sep 30]. Available from: http://www. pubmedcentral.nih.gov/articlerender.fcgi?artid=4530911&tool=
pmcentrez&rendertype=abstract. 19. Jeremiah M.Ngondi, Deus S.Ishengoma etal; Surveillance for sulfadoxine-
pyrimethamine resistant malaria parasites in the Lake and Southern Zones,
Tanzania, using pooling and next general sequencing. Malaria Journal 16,
Article number: 236 (2017). 20. Antwi GD. Factors influencing the uptake of intermittent preventive
treatment of malaria in pregnancy in Bosomtwe district of Ghana. Kumasi:
Nkrumah University of Science and Technology; 2010. 21. The United Republic of Tanzania Ministry of Health and Social Welfare. Focused Antenatal Care malaria and syphilis in pregnancy Learner ’ s Guide
for ANC Service Providers and supervisors. Ministry of Health Social
Welfare,Dar es Salaam; 2009. p. 85. 22. Akinleye SO, Falade CO, Ajayi IO. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations.
|
https://openalex.org/W2127081959
|
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0005773&type=printable
|
English
| null |
Emergence of a Code in the Polymerization of Amino Acids along RNA Templates
|
PloS one
| 2,009
|
cc-by
| 6,924
|
Abstract The origin of the genetic code in the context of an RNA world is a major problem in the field of biophysical chemistry. In this
paper, we describe how the polymerization of amino acids along RNA templates can be affected by the properties of both
molecules. Considering a system without enzymes, in which the tRNAs (the translation adaptors) are not loaded selectively
with amino acids, we show that an elementary translation governed by a Michaelis-Menten type of kinetics can follow
different polymerization regimes: random polymerization, homopolymerization and coded polymerization. The regime
under which the system is running is set by the relative concentrations of the amino acids and the kinetic constants
involved. We point out that the coding regime can naturally occur under prebiotic conditions. It generates partially coded
proteins through a mechanism which is remarkably robust against non-specific interactions (mismatches) between the
adaptors and the RNA template. Features of the genetic code support the existence of this early translation system. Editor: Jo¨rg Langowski, German Cancer Research Center, Germany Received March 10, 2009; Accepted May 5, 2009; Published June 3, 2009 Copyright: 2009 Lehmann et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: The authors have no support or funding to report. Competing Interests: The authors have declared that no competing interests exist. * E-mail: jlehmann@rockefeller.edu Based on an earlier investigation [5], the present analysis shows
that the translation process itself can contribute to the establish-
ment of coding rules. Consider an elementary translation system
constituted by RNA templates made up of two types of codons {I,
II}, tRNAs with anticodons complementary to these codons, and
two types of amino acids {1, 2}. Suppose that the tRNAs are not
selectively loaded with amino acids (i.e. the rates of loading only
depend on the relative concentrations of the amino acids). Our
analysis shows that it is possible to observe a coded polymerization. We calculate the probability of codon I being translated by amino
acid 1 and the probability of codon II being translated by amino
acid 2, the coding regime occurring when both probabilities are
simultaneously higher than 0.5. Jean Lehmann1*, Michel Cibils2, Albert Libchaber1 ology, The Rockefeller University, New York, New York, United States of America, 2 Section de Mathe´matiques, Ecole Polytechnique
tzerland 1 Center for Studies in Physics and Biology, The Rockefeller University, New York, New York, United States of America, 2 Section de
Fe´de´rale de Lausanne, Lausanne, Switzerland 1 Center for Studies in Physics and Biology, The Rockefeller University, New York, New York, United States of America, 2 Section de Mathe´matiques, Ecole Polytechnique
Fe´de´rale de Lausanne, Lausanne, Switzerland Abstract These probabilities are functions of
the anticodon-codon association and dissociation rate constants,
the amino acids concentrations and their respective kinetic
constants of peptide bond formation. One general configuration
allows a coding regime to occur: the amino acid with the slow
kinetics (i.e. the ‘‘slow’’ amino acid) is more concentrated in
solution than the ‘‘fast’’ amino acid. Given two appropriate
codons, the competition
for the translation of the codon
dissociating quickly from its cognate tRNA (i.e. the ‘‘weak’’
codon) is won by the fast amino acid. As for the ‘‘strong’’ codon,
for which the amino acid kinetics are equal or higher than the
anticodon-codon dissociation rate constant, the higher concentra-
tion of the slow amino acid makes it a better competitor in that
case. Although other types of polymerization are possible, we show
that this coding regime is favored under prebiotic conditions. It is
furthermore remarkably robust against anticodon-codon mis-
matches. We conclude our analysis by showing that this model
can naturally be implemented by a system of four codons and four
amino acids thought to be a plausible original genetic code. PLoS ONE | www.plosone.org Emergence of a Code in the Polymerization of Amino
Acids along RNA Templates Jean Lehmann1*, Michel Cibils2, Albert Libchaber1 Polymerization and Coding Polymerization and Coding loading as efficiently two types of amino acids {1, 2} onto their 39
ends. The rates of aminoacylation will thus simply follow the
relative concentrations of these amino acids in solution, [aa1] and
[aa2]. These tRNAs are involved in the translation of an RNA
template made up of two types of codons {I, II} complementary
to these anticodons. Translation is governed by a Michaelis-
Menten type of kinetics: the first step is characterized by
anticodon-codon association rate constants (k+) and dissociation
rate constants (k2), and the second (irreversible) catalytic step is
characterized by a kinetic constant kcat depending on the amino
acids [Fig. 1(b)]. loading as efficiently two types of amino acids {1, 2} onto their 39
ends. The rates of aminoacylation will thus simply follow the
relative concentrations of these amino acids in solution, [aa1] and
[aa2]. These tRNAs are involved in the translation of an RNA
template made up of two types of codons {I, II} complementary
to these anticodons. Translation is governed by a Michaelis-
Menten type of kinetics: the first step is characterized by
anticodon-codon association rate constants (k+) and dissociation
rate constants (k2), and the second (irreversible) catalytic step is
characterized by a kinetic constant kcat depending on the amino
acids [Fig. 1(b)]. Results
Model
L t
id
t
ll RNA
t
l
(h
ft
ll d
Figure 1. Model of the elementary translation system. (a)
Synthetase with cognate tRNA (structure 1ZJW from Protein Data Bank). (b) Kinetic scheme of the elementary translation process. Two types of
tRNAs (complementary to two template codons) are unselectively loaded
with two types of amino acids (the rates of loading are only concentration-
dependent). The grey rugby ball is a stabilizing cofactor (see text for
explanations). (c) Characteristic regimes of the polymerization process. doi:10.1371/journal.pone.0005773.g001 It is assumed that the association rate constants k+ of all
anticodon-codon couples are alike. This situation is expected since
it already occurs in the context of anticodon-anticodon interac-
tions [6], which is similar. In a first approximation, only
complementary matchings are considered. We therefore have
k+ = constante, k2(I) for codon I and k2(II) for codon II. As for the
kinetics of peptide bond formation (kcat), an earlier work showed
that this variable may strongly depend on the side-chains of the
amino acids [5]. Accordingly, two constants (kcat(1) and kcat(2)) are
defined. Polymerization and Coding The model includes a ribosome-like cofactor capable of
stabilizing the tRNA carrying the nascent protein on the template
[Fig. 1(b)]. Although our analysis may not clarify the molecular
origin of this cofactor, two of its properties can be specified, which
are required to validate our conclusions: 1)
The cofactor does not have a catalytic site for peptide bond
formation which could minimize the side-chain effect
mentioned above. Modern ribosomes have a catalytic site,
the peptidyl-transferase center [7]. It is still not clear to us
how this specialized part of the ribosome manages the
different side-chains, although the problem has already been
considered [8]. 2)
The cofactor does not have a decoding center. This evolved
structure on the small subunit of modern ribosomes allows for
an increase in the fidelity of anticodon-codon recognition [9]. This structure is inconsistent with the simplicity of the kinetic
scheme described here [Fig. 1(b)]. Our model is therefore in
agreement with the hypothesis that the original ribosome was
only made up of the large subunit [10]. Overall, the cofactor considered here is a priori simple since it
does not have specialized parts. Avoiding a break in the continuity
of the evolutionary process implies that it was already made up of
RNA. Considering now the dynamic of the translation process, it is
assumed for simplicity that the relative concentrations of the
aminoacyl-tRNAs remain constant over time. This can be
guaranteed by the reversibility of the aminoacylation process [1],
which will prevent the accumulation of aminoacyl-tRNAs unfit for
translation. Figure 1. Model of the elementary translation system. (a) Figure 1. Model of the elementary translation system. (a)
Synthetase with cognate tRNA (structure 1ZJW from Protein Data Bank). (b) Kinetic scheme of the elementary translation process. Two types of
tRNAs (complementary to two template codons) are unselectively loaded
with two types of amino acids (the rates of loading are only concentration-
dependent). The grey rugby ball is a stabilizing cofactor (see text for
explanations). (c) Characteristic regimes of the polymerization process. doi:10.1371/journal.pone.0005773.g001 With the above hypotheses, let us define the probability p 1 Ij
ð
Þ
of codon I being translated by amino acid 1: Synthetase with cognate tRNA (structure 1ZJW from Protein Data Bank). (b) Kinetic scheme of the elementary translation process. Two types of
tRNAs (complementary to two template codons) are unselectively loaded
with two types of amino acids (the rates of loading are only concentration-
dependent). Polymerization and Coding The grey rugby ball is a stabilizing cofactor (see text for
explanations). (c) Characteristic regimes of the polymerization process. doi:10.1371/journal.pone.0005773.g001 p 1 Ij
ð
Þ~ aa1
½
kcat 1
ð Þ
k{ Ið Þzkcat 1
ð Þ
aa1
½
kcat 1
ð Þ
k{ Ið Þzkcat 1
ð Þ
z aa2
½
kcat 2
ð Þ
k{ Ið Þzkcat 2
ð Þ
:
ð1Þ ð1Þ Introduction A major issue about the origin of the genetic system is to
understand how coding rules were generated before the appear-
ance of a family of coded enzymes, the aminoacyl-tRNA
synthetases. Each of these ,20 different enzymes has a binding
pocket specific for one of the 20 encoded amino acids, and also
displays an affinity for a particular tRNA, the adaptor for
translation [Fig. 1(a)]. These adaptors are characterized by their
anticodons, a triplet of base located on a loop. The synthetases
establish the code by attaching specific amino acids onto the 39
ends of their corresponding tRNAs, a two-step process called
aminoacylation [1]. The first step (activation) involves an ATP,
and leads to the formation of a highly reactive intermediate, aa–
AMP (aa = amino acid). The second step consists of the transfer of
the amino acid from AMP onto the 39 end of the tRNA. Those
tRNAs can subsequently participate in the translation of RNA
templates, during which codons about to be translated are tested
by the anticodons of incoming tRNAs. When anticodon-codon
complementarity occurs, an amino acid is added onto the nascent
protein through the formation of a new peptide bond [2]. How could a translation system operate in the absence of the
synthetases? Recent works have shown that particular RNA stem-
loops of ,25 bases can self-catalyze the covalent binding of amino
acids onto their own 39 ends [3,4]. These RNAs however require
aa–AMP as a substrate because they cannot manage the activation
step in their present form. In addition, they show little specificity
for the amino acids, raising the question of how a code could be
generated by them. Some answers will likely be provided by the
activation step if possible to implement on these small RNAs. This
issue is not examined in the present paper. 1 June 2009 | Volume 4 | Issue 6 | e5773 PLoS ONE | www.plosone.org PLoS ONE | www.plosone.org Model One can similarly write p 2 Ij
ð
Þ, and verify that the normalization
condition p 1 Ij
ð
Þzp 2 Ij
ð
Þ~1 is satisfied. It is convenient for the
analysis to relate the different kinetic constants and concentrations Let us consider two small RNA stem-loops (hereafter called
tRNAs) characterized by their anticodons and both capable of 2 Polymerization and Coding Figure 2. Relative abundance of primitive amino acids. Relative
abundance of the 10 most frequent amino acids of the genetic code
synthesized in an experiment thought to reproduce the conditions of the
prebiotic Earth. Graph established from the data of Table 3 in ref. [11]. doi:10.1371/journal.pone.0005773.g002 with ratios. We denote p 1 Ij
ð
Þ~
abz1
d abza
ð
Þzabz1 :
ð2Þ Similarly, the probability of codon II being translated by amino
acid 2 is p 2 II
j
ð
Þ~
d abcza
ð
Þ
d abcza
ð
Þzabcz1 :
ð3Þ ð3Þ Figure 2. Relative abundance of primitive amino acids. Relative
abundance of the 10 most frequent amino acids of the genetic code
synthesized in an experiment thought to reproduce the conditions of the
prebiotic Earth. Graph established from the data of Table 3 in ref. [11]. doi:10.1371/journal.pone.0005773.g002 Typical configurations of (2) and (3) are shown in Fig 1(c), which
groups together the main possible outcomes of the polymerization
process: random polymerization, homopolymerization, and coding
regime. We are particularly interested in the case when this system
displays some homogenous coding properties S, defined as formation (kcat)? Studies of intramolecular reactions [12–14] show
that the size of the group(s) of atoms bound to the carbon in
position 1 or 2 after a nucleophile is usually very critical for a
reaction rate. When hydrogens are substituted with a dimethyl, the
relative reaction rate (krel) may not appreciably change, although
the result depends on the system and the position of the
substitution [14]. When these substitutions involve bulkier groups
(such as diethyl groups), a sudden jump of at least two orders of
magnitude of krel is typically observed (Fig. 3). Bulky substituents
restrict rotation around bonds, which contributes to the localiza-
tion of the nucleophile (entropic effect) [13]. These data suggest
that glycine and alanine may be characterized by similar kcat, but
that a much higher kcat is expected for aspartic acid and valine
(Fig. 4). Model Restricting our analysis to the four most abundant amino
acids, the above considerations show that two categories may be
established: {Ala, Gly} and {Val, Asp}. Each of these categories
comprises amino acids that are similar with respect to kcat and
concentration. This degeneracy is examined further below. If we
assume (as suggested by the above data) that these two categories
are related by a,100 and d,0.1, we can conclude that condition
(5) may be fulfilled in some primitive environment. S~p 1 Ij
ð
Þ~p 2 II
j
ð
Þw1=2:
ð4Þ ð4Þ It can be shown that there is only one solution to the coding
problem (i.e. p 2 Ij
ð
Þ~p 1 II
j
ð
Þw1=2 cannot occur). A few general statements can be made about relation (4). With
a, b, c, d.0 to be physically meaningful, the coding regime S
cannot be observed if the amino acids are characterized by
identical
kcat
(a = 1)
or
if
they
are
at
the
same
relative
concentrations (d = 1). In both cases, the only possibility is
p 1 Ij
ð
Þ~p 2 II
j
ð
Þ~0:5 and a = d = 1. If both codons I and II display
identical k2 (c = 1), we also get p 1 Ij
ð
Þ~p 2 II
j
ð
Þ~0:5, and
d~ abz1
ð
Þ=a bz1
ð
Þ. Amino acid requirements for the coding regime An examination of expressions (2) and (3) when b varies within
the interval ]0, ‘[shows that the coding regime (4) can be satisfied
only if c,1 and 1wdw1=a:
ð5Þ ð5Þ PLoS ONE | www.plosone.org An elementary form of the genetic code The above analysis shows that S,0.8 is achieved with the two
categories {Ala, Gly} and {Val, Asp} when c = 1022. Since any
two codons of the existing genetic code can be characterized by c
values much closer to 1 (implying a random polymerization), it can
be concluded that an initial coding system with already 64 codons
and 20 amino acid could not work. For several reasons, it has been
proposed that the original set of anticodons and codons was
limited to
59GNC39, where N is U, C, G or A [18–20]. Remarkably, these four codons encode the above four amino
acids, the two categories {Ala, Gly} and {Val, Asp} being
associated resp. with {GCC, GGC} and {GUC, GAC}. Both
codons in each category display identical anticodon-codon DG0
estimates,
and
the
DDG0
between
the
two
categories
is
,1.9 kcal mol21 [5], implying a c value of ,0.045. Fig. 5(b) shows the level of coding S as a function of c with
a = 102 and d = 1021. In this configuration, the maximal value that
S can theoretically reach (cR0) is da/(da+1)<0.91. The plot shows
that S is sensitive to small variations of c within the region 1–0.01
(i.e. ac$1), where it rapidly increases as c decreases. As for the
‘‘GNC system’’ (c = 0.045), S reaches a value as high as 0.77. Below 0.01, c rapidly falls to 0 as S tends to its maximal value. Figure 3. Effect of the local environment on a reaction rate. Relative reaction rates (krel) of a bimolecular reaction and some
corresponding intramolecular reactions. In the intramolecular systems,
the nucleophilic attack (indicated by a small arrow in compound I) leads
to the cyclization of the compounds. Adapted from ref. [12]. doi:10.1371/journal.pone.0005773.g003 The above analysis still leaves this coding system of four amino
acids and four codons with an issue of degeneracy. Considering for
instance {Val, Asp} and {GUC, GAC}, one should ask whether a
mechanism could specifically assign Val to GUC and Asp to GAC,
as it occurs in the modern genetic code. It can be noticed that in
each of the two amino acids categories, one amino acid is
hydrophobic (Val, Ala) while the other one is hydrophilic (Asp,
Gly). This suggests the possibility of a discrimination during the
loading of the amino acids on the tRNAs. Codons for the coding regime Let us now examine how well any two codons (related by
c = k2(I)/k2(II)) can satisfy relation (4). To a low value of c
corresponds a high value of S (see below). The DG0 values of all
complementary anticodon-codon interactions of the genetic code
span approximately from 22 to 26 kcal mol21 at T = 310 K [5]. These estimates refer to crude anticodon-codon interactions: they
do neither include additional DG0 contributions occurring within
modern ribosomes [9], nor the effect of tRNA anticodon loop
refinement taking place in the present-day genetic system [15–16]. With Keq = k+/k2 = exp(2DG0/RT), and with k+ = constant (see
above), the lowest value of c lies somewhere between 1022 and 1023. Condition (5) signifies that the amino acid with the highest kcat must be
less concentrated in solution than the other amino acid. This relative
concentration must still be higher than 1/a. To check whether condition (5) could be reasonably fulfilled at
the origin of Life, let us consider some results of the well-known
prebiotic synthesis experiments conducted by Miller [11], which
revealed what amino acids of the genetic code are the easiest to be
generated. The histogram of Fig. 2 shows that glycine and alanine
display a similar abundance, and are about one order of
magnitude more frequent than the next two amino acids, aspartic
acid and valine. Considering now the chemical step, how may
each of these amino acids affect the probability of peptide bond A particular solution of S is obtained when ac = 1 which is
physically relevant: for a given a, S increases relatively rapidly as c PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 3 Polymerization and Coding Figure 3. Effect of the local environment on a reaction rate. Relative reaction rates (krel) of a bimolecular reaction and some
corresponding intramolecular reactions. In the intramolecular systems,
the nucleophilic attack (indicated by a small arrow in compound I) leads
to the cyclization of the compounds. Adapted from ref. [12]. doi:10.1371/journal.pone.0005773.g003 the coding regime is only marginally affected by them (see below),
demonstrating the robustness of this coding system. the coding regime is only marginally affected by them (see below),
demonstrating the robustness of this coding system. Connecting amino acids with codons The b parameter makes a connection between two kinetic
constants of different origins: kcat(1) is determined by an amino acid
(bound to an RNA) while k2(I) is determined by RNA. Among the
two constants, only k2(I) could be tuned by the translation machinery,
through the selection of the tRNA anticodon loop. Anticodons of two
bases (if structurally possible) are expected to have a high k2(I) because
of the low anticodon-codon DG0 and the importance of thermal
fluctuations, while the opposite trend is anticipated for larger
anticodons. An examination of Fig. 5(a) from low to high values of
b reveals that a coding regime occurs at b,1, in the transition
between two types of homopolymerization. Below b =1, the outcome
of polymerization is controlled by kcat; above this value, it is controlled
by the relative concentrations. The transition region is sensitive to
small differences in kinetic constants precisely because kcat(1)<k2(I). The existence of a correlation in the genetic code reflecting a
dependence between these two kinetic constants (Fig. 3 in ref. [5])
supports our analysis, and allows us to connects b,1 with 3-nt
anticodons, this size being structurally associated with 7-nt loops [17]. An elementary form of the genetic code This loading indeed
necessarily implies an intermolecular association, which is usually
strongly conditioned by that type of property [21]. The first two
chemical steps (activation and aminoacylation) may thus contrib-
ute to a reduction of the mentioned degeneracy, a property which
has been suggested earlier [5]. decreases between 1 and 1/a [see Fig. 5(a–b)]. The turning point
c = 1/a sets up the maximal value of the ‘‘easy gains’’ for S, i.e. gains which do not require an unrealistic DDG0 value between the
two codons. When c,1/a, S increases less and less, until it reaches
a maximal value. Furthermore, a simplification in the algebraic
treatment of relation (4) occurring when ac = 1 (implying b = kcat(1)/
k2(I) = kcat(2)/k2(II))
allows
us
to
determine
that
S ac~1
ð
Þ~d az1
ð
Þ
ad2zd az1
ð
Þz1
has a maximum with
respect
to
d
when
d~a{1=2. Since
b ac~1
ð
Þ~ 1{a2d2
a d2{1
, this maximum is also characterized by b = 1. This
result shows that the above estimates of a and d are well
compatible with a polymerization process in a coding regime. Taking these values (a = 102; d = 1021) together with c = 1022, one
gets S~101=121&0:835. decreases between 1 and 1/a [see Fig. 5(a–b)]. The turning point
c = 1/a sets up the maximal value of the ‘‘easy gains’’ for S, i.e. gains which do not require an unrealistic DDG0 value between the
two codons. When c,1/a, S increases less and less, until it reaches
a maximal value. Furthermore, a simplification in the algebraic
treatment of relation (4) occurring when ac = 1 (implying b = kcat(1)/
k2(I) = kcat(2)/k2(II))
allows
us
to
determine
that
S ac~1
ð
Þ~d az1
ð
Þ
ad2zd az1
ð
Þz1
has a maximum with
respect
to
d
when
d~a{1=2. Since
b ac~1
ð
Þ~ 1{a2d2
a d2{1
, this maximum is also characterized by b = 1. This
result shows that the above estimates of a and d are well
compatible with a polymerization process in a coding regime. Taking these values (a = 102; d = 1021) together with c = 1022, one
gets S~101=121&0:835. PLoS ONE | www.plosone.org Perturbation of the coding regime by mismatches p 1 Ij
ð
Þ~
b
1zb z
bce
1zbce
b
1zb z
bce
1zbce z abd
1zab z abcde
1zabce
ð20Þ ð20Þ Similarly, one gets for p 2 II
j
ð
Þ: Similarly, one gets for p 2 II
j
ð
Þ: p 2 II
j
ð
Þ~
abcd
1zabc z abcde
1zabce
abcd
1zabc z abcde
1zabce z
bc
1zbc z
bce
1zbce
ð30Þ In addition to a, b, c, and d previously defined, let us define an
additional parameter: e = k2(II)/k2(mm). Let us now rewrite p 1 Ij
ð
Þ
while including the additional terms due to mismatches: ð30Þ p 1 Ij
ð
Þ~
tRNA Ið Þaa1
kcat 1
ð Þ
k{ Ið Þzkcat 1
ð Þ
z
tRNA II
ð Þaa1
kcat 1
ð Þ
k{ mm
ð
Þzkcat 1
ð Þ
1
a
a~
tRNA Ið Þaa1
kcat 1
ð Þ
k{ Ið Þzkcat 1
ð Þ
z
tRNA II
ð Þaa1
kcat 1
ð Þ
k{ mm
ð
Þzkcat 1
ð Þ
z tRNA Ið Þaa2
kcat 2
ð Þ
k{ Ið Þzkcat 2
ð Þ
z tRNA II
ð Þaa2
kcat 2
ð Þ
k{ mm
ð
Þzkcat 2
ð Þ
ð10Þ It can be verified that when e = 0 (i.e. the dissociation rate
constant of the mismatches has a very large value), one gets the
initial relations (2) and (3). Since relations (2’) and (3’) cannot be further simplified, it is not
straightforward to analyze S* with the new expressions p 1 Ij
ð
Þ
and p 2 II
j
ð
Þ. However, S* can be numerically examined, and it
turns out that the results are rather similar to those for S as long as
e#1. ð10Þ Fig. 6 is similar to Fig. 5(a), but it includes de perturbation
introduced by e. It can be seen that even when k2(mm) = k2(II) (i.e. e = 1), S* is not dramatically different from S, and when
k2(mm) = 10 k2(II) (i.e. e = 0.1), the effect of mismatches on S*
becomes totally negligible. Perturbation of the coding regime by mismatches Fig. 5(a) shows p 1 Ij
ð
Þ and p 2 II
j
ð
Þ as a function of b for three
characteristic values of d, which allows to graphically check our
results with the above numerical values. Remarkably, more
realistic calculations including the effect of mismatches show that This Section discusses briefly the issue of mismatches. Let us
consider the possibility that codon I is ‘‘read’’ by tRNA II and
codon II is ‘‘read’’ by tRNA I. In Fig. 1(b), this implies that a red PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 4 Polymerization and Coding Figure 4. Amino acids side-chains and kinetics of peptide bond formation. Elementary translation and expected effect of the side-chains of
alanine, glycine, aspartic acid and valine on the kinetics of peptide bond formation (kcat) (discussed in the text). doi:10.1371/journal.pone.0005773.g004 Figure 4. Amino acids side-chains and kinetics of peptide bond formation. Elementary translation and expected effect of the side-chains of
alanine, glycine, aspartic acid and valine on the kinetics of peptide bond formation (kcat) (discussed in the text). doi:10.1371/journal.pone.0005773.g004 Figure 4. Amino acids side-chains and kinetics of peptide bond formation. Elementary translation and expected effect of the side-chains of
alanine, glycine, aspartic acid and valine on the kinetics of peptide bond formation (kcat) (discussed in the text). doi:10.1371/journal.pone.0005773.g004 Rewriting expression (1’) with the parameters a, b, c, d, e, one gets Rewriting expression (1’) with the parameters a, b, c, d, e, one gets anticodon may also bind a blue codon and vice-versa. These
interactions are called ‘‘mismatches’’. Let us assume that the association rate constant (k+) of these
mismatches is identical to the one of complementary anticodon-
codon interactions. The corresponding dissociation rate constant
(k2(mm)) will usually be much higher than k2(II) (the highest of the
two dissociation rate constants of complementary interactions). Experimental data about the G?U ‘‘wobble’’ base-pair however
suggest that these two constants could also be similar [22]. Perturbation of the coding regime by mismatches Another way to examine the effect of
the perturbation is to keep b set to 1 (with ac = 1), and establish the
difference p 1 Ij
ð
Þ {p 2 II
j
ð
Þ
j
j (Table 1). Let us consider a system in which [tRNA(I)] = [tRNA(II)] (i.e. the
number of copies of the two tRNAs are identical). Following the
hypothesis about the (non-selective) self-aminoacylation process
described above, one has, therefore, tRNA II
ð Þaa1
tRNA II
ð Þaa2
~ tRNA Ið Þaa1
tRNA Ið Þaa2
~ aa1
½
aa2
½
~ 1
d Discussion (b) Level of coding S as
a function of c when a = 102 and d = 1021. Three significant values of S are indicated. The inset shows a plot similar to (a) for three particular values of
c (reported from the main graph). doi:10 1371/journal pone 0005773 g005 which occurs at b = 1. When d = 0.01, either random polymerization (b%1) or homopolymerization of aa1 (b.1) are observed. (b) Level of coding S as
a function of c when a = 102 and d = 1021. Three significant values of S are indicated. The inset shows a plot similar to (a) for three particular values of
c (reported from the main graph). doi:10 1371/journal pone 0005773 g005 The present analysis shows that behind (the origin of) the code
lies a problem of polymerization catalysis: how could different
types of monomers (the amino acids) be involved in a same
polymerization process? Whatever the exact operating mecha-
nism(s), a single (or uniform) catalyst usually favors only one
particular substrate. The four nucleotides A, G, C and U of RNA
can generate conditions for the polymerization of different amino
acids. In
the
elementary
translation
described
here,
these features of the aminoacyl-tRNA synthetases [26] and the tRNAs
[27,28]. For instance, the mechanisms of aminoacylation as well as
identity elements on the tRNAs are specific to certain groups of
codons. Although these facts are fundamental, and have inspired
scenarios for the evolution and the expansion of the code [26–28],
evolutionary considerations may not, in essence, provide an
answer to the origin of the code (since it is a prerequisite for
biological evolution). features of the aminoacyl-tRNA synthetases [26] and the tRNAs
[27,28]. For instance, the mechanisms of aminoacylation as well as
identity elements on the tRNAs are specific to certain groups of
codons. Although these facts are fundamental, and have inspired
scenarios for the evolution and the expansion of the code [26–28],
evolutionary considerations may not, in essence, provide an
answer to the origin of the code (since it is a prerequisite for
biological evolution). Figure 6. Effect of mismatches on the polymerization process. Probabilities p(1|I)* and p(2|II)* as a function of b for five values of e#1 (a = 102;
b = 1; c = 1022; d = 0.1). Discussion Although the molecular organization of genetic code is now
known in detail, there is still no agreement on the reason(s) for
which it has emerged. Early studies have shown that the codon
table is highly structured with respect to amino acids hydropho-
bicity properties, suggesting that basic physico-chemical consider-
ations could contain the solution to this problem [21,23–25]. More
recent works have shown that this table is ordered with respect to and tRNA Ið Þaa1
~ tRNA II
ð Þaa1
,
tRNA Ið Þaa2
~ tRNA II
ð Þaa2
: PLoS ONE | www.plosone.org PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 June 2009 | Volume 4 | Issue 6 | e5773 5 Polymerization and Coding Figure 5. Regimes of the polymerization process. (a) Effect of the value of the ratio kcat(1)/k2(I) on the polymerization process: p(1|I) and p(2
as a function of b for three significant values of d when a = 102 and c = 1022. When d = 1, either homopolymerization of aa2 (b,1), or rando
polymerization (b&1) are observed. When d = 0.1, a coding regime S = 0.835 is observed at the transition between two types of homopolymerizatio Figure 5. Regimes of the polymerization process. (a) Effect of the value of the ratio kcat(1)/k2(I) on the polymerization process: p(1|I) and p(2|II)
as a function of b for three significant values of d when a = 102 and c = 1022. When d = 1, either homopolymerization of aa2 (b,1), or random
polymerization (b&1) are observed. When d = 0.1, a coding regime S = 0.835 is observed at the transition between two types of homopolymerization, Figure 5. Regimes of the polymerization process. (a) Effect of the value of the ratio kcat(1)/k2(I) on the polymerization process: p(1|I) and p(2|II)
as a function of b for three significant values of d when a = 102 and c = 1022. When d = 1, either homopolymerization of aa2 (b,1), or random
polymerization (b&1) are observed. When d = 0.1, a coding regime S = 0.835 is observed at the transition between two types of homopolymerization, PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 6 Polymerization and Coding which occurs at b = 1. When d = 0.01, either random polymerization (b%1) or homopolymerization of aa1 (b.1) are observed. Discussion This diagram shows that the intersection between p(1|I)* and p(2|II)* (which defines the coding regime S*) is only slightly
affected by mismatches, as long as the dissociation constant of these mismatches (k2(mm)) remains equal (e = 1) or higher (e,1) than the highest
dissociation constant of the complementary matches (k2(II)). doi:10.1371/journal.pone.0005773.g006 Figure 6. Effect of mismatches on the polymerization process. Probabilities p(1|I)* and p(2|II)* as a function of b for five values of e#1 (a = 102;
b = 1; c = 1022; d = 0.1). This diagram shows that the intersection between p(1|I)* and p(2|II)* (which defines the coding regime S*) is only slightly
affected by mismatches, as long as the dissociation constant of these mismatches (k2(mm)) remains equal (e = 1) or higher (e,1) than the highest
dissociation constant of the complementary matches (k2(II)). doi:10.1371/journal.pone.0005773.g006 Table 1. Perturbation of the coding regime by mismatches. Table 1. Perturbation of the coding regime by mismatches. e
DDG0 (kcal mol21)
p 1 Ij
ð
Þ
p 2 II
j
ð
Þ
p 1 Ij
ð
Þ{p 2 II
j
ð
Þ
j
j
1
0
0.7739
0.8347
0.061
0.7226
0.2
0.7825
0.8434
0.061
0.1
1.417
0.8225
0.8443
0.022
0.01
2.834
0.8334
0.8360
0.003
0
very large
0.8347
0.8347
0
Numerical results with a = 102, b = 1; c = 1022, d = 1021 (for which S<0.8347). The DDG0 indicated is the free-energy difference between the weakest complementary
interaction (codon II) and the mismatch. A value of e = 0.7226 implies a DDG0 of 0.2 kcal mol21, which is the approximate difference between AU (Watson-Crick) and GU
(Wobble) base-pairs [20]. doi:10.1371/journal.pone.0005773.t001 June 2009 | Volume 4 | Issue 6 | e5773 PLoS ONE | www.plosone.org 7 Polymerization and Coding dipeptide already present at the 39 end of the first tRNA [3] may
help initiate translation. conditions are given by the kinetics of anticodon-codon interac-
tions. Among the identified requirements to set this polymerization
process in the coding regime are the relative frequencies of the
amino acids: the small amino acids (glycine and alanine) must be
more abundant than the large ones. Although the result of Miller’s
experiment shown here (Fig. 2) is only indicative, it likely reflects a
robust general trend which originates form the fact that complex
amino acids require more chemical steps (and more energy) to be
synthesized than simple ones. References 1. Berg P, Bergmann FH, Ofengand EJ, Dieckmann M (1961) Enzymic synthesis of
amino acyl derivatives of ribonucleic acid. J Biol Chem 236: 1726–1734. 16. Olejniczak M, Dale T, Fahlman RP, Uhlenbeck OC (2005) Idiosyncratic tuning
of tRNAs to achieve uniform ribosome binding. Nat Str Mol Biol 12: 788–793. 17. Auffinger P, Westhof E (2001) An extended structural signature for the tRNA
anticodon loop. RNA 7: 334–342. 2. Gromadski KB, Rodnina MV (2004) Kinetic determinants of high-fidelity tRNA
discrimination on the ribosome. Mol Cell 13: 191–200. p
18. Eigen M, Schuster P (1978) Hypercycle – principle of natural self-organization. C. Realistic hypercycle. Naturwissenschaften 65: 341–369. 3. Illangasekare M, Yarus M (1999) A tiny RNA that catalyzes both aminoacyl-
RNA and peptidyl-RNA synthesis. RNA 5: 1482–1489. 19. Ikehara K, Omori Y, Arai R, Hirose A (2002) A novel theory on the origin of the
genetic code: A GNC-SNS hypothesis. J Mol Evol 54: 530–538. 4. Lehmann J, Reichel A, Buguin A, Libchaber A (2007) Efficiency of a self-
aminoacylating ribozyme: Effect of the length and base-composition of its 39
extension. RNA 13: 1191–1197. 20. Lehmann J, Riedo B, Dietler G (2004) Folding of small RNAs displaying the
GNC base-pattern: implications for the self-organization of the genetic system. J theor Biol 227: 381–395. 5. Lehmann J (2000) Physico-chemical constraints connected with the coding
properties of the genetic system. J theor Biol 202: 129–144. 21. Lacey JC, Wickramasinghe NSMD, Cook GW (1992) Experimental studies on
the origin of the genetic code and the process of protein synthesis – a review
update. Origins Life Evol Biosphere 22: 243–275. 6. Grosjean HJ, De Henau S, Crothers DM (1978) Physical basis for ambiguity in
genetic coding interactions. Proc Natl Acad Sci U S A 75: 610–614. genetic coding interactions. Proc Natl Acad Sci U S A 75: 610–6 7. Sievers A, Beringer M, Rodnina MV, Wolfenden R (2004) The r 7. Sievers A, Beringer M, Rodnina MV, Wolfenden R (2004) The ribosome as an
entropy trap. Proc Natl Acad Sci U S A 101: 7897–7901. 22. Turner DH, Sugimoto N, Jaeger JA, Longfellow CE, Freier SM, et al. (1987)
Improved parameters for prediction of RNA structure. Cold Spring Harbor
Symposia on Quantitative Biology 52: 123–133. entropy trap. Proc Natl Acad Sci U S A 101: 7897–7901 8. Ledoux S, Uhlenbeck OC (2008) Different aa-tRNAs are selected uniformly on
the ribosome. Mol Cell 31: 114–123. Discussion They are therefore expected to be
less abundant, whatever the exact conditions of the environment. Our analysis thus integrates a frequency distribution which
appears to be rather fundamental. In conclusion, our results show that the properties of amino
acids
and
RNA
can
naturally
impose
a
partially
coded
polymerization along RNA templates. We also found that the
associated
coding
mechanism
is
remarkably
robust
against
mismatches. When supplied with ‘‘meaningful’’ RNA sequences,
translation systems of this kind should be capable of generating
pools of proteins a small fraction of which will be functional. The
feed-back action of these proteins on the translation itself may
further increase its efficiency, allowing more codons to be added to
its repertoire. In this evolutionary perspective, it can be speculated
that a critical effect of emerging synthetases will be to establish
only the [amino acid – tRNA] configurations that are fit for
translation, a ‘‘learning’’ action that RNA alone cannot logically
achieve. One should consider the issue of the initiation of protein
synthesis in the system described here. This step is critical since a
small amino acid may only weakly stabilize the initial tRNA on the
ribosome cofactor. Large hydrophobic amino acids such as
Leucine or Isoleucine are possible candidates since they are found
in prebiotic synthesis experiments (Fig. 2). Also, the ester bond
connecting these amino acids to the 39 end of the tRNA is less
prone to hydrolysis as compare with other amino acids [29], which
might be critical for initiation. Another possibility is that a Author Contributions Wrote the paper: JL MC AL. Conceived the analytical model: JL. Analyzed the properties of the model: JL MC AL. Wrote the paper: JL MC AL. Conceived the analytical model: JL. Analyzed the properties of the model: JL MC AL. References y
p
gy
23. Woese CR (1965) Order in the genetic code. Proc Natl Acad Sci U S A 54:
71–75. 9. Ogle JM, Brodersen DE, Clemons WM, Tarry MJ, Carter AP, et al. (2001)
Recognition of cognate transfer RNA by the 30S ribosomal subunit. Science
292: 897–902. 24. Woese CR, Dugre DH, Saxinger WC, Dugre SA (1968) The molecular basis for
the genetic code. Proc Natl Acad Sci U S A 55: 966–974. 10. Agmon F, Bashan A, Zarivach R, Yonath A (2005) Symmetry at the active site of
the ribosome: structural and functional implications. Biol Chem 386: 833–844. 25. Lacey JC, Mullins DW (1983) Experimental studies related to the origin of the
genetic code and the process of protein synthesis – a review. Origins Life Evol
Biosphere 13: 3–42. 11. Miller SL (1987) Which organic compounds could have occurred on the
prebiotic earth. Cold Spring Harbor Symposia on Quantitative Biology LII:
17–27. p
26. Schimmel P, Giege R, Moras D, Yokoyama S (1993) An operational RNA code
for amino acids and possible relation to genetic code. Proc Natl Acad Sci U S A
90: 8763–8768. 12. Lightstone FC, Bruice TC (1996) Ground state conformations and entropic and
enthalpic factors in the efficiency of intramolecular and enzymatic reactions. 1. Cyclic anhydride formation by substituted glutarates, succinate, and 3,6-endoxo-
D4-tetrahydrophthalate monophenyl esters. J Am Chem Soc 118: 2595–2605. 27. Delarue M (2007) An asymmetric underlying rule in the assignment of codons:
possible clue to a quick early evolution of the genetic code via successive binary
choices. RNA 13: 1–9. 13. Armstrong AA, Amzel LM (2003) Role of entropy in increased rates of
intramolecular reactions. J Am Chem Soc 125: 14596–14602. 28. Rodin SN, Rodin AS (2008) On the origin of the genetic code: signatures of its
primordial complementarity in tRNAs and aminoacyltRNA synthetases. Heredity 100: 341–355. 14. Jung ME, Piizzi G (2005) Gem-Disubstituent effect: Theoretical basis and
synthetic applications. Chem Rev 105: 1735–1766. 29. Matthaei JH, Voigt HP, Heller G, Neth R, Scho¨ch G, et al. (1966) Specific
interactions of ribosomes in decoding. Cold Spring Harbor Symposia on
Quantitative Biology 31: 25–38. 15. Agris PF (2004) Decoding the genome: a modified view. Nucl Ac Res 32:
223–238. PLoS ONE | www.plosone.org June 2009 | Volume 4 | Issue 6 | e5773 8
|
https://openalex.org/W2145076118
|
https://www.scielo.br/j/csp/a/cdRNJphP6CZZyqGkdLRWBWj/?lang=pt&format=pdf
|
Portuguese
| null |
Nutrição e promoção da saúde: perspectivas atuais
|
Cadernos de Saúde Pública
| 2,007
|
cc-by
| 5,632
|
1 Centro de Ciências da
Saúde, Faculdades Federais
Integradas de Diamantina,
Diamantina, Brasil.
2 Escola Nacional de Saúde
Pública Sergio Arouca,
Fundação Oswaldo Cruz,
Rio de Janeiro, Brasil. Correspondência
V. A. Ferreira
Departamento de Nutrição,
Centro de Ciências da
Saúde, Faculdades Federais
Integradas de Diamantina.
Rua da Glória 187,
Diamantina, MG
39100-000, Brasil.
vanessa.nutr@ig.com.br Nutrição e promoção da saúde: perspectivas
atuais Nutrition and health promotion: recent
perspectives Vanessa A. Ferreira 1
Rosana Magalhães 2 Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 ARTIGO ARTICLE
1674 ARTIGO ARTICLE
1674 Nutrição e promoção da saúde: perspectivas
atuais Abstract É particularmente no Canadá que se observa a NUTRIÇÃO E PROMOÇÃO DA SAÚDE
1675 retomada do conceito de promoção da saúde,
com a divulgação no ano de 1974, do Informe
Lalonde (A New Perspective on the Health of Ca-
nadians). Esse documento colocou a promoção
da saúde no patamar do planejamento estraté-
gico. Tal proposta visava, sobretudo, a enfrentar
os altos custos com a assistência médica no país. O Informe Lalonde obteve significativo impacto,
propiciando o desdobramento do recente movi-
mento de promoção da saúde em todo o mundo. Mais adiante, em 1978, a Organização Mundial
da Saúde (OMS) realizou em Alma-Ata, a I Con-
ferência Internacional sobre Cuidados Primários
de Saúde. Esse evento repercutiu de forma ex-
pressiva os sistemas de saúde em todo o mundo,
estabelecendo a meta Saúde para Todos no Ano
2000. Nessa conferência reafirmou-se enfatica-
mente um conceito amplo de saúde. Saúde como
o estado de completo bem-estar físico, mental e
social, e não apenas como ausência de doença. Essa reconceituação de saúde foi fundamental
nesse processo porque serviu de alicerce para o
atual movimento de promoção da saúde. Mais adiante realizaram-se outras conferências
internacionais, que propiciaram aprofundar as
discussões em torno do tema da promoção da
saúde. Atualmente a promoção da saúde se apresen-
ta como uma proposta inovadora para o setor,
pois favorece a superação de impasses importan-
tes no campo da Saúde Pública. Dentre eles, os
desafios relacionados ao modelo biomédico do-
minante, reducionista, fragmentado, que não res-
ponde às demandas atuais de saúde. A promoção
da saúde incorpora ainda, um conceito ampliado
de saúde, que tem como objetivo propiciar um
nível ótimo de vida e saúde às populações. Buss 4
(p. 165) sintetizou de forma apropriada a propos-
ta de promoção da saúde ao afirmar: “A promoção
da saúde, como vem sendo entendida nos últimos
20-25 anos, representa uma estratégia promissora
para enfrentar os múltiplos problemas de saúde
que afetam as populações humanas e seus entor-
nos neste final de século (...) propõe a articulação
de saberes técnicos e populares, e a mobilização de
recursos institucionais e comunitários, públicos e
privados, para seu enfrentamento e solução”. Posteriormente, o Ministério da Saúde do Ca-
nadá e a OMS passaram a estruturar conceitos e
práticas sobre promoção da saúde, favorecendo
a realização da I Conferência Internacional sobre
Promoção da Saúde realizada em Ottawa, no Ca-
nadá, no ano de 1986. Abstract In recent years, health promotion has been in-
troduced as a promising strategy for the public
health field. The current study is intended to
link nutrition into the recent debate on health
promotion, analyzing the role of nutritionists in
this process. Given the complexity of the Brazil-
ian nutritional situation due to the nutritional
transition currently under way in the country,
the health promotion proposal points to both
new perspectives and challenges for eating and
nutrition. New demands in academic training
and the nutritional care model tend to foster a
search for partnerships, innovation in eating
practices, and nutritional education aimed at
the achievement of nutritional citizenship. Inicialmente podemos dizer que os primeiros
autores que fizeram referência ao conceito de
promoção da saúde foram Winslow 1 e Sigerist 2. Ambos relacionaram o termo promoção da saú-
de às condições de vida das populações. Mais
adiante Leavell & Clark 3 se apropriaram do con-
ceito ao formularem o modelo da história natu-
ral da doença. Segundo os autores, a medicina
preventiva compreenderia três níveis de preven-
ção e a promoção da saúde estaria incluída no
nível primário, relacionada à saúde e ao bem-
estar dos indivíduos. Na realidade, o discurso da
medicina social no século XIX também mante-
ve aproximação com a promoção da saúde, ao
correlacionar saúde e condições de vida, através
das obras de autores como Villermé, na Fran-
ça e Chadwick, na Inglaterra 4,5. Nesse sentido,
o termo promoção da saúde não é recente. No
entanto, somente nos últimos vinte anos é que a
promoção da saúde reaparece enquanto estraté-
gia promissora para o campo da Saúde Pública. A valorização do conceito de promoção da saúde
na atualidade surge como resposta à crescente
medicalização, à baixa eficácia dos serviços de
saúde e aos altos custos do setor. Correspondência
V. A. Ferreira
Departamento de Nutrição,
Centro de Ciências da
Saúde, Faculdades Federais
Integradas de Diamantina. Rua da Glória 187,
Diamantina, MG
39100-000, Brasil. vanessa.nutr@ig.com.br Health Promotion; Food and Nutrition Educa-
tion; Nutritional Transition; Nutrition Health Promotion; Food and Nutrition Educa-
tion; Nutritional Transition; Nutrition Nessa direção, o movimento de promoção
da saúde emerge de forma mais vigorosa, a par-
tir da década de 70 nos países desenvolvidos
– Canadá, Estados Unidos e Europa Ocidental. Abstract Desse encontro resultou a
Carta de Ottawa, considerada marco referencial
da promoção da saúde 6. A conferência reuniu
participantes de todo o mundo e teve por intuito
compartilhar experiências no setor. Na Carta de
Ottawa foram definidas cinco áreas prioritárias
de ação em promoção da saúde: políticas públi-
cas saudáveis, criação de ambientes saudáveis,
reforço à ação comunitária, desenvolvimento de
habilidades pessoais e reorientação dos servi-
ços de saúde. Ainda nessa Carta, são descritos
os pré-requisitos para a saúde: paz, educação,
moradia, alimentação, renda, ecossistema sau-
dável, justiça social e eqüidade. A promoção da
saúde incorpora, portanto, uma noção ampliada
de saúde e passa a se aproximar da idéia de qua-
lidade de vida. Nessa abordagem, a saúde seria
resultado de um amplo espectro associado com
a qualidade de vida, compreendendo um con-
junto de valores: justiça social, educação, renda,
habitação, alimentação, nutrição, trabalho etc. Qualidade de vida por sua vez seria uma noção
relacionada ao grau de satisfação dos indivíduos
com o seu meio familiar, social e ambiental. Para
Minayo et al. 7 (p. 8) “o termo abrange muitos sig-
nificados, que refletem conhecimentos, experiên-
cias e valores de indivíduos e coletividades que a
ele se reportam em variadas épocas, espaços e his-
tórias diferentes, sendo, portanto uma constru-
ção social com a marca da relatividade cultural”. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 A promoção da saúde no Brasil No Brasil, o movimento de promoção da saú-
de assume destaque no ano de 1986 com a re-
alização da VIII Conferência Nacional de Saúde
(CNS/MS). Em seu relatório final frisou-se: “O
direito à saúde significa a garantia, pelo Estado,
de condições dignas de vida e de acesso univer-
sal e igualitário às ações e serviços de promoção,
proteção e recuperação da saúde, em todos os ní-
veis, a todos os habitantes do território nacional,
levando ao desenvolvimento pleno do ser huma-
no em sua individualidade” 8 (p. 382). Em 1988,
a Constituição Federal brasileira reforça o tema
da promoção quando declara no seu art. 196: “A
saúde é um direito de todos e dever do Estado, ga-
rantido mediante políticas sociais e econômicas
que visem à redução do risco de doenças e outros
agravos e ao acesso universal e igualitário às ações
e serviços para sua promoção, proteção e recupe-
ração”. Na década de 90 o Sistema Único de Saú-
de (SUS), por meio da Lei nº. 8080/90, incorpora
a noção ampla de saúde dentro do contexto da
promoção 9. Seguem-se em 1992 os eventos Cú-
pula da Terra e Rio 90: Agenda 21, em que se dis-
cutiu o tema dos ambientes saudáveis. Em 1999,
o Ministério da Saúde no Brasil realiza o I Fórum
Nacional sobre Promoção da Saúde, em Brasília. O objetivo do fórum consistiu na divulgação das
experiências e na criação de espaços para debate
em promoção da saúde no país. Posteriormente,
a realização da X Conferência Nacional de Saúde Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Ferreira VA, Magalhães R
1676 Ferreira VA, Magalhães R promoveu o debate acerca dos modelos de aten-
ção voltados para a qualidade de vida. torno da promoção da saúde, a partir da aproxi-
mação do tema com o campo da alimentação e
nutrição. Atualmente, o Ministério da Saúde no Brasil
tem subsidiado ações de educação em saúde,
vigilância e reorganização da rede de assistên-
cia básica, com a implementação do Programa
Saúde da Família (PSF), Programa Agentes Co-
munitários de Saúde (PACS), Bolsa Família e Ren-
da Mínima, Aleitamento Materno, Programa de
Educação e Saúde através do exercício físico e do
esporte, Programa de Humanização no Pré-Natal
e Nascimento, entre outros 10. Essas ações têm
favorecido a inclusão do tema da promoção na
agenda política de saúde do país 10. O campo da alimentação e nutrição no
debate da promoção da saúde A alimentação e nutrição constituem direitos
humanos fundamentais consignados na Decla-
ração Universal dos Direitos Humanos e são re-
quisitos básicos para a promoção e a proteção
da saúde, possibilitando a afirmação plena do
potencial de crescimento e desenvolvimento
humano com qualidade de vida e cidadania. O
direito à alimentação é um direito do cidadão,
portanto, dever do Estado e responsabilidade da
sociedade. Nesse sentido, a busca em garantir o
direito à alimentação de qualidade para todos os
indivíduos, passa pela construção de um novo
paradigma de sociedade, que tenha como eixo
central a qualidade de vida do ser humano 11. Nessa direção, a Declaração de Adelaide 12,
documento produzido na II Conferência Interna-
cional de Promoção da Saúde realizada em 1988
na Austrália, destacou como uma das áreas prio-
ritárias para a promoção da saúde: a alimentação
e nutrição. A eliminação da fome, da má nutrição
e dos agravos relacionados ao excesso de peso,
foi considerada meta essencial para a melhoria
da qualidade de vida das coletividades. De acor-
do com essa declaração, as ações no setor de ali-
mentação devem se estruturar no contexto da
segurança alimentar e nutricional, para a garan-
tia do acesso universal à ração de qualidade em
quantidade suficiente, com respeito aos aspectos
sócio-culturais das populações. Para tal, são pro-
postas medidas de integração entre os setores de
produção, distribuição e acesso aos alimentos,
a fim de assegurar o direito eqüitativo e justo à
alimentação 11. Nesse mesmo ano, a Constituição
Federal brasileira reconhece a alimentação co-
mo um direito humano universal. Mas adiante,
no ano de 1999, o Ministério da Saúde no Brasil
elabora a Política Nacional de Alimentação e Nu-
trição, reforçando a questão da garantia à ração
alimentar digna 13. Torna-se apropriado ressaltar, que o discurso
da promoção da saúde se insere no contexto das
limitações do modelo biomédico, que estrutura
toda a organização do complexo médico-indus-
trial. As críticas a esse modelo se dirigem à hege-
monia do enfoque curativo, reducionista, hos-
pitalocêntrico e de alto custo. Tal proposta não
equaciona os agravos decorrentes do perfil de
morbimortalidade das sociedades contemporâ-
neas 4. Nesse sentido, a promoção da saúde favo-
rece a superação desses impasses, porque amplia
o conceito de saúde, incorpora novos princípios
às práticas médicas, diferentes campos de co-
nhecimento e, ainda, propõe estratégias organi-
zacionais para os serviços de saúde. A promoção da saúde no Brasil Recentemen-
te realizou-se no Rio de Janeiro, em maio de 2005,
o I Seminário Brasileiro de Efetividade da Pro-
moção da Saúde, evento promovido pela Escola
Nacional de Saúde Pública Sergio Arouca, Fun-
dação Oswaldo Cruz, cujo propósito foi analisar
o impacto das ações sobre promoção da saúde
no Brasil. Desse encontro resultou as propostas
de expansão das experiências em promoção no
país, a construção de uma rede de promoção da
saúde e a criação de um programa de evidência
de efetividade em promoção da saúde no Brasil,
reunindo a Oficina Regional Latino-Americana
da União Internacional de Promoção da Saúde e
Educação para a Saúde (UIPES/ORLA), Associa-
ção Brasileira de Pós-graduação em Saúde Coleti-
va (ABRASCO) e outras instituições nacionais 10. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 O campo da alimentação e nutrição no
debate da promoção da saúde Dessa forma,
a promoção da saúde visa a enfrentar os limites
do modelo biomédico hegemônico e dos mode-
los de intervenção em saúde pública, apontan-
do novos direcionamentos para o setor. Dentro
desse contexto, acreditamos que a promoção da
saúde situa-se em processo de construção teóri-
ca e prática. Aponta para o redirecionamento das
políticas e programas de saúde no país. Assim
sendo, o debate sobre promoção da saúde nos
remete a mudanças nas ações tradicionais no
campo da saúde pública e, conseqüentemente,
elas incluem as práticas nutricionais. Este traba-
lho tem por objetivo contribuir para o debate em No Brasil, inúmeros são os desafios encontra-
dos para que a população alcance um nível óti-
mo de nutrição. A complexidade dos problemas
alimentares, advindos da transição nutricional
em curso no país, tem imposto reformulações
urgentes ao setor, a fim de responder as novas de-
mandas alimentares. A transição nutricional po-
de ser conceituada como um fenômeno no qual
ocorrem mudanças nos padrões de distribuição
dos problemas alimentares de uma população. Em geral, refere-se à passagem da desnutrição NUTRIÇÃO E PROMOÇÃO DA SAÚDE
1677 para a obesidade 14. No Brasil, a transição nu-
tricional assumiu um perfil singular 14,15. Assim,
sem equacionar satisfatoriamente os problemas
alimentares relacionados à carência absoluta de
alimentos, o país convive com perfis nutricio-
nais distintos, por vezes, sobrepostos. Nota-se
a evolução da desnutrição, a permanência das
anemias carenciais e o incremento da obesidade
e dos agravos relacionados a ela. Tal perfil tem
exigido dos profissionais nutricionistas uma re-
flexão mais aprofundada de seu papel enquan-
to agente ativo nesse processo. Sem dúvida, a
superação dos problemas alimentares no país
envolve aspectos intricados. Nesse contexto, a
proposta de promoção da saúde sugere um ca-
minho promissor para o campo da alimentação
e nutrição. Fundamentalmente por se tratar de
uma estratégia que articula diferentes setores e
atores sociais, onde perpassam questões como:
modelo de saúde sob o enfoque da integralida-
de; articulação de saberes técnicos e populares;
capacitação dos indivíduos; parcerias nas ações;
intersetorialidade de órgãos públicos e privados;
reforço à ação comunitária; educação popular;
cidadania; ética pública; entre outros. Qual seria
então o papel da nutrição frente à proposta de
promoção da saúde? O que esse debate poderia
apontar de novo para as práticas nutricionais? Quais as implicações desse modelo para o pro-
fissional nutricionista? O campo da alimentação e nutrição no
debate da promoção da saúde ções se apresentam sob a difícil tarefa encontrada
pelo nutricionista em realizar uma análise mais
aprofundada acerca da dinâmica dos problemas
alimentares 17. Conseqüentemente, esse fato gera
entraves na implementação de medidas de in-
tervenção mais consistentes. Vale ressaltar que
essa tem sido uma tendência das profissões da
área da saúde. A formação tecnicista se apresen-
ta como um dos principais empecilhos para a
prática da integralidade. De tal forma que, atu-
almente, emerge o movimento para a reforma na
graduação. Nesse sentido, há urgência na defini-
ção de uma política de Estado para a formação
de profissionais de saúde, com base no modelo
da integralidade 18,19,20. Ainda sob esse aspecto,
não tem sido incomum verificar a insatisfação
dos profissionais nutricionistas com a sua prá-
tica, deflagrada através de sentimentos de frus-
tração e impotência frente ao seu trabalho coti-
diano, como têm demonstrado alguns estudos
nacionais com esta categoria 21,22,23. A inclusão
do campo da alimentação e nutrição no debate
da promoção da saúde parece apontar para avan-
ços importantes, abrindo novos horizontes para
a atuação desses profissionais, os nutricionistas
sociais. Se por um lado temos a possibilidade de
repensar nossa prática enquanto profissionais de
saúde e nossa atuação no campo da saúde públi-
ca, de outro temos importantes percalços a serem
superados. O desafio, portanto, está em superar
práticas convencionais e fragmentadas, decor-
rentes desse modelo de formação profissional. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Nutrição para a promoção da saúde A ação que envolve o segundo campo de atu-
ação em promoção da saúde refere-se à articula-
ção de saberes técnicos e populares. Essa ação se
aproxima fundamentalmente da discussão ante-
rior, pois implica transcender modelos tradicio-
nais de atuação em nutrição. Ações de promoção
da saúde impõem a criação de espaços democrá-
ticos e participativos, a fim de estabelecer uma
aproximação com a realidade dos indivíduos e
das populações. O objetivo é tentar responder
melhor às demandas de saúde e nutrição. Des-
sa forma, abordagens persuasivas e ações verti-
cais devem ser substituídas por estratégias mais
amplas provenientes da relação profissional-pa-
ciente, a partir do somatório de saberes técnicos
e populares. Nesse aspecto, torna-se imprescin-
dível superar a relação hierárquica entre o profis-
sional e o usuário. Tomando como referência os campos de ação
em promoção da saúde supracitados, a proposta
deste trabalho é refletir sobre a atuação do pro-
fissional nutricionista no contexto da promoção
da saúde. Nessa direção, no que compreende a
adoção do modelo de atenção sob o enfoque da
integralidade, o desafio imposto à categoria dos
nutricionistas remete a mudanças estruturais,
que têm início na própria formação acadêmi-
ca do profissional. Analisando os currículos dos
cursos de nutrição, notamos que eles se apresen-
tam moldados sob a vertente biológica da aten-
ção clínico-assistencial estruturada no modelo
biomédico dominante. E, em contrapartida, na
deficiente abordagem prestada às questões po-
líticas, sócio-econômicas e culturais necessárias,
não somente para a construção de uma análise
crítica a respeito da conjuntura alimentar dos
grupos populacionais, mas para as medidas de
atenção em saúde. A repercussão desse fato es-
tá na dificuldade de articular os conhecimentos
biológicos da nutrição com sua dimensão social,
prejudicando a percepção da totalidade do fenô-
meno sob estudo 16,17. Na prática, essas implica- No âmbito das ações direcionadas à capacita-
ção dos indivíduos, o propósito será garantir con-
dições para que a população possa exercer sua
autonomia decisória, optando por escolhas ali-
mentares mais saudáveis. Nesse aspecto, a edu-
cação nutricional assume um papel fundamental
para o exercício e fortalecimento da cidadania
alimentar. A prática do nutricionista assume o Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Ferreira VA, Magalhães R
1678 desafio de promover uma educação nutricional
eficaz, com ações que promovam mudanças nos
hábitos alimentares dos indivíduos e de suas fa-
mílias. Nutrição para a promoção da saúde Sob esse aspecto é interessante destacar
que na primeira publicação da OMS, que tratou
especificamente da questão da educação nutri-
cional, já se fazia referência sobre a importância
do ensino de bons hábitos alimentares para as
populações 24. Assim, outro ponto fundamental a
ser destacado quando se propõe a articulação do
campo da alimentação e nutrição no contexto de
promoção da saúde é justamente o tema da edu-
cação nutricional. Destacamos que a educação
nutricional a qual nos referimos, diz respeito a
um processo de aprendizagem e não de adestra-
mento. Educar no sentido de um processo amplo
de desenvolvimento da pessoa, na busca de sua
integração e harmonização, nos diversos níveis
do físico, do emocional e do intelectual 25. Deve
envolver metodologia de ensino-aprendizagem
para o desenvolvimento de habilidades individu-
ais, que permitam enfrentar as questões relacio-
nadas à alimentação e nutrição. sociedades onde existem agravos relacionados
à má nutrição tal como o Brasil, verifica-se tam-
bém desigualdades no acesso e na produção dos
alimentos 27. Nesse aspecto, medidas de demo-
cratização dos recursos produtivos por meio da
inclusão dos indivíduos e das comunidades nes-
se processo são fundamentais. As ações de incen-
tivo à agricultura familiar, a hortas comunitárias,
a cooperativas agrícolas, se apresentam como al-
ternativas viáveis. Devemos destacar que as desi-
gualdades no acesso à ração alimentar digna, se
refere a uma produção social e econômica, que
deve ser combatida pelos nutricionistas sociais. Torna-se necessário ressaltar ainda, a importân-
cia do diagnóstico consistente por parte dos nu-
tricionistas, a fim de reconhecer as reais condi-
ções de nutrição dos indivíduos e comunidades
assistidas. A partir dele será possível propor me-
didas educativas de maior resolutividade. Dessa
maneira, se os problemas alimentares decorrem
da dificuldade de acesso aos alimentos, pouco
impacto terão as técnicas de aconselhamento e
orientação alimentar. A análise acerca da educação nutricional no
Brasil 26 revela desafios importantes à categoria
profissional dos nutricionistas. Embora seja dis-
ciplina obrigatória dos currículos de nutrição e
conteúdo das práticas desenvolvidas por esses
profissionais, a fragilidade de integrá-la com dis-
ciplinas de cunho social tal como nos referimos
anteriormente, tende a comprometer a qua-
lidade e a eficácia dos programas de educação
nutricional. Isso porque a contextualização dos
problemas alimentares, a partir da agregação de
disciplinas provenientes do campo das ciências
humanas e sociais, mostra-se essencial nesse
processo 17. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 O desafio da intersetorialidade Importante destacar que a estratégia da in-
tersetorialidade é especialmente importante pa-
ra a área de segurança alimentar e nutricional. Reconhecidamente a questão alimentar é com-
plexa e impõe a formação de alianças por envol-
ver diferentes esferas das políticas públicas, tais
como a produção, comercialização, distribuição
e consumo de alimentos, controle de qualidade,
estímulo à educação nutricional, dentre outras
ações 30. A intersetorialidade se apresenta, assim,
como uma estratégia prioritária na construção
de espaços legítimos para o diálogo entre os di-
ferentes setores envolvidos na dinâmica alimen-
tar, visando a assegurar o acesso à alimentação
digna. O debate em torno da promoção da saúde parte
do pressuposto de que saúde e qualidade de vida
não dependem do oferecimento isolado de um
dado serviço, mas sim, da oferta de um conjunto
de condições de vida e de trabalho 28. Trata-se,
portanto, de uma proposta que implica formação
de alianças, estabelecimento de parcerias e inter-
setorialidade nas ações. A questão da interseto-
rialidade apresenta-se como principal estratégia
para implementação da proposta de promoção
da saúde. Consiste no reconhecimento de que o
setor saúde isoladamente não consegue respon-
der às demandas de saúde da população, criando
com isso a necessidade de articular as ações de
saúde com os demais setores da sociedade. Buss
& Ramos 29, ao fazerem referência ao tema da in-
tersetorialidade, alertam que, para sua efetivação,
há necessidade de superar e romper as barreiras
comunicacionais. Para os autores são elas que
impedem o diálogo entre os diferentes setores. O estabelecimento de parcerias impõe des-
prendimento, ousadia, envolvimento e criativi-
dade para os profissionais nutricionistas porque
rompe com as formas convencionais de atuação
da categoria. Nesse sentido, parcerias setoriais, o
somatório de saberes técnicos e populares, a su-
peração do modelo biomédico dominante com
a incorporação da visão integral dos indivíduos,
assim como, a habilidade técnica desses profis-
sionais (com ênfase na educação nutricional),
nos parece ser o caminho para incorporar a nu-
trição dentro da proposta de promoção da saúde. Sabemos não se tratar de tarefa fácil, porém ela
nos é requisitada e, portanto, necessária. Como
mencionamos anteriormente, a transição nutri-
cional em curso no país, justifica a mobilização
dos nutricionistas sociais nas ações de promoção
da saúde. Refletindo especificamente sobre a prática
do nutricionista, a questão intersetorial pode
nortear a atuação destes profissionais nos diver-
sos cenários, que ultrapassam o âmbito das uni-
dades de saúde. O desafio da intersetorialidade Isso porque, tradicionalmente, a
prática do nutricionista em unidades de atenção
primária de saúde se configura pela atuação do
profissional no consultório, por meio do atendi-
mento ambulatorial, integrado ou não, ao traba-
lho em equipe. Cabe ao nutricionista promover
intervenção alimentar através do atendimento
individualizado ou em grupo, e realizar ativi-
dade preventiva de educação nutricional. São
ainda atribuições do profissional nutricionista
nas unidades locais: a vigilância nutricional e a
elaboração de estatísticas sobre as atividades de-
sempenhadas nas unidades. Assim, o cotidiano
de práticas desempenhadas por esses profissio-
nais nas unidades básicas de saúde apresenta-se
circunscrito ao consultório, ou no máximo, em
atividades dentro da própria unidade. A partir
da intersetorialidade é possível inserir a nutri-
ção em outros ambientes sociais, tais como nas
escolas públicas e privadas; na comunidade por
intermédio dos agentes comunitários de saúde,
das associações de moradores e do próprio PSF
proposto pelo Ministério da Saúde; no ambiente
de trabalho formal; nas ações de vigilância sani-
tária; nos órgãos de comunicação em geral; nas
organizações não-governamentais (ONGs); em
zonas agrícolas; enfim, inúmeros são os espaços
nos quais a nutrição pode estar articulada. Fun-
damentalmente, essa inserção coloca a temática
da nutrição no cerne das discussões nos diversos
espaços sociais, fortalecendo dessa maneira, es-
se campo de práticas. Nutrição para a promoção da saúde Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 NUTRIÇÃO E PROMOÇÃO DA SAÚDE
1679 Nutrição para a promoção da saúde Observa-se que o modelo tradicio-
nal da educação nutricional normalmente não
propõe métodos de ensino problematizadores e
construtivistas. Em geral, o método tradicional
de educação nutricional se concentra nos efei-
tos biológicos dos nutrientes no organismo, na
orientação alimentar, e ainda, na preservação
das propriedades nutritivas dos alimentos envol-
vendo as técnicas de preparo e armazenamento. Tais ações podem ser consideradas benéficas já
que, em algumas circunstâncias, verifica-se que
os indivíduos apresentam desconhecimento
sobre a questão alimentar. Entretanto, é preciso
reconhecer que o Brasil é um país extenso, que
apresenta contrastes e desigualdades sociais que
acabam por comprometer o acesso da população
ao direito universal à alimentação. A desigualda-
de no acesso à ração alimentar é uma realidade
vivenciada por parcelas significativas da popu-
lação brasileira. Ou seja, o país apresenta uma
enorme fragilidade no que se refere à questão da
segurança alimentar e nutricional 27. Assim, nas Ações que se propõem ao reforço à ação co-
munitária devem sobrepor atividades de educa-
ção nutricional de aconselhamento. Demandam
a criação de espaços públicos, que possam de-
senvolver o pensamento crítico para a identifi-
cação de problemas e a elaboração de estratégias
para sua superação. Implica a valorização de es-
paços para o debate e o estabelecimento de par-
cerias entre profissional-usuário-comunidade. No âmbito coletivo, ao educador caberia assumir
seu papel de agente político. A participação na
formulação das políticas, programas e ações em
alimentação e nutrição junto ao poder público,
assim como, sua articulação com as organiza-
ções não-governamentais, o setor privado e a
sociedade civil são fundamentais. A inserção nos
espaços educativos, tais como creches, escolas
e nos meios de comunicação de massa também
devem ser fomentadas. É imprescindível ainda,
que o educador promova, ou esteja engajado, em
debates, encontros, seminários, sejam eles locais
ou nacionais, para o fortalecimento das ações de
educação nutricional. A educação popular, por sua vez, compreen-
de todos os aspectos já discutidos. Deve envolver
atividades direcionadas a: mudança comporta-
mental, informações sobre políticas públicas vi-
gentes, assim como o incentivo ao exercício per-
manente dos diretos e deveres, especialmente os
relacionados à alimentação. Importante enfocar
nessas ações, informações nutricionais e educa-
ção com enfoque na higiene e saúde. Por fim, o
último campo de ação em promoção da saúde re-
monta à questão da intersetorialidade das ações e
será discutido a seguir. Cad. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Conclusão Por fim, destacamos que os desafios impostos
para o campo da nutrição no contexto da pro-
moção da saúde são inúmeros. No entanto,
tais desafios apontam para a possibilidade de
compatibilizar diferentes olhares e perspectivas
teórico-metodológicas na direção do diálogo
interdisciplinar. Repensando seu lugar como
profissional da área da saúde e reintegrando as
práticas alimentares ao conjunto de experiên-
cias, saberes e intervenções voltadas ao atendi-
mento das necessidades sociais dos indivíduos e
grupos sociais, o nutricionista pode avançar na
construção de uma proposta de atuação capaz
de contribuir para a redução das iniqüidades em
saúde e a garantia da qualidade de vida. Nesse
esforço, portanto, a discussão da efetividade das
ações, o aprendizado com as experiências em
curso, a escolha de novas ferramentas metodo-
lógicas devem penetrar na formação e no exer-
cício profissional, tendo por intuito romper a
fragmentação tecnicista tradicional e promover Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Ferreira VA, Magalhães R
1680 a integralidade, a intersetorialidade, a eqüidade
e a participação social. A mobilização em torno
de uma nova prática para o nutricionista esta- a integralidade, a intersetorialidade, a eqüidade
e a participação social. A mobilização em torno
de uma nova prática para o nutricionista esta- belece, assim, elos fortes com o debate acerca
da formulação e implementação de políticas e
ações de promoção da saúde. Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 V. A. Ferreira foi responsável pela elaboração, redação
e revisão do artigo. R. Magalhães participou da elabo-
ração e revisão do artigo. Ferreira VA, Magalhães R
1680 Referências 17. Bosi MLM. A face oculta da nutrição: ciência e
ideologia. Rio de Janeiro: Editora Espaço e Tempo;
1988. 1. Winslow CEA. The untilled fields of public health. Science 1920; 51:23. 2. Sigerist H, editor. The university at the crossroad. Nova York: Henry Schumann Publisher; 1946. 2. Sigerist H, editor. The university at the crossroad. 18. Bosi MLM. Profissionalização e conhecimento: a
nutrição em questão. São Paulo: Editora Hucitec;
1996. Nova York: Henry Schumann Publisher; 1946. 3. Leavell S, Clark EG. Medicina preventiva. São Pau-
lo: McGraw-Hill; 1976. 4. Buss PM. Promoção da saúde e qualidade de vida. Ciênc Saúde Coletiva 2000; 5:163-77. 19. Pinheiro R, Mattos RA, organizadores. Construção
da integralidade: cotidiano, saberes e práticas em
saúde. Rio de Janeiro: Eduerj/ABRASCO; 2003. 5. Czeresnia D, Freitas CM, organizadores. Promoção
da saúde: conceitos, reflexões, tendências. Rio de
Janeiro: Editora Fiocruz; 2003. 20. Ceccim RB, Feuerwerker LCM. Mudança na gradu-
ação das profissões de saúde sob o eixo da integra-
lidade. Cad Saúde Pública 2004; 20:1400-10. 6. Buss PM. Uma introdução ao conceito de promo-
ção da saúde. In: Czeresnia D, Freitas CM, organi-
zadores. Promoção da saúde: conceitos, reflexões,
tendências. Rio de Janeiro: Editora Fiocruz; 2003. p. 15-38. 21. Mattos RA. A integralidade na prática (ou sobre a
prática da integralidade). Cad Saúde Pública 2004;
20:1411-6. 22. Prado SD. Autonomia tentadora e reificada: estu-
do sobre nutricionistas dos Centros Municipais de
Saúde do Rio de Janeiro [Dissertação de Mestra-
do]. Rio de Janeiro: Escola Nacional de Saúde Pú-
blica, Fundação Oswaldo Cruz; 1993. 7. Minayo MCM, Hartz ZMA, Buss PM. Qualidade de
vida e saúde: um debate necessário. Ciênc Saúde
Coletiva 2000; 5:7-18. 8. Ministério da Saúde. 8a Conferência Nacional de
Saúde: relatório final. Brasília: Ministério da Saú-
de; 1986. 23. Amorim STSP, Moreira H, Carraro TE. A formação
de pediatras e nutricionistas: a dimensão humana. Rev Nutr 2001; 14:111-8. 9. Ministério da Saúde. Lei Federal nº. 8.080, de 19
de setembro de 1990. Dispõe sobre as condições
para a promoção, proteção e recuperação da saú-
de, a organização e o funcionamento dos serviços
correspondentes e dá outras providências. Diário
Oficial da União 1990; 19 set. 24. Bosi MLM. Trabalho e subjetividade: cargas e so-
frimentos na prática da nutrição social. Rev Nutr
2000; 13:107-15. 25. Ritchie JAS. Buenos hábitos en la alimentación:
métodos para inculcarlos al público. Rome: Food
and Agricultural Organization; 1951. (Estudios so-
bre Nutrición, 6). 10. Resumo V. A. Ferreira foi responsável pela elaboração, redação
e revisão do artigo. R. Magalhães participou da elabo-
ração e revisão do artigo. A promoção da saúde tem ao longo dos últimos anos
se apresentado como uma estratégia promissora para
o campo da Saúde Pública. Este estudo propõe articu-
lar o tema da nutrição no debate contemporâneo da
promoção da saúde, analisando o papel dos nutri-
cionistas neste processo. Frente ao reconhecimento da
complexidade do quadro alimentar brasileiro advindo
da transição nutricional em curso no país, a proposta
de promoção da saúde aponta perspectivas, mas tam-
bém desafios ao campo da alimentação e nutrição. Em
linhas gerais, novas exigências relacionadas à forma-
ção acadêmica e ao modelo de atenção tendem a for-
talecer a busca de parcerias, inovação das práticas ali-
mentares à educação nutricional voltada à construção
da cidadania alimentar. Promoção da Saúde; Educação Alimentar e Nutricio-
nal; Transição Nutricional; Nutrição Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 NUTRIÇÃO E PROMOÇÃO DA SAÚDE
1681 Referências Cad. Saúde Pública, Rio de Janeiro, 23(7):1674-1681, jul, 2007 Referências Buss PM. Promoção da saúde no Brasil. I Seminá-
rio Brasileiro de Efetividade da Promoção da Saú-
de. http://www.ensp.fiocruz.br/eventos_novo/
dados/arq547.ppt (acessado em 20/Jul/2005). 26. Boog MCF. Educação nutricional: passado, presen-
te e futuro. Rev Nutr 1997; 10:5-19. 11. Valente FLS. Direito humano à alimentação: desa-
fios e conquistas. São Paulo: Editora Cortez; 2002. 27. L’Abbate S. As políticas de alimentação e nutrição
no Brasil. II. A partir dos anos setenta. Rev Nutr
1989; 2:7-54. 12. Ministério da Saúde. As cartas da promoção da
saúde. Brasília: Ministério da Saúde; 2002. 28. Valente FLS. Fome e desnutrição: determinantes
sociais. São Paulo: Editora Cortez; 1988. 28. Valente FLS. Fome e desnutrição: determinantes
sociais. São Paulo: Editora Cortez; 1988. 13. Ministério da Saúde. Política nacional de alimen-
tação e nutrição. Brasília: Ministério da Saúde;
1999. 29. Buss PM, Ramos CL. Desenvolvimento local e
agenda 21: desafios da cidadania. Cadernos da
Oficina Social 2000; 3:13-65. 14. Kac G, Velásquez-Melendez G. A transição nutri-
cional e a epidemiologia da obesidade na América
Latina. Cad Saúde Pública 2003; 19 Suppl 1:S4-5. 30. Inojosa RM, Junqueira LAP. O setor saúde e o de-
safio da intersetorialidade. Cad FUNDAP 1997;
21:156-64. 30. Inojosa RM, Junqueira LAP. O setor saúde e o de-
safio da intersetorialidade. Cad FUNDAP 1997;
21:156-64. 15. Escoda MSQ. Para a crítica da transição nutricio-
nal. Ciênc Saúde Coletiva 2002; 7:219-26. 16. Sichieri R, Coitinho D, Pereira R, Marins V, Moura A. Variações temporais do estado nutricional e do
consumo alimentar no Brasil. Physis (Rio de J)
1997; 7:31-50. Versão final reapresentada em 04/Jan/2007
|
https://openalex.org/W1761132818
|
https://ccforum.biomedcentral.com/counter/pdf/10.1186/cc3891
|
English
| null |
Clinical review: interpretation of arterial pressure wave in shock states.
|
Critical care
| 2,005
|
cc-by
| 5,554
|
Abstract In critically ill patients monitored with an arterial catheter, the arterial
pressure signal provides two types of information that may help the
clinician to interpret haemodynamic status better: the mean values
of systolic, diastolic, mean and pulse pressures; and the magnitude
of the respiratory variation in arterial pressure in patients undergoing
mechanical ventilation. In this review we briefly discuss the
physiological mechanisms responsible for arterial pressure
generation, with special focus on resistance, compliance and pulse
wave amplification phenomena. We also emphasize the utility of
taking into consideration the overall arterial pressure set (systolic,
diastolic, mean and pulse pressures) in order to define
haemodynamic status better. Finally, we review recent studies
showing that quantification of respiratory variation in pulse and
systolic arterial pressures can allow one to identify the mechanically
ventilated patients who may benefit from volume resuscitation. Bouchra Lamia1, Denis Chemla2, Christian Richard3 and Jean-Louis Teboul3 1Assistant Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris,
Université Paris Sud 11, Le Kremlin-Bicêtre, France Assistant Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique –
niversité Paris Sud 11, Le Kremlin-Bicêtre, France ,
,
2Professor, Service de Physiologie, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris Sud 11, Le
Kremlin-Bicêtre, France Kremlin-Bicêtre, France
3Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris
Sud 11, Le Kremlin-Bicêtre, France 3Professor, Service de Réanimation Médicale, Centre Hospitalier Universitaire de Bicêtre, Assistance Publique – Hôpitaux de Paris, Université Paris
Sud 11, Le Kremlin-Bicêtre, France Corresponding author: Jean-Louis Teboul, jean-louis.teboul@bct.aphp.fr Critical Care 2005, 9:601-606 (DOI 10.1186/cc3891) Published online: 26 October 2005
This article is online at http://ccforum.com/content/9/6/601
© 2005 BioMed Central Ltd Published online: 26 October 2005
This article is online at http://ccforum.com/content/9/6/601
© 2005 BioMed Central Ltd (DAP), and MAP and PP; and the magnitude of the
respiratory variation in arterial pressure. Physiological background
Aortic pressure The arterial pressure wave can be described in terms of its
steady and pulsatile components [2,3]. The steady
component is the MAP, which is considered constant from
aorta to peripheral large arteries. The arterial pressure signal
oscillates around this mean value in a complex manner. A
simplified analysis relies on measurement of maximal and
minimal arterial pressures values (i.e. SAP and DAP), which
allows calculation of arterial PP (PP = SAP – DAP). Although
DAP is roughly constant from aorta to periphery, SAP and
therefore PP increase from aorta to periphery in young,
healthy individuals. The degree of this so-called pulse wave
amplification is about 15 mmHg on average, and it may vary
depending on physiological (e.g. sex, age, heart rate, body
height) or pathological (e.g. changes in vasomotor tone and
arterial stiffness) conditions [3]. Thus, unlike MAP and DAP,
peripheral SAP and PP are not necessarily reliable estimates
of central pressure values. Available online http://ccforum.com/content/9/6/601 Available online http://ccforum.com/content/9/6/601 CO = cardiac output; DAP = diastolic arterial pressure; MAP = mean arterial pressure; mRAP = mean right atrial pressure; PP = arterial pulse
pressure; SAP = systolic arterial pressure; SV = stroke volume; SVR = systemic vascular resistance; SVV = stroke volume variation. Clinical review: Interpretation of arterial pressure wave in shock
t t Bouchra Lamia1, Denis Chemla2, Christian Richard3 and Jean-Louis Teboul3 Clinical correlates
Background In the intensive care unit, arterial pressure can be monitored
with either invasive or noninvasive techniques. It is beyond
the scope of this review to detail the technical aspects of
such monitoring. In brief, the oscillometric, noninvasive
devices measure MAP (point of maximal oscillation), whereas
estimation of SAP and DAP is obtained from various
algorithms, depending on the device used. The method may
be inaccurate in patients with marked changes in peripheral
vascular tone, either primary or secondary to compensatory
mechanisms or to the use of vasoactive agents. Therefore,
patients with circulatory shock are often equipped with an
intra-arterial catheter to obtain more accurate arterial
pressure measurements. Furthermore, this is the only way to
visualize the entire arterial pressure curve, and this also allows
easy blood withdrawal for repeated biochemical analyses. Compliance = SV/aortic PP
(2) (2) In fact, the arterial pressure wave has a complex transmission
across the branching and tapering of the arterial tree, and
travels with a high pulse wave velocity (about 8–10 m/s). As
a result, wave reflections occur at aortic level and take place
in early diastole in healthy individuals, with a beneficial
boosting effect on coronary filling. This latter effect is lost
where arterial stiffness is increased (e.g. in aged individuals),
and wave reflection then occurs in late systole, thus
increasing the afterload of the still-ejecting left ventricle. Analysis of the timing and extent of wave reflection adds
valuable information regarding the pulsatile load imposed on
the left ventricle [6,7]. Although the aortic pressure curve shape per se contains
valuable haemodynamic information, precise analysis of the
shape of the peripheral arterial pressure curve cannot be
recommended for assessment of haemodynamic status at the
bedside. Indeed, there are major differences between
peripheral and aortic pressure waves because of complex
propagation and reflection wave phenomena. Furthermore,
fluid-filled catheter and transducer characteristics lead to MAP = (heart rate × SV × SVR) + mRAP
(1) There is a tight mathematical relationship between SAP,
DAP, PP and MAP. Indeed, in the general population [1-3,8]
as well as in critically ill patients [9], the true, time averaged
MAP can be accurately calculated according to the following
classic empirical formula: Where SV is the stroke volume. Three important points must
be stressed. First, SVR is not a measured parameter but is
calculated from the measured values of MAP, CO and mRAP. Second, despite clear limitations in Poiseuille’s Law when it is
applied to the human circulation, it is generally believed that
SVR is inversely proportional to the fourth power of the
functional radius of the systemic network (mainly that of the
distal resistive arteries). Finally, for a given MAP, SVR
depends only on the value of CO, regardless of the way in
which CO is generated (e.g. low SV/high heart rate or high
SV/low heart rate). MAP = DAP + 1/3(SAP – DAP)
(3) (3) MAP = DAP + 1/3(SAP – DAP) Introduction Most physicians currently use the maximal (systolic) and
minimal (diastolic) arterial pressure to assess cardiovascular
status because these two pressures are easily measurable
using a sphygmomanometer. For example, hypertension is
defined as a systolic pressure of 140 mmHg or above or a
diastolic pressure of 90 mmHg or above [1]. Recent studies
have increased clinical interest in also analyzing other
pressures, especially pulse pressure (PP) and mean arterial
pressure (MAP). In this article we focus on the interpretation
of arterial pressure wave in critically ill patients monitored with
an arterial catheter. The arterial pressure signal can provide
two types of information that may help the clinician to
interpret haemodynamic status better: the mean values of
systolic arterial pressure (SAP) and diastolic arterial pressure The key equation governing human haemodynamics refers to
the steady components of pressure and flow. The driving
pressure of the systemic circulation is MAP minus the mean
systemic pressure. The mean systemic pressure is the
theoretical pressure value that would be observed in the
overall circulatory system under zero flow conditions. As
derived from Ohm’s law, the driving pressure is the product of
cardiac output (CO) and systemic vascular resistance (SVR) 601 Critical Care December 2005 Vol 9 No 6
Lamia et al. [4]. Given that mean systemic pressure cannot routinely be
measured, mean right atrial pressure (mRAP) is currently taken
as a surrogate, such that MAP can be expressed as follows: characteristics of arterial pressure wave transmission and
reflection. SV, arterial stiffness (1/compliance), heart rate,
MAP and the distance from aorta to peripheral artery
influence the pulsatile arterial pressure at the peripheral site. MAP = (heart rate × SV × SVR) + mRAP
(1) (1) This formula can be rewritten as follows: MAP = (2/3 × DAP) + (1/3 × SAP)
(4) MAP = (2/3 × DAP) + (1/3 × SAP) (4) MAP = (2/3 × DAP) + (1/3 × SAP)
(4) In other words, this rule of thumb implies that DAP
contributes more to MAP, by a factor of two, than does SAP. It is often assumed that mRAP is small enough that it may be
neglected in comparison with MAP, thus allowing the
calculation of the MAP/CO ratio (total peripheral resistance). However, this statement is commonly not valid in hypotensive
patients, especially those with right heart failure. It is often assumed that mRAP is small enough that it may be
neglected in comparison with MAP, thus allowing the
calculation of the MAP/CO ratio (total peripheral resistance). However, this statement is commonly not valid in hypotensive
patients, especially those with right heart failure. From a theoretical point of view, arterial compliance cannot
be quantified by means of a single number because
compliance decreases when MAP increases. Otherwise
stated, the distending volume/distending pressure relation-
ship has a curvilinear shape and the systemic vessels are
stiffer (i.e. less easily distensible) at higher levels of mean
distending pressure [10]. However, it is believed that this
phenomenon plays only a moderate role over the
physiological range of MAP observed in clinical practice. Systemic arteries are not just resistive conduits that distribute
CO to peripheral organs. Rather, systemic arteries (especially
the proximal aorta) are elastic structures that dampen the
discontinuous ventricular ejection by storing a fraction of the
SV in systole and restoring it in diastole, thus allowing
continuous blood flow at the organ level. Therefore, the human
circulation can be reasonably described by using the simplified
Windkessel model, in which a capacitive element (total arterial
compliance) is added to SVR. In this model, the compliance
value has been accurately estimated as follows [5]: Informative value of systolic and diastolic arterial
pressures The various patterns of arterial pulse observed with ageing
[18] and in chronic hypertensive states [19] may help us to
understand the haemodynamic correlates of SAP and DAP. Increases in the tone of distal muscular arteries is the
landmark of systolic/diastolic hypertension, with increased
MAP and essentially unchanged PP because of congruent
increases in SAP and DAP. This pattern is typically observed
in the early stages of essential hypertension in young or
middle-aged individuals. Alternatively, increased stiffness of
proximal elastic arteries is the landmark of systolic
hypertension, with increased PP, increased SAP and
decreased DAP. Increased SAP contributes to left ventricular
pressure overload and increased oxygen demand, whereas
decreased DAP can potentially compromise coronary
perfusion and oxygen supply. This pattern is typically
observed at the late stages of essential hypertension in
elderly individuals [19]. Arterial pulse patterns that combine
the two typical patterns described above can also be
observed. Finally, it must be noted that isolated increases in
SV may help to explain the isolated systolic hypertension
observed in young patients [20]. The constancy of MAP in large arteries explains why MAP is
considered the driving pressure for perfusion of most vital
organs [10]. As a result, when MAP falls below the lower limit
of autoregulation, regional blood flow becomes linearly
dependent on MAP. In some pathological settings, MAP
overestimates the true perfusion pressure because of marked
increases in extravascular pressure at the outflow level in
specific vascular areas (intracranial hypertension, abdominal
compartment syndrome) or because of marked increases in
systemic venous pressure (right heart failure). There is no universally accepted MAP threshold that provides
assurance that blood flow is independent of arterial pressure
in most vital organs. Indeed, the critical level of MAP probably
differs among organs and depends on numerous factors,
including age, previous history of hypertension, neuro-
vegetative state and vasoactive therapy. Thus, there is no
single ‘magic value’ for therapeutic MAP goals in shock states. However, in septic shock current resuscitation guidelines
[13,14] recommend that an MAP of 65 mmHg or greater be
achieved and maintained, in order to avoid additional organ
hypoperfusion. On the other hand, increasing MAP to In clinical practice, differences in mean DAP values are
believed to reflect mainly changes in vascular tone, with lower
DAP corresponding to decreased vascular tone. Informative value of mean arterial pressure Both baseline MAP and changes in MAP must be explained
by the combined influences of heart rate, SV, SVR and mRAP
(Eqn 1). Autoregulation of the MAP is a key feature of the
cardiovascular system. Acute decreases in MAP are counter-
acted by the sympathetically mediated tachycardia, increases
in SV (mediated via positive inotropic effect and veno-
constriction) and arterial systemic vasoconstriction. In
critically ill patients, especially those with sepsis or who are
receiving sedative drugs, these compensatory mechanisms
can be either impaired or overwhelmed. Informative value of pulse pressure Although it remains to be demonstrated, it is widely accepted
that peripheral PP at rest depends mainly on SV and arterial
stiffness (1/compliance) [3,8]. In this regard, in older individuals
increased arterial stiffness leads to increased PP, and this
results in systolic hypertension associated with decreased
DAP. On the other hand, in patients with cardiogenic or
hypovolaemic shock, decreased SV results in a lower PP. The
paradoxical finding of a low PP in the elderly and in patients
with hypertension or atherosclerosis strongly suggests that SV
is markedly low (unpublished observation) because arterial
stiffness is expected to be increased in these patients. In the remaining part of this review we focus on the
informative value of the four pressures routinely measured
(MAP, SAP, DAP and PP) and the clinical significance of
respiratory changes in arterial pressure in patients with
circulatory shock. In the remaining part of this review we focus on the
informative value of the four pressures routinely measured
(MAP, SAP, DAP and PP) and the clinical significance of
respiratory changes in arterial pressure in patients with
circulatory shock. It is likely that the monitoring of short-term PP changes in
critically ill patients may provide valuable, indirect information
on concomitant SV changes. In this regard, increases in PP
induced by passive leg raising are linearly related to con-
comitant SV changes in mechanically ventilated patients [17]. Peripheral arterial pressure From a local point of view, peripheral arterial pressure is a
function of both the distending blood volume and the
compliance of the artery under study. By using an integrated
dynamic description, peripheral arterial pressure is mainly
determined by the pressure at the aortic root level and the 602 Available online http://ccforum.com/content/9/6/601 unavoidable distortion of the signal. Sources of measurement
error have been widely discussed and may relate to various
factors, including the transducer–tubing–catheter subsystem
[11,12]. Testing the system and avoiding underdamping,
overdamping, zeroing and calibration errors are prerequisites
for optimal analysis of arterial pressure values and arterial
pressure waveform. Frequency response problems are
especially evident in pressure measurements. As with any
complex signal waveform, the arterial pressure waveform can
be constructed by combining sine waves at different
frequencies, amplitudes, and phases, as discussed previously
[11,12]. Frequency response is a measure of an instrument’s
ability to measure an oscillating signal accurately. A system is
said to be damped when some of the signal frequencies are
attenuated, and one must seek optimal damping. 85 mmHg does not result in improved tissue oxygenation and
regional perfusion [15,16]. Finally, optimal MAP goals may be
significantly greater in certain, subgroups including aged or
previously hypertensive individuals. Clinical scenario The knowledge of these four arterial pressure values, namely
SAD, DAP, MAP and PP, allows rational analysis of
haemodynamic status, especially in patients with circulatory
shock. This can be summarized in the following clinical
scenario, in which two elderly patients admitted to the
emergency room for circulatory shock and exhibiting the
same 80 mmHg SAP may require different management
because of markedly different haemodynamic profiles. In septic shock patients receiving controlled ventilation, a ∆PP
threshold value of 13% allowed discrimination between
responders (∆PP ≥13%) and nonresponders (∆PP <13%) to
volume resuscitation with high positive and negative predictive
values [25]. Moreover, the higher the ∆PP was at baseline, the
greater the increase in CO in response to fluid infusion [25]. Furthermore, the decrease in ∆PP associated with fluid
infusion was correlated with the increase in CO. Thus, ∆PP
may be helpful not only in predicting but also in monitoring the
haemodynamic effects of volume expansion. It must be noted
that neither baseline mRAP nor baseline pulmonary artery
occlusion pressure predicted the haemodynamic response to
volume infusion in that study [25], which confirms the poor
reliability of filling pressures in detecting fluid responsiveness
[26]. Similar results were reported in patients mechanically
ventilated for acute respiratory distress syndrome [27], in
cardiac surgery patients [28,29] and in a general population of
critically ill patients [30]. Let us define patient A as having 35 mmHg DAP and patient
B as having 60 mmHg DAP. Despite similar SAP, the two
patients differ markedly in terms of the steady component of
arterial pressure (MAP = 50 mmHg in patient A; MAP =
67 mmHg in patient B) and the pulsatile component of arterial
pressure (PP = 55 mmHg in patient A; PP = 20 mmHg in
patient B). It is intuitive that patient A requires urgent and
aggressive therapy to increase the markedly low MAP (in
order to prevent vital organ hypoperfusion) and DAP (to
prevent myocardial ischaemia). It is likely that vascular tone is
reduced in patient A and that vasopressor therapy is urgently
required. In patient B, the salient feature is the markedly
decreased PP. Given the advanced age of the patient, the
unexpected finding of a low PP strongly suggests that the SV
is dramatically reduced. This implies that fluid challenge
and/or inotropic support may be required. New
real-time
haemodynamic
monitoring
devices
automatically calculate and continuously display ∆PP values. Informative value of systolic and diastolic arterial
pressures As discussed
above, and for a given MAP, increased arterial stiffness also
tends to be associated with lower DAP (and higher SAP as
well). According to the classic MAP empirical formula, and for
a given MAP, an increase in arterial stiffness increases SAP
twofold more than it decreases DAP. Finally, from a beat-to- 603 Critical Care December 2005 Vol 9 No 6
Lamia et al. beat point of view, prolonged diastolic time is associated with
lower DAP and shorter diastolic time with higher DAP. as a marker of the degree of haemodynamic response to fluid
loading [25]. The ∆PP is calculated as the difference between
the maximal (PPmax) and the minimal (PPmin) values of PP
over a single respiratory cycle, divided by the average of the
two values, and expressed as a percentage (Fig. 1): ∆PP (%) =
(PPmax – PPmin)/([PPmax + PPmin]/2) × 100. Respiratory variations in arterial pressure
Background Analysis of respiratory changes in SAP (∆SAP) has also been
proposed as a marker of fluid responsiveness [21,22]. However, ∆SAP depends not only on changes in SV but also
on the cyclic direct effects of intrathoracic pressure on the
thoracic aorta wall [31]. Therefore, significant ∆SAP can
theoretically be observed in nonresponding patients. Accordingly, ∆SAP have been shown to be slightly less
valuable than ∆PP in detecting volume responsiveness
[25,28,29]. ∆SAP is useful in settings where ∆PP monitoring
is not available, given its superiority over static indices of
preload in assessing preload reserve [25,29]. In patients receiving mechanical ventilation, the magnitude of
the ventilatory cyclic changes in arterial pressure has been
proposed as a marker of the degree of hypovolaemia [21]
and of volume responsiveness [22-24]. The rationale under-
pinning the use of such a marker is based on the hypothesis
that the degree of heart–lung interaction is mainly related to
the presence of cardiac preload reserve. It is beyond the
scope of this review to describe the precise mechanisms
involved, which are detailed in previous reviews [23,24]. Briefly, mechanical ventilation should result in significant
changes in left ventricular SV only if both ventricles have
some preload reserve [23,24]. Because a significant haemo-
dynamic response to fluid should occur only under biventricular
preload dependent conditions, it has been logically
postulated that the magnitude of cyclic changes in SV should
correlate with the degree of fluid responsiveness [23,24]. It has been proposed that an end-expiratory pause should be
performed to separate the inspiratory increase in SAP (∆up,
not always due to an increase in SV) and the expiratory
decrease in SAP (∆down). The ∆down component reflects
the expiratory decrease in left ventricular SV [21]. In patients
with septic shock, a baseline ∆down threshold value of
5 mmHg was demonstrated to distinguish responders from
nonresponders to fluid administration better than static
markers of cardiac preload [22]. The ∆up component reflects
the inspiratory increase in systolic pressure, which may result
from numerous factors: increases in left ventricular SV related
to the increase in LV preload (squeezing of blood out of
alveolar vessels); increases in left ventricular SV related to a Limitations In cases in which it is difficult to interpret the respiratory
changes in arterial pressure, it is important to keep in mind that
increases in SV or of its surrogates, such as PP [15], during a
passive leg raising manoeuvre can be useful to identify patients
who are able to respond to volume infusion [24]. Although the utility of indices related to respiratory changes in
arterial pressure to detect preload sensitivity and thus volume
responsiveness
is
indisputable
in
patients
receiving
mechanical ventilation, some limitations must be borne in
mind. First, these indices cannot be used in patients with
spontaneous breathing activity and/or with arrhythmias. Second, it may be hypothesized that, in patients with low lung
compliance, the decreased transmission of alveolar pressure
to the intrathoracic compartment could result in low ∆PP,
even in cases of preload responsiveness. However, high ∆PP Pulse contour analysis The area under the systolic part of the arterial pressure curve
is considered proportional to SV, at least at the aortic level. Using specific peripheral arterial catheters connected to a
computer, it is possible to record the area of the systolic part
of the arterial pressure curve and therefore to monitor SV,
provided that the system has knowledge of the factor of
proportionality between SV and the specific curve area. This
factor can be determined if SV has been measured by an
independent method and stored in memory. As a third limitation, de Backer and coworkers [37] recently
reported that ∆PP could not predict fluid responsiveness in
patients with tidal volume below 8 ml/kg. Others have
challenged this viewpoint by arguing that in patients with
acute lung injury (in whom reduced tidal volume is
recommended), low lung compliance is associated with
cyclic changes in both transpulmonary pressure and
intrathoracic pressure still high enough for ∆PP to keep its
ability to predict fluid responsiveness [38]. The PiCCO™ device (Pulsion Medical Systems, Munich,
Germany) uses the arterial pulse contour method (calibration
with transpulmonary thermodilution) and continuously measures
and displays stroke volume variation (SVV), which represents
the variation in pulse contour SV over a floating period of a
few seconds. The LidCO™/PulseCO™ system (LidCO,
Cambridge, UK) also uses pulse contour analysis to estimate
SV (calibration with lithium dilution) and to calculate and
display SVV. It has been demonstrated that SVV (as a marker
of respiratory variation in SV) could predict fluid responsive-
ness in patients receiving mechanical ventilation [32-36]. Finally, changes in vasomotor tone may modify pulse wave
amplification characteristics both by modifying the sites at
which pressure wave is reflected and by affecting pulse wave
velocity. This may alter the relationship between aortic PP
and peripheral PP, and the resulting effect on ∆PP remains to
established. Respiratory changes in arterial pressure in a mechanically ventilated patient. The pulse pressure (PP; systolic minus diastolic pressure) is minimal
(PPmin) three heart beats after its maximal value (PPmax). The respiratory changes in pulse pressure (∆PP) can be calculated as the difference
between PPmax and PPmin, divided by the mean of the two values, and expressed as a percentage: ∆PP (%) = 100 × (PPmax – PPmin)/
([PPmax + PPmin]/2). In this case, the high value of ∆PP (30%) suggests that the patient would be potentially responsive to volume resuscitation. decrease in left ventricular afterload; and increases in extra-
mural aortic pressure related to the rise in intrathoracic pressure. may be observed in patients with severe acute lung injury
(and thus low lung compliance) [27]. Importantly, low lung
compliance is generally associated with high alveolar
pressures, even in the case of reduced tidal volume (see
below). As a result, despite reduced pressure transmission, the
respiratory changes in intrathoracic pressure should remain
significant, thus leading to a certain amount of PP variation in
preload responsive patients. Overall, the potential role of lung
compliance on ∆PP thus remains to be documented. Respiratory changes in pulse pressure Respiratory changes in pulse pressure
The arterial PP is directly proportional to left ventricular SV
and inversely related to compliance of the arterial system. Assuming that arterial compliance does not change during a
mechanical breath, respiratory changes in left ventricular SV
should be reflected by respiratory changes in peripheral PP
(∆PP). Accordingly, the magnitude of ∆PP has been proposed 604 Available online http://ccforum.com/content/9/6/601 Figure 1 References Kramer A, Zygun D, Hawes H, Easton P, Ferland A: Pulse pres-
sure variation predicts fluid responsiveness following coro-
nary artery bypass surgery. Chest 2004, 126:1563-1568. 7. O’Rourke MF: Ascending aortic pressure wave indices and
cardiovascular disease. Am J Hypertens 2004, 17:721-723. 30. Vieillard-Baron A, Chergui K, Rabiller A, Peyrouset O, Page B,
Beauchet A, Jardin F: Superior vena caval collapsibility as a
gauge of volume status in ventilated septic patients. Intensive
Care Med 2004, 30:1734-1739. yp
8. Sesso HD, Stampfer MJ, Rosner B, Hennekens CH, Gaziano JM,
Manson JAE, Glynn RJ: Systolic and diastolic blood pressure,
pulse pressure and mean arterial pressure as predictors of
cardiovascular risk in men. Hypertension 2000, 36:801-807. 31. Denault YD, Gasior TA, Gorcsan III, J Mandarino WA, Deneault
LG, Pinsky MR: Determinants of aortic pressure variation
during positive-pressure ventilation in man. Chest 1999, 116:
176-186. yp
,
9. Michard F, Teboul JL, Richard C, Lecarpentier Y, Chemla D: Arte-
rial pressure monitoring in septic shock. Intensive Care Med
2003, 29:659. 32. Berkenstadt H, Margalit N, Hadani M Friedman Z, Segal E, Villa Y,
Perel A: Stroke volume variation as a predictor of fluid respon-
siveness in patients undergoing brain surgery. Anesth Analg
2001, 92:984-989. ,
10. Berne RM, Levy MN: The arterial system. In Physiology. Edited
by Berne RM, Levy MN. St Louis: Mosby Inc.; 1998:415-428. Ch b
RL
P
l
f
I
P i
i l
d y
y
y
11. Chatburn RL: Principles of measurement. In Principles and
Practice of Intensive Care Monitoring. Edited by Tobin MJ. New
York: Mc Graw-Hill; 1997:45-61. 33. Reuter DA, Felbinger TW, Schmidt C, Kilger E, Goedje O, Lamm
P, Goetz AE: Stroke volume variations for assessment of
cardiac responsiveness to volume loading in mechanically
ventilated patients after cardiac surgery. Intensive Care Med
2002, 28:392-398. 12. Fessler HE, Shade D: Measurement of vascular pressure. In
Principles and Practice of Intensive Care Monitoring. Edited by
Tobin MJ. New York: McGraw-Hill; 1997:91-106. 13. Dellinger RP, Carlet JM, Masur H, Gerlach H, Calandra T, Cohen J,
Gea-Banacloche J, Keh D, Marshall JC, Parker MM, et al.: Surviv-
ing Sepsis Campaign guidelines for management of severe
sepsis and septic shock. Crit Care Med 2004, 32:858-873. 34. Reuter DA, Kirchner A, Felbinger TW, Weis FC, Kilger E, Lamm P,
Goetz AE. Usefulness of left ventricular stroke volume varia-
tion to assess fluid responsiveness in patients with reduced
cardiac function. References 1. Chobanian AV, Bakris GL, Cushman WC, Green LA, Izzo JL,
Jones DW, Materson BJ, Oparil S, Wright JT, Roccella EJ, and the
National High Blood Pressure Education Program Coordinating
Committee: Seventh Report of the Joint National Committee
on Prevention, Detection, Evaluation, and Treatment of High
Blood Pressure. Hypertension 2003, 42:1206-1252. 24. Teboul JL, Monnet X, Richard C: Arterial pulse pressure varia-
tion during positive pressure ventilation and passive leg
raising. In Functional Hemodynamic Monitoring. Edited by Pinsky
MR, Payen D. Berlin: Springer-Verlag; 2004:331-343. y
MR, Payen D. Berlin: Springer-Verlag; 2004:331-343. Mi h
d F B
S Ch
l
D A
l N M
A 25. Michard F, Boussat S, Chemla D Anguel N, Mercat A, Lecarpen-
tier Y, Richard C, Pinsky MR, Teboul JL: Relation between respi-
ratory changes in arterial pulse pressure and fluid
responsiveness in septic patients with acute circulatory
failure. Am J Respir Crit Care Med 2000, 162:134-138. yp
,
2. Darne B, Girerd X, Safar M, Cambien F, Guize L: Pulsatile versus
steady component of blood pressure: a cross-sectional and
prospective analysis of cardiovascular mortality. Hypertension
1989, 13:392-400. 3. Nichols WW, O’Rourke M: Contours of pressure and flow
waves in arteries. In McDonald’s Blood Flow in Arteries: Theo-
retical, Experimental and Clinical principles, 4th ed. Edited by
Nichols WW, O’Rourke M. London: Oxford University Press;
1998:170-200. p
26. Michard F, Teboul JL: Predicting fluid responsiveness in ICU
patients: a critical analysis of the evidence. Chest 2002, 121:
2000-2008. 27. Michard F, Chemla D, Richard C, Wysocki M, Pinsky MR, Lecar-
pentier Y, Teboul JL: Clinical use of respiratory changes in arte-
rial pressure to monitor the hemodynamic effects of PEEP. Am J Respir Crit Care Med 1999, 159:935-939. 4. Milnor WR: Hemodynamics. Baltimore: William and Wilkins; 1992. C
C
C
S
C 5. Chemla D, Hebert JL, Coirault C, Zamani K, Suard I, Colin P,
Lecarpentier Y: Total arterial compliance estimated by the
stroke volume-to-aortic pulse pressure ratio in humans. Am J
Physiol Heart Circ Physiol 1998, 274:H500-H505. p
28. Bendjelid K, Suter PM, Romand JA: The respiratory change in
preejection period: a new method to predict fluid responsive-
ness. J Appl Physiol 2004, 96:337-342. y
y
,
6. Murgo JP, Westerhof N, Giolma JP, Altobelli SA: Aortic imput
impedance in normal man: relationships to pressure wave-
form. Circulation 1980, 62:105-115. pp
y
29. Conclusion In critically ill patients monitored with an arterial catheter, the
arterial pressure signal provides the clinician with information
that is helpful in decision making. Taking into consideration all 605 Critical Care December 2005 Vol 9 No 6
Lamia et al. of the four arterial pressure values (SAP, DAP, MAP and PP)
helps one to define haemodynamic status. In addition,
calculation of the respiratory variation in arterial pressure
permits reliable prediction of volume responsiveness in
patients who are receiving mechanical ventilation. Finally,
large-scale studies are needed to test the potential benefits
of incorporating ∆PP and/or SVV into protocols for the
management of haemodynamically unstable patients. 18. Kelly RP, Hayward CS, Avolio AP, O’Rourke MF: Non-invasive
determination of age-related changes in the human arterial
pulse. Circulation 1989, 80:1652-1659. 19. Franklin SS, Gustin W, Wong ND, Larson MG, Weber MA,
Kannel WB, Levy D: Hemodynamic patterns of age-related
changes in blood pressure. The Framingham Heart Study. Cir-
culation 1997, 96:308-315. 20. McEniery CM, Wallace YS, Maki-Petaja K, McDonnell B, Sharman
JE Retallick C, Franklin SS, Brown MJ, Lloyd RC, Cockroft JR, et
al.: Increased stroke volume and aortic stiffness contribute to
isolated systolic hypertension in young adults. Hypertension
2005, 46:221-226. 21. Perel A, Pizov R, Cotev S: Systolic blood pressure variation is a
sensitive indicator of hypovolemia in ventilated dogs subjected
to graded hemorrhage. Anesthesiology 1987, 67:498-502. Competing interests J-LT is a member of the Medical Advisory Board of Pulsion
Medical Systems (Germany). BL, DC and CR declare that
they have no competing interests. J-LT is a member of the Medical Advisory Board of Pulsion
Medical Systems (Germany). BL, DC and CR declare that
they have no competing interests. gy
22. Tavernier B, Makhotine O, Lebuffe G, Dupont J, Scherpereel P:
Systolic pressure variation as a guide to fluid therapy in
patients with sepsis-induced hypotension. Anesthesiology
1998, 89:1313-1321. ,
23. Michard F, Teboul JL: Using heart-lung interactions to assess
fluid responsiveness during mechanical ventilation. Crit Care
2000, 4:282-289. References Crit Care Med 2003, 31:1399-1404. 14. Hollenberg SM, Ahrens TS, Annane D, Astiz ME, Chalfin DB, Dasta
JF, Heard SO, Martin C, Napolitano LM, Susla GM, et al.: Practice
parameters for hemodynamic support of sepsis in adult
patients: 2004 update. Crit Care Med 2004, 32:1928-1948. 35. Rex S, Brose S, Metzelder S, Huneke R, Schalte G, Autschbach R,
Rossaint R, Buhre W: Prediction of fluid responsiveness in
patients during cardiac surgery. Br J Anaesth 2004, 93:782-788. 36
M
G C
T M C
L S
j S C
C M
t f SM 36. Marx G, Cope T, McCrossan L, Swaraj S, Cowan C, Mostafa SM,
Wenstone R, Leuwer M: Assessing fluid responsiveness by
stroke volume variation in mechanically ventilated patients
with severe sepsis. Eur J Anaesthesiol 2004, 21:132-138. 15. LeDoux D, Astiz ME, Carpati CM, Rackow EC: Effects of perfu-
sion pressure on tissue perfusion in septic shock. Crit Care
Med 2000, 28:2729-2732. 16. Bourgoin A, Leone M, Delmas A, Garnier F, Albanese J, Martin C:
Increasing mean arterial pressure in patients with septic
shock: effects on oxygen variables and renal function. Crit
Care Med 2005, 33:780-786. p
,
37. De Backer D, Heenen S, Piagnerelli M, Koch M, Vincent JL: Pulse
pressure variations to predict fluid responsiveness: influence
of tidal volume. Intensive Care Med 2005, 31:517-523. ,
17. Boulain T, Achard JM, Teboul JL, Richard C, Perrotin D, Ginies G:
Changes in BP induced by passive leg raising predict response to
fluid loading in critically ill patients. Chest 2002, 121:1245-1252. 38. Teboul JL, Vieillard-Baron A: Clinical value of pulse pressure
variations in ARDS. Still an unresolved issue? Intensive Care
Med 2005, 31:499-500. 606
|
https://openalex.org/W2072108972
|
https://www.research-collection.ethz.ch/bitstream/20.500.11850/11213/2/Aaron_11213.pdf
|
English
| null |
Search for excited electrons in ep collisions at HERA
|
Physics letters. B
| 2,008
|
cc-by
| 10,908
|
ETH Library Journal Article Author(s):
H1 Collaboration; Aaron, Francise D.; Berger, Niklaus; Del Degan, Marc; Grab, Christoph; Leibenguth, Guillaume; Sauter, Michel;
Zimmermann, T.; et al. Originally published in:
Physics Letters B 666(2), https://doi.org/10.1016/j.physletb.2008.07.014 0370-2693/$ – see front matter © 2008 Elsevier B.V. All rights reserved.
doi:10.1016/j.physletb.2008.07.014 Originally published in: This page was generated automatically upon download from the ETH Zurich Research Collection. For more information, please consult the Terms of use. This page was generated automatically upon download from the ETH Zurich Research Collection. For more information, please consult the Terms of use. Physics Letters B 666 (2008) 131–139 F.D. Aaron e,1, C. Alexa e, V. Andreev y, B. Antunovic k, S. Aplin k, A. Asmone ag, A. Astvatsatourov d, A. Bacchetta k,
S. Backovic ad, A. Baghdasaryan al, P. Baranov y,, E. Barrelet ac, W. Bartel k, M. Beckingham k, K. Begzsuren ai,
O. Behnke n, A. Belousov y, N. Berger an, J.C. Bizot aa, M.-O. Boenig h, V. Boudry ab, I. Bozovic-Jelisavcic b, J. Bracinik c,
G. Brandt k, M. Brinkmann k, V. Brisson aa, D. Bruncko p, A. Bunyatyan m,al, G. Buschhorn z, L. Bystritskaya x,
A.J. Campbell k, K.B. Cantun Avila v, F. Cassol-Brunner u, K. Cerny af, V. Cerny p,2, V. Chekelian z, A. Cholewa k,
J.G. Contreras v, J.A. Coughlan f, G. Cozzika j, J. Cvach ae, J.B. Dainton r, K. Daum ak,3, M. Deák k, Y. de Boer k,
B. Delcourt aa, M. Del Degan an, J. Delvax d, A. De Roeck k,4, E.A. De Wolf d, C. Diaconu u,∗, V. Dodonov m,
A. Dossanov z, A. Dubak ad,5, G. Eckerlin k, V. Efremenko x, S. Egli aj, A. Eliseev y, E. Elsen k, S. Essenov x,
A. Falkiewicz g, P.J.W. Faulkner c, L. Favart d, A. Fedotov x, R. Felst k, J. Feltesse j,6, J. Ferencei p, L. Finke k,
M. Fleischer k, A. Fomenko y, E. Gabathuler r, J. Gayler k, S. Ghazaryan al, A. Glazov k, I. Glushkov am, L. Goerlich g,
M. Goettlich l, N. Gogitidze y, M. Gouzevitch ab, C. Grab an, T. Greenshaw r, B.R. Grell k, G. Grindhammer z, S. Habib l,
D. Haidt k, M. Hansson t, C. Helebrant k, R.C.W. Henderson q, H. Henschel am, G. Herrera w, M. Hildebrandt aj,
K.H. Hiller am, D. Hoffmann u, R. Horisberger aj, A. Hovhannisyan al, T. Hreus d,8, M. Jacquet aa, M.E. Janssen k,
X. Janssen d, V. Jemanov l, L. Jönsson t, D.P. Johnson d,, A.W. Jung o, H. Jung k, M. Kapichine i, J. Katzy k, I.R. Kenyon
C. Kiesling z, M. Klein r, C. Kleinwort k, T. Klimkovich, T. Kluge r, A. Knutsson k, R. Kogler z, V. Korbel k, P. Kostka am,
M. Kraemer k, K. Krastev k, J. Kretzschmar r, A. Kropivnitskaya x, K. Krüger o, K. Kutak k, M.P.J. Landon s, W. Lange am
G. Laštoviˇcka-Medin ad, P. Laycock r, A. Lebedev y, G. Leibenguth an, V. Lendermann o, S. Levonian k, G. Li aa, K. Lipka
A. Liptaj z, B. List l, J. List k, N. Loktionova y, R. Lopez-Fernandez w, V. Lubimov x, A.-I. Lucaci-Timoce k, L. Lytkin m,
A. Makankine i, E. Malinovski y, P. Marage d, Ll. Marti k, H.-U. Martyn a, S.J. Maxfield r, A. Mehta r, K. Meier o,
A.B. Meyer k, H. Meyer k, H. Meyer ak, J. Meyer k, V. Michels k, S. Mikocki g, I. Milcewicz-Mika g, F. Moreau ab,
A. Morozov i, J.V. Morris f, M.U. Mozer d, M. Mudrinic b, K. Müller ao, P. Murín p,8, K. Nankov ah, B. Naroska l,,
Th. Naumann am, P.R. Newman c, C. Niebuhr k, A. Nikiforov k, G. Nowak g, K. Nowak ao, M. Nozicka k, B. Olivier z,
J.E. Olsson k, S. Osman t, D. Ozerov x, V. Palichik i, I. Panagoulias k,9,10, M. Pandurovic b, Th. Papadopoulou k,9,10,
C. Pascaud aa, G.D. Patel r, O. Pejchal af, H. Peng k, E. Perez j,4, A. Petrukhin x, I. Picuric ad, S. Piec am, D. Pitzl k,
R. Plaˇcakyt ˙e k, R. Polifka af, B. Povh m, T. Preda e, V. Radescu k, A.J. Rahmat r, N. Raicevic ad, A. Raspiareza z,
T. Ravdandorj ai, P. Reimer ae, E. Rizvi s, P. Robmann ao, B. Roland d, R. Roosen d, A. Rostovtsev x, M. Rotaru e,
J.E. Ruiz Tabasco v, Z. Rurikova k, S. Rusakov y, D. Salek af, F. Salvaire k, D.P.C. Sankey f, M. Sauter an, E. Sauvan u,
S. Schmidt k, S. Schmitt k, C. Schmitz ao, L. Schoeffel j, A. Schöning k,ao, H.-C. Schultz-Coulon o, F. Sefkow k,
R.N. Shaw-West c, I. Sheviakov y, L.N. Shtarkov y, S. Shushkevich z, T. Sloan q, I. Smiljanic b, P. Smirnov y, Y. Soloviev y
P. Sopicki g, D. South h, V. Spaskov i, A. Specka ab, Z. Staykova k, M. Steder k, B. Stella ag, U. Straumann ao, D. Sunar d,
T. Sykora d, V. Tchoulakov i, G. Thompson s, P.D. Thompson c, T. Toll k, F. Tomasz p, T.H. Tran aa, D. Traynor s,
T.N. Trinh u, P. Truöl ao, I. Tsakov ah, B. Tseepeldorj ai,11, I. Tsurin am, J. Turnau g, E. Tzamariudaki z, K. Urban o,
A. Valkárová af, C. Vallée u, P. Van Mechelen d, A. Vargas Trevino k, Y. Vazdik y, S. Vinokurova k, V. Volchinski al,
D. Wegener h, M. Wessels k, Ch. Wissing k, E. Wünsch k, V. Yeganov al, J. Žáˇcek af, J. Zálešák ae, Z. Zhang aa,
A. Zhelezov x, A. Zhokin x, Y.C. Zhu k, T. Zimmermann an, H. Zohrabyan al, F. Zomer aa c School of Physics and Astronomy, University of Birmingham, Birmingham, UK 13 e National Institute for Physics and Nuclear Engineering (NIPNE), Bucharest, Romania b Vinca Institute of Nuclear Sciences, Belgrade, Serbia H1 Collaboration F.D. Aaron e,1, C. Alexa e, V. Andreev y, B. Antunovic k, S. Aplin k, A. Asmone ag, A. Astvatsatourov d, A. Bacchetta k,
S. Backovic ad, A. Baghdasaryan al, P. Baranov y,, E. Barrelet ac, W. Bartel k, M. Beckingham k, K. Begzsuren ai,
O. Behnke n, A. Belousov y, N. Berger an, J.C. Bizot aa, M.-O. Boenig h, V. Boudry ab, I. Bozovic-Jelisavcic b, J. Bracinik c,
G. Brandt k, M. Brinkmann k, V. Brisson aa, D. Bruncko p, A. Bunyatyan m,al, G. Buschhorn z, L. Bystritskaya x,
A.J. Campbell k, K.B. Cantun Avila v, F. Cassol-Brunner u, K. Cerny af, V. Cerny p,2, V. Chekelian z, A. Cholewa k,
J.G. Contreras v, J.A. Coughlan f, G. Cozzika j, J. Cvach ae, J.B. Dainton r, K. Daum ak,3, M. Deák k, Y. de Boer k,
B. Delcourt aa, M. Del Degan an, J. Delvax d, A. De Roeck k,4, E.A. De Wolf d, C. Diaconu u,∗, V. Dodonov m,
A. Dossanov z, A. Dubak ad,5, G. Eckerlin k, V. Efremenko x, S. Egli aj, A. Eliseev y, E. Elsen k, S. Essenov x,
A. Falkiewicz g, P.J.W. Faulkner c, L. Favart d, A. Fedotov x, R. Felst k, J. Feltesse j,6, J. Ferencei p, L. Finke k,
M. Fleischer k, A. Fomenko y, E. Gabathuler r, J. Gayler k, S. Ghazaryan al, A. Glazov k, I. Glushkov am, L. Goerlich g,
M. Goettlich l, N. Gogitidze y, M. Gouzevitch ab, C. Grab an, T. Greenshaw r, B.R. Grell k, G. Grindhammer z, S. Habib l,7,
D. Haidt k, M. Hansson t, C. Helebrant k, R.C.W. Henderson q, H. Henschel am, G. Herrera w, M. Hildebrandt aj,
K.H. Hiller am, D. Hoffmann u, R. Horisberger aj, A. Hovhannisyan al, T. Hreus d,8, M. Jacquet aa, M.E. Janssen k,
X. Janssen d, V. Jemanov l, L. Jönsson t, D.P. Johnson d,, A.W. Jung o, H. Jung k, M. Kapichine i, J. Katzy k, I.R. Kenyon c,
C. Kiesling z, M. Klein r, C. Kleinwort k, T. Klimkovich, T. Kluge r, A. Knutsson k, R. Kogler z, V. Korbel k, P. Kostka am,
M. Kraemer k, K. Krastev k, J. Kretzschmar r, A. Kropivnitskaya x, K. Krüger o, K. Kutak k, M.P.J. Landon s, W. Lange am,
G. Laštoviˇcka-Medin ad, P. Laycock r, A. Lebedev y, G. Leibenguth an, V. Lendermann o, S. Levonian k, G. Li aa, K. H1 Collaboration Lipka l,
A. Liptaj z, B. List l, J. List k, N. Loktionova y, R. Lopez-Fernandez w, V. Lubimov x, A.-I. Lucaci-Timoce k, L. Lytkin m,
A. Makankine i, E. Malinovski y, P. Marage d, Ll. Marti k, H.-U. Martyn a, S.J. Maxfield r, A. Mehta r, K. Meier o,
A.B. Meyer k, H. Meyer k, H. Meyer ak, J. Meyer k, V. Michels k, S. Mikocki g, I. Milcewicz-Mika g, F. Moreau ab,
A. Morozov i, J.V. Morris f, M.U. Mozer d, M. Mudrinic b, K. Müller ao, P. Murín p,8, K. Nankov ah, B. Naroska l,,
Th. Naumann am, P.R. Newman c, C. Niebuhr k, A. Nikiforov k, G. Nowak g, K. Nowak ao, M. Nozicka k, B. Olivier z,
J.E. Olsson k, S. Osman t, D. Ozerov x, V. Palichik i, I. Panagoulias k,9,10, M. Pandurovic b, Th. Papadopoulou k,9,10,
C. Pascaud aa, G.D. Patel r, O. Pejchal af, H. Peng k, E. Perez j,4, A. Petrukhin x, I. Picuric ad, S. Piec am, D. Pitzl k,
R. Plaˇcakyt ˙e k, R. Polifka af, B. Povh m, T. Preda e, V. Radescu k, A.J. Rahmat r, N. Raicevic ad, A. Raspiareza z,
T. Ravdandorj ai, P. Reimer ae, E. Rizvi s, P. Robmann ao, B. Roland d, R. Roosen d, A. Rostovtsev x, M. Rotaru e,
J.E. Ruiz Tabasco v, Z. Rurikova k, S. Rusakov y, D. Salek af, F. Salvaire k, D.P.C. Sankey f, M. Sauter an, E. Sauvan u,
S. Schmidt k, S. Schmitt k, C. Schmitz ao, L. Schoeffel j, A. Schöning k,ao, H.-C. Schultz-Coulon o, F. Sefkow k,
R.N. Shaw-West c, I. Sheviakov y, L.N. Shtarkov y, S. Shushkevich z, T. Sloan q, I. Smiljanic b, P. Smirnov y, Y. Soloviev y,
P. Sopicki g, D. South h, V. Spaskov i, A. Specka ab, Z. Staykova k, M. Steder k, B. Stella ag, U. Straumann ao, D. Sunar d,
T. Sykora d, V. Tchoulakov i, G. Thompson s, P.D. Thompson c, T. Toll k, F. Tomasz p, T.H. Tran aa, D. Traynor s,
T.N. Trinh u, P. Truöl ao, I. Tsakov ah, B. Tseepeldorj ai,11, I. Tsurin am, J. Turnau g, E. Tzamariudaki z, K. Urban o,
A. Valkárová af, C. Vallée u, P. Van Mechelen d, A. Vargas Trevino k, Y. Vazdik y, S. Vinokurova k, V. Volchinski al,
D. Wegener h, M. Wessels k, Ch. Wissing k, E. Wünsch k, V. H1 Collaboration Yeganov al, J. Žáˇcek af, J. Zálešák ae, Z. Zhang aa,
A. Zhelezov x, A. Zhokin x, Y.C. Zhu k, T. Zimmermann an, H. Zohrabyan al, F. Zomer aa
a I Ph
ik li
h
I
tit t d
RWTH A
h
G
12 öning k,ao, H.-C. Schultz-Coulon o, F. Sefkow k, , M. Steder k, B. Stella ag, U. Straumann ao, D. Sun a I. Physikalisches Institut der RWTH, Aachen, Germany 12 a I. Physikalisches Institut der RWTH, Aachen, Germany 12 e National Institute for Physics and Nuclear Engineering (NIPNE), Bucharest, Romania g Institute for Nuclear Physics, Cracow, Poland 15 H1 Collaboration / Physics Letters B 666 (2008) 131–139 132 h Institut für Physik, TU Dortmund, Dortmund, Germany 12
i Joint Institute for Nuclear Research, Dubna, Russia
j CEA, DSM/DAPNIA, CE-Saclay, Gif-sur-Yvette, France
k DESY, Hamburg, Germany
l Institut für Experimentalphysik, Universität Hamburg, Hamburg, Germany 12
m Max-Planck-Institut für Kernphysik, Heidelberg, Germany
n Physikalisches Institut, Universität Heidelberg, Heidelberg, Germany 12
o Kirchhoff-Institut für Physik, Universität Heidelberg, Heidelberg, Germany 12
p Institute of Experimental Physics, Slovak Academy of Sciences, Košice, Slovak Republic 16
q Department of Physics, University of Lancaster, Lancaster, UK 13
r Department of Physics, University of Liverpool, Liverpool, UK 13
s Queen Mary and Westfield College, London, UK 13
t Physics Department, University of Lund, Lund, Sweden 17
u CPPM, CNRS/IN2P3, Univ. H1 Collaboration Mediterranee, Marseille, France
v Departamento de Fisica Aplicada, CINVESTAV, Mérida, Yucatán, Mexico 18
w Departamento de Fisica, CINVESTAV, Mexico 18
x Institute for Theoretical and Experimental Physics, Moscow, Russia
y Lebedev Physical Institute, Moscow, Russia 19
z Max-Planck-Institut für Physik, München, Germany
aa LAL, Université Paris-Sud, CNRS/IN2P3, Orsay, France
ab LLR, Ecole Polytechnique, IN2P3-CNRS, Palaiseau, France
ac LPNHE, Universités Paris VI and VII, IN2P3-CNRS, Paris, France
ad Faculty of Science, University of Montenegro, Podgorica, Montenegro 19
ae Institute of Physics, Academy of Sciences of the Czech Republic, Praha, Czech Republic 20
af Faculty of Mathematics and Physics, Charles University, Praha, Czech Republic 20
ag Dipartimento di Fisica, Università di Roma Tre and INFN Roma 3, Roma, Italy
ah Institute for Nuclear Research and Nuclear Energy, Sofia, Bulgaria 19
ai Institute of Physics and Technology of the Mongolian Academy of Sciences, Ulaanbaatar, Mongolia
aj Paul Scherrer Institut, Villigen, Switzerland
ak Fachbereich C, Universität Wuppertal, Wuppertal, Germany
al Yerevan Physics Institute, Yerevan, Armenia
am DESY, Zeuthen, Germany
an Institut für Teilchenphysik, ETH, Zürich, Switzerland 21
ao Physik-Institut der Universität Zürich, Zürich, Switzerland 21 i Joint Institute for Nuclear Research, Dubna, Russia x Institute for Theoretical and Experimental Physics, Moscow, Russia a b s t r a c t Article history:
Received 29 May 2008
Received in revised form 8 July 2008
Accepted 8 July 2008
Available online 11 July 2008
Editor: W.-D. Schlatter A search for excited electrons is performed using the full e±p data sample collected by the H1
experiment at HERA, corresponding to a total luminosity of 475 pb−1. The electroweak decays of excited
electrons e∗→eγ , e∗→eZ and e∗→νW with subsequent hadronic or leptonic decays of the W and Z
bosons are considered. No evidence for excited electron production is found. Mass dependent exclusion
limits on e∗production cross sections and on the ratio f /Λ of the coupling to the compositeness scale
are derived within gauge mediated models. These limits extend the excluded region compared to previous
excited electron searches. The e∗production via contact interactions is also addressed for the first time
in ep collisions. © 2008 Elsevier B.V. All rights reserved. © 2008 Elsevier B.V. All rights reserved. 1. Introduction * Corresponding author. E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). 1 Also at Faculty of Physics, University of Bucharest, Bucharest, Romania. 2 Also at Comenius University, Bratislava, Slovak Republic. 3 Also at Rechenzentrum, Universität Wuppertal, Wuppertal, Germany. 4 Also at CERN, Geneva, Switzerland. 5 Also at Max-Planck-Institut für Physik, München, Germany. 6 Also at DESY and University Hamburg, Helmholtz Humboldt Research Award. 7 Supported by a scholarship of the World Laboratory Björn Wiik Research Project. 8 Also at University of P.J. Šafárik, Košice, Slovak Republic. 9 Also at Physics Department, National Technical University, Zografou Campus,
GR-15773 Athens, Greece. 10 This project is co-funded by the European Social Fund (75%) and National Re-
sources (25%)—(EPEAEK II)–PYTHAGORAS II. 11 Also at Ulaanbaatar University, Ulaanbaatar, Mongolia. 12 Supported by the Bundesministerium für Bildung und Forschung, FRG, under
contract numbers 05 H1 1GUA /1, 05 H1 1PAA /1, 05 H1 1PAB /9, 05 H1 1PEA /6,
05 H1 1VHA /7 and 05 H1 1VHB /5. 13 Supported by the UK Science and Technology Facilities Council, and formerly by
the UK Particle Physics and Astronomy Research Council. 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and IWT and by Interuniversity
Attraction Poles Programme, Belgian Science Policy. 15 Partially Supported by Polish Ministry of Science and Higher Education, grant
PBS/DESY/70/2006. 16 Supported by VEGA SR grant No. 2/7062/27. fe
M
vi
ex
se
vi
te
fo
el
γ
17
18
19
20
pr
21
22
oth * Corresponding author. E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). The three-family structure and mass hierarchy of the known
fermions is one of the most puzzling characteristics of the Standard
Model (SM) of particle physics. Attractive explanations are pro-
vided by models assuming composite quarks and leptons [1]. The
existence of excited states of leptons and quarks is a natural con-
sequence of these models and their discovery would provide con-
vincing evidence of a new scale of matter. Electron22–proton in-
teractions at very high energies provide good conditions to search
for excited states of first generation fermions. For instance, excited
electrons (e∗) could be singly produced through the exchange of a
γ or a Z boson in the t-channel. E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). E-mail address: diaconu@cppm.in2p3.fr (C. Diaconu). 1 Also at Faculty of Physics, University of Bucharest, Bucharest, Romania. Also at Faculty of Physics, University of Bucharest, Bucharest, Romani
2 Also at Comenius University, Bratislava, Slovak Republic. 3. Simulation of signal and background processes The parton shower approach [14] is applied in order to sim-
ulate Quantum Chromodynamics (QCD) corrections in the initial
and final states. Hadronisation is performed using Lund string frag-
mentation as implemented in PYTHIA [14]. The COMPOS generator
uses the narrow width approximation (NWA) for the calculation
of the production cross section and takes into account the natural
width of the excited electron for the e∗decay. The NWA is valid
for e∗masses below 290 GeV and the couplings f /Λ relevant to
this analysis, as the total e∗width is less than 10% of the e∗mass. Following this model of gauge mediated (GM) interactions, sin-
gle e∗production in ep collisions may result from the t-channel
exchange of a γ or Z boson. Since the e∗is expected not to have
strong interactions, the present search is insensitive to
fs. The
produced e∗may decay into a lepton and an electroweak gauge
boson via e∗→eγ , e∗→νW and e∗→eZ. For a given e∗mass value
Me∗and assuming a numerical relation between f and f ′, the
e∗branching ratios are fixed and the production cross section de-
pends only on f /Λ. In most analyses the assumption is made that
the coupling parameters f and f ′ are of comparable strength and
only the relationships f = −f ′ and f = + f ′ are considered. In the
case f = −f ′, the excited electron does not couple to the pho-
ton and therefore the e∗production cross section at HERA is small. Therefore, only the case f = + f ′ is considered in this analysis. The Standard Model (SM) processes which may mimic the e∗
signal are QED Compton scattering, neutral current and charged
current (CC) deep-inelastic scattering and to a lesser extent photo-
production, lepton pair production and real W boson production. All SM processes are generated with at least 10 times the inte-
grated luminosity of the data sample. The RAPGAP [15] event generator, which implements the Born,
QCD Compton and Boson Gluon Fusion matrix elements, is used
to model NC DIS events. The QED radiative effects arising from
real photon emission from both the incoming and outgoing elec-
trons are simulated using the HERACLES [16] program. Direct and
resolved photoproduction of jets and prompt photon production
are simulated using the PYTHIA event generator. The simulation
is based on Born level hard scattering matrix elements with ra-
diative QED corrections. 1. Introduction (3 jμ = ηL ¯F ∗
LγμF L + η′
L ¯F LγμF L + η′′
L ¯F ∗
LγμF ∗
L + h.c. + (L →R). (3) (3) In this Letter a search for excited electrons using the complete
e±p HERA collider data of the H1 experiment is presented. Elec-
troweak decays into a SM lepton (e, νe) and a SM gauge boson (γ ,
W and Z) are considered and hadronic as well as leptonic decays
of the W and Z are analysed. Conventionally, the η factors are set to one for the left-handed
and to zero for the right-handed current. Conventionally, the η factors are set to one for the left-handed
and to zero for the right-handed current. Contact interactions may induce changes in the cross section
of neutral current (NC) deep-inelastic scattering (DIS) ep →eX. Searches for deviations from the SM cross section at the highest
squared momentum transfers Q 2 in NC DIS processes have ex-
cluded values of Λ between 1.6 TeV and 5.5 TeV, depending on
the chiral structure considered [9]. Contact interactions may also
mediate the resonant production of excited electrons in ep colli-
sions as well as their decays into an electron and a pair of SM
fermions. The e∗production and decay by both gauge and contact
interactions is also considered in this analysis. In this case the total
e∗production cross section σGM+CI is the sum of pure GM and CI
cross sections and of the interference between the two processes
[10]. For simplicity, the relative strength of gauge and contact inter-
actions are fixed by setting the parameters f and f ′ of the gauge
interaction to one. The ratio of the GM + CI and GM cross sec-
tions σGM+CI/σGM then depends only on Λ and on the e∗mass. For Me∗= 150 GeV and Λ = 1 TeV, σGM+CI/σGM is equal to 8.4,
but reduces to 1.3 for Λ = 4 TeV. Relative branching ratios of GM
and CI decays are determined by the e∗partial widths in each de-
cay channel [5]. In the sensitive domain of the present analysis
(Λ ≃4 TeV and 100 GeV < Me∗< 200 GeV), more than 95% of e∗
decays are gauge mediated. Therefore, only GM decay channels are
used for the present search. 1. Introduction The data are recorded at electron beam energy of 27.6 GeV and
proton beam energies of 820 GeV and 920 GeV, corresponding to
centre-of-mass energies √
s of 301 GeV and 319 GeV, respectively. The total integrated luminosity of the data is 475 pb−1. The data
comprise 184 pb−1 recorded in e−p collisions and 291 pb−1 in
e+p collisions, of which 35 pb−1 were recorded at √
s = 301 GeV. With a four-fold increase in statistics, this analysis supersedes the
result of the previous H1 search for excited electrons [2]. It com-
plements the search for excited neutrinos [3]. 2. Excited electron models In the present study a model [4–6] is considered in which ex-
cited fermions are assumed to have spin 1/2 and isospin 1/2. The
left-handed and right-handed components of the excited fermions
form weak iso-doublets F ∗
L and F ∗
R. Interactions between excited and ordinary fermions may be
mediated by gauge bosons, as described by the effective Lagrangian
[5,6]: LGM =
1
2Λ
¯F ∗
Rσ μν
g f τ a
2 W a
μν + g′ f ′ Y
2 Bμν + gs fs
λa
2 Ga
μν
F L + h.c. (1) (1) 3. Simulation of signal and background processes Only the right-handed component of the excited fermion F ∗
R
is allowed to couple to light fermions, in order to protect the light
leptons from radiatively acquiring a large anomalous magnetic mo-
ment [7,8]. The matrix σ μν is the covariant bilinear tensor, W aμν,
Bμν and Gaμν are the field-strength tensors of the SU(2), U(1)
and SU(3)C gauge fields, τ a, Y and λa are the Pauli matrices, the
weak hypercharge operator and the Gell-Mann matrices, respec-
tively. The standard electroweak and strong gauge couplings are
denoted by g, g′ and gs, respectively. The parameter Λ has units
of energy and can be regarded as the compositeness scale which
reflects the range of the new confinement force. The constants f ,
f ′ and fs are coupling parameters associated to the three gauge
groups and are determined by the yet unknown composite dynam-
ics. Only the right-handed component of the excited fermion F ∗
R
is allowed to couple to light fermions, in order to protect the light
leptons from radiatively acquiring a large anomalous magnetic mo-
ment [7,8]. The matrix σ μν is the covariant bilinear tensor, W aμν, The Monte Carlo (MC) event generator COMPOS [11] is used for
the calculation of the e∗production cross section and to deter-
mine the signal detection efficiencies. It is based on the cross sec-
tion formulae for gauge mediated interactions [4,5]. Cross section
formulae for contact interaction production and for the interfer-
ence between contact and gauge interactions [10] have also been
incorporated into COMPOS. Only e∗decays via gauge mediated in-
teractions are simulated. Initial state radiation of a photon from
the incident electron is included using the Weizsäcker–Williams
approximation [12]. The proton parton densities are taken from
the CTEQ5L [13] parametrisation and are evaluated at the scale
Q 2. The parton shower approach [14] is applied in order to sim-
ulate Quantum Chromodynamics (QCD) corrections in the initial
and final states. Hadronisation is performed using Lund string frag-
mentation as implemented in PYTHIA [14]. The COMPOS generator
uses the narrow width approximation (NWA) for the calculation
of the production cross section and takes into account the natural
width of the excited electron for the e∗decay. The NWA is valid
for e∗masses below 290 GeV and the couplings f /Λ relevant to
this analysis, as the total e∗width is less than 10% of the e∗mass.
Q 2. 1. Introduction 3 2 Also at Comenius University, Bratislava, Slovak Republic. 3 Also at Rechenzentrum, Universität Wuppertal, Wuppertal, Germany. 4 Also at CERN, Geneva, Switzerland. 4 Also at CERN, Geneva, Switzerland. 5 Also at Max-Planck-Institut für Physik, München, Germany. 5 Also at Max-Planck-Institut für Physik, München, Germany. 6 Also at DESY and University Hamburg, Helmholtz Humboldt Research Award. 6 Also at DESY and University Hamburg, Helmholtz Humbold 7 Supported by a scholarship of the World Laboratory Björn Wiik Research Project. 7 Supported by a scholarship of the World Laboratory Björn 8 Also at University of P.J. Šafárik, Košice, Slovak Republic. 9 Also at Physics Department, National Technical University, Zografou Campus
GR-15773 Athens, Greece. 10 This project is co-funded by the European Social Fund (75%) and National Re-
sources (25%)—(EPEAEK II)–PYTHAGORAS II. 11 Also at Ulaanbaatar University, Ulaanbaatar, Mongolia. 17 Supported by the Swedish Natural Science Research Council. 18 Supported by CONACYT, México, grant 48778-F. 19 Supported by the Deutsche Forschungsgemeinschaft. 20 Supported by the Ministry of Education of the Czech Republic under the
projects LC527 and INGO-1P05LA259. 21 Supported by the Swiss National Science Foundation. Deceased. 22 In this Letter the term “electron” refers to both electron and positrons, if not
otherwise stated. 12 Supported by the Bundesministerium für Bildung und Forschung, FRG, under
contract numbers 05 H1 1GUA /1, 05 H1 1PAA /1, 05 H1 1PAB /9, 05 H1 1PEA /6,
05 H1 1VHA /7 and 05 H1 1VHB /5. 13 Supported by the UK Science and Technology Facilities Council, and formerly by
the UK Particle Physics and Astronomy Research Council. 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and IWT and by Interuniversity
Attraction Poles Programme, Belgian Science Policy. 14 Supported by FNRS-FWO-Vlaanderen, IISN-IIKW and IWT and by Interuniversity
Attraction Poles Programme Belgian Science Policy Attraction Poles Programme, Belgian Science Policy. 15 Partially Supported by Polish Ministry of Science and Higher Education, grant
PBS/DESY/70/2006. 15 Partially Supported by Polish Ministry of Science and Higher Education, grant
PBS/DESY/70/2006. 22 In this Letter the term “electron” refers to both electron and positrons, if not
otherwise stated. 16 Supported by VEGA SR grant No. 2/7062/27. 16 Supported by VEGA SR grant No. 2/7062/27. H1 Collaboration / Physics Letters B 666 (2008) 131–139 133 jμ = ηL ¯F ∗
LγμF L + η′
L ¯F LγμF L + η′′
L ¯F ∗
LγμF ∗
L + h.c. + (L →R). 3. Simulation of signal and background processes In RAPGAP and PYTHIA, jet production
from higher order QCD radiation is simulated using leading log- In addition to GM interactions, novel composite dynamics may
be visible as contact interactions (CI) between excited fermions
and SM quarks and leptons. Such interactions can be described by
the effective four-fermion Lagrangian [5]: LCI = 4π
2Λ2 jμ jμ, (2) where Λ is assumed to be the same parameter as in the La-
grangian (1) and jμ is the fermion current where Λ is assumed to be the same parameter as in the La-
grangian (1) and jμ is the fermion current H1 Collaboration / Physics Letters B 666 (2008) 131–139 134 arithmic parton showers and hadronisation is modelled with Lund
string fragmentation. The leading order MC prediction of NC DIS
and photoproduction processes with two or more high transverse
momentum jets is scaled by a factor of 1.2 to account for miss-
ing higher order QCD contributions in the MC generators [19,20]. Charged current DIS events are simulated using the DJANGO [17]
program, which includes first order leptonic QED radiative correc-
tions based on HERACLES. The production of two or more jets in
DJANGO is accounted for using the colour-dipole model [18]. Con-
tributions from elastic and quasi-elastic QED Compton scattering
are simulated with the WABGEN [21] generator. Contributions aris-
ing from the production of W bosons and multi-lepton events are
modelled using the EPVEC [22] and GRAPE [23] event generators,
respectively. the LAr calorimeter. The hadronic energy within a distance in
the pseudorapidity–azimuth (η–φ) plane R =
η2 + φ2 < 0.5
around the electron (photon) is required to be below 3% of the
electron (photon) energy. Furthermore, each electron (photon) can-
didate must be isolated from jets by a minimum distance in
pseudorapidity–azimuth of R > 0.5 to any jet axis. The electron
and photon energy and angular direction are measured by the
calorimeters. Muon identification is based on a track measured in
the inner tracking systems associated with signals in the muon
detectors [31]. A muon candidate is required to have no more
than 5 GeV deposited in a cylinder, centred on the muon track
direction, of radius 25 cm and 50 cm in the electromagnetic and
hadronic sections of the LAr calorimeter, respectively. 5.1. eγ resonance search The signature of the e∗→eγ decay channel consists of two
high P T isolated electromagnetic clusters. SM background arises
mainly from elastic and inelastic QED Compton events. Two iso-
lated electromagnetic clusters are required, each with transverse
momentum P T > 15 GeV and polar angle 5◦< θ < 130◦. No ex-
plicit electron and photon identification based on tracking condi-
tions is performed in order to retain a high selection efficiency. To reduce contributions from QED Compton processes, the sum of
the energies of the two electromagnetic clusters is required to be
greater than 110 GeV and the sum of their total transverse mo-
menta has to be larger than 75 GeV. After this selection, the SM background from elastic QED Comp-
ton events is smaller than that from inelastic QED Compton pro-
cesses. Since about half of the e∗production cross section is ex-
pected from elastic e∗production [4], the analysis is separated
into two parts. Events with a total hadronic energy Eh < 5 GeV are
used to search for elastic e∗production, whereas the other events
are attributed to possible inelastic e∗production. 3. Simulation of signal and background processes Additionally,
the muon candidate is required to be separated from the clos-
est jet and from any track by R > 1 and R > 0.5, respectively. Calorimeter energy deposits and tracks not previously identified
as electron, photon or muon candidates are used to form com-
bined cluster-track objects, from which the hadronic energy is re-
constructed [32,33]. Jets are reconstructed from these combined
cluster-track objects using an inclusive kT algorithm [34,35] with
a minimum transverse momentum of 2.5 GeV. The missing trans-
verse momentum P miss
T
of the event is derived from all detected
particles and energy deposits in the event. In events with large
P miss
T
, the only non-detected particle in the event is assumed to
be a neutrino. The four-vector of this neutrino candidate is re-
constructed assuming transverse momentum conservation and the
relation
i(Ei −P i
z)+(Eν −Pν
z ) = 2E0
e = 55.2 GeV, where the sum
runs over all detected particles, P z is the momentum along the
proton beam axis and E0
e is the electron beam energy. Generated events are passed through the full GEANT [24] based
simulation of the H1 apparatus, which takes into account the ac-
tual running conditions of the data taking, and are reconstructed
and analysed using the same program chain as for the data. 4. Experimental conditions A detailed description of the H1 experiment can be found in
[25]. Only the detector components relevant to the present analysis
are briefly described here. The origin of the H1 coordinate system
is the nominal ep interaction point, with the direction of the pro-
ton beam defining the positive z-axis (forward region). Transverse
momentum (P T ) is measured in the xy plane. The pseudorapidity
η is related to the polar angle θ by η = −ln tan(θ/2). The Liquid
Argon (LAr) calorimeter [26] is used to measure electrons, pho-
tons and hadrons. It covers the polar angle range 4◦< θ < 154◦
with full azimuthal acceptance. Electromagnetic shower energies
are measured with a precision of σ(E)/E = 12%/√
E/GeV⊕1% and
hadronic energies with σ(E)/E = 50%/√
E/GeV ⊕2%, as measured
in test beams [27,28]. In the backward region, energy measure-
ments are provided by a lead/scintillating-fiber (SpaCal) calorime-
ter [29] covering the angular range 155◦< θ < 178◦. The central
(20◦< θ < 160◦) and forward (7◦< θ < 25◦) tracking detectors
are used to measure charged particle trajectories, to reconstruct
the interaction vertex and to complement the measurement of
hadronic energy. The LAr and inner tracking detectors are enclosed
in a super-conducting magnetic coil with a field strength of 1.16 T. The return yoke of the coil is the outermost part of the detector
and is equipped with streamer tubes forming the central muon
detector (4◦< θ < 171◦). In the forward region of the detector
(3◦< θ < 17◦) a set of drift chambers detects muons and mea-
sures their momenta using an iron toroidal magnet. The luminosity
is determined from the rate of the Bethe–Heitler process ep→epγ ,
measured using a photon detector located close to the beam pipe
at z = −103 m, in the backward direction. Specific selection criteria applied in each decay channel are pre-
sented in the following subsections. A detailed description of the
analysis can be found in [36]. 5. Data analysis Invariant mass distribution of the e∗candidates in the elastic e∗→eγ (a), inelastic e∗→eγ (b), e∗→νW →νq¯q (c), and e∗→eZ →eq¯q (d) search channels. The
points correspond to the observed data events and the histograms to the SM expectation after the final selections. The error bands on the SM prediction include model
uncertainties and experimental systematic errors added in quadrature. The dashed line represents with an arbitrary normalisation the reconstructed mass distribution of e∗
events with M ∗= 240 GeV generated e∗mass of 120 GeV, increasing to 6 GeV for an e∗mass
of 260 GeV. system using the Jacquet–Blondel method [37,38], and are thus
suppressed by requiring xh > 0.04. In each event, a W candidate is
reconstructed from the combination of those two jets with invari-
ant mass closest to the nominal W boson mass. The reconstructed
W candidate is required to have an invariant mass above 60 GeV. In order to further reduce the background from CC DIS, the in-
variant mass of all jets and hadrons in the event not associated
to the decay of the W boson candidate is required to be below
15 GeV. 5. Data analysis The triggers employed for collecting the data used in this anal-
ysis are based on the detection of electromagnetic deposits or
missing transverse energy in the LAr calorimeter [30]. The trig-
ger efficiency is ∼90% for events with missing transverse energy
of 20 GeV, and increases above 95% for missing transverse energy
above 30 GeV. Events containing an electromagnetic deposit (elec-
tron or photon) with an energy greater than 10 GeV are triggered
with an efficiency close to 100%. In the elastic channel 42 events are selected in the data com-
pared to a SM expectation of 48 ± 4. In the inelastic channel 65
events are found for 65± 8 expected. The errors on the SM predic-
tion include model and experimental systematic errors added in
quadrature (see Section 5.5). The invariant mass of the e∗candi-
date is calculated from the four-vectors of the electron and photon
candidates. The invariant mass distribution of the e∗candidates
and the SM background expectations are presented in Fig. 1(a) and
(b) for the elastic and inelastic channels, respectively. The selec-
tion efficiency is 60% for Me∗= 120 GeV, increasing to 70% for
Me∗= 260 GeV. From Monte Carlo studies, the experimental res-
olution on the reconstructed e∗mass distribution is 3 GeV for a In order to remove background events induced by cosmic show-
ers and other non-ep sources, the event vertex is required to be
reconstructed within 35 cm in z of the nominal interaction point. In addition, topological filters and timing vetoes are applied. The identification of electrons or photons relies on the mea-
surement of a compact and isolated electromagnetic shower in H1 Collaboration / Physics Letters B 666 (2008) 131–139 135 H1 Collaboration / Physics Letters B 666 (2008) 131–139
135
(a)
(b)
(c)
(d)
Fig. 1. Invariant mass distribution of the e∗candidates in the elastic e∗→eγ (a), inelastic e∗→eγ (b), e∗→νW →νq¯q (c), and e∗→eZ →eq¯q (d) search channels. The
points correspond to the observed data events and the histograms to the SM expectation after the final selections. The error bands on the SM prediction include mode
uncertainties and experimental systematic errors added in quadrature. The dashed line represents with an arbitrary normalisation the reconstructed mass distribution of e∗
events with Me∗= 240 GeV. (b) (d) (c) Fig. 1. 23 For NC DIS events, this variable is proportional to the four-momentum transfer
squared Q 2. 5.5. Systematic uncertainties The following experimental systematic uncertainties are consid-
ered: • The uncertainty on the electromagnetic energy scale varies be-
tween 0.7% and 2% depending on the polar angle. The polar
angle measurement uncertainty is 3 mrad for electromagnetic
clusters. • The scale uncertainty on the transverse momentum of high P T
muons amounts to 2.5%. The uncertainty on the reconstruction
of the muon polar angle is 3 mrad. 5.2. νq¯q resonance search The signature of the e∗→νW →νq¯q decay channel consists
of two high transverse momentum jets in events with large P miss
T
. The SM background is dominated by multi-jet CC DIS events and
contains moderate contributions from NC DIS and photoproduc-
tion. Events with missing transverse momentum P miss
T
> 20 GeV
are selected. In each event at least two jets with transverse mo-
menta larger than 20 and 15 GeV, respectively, are required in the
polar angle range 5◦< θ < 130◦. After this selection, 129 events are found compared to a SM ex-
pectation of 133 ± 32 events which is dominated by CC DIS events. The CC DIS cross section is smaller in e+p collisions than in e−p,
in contrast to the e∗cross section which is comparable in both
collision modes. Therefore, e+p data have a larger sensitivity to
a potential e∗signal in this channel than e−p data. In the e+p
(e−p) data sample, 33 (96) events are observed compared to a SM
expectation of 51 ± 13 (82 ± 19). A significant excess is observed
neither in e+p nor in e−p data. The invariant mass of the e∗candi- The ratio Vap/V p of transverse energy flow anti-parallel and
parallel to the hadronic final state [37] is used to suppress pho-
toproduction events. Events with Vap/V p > 0.3 are rejected. Pho-
toproduction and NC DIS backgrounds typically have low values
of xh, the Bjorken scaling variable calculated from the hadronic H1 Collaboration / Physics Letters B 666 (2008) 131–139 136 date is calculated from the neutrino and W candidate four-vectors. For this calculation, the W candidate four-vector is scaled such
that its mass is set to the nominal W boson mass. The invariant
mass distributions of the e∗candidates and the SM background
are presented in Fig. 1(c). The selection efficiency in this channel
is 20% for Me∗= 120 GeV, increasing to 55% for Me∗= 260 GeV. From Monte Carlo studies, the experimental resolution on the re-
constructed e∗mass distribution is 9 GeV for a generated e∗mass
of 120 GeV, increasing to ∼20 GeV for an e∗mass of 260 GeV. is reconstructed from the combination of the two muons and its
reconstructed mass is required to be larger than 60 GeV. After
this selection no data event remains, while 0.52 ± 0.05 SM back-
ground events are expected. 5.2. νq¯q resonance search The selection efficiency in this channel
is ∼40% for Me∗= 120 GeV, decreasing to 15% for Me∗= 260 GeV. g
The signatures of the e∗→νW →νeν and e∗→eZ →eνν
channels are similar and consist of one high P T electron in events
with large missing transverse momentum. Events with P miss
T
>
25 GeV and one electron with P T > 20 GeV are selected. The elec-
tron is detected in the polar angle range 5◦< θe < 100◦and
is required to be isolated from jets by a minimum distance of
R > 1. To reduce the background from radiative CC DIS processes,
a track must be associated to the electron in the central region
(θe > 35◦). Events from photoproduction are suppressed by re-
quiring Vap/V p < 0.1. Remaining NC DIS events are removed by
requiring that the longitudinal momentum balance of the event
be
i(Ei −P z,i) < 45 GeV, where the sum runs over all visi-
ble particles. In order to remove background arising from SM W
production, the hadron system is required to have a total trans-
verse momentum P h
T < 20 GeV and to exhibit a polar angle γh,
as defined in [37], below 80◦. In each event, only one neutrino
candidate can be reconstructed, from the total missing transverse
momentum, as explained at the beginning of Section 5. The invari-
ant mass of the e∗candidate in the eνν final state is therefore
estimated from the four-vectors of the neutrino candidate and the
electron candidate. To further remove background from W pro-
duction, only events in which the reconstructed e∗mass is above
90 GeV are considered. After this selection four data events remain,
while 4.5 ± 0.7 SM background events are expected. The selection
efficiency for the e∗→νW →νeν (e∗→eZ →eνν) signature is
∼60% (∼35%) for e∗with masses above 120 GeV. 5.3. eq¯q resonance search The signature of the e∗→eZ →eq¯q decay channel consists of
one electron and two high P T jets. Multi-jet NC DIS events consti-
tute the main background contribution from SM processes. Events
are selected with an isolated electron in the LAr calorimeter in the
polar angle range 5◦< θe < 90◦. The electron should have either
a transverse momentum P e
T greater than 25 GeV or the variable23
ξ e = Ee cos2 (θe/2) above 23 GeV. These conditions remove a large
part of the NC DIS contribution. The events are required to have
at least two jets in the polar angle range 5◦< θjet < 130◦with
transverse momenta larger than 20 and 15 GeV, respectively. In
each event, a Z candidate is reconstructed from the combination
of those two jets with invariant mass closest to the nominal Z bo-
son mass. The reconstructed mass of the Z candidate is required
to be larger than 70 GeV. To further reduce the NC DIS background
the polar angle of the jet with the highest P T associated to the
Z candidate is required to be less than 80◦. The polar angle of
the second jet is required to be greater than 10◦in events with
P jet2
T
< 25 GeV. T
After this selection, 286 events are observed while 277± 62 are
expected from the SM. The invariant mass of the e∗candidate is
calculated from the electron and Z candidate four-vectors. For this
calculation, the Z candidate four-vector is scaled such that its mass
is set to the nominal Z boson mass. The invariant mass distribu-
tions of the e∗candidates and the SM background are presented
in Fig. 1(d). The selection efficiency in this channel is 20% for
Me∗= 120 GeV, increasing to 55% for Me∗= 260 GeV. From Monte
Carlo studies, the experimental resolution on the reconstructed e∗
mass distribution is 2 GeV for a generated e∗mass of 120 GeV,
increasing to 8 GeV for an e∗mass of 260 GeV. 5.5. Systematic uncertainties 7. Conclusion Using the full e±p data sample collected by the H1 experi-
ment at HERA with an integrated luminosity of 475 pb−1 a search
for the production of excited electrons is performed. The excited
electron decay channels e∗→eγ , e∗→eZ and e∗→νW with
subsequent hadronic or leptonic decays of the W and Z bosons
are considered and no indication of a signal is found. New limits
on the production cross section of excited electrons are obtained. Within gauge mediated models, an upper limit on the coupling
f /Λ as a function of the excited electron mass is established for
the specific relation
f = + f ′ between the couplings. Assuming
f = + f ′ and f /Λ = 1/Me∗excited electrons with a mass lower
than 272 GeV are excluded at 95% confidence level. For the first
time in ep collisions, gauge and four-fermion contact interactions
are also considered together for e∗production and decays. In this
scenario and assuming the same Λ parameter in contact and gauge
interactions as well as f = + f ′ = 1, ηL = 1 and ηR = 0, the limit
on 1/Λ improves only slightly, demonstrating that the gauge in-
teraction mechanism is dominant for excited electron processes at
HERA. The results presented in this Letter extend previously ex-
cluded domain at HERA, LEP or Tevatron. Upper limits on the product of the e∗production cross section
and of the e∗decay branching ratio are shown in Fig. 2. The anal-
ysed decay channels of the W and Z gauge bosons are combined. Considering pure gauge interactions, the resulting limit on f /Λ af-
ter combination of all decay channels is displayed as a function of
the e∗mass in Fig. 3, for the conventional assumption f = + f ′. The total fraction of all possible e∗gauge decay channels covered
in this analysis is ∼88%. The limit extends up to e∗masses of
290 GeV. Considering the assumption f /Λ = 1/Me∗excited elec-
trons with masses up to 272 GeV are excluded. The relative contri-
butions of the e∗decay channels to the combined limit are shown
in Fig. 3(a). At low mass, the combined limit on f /Λ is dominated
by the e∗→eγ channel, while the e∗→νW channel starts to
contribute to the limit for masses above 200 GeV. 6. Interpretation The event yields observed in all decay channels are in agree-
ment with the corresponding SM expectations and are summarised
in Table 1. The SM predictions are dominated by QED Compton for
the eγ resonance search, by CC DIS in the νq¯q resonance search
and by NC DIS processes for the eq¯q resonance search. The distri-
butions of the invariant mass of the data events are in agreement
with those of the expected SM background as shown in Fig. 1. Few
or no data events are observed in channels corresponding to lep-
tonic decays of the W or Z bosons, in agreement with the low SM
expectations. If e∗production is considered via gauge and contact interac-
tions together, an upper limit on 1/Λ is also obtained, under the
assumption f = f ′ = 1. Possible e∗decays by either gauge or con-
tact interactions are taken into account and the efficiency of the
analysis to e∗CI decays is conservatively assumed to be zero. The
limit on 1/Λ as a function of the e∗mass is displayed in Fig. 4. For
e∗masses below 250 GeV, the additional contribution of CI to e∗
production changes the limit on Λ by a factor of 1.15 to 1.2. A limit
on Λ as a function of the e∗mass is also obtained at the Tevatron
by considering single e∗production via contact interactions only,
followed by its gauge decay into an electron and a photon [44]. Since no evidence for the production of excited electrons is ob-
served, upper limits on the e∗production cross section and on
the model parameters are derived as a function of the mass of
the excited electron. Limits are presented at the 95% confidence
level (CL) and are obtained from the mass spectra using a modified
frequentist approach which takes statistical and systematic uncer-
tainties into account [39]. Table 1 Observed and predicted event yields for the studied e∗decay channels. The anal-
ysed data sample corresponds to an integrated luminosity of 475 pb−1. The errors
on the SM predictions include model and experimental systematic errors added in
quadrature. Typical selection efficiencies for e∗masses ranging from 120 to 260 GeV
l
i di
t d Channel
Data
SM
Signal efficiency [%]
e∗→eγ (ela.)
42
48 ± 4
60–70
e∗→eγ (inel.)
65
65 ± 8
60–70
e∗→νW →νq¯q
129
133 ± 32
20–55
e∗→νW →νeν
4
4.5 ± 0.7
60
e∗→eZ →eνν
35
e∗→eZ →eq¯q
286
277 ± 62
20–55
e∗→eZ →eee
0
0.72 ± 0.06
60
e∗→eZ →eμμ
0
0.52 ± 0.05
40–15 The theoretical uncertainty on the e∗production cross section
is dominated by the uncertainty on the scale at which the proton
parton densities are evaluated. It is estimated by varying this scale
from
Q 2/2 to 2
Q 2. The resulting uncertainty depends on the
e∗mass and is 10% at Me∗= 100 GeV, increasing to 15% at Me∗=
300 GeV. Fig. 2. Upper limits at 95% CL on the product of the e∗cross section and decay
branching ratio, σ × BR, in the three e∗decay channels as a function of the excited
electron mass. The decay channels of the W and Z gauge bosons are combined. The
limits correspond to e± p collision data with an effective √
s = 318 GeV and relative
fractions of e+ p and e−p data of 61% and 39%, respectively. Areas above the curves
are excluded. 7. Conclusion These new re-
sults extend the previously published limits by H1 [2] and ZEUS
[40] by more than a factor of two in f /Λ. Fig. 3(b) shows direct
and indirect limits on e∗production obtained in e+e−collisions
at LEP by the OPAL Collaboration [41] and DELPHI Collaboration
[42], respectively. The result of the most recent search for e∗pro-
duction within gauge mediated models obtained at the Tevatron
by the CDF Collaboration is also indicated [43]. The limit from the
present analysis extends at high mass beyond the kinematic reach
of LEP searches and to lower f /Λ values than are reached by Teva-
tron searches. 5.4. eee, eμμ and eνν resonance searches • The hadronic energy scale is known within 2%. The uncertainty
on the jet polar angle determination is 10 mrad. In the search for e∗→eZ →eee, events with three electrons of
high transverse momenta are selected. The electrons must be de-
tected in the polar angle range 5◦< θe < 150◦and have transverse
momenta larger than 25, 20 and 15 GeV, respectively. To reduce
the background from QED Compton processes, each electron in the
central region (θe > 35◦) must be associated to a charged track. A Z candidate is reconstructed from the combination of the two
electrons with an invariant mass closest to the nominal Z boson
mass. The reconstructed mass of the Z candidate is required be
compatible with the nominal Z boson mass within 7 GeV. After
this selection no data event remains, while 0.72 ± 0.06 SM back-
ground events are expected. The selection efficiency for e∗with
masses above 120 GeV is ∼60%. • The uncertainty on the trigger efficiency is 3%. • The luminosity measurement has an uncertainty of 3%. The effect of the above systematic uncertainties on the SM ex-
pectation and the signal efficiency are determined by varying the
experimental quantities by ±1 standard deviation in the MC sam-
ples and propagating these variations through the whole analysis
chain. Additional model systematic uncertainties are attributed to the
SM background MC generators described in Section 3. An error of
20% on the normalisation of NC DIS, CC DIS and photoproduction
processes with at least two high P T jets is considered to account
for the uncertainty on higher order QCD corrections. The error on
the elastic and quasi-elastic QED Compton cross sections is con-
servatively estimated to be 5%. The error on the inelastic QED
Compton cross section is 10%. The errors attributed to lepton pair
and W production are 3% and 15%, respectively. The total error on
the SM background prediction is determined by adding the effects
of all model and experimental systematic uncertainties in quadra-
ture. In the search for e∗→eZ →eμμ, events are selected with one
electron with transverse momentum above 20 GeV and two muons
with transverse momenta above 15 and 10 GeV, respectively. The
electron and the muons must be detected in the polar angle ranges
5◦< θe < 150◦and 10◦< θμ < 160◦, respectively. A Z candidate H1 Collaboration / Physics Letters B 666 (2008) 131–139 137 Acknowledgements 3, DESY, 1991, p. 1526. [12] C. Berger, W. Wagner, Phys. Rep. 146 (1987) 1. [13] J. Pumplin, et al., JHEP 0207 (2002) 012, hep-ph/0201195. [14] T. Sjöstrand, et al., PYTHIA version 6.1, Comput. Phys. Commun. 135 (2001) 238,
hep-ph/0010017. [15] H. Jung, RAPGAP version 3.1, Comput. Phys. Commun. 86 (1995) 147. [16] A. Kwiatkowski, H. Spiesberger, H.J. Möhring, Comput. Phys. Commun. 69
(1992) 155. [17] G.A. Schuler, H. Spiesberger, DJANGOH version 1.4, Django: The interface for
the event generators Heracles and Lepto, in: W. Buchmüller, G. Ingelman (Eds.),
Proceedings of the Workshop “Physics at HERA”, vol. 3, DESY, 1991, p. 1419. [18] L. Lönnblad, Comput. Phys. Commun. 71 (1992) 15. [19] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 25 (2002) 13, hep-ex/0201006. [20] A. Aktas, et al., H1 Collaboration, Phys. Lett. B 602 (2004) 14, hep-ex/0408044. [21] C. Berger, P. Kandel, A new generator for wide angle bremsstrahlung, in: A.T. Doyle, G. Grindhammer, G. Ingelman, H. Jung (Eds.), Proceedings of the Work-
shop “Monte Carlo Generators for HERA Physics”, DESY, 1998. [22] U. Baur, J.A. Vermaseren, D. Zeppenfeld, Nucl. Phys. B 375 (1992) 3. [23] T. Abe, GRAPE-Dilepton version 1.1, Comput. Phys. Commun. 136 (2001) 126,
hep-ph/0012029. [24] R Brun et al
GEANT3 CERN-DD/EE/84-1 (a)
(b)
Fig. 3. Exclusion limits at 95% CL on the coupling f /Λ as a function of the mass
of the excited electron considering gauge mediated interactions only, with the as-
sumption f = + f ′. The separate contributions of the different e∗decay channels
are presented in (a). Values of the couplings above the curves are excluded. The ex-
cluded domain based on all H1 e± p data is represented in (b) by the shaded area. It is compared to the direct (dashed line) and indirect (dotted line) exclusion lim-
its obtained at LEP by the OPAL Collaboration [41] and by the DELPHI Collaboration
[42], respectively. The result from the Tevatron obtained by the CDF experiment [43]
is also shown (dashed-dotted line). The curve f /Λ = 1/Me∗is indicated in (b). (a) Fig. 4. Exclusion limits at 95% CL on the inverse of the compositeness scale 1/Λ as a
function of the mass of the excited electron. The excluded domain obtained by con-
sidering e∗production via gauge mediated interactions only and under the assump-
tion f = + f ′ = 1 is represented by the shaded area. [10] M. Spira, private communication. B 375 (1992) 3. [23] T. Abe, GRAPE-Dilepton version 1.1, Comput. Phys. Commun. 136 (2001) 126,
hep-ph/0012029. engineers and technicians for their work in constructing and main-
taining the H1 detector, our funding agencies for financial support,
the DESY technical staff for continual assistance and the DESY di-
rectorate for the hospitality which they extend to the non-DESY
members of the Collaboration. We also wish to thank M. Spira
for many useful discussions and for providing the cross section
calculation for excited electron production including contact inter-
actions in ep collisions. [24] R. Brun, et al., GEANT3, CERN-DD/EE/84-1. [25] I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1997) 310;
b
l
ll b
i
l
h d
(
) 5] I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1 [25] I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1997) 310;
I. Abt, et al., H1 Collaboration, Nucl. Instrum. Methods A 386 (1997) 348. [26] B. Andrieu, et al., H1 Calorimeter Group Collaboration, Nucl. Instrum. Methods
A 336 (1993) 460. [27] B. Andrieu, et al., H1 Calorimeter Group Collaboration, Nucl. Instrum. Methods
A 350 (1994) 57. [28] B. Andrieu, et al., H1 Calorimeter Group Collaboration, Nucl. Instrum. Methods
A 336 (1993) 499. [29] R.D. Appuhn, et al., H1 SPACAL Group Collaboration, Nucl. Instrum. Methods
A 386 (1997) 397. [10] M. Spira, private communication. [11] T. Köhler, Exotic processes at HERA: The event generator COMPOS, in: W. Buch-
müller, G. Ingelman (Eds.), Proceedings of the Workshop “Physics at HERA”,
vol. 3, DESY, 1991, p. 1526. [12] C. Berger, W. Wagner, Phys. Rep. 146 (1987) 1 [13] J. Pumplin, et al., JHEP 0207 (2002) 012, hep-ph/0201195. [14] T. Sjöstrand, et al., PYTHIA version 6.1, Comput. Phys. Commun. 135 (200
hep-ph/0010017. [15] H. Jung, RAPGAP version 3.1, Comput. Phys. Commun. 86 (1995) 147. [15] H. Jung, RAPGAP version 3.1, Comput. Phys. Commun. 86 (199 (b) [16] A. Kwiatkowski, H. Spiesberger, H.J. Möhring, Comput. Phys. Commun. 69
(1992) 155. [17] G.A. Schuler, H. Spiesberger, DJANGOH version 1.4, Django: The interface for
the event generators Heracles and Lepto, in: W. Buchmüller, G. Ingelman (Eds.),
Proceedings of the Workshop “Physics at HERA”, vol. 3, DESY, 1991, p. 1419. Fig. 3. Exclusion limits at 95% CL on the coupling f /Λ as a function of the mass
of the excited electron considering gauge mediated interactions only, with the as-
sumption f = + f ′. The separate contributions of the different e∗decay channels
are presented in (a). Values of the couplings above the curves are excluded. The ex-
cluded domain based on all H1 e± p data is represented in (b) by the shaded area. It is compared to the direct (dashed line) and indirect (dotted line) exclusion lim-
its obtained at LEP by the OPAL Collaboration [41] and by the DELPHI Collaboration
[42], respectively. The result from the Tevatron obtained by the CDF experiment [43]
is also shown (dashed-dotted line). The curve f /Λ = 1/Me∗is indicated in (b). [18] L. Lönnblad, Comput. Phys. Commun. 71 (1992) 15. [18] L. Lönnblad, Comput. Phys. Commun. 71 (1992) 15. [19] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 25 ( [19] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 25 (2002) 13, hep-ex/0201006. et al., H1 Collaboration, Phys. Lett. B 602 (2004) 14, hep-ex/040804 [20] A. Aktas, et al., H1 Collaboration, Phys. Lett. B 602 (2004) [20] A. Aktas, et al., H1 Collaboration, Phys. Lett. B 602 (2004) 14, hep-ex/0408044. [21] C. Berger, P. Kandel, A new generator for wide angle bremsstrahlung, in: A.T. Doyle, G. Grindhammer, G. Ingelman, H. Jung (Eds.), Proceedings of the Work-
shop “Monte Carlo Generators for HERA Physics”, DESY, 1998. p
y
[22] U. Baur, J.A. Vermaseren, D. Zeppenfeld, Nucl. Phys. Acknowledgements The hatched area corresponds
to the additional domain excluded if gauge mediated and contact interactions are
considered together for e∗production. Areas above the curves are excluded. [2] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 548 (2002) 35, hep-ex/0207038. [3] F.D. Aaron, et al., H1 Collaboration, Phys. Lett. B 663 (2008) 382, arXiv:
0802.1858 [hep-ex]. [2] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 548 (2002) 35, hep-ex/0207038. [3] F.D. Aaron, et al., H1 Collaboration, Phys. Lett. B 663 (2008) 382, arXiv:
0802.1858 [hep-ex]. 4] K. Hagiwara, S. Komamiya, D. Zeppenfeld, Z. Phys. C 29 (1985) [5] U. Baur, M. Spira, P.M. Zerwas, Phys. Rev. D 42 (1990) 815. [6] F. Boudjema, A. Djouadi, J.L. Kneur, Z. Phys. C 57 (1993) 425. [7] S.J. Brodsky, S.D. Drell, Phys. Rev. D 22 (1980) 2236. [8] F.M. Renard, Phys. Lett. B 116 (1982) 264. [9] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 568 (2003) 35, hep-ex/0305015. [10]
S i
i
i
i [9] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 568 (2003) 35, hep-ex/0305015. [10] M Spira private communication [10] M. Spira, private communication. Acknowledgements We are grateful to the HERA machine group whose outstand-
ing efforts have made this experiment possible. We thank the H1 Collaboration / Physics Letters B 666 (2008) 131–139 138 (a)
(b)
Fig. 3. Exclusion limits at 95% CL on the coupling f /Λ as a function of the mass
of the excited electron considering gauge mediated interactions only, with the as-
sumption f = + f ′. The separate contributions of the different e∗decay channels
are presented in (a). Values of the couplings above the curves are excluded. The ex-
cluded domain based on all H1 e± p data is represented in (b) by the shaded area. It is compared to the direct (dashed line) and indirect (dotted line) exclusion lim-
its obtained at LEP by the OPAL Collaboration [41] and by the DELPHI Collaboration
[42], respectively. The result from the Tevatron obtained by the CDF experiment [43]
is also shown (dashed-dotted line). The curve f /Λ = 1/Me∗is indicated in (b). engineers and technicians for their work in constructing and main-
taining the H1 detector our funding agencies for financial support
Fig. 4. Exclusion limits at 95% CL on the inverse of the compositeness scale 1/Λ as a
function of the mass of the excited electron. The excluded domain obtained by con-
sidering e∗production via gauge mediated interactions only and under the assump-
tion f = + f ′ = 1 is represented by the shaded area. The hatched area corresponds
to the additional domain excluded if gauge mediated and contact interactions are
considered together for e∗production. Areas above the curves are excluded. [2] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 548 (2002) 35, hep-ex/0207038. [3] F.D. Aaron, et al., H1 Collaboration, Phys. Lett. B 663 (2008) 382, arXiv:
0802.1858 [hep-ex]. [4] K. Hagiwara, S. Komamiya, D. Zeppenfeld, Z. Phys. C 29 (1985) 115. [5] U. Baur, M. Spira, P.M. Zerwas, Phys. Rev. D 42 (1990) 815. [6] F. Boudjema, A. Djouadi, J.L. Kneur, Z. Phys. C 57 (1993) 425. [7] S.J. Brodsky, S.D. Drell, Phys. Rev. D 22 (1980) 2236. [8] F.M. Renard, Phys. Lett. B 116 (1982) 264. [9] C. Adloff, et al., H1 Collaboration, Phys. Lett. B 568 (2003) 35, hep-ex/0305015. [10] M. Spira, private communication. [11] T. Köhler, Exotic processes at HERA: The event generator COMPOS, in: W. Buch-
müller, G. Ingelman (Eds.), Proceedings of the Workshop “Physics at HERA”,
vol. [1] H. Harari, Phys. Rep. 104 (1984) 159. References [30] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 30 (2003) 1, hep-ex/0304003. [30] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 30 (2003) 1, hep-ex/0304003. [31] V. Andreev, et al., H1 Collaboration, Phys. Lett. B 561 (2003) 241, hep-
ex/0301030. [31] V. Andreev, et al., H1 Collaboration, Phys. Lett. B 561 (2003) 241, hep-
ex/0301030. [1] H. Harari, Phys. Rep. 104 (1984) 159. H1 Collaboration / Physics Letters B 666 (2008) 131–139 139 [32] M. Peez, Recherche de déviations au Modèle Standard dans les processus
de grande énergie transverse sur le collisionneur électron–proton HERA, PhD
thesis, Université de Lyon (2003), DESY-THESIS-2003-023, available at http://
www-h1.desy.de/psfiles/theses/. [38] A. Blondel, F. Jacquet, in: U. Amaldi (Ed.), Proceedings of the Study of an ep
Facility for Europe, vol. 79/48, DESY, 1979, p. 391. 39] T. Junk, Nucl. Instrum. Methods A 434 (1999) 435, hep-ex/990 [40] S. Chekanov, et al., ZEUS Collaboration, Phys. Lett. B 549 (2002) 32, hep-
ex/0109018. [33] B. Portheault, Première mesure des sections efficaces de courant chargé et
neutre avec le faisceau de positrons polarisé à HERA II et analyses QCD-
électrofaibles, PhD thesis, Université Paris XI (2005), LAL-05-05, available at
http://www-h1.desy.de/psfiles/theses/. [33] B. Portheault, Première mesure des sections efficaces de courant chargé et
neutre avec le faisceau de positrons polarisé à HERA II et analyses QCD-
électrofaibles, PhD thesis, Université Paris XI (2005), LAL-05-05, available at
http://www-h1.desy.de/psfiles/theses/. [41] G. Abbiendi, et al., OPAL Collaboration, Phys. Lett. B 544 (2002) 57, hep-
ex/0206061. [42] J. Abdallah, et al., DELPHI Collaboration, Eur. Phys. J. C 37 (2004) 405, hep-
ex/0409058. [34] S.D. Ellis, D.E. Soper, Phys. Rev. D 48 (1993) 3160, hep-ph/9305266. [34] S.D. Ellis, D.E. Soper, Phys. Rev. D 48 (1993) 31 4] S.D. Ellis, D.E. Soper, Phys. Rev. D 48 (1993) 3160, hep-ph/93052 [35] S. Catani, et al., Nucl. Phys. B 406 (1993) 187. [43] D. Acosta, et al., CDF Collaboration, Phys. Rev. Lett. 94 (2005) 101802, hep-
ex/0410013. [36] T.N. Trinh, Recherche de leptons excités sur le collisionneur HERA avec le dé-
tecteur H1, PhD thesis, Université de la Méditerranée Aix-Marseille II (2008),
available at http://www-h1.desy.de/psfiles/theses/. [36] T.N. Trinh, Recherche de leptons excités sur le collisionneur HERA avec le dé-
tecteur H1, PhD thesis, Université de la Méditerranée Aix-Marseille II (2008),
available at http://www-h1.desy.de/psfiles/theses/. [44] V.M. Abazov, et al., D0 Collaboration, Phys. Rev. D 77 (2008) 091102(R), arXiv:
0801.0877 [hep-ex]. [37] C. References Adloff, et al., H1 Collaboration, Eur. Phys. J. C 13 (2000) 609, hep-ex/9908059. [37] C. Adloff, et al., H1 Collaboration, Eur. Phys. J. C 13 (2000) 609, hep-ex/9908059.
|
https://openalex.org/W4224060341
|
https://digital.csic.es/bitstream/10261/270433/1/ijms-23-04278.pdf
|
English
| null |
Unveiling the Toxicity of Fine and Nano-Sized Airborne Particles Generated from Industrial Thermal Spraying Processes in Human Alveolar Epithelial Cells
|
International journal of molecular sciences
| 2,022
|
cc-by
| 14,833
|
g
p
9
Institute of Ceramic Technology (ITC), Universitat Jaume I, 12006 Castellón, Spain; eliseo.monfort@itc.uji.es
*
Correspondence: sonia.fraga@insa.min-saude.pt; Tel.: +351-223-401-100 9
Institute of Ceramic Technology (ITC), Universitat Jaume I, 12006 Castellón, Spain; eliseo.monfort@itc.uji.es
*
Correspondence: sonia.fraga@insa.min-saude.pt; Tel.: +351-223-401-100 Citation: Bessa, M.J.; Brandão, F.;
Fokkens, P.H.B.; Leseman, D.L.A.C.;
Boere, A.J.F.; Cassee, F.R.;
Salmatonidis, A.; Viana, M.;
Monfort, E.; Fraga, S.; et al. Unveiling
the Toxicity of Fine and Nano-Sized
Airborne Particles Generated from
Industrial Thermal Spraying
Processes in Human Alveolar
Epithelial Cells. Int. J. Mol. Sci. 2022,
23, 4278. https://doi.org/10.3390/
ijms23084278 Abstract: High-energy industrial processes have been associated with particle release into workplace
air that can adversely affect workers’ health. The present study assessed the toxicity of incidental
fine (PGFP) and nanoparticles (PGNP) emitted from atmospheric plasma (APS) and high-velocity
oxy-fuel (HVOF) thermal spraying. Lactate dehydrogenase (LDH) release, 2-(4-nitrophenyl)-2H-
5-tetrazolio]-1,3-benzene disulfonate (WST-1) metabolisation, intracellular reactive oxygen species
(ROS) levels, cell cycle changes, histone H2AX phosphorylation (γ-H2AX) and DNA damage were
evaluated in human alveolar epithelial cells at 24 h after exposure. Overall, HVOF particles were
the most cytotoxic to human alveolar cells, with cell viability half-maximal inhibitory concentration
(IC50) values of 20.18 µg/cm2 and 1.79 µg/cm2 for PGFP and PGNP, respectively. Only the highest
tested concentration of APS-PGFP caused a slight decrease in cell viability. Particle uptake, cell cycle
arrest at S + G2/M and γ-H2AX augmentation were observed after exposure to all tested particles. However, higher levels of γ-H2AX were found in cells exposed to APS-derived particles (~16%),
while cells exposed to HVOF particles exhibited increased levels of oxidative damage (~17% tail
intensity) and ROS (~184%). Accordingly, APS and HVOF particles seem to exert their genotoxic
effects by different mechanisms, highlighting that the health risks of these process-generated particles
at industrial settings should not be underestimated. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Keywords: A549 cells; cell cycle; cytotoxicity; DNA damage; in vitro toxicity; incidental nanoparticles;
H2AX phosphorylation; occupational exposure; process-generated nanoparticles Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). International Journal of
Molecular Sciences International Journal of
Molecular Sciences International Journal of
Molecular Sciences International Journal of
Molecular Sciences Unveiling the Toxicity of Fine and Nano-Sized Airborne
Particles Generated from Industrial Thermal Spraying
Processes in Human Alveolar Epithelial Cells Maria João Bessa 1,2,3,4
, Fátima Brandão 1,2,3,4, Paul H. B. Fokkens 5, Daan L. A. C. Leseman 5, A. John F. Boere 5,
Flemming R. Cassee 5,6, Apostolos Salmatonidis 7,8, Mar Viana 7
, Eliseo Monfort 9, Sónia Fraga 1,2,3,*
and João Paulo Teixeira 1,2,3 1
Department of Environmental Health, National Institute of Health Dr. Ricardo Jorge, 4000-053 Porto, Portugal;
mjbessa8@gmail.com (M.J.B.); fatima.brandao988@gmail.com (F.B.); jpft12@gmail.com (J.P.T.)
2 1
Department of Environmental Health, National Institute of Health Dr. Ricardo Jorge, 4000-053 Porto, Portugal;
mjbessa8@gmail.com (M.J.B.); fatima.brandao988@gmail.com (F.B.); jpft12@gmail.com (J.P.T.) j
g
g
jp
g
2
EPIUnit-Instituto de Saúde Pública, Universidade do Porto, 4050-091 Porto, Portugal 3
Laboratório para a Investigação Integrativa e Translacional em Saúde Populacional (ITR),
4050-091 Porto, Portugal g
4
Instituto de Ciências Biomédicas Abel Salazar (ICBAS), Universidade do Porto, 4050-313 Porto, Portugal
5
l
f
bl
l h
d
(
)
l h
h
h
l
d 5
National Institute for Public Health and Environment (RIVM), 3721 Bilthoven, The Netherlands;
paul.fokkens@rivm.nl (P.H.B.F.); daan.leseman@rivm.nl (D.L.A.C.L.); john.boere@rivm.nl (A.J.F.B.);
flemming.cassee@rivm.nl (F.R.C.) g
(
)
6
Institute for Risk Assessment Sciences (IRAS), 3584 Utrecht, The Netherlands Institute for Risk Assessment Sciences (IRAS), 3584 Utrecht, The Netherlands
7
Institute of Environmental Assessment and Water Research, Spanish Research Council (IDAEA-CSIC),
08034 Barcelona, Spain; asalmatonidis@leitat.org (A.S.); mar.viana@idaea.csic.es (M.V.)
8
LEITAT Technological Center, C/de la Innovació 2, 08225 Terrassa, Spain 7
Institute of Environmental Assessment and Water Research, Spanish Research Council (IDAE
08034 Barcelona, Spain; asalmatonidis@leitat.org (A.S.); mar.viana@idaea.csic.es (M.V.)
8
LEITAT Technological Center, C/de la Innovació 2, 08225 Terrassa, Spain 1. Introduction The ceramic industry has been benefitting from nanotechnology innovation processes
and advanced materials [1]. Workers from these industries are at risk of exposure to airborne
fine (<2.5 µm mass median aerodynamic diameter (MMAD)) and nano-sized (<0.200 µm
MMAD) particles that may be released either during the handling or manufacturing of https://www.mdpi.com/journal/ijms Int. J. Mol. Sci. 2022, 23, 4278. https://doi.org/10.3390/ijms23084278 Int. J. Mol. Sci. 2022, 23, 4278 2 of 18 ceramics using engineered nanoparticles (ENP, 1–100 nm) as raw materials or to incidentally
emitted particles during mechanical and combustion/heating processes. Indeed, high-
energy processes such as laser ablation, laser sintering, physical vapour deposition, inkjet
printing, thermal spraying processes (e.g., atmospheric plasma spraying (APS) and high-
velocity oxy-fuel spraying (HVOF)) and glazing represent a high potential of fine and
ultrafine particle formation and release to the workplace air [2–10]. Inhalation is the predominant route of exposure to micro- and nano-sized particles in
occupational settings. Respiratory tract deposition and clearance is governed by aerosol
physics and by the anatomy and physiology of the respiratory tract [11]. The deeper the
particles reach, the harder their removal from the respiratory system, favouring particle–
cell interactions that might result in adverse health effects [12,13]. Many epidemiological
studies already described an association between exposure to particulate matter (PM) and
the occurrence of adverse health effects [14,15]. Exposure to airborne particles has been
associated with cardiovascular, pulmonary and neurological diseases, which leads to an
increased risk of mortality [16–18]. In the case of the ceramic industry, worker exposure
to ceramic dusts has been strongly linked to respiratory symptoms, such as wheezing,
breathlessness and dry cough, as well as with reduced lung function, chronic bronchitis
and chronic obstructive pulmonary disease (COPD) [19–21]. p
y
(
)
Most of the knowledge on nano(particle) toxicity comes from in vitro mechanistic stud-
ies. While there are many available studies on the in vitro toxicity of engineered nanoparti-
cles (ENP), little is known about the in vitro hazard of process-generated (nano)particles. In this regard, our group recently conducted a comparative assessment of the in vitro
toxicity of ENP (tin oxide (Sb2O3) and zirconium oxide (ZrO2) ENP) that are used as input
materials in the ceramic industry vs. particles collected during the HVOF spraying of
ceramic coatings onto metal surfaces to produce thermal-resistant coatings [22]. 1. Introduction Overall,
our data showed that human tri-dimensional (3D) bronchial cultures under air–liquid
interface (ALI) conditions were rather resistant to the ENP that induced mild cytotoxicity
at early timepoints (24 h), though cells rapidly recovered since no significant changes in
cell viability compared to the control were observed at late timepoints (72 h). At the same
time, while the fine fraction of the HVOF-derived particles significantly decreased cell
viability, the ultrafine fraction significantly increased DNA oxidative damage, showing
that HVOF particles exhibited a higher toxicity potential compared to ENP [22]. A recent
study by Cediel-Ulloa et al. also evaluated the in vitro toxicity of airborne particles emitted
during gas–metal arc welding (GMAW) in a laboratory setting on primary human small
airway epithelial cells (hSAEC) [23]. These authors observed that stainless steel welding
particles were more cytotoxic compared to mild steel particles and induced oxidative stress
in primary human small airway epithelial cells. In addition, Pavlovska et al. investigated
the biological effects of airborne particulates collected in woodworking and metalworking
industries both on EpiAirway 3D human small airway epithelial cells exposed for 4 h (half
a working day), 8 h (full working day) and 72 h (three working days) and on A549 lung
epithelial cells that were continuously exposed for 96 h. The obtained data showed that
exposure to these polluting particles exerted minor acute effects on the morphology and
viability of both A549 cells and EpiAirway tissues. However, a marked reduction in EpiAir-
way tissue viability after 8 h of exposure to woodworking particles and a slight reduction
in tissue viability after 72 h of exposure to metalworking particles were observed [24]. Therefore, the present study aims to further explore the in vitro toxicity of process-
generated fine (PGFP; <2.5 µm MMAD) and nano-sized particles (PGNP; <0.200 µm
MMAD) that are incidentally emitted during two industrial thermal spraying processes
(APS and HVOF) of ceramic coatings onto metal surfaces. We hypothesise that PGNP are
more toxic to human alveolar epithelial cells than PGFP. Biological endpoints, including
particle internalisation, plasma membrane integrity, cell metabolic activity and viability, re-
active oxygen-species (ROS) levels, cell cycle analysis, histone H2AX phosphorylation and
DNA damage, were evaluated in human alveolar epithelial A549 cells at 24 h after exposure. Int. J. Mol. Sci. 2022, 23, 4278 3 of 18 2.3. Intracellular Reactive Oxygen Species Levels No major effects on ROS levels were found on human alveolar epithelial cells after
24 h of exposure to APS-derived PGFP and PGNP (Figure 2A). On the other hand, in
cells exposed to the HVOF particles, a significant increase in the intracellular ROS levels
was found for the highest tested concentrations of PGFP (176.88 ± 32.35%) and PGNP
(183.67 ± 59.06%), when compared to the NC (Figure 2B). 2.2. Plasma Membrane Integrity and Cell Viability Under our experimental conditions, no differences in cell membrane integrity and
viability were found after 24 h of exposure to both fractions of APS-derived particles
compared with the negative control (NC) (Figure 1A). On the other hand, the cytotoxic
effects were more pronounced when cells were exposed to particles derived from the
HVOF spraying process. While a significant increase in the LDH release compared to
control cells was observed after exposure to PGFP at either 10.00 µg/cm2 (30.70%) or
20 µg/cm2 (26.15%), a clear concentration-dependent decrease in cell viability was detected
(Figure 1B). The analysis of cell viability concentration–response curves of cells exposed to
HVOF-derived PGFP and PGNP revealed half-maximal inhibitory concentrations (IC50) of
20.18 µg/cm2 (CI 95%: 11.66–34.95) and 1.79 µg/cm2 (CI 95%: 1.48–2.16), respectively. 2.3. Intracellular Reactive Oxygen Species Levels 2. Results 2.1. Process-Generated Fine and Nano-Sized Particle Characterisation 2.1. Process-Generated Fine and Nano-Sized Particle Characterisation Table 1 presents the physicochemical features of the aqueous suspensions of the tested
process-generated particles, namely, concentration (both in terms of mass and number of
particles per mL), hydrodynamic size and oxidative potential. As shown, APS-derived
aqueous suspensions were more diluted in terms of mass/mL than the HVOF ones, which
somehow limited the maximum tested concentrations of the former type of particles, in
particular of the PGNP fraction. For APS-derived particles, the mean hydrodynamic size
value was 244 nm and 410 nm for PGFP and PGNP, respectively. At the same time, HVOF-
PGFP (247 nm) and PGNP (236 nm) exhibited a similar hydrodynamic size mean value. Regarding the oxidative potential, only APS-derived PGFP demonstrated a low oxidative
potential, whereas HVOF-derived particles, particularly PGNP, exhibited a high ability to
produce •OH in a cell-free environment. Table 1. Physicochemical characteristics of the tested PGFP and PGNP aqueous suspensions. Stock Suspension
Concentration
(mg/mL)
Stock Suspension
Concentration
(Number of Particles/mL)
Hydrodynamic Size (nm)
Oxidative Potential
(A.U.) *
APS
PGFP
0.068
8.49 × 108
244 ± 120
3291
PGNP
0.034
4.21 × 108
410 ± 162
5319
HVOF
PGFP
1.069
9.72 × 108
247 ± 116
9893
PGNP
0.140
15.86 × 108
236 ± 86
12833
Data are presented as means ± SD. Hydrodynamic size and concentration were measured by nanoparticle tracking
analysis. Oxidative potential was measured by electronic spin resonance. A.U.: arbitrary units. * Negative control
(ultrapure water) = 3191 A.U.; Positive control (DOFA) = 48,041 A.U. Table 1. Physicochemical characteristics of the tested PGFP and PGNP aqueous suspensions. Data are presented as means ± SD. Hydrodynamic size and concentration were measured by nanoparticle tracking
analysis. Oxidative potential was measured by electronic spin resonance. A.U.: arbitrary units. * Negative control
(ultrapure water) = 3191 A.U.; Positive control (DOFA) = 48,041 A.U. 2.2. Plasma Membrane Integrity and Cell Viability 2.4. Cellular Uptake of the (Nano)Particles The cellular uptake of the process-generated particles under study by human alveolar
epithelial cells was estimated based on changes in the percentage of the side scatter signal
(%SSC), a measure of cellular complexity, analysed by flow cytometry. As depicted in
Figure 3, a concentration-dependent increase in cell complexity was observed in A549 cells
that were incubated with all tested particles, regardless of the process and the particle
fraction. For APS- and HVOF-derived particles, a significant increase in particle uptake was
detected in cells exposed to the highest tested concentrations of either PGFP or PGNP. How-
ever, the fine HVOF-derived particles were internalised by A549 cells to a higher degree Int. J. Mol. Sci. 2022, 23, 4278 4 of 18 than the nano-sized fraction. At the same time, HVOF-PGFP (5 µg/cm2; 4.16 ± 1.61%) were
internalised to a greater extent than APS-PGFP (5 µg/cm2; 2.69 ± 0.75%) in A549 cells. than the nano-sized fraction. At the same time, HVOF-PGFP (5 µg/cm2; 4.16 ± 1.61%) were
internalised to a greater extent than APS-PGFP (5 µg/cm2; 2.69 ± 0.75%) in A549 cells. internalised to a greater extent than APS PGFP (5 µg/cm ; 2.69 ± 0.75%) in A549 cells. Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in h
epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviat
LDH release values were normalised considering the positive control (total LDH rele
with 2% Triton X-100), while WST-1 reduction values were normalised considerin
control (NC). Data were analysed by the one-way analysis of variance (ANOVA) te
Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, ** p ≤ 0.01 and *** p ≤ 0.0
Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in human alveolar
epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviations (n = 3–4)
LDH release values were normalised considering the positive control (total LDH release; cells lysed
with 2% Triton X-100), while WST-1 reduction values were normalised considering the negative
control (NC). Data were analysed by the one-way analysis of variance (ANOVA) test followed by
Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC
PC: Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). 2.4. Cellular Uptake of the (Nano)Particles 2022, 23, x FOR PEER REVIEW Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in hu
Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in human alveolar Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in hu
epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviatio
LDH release values were normalised considering the positive control (total LDH releas
with 2% Triton X-100), while WST-1 reduction values were normalised considering
control (NC). Data were analysed by the one-way analysis of variance (ANOVA) test
Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, ** p ≤ 0.01 and *** p ≤ 0.001
Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). Figure 1. Cytotoxicity of PGFP and PGNP released during APS (A) and HVOF (B) in human alveolar
epithelial cells after 24 h of exposure. Data are expressed as means ± standard deviations (n = 3–4). LDH release values were normalised considering the positive control (total LDH release; cells lysed
with 2% Triton X-100), while WST-1 reduction values were normalised considering the negative
control (NC). Data were analysed by the one-way analysis of variance (ANOVA) test followed by
Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and *** p ≤0.001 vs. NC. PC: Positive control (LDH: 2% Triton X-100; WST-1: 70% EtOH). 022, 23, x FOR PEER REVIEW 2.3. Intracellular Reactive Oxygen Species Levels
No major effects on ROS levels were found on human alveolar epithelia
24 h of exposure to APS-derived PGFP and PGNP (Figure 2A). On the other h
exposed to the HVOF particles, a significant increase in the intracellular ROS
found for the highest tested concentrations of PGFP (176.88 ± 32.35%) and PG
± 59.06%), when compared to the NC (Figure 2B). Figure 2. ROS intracellular levels in human alveolar epithelial cells after 24 h of exposu
and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± stan
tions (n = 3–4). Values were normalised considering the NC. Data were analysed by t
ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, **
*** p ≤ 0.001 vs. NC. PC: 25 µM AgNO3. 2 4 Cellular Uptake of the (Nano)Particles
Figure 2. 2.4. Cellular Uptake of the (Nano)Particles ROS intracellular levels in human alveolar epithelial cells after 24 h of exposure to PGFP and
PGNP released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations
(n = 3–4). Values were normalised considering the NC. Data were analysed by the one-way ANOVA
test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and
*** p ≤0.001 vs. NC. PC: 25 µM AgNO3. 2.3. Intracellular Reactive Oxyg
No major effects on RO
24 h of exposure to APS-deriv
exposed to the HVOF particl
found for the highest tested
± 59.06%), when compared to en Species Levels
levels were found on human alveolar epith
ed PGFP and PGNP (Figure 2A). On the othe
s, a significant increase in the intracellular R
oncentrations of PGFP (176.88 ± 32.35%) and
the NC (Figure 2B). Figure 2. ROS intracellular levels in human alveolar epithelial cells after 24 h of expos
and PGNP released during APS (A) and HVOF (B). Data are expressed as means ± stan
tions (n = 3–4). Values were normalised considering the NC. Data were analysed by t
ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤ 0.05, **
*** p ≤ 0.001 vs. NC. PC: 25 µM AgNO3. Figure 2. ROS intracellular levels in human alveolar epithelial cells after 24 h of exposure to PGFP and
PGNP released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations
(n = 3–4). Values were normalised considering the NC. Data were analysed by the one-way ANOVA
test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05, ** p ≤0.01 and
*** p ≤0.001 vs. NC. PC: 25 µM AgNO3. Int. J. Mol. Sci. 2022, 23, 4278 5 of 18
(5 µg/c
m2; 2.69 ± Figure 3. Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B
alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the
signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were
the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparison
** p ≤ 0.01 and *** p ≤ 0.001 vs. NC. Figure 3. 2.4. Cellular Uptake of the (Nano)Particles Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B) by human
alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the side scatter
signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by
the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05,
** p ≤0.01 and *** p ≤0.001 vs. NC. Figure 3. Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B
alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the
signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were
the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparison
** p ≤ 0.01 and *** p ≤ 0.001 vs. NC. Figure 3. Cellular uptake of PGFP and PGNP released during APS (A) and HVOF (B) by human
alveolar epithelial A549 cells after 24 h of exposure, as estimated by variations in the side scatter
signal (SSC). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by
the one-way ANOVA test followed by Dunnett’s post hoc test for multiple comparisons. * p ≤0.05,
** p ≤0.01 and *** p ≤0.001 vs. NC. 2.5. Cell Cycle Analysis Figure 4 shows the effect of the tested process-generated particles on the human
alveolar epithelial cell cycle dynamics, as assessed by flow cytometry. In the NC, most of
the cells were at the G0/G1 phase (78.04 ± 2.51% cells), which was expected, considering
that the cells were incubated for 24 h in FBS-free culture medium. Moreover, a concentration-
dependent increase in cells in the S and G2/M phases was observed at 24 h after exposure
to all particles under study, but G0/G1 cells still represented the largest subpopulation
(Figure 4A,B). As shown in Figure 4C, under our experimental conditions, less than 10%
of the cells underwent apoptosis (sub-G1 population), though a concentration-dependent
increase in the apoptotic cell number was observed for all tested particles, regardless of the
process and particle fraction. 2.6. Histone Gamma-H2AX Phosphorylation Histone gamma-H2AX phosphorylation (γ-H2AX), a biomarker for DNA double-
strand breaks was assessed by flow cytometry at 24 h after exposure to the process-
generated particles. As shown in Figure 5, a significant increase in the total γ-H2AX
levels in A549 cells was detected after exposure to any type of process-generated particles,
with this increase being more marked in cells incubated with the APS-derived particles
(Figure 5A) compared to the ones exposed to the HVOF particles (Figure 5B). In fact, for
the APS-derived particles, PGNP (2.5 µg/cm2: 16.39 ± 3.65%) were more effective in
causing total γ-H2AX than PGFP (5 µg/cm2: 11.10 ± 4.14%). Moreover, increasing levels
of γ-H2AX were found for each phase of the cell cycle after 24 h of exposure to the highest
tested concentration of PGFP and PGNP APS-derived particles. Regarding HVOF-derived
particles, increasing levels of γ-H2AX in each phase of the cell cycle were found but to a
much lower degree than APS particles. Camptothecin (3.5 µg/mL) served as a positive
control (PC) and, as expected, caused an evident increment in the total γ-H2AX levels in
cells at the different cell cycle phases compared to the NC. Representative graphs of the cellular uptake of particles, cell cycle and γ-H2AX
analyses by flow cytometry are depicted in Figure A1. Int. J. Mol. Sci. 2022, 23, 4278 6 of 18
l tested Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure
PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G1
totic cells) was also analysed (C). Data are expressed as means ± standard deviations (
were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05, *
*** p ≤ 0.001 vs. NC. Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure to PGFP and
PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G1 phase (apoptotic
cells) was also analysed (C). Data are expressed as means ± standard deviations (n = 3–4). Data
were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05, ** p ≤0.01 and
*** p ≤0.001 vs. NC. Sci. 2022, 23, x FOR PEER REVIEW
found for each phase of the cell cycle after 24 h of exposure to the highest
tration of PGFP and PGNP APS-derived particles. 2.6. Histone Gamma-H2AX Phosphorylation Regarding HVOF-derive
creasing levels of γ-H2AX in each phase of the cell cycle were found but to
degree than APS particles. Camptothecin (3.5 µg/mL) served as a positiv
and, as expected, caused an evident increment in the total γ-H2AX levels
different cell cycle phases compared to the NC. Representative graphs of the cellular uptake of particles, cell cycle and
yses by flow cytometry are depicted in Figure A1. 23, x FOR PEER REVIEW
found for each phase of the cell cycle after 24 h of exposure to the hig
tration of PGFP and PGNP APS-derived particles. Regarding HVOF-d
creasing levels of γ-H2AX in each phase of the cell cycle were found Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure
PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G
totic cells) was also analysed (C). Data are expressed as means ± standard deviations
were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05,
*** p ≤ 0.001 vs. NC. Figure 4. Cell cycle analysis of human alveolar epithelial cells after 24 h of exposure to PGFP and
PGNP released during APS (A) and HVOF (B). The percentage of cells in the sub-G1 phase (apoptotic
cells) was also analysed (C). Data are expressed as means ± standard deviations (n = 3–4). Data
were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05, ** p ≤0.01 and
*** p ≤0.001 vs. NC. degree than APS particles. Camptothecin (3.5 µg/mL) served as a positiv
and, as expected, caused an evident increment in the total γ-H2AX levels
different cell cycle phases compared to the NC. Representative graphs of the cellular uptake of particles, cell cycle and
yses by flow cytometry are depicted in Figure A1. 2.6. Histone Gamma-H2AX Phosphorylation
Histone gamma-H2AX phosphorylation (γ-H2AX), a biomarker for D
strand breaks was assessed by flow cytometry at 24 h after exposure to the
erated particles. As shown in Figure 5, a significant increase in the total γ-H2
A549 cells was detected after exposure to any type of process-generated p
this increase being more marked in cells incubated with the APS-derived par
5A) compared to the ones exposed to the HVOF particles (Figure 5B). In fact,
derived particles, PGNP (2.5 µg/cm2: 16.39 ± 3.65%) were more effective in
γ-H2AX than PGFP (5 µg/cm2: 11.10 ± 4.14%). 2.6. Histone Gamma-H2AX Phosphorylation Moreover, increasing levels of γ
Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGF
leased during APS (A) and HVOF (B). Data are expressed as means ± standard dev
Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Glob
ysis: $$ p ≤ 0.01 and $$$ p ≤ 0.001 vs. NC. γ-H2AX in each phase of cell cycle: * p ≤ 0.0
*** p ≤ 0.001 vs. NC. 2 7 Primary and Oxidative DNA Damage
Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP
released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Global γ-H2AX
analysis: $$ p ≤0.01 and $$$ p ≤0.001 vs. NC. γ-H2AX in each phase of cell cycle: * p ≤0.05,
** p ≤0.01 and *** p ≤0.001 vs. NC. phorylation
hosphorylation (γ-H2AX), a biomarker for
flow cytometry at 24 h after exposure to th
Figure 5, a significant increase in the total γ-
exposure to any type of process-generated
ed in cells incubated with the APS-derived p
osed to the HVOF particles (Figure 5B). In fa
µg/cm2: 16.39 ± 3.65%) were more effective i
11.10 ± 4.14%). Moreover, increasing levels o pho
ho 2.6. Histone Gamma-H2AX Ph
Histone gamma-H2AX
strand breaks was assessed b
erated particles. As shown in
A549 cells was detected afte
this increase being more mar
5A) compared to the ones ex
derived particles, PGNP (2.5
γ-H2AX than PGFP (5 µg/cm Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGF
leased during APS (A) and HVOF (B). Data are expressed as means ± standard dev
Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Glob
ysis: $$ p ≤ 0.01 and $$$ p ≤ 0.001 vs. NC. γ-H2AX in each phase of cell cycle: * p ≤ 0.0
*** p ≤ 0.001 vs. NC. Figure 5. γ-H2AX in human alveolar epithelial cells after 24 h of exposure to PGFP and PGNP
released during APS (A) and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by one-way ANOVA followed by Dunnett’s post-hoc test. Global γ-H2AX
analysis: $$ p ≤0.01 and $$$ p ≤0.001 vs. NC. Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human a
veolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A
and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed b
one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05and *** p ≤ 0.001 vs. NC. PC: 50
µM MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in huma
alveolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A
and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed b
one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05and *** p ≤0.001 vs. NC. PC: 500 µM
MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human al-
veolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A)
and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by
one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05and *** p ≤ 0.001 vs. NC. PC: 500
µM MMS and 2 5 mM KBrO3 for primary and oxidative DNA damage respectively
Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human
alveolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A)
and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by
one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05and *** p ≤0.001 vs. NC. PC: 500 µM Figure 6. Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human al-
veolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A)
and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by
one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤ 0.05and *** p ≤ 0.001 vs. NC. PC: 500
µM MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. Figure 6. 2.6. Histone Gamma-H2AX Phosphorylation γ-H2AX in each phase of cell cycle: * p ≤0.05,
** p ≤0.01 and *** p ≤0.001 vs. NC. Int. J. Mol. Sci. 2022, 23, 4278 7 of 18 7 of 18 Primary (DNA strand breaks) and oxidative (FPG-sensitive) DNA damage in human
alveolar epithelial cells after 24 h of exposure to PGFP and PGNP particles released during APS (A)
and HVOF (B). Data are expressed as means ± standard deviations (n = 3–4). Data were analysed by
one-way ANOVA followed by Dunnett’s post-hoc test. * p ≤0.05and *** p ≤0.001 vs. NC. PC: 500 µM
MMS and 2.5 mM KBrO3 for primary and oxidative DNA damage, respectively. 2.7. Primary and Oxidative DNA Damage 2.7. Primary and Oxidative DNA Damage Figure 6 depicts the primary and oxidative DNA damage of A549 cells incubated with
the APS- (Figure 6A) and HVOF-derived particles (Figure 6B). Although a slight increase
in DNA strand breaks was observed for PGFP of both APS and HVOF spraying processes
as well as for HVOF-derived PGNP, those were not significant when compared to the NC. However, APS-derived PGFP significantly increased DNA FPG-sensitive sites of human
alveolar epithelial cells at concentrations of 2.5 µg/cm2 (7.81 ± 4.40% tail intensity) and
5 µg/cm2 (8.37 ± 2.23% tail intensity) compared to the NC (2.90 ± 1.80% tail intensity)
(Figure 6A), while the nano-sized fraction did not increase oxidative DNA damage in A549
cells (Figure 6A). HVOF particles seem to cause higher levels of DNA oxidative damage
compared to the APS particles. As shown in Figure 6B, both the PGFP and PGNP HVOF-
derived fractions significantly increased DNA oxidation in a concentration-dependent
manner. Representative comet images of the DNA damage of human alveolar epithelial
cells exposed to the highest tested concentrations of PGFP and PGNP emitted during the
HVOF thermal spraying process are depicted in Figure A2. R REVIEW
8 of 19 3. Discussion
3. Discussion Regardless the size fraction, HVOF-derived particles were more cytotoxic for A549
cultures than the APS particles. Indeed, particles emitted during HVOF spraying induced
a marked decrease in cell viability, with PGNP being more potent than PGFP, as evi-
denced by its ~10× lower IC50 value, while only the fine fraction of APS-derived particles
slightly decreased cell viability at the highest tested concentration (5 µg/cm2). In addition,
only exposure to HVOF- but not to APS-emitted particles significantly increased the ROS
ll l
l
l
f A
ll
h
l
d
h h
h
h
Regardless the size fraction, HVOF-derived particles were more cytotoxic for A549 cul-
tures than the APS particles. Indeed, particles emitted during HVOF spraying induced a
marked decrease in cell viability, with PGNP being more potent than PGFP, as evidenced
by its ~10× lower IC50 value, while only the fine fraction of APS-derived particles slightly
decreased cell viability at the highest tested concentration (5 µg/cm2). In addition, only
exposure to HVOF- but not to APS-emitted particles significantly increased the ROS intra- Int. J. Mol. Sci. 2022, 23, 4278 8 of 18 8 of 18 cellular levels of A549 cells. These results are in good agreement with the highest oxidative
potential of HVOF particles compared to the APS particles. ROS are important molecules
that are involved in redox-associated signalling pathways. While important for regulating
and maintaining normal physiological functions, excessive levels of intracellular ROS can
activate cell death and other signalling pathways, including nuclear factor-κB (NF-κB),
mitogen-activated protein kinase (MAPK) and phosphoinositide 3-kinase (PI3-K), that are
involved in the regulation of the expression of inflammatory response genes, cell cycle
arrest, DNA strand breaks and the formation of 8-oxo-7,8-dihydro-2′-deoxyguanosine
(8-oxo-dG) DNA adducts [25,26]. Differences in their chemical composition might have an obvious toxicological impact
and may explain the observed cellular effects in A549 cells. The chemical analysis of
the airborne fine and nano-sized particles under study revealed a major enrichment in
potentially health hazardous metals (chromium (Cr), nickel (Ni) and tungsten (W)) sourcing
directly from the feedstock in both scenarios as well as in major elements (aluminium (Al),
calcium (Ca) and iron (Fe)) with different possible source origins, including re-suspension of
indoor dusts. 3. Discussion
3. Discussion Size-resolved particle chemical composition analysis by inductively coupled
plasma mass spectrometry (ICP-MS) and inductively coupled plasma-optical emission
spectrometry (ICP-OES) showed that APS-derived particles were mainly constituted by
Al (68% and 42% for PGFP and PGNP, respectively), Cr (11% and 16% for PGFP and
PGNP, respectively) and Ni (1% and 21% for PGFP and PGNP, respectively), while the
HVOF-generated ones were mainly constituted by Cr (61% and 67% for PGFP and PGNP,
respectively) and Ni (27% and 28% for PGFP and PGNP, respectively), as previously
reported [2]. These differences in composition might have contributed to the particle
aggregation/agglomeration of the aqueous suspensions, in particular of APS-PGNP that
presented a high hydrodynamic size value. Epidemiological and occupational studies have shown the hazard of inhalation ex-
posure to Al, Cr and Ni to human health. Workplace exposure to airborne particles
containing these elements has been associated with several respiratory disorders, such as
pulmonary fibrosis, asthma, chronic obstructive lung disease, lung cancer and cardiovas-
cular disease [27–34]. Several in vivo and in vitro studies have also addressed the toxicity
of the nanoforms of these elements. Kim et al. investigated the toxicity of aluminium
oxide (Al2O3) nanoparticles (NP) following 28 days of repeated exposure by inhalation in
male rats and reported a no-observed-adverse-effect level (NOAEL) of 1 mg/m3 [35]. At
the same time, the existing evidence on the Al2O3 NP effects on human pulmonary cell
lines seems to point out the minimal toxic effects caused by these NP that were considered
less toxic when compared to cerium oxide (CeO2), titanium dioxide (TiO2), silicon dioxide
(SiO2) and zinc oxide (ZnO) NP [36–39]. These findings are in line with our results showing
that Al-rich APS-derived particles did not induce a marked cytotoxicity or increment in the
ROS levels of A549 cells. Both tested thermal-spraying-derived particles, especially HVOF-emitted ones, are
enriched in Cr and Ni. So far, the available in vitro and in vivo studies on Cr and Ni
effects have shown pulmonary toxicity in response to exposure to these elements [40–45]. In this regard, human lung cells incubated with Cr(VI) have been reported to exhibit
significant levels of oxidative DNA damage [46] as well as increasing levels of H2AX-
Ser139 phosphorylation [47]. Evidence of cell cycle arrest at G2/M has also been found
in alveolar A549 cells exposed for 24 h to Cr(VI) [48]. On the other hand, Ding et al. 3. Discussion
3. Discussion showed that exposure to Ni triggered G2/M cell cycle arrest and proliferation blockage
in human bronchial epithelial cells (BEAS-2B) [49]. In the nanoscale form, DNA damage
accompanied by increased phosphorylation of DNA damage response-associated proteins
ATM serine/threonine protein kinase (Ser1981), p53 tumour protein (Ser15) and H2AX
(ser139) has been reported by Mo et al. in BEAS-2B cells exposed to Ni NP for 24 h [50]. (
)
p
y
p
In response to DNA damage, the cell goes through various checkpoint mechanisms
that are essential to survival, but when these fail, rapid cell death is a potential result [51]. DNA damage occurring throughout interphase will elicit a cell cycle arrest that allows Int. J. Mol. Sci. 2022, 23, 4278 9 of 18 9 of 18 time for repair mechanisms to occur prior to progression to the subsequent phases of the
cell cycle [52]. For instance, depending on the cell cycle phase at which a double strand
break occurs, the repair mechanism used by the cell differs [53]. One mechanism of double
strand break repair is through the phosphorylation-dependent recruitment of DNA damage
repair factors to sites of DNA damage, such as the phosphorylation of Ser139 on histone
H2AX (γ-H2AX) [54]. In the current study, flow cytometry data showed that exposure
to any type of thermal-spraying-derived particles induced cell cycle arrest at the S and
G2/M phases in human alveolar epithelial A549 cells, most likely triggered in response
to DNA damage. Indeed, following DNA damage, the S-phase checkpoint delays DNA
synthesis, while the G2 cell cycle checkpoint prevents cells from entering mitosis, inhibiting
cell proliferation [52]. In addition, for every particle, a concentration-dependent increase in
the number of apoptotic sub-G1 phase cells after 24 h of exposure was observed. Under
our experimental conditions, an overall increase in γ-H2AX levels was found in A549 cells,
especially in cells at the S and G2/M phases. For both types of process-generated particles,
PGNP were more effective in increasing γ-H2AX levels compared to PGFP. Interestingly,
a more prominent effect on γ-H2AX levels was observed in cells incubated with fine or
nano-sized APS-derived particles. On the other hand, although both fractions of HVOF-
emitted particles increased the oxidative DNA damage, in cells exposed to PGNP, that
effect was visible at lower concentrations. At the same time, oxidative DNA lesions were
only observed in cells exposed to the fine fraction of APS-derived particles. 3. Discussion
3. Discussion Therefore, our
data suggest that mechanisms involved in the genotoxicity of the tested thermal-spraying-
emitted particles might differ between them. While APS particles caused a marked increase
in histone H2AX phosphorylation at serine-139 as an early cellular response to the induction
of DNA double-strand breaks, 8-oxo-dG oxidative DNA lesions increased significantly
after exposure to the HVOF particles, most likely caused by the increased intracellular ROS
levels that were observed. We have recently reported the effect of both fractions of the HVOF-derived parti-
cles studied herein in human 3D bronchial epithelial cultures (MucilAir™) under ALI
conditions [22]. We found that PGFP aerosols affected cell viability at dose levels as low
as 9 µg/cm2, which was not seen for the aerosolised PGNP. However, exposure to PGNP
(4.5 mg/cm2) caused an increase in the oxidative DNA damage of MucilAir™cultures. In
the present study, under submerged conditions, a stronger toxic response was observed, as
both fractions of HVOF particles induced a pronounced decrease in cell viability and higher
levels of oxidative DNA damage at lower concentrations after 24 h of exposure in A549 cells. Differences in the magnitude of the responses to the HVOF particles within the two studies
may be explained by differences in the attained deposited doses as well as in the sensitivity
of the cell models used. While aerosolised particles directly deposit on cell surfaces, in
submerged conditions, particles in suspension may react with the culture medium and
agglomerate/aggregate into larger particles [55,56]. On the other hand, human primary
cultures under ALI conditions have been described as more resistant than the traditional
2D monoculture models since they exhibit a higher degree of complexity, with active ciliary
beating and mucus production that mimic the mucociliary clearance defence system that
occurs in vivo [57,58], which might have considerably attenuated the uptake and cellular
effects of the HVOF-derived particles [22]. Our simplified test system does not account for
the differences in pulmonary deposition of PGFP and PGNP, whereas it is well-established
that the smaller sizes may penetrate deeper into the lung and more efficiently reach the
more vulnerable alveoli. Statements on the actual human health risk are, therefore, not
possible in the absence of actual personal exposure levels. 4.3. Cell Culture Lung adenocarcinoma epithelial A549 cells from the American Type Culture Collection
(ATCC®, CCL-185™) were cultured in RPMI 1640 medium with Glutamax™and 25 mM
HEPES and supplemented with 10% heat-inactivated foetal bovine serum (FBS), 50 U/mL
penicillin and 50 µg/mL streptomycin. Cells were maintained in a humidified atmosphere
with 5% CO2 at 37 ◦C. To carry out the submerged exposure experiments, cells were seeded
in 96-well (1.0 × 104 cells/well) or 24-well plates (5.0 × 104 cells/well) and allowed to
adhere for 48 h at 37 ◦C and 5% CO2. 4.2. Fine and Nano-Sized Particle Suspensions and Characterisation Incidental process-generated fine (PGFP; <2.5 µm MMAD) and nano-sized particles
(PGNP; <0.200 µm MMAD) that are emitted during APS and HVOF spraying were collected
directly from the inside of the spraying booths at an industrial-scale mechanical workshop
in the vicinity of Barcelona, as previously described [2]. Regarding the APS spraying,
the collection was performed during the injection of a Cr/Ni (50/50) and Al2O3 + TiO2
feedstock blend, while for HVOF it was performed during the injection of a tungsten
carbide (WC)—chromium carbon (CrC)–Ni–cobalt (Co) feedstock blend, as described in [2]. Both the PGFP and PGNP fractions were sampled directly as stock suspensions for toxicity
testing, using an aerosol concentration enrichment system, as previously described [59]. The collected samples were subjected to gamma-ray irradiation to ensure the required
sterility prior to the cell incubations. y p
The hydrodynamic size and concentration (number of particles/mL) of the aqueous
particle suspensions under study were determined by a nanoparticle tracking analysis
(NTA) using a NanoSight LM20 (NANOSIGHT Ltd., Salisbury, UK). The particle oxidative
potential (acellular ROS production) was determined by electron spin resonance (ESR)
based on the trapping of NP-induced hydroxyl radicals (OH) that are generated in the
presence of hydrogen peroxide (H2O2) using DMPO (5,5-dimethyl-1-pyrroline-N-oxide)
as a spin trap, as previously described [60]. Briefly, the particle suspensions were mixed
with 0.5 M H2O2 and 0.05 M DMPO, followed by incubation for 15 min at 37 ◦C in a heated
shaking water bath prior to the ESR analysis. The ESR quantification was conducted with
the Analysis Software (2.0 Magnettech GmbH, Berlin, Germany) on first derivation of ESR
signals of the DMPOeOH quartet as the average of total amplitudes and was expressed in
arbitrary units (A.U.) per sampled volume [60]. 4. Materials and Methods
4.1. Chemicals Dimethyl sulfoxide (DMSO), sodium hydroxide (NaOH), sodium chloride (NaCl), potas-
sium chloride (KCl) and potassium hydroxide (KOH) were purchased from Merck KGaA
(Darmstadt, Germany). Triton X-100, bovine serum albumin (BSA), low melting point (LMP) Int. J. Mol. Sci. 2022, 23, 4278 10 of 18 agarose, Tris hydrochloride (Tris-HCl), silver nitrate (AgNO3), 4-(2-hydroxyethyl)piperazine-
1-ethanesulfonic acid (HEPES), methyl methanesulfonate (MMS), propidium iodide (PI), a
Roche cytotoxicity detection kit (LDH) and cell proliferation reagent water-soluble tetra-
zolium (WST-1) were bought from Sigma-Aldrich (Madrid, Spain). Tris-base and disodium
salt dihydrate (Na2EDTA) were supplied from Merck Millipore (Madrid, Spain). Normal
melting point (NMP) agarose was purchased from Bioline (London, UK). Potassium bro-
mate (KBrO3) and camptothecin were supplied from Alfa Aesar (Karlsruhe, Germany). Formamidopyrimidine-DNA glycosylase (FPG) was purchased from New England Bio-
labs (Ipswich, MA, USA). Guava ICF instrument cleaning fluid was supplied by Luminex
Corporation (Austin, TX, USA), and pH 7.4 flow cytometry grade PBS from Gibco was pur-
chased from Life Technologies Corp. (Carlsbad, CA, USA). RNAse A from bovine pancreas
(DNAse-free) from Applichem Panreac, eBioscience™phospho-histone H2A.X (Ser139) Alexa
Fluor® 488-conjugated monoclonal antibody (CR55T33), Invitrogen™SYBR® Gold dye and
CM-H2DCFDA (General Oxidative Stress Indicator) were bought from Thermo Fisher Scien-
tific (Madrid, Spain). All cell culture reagents were purchased from Gibco, Thermo Fisher
Scientific (Madrid, Spain). All chemicals used were of high purity or analytical grade. 4.2. Fine and Nano-Sized Particle Suspensions and Characterisation 4.4. Exposure Conditions All particle stock suspensions under study were dispersed by indirect probe soni-
cation using a Branson sonifier (model 450) equipped with a disruptor cup horn accord- Int. J. Mol. Sci. 2022, 23, 4278 11 of 18 11 of 18 ing with the standard operation procedure (SOP) for the preparation of NP suspensions
developed within the NanoToxClass project [61]. The selected concentrations of each
particle fraction depended on the stock’s concentrations and the volume available. In
addition, the tested concentrations were chosen based on the daily alveolar mass dose of
0.13 µg/cm2, which was expected to achieve a worst-case occupational exposure scenario
with a maximum accumulated lifetime dose of 420 µg/cm2, according to Paur et al. [62]. Accordingly, serial dilutions of the stock suspensions were carried out in incubation media
(FBS-free cell culture medium), and A549 cells were exposed for 24 h at 37 ◦C and 5% CO2. For APS, the tested particle concentrations ranged from 0.31 to 5.00 µg/cm2 and from
0.16 to 2.50 µg/cm2 for PGFP and PGNP, respectively, while, for HVOF particles, the con-
centrations ranged between 2.50 and 40.00 µg/cm2 and between 0.63 and 10.00 µg/cm2 for
PGFP and PGNP, respectively. At least three independent experiments with three replicates
each were performed. 4.5. Cytotoxicity Assessment To assess the impact of the tested particles in human alveolar epithelial cells, two end-
points were evaluated: LDH release and WST-1 reduction, indicators of plasma membrane
integrity and cell metabolic activity, respectively. LDH release was determined using a Roche Cytotoxicity Detection Kit (Roche, Mannheim,
Germany) according to the manufacturer’s instructions. After exposure and prior to analy-
sis, samples were carefully transferred to 96-well round bottom plates and then centrifuged
at 2210× g for 5 min to remove the cell debris and residual (nano)particles. Cells lysed
with 2% Triton X-100 (30 min) were used as PC. Briefly, 100 µL of freshly prepared reaction
mixture was added to 100 µL of each sample and incubated up to 30 min at room tempera-
ture and protected from light. The absorbance was measured at 490 nm and 630/690 nm
(reference wavelength) in a microplate reader (SpectraMax® iD3 Molecular Devices, San
Jose, CA, USA). The LDH release values were normalised considering the PC mean value
(total LDH release). The cell metabolic activity and viability were assessed using the WST-1 Cell Pro-
liferation Reagent Kit (Roche, Mannheim, Germany), according to the manufacturer’s
instructions. After exposure and prior to analysis, cells were washed with PBS pH 7.4. Afterwards, 100 µL/well of WST-1 reagent diluted to 1:10 was added for a 2 h incubation
period at 37 ◦C and 5% CO2. The sample’s absorbance was measured at 450 nm and
630/690 nm (reference wavelength) in a microplate reader (SpectraMax® iD3 Molecular
Devices, San Jose, CA, USA). The WST-1 reduction values were normalised considering the
NC mean value. To test for possible particle interferences with the assays, the PC was determined
in the absence and in the presence of the highest tested concentration of particle liquid
suspensions. None of tested particles seemed to interfere in the conducted cytotoxicity
assays since no significant differences in the PC values in the absence vs. in the presence of
the highest tested concentration of PGFP and PGNP were detected. 4.6. Intracellular Reactive Oxygen Species Generation The generation of ROS was estimated using the InvitrogenTM CM-H2DCFDA General
Oxidative Stress Indicator probe (Thermo Fisher Scientific, Madrid, Spain) according to the
manufacturer’s instructions. Briefly, 1.0 × 104 cells/well were seeded in 96-well black clear-
bottom plates and the medium was renewed after 24 h. At 48 h post-seeding, cells were
loaded with 5 µM CM-H2DCFDA probe for 1 h at 37 ◦C and 5% CO2. Then, the medium
was aspirated, and cells were exposed to the tested particles over a 24 h period. Following
exposure, the fluorescence was measured at 492 nm/527 nm (excitation/emission) in a
microplate reader (SpectraMax® iD3 Molecular Devices, San Jose, CA, USA). The ROS
production was normalised considering the mean fluorescence (arbitrary units) of the NC. Int. J. Mol. Sci. 2022, 23, 4278 12 of 18 12 of 18 4.7. Cellular Uptake, Cell Cycle and Histone Gamma-H2AX Phosphorylation Analysis by
Flow Cytometry 4.7. Cellular Uptake, Cell Cycle and Histone Gamma-H2AX Phosphorylation Analysis by
Flow Cytometry The determination of cellular particle uptake, changes in the cell cycle by determining
cellular distribution in the different phases (G0/G1, S, G2/M and Sub-G1) and DNA double-
strand breaks assessed via phosphorylation of the Ser-139 residue of the histone variant
H2AX (γ-H2AX) were carried out by flow cytometry using a Guava® easyCyte™flow
cytometer (Merck KGaA, Darmstadt, Germany). Briefly, 5.0 × 104 cells/well were seeded
onto 24-well plates, with medium renewal after 24 h. At 48 h post-seeding, cells were
exposed to three non-cytotoxic concentrations of each particle over a 24 h period, followed
by medium removal and the washing of the cells with pH 7.4 PBS. Cells were detached
using 0.05% trypsin-EDTA, inactivated with incubation medium and centrifuged at 900× g
for 5 min. The supernatant was gently removed, and the cells were permeabilised and fixed
with ice-cold 70% ethanol and left overnight at −20 ◦C. To remove the ethanol, the samples
were centrifuged, washed with PBS with 1% BSA and once again centrifuged at 900× g for
5 min. Then, the cells were labelled with 5 µg/mL Phospho-Histone H2A.X (Ser139) Alexa
Fluor® 488-conjugated monoclonal antibody for 15 min at room temperature and protected
from light, followed by a washing step with PBS with 1% BSA and centrifugation at 900× g
for 5 min. 4.6. Intracellular Reactive Oxygen Species Generation Prior to analysis, a final 15 min staining at room temperature with a 50 µg/mL
RNAse and 50 µg/mL PI solution was performed to ensure that only nuclear DNA was
stained. Acquisitions were made with approximately 5000 events/per sample and recorded
at a low flow rate (0.24 µL/s). For estimating the potential of particles to enter cells, the
analysis was carried out by measuring the size (forward scatter, FSC) and complexity (side
scatter, SSC) of the cells, following the protocol described by Suzuki, et al. [63]. Debris
and doublets were gated out by plotting SSC-width vs SSC-area. A cell cycle analysis was
performed by evaluating the relative cellular DNA content from the PI signal detection,
as previously described by Rosário, et al. [64], while γ-H2AX was measured by assessing
the Alexa Fluor® 488 and PI channel intensities, as described by Valdiglesias, et al. [65]. Camptothecin at 3.5 µg/mL was used as a PC to help define where cells were positive
for γ-H2AX. The data were analysed using the Guava® InCyteTM Software (Merck KGaA,
Darmstadt, Germany). 5. Conclusions HVOF particles were more cytotoxic compared to APS particles, most likely due to
differences in their elemental composition. As hypothesised, PGNP derived from HVOF
were more cytotoxic to A549 cells than PGFP, while both fractions of APS-emitted particles
did not induce significant cytotoxic effects in A549 cells. Notwithstanding, particles emitted
from the two thermal spraying processes under study were genotoxic to human alveolar
epithelial cells. While APS particles markedly increased the levels of H2AX phosphoryla-
tion, HVOF particles caused 8-oxo-dG oxidative DNA lesions, and the effects were evident
at lower concentrations of PGNP compared to PGFP. Our data highlight that workers from industries employing high-energy processes may
be at (increased) risk of adverse health effects depending on the actual inhaled dose, i.e.,
exposure levels and duration. Occupational epidemiological studies are urgently needed to
establish this risk, whereas a better understanding of the cellular mechanisms involved in
process-generated particle-induced biological effects, ultimately contributing to controlling
exposures to these particles in the workplace, would facilitate reducing the health risks. The
availability of information obtained from real-world exposure scenarios is deemed essential
to establishing realistic preventive and corrective measures adapted to the different work
scenarios (manufacturing technologies and/or chemical composition of materials). Author Contributions: Conceptualization: S.F. and J.P.T.; Methodology: M.J.B., P.H.B.F., D.L.A.C.L.,
A.J.F.B., F.R.C., A.S., M.V. and S.F.; Investigation: M.J.B., F.B., D.L.A.C.L. and A.S.; Formal anal-
ysis: M.J.B., D.L.A.C.L., F.R.C., A.S., M.V. and S.F.; Writing—original draft preparation: M.J.B.;
writing—review and editing: F.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V., E.M., S.F. and J.P.T.;
Supervision: S.F. and J.P.T.; Resources: F.R.C., M.V. and J.P.T.; Project administration: S.F. and J.P.T.;
Funding acquisition: M.V. and J.P.T. All authors have read and agreed to the published version of
the manuscript. Author Contributions: Conceptualization: S.F. and J.P.T.; Methodology: M.J.B., P.H.B.F., D.L.A.C.L.,
A.J.F.B., F.R.C., A.S., M.V. and S.F.; Investigation: M.J.B., F.B., D.L.A.C.L. and A.S.; Formal anal-
ysis: M.J.B., D.L.A.C.L., F.R.C., A.S., M.V. and S.F.; Writing—original draft preparation: M.J.B.;
writing—review and editing: F.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V., E.M., S.F. and J.P.T.;
Supervision: S.F. and J.P.T.; Resources: F.R.C., M.V. and J.P.T.; Project administration: S.F. and J.P.T.;
Funding acquisition: M.V. and J.P.T. All authors have read and agreed to the published version of
the manuscript. Funding: This research was funded by the project CERASAFE with the support of ERA-NET SIINN
(project id:16) and the Portuguese Foundation for Science and Technology (FCT; SIINN/0004/2014). 4.9. Statistical Analysis A statistical analysis was performed using SPSS (version 26.0, Armonk, NY, USA) and
GraphPad Prism (version 6.0, San Diego, CA, USA) statistical software. The experimental
data were expressed as means ± standard deviations (SD). The data were tested for normal-
ity and homogeneity of variances by the Shapiro–Wilk and Levene’s tests, respectively. For
each assessed timepoint, the differences between the tested concentrations and NC were
estimated using a one-way ANOVA followed by a post-hoc Dunnett’s test for multiple
comparisons. A p value < 0.05 was considered significant. 4.8. DNA Damage Assessment All slides
were immersed in electrophoresis solution (Na2EDTA 1 mM, and NaOH 0.3 M, pH 13)
in the electrophoresis platform for 40 min, followed by electrophoresis for 30 min at a
constant 25 V (0.9 V/cm) and 400 mA. For slide washing, these were first covered by cold
PBS (pH 7.2) and then by deionised H2O for 10 min each. At the end of electrophoresis,
slides were neutralised and fixed as described elsewhere [67]. For comet scoring, slides
were initially hydrated in TE buffer (Tris-HCl 10 mM and EDTA 1 mM, pH 7.5–8) and
stained at room temperature with a 1:10,000 dilution of SYBR® Gold in TE buffer for 40 min. Comets were visualised using a Motic BA410 ELITE Series microscope equipped with
a Complete EPI-Fluorescence Kit and scored using the Comet Assay IV image analysis
software (Perceptive Instruments, Staffordshire, UK). At least 100 cells/experimental group
(50 in each replicate gel) were scored. The comet tail DNA percentage (% tail intensity) was
used as a DNA damage descriptor. 4.8. DNA Damage Assessment Primary and oxidative DNA damage were assessed by the standard alkaline and FPG-
modified comet assay versions, respectively, as previously described [60]. The Minimum
Information for Reporting Comet Assay procedures and results (MIRCA) recommendations
were followed in this manuscript [66]. Briefly, 5.0 × 104 cells/well were seeded onto 24-well
plates, with medium renewal after 24 h. At 48 h post-seeding, cells were exposed for 24 h
to three non-cytotoxic concentrations of each tested particle. After exposure, cells were
washed twice with PBS pH 7.4, scrapped and suspended in PBS pH 7.4. Cells exposed to
500 µM MMS and 2.5 mM of KBrO3 for 30 min were included as a PC for primary and
oxidative DNA damage assessment, respectively. The cells were counted in a Neubauer’s
chamber and 6.0 × 103 cells were transferred to a microcentrifuge tube, centrifuged at
700× g for 5 min and then embedded in 100 µL of 1% LMP agarose. Five µL of each sample
was placed on microscope slides precoated with 1% NMP using a high-throughput system
of a 12-gel comet assay unit (Severn Biotech Ltd.®, Kidderminster, UK) and placed for 5 min
at 4 ◦C. Duplicates of each sample were added per slide. Slides were performed in triplicate,
one for the alkaline version and the other two for the enzymatic version of the comet assay
(with or without the FPG enzyme). Then, slides were immersed in an ice-cold lysis solution
(NaCl 2.5 M, Na2EDTA 100 mM, Tris-base 10 mM, NaOH 10 M, pH 10, Triton-X 100 1%) for
2 h at 4 ◦C. For the enzymatic version, the slides were washed in freshly prepared ice-cold
buffer F solution (HEPES 400 mM, KCl 1 M, Na2EDTA 5 mM, BSA 2 mg/mL, pH 8.0)
(3 × 5 min) at 4 ◦C. A 30 µL solution of buffer F or FPG enzyme (2.7 U/mL) was added
to each well and incubated for 30 min at 4 ◦C. For this to happen, slides were previously
placed on an ice-cold metal base of a 12-gel chamber apparatus (Severn Biotech Ltd.®, Int. J. Mol. Sci. 2022, 23, 4278 13 of 18 13 of 18 Kidderminster, UK) covered by a silicon rubber 12-well mould, followed by a top plate and
clamped. Meanwhile, slides for the alkaline version remained in lysis solution. Author Contributions: Conceptualization: S.F. and J.P.T.; Methodology: M.J.B., P.H.B.F., D.L.A.C.L.,
A.J.F.B., F.R.C., A.S., M.V. and S.F.; Investigation: M.J.B., F.B., D.L.A.C.L. and A.S.; Formal anal-
ysis: M.J.B., D.L.A.C.L., F.R.C., A.S., M.V. and S.F.; Writing—original draft preparation: M.J.B.;
writing—review and editing: F.B., P.H.B.F., D.L.A.C.L., A.J.F.B., F.R.C., A.S., M.V., E.M., S.F. and J.P.T.;
Supervision: S.F. and J.P.T.; Resources: F.R.C., M.V. and J.P.T.; Project administration: S.F. and J.P.T.;
Funding acquisition: M.V. and J.P.T. All authors have read and agreed to the published version of
the manuscript. 5. Conclusions This work was also supported by the project NanoBioBarriers (PTDC/MED-TOX/31162/2017), co-
financed by the Operational Program for Competitiveness and Internationalization (POCI) through
European Regional Development Funds (FEDER/FNR) and FCT and the Spanish Ministry of Sci- Int. J. Mol. Sci. 2022, 23, 4278 14 of 18 14 of 18 ence and Innovation (projects PCIN-2015-173-C02-01 and CEX2018-000794-S-Severo Ochoa). M.J. Bessa (SFRH/BD/120646/2016) and F. Brandão (SFRH/BD/101060/2014) are recipients of FCT PhD
scholarships under the framework of the Human Capital Operating Program (POCH) and European
Union funding. The Doctoral Program in Biomedical Sciences of the ICBAS—University of Porto
offered additional funds. S. Fraga thanks FCT for funding through program DL 57/2016—Norma
transitória (Ref. DL-57/INSA-06/2018). Thanks are also due to FCT/MCTES for the financial support
to EPIUnit and ITR (UIDB/04750/2020 and LA/P/0064/2020). 2, 23, x FOR PEER REVIEW Institutional Review Board Statement: Not applicable. Informed Consent Statement: Not applicable. Informed Consent Statement: Not applicable. Acknowledgments: The authors
volved in the CERASAFE project. Informed Consent Statement: Not applicable. Acknowledgments: The authors w
volved in the CERASAFE project. Acknowledgments: The authors would like to take this opportunity to thank all institutions involved
in the CERASAFE project. The authors would also like to acknowledge Jüergen Schnekenburger (Uni-
versity of Müenster, Germany) for gamma-ray sterilization of the particle aqueous stock suspensions. Conflicts of Interest: The authors declare no conflict of interest. p
j
g
g
burger (University of Müenster, Germany) for gamma-ray sterilization of the particle aqueo
suspensions. Conflicts of Interest: The authors declare no conflict of interest. Appendix A Appendix A Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell
H2AX analysis in human alveolar epithelial cells incubated for 24 h with the highest t
tration of process-generated fine (PGFP) and nano-sized (PGNP) particles released
velocity oxy-fuel spraying (HVOF). Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell cycle and γ-H2
analysis in human alveolar epithelial cells incubated for 24 h with the highest tested concentrat
of process-generated fine (PGFP) and nano-sized (PGNP) particles released during high-veloc
oxy-fuel spraying (HVOF). Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell cycle
H2AX analysis in human alveolar epithelial cells incubated for 24 h with the highest tested
tration of process-generated fine (PGFP) and nano-sized (PGNP) particles released durin
velocity oxy-fuel spraying (HVOF). Figure A1. Representative flow cytometry graphs obtained for particle uptake, cell cycle and γ-H2AX
analysis in human alveolar epithelial cells incubated for 24 h with the highest tested concentration
of process-generated fine (PGFP) and nano-sized (PGNP) particles released during high-velocity
oxy-fuel spraying (HVOF). 15 of 18
of 19 15 of 18
of 19 Int. J. Mol. Sci. 2022, 23, 4278
t. J. Mol. Sci. 2022, 23, x FOR PEE Figure A2. Representative comet assay images (100× magnification) of human alveolar epithelial
cells exposed to the highest tested concentration of process-generated fine (PGFP) and nano-sized
PGNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective experi-
mental controls. Figure A2. Representative comet assay images (100× magnification) of human alveolar epithe-
lial cells exposed to the highest tested concentration of process-generated fine (PGFP) and nano-
sized (PGNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective
experimental controls. gure A2. Representative comet assay images (100× magnification) of human alveolar epithelial
ls exposed to the highest tested concentration of process-generated fine (PGFP) and nano-sized
GNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective experi-
ental controls. Figure A2. Representative comet assay images (100× magnification) of human alveolar epithe-
lial cells exposed to the highest tested concentration of process-generated fine (PGFP) and nano-
sized (PGNP) particles released during high-velocity oxy-fuel spraying (HVOF) and respective
experimental controls. Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace
Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106.
9.
Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace
Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. [CrossRef] eferences
Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and
hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297.
Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.;
et al. Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol
Concentrator Ann Work Exp Health 2021 65 966–978
1.
Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard
in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. [CrossRef]
2.
Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al.
Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol Concentrator. Ann.
Work Exp. Health 2021, 65, 966–978. [CrossRef] eferences
References Concentrator. Ann. Work Exp. Health 2021, 65, 966–978. Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in
an Indoor Industrial Scenario with a One-Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. p
3. Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in
an Indoor Industrial Scenario with a One-Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. [CrossRef] an Indoor Industrial Scenario with a One Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation
and emission during laser ablation of ceramic tiles J Aerosol Sci 2018 126 152–168
4. Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation
and emission during laser ablation of ceramic tiles. J. Aerosol Sci. 2018, 126, 152–168. [CrossRef] and emission during laser ablation of ceramic tiles. J. Aerosol Sci. 2018, 126, 152 168. Salmatonidis, A.; Viana, M.; Biskos, G.; Bezantakos, S. Particle size distributions and hygroscopic restructuring of ultrafine
particles emitted during thermal spraying Aerosol Sci Technol 2020 54 1359–1372
5. Salmatonidis, A.; Viana, M.; Biskos, G.; Bezantakos, S. Particle size distributions and hygroscopic restructuring of ultrafine
particles emitted during thermal spraying. Aerosol Sci. Technol. 2020, 54, 1359–1372. [CrossRef] particles emitted during thermal spraying. Aerosol Sci. Technol. 2020, 54, 1359 1372. Fonseca, A.S.; Maragkidou, A.; Viana, M.; Querol, X.; Hämeri, K.; de Francisco, I.; Estepa, C.; Borrell, C.; Lennikov, V.; de la
Fuente, G.F. Process-generated nanoparticles from ceramic tile sintering: Emissions, exposure and environmental release. Sci. Total Environ 2016 565 922–932
6. Fonseca, A.S.; Maragkidou, A.; Viana, M.; Querol, X.; Hämeri, K.; de Francisco, I.; Estepa, C.; Borrell, C.; Lennikov, V.; de la
Fuente, G.F. Process-generated nanoparticles from ceramic tile sintering: Emissions, exposure and environmental release. Sci. Total Environ. 2016, 565, 922–932. [CrossRef] Total Environ. 2016, 565, 922 932. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Ultrafine and nanoparticle
formation and emission mechanisms during laser processing of ceramic materials J Aerosol Sci 2015 88 48–57
7. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Concentrator. Ann. Work Exp. Health 2021, 65, 966–978.
Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in
an Indoor Industrial Scenario with a One-Box Model Int J Environ Res Public Health 2019 16 1695
p
[
]
3.
Ribalta, C.; Koivisto, A.J.; Salmatonidis, A.; López-Lilao, A.; Monfort, E.; Viana, M. Modeling of High Nanoparticle Exposure in
an Indoor Industrial Scenario with a One-Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695. [CrossRef] hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297.
Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.;
et al. Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol
Concentrator Ann Work Exp Health 2021 65 966–978
y
p
y
2.
Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al.
Characterizing the Chemical Profile of Incidental Ultrafine Particles for Toxicity Assessment Using an Aerosol Concentrator. Ann.
Work Exp. Health 2021, 65, 966–978. [CrossRef] eferences
Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and
hazard in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297.
Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.;
1.
Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard
in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. [CrossRef]
2.
Viana, M.; Salmatonidis, A.; Bezantakos, S.; Ribalta, C.; Moreno, N.; Córdoba, P.; Cassee, F.R.; Boere, J.; Fraga, S.; Teixeira, J.P.; et al.
h
h
h
l
fil
f
d
l
l
fi
l
f
l formation and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48 57.
Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release
of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073.
Salmatonidis A ; Ribalta C ; Sanfélix V ; Bezantakos S ; Biskos G ; Vulpoi A ; Simion S ; Monfort E ; Viana M Workplace
8.
Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release
of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073.
[CrossRef] Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and
hazard in the ceramic industry: An overview of potential sources toxicity and health effects Environ Res 2020 184 109297
1.
Bessa, M.J.; Brandão, F.; Viana, M.; Gomes, J.F.; Monfort, E.; Cassee, F.R.; Fraga, S.; Teixeira, J.P. Nanoparticle exposure and hazard
in the ceramic industry: An overview of potential sources, toxicity and health effects. Environ. Res. 2020, 184, 109297. [CrossRef] an Indoor Industrial Scenario with a One Box Model. Int. J. Environ. Res. Public Health 2019, 16, 1695.
Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation
and emission during laser ablation of ceramic tiles J Aerosol Sci 2018 126 152–168
4.
Salmatonidis, A.; Viana, M.; Pérez, N.; Alastuey, A.; Germán, F.; Angurel, L.A.; Sanfélix, V.; Monfort, E. Nanoparticle formation
and emission during laser ablation of ceramic tiles. J. Aerosol Sci. 2018, 126, 152–168. [CrossRef] Total Environ. 2016, 565, 922 932.
Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Ultrafine and nanoparticle
formation and emission mechanisms during laser processing of ceramic materials J Aerosol Sci 2015 88 48–57
7.
Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; De Francisco, I.; Estepa, C.; De La Fuente, G. Ultrafine and nanoparticle formation
and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48–57. [CrossRef] eferences
References Assessment of personal exposure to particulate air pollution
during commuting in European cities–recommendations and policy implications. Sci. Total Environ. 2014, 490, 785–797. [CrossRef] during commuting in European cities–recommendations and policy implications. Sci. Total Environ. 2014, 490, 785–797. [CrossRef]
16. Stone, V.; Miller, M.R.; Clift, M.J.D.; Elder, A.; Mills, N.L.; Moller, P.; Schins, R.P.F.; Vogel, U.; Kreyling, W.G.; Alstrup Jensen, K.; et al. Nanomaterials Versus Ambient Ultrafine Particles: An Opportunity to Exchange Toxicology Knowledge. Environ. Health Perspect 16. Stone, V.; Miller, M.R.; Clift, M.J.D.; Elder, A.; Mills, N.L.; Moller, P.; Schins, R.P.F.; Vogel, U.; Kreyling, W.G.; Alstrup Jensen, K.; et al. Nanomaterials Versus Ambient Ultrafine Particles: An Opportunity to Exchange Toxicology Knowledge. Environ. Health Perspect
2017, 125, 106002. [CrossRef] g
y
g
p
materials Versus Ambient Ultrafine Particles: An Opportunity to Exchange Toxicology Knowledge. Environ. 125, 106002. [CrossRef] 17. Anderson, J.O.; Thundiyil, J.G.; Stolbach, A. Clearing the air: A review of the effects of particulate matter air pollution on human
health. J. Med. Toxicol. 2012, 8, 166–175. [CrossRef] 18. Hamanaka, R.B.; Mutlu, G.M. Particulate Matter Air Pollution: Effects on the Cardiovascular System. Front. Endocrinol. 2018,
9, 680. [CrossRef] 19. Trethowan, W.N.; Burge, P.S.; Rossiter, C.E.; Harrington, J.M.; Calvert, I.A. Study of the respiratory health of employees in seven
European plants that manufacture ceramic fibres. Occup. Environ. Med. 1995, 52, 97–104. [CrossRef] p
p
p
20. Jaakkola, M.S.; Sripaiboonkij, P.; Jaakkola, J.J. Effects of occupational exposures and smoking on lung function in tile factory
workers. Int. Arch. Occup. Environ. Health 2011, 84, 151–158. [CrossRef] p
21. Kargar, F.; Shahtaheri, S.J.; Golbabaei, F.; Barkhordari, A.; Rahimi-Froushani, A.; Khadem, M. Eva
Exposure of Glazers of a Ceramic Industry to Cobalt Blue Dye. Iran J. Public Health 2013, 42, 868–875. 22. Bessa, M.J.; Brandão, F.; Fokkens, P.; Cassee, F.R.; Salmatonidis, A.; Viana, M.; Vulpoi, A.; Simon, S.; Monfort, E.; Teixeira, J.P.; et al. Toxicity assessment of industrial engineered and airborne process-generated nanoparticles in a 3D human airway epithelial
in vitro model. Nanotoxicology 2021, 15, 542–557. [CrossRef] [PubMed] gy
23. Cediel-Ulloa, A.; Isaxon, C.; Eriksson, A.; Primetzhofer, D.; Sortica, M.A.; Haag, L.; Derr, R.; Hendriks, G.; Löndahl, J.;
Gudmundsson, A.; et al. Toxicity of stainless and mild steel particles generated from gas–metal arc welding in primary human
small airway epithelial cells. Sci. Rep. 2021, 11, 21846. [CrossRef] [PubMed] 24. Pavlovska, I.; Ramata-Stunda, A.; Martinsone, Z.; Boroduskis, M.; Patetko, L.; Martinsone, I.; Seile, A.; Vanadzins, I. eferences
References In vitro
impact preliminary assessment of airborne particulate from metalworking and woodworking industries. Sci. Rep. 2021, 11, 20181. [CrossRef] [PubMed] 25. Manke, A.; Wang, L.; Rojanasakul, Y. Mechanisms of nanoparticle-induced oxidative stress and toxicity. Biomed. Res. Int. 2013,
2013, 942916. [CrossRef] 26. Peixoto, M.S.; de Oliveira Galvão, M.F.; Batistuzzo de Medeiros, S.R. Cell death pathways of particulate matter toxicity. Chemosphere 2017, 188, 32–48. [CrossRef] 27. Jederlinic, P.J.; Abraham, J.L.; Churg, A.; Himmelstein, J.S.; Epler, G.R.; Gaensler, E.A. Pulmonary fibrosis in aluminum oxide
workers. Investigation of nine workers, with pathologic examination and microanalysis in three of them. Am. Rev. Respir. Dis. 1990, 142, 1179–1184. [CrossRef] , L.; Edström, C.; Nilsson, T. Long-term follow-up study of mortality and the incidence of cancer in a cohor 28. Björ, O.; Damber, L.; Edström, C.; Nilsson, T. Long-term follow-up study of mortality and the incidence of cancer in a cohort of
workers at a primary aluminum smelter in Sweden. Scand J. Work Environ. Health 2008, 34, 463–470. [CrossRef] 28. Björ, O.; Damber, L.; Edström, C.; Nilsson, T. Long-term follow-up study of mortality and the incidence of cancer in a cohort of
workers at a primary aluminum smelter in Sweden. Scand J. Work Environ. Health 2008, 34, 463–470. [CrossRef]
29
Th
Y K
h W D
kh
W Elli
D G Sk
N P J
db kk
L A
D
bl
P W i b
h S Ul
fi 29. Thomassen, Y.; Koch, W.; Dunkhorst, W.; Ellingsen, D.G.; Skaugset, N.P.; Jordbekken, L.; Arne Drabløs, P.; Weinbruch, S. Ultrafine
particles at workplaces of a primary aluminium smelter. J. Environ. Monit. 2006, 8, 127–133. [CrossRef] 29. Thomassen, Y.; Koch, W.; Dunkhorst, W.; Ellingsen, D.G.; Skaugset, N.P.; Jordbekken, L.; Arne Drabløs, P.; Weinbruch, S. Ultrafine
particles at workplaces of a primary aluminium smelter. J. Environ. Monit. 2006, 8, 127–133. [CrossRef]
k
h
f
b h 30. Park, E.J.; Lee, S.J.; Lee, G.H.; Kim, D.W.; Yoon, C.; Lee, B.S.; Kim, Y.; Chang, J.; Lee, K. Comparison of su
of four different types of aluminum-based nanoparticles. J. Appl. Toxicol. 2018, 38, 575–584. [CrossRef] g
p
r different types of aluminum-based nanoparticles. J. Appl. Toxicol. 2018, 38, 575–584. [CrossRef] yp
p
pp
31. Salnikow, K.; Zhitkovich, A. Genetic and Epigenetic Mechanisms in Metal Carcinogenesis and Cocarcinogenesis: Nickel, Arsenic,
and Chromium. Chem. Res. Toxicol. 2008, 21, 28–44. [CrossRef] 32. Halasova, E.; Adamkov, M.; Matakova, T.; Kavcova, E.; Poliacek, I.; Singliar, A. eferences
References Ultrafine and nanoparticle formation
and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48–57. [CrossRef] formation and emission mechanisms during laser processing of ceramic materials. J. Aerosol Sci. 2015, 88, 48 57. Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release
of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073. Salmatonidis A
Ribalta C Sanfélix V Bezantakos S
Biskos G
Vulpoi A Simion S
Monfort E Viana M Workplace
8. Viana, M.; Fonseca, A.S.; Querol, X.; López-Lilao, A.; Carpio, P.; Salmatonidis, A.; Monfort, E. Workplace exposure and release
of ultrafine particles during atmospheric plasma spraying in the ceramic industry. Sci. Total Environ. 2017, 599–600, 2065–2073. [CrossRef] Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace
Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. 9. Salmatonidis, A.; Ribalta, C.; Sanfélix, V.; Bezantakos, S.; Biskos, G.; Vulpoi, A.; Simion, S.; Monfort, E.; Viana, M. Workplace
Exposure to Nanoparticles during Thermal Spraying of Ceramic Coatings. Ann. Work Exp. Health 2018, 63, 91–106. [CrossRef] Int. J. Mol. Sci. 2022, 23, 4278 16 of 18 10. Fonseca, A.; Viana, M.; Querol, X.; Moreno, N.; de Francisco, I.; Estepa, C.; de la Fuente, G. Workplace Exposure to Process-
Generated Ultrafine and Nanoparticles in Ceramic Processes Using Laser Technology. In Indoor and Outdoor Nanoparticles;
Springer: Berlin/Heidelberg, Germany, 2015; pp. 159–179. g,
y,
; pp
O. Deposition and clearance of inhaled particles. Environ. Health Perspect 1984, 55, 369–390. [CrossRef] p
g
g
y
pp
11. Stuart, B.O. Deposition and clearance of inhaled particles. Environ. Health Perspect 1984, 55, 369–390 12. Geiser, M.; Kreyling, W.G. Deposition and biokinetics of inhaled nanoparticles. Part. Fibre Toxicol. 2010 reyling, W.G. Deposition and biokinetics of inhaled nanoparticles. Part. Fibre Toxicol. 2010, 7, 2. [CrossRef] y
g
p
p
13. Xing, Y.-F.; Xu, Y.-H.; Shi, M.-H.; Lian, Y.-X. The impact of PM2.5 on the human respiratory system. J. Thorac. Dis. 2016, 8, E69–E74. y
g
p
p
13. Xing, Y.-F.; Xu, Y.-H.; Shi, M.-H.; Lian, Y.-X. The impact of PM2.5 on the human respiratory system. J. 14. Schraufnagel, D.E. The health effects of ultrafine particles. Exp. Mol. Med. 2020, 52, 311–317. [CrossRef 15. Karanasiou, A.; Viana, M.; Querol, X.; Moreno, T.; de Leeuw, F. eferences
References g
g
g
41. Wise, J.P.; Wise, S.S.; Little, J.E. The cytotoxicity and genotoxicity of particulate and soluble hexavalent chromium in human lung
cells. Mutat. Res. Genet. Toxicol. Environ. Mutagenesis 2002, 517, 221–229. [CrossRef] g
42. Zhang, Q.; Kusaka, Y.; Zhu, X.; Sato, K.; Mo, Y.; Kluz, T.; Donaldson, K. Comparative toxicity of standard nickel and ultrafine
nickel in lung after intratracheal instillation. J. Occup. Health 2003, 45, 23–30. [CrossRef] [PubMed] 43. Morimoto, Y.; Hirohashi, M.; Ogami, A.; Oyabu, T.; Myojo, T.; Hashiba, M.; Mizuguchi, Y.; Kambara, T.; Lee, B.W.; Kuroda,
E. Pulmonary toxicity following an intratracheal instillation of nickel oxide nanoparticle agglomerates. J. Occup. Health 2011,
53, 293–295. [CrossRef] [PubMed]
Å [
] [
]
44. Åkerlund, E.; Cappellini, F.; Di Bucchianico, S.; Islam, S.; Skoglund, S.; Derr, R.; Odnevall Wallinder, I.; Hendriks, G.; Karlsson,
H.L. Genotoxic and mutagenic properties of Ni and NiO nanoparticles investigated by comet assay, γ-H2AX staining, Hprt
mutation assay and ToxTracker reporter cell lines. Environ. Mol. Mutagen 2018, 59, 211–222. [CrossRef] [PubMed]
45. Roedel, E.Q.; Cafasso, D.E.; Lee, K.W.M.; Pierce, L.M. Pulmonary toxicity after exposure to military-relevant heavy metal tungsten
alloy particles Toxicol Appl Pharmacol 2012 259 74–86 [CrossRef] 44. Åkerlund, E.; Cappellini, F.; Di Bucchianico, S.; Islam, S.; Skoglund, S.; Derr, R.; Odnevall Wallinder, I.; Hendriks, G.; Karlsson,
H.L. Genotoxic and mutagenic properties of Ni and NiO nanoparticles investigated by comet assay, γ-H2AX staining, Hprt
mutation assay and ToxTracker reporter cell lines. Environ. Mol. Mutagen 2018, 59, 211–222. [CrossRef] [PubMed] y
p
g
45. Roedel, E.Q.; Cafasso, D.E.; Lee, K.W.M.; Pierce, L.M. Pulmonary toxicity after exposure to military-r
alloy particles. Toxicol. Appl. Pharmacol. 2012, 259, 74–86. [CrossRef] 46. Reynolds, M.; Armknecht, S.; Johnston, T.; Zhitkovich, A. Undetectable role of oxidative DNA damage in cell cycle, cytotoxic and
clastogenic effects of Cr(VI) in human lung cells with restored ascorbate levels. Mutagenesis 2012, 27, 437–443. [CrossRef] 47. DeLoughery, Z.; Luczak, M.W.; Ortega-Atienza, S.; Zhitkovich, A. DNA Double-Strand Breaks by Cr(VI) Are Targeted to
Euchromatin and Cause ATR-Dependent Phosphorylation of Histone H2AX and Its Ubiquitination. Toxicol. Sci. 2014, 143, 54–63. [CrossRef] 48. Zhang, Z.; Leonard, S.S.; Wang, S.; Vallyathan, V.; Castranova, V.; Shi, X. Cr (VI) induces cell growth arrest through hydrogen
peroxide-mediated reactions. Mol. Cell. Biochem. 2001, 222, 77–83. [CrossRef] 49. Ding, J.; He, G.; Gong, W.; Wen, W.; Sun, W.; Ning, B.; Huang, S.; Wu, K.; Huang, C.; Wu, M.; et al. eferences
References Effects of nickel on
cyclin expression, cell cycle progression and cell proliferation in human pulmonary cells. Cancer Epidemiol. Biomark. Prev. 2009,
18, 1720–1729. [CrossRef] Mo, Y.; Zhang, Y.; Zhang, Y.; Yuan, J.; Mo, L.; Zhang, Q. Nickel nanoparticle-induced cell transformation:
damage and DNA repair defect through HIF-1α/miR-210/Rad52 pathway. J. Nanobiotechnol. 2021, 19, 370 g
p
g
p
y
51. Ma, A.; Dai, X. The relationship between DNA single-stranded damage response and double-stranded damage response. Cell
Cycle 2018, 17, 73–79. [CrossRef] 52. Barnum, K.J.; O’Connell, M.J. Cell cycle regulation by checkpoints. Methods Mol. Biol. 2014, 1170, 29–40. [PubMed]
53. Mjelle, R.; Hegre, S.A.; Aas, P.A.; Slupphaug, G.; Drabløs, F.; Saetrom, P.; Krokan, H.E. Cell cycle regulation of human DNA repair
and chromatin remodeling genes. DNA Repair 2015, 30, 53–67. [CrossRef] [PubMed] 54. Podhorecka, M.; Skladanowski, A.; Bozko, P. H2AX Phosphorylation: Its Role in DNA Damage Response and Cancer Therapy. J. Nucleic Acids 2010, 2010, 920161. [CrossRef] [PubMed] 55. Lacroix, G.; Koch, W.; Ritter, D.; Gutleb, A.C.; Larsen, S.T.; Loret, T.; Zanetti, F.; Constant, S.; Chortarea, S.; Rothen-Rutishauser, B.;
et al. Air–Liquid Interface In vitro Models for Respiratory Toxicology Research: Consensus Workshop and Recommendations. Appl. Vitr. Toxicol. 2018, 4, 91–106. [CrossRef] [PubMed] 56. Loret, T.; Peyret, E.; Dubreuil, M.; Aguerre-Chariol, O.; Bressot, C.; le Bihan, O.; Amodeo, T.; Trouiller, B.; Braun, A.; Egles, C.; et al. Air-liquid interface exposure to aerosols of poorly soluble nanomaterials induces different biological activation levels compared
to exposure to suspensions. Part. Fibre Toxicol. 2016, 13, 58. [CrossRef] [PubMed] p
p
57. Frieke Kuper, C.; Gröllers-Mulderij, M.; Maarschalkerweerd, T.; Meulendijks, N.M.M.; Reus, A.; van Acker, F.; Zondervan-van
den Beuken, E.K.; Wouters, M.E.L.; Bijlsma, S.; Kooter, I.M. Toxicity assessment of aggregated/agglomerated cerium oxide
nanoparticles in an in vitro 3D airway model: The influence of mucociliary clearance. Toxicol. Vitr. 2015, 29, 389–397. [CrossRef] 57. Frieke Kuper, C.; Gröllers-Mulderij, M.; Maarschalkerweerd, T.; Meulendijks, N.M.M.; Reus, A.; van Acker, F.; Zondervan-van
den Beuken, E.K.; Wouters, M.E.L.; Bijlsma, S.; Kooter, I.M. Toxicity assessment of aggregated/agglomerated cerium oxide
nanoparticles in an in vitro 3D airway model: The influence of mucociliary clearance. Toxicol. Vitr. 2015, 29, 389–397. [CrossRef]
58. George, I.; Uboldi, C.; Bernard, E.; Sobrido, M.S.; Dine, S.; Hagège, A.; Vrel, D.; Herlin, N.; Rose, J.; Orsière, T.; et al. Toxicological
Assessment of ITER-Like Tungsten Nanoparticles Using an In vitro 3D Human Airway Epithelium Model. Nanomaterials 2019,
9, 1374. [CrossRef] 58. eferences
References Lung cancer incidence and survival in chromium
exposed individuals with respect to expression of anti-apoptotic protein survivin and tumor suppressor P53 protein. Eur. J. Med. Res. 2010, 15, 55. [CrossRef] [PubMed] n, L.-C. Health effects of concentrated ambient air particulate matter (CAPs) and its components. Crit. Rev
–913. [CrossRef] [PubMed] 33. Lippmann, M.; Chen, L.-C. Health effects of concentrated ambient air particulate matter (CAPs) and i
Toxicol. 2009, 39, 865–913. [CrossRef] [PubMed] 34. Phillips, J.I.; Green, F.Y.; Davies, J.C.; Murray, J. Pulmonary and systemic toxicity following exposure to nickel nanoparticles. Am. J. Ind. Med. 2010, 53, 763–767. [CrossRef] [PubMed] 34. Phillips, J.I.; Green, F.Y.; Davies, J.C.; Murray, J. Pulmonary and systemic toxicity following exposure to nickel nanoparticles. Am. J. Ind. Med. 2010, 53, 763–767. [CrossRef] [PubMed] 35. Kim, Y.-S.; Chung, Y.-H.; Seo, D.-S.; Choi, H.-S.; Lim, C.-H. Twenty-Eight-Day Repeated Inhalation Toxicity Study of Aluminum
Oxide Nanoparticles in Male Sprague-Dawley Rats. Toxicol. Res. 2018, 34, 343–354. [CrossRef] 35. Kim, Y.-S.; Chung, Y.-H.; Seo, D.-S.; Choi, H.-S.; Lim, C.-H. Twenty-Eight-Day Repeated Inhalation Toxicity Study of Aluminum
Oxide Nanoparticles in Male Sprague-Dawley Rats. Toxicol. Res. 2018, 34, 343–354. [CrossRef] 36. Kim, I.-S.; Baek, M.; Choi, S.-J. Comparative cytotoxicity of Al2O3, CeO2, TiO2 and ZnO nanoparticles to human lung cells. J. Nanosci. Nanotechnol. 2010, 10, 3453–3458. [CrossRef] 36. Kim, I.-S.; Baek, M.; Choi, S.-J. Comparative cytotoxicity of Al2O3, CeO2, TiO2 and ZnO nanoparticles to human lung cells. J. Nanosci. Nanotechnol. 2010, 10, 3453–3458. [CrossRef] 37. Zhang, X.Q.; Yin, L.H.; Tang, M.; Pu, Y.P. ZnO, TiO2, SiO2, and Al2O3 Nanoparticles-induced Toxic Effects on Human Fetal Lung
Fibroblasts. Biomed. Environ. Sci. 2011, 24, 661–669. 37. Zhang, X.Q.; Yin, L.H.; Tang, M.; Pu, Y.P. ZnO, TiO2, SiO2, and Al2O3 Nanoparticles-induced Toxic Effects on Human Fetal Lung
Fibroblasts. Biomed. Environ. Sci. 2011, 24, 661–669. 17 of 18 Int. J. Mol. Sci. 2022, 23, 4278 38. Ivask, A.; Titma, T.; Visnapuu, M.; Vija, H.; Kakinen, A.; Sihtmae, M.; Pokhrel, S.; Madler, L.; Heinlaan, M.; Kisand, V. Toxicity of
11 metal oxide nanoparticles to three mammalian cell types in vitro. Curr. Top. Med. Chem. 2015, 15, 1914–1929. [CrossRef] p
yp
p
39. Tsaousi, A.; Jones, E.; Case, C.P. The in vitro genotoxicity of orthopaedic ceramic (Al2O3) and metal (CoCr alloy) particles. Mutat. Res. Genet. Toxicol. Environ. Mutagenesis 2010, 697, 1–9. [CrossRef] g
40. IARC. Chromium, nickel and welding. IARC Monogr. Eval. Carcinog. Risks Hum. 1990, 49, 677. eferences
References George, I.; Uboldi, C.; Bernard, E.; Sobrido, M.S.; Dine, S.; Hagège, A.; Vrel, D.; Herlin, N.; Rose, J.; Orsière, T.; et al. Toxicological
Assessment of ITER-Like Tungsten Nanoparticles Using an In vitro 3D Human Airway Epithelium Model. Nanomaterials 2019,
9, 1374. [CrossRef] 59. Kim, S.; Jaques, P.A.; Chang, M.; Froines, J.R.; Sioutas, C. Versatile aerosol concentration enrichment system (VACES) for
simultaneous in vivo and in vitro evaluation of toxic effects of ultrafine, fine and coarse ambient particles Part I: Development
and laboratory characterization. J. Aerosol Sci. 2001, 32, 1281–1297. [CrossRef] y
60. Bessa, M.J.; Brandão, F.; Fokkens, P.H.B.; Leseman, D.; Boere, A.J.F.; Cassee, F.R.; Salmatonidis, A.; Viana, M.; Vulpoi, A.;
Simon, S.; et al. In vitro Toxicity of Industrially Relevant Engineered Nanoparticles in Human Alveolar Epithelial Cells: Air-
Liquid Interface versus Submerged Cultures. Nanomaterials 2021, 11, 3225. [CrossRef] 61. NanoToxclass Standard Operation Procedure—Preparation of Nanoparticle Suspensions by Cup Horn Sonication. Available
online: https://www.nanopartikel.info/files/projekte/NanoToxClass/NanoToxClassSOP_Dispersion_by_cup_horn_sonication_
V2.0.pdf (accessed on 1 December 2021). Int. J. Mol. Sci. 2022, 23, 4278 18 of 18 62. Paur, H.-R.; Cassee, F.R.; Teeguarden, J.; Fissan, H.; Diabate, S.; Aufderheide, M.; Kreyling, W.G.; Hänninen, O.; Kasper, G.;
Riediker, M. In-vitro cell exposure studies for the assessment of nanoparticle toxicity in the lung—A dialog between aerosol
science and biology. J. Aerosol Sci. 2011, 42, 668–692. [CrossRef] gy J
63. Suzuki, H.; Toyooka, T.; Ibuki, Y. Simple and easy method to evaluate uptake potential of nanopartic
a flow cytometric light scatter analysis. Environ. Sci. Technol. 2007, 41, 3018–3024. [CrossRef] [PubM 64. Rosário, F.; Bessa, M.J.; Brandão, F.; Costa, C.; Lopes, C.B.; Estrada, A.C.; Tavares, D.S.; Teixeira, J.P.; Reis, A.T. Unravelling the
Potential Cytotoxic Effects of Metal Oxide Nanoparticles and Metal(Loid) Mixtures on A549 Human Cell Line. Nanomaterials
2020, 10, 447. [CrossRef] [PubMed] 65. Valdiglesias, V.; Laffon, B.; Pásaro, E.; Méndez, J. Evaluation of okadaic acid-induced genotoxicity in human cells using the
micronucleus test and γH2AX analysis. J. Toxicol. Environ. Health A 2011, 74, 980–992. [CrossRef] [PubMed] 66. Møller, P.; Azqueta, A.; Boutet-Robinet, E.; Koppen, G.; Bonassi, S.; Mili´c, M.; Gajski, G.; Costa, S.; Teixeira, J.P.;
Costa Pereira, C.; et al. Minimum Information for Reporting on the Comet Assay (MIRCA): Recommendations for describing
comet assay procedures and results. Nat. Protoc. 2020, 15, 3817–3826. [CrossRef] [PubMed] y p
67. Bessa, M.J.; Brandao, F.; Querido, M.M.; Costa, C.; Pereira, C.C.; Valdiglesias, V.; Laffon, B.; Carriere, M.; Teixeira, J.P.; Fraga, S. 62.
Paur, H.-R.; Cassee, F.R.; Teeguarden, J.; Fissan, H.; Diabate, S.; Aufderheide, M.; Kreyling, W.G.; Hänninen, O.; Kasper, G.;
Riediker, M. In-vitro cell exposure studies for the assessment of nanoparticle toxicity in the lung—A dialog between aerosol
science and biology. J. Aerosol Sci. 2011, 42, 668–692. [CrossRef] y p
67.
Bessa, M.J.; Brandao, F.; Querido, M.M.; Costa, C.; Pereira, C.C.; Valdiglesias, V.; Laffon, B.; Carriere, M.; Teixeira, J.P.; Fraga, S.
Optimization of the harvesting and freezing conditions of human cell lines for DNA damage analysis by the alkaline comet assay.
Mutat. Res. 2019, 845, 402994. [CrossRef] [PubMed] y
g
y
64.
Rosário, F.; Bessa, M.J.; Brandão, F.; Costa, C.; Lopes, C.B.; Estrada, A.C.; Tavares, D.S.; Teixeira, J.P.; Reis, A.T. Unravelling the
Potential Cytotoxic Effects of Metal Oxide Nanoparticles and Metal(Loid) Mixtures on A549 Human Cell Line. Nanomaterials
2020, 10, 447. [CrossRef] [PubMed] 65.
Valdiglesias, V.; Laffon, B.; Pásaro, E.; Méndez, J. Evaluation of okadaic acid-induced genotoxicity in human cells using the
micronucleus test and γH2AX analysis. J. Toxicol. Environ. Health A 2011, 74, 980–992. [CrossRef] [PubMed] 66.
Møller, P.; Azqueta, A.; Boutet-Robinet, E.; Koppen, G.; Bonassi, S.; Mili´c, M.; Gajski, G.; Costa, S.; Teixeira, J.P.;
Costa Pereira, C.; et al. Minimum Information for Reporting on the Comet Assay (MIRCA): Recommendations for describing
comet assay procedures and results. Nat. Protoc. 2020, 15, 3817–3826. [CrossRef] [PubMed] gy J
[
]
63.
Suzuki, H.; Toyooka, T.; Ibuki, Y. Simple and easy method to evaluate uptake potential of nanoparticles
a flow cytometric light scatter analysis. Environ. Sci. Technol. 2007, 41, 3018–3024. [CrossRef] [PubMed gy J
[
]
ki, H.; Toyooka, T.; Ibuki, Y. Simple and easy method to evaluate uptake potential of nanoparticles in mamma
w cytometric light scatter analysis Environ Sci Technol 2007 41 3018 3024 [CrossRef] [PubMed] eferences
References Optimization of the harvesting and freezing conditions of human cell lines for DNA damage analysis by the alkaline comet assay. Mutat. Res. 2019, 845, 402994. [CrossRef] [PubMed]
|
https://openalex.org/W4297338209
|
https://www.researchsquare.com/article/rs-1707079/latest.pdf
|
English
| null |
A critical role of calcineurin in stress responses, hyphal formation, and virulence of the pathogenic fungus Trichosporon asahii
|
Scientific reports
| 2,022
|
cc-by
| 7,161
|
A critical role of calcineurin in stress responses,
hyphal formation, and virulence of the pathogenic
fungus Trichosporon asahii
Yasuhiko Matsumoto
(
ymatsumoto@my-pharm.ac.jp
)
Meiji Pharmaceutical University
Asami Yoshikawa
Meiji Pharmaceutical University
Tae Nagamachi
Meiji Pharmaceutical University
Yu Sugiyama
Meiji Pharmaceutical University
Tsuyoshi Yamada
Teikyo University Institute of Medical Mycology
Takashi Sugita
Meiji Pharmaceutical University
Article
Keywords: Trichosporon asahii, calcineurin, stress response, virulence, calcineurin
Posted Date: June 7th, 2022
DOI: https://doi.org/10.21203/rs.3.rs-1707079/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License.
Read Full License A critical role of calcineurin in stress responses,
hyphal formation, and virulence of the pathogenic
fungus Trichosporon asahii
Yasuhiko Matsumoto
(
ymatsumoto@my-pharm.ac.jp
)
Meiji Pharmaceutical University
Asami Yoshikawa
Meiji Pharmaceutical University
Tae Nagamachi
Meiji Pharmaceutical University
Yu Sugiyama
Meiji Pharmaceutical University
Tsuyoshi Yamada
Teikyo University Institute of Medical Mycology
Takashi Sugita
Meiji Pharmaceutical University
Article
Keywords: Trichosporon asahii, calcineurin, stress response, virulence, calcineurin
Posted Date: June 7th, 2022
DOI: https://doi.org/10.21203/rs.3.rs-1707079/v1
License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. Read Full License A critical role of calcineurin in stress responses,
hyphal formation, and virulence of the pathogenic
fungus Trichosporon asahii Yasuhiko Matsumoto
(
ymatsumoto@my-pharm.ac.jp
)
Meiji Pharmaceutical University Article License:
This work is licensed under a Creative Commons Attribution 4.0 International
License. R
d F ll Li Page 1/14 Page 1/14 Page 1/14 Abstract Trichosporon asahii is a conditional pathogenic fungus that causes severe and sometimes fatal
infections in immunocompromised patients. While calcineurin, an essential component of a calcium-
dependent signaling pathway, is known to regulate stress resistance and virulence of some pathogenic
fungi, its role in T. asahii has not been investigated. Here, we demonstrated that calcineurin gene-deficient
T. asahii mutants are sensitive to high temperature as well as cell-membrane and cell-wall stress, and
exhibit decreased hyphal formation and virulence against silkworms. Growth of T. asahii mutants
deficient in genes encoding subunits of calcineurin, cna1 and cnb1, was delayed at 40˚C. The cna1 and
cnb1 gene-deficient mutants also showed sensitivity to sodium dodecyl sulfate, Congo red, dithiothreitol,
and tunicamycin. On the other hand, these mutants exhibited no sensitivity to caffeine, sorbitol,
monensin, CaCl2, LiCl, NaCl, amphotericin B, fluconazole, or voriconazole. The ratio of hyphal formation
in the cna1 and cnb1 gene-deficient mutants was decreased. Moreover, the virulence of the cna1 and
cnb1 gene-deficient mutants against silkworms was attenuated. These phenotypes were restored by re-
introducing each respective gene into the gene-deficient mutants. Our findings suggest that calcineurin
also has a role in regulating the cellular stress response and virulence of T. asahii. Introduction Although
mammalian experimental models such as mice are usually used in studies of infectious diseases24, the
requirements of specialized experimental facilities and large numbers of animals as well as the ethical
considerations are severely limiting25. T. asahii infection experiments are also not easy to perform in mice
because immunosuppressive drugs must be administered26–27. The use of an invertebrate silkworm
model for these types of experiments is highly advantageous because silkworms are less costly to house
and rear in large numbers, and fewer ethical problems are associated with their use. In the present study, we used a recently developed technique28 to generate calcineurin gene-deficient T. asahii mutants and characterized the phenotypes related to stress resistance and virulence in the
silkworm infection model. The cna1 and cnb1 gene-deficient mutants exhibited sensitivity to chemicals
known to cause membrane damage and ER stress, as well as attenuated hyphal formation and virulence
against silkworms. Our findings suggest that calcineurin controls cellular stress responses and virulence
of T. asahii via a calcineurin-signaling pathway. Introduction Trichosporon asahii is a basidiomycete yeast widely distributed in the environment and is often isolated
from human blood, sputum, skin, feces, and urine1–6. T. asahii causes severe fungal infections in
immunocompromised patients7–9, and the mortality rate of deep mycoses caused by T. asahii is twice as
high as that caused by Candida albicans (80% vs 40%)10. T. asahii is resistant to echinocandin
antifungals, and thus patients treated with micafungin are susceptible to the development of severe
infections11. Amphotericin B- and azole antifungal-resistant T. asahii strains have also been isolated from
patients12,13. T. asahii commonly forms a biofilm comprising microbe aggregates and extracellular matrix
on indwelling medical devices14 that confers its resistance to antifungal drugs13. Several morphologic
forms of T. asahii exist, such as yeast, hyphae (filament form), and arthroconidia (chains of cells and
asexual spores)4. Arthroconidia of T. asahii contribute to biofilm formation by promoting cellular
adhesion15. These features of T. asahii make it a highly problematic clinical pathogen9. Calcineurin, a calcium-calmodulin-activated phosphatase consisting of a heterodimer with the catalytic
and regulatory subunits Cna1 and Cnb116 controls the expression of several genes by dephosphorylating
the transcriptional regulator Crz1 through binding to calmodulin, a calcium sensor17,18. It is essential for
the growth of Cryptococcus neoformans, a pathogenic basidiomycete yeast like T. asahii, at 37°C, as well
as its virulence in a rabbit model of cryptococcal meningitis and cation homeostasis19,20. In addition,
calcineurin contributes to resistance to cell membrane damage, cell wall damage, osmotic stress, and
endoplasmic reticulum (ER) stress21,22. The role of calcineurin in the virulence of T. asahii, however, has
remained unclear. Page 2/14 Page 2/14 To elucidate the virulence of T. asahii, we used an established silkworm infection model23. Although
mammalian experimental models such as mice are usually used in studies of infectious diseases24, the
requirements of specialized experimental facilities and large numbers of animals as well as the ethical
considerations are severely limiting25. T. asahii infection experiments are also not easy to perform in mice
because immunosuppressive drugs must be administered26–27. The use of an invertebrate silkworm
model for these types of experiments is highly advantageous because silkworms are less costly to house
and rear in large numbers, and fewer ethical problems are associated with their use. To elucidate the virulence of T. asahii, we used an established silkworm infection model23. Function of calcineurin in stress resistance of T. asahii. Generation of cna1, cnb1 gene-deficient mutants, and their gene-reintroduced strains. Generation of cna1, cnb1 gene-deficient mutants, and their gene-reintroduced strains. The ku70 gene-deficient strain of the T. asahii MPU129 strain has high homologous recombination
efficiency, making it useful as a parent strain28. Using this strain, we generated the cna1 gene-deficient
mutant. The targeting DNA fragment used to generate the cna1 gene-deficient mutant contains the NAT1
gene, which leads to nourseothricin resistance (Fig. 1a). Introducing this DNA fragment into the T. asahii
genome confers resistance to nourseothricin (Fig. 1a). Nourseothricin-resistant strains were obtained by
introducing the DNA fragment through electroporation (Fig. 1b). The genomes were extracted from the
transformants and the deficiency of the cna1 gene was checked by polymerase chain reaction (PCR)
(Fig. 1c and d). Secondary genetic mutations such as point mutations may occur during the generation of
gene-deficient mutants. Therefore, it is necessary to establish a revertant strain in which the gene is
reintroduced into the gene-deficient mutant to confirm that the phenotype of the gene-deficient strain is
due to a deficiency of the targeted gene. Next, we generated a revertant strain of the cna1 gene-deficient
mutant. The targeting DNA fragment used to generate the revertant strain of the cna1 gene-deficient
mutant contains the hgh gene, which leads to hygromycin B resistance (Fig. 1a). Hygromycin B-resistant
strains were obtained by introducing the DNA fragment through electroporation (Fig. 1b). Reintroduction
of the cna1 gene was checked by PCR using the genomes extracted from the transformants (Fig. 1c and
d). The results confirmed the generation of the cna1 gene-deficient T. asahii mutant and the cna1 gene-
reintroduced revertant. Similarly, a cnb1 gene-deficient mutant and its revertant were also generated
(Fig. 1e-h). Function of calcineurin in stress resistance of T. asahii. Function of calcineurin in stress resistance of T. asahii. Page 3/14 Page 3/14 In C. neoformans, cna1 and cnb1 gene-deficient mutants show growth defects at 37°C 29,30. Growth of
the cna1 and cnb1 gene-deficient T. asahii mutants was delayed at 40°C (Fig. 2). The high-temperature
sensitive phenotype of these gene-deficient mutants was suppressed in their revertants (Fig. 2). In
Cryptococcus gattii and C. neoformans, cna1 gene-deficient mutants are sensitive to sodium dodecyl
sulfate (SDS), which damages the cell membrane, and Congo red, which damages the cell wall21. The
cna1 gene-deficient mutant of C. Generation of cna1, cnb1 gene-deficient mutants, and their gene-reintroduced strains. neoformans is also sensitive to caffeine, which inhibits the cell wall
integrity (CWI) signaling pathway, which promotes cell wall integrity; and sorbitol, which is an osmotic
stressor 22. Growth was delayed in cna1 and cnb1 gene-deficient T. asahii mutants treated with SDS and
Congo red, but not affected by treatment with caffeine or sorbitol (Fig. 3). In C. neoformans, the cna1
gene-deficient mutant is sensitive to dithiothreitol (DTT) and tunicamycin (TM), which stress the ER;
brefeldin A (BFA), which inhibits intracellular vesicle formation and protein trafficking between the ER and
the Golgi apparatus; and monensin, which is involved in intracellular transport22. Growth was delayed in
cna1 and cnb1 gene-deficient T. asahii mutants treated with DTT and TM, but not in those treated with
BFA and monensin (Fig. 3). The presence of Ca2+ or Li+ inhibits the growth of the cna1 gene-deficient
Cryptococcus gattii mutant, but not that of the cna1 gene-deficient C. neoformans mutant21. The growth
of cna1 and cnb1 gene-deficient T. asahii mutants was not altered by treatment with CaCl2, LiCl, or NaCl
(Fig. 3). Moreover, the presence of antifungal drugs such as amphotericin B, fluconazole, and
voriconazole did not cause growth defects in the cna1 and cnb1 gene-deficient T. asahii mutants (Fig. 3). The stress-sensitive phenotypes of these gene-deficient mutants were suppressed in the revertants
(Fig. 3). These findings suggest that the cna1 and cnb1 genes are involved in resistance to cell
membrane and cell wall damage, and ER stress in T. asahii. Role of calcineurin in hyphal formation by T. asahii. T. asahii has several morphologic forms: yeast, hyphae (filament form), and arthroconidia (chains of cells
and asexual spores) 4. We examined whether cna1 and cnb1 gene deficiencies affect hyphal formation in
T. asahii. In Sabouraud dextrose medium, the hyphae ratio was lower in the cna1 and cnb1 gene-deficient
mutants than in the parental strain (Fig. 4). The phenotype of lower hyphal forming activities in these
gene-deficient mutants was suppressed in their revertants (Fig. 4). These observations suggest that the
cna1 and cnb1 genes contribute to hyphal formation by T. asahii. Discussion The present study using cna1 and cnb1 gene-deficient mutants demonstrated that calcineurin in T. asahii
plays a vital role in stress resistance and virulence against silkworms. Our findings suggest that the
pathogenicity of T. asahii is regulated via the calcineurin-signaling pathway. The calcineurin-signaling pathway is required for normal growth of T. asahii under a high-temperature
condition (40˚C). Severe growth defects of the cna1 and cnb1 gene-deficient T. asahii mutants were
observed at 40˚C compared with those at 27˚C and 37˚C. In C. neoformans, calcineurin is required for the
growth at 37˚C 29,30. Therefore, the high-temperature stress response is partially regulated by calcineurin
in T. asahii compared with C. neoformans. In Cryptococcus gattii and C. neoformans, calcineurin plays an important role in cell membrane
homeostasis, cell wall integrity, the ER stress response, cation homeostasis, and fluconazole tolerance
21,22. Calcineurin in T. asahii is related to resistance against cell membrane and cell wall damage, and ER
stress, but not cell wall integrity dependent on the CWI pathway, osmotic stress resistance, cation
homeostasis, or antifungal drug resistance. The cna1 gene-deficient mutant of C. neoformans exhibits
sensitivities to SDS, Congo red, caffeine, sorbitol, BFA, monensin, DTT, TM, CaCl2, LiCl, NaCl, and
fluconazole 21,22,32−34. Therefore, the roles of calcineurin in cell wall integrity dependent on the CWI
pathway, osmotic stress resistance, cation homeostasis, and antifungal drug resistance differ between T. asahii and C. neoformans. T. asahii forms hyphae in Sabouraud dextrose medium and in silkworm hemolymph via calcineurin. Moreover, calcineurin is required for T. asahii virulence in a silkworm infection model. In, the calcineurin-
signaling pathway regulates hyphal growth and virulence 35–37. Therefore, as in Candida dubliniensis,
Candida tropicalis, and Aspergillus fumigatus, the calcineurin signaling pathway in T. asahii regulates
hyphal growth and virulence. T. asahii forms hyphae in the hemolymph of silkworms infected with T. asahii 23. Hyphal growth of T. asahii in blood vessels causes necrotic thrombi and may contribute to
infection 38. Moreover, we demonstrated that the calcineurin contributes to arthroconidia and hyphal
formation of T. asahii in human serum. Therefore, morphological change of T. asahii regulated by
calcineurin might contribute to its virulence against silkworms and humans. Further studies are needed to
reveal the role of the calcineurin in T. asahii virulence using a mouse infection model. The calcineurin in
C. neoformans regulates gene expression via dephosphorylation of the transcription factors 39. We
speculate that the calcineurin in T. Calcineurin-dependency of T. asahii virulence against silkworms. Calcineurin-dependency of T. asahii virulence against silkworms. Calcineurin-dependency of T. asahii virulence against silkworms. In C. neoformans, the cna1 gene is required for virulence against silkworms31. We examined whether
deficiencies of the cna1 and cnb1 genes reduced the virulence of T. asahii against silkworms. Survival
times of silkworms injected with the cna1 and cnb1 gene-deficient mutants were longer than those of the
parental strain (Fig. 5a and b). The half-maximal lethal dose (LD50) values of the cna1 and cnb1 gene-
deficient mutants was more than 10-fold higher that of the parent strain (Fig. 5c, d, and Table 1). In the
silkworm hemolymph, the hyphal ratio in the cna1 and cnb1 gene-deficient mutants was lower than that
of the parent strain (Fig. 6). In human serum, the hyphae and arthroconidia ratio was also lower in the Page 4/14 Page 4/14 cna1 and cnb1 gene-deficient mutants than in the parental strain (Fig. 7). These phenotypes were
suppressed in their revertants (Fig. 5, 6, 7, and Table 1). These findings suggest that the cna1 and cnb1
genes are involved in the virulence of T. asahii against silkworms and in the morphological change in the
host environments. Methods Reagents. SDS, sorbitol, DTT, NaCl, and LiCl were purchased from Wako Pure Chemical Industries (Osaka,
Japan). Fluconazole, voriconazole, hygromycin B, caffeine, and monensin sodium salt were purchased
from Tokyo Chemical Industry Co., Ltd. (Tokyo, Japan). Nourseothricin was purchased from Jena
Bioscience (Dortmund, Germany). Congo red was purchased from Sigma-Aldrich (St. Louis, MO, USA). G418 was purchased from Enzo Life Science, Inc. (Farmingdale, NY, USA). CaCl2 was purchased from
Kanto Chemical Co., Inc. (Tokyo, Japan). Tunicamycin was purchased from Cayman Chemical Company
(Ann Arbor, MI, USA). Brefeldin A (BFA) was purchased from Funakoshi Co., Ltd. (Tokyo, Japan). Human
serum [(from male AB clotted whole blood), USA origin, sterile-filtered] (Product ID: H6914) was
purchased from Sigma-Aldrich (St. Louis, MO, USA). Culture of T. asahii.The T. asahii strain (MPU129 ku70 gene-deficient mutant) used in this study was
generated as previously reported 28. The T. asahii MPU129 ku70 gene-deficient mutant was grown on
Sabouraud dextrose agar (SDA) (1% hipolypepton [Nihon Pharmaceutical Co., Ltd., Tokyo, Japan], 4%
dextrose, and 1.5% agar [both from FUJIFILM Wako Pure Chemical Industries, Osaka, Japan]) containing
G418 (50 μg/ml) and incubated at 27°C for 2 days. Construction of gene-deficient T. asahii mutants and their revertants.The plasmid for gene-deficient T. asahii strains was constructed according to a previous report40. To generate the cna1 or cnb1 gene-
deficient strains, the 5’-UTR and 3’-UTR of the cna1 or cnb1 gene were introduced into a pAg1-NAT1
vector41. To generate their revertants, the hygromycin phosphotransferase gene (hph) cassette and the
cna1 or cnb1 gene were introduced into pAg1-cna1(5’UTR)-NAT1-cna1(3’UTR) or pAg1-cnb1(5’UTR)-
NAT1-cnb1(3’UTR). Cloning was performed by the infusion method (In-Fusion HD Cloning Kit, Takara,
Shiga, Japan) or ligation method (DNA Ligation Kit Ver.2.1, Takara, Shiga, Japan). The primers used for
PCR amplification of each DNA region are shown in Table 2. Competent cells for electroporation were prepared according to a previous report 28. T. asahii was spread
on an SDA plate and cultured at 27°C for 1 day. T. asahii cells on agar were suspended by physiologic
saline solution (2 ml), and the suspension was transferred to a 1.5-ml tube. The fungal cells were
collected by centrifugation at 8000 rpm for 3 min (TOMY-MX100, TOMY Digital Biology Co. Ltd, Tokyo,
Japan) and suspended by adding 1 ml of ice-cold water and centrifuged at 8000 rpm for 3 min. This
washing process was repeated 4 times. Discussion asahii regulates hyphal formation-related gene expression. Identifying
the crucial genes involved in hyphal formation regulated by calcineurin in T. asahii will be an important
next step. Page 5/14 Page 5/14 In conclusion, we demonstrated that calcineurin in T. asahii has roles in the stress response and hyphal
formation. The stress response system and hyphal formation regulated by calcineurin might contribute to
the virulence of T. asahii. In conclusion, we demonstrated that calcineurin in T. asahii has roles in the stress response and hyphal
formation. The stress response system and hyphal formation regulated by calcineurin might contribute to
the virulence of T. asahii. Methods The washed cells were suspended by adding 1 ml of 1.2 M
sorbitol solution and centrifuged at 8000 rpm for 3 min. The obtained fungal cells were suspended with
0.2 ml of 1.2 M sorbitol solution as competent cells. The PCR-amplified 5'-UTR (cna1) -NAT1-3'-UTR
(cna1), 5'-UTR (cna1) -cna1-hph-3'-UTR (cna1), 5'-UTR (cnb1) -NAT1-3'-UTR (cnb1), or 5'-UTR (cnb1) -cnb1-
hph-3'-UTR (cnb1) fragments (180 ng/2 µl) were added to the T. asahii competent cells (40 µl) and placed Page 6/14 Page 6/14 on ice for 15 min. The suspension was added to a 0.2-cm gap cuvette (Bio-Rad Laboratories, Inc.) and
electroporated (Time constant protocol: 1800 V, 5 ms) using a Gene Pulser Xcell (Bio-Rad Laboratories,
Inc.). The cells were suspended by adding 500 µl YPD containing 0.6 M sorbitol and incubated at 27°C for
3 h. After incubation, the cells were collected by centrifugation at 10,000 rpm for 5 min and suspended in
100 µl of physiologic saline solution and applied to SDA containing nourseothricin (300 µg/ml) or
hygromycin B (300 µg/ml). The cells were incubated at 27°C for 3 days and the growing colonies were
isolated as gene-deficient strain or revertant candidates. Introduction of the mutation into the genome of
the candidate strains was confirmed using the extracted genome as a template DNA by PCR with the
primers shown in Table 2. The information of strains were shown in Table 3. Temperature sensitivity test. The T. asahii strains were grown on SDA containing G418 (50 μg/ml) and
incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution (0.9% w/v
NaCl) and filtered through a 40-μm cell strainer (Corning Inc., Corning, NY, USA). Absorbance of 630 nm of
the T. asahii cell suspension was adjusted to 1. Series of 10-fold dilution of the fungal suspension were
prepared using saline. Five microliters of each cell suspension was spotted on the SDA. The agar plates
were incubated at 27, 37, or 40˚C for 24 h, and photographs were obtained. For growth on liquid medium, Sabouraud liquid medium (1% hipolypepton, 4% dextrose) was used in this
study. Suspensions of the T. asahii parent strain (Parent) the cna1 gene-deficient mutant (∆cna1), the
revertant from ∆cna1 (CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant from ∆cnb1
(CNB1) were prepared with Sabouraud medium and adjusted to 0.005 on absorbance at 630 nm. The T. Methods asahii suspensions were incubated at 27°C, 37°C, or 40˚C for 4 days and absorbance at 630 nm was
measured using a microplate reader (iMark™ microplate reader; Bio-Rad Laboratories Inc., Hercules, CA,
USA). Drug sensitivity test. The T. asahii strains were grown on SDA containing G418 (50 μg/ml) and incubated
at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution (0.9% w/v NaCl) and
filtered through a 40-μm cell strainer (Corning Inc.). Absorbance of 630 nm of the T. asahii cell
suspension was adjusted to 1. Series of 10-fold dilution of the fungal suspension were prepared using
saline. Five microliters of each cell suspension was spotted on the SDA containing SDS (0.00625%),
Congo red (100 µg/mL), caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10
µg/mL), Monensin (1 mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin B (0.4 µg/mL),
fluconazole (6.4 µg/mL), or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h,
and photographs were obtained. Observation of T. asahii morphology. The T. asahii strains were grown on SDA containing G418 (50
μg/ml) and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and
filtered through a 40-μm cell strainer (Corning Inc.). Absorbance of 630 nm of the T. asahii cell
suspension was adjusted to 1–1.5. The cell suspension (10 µl) was added to Sabouraud dextrose
medium, harvested silkworm hemolymph, or human serum (100 µl). The solutions were incubated at 37˚C
for 48 h. The incubated solution was placed on glass slides and covered by a glass coverslip. Samples Page 7/14 Page 7/14 Page 7/14 were examined with bright light under a microscope (CH-30; Olympus, Tokyo, Japan). The pictures were
randomly obtained. The morphology of T. asahii was determined according to a previous report 15. The
numbers of the 3 types of cells, yeast, arthroconidia, and hyphae, were counted. Silkworm infection experiments. Silkworm infection experiments were performed according to a previous
report 23. Eggs of silkworms (Hu・Yo × Tukuba・Ne) were purchased from Ehime-Sanshu Co, Ltd. (Ehime,
Japan), disinfected, and hatched at 25–27°C. The silkworms were fed an artificial diet, Silkmate 2S,
containing antibiotics purchased from Ehime-Sanshu Co., Ltd. Fifth instar larvae were used in the
infection experiments. Silkworm fifth instar larvae were fed the artificial diet (Silkmate 2S; Ehime-Sanshu
Co., Ltd.) overnight. T. Methods asahii grown on SDA plates was suspended in physiologic saline solution (0.9%
w/v NaCl) and filtered through a 40-μm cell strainer (Corning Inc.). A 50-µl suspension of T. asahii cells
was administered to the silkworm hemolymph by injecting the silkworm dorsally using a 1-ml tuberculin
syringe (Terumo Medical Corporation, Tokyo, Japan). Silkworms injected with T. asahii cells were placed
in an incubator and their survival was monitored. LD50 measurement. The dose of T. asahii required to kill half of the silkworms (LD50) was determined
according to the previous report 23. T. asahii strains (1×102 to 2×107 cells/50 µl) were injected into the
silkworm hemolymph and the silkworms were incubated at 37˚C. Survival of the silkworms (n = 4/group)
at 48 h was recorded. The LD50 was determined from the combined data of 2–3 independent
experiments by a simple logistic regression model using Prism 9.1.2 (GraphPad Software, LLC, San
Diego, CA, USA, https://www.graph pad.com/scientific -software/prism/). Statistical analysis. All experiments were performed at least twice and representative results are shown. The significance of differences between groups in the silkworm infection experiments was calculated by
the log-rank test based on curves determined by the Kaplan-Meier method using Prism 9.1.2. Data availability. The datasets generated during the present study are available from the corresponding
author on reasonable request. Acknowledgements We thank Eri Sato, Hiromi Kanai, and Sachi Koganesawa (Meiji Pharmaceutical University) for their
technical assistance rearing the silkworms. This study was supported by JSPS KAKENHI grant number
JP20K07022 (Scientific Research (C) to Y.M.) and in part by the Research Program on Emerging and Re-
emerging Infectious Diseases of the Japan Agency for Medical Research and Development, AMED (Grant
number JP20fk0108135h0201 to T.S.). Competing interests The authors declare no competing interests. Author contributions Page 8/14 Study conception and design: Y.M. Acquisition of data: Y.M., A.Y., T.N., Y.S., T.Y. Analysis and
interpretation of data: Y.M., A.Y., T.N., Y.S. Drafting of manuscript: Y.M. Critical revision: Y.M., A.Y., T.N., T.Y.,
T.S. All authors have read and approved the final version of the manuscript. Study conception and design: Y.M. Acquisition of data: Y.M., A.Y., T.N., Y.S., T.Y. Analysis and
interpretation of data: Y.M., A.Y., T.N., Y.S. Drafting of manuscript: Y.M. Critical revision: Y.M., A.Y., T.N., T.Y.,
T.S. All authors have read and approved the final version of the manuscript. Study conception and design: Y.M. Acquisition of data: Y.M., A.Y., T.N., Y.S., T.Y. Analysis and
interpretation of data: Y.M., A.Y., T.N., Y.S. Drafting of manuscript: Y.M. Critical revision: Y.M., A.Y., T.N., T.Y.,
T.S. All authors have read and approved the final version of the manuscript. References 1. Sugita, T., Nishikawa, A., Ichikawa, T., Ikeda, R. & Shinoda, T. Isolation of Trichosporon asahii from
environmental materials. Med. Mycol. 38, 27–30 (2000). 1. Sugita, T., Nishikawa, A., Ichikawa, T., Ikeda, R. & Shinoda, T. Isolation of Trichosporon asahii from
environmental materials. Med. Mycol. 38, 27–30 (2000). 2. Sugita, T. et al. Genetic diversity and biochemical characteristics of Trichosporon asahii isolated
from clinical specimens, houses of patients with summer-type-hypersensitivity pneumonitis, and
environmental materials. J. Clin. Microbiol. 39, 2405–2411 (2001). 3. Zhang, E., Sugita, T., Tsuboi, R., Yamazaki, T. & Makimura, K. The opportunistic yeast pathogen
Trichosporon asahii colonizes the skin of healthy individuals: analysis of 380 healthy individuals by
age and gender using a nested polymerase chain reaction assay. Microbiol. Immunol. 55, 483–488
(2011). 4. Colombo, A. L., Padovan, A. C. B. & Chaves, G. M. Current knowledge of Trichosporon spp. and
Trichosporonosis. Clin. Microbiol. Rev. 24, 682–700 (2011). 5. Gouba, N., Raoult, D. & Drancourt, M. Eukaryote culturomics of the gut reveals new species. PLoS
ONE 9, e106994 (2014). 6. Cho, O., Matsukura, M. & Sugita, T. Molecular evidence that the opportunistic fungal pathogen
Trichosporon asahii is part of the normal fungal microbiota of the human gut based on rRNA
genotyping. Int. J. Infect. Dis. 39, 87–88 (2015). 7. Walsh, T. J. et al. Experimental Trichosporon infection in persistently granulocytopenic rabbits:
implications for pathogenesis, diagnosis, and treatment of an emerging opportunistic mycosis. J. Infect. Dis. 166, 121–133 (1992). 8. Walsh, T. J., Melcher, G. P., Lee, J. W. & Pizzo, P. A. Infections due to Trichosporon species: new
concepts in mycology, pathogenesis, diagnosis and treatment. Curr Top Med Mycol 5, 79–113
(1993). 9. Duarte-Oliveira, C. et al. The Cell Biology of the Trichosporon-Host Interaction. Front Cell Infect
Microbiol 7, 118 (2017). 10. Krcmery, V. et al. Hematogenous trichosporonosis in cancer patients: report of 12 cases including 5
during prophylaxis with itraconazol. Support Care Cancer 7, 39–43 (1999). 11. Kimura, M. et al. Micafungin Breakthrough Fungemia in Patients with Hematological Disorders. Antimicrob. Agents Chemother. 62, 324 (2018). Page 9/14 Page 9/14 12. Toriumi, Y., Sugita, T., Nakajima, M., Matsushima, T. & Shinoda, T. Antifungal pharmacodynamic
characteristics of amphotericin B against Trichosporon asahii, using time-kill methodology. Microbiol. Immunol. 46, 89–93 (2002). 13. Iturrieta-González, I. A., Padovan, A. C. B., Bizerra, F. C., Hahn, R. C. & Colombo, A. L. References Multiple species
of Trichosporon produce biofilms highly resistant to triazoles and amphotericin B. PLoS ONE 9,
e109553 (2014). 14. Di Bonaventura, G. et al. Biofilm formation by the emerging fungal pathogen Trichosporon asahii:
development, architecture, and antifungal resistance. Antimicrob. Agents Chemother. 50, 3269–3276
(2006). 15. Kurakado, S. et al. Role of arthroconidia in biofilm formation by Trichosporon asahii. Mycoses 64,
42–47 (2021). 16. Hemenway, C. S. & Heitman, J. Calcineurin. Structure, function, and inhibition. Cell Biochem Biophys
30, 115–151 (1999). 17. Kozubowski, L., Lee, S. C. & Heitman, J. Signaling pathways in the pathogenesis of Cryptococcus. Cell. Microbiol. 11, 370–380 (2009). 18. Iyer, K. R., Robbins, N. & Cowen, L. E. The role of Candida albicans stress response pathways in
antifungal tolerance and resistance. iScience 25, 103953 (2022). 19. Odom, A. et al. Calcineurin is required for virulence of Cryptococcus neoformans. EMBO J. 16, 2576–
2589 (1997). 20. Rutherford, J. C., Bahn, Y.-S., van den Berg, B., Heitman, J. & Xue, C. Nutrient and Stress Sensing in
Pathogenic Yeasts. Front Microbiol 10, 442 (2019). 21. Chen, Y.-L., Lehman, V. N., Lewit, Y., Averette, A. F. & Heitman, J. Calcineurin governs thermotolerance
and virulence of Cryptococcus gattii. G3 (Bethesda) 3, 527–539 (2013). 22. Hu, G. et al. The monothiol glutaredoxin Grx4 influences thermotolerance, cell wall integrity, and
Mpk1 signaling in Cryptococcus neoformans. G3 (Bethesda) 11, (2021). 23. Matsumoto, Y. et al. A novel silkworm infection model with fluorescence imaging using transgenic
Trichosporon asahii expressing eGFP. Sci Rep 10, 10991–11 (2020). 24. Matsumoto, Y. Facilitating Drug Discovery in Human Disease Models Using Insects. Biol. Pharm. Bull. 43, 216–220 (2020). 24. Matsumoto, Y. Facilitating Drug Discovery in Human Disease Models Using Insects. Biol. Pharm. Bull. 43, 216–220 (2020). 25. Flecknell, P. Replacement, reduction and refinement. ALTEX 19, 73–78 (2 26. Gokaslan, A. & Anaissie, E. A novel murine model of disseminated trichosporonosis. Infect. Immun. 60, 3339–3344 (1992). 26. Gokaslan, A. & Anaissie, E. A novel murine model of disseminated trichosporonosis. Infect. Immun. 60, 3339–3344 (1992). 27. Montoya, A. M. et al. In vivo pathogenicity of Trichosporon asahii isolates with different in vitro
enzymatic profiles in an immunocompetent murine model of systemic trichosporonosis. Med. Mycol. 56, 434–441 (2018). 27. Montoya, A. M. et al. In vivo pathogenicity of Trichosporon asahii isolates with different in vitro
enzymatic profiles in an immunocompetent murine model of systemic trichosporonosis. Med. Mycol. 56, 434–441 (2018). 28. Matsumoto, Y. Tables Tables 1 to 3 are available in the Supplementary Files section. References Trichosporon asahii septic thrombophlebitis following lower
extremity amputation in an immunocompetent host. BMJ Case Rep 2018, bcr–2017–221441 (2018). 39. Matsumoto, Y. et al. Induction of signal transduction pathways related to the pathogenicity of
Cryptococcus neoformans in the host environment. Drug Discov Ther 13, 177–182 (2019). 39. Matsumoto, Y. et al. Induction of signal transduction pathways related to the pathogenicity of
Cryptococcus neoformans in the host environment. Drug Discov Ther 13, 177–182 (2019). 40. Yamada, T. et al. Enhanced gene replacements in Ku80 disruption mutants of the dermatophyte,
Trichophyton mentagrophytes. FEMS Microbiol. Lett. 298, 208–217 (2009). 40. Yamada, T. et al. Enhanced gene replacements in Ku80 disruption mutants of the dermatophyte,
Trichophyton mentagrophytes. FEMS Microbiol. Lett. 298, 208–217 (2009). 41. Alshahni, M. M., Makimura, K., Yamada, T., Takatori, K. & Sawada, T. Nourseothricin
acetyltransferase: a new dominant selectable marker for the dermatophyte Trichophyton
mentagrophytes. Med. Mycol. 48, 665–668 (2010). 41. Alshahni, M. M., Makimura, K., Yamada, T., Takatori, K. & Sawada, T. Nourseothricin
acetyltransferase: a new dominant selectable marker for the dermatophyte Trichophyton
mentagrophytes. Med. Mycol. 48, 665–668 (2010). References et al. Development of an efficient gene-targeting system for elucidating infection
mechanisms of the fungal pathogen Trichosporon asahii. Sci Rep 11, 18270–10 (2021). 28. Matsumoto, Y. et al. Development of an efficient gene-targeting system for elucidating infection
mechanisms of the fungal pathogen Trichosporon asahii. Sci Rep 11, 18270–10 (2021). Page 10/14 Page 10/14 Page 10/14 29. Cruz, M. C., Sia, R. A., Olson, M., Cox, G. M. & Heitman, J. Comparison of the roles of calcineurin in
physiology and virulence in serotype D and serotype A strains of Cryptococcus neoformans. Infect. Immun. 68, 982–985 (2000). 30. Fox, D. S. et al. Calcineurin regulatory subunit is essential for virulence and mediates interactions
with FKBP12-FK506 in Cryptococcus neoformans. Mol. Microbiol. 39, 835–849 (2001). 31. Matsumoto, Y. et al. Quantitative evaluation of cryptococcal pathogenesis and antifungal drugs
using a silkworm infection model with Cryptococcus neoformans. J. Appl. Microbiol. 112, 138–146
(2012). 32. Park, H.-S. et al. Calcineurin Targets Involved in Stress Survival and Fungal Virulence. PLoS Pathog. 12, e1005873 (2016). 33. Chow, E. W. L. et al. Elucidation of the calcineurin-Crz1 stress response transcriptional network in the
human fungal pathogen Cryptococcus neoformans. PLOS Genetics 13, e1006667 (2017). 34. Fu, C., Donadio, N., Cardenas, M. E. & Heitman, J. Dissecting the Roles of the Calcineurin Pathway in
Unisexual Reproduction, Stress Responses, and Virulence in Cryptococcus deneoformans. Genetics
208, 639–653 (2018). 35. Chen, Y.-L. et al. Calcineurin controls drug tolerance, hyphal growth, and virulence in Candida
dubliniensis. Eukaryotic Cell 10, 803–819 (2011). 35. Chen, Y.-L. et al. Calcineurin controls drug tolerance, hyphal growth, and virulence in Candida
dubliniensis. Eukaryotic Cell 10, 803–819 (2011). 36. Chen, Y.-L. et al. Calcineurin controls hyphal growth, virulence, and drug tolerance of Candida
tropicalis. Eukaryotic Cell 13, 844–854 (2014). 36. Chen, Y.-L. et al. Calcineurin controls hyphal growth, virulence, and drug tolerance of Candida
tropicalis. Eukaryotic Cell 13, 844–854 (2014). 37. Juvvadi, P. R., Lamoth, F. & Steinbach, W. J. Calcineurin-mediated regulation of hyphal growth,
septation, and virulence in Aspergillus fumigatus. Mycopathologia 178, 341–348 (2014). 37. Juvvadi, P. R., Lamoth, F. & Steinbach, W. J. Calcineurin-mediated regulation of hyphal growth,
septation, and virulence in Aspergillus fumigatus. Mycopathologia 178, 341–348 (2014). 38. Mada, P. K., Ayoade, F., Li, A. & Todd, J. Trichosporon asahii septic thrombophlebitis following lower
extremity amputation in an immunocompetent host. BMJ Case Rep 2018, bcr–2017–221441 (2018) 38. Mada, P. K., Ayoade, F., Li, A. & Todd, J. Figure 2 Temperature sensitivity of cna1 or cnb1 gene-deficiency in T. asahii. (a) The T. asahii parent strain
(Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-deficient
mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C for 2
days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell
strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of
each cell suspension was spotted on the SDA. Agar plates were incubated at 27°C, 37°C, or 40˚C for 24 h. (b, c) The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1
(CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were inoculated on
Sabouraud medium and incubated at 27°C, 37°C, or 40˚C. Absorbance of the culture at 630 nm was
monitored. Data are shown as means ± standard error of the mean (SEM). Figure 1 (e)
Strategy for generating the cnb1 gene-deficient mutant (∆cnb1) and its revertant (Rev.). Predicted
genomes of the cnb1 gene-deficient mutant and its revertant are shown. (f) The parent strain (Parent),
cnb1 gene-deficient mutant (∆cnb1), and its revertant (Rev.) were spread on SDA with nourseothricin
(Nou) (100 µg/ml) or hygromycin B (Hyg) (100 µg/ml) and incubated at 27°C for 2 days. (g) Location of
the primers for confirming the genome structure of the cnb1 gene-deficient candidate by PCR using
extracted genome DNA. (h) Confirmation of the genotypes of the cnb1 gene-deficient mutant (∆cnb1)
and its revertant (Rev.) by PCR using extracted genome DNA. Cropped blots were used. Full-length blots
are presented in Supplementary Fig. S1. Figures Page 11/14 Figure 1 Generation of the cna1 and cnb1 gene-deficient T. asahii mutants and their revertants. (a-d) Generation of
the cna1 gene-deficient mutant and its revertant in T. asahii. (a) Strategy for generating the cna1 gene-
deficient mutant (∆cna1) and its revertant (Rev.). Predicted genomes of the cna1 gene-deficient mutant
and its revertant are shown. (b) The parent strain (Parent), cna1 gene-deficient mutant (∆cna1), and its
revertant (Rev.) were spread on SDA with nourseothricin (Nou) (100 µg/ml) or hygromycin B (Hyg) (100
µg/ml) and incubated at 27°C for 2 days. (c) Location of the primers for confirming the genome structure
of the cna1 gene-deficient candidate by PCR using extracted genome DNA. (d) Confirmation of the
genotypes of the cna1 gene-deficient mutant (∆cna1) and its revertant (Rev.) by PCR using extracted
genome DNA. (e-h) Generation of the cna1 gene-deficient mutant and its revertant in T. asahii. (e)
Strategy for generating the cnb1 gene-deficient mutant (∆cnb1) and its revertant (Rev.). Predicted
genomes of the cnb1 gene-deficient mutant and its revertant are shown. (f) The parent strain (Parent),
cnb1 gene-deficient mutant (∆cnb1), and its revertant (Rev.) were spread on SDA with nourseothricin
(Nou) (100 µg/ml) or hygromycin B (Hyg) (100 µg/ml) and incubated at 27°C for 2 days. (g) Location of
the primers for confirming the genome structure of the cnb1 gene-deficient candidate by PCR using
extracted genome DNA. (h) Confirmation of the genotypes of the cnb1 gene-deficient mutant (∆cnb1)
and its revertant (Rev.) by PCR using extracted genome DNA. Cropped blots were used. Full-length blots
are presented in Supplementary Fig. S1. Generation of the cna1 and cnb1 gene-deficient T. asahii mutants and their revertants. (a-d) Generation of
the cna1 gene-deficient mutant and its revertant in T. asahii. (a) Strategy for generating the cna1 gene-
deficient mutant (∆cna1) and its revertant (Rev.). Predicted genomes of the cna1 gene-deficient mutant
and its revertant are shown. (b) The parent strain (Parent), cna1 gene-deficient mutant (∆cna1), and its
revertant (Rev.) were spread on SDA with nourseothricin (Nou) (100 µg/ml) or hygromycin B (Hyg) (100
µg/ml) and incubated at 27°C for 2 days. (c) Location of the primers for confirming the genome structure
of the cna1 gene-deficient candidate by PCR using extracted genome DNA. (d) Confirmation of the
genotypes of the cna1 gene-deficient mutant (∆cna1) and its revertant (Rev.) by PCR using extracted
genome DNA. (e-h) Generation of the cna1 gene-deficient mutant and its revertant in T. asahii. Figure 3 Sensitivity of the cna1 and cnb1 gene-deficient mutants against stress inducers. The T. asahii parent
strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1 (CNA1), the cnb1 gene-
deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA and incubated at 27°C Page 12/14 Page 12/14 for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell
strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of
each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL),
caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), monensin (1
mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin-B (0.4 µg/mL), fluconazole (6.4 µg/mL),
or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h. for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell
strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of
each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL),
caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), monensin (1
mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin-B (0.4 µg/mL), fluconazole (6.4 µg/mL),
or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h. for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered through a 40-μm cell
strainer. Series of 10-fold dilution of the fungal suspension were prepared using saline. Five microliters of
each cell suspension was spotted on the SDA containing SDS (0.00625%), Congo red (100 µg/mL),
caffeine (0.65 mg/mL), sorbitol (1.5 M), DTT (12 mM), TM (1 µg/mL), BFA (10 µg/mL), monensin (1
mg/mL), CaCl₂ (0.4 M), LiCl (55 mM), NaCl (1 M), amphotericin-B (0.4 µg/mL), fluconazole (6.4 µg/mL),
or voriconazole (0.12 µg/mL). Each agar plate was incubated at 37°C for 24 h. Figure 4 Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in Sabouraud dextrose medium. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1
(CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA
and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered
through a 40-μm cell strainer. Absorbance at 630 nm of the T. asahii cell suspension was adjusted to 1–
1.5. The cell suspension (10 µl) was added to Sabouraud dextrose medium (100 µl). The solutions were
incubated at 37˚C for 48 h. The incubated solution was placed on glass slides and covered by a glass
coverslip. (a) Samples were examined with bright light under a microscope. The scale bar indicated 50
µm. (b) The pictures were randomly obtained. The numbers of 3 cell types: yeast, arthroconidia, and
hyphae, were counted. Figure 5 Attenuated pathogenicity in the cna1 or the cnb1 gene-deficient T. asahii mutants against silkworms. Attenuated pathogenicity in the cna1 or the cnb1 gene-deficient T. asahii mutants against silkworms. (a, b) The T. asahii parent strain (Parent; 2.9×105 cells/larva), the cna1 gene-deficient mutant (∆cna1;
7.4×105 cells/larva), the revertant from ∆cna1 (CNA1; 4.2×105 cells/larva), the cnb1 gene-deficient
mutant (∆cnb1; 6.1×105 cells/larva), or the revertant from ∆cnb1 (CNB1; 7.1×105 cells/larva) were
injected into the silkworm hemolymph and the silkworms were incubated at 37°C. Silkworm survival was
monitored for 72 h. The significance of differences between the parent strain group and the cnb1 gene-
deficient mutant groups was calculated by the log-rank test based on the curves by the Kaplan-Meier
method. n = 10/group. (c, d) Number of surviving silkworms at conditions under 37˚C was determined at
48 h after administration of the fungal cells (50 to 1.2×106 cells/larva) into the silkworm hemolymph. Surviving and dead silkworms are indicated as 1 and 0, respectively. n = 4/group. Curves were drawn
from combined data of 2–3 independent experiments by a simple logistic regression model. Figure 6 Figure 7 Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in human serum. Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in human serum. Effect of cna1 or the cnb1 gene-deficiency on T. asahii morphology in human serum. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1
(CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA
and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered
through a 40-μm cell strainer. Absorbance at 630 nm of the T. asahii cell suspension was adjusted to 1–
1.5. The cell suspension (10 µl) was added to human serum (100 µl) and the solutions were incubated at
37˚C for 48 h. The incubated solution was placed on glass slides and covered by a glass coverslip. (a)
Samples were examined with bright light under a microscope. The scale bar indicated 50 µm. (b) The
pictures were randomly obtained. The numbers of 3 cell types: yeast, arthroconidia, and hyphae, were
counted. Figure 6 Page 13/14 Low hyphal growth of cna1 or the cnb1 gene-deficient T. asahii mutants in harvested silkworm
hemolymph. Low hyphal growth of cna1 or the cnb1 gene-deficient T. asahii mutants in harvested silkworm
hemolymph. The T. asahii parent strain (Parent), the cna1 gene-deficient mutant (∆cna1), the revertant of ∆cna1
(CNA1), the cnb1 gene-deficient mutant (∆cnb1), and the revertant of ∆cnb1 (CNB1) were grown on SDA
and incubated at 27°C for 2 days. T. asahii cells was suspended in physiologic saline solution and filtered
through a 40-μm cell strainer. Absorbance at 630 nm of the T. asahii cell suspension was adjusted to 1–
1.5. The cell suspension (10 µl) was added to harvested silkworm hemolymph (100 µl) and the solutions
were incubated at 37˚C for 48 h. The incubated solution was placed on glass slides and covered by a
glass coverslip. (a) Samples were examined with bright light under a microscope. The scale bar indicated
50 µm. (b) The pictures were randomly obtained. The numbers of 3 cell types: yeast, arthroconidia, and
hyphae, were counted. Supplementary Files This is a list of supplementary files associated with this preprint. Click to download. Supplementaryinformation.pdf Table1.docx Table2.docx Table3.docx Page 14/14
|
https://openalex.org/W2896623050
|
https://europepmc.org/articles/pmc6186987?pdf=render
|
English
| null |
False Positive 18F-FDG Positron Emission Tomography Findings in Schwannoma—A Caution for Reporting Physicians
|
Frontiers in medicine
| 2,018
|
cc-by
| 3,059
|
False Positive 18F-FDG Positron
Emission Tomography Findings in
Schwannoma—A Caution for
Reporting Physicians Paul Boré 1*, Renaud Descourt 1, Luc Ollivier 2, Pierre-Yves Le Roux 3 and Ronan Abgral 3 1 Service d’Oncologie Médicale, Centre Hospitalier Régional et Universitaire de Brest, Université de Bretagne Occidentale,
Brest, France, 2 Service de Radiothérapie, Centre Hospitalier Régional et Universitaire de Brest, Université de Bretagne
Occidentale, Brest, France, 3 Service de Médecine Nucléaire, EA 3878 (GETBO) IF 148, Centre Hospitalier Régional et
Universitaire de Brest, Université de Bretagne Occidentale, Brest, France Schwannoma is a rare source of false-positive 18F-fluorodeoxyglucose (18F-FDG)
uptake in Positron-emission tomography (PET/CT), inducing potential errors in staging
of several solid cancer, with implications for patient management. This clinical case
reports the situation of a patient undergoing an 18F-FDG-PET/CT for initial staging of
an ovarian adenocarcinoma. We found a high paramediastinal hypermetabolic mass
suspicious of remote extension or secondary synchronous primitive tumor. The biopsy
finally reveals a histopathology of Schwannoma, allowing the patient to be eligible for
a surgical procedure of her ovarian adenocarcinoma by rejecting the hypothesis of
malignancy. Edited by: Edited by:
Anil Kumar Mishra,
Institute of Nuclear Medicine & Allied
Sciences (DRDO), India Edited by:
Anil Kumar Mishra,
Institute of Nuclear Medicine & Allied
Sciences (DRDO), India
Reviewed by:
Baljinder Singh,
Post Graduate Institute of Medical
Education and Research (PGIMER),
India
Ramin Sadeghi,
Mashhad University of Medical
Sciences, Iran
*Correspondence: Reviewed by:
Baljinder Singh,
Post Graduate Institute of Medical
Education and Research (PGIMER),
India
Ramin Sadeghi,
Mashhad University of Medical
Sciences, Iran
C Reviewed by:
Baljinder Singh,
Post Graduate Institute of Medical
Education and Research (PGIMER),
India Reviewed by:
Baljinder Singh,
Post Graduate Institute of Medical
Education and Research (PGIMER),
India Baljinder Singh,
Post Graduate Institute of Medical
Education and Research (PGIMER),
India
Ramin Sadeghi,
Mashhad University of Medical
Sciences, Iran
*Correspondence:
Paul Boré
paul.bore@chu-brest.fr Keywords: positron-emission tomography, schwannoma, neoplasm staging, ovarian neoplasms, mediastinal
neoplasms *Correspondence:
Paul Boré Even if they are considered as benign tumors, high FDG uptake can be seen in schwannomas,
providing a risk of false-positive interpretation with consequences on tumor staging and also
management of patient. Even if they are considered as benign tumors, high FDG uptake can be seen in schwannomas,
providing a risk of false-positive interpretation with consequences on tumor staging and also
management of patient. g
p
For example Martinez-Esteve et al. (1) have reported the case of a patient with a locally
advanced HER2 overexpressed breast tumor treated by chemotherapy and Trastuzumab showing
a hypermetabolic retro-tracheal lymphadenopathy [15 × 17 mm and standardized uptake value
(SUVmax) 4.5]. On the 18F-FDG PET-CT intermediate therapeutic assessment, there was a
complete metabolic response except for the retro tracheal lymphadenopathy. The histopathological
analysis of this finally excluded a metastatic lesion related to breast cancer and revealed a benign
Schwannoma, allowing to continue initial therapeutic strategy. Specialty section:
This article was submitted to
Nuclear Medicine,
a section of the journal
Frontiers in Medicine
Received: 26 July 2018
Accepted: 10 September 2018
Published: 08 October 2018
Citation:
Boré P, Descourt R, Ollivier L, Le
Roux P-Y and Abgral R (2018) False
Positive 18F-FDG Positron Emission
Tomography Findings in
Schwannoma—A Caution for
Reporting Physicians. Front. Med. 5:275. doi: 10.3389/fmed.2018.00275 Specialty section:
This article was submitted to
Nuclear Medicine,
a section of the journal
Frontiers in Medicine Received: 26 July 2018
Accepted: 10 September 2018
Published: 08 October 2018 g
p
gy
Moreover, Gorospe et al. (2) have published a case of difficult initial staging of a pulmonary
adenocarcinoma of the right upper lobe. Indeed, 18F-FDG PET/CT findings concluded to a
suspicious supraclavicular right lymph node (SUVmax 2.6 vs. 2.8 for the primary) and the
patient’s tumor was restaged into a T3N3M0 IIIB lung cancer vs. T3N0M0 IIB according to WHO
classification (3). Before modifying treatment management of patient based on 18F-FDG PET/CT
findings, a surgical biopsy was performed and finally concluded again to a schwannoma. CASE REPORT
published: 08 October 2018
doi: 10.3389/fmed.2018.00275 CASE REPORT BACKGROUND *Correspondence:
Paul Boré
paul.bore@chu-brest.fr *Correspondence:
Paul Boré Citation: Boré P, Descourt R, Ollivier L, Le
Roux P-Y and Abgral R (2018) False
Positive 18F-FDG Positron Emission
Tomography Findings in
Schwannoma—A Caution for
Reporting Physicians. Front. Med. 5:275. doi: 10.3389/fmed.2018.00275 Several other case reports show that schwannomas are usually associated with a high 18F-FDG
uptake on PET-CT (4–6). But, cases of schwannomas with low uptake exist even if they are less
frequent (7). October 2018 | Volume 5 | Article 275 Frontiers in Medicine | www.frontiersin.org Schwannoma—A Caution for Reporting Physicians Boré et al. Only few cases of schwannoma located in the mediastinum
with an 18F-FDG uptake have already been reported in literature. FIGURE 1 | Fusion image in cross section. Image of peritoneal carcinomatosis
of the patient. CASE PRESENTATION A 75-year-old female patient with previous hystory of active
smoking at 75 year-package associated with other cardiovascular
risk factors (hypertension, hypercholesterolemia, non-insulin-
dependant diabetes, and obesity) has been sent to our university
hospital for a suspicion of strangulated umbilical hernia. An
abdomen and pelvis CT scan was then performed and found
a diffuse infiltration of mesenteric fat evoking a peritoneal
carcinosis without primary tumor clearly identified. An
exploring
laparoscopy
showed
a
visual
aspect
of
inflammatory peritoneum with a thickened epiploon and
non-tumorous ovaries. On the contrary, histopathological
examinations
(biopsy
and
cytology)
suggested
an
immunohistochemical
profile
compatible
with
high-grade
serous papillary carcinoma of ovarian or peritoneal origin. The
therapeutic strategy included neo-adjuvant chemotherapy by
CARBOPLATIN-PACLITAXEL and interval surgery after 3
cycles. FIGURE 1 | Fusion image in cross section. Image of peritoneal carcinomatosis
of the patient. Moreover,
an
18F-fluorodeoxyglucose
(18F–FDG)
Positron-emission
tomography
(PET/CT)
was
performed
not to ignore a supra-diaphragmatic remote extension of disease
that would exclude surgery indication. In addition to multiple
hypermetabolic
known
peritoneal
carcinomatosis
lesions
(Figure 1), PET CT found fortuitly a pathological 18F-FDG
uptake upon a high paramediastinal tissue 3 cm mass located at
the left pulmonary apex (SUV max: 12.8) (Figures 2–4). Due
to this suspicion of remote extension of disease or secondary
primary tumor, a biopsy under CT scan was performed. The
histolopatological analysis concluded with an appearance of
Schwannoma, without any sign suggestive of malignancy. FIGURE 2 | Fusion image in axial cut. It is found that the mass is well-located
behind the tracheabronchial axis. While awaiting the histological characterization of this mass,
the patient finally benefited from 6 cycles of chemotherapy before
surgery by laparotomy. Unfortunately due to carcinomatosis
extended to the entire abdominal cavity with a peritoneal
index
at 19 (8)
a
complete
resection
surgery
was not
possible and new courses of CARBOPLATIN TAXOL were
scheduled. FIGURE 2 | Fusion image in axial cut. It is found that the mass is well-located
behind the tracheabronchial axis. Frontiers in Medicine | www.frontiersin.org DISCUSSION complex, or schwannomatosis. There are also some variants
of schwannomas which are cellular schwannoma, plexiform
schwannoma, and melanotic schwannoma (13). Schwannomas are the most common nerve sheath tumors (9)
and are usually solitary. Majority of lesions are benign tumors
that usually grow slowly [only 2% of them may evolve into
a malignant form (10, 11)]. They are often asymptomatic and
fortuitly revealed. Microscopically they are well circumscribed
with a surrounding capsule and are composed by a clonal
population of Schwann cells. There are two components, a
highly ordered cellular called Antoni A area (hypercellular
area) and a looser myxoid component called Antoni B area. In immunohistochemistry they express the S100 protein (12). Most of them are sporadic tumors. However in few cases, they
are associated with neurofibromatosis type 2 disease, Carney’s This tumor consists of an abnormal proliferation of Schwann
cells developped from nerves. The most frequent locations
of schwannomas are the brachial plexus or the large nerve
trunks of the limbs (particularly elbow, wrist, or knee). Deep
forms in retroperitoneum or mediastinum exist and are often
of large size (14). In the mediastinum, nerve tumors such
as schwannoma are located in the posterior compartment
where they account for two-third to 80% of tumors in this
localization (15–17). The other most common masses of the
posterior mediastinum are meningoceles, para esophageal cysts,
goiter, and lymphoma. Three compartments are described in the October 2018 | Volume 5 | Article 275 2 Schwannoma—A Caution for Reporting Physicians Boré et al. The anterior mediastinum is the prevascular zone and the
middle mediastinum is the peri-tracheoesophageal zone (17). Regarding the other compartments, lymphoma, germinal tumor,
and thymic tumors are typically located in the anterior (19) and
lymphadenopathy and lymphoma in the middle mediastinum. FIGURE 3 | Maximal intensity projection of our patient. Acquisition of
broadcoast images realized 60 min after injection of 252 Megabecquerels of
FDG-IBA in a vein of the right wrist. Visualization of the supra-diaphragmatic
isolated hypermetabolism. FIGURE 3 | Maximal intensity projection of our patient. Acquisition of
broadcoast images realized 60 min after injection of 252 Megabecquerels of
FDG-IBA in a vein of the right wrist. Visualization of the supra-diaphragmatic
isolated hypermetabolism. FIGURE 4 | Sagittal cut, fusion image, 30 mm mass above aortic stock,
maximum standardized uptake value of 12.8. DISCUSSION mediastinum The posterior mediastinum is the paravertebral On imaging, schwannomas occur on the path of a nerve, are
well-limited, often oval and unique. The metabolic characteristics
of schwannomas on 18F-FDG PET-CT are not well-described
in literature to differentiate benign or malignant forms. Ahmed
et al. did not found an association between SUV and benign
schwannoma or malignant tumor (20). Beaulieu et al. (21) compared the FDG uptake with
Schwannoma cellularity, tumor size and tumor proliferation rate
(Ki-67 index). The SUVmax varied from 1.9 to 7.2 (mean = 4.6;
n = 9). They found that the SUV max of the hypocellular tumors
was significantly lower than the SUV max of the hypercellular
tumors (composed by a larger; p = 0.010). They did not found
an association between SUVmax and tumor size or Ki-67 index. They did not find why there is a high FDG accumulation in
benign tumors such as schwannoma. In a study of 22 histologically proven schwannomas, Miyake
et al. (22) did not find a correlation between expression of glucose
transporters (GLUTs) and SUVmax of the lesions that could
explain why there is a high FDG accumulation in this tumors. Moreover, SUVmax ranged from 1.5 to 17.3 with a median of
3.7 and factors significantly associated with higher SUVmax were
gastrointestinal origin (p = 0.007) and the presence of peri-tumor
lymph nodes (p < 0.001). FIGURE 3 | Maximal intensity projection of our patient. Acquisition of
broadcoast images realized 60 min after injection of 252 Megabecquerels of
FDG-IBA in a vein of the right wrist. Visualization of the supra-diaphragmatic
isolated hypermetabolism. More recently it has been showed that schwannomas with18F-
Dihydroxyphenylalanine (DOPA) uptake (23) and also in 68Ga-
Prostate-specific membrane antigen (PSMA) PET-CT (24). It therefore seems difficult to conclude to a diagnosis of
Schwannoma only based on SUV characteristics on PET-CT
since their SUVmax seems to vary enormously. There is also
several other causes of known false positives such as infectious
and inflammatory processes. FIGURE 4 | Sagittal cut, fusion image, 30 mm mass above aortic stock,
maximum standardized uptake value of 12.8. Several
cases
reporting
masses
to
PET-CT
with
hypermetabolism in follows-up of tumoral pathologies have
been described, and these hypermetabolisms are generally
associated with malignant tumors. However as described earlier
that is not always true. Schwannomas with an 18F-FDG uptake
have been described but especially outside the mediastinum. DISCUSSION To our knowledge only few publications report this situation
in the mediastinum. This case confirms the necessity to be
aware of a neurogenic tumor when the PET reader concludes
to a hypermetabolic mass of the posterior mediastinum and
especially if it can lead to a change in patient care. October 2018 | Volume 5 | Article 275 REFERENCES diagnosis, management, and results. Ann Thorac Surg. (1987) 44:229–37. doi: 10.1016/S0003-4975(10)62059-0 diagnosis, management, and results. Ann Thorac Surg. (1987) 44:229–37. doi: 10.1016/S0003-4975(10)62059-0 1. Martínez-Esteve A, Álvarez-Pérez RM, Pachón-Garrudo VM, González-
Mancha
R,
Borrego-Dorado
I. Mediastinal
schwannoma
mimicking
lymph node metastasis from locally advanced breast cancer in a (18)F-
FDG PET/CT study. Rev Esp Med Nucl Imagen Mol. (2016) 35:272–3. doi: 10.1016/j.remn.2015.11.001 1. Martínez-Esteve A, Álvarez-Pérez RM, Pachón-Garrudo VM, González-
Mancha
R,
Borrego-Dorado
I. Mediastinal
schwannoma
mimicking
lymph node metastasis from locally advanced breast cancer in a (18)F-
FDG PET/CT study. Rev Esp Med Nucl Imagen Mol. (2016) 35:272–3. doi: 10.1016/j.remn.2015.11.001 16. Pavlus J, Carter B, Tolley M, Keung E, Khorashadi L, Lichtenberger J. Imaging of thoracic neurogenic tumors. Am J Roentgenol. (2016) 207:552–61. doi: 10.2214/AJR.16.16018 17. Fujimoto K, Hara M, Tomiyama N, Kusumoto M, Sakai F, Fujii Y. Proposal
for a new mediastinal compartment classification of transverse plane images
according to the Japanese Association for Research on the Thymus (JART)
general rules for the study of mediastinal tumors. Oncol Rep. (2013) 31:565–
72. doi: 10.3892/or.2013.2904 2. Gorospe L, Rioja-Martín ME, Santos-Carre-o AL, Pacios-Blanco RE, Mu-
oz-Molina GM. Supraclavicular schwannoma mimicking a lymphadenopathy
in a lung cancer patient: PET/CT findings. Lung Cancer (2017) 110:74–6. doi: 10.1016/j.lungcan.2017.06.001 18. Whitten C, Khan S, Munneke G, Grubnic S. A diagnostic approach
to
mediastinal
abnormalities. Radiographics
(2007)
27:657–71. doi: 10.1148/rg.273065136 3. Goldstraw P. The 7th Edition of the TNM Classification for Lung Cancer:
Proposals from the IASLC Staging Project. Eur J Cancer Suppl. (2007) 5:15–22. doi: 10.1016/S1359-6349(07)70018-6 3. Goldstraw P. The 7th Edition of the TNM Classification for Lung Cancer:
Proposals from the IASLC Staging Project. Eur J Cancer Suppl. (2007) 5:15–22. doi: 10.1016/S1359-6349(07)70018-6 19. Jeanbourquin D. Diagnostic des masses médiastinales de l’adulte. Radiol
Imagerie Méd. (2010) 5:1–29. doi: 10.1016/S1169-7768(10)52870-4 4. Wang
S,
Luo
D,
Chen
G,
Liu
E,
Wang
S. FDG
PET/CT
of
intercostal
schwannoma. Clin
Nuclear
Med. (2016)
41:e310–2. doi: 10.1097/RLU.0000000000001151 20. Ahmed A, Watanabe H, Aoki J, Shinozaki T, Takagishi K. Schwannoma of the
extremities: the role of PET in preoperative planning. Eur J Nucl Med Mol
Imaging (2001) 28:1541–51. doi: 10.1007/s002590100584 5. Yap J, Huang Y, Lin M. Detection of synchronous gastric schwannoma on FDG
PET/CT aided by discordant metabolic response. Clin Nuclear Med. (2015)
40:e287–9. doi: 10.1097/RLU.0000000000000724 21. Beaulieu
S,
Rubin
B,
Djang
D,
Conrad
E,
Turcotte
E,
Eary
JF. CONCLUDING REMARKS FIGURE 4 | Sagittal cut, fusion image, 30 mm mass above aortic stock,
maximum standardized uptake value of 12.8. Schwannoma is a potential cause of 18F-FDG false positive
uptake in PET-CT, inducing risk of worse staging or therapeutic
assessment,
with
consequences
on
patient
management. Currently there are no reliable argument to differentiate a benign
Schwannoma from a malignant tumor only on 18F-FDG-PET-
CT imaging. This case report also recalls the need to biopsy mediastinum. The posterior mediastinum is the paravertebral
zone bounded by the posterior trachea and pericardium, the
diaphragm, the vertebral column, and the thoracic inlet (18). October 2018 | Volume 5 | Article 275 Frontiers in Medicine | www.frontiersin.org 3 Schwannoma—A Caution for Reporting Physicians Boré et al. not required in accordance with the national and institutional
requirements. The patient provided written informed consent. doubtful lesions fortuitly discovered on 18F-FDG-PET-CT in
order to avoid a loss of chance and possible complications related
to unnecessary treatment toxicities. ETHICS STATEMENT PB provided details of the patient and provided initial draft of
submission. RD provided details of the patient and helped draft
the initial submission. P-YL and RA provided images, image
analysis, and helped draft the initial submission. LO helped draft
the initial submission. All procedures performed in this study were in accordance with
the ethical standards of the institutional research committee
on human experimentation and with the Helsinki Declaration
of 1975, as revised in 2008. Ethical review and approval was REFERENCES Positron
emission
tomography
of
schwannomas:
emphasizing
its
potential in preoperative planning. Am J Roentgenol. (2004) 182:971–4. doi: 10.2214/ajr.182.4.1820971 6. Perniola G, Tomao F, Fischetti M, Lio S, Pecorella I, Benedetti Panici P. Benign schwannoma in supraclavicular region: a false-positive lymph node
recurrence of breast cancer suspected by PET scan. Arch Gynecol Obstetr. (2014) 290:583–6. doi: 10.1007/s00404-014-3241-5 22. Miyake KK, Nakamoto Y, Kataoka TR, Ueshima C, Higashi T, Terashima
T, et al. Clinical, morphologic, and pathologic features associated with
increased fdg uptake in schwannoma. Am J Roentgenol. (2016) 207:1288–96. doi: 10.2214/AJR.15.14964 7. Roger PA, Berna P, Merlusca G, Joly JP, Auquier MA, Sevestre H, et al. [Schwannoma of the vagus nerve: diagnostic strategy and therapeutic
approach]. Rev Mal Respir. (2012) 29:70–3. doi: 10.1016/j.rmr.2011.06.016 23. Berends A, Kerstens M, Bolt J, Links T, Korpershoek E, de Krijger R et al. False-positive findings on 6-[18F]fluor-l-3,4-dihydroxyphenylalanine PET
(18F-FDOPA-PET) performed for imaging of neuroendocrine tumors. Eur J
Endocrinol. (2018) 179:127–135. doi: 10.1530/EJE-18-0321 8. Sugarbaker PH. Pritoneal Carcinomatosis: Principles of Management. Boston,
MA: Springer (1996). 9. Bouvier C, Maues de Paula A, Roche PH, Chagnaud C, Figarella-Branger
D. Tumeurs du système nerveux périphérique. EMC Neurol. (2013) 10:1–11. doi: 10.1016/S0246-0378(12)58206-0 24. Dias A, Bouchelouche K. Prostate-specific membrane antigen PET/CT
incidental finding of a schwannoma. Clin Nuclear Med. (2018) 43:267–8. doi: 10.1097/RLU.0000000000001988 10. WoodruffJM, Selig AM, Crowley K, Allen PW. Schwannoma (Neurilemoma)
with malignant transformation a rare, distinctive peripheral nerve tumor. Am
J Surg Pathol. (1994) 18:882–95. doi: 10.1097/00000478-199409000-00003 Conflict of Interest Statement: The authors declare that the research was
conducted in the absence of any commercial or financial relationships that could
be construed as a potential conflict of interest. 11. Enzinger FM. Soft Tissue Tumor. 2nd ed. Washington, DC: SWCMC (1988). 11. Enzinger FM. Soft Tissue Tumor. 2nd ed. Washington, DC: M. Soft Tissue Tumor. 2nd ed. Washington, DC: SWCMC (1988). 12. Mordant
P,
Le
Pimpec-Barthes
F,
Riquet
M. Tumeurs
nerveuses
du
médiastin
de
l’adulte. Rev
Pneumol
Clin. (2010)
66:81–94. doi: 10.1016/j.pneumo.2009.12.010 Copyright © 2018 Boré, Descourt, Ollivier, Le Roux and Abgral. This is an open-
access article distributed under the terms of the Creative Commons Attribution
License (CC BY). The use, distribution or reproduction in other forums is permitted,
provided the original author(s) and the copyright owner(s) are credited and that the
original publication in this journal is cited, in accordance with accepted academic
practice. Frontiers in Medicine | www.frontiersin.org REFERENCES No use, distribution or reproduction is permitted which does not comply
with these terms. 13. Hilton DA, Hanemann CO. Schwannomas and their pathogenesis. Brain
Pathol. (2014) 24:205–20. doi: 10.1111/bpa.12125 14. Lapierre F, Rigoard P, Wager M. Tumeurs des nerfs périphériques. Neurochirurgie (2009) 55:413–20. doi: 10.1016/j.neuchi.2009.09.004 15. Davis RD Jr, Oldham HN Jr, Sabiston DC Jr. Primary cysts and neoplasms
of the mediastinum: recent changes in clinical presentation, methods of October 2018 | Volume 5 | Article 275 Frontiers in Medicine | www.frontiersin.org
|
https://openalex.org/W4241381621
|
https://journal.iainlangsa.ac.id/index.php/tibyan/article/download/1157/1053
|
Indonesian
| null |
TAFSIR AKADEMIK KARYA MAHMUD YUNUS: CORAK ILMIAH, SOSIAL DAN INTELEKTUAL DALAM TAFSIR AL-QUR’AN AL-KARIM
|
Jurnal At-Tibyan: jurnal ilmu alqur`an dan tafsir/Jurnal At-Tibyan : Jurnal Ilmu Alquran dan Tafsir
| 2,020
|
cc-by
| 7,833
|
Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir
Volume 5 No. 1, Juni 2020 (h.104-119)
P ISSN 2442-594X | E ISSN 2579-5708
http://journal.iainlangsa.ac.id/index.php/tibyan
TAFSIR AKADEMIK KARYA MAHMUD YUNUS: CORAK ILMIAH, SOSIAL
DAN INTELEKTUAL DALAM TAFSIR AL-QUR’AN AL-KARIM
Academic Tafsir Work Of Mahmud Yunus: Scientific, Social And Intellectual Types
In Al-Qur'an Al-Karim Tafsir
Nurus Syarifah
Program Studi Interdisciplinary Islamic Studies
Pascasarjana UIN Sunan Kalijaga Yogyakarta
nurussyarifah29@gmail.com
DOI: 10.32505/tibyan.v5i1.1157
Submitted: 07-10-2019
Revised: 22-06-2020
Accepted: 26-06-2020 Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir
Volume 5 No. 1, Juni 2020 (h.104-119)
P ISSN 2442-594X | E ISSN 2579-5708
http://journal.iainlangsa.ac.id/index.php/tibyan Nurus Syarifah
Program Studi Interdisciplinary Islamic Studies
Pascasarjana UIN Sunan Kalijaga Yogyakarta
nurussyarifah29@gmail.com
DOI: 10.32505/tibyan.v5i1.1157
Submitted: 07-10-2019
Revised: 22-06-2020
Accepted: 26-06-2020 Abstract: This article describes the academic aspects of the interpretation of Mahmud
Yunus which is named Tafsir Al-Qur’an al-Karim. This interpretation is one
of the pioneers of Indonesian-language interpretation works that are widely
used by the majority of Muslims in Indonesia. He dared to introduce the use of
Latin letters for translation and interpretation of the Qur'an. The method used
in this research is descriptive method. The conclusion of this study is that the
academic aspects of Mahmud Yunus' interpretation work include scientific,
social and intellectual styles. The scientific style in its interpretation is a new
style that is associated with developing science, so its interpretation seems to
emphasize the close relationship between the Qur'an and the development of
science and technology which are the main characteristics of modern thought. The social and intellectual patterns are more demonstrated by Mahmud Yunus
through the use of elements of common expressions, as well as traditions,
customs and socio-cultural phenomena in their interpretation. Keywords: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, Academic Aspects. ds: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, Academic Aspects. Hak Cipta @ 2020. Dimiliki oleh Penulis, dipublikasikan oleh Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir.
Artikel dengan akses terbuka. Lisensi: CC-BY Hak Cipta @ 2020. Dimiliki oleh Penulis, dipublikasikan oleh Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir.
Artikel dengan akses terbuka. Lisensi: CC-BY 1Nashruddin Baidan dan Erwati Aziz, Perkembangan Tafsir Al-Qur’an di Asia Tenggara
(Yogyakarta: Pustaka Pelajar, 2019), 1-2.
2Howard M. Federspiel, Kajian Al-Qur’an di Indonesia; dari Mahmud Yunus hingga Quraish
Shihab, terj. Tajul Arifin (Bandung: Penerbit Mizan, 1996), 25. Lebih lanjut juga lihat Mahmud Yunus,
Tafsir Al-Qur’an al-Karim (Djakarta: PT Hidakarya Agung, 1983), iii.
3Federspiel, Kajian Al-Qur’an di Indonesia, 129.
4Federspiel, Kajian Al-Qur’an di Indonesia, 129. Abstrak: Artikel ini menjelaskan tentang aspek akademik dari tafsir Mahmud Yunus
yang diberi nama Tafsir Al-Qur’an al-Karim. Tafsir ini merupakan salah satu
pionir karya tafsir berbahasa Indonesia yang banyak digunakan oleh mayoritas
umat Islam di Indonesia. Ia berani memperkenalkan pemakaian huruf Latin
untuk terjemahan dan tafsir Al-Qur’annya. Metode yang digunakan dalam
penelitian ini adalah metode deskriptif. Adapun kesimpulan dari penelitian ini
bahwa aspek akademik dalam karya tafsir Mahmud Yunus ini meliputi corak
ilmiah, corak sosial dan corak intelektual. Corak ilmiah dalam penafsirannya Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 105 105 merupakan sebuah corak baru yang dikaitkan dengan ilmu pengetahuan yang
sedang berkembang, sehingga penafsirannya terkesan menegaskan dan
menunjukkan hubungan yang erat antara Al-Qur’an dengan perkembangan
ilmu pengetahuan dan teknologi yang mana hal ini menjadi ciri utama
pemikiran modern. Adapun corak sosial dan corak intelektual lebih
ditunjukkan Mahmud Yunus melalui penggunaan unsur ungkapan umum,
maupun tradisi, adat dan fenomena sosial budaya dalam penafsirannya. Kata Kunci: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, dan Aspek Akademik. Kata Kunci: Mahmud Yunus, Tafsir Al-Qur’an al-Karim, dan Aspek Akademik. 1Nashruddin Baidan dan Erwati Aziz, Perkembangan Tafsir Al-Qur’an di Asia Tenggara
Yogyakarta: Pustaka Pelajar, 2019), 1-2.
2 5Taufikurrahman, “Dinamika Kajian Al-Qur’an di Indonesia,” Ibn Abbas: Jurnal Ilmu Al-Qur’an
dan Tafsir 2, no. 1 (2019): 218.
6Taufikurrahman, “Dinamika Kajian Al-Qur’an di Indonesia,”, 219.
7Rithon Igisani, “Kajian Tafsir Mufassir di Indonesia,”Jurnal Potret 22, no. 1 (2018) : 11-31.
8Zulyadain,“Kerangka Paradigmatik Tafsir Al-Qur’an Al-Karim Karya Mahmud Yunus,”Jurnal Al-
A’raf 15, no. 1 (2018): 127-145.
9M. Amursid dan Amaruddin Asra, “Studi Tafsir al-Qur’an al-Karim Karya Mahmud Yunus,”Jurnal
Syahadah, 3, no. 2 (2015): 2.
10Saiful Amin Ghofur, Profil Para Mufasir al-Qur’an, (Yogyakarta: Pustaka Insan Madani, 2008),
197. Pendahuluan Islam telah menjadi agama mayoritas bangsa-bangsa Asia Tenggara, atau populer
disebut Asean. Secara inklusif, begitu Islam masuk ke suatu wilayah, maka penafsiran
kitab suci Al-Qur’an secara otomatis ikut masuk ke wilayah tersebut. Hal ini
dikarenakan, Islam tidak dapat dipahami tanpa penafsiran kitab sucinya, apalagi bagi
bangsa-bangsa ‘ajam (non-Arab) seperti bangsa Asean.1 Begitupun yang terjadi di
Indonesia ketika Islam masuk, mulai bermunculan berbagai kitab penerjemahan dan
penafsiran Al-Qur’an dengan menggunakan bahasa Indonesia. Semua ini dimaksudkan
untuk mempermudah bagi siapapun masyarakat Indonesia yang ingin mempelajari dan
memahami Al-Qur’an, walaupun pada awal penerjemahan dan penafsiran ke dalam
bahasa Indonesia sempat dinyatakan haram oleh para ulama Islam saat itu.2 Merujuk pada apa yang ditulis Howard M. Federspiel tentang periodisasi sejarah
perkembangan penerjemahan dan penafsiran Al-Qur’an ke dalam bahasa Indonesia, ia
membaginya menjadi tiga generasi. Generasi pertama mulai dari sekitar abad ke-20
sampai awal tahun 1960-an, ditandai dengan penerjemahan dan penafsiran yang masih
terpisah-pisah. Generasi kedua muncul pada pertengahan tahun 1960, merupakan
penyempurnaan atas upaya generasi pertama, penerjemahan lengkap ini biasanya
memiliki beberapa catatan, catatan kaki, terjemahan kata per-kata, dan kadang disertai
dengan suatu indeks yang sederhana. Adapun generasi ketiga mulai muncul pada tahun
1970-an, merupakan penafsiran yang lengkap, seringkali memberikan komentar-
komentar yang luas terhadap teks bersamaan terjemahannya, memiliki bagian
pengantar dan indeks yang memperluas isi, tema-tema atau asbab al-nuzul Al-Qur’an.3 Menurut Federspiel ada beberapa karya yang cukup representatif dalam mewakili
tafsir generasi kedua, yaitu al-Furqon karya Ahmad Hassan, Tafsir Al-Qur’an karya
Hamidy, dan Tafsir Al-Qur’an al-Karim karya Mahmud Yunus.4 Berbeda dengan
periodisasi yang disajikan oleh Islah Gusmian, ketiga tafsir ini masuk dalam Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 106 kategorisasi periode pertama yang ia susun. Menurutnya, ketiga tafsir ini muncul pada
pertengahan dan akhir tahun 1950-an. Hal ini sesuai dengan kategorisasi yang ia susun,
yang mana periode pertama memiliki rentang waktu awal abad ke-20 sampai tahun
1960. Adapun periode kedua menurut Islah Gusmian yaitu antara tahun 1970-an
sampai tahun 1980-an. Sedangkan rentang waktu untuk periode ketiga adalah mulai
tahun 1990-an sampai seterusnya.5 Adanya perbedaan periodisasi di atas dapat disebabkan beberapa hal, di
antaranya pemilahan tahun perperiode yang berbeda, sudut pandang yang berbeda
terhadap objek kajian, dan juga perolehan data yang berbeda oleh para peneliti.6
Walaupun terdapat perbedaan periodisasi antar peneliti, tidak dapat dipungkiri bahwa
tafsir karya Mahmud Yunus merupakan salah satu karya monumental pada kelompok
periodenya maupun generasinya. Pendahuluan Karya tafsir Mahmud Yunus ini memudahkan para pembacanya untuk
berinteraksi dengan Al-Qur’an.7 Hal ini karena tafsir yang ia susun memang berusaha
agar makna Al-Qur’an dapat diterima oleh seluruh kalangan masyarakat.8 Karya ini
merupakan salah satu pionir dalam karya tafsir berbahasa Indonesia yang banyak
digunakan oleh orang-orang berbahasa Melayu9 karena penggunaan huruf Latin dalam
penerjemahan dan penafsiran Al-Qur’annya. Karenanya, Mahmud Yunus juga dianggap
sebagai pelopor pola baru penulisan tafsir Al-Qur’an di Indonesia. Pola baru lain yang
ditemukan dalam karya tafsirnya ini menjadikannya tergolong tafsir akademik. Sehingga dalam tulisan ini akan membahas aspek-aspek akademik dalam Tafsir Al-
Qur’an al-Karim sebagai tafsir akademik karya Mahmud Yunus. 11Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim Karya Mahmud Yunus,
(Yogyakarta: Tesis Mahasiswa UIN Sunan Kalijaga, 2019), 21.
12Malta Rina, Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus tentang Pendidikan Islam
(1920-1982), (Padang: Ilmu Sejarah Pascasarjana UNAND, 2011), 3.
13Herry Mohammad, dkk, Tokoh-Tokoh Islam yang Berpengaruh Abad 20, Cet ke-2, (Jakarta:
Gema Insani, 2008), 85-86.
14Malta Rina, Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus, 170-174.
15Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 85-86. Lihat juga Saiful Amin
Ghofur, Profil Para Mufasir al-Qur’an, 197-199.
16Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 85-86. Lihat juga Saiful Amin
Ghofur, Profil Para Mufasir al-Qur’an, 197-199.
17Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 86-91. Lihat juga Saiful Amin
Ghofur, Profil Para Mufasir al-Qur’an, 199-200.
18Lebih lanjut lihat Herry Mohammad, dkk, Tokoh-Tokoh Islam, 86-91. Lihat juga Malta Rina,
Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus, 176-180. Lihat juga Saiful Amin Ghofur, g
Riwayat Hidup dan Pendidikan Mahmud Yunus lahir pada hari Sabtu di Sungayang, Batusangkar, Sumatra
Barat, tanggal 10 Februari 1899 M bertepatan dengan 30 Ramadan 1316 H. Ia Berasal
dari keluarga yang agamis. Ayahnya bernama Yunus bin Incek, pengajar di surau. Ibunya bernama Hafsah binti Imam Samiun. Kakek Ibunya yaitu Engku Gadang M. Tahir bin Ali, merupakan seorang pendiri dan pengasuh surau di wilayah tersebut.10
Selain mengajar di surau dan menjadi imam dengan sebutan Imam Nagari, ayah
Mahmud Yunus berasal dari suku Mandailing. Ia juga bekerja sehari-hari sebagai
petani. Adapun sang ibu buta huruf karena tidak pernah mengenyam pendidikan di Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 107 desanya, memiliki panggilan Posa dari suku Chaniago,11 dan pekerjaan hariannya
menenun kain tradisional Minangkabau.12 Mahmud Yunus sejak kecil mulai belajar Al-
Qur’an pada kakeknya.13 Ia merupakan satu-satunya anak laki-laki dalam keluarganya. Mahmud Yunus mempunyai lima orang istri dan dengannya dikarunai 18 orang anak.14
Awal tahun 1970 kesehatan Mahmud Yunus menurun dan keluar-masuk rumah sakit,
dan akhirnya ia menghembuskan napas terakhirnya pada tahun 1982. Sejak kecil Mahmud Yunus sudah dididik dalam lingkungan yang agamis. Ia
belajar Al-Qur’an dan praktik ibadah serta ilmu-ilmu ke-Islaman lainnya dengan
kakeknya, sejak tahun 1906 M. Pernah masuk Sekolah Rakyat. tetapi hanya sampai
tahun keempat. Selanjutnya ia masuk Madrasah School yang didirikan oleh H. M. Thaib Umar, seorang tokoh pembaru Islam di Minangkabau. Prestasi Mahmud di
Madrasah sangat cemerlang, sehingga ia dipercaya untuk mengajar beberapa kitab,
antara lain al-Mahally, Alfiyah ibn Aqil, dan Jam’ al-Jawami. Saat itu usianya baru 16
tahun.15 Selanjutnya Mahmud Yunus belajar di Universitas al-Azhar Kairo, Mesir, pada
tahun 1924 M. Ia pun melanjutkan studi ke Dar al-‘Ulum, Universitas Kairo, Mesir. Pada tahun 1929 ia lulus dan kembali ke kampung halamannya.16 Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 11Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim Karya Mahmud Yunu
(Yogyakarta: Tesis Mahasiswa UIN Sunan Kalijaga, 2019), 21.
12 Profil Para Mufasir al-Qur’an\, 200. Lihat juga Sulaiman Ibrahim, Pendidikan dan Tafsir; Kiprah
Mahmud Yunus dalam Pembaruan Islam, (Jakarta: LEKAS, 2011), 42.
19Lebih lanjut lihat Mahmud Yunus dalam mukadimah Tafsir Al-Qur’an al-Karim, iii-vii. Lihat
juga Sulaiman Ibrahim, Pendidikan dan Tafsir, 84.
20Lebih lanjut lihat Mahmud Yunus dalam mukadimah Tafsir Al-Qur’an al-Karim, iii-vii. Lihat
juga Sulaiman Ibrahim, Pendidikan dan Tafsir, 84.
21Yunus, Tafsir Al-Qur’an al-Karim, iii-vii.
22Ghofur, Profil Para Mufasir al-Qur’an, 200-201. Karir dan Karya-Karya Karir Mahmud Yunus di antarnya mendirikan dan memimpin lembaga
pendidikan Islam bernama al-Jami’ah al-Islamiyyah di Sungayang dan Normal Islam di
Padang pada tahun 1931 M. Ia juga memimpin Sekolah Islam Tinggi (SIT) di Padang,
mendirikan Akademi Dinas Ilmu Agama (ADIA) dan sekaligus menjadi dekannya
tahun 1957-1960. Mahmud Yunus juga berhasil mendirikan dan memimpin Sekolah
Menengah Islam (SMI) di Bukittinggi. Tahun 1960, ia diangkat menjadi Dekan
Fakultas Tarbiyah UIN Syarif Hidayatullah Jakarta, dan menjadi Rektor IAIN Imam
Bonjol Padang.17Adapun karya-karya yang dihasilkan Mahmud Yunus di bidang
pendidikan, bahasa Arab, fikih, tafsir, akhlak, sejarah, dan ada juga karya di bidang
lainnya. Karyanya yang paling monumental dan paling banyak berpengaruh adalah
Tafsir Al-Qur’an al-Karim, terbit pada tahun 1938 M dan sudah mengalami cetak
berulang kali. 18 Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 108 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Al-Qur’an al-Karim Karya Mahmud Yunus
Latar Belakang Penulisan Kitab Menurut keterangan Mahmud Yunus, karya tafsirnya ini merupakan hasil
“penyelidikan” yang dilakukan mendalam oleh dirinya sendiri selama kurang lebih 53
tahun, sejak ia berusia 20 hingga 73 tahun. Selama ia menyelesaikan kitabnya, muncul
berbagai protes dan reaksi dari berbagai kalangan yang menantang kegiatannya dalam
menerjemahkan dan menafsirkan Al-Qur’an ke dalam bahasa Indonesia. Banyak yang
menganggap bahwa hal tersebut langka dan haram dilakukan.19 Penulisan kitab tafsir ini dimulai pada tahun 1922 M dan berhasil diterbitkan
untuk juz pertama, kedua dan ketiga. Selang dua tahun, pada 1924 M Mahmud Yunus
menghentikan penulisan karena ia ingin melanjutkan studi ke al-Azhar Kairo, Mesir. Saat belajar di Mesir inilah, Mahmud Yunus mengetahui tentang kebolehan
menerjemahkan dan menafsirkan Al-Qur’an ke dalam bahasa asing –selain bahasa
Arab. Hal ini boleh dilakukan dengan tujuan agar bangsa non-Arab yang tidak paham
dengan bahasa Arab juga dapat memahami dan mempelajarinya. Karenanya, setelah
Mahmud Yunus pulang dari Mesir, ia pun melanjutkan penulisannya pada tahun 1935
M. Pada saat itu, Mahmud Yunus pun berhasil menamai kitab ini dengan “Tafsir Al-
Qur’an al-Karim”. Selanjutnya, penafsiran ini diterbitkan satu juz tiap dua bulan. Adapun dalam penerjemahan juz tujuh sampai juz 18 dibantu oleh H. M. K. Bakry, dan
akhirnya pada bulan April 1938 M, 30 juz Al-Qur’an pun khatam.20 Karya tafsir ini, seperti yang diakui Mahmud Yunus, berorientasi mulia, dalam
artian “menjelaskan petunjuk-petunjuk Al-Qur’an agar diamalkan oleh kaum Muslimin
khususnya dan umat manusia pada umumnya, sebagai petunjuk universal.” Menurutnya
pula, tujuan dari penulisan tafsir ini adalah untuk memberikan keterangan dan
penjelasan tentang petunjuk-petunjuk Al-Qur’an agar dapat dimengerti dengan mudah,
cepat, dan dapat dipraktikkan masyarakat dalam kehidupan sehari-hari. Selain itu,
karya ini juga disuguhkan untuk kalangan pelajar dan mahasiswa sebagai bahan praktis
mempelajari bahasa Al-Qur’an dan juga untuk masyarakat umum yang ingin
mendalami isi kitab suci.21 Dari sini tersirat betapa Mahmud ingin menjadikan
karyanya ini sebagai tafsir yang bersahaja, praktis, dan dapat dipelajari semua orang. 23Yunus, Tafsir Al-Qur’an al-Karim, iii-vii.
24Tri Hermawan, Putri Rafa Salihah, Muhammad Hafizh, “The Concept of Women’s Dress in
Tafsir Nusantara: A Comparative Study of Four Indonesian Exegeses,” Ulumuna: Journal of Islamic
Studies 21, no. 2 (2017): 370-390.
25Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. iii-vii. Lihat juga Khader Ahmad dkk, “Ketokohan
Mahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim,” The 2nd
Annual International Qur’anic Conference, Centre of Quranic Research (CQR), Tahun 2012, 202-207.
26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam
menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus
memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini,
seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan
pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna.
Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan
tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep-
konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an. 3) Memberikan
penjelasan-penjelasan tentang poin-poin penting yang terdapat dalam setiap surah Al-Qur’an, sebagai
petunjuk bagi pembacanya. 4) Sekitar 60% dari catatan kaki yang ditemukan dalam tafsir ini digunakan
untuk menjelaskan kata-kata atau kalimat tertentu dan untuk mengungkap kembali teks agar lebih jelas
maksudnya. 5) Menjelaskan secara singkat tentang proses turun Al-Qur’an, pengumpulan dan
pemeliharaannya. 6) Menyajikan daftar kata-kata yang disusun secara alfabetis dengan merujuk pada
halaman-halaman tertentu (indeks dan daftar kata). Lebih lanjut lihat Federspiel, Kajian Al-Qur’an di
Indonesia, 129-137. Metodologi Penafsiran g
Tafsir Al-Qur’an al-Karim ini menggunakan metode penafsiran ijmali (global). 22
Adapun sumber rujukan tafsirnya sebagai berikut; tafsir al-Thabari juz 1 halaman 42,
tafsir Ibnu Katsir juz 1 halaman 3, tafsir al-Qasimy juz 1 halaman 7, Fajrul Islam juz 1 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 109 109 halaman 199, dan Zhuhurul Islam juz 2 halaman 40-43 dan juz 3 halaman 37.23
Sedangkan, sumber ataupun materi penafsirannya mengombinasikan dua metode, yaitu
penafsiran dari teks (bi al-ma’tsur) dan penafsiran dari akal (bi al-ra’y).24 Metode-
metode tersebut di antaranya:251) Menafsirkan ayat Al-Qur’an dengan Al-Qur’an, 2)
Menafsirkan ayat Al-Qur’an dengan hadis Rasulullah saw., 3) Menafsirkan dengan
perkataan sahabat, tetapi khusus dengan menjelaskan sebab-sebab turunnya ayat Al-
Qur’an, 4) Menafsirkan dengan perkataan tabiin, jika mereka berijmak atas suatu
tafsir, 5) Menafsirkan dengan mengemukakan kata-kata pepatah, 6) Menafsirkan
dengan ijtihad bagi yang ahli, atau melalui pandangan akal, 7) Menafsirkan dengan
bahasa Arab atau dengan makna kalimah, 8) Menafsirkan ayat-ayat Al-Qur’an dengan
mengemukakan kisah nabi-nabi dan umat-umat terdahulu.26 27Ibrahim, Pendidikan dan Tafsir, 87-102. Q
24Tri Hermawan, Putri Rafa Salihah, Muhammad Hafizh, “The Concept of Women’s Dress in
afsir Nusantara: A Comparative Study of Four Indonesian Exegeses,” Ulumuna: Journal of Islamic
tudies 21, no. 2 (2017): 370-390.
25 28Contoh yang cukup mewakili hal ini adalah ketika Mahmud Yunus menjelaskan makna persatuan
(integrasi) umat pada surah Ali Imran ayat 103:وَاﻋْﺘَﺼِﻤُﻮا ﲝَِﺒْﻞِ اﱠِ ﲨَِﻴﻌًﺎ وَﻻَ ﺗـَﻔَﺮﱠﻗُﻮا
(Dan berpeganglah kamu
semuanya kepada tali (agama) Allah, dan janganlah kamu bercerai berai). Demikian juga mengenai 25Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. iii-vii. Lihat juga Khader Ahmad dkk, “Ketokohan
ahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim,” The 2nd
nnual International Qur’anic Conference, Centre of Quranic Research (CQR), Tahun 2012, 202-207. 23Yunus, Tafsir Al-Qur’an al-Karim, iii-vii.
24Tri Hermawan, Putri Rafa Salihah, Muhammad Hafizh, “The Concept of Women’s Dress in
Tafsir Nusantara: A Comparative Study of Four Indonesian Exegeses,” Ulumuna: Journal of Islamic
Studies 21, no. 2 (2017): 370-390.
25Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. iii-vii. Lihat juga Khader Ahmad dkk, “Ketokohan
Mahmud Yunus dalam Bidang Tafsir Al-Qur’an: Kajian terhadap Kitab Tafsir Quran Karim,” The 2nd
Annual International Qur’anic Conference, Centre of Quranic Research (CQR), Tahun 2012, 202-207.
26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam
menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus
memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini,
seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan
pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna.
Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan
tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep-
konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an 3) Memberikan Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 23Yunus, Tafsir Al-Qur’an al-Karim, iii-vii. 26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam
menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus
memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini,
seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan
pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna.
Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan
tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep-
konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an. 3) Memberikan
penjelasan-penjelasan tentang poin-poin penting yang terdapat dalam setiap surah Al-Qur’an, sebagai
petunjuk bagi pembacanya. 4) Sekitar 60% dari catatan kaki yang ditemukan dalam tafsir ini digunakan
untuk menjelaskan kata-kata atau kalimat tertentu dan untuk mengungkap kembali teks agar lebih jelas
maksudnya. 5) Menjelaskan secara singkat tentang proses turun Al-Qur’an, pengumpulan dan
pemeliharaannya. 6) Menyajikan daftar kata-kata yang disusun secara alfabetis dengan merujuk pada
halaman-halaman tertentu (indeks dan daftar kata). Lebih lanjut lihat Federspiel, Kajian Al-Qur’an di
Indonesia, 129-137. Karakteristik Kitab Sebagai sebuah karya, Tafsir Al-Qur’an al-Karim mempunyai karakteristik
terkait beberapa aspek, yaitu sistematika penerjemahan/ penafsiran, sistematika
penyusunan, teknik penerjemahan dan keterangan (catatan kaki), analisis istilah dan
konsep-konsep, serta kandungan kesimpulan isi Al-Qur’an.27 Pertama yaitu sistematika penerjemahan/ penafsiran. Format terjemahannya
dengan meletakkan posisi teks Al-Qur’an di sebelah kanan dan terjemahannya di
sebelah kiri. Format seperti ini memudahkan orang untuk mengetahui terjemah dari
masing-masing ayat. Pada sisi lain, Mahmud Yunus menguraikan objek tertentu
dengan cukup panjang.28 26Howard M. Federspiel menambahkan beberapa metode yang digunakan Mahmud Yunus dalam
menulis kitab Tafsir Al-Qur’an al-Karim, sebagai berikut; 1) Dalam penafsiran, Mahmud Yunus
memberi keterangan singkat terhadap istilah-istilah yang berada dalam Al-Qur’an. contoh dalam hal ini,
seperti kata Rabb yang dalam bahasa Arab memiliki arti percipta dan pemelihara, pengatur dan
pendidik, yang menata dan mengatur segala sesuatu dalam cara yang paling baik, bijak dan sempurna. Oleh karena itu, Rabb berarti “pemimpin atau pengarah” dalam bahasa Indonesia, meskipun pemaknaan
tersebut tidak memberikan arti yang pasti. 2) Mahmud Yunus memberikan informasi mengenai konsep-
konsep tentang dasar keyakinan dan praktik-praktik yang ditemukan dalam Al-Qur’an. 3) Memberikan
penjelasan-penjelasan tentang poin-poin penting yang terdapat dalam setiap surah Al-Qur’an, sebagai
petunjuk bagi pembacanya. 4) Sekitar 60% dari catatan kaki yang ditemukan dalam tafsir ini digunakan
untuk menjelaskan kata-kata atau kalimat tertentu dan untuk mengungkap kembali teks agar lebih jelas
maksudnya. 5) Menjelaskan secara singkat tentang proses turun Al-Qur’an, pengumpulan dan
pemeliharaannya. 6) Menyajikan daftar kata-kata yang disusun secara alfabetis dengan merujuk pada
halaman-halaman tertentu (indeks dan daftar kata). Lebih lanjut lihat Federspiel, Kajian Al-Qur’an di
Indonesia, 129-137. 28Contoh yang cukup mewakili hal ini adalah ketika Mahmud Yunus menjelaskan makna persatuan
(integrasi) umat pada surah Ali Imran ayat 103:وَاﻋْﺘَﺼِﻤُﻮا ﲝَِﺒْﻞِ اﱠِ ﲨَِﻴﻌًﺎ وَﻻَ ﺗـَﻔَﺮﱠﻗُﻮا
(Dan berpeganglah kamu
semuanya kepada tali (agama) Allah, dan janganlah kamu bercerai berai). Demikian juga mengenai Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 110 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Contoh Format Penerjemahan29
Surah al-Fatihah
(Pembukaan)
Diturunkan di Makkah, 7 ayat
1. Dengan nama Allah yang Maha Pengasih lagi
Maha Penyayang. ِﺑِﺴْﻢِ ﷲِ اﻟﺮﱠﲪَْﻦِ اﻟﺮﱠﺣِﻴْﻢ
2. Segala puji bagi Allah, (Yang Mendidik)
semesta alam. َاﳊَْﻤْﺪُ ِﱠِ رَبِّ اﻟْﻌَﺎﻟَﻤِﲔ
3. Yang Maha Pengasih lagi Maha Penyayang. ِاﻟﺮﱠﲪَْﻦِ اﻟﺮﱠﺣِﻴﻢ
4. Lagi mempunyai (penguasa) hari pembalasan. ِﻣَﺎﻟِﻚِ ﻳـَﻮْمِ اﻟﺪِّﻳﻦ
5. Hanya Engkaulah yang kami samba dan hanya
kepada Engkaulah kami meminta pertolongan. ُإِ1ﱠكَ ﻧـَﻌْﺒُﺪُ وَإِ1ﱠكَ ﻧَﺴْﺘَﻌِﲔ
6. perpecahan (desintegrasi) umat pada surah al-An’am ayat 159: ْإِنﱠ اﻟﱠﺬِﻳﻦَ ﻓـَﺮﱠﻗُﻮا دِﻳﻨـَﻬُﻢْ وَﻛَﺎﻧُﻮا ﺷِﻴـَﻌًﺎ ﻟَﺴْﺖَ ﻣِﻨـْﻬُﻢْ ﰲِ ﺷَﻲ
ٍء
(Sesungguhnya orang-orang yang memecah belah agamanya dan mereka (terpecah) menjadi beberapa
golongan, tidak ada sedikit pun tanggung jawabmu terhadap mereka). Hal terpenting dari uraian ini
adalah ia berusaha menyisipkan suatu pesan moral kepada para pembacanya agar dalam kehidupan
bermasyarakat senantiasa menjaga nilai-nilai kebersamaan dan rasa persatuan. Mahmud Yunus, Tafsir Al Qur an al Karim, 1.
30 Iskandar, “Tafsir Qur’an Karim Karya Mahmud Yunus; Kajian atas Karya Tafsir Nusantara,”
Jurnal Suhuf, Vol. 3, No. 1, 2010, h. 5. Lihat juga Mahmud Yunus, Tafsir Al-Qur’an al-Karim,
(Djakarta: PT Hidakarya Agung, 1983). Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 y
j g
p
29 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 1. y
j g
29 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 1. 31 Sebagai contoh penerjemahannya pada surah al-Isra’ ayat 29: َ“وَﻻَ ﲡَْﻌَﻞْ ﻳَﺪَكَ ﻣَﻐْﻠُﻮﻟَﺔً إِﱃَ ﻋُﻨُﻘِﻚjanganlah
engkau jadikan tangan engkau terbelenggu ke kuduk engkau (jangan bakhil)”. Hal ini terlihat pada ayat-
ayat Al-Qur’an yang menggunakan lafal konotatif. Mahmud juga mengakui bahwa penerjemahan harfiah
tidak cukup memadai, sehingga diperlukan penerjemahan maknawi untuk menjelaskan pengertian yang
sebenarnya dari suatu ayat. Karakteristik Kitab Tunjukilah kami jalan yang lurus,
َاﻫْﺪِ5َ اﻟﺼِّﺮَاطَ اﻟْﻤُﺴْﺘَﻘِﻴﻢ
7. yaitu jalan orang-orang yang telah Engkau
berikan nikmat-nikmat kepada mereka. ْﺻِﺮَاطَ اﻟﱠﺬِﻳﻦَ أَﻧـْﻌَﻤْﺖَ ﻋَﻠَﻴْﻬِﻢ
Sedang mereka itu orang-orang yang dimurkai
ْﻏَﲑِْ اﻟْﻤَﻐْﻀُﻮبِ ﻋَﻠَﻴْﻬِﻢ
dan bukan pula orang-orang yang sesat. َوَﻻَ اﻟﻀﱠﺎﻟِّﲔ Contoh Format Penerjemahan29 Kedua ialah sistematika penyusunan. Penerjemahan teks Al-Qur'an Mahmud
Yunus terdapat 924 halaman. Cover, Lembar Pengesahan dan Pendahuluan
menghabiskan tujuh halaman (halaman i-vii). Selebihnya, 27 halaman tambahan
(halaman i - xxvii) digunakan sebagai lampiran yang berisi Daftar Surah dan Isi Tafsir,
Daftar Isi Surah Berdasarkan Alfabet, dan Daftar Juz-Juz Al-Qur'an –hal ini merupakan
suatu terobosan yang tentu sangat membantu pembaca dalam mencari ayat, surah, dan
juz Al-Qur'an. Sedangkan pada bagian paling akhir, ia menyertakan karyanya ini
dengan 32 halaman khusus berisikan kesimpulan isi Al-Qur'an, menyangkut hukum,
etika (akhlak), ilmu pengetahuan, ekonomi, sejarah, dan lain-lain.30 Selanjutnya yang ketiga ialah teknik penerjemahan dan keterangan (catatan
kaki). Hampir 60 persen karya Mahmud Yunus berisi terjemahan ayat Al-Qur’an dan
40 persen sisanya merupakan keterangan dalam bentuk catatan kaki terhadap beberapa
istilah dan konsep agama. Adapun untuk teknik penerjemahan, ia menggunakan teknik
penerjemahan harfiah (literal). Walupun demikian, terdapat juga terjemahan maknawi Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 111 yang ditandai dengan dua tanda kurung dan selebihnya dalam bentuk catatan kaki.31
Karakteristik keempat selanjutnya yaitu analisis istilah dan konsep-konsep. Mahmud
Yunus memiliki kecenderungan ketika menerjemahkan suatu kata (istilah) yaitu
dengan menekankan pada pengertian leksikal dan semantik sesuai dengan
perkembangan bahasa yang terpakai pada saat Al-Qur’an diturunkan.32 Adapun karakteristik yang terakhir adalah kandungan kesimpulan isi Al-Qur’an. Adanya subbab “Kesimpulan Isi Al-Qur'an” pada bagian akhir, kurang lebih 32
halaman, yang mana memuat persoalan umum meliputi hukum, etika, ilmu
pengetahuan, ekonomi, sejarah, dan lain-lain. Tujuannya, membantu para pembaca
yang ingin menggali lebih jauh hukum-hukum dan pesan penting Al-Qur'an. 33 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, h. 43-44. Lebih lanjut lihat M.
Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an
Indonesia”, Jurnal Ilmu Ushuluddin, Vol. 2, No. 3, Januari-Juni 2015, 331-332. Aspek Akademik Tafsir Al-Qur’an Al-Karim Aspek akademik dalam kitab tafsir karya Mahmud Yunus ini terlihat dari corak-
corak penafsiran yang digunakannya. Corak-corak penafsiran tersebut merupakan corak
pembaharuan yang ada di Indonesia, dan Mahmud Yunus merupakan pelopor
pembaharuan berbagai corak tersebut. Adapun corak penafsiran yang muncul dari
Tafsir Al-Qur’an al-Karim ini adalah corak ‘ilmi, corak sosial dan corak intelektual. Corak-corak tersebut banyak menonjolkan sisi ilmiah, ilmu pengetahuan, nilai-nilai
dan kondisi sosial, serta moral kehidupan dan juga fenomena pendidikan saat itu. Maka
pantas, dan tidak heran jika munculnya corak-corak di atas menjadikan Tafsir Al-
Qur’an al-Karim karya Mahmud Yunus ini termasuk dalam golongan tafsir yang
berbasis akademis. y
y
32 Hal ini terlihat dalam penerjemahan kata “ ِّ ”ﻣُﺘـَﻮَﰲpada surah Ali Imran ayat 55: ِّإِذْ ﻗَﺎلَ اﱠُ 1َ ﻋِﻴﺴَﻰ إِﱐ
(( ﻣُﺘـَﻮَﻓِّﻴﻚَ وَرَاﻓِﻌُﻚَ إِﱄَﱠ Ingatlah), ketika Allah berfirman: "Hai Isa, sesungguhnya Aku akan menyampaikan kamu
kepada akhir ajalmu dan mengangkat kamu kepada-Ku). Kata “ ِّ ”ﻣُﺘـَﻮَﰲdalam ayat ini diterjemahkan secara
leksikal dengan ‘mewafatkan’, karena menurutnya pengertian ini yang biasa terpakai dalam bahasa Arab
dan tidak ada indikasi lain yang dapat memutarnya pada pengertian lain. Lebih lanjut lihat Iskandar,
“Tafsir Qur’an Karim Karya Mahmud Yunus,” h. 5. 36M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir
Al-Qur’an Indonesia,” 326. Lebih lanjut dalam jurnalnya dibahas panjang lebar mengenai corak ‘ilmi dan
contoh-contohnya, tafsir rasional, demitologisasi, dan juga keterpengaruhan Muhammad ‘Abduh
terhadap Mahmud Yunus. Sedangkan Nama al-Manar pada awalnya adalah nama majalah yang
menyuarakan gagasan-gagasan pembaruan Muhammad ‘Abduh. Namun atas ide Rasyid Rida akhirnya
gagasan-gagasan ‘Abduh dikumpulkan dalam sebuah kitab. Itulah cikal bakal kelahiran kitab tafsir al-
Manar. , ,
35Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 44. Lebih lanjut lihat M.
Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an
Indonesia,” 332. 34Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 43-44. Lebih lanjut lihat M.
Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an
Indonesia,”, 331-332. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Corak ‘Ilmi Adanya corak ilmiah dalam kitab tafsir Mahmud Yunus ini sesuai dengan tujuan
dalam penulisan karyanya, yaitu untuk menggali hubungan harmoni antara Al-Qur’an
sebagai sumber pokok ajaran Islam dan mengelaborasinya dengan ilmu pengetahuan
dan teknologi yang menjadi ciri utama modernitas yang semakin hari semakin
meningkat. Untuk mempertegas corak ini, pada bagian kitab juga terdapat indeks-
indeks ayat yang terkait dengan ilmu pengetahuan dan teknologi.33 33 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, h. 43-44. Lebih lanjut lihat M. Anwar Syarifuddin dan Jauhar Azizy, “Mahmud Yunus: Pelopor Pola Baru Penulisan Tafsir Al-Qur’an
Indonesia”, Jurnal Ilmu Ushuluddin, Vol. 2, No. 3, Januari-Juni 2015, 331-332. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 112 2 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Hal lain yang mendukung adanya corak ilmiah dalam kitab Tafsir Al-Qur’an
al-Karim ini di antaranya; pertama, Mahmud Yunus memberikan penjelasan terhadap
ayat-ayat Al-Qur’an sesuai perspektif teori ilmiah modern. Kedua, ia menggunakan
temuan-temuan dan kemajuan ilmiah modern untuk memperkokoh kemukjizatan Al-
Qur’an dan ketinggian nilai-nilai ajaran Islam. Ketiga, ia tak luput mengemukakan
temuan-temuan ilmiah modern sebagai bahan dan materi perbandingan dalam
fenomena dan pesan-pesan ajaran Al-Qur’an untuk menyeimbangkannya dengan
kondisi yang kekinian.34 Corak ilmiah yang mulai dimasukkan Mahmud Yunus sebagai corak baru
dalam penafsiran ini, merupakan sebuah pengaruh besar yang didapatkannya dari
gagasan pembaruan Muhammad ‘Abduh yang diterimanya melalui Rasyid Ridha. Hal
demikian, dapat dilihat ketika Mahmud Yunus menuntut ilmu di Mesir, maupun dari
tulisan-tulisan dalam majalah al-Manar.35 Pengaruh Muhammad ‘Abduh terhadap
Mahmud Yunus juga dapat terlihat dari aktivitas pergerakan pembaruan Islam di
Sumatra yang diikuti oleh Mahmud Yunus yang mana bertujuan untuk menguatkan
perkenalannya dengan gagasan-gagasan pembaruan Muhammad ‘Abduh dan
Muhammad Rasyid Rida lewat majalah al-Manar.36 Adapun contoh penafsiran corak ilmiah yang ada di kitab tafsir Mahmud
Yunus ini, di antaranya: Surah al-Fiil ayat 1-5 Surah al-Fiil ayat 1-5 Surah al-Fiil ayat 1-5
َأَﱂَْ ﺗـَﺮَ ﻛ
ﻴْﻒَ ﻓـَﻌَﻞَ رَﺑﱡﻚَ Uَِﺻْﺤَﺎبِ اﻟْﻔِﻴﻞِ
. أَﱂَْ ﳚَْﻌَﻞْ ﻛَﻴْﺪَﻫُﻢْ ﰲِ ﺗَﻀْﻠِﻴﻞٍ
. وَأَرْﺳَﻞَ ﻋَﻠَﻴْﻬِﻢْ ﻃَﻴـْﺮًا أَYَﺑِﻴﻞَ
. ﺗـَﺮْﻣِﻴﻬِﻢْ
ﲝِِﺠَﺎرَةٍ ﻣِﻦْ ﺳِﺠِّﻴﻞٍ
. ﻓَﺠَﻌَﻠَﻬُﻢْ ﻛَﻌَﺼْﻒٍ ﻣَﺄْﻛُﻮلٍ
. َأَﱂَْ ﺗـَﺮَ ﻛ
ﻴْﻒَ ﻓـَﻌَﻞَ رَﺑﱡﻚَ Uَِﺻْﺤَﺎبِ اﻟْﻔِﻴﻞِ
. أَﱂَْ ﳚَْﻌَﻞْ ﻛَﻴْﺪَﻫُﻢْ ﰲِ ﺗَﻀْﻠِﻴﻞٍ
. وَأَرْﺳَﻞَ ﻋَﻠَﻴْﻬِﻢْ ﻃَﻴـْﺮًا أَYَﺑِﻴﻞَ
. ﺗـَﺮْﻣِﻴﻬِﻢْ
ﲝِِﺠَﺎرَةٍ ﻣِﻦْ ﺳِﺠِّﻴﻞٍ
. ﻓَﺠَﻌَﻠَﻬُﻢْ ﻛَﻌَﺼْﻒٍ ﻣَﺄْﻛُﻮلٍ
. ٍ
Artinya: “1) Tiadakah engkau tahu, bagaimana Tuhanmu memperbuat terhadap orang-
orang yang mempunyai gajah. 2) Tiadakah ia menjadikan tipu daya mereka
jadi sia-sia. 3) Dan mengirim kepada mereka burung berbondong-bondong. 4) Yang melempar mereka dengan batu dari tanah yang keras. 5) Lalu Allah
jadikan mereka seperti daun yang dimakan (ulat)”. Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa: Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa:
“Adapun bala tentara yang bergajah itu, ialah Raja Yaman yang datang ke Negeri Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa:
“Adapun bala tentara yang bergajah itu, ialah Raja Yaman yang datang ke Negeri
Makkah hendak meruntuhkan Ka’bah dengan membawa laskar dan gajah yang “Adapun bala tentara yang bergajah itu, ialah Raja Yaman yang datang ke Negeri
Makkah hendak meruntuhkan Ka’bah dengan membawa laskar dan gajah yang p
y
g
g j
,
j
y
g
g
g
Makkah hendak meruntuhkan Ka’bah dengan membawa laskar dan gajah yang Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 113 kuat. Setelah mereka hampir masuk ke Negeri Makkah, lalu beberapa burung
menjatuhkan batu (tanah yang keras), boleh jadi di dalamnya banyak hama
penyakit cacar, sehingga mereka semuanya dihinggapi penyakit itu, akhirnya
badan mereka hancur luluh seperti daun kayu dimakan binatang atau ulat. Pendeknya maksud mereka hendak meruntuhkan Ka’bah tiadalah berhasil
adanya.”37 Dari surat al-Fiil di atas terdapat penggunaan kata “penyakit cacar”. Penggunaan kata ini sangat terlihat jelas aspek ilmiah yang digunakan oleh Mahmud
Yunus. Cara Mahmud Yunus memberikan penafsiran juga terkesan sangat akademis
sekali, sesuai dengan yang ada di masa sekarang dan dapat diterima oleh masyarakat. Mahmud Yunus menggunakan penafsiran “hama”, bahkan “penyakit cacar” yang
sangat ilmiah dan banyak diketahui kalangan masyarakat, sehingga penafsirannya lebih
mudah dipahami dan diterima khalayak umum. Surah Fushshilat ayat 13 38Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 705. 37Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 918-919.
38Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 705. 37Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 918-919.
38 37Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 918-919.
38Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 705. 40Sulaiman Ibrahim, Pendidikan dan Tafsir, 117. Lebih lanjut lihat Iskandar, “Tafsir Qur’an Karim
Karya Mahmud Yunus,” 8-10. Surah Fushshilat ayat 13 َﻓَﺈِنْ أَﻋْﺮَﺿُﻮا ﻓـَﻘُﻞْ أَﻧْﺬَرْﺗُﻜُﻢْ ﺻَﺎﻋِﻘَﺔً ﻣِﺜْﻞ
ﺻَﺎﻋِﻘَﺔِ ﻋَﺎدٍ وَﲦَُﻮدَ Artinya: “Jika mereka berpaling katakanlah: Aku beri peringatan kamu dan petir
(siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud”. Artinya: “Jika mereka berpaling katakanlah: Aku beri peringatan kamu dan petir
(siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud”. Artinya: “Jika mereka berpaling katakanlah: Aku beri peringatan kamu dan petir
(siksa), seumpama siksa (yang menimpa kaum) ‘Ad dan Tsamud”. Mahmus Yunus menjelaskan ayat tersebut dalam kitab tafsirnya bahwa: Mahmus Yunus menjelaskan ayat tersebut dalam kitab tafsirnya bahwa: “Arti ( ً )ﺻَﺎﻋِﻘَﺔyang jamaknya adalah ( )ﺻﻮاﻋﻖialah petir, geledek, halilintar,
yaitu yang keras sekali di udara dan biasanya bersama kilat. Dalam Al-Qur’an
ada tiga model penafsiran, yakni; pertama, ‘mati’ seperti ‘maka matilah siapa
yang di langit dan siapa yang di bumi‘ (
َﻓ
,)ﺼَﻌِﻖَ ﻣَﻦْ ﰲِ اﻟﺴﱠﻤﺎوَاتِ وَﻣَﻦْ ﰲِ اﻷَْرْضِ
kedua, ‘azab’ seperti ‘Aku beri peringatan kamu dan petir (siksa), seumpama
siksa (yang menimpa kaum) ‘Ad dan Tsamud’ ( ٍأَﻧْﺬَرْﺗُﻜُﻢْ ﺻَﺎﻋِﻘَﺔً ﻣِﺜْﻞَ ﺻَﺎﻋِﻘَﺔِ ﻋَﺎد
,)وَﲦَُﻮدَ ketiga ‘api’ (kilat) seperti ‘Dia mengirim api (kilat), lalu mengenai
siapa yang dikehendakinya.’ Sebenarnya ketiga-tiganya itu adalah hasil dari
petir ( ُ”.)وَﻳـُﺮْﺳِﻞُ اﻟﺼkﻮَاﻋِﻖَ ﻓـَﻴُﺼِﻴْﺐُ iَِﺎ ﻣَﻦْ ﻳَﺸَﺎء38 Begitupun dengan penafsiran yang terdapat dalam surah Fushshilat ini. Penjelasan yang dipaparkan oleh Mahmud Yunus mengenai “petir” disertai dengan
penjelasan ilmiah yang dapat memberikan pemahaman yang lebih luas bagi para
pembacanya. Hal ini memang sesuai dengan tujuan ditulisnya tafsir ini oleh Mahmud
Yunus, yaitu untuk memberikan keterangan dan penjelasan tentang petunjuk-petunjuk
Al-Qur’an agar dapat dimengerti dengan mudah, cepat, dan dapat dipraktikkan
masyarakat dalam kehidupan sehari-hari. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 114 4 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Surah al-Baqarah ayat 22 ِاﻟﱠﺬِي ﺟَﻌَﻞَ ﻟَﻜُﻢُ اﻷَْرْضَ ﻓ
ﺮَاﺷًﺎ وَاﻟﺴﱠﻤَﺎءَ ﺑِﻨَﺎءً وَأَﻧـْﺰَلَ ﻣِﻦَ اﻟﺴﱠﻤَﺎءِ ﻣَﺎءً ﻓَﺄَﺧْﺮَجَ ﺑِﻪِ ﻣِﻦَ اﻟﺜﱠﻤَﺮَاتِ
رِزْﻗًﺎ ﻟَﻜُﻢْ ﻓَﻼَ ﲡَْﻌَﻠُﻮا ِﱠِ أَﻧْﺪَادًا وَأَﻧـْﺘُﻢْ ﺗـَﻌْﻠَﻤُﻮنَ ِاﻟﱠﺬِي ﺟَﻌَﻞَ ﻟَﻜُﻢُ اﻷَْرْضَ ﻓ
ﺮَاﺷًﺎ وَاﻟﺴﱠﻤَﺎءَ ﺑِﻨَﺎءً وَأَﻧـْﺰَلَ ﻣِﻦَ اﻟﺴﱠﻤَﺎءِ ﻣَﺎءً ﻓَﺄَﺧْﺮَجَ ﺑِﻪِ ﻣِﻦَ اﻟﺜﱠﻤَﺮَاتِ
رِزْﻗًﺎ ﻟَﻜُﻢْ ﻓَﻼَ ﲡَْﻌَﻠُﻮا ِﱠِ أَﻧْﺪَادًا وَأَﻧـْﺘُﻢْ ﺗـَﻌْﻠَﻤُﻮنَ Artinya: “(Dia) yang menjadikan bumi untukmu sebagai tikar dan langit sebagai atap
(bina) dan Dia menurunkan air hujan dari langit, lalu ditumbuhkanNya dengan
air itu buah-buahan sebagai rezeki bagimu; sebab itu janganlah kamu
menjadikan Allah beberapa sekutu, sedang kamu mengetahuinya”. Artinya: “(Dia) yang menjadikan bumi untukmu sebagai tikar dan langit sebagai atap
(bina) dan Dia menurunkan air hujan dari langit, lalu ditumbuhkanNya dengan
air itu buah-buahan sebagai rezeki bagimu; sebab itu janganlah kamu
menjadikan Allah beberapa sekutu, sedang kamu mengetahuinya”. Dalam penafsirannya Mahmus Yunus menjelaskan ayat tersebut bahwa:
“Bumi ini seperti tikar. Sebagaimana tikar bisa diduduki, berdiri dan tidur di
atasnya, begitu pulalah bumi ini, dapat kita perbuat yang sedemikian itu. Ada
orang yang mengatakan bumi ini datar sebagai tikar. Tetapi itu menurut
pandangan manusia saja, karena sebenarnya ia bulat. Tetapi karena sangat
besar, maka memang sebagiannya menjadi datar. Bertambah besar suatu
bulatan, bertambah luas datarannya.”39 Penafsiran yang diberikan Mahmud Yunus mengenai bentuk bumi dalam ayat di
atas, tidak bertentangan dengan teori ilmiah dan ilmu pengetahuan yang ada. Ia
menjelaskan bahwa bumi itu berbentuk bulat, dan jika bumi ini dianggap datar, itu
karena luasnya bulatan bumi itu sendiri, sehingga nampak luas datarannya, dan seakan-
akan bumi datar. Hal ini dituliskan Mahmud Yunus dalam penafsirannya agar dapat
lebih mudah untuk diterima masyarakat, dan juga untuk menegaskan kesesuaian teori
ilmu pengetahuan dan pernyataan ayat Al-Qur’an. Dari contoh di atas, dapat terlihat bahwa penafsiran dari Mahmud Yunus dalam
kitab tafsirnya memiliki nuansa ilmiah dan akademis, mulai dari penggunaan “hama”
dan “penyakit cacar,” penjelasan ilmiah tentang petir, hingga tentang bentuk bumi
yang bulat. 39Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 6.
40Sulaiman Ibrahim, Pendidikan dan Tafsir, 117. Lebih lanjut lihat Iskandar, “Tafsir Qur’an Karim
Karya Mahmud Yunus,” 8-10. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 39Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 6.
40 39Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 6.
40 42 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 280-281. 41 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 79-81. Corak Sosial Corak lain yang nampak dalam kitab ini dan membuatnya lebih terkesan
akademis adalah corak sosial. Mahmud Yunus dalam karya tafsirnya sangat
menonjolkan penyampaian nilai-nilai sosial. Hal ini merupakan sebuah jalan yang
ditempuhnya untuk merealisasikan salah satu tujuan Mahmud Yunus dalam menulis
kitabnya, yaitu untuk menyampaikan dakwah islamiah dan menjadikan ajaran dasar Al-
Qur’an sebagai petunjuk universal.40 Adapun cara Mahmud Yunus dalam menonjolkan nilai-nilai sosial tersebut
nampak melalui penafsirannya yang menggunakan adat dan tradisi sosial budaya,
khususnya Minangkabau sebagai tempat kelahirannya. Ia menjadikan ungkapan-
ungkapan adat Minangkabau sebagai sumber penafsiran guna menjelaskan makna dari
ayat-ayat Al-Qur’an. Selain itu, dalam penafsirannya Mahmud Yunus juga mengkritik Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 115 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 115 sosial budaya yang ada dalam masyarakat Minang.41 Hal ini juga dilakukannya guna
untuk memudahkan masyarakat memahami penafsirannya karena sesuai dengan sosial
budaya di masyarakat. Adapun contoh penafsiran corak sosial yang ada di kitab tafsir Mahmud Yunus
ini, di antaranya: urah al-Taubah ayat 79 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al Qur an Karim, 79 81.
42 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 280-281. 1 Arif Iman Mauliddin, Unsur Lokal dalam Tafsir Al-Qur’an Karim, 79-81.
2 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 280-281. Surah al-Taubah ayat 79 Surah al-Taubah ayat 79 َاﻷَْﻋْﺮَابُ أَﺷَﺪﱡ ﻛُﻔْﺮًا وَﻧِﻔَﺎﻗًﺎ وَأَﺟْﺪَرُ أَﻻﱠ ﻳـَﻌْﻠَﻤُﻮا ﺣُﺪُودَ ﻣَﺎ أَﻧـْﺰَلَ اﱠُ ﻋَﻠَﻰ رَﺳُﻮﻟِﻪِ وَاﱠُ ﻋ
ﻠِﻴﻢٌ ﺣَﻜِﻴﻢٌ Artinya: “Orang-orang Arab Baduwi lebih kuat kekafiran dan kemunafikannya (dari
pada orang kota) dan lebih patut, tidak mengetahui peraturan yang
diturunkan Allah kepada rasul-Nya. Allah Maha Mengetahui, lagi Maha
Bijaksana. Artinya: “Orang-orang Arab Baduwi lebih kuat kekafiran dan kemunafikannya (dari
pada orang kota) dan lebih patut, tidak mengetahui peraturan yang
diturunkan Allah kepada rasul-Nya. Allah Maha Mengetahui, lagi Maha
Bijaksana. Adapun penafsiran Mahmud Yunus terhadap ayat di atas sebagai berikut: “Bahwa sesungguhnya orang-orang Arab Baduwi itu kuat dengan kekafiran dan
kemunafikannya, disebabkan oleh kurangnya pengetahuan tentang hukum-hukum
yang diturunkan Allah kepada Rasul-Nya. Terlebih karena mereka tidak bisa
membaca dan menulis untuk mendalami agama. Di kampung-kampung sendiri
sebenarnya sangat sulit untuk menyampaikan kebenaran agama, disebabkan oleh
jauhnya dari tempat pendidikan dan banyaknya buta huruf. Di situlah tugas kita
sebenarnya memberantas buta huruf dan menyampaikan pendidikan agama di
kampung-kampung yang sulit dijangkau. Tidak dipungkiri sebenarnya pelajaran-
pelajaran agama itu sendiri sudah tersebar di kampung-kampung dengan
perantara tabligh-tabligh, namun pelajaran tersebut hanya didengarkan melalui
tabligh saja dan akan mudah hilang karena jarang diulang. Padahal pepatah
mengatakan “Lancar dikaji karena disebut, pasar jalan karena diturut”.42 Dalam menafsirkan ayat tersebut, Mahmud Yunus memasukkan sebuah
ungkapan atau pepatah daerah/ petuah lokal, yaitu “lancar dikaji karena disebut, pasar
jalan karena diturut”, yang mana maksudnya adalah kepandaian atau kemahiran
didapat karena latihan. Ini merupakan salah satu ungkapan yang ada di wilayah
Minangkabau saat itu. Guna menyampaikan nilai sosial yang ada dalam tafsir tersebut,
Mahmud Yunus menggunakan bahasa yang lebih sesuai dengan keadaan sosial saat itu,
sehingga dakwah islamiah yang ada di dalam ayat Al-Qur’an tersebut lebih mudah
dipahami masyarakat. Surah al-Isra’ ayat 26 َوَآَتِ ذَا اﻟْﻘُﺮْﰉَ ﺣَﻘﱠﻪُ وَاﻟْﻤِﺴْﻜِﲔَ وَاﺑْﻦ
اﻟﺴﱠﺒِﻴﻞِ وَﻻَ ﺗـُﺒَﺬِّرْ ﺗـَﺒْﺬِﻳﺮًا Artinya: “Berikanlah kepada karib-kerabat haknya masing-masing dan kepada orang
miskin dan musafir dan janganlah kamu mubazir (pemboros) dengan
semubazir-mubazirnya”. Artinya: “Berikanlah kepada karib-kerabat haknya masing-masing dan kepada orang
miskin dan musafir dan janganlah kamu mubazir (pemboros) dengan
semubazir-mubazirnya”. Dalam penafsirannya, Mahmud Yunus menjelaskan ayat yang ada di atas bahwa Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 116 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah “Hendaklah engkau berikan karib kerabatmu haknya masing-masing, umpamanya
orang tua wajib memberikan nafkah kepada anak-anak dan istrinya, karena
nafkah itu adalah hak mereka, yang wajib dibayarkan kepadanya. Surah al-Taubah ayat 79 Tapi beribu kali
sayang sebagian orang tua di negeri kita, lebih-lebih di Minangkabau tidak ada
membayarkan kewajibannya kepada anak-anaknya, apalagi bila ia telah bercerai
dengan ibu anaknya itu. Inilah suatu dosa yang terbesar di negeri kita, yang wajib
kita bersama-sama membasminya, karena hal itu merusakkan masyarakat umum. Bukan sedikit anak-anak yang terlantar dan teraniaya, karena ditinggalkan orang
tuanya bertahun-tahun lamanya dengan tidak diberi nafkah sedikit pun, seolah-
olah anak itu telah menjadi yatim piatu, sedangkan orang tuanya masih hidup. Insyaflah hai orang yang mempunyai anak!.”43 Terlihat dari penafsiran di atas bahwa Mahmud Yunus mengkritik adat atau
kebiasaan Minangkabau khususnya, yaitu sebagian orang tua tidak diwajibkan untuk
menafkahi anak-anaknya, apalagi jika kedua orang tua dari anak tersebut telah
bercerai. Ini juga merupakan salah satu segi sosial budaya yang ada di wilayah
Minangkabau. Penggunaan fenomena realitas sosial budaya yang ada saat itu, guna
memudahkan untuk diterima dan dipahami oleh masyarakat, sehingga ajaran-ajaran
yang ada di dalam Al-Qur’an lebih mudah untuk tersampaikan melalui usaha
penafsiran Mahmud Yunus melalui cara tersebut. Selain adat dan tradisi sosial budaya Minangkabau, Mahmud Yunus juga tak
luput memasukkan unsur kebudayaan masyarakat Indonesia, mulai dari sistem religi,
sistem mata pencaharian, sistem pengetahuan hingga organisasi sosial.44 Selanjutnya
nuansa keindonesiaan yang terkait dengan dinamika keadaan sosial budaya masyarakat
pun muncul dalam karyanya.45 Dari penafsiran dan penjelasan dengan memasukkan adat dan tradisi, serta
dengan memasukkan unsur kebudayaan masyarakat Indonesia ini, tafsir Mahmud
Yunus menjadi tafsir dengan konteks dan nuansa sosial keindonesiaan yang begitu
akademis, yang mana penjelasan penafsirannya banyak menyasar latar budaya
Indonesia dengan menghadirkan nilai-nilai maupun pesan moral yang sesuai dengan
fenomena sosial budaya mayarakat Indonesia saat itu. Penjelasan penafsirannya ini
tentunya disesuaikan dengan substansi dari ayat yang ia tafsirkan. Q
44Anwar Mujahidin, “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa
dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab),” Jurnal Nun 3, no. 1 (2017):89-
116. 45Khairunnas Jamal, “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud
Yunus,” Al-Fikra: Jurnal Ilmiah Keislaman, Vol. 16, No. 1, Tahun 2017, h. 43. 43Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 405.
44Anwar Mujahidin, “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa
dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab),” Jurnal Nun 3, no. 1 (2017):89-
116.
45Khairunnas Jamal “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud 43Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 405. Jurnal At Tibyan: Jurnal Ilmu Alqur’an dan Tafsir Vol 5 No 1 Juni 2020
43Mahmud Yunus, Tafsir Al-Qur’an al-Karim, 405.
44Anwar Mujahidin, “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim dan Musa
dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish Shihab),” Jurnal Nun 3, no. 1 (2017):89-
116.
45Khairunnas Jamal, “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya Mahmud
Yunus,” Al-Fikra: Jurnal Ilmiah Keislaman, Vol. 16, No. 1, Tahun 2017, h. 43. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 46Sulaiman Ibrahim, Pendidikan dan Tafsir, h. 117. Lebih lanjut lihat Iskandar, “Tafsir Qur’an
Karim Karya Mahmud Yunus,” h. 8-10.
47 Mahmud Yunus, Tafsir Al-Qur’an al-Karim, h. 138-139. Corak Intelektual Adapun corak lain yang mendukung sisi akademis tafsir Mahmud Yunus adalah
corak intelektual yang ditandai dengan hadirnya karya ini di tengah-tengah masyarakat
yang belum banyak mengerti akan bahasa kitab suci Al-Qur’an. Hal ini menunjukkan
bahwa karya Mahmud sebagai sebuah medium dan perantara untuk mengantarkan
generasi intelektual dalam membimbing mereka dan umat manusia untuk Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 117 mengamalkan ajaran Islam.46 Salah satu cara yang dilakukannya adalah dengan
menambahkan ungkapan umum yang banyak diketahui dan dikenal oleh masyarakat
Indonesia saat itu. Dengan menambahkan ungkapan umum, diharapkan masyarakat dan
umat manusia lebih berintelek dalam memahami dan mengamalkan ajaran-ajaran
Islam. Adapun contoh penafsiran corak intelektual yang ada di kitab ini, di antaranya: Surah al-Nisa’ ayat 148 ﻻَ ﳛُِﺐﱡ اﱠُ اﳉَْﻬْﺮَ Yِﻟﺴﱡﻮءِ ﻣِﻦَ اﻟْﻘَﻮْلِ إِﻻﱠ ﻣَﻦْ ﻇُﻠِﻢَ وَﻛَﺎنَ اﱠُ ﲰَِﻴﻌًﺎ ﻋَﻠِﻴﻤًﺎ Artinya: “Allah tidak menyukai mengeraskan perkataan yang jahat,kecuali (bagi) orang
yang teraniaya. Allah Maha Mendengar, lagi Maha Mengetahui”. Artinya: “Allah tidak menyukai mengeraskan perkataan yang jahat,kecuali (bagi) orang
yang teraniaya. Allah Maha Mendengar, lagi Maha Mengetahui”. Mahmus Yunus menjelaskan ayat tersebut dalam kitab tafsirnya bahwa: “Allah tidak menyukai perkataan jahat yang keluar dari mulut seseorang, yaitu
perkataan bergunjing, mengumpat, mencela orang dsb. Karena perkataan
demikian adalah bibit permusuhan, perpecahan, perkelahian, dan pembunuhan,
sedang dalam agama Islam, kita harus selalu menjaga persatuan dan hubungan
silaturrahim antara seseorang dan seseorang, antara golongan dengan golongan,
antara partai dengan partai untuk menjaga kepentingan bersama. Sebab itulah
kita harus menjaga lidah dari perkataan: “Mulutmu harimaumu” yang akan
merengkah kepalamu maka jagalah ucapanmu, peliharalah mulutmu! Hanya
orang yang teraniaya yang boleh mengeluarkan perkataan jahat, untuk
mengadukan halnya kepada pengadilan, supaya terlepas dari keaniayaan itu.”47 Dari salah satu contoh penafsiran Mahmud Yunus di atas, ia menyisipkan sebuah
peribahasa umum dalam penafsirannya, yaitu “mulutmu harimaumu” yang artinya
keselamatan dan harga diri bergantung pada perkataan sendiri, atau tajamnya setiap
perkataan yang diungkapkan akan mencelakakan diri sendiri. Ungkapan umum yang
digunakannya ini berorientasi untuk mengintrodusir wawasan keindonesiaan dalam
tafsirnya, yang mana hal ini bertujuan untuk meningkatkan generasi yang lebih
berintelek dalam memahami ayat-ayat dan kandungan nilai-nilai yang ada di dalam Al-
Qur’an sebagai kitab suci umat Islam sepanjang masa. Penutup Tafsir Al-Qur’an al-Karim karya Mahmud Yunus merupakan sebuah tafsir yang
tergolong akademik karena banyaknya sisi-sisi akademis yang ia munculkan dalam
penafsirannya. Aspek-aspek maupun sisi-sisi akademis tersebut nampak begitu terlihat
dalam corak penafsiran yang ia gunakan. Mulai dari corak ilmiah, corak sosial hingga
corak intelektual. Ketiga corak inilah yang menjadikan tafsir Mahmud Yunus begitu
bersifat akademis. Corak ilmiah dalam penafsirannya ditunjukkan dengan mengaitkan
bagian yang ditafsirkannya dengan ilmu pengetahuan yang sedang berkembang,
sehingga penafsiran Mahmud Yunus terkesan menegaskan hubungan erat antara Al- Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 118 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah Qur’an dengan perkembangan ilmu pengetahuan dan teknologi. Adapun corak sosial
dan corak intelektual lebih ditunjukkan Mahmud Yunus melalui penggunaan unsur
ungkapan umum atau ungkapan bahasa, maupun tradisi, adat dan fenomena sosial
budaya masyarakat Indonesia dalam penafsirannya. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 DAFTAR PUSTAKA Ahmad, Khader dkk. “Ketokohan Mahmud Yunus dalam Bidang Tafsir Al-Qur’an:
Kajian terhadap Kitab Tafsir Quran Karim.” The 2nd Annual International
Qur’anic Conference, Centre of Quranic Research (CQR), 2012: 195-211. Asra, Amaruddin dan M. Amursid. “Studi Tafsir al-Qur’an al-Karim Karya Mahmud
Yunus.” Jurnal Syahadah 3, no. 2, (2015): 1-19. Baidan, Nashruddin dan Erwati Aziz. Metodologi Khusus Penelitian Tafsir. Yogyakarta: Pustaka Pelajar, 2016. ______. Perkembangan Tafsir Al-Qur’an di Asia Tenggara. Yogyakarta: Pustaka
Pelajar, 2019. Federspiel, Howard M. Kajian Al-Qur’an di Indonesia; dari Mahmud Yunus hingga
Quraish Shihab. Terj. Tajul Arifin. Bandung: Penerbit Mizan, 1996. Ghofur, Saiful Amin. Profil Para Mufasir al-Qur’an. Yogyakarta: Pustaka Insan
Madani, 2008. Hermawan, Tri, Putri Rafa Salihah, dan Muhammad Hafizh. “The Concept of
Women’s Dress in Tafsir Nusantara: A Comparative Study of Four Indonesian
Exegeses.” Ulumuna: Journal of Islamic Studies 21, no. 2 (2017): 370-390. Ibrahim, Sulaiman. Pendidikan dan Tafsir; Kiprah Mahmud Yunus dalam Pembaruan
Islam. Jakarta: LEKAS, 2011. Ibrahim, Sulaiman. “Karakteristik Tafsir Al-Qur’an al-Karim Karya Mahmud Yunus.”
Jurnal Al-Ulum 11, no. 2 (2011): 397-420. Igisani, Rithon. “Kajian Tafsir Mufassir di Indonesia.”Jurnal Potret 22, no. 1 (2018):
11-31. Iskandar. “Tafsir Qur’an Karim Karya Mahmud Yunus; Kajian atas Karya Tafsir
Nusantara.” Jurnal Suhuf 3, no. 1 (2010): 1-11. Jamal, Khairunnas. “Wawasan Keindonesiaan dalam Tafsir Al-Qur’an Al-Karim Karya
Mahmud Yunus.” Al-Fikra: Jurnal Ilmiah Keislaman 16, no. 1 (2017): 28-44. Mauliddin, Arif Iman. Unsur Lokal dalam Tafsir Al-Qur’an Karim Karya Mahmud
Yunus. Tesis Mahasiswa UIN Sunan Kalijaga. Yogyakarta, 2019. Mohammad, Herry dkk. Tokoh-Tokoh Islam yang Berpengaruh Abad 20. Jakarta:
Gema Insani, 2008. Mujahidin, Anwar. “Hubungan Kebudayaan Tafsir Indonesia (Analisis Kisah Ibrahim
dan Musa dalam Tafsir Karya Mahmud Yunus, Hamka, dan M. Quraish
Shihab).” Jurnal Nun 3, no. 1 (2017) : 89-116. Rina, Malta. Pemikiran dan Karya-Karya Prof. Dr. H. Mahmud Yunus tentang
Pendidikan Islam (1920-1982). Padang: Ilmu Sejarah Pascasarjana UNAND,
2011. Jurnal At-Tibyan: Jurnal Ilmu Alqur’an dan Tafsir, Vol. 5 No. 1, Juni 2020 Tafsir Akademik Karya Mahmud Yunus –Nurus Syarifah 119 Syarifuddin, M. Anwar dan Jauhar Azizy. “Mahmud Yunus: Pelopor Pola Baru
Penulisan Tafsir Al-Qur’an Indonesia.” Jurnal Ilmu Ushuluddin 2, no. 3
(2015): 323-343. (
)
Taufikurrahman. “Dinamika Kajian Al-Qur’an di Indonesia.” Ibn Abbas: Jurnal Ilm
Al-Qur’an dan Tafsir 2, no. 1 (2019): 213-230. Yunus, Mahmud. Tarjamah Al-Qur’an al-Karim. Bandung: PT al-Ma’arif, 1967. ______. Tafsir Al-Qur’an al-Karim. Djakarta: PT Hidakarya Agung, 1983. Zulyadain. “Kerangka Paradigmatik Tafsir Al-Qur’an Al-Karim Karya Mahmud
Yunus.”Jurnal Al-A’raf 15, no 1 (2018): 127-146.
|
https://openalex.org/W1601880398
|
https://hal.inria.fr/hal-01061315/document
|
English
| null |
Schemes for Privately Computing Trust and Reputation
|
IFIP advances in information and communication technology
| 2,010
|
cc-by
| 9,399
|
To cite this version: Nurit Gal-Oz, Niv Gilboa, Ehud Gudes. Schemes for Privately Computing Trust and Reputation. 4th IFIP WG 11.11 International on Trust Management (TM), Jun 2010, Morioka, Japan. pp.1-16,
10.1007/978-3-642-13446-3_1. hal-01061315 Schemes for Privately Computing Trust and Reputation
Nurit Gal-Oz, Niv Gilboa, Ehud Gudes To cite this version:
Nurit Gal-Oz, Niv Gilboa, Ehud Gudes. Schemes for Privately Computing Trust and Reputation. 4th IFIP WG 11.11 International on Trust Management (TM), Jun 2010, Morioka, Japan. pp.1-16,
10.1007/978-3-642-13446-3_1. hal-01061315 Distributed under a Creative Commons Attribution 4.0 International License Schemes for Privately Computing Trust and Reputation
Nurit Gal-Oz, Niv Gilboa, Ehud Gudes
To cite this version:
Nurit Gal-Oz, Niv Gilboa, Ehud Gudes. Schemes for Privately Computing Trust and Reputation.
4th IFIP WG 11 11 International on Trust Management (TM) Jun 2010 Morioka Japan
pp 1 16 Schemes for Privately Computing Trust and Reputation
Nurit Gal-Oz, Niv Gilboa, Ehud Gudes HAL Id: hal-01061315
https://inria.hal.science/hal-01061315v1
Submitted on 24 Nov 2017 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License Schemes for privately computing trust and
reputation Nurit Gal-Oz, Niv Gilboa and Ehud Gudes Dept. of Computer Science and Deutsche Telekom Laboratories
at Ben-Gurion University
Beer-Sheva, 84105
Israel
e-mail:galoz@cs.bgu.ac.il, gilboan@bgu.ac.il, ehud@cs.bgu.ac.il Dept. of Computer Science and Deutsche Telekom Laboratories
at Ben-Gurion University
Beer-Sheva, 84105
Israel Dept. of Computer Science and Deutsche Telekom Laboratories
at Ben-Gurion University
Beer-Sheva, 84105
Israel
e-mail:galoz@cs.bgu.ac.il, gilboan@bgu.ac.il, ehud@cs.bgu.ac.il Abstract. Trust and Reputation systems in distributed environments
attain widespread interest as online communities are becoming an inher-
ent part of the daily routine of Internet users. Several models for Trust
and Reputation have been suggested recently, among them the Knots
model [8]. The Knots model provides a member of a community with a
method to compute the reputation of other community members. Repu-
tation in this model is subjective and tailored to the taste and choices of
the computing member and those members that have similar views, i.e. the computing member’s Trust-Set. A discussion on privately comput-
ing trust in the Knots model appears in [16]. The present paper extends
and improves [16] by presenting three efficient and private protocols to
compute trust in trust based reputation systems that use any trust-sets
based model. The protocols in the paper are rigorously proved to be pri-
vate against a semi-honest adversary given standard assumptions on the
existence of an homomorphic, semantically secure, public key encryp-
tion system. The protocols are analyzed and compared in terms of their
privacy characteristics and communication complexity. 1
Introduction Recent years have seen a substantial growth of virtual communities across the
Internet. These enable people to gather around some common goal or shared
interest. The accessibility of information and services offered by these communi-
ties, makes it both possible and legitimate to communicate with strangers and
carry out interactions anonymously, as rarely done in ”real” life. On the other
hand, virtual communities are prone to many types of deception - possibly ex-
posing users to various threats - ranging from people forging their identity and
imposing as others, to people giving extremely bad or extremely good ratings
to other members unrelated to the service they have received from them. Trust
and Reputation systems provide communities with means to reduce the poten-
tial risk when communicating with people hiding behind virtual identities. These
systems utilize the experience and knowledge accumulated and shared by all par-
ticipants for assigning reputation values to individuals. Moreover, they attempt
to identify dishonest members and prevent their negative effect. Centralized reputation systems, such as the commercial system eBay [1] ,
collect and store reputation ratings from feedback providers in a centralized
reputation database. In eBay, for example, both buyers and sellers participating
in a transaction, may provide one of three possible feedbacks: positive (+1),
neutral (0), and negative (-1). The reputation score of a user is simply the sum
of her accumulated ratings over a period of six months. Several authors have noted that reputation is a much more complex concept
than simply aggregation of ratings. It may depend on interaction of multiple
attributes (also exist in eBay), on the certainty of the rating [18], on the time
the interaction and rating was performed, and on the trust between members. The last factor, trust between members, is crucial in obtaining reputation which
is specifically compatible with a user profile or preferences. One usually gives
much higher weight to ratings provided by people she has trust in. Trust between
members is considered among others by [5], and when anonymity of users is
required, trust between members may be computed based on the similarity of
their past ratings. (see [8] ). However, in the above systems and models the reputation engine assumes
knowledge of all ratings and other reputation factors, and does the computation
centrally. As a result, the raters suffer a severe loss of privacy. 1
Introduction Trust is a
subjective expectation a member has about another member’s future behavior,
based on the history of their encounters, while Reputation is the perception
that an agent creates through past actions about its intentions and norms, and
is computed by some aggregation of members ratings of previous interactions. Normally, the trust we have in an unknown person is based on their reputation. The exact use of these two terms in our paper will become clearer in Section 3. The rest of the paper is organized as follows. Section 2 provides an overview
of the related work. In section 3, we formally define our trust-set-aware model
which is essential for understanding the rest of the paper, while in Section 4 we
formally define secure computation in our context. Section 5 describes the three
different schemes and in Section 6 we conclude and give some future research
directions. els that use the feedback of a set of trusted members (trust-set) to compute
reputation. We present three different methods for computing trust and reputa-
tion privately and discuss their comparative advantages and disadvantages. Each
method offers a slightly different degree of privacy and communication overhead. We use the terms Trust and Reputation, as introduced by [19]. Trust is a
subjective expectation a member has about another member’s future behavior,
based on the history of their encounters, while Reputation is the perception
that an agent creates through past actions about its intentions and norms, and
is computed by some aggregation of members ratings of previous interactions. Normally, the trust we have in an unknown person is based on their reputation. The exact use of these two terms in our paper will become clearer in Section 3. The rest of the paper is organized as follows. Section 2 provides an overview
of the related work. In section 3, we formally define our trust-set-aware model
which is essential for understanding the rest of the paper, while in Section 4 we
formally define secure computation in our context. Section 5 describes the three
different schemes and in Section 6 we conclude and give some future research
directions. 1
Introduction An empirical
study conducted by [27] on data sets extracted from eBay’s reputation system
reported a high correlation between buyer and seller ratings. Moreover, most
of the feedback provided was positive. A possible explanation for these results
is that when feedback providers’ identities (or pseudo-identities) are known,
reputation ratings are provided based on reasons of reciprocation and retaliation,
not properly reflecting the trustworthiness of the rated parties. Thus preserving
privacy while computing reputation becomes an important issue. Decentralized reputation systems, on the other hand, do not make use of a
central repository to collect and report reputation ratings [32]. In these types
of systems, both the reputation of users and the ratings they have given may
be stored locally and known only to the corresponding user. The challenge in
these system it to compute the reputation without revealing the private data. Its important to emphasize that depending on the reputation model, there may
be different data which may be considered private, such as the rating itself,
the weight assigned to any specific rating, the identity of the raters, the trust
between members, etc. A recent paper on this topic [24] suggested several privacy preserving schemes
for computing reputation when the reputation computation is very simple (sim-
ilar to eBay). That is, the reputation is based on the summation of reputation
scores. The current paper advances the state of the art as it uses a more advanced
model of reputation computation which considers the trust members have in
one another. We use some notations of the Knots model [8] to demonstrate and
formulate our schemes however it is important to note that the ideas presented
may apply to any model in which trust between members is an important factor
in computing reputation. Specifically we refer to trust based reputation mod- els that use the feedback of a set of trusted members (trust-set) to compute
reputation. We present three different methods for computing trust and reputa-
tion privately and discuss their comparative advantages and disadvantages. Each
method offers a slightly different degree of privacy and communication overhead. We use the terms Trust and Reputation, as introduced by [19]. 2
Background and Related Work A community (virtual or online community) is a group of entities (e.g. people,
nodes, peers or agents acting on behalf of people), interacting via computer
networks for a common interest. Different communities serve various needs of
social groups through different levels of interactions. A community of strangers
is a community of anonymous entities who would like to participate, i.e. con-
tribute to and benefit from the community activities, without revealing personal
information. This is in contrast to the recently popular Internet communities of
identified users (e.g. ’Facebook’, ’LinkedIn’ etc.) A review on trust and reputation systems is provided by Josang et. al in [2]. Their review discusses the semantics of the trust and reputation concepts and
the relations between them. The authors also provide an overview of reputa-
tion computation models and existing applications of online reputation systems. Sabater et al [28] also present an overview of several computational trust and
reputation models that have been implemented and classify them according to
several criteria, such as the source of the information used, the assumptions
made on agents behavior, the visibility of trust, and whether reputation is con-
sidered as a personal/subjective property or as a global property. The concern
for privacy in communities in general, and the privacy of reputation information
in particular, was discussed in several papers [19, 17, 30, 26, 7] as explained next. In [19] the authors discuss the issues of privacy in a P2P network where
the reputation information is distributed among the P2P nodes. The following
aspects are analyzed: How the requirements for fair use practices reflect on the
system design? What classes of information may be leaked? How to manage
the risks related to social and technical issues? However, a specific method of
computing reputation is not discussed. In [17] a distributed trust management system which is constructed from a two level hierarchy is described. The high
level is composed of brokers which are responsible for aggregating trust infor-
mation from their individual local nodes. This provides some privacy from one
broker to another, although no privacy is provided at a single broker’s network. Steinbrecher in [30] presents an information theoretic model of reputation
privacy. She tries to model the amount of privacy lost when a single user uses
different pseudonyms in the same community or in different communities, or
when a user change his/her pseudonym. 2
Background and Related Work Her measure enables the estimate of
unlinkability provided by such a pseudonym change. In [26] the authors discuss
the issue of privacy when a single user is a member in multiple communities
and requires the transfer of the reputation between these communities creat-
ing the concept of cross-community reputation. Cross community reputation
requirements were analyzed in [7] including the issues of privacy, user control vs. community control, ontology matching and others. The closest paper to the present work and the one in [16] is the paper by
Pavlov et. al [24] for privately computing reputation information, when the rep-
utation is defined as an additive reputation system (e.g. the Beta reputation
system by Josang [18]). The authors present three algorithms for computing ad-
ditive reputation information with various degrees of privacy and with different
abilities for protecting against malicious users. The paper starts with a method
for “witness selection” which reduces the risk of selecting dishonest witnesses. Then, a simple scheme is presented which is very efficient but is vulnerable to
collusion of even two witnesses. The second scheme is more resilient towards
curious users although still vulnerable to collusions and uses a secret splitting
scheme. The last method provides the most secure protocol which uses the verifi-
able secret sharing scheme [25] which is based on Shamir’s secret sharing scheme
[29]. The complexity of the scheme is quite high since it requires O(n3) messages
where n is the number of contributing nodes. Another relevant paper was pre-
sented recently by Nin et. al [21]. [21] also uses Homomorphic encryption similar
to two of our schemes, but their reputation model is quite different and is not a
Trust-set based model like ours. Finally, in our previous paper [16] we described three methods for computing
reputation privately, where the last one uses the scheme of [24]. The contributions
of the present paper over [16] are in two areas: 1. Out of the three presented protocols, two are completely new and use the idea
of Homomorphic encryption [23]. In addition, some of the strong assumptions
made in [16] are removed here. 2. We present a formal framework for the three protocols and define precisely
the concept of privacy in our context. Then, using this framework we prove
rigorously the correctness of the three protocols. 3
Computing reputation based on Trust sets The Trust-Set of a member at some point in time is the subset of community
members she trusts above some level. The idea behind the trust-set concept is to allow every member to rely on members that provided her with accurate feedback
in the past. The benefit of using trust-sets is in limiting the recommendation
process to a smaller group of members that are better qualified for the task, while
increasing the chance of getting more accurate results. While many trust based
reputation systems (e.g. [31, 33]) use trust-sets, they differ in two major aspects:
the criteria they use to generate these sets and the method for calculating trust
in each member of the trust-set. These aspects have no affect on the privacy
preserving schemes we present and therefore they are out of the scope of this
paper. The Knots model is a trust-based reputation model introduced in a previ-
ous work [8] for large-scale virtual communities. It is designed for communities
in which members typically do not reveal their real identities. We consider for
example communities in which experts in specific fields offer their advice and con-
sulting services to community members seeking such services. The Knot model
uses trust-sets as well as Knots, a relaxed form of trust-set. Knots are designed
among other things to cope with the problem of sparsity i.e. insufficient number
of trust relations between members in the community. Without loss of general-
ity we adopt the notation form the knot-aware model, however the underlying
approach of using trust relations among members as a weight when computing
reputation exists in other models as well: – TrustMember (TM) is trust in the context of recommendations. More specifi-
cally, it is a trust value that quantifies the extent by which one member relies
on another member to rate experts “correctly”. – TrustExpert (TE) is trust in the context of experts. More specifically, it is a
trust value that quantifies the extent by which a member relies on an expert
to successfully provide the service it requires. – An α - Trust Set of a member A, is the set of all members whom A trusts
with level α or more. The motivation for our current paper is to provide trust based reputation models
(such as the knot model), with a means to compute reputation in a distributed
manner while preserving private information. 3
Computing reputation based on Trust sets In this context the trust one mem-
ber has in another (TM) and the trust a member has in an expert (TE), are
considered private information. One would prefer not to reveal her trust in a
member from which she gets recommendations since this trust value is used rel-
ative importance. On the other hand the recommending party may prefer to
keep her recommendation private due to the fear of retaliation. Revealing these
values to malicious parties exposes the community to the risk of manipulating
recommendations. The problem of privacy we address can be described as follows. Member A
needs to compute its trust in an expert x, based on the experience other members
of the community have had with this expert. Using the terms introduced in
[8], this trust can vary from using the concept of Trust Expert based only on
A’s own trust-set, to using the expert’s local reputation based on the Knot to
which A belongs to, to using the expert’s global reputation based on the entire
community. We focus on Trust-set based computation since the other options are quite similar. The trust of A in x using the experience of her Trust-set can
be computed according to: TE(A, x) =
P
Bi∈T rustSet(A),
DT E(Bi,x)̸=⊥
DT E(Bi,x)·T M(A,Bi)
P
Bi∈T rustSet(A),
DT E(Bi,x)̸=⊥
T M(A,Bi) where:
– DT E(Bi,x) - the trust member Bi has in expert x based on her own accumu-
lated experience. p
– T M(A,Bi) - the trust member A has in member Bi. We assume that TM(A, B) is known to agent A since it reflects her private
information. Therefore the denominator in this formula is easy to compute by A
without disclosing private information. The nominator is a sum of products of
two terms, the first one is assumed to be known only to the individual agents Bi
and the second one is known to A. Therefore the challenge we face is to privately
compute the following sum of products, denoted by ρ(A, x): ρ(A, x) =
|S|
X
Bi=1
DTE(Bi, x) · TM(A, Bi) where S denotes the trust-set of A. Each product in this sum expresses the indirect trust that member A has in
expert x based on Bi’s direct trust in x, denoted ITM(A, Bi, x) = TM(A, Bi) · DTE(Bi, x) We use this notation in Section 5 to explain our schemes. 4
Formal framework We now define the exact notion of secure computation in our context. Members
of a trust set wish to jointly compute a function of their private inputs so that
one of these members obtains an output, while no member obtains information
on the input of other members. We assume that the participants in our protocols
are semi-honest. In other words, each player executes the protocol as required,
but may attempt to learn information on the input of other parties. Thus, a com-
putation is secure if it is private for each of the parties, leaking no unnecessary
information about a party’s input. Let Π be a protocol for k parties to compute a function g. The input of the
i-th party is denoted xi and the protocol output g(x1, . . . , xk) is obtained by the
first party, denoted by A. An adversary controls a set I of parties and receives
the ”view” of every party in I. The view of a party includes its input, output
(if any) and all intermediate messages that it receives. Informally, we say that a
protocol is private if for every adversary there is a probabilistic, polynomial time
algorithm with access only to the adversary’s input and output, that simulates the view of the adversary. Intuitively, if the view of an adversary can be simulated
from this adversary’s input and output, then the adversary learns nothing about
the input of other parties from an execution of Π. Our formal definitions follow the full framework set in [10] and [11]. We use
only those elements of the definition framework that are necessary in our setting. Definition 1. A function µ : IN −→IN is negligible if for every polynomial
p : IN −→[0, 1], there exists N such that µ(n) <
1
p(n) for every n > N. Definition 1. A function µ : IN −→IN is negligible if for every polynomial
p : IN −→[0, 1], there exists N such that µ(n) <
1
p(n) for every n > N. Two distribution ensembles are computationally indistinguishable if no ef-
ficient algorithm can decide with good probability, whether its input is chosen
according to the first distribution or the second distribution. We regard a dis-
tribution ensemble as a collection of distributions that are indexed by two pa-
rameters: a binary string a and a security parameter n represented in unary
form. 4
Formal framework In our setting, a is the input for a protocol, the distribution is over all
the messages of a protocol (for a subset of parties) and is induced by coin tosses
of each party as it executes its part of the protocol. The security parameter 1n
determines the required length of cryptographic keys to ensure privacy of the
protocol. Formally: Definition 2. Let X = {X(a, 1n)}n∈IN,a∈{0,1}∗and Y = {Y (a, 1n)}n∈IN,a∈{0,1}∗
be two distribution ensembles. We say that X and Y are computationally indis-
tinguishable if for every probabilistic, polynomial time algorithm D , there exists
a negligible function µ such that for every a ∈{0, 1}∗: |Pr[D(X(a, 1n)) = 1] −Pr[D(Y (a, 1n)) = 1]| < µ(n). We denote computational indistinguishability of two ensembles by X
c≡Y . We denote computational indistinguishability of two ensembles by X
c≡Y . We restrict an adversary to corrupting a subset of parties statically. In other
words, the adversary controls the same subset of parties throughout the execu-
tion of a protocol. The adversary may corrupt only specific subsets of parties. Definition 3. Let Π be a communication protocol for k parties to compute a
function g. Let 2{1,...,k} be the set of all subsets of parties in the protocol. We say
that U is the adversary structure if U ⊆2{1,...,k} includes exactly all subsets of
parties, I, such that the adversary can corrupt all parties in I simultaneously. We denote by viewΠ
I (XI, 1n) the aggregated input, output and protocol mes-
sages of all parties in I = {i1, . . . , iℓ} as they execute a protocol Π with security
parameter 1n on input XI = (xi1, . . . , xiℓ). Next, we formally define multi-party
private computation. Definition 4. Let g : ({0, 1}∗)k −→{0, 1}∗be a function mapping k binary
strings to a single binary string. Let Π be a communication protocol for k par-
ties, such that if the i-th party has input xi for i = 1, . . . , k then after the parties
execute Π, the first party has output g(x1, . . . , xk). Let U be an adversary struc-
ture. For every subset of parties I, such that I = {i1, . . . , iℓ}, denote by XI the input vector (xi1, . . . , xiℓ) and by OI the output obtained by members of I. Π
privately computes g if for every I such that I ∈U, there exists a probabilistic,
polynomial time algorithm S such that when n ranges over IN and XI ranges
over ({0, 1}∗)|I|: input vector (xi1, . . . , xiℓ) and by OI the output obtained by members of I. Π
privately computes g if for every I such that I ∈U, there exists a probabilistic,
polynomial time algorithm S such that when n ranges over IN and XI ranges
over ({0, 1}∗)|I|: {S(XI, OI, 1n)}
c≡
©
viewΠ
I (XI, 1n)
ª We use semantically-secure public-key encryption [14] to construct our proto-
cols is . Semantic security means that a ciphertext does not leak any information
about the plaintext when the private key is unknown. Furthermore, even if an
adversary has some a-priori knowledge about the plaintext (e.g. We denote computational indistinguishability of two ensembles by X
c≡Y . a possible range
of values for the plaintext) it cannot infer additional information from the ci-
phertext. Let f(·) be information on the plaintext that the adversary is trying
to obtain and let h(·) be information on the plaintext that the adversary already
knows. Let an encryption scheme be three algorithms: a key generation algorithm
G, an encryption algorithm E and a decryption algorithm D. On input 1n, G
outputs a randomly chosen key of appropriate length. Intuitively, an algorithm
that has an encryption E(X) and h(X) does not have significant advantage
computing f(X) compared to an algorithm that has only h(X). The formal
definition follows [11]: Definition 5. Let (G, E, D) be a public key encryption scheme. (G, E, D) is
semantically-secure if for any probabilistic, polynomial time algorithm P there
exists a probabilistic, polynomial time algorithm P ′ such that for probability en-
semble {Xn}n∈IN, with |Xn| polynomial in n, and two polynomially bounded
functions f, h, there exists a negligible function µ such that for every n ¯¯Pr[PXn(E, h) = f(Xn)] −Pr[P ′
Xn(h) = f(Xn)]
¯¯ < µ(n) where PXn(E, h)
△= P(1n, E(Xn), h(Xn)) and P ′
Xn(h)
△= P ′(1n, 1|Xn|, h(Xn)) =
f(Xn) where PXn(E, h)
△= P(1n, E(Xn), h(Xn)) and P ′
Xn(h)
△= P ′(1n, 1|Xn|, h(Xn)) =
f(Xn) Intuitively, semantic security enables one party in a multi-party computation
to send encrypted data to another party without compromising privacy. A simu-
lator for the receiving party can simulate this encrypted data by encrypting some
data that it generates. Semantic security ensures that real encrypted data can’t
be distinguished from simulated encrypted data. This intuition is formalized in
Lemma 1. Due to space limitations we leave out the proof of this lemma. Lemma 1. Let (G, E, D) be a semantically secure public key encryption scheme,
let n be a security parameter and let x1, . . . , xℓbe chosen according to a distri-
bution D that can be efficiently constructed. Let Π be a polynomial time (in
n) multi-party protocol to compute a function g and let I be a set of parties,
such that viewΠ
I (XI, 1n) is comprised of XI, OI and E(x1), . . . , E(xℓ). G(1n)
generates a public and private key pair. Members of I know the public key, but
not the private key. 1 Set β = EK(0) and let the binary representation of c be c = ckck−1 . . . c0. Go over
the bits ck, . . . , c0 in descending order. If cj = 0 set β = φ(β, β) and if cj = 1 set
β = φ(φ(β, β), EK(x)). If φ is modular multiplication, this algorithm is identical to
regular modular exponentiation. 5
The Protocols In this section we present three different schemes for privately computing reputa-
tion and we prove the correctness of these schemes based on the above framework
under the assumption of semi-honest participants. In all three schemes we com-
pute the reputation of x in the eyes of A ρ(A, x), using input from A’s trust-set
S (see section 3). We denote computational indistinguishability of two ensembles by X
c≡Y . Then Π privately computes g for an adversary structure U,
U = {I}. 5.1
Scheme 1: An external party Algorithm 1 Computing a scalar product Algorithm 1 Computing a scalar product 1: A runs G(1n) and obtains a private-public key pair. 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 3: for all Bi ∈S do 4:
Bi
uses
EKA(TM(A, Bi) mod m)
and
DTE(Bi, x)
to
compute
EKA(ITM(A, Bi, x) mod m). 5:
Bi sends EKA(ITM(A, Bi, x) mod m) to Z. 6: Z uses φ to compute EKA(P
Bi∈S ITM(A, Bi, x) mod m) and sends this encrypted
value to A. 6: Z uses φ to compute EKA(P
Bi∈S ITM(A, Bi, x) mod m) an
value to A. 7: A obtains ρ(A, x) = P
Bi∈S ITM(A, Bi, x) by decryption. Let the adversary structure U include all subsets I of
©
A, Z, B1, . . . , B|S|
ª
s.t. |I T {A, Z}| ≤1. Then, the protocol in Algorithm 1 privately computes g. Let the adversary structure U include all subsets I of
©
A, Z, B1, . . . , B|S|
ª
s.t. |I T {A, Z}| ≤1. Then, the protocol in Algorithm 1 privately computes g. Proof. If the adversary controls I = {A, Bi1, . . . , Biℓ}, then the view of the
adversary is identical to its input and output, hence simulation is trivial. Proof. If the adversary controls I = {A, Bi1, . . . , Biℓ}, then the view of the
adversary is identical to its input and output, hence simulation is trivial. If the adversary controls I = {Bi1, . . . , Biℓ} (without A), then its view in-
cludes aside from its input, the elements
©
EKA(TM(A, Bij) mod m)
ª
j=1,...,ℓ. By Lemma 1, Π privately computes g with respect to I. If the adversary controls I = {Z, Bi1, . . . , Biℓ}, then its view includes aside
from its input, the encrypted elements
©
EKA(ITM(A, Bij, x) mod m)
ª
j=1,...,ℓ. Again, Lemma 1 shows that Π privately computes g with respect to I. ⊓⊔ 1: A runs G(1n) and obtains a private-public key pair. 5.1
Scheme 1: An external party In this scheme, A learns only ρ(A, x) = P|S|
Bi=1 DTE(Bi, x) · TM(A, Bi) (see
section 3), while Bi receives no information at all, for every i. We assume the
existence of an additional party Z that must not collude with A. The main tool we use in this scheme is public-key, homomorphic encryption. In such encryption there is a modulus m and an efficiently computable function
φ that maps a pair of encrypted values (EK(x), EK(y)), where 0 ≤x, y ≤m,
to a single encrypted element φ(EK(x), EK(y)) = EK(x + y mod m). In many
homomorphic encryption systems the function φ is multiplication modulo some
integer N. Given a natural number c and an encryption EK(x), it is possible to
compute EK(c · x mod m), without knowing the private key 1. There are quite a few examples of homomorphic encryption schemes known
in the cryptographic literature, including [14, 3, 20, 22] and [23]. There are also
systems that allow both addition and multiplication of two encrypted plaintexts,
e.g. [4] (only a single multiplication is possible for a pair of ciphertexts) and [9]. All of these examples of homomorphic cryptosystems are currently assumed to
be semantically secure. We assume that all participants in the protocol know prior to the beginning
of the protocol a semantically-secure, public key and homomorphic encryption
scheme (G, E, D), an associated function φ and a security parameter n. We
can assume that the modulus m of the homomorphism is large enough, that is
m > ρ(A, x), since in many of the well-known homomorphic cryptosystems the
key can be chosen to accommodate an arbitrarily large m. We require that for
every i, TM(A, Bi) and DTE(Bi, x) have integral values. The total computational complexity of this scheme is O(|S|) encryptions,
decryptions and multiplications. The total communication complexity is O(|S|)
times the size of a ciphertext. Proposition 1. Let A, Z, B1, . . . , B|S| be the parties, let the input of A be
TM(A, B1), . . . , TM(A, B|S|) and for all i = 1, . . . , |S| let the input of Bi be
DTE(Bi, x). Let g be a function that maps the ordered sequence of pairs
⟨TM(A, Bi), DTE(Bi, x)⟩i=1,...,|S| to the value ρ(A, x) = P
Bi∈S ITM(A, Bi, x). 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 4:
Bi
uses
EKA(TM(A, Bi) mod m)
and
DTE(Bi, x)
to
compute
EKA(ITM(A, Bi, x) mod m). 5.2
Scheme 2: No outside help In this scheme, we dispense with the additional party Z. A learns only ρ(A, x) =
P
∀B∈S ITM(A, B, x), while for every i, Bi receives no information at all. A
protocol without Z is obviously desirable for those situations in which such a
semi-trusted party is not available. The disadvantage of the current protocol is
its greater communication complexity compared to Algorithm 1. As is often the case in distributed, cryptographic protocols, the parties use
secret sharing to distribute the input [29]. The number of distributed shares, and
thus the communication complexity depends on the possible number of colluding
adversarial parties. We denote this threshold by t and assume that it is part of
the protocol’s input. We assume that all participants in the protocol know a semantically-secure,
public key and homomorphic encryption scheme (G, E, D), an associated func-
tion φ and a security parameter n prior to the beginning of the protocol. We
assume that the modulus m of the homomorphism satisfies the inequality m >
ρ(A, x). Using algorithm 2, A computes the correct result because: Pt
j=1
P|S|
i=1 TM(A, Bi) · ri
j + qi
j mod m
=
P|S|
i=1 TM(A, Bi) · (Pt
j=1 ri
j) + Pt
j=1 qi
j mod m =
P|S|
i=1 TM(A, Bi) · DTE(Bi, x) mod m
=
ρ(A, x) Algorithm 2 No outside help 1: A runs G(1n) and obtains a private-public key pair. 1: A runs G(1n) and obtains a private-public key pair. 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 3: for all Bi ∈S do
4:
Bi
chooses
ri
1, ri
2, . . . , ri
t
and
qi
1, qi
2, . . . , qi
t
uniformly
at
random
from
{0, . . . , m −1} so that Pt
j=1 ri
j ≡DTE(Bi, x) mod m and Pt
j=1 qi
j ≡0 mod m. 5: for all Bi ∈S do 6:
Bi computes the values: EKA(TM(A, Bi) · ri
j + qi
j mod m), for j = 1, . . . , t. f
ll
d 7:
for all j = 1, . . . , t do 7:
for all j = 1, . . . , t do
8:
Bi sends EKA(TM(A, Bi) · ri
j + qi
j mod m) to Bj. 5.2
Scheme 2: No outside help 10:
Bj uses φ on EKA(TM(A, B1) · r1
j + q1
j mod m), . . . , EKA(TM(A, B|S|) · r|S|
j
+
q|S|
j
mod m) to compute EKA(P|S|
i=1 TM(A, Bi) · ri
j + qi
j mod m). Bj sends this
value to A. |S| 11: A decrypts and sums up all the values to obtain ρ(A, x) = Pt
j=1
P|S|
i=1 TM(A, Bi)·
ri
j + qi
j mod m. 11: A decrypts and sums up all the values to obtain ρ(A, x) = Pt
j=1
P|S|
i=1 TM(A, Bi)·
ri
j + qi
j mod m. ri
j + qi
j mod m. Denoting the maximum length of a ciphertext in this protocol by |E(·)|,
the communication complexity of steps 1-4 is O(|S| · |E(·)|, the communication
complexity of step 5 is O(t |S|·|E(·)|) and the communication complexity of steps
6, 7 is O(t · |E(·)|. Hence the total communication complexity of the protocol is
O(t |S| · |E(·)|). Proposition 2. Let A, B1, . . . , B|S| be the parties, let the input of A be
TM(A, B1), . . . , TM(A, B|S|) and for all i = 1, . . . , |S| let the input of Bi be
DTE(Bi, x). Let g be a function that maps the ordered sequence of pairs
⟨TM(A, Bi), DTE(Bi, x)⟩i=1,...,|S| to the value ρ(A, x) = P
Bi∈S ITM(A, Bi, x). Let the adversary structure U include all subsets I of A, B1, . . . , B|S| such that
|I| ≤t. Then, the protocol in Algorithm 2 privately computes g. Proposition 2. Let A, B1, . . . , B|S| be the parties, let the input of A be
TM(A, B1), . . . , TM(A, B|S|) and for all i = 1, . . . , |S| let the input of Bi be
DTE(Bi, x). Let g be a function that maps the ordered sequence of pairs
⟨TM(A, Bi), DTE(Bi, x)⟩i=1,...,|S| to the value ρ(A, x) = P
Bi∈S ITM(A, Bi, x). Let the adversary structure U include all subsets I of A, B1, . . . , B|S| such that
|I| ≤t. Then, the protocol in Algorithm 2 privately computes g. Proof. If the adversary controls I = {Bi1, . . . 2: A sends to Bi the ciphertext EKA(TM(A, Bi) mod m), for every Bi ∈S. 1: A runs G(1n) and obtains a private-public key pair. 5.2
Scheme 2: No outside help , t + 1. – P|S|
i=1 TM(A, Bi) · ri
j mod m, for every j = 1, . . . , t + 1. |{i1, . . . , iℓ}| ≤t −1 because |I| ≤t and therefore there exists some j ∈
{1, . . . , t} such that j ̸∈{i1, . . . , iℓ}. Thus, each set EKA(TM(A, Bi) · ri
i1 +
qi
i1 mod m), . . ., EKA(TM(A, Bi) · ri
iℓ+ qi
iℓmod m), is an encryption of at most |{i1, . . . , iℓ}| ≤t −1 because |I| ≤t and therefore there exists some j ∈
{1, . . . , t} such that j ̸∈{i1, . . . , iℓ}. Thus, each set EKA(TM(A, Bi) · ri
i1 +
qi
i1 mod m), . . ., EKA(TM(A, Bi) · ri
iℓ+ qi
iℓmod m), is an encryption of at most
t −1 random elements in the range {0, . . . , m −1}. Since for each i = 1, . . . , |S|,
these sets are chosen independently, a simulator can simulate all these encrypted
elements by choosing |S| · |i1, . . . , iℓ| random elements in {0, . . . , m −1} and
encrypting them. i1
)
A(
(
)
iℓ
iℓ
)
t −1 random elements in the range {0, . . . , m −1}. Since for each i = 1, . . . , |S|,
these sets are chosen independently, a simulator can simulate all these encrypted
elements by choosing |S| · |i1, . . . , iℓ| random elements in {0, . . . , m −1} and
encrypting them. Similar reasoning works for simulating P|S|
i=1 TM(A, Bi) · ri
j + qi
j mod m,
for every j = 1, . . . , t. For an index η such that η ̸∈{i1, . . . , iℓ}, each sum
P|S|
i=1 TM(A, Bi) · ri
j + qi
j mod m includes a summand qη
j , which is random
(until all the elements qη
1, . . . , qη
t are summed up). Therefore, the t elements
P|S|
i=1 TM(A, Bi) · ri
j + qi
j mod m can be simulated as t random elements in the
range 0, . . . 5.2
Scheme 2: No outside help , m −1 whose sum modulo m is exactly ρ(A, x). ⊓⊔ ⊓⊔ 5.2
Scheme 2: No outside help , Biℓ} then its view includes aside
from its input, the following: – EKA(TM(A, Bi1) mod m), . . . ,EKA(TM(A, Biℓ) mod m). {
} T {
} – EKA(TM(A, Bi1) mod m), . . . ,EKA(TM(A, Biℓ) mod m). – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted
elements: EKA(TM(A, B1) · r1
j mod m) + q1
j , . . ., EKA(TM(A, B|S|) · r|S|
j
+
q|S|
j
mod m). – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted
elements: EKA(TM(A, B1) · r1
j mod m) + q1
j , . . ., EKA(TM(A, B|S|) · r|S|
j
+
q|S|
j
mod m). A simulator chooses all the necessary values to simulate TM(A, Bi) and
DTE(Bi, x) from an appropriate distribution. The simulator can then encrypt all
these TM(A, Bi) and choose uniformly at random ri
1, . . . , ri
t and qi
1, . . . , qi
t from
{0, . . . , m −1} so that Pt
j=1 ri
j ≡DTE(Bi, x) mod m and Pt
j=1 qi
j ≡0 mod
m. The simulator can then use the homomorphic properties of E to compute
EKA(TM(A, B1) · r1
j mod m) + q1
j , . . ., EKA(TM(A, B|S|) · r|S|
j
+ q|S|
j
mod m). According to Lemma 1 the result is indistinguishable from the protocol view of If the adversary controls I = {A, Bi1, . . . , Biℓ}, then its view includes aside
from its input and output: – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted
elements: EKA(TM(A, B1) · r1
j + q1
j mod m), . . ., EKA(TM(A, B|S|) · r|S|
j
+
q|S|
j
mod m). – For every Bj such that j ∈{i1, . . . , iℓ} T {1, . . . , t}, a sequence of encrypted
elements: EKA(TM(A, B1) · r1
j + q1
j mod m), . . ., EKA(TM(A, B|S|) · r|S|
j
+
q|S|
j
mod m). – P|S|
i=1 TM(A, Bi) · ri
j mod m, for every j = 1, . . . 5.3
Scheme 3: Improved online communication complexity A drawback of Algorithm 2 is that if the threshold is linear in the number of
participants, |S|, then the total communication and the total computational
complexity are quadratic in |S|. The next scheme improves this result by having
two phases, an offline phase and an online phase. The offline phase occurs only once for each member that enters the system
and may be viewed as an initialization phase in which the new member ex-
changes keys with all other members as a preparation for future information
sharing. The online phase occurs whenever a member wishes to compute some
other member’s reputation. The offline phase requires O(|S|2) communication
and computation, but the online phase requires only linear communication and
O(|S|2) computation. In this scheme we use a Pseudo-Random Function family, F = {F}k, [12]
in addition to homomorphic encryption as in the previous schemes. All the
functions in F have the same domain and range. Additionally, a polynomially
bounded adversary can’t distinguish between the output of a random function
chosen from the family and the output of a completely random function with the
same domain and range. There are various theoretical constructions of pseudo-
random function families. However, for practical purposes any block cipher can
be regarded as such a family, where a function in the family is given by a spe-
cific key for the block cipher (such a key determines a function from a block of
plaintext to a block of ciphertext). In the offline phase, each pair of members Bi and Bj chooses a random
function Fi,j ∈F. No one other than Bi and Bj may know the identity of their
function. Bi and Bj will each use Fi,j in the online phase of the scheme, one of
them will use it with a plus sign, and the other with a minus sign. Let signi,j = 1
if i > j and signi,j = −1 if i < j. Algorithm 3 presents the online phase of the scheme. This protocol has two
logical stages (although both take place in the same communication round). In
the first stage, A and B1, . . . , B|S| re-share their values so instead of having to
compute a scalar product for ρ(A, x) they have to compute a sum. The second
stage involves private and efficient computation of this sum using the functions
Fi,j. Algorithm 3 Improved communication complexity
1: A runs G(1n) and obtains a private-public key pair.
2: A chooses a random element RND in the domain of the functions in F.
3: for all Bi ∈S do
4:
A sends to Bi the values RND and EKA(TM(A, Bi) mod m).
5: for all Bi ∈S do
6:
Bi chooses ri uniformly at random from {0, . . . , m −1}.
7:
Bi computes the value ρi
△= EKA(TM(A, Bi) · DTE(Bi, x) −ri mod m).
8:
Bi computes the value Ri
△= ri + P|S|
j=1,j̸=i Fi,j(RND) · signi,j mod m.
9:
Bi sends Ri and ρi to A.
10: A decrypts the values ρ1, . . . , ρ|S|. 5.3
Scheme 3: Improved online communication complexity Algorithm 3 Improved communication complexity
1: A runs G(1n) and obtains a private-public key pair. 2: A chooses a random element RND in the domain of the functions in F. 3: for all Bi ∈S do
4:
A sends to Bi the values RND and EKA(TM(A, Bi) mod m). 5: for all Bi ∈S do
6:
Bi chooses ri uniformly at random from {0, . . . , m −1}. 7:
Bi computes the value ρi
△= EKA(TM(A, Bi) · DTE(Bi, x) −ri mod m). 8:
Bi computes the value Ri
△= ri + P|S|
j=1,j̸=i Fi,j(RND) · signi,j mod m. 9:
Bi sends Ri and ρi to A. 10: A decrypts the values ρ1, . . . , ρ|S|. Algorithm 3 Improved communication complexi 11: A computes ρ(A, x) = P|S|
i=1 TM(A, Bi) · DTE(Bi, x) −ri + Ri mod m. A computes the correct result because: A computes the correct result because: P|S|
i=1 TM(A, Bi) · DTE(Bi, x) −ri + Ri mod m
=
ρ(A, x) + P|S|
i=1
P|S|
j=1,j̸=i Fi,j(RND) · signi,j mod m =
ρ(A, x) Each value Fi,j(RND) appears exactly twice in the sum, once with a plus
sign and once with a minus sign, and thus the contribution of each summand
Fi,j(RND) to the sum is 0. Each value Fi,j(RND) appears exactly twice in the sum, once with a plus
sign and once with a minus sign, and thus the contribution of each summand
Fi,j(RND) to the sum is 0. The communication complexity of steps 3 and 4 is O(|S| · |E(·)|) and the
communication complexity of step 9 is O(|E(·)|) for each of B1, . . . , B|S|. Thus,
the total communication complexity of Algorithm 3 is O(|S| · |E(·)|). The to-
tal computational complexity is O(|S|2) times the time required to compute
Fi,j(RND), due to step 7. The privacy of the protocol can be shown against any adversary that controls
no more than |S|−2 parties. The proof is very similar to the proof of Algorithm
2 with the pseudo-random values Fi,j(RND) replacing the truly random values
qi
j in Algorithm 2. qi
j in Algorithm 2. 5.4
Faults and a Malicious adversary The protocols we present assume that the adversary is honest-but-curious. That
is, even corrupted parties correctly perform the protocols, but may attempt to
discover private information about other members. Our protocols can be adapted
to be secure in the presence of a malicious adversary as long as there is an honest
majority, by using standard methods, e.g. [13]. Even without malicious intent, users in community-based protocols, such
as we propose, may often be absent during protocol execution, thus causing
unintentional faults (Bi expects that Bj is part of the computation, but Bj is
not present). Our first protocol is robust against such faults while the second
and third protocols can be extended to be robust by using secret sharing. We
will present these robust protocols in the full version of our paper. A malicious adversary may do more than simply attempt to subvert the pro-
tocols we proposed. An adversary that controls A learns ρ(A, x) = P|S|
i=1 TM(A, Bi)·
DTE(Bi, x), where A itself determines the values TM(A, Bi). Setting TM(A, Bi) =
0 for any i except for i = i′ provides A with the exact value of DTE(Bi, x). If A
can repeatedly compute ρ(A, x) then the adversary can learn the private values
of many participants. y p
p
Even if A proves (by a zero-knowledge protocol) that the values TM(A, Bi)
do not form a unit vector, the adversary may still learn all the values DTE(Bi, x). Let M be some non-singular |S|×|S| matrix. A executes the protocol |S|, chang-
ing the values of TM(A, B1), . . . , TM(A, B|S|) to be the value of the next row
of M. Multiplying the results by M −1 yields DTE(B1, x), . . . , DTE(B|S|, x). | |
A possible approach to overcome a malicious adversary is to compute an
approximation of ρ(A, x) and achieve differential privacy [6]. The idea is that
querying data sets that differ only slightly does not provide information about
the data in which they differ. The main tool to achieve differential privacy is by
adding noise to the data sets. In our case, the data sets are the values TM(A, B1), . . . , TM(A, B|S|) that
A holds. The members Bi can add noise to this data in all of our protocols by
using the properties of homomorphic encryption. 6
Conclusions In this paper we discussed the problem of computing reputation of members in a
community while preserving the privacy of sensitive information. Such informa-
tion includes the rating of individual members and the trust that one member
has in another. The paper presents three schemes for privacy preserving compu-
tation and analyzes their privacy characteristics and communication overhead. The presented schemes apply techniques for secure summation and use these
as primitives in a virtual community oriented setting. Our constructions extend
state of the art work to elevate existing trust based models in which privacy is
a major concern. Although the reputation computation formula was presented in the context
of a specific trust and reputation model, the Knots model, it may be used by any Trust-set based model which take into account the same sensitive informa-
tion (members ratings and members trust). In future work we will deal with
some other privacy issues not dealt with in the current paper. One issue is the
frequency of Update. How one can avoid leakage of private rating information
if the reputation is updated frequently (e.g. after every expert/member inter-
action). Another issue is the private computation and presentation (amount of
drill-down) of reputation information in case reputation is accumulated from
multiple communities (see [15]). References 1. ebay, http://www.ebay.com/. 2. J. Audun, I. Roslan, and B. Colin. A survey of trust and reputation systems for
online service provision. Decis. Support Syst., 43(2):618–644, March 2007. 3. J. Benaloh. Dense probabilstic encryption. In Proc. of the Workshop on Selected
Areas of Cryptography, pages 120–128, May 1994. 4. D. Boneh, E. Goh, and K. Nissim. Evaluating 2-dnf formulas on ciphertexts. In
Proc. of TCC, pages 325–341, 2005. 5. S. Chakraborty and I. Ray. Trustbac: integrating trust relationships into the rbac
model for access control in open systems. In Proc. of the eleventh ACM symposium
on Access control models and technologies (SACMAT ’06), pages 49–58, New York,
NY, USA, 2006. ACM. 6. Cynthia Dwork. Differential privacy. In in ICALP, pages 1–12. Springer, 2006. 7. N. Gal-Oz, T. Grinshpoun, E. Gudes, and A. Meisels. Cross-community reputation:
Policies and alternatives. In Proc. of International Conference on Web Based
Communities (IADIS - WBC2008), 2008. 8. N. Gal-Oz, E. Gudes, and D. Hendler. A robust and knot-aware trust-based rep-
utation model. In Proceedings of the 2nd Joint iTrust and PST Conferences on
Privacy, Trust Management and Security (IFIPTM’08), volume 263, pages 167–
182, Trondheim, Norway, June 2008. 9. C. Gentry. Fully homomorphic encryption using ideal lattices. In Proc. of STOC,
pages 169–178, 2009. 10. O. Goldreich. Foundations of Cryptography: Basic Tools. Cambridge University
Press, New York, NY, USA, 2000. 11. O. Goldreich. Foundations of Cryptography: Volume 2, Basic Applications. Cam-
bridge University Press, New York, NY, USA, 2004. 12. O. Goldreich, S. Goldwasser, and S. Micali. How to construct random functions. JACM, 33(4):792–807, October 1986. 13. O. Goldreich, S. Micali, and A. Wigderson. How to play any mental game (extended
abstract). In STOC87, pages 218–229, 1987. 14. S. Goldwasser and S. Micali. Probabilistic encryption. Journal of Computer and
systems science, 28:270–299, 1984. 15. Tal Grinshpoun, Nurit Gal-Oz, Amnon Meisels, and Ehud Gudes. Ccr: A model
for sharing reputation knowledge across virtual communities. In Web Intelligence,
pages 34–41, 2009. 16. E. Gudes, N. Gal-Oz, and A. Grubshtein. Methods for computing trust and rep-
utation while preserving privacy. In Proc. of DBSEC, Montreal, Canada, 2009. Springer Lecture Notes 5645, pages 291–298, 2009. 17. J. Yung-Jen Hsu, K. Lin, T. Chang, C. Ho, H. Huang, and W. Jih. Parameter
learning of personalized trust models in broker-based distributed trust manage-
ment. Information Systems Frontiers, 8(4):321–333, 2006. 18. A. Josang and R. Ismail. The beta reputation system. References In proceedings of 15th Bled
Electronic Commerce Conference e-Reality: Constructing the e-Economy, June
2002. 19. L. Mui, M. Mohtashemi, and A. Halberstadt. A computational model of trust
and reputation for e-businesses. In Proc. of the 35th Annual Hawaii International
Conference on System Sciences (HICSS’02)-Volume 7, page 188, Washington, DC,
USA, 2002. 20. D. Naccache and J. Stern. A new public key cryptosystem based on higher residues. In Proc. of ACM Conference on Computer and Communications Security, pages
59–66, 1998. 21. J. Nin, B. Carminati, E. Ferrari, and V. Torra. Computing reputation for collabo-
rative private networks. In 33rd IEEE Int. COMPSAC conference, pages 246–253,
2009. 22. T. Okamoto and S. Uchiyama. A new public-key cryptosystem as secure as factor-
ing. In Proc. of EUROCRYPT, pages 308–318, 1998. 23. P. Paillier. Public-key cryptosystems based on composite degree residuosity classes. In Proc. of EUROCRYPT, pages 223–238, 1999. 24. E. Pavlov, J. S. Rosenschein, and Z. Topol. Supporting privacy in decentralized
additive reputation systems. In Proc. of 2nd Intl. Conf. on Trust Mgmt (iTrust’04),
pages 108–119, 2004. 25. T.P. Pedersen. Non-interactive and information-theoretic secure verifiable secret
sharing. In Proc. of CRYPTO, pages 129–140, 1991. 26. F. Pingel and S. Steinbrecher. Multilateral secure cross-community reputation
systems for internet communities. In proceedings of TrustBus (TrustBus ’08), pages
69–78, 2008. 27. P. Resnick and R. Zeckhauser. Trust among strangers in Internet transactions:
Empirical analysis of eBay’s reputation system. In Michael R. Baye, editor, The
Economics of the Internet and E-Commerce, volume 11 of Advances in Applied
Microeconomics, pages 127–157. Elsevier Science, 2002. 28. J. Sabater and C. Sierra. Review on computational trust and reputation models. Artificial Intelligence Review, 24(1):33–60, 2005. 29. A. Shamir. How to share a secret. Commun. ACM, 22(11):612–613, 1979. 30. S. Steinbrecher. Design options for privacy-respecting reputation systems within
centralised internet communities. In Proc. of the IFIP TC-11 21st International
Information Security Conference (SEC 2006), pages 123–134, 2006. 31. Zenggang Xiong, Yang Yang, Xuemin Zhang, Dairong Yu, and Li Liu. A trust-
based reputation system in peer-to-peer grid. In HCI (15), pages 228–235, 2007. 32. B. Yu and M. Singh. Detecting deception in reputation management. In proceedings
of Second International Joint Conference on Autonomous Agents and Multi-Agent
Systems, pages 73–80, 2003. 33. Bin Yu, Munindar P. Singh, and Katia Sycara. Developing trust in large-scale
peer-to-peer systems. In Proceedings of First IEEE Symposium on Multi-Agent
Security and Survivability, pages 1–10, 2004.
|
https://openalex.org/W4382060258
|
https://bmcmedgenomics.biomedcentral.com/counter/pdf/10.1186/s12920-023-01569-w
|
English
| null |
Clinical and genetic analysis of a case of late onset carbamoyl phosphate synthase I deficiency caused by CPS1 mutation and literature review
|
BMC medical genomics
| 2,023
|
cc-by
| 7,551
|
Wang et al. BMC Medical Genomics (2023) 16:145
https://doi.org/10.1186/s12920-023-01569-w Wang et al. BMC Medical Genomics (2023) 16:145
https://doi.org/10.1186/s12920-023-01569-w BMC Medical Genomics BMC Medical Genomics Open Access Clinical and genetic analysis of a case
of late onset carbamoyl phosphate synthase
I deficiency caused by CPS1 mutation
and literature review Shangyu Wang1†, Jinglin Chen2†, Xiaoqi Zhu2†, Tingting Huang1, Haifeng Xu1, Guohuan Ying1, Hao Qian1,
Wenxin Lin1, Yiehen Tung1, Kaleem Ullah Khan1, Hu Guo1, Guo Zheng1, Haiying Lu1 and Gang Zhang1* © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativeco
mmons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Abstract Background Carbamoyl phosphate synthetase I defect (CPS1D) is a rare disease with clinical case reports mainly
in early neonates or adults, with few reports of first onset in late neonatal to childhood. We studied the clinical and
genotypic characteristics of children with childhood onset CPS1D caused by two loci mutations (one of these is a
rarely reported non-frame shift mutation) in the CPS1. Case presentation We present a rare case of adolescent-onset CPS1D that had been misdiagnosed due to atypi-
cal clinical features, and further investigations revealed severe hyperammonemia (287µmol/L; reference range
11.2 ~ 48.2umol/L). MRI of the brain showed diffuse white matter lesions. Blood genetic metabolic screening
showed elevated blood alanine (757.06umol/L; reference range 148.8 ~ 739.74umol/L) and decreased blood citrul-
line (4.26umol/L; reference range 5.45 ~ 36.77umol/L). Urine metabolic screening showed normal whey acids and
uracil. Whole-exome sequencing revealed compound heterozygous mutations in the CPS1, a missense mutation
(c.1145 C > T) and an unreported de novo non-frame shift mutation (c.4080_c.4091delAGGCATCCTGAT), respectively,
which provided a clinical diagnosis. Conclusion A comprehensive description of the clinical and genetic features of this patient, who has a rare age of
onset and a relatively atypical clinical presentation, will facilitate the early diagnosis and management of this type of
late onset CPS1D and reduce misdiagnosis, thus helping to reduce mortality and improve prognosis. It also provides
a preliminary understanding of the relationship between genotype and phenotype, based on a summary of previ-
ous studies, which reminds us that it may help to explore the pathogenesis of the disease and contribute to genetic
counselling and prenatal diagnosis. Keywords Hyperammonemia, CPS1 gene variant, Emerging mutations, Urea cycle disorder/carbamoyl phosphate
synthase I deficiency †Shangyu Wang, Jinglin Chen and Xiaoqi Zhu contributed equally to this
work. *Correspondence:
Gang Zhang
zhanggangnjmu@126.com
Full list of author information is available at the end of the article *Correspondence:
Gang Zhang
zhanggangnjmu@126.com
Full list of author information is available at the end of the article *Correspondence:
Gang Zhang
zhanggangnjmu@126.com
Full list of author information is available at the end of the article Background population, and will alert us to explore potential mecha-
nisms of disease pathogenesis. g
Carbamoyl phosphate synthase I deficiency (CPS1D)
is an autosomal recessive inherited metabolic disorder
which is one of the rarer types of urea cycle disorder
(UCD), with sudden onset, rapid deterioration, atypical
symptoms, low morbidity, death before diagnosis and a
poor prognosis for survivors. The incidence of this type
of disease is approximately 1/50,000 ~ 1/300,000 and can
be classified as neonatal onset or late onset depending
on the age of onset. Previous clinical cases have reported
that the neonatal type is more common, with severe clin-
ical manifestations and extremely high mortality [1, 2],
with fewer reports of late onset cases. More importantly,
the clinical presentation of children with late onset dis-
ease is more unspecific and can be easily misdiagnosed. Furthermore, as the normal function of the CPS1 enzyme
requires N-acetylglutamate as a metabolic activator,
deficiency of CPS1 and N-acetylglutamate synthase can
exhibit the same biochemical alterations (Fig. 1), mak-
ing genetic testing the gold standard for the diagnosis of
CPS1D. © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which
permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the
original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or
other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line
to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory
regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this
licence, visit http://creativecommons.org/licenses/by/4.0/. The Creative Commons Public Domain Dedication waiver (http://creativeco
mmons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated in a credit line to the data. Wang et al. BMC Medical Genomics (2023) 16:145 Wang et al. BMC Medical Genomics (2023) 16:145 Page 2 of 10 Case presentation BMC Medical Genomics (2023) 16:145 Table 1 Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions 1 Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions Table 1 Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions
Onset time
2018.01.14
2020.05.21
Clinical symptoms
Fever
+
-
Vomiting
+
+
Headache
-
+
Irritable
+
-
Dispirited
+
+
Coma
-
-
Poor appetite and sleep
+
+
Urination and defecation
Normal
Normal
Arterial blood gas analysis
Lost information
PH (reference, 7.25–7.45)
-
7.348
PO2 (reference, 50-80mmHg)
-
Lost information
PCO2 (reference, 40-60mmHg)
-
Lost information
HCO3- (reference, 19-30mmol/L)
-
22.5
BE (reference, –3 to + 3mmol/L)
-
-1.3
Lac (reference, 0.5 to 2.2mmol/L)
-
1.8
Three routine (blood,urine, feces)
Normal
Normal
Blood biochemical tests
Normal
Normal
Blood ammonia (reference, 11.2 ~ 48.2µmol/L)
Not Sent
287↑
Blood mass spectrometry profile
Not done
Citrulline (reference, 5.45–36.77µmol/L)
-
4.26↓
Alanine (reference, 148.80-739.74µmol/L)
-
757.06↑
Urinary organic acids
Not done
Urinary orotic acid (reference, 0-2mmol/L)
-
0.0
Urinary uracil (reference, 0-8mmol/L)
-
0.0
Cerebrospinal fluid
Normal
Normal
Cephalometric MRI(Abnormal signals in the white matter of the brain)
+
+
Abdominal Imaging (Hepatomegaly)
+
+
Electroencephalogram (Background activity slowing down)
-
+
CPS1 sequencing
Not done
Allele 1 (from father)
-
c.1145 C > T
Allele 2 (from mother)
-
c.4080_c.4091delAGG
CATCCTGAT Table 1 Clinical characteristics and laboratory tests of the children admitted to our hospital on two occasions
Onset time
2018.01.14
2020.05.21
Clinical symptoms
Fever
+
-
Vomiting
+
+
Headache
-
+
Irritable
+
-
Dispirited
+
+
Coma
-
-
Poor appetite and sleep
+
+
Urination and defecation
Normal
Normal
Arterial blood gas analysis
Lost information
PH (reference, 7.25–7.45)
-
7.348
PO2 (reference, 50-80mmHg)
-
Lost information
PCO2 (reference, 40-60mmHg)
-
Lost information
HCO3- (reference, 19-30mmol/L)
-
22.5
BE (reference, –3 to + 3mmol/L)
-
-1.3
Lac (reference, 0.5 to 2.2mmol/L)
-
1.8
Three routine (blood,urine, feces)
Normal
Normal
Blood biochemical tests
Normal
Normal
Blood ammonia (reference, 11.2 ~ 48.2µmol/L)
Not Sent
287↑
Blood mass spectrometry profile
Not done
Citrulline (reference, 5.45–36.77µmol/L)
-
4.26↓
Alanine (reference, 148.80-739.74µmol/L)
-
757.06↑
Urinary organic acids
Not done
Urinary orotic acid (reference, 0-2mmol/L)
-
0.0
Urinary uracil (reference, 0-8mmol/L)
-
0.0
Cerebrospinal fluid
Normal
Normal
Cephalometric MRI(Abnormal signals in the white matter of the brain)
+
+
Abdominal Imaging (Hepatomegaly)
+
+
Electroencephalogram (Background activity slowing down)
-
+
CPS1 sequencing
Not done
Allele 1 (from father)
-
c.1145 C > T
Allele 2 (from mother)
-
c.4080_c.4091delAGG
CATCCTGAT were healthy and non-consanguineous Chinese, but her
mother had an unexplained miscarriage at 28 weeks of
gestation in G1. Case presentation A 13-year-old and 6-month-old girl was brought to our
attention because she was hospitalized twice in our hos-
pital (Table 1). The first complaint was “fever and vomit-
ing for 2 days with abnormal mental behavior for 1 day”. The fever peaked at 39.2℃. 1 day earlier, she suddenly
babbled, had disorientation of persons and places, was
markedly irritable, and alternated with delirium indif-
ference. Cerebrospinal fluid routine, biochemical, pres-
sure, virus, and culture were negative. Cranial MRI
suggested multiple punctate abnormal signal shadows
in the white matter of the frontoparietal brain on both
sides, considering the possibility of intracranial infec-
tious lesions, diagnosed as “viral encephalitis”. After 10
days of treatment with acyclovir antiviral, dexametha-
sone anti-inflammatory, supplemented with mannitol
dehydration to lower cranial pressure, the above symp-
toms soon disappeared. However, a review of liver func-
tion showed that alanine aminotransferase (ALT436U/L;
reference range 5 ~ 40U/L) and aspartate aminotrans-
ferase (AST96.7 U/L; reference range 5 ~ 40 U/L) indica-
tors were elevated, suggesting liver function impairment,
and liver ultrasound indicated liver enlargement, so acy-
clovir was discontinued and liver-protective treatment
was given, while hepatitis virus was perfected and blood In this case, we have clinically, biochemically and
molecularly characterized a rare child with late onset
CPS1D and identified for the first time a new and rare
non-frame shift mutation locus that may explain the
late onset and good prognosis of this child. This result
expands the mutational spectrum of the CPS1, facilitates
early identification and genetic counselling of this patient Fig. 1 Diagram of urea cycle Fig. 1 Diagram of urea cycle Fig. 1 Diagram of urea cycle Page 3 of 10 Wang et al. Case presentation The patient showed appropriate growth
and normal psychomotor milestones, but with academic
failure. Physical examination: drowsiness, poor mental
status, normal development, non-specific cardiopulmo-
nary and abdominal examination, negative neurologi-
cal examination. The blood ammonia concentration was
287umom/L and hyperammonemia was considered at
the moment. The EEG suggested a slow background, but
the cerebrospinal fluid examination was not abnormal. In
combination with an abdominal CT suggesting a slightly
hypodense liver and brain MRI findings: abnormal nodal
signal in the white matter of the brain (Fig. 2), genetic
metabolic disease was considered. Further refinement ammonia was sent. However, because the blood ammo-
nia needed to be sent for out-of-hospital testing at that
time, which was a cumbersome process, and because
the parents believed that the child’s liver function and
condition had improved significantly, they temporar-
ily refused. After 1 week of hepatoprotective treatment,
liver function and head MRI were normal, so the child
was discharged on oral hepatoprotective medication. More than two years later, the child was readmitted with
“vomiting for 1 week and headache with poor mental
response for 3 days”, after having been treated for 1 week
at an external hospital for a proposed diagnosis of “viral
encephalitis” with poor results, and was then referred to
our hospital. History taken: The patient was G2P1, with
no abnormalities recorded during birth. Her parents Wang et al. BMC Medical Genomics (2023) 16:145 Wang et al. BMC Medical Genomics (2023) 16:145 Page 4 of 10 CPS1 (NM_001875), a missense mutation (c.1145 C > T,
p. Pro382Leu) and an unreported de novo non-frame
shift
mutation
(c.4080_c.4091delAGGCATCCTGAT,
p.Lys1360_I le1364delinsLys), respectively. of the blood genetic metabolic screening showed ele-
vated blood alanine (757.06umol/L; reference range
148.8 ~ 739.74µmol/L) and decreased blood citrulline
(4.26umol/L; reference range 5.45 ~ 36.77umol/L). Urine
organic acid gas mass spectrometry showed normal
whey acids and urea, suggesting impaired urea cycling. Immediately after admission, the child was given a low
protein diet, arginine to promote ammonia excretion
(100 ~ 200 mg/(kg-d)), coenzyme Q10 (10 ~ 20 mg/(kg-
d)) and levocarnitine (30 ~ 200 mg/(kg-d)) to regulate
metabolism, lactulose to improve ammonia metabolism,
vitamin B complex to promote nerve repair, and intra-
venous fluids to The child was given intravenous fluids
to promote urinary ammonia excretion. Mutational analysis and pathogenicity prediction Mutational analysis and pathogenicity prediction
CPS1 is localized on chromosome 2q34 and con-
tains 43 exons spanning over 120 kb and encoding
1500 amino acids [3]. We performed mutation screen-
ing using high-throughput sequencing technology,
and all detected CPS1 mutations were lineage veri-
fied by Sanger sequencing, aligned with the human
genome (GRCh37 / hg19) reference sequence provided
by the UCSC database, and compared with the cur-
rently known human CPS1 sequence (National Center
for Biotechnology Information, transcript number
NM_001875). The database of mutant loci and single
nucleotide polymorphisms (dbSNP) (http://www.ncbi.
nlm.nih.gov/SNP/), the Human Gene Mutation Data-
base (HGMD) (http://www.hgmd.cf.ac.uk/ac/index.php)
and the Millennium Genome Database (http://browser. Fig. 2 Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of Nanjing Medical University. Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). B, E Small lamellar slightly long T2 signal shadow
in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving the white frontoparietal
white matter on both sides (red arrows) Fig. 2 Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of Nanjing Medical University. Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). B, E Small lamellar slightly long T2 signal shadow
in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving the white frontoparietal
white matter on both sides (red arrows) Fig. 2 Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of N
Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). B, E Small lamellar slightly
in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving
white matter on both sides (red arrows) Fig. 2 Brain MRI of the patient at the time of the first study. Brain MRI (3.0T) were performed at the Children’s Hospital of Nanjing Medical University. Axial T1 images (A, D), T2 images (B, E), and T2 fluid-attenuated inversion recovery images (C, F). Case presentation After 1 week of
treatment, the child’s headache and vomiting resolved
significantly and she was discharged with instructions
to follow a strict low-protein diet and to recheck her
blood ammonia regularly. During hospitalization to
clarify the type of urea cycle disorder, further refine-
ment of whole exome sequencing after seeking parental
consent identified compound heterozygous mutations in CPS1 (NM_001875), a missense mutation (c.1145 C > T,
p. Pro382Leu) and an unreported de novo non-frame
shift
mutation
(c.4080_c.4091delAGGCATCCTGAT,
p.Lys1360_I le1364delinsLys), respectively. of the blood genetic metabolic screening showed ele-
vated blood alanine (757.06umol/L; reference range
148.8 ~ 739.74µmol/L) and decreased blood citrulline
(4.26umol/L; reference range 5.45 ~ 36.77umol/L). Urine
organic acid gas mass spectrometry showed normal
whey acids and urea, suggesting impaired urea cycling. Immediately after admission, the child was given a low
protein diet, arginine to promote ammonia excretion
(100 ~ 200 mg/(kg-d)), coenzyme Q10 (10 ~ 20 mg/(kg-
d)) and levocarnitine (30 ~ 200 mg/(kg-d)) to regulate
metabolism, lactulose to improve ammonia metabolism,
vitamin B complex to promote nerve repair, and intra-
venous fluids to The child was given intravenous fluids
to promote urinary ammonia excretion. After 1 week of
treatment, the child’s headache and vomiting resolved
significantly and she was discharged with instructions
to follow a strict low-protein diet and to recheck her
blood ammonia regularly. During hospitalization to
clarify the type of urea cycle disorder, further refine-
ment of whole exome sequencing after seeking parental
consent identified compound heterozygous mutations in Mutational analysis and pathogenicity prediction B, E Small lamellar slightly long T2 signal shadow
in the white matter of the frontoparietal brain on both sides, and high signal intensity on T2 FLAIR (C, F) images involving the white frontoparietal
white matter on both sides (red arrows) Wang et al. BMC Medical Genomics (2023) 16:145 Page 5 of 10 1000genomes.org/index.html) for comparative annota-
tion. Finally, two compound heterozygous mutations
were found in CPS1 of this child, the missense muta-
tion c.1145 C > T (p.Pro382Leu) (NM_001875) and the
non-frame shift mutation c.4080_c.4091delAGGCAT
CCTGAT (p.Lys1360_Ile1364delinsLys) (NM_001875),
where c.1145 C > T is a reported pathogenic muta-
tion in CPS1D [4], while the non-shifted mutation
c.4080_c.4091delAGGCATCCTGAT is found in OMIM,
UCSC, HGMD, dbSNP, 1000 Genome, ExAC and gno-
mAD publications and public databases are new and not
reported. The missense mutation c.1145 C > T results in
an amino acid change from the non-polar amino acid
proline (P) to the non-polar amino acid leucine (L), and
the non-shift mutation c.4080_c.4091delAGGCATCCT
GAT would result in an amino acid deletion at posi-
tions 1361–1364 (isoleucine-leucine-isoleucine-glycine), 1000genomes.org/index.html) for comparative annota-
tion. Finally, two compound heterozygous mutations
were found in CPS1 of this child, the missense muta-
tion c.1145 C > T (p.Pro382Leu) (NM_001875) and the
non-frame shift mutation c.4080_c.4091delAGGCAT
CCTGAT (p.Lys1360_Ile1364delinsLys) (NM_001875),
where c.1145 C > T is a reported pathogenic muta-
tion in CPS1D [4], while the non-shifted mutation
c.4080_c.4091delAGGCATCCTGAT is found in OMIM,
UCSC, HGMD, dbSNP, 1000 Genome, ExAC and gno-
mAD publications and public databases are new and not
reported. The missense mutation c.1145 C > T results in
an amino acid change from the non-polar amino acid
proline (P) to the non-polar amino acid leucine (L), and
the non-shift mutation c.4080_c.4091delAGGCATCCT
GAT would result in an amino acid deletion at posi-
tions 1361–1364 (isoleucine-leucine-isoleucine-glycine), resulting in a protein length change. The pathogenicity of
these two mutant loci was further analyzed using various
prediction tools (SIFT, Polyphen2_HDIV, PROVEAN,
MutationTaster, M-CAP, REVEL, GERP, phyloP20way,
phastCons20way), Fig. 3A shows the pathogenicity using
Mutation Taster for the pathogenicity prediction. Two
variants were classified as “possibly pathogenic” accord-
ing to the variant classification criteria of the American
College of Medical Genetics and Genomics (ACMG
2015), and these variants were verified by Sanger
sequencing in a family with a mother carrying the c. 4080_c.4091delAGGCATCCTGAT heterozygous muta-
tion and a father with the c.1145 C > T heterozygous
mutation (Fig. Follow up Although the child complied with a low protein diet for a
short time after discharge and had regular blood ammo-
nia checks, due to poor compliance, he was rushed to
our PICU more than 8 months after his second discharge
due to vomiting and coma after a large high-protein
diet (hot pot), and in combination with the cause of this
onset and the underlying disease of CPS1D, the emer-
gency blood ammonia was 301 µmol/L (reference range
11.2 ~ 48.2umol/L). As the child was in a critical condi-
tion and in a coma, he was immediately given haemodi-
alysis 7 times (1 time/day), fluid infusion, arginine and
sodium benzoate to promote ammonia excretion, levo-
carnitine to promote metabolism, lactulose to reduce
ammonia build-up in the intestine and B vitamins, as well
as a ban on oral feeding and low amino acid intravenous According to the The Human Gene Mutation Database
(HGMD), more than 270 CPS1 mutations have been
reported internationally so far, but there are few cases in
China [1, 5]. These mutations are unevenly distributed in
the CPS1, which implies that certain regions are primar-
ily responsible for enzyme folding and function. The CPS1
protein is divided into six domains (Fig. 6), of which two
phosphorylation structural domains and the large subunit
of the NAG-binding structural domain are important for
enzyme activation, and mutation sites occurring at these
sites are more likely to be pathogenic [2, 4]. The clinical presentation and biochemical response
of this patient are consistent with the mutational find-
ings, suggesting that the current understanding of
the CPS1 protein structure can be used to explain the Fig. 4 We constructed the above CPS1 models using the 6w2j.1.A human homology template in Swiss-Model software, respectively. The red
marker in Figure A and the green marker in Figure C represent the 382 Pro position, the red marker in Figure B and the green marker in Figure D
represent the 382 Leu position, the purple area in Figure D represents the amino acids and their functional residues near the missense mutation
site, and the yellow areas in Figure C and Figure D represent the hydrogen bonding of amino acids to other sites. Mutational analysis and pathogenicity prediction 3B), but without clinical manifestations,
were consistent with an autosomal recessive disease
pathogenesis pattern. Protein structure maps were gen-
erated using Swiss-pdb Viewer 4.10.The CPS1 protein Fig. 3 Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger
sequencing (B), i.e. c.4080_c.4091 delAGGCATCCTGAT heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation
carried by the father city was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger
. c.4080_c.4091 delAGGCATCCTGAT heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation
er Fig. 3 Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger
sequencing (B), i.e. c.4080_c.4091 delAGGCATCCTGAT heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation
carried by the father city was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger
. c.4080_c.4091 delAGGCATCCTGAT heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation
er Fig. 3 Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger
sequencing (B), i.e. c.4080_c.4091 delAGGCATCCTGAT heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation
carried by the father Fig. 3 Pathogenicity was predicted using Mutation Taster (A) and two mutations in the patient and her family were confirmed by Sanger
sequencing (B), i.e. c.4080_c.4091 delAGGCATCCTGAT heterozygous mutation carried by the mother and c.1145 C > T heterozygous mutation
carried by the father Wang et al. BMC Medical Genomics (2023) 16:145 Page 6 of 10 structure of the missense mutation c.1145 C > T is shown
in Fig. 4, and the CPS1 protein structure of the non-
frame shift mutation c.4080_c.4091delAGGCATCCT
GAT is shown in Fig. 5, with a theoretical 25% risk of
disease in either fetus at the time of parental birth. nutrition. The child’s consciousness turned clear on the
7th day of treatment, the blood ammonia completely
decreased to normal on the 43rd day, and he was dis-
charged from the hospital on the 46th day. No hospital
admissions for hyperammonemia at follow-up to date. Follow up The mutation at the Pro position
disrupts the primary and secondary structure of the original protein, and the amino acid loop at this position is ruptured, while the hydrogen
bonding of the amino acid at this position to other amino acids is not significantly altered Fig. 4 We constructed the above CPS1 models using the 6w2j.1.A human homology template in Swiss-Model software, respectively. The red
marker in Figure A and the green marker in Figure C represent the 382 Pro position, the red marker in Figure B and the green marker in Figure D
represent the 382 Leu position, the purple area in Figure D represents the amino acids and their functional residues near the missense mutation
site, and the yellow areas in Figure C and Figure D represent the hydrogen bonding of amino acids to other sites. The mutation at the Pro position
disrupts the primary and secondary structure of the original protein, and the amino acid loop at this position is ruptured, while the hydrogen
bonding of the amino acid at this position to other amino acids is not significantly altered Page 7 of 10 Wang et al. BMC Medical Genomics (2023) 16:145 Fig. 5 The c.4080_c.4091delAGGCATCCTGAT frameshift mutation did not result in a change in the reading frame, but only in an amino acid
deletion, resulting in a change in protein length and structure. A is the wild type and B is the mutant. The protein prediction software SWISS-MODEL
was used to predict the three-dimensional structure of the protein, with the red arrows pointing to the protein structure where the mutant differs
from the wild type. C is the wild type and D is the mutant Fig. 5 The c.4080_c.4091delAGGCATCCTGAT frameshift mutation did not result in a change in the reading frame, but only in an amino acid
deletion, resulting in a change in protein length and structure. A is the wild type and B is the mutant. The protein prediction software SWISS-MODEL
was used to predict the three-dimensional structure of the protein, with the red arrows pointing to the protein structure where the mutant differs
from the wild type. C is the wild type and D is the mutant Fig. 5 The c.4080_c.4091delAGGCATCCTGAT frameshift mutation did not result in a change in the reading frame, but only in an amino acid
deletion, resulting in a change in protein length and structure. Follow up A is the wild type and B is the mutant. The protein prediction software SWISS-MODEL
was used to predict the three-dimensional structure of the protein, with the red arrows pointing to the protein structure where the mutant differs
from the wild type. C is the wild type and D is the mutant the locus. Homology modeling by Swiss-Model showed
that the mutation at position 382 Pro disrupted the
primary and secondary structure of the original pro-
tein, resulting in a break in the amino acid loop at this
position, but no significant change in the hydrogen
bonding force between the amino acid at this position
and other amino acids, which we speculate may also
account for the late onset, good outcome and low neu-
rological damage in our child. Similarly Swiss-Model
shows
that
c.4080_c.4091delAGGCATCCTGAT
(p.Lys1360_Ile1364delinsLys) is located in the NAG-
binding structural domain of the CPS1 enzyme (Fig. 5),
the deletion of four amino acids occurs at a highly evo-
lutionarily conserved position with a lysine inserted,
and a small deletion likely disrupts the conformation genetic mutation in this child. Genetic analysis of this
patient revealed that c.1145 C > T (p.P382L) is located
in the N-terminal subunit of the enzyme, and we sum-
marized 20 case reports of CPS1D published in the
open literature base over the past 5 years (Table 2), of
which 5 were late onset cases (4 double allele variants
and 1 single allele variant) [10, 13, 14], and all children
with late double allele variants had a mutation in the
N-terminal subunit. These cases had a good progno-
sis with onset at puberty, which is basically consistent
with the “atypical” late onset features, suggesting that
probably mutations in this region have no significant
effect on enzyme function. In addition, analysis of the
etiology from the site of the missense mutation may be
related to the insignificant location of the mutation in Wang et al. BMC Medical Genomics (2023) 16:145 Page 8 of 10 Fig. 6 Structural basis of CPS1 function and defects. Follow up The question marks indicate the so-called oligomeric
structural domains of EcCPS all single allele variants occurred in the same 20 kDa
unknown functional structure and had a variable prog-
nosis [9, 12, 14]. This requires further studies to deter-
mine whether CPS1 activity in such patients could be
influenced by certain acquired factors. In any case, this
may have some clinical implications for the diagnosis
and prognosis of this patient. of the structural domain at the NAG binding site,
thereby disrupting NAG binding to CPS1 and further
inhibiting enzyme activation. To our knowledge, there
are only four previous reports of small deletion muta-
tions in CPS1. We conclude that although previous
studies have shown that mutant sites are more likely to
be pathogenic when located in the structural domain
encoding the NAG binding site, not all mutation types
result in severe clinical manifestations, especially when
there is already a mutation located in the N-terminal
structural domain. We hypothesize that in this case,
although the NAG structural domain remains an entry
site for ammonia substrates, it has little effect on the
Km of ammonia in CPS1, while it cannot be excluded
that these two mutant sites act as a mutual check and
balance, however, further functional studies are still
needed to elucidate the molecular pathogenesis of the
new mutation. p
g
p
In conclusion, CPS1D is usually sporadic and diffi-
cult to diagnose due to the multi-organ nature of its
clinical manifestations, mostly in the early fatal neo-
natal period [17], but atypical late onset cases should
not be ignored. Therefore, in clinical practice, children
with recurrent gastrointestinal symptoms, impaired
consciousness, abnormal psychiatric behaviour, veg-
etarian habits and unexplained neuropsychological
developmental delays should be alerted to such dis-
orders and undergo early blood ammonia screening
to minimize misdiagnosis. If hyperammonaemia is
detected, early blood and urine amino acid analysis
and genetic testing should be performed, thus helping
to reduce mortality and improve prognosis. Follow up A bar chart consisting of the structural domains of the CPS1 peptide, color coded with the
different structural domains, with arrows at the top of the bar chart indicating the position of all amino acid substitutions in Table 2, red font for late
onset, red bold font for the mutation site in the child with this case, and black font for early onset, with the number of the first and last residue of
each structural domain given at the bottom of the bar chart. The color codes of the different structural domains are also used in the other panels. The masses of the different structural domains, in kDa, are shown in black in the bar chart. The question marks indicate the so-called oligomeric
structural domains of EcCPS Fig. 6 Structural basis of CPS1 function and defects. A bar chart consisting of the structural domains of the CPS1 peptide, color coded with the
different structural domains, with arrows at the top of the bar chart indicating the position of all amino acid substitutions in Table 2, red font for late
onset, red bold font for the mutation site in the child with this case, and black font for early onset, with the number of the first and last residue of
each structural domain given at the bottom of the bar chart. The color codes of the different structural domains are also used in the other panels. The masses of the different structural domains, in kDa, are shown in black in the bar chart. The question marks indicate the so-called oligomeric
structural domains of EcCPS Fig. 6 Structural basis of CPS1 function and defects. A bar chart consisting of the structural domains of the CPS1 peptide, color coded with the
different structural domains, with arrows at the top of the bar chart indicating the position of all amino acid substitutions in Table 2, red font for late
onset, red bold font for the mutation site in the child with this case, and black font for early onset, with the number of the first and last residue of
each structural domain given at the bottom of the bar chart. The color codes of the different structural domains are also used in the other panels. The masses of the different structural domains, in kDa, are shown in black in the bar chart. Follow up We first
identified two mutations in CPS1 that may counterbal-
ance each other in a Chinese patient with a compound
heterozygous mutation and comprehensively charac-
terized their clinical features, which may facilitate our
exploration of the underlying mechanisms of disease In addition, using 20 case reports of CPS1D that could
be found in publicly available databases over the past 5
years (Table 2), we initially explored the intrinsic gen-
otype-phenotype relationship of CPS1D and identified
all variant loci on the structural domain of the CPS1
enzyme (Fig. 6). The majority of the 20 patients had a
double allele variant and a few cases (6, 10, 16;2 neo-
natal onset and 1 late) had a single allele variant, and Wang et al. Follow up BMC Medical Genomics (2023) 16:145 Page 9 of 10 Table 2 Summary of reported mutation loci in CPS1D cases in the last 5 years
Case
Variable loci
Structural Domain
Clinical Type
Ending
References
Case1
p.Gly58Val
N-Terminal
Early-onset
Survival (short-term)
Chen et al., 2018 [6]
p.Gly266Arg
Case2
p.Pro983Ser
Carbamate phosphorylation
Early-onset
Death
Bai et al., 2022 [7]
p.Arg850Cys
20 kDa unknown functional structural
Case3
p.Pro846Leu
20 kDa unknown functional structural
Early-onset
Death
Zhang et
al., 2017 [1]
p.Met1148Lys
Carbamate phosphorylation
Case4
p.Cys600Tyr
Bicarbonate phosphorylation
Early-onset
Death
Zhang et
al., 2017 [1]
p.Leu 1363_Ile1366del
NAG binding
Case5
p.Gln194*
N-Terminal
Early-onset
Survival (short-term)
Choi R et
al., 2017 [8]
p.Gly516Alafs*5
Bicarbonate phosphorylation
Case6
p.Asp920His
20 kDa unknown functional structural
Early-onset
Unknown
M.Sc et al., 2018 [9]
Case7
p.Pro265Thr
Ancestral inactive glutaminase
Late-onset
Survival (short-term)
Lin et al., 2022 [10]
p.Leu1398Argfs*25
NAG binding
Case8
p.Arg787*
Bicarbonate phosphorylation
Early-onset
Survival (short-term)
Sugiyama Y et
al., 2020 [11]
p.Val1187Phe
Carbamate phosphorylation
Case9
p.Thr544Met
Bicarbonate phosphorylation
Early-onset
Death
Yan et al., 2020 [12]
p.Gly661Cys
Case10
p.Glu966X
20 kDa unknown functional structural
Early-onset
Death
Yan et al., 2020 [12]
Case11
p.Ala160Thr
N-Terminal
Late-onset
Survival (long-term)
Fan et al., 2020 [13]
p.Pro382Leu
Ancestral inactive glutaminase
Case12
p.Thr955Thrfs*12
20 kDa unknown functional structural
Early-onset
Survival (short-term)
Fan et al., 2020 [13]
p.Arg1317Trp
Carbamate phosphorylation
Case13
p.Val653Gly
Bicarbonate phosphorylation
Late-onset
Survival (long-term)
Fan et al., 2020 [13]
p.Pro382Leu
Ancestral inactive glutaminase
Case14
p.Trp1315X
Carbamate phosphorylation
Early-onset
Survival (short-term)
Fan et al., 2020 [13]
p.Arg587His
Bicarbonate phosphorylation
Case15
p.Glu379Val
Ancestral inactive glutaminase
Late-onset
Survival (long-term)
Fan et al., 2020 [13]
p.Pro1265Ser
Carbamate phosphorylation
Case16
p.Arg850His
20 kDa unknown functional structural
Late-onset
Survival (long-term)
Ishikawa et
al., 2022 [14]
Case17
p.Arg787X
Bicarbonate phosphorylation
Early-onset
Survival (long-term)
IMATAKA et
al., 2021 [15]
c.236 + 6T > C
-
Case18
p.Arg721Gln
Bicarbonate phosphorylation
Early-onset
Survival (long-term)
Zhou
et al., 2020 [16]
p.Giy980Ser
Carbamate phosphorylation
Case19
p.Leu1245His
Carbamate phosphorylation
Early-onset
Survival (long-term)
Zhou
et al., 2020 [16]
p.Arg1262∗
Case20
p.Arg803Gly
Bicarbonate phosphorylation
Early-onset
Survival (short-term)
Yang et al., 2017 [5]
p.Gly108Glu
N-Terminal Table 2 Summary of reported mutation loci in CPS1D cases in the last 5 years pathogenesis and thus further clarify the genotype and
phenotype associated with the disease. This study also
illustrates the impact of genetic counseling on families
and contributes to the prevention of birth defects. Authors’ contributions SW and JC and XZ collected the data and wrote the manuscript, TH and HX
contributed significantly to analysis and manuscript preparation, GY and HQ
analyzed the data and revised the manuscript, and WL and YT diagnosed the
disease, KUK, HG, GZ and HL helped perform the analysis with constructive
discussions. All the authors have accepted responsibility for the entire content
of this submitted manuscript and approved submission. All authors read and
approved the final manuscript. Abbreviations
CPS1D
Carbamoyl phosphate synthetase I defect
UCD
Urea cycle disorder
CP
Carbamoyl phosphate
NAG
N-acetylglutamate
HGMD
Human Gene Mutation Database Author details
1 17. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba-
moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391-9. 17. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba-
moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391-9. 1 Department of Neurology, Children’s Hospital of Nanjing Medical University,
No.72 Guangzhou Road, Nanjing, Jiangsu, China. 2 Nanjing Medical University,
Nanjing, China. Received: 18 September 2022 Accepted: 2 June 2023 Springer Nature remains neutral with regard to jurisdictional claims in pub-
lished maps and institutional affiliations. Competing interests The authors declare that they have no competing interests. Consent for publication We obtained informed written consent from the patient’s parents for the
publication of this case report. yi
y
16. Zhou Q, Huang H, Ma L, Zhu T. The Application of Next-Generation
Sequencing (NGS) in Neonatal-Onset Urea Cycle Disorders (UCDs):
Clinical Course, Metabolomic Profiling, and Genetic Findings in Nine
Chinese Hyperammonemia Patients. Biomed Res Int. 2020;2020:5690915. Published 2020 Aug 31. 16. Zhou Q, Huang H, Ma L, Zhu T. The Application of Next-Generation
Sequencing (NGS) in Neonatal-Onset Urea Cycle Disorders (UCDs):
Clinical Course, Metabolomic Profiling, and Genetic Findings in Nine
Chinese Hyperammonemia Patients. Biomed Res Int. 2020;2020:5690915. Published 2020 Aug 31. Funding
Thi
d This study was partly supported by the Postdoctoral Research Foundation of
China (2020M671550), the Epilepsy Research Fund of Chinese Anti-Epilepsy
Association (CU-A-2021-17), the Nanjing Municipal Health Bureau key project Page 10 of 10 Wang et al. BMC Medical Genomics (2023) 16:145 (ZKX21046), and the Jiangsu Province College Students Innovation and Entre-
preneurship Training Program (202010312062Z). 1 deficiency-Lessons learned. Mol Genet Metab Rep. 2022;33:100942. Published 2022 Nov 26. 1 deficiency-Lessons learned. Mol Genet Metab Rep. 2022;33:100942. Published 2022 Nov 26. 1 deficiency-Lessons learned. Mol Genet Metab Rep. 2022;33:100942. Published 2022 Nov 26. 11. Sugiyama Y, Shimura M, Ogawa-Tominaga M, et al. Therapeutic effect
of N-carbamylglutamate in CPS1 deficiency. Mol Genet Metab Rep. 2020;24:100622. Published 2020 Jul 8. 11. Sugiyama Y, Shimura M, Ogawa-Tominaga M, et al. Therapeutic effect
of N-carbamylglutamate in CPS1 deficiency. Mol Genet Metab Rep. 2020;24:100622. Published 2020 Jul 8. Ethics approval and consent to participate This study has been performed in accordance with the Declaration of Helsinki
and has been approved by the ethic committee of Children’s Hospital Affili-
ated to Nanjing Medical University. Written informed consent to participate
was obtained from patient’s parents. 14. Ishikawa R, Sugimoto T, Abe T, et al. A 36-year-old Man with Repeated
Short-term Transient Hyperammonemia and Impaired Consciousness
with a Confirmed Carbamoyl Phosphate Synthase 1 Gene Monoallelic
Mutation. Intern Med. 2022;61(9):1387-92. 14. Ishikawa R, Sugimoto T, Abe T, et al. A 36-year-old Man with Repeated
Short-term Transient Hyperammonemia and Impaired Consciousness
with a Confirmed Carbamoyl Phosphate Synthase 1 Gene Monoallelic
Mutation. Intern Med. 2022;61(9):1387-92. 15. Imataka G, Ishii J, Ando Y, et al. Long-term survival of a patient with acute
neonatal-onset metabolic encephalopathy with carbamoyl phosphate
synthetase 1 deficiency. Eur Rev Med Pharmacol Sci. 2020;24(19):10051-3. Availability of data and materials The datasets used or analysed during the current study are available from the
corresponding author on reasonable request. 12. Yan B, Wang C, Zhang K, et al. Novel Neonatal Variants of the Carbamoyl
Phosphate Synthetase 1 Deficiency: Two Case Reports and Review of
Literature. Front Genet. 2019;10:718. Published 2019 Aug 22. References 1. Zhang G, Chen Y, Ju H, Bei F, Li J, Wang J, Sun J, Bu J. Carbamoyl phos-
phate synthetase 1 deficiency diagnosed by whole-exome sequencing. J
Clin Lab Anal. 2018;32(2):e22241. 1. Zhang G, Chen Y, Ju H, Bei F, Li J, Wang J, Sun J, Bu J. Carbamoyl phos-
phate synthetase 1 deficiency diagnosed by whole-exome sequencing. J
Clin Lab Anal. 2018;32(2):e22241. 2. Ali EZ, Khalid MKNM, Yunus ZM, Yakob Y, Chin CB, Latif KA, et al. Carba-
moylphosphate synthetase 1 (CPS1) deficiency: clinical, biochemical,
and molecular characterization in malaysian patients. Eur J Pediatrics. 2016;175:339–46. 2. Ali EZ, Khalid MKNM, Yunus ZM, Yakob Y, Chin CB, Latif KA, et al. Carba-
moylphosphate synthetase 1 (CPS1) deficiency: clinical, biochemical,
and molecular characterization in malaysian patients. Eur J Pediatrics. 2016;175:339–46. 3. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba-
moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391–9. 3. Diez-Fernandez C, Häberle J. Targeting CPS1 in the treatment of Carba-
moyl phosphate synthetase 1 (CPS1) deficiency, a urea cycle disorder. Expert Opin Ther Targets. 2017;21(4):391–9. 4. Haberle J, Shchelochkov OA, Wang J, et al. Molecular defects in human
carbamoy phosphate synthetase I: mutational spectrum, diagnostic and
protein structure considerations. Hum Mutat. 2011;32(6):579–89. 4. Haberle J, Shchelochkov OA, Wang J, et al. Molecular defects in human
carbamoy phosphate synthetase I: mutational spectrum, diagnostic and
protein structure considerations. Hum Mutat. 2011;32(6):579–89. 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate
synthetase I deficiency: a case report. Med (Baltim). 2017;96(26):e7365. 6. Rüegger CM, Lindner M, Ballhausen D, Baumgartner MR, Beblo S, Das A, g
carbamoy phosphate synthetase I: mutational spectrum, diagnostic and
protein structure considerations. Hum Mutat. 2011;32(6):579–89. 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate
synthetase I deficiency: a case report Med (Baltim) 2017;96(26):e7365 protein structure considerations. Hum Mutat. 2011;32(6):579–89. 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate
synthetase I deficiency: a case report Med (Baltim) 2017;96(26):e7365 5. Yang X, Shi J, Lei H, Xia B, Mu D. Neonatal-onset carbamoyl phosphate
synthetase I deficiency: a case report. Med (Baltim). 2017;96(26):e7365. i
6. Declarations 13. Fan L, Zhao J, Jiang L, et al. Molecular, biochemical, and clinical analyses
of five patients with carbamoyl phosphate synthetase 1 deficiency. J Clin
Lab Anal. 2020;34(4):e23124. References Rüegger CM, Lindner M, Ballhausen D, Baumgartner MR, Beblo S, Das A,
Gautschi M, Glahn EM, Grünert SC, Hennermann J, Hochuli M, Huemer
M, Karall D, Kölker S, Lachmann RH, Lotz-Havla A, Möslinger D, Nuoffer
JM, Plecko B, Rutsch F, Santer R, Spiekerkoetter U, Staufner C, Stricker T,
Wijburg FA, Williams M, Burgard P, Häberle J. Cross-sectional observational
study of 208 patients with non-classical urea cycle disorders. J Inherit
Metab Dis. 2014;37(1):21–30. 7. Bai R, He A, Guo J, et al. Novel pathogenic variant (c.2947C>T) of the car-
bamoyl phosphate synthetase 1 gene in neonatal-onset deficiency. Front
Neurosci. 2022;16:1025572. Published 2022 Oct 21. 7. Bai R, He A, Guo J, et al. Novel pathogenic variant (c.2947C>T) of the car-
bamoyl phosphate synthetase 1 gene in neonatal-onset deficiency. Front
Neurosci. 2022;16:1025572. Published 2022 Oct 21. •
fast, convenient online submission
•
thorough peer review by experienced researchers in your field
•
rapid publication on acceptance
•
support for research data, including large and complex data types
•
gold Open Access which fosters wider collaboration and increased citations
maximum visibility for your research: over 100M website views per year
•
At BMC, research is always in progress. Learn more biomedcentral.com/submissions
Ready to submit your research
Ready to submit your research ? Choose BMC and benefit from:
? Choose BMC and benefit from: •
fast, convenient online submission
•
thorough peer review by experienced researchers in your field
•
rapid publication on acceptance
•
support for research data, including large and complex data types
•
gold Open Access which fosters wider collaboration and increased citations
maximum visibility for your research: over 100M website views per year
•
At BMC, research is always in progress. Learn more biomedcentral.com/submissions
Ready to submit your research
Ready to submit your research ? Choose BMC and benefit from:
? Choose BMC and benefit from: •
fast, convenient online submission
•
thorough peer review by experienced researchers in your field
•
rapid publication on acceptance
•
support for research data, including large and complex data types
•
gold Open Access which fosters wider collaboration and increased citations
maximum visibility for your research: over 100M website views per year
•
At BMC, research is always in progress. Learn more biomedcentral.com/submissions
Ready to submit your research
Ready to submit your research ? Choose BMC and benefit from:
? Choose BMC and benefit from: 8. 10. Lin HT, Enchautegui-Colon Y, Huang YR, Zimmerman C, DeMarzo D,
Tsai AC. Novel compound heterozygote variants: c.4193_4206delinsG
(p.Leu1398Argfs*25), c.793C>A (p.Pro265Thr), in the CPS1 gene
(NM_001875.4) causing late onset carbamoyl phosphate synthetase 9.
Talebi M, Yahya Vahidi Mehrjardi M, Kalhor K, Dehghani M. Is there any
relationship between mutation in CPS1 Gene and pregnancy loss? Int J
Reprod Biomed. 2018;17(5):371-4. Published 2018 Jun 13. Publisher’s Note Received: 18 September 2022 Accepted: 2 June 2023 Received: 18 September 2022 Accepted: 2 June 2023 •
fast, convenient online submission
•
thorough peer review by experienced researchers in your field
•
rapid publication on acceptance
•
support for research data, including large and complex data types
•
gold Open Access which fosters wider collaboration and increased citations
maximum visibility for your research: over 100M website views per year
•
At BMC, research is always in progress.
Learn more biomedcentral.com/submissions
Ready to submit your research
Ready to submit your research ? Choose BMC and benefit from:
? Choose BMC and benefit from: References Choi R, Park HD, Yang M, et al. Novel Pathogenic Variant (c.580C>T) in
the CPS1 Gene in a Newborn With Carbamoyl Phosphate Synthetase
1 Deficiency Identified by Whole Exome Sequencing. Ann Lab Med. 2017;37(1):58-62. 8. Choi R, Park HD, Yang M, et al. Novel Pathogenic Variant (c.580C>T) in
the CPS1 Gene in a Newborn With Carbamoyl Phosphate Synthetase
1 Deficiency Identified by Whole Exome Sequencing. Ann Lab Med. 2017;37(1):58-62. 9. Talebi M, Yahya Vahidi Mehrjardi M, Kalhor K, Dehghani M. Is there any
relationship between mutation in CPS1 Gene and pregnancy loss? Int J
Reprod Biomed. 2018;17(5):371-4. Published 2018 Jun 13. 10. Lin HT, Enchautegui-Colon Y, Huang YR, Zimmerman C, DeMarzo D,
Tsai AC. Novel compound heterozygote variants: c.4193_4206delinsG
(p.Leu1398Argfs*25), c.793C>A (p.Pro265Thr), in the CPS1 gene
(NM_001875.4) causing late onset carbamoyl phosphate synthetase
|
https://openalex.org/W2290682686
|
https://www.nrel.gov/docs/fy13osti/55203.pdf
|
English
| null |
Hot Water Distribution System Model Enhancements
| null | 2,012
|
public-domain
| 7,341
|
Hot Water Distribution M. Hoeschele and E. Weitzel
Alliance for Residential Building Innovation (ARBI) November 2012 November 2012 Printed on paper containing at least 50% wastepaper, including 20% postconsumer waste NOTICE This report was prepared as an account of work sponsored by an agency of the
United States government. Neither the United States government nor any agency
thereof, nor any of their employees, subcontractors, or affiliated parties makes any
warranty, express or implied, or assumes any legal liability or responsibility for the
accuracy, completeness, or usefulness of any information, apparatus, product, or
process disclosed, or represents that its use would not infringe privately owned rights. Reference herein to any specific commercial product, process, or service by trade
name, trademark, manufacturer, or otherwise does not necessarily constitute or imply
its endorsement, recommendation, or favoring by the United States government or
any agency thereof. The views and opinions of authors expressed herein do not
necessarily state or reflect those of the United States government or any agency
thereof. Available electronically at http://www.osti.gov/bridge
Available for a processing fee to U.S. Department of Energy
and its contractors, in paper, from:
U.S. Department of Energy
Office of Scientific and Technical Information
P.O. Box 62
Oak Ridge, TN 37831-0062
phone: 865.576.8401
fax: 865.576.5728
email: mailto:reports@adonis.osti.gov
Available for sale to the public, in paper, from:
U.S. Department of Commerce
National Technical Information Service
5285 Port Royal Road
Springfield, VA 22161
phone: 800.553.6847
fax: 703.605.6900
email: orders@ntis.fedworld.gov
online ordering: http://www.ntis.gov/ordering.htm Available electronically at http://www.osti.gov/bridge Available for a processing fee to U.S. Department of Energy
and its contractors, in paper, from:
U.S. Department of Energy
Office of Scientific and Technical Information
P.O. Box 62
Oak Ridge, TN 37831-0062
phone: 865.576.8401
fax: 865.576.5728
email: mailto:reports@adonis.osti.gov Printed on paper containing at least 50% wastepaper, including 20% postconsumer waste Printed on paper containing at least 50% wastepaper, including 20% postconsumer waste [This page left blank] iv iv List of Figures g
Figure 1. Comparison of lab and simulated uninsulated pipe UAs ....................................................... 7
Figure 2. Insulated pipe UAs as a function of insulation conductivity ................................................. 8
Figure 3. Comparison of lab and simulated insulated pipe UAs ............................................................ 9
Unless otherwise noted, all figures were created by the ARBI team. List of Tables
Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling .......... 4
Table 2. Combined Convective/Radiant Heat Transfer Modeling Algorithms ...................................... 5
Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs .................... 6
Table 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs ................... 6
Unless otherwise noted, all tables were created by the ARBI team. Figure 1. Comparison of lab and simulated uninsulated pipe UAs ....................................................... 7
Figure 2. Insulated pipe UAs as a function of insulation conductivity ................................................. 8
Figure 3. Comparison of lab and simulated insulated pipe UAs ............................................................ 9 Figure 1. Comparison of lab and simulated uninsulated pipe UAs ....................................................... 7
Figure 2. Insulated pipe UAs as a function of insulation conductivity ................................................. 8
Figure 3. Comparison of lab and simulated insulated pipe UAs ............................................................ 9 Unless otherwise noted, all figures were created by the ARBI team. Contents Contents
List of Figures ............................................................................................................................................ vi
List of Tables .............................................................................................................................................. vi
Definitions .................................................................................................................................................. vii
Executive Summary ................................................................................................................................. viii
1
Introduction ........................................................................................................................................... 1
1.1 Background and Motivation ................................................................................................1
1.1.1 HWSIM Background ...............................................................................................2
1.2 Research Questions ..............................................................................................................3
2
Methodology ......................................................................................................................................... 4
2.1 Modeling Methodology .......................................................................................................4
3
Results ................................................................................................................................................... 5
4
Conclusions and Recommendations ................................................................................................. 9
References ................................................................................................................................................. 11 Contents
List of Figures ............................................................................................................................................ vi
List of Tables .............................................................................................................................................. vi
Definitions .................................................................................................................................................. vii
Executive Summary ................................................................................................................................. viii
1
Introduction ........................................................................................................................................... 1
1.1 Background and Motivation ................................................................................................1
1.1.1 HWSIM Background ...............................................................................................2
1.2 Research Questions ..............................................................................................................3
2
Methodology ......................................................................................................................................... 4
2.1 Modeling Methodology .......................................................................................................4
3
Results ................................................................................................................................................... 5
4
Conclusions and Recommendations ................................................................................................. 9
References ................................................................................................................................................. 11 v List of Tables Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling .......... 4
Table 2. Combined Convective/Radiant Heat Transfer Modeling Algorithms ...................................... 5
Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs .................... 6
Table 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs ................... 6 Unless otherwise noted, all tables were created by the ARBI team. vi vi Definitions
ARBI
Alliance for Residential Building Innovation
ARIES
Advanced Residential Integrated Energy Solutions
AET
Applied Energy Technology
CARB
Consortium for Advanced Residential Buildings
CEC
California Energy Commission
CU
University of Colorado
CPVC
Chlorinated Polyvinyl Chloride
DEG
Davis Energy Group
k
Thermal conductivity
LBNL
Lawrence Berkeley National Laboratory
PIER
Public Interest Energy Research
PEX
Cross-linked Polyethylene
UA
Product of overall heat transfer coefficient (U) and pipe
surface area (A) Definitions
ARBI
Alliance for Residential Building Innovation
ARIES
Advanced Residential Integrated Energy Solutions
AET
Applied Energy Technology
CARB
Consortium for Advanced Residential Buildings
CEC
California Energy Commission
CU
University of Colorado
CPVC
Chlorinated Polyvinyl Chloride
DEG
Davis Energy Group
k
Thermal conductivity
LBNL
Lawrence Berkeley National Laboratory
PIER
Public Interest Energy Research
PEX
Cross-linked Polyethylene
UA
Product of overall heat transfer coefficient (U) and pipe
surface area (A) vii vii 1.1 Background and Motivation g
The delivery characteristics of hot water distribution systems are a critical factor affecting
overall water heating system performance in terms of both energy and water use (and waste). Accurate simulation tools, such as the HWSIM distribution system model and recent modeling
work completed by CU Boulder and NREL (Maquire et al 2011), are needed to quantify the The delivery characteristics of hot water distribution systems are a critical factor affecting
overall water heating system performance in terms of both energy and water use (and waste). Accurate simulation tools, such as the HWSIM distribution system model and recent modeling
work completed by CU Boulder and NREL (Maquire et al 2011), are needed to quantify the
impacts of distribution system performance, which is the first step in identifying cost-effective
improvement options that will contribute to Building America’s goal of 30%-50% energy
savings. Little data currently exists in quantifying distribution losses, especially in terms of understanding
how climate, plumbing practices (i.e. pipe layout and house vintage), hot water usage patterns,
and user behavior affect overall losses. A variety of factors contribute to this poor understanding
of distribution system performance, including the following: • Detailed monitoring of water heater energy and water flows to use points is challenging
and expensive, since remote temperature sensors and individual flow meters are required. Few studies have been completed that accurately assess distribution losses in single
family homes. • Modeling tools have historically been limited in their predictive capability, especially
given the uncertainties of typical piping layouts, hot water usage patterns, and how pipe
(surrounding) environment temperatures affect thermal losses. The short duration of
typical residential water heating loads (typically 20-60 minutes of hot water flow per
day), results in hourly simulation tools being largely ineffective at accurately modeling
these high resolution events. • For many homes and apartments, much of the distribution piping is largely hidden from
view, making accurate quantification of pipe routing, and pipe lengths and diameters
difficult. Without knowledge of the pipe layout, it is challenging to understand the system
interactions. • Hot water loads, usage patterns, and user behavior varies widely among households and
vary significantly from day to day. How loads are imposed on a system can significantly
affect distribution system performance in terms of heat loss and water waste. Addressing
all of these issues is critical in developing a better understanding of distribution system
performance. 1 http://www.aceee.org/files/pdf/conferences/hwf/2010/3D_Jim_Lutz.pdf Executive Summary Hot water distribution systems deliver heated water from the heat source to the use points
throughout the house. As house size and number of fixtures has increased in recent years, the
impact of distribution systems on overall performance has become more significant. Inefficient
distribution systems contribute to unnecessary energy and water waste, as well as excessive hot
water wait time. This project involves enhancement of the HWSIM distribution system model to more accurately
model pipe heat transfer. Recent laboratory testing efforts have indicated that the modeling of
radiant heat transfer effects is needed to accurately characterize piping heat loss. An analytical
methodology for integrating radiant heat transfer was implemented with HWSIM. Laboratory
test data collected in another project was then used to validate the model for a variety of
uninsulated and insulated pipe cases (copper, PEX, and CPVC). Results appear favorable, with
typical deviations from lab results less than 8%. Improving the modeling capabilities of
distribution system models is a critical step in improving the accuracy of projecting hot water
distribution system performance. Future efforts should include using detailed field data from the
National Renewable Energy Laboratory’s (NREL) Solar Row project (Barley et al 2010) to
further validate the HWSIM model, as well as a recently developed TRNSYS model. viii viii 1.1.1 g
In 2004, working under funding from the Building America team Consortium for Advanced
Residential Buildings (CARB), DEG began an extensive enhancement of the HWSIM
distribution system model. (The model was originally developed in a simplistic BASIC coded
form for use in DEG’s development of the 1990 detailed California Title 24 water heating
methodology.) The 2004 Building America funding was designed to increase the analytical rigor
and flexibility of the modeling tool, improve the user interface, and develop a user’s manual for
the public domain software tool. HWSIM was originally designed to model in detail the energy and water use (and waste) effects
associated with residential-scale hot water distribution systems. Impacts of pipe heat loss both
during draws and between draws are modeled. The software requires the user to specify a water
heater setpoint temperature, a plumbing network (separated into elements of various lengths,
with each pipe element characterized by pipe material, pipe diameter, insulation, and pipe
environment temperature), plumbing environment temperatures, and hot water end use points. The piping network serves individual use points such as showers, tubs, sinks, and appliances. A
full weekly schedule of hot water draws is then input to characterize the various demands of hot
water through the course of a day. Seasonal effects are captured by varying monthly cold water
inlet temperatures and the temperatures of the pipe heat loss environments, which can vary both
monthly and hourly. Draws are characterized by start time, flow rate, volume or energy content
desired, and minimum use temperature (in the case of showers or other draws where a comfort
threshold applies). The representative week of draws is scaled to develop monthly, and
ultimately, annual summaries of piping energy waste, hot and cold water wasted, and water
heater energy consumption (Springer et al 2008). Each unique pipe element is comprised of a series of nodes of discrete volume (dV) to improve
the resolution of the heat transfer calculations. Typical node size is 0.075 gallons, although the
user has the ability to increase or decrease with resulting implications on both computing time
and resolution. Heat transfer from the pipe to the environment is calculated continuously as each
dV flows through the piping network towards the use point. As the piping network moves from
the water heater to the use points, the pipe environment and pipe diameter may change, varying
the calculated heat loss. 1.1 Background and Motivation Work is proceeding in some of the identified gap areas, but additional effort
is needed to generate the input data and improve tools required to properly assess
distribution system performance. Jim Lutz of Lawrence Berkeley National Laboratory
(LBNL) has been working for several years on developing a database for archiving high
resolution hot water use data from field monitoring studies1. The Building America team,
Advanced Residential Integrated Energy Solutions (ARIES), is starting a field effort to
assess the impact of water heater and distribution system upgrades at three or more
existing homes in central New York. Davis Energy Group (DEG), who leads the ARBI
team, is currently completing simulation enhancements to HWSIM (focused on
integrating both gas storage and gas tankless water heater models with the distribution 1 model), as part of a California Energy Commission (CEC) Public Interest Energy
Research (PIER) sponsored advanced water heating project being led by the Gas
Technology Institute. The PIER simulation enhancement work complements the work
presented in this report. model), as part of a California Energy Commission (CEC) Public Interest Energy
Research (PIER) sponsored advanced water heating project being led by the Gas
Technology Institute. The PIER simulation enhancement work complements the work
presented in this report. 1.1.1 During periods between draws, the distribution piping undergoes a
thermal decay based on material properties, presence of insulation, and the hourly surrounding
environment temperature. As part of the CEC PIER project currently underway, the following program enhancements are
being implemented: As part of the CEC PIER project currently underway, the following program enhancements are
being implemented: • Integrate the center flue storage water heater simulation program TANK (originally
developed by Batelle in the early 1990’s) with HWSIM to more accurately simulate
system performance by recognizing the interactions between the water heater and the
distribution system. 2 • Integrate the single node tankless water heater model used in TRNSYS (Type 940 model)
to evaluate tankless water heater performance in terms of efficiency, hot water delivery
characteristics, and water waste. • Integrate the single node tankless water heater model used in TRNSYS (Type 940 model)
to evaluate tankless water heater performance in terms of efficiency, hot water delivery
characteristics, and water waste. • Utilize test data on pipe heat loss performance developed by Applied Energy Technology
(AET) to validate the HWSIM model. • Utilize test data on pipe heat loss performance developed by Applied Energy Technology
(AET) to validate the HWSIM model. The AET laboratory testing led to the conclusion that integrating radiant heat transfer was
needed to accurately model pipe heat transfer. During lab testing of plastic piping, it was
observed that uninsulated ¾ in. PEX piping exhibited considerably higher heat loss per foot than
uninsulated ¾ in. copper pipe, while the addition of identical pipe insulation to each resulted in
roughly comparable heat loss between PEX and copper pipes (Hiller 2005; 2006; 2008; 2011). Further investigation indicated that the surface emissivity of PEX (and other plastic pipes) is
equal to 0.91, while copper piping has a much lower emissivity, depending upon the level of
oxidation on the pipe surface. An extreme case for highly polished copper suggests an emissivity
of 0.02, although any level of oxidation will quickly increase the surface emissivity2. This laboratory finding suggested the need for radiant heat transfer integration within HWSIM. Integrating radiant heat transfer is just the first step of the process, since now an assumption must
be made for the mean radiant temperature for each pipe environment that is being modeled. 1.1.1 Specification of the air temperature is challenging enough for many applications such as attics or
garages, where conditions can vary significantly, especially in summer months. With input from
AET, we have simplified the assumption that pipe radiant environment temperature is equal to
the surrounding air temperature. Future monitoring and model validation efforts will provide
insights to the validity of this assumption. 2 Standard heat transfer reference texts present typical emissivity values for copper ranging from 0.02 for highly
polished, 0.04-0.05 for “polished”, 0.07 for “scraped, shiny”, 0.15 for “slightly polished”, to 0.78 for “black
oxidized”. 1.2 Research Questions The work presented here represents a key step in the development of the tools needed to assess
the performance of distribution systems. A better understanding of distribution systems, hot
water usage magnitude and patterns, and use behavior, are all critical building blocks to
accurately assessing the overall performance of existing and alternative hot water systems, and
identifying cost-effective strategies leading to the Building America goal of 30%-50% whole
house energy savings. The enhancement of the HWSIM program is an important step in
improving understanding of system performance. The following research questions have been
identified for this technical report: • What analytical method should be used to accurately model pipe heat transf • How well does the model predict performance relative to detailed laboratory
measurements? • What are the limitations of the model? • What should be the next step in the model validation process? 3 2.1 Modeling Methodology g
gy
The development of the combined convective/radiant pipe heat transfer relied on calculating a
combined surface heat transfer coefficient based on the input parameters shown in Table 1. The development of the combined convective/radiant pipe heat transfer relied on calculating a
combined surface heat transfer coefficient based on the input parameters shown in Table 1. Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling
Variable Description
Equation (or value)
INPUTS
Tw, water temperature (deg F)
Te, environment temperature (deg F)
Tr, Mean radiant temperature (deg F)
F, flow rate (gpm)
kp, pipe conductivity (Btu/hr-ft-degF)
ki, insulation conductivity (Btu/hr-ft-degF)
Li, insulation thickness (inches)
S, Stephan-Boltzmann constant (Btu/hr-ft^2-degR^4)
1.714 x 10−9
e, surface emissivity (non-dimensional)
Ri, inside pipe radius (ft)
Ro, outside pipe radius (ft)
Rs, outer surface radius (ft)
Ro+Li/12
Tsi, initial surface temperature estimate (deg F)
(Tw+Te)/2
The calculation methodology, outlined in Table 2, is based on standard heat transfer calculations
for free convection and radiation (Kreith 1973). The calculation process involves first
determining an exterior surface coefficient based on an initial estimate of surface temperature
equal to the average of the pipe element water temperature and the surrounding environment
temperature. The initial coefficient was calculated using standard pipe heat transfer modeling for
horizontal cylinders at moderate surface temperatures. The interior coefficient is then calculated
based on the pipe fluid velocity. The methodology utilizes Newton’s method to iterate in
estimating a final surface temperature to be used for determination of the combined convective
and radiant heat transfer. This technique is then used for each dV of the piping network where
water is flowing, accommodating changes in fluid temperature (from one dV to the next),
environment air and mean radiant temperature, and fluid velocity (as pipe diameters change). Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling
Variable Description
Equation (or value)
INPUTS
Tw, water temperature (deg F)
Te, environment temperature (deg F)
Tr, Mean radiant temperature (deg F)
F, flow rate (gpm)
kp, pipe conductivity (Btu/hr-ft-degF)
ki, insulation conductivity (Btu/hr-ft-degF)
Li, insulation thickness (inches)
S, Stephan-Boltzmann constant (Btu/hr-ft^2-degR^4)
1.714 x 10−9
e, surface emissivity (non-dimensional)
Ri, inside pipe radius (ft)
Ro, outside pipe radius (ft)
Rs, outer surface radius (ft)
Ro+Li/12
Tsi, initial surface temperature estimate (deg F)
(Tw+Te)/2 Table 1. 2.1 Modeling Methodology Combined Convective/Radiant Heat Transfer Modeling Algorithms Table 2. Combined Convective/Radiant Heat Transfer Modeling Algorithms
Variable Description
Equation
CALCULATIONS
hoi, initial surface air film estimate (Btu/hr-ft^2-degF)
V, fluid velocity (ft/sec)
hi, inside film coefficient estimate (Btu/hr-ft^2-degF)
Ui, inside total U-value (Btu/hr-ft^2-degF)
f, Ts written as a function
f/, derivative of f
Tsf, final surface temperature (deg F)
ho, final surface air film (Btu/hr-ft^2-degF)
Q/l, heat flow to environment (Btu/hr-ft)
UA, overall pipe UA (Btu/ft-degF)
Q / (Tw - Te) 2.1 Modeling Methodology HWSIM Required Inputs for Combined Convective/Radiant Heat Transfer Modeling
Variable Description
Equation (or value)
INPUTS
Tw, water temperature (deg F)
Te, environment temperature (deg F)
Tr, Mean radiant temperature (deg F)
F, flow rate (gpm)
kp, pipe conductivity (Btu/hr-ft-degF)
ki, insulation conductivity (Btu/hr-ft-degF)
Li, insulation thickness (inches)
S, Stephan-Boltzmann constant (Btu/hr-ft^2-degR^4)
1.714 x 10−9
e, surface emissivity (non-dimensional)
Ri, inside pipe radius (ft)
Ro, outside pipe radius (ft)
Rs, outer surface radius (ft)
Ro+Li/12
Tsi, initial surface temperature estimate (deg F)
(Tw+Te)/2 Table 1. HWSIM Required Inputs for Combined Convective/Radiant Heat Transfe The calculation methodology, outlined in Table 2, is based on standard heat transfer calculations
for free convection and radiation (Kreith 1973). The calculation process involves first
determining an exterior surface coefficient based on an initial estimate of surface temperature
equal to the average of the pipe element water temperature and the surrounding environment
temperature. The initial coefficient was calculated using standard pipe heat transfer modeling for
horizontal cylinders at moderate surface temperatures. The interior coefficient is then calculated
based on the pipe fluid velocity. The methodology utilizes Newton’s method to iterate in
estimating a final surface temperature to be used for determination of the combined convective
and radiant heat transfer. This technique is then used for each dV of the piping network where
water is flowing, accommodating changes in fluid temperature (from one dV to the next),
environment air and mean radiant temperature, and fluid velocity (as pipe diameters change). The calculation methodology, outlined in Table 2, is based on standard heat transfer calculations
for free convection and radiation (Kreith 1973). The calculation process involves first
determining an exterior surface coefficient based on an initial estimate of surface temperature
equal to the average of the pipe element water temperature and the surrounding environment
temperature. The initial coefficient was calculated using standard pipe heat transfer modeling for
horizontal cylinders at moderate surface temperatures. The interior coefficient is then calculated
based on the pipe fluid velocity. The methodology utilizes Newton’s method to iterate in
estimating a final surface temperature to be used for determination of the combined convective
and radiant heat transfer. This technique is then used for each dV of the piping network where
water is flowing, accommodating changes in fluid temperature (from one dV to the next),
environment air and mean radiant temperature, and fluid velocity (as pipe diameters change). 4 Table 2. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs
For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a
reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing
immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving
water temperature measurements, which in some of the lab test cases varied by as little as 3°F
from inlet water to outlet. For the copper pipe data shown in Table 4, the rigid piping simulated
cases (with the 0.4 emissivity assumption) show good correlation with the lab data. The last four
columns show a second ¾ in. rolled copper tubing case tested in the lab. HWSIM results are
shown for two cases (0.02 and 0.20 emissivity), in an attempt to approximate the actual “new
Pipe
1/2 Cu
1/2 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
Rolled
Rolled
Rolled
Rolled
Pipe Insulation Level
R-0
R-0
R-0
R-0
R-0
R-0
R-0
R-0
Insulation Conductivity Assumption
n/a
n/a
n/a
n/a
n/a
n/a
n/a
n/a
Assumed Surface Emissivity (e)
0.4
0.4
0.4
0.4
0.02
0.02
0.2
0.2
Hot Water Inlet Temperature (F)
136
136
136
136
133
133
133
133
Air and Radiant Environment Temp (F)
65
65
58
58
56
56
56
56
Flow Rate (gpm)
1.0
2.0
1.0
2.0
1.0
2.0
1.0
2.0
Lab Test Results
Pipe "UA per foot" target (Btu/hr-ft-F)
0.345
0.360
0.417
0.421
0.334
0.334
0.334
0.334
Calculate Outlet Temperature (F)
131.16
133.47
129.57
132.75
127.91
130.46
127.91
130.46
HWSIM RESULTS
Calculate Outlet Temperature (F)
131.30
133.60
129.10
132.44
127.66
130.26
126.97
129.90
Calculated Pipe "UA per foot" (Btu/hr-ft-F)
0.335
0.342
0.447
0.461
0.351
0.359
0.396
0.407
UA Difference vs. Lab Data (%)
-3.0%
-5.0%
7.3%
9.6%
5.0%
7.6%
18.5%
21.8%
Outlet Temperature Difference vs. Lab (F)
0.14
0.13
-0.47
-0.31
-0.26
-0.19
-0.94
-0.55 Table 4. Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs
Table 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs
For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a
reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing
immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving
water temperature measurements, which in some of the lab test cases varied by as little as 3°F
Pipe
3/4PEX
3/4PEX
1/2PEX
1/2PEX
3/8PEX
3/8PEX
3/4CPVC 3/4CPVC
Pipe Insulation Level
R-0
R-0
R-0
R-0
R-0
R-0
R-0
R-0
Insulation Conductivity Assumption
0
0
0
0
0
0
0
0
Assumed Surface Emissivity (e)
0.91
0.91
0.91
0.91
0.91
0.91
0.91
0.91
Hot Water Inlet Temperature (F)
135
135
136
136
135
135
137
137
Air and Radiant Environment Temp (F)
54
54
55
55
56
56
70
70
Flow Rate (gpm)
1.0
2.0
1.0
2.0
1.0
2.0
1.0
2.0
Lab Test Results
Pipe "UA per foot" target (Btu/hr-ft-F)
0.545
0.555
0.438
0.438
0.368
0.368
0.460
0.480
Calculate Outlet Temperature (F)
126.27
130.55
128.98
132.49
129.25
132.13
130.91
133.82
HWSIM RESULTS
Calculate Outlet Temperature (F)
127.00
130.86
129.53
132.68
129.88
132.39
130.97
133.90
Calculated Pipe "UA per foot" (Btu/hr-ft-F)
0.503
0.520
0.406
0.417
0.330
0.336
0.458
0.472
UA Difference vs. Lab Data (%)
-7.7%
-6.3%
-7.2%
-4.8%
-10.3%
-8.6%
-0.5%
-1.8%
Outlet Temperature Difference vs. Lab (F)
0.73
0.31
0.55
0.19
0.63
0.26
0.07
0.08
Pipe
1/2 Cu
1/2 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
Rolled
Rolled
Rolled
Rolled
Pipe Insulation Level
R-0
R-0
R-0
R-0
R-0
R-0
R-0
R-0
Insulation Conductivity Assumption
n/a
n/a
n/a
n/a
n/a
n/a
n/a
n/a
Assumed Surface Emissivity (e)
0.4
0.4
0.4
0.4
0.02
0.02
0.2
0.2
Hot Water Inlet Temperature (F)
136
136
136
136
133
133
133
133
Air and Radiant Environment Temp (F)
65
65
58
58
56
56
56
56
Flow Rate (gpm)
1.0
2.0
1.0
2.0
1.0
2.0
1.0
2.0
Lab Test Results
Pipe "UA per foot" target (Btu/hr-ft-F)
0.345
0.360
0.417
0.421
0.334
0.334
0.334
0.334
Calculate Outlet Temperature (F)
131.16
133.47
129.57
132.75
127.91
130.46
127.91
130.46
HWSIM RESULTS
Calculate Outlet Temperature (F)
131.30
133.60
129.10
132.44
127.66
130.26
126.97
129.90
Calculated Pipe "UA per foot" (Btu/hr-ft-F)
0.335
0.342
0.447
0.461
0.351
0.359
0.396
0.407
UA Difference vs. Lab Data (%)
-3.0%
-5.0%
7.3%
9.6%
5.0%
7.6%
18.5%
21.8%
Outlet Temperature Difference vs. Lab (F)
0.14
0.13
-0.47
-0.31
-0.26
-0.19
-0.94
-0.55 Table 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs
Pipe
3/4PEX
3/4PEX
1/2PEX
1/2PEX
3/8PEX
3/8PEX
3/4CPVC 3/4CPVC
Pipe Insulation Level
R-0
R-0
R-0
R-0
R-0
R-0
R-0
R-0
Insulation Conductivity Assumption
0
0
0
0
0
0
0
0
Assumed Surface Emissivity (e)
0.91
0.91
0.91
0.91
0.91
0.91
0.91
0.91
Hot Water Inlet Temperature (F)
135
135
136
136
135
135
137
137
Air and Radiant Environment Temp (F)
54
54
55
55
56
56
70
70
Flow Rate (gpm)
1.0
2.0
1.0
2.0
1.0
2.0
1.0
2.0
Lab Test Results
Pipe "UA per foot" target (Btu/hr-ft-F)
0.545
0.555
0.438
0.438
0.368
0.368
0.460
0.480
Calculate Outlet Temperature (F)
126.27
130.55
128.98
132.49
129.25
132.13
130.91
133.82
HWSIM RESULTS
Calculate Outlet Temperature (F)
127.00
130.86
129.53
132.68
129.88
132.39
130.97
133.90
Calculated Pipe "UA per foot" (Btu/hr-ft-F)
0.503
0.520
0.406
0.417
0.330
0.336
0.458
0.472
UA Difference vs. Lab Data (%)
-7.7%
-6.3%
-7.2%
-4.8%
-10.3%
-8.6%
-0.5%
-1.8%
Outlet Temperature Difference vs. Lab (F)
0.73
0.31
0.55
0.19
0.63
0.26
0.07
0.08 ble 3. Comparison of Lab and Simulated Plastic Pipe Outlet Temperatures and UAs Table 4. 3 Results Upon implementation of the heat transfer calculation methodology outlined in Table 2, a series
of runs were completed to compare results to the laboratory data collected by AET over the past
several years. Tables 3 and 4 summarize the findings for various uninsulated pipe cases with
plastic pipes listed in Table 3 and copper in Table 4. The surface emissivity of plastic and copper
pipe was assumed to be 0.91 and 0.40, respectively. Hot water inlet temperature, air and radiant
environment temperature (assumed equal), and fluid flow rates were all specified to match the
reported test conditions for horizontal pipes in air. Outlet water temperatures were calculated
based on the lab-reported UAs, inlet hot water temperature, and environment (air and radiant)
temperatures. These input conditions were also fed into the model to simulate a 100-foot long
pipe section. A 20-gal draw was imposed and the end of draw outlet temperature (reported in the
Tables) was used to calculate the steady state “UA per foot” listed under HWSIM Results. 5 5 Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs
Pipe
1/2 Cu
1/2 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
3/4 Cu
Rolled
Rolled
Rolled
Rolled
Pipe Insulation Level
R-0
R-0
R-0
R-0
R-0
R-0
R-0
R-0
Insulation Conductivity Assumption
n/a
n/a
n/a
n/a
n/a
n/a
n/a
n/a
Assumed Surface Emissivity (e)
0.4
0.4
0.4
0.4
0.02
0.02
0.2
0.2
Hot Water Inlet Temperature (F)
136
136
136
136
133
133
133
133
Air and Radiant Environment Temp (F)
65
65
58
58
56
56
56
56
Flow Rate (gpm)
1.0
2.0
1.0
2.0
1.0
2.0
1.0
2.0
Lab Test Results
Pipe "UA per foot" target (Btu/hr-ft-F)
0.345
0.360
0.417
0.421
0.334
0.334
0.334
0.334
Calculate Outlet Temperature (F)
131.16
133.47
129.57
132.75
127.91
130.46
127.91
130.46
HWSIM RESULTS
Calculate Outlet Temperature (F)
131.30
133.60
129.10
132.44
127.66
130.26
126.97
129.90
Calculated Pipe "UA per foot" (Btu/hr-ft-F)
0.335
0.342
0.447
0.461
0.351
0.359
0.396
0.407
UA Difference vs. Lab Data (%)
-3.0%
-5.0%
7.3%
9.6%
5.0%
7.6%
18.5%
21.8%
Outlet Temperature Difference vs. Lab (F)
0.14
0.13
-0.47
-0.31
-0.26
-0.19
-0.94
-0.55 4. Comparison of Lab and Simulated Copper Pipe Outlet Temperatures and UAs For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a
reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing
immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving
water temperature measurements, which in some of the lab test cases varied by as little as 3°F
from inlet water to outlet. For the copper pipe data shown in Table 4, the rigid piping simulated
cases (with the 0.4 emissivity assumption) show good correlation with the lab data. The last four
columns show a second ¾ in. rolled copper tubing case tested in the lab. HWSIM results are
shown for two cases (0.02 and 0.20 emissivity), in an attempt to approximate the actual “new For the plastic pipe cases, HWSIM underpredicts the lab UAs by 0% to 10%. This falls within a
reasonable range of accuracy given the expected experimental accuracy in the lab of utilizing
immersion thermocouples. UA is highly sensitive to the accuracy in the entering and leaving
water temperature measurements, which in some of the lab test cases varied by as little as 3°F
from inlet water to outlet. The reason for this and
0.368
0.330
0.438
0.406
0.545
0.503
0.460 0.458
0.345 0.335
0.417
0.447
0.334
0.351
0.396
0.00
0.10
0.20
0.30
0.40
0.50
0.60
3/8" PEX
3/8" PEX
1/2" PEX
1/2" PEX
3/4" PEX
3/4" PEX
3/4" CPVC
3/4" CPVC
1/2" CU
1/2" CU
3/4" CU
3/4" CU
Rolled 3/4" CU
Rolled 3/4" CU 0.02
Rolled 3/4" CU 0.20
Pipe UA per Foot (Btu/hr-ft-deg F)
3/8"
PEX
Lab
Simulated Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. ots the lab and simulated UA values for each of the cases reported in Tables 3 and 4 ots the lab and simulated UA values for each of the cases reported in Tables 3 and 4 Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. Figure 1. Comparison of lab and simulated uninsulated pipe UAs
0.368
0.330
0.438
0.406
0.545
0.503
0.460 0.458
0.345 0.335
0.417
0.447
0.334
0.351
0.396
0.00
0.10
0.20
0.30
0.40
0.50
0.60
3/8" PEX
3/8" PEX
1/2" PEX
1/2" PEX
3/4" PEX
3/4" PEX
3/4" CPVC
3/4" CPVC
1/2" CU
1/2" CU
3/4" CU
3/4" CU
Rolled 3/4" CU
Rolled 3/4" CU 0.02
Rolled 3/4" CU 0.20
Pipe UA per Foot (Btu/hr-ft-deg F)
3/8"
PEX
Lab
Simulated Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. Figure 1. Comparison of lab and simulated uninsulated pipe UAs
0.368
0.330
0.438
0.406
0.545
0.503
0.460 0.458
0.345 0.335
0.417
0.447
0.334
0.351
0.396
0.00
0.10
0.20
0.30
0.40
0.50
0.60
3/8" PEX
3/8" PEX
1/2" PEX
1/2" PEX
3/4" PEX
3/4" PEX
3/4" CPVC
3/4" CPVC
1/2" CU
1/2" CU
3/4" CU
3/4" CU
Rolled 3/4" CU
Rolled 3/4" CU 0.02
Rolled 3/4" CU 0.20
Pipe UA per Foot (Btu/hr-ft-deg F)
3/8"
PEX
Lab
Simulated Figure 1. Comparison of lab and simulated uninsulated pipe UAs The second step in the validation process was to model insulated piping and compare to the
laboratory test data. Prior AET lab findings suggested that pipe insulation performance was not
meeting the manufacturer’s performance specifications with typical reported conductivity values
of 0.02-0.021 Btu/hr-ft-°F (or 0.25 Btu-inch/hr-ft2-°F). For the copper pipe data shown in Table 4, the rigid piping simulated
cases (with the 0.4 emissivity assumption) show good correlation with the lab data. The last four
columns show a second ¾ in. rolled copper tubing case tested in the lab. HWSIM results are
shown for two cases (0.02 and 0.20 emissivity), in an attempt to approximate the actual “new 6 pipe” condition when it was tested. The sensitivity in UA to emissivity is evident. To achieve a
match to within 10% of the lab test value of 0.334, a highly polished emissivity of 0.02 was
assumed. It is not clear why the rolled copper tubing comparison of lab versus simulated differs
to a greater extent that the rigid ½ in. and ¾ in. copper results. to a greater extent that the rigid ½ in. and ¾ in. copper results. Figure 1 plots the lab and simulated UA values for each of the cases reported in Tables 3 and 4. Figure 1. Comparison of lab and simulated uninsulated pipe UAs
The second step in the validation process was to model insulated piping and compare to the
laboratory test data. Prior AET lab findings suggested that pipe insulation performance was not
meeting the manufacturer’s performance specifications with typical reported conductivity values
of 0.02-0.021 Btu/hr-ft-°F (or 0.25 Btu-inch/hr-ft2-°F). HWSIM runs performed prior to the
incorporation of the current heat transfer methodology suggested that an insulation conductivity
of ~ 0.042 Btu/hr-ft-°F provided the best match with the lab data. With the enhanced
radiant/convective heat loss model in place, a series of runs were completed to assess the best
fit”k” value for each pipe configuration. Figure 2 summarizes the findings for the case of a 100-
ft pipe at a 1 gpm flow rate. The values of 0.02 and 0.042 Btu/hr-ft-°F insulation conductivity are
presented to bound the range, with the corresponding calculated UAs shown. The blue-shaded
values represent the best modeling match with the lab data. Other than the ¾ in. PEX with ¾ in. insulation, all plastic pipe and copper pipe cases center in fairly tight conductivity ranges,
however, the difference between copper and plastic is fairly significant. HWSIM runs performed prior to the
incorporation of the current heat transfer methodology suggested that an insulation conductivity
of ~ 0.042 Btu/hr-ft-°F provided the best match with the lab data. With the enhanced
radiant/convective heat loss model in place, a series of runs were completed to assess the best
fit”k” value for each pipe configuration. Figure 2 summarizes the findings for the case of a 100-
ft pipe at a 1 gpm flow rate. The values of 0.02 and 0.042 Btu/hr-ft-°F insulation conductivity are
presented to bound the range, with the corresponding calculated UAs shown. The blue-shaded
values represent the best modeling match with the lab data. Other than the ¾ in. PEX with ¾ in. insulation, all plastic pipe and copper pipe cases center in fairly tight conductivity ranges,
however, the difference between copper and plastic is fairly significant. The reason for this and 7 7 the deviation of the ¾ in. PEX case are not entirely clear, and may be an artifact related to the
laboratory testing. Averaging the eight cases results in a mean conductivity value of 0.030
Btu/hr-ft-°F. the deviation of the ¾ in. PEX case are not entirely clear, and may be an artifact related to the
laboratory testing. Averaging the eight cases results in a mean conductivity value of 0.030
Btu/hr-ft-°F. Figure 3 shows the comparison of insulated pipe data from the lab relative to the simulated cases. With the exception of the ¾ in. PEX with ¾ in. insulation, all of the UA comparisons fall within
10% of the lab values. Since the thermal characteristics of the pipe insulation dominate the heat
transfer, one would expect the performance of the ¾ in. PEX case to fall more in line with the
other values. Our hypothesis is that the lab result for this particular case may be inaccurate. Figure 3 shows the comparison of insulated pipe data from the lab relative to the simulated cases. With the exception of the ¾ in. PEX with ¾ in. insulation, all of the UA comparisons fall within
10% of the lab values. Since the thermal characteristics of the pipe insulation dominate the heat
transfer, one would expect the performance of the ¾ in. PEX case to fall more in line with the
other values. Our hypothesis is that the lab result for this particular case may be inaccurate. Figure 2. Insulated pipe UAs as a function of insulation conductivity
3/4" PEX
1/2" PEX
3/8" PEX
3/4" CPVC
1/2" CU
1/2 Cu
3/4" CU
3/4" CU
3/4" Insl
3/4" Insl
3/4" Insl
3/4" Insl
1/2" Insl
3/4" Insl
1/2" Insl
3/4" Insl
0.02
0.108
0.093
0.081
0.107
0.105
0.091
0.133
0.112
0.021
0.022
0.023
0.024
0.025
0.132
0.026
0.117
0.165
0.027
0.028
0.148
0.029
0.03
0.031
0.032
0.121
0.033
0.130
0.160
0.034
0.035
0.036
0.037
0.038
0.039
0.04
0.188
0.041
0.042
0.191
0.165
0.149
0.189
0.185
0.165
0.231
0.202
Insl Conductivity
(Btu/hr-ft-°F) Figure 2. Insulated pipe UAs as a function of insulation conductivity 8 Figure 3. Comparison of lab and simulated insulated pipe UAs
0.121
0.110
0.1300.126
0.180
0.147
0.160
0.144
0.132
0.146
0.117
0.126
0.165
0.184
0.148
0.155
0.00
0.02
0.04
0.06
0.08
0.10
0.12
0.14
0.16
0.18
0.20
3/8" PEX 3/4"
3/8" PEX 3/4"
1/2" PEX 3/4"
1/2" PEX 3/4"
3/4" PEX 3/4"
3/4" PEX 3/4"
3/4" CPVC 3/4"
3/4" CPVC 3/4"
1/2" Cu 1/2"
1/2" Cu 1/2"
1/2" Cu 3/4"
1/2" Cu 3/4"
3/4" Cu 1/2"
3/4" Cu 1/2"
3/4" Cu 3/4"
3/4" Cu 3/4"
Pipe UA per Foot (Btu/hr-ft-deg F)
3/8" PEX
3/4"
Lab
Simulated Figure 3. Comparison of lab and simulated insulated pipe UAs 4 Conclusions and Recommendations The implementation of standard horizontal pipe heat transfer calculation utilizing fluid velocity
for determining interior pipe heat transfer coefficient, and a combined radiant and convective
outside coefficient was found to provide a good match with AET laboratory data. On average,
simulation results are within 8% of the laboratory findings. Some level of uncertainty lies in the
identification of the mean radiant temperature, both in the lab environment, and more
significantly, in many real-world piping applications such as attics and garages. In addition,
copper surface emissivities, which will vary over time due to oxidation, are difficult to
determine. Overall, based on the validation results, we feel confident that the enhanced HWSIM
model, and the recently developed TRNSYS model (Maguire et al 2011), are ready for the next
validation step of using detailed site monitoring data (NREL’s Solar Row dataset) to drive the
model. Model outputs in the form of end use point hot water outlet temperatures can then be
compared to model-predicted outlet temperatures. This work has been proposed by ARBI for
2012, with the primary validation effort focused on the TRNSYS model. The development and validation of these enhanced tools is a critical step in the process towards
accurately evaluating the performance of residential distribution systems and the resulting impact
on the water heater. Much fundamental work needs to be completed to address the broader water
heating research questions presented earlier in this technical report. For residential, non-
recirculating distribution systems, the authors estimate that distribution losses may range from 9 10%-40% of annual hot water energy consumption, depending upon factors such as plumbing
layout, pipe sizing and location, and hot water use quantity and patterns. Critical factors that
affect the magnitude of the distribution loss include the layout of the distribution system and the
magnitude and pattern of hot water loads within the household, which are highly variable from
one house to the next. Both of these factors are currently not well understood, especially in terms
of how they vary in different vintages of homes and what effect climate has in affecting heat loss
due to varying environment temperatures and pipe locations (attic piping is common in milder
regions). Improved knowledge in all these fronts will lead to validated simulation tools that can
reliably provide results for a range of applications and climates. 4 Conclusions and Recommendations 10%-40% of annual hot water energy consumption, depending upon factors such as plumbing
layout, pipe sizing and location, and hot water use quantity and patterns. Critical factors that
affect the magnitude of the distribution loss include the layout of the distribution system and the
magnitude and pattern of hot water loads within the household, which are highly variable from
one house to the next. Both of these factors are currently not well understood, especially in terms
of how they vary in different vintages of homes and what effect climate has in affecting heat loss
due to varying environment temperatures and pipe locations (attic piping is common in milder
regions). Improved knowledge in all these fronts will lead to validated simulation tools that can
reliably provide results for a range of applications and climates. 10%-40% of annual hot water energy consumption, depending upon factors such as plumbing
layout, pipe sizing and location, and hot water use quantity and patterns. Critical factors that
affect the magnitude of the distribution loss include the layout of the distribution system and the
magnitude and pattern of hot water loads within the household, which are highly variable from
one house to the next. Both of these factors are currently not well understood, especially in terms
of how they vary in different vintages of homes and what effect climate has in affecting heat loss
due to varying environment temperatures and pipe locations (attic piping is common in milder
regions). Improved knowledge in all these fronts will lead to validated simulation tools that can
reliably provide results for a range of applications and climates. 10 Springer, D.; Rainer, L.; and Hoeschele, M. (2008). “HWSIM: Development and Validation of a
Residential Hot Water Distribution System Model,” Proceedings of the 2008 ACEEE Summer
Study on Energy Efficiency in Buildings. References Barley, C. Dennis; Hendron, R.; and Magnusson, L. (2010). “Field Test of a DHW Distribution
System: Temperature and Flow Analyses.” NREL/PR-550-48385. Presented at the 2010 ACEEE
Hot Water Forum. Accessed at: http://www.nrel.gov/docs/fy10osti/48385.pdf . Hiller, C. (2005). Hot Water Distribution System Research – Phase I Final Report. California
Energy Commission report 500-2005-161. Hiller, C. (2006a). Hot Water Distribution System Piping Time, Water, and Energy Waste -
Phase I Test Results. ASHRAE Transactions, vol. 114, pt. 1, 415-425. Hiller, C. (2006b). Hot Water Distribution System Piping Heat Loss Factors - Phase I Test
Results. ASHRAE Transactions, vol. 114, pt. 1, 436-446. Hiller, C. (2008). Hot Water Distribution System Piping Heat Loss Factors, Both In-air and
Buried--Phase II: Test Results. ASHRAE paper no. SL-08-010. Hiller, C. (2011). Hot Water Distribution System Piping Time, Water, and Energy Waste--Phase
III: Test Results. ASHRAE Transactions, vol 117, pt. 1. Kreith, F. (1973). Principles of Heat Transfer, Third Edition. New York: Harper and Row. 1973. Lutz, J.D. (2008). Water Heaters and Hot Water Distribution Systems. California Energy
Commission, PIER Buildings End-Use Energy Efficiency. CEC-500-2005-082. Maguire, J.; Krarti, M.; and Fang, X. (2011). “An Analysis Model for Domestic Hot Water
Distribution Systems,” Conference Paper. NREL/CP-5500-51674. Accessed at:
http://www.nrel.gov/docs/fy12osti/51674.pdf Springer, D.; Rainer, L.; and Hoeschele, M. (2008). “HWSIM: Development and Validation of a
Residential Hot Water Distribution System Model,” Proceedings of the 2008 ACEEE Summer
Study on Energy Efficiency in Buildings. DOE/GO-102012-3626 ▪ November 2012 DOE/GO-102012-3626 ▪ November 2012 Printed with a renewable-source ink on paper containing at
least 50% wastepaper, including 10% post-consumer waste.
|
https://openalex.org/W2788494624
|
https://aacr.figshare.com/articles/journal_contribution/Supplementary_Figure_S6_from_Interleukin_33_Signaling_Restrains_Sporadic_Colon_Cancer_in_an_Interferon-_Dependent_Manner/22539691/1/files/40003015.pdf
|
English
| null |
Interleukin 33 Signaling Restrains Sporadic Colon Cancer in an Interferon-γ–Dependent Manner
|
Cancer immunology research
| 2,018
|
cc-by
| 1,434
|
0
2
4
6
8
10
Treg numbers/ colon (x104)
% Treg/ CD45+ cells
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
Foxp3
St2
35%
35%
28%
1.5%
CD4
CD4
A
B
WT
St2-/-
0
2
4
6
8
WT
St2-/-
WT
St2-/-
C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells
ns
ns
plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons.
cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen
colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
d from two independent experiments, are expressed as Mean ± SEM and each symbol represents
dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
red t-test with Welsh’s correction (B, left panel). n.s. = not significant. 0
2
4
6
8
10
Treg numbers/ colon (x104)
% Treg/ CD45+ cells
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
Foxp3
St2
35%
35%
28%
1.5%
CD4
CD4
A
B
WT
St2-/-
0
2
4
6
8
WT
St2-/-
WT
St2-/-
C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells
ns
ns 0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
Foxp3
St2
35%
35%
28%
1.5%
CD4
CD4
A
WT
St2-/- 0
2
4
6
8
10
Treg numbers/ colon (x104)
% Treg/ CD45+ cells
B
0
2
4
6
8
WT
St2-/-
WT
St2-/-
C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells
ns
ns C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells C A B Supplementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. Flow cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
Representative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
EpCAM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
within CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen-
cy of colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
pooled from two independent experiments, are expressed as Mean ± SEM and each symbol represents
individual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
unpaired t-test with Welsh’s correction (B, left panel). n.s. = not significant. Supplementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. Flow cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
Representative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
EpCAM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
within CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). 0
2
4
6
8
10
Treg numbers/ colon (x104)
% Treg/ CD45+ cells
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
Foxp3
St2
35%
35%
28%
1.5%
CD4
CD4
A
B
WT
St2-/-
0
2
4
6
8
WT
St2-/-
WT
St2-/-
C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells
ns
ns
plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons.
cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen
colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
d from two independent experiments, are expressed as Mean ± SEM and each symbol represents
dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
red t-test with Welsh’s correction (B, left panel). n.s. = not significant. 0
2
4
6
8
10
Treg numbers/ colon (x104)
% Treg/ CD45+ cells
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
Foxp3
St2
35%
35%
28%
1.5%
CD4
CD4
A
B
WT
St2-/-
0
2
4
6
8
WT
St2-/-
WT
St2-/-
C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells
ns
ns
plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons. cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen
colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
d from two independent experiments, are expressed as Mean ± SEM and each symbol represents
dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
red t-test with Welsh’s correction (B, left panel). n.s. = not significant. 0
2
4
6
8
10
Treg numbers/ colon (x104)
% Treg/ CD45+ cells
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
0
102
103
104
105
Foxp3
St2
35%
35%
28%
1.5%
CD4
CD4
A
B
WT
St2-/-
0
2
4
6
8
WT
St2-/-
WT
St2-/-
C
0
10
20
30
40
% St2+ cells/ Foxp3+
CD4+ T cells
ns
ns
plementary Figure S6. St2-deficiency did not alter Treg frequency in untreated naïve colons.
cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
esentative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
AM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
n CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen
colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
d from two independent experiments, are expressed as Mean ± SEM and each symbol represents
dual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
red t-test with Welsh’s correction (B, left panel). n.s. = not significant. (C) Frequen-
cy of colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
pooled from two independent experiments, are expressed as Mean ± SEM and each symbol represents
individual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
unpaired t-test with Welsh’s correction (B, left panel). n.s. = not significant. Flow cytometric analysis of enzymatically-digested colon collected from naïve WT and St2-/- mice. (A)
Representative FACS plots showing St2 and Foxp3 expression on gated CD4+ CD3+ CD90+ CD45+
EpCAM- T cells. (B) Cumulative data showing Foxp3+ CD4+ (CD3+, CD45+, EpCAM-) Treg frequency
within CD45+ EpCAM- hematopoietic cells (left panel), and total Treg numbers (right panel). (C) Frequen-
cy of colon infiltrating St2 expressing Tregs cells within total Foxp3+ CD4+ Tregs from WT mice. Data are
pooled from two independent experiments, are expressed as Mean ± SEM and each symbol represents
individual mice. Statistical analysis was performed using unpaired Student’s t-test (B, right panel) or
unpaired t-test with Welsh’s correction (B, left panel). n.s. = not significant.
|
https://openalex.org/W4289134365
|
https://pub.uni-bielefeld.de/download/2964767/2964899
|
English
| null |
Multilevel Modelling of Individual, Community and Regional Level Factors Associated with Insecticide-Treated Net Usage among Pregnant Women in Ethiopia
|
Healthcare
| 2,022
|
cc-by
| 7,879
|
Keywords: Ethiopia; insecticide-treated net; malaria; mosquitoes; pregnant women Citation: Kuse, K.A.; Chikako, T.U.;
Bacha, R.H.; Hagan, J.E., Jr.; Seidu,
A.-A.; Ahinkorah, B.O. Multilevel
Modelling of Individual, Community
and Regional Level Factors
Associated with Insecticide-Treated
Net Usage among Pregnant Women
in Ethiopia. Healthcare 2022, 10, 1418. https://doi.org/10.3390/
healthcare10081418
Academic Editor:
Abdel-Latif Mohamed
Received: 23 May 2022
Accepted: 25 July 2022
Published: 29 July 2022 *
Correspondence: elvis.hagan@ucc.edu.gh Abstract: Background: Pregnant women who are infected with malaria usually have more severe
symptoms and negative health outcomes than women who are not pregnant, with higher rates of
miscarriage, intrauterine demise, premature delivery, low-birth-weight neonates, and neonatal death. Based on evidence from the 2016 Ethiopia Demographic and Health Survey, this study assessed the
variation in insecticide-treated nets (ITNs) usage and its associated factors among pregnant women
in Ethiopia. Methods: Data from a total of 1122 women who were pregnant at the time of the survey
were included in the final analysis. Bivariate and multilevel analyses were conducted. Multilevel
modeling with fixed and random coefficients was used to estimate the variation in pregnant women’s
ITNs usage across communities (residence areas) and regions of Ethiopia. Results: Out of the total
1122 pregnant women, 58.37% slept under a net and 41.63% did not sleep under nets. Significant
variations were observed in pregnant women’s ITNs usage across communities (residence areas) and
regions of Ethiopia, with between variations in pregnant women’s ITNs usage across communities
(residence areas) and regions. In addition, the region, place of residence, wealth index, educational
level, and age of the women as well as whether they believed that mosquito bites cause malaria were
significant factors in pregnant women’s usage of ITNs. Pregnant women in Ethiopia had moderate
usage of ITNs with varied risk factors at the individual, community, and regional levels. Conclusion:
Based on the factors identified, there is a need to implement and/or strengthen programs (e.g.,
regular sensitization) that intensify high coverage of ITNs for effective malaria prevention in Ethiopia,
especially among pregnant women who do not use ITNs. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). healthcare healthcare healthcare healthcare Kenenisa Abdisa Kuse 1
, Teshita Uke Chikako 2
, Reta Habtamu Bacha 3
, John Elvis Hagan, Jr. 4,5,*
,
Abdul-Aziz Seidu 6,7,8
and Bright Opoku Ahinkorah 9 Kenenisa Abdisa Kuse 1
, Teshita Uke Chikako 2
, Reta Habtamu Bacha 3
, John Elvis Hagan, Jr. 4,5,*
,
Abdul-Aziz Seidu 6,7,8
and Bright Opoku Ahinkorah 9 1
Department of Statistics, Bule Hora University, Bule Hora P.O. Box 144, Ethiopia;
abdisakenenisa40@gmail.com g
2
Wondo Genet College of Forestry and Natural Resource, Hawassa University, Hawassa P.O. Box 05, Ethiopia;
teshitauke@hu.edu.et 2
Wondo Genet College of Forestry and Natural Resource, Hawassa University, Hawassa P.O. Box 05, Ethiopia;
teshitauke@hu.edu.et 3
Department of Statistics, Jimma University, Jimma P.O. Box 378, Ethiopia; reta.habtamu@ju.edu.et
4
Department of Health, Physical Education, and Recreation, University of Cape Coast,
Cape Coast PMB TF0494, Ghana 5
Neurocognition and Action-Biomechanics-Research Group, Faculty of Psychology and Sport Sciences,
Bielefeld University, 33501 Bielefeld, Germany 6
Department of Population and Health, University of Cape Coast, Cape Coast PMB TF0494, Ghana;
abdul-aziz.seidu@stu.ucc.edu.gh g
7
College of Public Health, Medical and Veterinary Sciences, James Cook University,
Townsville, QLD 4811, Australia g
7
College of Public Health, Medical and Veterinary Sciences, James Cook University,
T
ill
QLD 4811 A
t
li Citation: Kuse, K.A.; Chikako, T.U.;
Bacha, R.H.; Hagan, J.E., Jr.; Seidu,
A.-A.; Ahinkorah, B.O. Multilevel
Modelling of Individual, Community
and Regional Level Factors
Associated with Insecticide-Treated
Net Usage among Pregnant Women
in Ethiopia. Healthcare 2022, 10, 1418. https://doi.org/10.3390/
healthcare10081418
Academic Editor:
Abdel-Latif Mohamed
Received: 23 May 2022
Accepted: 25 July 2022
Published: 29 July 2022
Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). 8
Department of Estate Management, Takoradi Technical University, Takoradi P.O. Box 256, Ghana Department of Estate Management, Takoradi Technical University, Takoradi P.O. Box 256, Ghana
9
School of Public Health, Faculty of Health, University of Technology Sydney, Sydney, NSW 2007, Australia;
bright.o.ahinkorah@student.uts.edu.au 1. Introduction Malaria is a preventable and curable life-threatening disease caused by parasites
that are transmitted from person to person through bites of infected female Anopheles https://www.mdpi.com/journal/healthcare Healthcare 2022, 10, 1418. https://doi.org/10.3390/healthcare10081418 Healthcare 2022, 10, 1418 2 of 12 mosquitoes [1]. For many countries affected by malaria, it is a leading cause of illness and
death [2]. In areas with high prevalence, the most vulnerable groups are young children,
who have not yet developed immunity to malaria, and pregnant women, whose immunity
has been decreased due to pregnancy [3]. In low-prevalence areas, the women generally
have developed no immunity to malaria [4]. Malaria infection is the major cause of maternal
anemia, premature delivery, and fetal loss [3,4]. For equal exposure, adult men and women
are equally vulnerable to malaria infection, but pregnant women are at greater risk of
malaria infection [4,5]. In 2018 and 2020, available statistics showed that more than 228 million malaria cases
with 405,000 deaths and 241 million cases of malaria with 627,000 deaths were observed,
respectively [6,7]. Of these estimates, approximately 93% of malaria cases and 94% of the
malaria deaths occurred in Africa and malaria is considered one of the main indirect reasons
for maternal and infant mortality [6]. The WHO has found that the African region carries a
disproportionately high share of the global malaria burden, and that the region was home
to 95% of malaria cases and 96% of malaria deaths in 2020 [1,8]. A new cause-of-death
methodology was applied to 32 countries in sub-Saharan Africa and it was found that
this region shoulders about 93% of all malaria deaths globally [1,9]. The case fatality is
quite dominant among pregnant women and children under five years of age as these
are the cohorts with the higher risk of infection and adverse effects [10] For instance, an
estimated 25 million pregnancies in sub-Saharan Africa are at risk of malaria, with serious
implications for both mother and fetus (e.g., maternal anemia, stillbirths, low birth weight,
and intrauterine growth restriction) [11]. If appropriately and regularly used, insecticide-treated nets (ITNs) have been recog-
nized as a cost-effective malaria-prevention intervention that decreases malaria morbidity
and mortality by decreasing the contact and bites of mosquitoes [12,13] Previous research
has shown that ITN usage is the most cost-effective intervention to reduce malaria trans-
mission in developing countries [14,15]. 1. Introduction Empirical evidence suggests that ITNs minimize
malaria deaths from all causes of mortality in malaria by nearly 20% [16]. Studies suggest that ITN utilization among pregnant women in sub-Saharan countries
is quite low [17–19], with cited factors accounting for poor ITN utilization including poor
educational and knowledge levels, ITN accessibility, sufficiency, quality, physical condition,
maintenance, replacement, and effectiveness [20,21]. However, the effect of these socio-
demographic factors may vary across countries and within and between contexts and
over time. Malaria continues to be a major public-health problem in Ethiopia which is one of the
countries with the highest prevalence of malaria among pregnant women. Approximately
68% of Ethiopian people live in malaria-risk areas, with about 75% of the landmass of
Ethiopia being malaria-endemic and it is one of the most malaria-prone countries in
Africa [22]. Given that pregnant women and their unborn children are a vulnerable group
and susceptible to malaria and its adverse effects, providing current empirical information
on ITN utilization and its related factors may guide authorities in planning appropriate
interventions or programs aimed at contributing to national malaria-prevention- and
control-policy development. There has been no study conducted at the national level
regarding ITN utilization among pregnant women in Ethiopia that considers ITN utilization
at the regional and household level. Therefore, based on the data obtained from the 2016
Ethiopian Demographic and Health Survey (EDHS) this study aimed to assess the variation
in ITN usage and its associated factors among pregnant women in Ethiopia. 2.2. Study Population The target population was women who were pregnant during the survey time. All
women who were usual members of the selected households and those who spent the night
before the survey in the selected households were eligible to be interviewed in the survey. A total weighted sample of 1122 pregnant women was included in the final analysis of
this study. 2.4.3. Regional Level Variables Region (Tigray, Affar, Amhara, Oromia, Somalia, Benishanshangul-Gumuz, SNNPR,
Gambela, Harari, Dire Dawa, Addis Ababa). 2.4.2. Community Level Variables
Place of residence (urban, rural). Place of residence (urban, rural). 2. Materials and Methods
2.1. Data Source The data used for this study were obtained from the 2016 EDHS. Based on a na-
tionally representative sample, the survey was conducted from 18 January 2016 to
27 June 2016, and provided national, regional, and rural estimates [23]. In 2016, the EDHS
sample was stratified and selected in two stages. Each region was stratified into urban Healthcare 2022, 10, 1418 3 of 12 3 of 12 and rural areas, yielding 21 sampling strata. Samples of EAs (enumeration areas) were
selected independently in each stratum in the two stages. A total of 645 EAs was selected
in the first stage (202 in urban areas and 443 in rural areas), with probability proportional
to EA size (based on the 2007 population and housing census) and independent selec-
tions. In the second stage of selection, a fixed number of 28 households per cluster were
selected with an equal probability of systematic selection [23]. Details of the EDHS method-
ology and sampling have been published in the EDHS report, which is also available
online at https://dhsprogram.com/publications/publication-fr328-dhs-finalreports.cfm? cssearch=351226_1 (see Supplementary Materials: accessed on 8 January 2022). 2.3. Study Variables
Outcome Variable Pregnant women’s usage of ITNs was the outcome variable of the study. It was
measured as dichotomous as follows: Pregnant women′s usage of an ITN (Yi) =
0 : woman slept under a net
1 : woman did not sleep under a net
(1) (1) 2.4. Independent Variables 2.4.1. Individual Level Variables 2.4.1. Individual Level Variables The ages of the women (15–24, 25–34, 35–44, 45–49), their educational level (no educa-
tion, primary, secondary, higher), their working status (working, not working), their wealth
index (poorest, poorer, middle, richer, richest), the sex of the household head (male, female),
the household size (less than five, five or more), the current marital status of women (never
in a union, married/living with a partner, widowed/divorced/separated), and belief that
mosquito bites cause malaria (no, yes) were the individual-level variables. 2.4.2. Community Level Variables
Place of residence (urban, rural). 2.5. Data Analyses Bivariate and multilevel logistic regression analysis were conducted. The variables
with p-values less than 0.25 in the bivariate analysis were considered to be relevant for
the multilevel analysis. A three-level multilevel logistic regression analysis was applied
to assess the effects of individual-, community-, and regional-level factors on ITNs usage
among pregnant women in Ethiopia. The three-level multilevel logistic regression model
was as follows: (2) Yijk = β0 + U0jk + ε0ijk
(2) where Yijk is the ith pregnant woman in the jth community and the kth is those who
slept under a net, β0, β1, β2, . . . , βp are the standard logistic regression parameters of
the variables associated with ITN usage among the pregnant women, X1 X1, X2,...,Xp are
independent variables related to the pregnant women’s usage of an ITN, and Uojk is the
random effect at levels two and three. Healthcare 2022, 10, 1418 4 of 12 2.5.1. Multilevel Logistic Regression Intercept-Only Model 2.5.1. Multilevel Logistic Regression Intercept-Only Model An intercept-only model is a model without explanatory variables and it serves as a
point of reference with which other models are compared. The three-level intercept-only
multilevel logistic regression model is expressed as follows: (3) Yijk = β0 + U0jk + ε0ijk
(3) where the index i indicates individual women, j indicates community-level factors, k
indicates regional level factors, U0jk is level two and three errors, ε0ij is a level one error,
β0 is the overall average of pregnant women’s usage of ITNs, and Yijk is the pregnant ith
woman’s usage of an ITN in the jth community and kth region. 2.5.2. Random-Intercept Multilevel Logistic Regression Model 2.5.2. Random-Intercept Multilevel Logistic Regression Model In the random-intercept model, the intercept is the only random effect, meaning that
the groups differ with respect to the average value of the ITN usage among the pregnant
women, but the relationship between factors and response variables cannot differ between
groups. The random intercept model expresses the log-odds, (i.e., the logit of π) as a sum
of a linear function of the explanatory variables. That is, log
π
1 −π
= β0j + β1Xi11 + β2Xi22+, . . . , βjXijk
(4) (4) where π is the probability that the pregnant woman slept under a net and the intercept
term β0j is assumed to vary randomly and is given by the sum of intercept β0 and group-
dependent deviations Uujk. That is β0j = β0 + Uojk. 2.5.3. Multilevel Logistic Regression Random-Coefficient Model
In this model, the coefficients of the explanatory variables are considered as random. 2.5.3. Multilevel Logistic Regression Random-Coefficient Model
In this model, the coefficients of the explanatory variables are considered as random. 2.5.3. Multilevel Logistic Regression Random Coefficient Model
In this model, the coefficients of the explanatory variables are considered as random. g
g
In this model, the coefficients of the explanatory variables are considered as random. log
π
1 −π
= βoj + β1jXi11 + β2jXi22+, . . . , βPjXiPj
+ Uoj
(5) log
π
1 −π
= βoj + β1jXi11 + β2jXi22+, . . . , βPjXiPj
+ Uoj
(5)
d
h
k (5) Letting βoj = βo + Uojk, and βhj = βh + Uhjk h = 1,2, . . . ,k. We get log
π
1 −π
= βo
k
∑
h=1
βhxhij + Uojk +
k
∑
h=1
Uhjkxhijk
(6) (6) where βo
k
∑
h=1
βhxhij is the fixed part of the model, Uojk +
k
∑
h=1
Uhjkxhijk is the random part
of the model, π is the probability that the pregnant woman slept under a net, and the
intercept term β0j is assumed to vary randomly and is given by the sum of intercept β0
and group-dependent deviations Uujk. That is β0j = β0 + Uojk. 2.5.7. Bayesian Information Criterion (BIC) The Bayesian information criterion (BIC) is a criterion for model selection among a
finite set of models [27]. It is based, in part, on the likelihood function, and is closely related
to the Akaike information criterion (AIC). It is given as: BIC = −2LL + log(N)k
(10) (10) where k is the degrees of freedom calculated as the rank of a variance–covariance matrix
of the parameters and N is the number of observations used in the estimation or, more
precisely, the number of independent terms in the likelihood. Thus, based on these two commonly used model-comparison approaches, the model
with smallest AIC or BIC become the best data-fitted model. 3. Results 2.5.6. Model Comparisons In this study, model comparisons were made between four models. Model I was the
empty model or null model, Model II included individual-level factors, Model III included
community-level factors, and Model IV accounted for both individual- and community-
level factors of the study. The model with a small value of AIC is the optimal model,
which means the best data-fitted model and the model which has few parameters to be
estimated [26]. AIC is defined as: AIC = −2ln(likelihood) + 2k
(9) (9) where k is the degrees of freedom calculated as the rank of a variance–covariance matrix of
the parameters. 2.5.7. Bayesian Information Criterion (BIC) 2.5.5. Measures of Variation Intra-cluster correlation (ICC) measures the proportion of variance in the outcome
explained by the grouping structure and is determined as follows: ICC(Community) =
δ2community
δ2
community+δ2Region+π2
3
ICC attributable to level 2
(7)
ICC(Region) =
δ2Region
δ2
community+δ2Region+π2
3
ICC attributable to level 3
(8) ICC(Community) =
δ2community
δ2
community+δ2Region+π2
3
ICC attributable to level 2
(7)
ICC(Region) =
δ2Region
δ2
community+δ2Region+π2
3
ICC attributable to level 3
(8) (7) ICC(Region) =
δ2Region
δ2
community+δ2Region+π2
3
ICC attributable to level 3
(8) (8) where π2
3
denotes the variation of lower (individual) level unit, δ2community denotes the
variation between communities, and δ2Region denotes the variation between regions. where π2
3
denotes the variation of lower (individual) level unit, δ2community denotes the
variation between communities, and δ2Region denotes the variation between regions. 2.5.4. Parameter Estimation of Multilevel Logistic Regression Analyses 2.5.4. Parameter Estimation of Multilevel Logistic Regression Analyses Multilevel models are also generally estimated using maximum likelihood methods. Combining multilevel and generalized linear models leads to complex models and estima-
tion procedures. The most frequently used methods are based on a first- or second-order
Taylor expansion of the link function. When the approximation is around the estimated
fixed part, it is called the marginal quasi-likelihood (MQL) and when it is around an estimate
for the fixed plus random part, it is called penalized or predictive quasi-likelihood [24,25]. Healthcare 2022, 10, 1418 5 of 12 2.5.5. Measures of Variation 2.5.5. Measures of Variation 3. Results 3.1. Descriptive Statistics on the Sample Characteristics 3.1. Descriptive Statistics on the Sample Characteristics 3.1. Descriptive Statistics on the Sample Characteristics Of the 1122 women included in the study, 467 (41.63%) did not sleep under a net. Of the 1122 women included in the study, 467 (41.63%) did not sleep under a net. The study found that 58.37% of the pregnant women slept under a net and 41.63% of
pregnant women did not sleep under a net during the survey time. Table 1 shows that of
the 1122 pregnant women included in the study, 197 (17.55%) resided in urban areas, and
925 (82.44%) resided in rural areas. About 698 (62.2%) of the women had no education, 299
(26.7%) had primary education, 74 (6.6%) had secondary education, and 51 (4.5%) had a
higher education. Of the women, 548 (48.8%) were aged between 15 and 24, 507 (45.2%)
were aged between 25 and 34, and 67 (6%) were aged between 35 and 44. Healthcare 2022, 10, 1418 6 of 12 Table 1. Result of descriptive and bivariate analyses. 3. Results Pregnant Women’s ITN Usage
Variables
Categories
Women Who
SleptUnder a Net
Women Who Did Not
Sleep under a Net
Total
p-Value
For X2
Place of residence
Urban
138
59
197 (17.55%)
<0.001
Rural
517
408
925 (82.45%)
Region
Tigray
91
14
105 (9.56%)
<0.001
Afar
34
46
80 (7.13%)
Amhara
56
45
101 (9%)
Oromi
74
61
135 (12.03%
Somalia
162
91
253 (22.55%)
Benishangul-Gumuz
37
55
92 (8.2%)
SNNPR
107
86
193 (17.02%)
Gambela
21
8
29 (2.58%)
Harari
23
13
36 (3.21%)
Addis Ababa
46
8
54 (4.8%)
Dire Dawa
4
40
44 (3.92%)
Educational level
No education
393
305
698 (62.2%)
0.001
Primary
170
129
299 (26.7%)
Secondary
56
18
74 (6.6%)
Higher
36
15
51 (4.5%)
Wealth index
Poorest
197
176
373 (33.24%)
0.014
Poorer
131
86
217 (19.34%)
Middle
90
61
151 (13.46%)
Richer
69
66
135 (12.03%)
Richest
168
78
246 (21.93%)
Age
15–24
301
247
548(48.8%)
<0.001
25–34
301
206
507 (45.2%)
35–44
53
14
58 (6%)
Current marital status
Never in a union
2
0
2 (0.2%)
0.0018
Married
643
455
1098 (97.86%)
Separated
10
12
22 (1.94%)
Working status
Not working
461
316
777 (69.25%)
0.450
Working
194
151
345 (30.75%)
Belief that mosquito
bites cause malaria
No
397
279
676 (60.3%)
0.0024
Yes
258
188
446 (39.7%)
Household size
<5
2
5
7 (0.62%)
0.785
≥5
653
462
1115 (99.38%)
Sex of household head
Male
535
350
885 (78.87%)
<0.001
Female
120
117
237 (21.13%) Table 1. Result of descriptive and bivariate analyses. Pregnant Women’s ITN Usage 7 of 12 7 of 12 Healthcare 2022, 10, 1418 3.2. Bivariate Analysis Variable
Null Model
(Model I)
Model II
Model III
Model IV
Fixed effect
AOR (95% CI)
AOR (95% CI)
AOR (95% CI)
AOR (95% CI)
Constant
0.67 (0.44–1.83)
Age
15–24 (reference category)
25–34
0.782 (0.533–1.46)
1.38 (1.024–3.11) **
35–44
0.351 (0.187–1.45)
0.78 (0.246–1.32)
45 and above
0.867 (0.125–2.79)
0.35 (0.110–1.76)
No education (reference category)
Primary
0.521 (0.290–1.88)
1.331 (1.026–1.94) *
Secondary
0.657 (0.335–1.28)
1.346 (1.314–1.59) *
Higher
0.761 (0.438–1.99)
1.225 (1.14–1.77) * 3.3. Model Comparisons From Table 2, the AIC and BIC for pregnant women’s usage of ITNs in Model IV
(individual-, community-, and regional-level factors) was small compared to the other three
models. Thus, Model IV (individual-, community-, and regional-level factors) was the
best-fitted to the study data. Table 2. Model comparison. Response
Model Comparison
Criteria
Null Model
(Model I)
Individual-Level
Factors
(Model II)
Community-Level
Factors
(Model III)
Individual- and
Community-Level
Factors (Model IV)
Pregnant women’s
usage of ITNs
AIC
1436.051
1431.974
1414.482
1389.77
BIC
1532.432
1479.779
1446.097
1438.32 Table 2. Model comparison. 3.2. Bivariate Analysis 3.2. Bivariate Analysis From Table 1, variables with a p-value less than 0.25 were candidate variables for the
multilevel logistic regression analysis. The age, educational level, wealth index, current
marital status, region, place of residence, sex of the household head and belief that mosquito
bites cause malaria had a p-value of less than 0.25. These were the candidate variables for
the multilevel analysis but women’s working status and household size were not candidate
variables and were not considered for further analysis. y
g
variables and were not considered for further analysis. 3.3. Model Comparisons
From Table 2, the AIC and BIC for pregnant women’s usage of ITNs in Model IV
(individual-, community-, and regional-level factors) was small compared to the other three
models. Thus, Model IV (individual-, community-, and regional-level factors) was the
best-fitted to the study data. Table 2. Model comparison. Response
Model Comparison
Criteria
Null Model
(Model I)
Individual-Level
Factors
(Model II)
Community-Level
Factors
(Model III)
Individual- and
Community-Level
Factors (Model IV)
Pregnant women’s
usage of ITNs
AIC
1436.051
1431.974
1414.482
1389.77
BIC
1532.432
1479.779
1446.097
1438.32
3.4. Result of Multilevel Logistic Analysis
Before considering the multilevel analysis with all independent variables, the authors
tried to identify whether there was heterogeneity in the pregnant women’s usage of ITNs at
the community and regional levels by using the null (empty) model. This model contained
the response variable and the community- and regional-level variables. Table 3 shows that the estimated variance in the pregnant women’s usage of ITNs for
model I was 0.767 and 0.345, respectively, for the community level and the regional level. This suggested that there was a significant variation of pregnant women’s usage of ITNs
between communities and between regions. The ICC for the intercept-only model (Model I)
was 0.174 at the community level and 0.078 at the regional level. This shows that about
17.4% and 7.8% of the variation in pregnant women’s usage of ITNs was due to variations
at the community level and regional level, respectively. Table 3. Results of multilevel logistic regression random-coefficient model of pregnant women’s
usage of ITNs. 3.4. Result of Multilevel Logistic Analysis 3.4. Result of Multilevel Logistic Analysis Before considering the multilevel analysis with all independent variables, the authors
tried to identify whether there was heterogeneity in the pregnant women’s usage of ITNs at
the community and regional levels by using the null (empty) model. This model contained
the response variable and the community- and regional-level variables. Table 3 shows that the estimated variance in the pregnant women’s usage of ITNs for
model I was 0.767 and 0.345, respectively, for the community level and the regional level. This suggested that there was a significant variation of pregnant women’s usage of ITNs
between communities and between regions. The ICC for the intercept-only model (Model I)
was 0.174 at the community level and 0.078 at the regional level. This shows that about
17.4% and 7.8% of the variation in pregnant women’s usage of ITNs was due to variations
at the community level and regional level, respectively. Table 3. Results of multilevel logistic regression random-coefficient model of pregnant women’s
usage of ITNs. Variable
Null Model
(Model I)
Model II
Model III
Model IV
Fixed effect
AOR (95% CI)
AOR (95% CI)
AOR (95% CI)
AOR (95% CI)
Constant
0.67 (0.44–1.83)
Age
15–24 (reference category)
25–34
0.782 (0.533–1.46)
1.38 (1.024–3.11) **
35–44
0.351 (0.187–1.45)
0.78 (0.246–1.32)
45 and above
0.867 (0.125–2.79)
0.35 (0.110–1.76)
No education (reference category)
Primary
0.521 (0.290–1.88)
1.331 (1.026–1.94) *
Secondary
0.657 (0.335–1.28)
1.346 (1.314–1.59) *
Higher
0.761 (0.438–1.99)
1.225 (1.14–1.77) * Table 3. Results of multilevel logistic regression random-coefficient model of pregnant women’s
usage of ITNs. No education (reference category) Healthcare 2022, 10, 1418 8 of 12 Table 3. Cont. 3.4. Result of Multilevel Logistic Analysis Variable
Null Model
(Model I)
Model II
Model III
Model IV
Wealth index
Poorest (reference category)
Poorer
0.338 (0.136-.87) *
1.688 (1.237–3.44) *
Middle
0.651 (0.366–2.19]
1.754 (1.396–2.74) *
Richer
0.846 (0.761–1.57)
1.142 (0.66–1.49)
Richest
0.289 (0.167–0.42) *
1.021 (0.992–1.534)
Sex of household head
Male (reference category)
Female
1.440 (1.338–2.67) *
0.62 ([0.356–1.33)
Current marital status
Never in union (reference
category)
Married/living with partner
0.342 (0.153–1.466)
0.49 (0.313–1.55)
Widowed/divorced/separated
0.130 (0.065–1.51)
0.193 (0.064–2.91)
Belief that mosquito bites cause malaria
No (reference category)
Yes
1.384 (0.766–1.93)
1.49 (1.224–1.854) *
Place of residence
Urban (reference category)
Rural
1.158 (0.531–1.73)
1.248 (1.0145–2.97) *
Region
Tigray(reference category)
Afar
0.94 (0.641–3.24)
0.87 (0.65–9.46)
Amhara
1.49 (1.159–2.53) *
1.48 (1.160–2.52) *
Oromia
2.52 (2.981–4.21) *
2.54 (2.987–4.199) *
Somali
2.451 (1.352–5.35) *
2.452 (1.354–5.33) *
Benishangul-Gumuz
2.94 (0.137–4.748]
2.941 (0.945–4.743)
SNNPR
5.26 (3.681–9.58) *
5.27 (3.684–9.54) *
Gambela
3.24 (0.686–9.323)
3.22 (0.685–9.320)
Harari
2.868 (0.773–8.59)
4.865 (0.776–18.55)
Addis Ababa
5.89 (0.261–17.479)
5.87 (0.264–17.476)
Dire Dawa
4.99 (2.72–7.23) *
4.89 (2.76–7.03) *
Random effect
Variance (community)
0.767 (0.588–976)
0.601 (0.322–3.89)
0.927
1.607
ICC (community)
0.174
0.143
0.194
0.264
Variance (region)
0.345 (0.177–514)
0.299 (0.151–1.96)
0.540
1.182
ICC (region)
0.078
0.071
0.113
0.19
* p < 0.05, ** p < 0.01; AOR=adjusted odds ratio; CI=confidence interval Table 3. Cont. Healthcare 2022, 10, 1418 9 of 12 9 of 12 From the final model (model IV), region, place of residence, belief that mosquito
bites cause malaria, and the women’s wealth index, educational level, and age were the
significant factors in their usage of ITNs. The intra-community correlation coefficient of
pregnant women’s usage of ITNs in model IV was estimated to be 0.264. This means
that about 26.4% of the total variability in pregnant women’s usage of ITNs was due to
differences across the community (place of residence), with the remaining 73.6% of variation
in pregnant women’s usage of ITNs attributable to individual differences. The intra-region
correlation coefficient of pregnant women’s usage of ITNs in model IV was estimated to
be 0.19. This means that 19% of the total variability in pregnant women’s usage of ITNs
was due to differences across the region, with the remaining 81% of variation in pregnant
women’s usage of ITNs attributable to individual differences. 3.4. Result of Multilevel Logistic Analysis g
Controlling other variables in the model as a constant, the odds of usage of ITNs
among pregnant women aged between 25 and 34 were 13.8% more than among those aged
between 15 and 24. The odds of usage of ITNs among pregnant women with primary,
secondary, or higher educational levels were 13.31%, 13.46%, and 12.25%, respectively,
more than among pregnant women with no education. The odds of usage of ITNs for
poorer- and middle-wealth-index women were 16.88% and 17.54%, respectively, more than
among the poorest pregnant women. The odds of usage of ITNs among pregnant women
who believed that mosquito bites cause malaria were about 14.9% more than among those
who believed mosquito bites do not cause malaria. The odds of usage of ITNs among
pregnant women who resided in rural areas were 12.48% more than those who resided
in urban areas. Controlling other regions in the variable as a constant, the odds of usage
of ITNs among pregnant women in the Amhara, Oromia, Somali, SNNP, and Dire Dawa
regions were about 14.8%, 25.4%, 24.5%, 52.7%, and 48.9% more, respectively, than those
from the Tigray region. 4. Discussion Based on data obtained from the 2016 EDHS, the current study focused on pregnant
women’s usage of ITNs in Ethiopia and, using bivariate and multilevel logistic regression
analysis, identified the factors associated with usage of the nets. The study found that
58.37% of pregnant women slept under a net. This result is consistent with previous stud-
ies [28–32]. Women’s educational level was associated with ITNs usage among pregnant
women; those with secondary or higher educational levels were more likely to sleep un-
der a net than those who had no education. A similar study conducted in Nigeria [33]
confirmed this finding and argued that based on the demographic profile, the majority
of women had either attained a secondary or higher educational level. The high literacy
level, no doubt, played a significant role in their knowledge because educated women are
able to comprehend the information provided by the newspapers and other mass media. Education promotes empowerment and ensures development benefit through a continuous
learning process, so that the pregnant women learn more about ITNs usage [34] We also found that the richest women were more likely to use ITNs during pregnancy
than the poorest women. However, a study conducted in Kinshasa showed that the poorest
women were more likely to use a net during pregnancy than other women [35]. Owning
more than one net was associated with a nearly two-fold increased likelihood of using a
net in pregnancy [36]. This finding is possibly due to pressure caused by poverty and a low
incidence of malaria and shows that intensified education among the poorest women is
crucial because they may have ITNs but may use them for other purposes or even sell them
to make a living due to unavailability of food and other necessities of their families [37]. The ages of the pregnant women were significant to their usage of ITNs. Pregnant
women aged 45 years and above were less likely to use ITNs than younger women. There
was a similar finding in a study conducted in southern Ethiopia [38]. Place and region
of residence were significant factors in pregnant women’s usage of ITNs. Specifically,
pregnant women from rural areas were less likely to use ITNs than women from urban
areas. A similar study argued that relative to rural women, women of urban residence Healthcare 2022, 10, 1418 10 of 12 10 of 12 were more likely to use ITNs [39]. 4. Discussion This is perhaps because they are more familiar with
the education and health systems and how the nets are used. It is well established in
literature that ownership of ITNs does not necessarily translate into utilization. Given that
most health-care facilities in sub-Saharan Africa are predominantly concentrated in urban
locations, being prompted and motivated to use their ITNs by healthcare professionals is a
necessity [39,40]. y
Other findings indicate that women in rural areas are more likely to use ITNs. This
outcome shows that rural residents in Ethiopia have a higher chance of using ITNs than
urban residents following a national mass-distribution exercise. This finding is similar to
that of other studies in Ghana and Cameroon [41,42]. In contrast, Ameyaw et al. [31] noted
that rural residents in Uganda have a lower chance of using ITNs than urban residents
following a national mass-distribution exercise. g
The regional factor was another significant factor in ITNs utilization. This is because of
malaria-endemic areas that might have forced households to use ITNs for fear of malarial
infection. The sex of the household head was not significant in this study. This contradicted
the studies conducted by Krah et al. and Renne et al. [43,44]. The ratio of ITNs to household
members is the reason for this outcome. With fewer ITNs, and taking into account the
traditional messaging on ITNs use by women and children under five, men should give
preference to females when there are not enough ITNs available. The reason for this is
that women often sleep under the same net as the children under five, who are the most
vulnerable. This explanation contradicts some suggestions that give males in the household
the power of decision-making, and the belief that males will use ITNs if there are not
enough for all household members. The marital status of women was also not a significant
factor in ITNs use, a finding similar to that of a study conducted in Nigeria by Onoriode
Ezire et al. [45]. Other studies have shown that interpersonal communication and community en-
gagement are excellent ways to build skills and increase knowledge [46,47]. Although
ownership of a net is very significant, we did not find a significant relationship between
the number of nets owned, the length of time the household had owned the net, and its
actual use. 4. Discussion Accordingly, having the right information and skills are more important than
owning a large number of nets. 5. Conclusions Conflicts of Interest: The authors declare no conflict of interest. References 1. WHO: World Health Organization. 2021 World Malaria Report. Available online: https://www.malariapartnersinternational. org/world-health-organization-releases-2021-world-malaria-report/ (accessed on 18 January 2022). 2. WHO: World Health Organization. World Malaria Report 2018. Available online: http://apps.who.int/i
665/275867/9789241565653-eng.pdf. (accessed on 1 February 2022). g p
y
3. CDC.: Center for Disease Control and Prevention. Parasites-Malaria. 2020. Available online: https://www.cdc.gov/parasites/
malaria/index.html (accessed on 12 February 2022). 4. Okiring, J.; Epstein, A.; Namuganga, J.F.; Kamya, E.V.; Nabende, I.; Nassali, M.; Sserwanga, A.; Gonahasa, S.; Muwema, M.;
Kiwuwa, S.M.; et al. Gender difference in the incidence of malaria diagnosed at public health facilities in Uganda. Malar. J. 2022,
21, 22. [CrossRef] [PubMed] ,
[
] [
]
5. Gender and Health. Gender, Health and Malaria. Available online: https://www.who.int/gender/documents/gender_health_
malaria.pdf (accessed on 23 February 2022). 6. Yirsaw, A.N.; Gebremariam, R.B.; Getnet, W.A.; Mihret, M.S. Insecticide-treated net utilization and associated factors among
pregnant women and under-five children in East Belessa District, Northwest Ethiopia: Using the Health Belief model. Malar. J. 2021, 20, 130. [CrossRef] ]
M.; Show, K.L. Utilization of insecticide-treated bed nets among pregnant women in Myanmar–analysis of the
phic and Health Survey. PLoS ONE 2022, 17, e0265262. [CrossRef] 7. Aung, P.L.; Win, K.M.; Show, K.L. Utilization of insecticide-treated bed nets among pregnant women in
2015–2016 Demographic and Health Survey. PLoS ONE 2022, 17, e0265262. [CrossRef] 8. Asumah, M.N.; Akugri, F.A.; Akanlu, P.; Taapena, A.; Boateng, F. Utilization of insecticides treated mosquito bed nets among
pregnant women in Kassena-Nankana East municipality in the upper east region of Ghana. Public Health Toxicol. 2021, 1, 1. [CrossRef] 9. Babalola, O.J.; Sambo, M.N.; Idris, S.H.; Ajayi, I.-O.O.; Ajumobi, O.; Nguku, P. Factors associated with ut
women of child-bearing age in Igabi, Kaduna State, Nigeria. Malar. J. 2019, 18, 412. [CrossRef] [PubMe 10. Desai, M.; ter Kuile, F.O.; Nosten, F.; McGready, R.; Asamoa, K.; Brabin, B.; Newman, R.D. Epidemiology and burden of malaria
in pregnancy. Lancet Infect. Dis. 2007, 7, 93–104. [CrossRef] 11. World Health Organization. World Malaria Report: 2012. World Health Organization; 2012. Available online: https://reliefweb. int/report/world/world-malaria-report-2012 (accessed on 15 January 2022). p
p
y
12. Lengeler, C. Insecticide-treated bed nets and curtains for preventing malaria. Cochrane Database Syst Rev. 2004, 2, CD000363. [CrossRef] 13. World Health Organization. Insecticide-Treated Mosquito Nets: A WHO position statement; World Health Organization: Geneva,
Switzerland, 2008. 14. Kleinschmidt, I.; Schwabe, C.; Shiva, M.; Segura, J.L.; Sima, V.; Mabunda, S.J.A.; Coleman, M. Combining Indoor Residual
Spraying and Insecticide-Treated Net Interventions. 5. Conclusions The study found that the prevalence of ITNs usage is relatively low in Ethiopia. The
region, place of residence, belief that mosquito bites cause malaria, and wealth index,
educational level, and age of the women were the significant factors associated with
pregnant women’s usage of ITNs. In light of these findings, it is necessary to analyze
and improve current ITNs inventions. Specifically, awareness creation by the community
and health-extension workers of the importance of ITNs usage in Ethiopia is necessary. The Ethiopian government should provide awareness to pregnant women across primary
healthcare centers and expand public knowledge on the importance of ITNs through
targeted and multimedia approaches. It was found that the prevalence of ITNs use in the study area was lower than the
national target and its main barriers were misconceptions and misperceptions regarding
ITNs and malaria. Therefore, improving ITNs utilization would require reversal of the
community’s misconceptions about malaria and ITNs through information, education,
communication, and behavioral change. Supplementary Materials: Supplementary information about the DHS data usage and ethical stan-
dards are available at http://goo.gl/ny8T6X (accessed on 8 January 2022). Author Contributions: K.A.K. and T.U.C. developed the study concept and performed the analysis;
K.A.K., T.U.C., R.H.B., J.E.H.J., A.-A.S. and B.O.A. drafted and revised the manuscript. All authors
have read and agreed to the published version of the manuscript. Healthcare 2022, 10, 1418 11 of 12 11 of 12 Funding: The authors sincerely thank Bielefeld University, Germany for providing financial support
through the Open Access Publication Fund for the article processing charge. Funding: The authors sincerely thank Bielefeld University, Germany for providing financial support
through the Open Access Publication Fund for the article processing charge. Funding: The authors sincerely thank Bielefeld University, Germany for providing financial support
through the Open Access Publication Fund for the article processing charge. Institutional Review Board Statement: Ethical clearance was obtained by the Institutional Review
Board of ICF International. Permission was also sought from each woman during the fieldwork. The authors requested and officially received approval from the DHS Program to use the dataset for
this study. Informed Consent Statement: Informed consent was obtained from all subjects involved in the study. Data Availability Statement: The dataset used for the study is available at: https://dhsprogram. com/data/available-datasets.cfm. Article, Communication, Brief Report, Case Report, Proceedings,
Data Descriptor, Project Report (accessed on 8 January 2022). Conflicts of Interest: The authors declare no conflict of interest. References Am. J. Trop. Med. Hyg. 2009, 81, 519–524. [CrossRef] [PubMed] 15. Rashed, S.; Johnson, H.; Dongier, P.; Moreau, R.; Lee, C.; Lambert, J.; Schaefer, C. Economic impact of febrile morbidity and
use of permethrin-impregnated bed-nets in a malarious area I. Study of demographics, morbidity, and household expenditures
associated with febrile morbidity in the Republic of Benin. Am. J. Trop. Med. Hyg. 2000, 62, 173–180. [CrossRef] [PubMed] y
p
p
yg
16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the trea
Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef y
p
p
yg
16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the treatment of uncomplicated
Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef]
17
Alonso P; Noor A M The global fight against malaria is at crossroads Lancet 2017 390 2532 2534 [CrossRef] 16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the treatment of uncomplicated
Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef] 16. Kinfu, G.; Gebre-Selassie, S.; Fikrie, N. Therapeutic efficacy of artemether lumefantrine for the treatment of unc
Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef]
17. Alonso, P.; Noor, A.M. The global fight against malaria is at crossroads. Lancet 2017, 390, 2532–2534. [CrossRef] p
y
Plasmodium falciparum malaria in Northern Ethiopia. Malar. Res. Treat. 2012, 2012, 548710. [CrossRef]
17
Al
P N
A M Th
l b l fiht
i
t
l
i i
t
d
L
t 2017 390 2532 2534 [C
R f] p
p
A.M. The global fight against malaria is at crossroads. Lancet 2017, 390, 2532–2534. [CrossRef] g
g
g
18. Dombrowski, J.G.; de Souza, R.M.; Silva, N.R.M.; Barateiro, A.; Epiphanio, S.; Gonçalves, L.A.; Marinho, C.R.F. Malaria during
pregnancy and newborn outcome in an unstable transmission area in Brazil: A population-based record linkage study. PLoS ONE
2018, 13, e0199415. [CrossRef] [PubMed] 19. Omer, S.A.; Idress, H.E.; Adam, I.; Abdelrahim, M.; Noureldein, A.N.; Abdelrazig, A.M.; Elhassan, M.O.; Sulaiman, S.M. Placental
malaria and its effect on pregnancy outcomes in Sudanese women from Blue Nile State. Malar. J. 2017, 16, 374. [CrossRef] 12 of 12 12 of 12 Healthcare 2022, 10, 1418 20. Atkinson, J.-A.M.; Fitzgerald, L.; Toaliu, H.; Taleo, G.; Tynan, A.; Whittaker, M.; Riley, I.; Vallely, A. References Community participation
for malaria elimination in Tafea Province, Vanuatu: Part I. Maintaining motivation for prevention practices in the context of
disappearing disease. Malar. J. 2010, 9, 93. [CrossRef] [PubMed] pp
g
J
21. Debo, G.W.; Kassa, D.H. Prevalence of malaria and associated factors in Benna Tsemay district of pas
Ethiopia. Trop. Dis. Travel Med. Vaccines 2016, 2, 16. [CrossRef] p
p
22. Alemu, M.B.; Asnake, M.A.; Lemma, M.Y.; Melak, M.F.; Yenit, M.K. Utilization of insecticide treated bed net and associated
factors among households of Kola Diba town, North Gondar, Amhara region, Ethiopia. BMC Res. Notes 2018, 11, 575. [CrossRef]
[PubMed] 23. Central Statistical Agency (CSA); ICF. Ethiopia Demographic and Health Survey 2016; CSA: Addis
Calverton, MA, USA, 2016. 23. Central Statistical Agency (CSA); ICF. Ethiopia Demographic and Health Survey 2016; CSA: Addis Ababa, Ethiopia, 2016; ICF:
Calverton, MA, USA, 2016. 4
G ld
H M l il
l S
i i
l M d l
J h
W l
S
H b k
NJ USA
11 24. Goldstein, H. Multilevel Statistical Models; John Wiley & Sons: Hoboken, NJ, USA, 2011. 25. Oztruk, Z.; Cengiz, M.A. Comparison of Markov Chain Monte Carlo Convergence Diagnostic test for Bayesian logistic Random
Effect Models. Int. J. Res. Med. Health Sci. 2016, 9, 1–10. 26. Agresti, A. Categorical Data Analysis; John Wiley & Sons: Hoboken, NJ, USA, 2002. 27. Alston, C.; Kuhnert, P.; Choy, L.S.; McVinish, R.; Mengersen, K. Bayesian model comparison: Review and discussion. In
Proceedings of the International Statistical Institute: 55th Session, Sydney, Australia, 5–12 April 2005. 28. Tesfaye, T.; Alemu, B.M.; Egata, G.; Bekele, H.; Merga, B.T.; Eshetu, B.; Balis, B. Insecticide-Treated Nets Utilization and Associated
Factors Among Pregnant Women in Miesso Woreda, Eastern Ethiopia: Observational Study. Int. J. Womens Health 2022, 14,
445–453. [CrossRef] [PubMed] 29. Berkessa, T.; Oljira, D.; Tesfa, B. Insecticide treated nets use and its determinants among settlers of Southwest Ethiopia. BMC
Public Health 2015, 16, 106. [CrossRef] 30. Mekuria, M.; Binegde, D.N.; Derega, J.; Bala, E.T.; Tesfa, B.; Deriba, B.S. Insecticide-Treated Bed Net Utilization and Associated
Factors Among Households in Ilu Galan District, Oromia Region, Ethiopia. Environ. Health Insights 2022, 16, 11786302221078122. [CrossRef] [
]
31. Ameyaw, E.K.; Kareem, Y.O.; Yaya, S. Individual, community and region level predictors of insecticide-treated net use among
women in Uganda: A multilevel analysis. Malar. J. 2020, 19, 337. [CrossRef] [PubMed] 32. National Bureau of Statistics Dar es Salaam, Tanzania. References Tanzania Demographic and Health Survey 2004–2005; ORC Macro: Calverton,
MD, USA, 2005. 33. Musa, O.I.; Salaudeen, G.A.; Jimoh, R.O. Awareness and use of insecticide treated nets among women attending ante-natal clinic
in a northern state of Nigeria. J. Pak. Med Assoc. 2009, 59, 354–358. [PubMed] g
34. Aluko, J.O.; Oluwatosin, A.O. Utilization of insecticide treated nets during pregnancy among postp 34. Aluko, J.O.; Oluwatosin, A.O. Utilization of insecticide treated nets during pregnancy among postpartum women in Ibadan,
Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] g p
g
y
g p
Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed] Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed]
f
l
k
ll
b l
d
l
h
k
h
d
b
f
d Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed]
35. Pettifor, A.; Taylor, E.; Nku, D.; Duvall, S.; Tabala, M.; Mwandagalirwa, K.; Meshnick, S.; Behets, F. Free distribution of insecticide Nigeria: A cross-sectional study. BMC Pregnancy Childbirth 2012, 12, 21. [CrossRef] [PubMed]
35. Pettifor, A.; Taylor, E.; Nku, D.; Duvall, S.; Tabala, M.; Mwandagalirwa, K.; Meshnick, S.; Behets, F. Free distribution of insecticide
treated bed nets to pregnant women in Kinshasa: An effective way to achieve 80% use by women and their newborns. Trop. Med. 35. Pettifor, A.; Taylor, E.; Nku, D.; Duvall, S.; Tabala, M.; Mwandagalirwa, K.; Meshnick, S.; Behets, F. Free distribution of insecticide
treated bed nets to pregnant women in Kinshasa: An effective way to achieve 80% use by women and their newborns. Trop. Med. Int. Health 2009, 14, 20–28. [CrossRef] [PubMed] 36. Ameyaw, E.K. Individual, community and societal correlates of insecticide treated net use among pregnant women in sub-Saharan
Africa: A multi-level analysis. BMC Public Health 2021, 21, 1592. [CrossRef] [PubMed] y
37. Maslow, A.H. A theory of human motivation. Psychol. Rev. 1943, 50, 370–396. [CrossRef] y
y
38. Tassew, A.; Hopkins, R.; Deressa, W. Factors influencing the ownership and utilization of long-lasting insecticidal nets for malaria
prevention in Ethiopia. Malar. J. 2017, 16, 262. [CrossRef] [PubMed] 39. Dominic, A.; Ogundipe, A.; Ogundipe, O. Determinants of Women Access to Healthcare Services in Sub-Saharan Africa. Open
Public Health J. 2019, 12, 504–514. [CrossRef] , N. Measuring Empowerment in Practice: Structuring Analysis and Framing Indicators; World Bank Publications
SA, 2005. 40. Alsop, R.; Heinsohn, N. 47.
Ezeama, M.; Ezeamah, F. Geneva Health Forum. Online. 2013. Available online: http://ghf.g2hp.net/
insecticide-treated-nets-among-pregnant-women-in-nigeria/#.VE-j7NhOUlY (accessed on 28 October References Measuring Empowerment in Practice: Structuring Analysis and Framing Indicat
Washington, DC, USA, 2005. g
41. Ricotta, E.; Oppong, S.; Yukich, J.O.; Briët, O.J.T. Determinants of bed net use conditional on access in population surveys in
Ghana. Malar. J. 2019, 18, 63. [CrossRef] J
[
]
42. Fokam, E.B.; Kindzeka, G.F.; Ngimuh, L.; Dzi, K.T.J.; Wanji, S. Determination of the predictive factors of long-lasting insecticide-
treated net ownership and utilisation in the Bamenda Health District of Cameroon. BMC Public Health 2017, 17, 263. 42. Fokam, E.B.; Kindzeka, G.F.; Ngimuh, L.; Dzi, K.T.J.; Wanji, S. Determination of the predictive factors of long-lasting insecticide-
t
t d
t
hi
d
tili
ti
i
th B
d H
lth Di t i t f C
BMC P bli H
lth 2017 17 263 43. Okrah, J.; Traore, C.; Pale, A.; Sommerfeld, J.; Muller, O. Community factors associated with malaria prevention by mosquito nets:
An exploratory study in rural Burkina Faso. Trop. Med. Int. Health 2002, 7, 240–248. [CrossRef] 43. Okrah, J.; Traore, C.; Pale, A.; Sommerfeld, J.; Muller, O. Community factors associated with malaria p
An exploratory study in rural Burkina Faso. Trop. Med. Int. Health 2002, 7, 240–248. [CrossRef] 44. Renne, E.; Kirby, K.; Akkineni, R. Bednet use and malaria knowledge in Zaria City, Nigeria. J. Int. y
g
y
g
45. Ezire, O.; Adebayo, S.B.; Idogho, O.; Bamgboye, E.A.; Nwokolo, E. Determinants of use of insecticide-treated nets among pregnant
women in Nigeria. Int. J. Womens Health 2015, 7, 655. [CrossRef] [PubMed] g
46. Ukibe, S.N.; Mbanugo, J.I.; Ukibe, N.R.; Ikeakor, L.C. Level of awareness and use of insecticide treated bed nets among pregnant
women attending antenatal clinics in Anambra State, South Eastern Nigeria. J. Public Health Epdemiol. 2013, 5, 391–396. 47. Ezeama, M.; Ezeamah, F. Geneva Health Forum. Online. 2013. Available online: http://ghf.g2hp.net/2013/07/19/the-use-of-
insecticide-treated-nets-among-pregnant-women-in-nigeria/#.VE-j7NhOUlY (accessed on 28 October 2014).
|
W2086031318.txt
|
https://zenodo.org/records/1518935/files/article.pdf
|
de
|
Die Bildung der Dreikanter
|
Geologische Rundschau
| 1,913
|
public-domain
| 3,236
|
W. I~'A~XVC~ -- :Die Bildung der Dreikanter.
311
157, 158. LSB, Umstadt (Hessen), HaarlaB b. Heidelberg, WZRLn~G.
159--161. LSI~, Ringsheim, Wasenweiler, Ringsheim, Se~I~G.
162--169. LSB, Malagiieno(Argent.), Canadon yon Pueara, Alvear, Talu, Rosario,
Talu, Alvear (Argent.), Umstadt (Hessen), W~LI~G.
170. L5B, Gottenheim, Sc~E~I~G.
171--174. LSB, HShnheim, HaidingsIeld, Langen-Weddingen,Manet a. d. Elsenz,
WERLIlgG.
175--179. Grauwaeke,Lohra, Lohra, Altenldrchen, Heiliger Berg b. l%oth., Erdhausen b. Gladenbaeh, WALTJ~ER.
180. Zeehsteinkonglomerat,Saehsenberg, WALTHE~.
181--=183. Grauwaeke,Hermershausen, Oberstadtfeldt, Unkel a. Rhein, W~tT.T~m
Die Bildung der Dreikanter.
Von San.-Rat Dr. Wilhelm Pfannkueh (Cassel.)
(Mit 19 Textfiguren und Tafel X.)
In dem Berieht fiber die Versammlungen des Niederrheinischen geo]ogischen Vereins yore Jahre 1911 finder sieh ein Vortrag des tlerrn
L. Lo~I~-Utrecht fiber: ,>DieBildung der Dreikanter <,, aus dem hervorgeht, dal~ eine Einigung tier Anschanungen tiber die Entstehung dieser
interessanten Gebilde noch nicht erreieht ist. W~hrend die einen den
ttanptfaktor fiir die Bildung der Flgchen und Kanten in der abschleifenden Wirkung des Sandflugs erblieken, heben die anderen die Priiformierung der Kantengeschiebe dutch die jedem Gestein eigentfimliehe
Spaltbarkeit in verschiedenen Ebenen hervor und gestehen dem Windsehliff nnr eine sekundgre, nicht einmal immer fSrderliche Bedeutung zu.
Wenn iek als Late mir erlaube, in dieser Frage das Wort zu ergreifen,
so stfitze ieh reich dabei auf sorgfgltige Beobaehtungen, die ieh bet wiederholtem Aufenthalt anf Sylt an den dort zahlreich zu findenden Kantern
gemaeht habe, und auf Grnnd deter ich zu der ~berzeugung gekommen
bin, dal~ die Winderosion die Hauptursaehe der Kantenbildung ist, und
dal~ man, yon dieser Annahme ansgehend, mit Hilfe einfaeher physikaliseher Gesetze die Entstehnng einer jeden Kanterform leieht nnd nngezwungen erkl~ren kann.
Die Kantengesehiebe finden sieh in Sylt, gemiseht unter anderes
gewShnliehes Gesehiebe, sowohl am Strand, hauptsgehlieh in einem
Streifen, der der jeweiligen Flutgrenze entsprieht, als aaeh in den Kiesgruben und Aufsehliissen im Innern tier Insel, sowie in den Sehiehten,
die in dem yon Westerland zum l~oten Kli~f sieh hinziehenden Steilabsturz der Kiiste zutage treten. Diesen Sehiehten entstammen aueh die
jetzt am Strand liegenden, vom Neere ausgeworfenen Kiesel, da ja bekanntlieh ein Teil der Insel gegenw~rtig yore Neere fiberflutet ist.
Diese Gesehiebe sind in der Diluvialzeit mit dem Norgnensehutt
nnd Gesehiebelehm der naeh Siiden vorrfiekenden nordisehen Gletseher
hierher transportiert ~nd auf dem tertigren Kern der Insel abgelagert
312
I. Aufs~ttze und Mitteilungen.
worden. Die Kanter sind also nicht etwa in Sylt entstanden. In ihrer
Gesamtheit bieten sie eine wahre Musterkarte der skandinavisehen Gebirge. Neben Quarzen, Quarziten, feinern nnd grSbern Sandsteinen
liegen versehiedenartige Porphyre, Granite, Gneise und andere Schiefer,
sowie wunderliche, oft Seeigel und Museheln enthaltende Feuersteinknollen, die mehr dem Ostseegebiet angehSren. Aueh nnter den abgesehliffenen Kantern sind alle diese Gesteinsarten vertreten, am hiiufigsten die Quarze nnd Quarzite, am seltensten die Feuersteine.
Sieht man davon ab, dab bet den homogenen Gesteinen (z. B. Quarzen)
die Kanten schSner und sehgrfer ausgepriigt, nud die Fliiehen glatter sind
als bet den aus ungleieh hartem MateriM zusammengesetzten (z. B.
Porphyren, Graniten), so fgllt ohue weiteres auf, dab alle Kanter trotz
ihrer versehiedenen Herkunft eine so verbliiffende ~hnliehkeit in Form
und Anlage zeigen, dal3 nicht in den Gesteinen selbst liegende Griinde,
wie die Spalt- oder Kluftbarkeit, fiir ihre Entstehung maBgebend gewesen sein k6nnen, sondern dal~ eine yon aul~en kommende, fiir alle
Kanter gleiehe, gesetzmiil]ig wirkende Kraft ihre Bildung herbeigefiihrt
haben mug. Diese Kraft kann nut der Sandflug geweseri sein. Vorbedinging war allerdings, dal~ die Gesteinstriimmer, ehe sie ibm ausgesetzt
waren, in eine giinstige Form gebracht wurden, denn aus rohen, unregelmiigigen Stricken kann der Sandflug keine so regelmiil]igen Kanter herstelten, wie wit sie auf Sylt finden. Erst mugten die Gesteinstriimmer
in flieBendem Wasser dutch Sand and gegenseitige Reibnng abgerundet
und zu Geschieben oder GerSllen werden, ~ihnlieh denen unserer inliindischen Fliisse. Die mehr oder weniger gewSlbten Fliiehen soleher
Kiesel boten erst den notwendigen Angriffspunkt fiir den Flugsand, nnd
ihre gan.ze Form erst die MSglichkeit des Sehliffes von bestimmten
Fliiehen nnd Kanten.
Gegen die Theorie der Winderosion hat man nun e!ngewendet, dal~ es
sehwer verstiindlich set, wie der Wind, der, selbst wo I-Iauptriehtungen
vorherrschen, doch immerhin 5fters wechsele, so regelmiil3ige Schliffe
hervorrufen kSnne, nm so weniger, als auch die Kiesel, besonders die
kleinen, nicht immer still liigen, sondern schon von mgl~igen Winden
vielfach hin nnd her geschoben uud gerollt wiirden. Um diesen Einwand
zn entkrgften, mtissen wit den ganzen Vorgang etwas n~iher untersnchen.
Nehmen wir den einfachsten Fall, dalt ein spindelf6rmiger Kiesel in
ether sandigen Ebene derart liegt, dal~ er dem Winde eine Spitze zuwendet. Dann wirbelt der Flngsand gegen die Spitze nnd brieht sich
hier, wie tier Flul~ an einem Eisbrecher in zwei StrSme, die beide Seiten
bestreiehen und abschleifen. Auf diese Weise entsteht eine in der Lgngsrichtnng ziehende Kante. Dasselbe gesehieht natiirlich, wenn der Wind
umspringt nnd gegen die andere Spitze weht. Dreht sich abet der Wind
nm 90 ~ so trifft er reehtwinklig gegen eine Seite, dann spriiht der
Flugsand nach oben fiber den Stein bin, sehleifg die ihm zugewandte
Seite zu einer Flgche ab nnd bildet mit der anf der anderen Seite bet
W. PFA~r~UeH -- Die Bildung der Dreikanter.t
313
entgegengesetzter Windrichtung in gleicher Weise entstehenden Fliiche
ebenfalls eine scharfe Kante, die mit der obigen sich deckt. Es bedarf
keines besonderen Beweises, da$ auch die aus einer l%benrichtung
kommenden Winde in demselben Sinne arbeiten, indem sie bald die
Schleifwirkung des einen, bald die des anderen Hauptwindes unterstfitzen. Das Resultat ist immer dasselbe: aus dem spindelf5rmigen
Kiesel wird ein-Einkanter.
Hat nun tier Kiesel eine dreieckige Gsundfl~che, mag sie gleichseitig
oder ungleichseitig, langgestreckt odes herzfSrmig sein, so wickelt sich
des Yorgang genau in derselben Weise ab. Yon den drei Spitzen aus
bilden sich drei Kanten, die nach des Mitte hin ziehen und sich dost
treffen, und yon den drei Seiten aus bilden sich drei Fliiehen, die in diesen
Kanten zusammenstoSen. Das Resultat ist ein Dreikanter. I n der
n~m3ichen Weise bildet sich aus einem vieseckigen Kiesel, wenn er mehr
quadratisch ist, ein u
und wenn es, wie gew5hnlich, mehr
l~nglich sechteckig ist, ein Ffinfkanter usw., i n d e m s t e t s die e n t s t e h e n d e n K a n t e n n a c h Zahl u n d Lage den I-Ialbierungsl i n i e n der die E c k e n b i l d e n d e n W i n k e l e n t s p r e c h e n .
Ein Blick auf die Abbildungen (Fig. A D u. 1--7) l~$t die Richtigkeit dieser Ausffihsungen ohne weiteres eskennen. Man kann sie in
den Satz zusammenfassen, dai3 die Zahl der K a n t e n u n d F l ~ c h e n ,
die d u r c h W i n d e r o s i o n an e i n e m K i e s e l e n t s t e h e n , b e s t i m m t
Wird d u s e h s e i n e n GrundriI~, i n d e m y o n e i n e r E c k e aus
s t e t s eine K a n t e u n d fiber eine~ Seite s t e t s eine Sehlifff l ~ c h e sioh bildet.
Das ist so gesetzm~$ig, da$, wenn z. B. von einem dreieckigen Kiesel
eine Ecke abgebrochen ist, fiber des Bruehstelle jedesmal ein kleines
abgeschliffenes Dreieek sich finder, yon dessen Spitze dann esst die normale Kante ausgeht, nnd dal~ andeserseits, wenn an einer Seite eine
unregelm~l~ige Eeke vosspringt, yon dieses Stelle stets eine, mindestens
angedeutete, kleine Nebenkante nach innen zieht (Fig. 8 u. 9). Auch
andere Unregelmii~igkeiten stSren oft das nosmale Bild, abes immes
im Rahmen des Gesetzes. Ist z. B. die Oberfl~che auf des einen Seite
vorgebuckelt und auf der anderen vertieft, so verl~uft die Mittelkante
dementspreehend gekriimmt, konvex naeh der WSlbung, konkav nach
des Einsenkung (Fig. 9).
Lehsreich sind in dieser Beziehung auch die sog. Doppelkantes, die
den Kantenschliff auf beiden Seiten zeigen. Da finder man mit grol~er
Regelm~i$igkeit auf beiden Seiten denselben Typus: Einkanter sitzt
auf Einkantes, Dreikanter auf Dreikanter, oft yon iiberraschender Ahnlichkeit, und nur dann gibt es davon Abweichungen, wenn besondere
Unregelm~l~igkeiten der Form dazu genStigt haben (Fig. 10 u. 11).
Um nun den Sandflug etwas eingehender zu studiesen, steckte ich
eines Tages bei scharfem Nordwest an einer geeigneten Stelle in den
Sylter Dfinen eine Glasscherbe mit des Front gegen den Wind in den
(}
Fig. 3
Fig. 2
Fig.
Fig, A
I
-Fig. C
Fig. ~ -~~-:~
_ Fig. B
Fig. 5a
Fig. 6a
:Fig. 5b
Fig. 6b
Fig. D
Fig. 7
Fig.
Fig. 9
Fig. t0a
Fig. 10b
Fig. l l a
Fig. l i b
Fig. A--D. Schemata der einzelnen Kanterformen. - - Fig. i. SpindelfSrmiger Einkanter (Quarz}. - Fig. 2. Elliptischer Einkanter (Quarz). - - Fig. 3. Breit ellipi~ischerEinkanter (Art Granit) mit Nebenkanten, ~bergang zum Fiinfkanter. - - Fig. ~. Dreikanter (Quarzit). - - Fig. 5. Viereckiger Ffinfkanter
(Sandsiein): a) Oberseite, b) Unterseite mit unebener Bruchfliiche und abgeschliffenem Rand. - Fig. 6. u
Fiinfkanter (Sandstein) : a) Oberseite, t)) Unterseite mit grol~er, glatter Ruhefliiche
und abgeschliffenem Rand. - - Fig. 7. Sechskanter (Qaarzitartiger Sandstein). - - Fig. 8. Dreikanter
(Sandstein) rait abgestumpfter Ecke und Nebenkant~n. - - Fig. 9. Unregelm~i~iger Dreikanter (Quarzit)
mit bogenfi~rmiger Hauptkante und mehreren I'~ebenkanten. - - Fig. 10. Scharfkantiger DoppelEinkanter(Quarzit): a) Oberseite, b) Unterseite.-- F i g . i i . Scharfkantiger Doppel-Dreikanter (Quarzit):
a) Oberseite, b) Unterseite: (Fig. l - - l l Verkleinerung auf 2/5.)
W. PIr~t~KCCI~ -- Die Bildung der Dreikanter.
315
Sand und beobachtete, was gesehah. Im Nu bildete sieh vor der Seherbe
dureh den Riickstol~ der Luft ein Graben, der sieh um beide Seitenkanten herumzog und, nach hinten and innen gekriimmt, allm~hlich sieh
verlief. In diesem Graben wirbelten die SandkSrner mit Maeht um die
Seherbe herum und bombardierten sie, in den Windsehatten zuriiekgeworfen, auch lebhaft yon riickwiirts. Aus diesem Experiment geht
deutlieh hervor, dal3 der Flugsand unter Umstgnden ein Hindernis von
allen Seiten zugleieh angreift, und zwar am stiirksten yon vorn, dab abet
aueh die naeh hinten verlaufenden, abgewandten Seiten bestrichen wetden kSnnen. Aueh aus diesem Grunde diirften also die Windriehtungen,
speziell die sog. regelm~l~igen Winde, nieht die Bedeutung haben, die
manehe ihnen zusehreiben mSehten..
Analysiert man die Art und Weise, wie der Flugsand wirkt, noeh
weiter, so ergibt sieh, dal~ jedes gegen einen Stein gesehleuderte Sandkorn unter seinem Aufsehlagwinkel wieder abprallt und entweder zuriiekgesehleudert wird (wie bei der oben besehriebenen Grabenbildung),
oder die Oberll~iehe streifend in der urspriingliehen Riehtung weiterflieg~. Die dabei gegen den Stein gegul3erte Kraft kann man naeh dem
bekannten Parallelogramm der Krgfte in zwei Komponenten zerlegen,
eine senkreeht gegen die Obel~l~iehe wirkende und eine ihr parallele.
Die GrSl~e beider Komponenten hgngt~ yon dem Auisehlagwinkel ab,
sie stehen zueinander in umgekehrtem Yerhgltnis. Bei horizontalem
Sandflug und sanft gegen den Wind geneigter Oberflgehe des Kiesels
treffen die SandkSrner letztere unter spitzem Winkel, ihre Hauptwirkung
ist deshalb eine sehleifende, sie glgtten und polieren die Oberflgehe und
geben ihr den eigentiimliehen matten Glanz, den man ats Fettglanz
bezeiehnet hat. Bietet abet der Kiesel dem Wind eine mehr steil abfallende Fl~ehe dar, oder fliegen die SandkSrner aus anderen Griinden
mehr senkreeht gegen den Stein, so bohren sie in seine Oberflgehe die
dieht nebeneinander stehenden kleinen Griibehen, die ebenfalls so sehr
eharakteristiseh fiir die Sandflugwirkung sind. WundersehSn sieht man
beides an dem grol~en Dreikanter, einem Quarzit, dessen Photographie
(Tar. X) ieh beifiige. VermSge seiner Sehwere hat er sieher lange
Zeit in unverriiekter Lage dem Sandflug seine Oberfliiehe dargeboten
und war sp~iter am Wattenmeer, wo er im Sehliek bei Munkmarseh
gefunden worden ist, dem zerstSrenden Einflul~ sandfiihrender Wellen
entzogen. Von seinen drei dutch seharfe Kanten getrennten Flgehen
sind die beiden naeh der Spitze des Dreieeks sanft geneigten glatt
poliert und mattgliinzend mit nut spgrliehen Griibehen naeh riiekwgrts
zu, wghrend die dritte,'die steil naeh der Basis abfiillt, narbig nnd mit
Griibehen dieht bedeekt ist. Ebenso erkennt man ansgezeichnet, wie
in diesem Falle der Flugsand den oben besehriebenen Graben rings nm
den Stein gezogen hatte, wodureh namentlieh die Spitze freigelegt nnd
nnterminiert wurde, und wie anf diese Weise der gar~ze i~and nebst einem
Teil der Unterflgehe abgesehliffen nnd poliert worden ist his zu dem feat-
316
I. Aufsgtze und Mitteilungen.
~ufliegenden mittleren Tell, der yon einer deutliehen Kante begrenzt ist
(vergl. Fig. 5b, 6b). HSehst merkwiirdig sind die musehel- nnd triehterfSrmigen Vertiefungen anf dieser unteren Fliiehe, ob sie Drnckerseheinungen sind oder auf Strndelwirkung beruhen, wage ieh nieht zu entseheiden.
Das Verhalten der Kanter hinsiehtlieh ihrer Unterflgehe ist ein versehiedenes. Viele sind vom Wind umgedreht nnd zu Doppelkantern
geworden, wie wit bereits oben sahen. Andere haben, wie jener grol3e
Dreikanter, lange ruhig gelegen wegen ihrer GrSl~e und Schwere, dann
Jst ihre Unterfl/iehe entweder kuglig gewSlbt oder im Gegenteil abgeplattet, oft vom Aussehen einer Brueh- oder Spaltfl~iehe. Aber aueh
kleinere Kanter haben oft eine glatte und geradezu gesehliffene UnterII~iehe, die dureh Hin- nnd Hersehieben auf dam Sand entstanden sein
k6nnte.
An vielen Kantern des Weststrandes sind die Spnren des Sandtlugs
nieht mehr so seharf ausgepriigt, well sie in der Brandung bereits einer
ge~dssen Riiekbildung unterliegen. Die Wellen, die bei jeder Flut einen
betrgehtliehen Tell des Strandes und bei Hoehwasser sogar den ganzen
Strand iiberfluten, reigen nnd rollen die Kanter mit Maeht bin nnd her
und sehleifen sie dureh den mitgefiihrten Sand yon neuem ab, so dal~
Glanz und Griibehen versehwinden, nnd die Kanten wieder abgerundet
werden, bis der Kanter sehlieNieh wieder ein einfaeher Kiesel geworden
ist. Wenn man dem spiel der Wellen zusieht, kann man sich leieht von
diesem Riiekbildungsprozel3 iiberzeugen und zugleieh yon dem fundamentalen Untersehied zwisehen Flugsandsehliff und Wassersehliff. Der
Sand in freiem Flug streift den Stein, wirkt gewissermagen tangential,
deshalb bildeg er glatte Flgehen und seharfe Kanten; das mit Sand
besohwerte Wasser umflutet den Stein, rollt nnd rundet ihn nnd verwiseht alle vorspringenden Ecken und Kanten.
Wenn deshalb Loms (a. a. O. S. 21) sagt, er habe bei seinen Wanderungen am Nordseestrand zahlreiche Fglle von Windsehliff beobachtet
und an den grogen Steinb15cken der Buhnen, sowie an 1osen Ger~llen,
zerbrochenen Flaschen, Ziegelsteinen usw. ausnahmslos gesehen, dal~
alle Fliiehen geglgttet, alle Kanten und Ecken abgerundet waren, so
kann ich naeh meinen Beobaehtnngen auf Sylt dis Vermntung nicht
unterdriicken, da$ es sich dabei nicht um Windschliff, sondern hm
Wasserschliff gehandelt hat. Die Sylter Kanter sind, wie ich eingangs
bemerkte, nieht in Sylt entstanden, sondern dortkin importiert, und wenn
ieh aneh nieht bestreiten will, dag auch in Sylt noeh gegenw~rtig Kanter
entstehen kSnnen, so ist mindestens die Gelegen_heit dazu nieht gerade
giinstig. In Betraeht kommen kann nut der Strand; die ausgeworfenen
Kiesel und Museheln liegen zumeist an der Flutgrenze, davon seew~rts
ist der Sand feueht, diinenwiirts aber liegen die Kiesel unter dem Sand.
Erst bier gibt es bei den vorherrsehenden Westwinden Sandflug gegen
die Diinen hin, wiihrend gegen den Ostwind die Diinen Sehutz gewghren.
W. P~A_w~xuc~ ~ Die Bildung dcr Dreikanter.
817
Ebenso werden die Buhnen regelm~l~ig iiberflutet oder liegen landeinwgrts im Sand begraben. Ich habe vergeblich an den Buhnen den
Windschliff zu stndieren versncht. Abgerundete Dreikanter aus Ziegelstein habe ich nut im Bereich der Brandung gefunden, ihre Abrundung
verdanken sie nnzweifelhaft dem Wasser, und ihre zuweilen noch wohl
erhaltenen seharfen Kanten und mit dem Fabrikationsglanz versehenen
Fl~chen offenbaren sie dentlich als abgebrochene Eeken yon Backsteinen, die mit Sandflug gar nichts zu tun haben.
Ebensowenig kann ich der Annahme des Grafen zu LEINI~GEN beitreten, wenn er (a. a. O. S. 22) sagt: ,>Wenn der Windschliff fortdanert,
so mul~ die scharf ausgepr~gte Form der Einkanter, Dreikanter usw.
eine Ab~nderung erleiden, der Wind ~eift nicht immer absolut genau
in der gleichen Richtung die Fl~ehen und Kanten an, und damit wird
das scharf umrissene Bild des Kanters nndentlich; es entsteht ein Stein
mit Schlifffl~chen, abet ohne ausgepr~igte Kanten nnd Ecken, und mehr
nnd mehr ~hnelt das Prodnkt des Sandschliffs den Rollsteinen, wie wir
sie in einem Flul~bett linden. <~
Diese Darstellung paint ebenfalls vollst~ndig auf die dutch Wasserschliff in Riickbildung begriffenen Kanter. Die Berufung anf die wechselnden Windriehtungen nnd ihre Folgen widerspricht den Tatsachen
und den physikalischen Gesetzen. Der fortdanernde Windscbliff kann
erst dann die Kanten, die er hervorgerufen hat, wieder zerst6ren, wenn
dutch zunehmende Abschleifung ihre Winkel = 2 t~, nnd damit die
Oberfl~che zu einer Ebene geworden ist. Auf diese Weise kommen abet
keine Rollsteine, ~>wie wit sie in einem Flnl3bett finden<~, zustande;
diese werden hie dutch Wind und Sand, sondern einzig dutch Wasser und
Sand gebildet, wie dies ia schon in dem Namen Gesohiebe oder Ger611e
ansgedriickt ist.
Wenn ich somit den Hauptnashdruck bei der Bildung der Kanter
auf den Windschliff lege, so gestehe ich andererseits auch der natiirlichen Spaltf~higkeit tier Gesteine einen gewissen Einflul] zn. Grol~
kann er schon um deswillen nicht sein, weft die verschiedensten Gesteine
ganz gleichartige Kanter liefern. Ich sehe ihn mehr darin, dal] die
ganze Form des Kiesels bereits davon abhgngt, in welsher Weise ein
Gestein sich zerkliiftet. So wird z. B. der rechteckig kliiftende Sandstein gem viereckige Kiesel liefern. Ist abet der Kiesel erst einmal
fertig, so bestimmt einzig sein Grundril3, was fiir ein Kanter aus ibm
wird. War jedoch bereits ~dutch die Spaltung ein Produkt entstanden~
das die nahezu vollendete Form eines Ein- oder Dreikanters trug, so
war das selbstverst~ndlich fiir die AbsGhleifung besonders giinstig. Bei
einem Fiinf- oder Sechskanter vdrd ein solcher Zufall wohl kanm zu
erwarten sein.
Manshe Xanter lassen eine noeh rohe oder gegl~ttete Spalt- oder
Bruchfl~che dentlich erkennen oder wenigstens vermuten, meistens an
ihrer Unterseite als l~uhefl~che. Bei anderen seheint eine Schlifffl~ch~
318
I. Aufshtze und Mit~eilungen.
der Oberseite aus natiirlicher Spaltung hervorgegangen, sie kann dann
in das gew6hnliche Bild eingepaBt sein oder es modifizieren, ohne jedoeh
seine GesetzmiiBigkeit aufzuheben. Notwendig sind diese Spaltfl~chen
abet nieht, da der Sandflug aus jedem gewShnlichen Kiesel unter giinstigen Bedingungen einen Kanter schleifen kann.
Unter den 86 Kantern, die ieh in Sylt als bemerkenswert gesammelt
habe, befinden sieh nur einige wenige, in Kiesgruben gefundene Dreikanter yon hoher Pyramideaform, die mit groBer Wahrscheinlichkeit
der natfirlichen Spaltung ihre Form and dem Sandflug nut ihren Sehliff
verdanken.
Ich fasse das Gesagte zmn SchluB in folgenden S~tzen zusammen:
1. Die Kanter Sylts (und wohl der Nordseekiiste iiberhaupt) sind
gebildet dutch Flugsandschliff aus Kieseln (Gesehieben und GerSllen) versehiedener Gesteinsarten.
2. MaBgebend fiir die Zahl und Anordnung der Kanten und Fl~chen
ist der Grundril3 des Kiesels.
3. Gesetz ist, dab yon einer Eeke des Grundrisses aus stets eine
Kante nnd yon einer Seite aus stets eine Flgehe sieh bildet.
4. Von untergeordneter Bedeutung ist dabei die Windriehtung.
Winde aus allen Riehtungen erzengen stets die dem GrnndriB des
Kiesels entsprechende Xanterform.
5. Die Spaltf~higkeit des Gesteins kann diesen Vorgang begiinstigen,
meier wirkt sie aber wohl mehr indirekt.
Erkl~rung zu Tafel X.
Q u a r z i ~ - D r e i k a n t e r (1/~ nat. Gr.)
Gewieht: 938 g, L~nge 15 am, Brei~e: 11 cm, Dicke: 5 r
Fig. 1. Obere SeiSe:
a, b, c, die 3 Itauptfl/~chen, geschieden dutch scharfe Kanten.
a, b, sanf~ abfMlend, glatb polierb mi~ m~ttem Glanz und sehr sp~rliohen Grtib
then Jn der N~he des Schei~els.
c, steil abfallend, narbig mit sehr zahlreichen, ~iefen Grlibchen.
d, kleine dreieckige Nebenfl~che.
e, wulstiger, vom Sand polier~er Rand.
Fig. 2. Untere Seite:
e, Fortsetzung des Randwulstes auf die untere Seite.
f, glatte, scharfumrandete Ruhefl~che des Dreikanters.
g~ glaSte, flach muszhelfSrmige Vertiefungen.
h, spitze, kegelfSrmige Ver~iefung.
Geologische Rundsehau Bd. IV.
Pfannkuch.
Tafel X.
Verlag yon Wilhelm Engelmann in Leipzig und Berlin.
|
|
W3191586607.txt
|
https://www.nature.com/articles/s41598-021-95268-0.pdf
|
en
|
Potential of rice landraces with strong culms as genetic resources for improving lodging resistance against super typhoons
|
Scientific reports
| 2,021
|
cc-by
| 9,320
|
www.nature.com/scientificreports
OPEN
Potential of rice landraces
with strong culms as genetic
resources for improving lodging
resistance against super typhoons
Tomohiro Nomura1, Yoshiaki Seki1, Makoto Matsuoka2, Kenji Yano3, Koki Chigira1,
Shunsuke Adachi4, Francisco J. Piñera‑Chavez5, Matthew Reynolds5, Satoshi Ohkubo1 &
Taiichiro Ookawa1*
It is generally believed that rice landraces with long culms are susceptible to lodging, and have not
been utilized for breeding to improve lodging resistance. However, little is known about the structural
culm strength of landraces and their beneficial genetic loci. Therefore, in this study, genome-wide
association studies (GWAS) were performed using a rice population panel including Japanese rice
landraces to identify beneficial loci associated with strong culms. As a result, the landraces were found
to have higher structural culm strength and greater diversity than the breeding varieties. Genetic loci
associated with strong culms were identified, and it was demonstrated that haplotypes with positive
effects of those loci were present in a high proportion of these landraces. These results indicated
that the utilization of the strong culm-associated loci present in Japanese rice landraces may further
improve the lodging resistance of modern breeding varieties that have relied on semi-dwarfism.
Increasing grain yield is important to meet the global demand for major crops, which is expected to increase
at least until 2 0501–3. In the 1960s, as a result of semidwarf 1 (sd1) being introduced into rice, plant height was
reduced, and since then, lodging-resistant varieties have been developed and are widely used. This event averted
a food security crisis and along with similar interventions in wheat and other cereals has been recognized as the
“Green Revolution”4–6. However, the short stature promoted by sd1 in improved rice varieties, is not enough to
avoid lodging especially under strong typhoons that will further increase intensity in East and Southeast A
sia7, 8.
It has also been suggested that semi-dwarf varieties have reduced culm strength and plant biomass compared to
the original variety7, 9. Therefore, it is important to aim for high yields by increasing lodging resistance provided
by increased culm strength instead of relying solely on culm dwarfism in the future.
There are two types of lodging resistance in transplanting rice cultivation: bending-type and breaking-type
lodging10. Breaking-type lodging can cause the panicles to fall to the surface, making harvesting d
ifficult11 and
causing viviparous germination of grains soaked in water that will reduce the grain eating q
uality12. Therefore,
enhancing breaking-type lodging resistance is an important issue for crop production. The bending moment at
breaking (BM) of basal culm is an index of breaking-type lodging resistance13. It is composed of section modulus,
which in turn is affected by the diameter and thickness of a culm, and bending stress, which is affected by the
chemical composition such as cellulose and lignin and their densities in culm cell wall14, 15.
Identification and pyramiding of quantitative trait loci (QTLs) associated with strong culms in addition
to sd1 constitute an important approach to breeding rice varieties with high breaking strength to withstand
typhoons of increasing intensity. In our previous studies, superior alleles of STRONG CULM 1 and 2 (SCM1 and
SCM2) QTLs, which increase culm strength, were detected in an indica variety H
abataki16, similarly STRONG
CULM 3 and 4 (SCM3 and SCM4) QTLs were detected in a tropical japonica variety Chugoku 1 1717, and the
genes responsible for SCM2 and SCM3 were identified as APO1 ABERRANT PANICLE ORGANIZATION 1
1
Graduate School of Agriculture, Tokyo University of Agriculture and Technology, 3‑5‑8 Saiwai‑cho, Fuchu,
Tokyo 183‑8509, Japan. 2Bioscience and Biotechnology Center, Nagoya University, Furo‑cho, Chikusa,
Nagoya 464‑8601, Japan. 3Statistical Genetics Team, RIKEN Center for Advanced Intelligence Project, Nihonbashi
1‑chome Mitsui Building, 15th floor, 1‑4‑1 Nihonbashi, Chuo‑ku, Tokyo 103‑0027, Japan. 4College of Agriculture,
Ibaraki University, 3‑21‑1 Chuo, Ami, Inashiki, Ibaraki 300‑0393, Japan. 5Global Wheat Program, International
Maize and Wheat Improvement Center (CIMMYT), Texcoco, Mexico 56237, Mexico. *email: ookawa@cc.tuat.ac.jp
Scientific Reports |
(2021) 11:15780
| https://doi.org/10.1038/s41598-021-95268-0
1
Vol.:(0123456789)
www.nature.com/scientificreports/
Figure 1. Frequency distribution of lodging resistance-associated traits. Histograms of phenotypic values: (a)
ODMI in 2018; (b) BM in 2018; (c) culm length in 2018; (d) ODMI in 2019; (e) BM in 2019; (f) culm length
in 2019. The yellow, blue and black bars indicate landraces, breeding varieties and unidentified varieties,
respectively.
(APO1)16, 18 and FINE CULM 1 (FC1)17, 19, 20, respectively. In addition, many other QTLs associated with strong
culms have been i dentified21–28.
It has been reported that, japonica landrace varieties in Japan have more agriculturally useful traits when
compared with japonica breeding varieties. For instance, under phosphorus-limiting conditions, the japonica
landrace Akamai developed an extensive root system compared with that of the japonica breeding variety Koshihikari to obtain more phosphorus and efficiently redistributed it within the p
lant29. However, few studies have
comprehensively compared various varieties for culm-associated traits among Japanese genetic r esources13, 28.
Therefore, we hypothesize that there are novel QTLs that could enhance culm strength in japonica varieties
cultivated in Japan, including landrace varieties that have not been used for breeding yet. To date, the progeny of
crosses between two parents have often been used as materials for analysing and identifying Q
TLs30–32. However,
this method of analysis has the disadvantages of requiring cross-breeding to grow the materials, limiting the
number of varieties that can be analysed at one time. On the other hand, the development of next-generation
sequencing has recently enabled the use of GWAS, which have been shown to be powerful tools for solving
the abovementioned problems, as these studies allow comprehensive analysis of varieties without the need for
crossing33–36. Therefore, to test our hypothesis, we used GWAS to search for strong culm-associated QTLs in
Japanese japonica varieties, including landraces.
Thus, in the current study, we examined the phenotypic characteristics of lodging resistance associated traits
in Japanese rice varieties and novel QTLs associated with strong culms from japonica varieties using GWAS.
Furthermore, we investigated the proportions of the superior alleles between landraces and breeding varieties.
Results
Phenotypic analysis of traits associated with lodging resistance in Japanese rice. In GWAS,
it is necessary that phenotypes in rice panels are highly diverse to detect QTLs efficiently35. Therefore, traits
associated with lodging resistance were measured to evaluate the phenotypic diversity. Figure 1 shows the frequency distribution of phenotypes of Japanese rice, including both landraces (in yellow) and breeding varieties
(in blue). For the outer diameter of the minor axis (ODMI), the landraces ranged from 3.78 to 7.68 mm in 2018
and 3.56–7.50 mm in 2019, while the breeding varieties ranged from 3.69 to 5.74 mm in 2018 and 3.59–6.09 mm
in 2019. For the BM, the landraces ranged from 740 to 3,997 gf cm in 2018 and 611–4,288 gf cm in 2019, while
the breeding varieties ranged from 800 to 2,439 gf cm in 2018 and 643–2,169 gf cm in 2019. With respect to
culm length, the landraces ranged from 84.3 to 143.0 cm in 2018 and 67.9–155.7 cm in 2019, while the breeding
varieties ranged from 64.8–116.6 cm in 2018 and 68.7–118.7 cm in 2019. The minimum value was nearly the
same between the landraces and the breeding varieties except for the value of culm length in 2018. However, the
maximum value of ODMI was 34% higher in 2018 and 23% higher in 2019. Moreover, the maximum value of
BM was 64% higher in 2018 and 98% higher in 2019, and the maximum culm length was 23% higher in 2018 and
31% higher in 2019. A comparison of the variance of the mean phenotypic values of landraces and breeding varieties showed that the variance of each trait was higher in landraces than in breeding varieties in both years (Supplementary Data 1). Broad-sense heritability was in the order of culm length, ODMI and BM, from highest to
lowest, in both years (Supplementary Data 2). Furthermore, the characteristics of lodging resistance-associated
traits were investigated for each landrace and breeding variety. Figure 2 shows the mean values of the landraces
and the breeding varieties. The mean value of landraces for ODMI, BM and culm length were higher than that of
breeding varieties for both years (P < 0.001). These results showed that the phenotypes for the lodging resistanceScientific Reports |
Vol:.(1234567890)
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
2
www.nature.com/scientificreports/
4
3
2
1
0
7
Outer diameter of the major axis (mm)
Bending moment at breaking (gf cm)
5
e
***
6
5
4
3
2
1
0
Landraces Breeding
varieties
***
c
140
1,500
1,000
500
2,500
100
80
60
40
20
0
Landraces Breeding
varieties
***
f
140
Landraces Breeding
varieties
***
120
2,000
1,500
1,000
500
0
***
120
2,000
0
Landraces Breeding
varieties
Bending moment at breaking (gf cm)
Outer diameter of the minor axis (mm)
d
6
***
2,500
Culm length (cm)
b
7
Culm length (cm)
a
100
80
60
40
20
Landraces Breeding
varieties
0
Landraces Breeding
varieties
Figure 2. Trait values of landraces vs. breeding varieties. Bar graphs of mean (SD) phenotypic values: (a)
ODMI in 2018; (b) BM in 2018; (c) culm length in 2018; (d) ODMI in 2019; (e) BM in 2019; (f) culm length in
2019. The yellow and blue bars indicate landraces and breeding varieties, respectively. *** indicates significant
differences at P < 0.001 (two-tailed Welch’s t-test). Two-tailed Welch’s t-test was performed by R software
(https://www.R-project.org/)65.
associated traits were continuously distributed and varied widely, and that the landraces were more diverse than
the breeding varieties and have thicker and stronger culms as well as culm length.
To investigate the relationship between each trait, correlation coefficients were calculated for all varieties and
for landraces and breeding varieties separately (Supplementary Fig. 1). For all varieties, BM and culm length
were highly positively correlated with ODMI (r ≥ 0.7). Comparing landraces and breeding varieties, BM and
culm length were more positively correlated with ODMI for landraces in each year. In all cases, the correlation
coefficient between BM and culm length was lower than that between the other traits.
The genetic change of rice varieties in Japan in terms of lodging resistance was identified based on their
phenotypic values. Figure 3 and Supplementary Fig. 2 shows the phenotypic changes of the varieties arranged in
chronological order from the left for each of the lodging resistance-associated traits (data from 2019 were used,
those whose year of establishment was unclear were removed). The ODMI and the BM tended to decrease with
time. Among the breeding varieties, only Zengokuwase, which was established in 1917, showed thick culms that
were greater than 6.00 mm (ODMI), and no breeding varieties with thick culms (greater than 5.00 mm) after
the year 2000 were found. For the BM, no varieties with values larger than 2,000 gf cm existed after Nadahikari,
which was established in 1977. The culm length tended to decrease with time, and among the varieties released
since 1960, only three varieties had long culms (more than 100 cm).
Scientific Reports |
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
3
Vol.:(0123456789)
www.nature.com/scientificreports/
Figure 3. Phenotypic values of the studied varieties arranged in chronological order. Bar graphs of trait values
of the varieties arranged by year of establishment, from left to right: (a) ODMI; (b) BM; (c) culm length. The
2019 data of phenotypic values were used, those whose year of establishment was unclear were removed. The
yellow and blue bars indicate landraces and breeding varieties, respectively.
Identification of QTLs associated with strong culms via GWAS. Using GWAS, we tried to identify
QTLs containing superior alleles associated with a strong culm present among landraces. It has been reported
that false positives are likely to occur if the population structure of the panel used for GWAS is segregated35.
Therefore, before conducting our GWAS, the genetic structure of the Japanese rice varieties (excluding varieties
in Hokkaido) was determined. Figure 4 shows first and second principal component (PC1 and PC2, respectively) from a principal component analysis based on the whole-genome data of the 168 and 326 varieties. These
results showed that although there were no clear and strong clusters in the temperate japonica tested in this
study, there were loose population structures between landraces and breeding varieties in PC1 and PC2. No distinct population structures between landraces and cultivars were found in PC3 and PC4 (Supplementary Fig. 3).
Therefore, in addition to the GWAS without principal components (PCs), GWAS with PC1 and GWAS with PC1
and PC2 were also performed.
Next, GWAS was performed to identify QTLs associated with a strong culm. Figure 5 and Table 1 show Manhattan plots for each trait and the QTLs identified in both years without PCs as fixed factors. Q–Q plots, Local
Manhattan plots and linkage disequilibrium (LD) can be found as Supplementary Figs. 4–10. For the ODMI, the
same peaks above the threshold (− log10 (P) > 5) were detected on chromosomes (chrs.) 2S, 2L, 6L, 8L and 10S
in both years. With respect to the BM, the same peaks above the threshold (− log10 (P) > 5) were detected on chr.
3S in both years. Peaks above the threshold (− log10 (P) > 5) were detected for culm length in each year, but they
were not overlapping in both years. The peaks at 1S for ODMI and BM were slightly different from year to year.
Peaks at 8L were detected for the ODMI. On the other hand, the peak positions were slightly different for the BM
between 2018 and 2019. Among these abovementioned peaks, the peak at 2L in 2019 showed the highest value
Scientific Reports |
Vol:.(1234567890)
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
4
www.nature.com/scientificreports/
b
300
300
200
200
100
100
PC2 (8.3%)
PC2 (7.2%)
a
0
-100
0
-100
-200
-200
-300
-300
-400
-300 -200 -100
0
100 200 300 400
-400
-300 -200 -100
0
PC1 (9.1%)
100 200 300 400 500
PC1 (9.4%)
Figure 4. Genetic structure of temperate japonica rice varieties in Japan. Principal component analysis of
temperate japonica rice in Japan based on whole-genome sequence data, with the x-axis representing the
PC1 and the y-axis representing the PC2: (a) 2018; (b) 2019. Values in parentheses indicate the percentage
contribution of each principal component. The yellow, blue and black markers indicate landraces, breeding
varieties and unidentified varieties, respectively. Principal component analysis was performed using the package
‘pcaMethods’67 for R software (https://www.R-project.org/)65.
Figure 5. Manhattan plots of lodging resistance-associated traits. (a) ODMI in 2018; (b) BM in 2018; (c) culm
length in 2018; (d) ODMI in 2019; (e) BM in 2019; (f) culm length in 2019. The x-axis indicates the SNPs or
indels that physically mapped on each chromosome. The red and blue dashed lines indicate the threshold lines
(− log10 (P) = 5) set in this study and the Bonferroni correction, respectively. Manhattan plots were created using
the package ‘rrBLUP’68 for R software (https://www.R-project.org/)65.
Trait
Outer diameter of the
minor axis
Bending moment at
breaking
Chr
Interval (Mb)
2S
3.8–4.0
Peak maker position
in 2018
3,949,848
Peak maker position
in 2019
3,963,409
− log10 (P) in 2018
− log10 (P) in 2019
5.78
5.62
2L
28.7–29.3
29,197,385
28,876,750
6.35
9.89
6L
22.7
22,664,648
22,658,357
6.40
6.81
26,259,466
26,259,466
8L
26.2–26.8
5.51
7.32
10S
0.0–0.1
75,142
27,796
5.25
5.46
3S
0.5–0.9
836,083
920,744
6.61
9.21
Table 1. Positions of peaks identified in both years.
Scientific Reports |
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
5
Vol.:(0123456789)
www.nature.com/scientificreports/
Figure 6. Combined effects of QTLs for lodging resistance-associated traits. Box plots of the trait values by
the genotypes classified at the peak marker position in 2019: (a) ODMI; (b) BM; (c) culm length. Test results:
(d) ODMI; (e) BM; f culm length. “2L” and “3S” mean the peak positions on chrs. 2L and 3S, respectively. “(−)”
and “(+)” indicate the reference and alternative genotypes, respectively (based on the Nipponbare genome). The
white, grey and black boxplots indicate the genotype combinations where both are references, one is a reference
and the other is an alternative, and both alternatives, respectively. In the boxplots, different letters indicate
significant differences at P < 0.05 (Steel–Dwass’s test). In the table, n.s. indicates no significant difference. *, **,
*** indicate significant differences at P < 0.05, 0.01 and 0.001, respectively (Steel–Dwass’s test). Steel–Dwass test
was performed using the package ‘NSM3’ for R software (https://www.R-project.org/)65.
(− log10 (P) = 9.89) for the ODMI, and the peak at 3S in 2019 showed the highest value (− log10 (P) = 9.21) for the
BM. A peak at 3S was also detected for ODMI in 2019 and culm length in 2018. When PC1 was considered as a
fixed factor, the peaks showed less variation compared to when PCs were not considered, but the peak at 2L was
higher for ODMI in 2019 (Fig. 5, Supplementary Fig. 11). When PC1 and PC2 were considered as fixed factors,
only the peaks at 2L were above the threshold for ODMI in both years (Fig. 5, Supplementary Fig. 12). The peaks
at 3S, which were above the threshold (− log10 (P) > 5) for ODMI in 2019, for BM in 2018 and 2019 and for culm
length in 2018 when PCs were not considered, remained above the threshold (− log10 (P) > 5), although the peak
was reduced in all cases when PC1 and PC2 were considered as fixed factors (Fig. 5, Supplementary Fig. 12). Q–Q
plots with PC1 considered and those with PC1 and PC2 considered can be found as Supplementary Figs. 13, 14.
Pleiotropic effects and combined effects of the QTLs. From the results of the GWAS, QTLs with
particularly low P-values for ODMI or BM were detected on chrs. 2L and 3S, respectively. Therefore, targeting
these QTLs, the pleiotropic effects and combined effects associated with lodging resistance were investigated.
Figure 6 shows box plots of the trait values by the genotypes classified at the peak marker position in 2019. The
genotypes for each variety can be found as Supplementary Data 3. The varieties in which the reference genotype
(based on the Nipponbare genome) of the QTLs on chr. 2L was replaced by the alternative genotype had significantly higher ODMI and culm length values than those that was not replaced. In the comparison of breeding
varieties only, the mean values of all traits were increased in varieties where the QTL of chr. 2L was replaced by
the alternative genotype, but the differences were not significant (Supplementary Fig. 15). The varieties in which
the reference genotype of the QTL on chr. 3S was replaced by an alternative genotype were significantly higher
in ODMI, BM and culm length than those in which this QTL was not replaced. These results indicated that the
substitution of the reference genotype for the alternative genotype of the QTL on chr. 2L had a pleiotropic effect
on increasing the ODMI and the culm length, and the substitution of the reference genotype for the alternative
genotype of the QTL on chr. 3S had a pleiotropic effect on increasing the ODMI, BM and the culm length. The
varieties in which alternative genotypes of the QTLs were substituted on both chrs. 2L and 3S presented ODMI
and culm length values that were significantly higher than those of any other variety group, and an increasing
combined effect of QTLs on these traits was observed.
To investigate the genetic origin of the two QTLs, the genotypes were classified according to peak SNPs for
each landrace and breeding variety. Figure 7 shows the ratio of genotypes per QTL for the landraces and breeding varieties. For the QTL on chr. 2L, 29% of the landraces and 5% of the breeding varieties had the alternative
genotype with positive effects. For the QTL on chr. 3S, 20% of the landraces and 2% of the breeding varieties
had the alternative genotype with positive effects.
Scientific Reports |
Vol:.(1234567890)
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
6
www.nature.com/scientificreports/
Figure 7. Ratio of genotypes per QTL for landraces and breeding varieties. Stacked bar graphs showing the
ratio of genotypes at the peak: (a) on chr. 2L; (b) on chr. 3S. The grey and red bars indicate the reference and
alternative genotypes, respectively. The numbers on the bars indicate the ratio, and the numbers in parentheses
indicate the number of varieties.
Chr
Position (bp)
MSU ID
RAP ID
2L
28,939,788–28,947,843
LOC_Os02g47410
Os02g0702500
Gene symbol
Annotation
2L
28,967,587–28,971,989
LOC_Os02g47440
Os02g0702800
2L
29,026,099–29,028,176
LOC_Os02g47510
Os02g0704000
2L
29,059,400–29,062,130
LOC_Os02g47560
Os02g0704300
2L
29,069,440–29,072,094
LOC_Os02g47570
Os02g0704500
2L
29,206,676–29,208,686
LOC_Os02g47770
Os02g0706600
OsZHD7
ZF-HD protein dimerisation region containing protein, expressed
2L
29,270,114–29,274,643
LOC_Os02g47770
Os02g0708100
GAT1
Class I glutamine amidotransferase, putative, expressed
2L
29,324,774–29,328,372
LOC_Os02g47940
Os02g0709200
3S
781,076–781,879
LOC_Os03g02280
Os03g0113900
3S
800,033–809,279
LOC_Os03g02320
Os03g0114300
STE_PAK_Ste20_STLK.3 -STE kinases include homologs to sterile 7, sterile 11 and sterile
20 from yeast, expressed
3S
812,826–814,725
LOC_Os03g02330
Os03g0114400
AAA-type ATPase family protein, putative, expressed
3S
848,054–849,141
LOC_Os03g02390
Os03g0114900
3S
850,769–851,768
LOC_Os03g02400
Os03g0115000
3S
852,383–857,144
LOC_Os03g02410
Os03g0115100
GHMP kinases ATP-binding protein, putative, expressed
3S
861,320–862,938
LOC_Os03g02430
Os03g0115300
PPR repeat domain containing protein, putative, expressed
3S
884,706–886,943
LOC_Os03g02460
Os03g0115700
Retinol dehydrogenase, putative, expressed
3S
906,127–909,697
LOC_Os03g02480
Os03g0116000
Inner membrane protein, putative, expressed
Protein kinase, putative, expressed
Syntaxin, putative, expressed
OsCCD4a
9-cis-epoxycarotenoid dioxygenase 1, chloroplast precursor, putative, expressed
DNA-binding protein, putative, expressed
Phosphatase, putative, expressed
Aminotransferase, classes I and II, domain containing protein, expressed
OsS40-4
DUF584 domain containing protein, putative, expressed
Mitochondrial import inner membrane translocase subunit Tim17, putative, expressed
OsENODL10
Plastocyanin-like domain containing protein, putative, expressed
Table 2. List of candidate genes with amino acid replacements or deletions. Genes of unclear function and
genes related to transposon were removed.
Candidate genes for QTLs associated with strong culms.
In LD for the QTL on chr. 2L, there were
total of 66 genes according to the MSU Rice Genome Annotation Project (MSU) database and 49 genes according to the RAP-DB (RAP) database. In LD for the QTL on chr. 3S, there were total of 34 genes according to the
MSU database and 30 genes according to the RAP database. From these, the candidate genes for each QTL were
estimated. Table 2 shows the candidate genes that have mutations in coding DNA sequences (CDSs) and amino
Scientific Reports |
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
7
Vol.:(0123456789)
www.nature.com/scientificreports/
acid replacements or deletions in LD for each QTL. For the QTL on chr. 2L, eight candidate genes with amino
acid replacements or deletions were evaluated. Among them, LOC_Os02g47410 was related to protein kinases,
LOC_Os02g47570 was related to phosphatases, and LOC_Os02g47770 was related to zinc-finger homeodomain
proteins. In contrast, GS2 was included in candidate genes with mutations in the putative promoter region (see
Supplementary Table 1). For the QTL on chr. 3S, nine candidate genes with amino acid replacements were evaluated. Among them, LOC_Os03g02320 and LOC_Os03g02410 were kinase-associated genes.
Discussion
Phenotypic characteristics of lodging resistance in Japanese temperate japonica rice varie‑
ties. To date, few studies have evaluated the traits associated with strong culms of landraces13, 28. However,
in this study, by comprehensively analysing the lodging resistance of a large number of varieties, we found that
some landraces showed very high culm strength (Fig. 1). According to previous reports, the BM of Takanari, a
semi-dwarf strong-culm indica and temperate japonica cross variety, was approximately 1,276–2,266 gf cm7, 24, 27,
while that of its sister variety Habataki was approximately 1,650 gf cm17. In the present study, among the landrace
varieties in Japan, there were varieties with a BM of approximately 4,000 gf cm (Fig. 1). Therefore, it was thought
that some semi-dwarf varieties had high lodging resistance and that landraces in Japan had low lodging resistance because they are generally too tall and the effect of strong culms is not enough to counteract the bending
moment given by a high centre of gravity, but it was found that some landraces have phenotypic characteristics
associated with extremely strong culms. Although stronger culms are required to prevent the long culm plants
from lodging, the effect on increasing lodging resistance given by improved strength from the landraces have a
potential to be superior than the effect of plant height on decreasing lodging resistance.
Transition of breeding for lodging resistance in Japanese rice varieties. It has been reported that
rice breeding for lodging resistance in Asia has been performed by shortening culms4, 37. In this study, it was
shown that, compared with the landraces, the breeding varieties had shorter culms (Figs. 1, 2). Furthermore,
it was confirmed that culm length tended to decrease over time (Fig. 3, Supplementary Fig. 2). In contrast, the
traits associated with strong culms also tended to decrease over time (Fig. 3, Supplementary Fig. 2), and compared with the landraces, the breeding varieties had thinner and weaker culms (Figs. 1, 2). These results suggest
that the improvement of lodging resistance has been dependent on breeding for relatively short culms and that
breeding for relatively strong culms has not been carried out.
Both beneficial QTLs for strong culm-associated traits on chr. 2L and 3S were found to be present in a
relatively high proportion of landraces (Fig. 7). Previous research showed that haplotypes exhibiting a panicle
weight-type phenotype of SPINDLY (OsSPY; involved in gibberellin signalling)38 were present at a higher proportion in landraces than in breeding varieties39. Moreover, it has been shown that there is a trade-off between
panicle weight and panicle number17. From these findings, it was suggested that, during the process of breeding,
the emphasis on panicle weight changed to panicle number, and at the same time, the culm strength decreased.
Genetic population structure and strong culm‑related loci in Japanese rice varieties detected
via GWAS. The risk of false positives has been pointed out in GWAS when the genetic population structure
to be analysed is separated35. In the panel of Japanese temperate japonica varietiess analyzed in this study, no
clear separation of population structures as reported for rice subpopulations40 was found, while loose population
structures were found between landraces and breeding varieties in PC1 and PC2 (Fig. 4). Therefore, in this study,
in addition to GWAS without considering PCs, GWAS was also performed considering up to PC2 to increase the
reliability of the detected QTLs.
Since the detected QTLs may change due to changes in expressed genes caused by environmental factors such
as meteorological conditions41, 42, it is necessary to perform GWAS in multiple years to isolate more general loci.
In this study, common peaks were detected at chrs. 2S, 2L, 6L, 8L and 10S for ODMI and at chr. 3S for BM in
both 2018 and 2019, among which a particularly high peak was detected at chr. 2L for ODMI and at chr. 3S for
BM (Fig. 5, Supplementary Fig. 5–10, Table 1). The peaks at chr. 2L for ODMI and 3S for BM remained above
the threshold even when PC1 and PC2 were taken into account (Fig. 5, Supplementary Fig. 12). A QTL for
culm diameter on chr. 5L was identified in a previous study on 135 temperate japonica varieties from different
panels28, but was not detected in this study. Conversely, the QTLs on chr. 2L and 3S identified in this study were
not detected in that previous study28. Unlike that previous study28, the panel used in the present study included
temperate japonica varieties from the rice core collection of Japanese landraces composed by National Agriculture and Food Research Organization (NARO) and landraces from Okinawa, which may have unique genetic
variations due to geographical factors. Therefore, it is possible that a novel QTL that was not previously detected
was identified in this study. On the other hand, the APO1 and FC1 identified in previous s tudies16, 17 were not
detected in this study. This suggests that the genes that enhance culm strength are different between temperate
japonica and other rice subpopulations, such as indica and tropical japonica, and that the novel QTLs detected
in this study may be unique to temperate japonica.
The QTL on the long arm of chromosome 2.
As a result of investigating candidate genes of this
QTL, eight candidate genes with amino acid replacements or deletions were evaluated (Table 2). Among them,
LOC_Os02g47770 is a gene associated with a zinc-finger homeodomain (ZF-HD) protein43. Members of the rice
ZF-HD gene family OsZHD1 and OsZHD2 have been reported to affect leaf morphogenesis and root meristem
activity, respectively44, 45. These results suggested that, among the candidate genes, OsZHD7 might be the gene
responsible for modulating culm diameter. On the other hand, GRAIN SIZE 2 (GS2) was included in the genes
with mutations in the region presumed to be the promoter (Supplemental Table 1). Since it has been reported
Scientific Reports |
Vol:.(1234567890)
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
8
www.nature.com/scientificreports/
that GS2 affects grain size and w
eight46, 47, it might be possible that GS2 has pleiotropic effects not only on grains
but also on culm morphogenesis.
The QTL on the short arm of chromosome 3. The interval of QTL on chr. 3S was identified as 0.5–
0.9 Mb (Table 1). To date, QTLs for grain eating quality have been reported to be at around the 0.5 Mb mark
on the short arm of chromosome 3, where the simple sequence repeat marker RM4108 (synonymous with
RM14281) is located48–50. These previous studies have reported that Koshihikari, which is a good-tasting variety
in Japan, has a beneficial allele related to grain eating quality near this marker, but this allele was not present in
varieties such as Moritawase and Nipponbare. However, the haplotypes of the QTL located within 0.5–0.9 Mb
associated with BM in this study were similar among Koshihikari, Moritawase, and Nipponbare (Table 1, Supplementary Data 4). This suggests that QTLs for BM and grain eating quality are likely to exist outside of LD.
This means that there is a strong possibility that some of the varieties already have both strong culm-related
and good-grain eating quality-related alleles at the position of chr. 3S. Therefore, these varieties can be used for
breeding to improve lodging resistance without decreasing grain eating quality.
It has been shown that genes such as APO1 and FC1 have pleiotropic effects on the traits associated with
strong culm and panicle m
orphogenesis16, 17. In this study, each trait was positively correlated, and peaks were
detected in this QTL not only for BM but also for ODMI and culm length (Supplementary Fig. 1, 7, Fig. 5). From
these results, it is necessary to clarify the pleiotropic and physiological functions of this QTL, including panicle
morphogenesis, and to evaluate the usefulness of this QTL other than its effect on culm strength.
As a result of investigating candidate genes of this QTL, nine candidate genes with amino acid replacements
were evaluated (Table 2). Among them, LOC_Os03g02320 is related to serine/threonine protein kinase, and
LOC_Os03g02410 is related to GHMP kinase (Table 2). Serine/threonine protein kinases have been reported to
affect plant morphogenesis51–53. In addition, it has been suggested that GHMP kinases may be involved in multiple responses stimulated by various plant hormones in Arabidopsis thaliana54. These results suggest that these
candidate genes might be responsible for strong culms. In addition, two variants of SNPs replacing amino acid
sequences in the CDS of LOC_Os03g02320 (Supplementary Data 5) were found by the database to be reference
types in the indica varieties IR8 and Teqing (https://ricegenome.dna.affrc.go.jp/). Therefore, if this is the responsible gene, the alternative allele might be available for breeding these indica varieties to enhance culm strength.
However, it has been reported that DNA sequence variation in the promoter region and epigenetic mutations
such as DNA methylation can modulate plant traits55, 56, thus it is necessary to carefully identify the responsible
genes by focusing not only on their coding DNA sequence but also on gene expression levels.
Combined effects of QTLs on culm thickness. Pyramiding QTLs is an important breeding strategy57,
and it has been reported that additive effects of pyramiding and combining have been achieved for culm
thickness17, 27. In the present study, as a result of examining the combined effects of QTLs, an additive combined
effect was confirmed for the two identified QTLs (Fig. 6). From these results, it was suggested that culm thickness is a trait that tends to have an additive effect due to the accumulation of QTLs, and this trait may have not
yet reached its maximum limit. In other words, it was suggested that additional strong-culm lines can be bred by
pyramiding these QTLs and the genes associated with strong culms, such as APO116 and FC117, both of which
have been identified thus far.
The combination of QTLs with the highest value for ODMI comprised alternative (non-Nipponbare) types
on both chrs. 2L and 3S, and the combination that showed the lowest value comprised the reference (Nipponbare) type (Fig. 6). The QTLs on chrs. 2L and 3S of Koshihikari, Hitomebore, Hinohikari and Akitakomachi,
which are the most widely cultivated varieties in Japan58, were all of the reference type (Supplementary Data 3).
These varieties have weak to medium lodging resistance (https://ineweb.narcc.affrc.go.jp/index.html), and rice
breeding for lodging resistance in Japan has depended on reduced culm length so far (Fig. 3, Supplementary
Fig. 2). Therefore, it was suggested that these major Japanese varieties can be improved for lodging resistance by
pyramiding the QTLs of these alternative types.
Prospect of breeding strategy for the “Next Green Revolution”. In this study, the landrace Houmanshindenine had an ODMI of more than 6.25 mm and a BM of approximately 4,000 gf cm (Fig. 1 and Supplementary Fig. 16). In addition, the genotype of the peak at chr. 2 of Houmanshindenine was an alternative type
(Supplementary Data 3), suggesting that it may have a superior allele for strong culm-associated traits. For these
reasons, the presence of beneficial alleles that enhance culm strength in landraces has been unutilised for many
years; thus, these landraces have not been used as breeding materials and have been rarely inherited in modern
breeding varieties.
To achieve high rice grain yields that contribute to food security and constitute the “Next Green Revolution”,
one key strategy is to breed varieties with culms strong enough to withstand typhoons of increasing intensity,
in addition to the strategy of semi-dwarf. A further increase in lodging resistance by increasing culm strength
would also make it possible to obtain next generation plant type with larger above-ground biomass and panicles.
The use of superior alleles of these landraces as breeding materials to dramatically increase fertility in the future
may help to achieve this strategy.
Conclusion
In this study, we conducted a comprehensive phenotypic analysis of strong culm-associated traits in temperate
japonica varieties in Japan. As a result, it was suggested that the improvement of lodging resistance in temperate
japonica varieties in Japan by breeding was dependent of shortening culms. Furthermore, novel QTLs for culm
strength-associated traits were identified using GWAS, and it was suggested that these superior haplotypes mainly
Scientific Reports |
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
9
Vol.:(0123456789)
www.nature.com/scientificreports/
exist in landraces. In other words, we have shown that the use of superior strong culm-related genes present
in landraces that were previously thought to have low lodging resistance due to their long culm could further
improve the lodging resistance of modern breeding varieties.
Methods
Plant material and cultivation. Landrace and breeding varieties collected from various regions in Japan
except Hokkaido were used for rice (Oryza sativa L.) panels. A total of 168 varieties were grown in 2018, and 326
were grown in 2019. The entire list of varieties can be found as Supplementary Data 6. Some of these varieties
had the same variety name but were registered under different IDs, and these were tested as different varieties.
The realized additive relation matrix was calculated to determine the kinship between the varieties, and the data
can be found in Supplementary Data 7 (in 2019; variety numbers are the same as in Supplementary Data 6). All
plant seeds used in the current study are owned by Nagoya University and these seeds were obtained under a
collaboration agreement with Nagoya University. Experimental research and field studies on plants, including
the collection of plant materials in the current study, was carried out in compliance with relevant institutional,
national and international guidelines and legislation. Field experiments were carried out in a paddy field in the
Field Museum Honmachi, Field Science Center, Faculty of Agriculture, Tokyo University of Agriculture and
Technology. The seeds were sown in germination boxes on May 7, 2018, and May 7, 2019. The seedlings at the
four-leaf stage were transplanted to a paddy field on May 24, 2018, and May 23, 2019, with one seedling per hill.
The planting density was 22.2 hills m−2, and the spacing was 15 × 30 cm. The residue of rice from the previous
year was ploughed as compost during the winter, and N, P
2O5 and K
2O were applied at 50 kg ha−1, 60 kg ha−1 and
60 kg ha−1, respectively. Weed and pest control were performed as needed, and the fields were cultivated under
irrigated conditions.
Phenotyping. Approximately 15 days after heading, the main culm of eight and three moderately growing
individuals (dough stage) were used for phenotypic measurements in 2018 and 2019, respectively. The arithmetic mean of the traits of this individual replication for each variety was determined as the phenotypic value of
the variety for each year. The leaf sheaths wrapped at the basal elongated internodes (the elongated internodes
were defined as internodes that extended 4 cm or more) were removed. The ODMI at the centre of the basal
elongated nodes was measured using a digital calliper. The BM was measured by a three-point bending test
using a Tensilon universal material testing machine (RTG-1210; A&D, Tokyo, Japan) according an established
method previously reported13. The basal elongated internodes were placed on fulcrums 4 cm apart, and a load
was applied to the centre of the internodes and was measured at the time of breaking. BM was calculated by the
following Eq. (1):
M=
PL
4
(1)
where M is the BM, P is the load at breaking and L is the distance between fulcrums. The culm length was defined
as the length of the main culm from the base to the neck of panicle in the stretched state, measured using a
ruler. Cross sections of basal elongated internodes were stained with toluidine blue and photographed using a
stereoscopic microscope (SZX12; Olympus, Tokyo, Japan).
Genotyping. DNA extraction and sequencing were performed as described in a previous study35. Total
DNA was extracted from leaves per variety using the DNeasy Plant Mini Kit (Qiagen, Hilden, Germany). Total
DNA was sheared into −500 bp fragments by Covaris S2 (Covaris, Massachusetts, USA) and a DNA library
was constructed using the NEBNext DNA Library Prep Reagent Set for Illumina (New England Biolabs, Massachusetts, USA). The DNA library was sequenced by the Illumina HiSeq 2000 (Illumina, California, USA). All
reads were mapped to the Os-Nipponbare-Reference-IRGSP-1.0 pseudomolecules by BWA-MEM with the -M
option in BWA software59. The mapped reads were realigned using RealignerTargetCreator and indelRealigner
in GATK s oftware60. The SNPs and indels were labelled using GATK’s UnifiedGenotyper with the -glm BOTH
option. Nucleotide variants with a missing rate of > 0.2 and a minor allele frequency of < 0.05 were removed,
resulting in the identification of 435,768 SNPs and indels in the 168-variety panel, and 477,640 SNPs and indels
in the 326-variety panel. For the classification of polymorphisms, the promoter region was defined as the 2 kb
region upstream of the translation start of each gene. The effects of genomic variants on gene function were
predicted using SnpEff software (version 4.3 T)61. The information on gene location and coding sequence was
obtained from Generic Feature Format Version 3 (GFF3) of the MSU Rice Genome Annotation Project (http://
rice.plantbiology.msu.edu/)62. Annotation information for genes was based on the content within the MSU Rice
Genome Annotation Project and the RAP-DB (http://rapdb.dna.affrc.go.jp/)62, 63. LD heatmaps were constructed
using the package ‘LDheatmap’ (version 0.99–7)64 for R software65. Genes with CDS variations and amino acid
replacements or deletions and genes with promoter variations in the LD of each QTL were estimated as candidate genes (Genes of unclear function and genes related to transposon were removed). Sequence information
for indica varieties for comparison of a candidate gene was obtained from TASUKE + (https://ricegenome.dna.
affrc.go.jp/)66.
GWAS. The genetic structure of the analysed population was estimated using the “nipals” parameter of the
package ‘pcaMethods’ (version 1.78.0)67 for R software65. The GWAS was performed using a linear mixed model
(LMM) represented by the following Eq. (2):
Scientific Reports |
Vol:.(1234567890)
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
10
www.nature.com/scientificreports/
y = Xβ + Zu + ε
(2)
where y is the vector of phenotypes, X is the matrix of fixed effects containing the nucleotide polymorphism,
the grand mean and PCs calculated by genetic relationship analysis, β is the vector of effects, Z is the incidence
matrix relating y and u. The variable u is a model of the genetic background of each variety as a random effect,
with u ∼ N(0, Kσ2g), where K is the kinship matrix calculated from the nucleotide polymorphisms and σ2g is the
genetic variance. ɛ is the matrix of residual effects, with ɛ ∼ N(0, Iσ2e), where I is the identity matrix and σ2e is
the residual variance. The realized additive relation matrix was computed using a function “A.mat” and GWAS
was performed without considering the principal component, with a fixed factor (PC1) and with fixed factors
(PC1 and PC2) for the landraces and the breeding varieties using a function “GWAS” in the package ‘rrBLUP’
(version 4.6.1)68 for R s oftware65. In the present GWAS, the threshold was set at − log10 (P) > 5, which was higher
than that of several previous studies using rice p
anels69–71.
Statistical analysis. Two-tailed Welch’s t-test was performed by R software (version 4.0.5)65 to compare
whether there was a difference in the means of phenotypic trait values between the groups of landraces and
breeding varieties and between breeding varieties with and without a QTL. Steel–Dwass test was performed
using the “pSDCFlig” function with “Asymptotic” method of the package ‘NSM3’ (version 1.16) for R s oftware65
to compare the multiple groups classified by genotypes. The correlation coefficients between phenotypic trait
values were calculated using R software65. The coefficients of determination (R2) and the adjusted R2 for the year
of variety establishment and phenotypic values were calculated using R software65. Broad-sense heritability was
calculated by the following Eq. (3)–(6)72, 73:
H2 =
Vg
Vg + Ve
(3)
Vg =
Mg − Me
r
(4)
Ve = Me
r = (n − 1)
−1
n 2
ri
ri − i=1
n
i=1
i=1 ri
n
(5)
(6)
where H2 is broad-sense heritability, Mg and Me are the mean sums of squares for genotype and residual error,
obtained from analysis of variance (ANOVA), r is the number of replications per genotype.
Received: 12 May 2021; Accepted: 16 July 2021
References
1. Godfray, H. C. J. et al. Food security: the challenge of feeding 9 billion people. Science 327, 812–818 (2010).
2. Tilman, D., Balzer, C., Hill, J. & Befort, B. L. Global food demand and the sustainable intensification of agriculture. Proc. Natl.
Acad. Sci. USA 108, 20260–20264 (2011).
3. Ray, D. K., Ramankutty, N., Mueller, N. D., West, P. C. & Foley, J. A. Recent patterns of crop yield growth and stagnation. Nat.
Commun. 3, 1293. https://doi.org/10.1038/ncomms2296 (2012).
4. Hargrove, T. R. & Cabanilla, V. L. The impact of semidwarf varieties on Asian rice-breeding programs. Bioscience 29, 731–735
(1979).
5. Khush, G. S. Green revolution: preparing for the 21st century. Genome 42, 646–655 (1999).
6. Hedden, P. The genes of Green Revolution. Trends Genet. 19, 5–9 (2003).
7. Ookawa, T. et al. Precise estimation of genomic regions controlling lodging resistance using a set of reciprocal chromosome segment substitution lines in rice. Sci. Rep. 6, 30572. https://doi.org/10.1038/srep30572 (2016).
8. Mei, W. & Xie, S. P. Intensification of landfalling typhoons over the northwest Pacific since the late 1970s. Nat. Geosci. 9, 753–757
(2016).
9. Okuno, A. et al. New approach to increasing rice lodging resistance and biomass yield through the use of high gibberellin producing varieties. PLoS ONE 9, e86870. https://doi.org/10.1371/journal.pone.0086870 (2014).
10. Hirano, K., Ordonio, R. L. & Matsuoka, M. Engineering the lodging resistance mechanism of post-green revolution rice to meet
future demands. Proc. Jan. Acad. Ser. B Phys. Biol. Sci. 93, 220–233 (2017).
11. Xangsayasane, P., Phongchanmisai, S., Bounphanousai, C. & Fukai, S. Combine harvesting efficiency as affected by rice field size
and other factors and its implication for adoption of combine contracting service. Plant Prod. Sci. 22, 68–76 (2019).
12. Islam, M. S. et al. Lodging-related morphological traits of hybrid rice in a tropical irrigated ecosystem. Field Crops Res. 101, 240–248
(2007).
13. Ookawa, T. & Ishihara, K. Varietal difference of physical characteristics of the culm related to lodging resistance in paddy rice.
Jpn. J. Crop Sci. 61, 419–425 (1992).
14. Ookawa, T. & Ishihara, K. Varietal difference of the cell wall components affecting the bending stress of the culm in relation to the
lodging resistance in paddy rice. Jpn. J. Crop Sci. 62, 378–384 (1993).
15. Zhang, W. et al. Nitrogen fertilizer application affects lodging resistance by altering secondary cell wall synthesis in japonica rice
(Oryza sativa). J. Plant Res. 130, 859–871 (2017).
16. Ookawa, T. et al. New approach for rice improvement using a pleiotropic QTL gene for lodging resistance and yield. Nat. Commun.
1, 132. https://doi.org/10.1038/ncomms1132 (2010).
Scientific Reports |
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
11
Vol.:(0123456789)
www.nature.com/scientificreports/
17. Yano, K. et al. Isolation of a novel lodging resistance QTL gene involved in strigolactone signaling and its pyramiding with a QTL
gene involved in another mechanism. Mol. Plant 8, 303–314 (2015).
18. Ikeda, K., Nagasawa, N. & Nagato, Y. ABERRANT PANICLE ORGANIZATION 1 temporally regulates meristem identity in rice.
Dev. Biol. 282, 349–360 (2005).
19. Takeda, T. et al. The OsTB1 gene negatively regulates lateral branching in rice. Plant J. 33, 513–520 (2003).
20. Minakuchi, K. et al. FINE CULM1 (FC1) works downstream of strigolactones to inhibit the outgrowth of axillary buds in rice.
Plant Cell Physiol. 51, 1127–1135 (2010).
21. Kashiwagi, T. & Ishimaru, K. Identification and functional analysis of a locus for improvement of lodging resistance in rice. Plant
Physiol. 134, 676–683 (2004).
22. Ishimaru, K. et al. New target for rice lodging resistance and its effect in a typhoon. Planta 227, 601–609 (2008).
23. Kashiwagi, T. Identification of quantitative trait loci for resistance to bending-type lodging in rice (Oryza sativa L.). Euphytica
198, 353–367 (2014).
24. Mulsanti, I. W. et al. Finding the superior allele of japonica-type for increasing stem lodging resistance in indica rice varieties using
chromosome segment substitution lines. Rice 11, 25. https://doi.org/10.1186/s12284-018-0216-3 (2018).
25. Jiang, M. et al. Mapping of QTLs associated with lodging resistance in rice (Oryza sativa L.) using the recombinant inbred lines
derived from two high yielding cultivars, Tachisugata and Hokuriku 193. Plant Growth Regul. 87, 267–276 (2019).
26. Samadi, A. F. et al. Identification of quantitative trait loci for breaking and bending types lodging resistance in rice, using recombinant inbred lines derived from Koshihikari and a strong culm variety Leaf Star. Plant Growth Regul. 89, 83–98 (2019).
27. Nomura, T. et al. Next generation long-culm rice with superior lodging resistance and high grain yield, Monster Rice 1. PLoS ONE
14, e0221424. https://doi.org/10.1371/journal.pone.0221424 (2019).
28. Chigira, K. et al. Landraces of temperate japonica rice have superior alleles for improving culm strength associated with lodging
resistance. Sci. Rep. 10, 19855. https://doi.org/10.1038/s41598-020-76949-8 (2020).
29. Dissanayaka, D. M. S. B., Maruyama, H., Nishida, S., Tawaraya, K. & Wasaki, J. Landrace of japonica rice, Akamai exhibits enhanced
root growth and efficient leaf phosphorus remobilization in response to limited phosphorus availability. Plant Soil 414, 327–338
(2017).
30. Xiao, J., Li, J., Yuan, L. & Tanksley, S. D. Identification of QTLs affecting traits of agronomic importance in a recombinant inbred
population derived from a subspecific rice cross. Theor. Appl. Genet. 92, 230–244 (1996).
31. Mei, H. W. et al. Gene actions of QTLs affecting several agronomic traits resolved in a recombinant inbred rice population and
two backcross populations. Theor. Appl. Genet. 110, 649–659 (2005).
32. Kwon, S. J. et al. QTL mapping of agronomic traits using an RIL population derived from a cross between temperate japonica
cultivars in rice (Oryza sativa L.). Breed. Sci. 58, 271–279 (2008).
33. Huang, X. et al. Genome-wide association studies of 14 agronomic traits in rice landraces. Nat. Genet. 42, 961–967 (2010).
34. Zhao, K. et al. Genome-wide association mapping reveals a rich genetic architecture of complex traits in Oryza sativa. Nat. Commun. 2, 467. https://doi.org/10.1038/ncomms1467 (2011).
35. Yano, K. et al. Genome-wide association study using whole-genome sequencing rapidly identifies new genes influencing agronomic
traits in rice. Nat. Genet. 48, 927–934 (2016).
36. Wang, Q., Tang, J., Han, B. & Huang, X. Advances in genome-wide association studies of complex traits in rice. Theor. Appl. Genet.
133, 1415–1425 (2020).
37. Asano, K. et al. Artificial selection for a green revolution gene during japonica rice domestication. Proc. Natl. Acad. Sci. USA 108,
11034–11039 (2011).
38. Shimada, A. et al. The rice SPINDLY gene functions as a negative regulator of gibberellin signaling by controlling the suppressive
function of the DELLA protein, SLR1, and modulating brassinosteroid synthesis. Plant J. 48, 390–402 (2006).
39. Yano, K. et al. GWAS with principal component analysis identifies a gene comprehensively controlling rice architecture. Proc. Natl.
Acad. Sci. USA 116, 21262–21267 (2019).
40. McCouch, S. R. et al. Open access resources for genome-wide association mapping in rice. Nat. Commun. 7, 10532. https://doi.
org/10.1038/ncomms10532 (2016).
41. Cao, G. et al. Impact of epistasis and QTL×environment interaction on the developmental behavior of plant height in rice (Oryza
sativa L.). Theor. Appl. Genet. 103, 153–160 (2001).
42. Zhang, Z. H., Qu, X. S., Wan, S., Chen, L. H. & Zhu, Y. G. Comparison of QTL controlling seedling vigour under different temperature conditions using recombinant inbred lines in rice (Oryza sativa). Ann. Bot. 95, 423–429 (2005).
43. Hu, W., DePamphilis, C. W. & Ma, H. Phylogenetic analysis of the plant-specific zinc finger-homeobox and mini zinc finger gene
families. J. Integr. Plant Biol. 50, 1031–1045 (2008).
44. Xu, Y. et al. Overexpression of OsZHD1, a zinc finger homeodomain class homeobox transcription factor, induces abaxially curled
and drooping leaf in rice. Planta 239, 803–816 (2014).
45. Yoon, J. et al. Homeobox transcription factor OsZHD2 promotes root meristem activity in rice by inducing ethylene biosynthesis.
J. Exp. Bot. 71, 5348–5364 (2020).
46. Hu, J. et al. A rare allele of GS2 enhances grain size and grain yield in rice. Mol. Plant 8, 1455–1465 (2015).
47. Duan, P. et al. Regulation of OsGRF4 by OsmiR396 controls grain size and yield in rice. Nat. Plants 2, 15203. https://doi.org/10.
1038/nplants.2015.203 (2016).
48. Wada, T., Ogata, T., Tsubone, M., Uchimura, Y. & Matsue, Y. Mapping of QTLs for eating quality and physicochemical properties
of the japonica rice ‘Koshihikari’. Breed. Sci. 58, 427–435 (2008).
49. Takeuchi, Y. et al. Major QTLs for eating quality of an elite Japanese rice cultivar, Koshihikari, on the short arm of chromosome
3. Breed. Sci. 58, 437–445 (2008).
50. International Rice Genome Sequencing Project & Sasaki, T. The map-based sequence of the rice genome. Nature 436, 793–800
(2005).
51. Li, J. et al. BAK1, an Arabidopsis LRR receptor-like protein kinase, interacts with BRI1 and modulates brassinosteroid signalling.
Cell 110, 213–222 (2002).
52. Mao, X., Zhang, H., Tian, S., Chang, X. & Jing, R. TaSnRK2.4, an SNF1-type serine/threonine protein kinase of wheat (Triticum
aestivum L.), confers enhanced multistress tolerance in Arabidopsis. J. Exp. Bot. 61, 683–696 (2010).
53. Song, M. et al. A leaf shape mutant provides insight into PINOID Serine/Threonine Kinase function in cucumber (Cucumis sativus
L.). J. Integr. Plant Biol. 61, 1000–1014 (2019).
54. Xiao, W. et al. Genome-wide identification, classification and expression analysis of GHMP genes family in Arabidopsis thaliana.
Plant Syst. Evol. 301, 2125–2140 (2015).
55. Duan, P. et al. Natural variation in the promoter of GSE5 contributes to grain size diversity in rice. Mol. Plant 10, 685–694 (2017).
56. Miura, K. et al. A metastable DWARF1 epigenetic mutant affecting plant stature in rice. Proc. Natl. Acad. Sci. USA 106, 11218–11223
(2009).
57. Ashikari, M. & Matsuoka, M. Identification, isolation and pyramiding of quantitative trait loci for rice breeding. Trends Plant Sci.
11, 344–350 (2006).
58. Kobayashi, A., Hori, K., Yamamoto, T. & Yano, M. Koshihikari: a premium short-grain rice cultivar—Its expansion and breeding
in Japan. Rice 11, 15. https://doi.org/10.1186/s12284-018-0207-4 (2018).
Scientific Reports |
Vol:.(1234567890)
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
12
www.nature.com/scientificreports/
59. Li, H. Aligning sequence reads, clone sequences and assembly contigs with BWA-MEM. Preprint at https://arxiv.org/abs/1303.
3997 (2013).
60. DePristo, M. A. et al. A framework for variation discovery and genotyping using next-generation DNA sequencing data. Nat.
Genet. 43, 491–498 (2011).
61. Cingolani, P. et al. A program for annotating and predicting the effects of single nucleotide polymorphisms, SnpEff: SNPs in the
genome of Drosophila melanogaster strain w1118; iso-2; iso-3. Fly (Austin) 6, 80–92 (2012).
62. Kawahara, Y. et al. Improvement of the Oryza sativa Nipponbare reference genome using next generation sequence and optical
map data. Rice 6, 4. https://doi.org/10.1186/1939-8433-6-4 (2013).
63. Sakai, H. et al. Rice Annotation Project Database (RAP-DB): an integrative and interactive database for rice genomics. Plant Cell
Physiol. 54, 6. https://doi.org/10.1093/pcp/pcs183 (2013).
64. Shin, J.-H., Blay, S., McNeney, B. & Graham, J. LDheatmap: an R function for graphical display of pairwise linkage disequilibria
between single nucleotide polymorphisms. J. Stat. Softw. 16, 3 (2006).
65. R Core Team. R: A language and environment for statistical computing. R Foundation for Statistical Computing https://w
ww.R-p
roje
ct.org/ (2021).
66. Kumagai, M. et al. TASUKE+: a web-based platform for exploring GWAS results and large-scale resequencing data. DNA Res. 26,
445–452 (2019).
67. Stacklies, W., Redestig, H., Scholz, M., Walther, D. & Selbig, J. pcaMethods—a bioconductor package providing PCA methods for
incomplete data. Bioinformatics 23, 1164–1167 (2007).
68. Endelman, J. B. Ridge regression and other kernels for genomic selection with R package rrBLUP. Plant Genome 4, 250–255 (2011).
69. Wissuwa, M. et al. Unmasking novel loci for internal phosphorus utilization efficiency in rice germplasm through genome-wide
association analysis. PLoS ONE 10, e0124215. https://doi.org/10.1371/journal.pone.0124215 (2015).
70. Zhu, Y. et al. Identification and fine mapping of a stably expressed QTL for cold tolerance at the booting stage using an interconnected breeding population in rice. PLoS ONE 10, e0145704. https://doi.org/10.1371/journal.pone.0145704 (2015).
71. Li, C. et al. Genome-wide association mapping of resistance against rice blast strains in South China and identification of a new
Pik allele. Rice 12, 47. https://doi.org/10.1186/s12284-019-0309-7 (2019).
72. Singh, M., Ceccarelli, S. & Hamblin, J. Estimation of heritability from varietal trials data. Theor. Appl. Genet. 86, 437–441 (1993).
73. Kruijer, W. et al. Marker-based estimation of heritability in immortal populations. Genetics 199, 379–398 (2015).
Acknowledgements
This work was supported by JSPS Grant-in-Aid for JSPS Fellows Grant Number 20J13277.
Author contributions
T.N. and T.O. conceived and designed the study, wrote the manuscript and secure funding. T.N., Y.S. and K.Y.
designed the data analysis. T.N., Y.S., K.C. S.A. and O.S. performed the experiments and analysed the data. M.M.
and K.Y. provided the plant materials and genome data. F.P. and M.R. reviewed and edited the manuscript. All
authors commented the manuscript.
Competing interests
The authors declare no competing interests.
Additional information
Supplementary Information The online version contains supplementary material available at https://doi.org/
10.1038/s41598-021-95268-0.
Correspondence and requests for materials should be addressed to T.O.
Reprints and permissions information is available at www.nature.com/reprints.
Publisher’s note Springer Nature remains neutral with regard to jurisdictional claims in published maps and
institutional affiliations.
Open Access This article is licensed under a Creative Commons Attribution 4.0 International
License, which permits use, sharing, adaptation, distribution and reproduction in any medium or
format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the
Creative Commons licence, and indicate if changes were made. The images or other third party material in this
article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the
material. If material is not included in the article’s Creative Commons licence and your intended use is not
permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from
the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/.
© The Author(s) 2021
Scientific Reports |
(2021) 11:15780 |
https://doi.org/10.1038/s41598-021-95268-0
13
Vol.:(0123456789)
|
|
https://openalex.org/W3118459567
|
https://www.sicot-j.org/10.1051/sicotj/2020047/pdf
|
English
| null |
Comparison of clinical outcomes with and without volar lunate facet fragments in dorsal displaced distal radius fractures
|
SICOT-J
| 2,021
|
cc-by
| 4,202
|
Hiroyuki Obata, Kiyohito Naito*, Yoichi Sugiyama, Nana Nagura, Kenji Goto,
Ayaka Kaneko, So Kawakita, and Kazuo Kaneko epartment of Orthopaedics, Juntendo University School of Medicine, 2-1-1 Hongo, Bunkyo-ku, 113-8421 Tokyo, Japan
Received 23 July 2020, Accepted 13 December 2020, Published online 8 January 2021 Abstract – Introduction: Although many clinical studies about distal radius fracture (DRF) accompanied by volar
lunate facet fragments (VLFF) have recently been reported, none focus on the direction of displacement of distal
fragments. Many previous cases with difficulty in treating DRF with VLFF were volar-displaced fractures. Thus,
the postoperative risk for re-displacement is different between volar- and dorsal-displaced fractures with VLFF. The
aim of this study is to compare the outcome of dorsal-displaced fractures treated using proximal volar locking plates
(PVLP) between those with VLFF and those without, in order to reconsider the indications of distal volar locking plates
(DVLP) and investigate the possibility of treating dorsal-displaced DRF with VLFF using PVLP. Methods: The
subjects were 122 patients with dorsal-displaced DRFs treated using PVLP (42 males and 80 females, mean age:
59.2 years old). The patients were divided into 13 patients with VLFF group and 109 patients without VLFF group,
and the clinical outcomes at 12 months after surgery were compared. Results: No significant difference was noted on
any evaluation between the groups. In addition, no postoperative re-displacement of VLFF was observed and bone
union was confirmed. Furthermore, no osteoarthritic change was noted in all patients. Conclusions: We confirmed that
surgical treatment for dorsal-displaced DRF using PVLP is possible even in cases of DRF with VLFF. In addition,
DVLP is an implant with a high complication risk; therefore, it may be necessary to reconsider the use of DVLP
for dorsal-displaced DRF with VLFF treatable by PVLP. Key words: Distal radius fractures, Volar lunate facet fragments, Dorsal displaced fractures, Proximal volar locking
plates. *Corresponding author: knaito@juntendo.ac.jp This is an Open Access article distributed under the terms of the Creative Commons Attribution License (https://creativecommons.org/licenses/by/4.0),
which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Introduction Among DRFs with VLFF, many with difficulty in treatment
due to postoperative re-displacement are of volar-displaced
fractures [12–14]. Our algorithm for treating distal radius
fractures uses proximal volar locking plates (PVLP) for dorsal
displaced fractures and DVLP for volar displaced fractures [15]. Therefore, in this study, based on the hypothesis that PVLP can
be used to treat dorsally displaced fractures even with VLFF,
the clinical outcomes of PVLP fixation for dorsally displaced
fractures with and without VLFF were compared. The purpose
of this study is to prevent unnecessary use of DVLP, which has
many postoperative complications, just because “VLFF is
small”. Many studies on the treatment strategy for distal radius
fracture (DRF) with volar lunate facet fragments (VLFF) have
recently been reported [1–4]. In 2014, Beck et al. reported that a
15-mm or smaller longitudinal diameter of VLFF in the lateral
view on plain radiography is a risk factor for postoperative
re-displacement [5], and after this report, many treatments
strategies based on the size of VLFF have been discussed. However, volar locking plates are often selected based on the
VLFF size and to our knowledge, there has not been reported
that importance to the displacement direction of distal bone
fragments. Indeed, distal volar locking plates (DVLP) are
frequently used because of the small size of VLFF [6, 7]. However, many complications of DVLP, such as flexor tendon
injury and crushing of VLFF, have been reported, demonstrat-
ing them to be an implant with a high risk for postoperative
complications [8–11]. Therefore, reconsideration of their indi-
cations may be necessary. SICOT-J 2021, 7, 1
The Authors, published by EDP Sciences, 2021
https://doi.org/10.1051/sicotj/2020047 SICOT-J 2021, 7, 1
The Authors, published by EDP Sciences, 2021
https://doi.org/10.1051/sicotj/2020047 Available online at:
www.sicot-j.org Available online at:
www.sicot-j.org OPEN
ACCESS ORIGINAL ARTICLE OPEN
ACCESS ORIGINAL ARTICLE Patients This study was approved by the ethics committee for
medical research of our university (No. 17-250), and informed
consent was received from all patients. *Corresponding author: knaito@juntendo.ac.jp This is an Open Access article distributed under the terms of the Creative Commons Attribution License (https://creativecommons.org/licenses/by/4.0),
which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. H. Obata et al.: SICOT-J 2021, 7, 1 2 The subjects were 122 patients with dorsal-displaced DRFs
treated by reduction and fixation using PVLP (42 males and
80 females, mean age: 59.2 years old) between January 2012
and December 2018. In the distal fragments of the distal radius
fractures, the free bone fragments in the volar lunate facet
fragment in which the longitudinal diameter of the volar bone
cortex is 10 mm or less are defined as the volar lunate facet
fragment [16]. The patients were divided into 13 patients with
VLFF (VLFF (+) group: 9 males and 4 females, mean age:
60.0 years old) and 109 patients without VLFF (VLFF ()
group: 33 males and 76 females, mean age: 59.2 years old),
and the clinical outcomes at 12 months after surgery were com-
pared. The range of motion of the wrist, visual analog scale
(VAS), quick disabilities of the arm, shoulder and hand
(Q-DASH) score, and Mayo wrist score were investigated as
evaluation items. The fracture type according to the AO classi-
fication on preoperative plain X-ray images was C1 in
4 patients, C2 in 2, and C3 in 7 in the VLFF (+) group, and
A2 in 32, A3 in 5, C1 in 65, C2 in 5, and C3 in 2 in the VLFF
() group. PVLP was used in all patients regardless of VLFF. cross the watershed line and the dorsal side of the radial joint
surface was able to be supported by inserting distal locking
screws (Figures 1E, 1F, and 2). The volar radius also presents
a concave profile in the sagittal plane (the pronator fossa). This
feature is limited distally by a ridge called the watershed line
and allows the application of implants of substantial profile
[18]. After distal locking screws insertion, shortening of the
fracture region and reduction of ulnar displacement of proximal
bone fragments were performed according to the Condylar
stabilizing technique [19], followed by fixation by proximal
cortical screw insertion (Figures 1G and 1H). Patients Immobilization
after surgery was not necessary, and movement of the wrist
joint and fingers permitted early after surgery. Results 2. Acu-Loc 2 proximal plate (Nihon Medical Next, Osaka,
Japan) for 23. On evaluation at 12 months after surgery, in the VLFF (+)
group, the range of motion of the wrist joint was 72.6 ± 6.9
flexion and 69.2 ± 8.5 extension, and forearm pronation and
supination were 83.0 ± 6.9 and 84.6 ± 7.1, respectively. The VAS, Q-DASH score, and Mayo wrist score were
1.3 ± 1.2/10, 10.3 ± 7.1/100, and 93.1 ± 4.8/100, respectively. In the VLFF () group, the range of motion of the wrist joint
was 73.3 ± 10.7 flexion and 73.6 ± 10.7 extension, and fore-
arm pronation and supination were 83.6 ± 7.7 and 85.2 ± 7.2,
respectively. The VAS, Q-DASH score, and Mayo wrist score
were 0.9 ± 1.0/10, 9.6 ± 10.0/100, and 93.5 ± 7.0/100, respec-
tively. There were no major perioperative complications in
either group. No significant difference was noted in any evalu-
ation between the groups (Table 1). In addition, no postopera-
tive re-displacement of VLFF was observed and the bone union
was confirmed. Furthermore, no osteoarthritic change was
noted in all patients. 3. DVR (Zimmer Boimet, Tokyo, Japan) for 21. 4. Dual-Loc V17 (MEIRA, Aichi, Japan) for 9. 4. Dual-Loc V17 (MEIRA, Aichi, Japan) for 9. (
p
)
5. Stellar 2 (HOYA, Tokyo, Japan) for one. The selection of VLP depended on the timing of the
surgery, not the plate design. VLP fixation was applied through
the trans-FCR approach. Statistical analysis Data are presented as the mean ± standard deviation (SD)
and were analyzed for significant differences by the Mann–
Whitney U test (Prism 4, GraphPad Software, San Diego,
CA). Differences were considered significant at P < 0.05. 1. VA-TCP 2.4 (Depuy Synthes, Tokyo, Japan) for 68
patients. Surgical technique Zenke et al have classified it as “intramedullary” when the
volar cortex of the distal bone fragment was invaginated
medially to the proximal part, “anatomical” when the volar
cortex met the volar cortex, and “extramedullary” when the
volar cortex of the distal bone fragment was located laterally
to the proximal part [17]. In surgery, 1.8-mm Kirschner wire
was first inserted from the dorsal side of the fracture region,
and dorsal displacement of distal bone fragments was reduced
from “intramedullary” to “anatomical” or “extramedullary”
using the Kapandji technique (Figures 1A and 1B). This was
targeted by placing the plate to prevent it from lifting from dis-
tal bone fragments. Then, in the VLFF (+) group, an elevator
was inserted into the intramedullary canal from the volar side
of the fracture region when there was an intramedullary
depressed bone fragment, and a reduction was applied by lifting
the depressed bone fragment from the intramedullary canal in
order to press it to the lunate bone. In addition, the volar frag-
ment was pushed to the dorsal fragment over the plate to reduce
the gap in the fracture site (Figures 1C and 1D). For the plate,
PVLP was selected because the distal screw is inserted on the
dorsal side of the radial facet to support the dorsal-displaced
bone fragment displaced toward the dorsal. The plate placement
site was set at a level at which the plate placement site did not Discussion The treatment strategy for DRF with VLFF focuses only
on the size of VLFF and the displacement direction of frac-
tures is not taken into consideration in many cases. However,
many cases that were difficult to treat due to postoperative
re-displacement were of volar-displaced DRF with VLFF,
and re-displacement on the volar side developed after surgery
because PVLP was selected for these volar-displaced fractures
or DVLP was selected, but the plate placement site was inap-
propriate [12–14]. Based on these reports, we cover VLFF
and sufficiently apply buttress fixation as a treatment strategy
using DVLP, considering that volar-displaced DRF with VLFF
has a high risk for postoperative displacement [15]. In 2004,
Harness et al. reported that treatment of DRF with VLFF using
an existing volar locking plate is difficult due to its anatomical H. Obata et al.: SICOT-J 2021, 7, 1 3 (A)
(B)
(C)
(D)
(E)
(F)
(G)
(H)
Figure 1. Surgical procedure for distal radius fractures with dorsal-displaced VLFF. From the dorsal side of the fracture region, 1.8-mm
Kirschner wire was inserted and dorsal displacement of distal bone fragments was reduced using the Kapandji technique ((A) PA view,
B) Lateral view). Dorsal volar bone fragments were pressed to each other to be bound to reduce the gap in the fracture region ((C) PA view,
D) Lateral view). The plate was placed at a position at which distal locking screws support the dorsal side of the radial joint surface
(E) PA view, (F) Lateral view). The distal bone fragment was reduced and fixed according to the condylar stabilizing method ((G) PA view,
H) Lateral view). (A) (C) (B) (D) (D) (C) (A) (B) (E) (H) (G) (F) (E) (G) (H) (F) Figure 1. Surgical procedure for distal radius fractures with dorsal-displaced VLFF. From the dorsal side of the fracture region, 1.8-mm
Kirschner wire was inserted and dorsal displacement of distal bone fragments was reduced using the Kapandji technique ((A) PA view,
(B) Lateral view). Dorsal volar bone fragments were pressed to each other to be bound to reduce the gap in the fracture region ((C) PA view,
(D) Lateral view). The plate was placed at a position at which distal locking screws support the dorsal side of the radial joint surface
((E) PA view, (F) Lateral view). The distal bone fragment was reduced and fixed according to the condylar stabilizing method ((G) PA view,
(H) Lateral view). characteristics [20]. Discussion However, new DVLP applicable to volar-
displaced fractures distal to the watershed line have recently
been developed, and treatment of volar-displaced DRF with
VLFF using DVLP has improved [15, 21]. of volar tilt [23, 24]. Orbay et al. treated patients with postoper-
ative volar re-displacement of dorsal-displaced DRF with VLFF
by open wedge osteotomy and achieved favorable postoperative
outcomes by reducing volar tilt. They mentioned the importance
of reducing the load on VLFF even by allowing slight dorsal
volar tilt. They also stated that excess reconstruction of volar tilt
is a risk factor for volar re-displacement [23]. Thus, we consid-
ered that the risk for postoperative re-displacement can be
prevented by avoiding loading on VLFF by not excessively
moving the load axis toward the volar side through avoiding
excess reconstruction of volar tilt. In this study, the mean
postoperative volar tilt was 8.5 (2–15) due to the use of PVLP
in the VLFF (+) group and no over-correction-induced volar
re-displacement developed after surgery in any patient. On the other hand, in dorsal-displaced fractures with VLFF,
we consider secondary displacement to be caused by pulling by
the short radiolunate ligament attached to VLFF through the
dorsal displacement of carpal VLFF. Therefore, to prevent post-
operative re-displacement of VLFF, prevention of carpal dorsal
displacement is necessary, for which support of the dorsal side
of the radial joint surface is important [22]. Accordingly, the selection of PVLP in which distal locking
screws support the dorsal side of the radial joint surface is
rational. Cases of postoperative volar re-displacement of
dorsal-displaced DRF with VLFF have been occasionally
reported, but most may have been due to excess reconstruction When DVLP are selected for dorsal-displaced DRF with
VLFF, the carpal bone may be re-displaced toward the dorsal H. Obata et al.: SICOT-J 2021, 7, 1 4 Figure 2. The theory of osteosynthesis and surgical technique of
PVLP. In order to prevent dorsal re-displacement, it will be more
important to obtain good subchondral support of the dorsal side of
the radial facet with PVLP compared with buttress effect by covering
the volar lunate facet fragment (yellow arrow: the dislocation
direction of the carpal, red line: the dorsal side of the radial facet
supported by the locking screw). because the bone mass and bony tissue are insufficient. Declarations Figure 2. The theory of osteosynthesis and surgical technique of
PVLP. In order to prevent dorsal re-displacement, it will be more
important to obtain good subchondral support of the dorsal side of
the radial facet with PVLP compared with buttress effect by covering
the volar lunate facet fragment (yellow arrow: the dislocation
direction of the carpal, red line: the dorsal side of the radial facet
supported by the locking screw). Figure 2. The theory of osteosynthesis and surgical technique of
PVLP. In order to prevent dorsal re-displacement, it will be more
important to obtain good subchondral support of the dorsal side of
the radial facet with PVLP compared with buttress effect by covering
the volar lunate facet fragment (yellow arrow: the dislocation
direction of the carpal, red line: the dorsal side of the radial facet
supported by the locking screw). Availability of data and material The datasets during and/or analysed during the current
study available from the corresponding author on reasonable
request. VLFF: volar lunate facet fragment, F: flexion, E: extension, P:
pronation, S: supination, VAS: visual analog scale, Q-DASH: quick
disabilities of the arm, shoulder, and hand, N.S.: no significant
difference. Authors’ contributions HO (first author) mainly wrote this manuscript, acquisition
of data, analysis and interpretation of data. KN (corresponding
author), KG, YS, and KK mainly performed the conception and
design of this study. HO, KG, AK, and NN performed acquisi-
tion of data, analysis and interpretation of data. Discussion It
may cause blood circulation disorder, inducing crushing and
necrosis of VLFF because the surrounding soft tissue is dis-
sected to try to fix VLFF, and screws and wire are inserted. We fixed dorsal-displaced DRF with VLFF using PVLP in this
study. As a dissection of soft tissue attached to VLFF was min-
imized, there was no crushing or necrosis of VLFF, and the
bone union was confirmed in all patients. In conclusion, the clinical outcomes of dorsal-displaced
DRF were compared between patients with and without VLFF. It was comparable regardless of VLFF, clarifying that reduction
and fixation of the dorsal-displaced fracture using PVLP are
possible even in cases of DRF with VLFF. DVLP is an implant
with risks of many complications and their use should be
limited to volar-displaced fractures. Informed consent was received from all patients. Informed consent was received from all patients. Ethics approval The study was approved by the ethics committee for
medical research of our university (No. 17-250). Table 1. Comparison of clinical outcomes at 12 months after surgery
between VLFF (+) and VLFF () groups. Table 1. Comparison of clinical outcomes at 12 months after surgery
between VLFF (+) and VLFF () groups. Table 1. Comparison of clinical outcomes at 12 months after surgery
between VLFF (+) and VLFF () groups. VLFF (+)
VLFF ()
P-value
Cases
13
109
N.S. Wrist F/E ()
72.6/69.2
73.3/73.6
N.S. Forearm P/S ()
83.0/84.6
83.6/85.2
N.S. VAS
1.3
0.9
N.S. Q-DASH score
10.3
9.6
N.S. Mayo score
93.1
93.5
N.S. VLFF: volar lunate facet fragment, F: flexion, E: extension, P:
pronation, S: supination, VAS: visual analog scale, Q-DASH: quick
disabilities of the arm, shoulder, and hand, N.S.: no significant
difference. Code availability The datasets during and/or analysed during the current
study available from the corresponding author on reasonable
request. side after surgery because the distal locking screws mainly
support the center of the radial joint surface and VLFF may
be secondarily displaced by being pulled by the short radiolu-
nate ligament. Regarding the relationship between volar tilt
and the flexor tendon, Wurtzel et al. pointed out that insufficient
reconstruction of volar tilt may increase the risk for postopera-
tive flexor tendon injury [25]. Moreover, the pronator quadratus
muscle is damaged in many cases of dorsal-displaced DRF and
covering the plate after repairing the pronator quadratus muscle
after plate placement is often difficult. Therefore, when DVLP
are selected for dorsal-displaced DRF with VLFF, they cannot
be covered with the pronator quadratus muscle and volar tilt
usually decreases due to re-displacement, increasing the risk
for postoperative iatrogenic flexor tendon injury. side after surgery because the distal locking screws mainly
support the center of the radial joint surface and VLFF may
be secondarily displaced by being pulled by the short radiolu-
nate ligament. Regarding the relationship between volar tilt
and the flexor tendon, Wurtzel et al. pointed out that insufficient
reconstruction of volar tilt may increase the risk for postopera-
tive flexor tendon injury [25]. Moreover, the pronator quadratus
muscle is damaged in many cases of dorsal-displaced DRF and
covering the plate after repairing the pronator quadratus muscle
after plate placement is often difficult. Therefore, when DVLP
are selected for dorsal-displaced DRF with VLFF, they cannot
be covered with the pronator quadratus muscle and volar tilt
usually decreases due to re-displacement, increasing the risk
for postoperative iatrogenic flexor tendon injury. Consent to participate Informed consent was received from all patients. VLFF (+)
VLFF ()
P-value
Cases
13
109
N.S. Wrist F/E ()
72.6/69.2
73.3/73.6
N.S. Forearm P/S ()
83.0/84.6
83.6/85.2
N.S. VAS
1.3
0.9
N.S. Q-DASH score
10.3
9.6
N.S. Mayo score
93.1
93.5
N.S. Conflict of interest The authors declare that they have no conflict of interest. The authors declare that they have no conflict of interest. Ethics approval The authors declare that they have no conflict of interest. 1. Marcano A, Taormina DP, Karia R, Paksima N, Posner M, Egol
KA (2015) Displaced intra-articular fractures involving the
volar rim of the distal radius. J Hand Surg Am 40, 42–48. Consent for publication Informed consent was received from all patients. References Some recent studies stated the importance of fixation of
VLFF [26–28], but it may be difficult to fix VLFF even though
additional fixation with screws, anchors, or wire is applied H. Obata et al.: SICOT-J 2021, 7, 1 5 2. Waters MJ, Ruchelsman DE, Belsky MR, Lelbman MI (2014)
Headless bone screw fixation for combined volar lunate facet
distal radius fracture and capitate fracture: case report. J Hand
Surg Am 39, 1489–1493. 16. Obata H, Naito K, Kaneko A, Goto K, Sugiyama Y, Nagura N,
Kawakita S, Iwase Y, Kaneko K (2020) Clinical outcomes in
distal radius fractures accompanied by volar lunate facet
fragments: A comparison between dorsal and volar displaced
fractures. J Hand Surg Asian Pac Vol 25, 417–422. 3. O’Shaughnessy MA, Shin AY, Kakar S (2016) Stabilization of
volar ulnar rim fractures of the distal radius: Current techniques
and review of the literature. J Wrist Surg 5, 113–119. 17. Zenke Y, Furukawa K, Furukawa H, Maekawa K, Tajima T,
Yamanaka Y, Hirasawa H, Menuki K, Sakai A (2019) Radio-
graphic measurements as a predictor of correction loss in
conservative treatment of colles’ fracture. J UOEH 41, 139–144. 4. Spiteri M, Ng W, Matthews J, Power D (2017) Functional
outcome of fixation of complex intra-articular dital radius
fractures with a variable-angle distal radius volar rim plate. J Hand Microsurg 9, 11–16. 18. Orbay JL, Touhami A (2006) Current concepts in volar fixed-
angle fixation of unstable distal radius fractures. Clin Orthop
Relat Res 445, 58–67. 5. Beck JD, Harness NG, Spencer HT (2014) Volar plate fixation
failure for volar shearing distal radius fractures with small lunate
facet fragments. J Hand Surg Am 39, 670–678. 19. Kiyoshige Y (2005) Condylar stabilizing technique for intra-
articular fracture of distal radius. Tech Hand Up Extrem Surg 9,
17–20. 6. Moore AM, Dennison DG (2014) Distal radius fractures and the
volar lunate facer fragment: Kirschner wire fixation in addition
to volar-locked plating. Hand (NY) 9, 230–236. 20. Harness NG, Jupiter JB, Orbay JL, Raskin KB, Fernandes DL
(2004) Loss of fixation of the volar lunate facet fragment in
fractures of the distal part of the radius. J Bone Joint Surg Am
86, 1900–1908. 7. Gokkus K, Sagtas E, Kesgin E, Aydin AT (2018) Comminuted
distal radial fracture with large rotated palmar medial osteo-
chondral fragment in the joint. J Orthop Case Rep 8, 27–31. 21. References Kachooei AR, Tarabochia M, Jupiter JB (2016) Distal radius
volar rim fracture fixation using Depuy-Synthes volar rim plate. J Wrist Surg 5, 2–8. 8. Kara A, Celik H, Bankaoglu M, Oc Y, Bulbul M, Sugun TS
(2016) Ultrasonic evaluation of the flexor pollicis longus tendon
following volar plate fixation for distal radius fractures. J Hand
Surg Am 41, 374–380. 22. Kawasaki K, Nemoto T, Inagaki K, Tomita K, Ueno Y (2014)
Variable-angle locking plate with or without double-tiered
subchondral support procedure in the treatment of intra-articular
distal radius fracture. J Orthop Traumatol 15, 271–274. 9. Kara A, Celik H, Oc Y, Uzun M, Erdil M, Tetik C (2016)
Flexor tendon complication in comminuted distal radius frac-
tures treated with anatomic volar rim locking plates. Acta
Orthop Traumatol Turc 50, 665–669. 23. Orbay JL, Rubio F, Vemon LL (2016) Prevent collapse and
salvage failures of the volar rim of the distal radius. J Wrist Surg
5, 17–21. 10. Spiteri M, Roberts D, Ng W, Matthews J, Power D (2017)
Distal radius volar rim plate: Technical and radiographic
considerations. World J Orthop 8, 567–573. 24. Ruch DS, Wray WH 3rd, Papadonikolakis A, Richard MJ,
Leversedge FJ, Goldner RD (2010) Corrective osteotomy for
isolated malunion of the palmar lunate facet in distal radius
fractures. J Hand Surg Am 35, 1779–1786. 11. Foo TL, Gan AW, Sch T, Chew WY (2013) Mechanical failure
of the distal radius volar locking plate. J Orthop Surg (Hong
Kong) 21, 332–336. 25. Wurtzel CNW, Bums GT, Zhu AF, Ozer K (2017) Effects of
volar tilt, wrist extension, and plate position on contact between
flexor pollicis longus tendon and volar plate. J Hand Surg Am
42, 996–1001. 12. Andermahr J, Lozano-Calderon S, Trafton T, Crisco JJ, Ring D
(2006) The volar extension of the lunate facet of the distal radius:
a quantitative anatomic study. J Hand Surg Am 31, 892–895. 26. Bakker AJ, Shin AY (2014) Fragment-specific volar hook plate
for volar marginal rim fractures. Tech Hand Up Extem Surg 18,
56–60. 13. Obata H, Baba T, Futamura K, Obayashi O, Mogami A, Kaneko
K (2017) Difficulty in fixation of the volar lunate facet fragment
in distal radius fracture. Case Rep Othop 2017, 6269081. 27. O’Shaughnessy MA, Shin AY, Kakar S (2015) Volar marginal
rim fracture fixation with volar fragment-specific hook plate
fixation. J Hand Surg Am 40, 1563–1570. 14. Cite this article as: Obata H, Naito K, Sugiyama Y, Nagura N, Goto K, Kaneko A, Kawakita S & Kaneko K (2021) Comparison of clinical
outcomes with and without volar lunate facet fragments in dorsal displaced distal radius fractures. SICOT-J 7, 1 References Kitay A, Mudgal C (2014) Volar carpal subluxation following
lunate facet fracture. J Hand Surg Am 39, 2335–2341. 15. Naito K, Sugiyama Y, Kinoshita M, Obata H, Goto K, Nagura N,
Iwase Y, Obayashi O, Kaneko K (2019) Functional outcomes in
volar-displaced distal radius fractures patients with marginal rim
fragment treated by volar distal locking plates. J Hand Microsurg
11, 100–105. 28. Harness NG (2016) Fixation options for the volar lunate facet
fracture: Thinking outside the box. J Wrist Surg 5, 9–16.
|
https://openalex.org/W1982113188
|
https://journals.plos.org/plosone/article/file?id=10.1371/journal.pone.0080073&type=printable
|
English
| null |
Metabolic Changes in the Visual Cortex of Binocular Blindness Macaque Monkeys: A Proton Magnetic Resonance Spectroscopy Study
|
PloS one
| 2,013
|
cc-by
| 5,244
|
Lingjie Wu1, Zuohua Tang1*☯, Xinghuai Sun2*☯, Xiaoyuan Feng3, Wen Qian1, Jie Wang1, Lixin Jin4 1 Department of Radiology, Eye and ENT Hospital of Shanghai Medical School, Fudan University, Shanghai, China, 2 Department of Ophthalmology, Eye and
ENT Hospital, State Key Laboratory of Medical Neurobiology, Institutes of Brain Science, Fudan University, Shanghai, China, 3 Department of Radiology,
Huashan Hospital of Shanghai Medical School, Fudan University, Shanghai, China, 4 Siemens Ltd. Healthcare Sector, Shanghai, China Abstract The funders had no role in study design, data collection and analysis, decision to publish, or preparation of the manuscript. Competing interests: Co-author Lixin Jin is employed by Siemens Ltd. There are no patents, products in development or mark
This does not alter the authors adherence to all the PLOS ONE policies on sharing data and materials. Co-author Lixin Jin is employed by Siemens Ltd. There are no patents, products in development or marketed products to declare. uthors adherence to all the PLOS ONE policies on sharing data and materials. * E-mail: tzh518sunny@163.com (ZHT); xhsun@shmu.edu.cn (XHS) ☯ These authors contributed equally to this work. Abstract Purpose: To evaluate proton magnetic resonance spectroscopy (1H-MRS) in a study of cross-modal plasticity in the
visual cortex of binocular blindness macaque monkeys. Materials and Methods: Four healthy neonatal macaque monkeys were randomly divided into 2 groups, with 2 in
each group. Optic nerve transection was performed in both monkeys in the experimental group (group B) to obtain
binocular blindness. Two healthy macaque monkeys served as a control group (group A). After sixteen months post-
procedure, 1H-MRS was performed in the visual cortex of all monkeys. We compared the peak areas of NAA, Cr,
Cho, Glx and Ins and the ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr of each monkey in group B with group A. Results: The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be
dramatically decreased, the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual
cortex of monkey 3 in group B than those in group A. The peak area of Ins and the Ins/Cr ratio in the visual cortex of
monkey 4 in group B slightly increased. The peak area of Cho and the Cho/Cr ratio in the visual cortex of all monkeys
in group B dramatically increased compared with group A. The peak area of Glx in the visual cortex of all monkeys in
group B slightly increased compared with group A. Conclusions: 1H-MRS could detect biochemical and metabolic changes in the visual cortex and therefore this
technique can be used to provide valuable information for investigating the mechanisms of cross-modal plasticity of
binocular blindness in a macaque monkey model. Editor: Jie Tian, Institute of Automation, Chinese Academy of Sciences, China Received June 15, 2013; Accepted October 9, 2013; Published November 5, 2013 Received June 15, 2013; Accepted October 9, 2013; Published November 5, 2013 Copyright: © 2013 Wu et al. This is an open-access article distributed under the terms of the Creative Commons Attribution License, which permits
unrestricted use, distribution, and reproduction in any medium, provided the original author and source are credited. Funding: The Grant of Science and Technology Commission of Shanghai Municipality (No.09ZR1405600), http://www.stcsm.gov.cn/; The Funds for
International Cooperation and Exchange of the National Natural Science Foundation of China (Grant No. 81020108017), http://www.nsfc.gov.cn/Portal0/
default152.htm. Citation: Wu L, Tang Z, Sun X, Feng X, Qian W, et al. (2013) Metabolic Changes in the Visual Cortex of Bino
Magnetic Resonance Spectroscopy Study. PLoS ONE 8(11): e80073. doi:10.1371/journal.pone.0080073 Metabolic Changes in the Visual Cortex of Binocular
Blindness Macaque Monkeys: A Proton Magnetic
Resonance Spectroscopy Study Metabolic Changes in the Visual Cortex of Binocular
Blindness Macaque Monkeys: A Proton Magnetic
Resonance Spectroscopy Study Magnetic resonance spectroscopy 1H-MRS was performed using a Siemens–Magnetom Verio
3.0T scanner (Germany), with a gradient of 45mT/m and
maximum switchover rate of 200T/m/s. Anesthetized macaque
monkeys were placed in the knee coil in a supine position with
their heads in the central location. Thin sheets were used to
keep monkeys warm at approximately 38°C. Materials and Methods For all macaque monkeys, single voxel
1H-MRS was
performed in the same MR unit in the visual cortex of the
occipital lobe. The volume of interest (VOI) for acquiring 1H-
MRS was chosen based on criteria including the largest
possible voxel within the visual cortex. To preselect the VOI, a
fast spin-echo (FSE) in three planes was used to acquire high
resolution anatomical images for position the voxel of 1H-MRS
along standard anatomical orientation. The location of 1H-MRS
was achieved in sagittal T2WI images. The VOI was positioned
to include the bilateral visual cortex as far as possible while
avoiding the inclusion of skull, fat and air sinus. Six saturated
zones were placed around the VOI to reduce the effect of
surrounding tissues. Shimming and tuning were achieved with
automated procedures before scanning. Water signals were
suppressed with selective water signal inversion. 1H-MRS
scanning started when the FWHM (full width at half maximum)
between 47 and 53 Hz, the water suppression (WS) ≧98%. Spectra were recorded with the following parameters:
TR=2000ms,
TE=30ms,
thickness=15mm,
averages=180,
FOV=140×140mm2, NEX=2, Voxel=18×20×15 mm3. Animal preparation and experimental protocol p
p
p
p
Healthy neonatal macaque monkeys (n=4) were randomly
divided into 2 groups, with 2 in each group. In this study, optic
nerve transection was performed in bilateral eyes of each
monkey in the experimental group (Group B, monkey 3 and
monkey 4) at postnatal day 40 with 0.3ml ketamine-xylazine
mixture anaesthesia to obtain binocular blindness. Through an
incision in the bitamporal conjunctiva, we transected the
superior oblique and bluntly dissected the fascia tissue around
eyeball until the optic nerve was clearly exposed, then we
transected the retrobulbar optic nerve at the site of 0.5mm
away from the sclera. In addition, a small section of optic nerve
was removed from the surgical eye to ensure the optic nerve
was completely transected. Finally, the eyeball of the macaque
was reset into the orbit again, sutured the incision in the
conjunctiva and swabbed Tobrex oculentum within the
conjunctival sac. This operation is believed to result in less
drastic morphological changes and surgical trauma than the
binocular enucleated model. Separate, healthy macaque
monkeys were kept as a control group (Group A, monkey 1 and
monkey 2). Sixteen months after operation, 1H-MRS was
performed in the visual cortex of all monkeys. Therefore, our study utilized macaque monkeys to establish
a neonatal binocular blindness model to investigate the
mechanisms of cross-modal plasticity in the visual cortex of
binocular blind subjects by detecting biochemical and
metabolic changes in vivo using
1H-MRS at 3T. Such
alterations in the metabolism of the visual cortex maybe
valuable to future studies of biochemistry, changes in
metabolism and cortical reorganization associated with the
adaptive reactions caused by visual loss or other sensory
deprivations. To our knowledge, we are the first to report the
investigation of biochemical and metabolic changes in the
visual cortex of early binocular blindness macaque monkeys in
vivo using 1H-MRS. Metabolic Changes of Binocular Blind Macaque Metabolic Changes of Binocular Blind Macaque In vivo
1H-MRS is a powerful tool for noninvasively
investigating metabolism in a specific region of the brain. There
have even been reports about biochemical and metabolic
changes detected in the visual cortex with this approach [8-10]. Chan et al[10] reported a reduction in choline (Cho) in the
visual cortex of rats with glaucoma, which may be due to the
dysfunction of the cholinergic system in the visual system
caused by progressive visual loss. In addition, reduction of
NAA and taurine (Tau) levels in the visual cortex contralateral
to the enucleated eye of neonatal monocular enucleated rats
was reported by Chow et al [8]. Such results may reflect a
reduction of neurons and overall neuronal activity in the visual
cortex of monocular blind rats. Furthermore, 1H-MRS also has
been applied to humans with acquired blindness at different
ages to reveal a significant increase of myo-inositol (Ins) in the
visual cortex, which suggests that glial cells may play an active
role in the reorganization of the cortex in response to visual
deprivation [9]. These studies suggest that measurements of
metabolites in the visual cortex can provide valuable
information to study the metabolic changes associated with
cross-modal
plasticity
following
progressive
vision
loss
(glaucoma), monocular blindness in rats and late-stage
blindness in humans; however, no studies have been
conducted on neonatal binocular blind subjects. and maintenance of macaque monkeys supervised their health. Prior to optic nerve transection of monkeys, they were
anesthetized
with
a
0.3ml
ketamine-xylazine
mixture. Postoperatively, each monkey received cefotaxime (75 mg/kg
body weight) and an analgesic, diclofenac sodium (1 mg/kg
body weight), twice daily for 5 days. No monkey was sacrificed
during the study. Introduction audition and olfaction [3]. Therefore, it seems that the visual
cortex of the blind is capable of adapting to accommodate
these non-visual inputs through cross-modal plasticity [1]. However, the exact mechanisms underlying cross-modal
plasticity in the visual cortex of vision loss subjects is a major
question in the research field. Although some previous studies
have reported morphological, functional, behavioral and
biochemical changes, which have been used to explain cellular
and synaptic plasticity mechanisms that uphold anatomical and
functional adaptations in the cerebral cortex, the biochemical
and metabolic changes in the visual cortex after loss of sight
are not clear [4-7]. The loss of any one modality can lead to signal generation in
the deprived cortical area from inputs originating from other
modalities, illustrating the remarkable capacity of the cerebral
cortex for plasticity [1]. This phenomenon, in which a change in
one sensory system alters the development of the remaining
sensory systems in different stage of life, is called cross-modal
plasticity [2]. For instance, congenital or early visual loss
subjects
acquire
important
anatomical
and
functional
reorganization of the visually-deprived cortex that becomes
activated by a variety of non-visual stimuli, such as touch, November 2013 | Volume 8 | Issue 11 | e80073 PLOS ONE | www.plosone.org 1 Metabolic Changes of Binocular Blind Macaque Results The peak areas of NAA, Cho, Ins, Cr and Glx in the visual
cortex of all monkeys are summarized in Table 1. Concentration ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr in
the visual cortex of all monkeys are displayed in Table 2. Note
that if the peak area or the ratio of each metabolite increased
or decreased by 5%-15%, 16%-29% or more than 30%
compared with the group A, we ruled that the differences were
slight, clear and dramatic, respectively. The peak area of NAA
and the NAA/Cr ratio in the visual cortex of monkey 4 in group
B were found to be dramatically decreased compared with the
corresponding mean value of group A, meanwhile the peak
area of NAA slightly decreased and the NAA/Cr ratio clearly
decreased in visual cortex of monkey 3 in group B than those
in group A (Figure 1, Table 1 and 2). The peak area of Ins in
the visual cortex of monkey 4 clearly increased, while the
Ins/Cr ratio slightly increased, whereas the peak area of Ins
and the Ins/Cr ratio of monkey 3 clearly decreased. The peak
area of Cho and the Cho/Cr ratio in the visual cortex of all
monkeys in group B dramatically increased than group A
(Figure 1, Table 1 and 2). The peak area of Glx in the visual
cortices of all monkeys in group B slightly increased, while the
Glx/Cr ratio slightly decreased (Figure 1, Table 1 and 2). vision loss. However, the biochemical and metabolic changes
associated with cross-modal plasticity in the visual cortex
following vision loss are not clear. Hence, in our study, we
investigated the biochemical and metabolic changes in the
visual cortex of macaque monkeys after binocular blindness to
determine their effects on cross-modal plasticity in models of
vision deprivation. N-acetyl-aspartate (NAA) is an amino acid derivative
synthesized in neurons and transported down axons, and it is
found exclusively in the neuron and axon [12]. To our
knowledge, several studies have correlated the concentration
of NAA in brain with the number of neurons measured
[8,12-22]. Some reports demonstrated that a decrease of NAA
levels is a specific marker for the reduction of neurons and
axons, as well as the degeneration including the dysfunction,
structural damage and reduced cell size of neurons and axons
[8,12-19,22]. Ethics statement This study was carried out in strict accordance with the
recommendations in the Guide for the Care and Use of
Laboratory Animals of Fudan University and according to local
and international ethical guidelines. The protocol was approved
by the Committee on the Ethics of Animal Experiments of the
Eye & ENT Hospital. All macaque monkeys were housed in an
air-conditioned room with an ambient temperature of 21–25°C,
a relative humidity of 40%–60% and a 12 h light/dark cycle. During the light period, all monkeys were free to roam the air-
conditioned room, which had swings, erect wood and toys such
as basketballs and puzzles. During the dark period, all
monkeys were housed in individual 100 cm×70 cm×80 cm
cages with visual, auditory and olfactory contacts with their
peers. In addition, all monkeys were provided a balanced diet
including fresh fruits, vegetables, cereals, bread and vitamins
twice daily, in addition to water that was freely available. Furthermore, veterinarians that were skilled in the healthcare November 2013 | Volume 8 | Issue 11 | e80073 PLOS ONE | www.plosone.org 2 Metabolic Changes of Binocular Blind Macaque Table 1. The peak areas of NAA, Cho, Glx, Cr and Ins in
the visual cortex. Group A
Group B
Monkey 1
Monkey 2
Mean
Monkey3
Monkey4
Mean
NAA
6.71
7.50
7.11
6.66 ↓
4.32 ↓↓↓
5.49↓↓
Cr
6.32
7.39
6.86
7.82 ↑
7.45 ↑
7.64 ↑
Ins
10.71
11.16
10.94
8.50 ↓↓
12.66 ↑↑
10.58 ↓
Cho
1.77
1.89
1.83
2.85↑↑↑
3.71↑↑↑
3.28 ↑↑↑
Glx
9.85
9.54
9.70
10.29 ↑
10.34 ↑
10.32 ↑
Note: Group A: normal control macaques, Group B: binocular blind macaques; ↑/↓
increased/decreased 5%-15%; ↑↑/↓↓ increased/decreased 16%-29%; ↑↑↑/↓↓↓
increased/decreased more than 30%. doi: 10.1371/journal.pone.0080073.t001 Results In our study, the peak area of NAA and the
NAA/Cr ratio in the bilateral visual cortex of monkey 4 in group
B were found to be dramatically decreased, while the peak
area of NAA slightly decreased and the NAA/Cr ratio clearly
decreased in the bilateral visual cortex of monkey 3 in group B
than those in group A, which is consistent with previous studies
regarding the decrease of NAA and NAA/Cr in unilateral visual
cortex of monocular blind rat model [8,22]. So, our results were
likely due to the reduction of neurons in the visual cortex of two
binocular blind monkeys in group B [8,13-18,22]. In addition, Data post-processing Table 1. The peak areas of NAA, Cho, Glx, Cr and Ins in
the visual cortex. Spectra analysis was performed on a Siemens MR post-
processing work station (Siemens–Magnetom, Verio, 3.0T MR,
Germany). Five experienced operators performed all MRS
post-processing independently. Resonance peaks in the
spectrum was determined as NAA (2.02ppm), Cr (3.02ppm),
Cho (3.2ppm), Ins (3.5-3.65ppm) and Glx (2.1-2.5ppm and
3.74ppm). Furthermore the peak area of the metabolites was
measured automatically by calculating the integral area under
the curve of the metabolites using the MR post-processing
work station, which represented their relative concentrations. Concentration ratios of NAA, Cho, Ins and Glx were calculated
in reference to Cr, which was considered an internal standard
for the examination. We compared the relative concentrations of the metabolites
mentioned above and the NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr
ratios in the visual cortex of each monkey in group B with those
in group A. Table 2. The ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr in
the visual cortex. Group A
Group B
Monkey 1
Monkey 2
Mean
Monkey 3
Monkey 4
Mean
NAA/Cr
1.06
1.01
1.04
0.85↓↓
0.58 ↓↓↓
0.72↓↓
Ins/Cr
1.69
1.51
1.60
1.09↓↓
1.70 ↑
1.40 ↓
Cho/Cr
0.28
0.26
0.27
0.36 ↑↑↑
0.50 ↑↑↑
0.43 ↑↑↑
Glx/Cr
1.56
1.29
1.43
1.32 ↓
1.39 ↓
1.36 ↓
Note: Group A: normal control macaques, Group B: binocular blind macaques; ↑/↓
increased/decreased 5%-15%; ↑↑/↓↓ increased/decreased 16%-29%; ↑↑↑/↓↓↓
increased/decreased more than 30%. doi: 10.1371/journal.pone.0080073.t002 Table 2. The ratios of NAA/Cr, Cho/Cr, Glx/Cr and Ins/Cr in
the visual cortex. Discussion The peak area of Cho and the Cho/Cr
ratio in the visual cortex of all monkeys in group B dramatically increased. The peak area of Glx in the visual cortices of all monkeys
in group B slightly increased compared with group A. NAA: N-acetyl aspartate, Cho: choline, Cr: creatine, Glx: glutamate +
glutamine, Ins: myo-inositol. doi: 10.1371/journal.pone.0080073.g001 the reduction of axons which transmitted visual inputs to the
visual cortex may also lead to the decrease of NAA and
NAA/Cr ratio in the visual cortex of two binocular blind
monkeys in group B [8,13,14]. What’s more, the degeneration
of neurons and axons in the visual cortex can play an important
role in resulting in the decrease of NAA and NAA/Cr ratio in
visual cortex of two monkeys in group B as well
[8,13,14,16,19]. Therefore, in our study the decrease of NAA
and NAA/Cr ratio in the visual cortex can indicate the reduction
of neurons and axons, as well as the degeneration of neurons
and axons in the visual cortex of two binocular blind monkeys
in group B. increased numbers of cells, increased membrane synthesis, or
increased membrane break down, such as in demyelination
[28]. In our results, the ratio of Cho/Cr in the visual cortex of all
monkeys in group B dramatically increased compared with
group A. We can therefore infer that neurons or glial cells
proliferated, that membranes were disrupted, such as in axonal
demyelination, and/or that the visual cortex was activated by
the remaining sensory systems through cross-modal plasticity. However, a larger sample is needed for further validation. the reduction of axons which transmitted visual inputs to the
visual cortex may also lead to the decrease of NAA and
NAA/Cr ratio in the visual cortex of two binocular blind
monkeys in group B [8,13,14]. What’s more, the degeneration
of neurons and axons in the visual cortex can play an important
role in resulting in the decrease of NAA and NAA/Cr ratio in
visual cortex of two monkeys in group B as well
[8,13,14,16,19]. Therefore, in our study the decrease of NAA
and NAA/Cr ratio in the visual cortex can indicate the reduction
of neurons and axons, as well as the degeneration of neurons
and axons in the visual cortex of two binocular blind monkeys
in group B. Glutamate (Glu) and glutamine (Gln) are referred to as Glx. Discussion Visual deprivation during early life could cause the visual
cortex to be activated by other sensory systems through cross-
modal plasticity, which has been demonstrated in previous
experiments [4,11]. There are two hypotheses regarding the
mechanisms of cross-modal plasticity in the visual cortex after
visual deprivation [1]. The first hypothesis proposes that early
deprived visual cortical circuits can be rewired and/or cross-
wired with other modalities and formatted with new permanent
connections from other sensory receptors. The second
hypothesis suggests that physically present but functionally
silent connections between the deprived visual cortex and
spared cortices could be activated and/or enhanced following November 2013 | Volume 8 | Issue 11 | e80073 PLOS ONE | www.plosone.org 3 Metabolic Changes of Binocular Blind Macaque Figure 1. Biochemical and metabolic spectra in the visual cortex. 1H-MRS spectra were obtained from the visual cortex of
normal control macaque monkeys in group A (A) and sixteen months after binocular visual deprivation in monkey 3 (B) and monkey
4 (C) in group B. The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be
dramatically decreased, while the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual cortex of
monkey 3 in group B than those in group A. The Ins/Cr ratio of monkey 4 slightly increased. The peak area of Cho and the Cho/Cr
ratio in the visual cortex of all monkeys in group B dramatically increased. The peak area of Glx in the visual cortices of all monkeys
in group B slightly increased compared with group A. NAA: N-acetyl aspartate, Cho: choline, Cr: creatine, Glx: glutamate +
glutamine, Ins: myo-inositol. doi: 10.1371/journal.pone.0080073.g001 Figure 1. Biochemical and metabolic spectra in the visual cortex. 1H-MRS spectra were obtained from the visual cortex of
normal control macaque monkeys in group A (A) and sixteen months after binocular visual deprivation in monkey 3 (B) and monkey
4 (C) in group B. The peak area of NAA and the NAA/Cr ratio in the visual cortex of monkey 4 in group B were found to be
dramatically decreased, while the peak area of NAA slightly decreased and the NAA/Cr ratio clearly decreased in visual cortex of
monkey 3 in group B than those in group A. The Ins/Cr ratio of monkey 4 slightly increased. Discussion Glu is the major excitatory neurotransmitter in the mammalian
central nervous system and is released by neurons in the
stimulated state and taken up by surrounding glial cells and
converted into Gln [29]. In our study, we found that the peak
area of Glx slightly increased in the visual cortex of all monkeys
in group B compared with that of group A. This may be due to
an imbalance of the Glu-Gln cycle between glutamatergic
neurons and astrocytes, and suggests that the neurotransmitter
(glutamatergic neurons) may take part in visual cortex
reorganization [30]. However, the ratio of Glx/Cr slightly
decreased, which indicates that the alteration of Glx maybe
unstable or that cross-modal plasticity following vision loss may
not lead to the changes of Glx, as was previously reported [31]. To resolve these opposing views, a larger sample size is
required. In contrast to NAA, Ins is found at high concentrations in glial
cells [23] and is therefore considered a marker of this cell type
[16,24]. A study of blind humans found elevated Ins in the
visual cortex compared with normal-sighted individuals, which
suggested a proliferation of glial cells, an increase in glial cell
size, and/or glial cell participation in the reorganization of the
visual cortex in response to vision loss [9]. In our study, the
peak area of Ins and the Ins/Cr ratio of monkey 4 slightly
increased, which was in accordance with a previous study [9]
and suggested that glial cells may take part in visual cortex
reorganization in binocular blindness. However, the peak area
of Ins and the Ins/Cr ratio of monkey 3 clearly decreased,
which may have resulted from individual differences or immune
responses to nerve degeneration [25]; therefore, further
investigation with a larger sample size is recommended. 1H-MRS has been widely used to investigate developmental
neurobiology in mammalian brains [32,33] to study the
metabolite profiles for measuring cross-modal plasticity in
response to vision loss or other forms of sensory deprivation
[34,35]. There were several limitations in the current study. First, the findings are preliminary, given the limited samples
(N=2 for each group), and therefore a larger sample is needed
in future studies to improve the reliability of the results. Second,
the voxel size used in this study was bigger than the visual The choline (Cho) signal reflects cytosolic choline-containing
compounds,
98%
of
which
are
phosphocholine
and
glycerophosphocholine [26]. November 2013 | Volume 8 | Issue 11 | e80073 References 1. Desgent S, Ptito M (2012) Cortical GABAergic interneurons in cross-
modal plasticity following early blindness. Neural Plast, 2012: 590725. PubMed: 22720175 15. Mountford CE, Stanwell P, Lin A, Ramadan S, Ross B (2010)
Neurospectroscopy: the past, present and future. Chem Rev 110:
3060-3086. doi:10.1021/cr900250y. PubMed: 20387805. 2. Karlen SJ, Krubitzer L (2009) Effects of bilateral enucleation on the size
of visual and nonvisual areas of the brain. Cereb Cortex 19: 1360-1371. doi:10.1093/cercor/bhn176. PubMed: 18842663. 16. Choi JK, Dedeoglu A, Jenkins BG (2007) Application of MRS to mouse
models of neurodegenerative illness. NMR Biomed 20: 216-237. doi:
10.1002/nbm.1145. PubMed: 17451183. 17. Moffett JR, Ross B, Arun P, Madhavarao CN, Namboodiri AM (2007)
N-Acetylaspartate in the CNS: from neurodiagnostics to neurobiology. Prog Neurobiol 81: 89-131. doi:10.1016/j.pneurobio.2006.12.003. PubMed: 17275978. 3. Merabet LB, Pascual-Leone A (2010) Neural reorganization following
sensory loss: the opportunity of change. Nat Rev Neurosci 11: 44-52. doi:10.1038/nrn2758. PubMed: 19935836. 4. Bavelier D, Neville HJ (2002) Cross-modal plasticity: where and how? Nat Rev Neurosci 3: 443-452. PubMed: 12042879. 18. Steen RG, Hamer RM, Lieberman JA (2005) Measurement of brain
metabolites by 1H magnetic resonance spectroscopy in patients with
schizophrenia:
a
systematic
review
and
meta-analysis. Neuropsychopharmacology
30:
1949-1962. doi:10.1038/sj.npp. 1300850. PubMed: 16123764. 5. Rauschecker JP (1995) Compensatory plasticity and sensory
substitution in the cerebral cortex. Trends Neurosci 18: 36-43. doi:
10.1016/0166-2236(95)93948-W. PubMed: 7535489. (
)
6. Schroeder CE, Smiley J, Fu KG, McGinnis T, O'Connell MN et al. (2003) Anatomical mechanisms and functional implications of
multisensory convergence in early cortical processing. Int J
Psychophysiol
50:
5-17. doi:10.1016/S0167-8760(03)00120-X. PubMed: 14511832. 19. Ross B, Bluml S (2001) Magnetic resonance spectroscopy of the
human brain. Anat Rec 265: 54-84. doi:10.1002/ar.1058. PubMed:
11323770. 20. Howe FA, Maxwell RJ, Saunders DE, Brown MM, Griffiths JR (1993)
Proton spectroscopy in vivo. Magn Reson Q 9: 31-59. PubMed:
8512831. 7. Stein BE, Stanford TR (2008) Multisensory integration: current issues
from the perspective of the single neuron. Nat Rev Neurosci 9:
255-266. doi:10.1038/nrm2357. PubMed: 18354398. 21. Simmons ML, Frondoza CG, Coyle JT (1991) Immunocytochemical
localization
of
N-acetyl-aspartate
with
monoclonal
antibodies. Neuroscience 45: 37-45. doi:10.1016/0306-4522(91)90101-S. PubMed:
1754068. 8. Chow AM, Zhou IY, Fan SJ, Chan KW, Chan KC et al. (2011)
Metabolic changes in visual cortex of neonatal monocular enucleated
rat: a proton magnetic resonance spectroscopy study. Int J Dev
Neurosci 29: 25-30. doi:10.1016/j.ijdevneu.2010.10.002. PubMed:
20950681. 22. References Ribak CE, Robertson RT (1986) Effects of neonatal monocular
enucleation on the number of GAD-positive puncta in rat visual cortex. Exp Brain Res 62: 203-206. PubMed: 3007193. 9. Bernabeu A, Alfaro A, García M, Fernández E (2009) Proton magnetic
resonance spectroscopy (1H-MRS) reveals the presence of elevated
myo-inositol in the occipital cortex of blind subjects. Neuroimage 47:
1172-1176. doi:10.1016/j.neuroimage.2009.04.080. PubMed:
19426816. 23. Font C, Garía-Campos M, Hansen AJ, Siemkowicz E, Gjedde A (1982)
Simultaneous diffusion of inositol and mannitol in the rat brain. Rev Esp
Fisiol 38: 317-319. PubMed: 6818625. 24. Brand A, Richter-Landsberg C, Leibfritz D (1993) Multinuclear NMR
studies on the energy metabolism of glial and neuronal cells. Dev
Neurosci 15: 289-298. doi:10.1159/000111347. PubMed: 7805581. 10. Chan KC, So KF, Wu EX (2009) Proton magnetic resonance
spectroscopy revealed choline reduction in the visual cortex in an
experimental model of chronic glaucoma. Exp Eye Res 88: 65-70. doi:
10.1016/j.exer.2008.10.002. PubMed: 18992243. 25. Mountford C, Lean C, Malycha P, Russell P (2006) Proton
spectroscopy provides accurate pathology on biopsy and in vivo. J
Magn Reson Imaging 24: 459-477. doi:10.1002/jmri.20668. PubMed:
16897689. 11. Newton JR, Sikes RW, Skavenski AA (2002) Cross-modal plasticity
after monocular enucleation of the adult rabbit. Exp Brain Res 144:
423-429. doi:10.1007/s00221-002-1087-8. PubMed: 12037628. 26. Dowling C, Bollen AW, Noworolski SM, McDermott MW, Barbaro NM et
al. (2001) Preoperative proton MR spectroscopic imaging of brain
tumors:
correlation
with
histopathologic
analysis
of
resection
specimens. AJNR Am J Neuroradiol 22: 604-612. PubMed: 11290466. 12. Moffett JR, Namboodiri MA, Neale JH (1993) Enhanced carbodiimide
fixation for immunohistochemistry: application to the comparative
distributions
of
N-acetylaspartylglutamate
and
N-acetylaspartate
immunoreactivities in rat brain. J Histochem Cytochem 41: 559-570. doi:10.1177/41.4.8450195. PubMed: 8450195. 27. Fournier GN, Semba K, Rasmusson DD (2004) Modality- and region-
specific acetylcholine release in the rat neocortex. Neuroscience 126:
257-262. doi:10.1016/j.neuroscience.2004.04.002. PubMed: 15207343. 13. Zhang Y, Chen X, Wen G, Wu G, Zhang X (2013) Proton Magnetic
Resonance Spectroscopy ((1)H-MRS) Reveals Geniculocalcarine and
Striate Area Degeneration in Primary Glaucoma. PLOS ONE 8:
e73197. 28. Gujar SK, Maheshwari S, Björkman-Burtscher I, Sundgren PC (2005)
Magnetic resonance spectroscopy. J Neuroophthalmol 25: 217-226. doi:10.1097/01.wno.0000177307.21081.81. PubMed: 16148633. 14. You Y, Gupta VK, Graham SL, Klistorner A (2012) Anterograde
degeneration along the visual pathway after optic nerve injury. PLOS
ONE
7:
e52061. doi:10.1371/journal.pone.0052061. PubMed:
23300590. 29. Shen J, Petersen KF, Behar KL, Brown P, Nixon TW et al. Author Contributions In conclusion, our results demonstrated that biochemical and
metabolic alterations occur in the visual cortex of neonatal
binocular blind macaque monkeys, as measured with 1H-MRS
in vivo. These changes were mainly caused by cross-modal
plasticity that was associated with the reduction of neurons and
axons, the degeneration of neurons and axons, as well as the
activation of connections. Such alterations could provide
valuable information to investigate the mechanism of cross- Conceived and designed the experiments: LJW ZHT XHS XYF
WQ. Performed the experiments: LJW ZHT JW LXJ. Analyzed
the data: ZHT LJW JW LXJ. Contributed reagents/materials/
analysis tools: ZHT XHS XYF. Wrote the manuscript: LJW ZHT
JW. Acknowledgements We want to thank Xinpei Ye and Shenjiang Wang for
assistance during scanning. Discussion These compounds can provide
Cho for the synthesis of the neurotransmitter acetylcholine
(ACh), which is considered as a marker of visual cortex
activation [27]. Moreover, according to previous studies in the
literature, increased Cho has been observed in conditions with PLOS ONE | www.plosone.org November 2013 | Volume 8 | Issue 11 | e80073 4 Metabolic Changes of Binocular Blind Macaque modal plasticity in neonatal visual deprivation and other
neuroplasticity models. cortex for the purpose of ensuring high signal to noise ratio
(SNR), which means that signals that were acquired tended to
average metabolite concentrations of gray matter, white matter
and cerebrospinal fluid. To reduce voxel volume, higher
magnetic field MR equipment would be needed. Lastly, we
investigated biochemical and metabolic changes in the whole
visual cortex, and in future studies we hope to detect these
changes in different regions of the visual cortex. 35. Pajonk FG, Wobrock T, Gruber O, Scherk H, Berner D et al. (2010)
Hippocampal plasticity in response to exercise in schizophrenia. Arch
Gen Psychiatry 67: 133-143. doi:10.1001/archgenpsychiatry.2009.193.
PubMed: 20124113. determined by in vivo 1H NMR spectroscopy. Magn Reson Med 50:
24-32. doi:10.1002/mrm.10497. PubMed: 12815675. Metabolic Changes of Binocular Blind Macaque References (1999)
Determination of the rate of the glutamate/glutamine cycle in the human
brain by in vivo 13C NMR. Proc Natl Acad Sci U S A 96: 8235-8240. doi:10.1073/pnas.96.14.8235. PubMed: 10393978. November 2013 | Volume 8 | Issue 11 | e80073 5 PLOS ONE | www.plosone.org Metabolic Changes of Binocular Blind Macaque Metabolic Changes of Binocular Blind Macaque Metabolic Changes of Binocular Blind Macaque determined by in vivo 1H NMR spectroscopy. Magn Reson Med 50:
24-32. doi:10.1002/mrm.10497. PubMed: 12815675. 30. Xu S, Yang J, Li CQ, Zhu W, Shen J (2005) Metabolic alterations in
focally activated primary somatosensory cortex of alpha-chloralose-
anesthetized rats measured by 1H MRS at 11.7 T. Neuroimage 28:
401-409. doi:10.1016/j.neuroimage.2005.06.016. PubMed: 16182571. 34. Bernabeu A, Alfaro A, García M, Fernández E (2009) Proton magnetic
resonance spectroscopy (1H-MRS) reveals the presence of elevated
myo-inositol in the occipital cortex of blind subjects. Neuroimage 47:
1172-1176. doi:10.1016/j.neuroimage.2009.04.080. PubMed:
19426816. j
g
31. Vizuete ML, Steffen V, Machado A, Cano J (1992) Effects of neonatal
enucleation on catecholamine and serotonin turnover and amino acid
levels in lateral geniculate nucleus and visual cortex of the adult rat. Brain Res 575: 231-237. doi:10.1016/0006-8993(92)90084-M. PubMed:
1373983. 32. Larvaron P, Bielicki G, Boespflug-Tanguy O, Renou JP (2006) Proton
MRS of early post-natal mouse brain modifications in vivo. NMR
Biomed 19: 180-187. doi:10.1002/nbm.997. PubMed: 16470692. 33. Tkác I, Rao R, Georgieff MK, Gruetter R (2003) Developmental and
regional changes in the neurochemical profile of the rat brain PLOS ONE | www.plosone.org PLOS ONE | www.plosone.org November 2013 | Volume 8 | Issue 11 | e80073 6
|
https://openalex.org/W2883011897
|
http://www.apsijournal.com/index.php/psyjournal/article/download/217/147
|
Russian
| null |
ЕВРИСТИЧНИЙ І РОЗВИВАЮЧИЙ ПОТЕНЦІАЛ ГЕНЕТИКО-МОДЕЛЮЮЧОГО МЕТОДУ В ПСИХОЛОГІЇ
|
Psihologìčnij časopis
| 2,015
|
cc-by
| 6,856
|
Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Анотація. У статті розглядаються основні, істотні риси і принципи генетико-моделюючого
методу. Доводиться, що цей метод — один з небагатьох в психології (поряд з лонгітюдним), що
дають можливість дослідити розвиток психіки, а отже, і її сутнісні особливості. Розкрива-
ються можливості методу для вікової та консультативної психології. у
у
Ключові слова: генетико-моделюючий метод, психологія особистості, дослідження, мето-
дологія, розвиток, криза, допомогу. Современное состояние исследования
психологии
личности
характеризуется
наличием большого количества разнооб-
разных теорий. Каждая из них, безуслов-
но, несет в себе определенное позитивное
содержание. С другой стороны, поскольку
психика человека личностна по своей при-
роде, можно говорить и о том, что все пси-
хологические исследования, какими бы
частными и специфическими они ни были,
вносят свой вклад в сумму знаний психо-
логии о личности. И все-таки, в этой об-
ласти явно необходим принципиально
и качественно новый подход к исследова-
нию. Объясняется это тем, что абсолютное
большинство теорий личности созданы
на основании идей автора и житейских
(а не научных) фактов. К этой группе фак-
тов мы относим и те, что получены в прак-
тически-психологической
деятельности,
поскольку не существует методологически
обоснованных способов добывания при
психологической помощи собственно на-
учной информации. моразвития и самоорганизации, остаются
лишь декларациями, не подтвержденными
реальными адекватными исследованиями. моразвития и самоорганизации, остаются
лишь декларациями, не подтвержденными
реальными адекватными исследованиями. Проблема приобретает особую акту-
альность, если мы обратимся к реальной
жизни, например, к процессу обучения
и воспитания ребенка. Срезовые, стимул-
реактивные методы дают частную инфор-
мацию, не затрагивая важнейших вопросов
собственной активности, уникальности
и неповторимости каждого ребенка, его
внутренней
интринсивной
мотивации,
а также, что особенно важно, содержатель-
ной и уникально-неповторимой связи лич-
ности с естественным и культурным окру-
жением. Проблема приобретает особую акту-
альность, если мы обратимся к реальной
жизни, например, к процессу обучения
и воспитания ребенка. Срезовые, стимул-
реактивные методы дают частную инфор-
мацию, не затрагивая важнейших вопросов
собственной активности, уникальности
и неповторимости каждого ребенка, его
внутренней
интринсивной
мотивации,
а также, что особенно важно, содержатель-
ной и уникально-неповторимой связи лич-
ности с естественным и культурным окру-
жением. Разработанный
Л. С. Выготским
и блес тяще реализованный его ученика-
ми и последователями экспериментально-
генетический
метод
остается
единс-
твенным вариантом (кроме лонгитюда)
не стимул-реактивной процедуры, однако
он направлен на формирование (и изуче-
ние этого процесса) отдельных способнос-
тей путем интериоризации и не может уже
в силу того, что так он сконструирован,
охватить процесс становления уникальной
целостной личности. ПСИХОЛОГІЧНИЙ ЧАСОПИС ПСИХОЛОГІЧНИЙ ЧАСОПИС С. Д. Максименко,
доктор психологічних наук, Інститут психології
імені Г. С. Костюка НАПН України (Київ) К. С. Максименко,
кандидат психологічних наук, Київський національний
університет імені Тараса Шевченка (Київ) К. С. Максименко,
кандидат психологічних наук, Київський національний
університет імені Тараса Шевченка (Київ) Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии С другой стороны, эмпирические науч-
ные факты, полученные в разрозненных
исследованиях, также не проясняют кар-
тину личности, ведь они очень разрознены
и получены в результате исследований, ба-
зирующихся на самых разных методологи-
ческих основаниях. Новый подход к изучению личности
и состоит, собственно, в преодолении ука-
занных недостатков и редукций. Однако,
как отмечал Л. С. Выготский, новый под-
ход требует нового метода. Мы считаем,
что таковым может стать особый, гене- Таким образом, наиболее существен-
ные, атрибутивные качества личности, та-
кие как целостность, закономерности са- 46 № 1 (1) / 2015 обучения и развития личности, следует от-
метить, что обучение действительно долж-
но «забегать» вперед развития, но с учетом
того момента, который конституирует из-
начальность этого отношения. Ведь нужда
порождает и актуальный уровень, и зону
ближайшего развития, поскольку является,
собственно, тем исходным, что определяет
психическое бытие личности как таковое. Если вернуться теперь к истокам и меха-
низмам формирования личности слепог-
лухонемого ребенка, необходимо принять
ко вниманию важное положение Э. В. Ильен-
кова, который установил, что является
изначальным в этом процессе. Он заост-
рил значение социального влияния, и это
очень правильно, но дело не только в нем. Эти влияния очень сложные, дидактичес-
ки и методически очень тяжелы, и они
действительно позволяют ребенку (при
условии влияния на ведущие анализато-
ры) становиться личностью [5]. Но важна
и другая сторона: у этих детей существует
изначальная, биосоциальная нужда стать
личностью. Биологическое оказывается
настолько пластичным, что под влиянием
социальной среды, существуя в единой
динамической паре, дает возможность раз-
виваться идеальному психическому, даже
при условиях существенных отклоне-
ний. И в этом — суть проблемы. Если бы
не было нужды, которая выступает нача-
лом и окончанием личности, не было бы
и этого биосоциального порождения ново-
го единства — личности человека. тико-моделирующий метод. Наша долгая
теоретико-аналитическая работа над ус-
тановлением сущности этого метода под-
тверждает выдвинутое предположение. Здесь будет изложена сущность данного
метода и намечены его возможности, уже
частично подтвержденные исследователь-
ской практикой. Сущность
генетико-моделирующего
метода состоит в том, что он позволяет
моделировать генез целостной личности. Здесь учитывается то непреложное поло-
жение психологии, что любое психоло-
гическое явление (функцию) можно изу-
чать, лишь изучая его в процессе развития
(становления). При этом метод позволяет
влиять на развитие личности в целом, хотя
это влияние связано с иной, непривычной
трактовкой данного процесса (коротко
— оно вовсе не сводится к направленному
присвоению). Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Понимание нужды как единой противо-
речивой целостности биологического и со-
циального дает возможность более содер-
жательно рассмотреть её специфические
порождения — психологические средства,
социальные стремления и другие струк-
туры, формирование которых определя-
ет направленность и само существование
личности. Возвращаясь к анализу разных
теорий, отметим, что они, на наш взгляд,
просто «охватывают» отдельные моменты
и аспекты существования и развития нуж-
ды (Г. С. Костюк, П. Я. Гальперин, Ж. Пи-
аже, Л. С. Выготский). Направляясь раз-
личными теоретическими путями, ученые
приходили к одному и тому же (хотя и не
эксплицированному положению) — меха-
низм порождения психического укоренен
в нужде. Тут — единство биологическо-
го и социального, телесного и духовного. Мы, фактически, фиксируем сейчас нали-
чие различных путей к одному и тому же
фундаментальному противоречивому ос-
нованию личности. Нужда,
таким
образом,
является
тем генетически исходным образованием,
которое конституирует в единой дихото-
мической паре дозревание биологического
индивида и психологическое проявление
социальных влияний, что и порождает
личность. Собственно говоря, социальное
появляется «на сцене» дважды: сначала
как разделенная функция между двумя ин-
дивидами, потом происходит присвоение
людских качеств и вступает в силу закон
нужды, но в ином активно-воплощающем
виде. Так в подростковом возрасте нужда
определяет социальный контекст продол- Нам кажется, что такое понимание от-
крывает новые возможности в изучении
конкретных проблем, в том числе и тех,
что уже давно и продуктивно изучаются. Так, рассматривая вопрос о соотношении 47 ПСИХОЛОГІЧНИЙ ЧАСОПИС жения рода. Это и есть «второе» рождение
личности. том порождает не только удовольствие
от этого «участка» нужды, она порождает
познание. Так появляется познавательная
потребность, которая далее развивает ин-
теллект, образуя, в конечном счете, целост-
ную когнитивную сферу личности. Но об-
ратите внимание — мы говорим, что все
начинается с выражения нужды, то есть
с собственной активности, и именно это,
а вовсе не давление и обреченность отно-
сительно социального окружения, вызы-
вает процесс интериоризации. Но чтобы
эмпирически исследовать все это, необхо-
дим адекватный метод — генетико-моде-
лирующий эксперимент. Понятно, почему нас склоняет к теоре-
тико-методологическому анализу загадоч-
ность феномена зарождения-порождения
именно человеческой жизни. Стержневым
моментом тут является введение в катего-
риальную сетку понятия нужды. Почему
мы к нему обращаемся? Дело в том, что ка-
тегория нужды выступает объяснитель-
ным принципом относительно моделиру-
ющей природы психики человека, и тогда
можно вести речь о методе исследования
личности. Когда Л. С. Выготский анализировал
в своих произведениях данную пробле-
му, он создал первый метод, называя его
каузально-динамическим,
генетическим,
инструментальным, экспериментально-ге-
нетическим [2]. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Нужда
выступает и носителем вековечного опыта
человека (и как биологического, и как со-
циального существа) и, вместе с тем, она
есть исток личностной активности — ак-
тиватор, энергия которого никогда не пога-
сает, так как она воплощается и восстанав-
ливается в новой жизни. является условием, основой и базисом
функционирования (так, именно развитие
психики есть условие и основание воз-
никновения и функционирования высших
психических функций). является условием, основой и базисом
функционирования (так, именно развитие
психики есть условие и основание воз-
никновения и функционирования высших
психических функций). Научные данные показывают, что, изу-
чая становление человека, мы имеем дело
с явлением проектирования (самопроекти-
рования!) высших психических функций
в уникальном пространстве социальной
ситуации развития. Здесь в единое целое
связываются собственно генезис, идущий
по объективным законам, своеобразная
активность личности и система социаль-
но-педагогических условий ее функцио-
нирования и развития. Осознание этого
предопределяет поиск новой методичес-
кой процедуры, которая давала бы возмож-
ность более адекватно исследовать и по-
нять упомянутое сложное явление. Нам
представляется, что такой процедурой мо-
жет стать генетико-моделирующий метод
(как модификация генетического метода). Если мы наблюдаем (исследуем) чело-
веческого ребенка в первый период его су-
ществования после физического рождения,
наш чувственный опыт (или эксперимент)
предоставляет информацию об отдельных
частях, их взаимосвязи, функционирова-
нии. При этом что-то очень главное, сущес-
твенное, остается вне нашего чувственно-
го опыта, но мы знаем об этом. Мы знаем,
что это — живое, человеческое существо,
в основе существования которого — дей-
ствие биосоциальной нужды, что оно, су-
щество, уже сейчас является воплощением
всего естественного и культурного опыта
и конкретно — своих родителей, что оно
готово стать личностью, и мы можем вооб-
разить, каким оно станет (и биологически,
и социально). Это знание не менее реаль-
но, чем-то, что мы получаем в чувствен-
ном плане, оно просто другое. И.-В. Гете
очень давно назвал такое знание удиви-
тельно удачно — «точная фантазия» [3]:
то есть, это наше свободное построение,
но оно как бы «не совсем» свободное, пос-
кольку является вместе с тем и точным,
ибо основывается на надежных эмпири-
ческих данных. Это есть проектирование
целостного объекта изучения. Но эта «точ-
ная фантазия» не охватывается существу-
ющими в психологии исследовательскими
процедурами. Она или «имеется в виду»,
или подменяется какими-то частичными
понятиями-домыслами, которые, в общем- Генетико-моделирующий метод имеет
целью изучения саму целостную личность
в развитии. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии В одном месте он говорит
о генетически-моделирующем методе, ко-
торый, в отличие от экспериментально-ге-
нетического, должен работать в социальной
плоскости, открывая механизмы присвое-
ния способностей, запрограммированных
социумом, а также с явлением моделирова-
ния и воссоздания этого присвоения. С чего
оно начинается? Мы уверены, что оно на-
чинается с нужды. Когда опредмеченная
нужда двух индивидов противоположного
пола прорастает в новую жизнь, тогда но-
вообразованием выступает биосоциальное
существо, появляющееся на свет. И прав
был Г. С. Костюк, когда говорил, что чело-
век рождается биологическим существом,
но имея потенцию стать личностью [6]. «Имея потенцию» — это означает, что он
сам в себе уже несет биосоциальную нуж-
ду, как исторический смысл воспроизводс-
тва рода человеческого. Решая задачу познания момента зарож-
дения и становления психического, мы
будем
использовать
генетически-моде-
лирующий метод, центральным принци-
пом которого является принцип единства
биологического и социального. Противо-
поставление биологического и социаль-
ного, на наш взгляд, скорее «подогнано»
под исследовательскую проблематику оп-
ределенного ученого. На самом деле (в ло-
гике объекта) сложно разделить, где у лич-
ности биологическое, а где социальное,
тем более, что в онтогенезе социальное
становится биологическим. С. Л. Рубинштейн отмечал, что орга-
низм развивается, функционируя; взрос-
лый человек развивается, работая; ребенок
развивается, учась. В этом, по его мнению,
состоит основной закон психического раз-
вития ребенка. Отсюда вытекает, что функ-
ционирование является первичным (по-
рождающим) по отношению к развитию. Но, с другой стороны, следует учесть,
что именно функционирование есть пре-
вращенная история развития, поскольку
последнее представляет собой основной
способ существования человеческой пси-
хики. Именно применение генетико-мо-
делирующего метода дало возможность
получить данные, которые удостоверяют
«равноправие» частей исходного проти-
воречивого единства (функционирования
и развития). И мы можем сейчас сказать,
что, как функционирование служит осно-
вой и базисом развития, так и развитие Наше понимание категории нужды поз-
воляет говорить не столько о присвоении,
сколько о моделировании: психическое,
подталкиваемое нуждой, вызывает осо-
бенное — личностное действие человека. Это действие вначале (в раннем онтогене-
зе) является исключительно аффективным
(но все же оно личностное, уникальное
и неповторимое в планировании, в испол-
нении). Встреча такого действия с объек- 48 № 1 (1) / 2015 и воплощается в странное создание — но-
вое биологическое существо, но не толь-
ко биологическое, а именно — биосо-
циальное. Нужда двух, биосоциальная
по природе, нужда их друг в друге и нужда
в собственном продолжении — творении,
порождает это творение и продолжается
в нем, реализуясь в разных потребностях,
и обеспечивает, в том числе, и то, что на-
зывается «врастанием в культуру». Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии В связи с этим возникла необ-
ходимость поиска «единиц» совсем другой
природы, и было установлено, что таковой
является нужда, как противоречивое ис-
ходное единство биологического и соци-
ального, которое предопределяет сущест-
вование личности. Принципы построения
метода отражают природу существования
объекта изучения. Технология метода (при-
нцип единства генетической и эксперимен-
тальной линий развития) предусматривает
проведение исследования в максимально
«естественных» условиях существова-
ния личности и создание актуального
пространства реализации самой лич-
ностью многочисленных возможностей
моделирования
собственного
развития
и существования. Живое существо, которое начинает-
ся в материнском лоне, есть изначально
«плоть от плоти» произведение двух че-
ловеческих существ. Социальное (весь не-
объятный опыт поколений, присвоенный
и сконцентрированный в двух любящих
существах — родителях) опредмечивается 49 ПСИХОЛОГІЧНИЙ ЧАСОПИС то, отношения к объекту изучения не име-
ют. Это феномен, перед которым психоло-
гия во всех ее направлениях и проявлениях
всегда останавливалась, и заявляла, что да-
леко не все может быть дано в опыте. называется генетико-моделирующим экс-
периментом и отождествляется с форми-
рующим учебным экспериментом. Нам ка-
жется, что такое отождествление является
просто недоразумением). Личность — это сложная система, ко-
торая саморазвивается, то есть сама моде-
лирует и реализует собственный генезис. Для того, чтобы научно исследовать этот
процесс, то есть исследовать саму лич-
ность, мы должны создать такие способы
и формы изучения, которые бы не преры-
вали и не останавливали развитие искусст-
венно, а вызывали его, сосуществовали бы
с ним. В идеале — это сосуществование
по принципу сопряжения (Г. С. Костюк):
мы должны дать возможность личности
(объекту изучения) свободно функциони-
ровать и развиваться по собственным за-
конам, но, вместе с тем, предоставлять ей
такие возможности (естественные и соци-
альные), которые подлежат эмпирической
фиксации и верификации. Мы считаем иначе, если чувственный
опыт оказывается недостаточным в объ-
яснении феномена личности, нет смысла
ни останавливаться, ни приучать мысль
к спекулятивным хитросплетениям. Надо
преодолеть данный недостаток путем
расширения и качественного изменения
опыта. Подчеркнем: речь идет не только
о расширении (сколько бы новых мето-
дик и техник мы не применяли, если они
опираются на существующие парадигмы,
то ничем не помогут). Необходимо имен-
но качественное изменение, то есть совсем
иной и новый опыт, который отвечал бы
сущности самого явления, которое изуча-
ется. В данном случае существенным являет-
ся единство: природа — очеловечена, чело-
век — оприроднен. Сама эта фраза, конеч-
но, ничего не дает в познании, но без нее
мы не можем идти дальше, она — точка
отсчета. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Ведь очеловеченная природа и оп-
риродненный человек — это есть феномен
(а не только констатация), и как таковой он
имеет разные формы существования. Одна
из них — биосфера как единство, а дру-
гая — человеческое существо как единс-
тво. В последней это единство вызывается
и удерживается нуждой, биосоциальной
по своей сущности. ф
р ф
Генетико-моделирующий метод, как уже
сказано, не является, собственно, анали-
зом. Вместе с тем, он, как и любой научный
метод, обязательно имеет аналитическую
составляющую. Не на основании только
данных чувственного опыта, и не на осно-
вании только эмпирического мышления,
а в результате объединения этих двух со-
ставляющих с третьей — «точной фанта-
зией» (или — креативностью), мы должны
выделить в целостной личности такие со-
держательные единицы, которые были бы
самостоятельными и самодостаточными,
несли в себе всю целостность и обеспечи-
вали в своей совокупности ее (целостнос-
ти) саморазвитие и функционирование. Последнее — главное и существенное:
«единица» системы, которая саморазвива-
ется и саморегулируется, принципиально
отличается от тех «единиц», что устанав-
ливались в экспериментально-генетичес-
ком методе. Образно и, вместе с тем, аб-
солютно точно говоря — она должна быть
живой. Соблюдение этого и будет означать
отход от редукции. Обретение качественно нового опы-
та требует нового метода исследования,
адекватного и объекту, и исходным поло-
жениям. Это не может быть аналитичес-
кий метод, поскольку нужда как исходное
противоречивое единство биологического
и социального не раскладывает, а создает,
интегрирует целостную личность в про-
цессе ее онтогенеза. Итак, это должен быть
метод, который бы моделировал генезис
личности. Мы назовем его генетико-моде-
лирующим, поскольку это название макси-
мально отвечает его сущности. (Необходи-
мо заметить, что в теории развивающего
обучения генетико-моделирующий метод И не следует забывать, что и сама лич-
ность является реальной «единицей» су- 50 № 1 (1) / 2015 ференциация интегрированного единства
личности. ществования и развития человеческой пси-
хики. И в этой своей ипостаси она дальше
не раскладывается. Психика человека
— личностная, и это выражение означает,
что любое исследование любого частично-
го процесса или явления будет адекватным
лишь тогда, когда это последнее будет рас-
сматриваться как содержательное разветв-
ление личности, и лишь тогда оно станет
понятным (заметим, что это не учитывает-
ся в психологии и является в ней не более,
чем декларацией). Таким образом, аналитическая составля-
ющая генетически-моделирующего метода
направлена на выделение содержательных
подвижных единиц генезиса и самомоде-
лирование. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Штерн, очень внима-
тельно рассматривая проблему взаимо-
действия биологического и социального
в личности, сформулировал «принцип
конвергенции». Его сущность заключается
в том, что ни о какой функции личности,
ни о каком ее свойстве нельзя сказать, воз-
никают они извне или изнутри. Надо разо-
браться, что в них возникает извне, а что
— изнутри, поскольку и одно, и другое бе-
рут участие — но неодинаковое — в ее осу-
ществлении [8]. Вопрос, однако, намного
сложнее. Мы считаем, что сложное проти-
воречивое взаимодействие биологического
и социального есть смысл рассматривать
в двух плоскостях — как факторы, которые
действуют на личность, и как факторы, ко-
торые образуют личность и обеспечивают
ее существование и развитие «изнутри». Первая плоскость анализа представляет
собой взаимодействие «личность — окру-
жающий мир». В ней действительно мож-
но в определенной степени выделять собс-
твенно
биологические
(естественные)
факторы и социальные. альное воплощение и психосоматические
явления, которые интенсивно исследуются
современной наукой, являются наилучшим
подтверждением этого. Принцип единства биологического и со-
циального открывает реальную сущност-
ную природу истоков активности личности. Когда психология твердит, что такими ис-
токами являются потребности, она ошиба-
ется. Ведь есть очень простые и уместные
вопросы: а откуда возникают потребнос-
ти? Кроме того, действием потребностей
нельзя объяснить самодвижение, самораз-
витие той сложной открытой системы, ко-
торой является личность. Так и возникает
представление о духе как первоисточнике
активности, а он ведь не может быть иссле-
дован в рамках современной науки. Снова
наиболее интересное и самое главное ис-
чезает из психологии (между прочим, тер-
мин «душа» в древней Греции и означал
источник активности). Мы утверждаем, что такой исходный
первоисточник активности личности на са-
мом деле существует, и он целиком подле-
жит научному исследованию. И это есть
нужда. В. В. Давыдов отмечал: «Нужда
служит глубинной основой потребности…
Проблема заключается в том, как эта нуж-
да у человека превращается в соответству-
ющую потребность» [4, c. 44]. Далее отме-
чается, что этого еще никто в психологии
не изучал, и это есть правда. В. В. Давыдов
рассматривает нужду в контексте деятель-
ности (а не личности), как ее важную со-
ставляющую, и совсем не старается анали-
зировать ее психологическое содержание,
отмечая, что это «очень сложный будущий
разговор…» [4, c. 44]. Хотя последние, на самом деле, никог-
да не являются только исключительно со-
циальными, все они представляют продукт
человека (человечества), в котором опре-
деленным образом воплощено не только
социальное, но и биологическое того це-
лостного, биосоциального существа, кото-
рое их создавало. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии И хотя это принципиально от-
личается от установления единиц в рамках
экспериментально-генетических, мы ос-
тавляем без изменений название первого
принципа нашего метода — принцип ана-
лиза по единицам. Как установить в анализе содержатель-
ные «единицы» личности? Обратимся
снова к «точной фантазии»: генезис, су-
ществование, оформление, саморазвитие
личности обеспечиваются особой и уни-
кальной биосоциальной силой — нуждой. Нужда выступает как противоречивое, под-
вижное и энергетическое единство биоло-
гического и социального, как воплощение
и возможность дальнейшего бесконечного
воплощения человеческого в человеческое,
как то, что моделирует и реализует движе-
ние личности, и является исходной всеоб-
щей единицей — носителем личностной
природы психики человека. В своем «раз-
вертывании» нужда «встречается» с со-
циальными и биологическими факторами
окружения человека и задает содержатель-
ные точки — единицы тезауруса личности. Они, эти единицы, являются и узелками
структуры, и вместе с тем — линиями раз-
вития личности. Анализ по единицам дает возможность
выяснять и интерпретировать реальные
связи и отношения, что образовывают дан-
ное явление. Такой анализ должен объяс-
нить возникновение, происхождение вне-
шних признаков психического процесса. Это возможно при полном динамическом
развертывании всех моментов психическо-
го процесса, который требует всегда опре-
деленного замедления в переходе процес-
сов и достигается лучше всего тогда, когда
их переход осложнен. р
Согласно нашей методологической па-
радигме, применение генетико-модели-
рующего метода позволит, в конце кон-
цов, «вернуть человека в психологию»,
поскольку метод дает возможность про-
анализировать и, вместе с тем, интегри-
ровать то исходное системообразующее
начало личности, которым является нужда
как уникальное единство биологического
и социального и их активатор. Разработка
метода, таким образом, является первооче-
редной и наиболее актуальной проблемой. На данном этапе нами разработаны основ-
ные принципы его построения и примене-
ния (первый из них — «анализ по едини-
цам»). Существование
(функционирование,
развитие)
отдельных
линий
развития
личности (содержательных «узелков» ее
структуры) имеет, таким образом, доста-
точно жесткую двойную обусловленность-
детерминированность. Всеобщее течение человеческой нуж-
ды «встречается» с факторами окружения
(биологическими, социальными). Возни-
кают разветвления нужды — потребности,
которые, реализуясь, образовывают опре-
деленные межфункциональные системы,
которые специализируются, оставаясь при
этом частями и носителями целостности
(аналогия с тканями и органами челове-
ческого организма). Так возникает диф- Другой важный принцип генетико-
моделирующего метода изучения личности
отображает ее изначальную природу. Это
принцип единства биологического и со-
циального. Статус принципа научного ме-
тода не позволяет только декларировать
данное единство, поскольку в этом случае
он перестанет быть принципом. Необхо-
димо четко осознать, что именно имеется
в виду, что понимается под единством? 51 ПСИХОЛОГІЧНИЙ ЧАСОПИС В свое время В. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Если же рассматривать
биологическое и социальное как внутрен-
нее, личностное, нужно признать, что мы
никогда не имеем в этом случае их отдель-
ности. Мы отступаем от традиционного рас-
смотрения биологического как наследст-
венного и телесного: «внутри» личнос-
ти биологические и социальные факторы
не существуют как отдельные, каждый
из них представляет собой инобытие друго-
го. Любая мысль, образ, идея, потребность
невозможна вне биологических струк-
тур и функций организма. Также верным
является и обратное — каждая телесная
структура, каждая биологическая функция
человека — это проявление человеческого
естества, то есть это то, что изначально не-
сет в себе как биологическое, так и соци- Мы исходим из того, что нужда есть
исходное энергетическое начало личнос-
ти, биосоциальное по своей природе. Он-
тогенез личности начинается значительно
ранее, нежели она рождается физически. Его начало — опредмечивание-воплоще-
ние нужд двух людей, которые любят друг
друга. Возникает новая форма существо-
вания нужды, последняя просто не может
существовать без материального носителя
(по крайней мере, современная наука не зна- 52 № 1 (1) / 2015 ет другого способа существования биосо-
циальной нужды, кроме существования ее
в качестве социобиологической энергети-
ческой основы личности человека). признаком личности — это высшая форма
активности. Активность, которая создает
и оставляет след, воплощается. С другой
стороны, креативность означает стремле-
ние выразить свой внутренний мир. Когда
А. Ф. Лосев называет выражение одним
из атрибутивных признаков личности, он
четко определяет, что это выражение на са-
мом деле, в то же время, является и актом
создания этого мира. Соблюдение принципа единства био-
логического и социального в границах
генетико-моделирующего метода означа-
ет изучение онтогенеза от его реального
начала, исследование механизмов возник-
новения потребностей из нужды. В це-
лом, это означает рассмотрение в любом
конкретно-психологическом исследовании
существования личности как способного
к саморазвитию исходного биосоциально-
го единства. Соблюсти принцип креативности в ана-
лизе (и в исследовании) личности означа-
ет «взять» ее существование в целом, в ее
уникальном целенаправленном единстве,
в котором она лишь и существует. Это оз-
начает реально учесть многозначность, не-
ожиданность и непредсказуемость личнос-
ти. С другой стороны, это означает отдавать
себе отчет в том, что не все однозначно
и прогнозируемо. Все, что мы стараемся
получить в современных экспериментах,
есть, на самом деле, даже не конкретный
случай, а настоящий артефакт. И в этом
— главный недостаток исследований в об-
ласти психологии личности. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии ной науки к прагматическому схематизи-
рованию приводит к очень упрощенным
представлениям относительно личности
человека. Принцип релятивизма (относи-
тельности) предостерегает от схематиз-
ма и поверхностных прогнозов — наши
знания являются ограниченными и всег-
да будут такими: мы надежно знаем лишь
о наличии рефлексивно-творческого по-
тенциала человека и о беспредельности
его проявлений. В связи с этим открыва-
ется реальная ограниченность и несерьез-
ность попыток схематизирования либо мо-
делирования личности. В связи с этим же
открывается реальная глубина страданий
человека, которым манипулируют, или ко-
торый сам манипулирует. Вместе с тем, принципы креативности
и релятивизма открывают реальное со-
держание явления субъектности: нужда
в онтогенезе будто разветвляется. Часть ее
существует и функционирует так, как это
было в раннем детстве, как было вначале:
без ведома данного человека обеспечи-
вается его жизнеспособность и течение
жизни в целом. Другая «ветвь» нужды
направляется исключительно на встречу
с социальным миром. Именно эти встречи
порождают высшие психические функции,
формируя целеполагание, пристрастность
внутреннего мира, креативность. Так рож-
дается субъект. Эта целостная личность выходит на пер-
вый план в генетико-моделирующем ис-
следовании. И мы легко склоняемся к фе-
номенологическому направлению, когда
даем себе отчет, что здесь (см. принцип
креативности) ничего «смоделировать»
нельзя, не нарушив филигранно тонкий
процесс самомоделирования и саморазви-
тия. Итак, остается только описание? Нет,
мы уверены, что объединение этой «естес-
твенно» — генетической линии развития
с экспериментальной возможно, но не пу-
тем формирования — присвоения способ-
ностей, а путем создания в эксперименте
особых условий развертывания и «замед-
ления» становления целостных единиц
анализа. Это может происходить на фоне
разнообразных (но фиксированных) воз-
можностей для самомоделирования. Последний
принцип
генетико-моде-
лирующего
исследовательского
метода
изучения личности — единство экспери-
ментальной и генетической линий раз-
вития. На наш взгляд, это очень сущест-
венный момент характеристики не только
нашего метода, а и общего состояния дел
в психологии личности. Изучая развитие
посредством формирующего эксперимен-
та, мы сами формируем, и то, что фор-
мируем — то и изучаем. А как на самом
деле, без нашего вмешательства? Остроту
этого вопроса, к сожалению, не замети-
ли многие. И напрасно: психология стала
«формирующей», формирующий экспери-
мент и сейчас является необходимым атри-
бутом диссертаций. Но, вспомним, наука
должна изучать объект в его собственной Возвратимся снова к Л. С. Выготскому,
который утверждал (и абсолютно справед-
ливо), что новый концептуальный подход
требует нового, адекватного исследова-
тельского приема [1]. Мы считаем, что ге-
нетико-моделирующий метод (в нашем его
понимании) отражает те сущностные идеи,
которые необходимо реализовать в исследо-
вании личности как целостности. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Последнее мы
считаем очень важным, прежде всего ме-
тодически, и потому формулируем следу-
ющий, четвертый принцип — рефлек-
сивного релятивизма, который фиксирует
принципиальную невозможность устанав-
ливать точные измерения и фиксировать
окончательно высшие уникально-творчес-
кие проявления личности. Следующим важным принципом пост-
роения генетико-моделирующего метода
есть принцип креативности. «Встречи»
нужды с многочисленными и разнообраз-
ными объектами и явлениями не просто
порождают потребности, они предопреде-
ляют целеполагание и развитие собствен-
ных и уникальных средств достижения це-
лей. Это есть, фактически, творчество. Именно в этом смысле мы употребляем
термин «креативность». Итак, речь идет
о творческой уникальности личности, ко-
торая пронизывает весь ее жизненный
путь. Уже само начало нового человека
есть ничто иное как результат творческого
акта опредмечивания своей нужды двумя
любящими существами. Уже сама по себе
личность является результатом и продук-
том творчества. И нужда, воплощенная
в ней, имеет огромный креативный потен-
циал, который обнаруживается в уникаль-
ности, гетерогенности, самоосознании,
самодостаточности в целом. Реальная та-
инственность и загадочная уникальность
человеческого сознания заключается в его
способности к моделированию и само-
моделированию. Именно это приводит,
в частности, к абсолютно своеобразно-
му соотношению в сознании прошлого,
настоящего и будущего. Сознание само-
моделируется, присваивая способность,
и моделирует дальнейшее существование
человека. Ведь самодетерминация через собствен-
ную нужду открывает человеку принципи-
ально ненасыщаемую и неограниченную
возможность разнообразия буквально всех
проявлений и свойств. Наличие рефлексии
как одного из наиболее интересных и за-
гадочных следствий встречи нужды с жиз-
нью человека делает эту жизнь беспре-
дельно своеобразной, открывает человеку
реальную бесконечность ресурсов самоиз-
менения в каждый момент времени. В целом это явление хорошо известно:
вспомните хотя бы настойчивое утверж-
дение Ф. М. Достоевского о необъятной
глубине и непредсказуемости «реальной,
основательной личности» каждого челове-
ка. Вместе с тем, стремление положитель- Креативность является глубинным, из-
начальным и абсолютно «естественным» 53 ПСИХОЛОГІЧНИЙ ЧАСОПИС логике, а не логику исследователя в объ-
екте. Вопрос остался без внимания, а на-
сколько же он заострится, если «в психо-
логию вернется человек»? Ведь главным
станет то, на что сейчас просто никто не об-
ращает внимания: если у ребенка искусст-
венно формируется (и изучается), скажем,
опосредствованное запоминание способом
«врастания-присвоения», но сам-то ре-
бенок при этом существует и развивается
как целостность. Мы изучаем дискретный
момент — как оно врастает, как присваи-
вается. А что происходит при этом с ребен-
ком, с его другими функциями и явления-
ми? Возникает кардинальный вопрос, а как
это происходит у других детей, у тех, у кого
никто ничего не формирует специально? Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Целост-
ности саморазвивающейся благодаря дейс-
твию биосоциальной основы — нужды,
которая опредметилась в данной личности. Мы можем указать сейчас, что психоло-
гия не имеет теории развития целостной 54 № 1 (1) / 2015 личности из-за одного существенного мо-
мента: утрачена «третья составляющая»
развития, а именно — саморазвитие. В свое время Г. С. Костюк отмечал, что не-
достаточность существующих противопо-
ложных подходов для понимания развития
личности должно преодолеваться «науч-
ным пониманием процесса становления
человеческой личности как самодвиже-
ния, что определяется единством его вне-
шних и внутренних условий» [6, c. 130]. 30 лет спустя эта же мысль высказывает-
ся В. И. Слободчиковым и Е. И. Исаевым:
«Речь должна идти о развитии не только
сущности природы (созревание), не толь-
ко сущности социума (формирование),
а прежде всего о сущности человека
— о саморазвитии: как фундаментальной
способности человека становиться и быть
соответствующим действительности субъ-
ектом своей собственной жизни» [7, c. 13]. Итак, ничего положительного в данном
направлении за эти годы в психологии
личности не состоялось… Поэтому мы
и предлагаем приложить генетико-моде-
лирующий метод, который, как было по-
казано, включает принцип саморазвития,
значит, дальнейший наш анализ будет осу-
ществляться именно с опорой на данный
феномен как ключевой, именно этот карди-
нальный подход означает, что есть смысл
поставить фундаментальный вопрос, кото-
рый не был поставлен ни Г. С. Костюком,
ни В. И. Слободчиковым (как, впрочем,
и другими исследователями): это вопрос
об истоках, движущих силах саморазви-
тия целостной личности. Здесь снова ра-
ботает генетическая логика: констатация
наличия явления (саморазвития), его опи-
сание совсем не означает его соответству-
ющее действительности понимание, если
мы не решим, как, благодаря каким исто-
кам это явление возникает и развивается. С другой стороны, внимание к феномену
саморазвития не является случайным —
ведь это сущностная, ключевая функция
личности. Можно сказать даже так: лич-
ность существует как целостная структу-
ра, которая обеспечивает реализацию фун- Итак, процедура применения генети-
ко-моделирующего метода состоит в со-
здании контролируемых исследователем
условий свободного проявления собс-
твенной активности каждой уникальной
личности с фиксированием соответству-
ющих результатов. При этом учитывает-
ся центральный принцип генетической
психологии, согласно которому развитие
целостного человеческого существа (лич-
ности) определяется действием нужды
в единстве её биологических и социаль-
ных составляющих. Кроме этого, развитее
осуществляется в условиях диалогичес-
кого взаимодействия личности с социаль-
ным и биологическим окружением, т. е. теми сферами, которые родственны соот-
ветствующим параметрам нужды, но ещё
не входят в её состав. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии В ц
лом это — позиция направленной помощ
а суть помощи определяется периодом он
тогенеза и индивидуальными особенност
ми развития данного конкретного ребенк
необходимо определить, какая составляю
щая нужды в данный момент доминируе
и соответственно этому выстраивать стр
тегию и тактику педагогических и корре
ционных воздействий. Так, например, и
Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни Рис. 1. Рис. 1. С — социальное Б — биологическое по оси ординат — годы жизни Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни я тот факт, что установленная
омерность имеет объективный
характер, необходимо приме-
денные данные в воспитатель-
ной работе, а также в практике
сихологической помощи. На-
жет быть объяснена причина
кризиса (отметим, что эти
не рефлексирует этого, и поэтому нахо
ся в растеренном, дисгармоничном со
нии (кризис). Однако процесс социаль
созревания идет, «подтягивая» за с
биологическое. Так ситуация гармон
руется и кризис проходит. Всё сказанное касается не только, с
венно, кризиса. Наши эмпирические
Рис. 1. С — социальное, Б — биологическое, по оси ординат — годы жизни не рефлексирует этого, и поэтому находит-
ся в растеренном, дисгармоничном состоя-
нии (кризис). Однако процесс социального
созревания идет, «подтягивая» за собой
биологическое. Так ситуация гармонизи-
руется и кризис проходит. Учитывая тот факт, что установленная
нами закономерность имеет объективный
и всеобщий характер, необходимо приме-
нять приведенные данные в воспитатель-
ной и учебной работе, а также в практике
оказания психологической помощи. На-
пример, может быть объяснена причина
возрастного кризиса (отметим, что эти
кризисы приходятся на период активности
социальной составляющей нужды). Осваи-
вая на протяжении того или иного возраст-
ного периода социальный опыт, ребенок
вместе с тем созревает биологически, ибо
в это время активной является биологичес-
кая составляющая нужды. В определенное
время, социальная её составляющая, по-
полненная новым опытом, активизируется
и «требует» своей реализации в активности
ребенка. Последний, однако, оказывается
не готов к этой реализации в полной мере,
поскольку биологически он подготовлен
только к той активности, которую уже
может проявлять («зона актуального раз-
вития»). Поэтому, он оказывается фруст-
рированным и ему следует не реализовы-
вать социальный опыт, а как бы закреплять
его, находя сответствие социального и био-
логического в себе. Ребенок, безусловно, Всё сказанное касается не только, собст-
венно, кризиса. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Анализ онтогенеза человека с приме-
нением генетико-моделирующего метода
позволяет сделать вывод о том, что био-
логическая и социальная составляющая
нужды не только определяют этот процесс,
но и сами активно участвуют в нём, при-
чем их участие является неравномерным. Периоды большей активности биологичес-
кой составляющей сменяются периодами
активизации социальной. Это отражается
(и определяет) всю содержательную сто-
рону онтогенеза и его динамику. Наблю-
дается как бы обратная закономерность
— период активизации биологической со-
ставляющей нужды (рост, усиление обмена
веществ и т. п.) определяет направленность
ребенка на активное «вхождение» в среду
социальной жизни. И наоборот, активиза-
ция социальной составляющей определяет
некоторую пассивность собственно соци-
альной жизни и вызывает повышенный
интерес ребенка к своему телесному (свое-
му или другого человека, в зависимости
от возраста). В принципе, было замечено,
что эта закономерность распространяется
не только на детский и юношеский возраст,
но и на весь онтогенез человека до глубо-
кой старости. Используя общепринятые
возрастные маркеры онтогенеза, это мож-
но выразить наглядно. 55 ПСИХОЛОГІЧНИЙ ЧАСОПИС ПСИХОЛОГІЧНИЙ ЧАСОПИ
читывая тот факт, что установленная
и закономерность имеет объективный
еобщий характер, необходимо приме-
приведенные данные в воспитатель-
и учебной работе, а также в практике
ания психологической помощи. На-
мер, может быть объяснена причина
астного кризиса (отметим, что эти
исы приходятся на период активности
иальной составляющей нужды). Осваи-
на протяжении того или иного возраст-
периода социальный опыт, ребенок
те с тем созревает биологически, ибо
о время активной является биологичес-
составляющая нужды. В определенное
мя, социальная её составляющая, по-
ненная новым опытом, активизируется
ребует» своей реализации в активности
нка. Последний, однако, оказывается
отов к этой реализации в полной мере,
ольку биологически он подготовлен
ко к той активности, которую уже
ет проявлять («зона актуального раз-
я»). Поэтому, он оказывается фруст-
ованным и ему следует не реализовы-
социальный опыт, а как бы закреплять
находя сответствие социального и био-
ческого в себе. Ребенок, безусловно,
не рефлексирует этого, и поэтому находи
ся в растеренном, дисгармоничном состо
нии (кризис). Однако процесс социальног
созревания идет, «подтягивая» за собо
биологическое. Так ситуация гармонизи
руется и кризис проходит. Всё сказанное касается не только, собс
венно, кризиса. Наши эмпирические дан
ные (особенно полученные под нашим р
ководством данные изучения микрогене
внутреннего мира) свидетельствуют о том
что учет сложных объективных тенденци
биологической и социальной составляю
щей нужды (а не опора лишь на социал
ное присвоение), позволяют глубже понят
процессы становления целостной лично
ти, и, с другой стороны, определить п
зицию и направление влияния взрослог
который находится рядом с ребенком. Эвристический и развивающий потенциал
генетико-моделирующего метода в психологии Наши эмпирические дан-
ные (особенно полученные под нашим ру-
ководством данные изучения микрогенеза
внутреннего мира) свидетельствуют о том,
что учет сложных объективных тенденций
биологической и социальной составляю-
щей нужды (а не опора лишь на социаль-
ное присвоение), позволяют глубже понять
процессы становления целостной личнос-
ти, и, с другой стороны, определить по-
зицию и направление влияния взрослого,
который находится рядом с ребенком. В це-
лом это — позиция направленной помощи,
а суть помощи определяется периодом он-
тогенеза и индивидуальными особенностя-
ми развития данного конкретного ребенка:
необходимо определить, какая составляю-
щая нужды в данный момент доминирует
и соответственно этому выстраивать стра-
тегию и тактику педагогических и коррек-
ционных воздействий. Так, например, из- 56 № 1 (1) / 2015 ции идеографического подхода (в отечест-
венной психологии данному термину отве-
чает понятие «клинический подход»). вестная тяга подростков к употреблению
алкоголя, курению и наркозависимости оп-
ределяется как тяга к зависимости. И она
связана с тем, что доминирующая сейчас
социальная составляющая нужды не мо-
жет реализоваться. Другими словами, суть
помощи — в том, чтобы дать социальному
опыту созреть и начать реализовываться. И конечно, медицина в этом случае не мо-
жет рассматриваться как эффективная сто-
рона воздействия на ребенка. ции идеографического подхода (в отечест-
венной психологии данному термину отве-
чает понятие «клинический подход»). Эксплицировать и описать личность
как
саморазвивающуюся
целостность
— кардинальная задача генетической пси-
хологии личности, отрасли психологичес-
кой науки, у которой впереди — большие
перспективы. Субъектная парадигма в со-
четании с генетико-моделирующим мето-
дом исследования, акцептация новейших
постмодернистских взглядов на сущность
и структуру уникальной человеческой
жизни, корректное транспонирование луч-
ших наработок отечественной психологии
личности в деятельности — вот та мето-
дологическая платформа, на которой сто-
ит генетическая психология в стремлении
раскрыть сущностные характеристики са-
мого удивительного психологического фе-
номена — феномена личности, ее динами-
ки и структуры. В целом следует отметить, что теорети-
ко-методологические поиски и полученный
эмпирический материал подтверждают
идею о чрезвычайной научной и приклад-
ной продуктивности генетико-моделирую-
щего метода. Таким образом, генетическая психо-
логия (и генетико-моделирующий ме-
тод как ее основа) является той областью
психологического знания, которая может
обеспечить
прогнозирование
развития
личности, но только при условии реализа- Список использованных источников: 1. Выготский Л. С. История развития высших психических функций : cобр. соч. / Л. С. Вы-
готский. — М. : Педагогика, 1983. — Т. 3. — 366 с. 1. Выготский Л. С. История развития высших психических функций : cобр. соч. / Л. С. Вы-
готский. — М. : Педагогика, 1983. — Т. 3. — 366 с. ,
2. Выготский Л. С. Педагогическая психология / Л. С. Выготский. — М. : Педагогика, 1991. — 480 с. 2. Выготский Л. С. Педагогическая психология / Л. С. Выготский. — М. : Педагогика, 1991. — 480 с. 3. Гете Г. Собрание сочинений : в 10 т. — Т.7. / Л. С. Выготский.— М., 1976. р
4. Давыдов В. В. Последние выступления / В. В. Давыдов. — М., 1998. — С. 87. Ильенков Э. В. Что же такое личность? — С чего начинается личность / Э. В. Ильенков //
Под. ред. Р. И. Косолапова. — М. : Политиздат, 1991. — С. 319-357. р
6. Костюк Г. С. Принцип развития в психологии / Г. С. Костюк // Методологические и тео-
ретические проблемы психологии. — М. : Наука, 1969. — С. 118-152. 6. Костюк Г. С. Принцип развития в психологии / Г. С. Костюк // Методологические и тео-
ретические проблемы психологии. — М. : Наука, 1969. — С. 118-152. р
р
у
7. Слободчиков В. И. Антропологический принцип в психологии развития / В. И. Слобод-
чиков, Е. И. Исаев // Вопросы психологии. — 1998. — № 6. — С. 3-17. 8. Штерн В. Персоналистическая психология / В. Штерн // История зарубежной психоло-
гии. — М. : Изд-во Моск. ун-та, 1986. — С. 186-200. Аннотация. В статье рассматриваются основные, существенные черты и принципы гене-
тико-моделирующего метода. Доказывается, что этот метод — один из немногих в психологии
(наряду с лонгитюдным), дающих возможность исследовать развитие психики, а следователь-
но, и ее сущностные особенности. Раскрываются возможности метода для возрастной и кон-
сультативной психологии. Аннотация. В статье рассматриваются основные, существенные черты и принципы гене-
тико-моделирующего метода. Доказывается, что этот метод — один из немногих в психологии
(наряду с лонгитюдным), дающих возможность исследовать развитие психики, а следователь-
но, и ее сущностные особенности. Раскрываются возможности метода для возрастной и кон-
сультативной психологии. у
Ключевые слова: генетико-моделирующий метод, психология личности, исследование, ме-
тодология, развитие, кризис, помощь. Ключевые слова: генетико-моделирующий метод, психология личности, исследование, ме-
тодология, развитие, кризис, помощь. Abstract. The main essential traits and principles of the genetical modelling method are described
in the article. Список использованных источников: It is proven that this method is one of the few in psychology (together with the longitude),
which gives the opportunity to investigate the psychical development and thus its essential peculiarities. The possibilities of the method for the developmental and counseling psychology are revealed. Abstract. The main essential traits and principles of the genetical modelling method are described
in the article. It is proven that this method is one of the few in psychology (together with the longitude),
which gives the opportunity to investigate the psychical development and thus its essential peculiarities. The possibilities of the method for the developmental and counseling psychology are revealed. p
f
f
p
g p y
gy
Keywords: genetical modelling method, personality psychology, investigation, methodology, devel-
opment, crisis, help. Keywords: genetical modelling method, personality psychology, investigation, methodology, devel-
opment, crisis, help. 57 57
|
https://openalex.org/W4372353515
|
https://jamsi.jurnal-id.com/index.php/jamsi/article/download/724/515
|
Indonesian
| null |
Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak Provinsi Banten
|
Jurnal Abdi Masyarakat Indonesia
| 2,023
|
cc-by
| 3,375
|
Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian
MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak
Provinsi Banten Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian
MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak
Provinsi Banten Sosialisasi Pencegahan Stunting pada Baduta dan Pentingnya Pemberian
MP-ASI Mengenai Asupan Gizi Anak di Desa Mekarjaya Kabupaten Lebak
Provinsi Banten Abstrak Salah satu program kerja pada kegiatan kuliah kerja Mahasiswa (KKM) Universitas Sultan Ageng
Tirtayasa di Desa Mekarjaya. Sasaran kegiatan ini adalah ibu-ibu yang memiliki anak di Desa Mekarjaya,
Kecamatan Cijaku, Kabupaten Lebak. Karena masih banyak para ibu di desa Mekarjaya yang belum
memahami tentang stunting, hal ini menyebabkan jumlah anak stunting terus meningkat setiap tahunnya. Hal ini tentunya menjadi permasalahan bersama yang perlu segera diatasi karena anak-anak tersebut akan
menjadi penerus bangsa. Metode yang digunakan untuk peningkatan kapasitas ibu baduta terkait MP-ASI ini
adalah dengan melakukan sosialisasi terkait pentingnya pemberian MP-ASI yang sesuai dengan umur dan
kondisi anak (baduta). Hal ini dilakukan bertujuan agar ibu baduta mampu mengatur pola pemberian MP-
ASI yang benar dan diharapkan akan mencegah terjadinya stunting pada anak mereka. Materi sosialisasi
membahas tentang ASI Eksklusif, Stunting, MP-ASI (pentingnya pemberian MP-ASI) yang sesuai dengan
umur dan kondisi anak (baduta) agar dapat mencegah stunting pada anak mereka. Semua peserta
mengikuti kegiatan ini dengan antusias, hal ini terbukti dengan banyaknya peserta yang bertanya saat
diskusi dan peserta dapat menjawab pertanyaan dari pemateri ketika ditanya kembali apa isi materi yang
telah dipaparkan. Dapat disimpulkan bahwa semua peserta memiliki pengetahuan setelah mengikuti
kegiatan sosialisasi ini. 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia
2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia
3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia
4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia 5Agribisnis, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia
*
il i d
id
l
h1234@
il
1 *e-mail: indaaidatulazpah1234@gmail.com1 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 Jurnal Abdi Masyarakat Indonesia (JAMSI)
https://jamsi.jurnal-id.com Keywords: Baduta, MP-ASI, Socialization, Stunting Inda Aidatul Azpah*1, Ilham Ramadhan2, Indrianti Widjaya3, Meylinda Ika Sari4,
Nila Sari5 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia
2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia
3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia
4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia
2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia
3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia
4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia 1Pendidikan Vokasional Teknik Mesin, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia
2Teknologi Pangan, Fakultas Pertanian, Universitas Sultan Ageng Tirtayasa, Indonesia
3Ilmu Gizi, Fakultas Kedokteran, Universitas Sultan Ageng Tirtayasa, Indonesia
4Pendidikan Guru Sekolah Dasar, Fakultas Keguruan dan Ilmu Pendidikan, Universitas Sultan Ageng
Tirtayasa, Indonesia 1. PENDAHULUAN Malnutrisi merupakan masalah yang saling berkaitan dengan stunting. Kekurangan gizi
yang terjadi sepanjang seribu hari pertama gaya hidup merupakan hal yang menyebabkan
stunting pada anak. Gangguan yang tidak dapat diperbaiki pada perkembangan tubuh anak
merupakan akibat dari kekurangan gizi, sehingga menyebabkan penurunan kompetensi kognitif
dan motorik anak. Anak-anak stunting memiliki rata-rata Intelligence Quotient (IQ) lebih rendah
dari rata-rata skor IQ anak biasa. Masalah peningkatan dan perkembangan pada anak akibat gizi
buruk jika tidak selalu mendapat intervensi sejak dini akan bertahan hingga dewasa. j
p
j
gg
Indeks PB/U atau TB/U dimana dalam persyaratan antropometrik untuk menilai
popularitas pada gizi anak dari hasil ukuran berada di ambang batas (Z-rating) <-2 SD hingga -3
SD (pendek/stunted) dan < -3 SD (sangat pendek/sangat pendek) yang mendasari status gizi
disebut (stunting). Adanya kekurangan asupan gizi dalam jangka panjang karena pemberian
makanan yang tidak selalu sesuai dengan standar gizi yang baik dapat menimbulkan masalah
gizi buruk pada anak. Stunting bisa terjadi karena janin masih berada di dalam kandungan dan
akan terlihat saat anak berusia dua tahun (RI, 2016). Selain itu, stunting juga dapat disebabkan
oleh kurang tepatnya pemberian makanan pendamping ASI (MPASI), karena pada usia 6 bulan
kebutuhan bayi akan energi dan vitamin sudah mulai tumbuh dan tidak dapat dipenuhi dengan
baik melalui konsumsi ASI. Dalam pemberian MPASI, sangat penting untuk mengetahui waktu
pemberian, jumlah yang cukup, pendekatan manajemen, tekstur, jangkauan, dan konsep
kebersihan. Kurangnya konsumsi protein, sayuran dan buah dapat mengakibatkan kurangnya
konsumsi nutrisi, terutama protein yang berhubungan dengan gangguan pertumbuhan tubuh
yang sulit pada anak di bawah 5 tahun. (Wangiyana, dkk. 2020). Menurut hasil Riskesdas tahun 2018 menunjukkan bahwa prevalensi stunting di
Indonesia sudah mencapai 30,8%. Sedangkan, Provinsi Banten sendiri menunjukkan prevalensi
stunting sebesar 8,70% dan Kabupaten Lebak memiliki prevalensi stunting sebesar 16,40%. Semakin diperhatikannya stunting karena dapat berdampak pada tumbuh kembang anak hingga
dewasa, khususnya risiko gangguan perkembangan tubuh dan kognitif jika tidak ditangani
dengan baik. Dalam kurun waktu cepat, dampak stunting dapat berupa penurunan potensi
belajar karena kurangnya peningkatan kognitif. Sementara itu, pada akhirnya, hal itu dapat
mengurangi keistimewaan gaya hidup anak muda sebagai orang dewasa karena berkurangnya
kemungkinan pendidikan, kemungkinan pekerjaan, dan keuntungan yang lebih baik. Selain itu,
ada juga risiko kelebihan berat badan di kemudian hari dalam gaya hidup, yang dapat
meningkatkan risiko berbagai penyakit tidak menular, seperti tekanan darah tinggi, diabetes,
kanker, dan lain-lain (Nirmalasari, 2020). Desa Mekarjaya berpenduduk sekitar 2.866 jiwa. 1. PENDAHULUAN Tujuan dari sosialisasi ini adalah untuk
memberikan informasi dan pengetahuan baru kepada warga dan untuk meningkatkan
kesadaran terutama bagi ibu dan calon ibu tentang pentingnya menjaga kebugaran ibu hamil,
memberikan ASI khusus untuk anak-anak, memberikan makanan pendamping ASI (MP-ASI) dan
nutrisi yang cukup. untuk anak-anak. Itulah salah satu upaya mencegah stunting. Berdasarkan uraian di atas, dapat didiagnosa bahwa Salah satu penyebab stunting
adalah karena rendahnya pengetahuan ibu (pengasuh) tentang vitamin, yang meliputi contoh
pemberian MP-ASI pada balita dan sosialisasi yang terbatas tentang gizi seimbang pada bayi. MP-ASI. Abstract One of the work programs in the Student Work Lecture (KKM) of Sultan Ageng Tirtayasa University
in Mekarjaya Village. The target of this activity is mothers who have children in Mekarjaya Village, Cijaku
District, Lebak Regency. Because there are still many mothers in Mekarjaya village who do not understand
stunting, this causes the number of stunted children to continue to increase every year. This is of course a
common problem that needs to be addressed immediately because these children will be the future of the
nation. The method used to increase the capacity of under-aged mothers regarding MP-ASI is by conducting
outreach regarding the importance of providing MP-ASI that is appropriate to the age and condition of the
child (baduta). This is done with the aim that under-two mothers are able to regulate the correct pattern of
complementary feeding and it is hoped that this will prevent stunting in their children. Socialization
materials discussed exclusive breastfeeding, stunting, MP-ASI (the importance of giving MP-ASI) according to
the age and condition of the child (baduta) in order to prevent stunting in their children. All participants took
part in this activity enthusiastically, this was proven by the large number of participants who asked questions
during the discussion and the participants were able to answer questions from the presenters when asked
again what the contents of the material had been presented. It can be concluded that all participants have
knowledge after participating in this socialization activity. P-ISSN 2807-6605 | E-ISSN 2807-6567 823 Jurnal Abdi Masyarakat Indonesia (JAMSI)
https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 3. HASIL DAN PEMBAHASAN Program kegiatan pengabdian kepada masyarakat yang dilakukan oleh Lembaga
Pendidikan yakni Universitas Sultan Ageng Tirtayasa pada kegiatan Kuliah Kerja Mahasiswa
(KKM) yang bertujuan untuk menurunkan angka kejadian stunting khususnya di Desa
Mekarjaya Kecamatan Cijaku Kabupaten Lebak-Banten. Acara dimulai pukul 10.00 WIB s/d
selesai. Kegiatan sosialisasi diawali dengan sambutan pembukaan dari ketua kelompok, dilanjut
sambutan kedua oleh koordinator BKKBN kecamatan Cijaku dan ketiga sambutan dari bidan
Kecamatan Cijaku. Sebelum pelaksanaan, tim melakukan koordinasi awal dengan Kepala Desa
dan Humas untuk membantu koordinasi dengan kader posyandu yang ada di wilayah Desa
Mekarjaya. Desa Mekarjaya memiliki kasus stunting, namun tidak banyak lagi, dan akan lebih baik
apabila stunting dapat dicegah dan masyarakat sendiri diberikan pengetahuan tentang bahaya
stunting. karena stunting akan berdampak buruk bagi anak. Sampai saat ini stunting masih
menjadi masalah kesehatan masyarakat di Indonesia. Stunting pada balita dapat menurunkan
produktivitas dan sumber daya manusia Indonesia di masa depan. Masalah stunting pada anak
di Indonesia disebabkan oleh gizi buruk yang terus menerus dan penyakit radang. Penyuluhan
ini dilakukan sebagai bentuk sosialisasi kepada masyarakat sekitar tentang stunting yang
membahas tentang apa itu stunting, ciri-ciri stunting, penyebab stunting, akibat stunting dan
cara mengatasi stunting. Demikian pula penyuluhan juga dilakukan untuk menumbuhkan
pengetahuan masyarakat sekitar tentang stunting. Stunting sendiri bisa terjadi karena asupan makanan yang tidak sesuai. Selain karena
unsur lingkungan, bisa juga karena faktor genetik dan hormonal, namun penyebab stunting
sebagian besar adalah karena kurang gizi, maka dilakukan juga penyuluhan tentang bahan
pelengkap untuk mencegah stunting. Stunting disebabkan karena konsumsi makanan yang tidak
sesuai dalam waktu yang lama akibat pemberian makanan yang tidak tepat dengan kebutuhan
gizi dan jika tidak diimbangi dengan trap-up boom yang berakibat pada pertumbuhan yang
terhambat, masalah stunting merupakan masalah kesehatan masyarakat. dikaitkan dengan
kemungkinan morbiditas, mortalitas, dan pengerdilan yang lebih tinggi pada perkembangan
motorik dan intelektual. Stunting terbentuk melalui pertumbuhan yang tersendat dan
peningkatan trap-up yang tidak memadai yang mencerminkan kurangnya kemampuan untuk
menuai pertumbuhan yang paling dapat diandalkan (Rahmadhita, 2020). Permasalahan stunting dilihat dari asupan gizi yang bisa dimulai dari masa kehamilan
dan anak sudah lahir. Pemberian edukasi mengenai MP-ASI yang baik yang sesuai dengan sesuai
standar gizi agar pemberian makanan pendamping ASI dapat terlaksana dengan baik,
diperlukan juga informasi pemberian makanan pendamping ASI yang tepat. Seluruh anggota
mengikuti kegiatan sosialisasi tersebut dari awal hingga selesai dengan antusias, terbukti dari
banyaknya orang yang bertanya kepada pemateri. 2. METODE Kegiatan pengabdian kepada masyarakat ini dilaksanakan pada tanggal 25 Januari 2023
bertepatan dengan hari Gizi Nasional di aula Aula Majlis Kp. Kubang Ds. Mekarjaya Kec. Cijaku-
Lebak. Sasaran dalam kegiatan sosialisasi ini terdiri dari berbagai perwakilan masyarakat
khususnya koordinator BKKBN kecamatan, kade posyandu kecamatam. Ibu bidan kecamatan,
serta perwakilan ibu-ibu yang memiliki anak dari masing-masing RT/RW desa Mekarjaya. Metode pelaksanaannya menggunakan teknik sosialisasi langsung. Tahapan pelaksanaan
kegiatan sosialisasi ini meliputi 4 tahap yaitu tahap pertama pembinaan (penyerahan, P-ISSN 2807-6605 | E-ISSN 2807-6567 824 Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 Jurnal Abdi Masyarakat Indonesia (JAMSI)
https://jamsi.jurnal-id.com penertiban izin dan praktik pengabdian), tahap kedua sosialisasi (pelaksanaan olahraga), tahap
1/3 pelatihan laporan, tahap keempat pelatihan laporan pelatihan. keluaran fakta (artikel e-
book). Kegiatan pengabdian kepada masyarakat ini dilaksanakan pada tanggal 25 Januari 2023
bertepatan dengan hari Gizi Nasional di aula Aula Majlis Kp. Kubang Ds. Mekarjaya Kec. Cijaku-
Lebak. Sasaran dalam kegiatan sosialisasi ini terdiri dari berbagai perwakilan masyarakat
khususnya koordinator BKKBN kecamatan, kade posyandu kecamatam. Ibu bidan kecamatan,
serta perwakilan ibu-ibu yang memiliki anak dari masing-masing RT/RW desa Mekarjaya. Metode pelaksanaannya menggunakan teknik sosialisasi langsung. Tahapan pelaksanaan
kegiatan sosialisasi ini meliputi 4 tahap yaitu tahap pertama pembinaan (penyerahan,
penertiban izin dan praktik pengabdian), tahap kedua sosialisasi (pelaksanaan olahraga), tahap
1/3 pelatihan laporan, tahap keempat pelatihan laporan pelatihan. keluaran fakta (artikel e-
book). 3. HASIL DAN PEMBAHASAN Hasil penelitian menunjukkan bahwa ada
keterkaitan antara informasi ibu tentang ASI dan MP-ASI pada anak usia di bawah dua tahun
(baduta) dengan tanda BB/U dan PB/U. Kegiatan sosialisasi ini dapat meningkatkan P-ISSN 2807-6605 | E-ISSN 2807-6567 825 Jurnal Abdi Masyarakat Indonesia (JAMSI)
Vol. 3, No. 3 Mei 2023, Hal. 823-828
https://jamsi.jurnal-id.com
DOI: https://doi.org/10.54082/jamsi.724
pemahaman bagi ibu-ibu di bawah usia lanjut yang awalnya kurang memperhatikan vitamin
untuk anak-anaknya untuk memahami betapa pentingnya memberikan MP-ASI untuk
memenuhi nutrisi anak dan dapat mengubah pola pemberian ASI pendamping. yang baik dan
benar untuk mencegah stunting pada anak usia dibawah dua tahun. Adanya peningkatan yang
baik terhadap metode ceramah (sosialisasi) yang menginformasikan mengenai MP-ASI. Para
peserta yang sudah mengikuti kegiatan sosialisasi dapat mengatur pola MP-ASI secara benar
sehingga hal tersebut dapat mencegah terjadinya stunting pada anak. Jurnal Abdi Masyarakat Indonesia (JAMSI)
https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 ,
,
DOI: https://doi.org/10.54082/jamsi.724 pemahaman bagi ibu-ibu di bawah usia lanjut yang awalnya kurang memperhatikan vitamin
untuk anak-anaknya untuk memahami betapa pentingnya memberikan MP-ASI untuk
memenuhi nutrisi anak dan dapat mengubah pola pemberian ASI pendamping. yang baik dan
benar untuk mencegah stunting pada anak usia dibawah dua tahun. Adanya peningkatan yang
baik terhadap metode ceramah (sosialisasi) yang menginformasikan mengenai MP-ASI. Para
peserta yang sudah mengikuti kegiatan sosialisasi dapat mengatur pola MP-ASI secara benar
sehingga hal tersebut dapat mencegah terjadinya stunting pada anak. pemahaman bagi ibu-ibu di bawah usia lanjut yang awalnya kurang memperhatikan vitamin
untuk anak-anaknya untuk memahami betapa pentingnya memberikan MP-ASI untuk
memenuhi nutrisi anak dan dapat mengubah pola pemberian ASI pendamping. yang baik dan
benar untuk mencegah stunting pada anak usia dibawah dua tahun. Adanya peningkatan yang
baik terhadap metode ceramah (sosialisasi) yang menginformasikan mengenai MP-ASI. Para
peserta yang sudah mengikuti kegiatan sosialisasi dapat mengatur pola MP-ASI secara benar
sehingga hal tersebut dapat mencegah terjadinya stunting pada anak. Gambar 1. Penyampaian Materi
Gambar 2. Dokumentasi Kegiatan Sosialisasi Gambar 1. Penyampaian Materi
Gambar 2. Dokumentasi Kegiatan Sosialisasi Gambar 1. Penyampaian Materi Gambar 1. Penyampaian Materi Gambar 2. Dokumentasi Kegiatan Sosialisasi Hal ini membuktikan bahwa kegiatan sosialisasi dapat meningkatkan pengetahuan para
peserta yaitu ibu-ibu dan wanita usia produktif di Desa Mekarjaya mengenai pemberian MPASI
serta cara pemberiannya yang tepat sebagai salah satu upaya pencegahan stunting. 3. HASIL DAN PEMBAHASAN Penelitian
yang dilakukan oleh Sari et al (2020) menemukan bahwa pengetahuan ibu yang lebih rendah
dapat meningkatkan risiko stunting pada masa anak-anak (OR= 12,67; p <0,001). Makanan Pendamping ASI (MPASI) adalah makanan dan minuman yang diberikan
kepada anak usia 6–24 bulan untuk pemenuhan kebutuhan gizinya. WHO bersama dengan
Kementerian Kesehatan dan Ikatan Dokter Anak Indonesia (IDAI) telah menegaskan bahwa bayi
baru lahir hingga usia 6 bulan hanya diberikan ASI saja (ASI eksklusif). Oleh karena itu, MPASI
baru bisa diperkenalkan kepada bayi ketika bayi berusia 6 bulan keatas (Riksani, 2012). MPASI
disebut sebagai makanan pergantian dari ASI ke makanan keluarga yang dilakukan secara
bertahap baik dari jenis, frekuensi pemberian, jumlah porsi dan bentuk makanan yang
disesuaikan dengan umur dan kemampuan bayi untuk mencerna makanan. Tujuan dari pemberian MPASI adalah sebagai pelengkap zat gizi setelah pemberian ASI
eksklusif, karena dengan pertambahan usia anak, maka bertambah pula kebutuhan zat gizi yang
tidak terpenuhi lagi oleh ASI. Pemberian MPASI juga mengembangkan kemampuan anak untuk
menerima berbagai variasi makanan dengan bermacam–macam rasa dan tekstur sehingga dapat
meningkatkan kemampuan bayi untuk mengunyah, menelan, dan beradaptasi terhadap
makanan baru. Usia yang paling tepat untuk memperkenalkan MP-ASI kepada bayi adalah saat bayi
berusia enam bulan. Pada umumnya kebutuhan nutrisi bayi yang kurang dari enam bulan masih
dapat dipenuhi oleh ASI. Tetapi, setelah berumur enam bulan bayi umumnya membutuhkan
energi dan zat gizi yang lebih untuk tetap bertumbuh lebih cepat sampai dua kali atau lebih dari P-ISSN 2807-6605 | E-ISSN 2807-6567 826 Jurnal Abdi Masyarakat Indonesia (JAMSI)
https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 itu. Selain itu pada umur enam bulan saluran cerna bayi sudah dapat mencerna sebagian
makanan keluarga seperti tepung (Nur, 2014). itu. Selain itu pada umur enam bulan saluran cerna bayi sudah dapat mencerna sebagian
makanan keluarga seperti tepung (Nur, 2014). Waktu pemberian MPASI yang tidak tepat dapat mengakibatkan berbagai masalah
kesehatan khususnya pada pencernaan seperti diare, konstipasi infeksi usus, dan lainnya. Menurut penelitian yang dilakukan oleh Nur (2014) menyatakan bahwa sebanyak 89,8% ibu
yang memberikan MPASI pada waktu yang tepat, maka bayi cenderung memiliki status gizi baik,
sedangkan ibu dengan pemberian MPASI yang tidak tepat waktu akan memiliki status gizi
kurang yaitu sebesar 8,3%. 4. KESIMPULAN Semua peserta memiliki pengalaman setelah mengikuti kegiatan sosialisasi terkait
pentingnya pemberian MP-ASI untuk menyelamatkan stunting. Sosialisasi Pencegahan Stunting
Bagi Baduta dan Pentingnya Penyampaian MP-ASI terkait Konsumsi Gizi Anak di Desa
Mekarjaya berjalan dengan lancar, para peserta memiliki antusiasme yang tinggi selama mengisi
waktu luang, para anggota juga merasa senang karena mendapatkan ilmu tentang MP -ASI. Kegiatan ini juga melibatkan berbagai unsur perwakilan masyarakat, khususnya koordinator
BKKBN kecamatan dan perwakilan bidan desa di kecamatan Cijaku. Maka tujuan dari sosialisasi
ini kurang lebih dilakukan yaitu ingin memberikan ilmu dan pengetahuan baru kepada para
anggota disamping untuk menumbuhkan kesadaran masyarakat desa Mekarjaya khususnya ibu-
ibu dan calon ibu akan pentingnya menjaga kesehatan pada ibu hamil, pemberian ASI eksklusif
pada anak yang baik, pemberian Makanan Pendamping ASI (MP-ASI), serta kecukupan gizi pada
anak merupakan salah satu bentuk upaya dalam pencegahan terjadinya stunting. 3. HASIL DAN PEMBAHASAN g y
Hasil tersebut juga diperkuat oleh hasil penelitian yang dilakukan oleh Khasanah et al
(2014) yang menyebutkan bahwa anak yang mendapatkan MPASI tidak tepat waktu
pemberiannya mempunyai risiko 2,8 kali untuk menjadi stunting dengan z score < -2. Hasil ini
memiliki makna bahwa kejadian stunting memiliki hubungan yang signifikan dengan waktu
mulai pemberian MPASI. Permatasari et al (2021) juga menyatakan bahwa pola asuh pemberian
makan yang rendah berisiko 6,496 kali lebih besar mengalami kejadian stunting dibandingkan
balita yang memperoleh pola asuh pemberian makan yang baik. DAFTAR PUSTAKA Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Hasil Utama Riskesdas
2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian Kesehatan
Republik Indonesia, 2018. Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Hasil Utama Riskesdas
2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian Kesehatan
Republik Indonesia, 2018. Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Laporan Provinsi Banten
Riskesdas 2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian
Kesehatan Republik Indonesia, 2019. Badan Penelitian dan Pengembangan Kesehatan Republik Indonesia. Laporan Provinsi Banten
Riskesdas 2018. Jakarta: Badan Penelitian dan Pengembangan Kesehatan, Kementerian
Kesehatan Republik Indonesia, 2019. Khasanah, DP., Hadi H., dan Paramashanti BA. 2016. Waktu Pemberian Makanan Pendamping
ASI (MP-ASI) Berhubungan dengan Kejadian Stunting Anak Usia 6- 23 Bulan di Kecamatan
Sedayu. Jurnal Gizi dan Dietetik Indonesia. Vol 4(2) : 105. Nirmalasari, N. O. (2020). Stunting Pada Anak: Penyebab dan Faktor Risiko Stunting di
Indonesia. Qawwam. https://journal.uinmataram.ac.id/index.php/qawwam/article/view/2372 Nur, D. 2014. Hubungan Pemberian Makanan Pendamping ASI (MPASI) dengan Status Gizi pada
Anak Usia 1 – 2 Tahun di Yogyakarta. Sekolah Tinggi Ilmu Kesehatan "Aisyiyah, Yogyakarta Permatasari T.A.E, Dayuningsih dan Supriyatna N. 2021. Pengaruh Pola Asuh Pemberian Makan
Terhadap Kejadian Stunting Pada Balita. Jurnal Kesehatan Masyarakat Andalas. Vol 14(2). pp 3-11. Rahmadhita, K. (2020). Permasalahan stunting dan pencegahannya. Jurnal Ilmiah Kesehatan
Sandi …. https://akper-sandikarsa.e-journal.id/jiksh/article/view/253 P-ISSN 2807-6605 | E-ISSN 2807-6567 827 Jurnal Abdi Masyarakat Indonesia (JAMSI)
https://jamsi.jurnal-id.com Vol. 3, No. 3 Mei 2023, Hal. 823-828 Vol. 3, No. 3 Mei 2023, Hal. 823-828
DOI: https://doi.org/10.54082/jamsi.724 DOI: https://doi.org/10.54082/jamsi.724 Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Republik Indonesia. Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Republik Indonesia. Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta. RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Republik Indonesia. Sari, M. T., Daryanto., dan Oesmani, M. 2020. Maternal Characteristics And Knowledge On The
Risk Of Childhood Stunting At Simpang Kawat Community Health Center, Jambi. The 7th
International
Conference
on
Public
Health
Solo,
Indonesia. 279-284. https://doi.org/10.26911/the7thicph-FP.03.32 Wangiyana, N. K. A. S., Karuniawaty, T. P., John, R. E., Qurani, R. M., Tengkawan, J., Septisari, A. A.,
& Ihyauddin Z. (2020). Praktik Pemberian MP-ASI Terhadap Risiko Stunting Pada Anak
Usia
6-12
Bulan
di
Lombok
Tengah. Penelitian
Gizi
dan
Makanan. https://ejournal2.litbang.kemkes.go.id/index.php/pgm/article/view/4118/2361 Wangiyana, N. K. A. S., Karuniawaty, T. P., John, R. E., Qurani, R. Riksani, R. 2012. Variasi Olahan Makanan Pendamping ASI. Dunia Kreasi. Jakarta.
RI, K. (2016). Infodatin situasi balita pendek. Jakarta: Kementrian Kesehatan Repu Wangiyana, N. K. A. S., Karuniawaty, T. P., John, R. E., Qurani, R. M., Tengkawan, J., Septisari, A. A.,
& Ihyauddin Z. (2020). Praktik Pemberian MP-ASI Terhadap Risiko Stunting Pada Anak
Usia
6-12
Bulan
di
Lombok
Tengah.
Penelitian
Gizi
dan
Makanan.
https://ejournal2.litbang.kemkes.go.id/index.php/pgm/article/view/4118/2361 DAFTAR PUSTAKA M., Tengkawan, J., Septisari, A. A.,
& Ihyauddin Z. (2020). Praktik Pemberian MP-ASI Terhadap Risiko Stunting Pada Anak
Usia
6-12
Bulan
di
Lombok
Tengah. Penelitian
Gizi
dan
Makanan. https://ejournal2.litbang.kemkes.go.id/index.php/pgm/article/view/4118/2361 P-ISSN 2807-6605 | E-ISSN 2807-6567 828
|
https://openalex.org/W2166440047
|
https://retrovirology.biomedcentral.com/counter/pdf/10.1186/1742-4690-6-S2-P34
|
English
| null |
Differential regulation of LTR retrotransposons during the transition from totipotency to pluripotency in mammalian embryos
|
Retrovirology
| 2,009
|
cc-by
| 762
|
BioMed Central
Retrovirology
Open Access
Poster presentation
Differential regulation of LTR retrotransposons during the
transition from totipotency to pluripotency in mammalian embryos
Véronique Duranthon*1, Alexei Evsikov2, Daulat Khan1, Linh Chi Bui1,
Roger Leandri1, Adriana Rodrigues1, Catherine Archilla1, Alice Jouneau1 and
Jean Paul Renard1
Address 1INRA UMR 1198 Biologie du Dé eloppement et Reproduction F 78352 Jou en Josas France and 2The Jackson Laborator
Bar Harbor BioMed Central
Retrovirology
Open Access
Poster presentation
Differential regulation of LTR retrotransposons during the
transition from totipotency to pluripotency in mammalian embryos
Véronique Duranthon*1, Alexei Evsikov2, Daulat Khan1, Linh Chi Bui1,
Roger Leandri1, Adriana Rodrigues1, Catherine Archilla1, Alice Jouneau1 and
Jean Paul Renard1
Address 1INRA UMR 1198 Biologie du Dé eloppement et Reproduction F 78352 Jou en Josas France and 2The Jackson Laborator
Bar Harbor BioMed Central BioMed Central Background
l blastocyst, and further progressively lost concomitantly
with their differentiation. g
Preimplantation mammalian embryo development is
characterized by fundamental changes in nuclear function
as genomes of gametes, egg and sperm unite to give rise to
a totipotent embryonic genome. This totipotency is how-
ever a transient property since the first events of differen-
tiation occur after few cell cycles, giving rise to the
trophectoderm cells that co-exist with the pluripotent and
no more totipotent cells of the inner cell mass at the blas-
tocyst stage. Concomitantly to these cellular events, the
newly formed embryonic genome becomes progressively
transcriptionally active. We analyzed embryonic gene
expression over this period in both the rabbit [1] and the
bovine species. We have chosen these species as embry-
onic models in preference to the mouse since contrarily to
this later species, embryonic genome activation (EGA)
spans over several cell cycles and is preceded by progres-
sive epigenetic modifications. References 1. Leandri RD, Archilla C, Bui LC, et al.: Revealing the dynamics of
gene expression during embryonic genome activation and
first differentiation in the rabbit embryo with a dedicated
array screening. Physiol Genomics 2009, 36:98-113. y
g
y
2. Bui LC, Evsikov AV, Khan DR, Archilla C, Peynot N, Hénaut A, LeB-
ourhis D, Vignon X, Renard JP, Duranthon V: Retrotransposon
expression as a defining event of genome reprogramming in
fertilized and cloned bovine embryos. Reproduction 2009 in
press. p
3. Evsikov AV, de Vries WN, Peaston AE, Radford EE, Fancher KS, Chen
FH, Blak JA, Bult CJ, Latham KE, Solter D, Knowles BB: Systems
biology of the 2-cell mouse embryo. Cytogenetic and Genome
Research 2004, 105:240-250. Conclusion Our results not only extend to other mammalian species
data previously established in the mouse both at EGA
[3,4] and at the pluripotent stage [5] but the expression
pattern of LTR retrotransposons we have evidenced sug-
gest a functional involvement of these sequences in the
control of the transition between toti and pluripotency. Poster presentation Differential regulation of LTR retrotransposons during the
transition from totipotency to pluripotency in mammalian embryos
Véronique Duranthon*1, Alexei Evsikov2, Daulat Khan1, Linh Chi Bui1,
Roger Leandri1, Adriana Rodrigues1, Catherine Archilla1, Alice Jouneau1 and
Jean Paul Renard1 Address: 1INRA, UMR 1198 Biologie du Développement et Reproduction, F-78352 Jouy en Josas, France and 2The Jackson Laboratory, Bar Harbor,
ME, USA
* C
di
h * Corresponding author from Frontiers of Retrovirology: Complex retroviruses, retroelements and their hosts
Montpellier, France. 21-23 September 2009 Published: 24 September 2009
Retrovirology 2009, 6(Suppl 2):P34
doi:10.1186/1742-4690-6-S2-P34 Published: 24 September 2009
Retrovirology 2009, 6(Suppl 2):P34
doi:10.1186/1742-4690-6-S2-P34 This abstract is available from: http://www.retrovirology.com/content/6/S2/P34
© 2009 Duranthon et al; licensee BioMed Central Ltd. Page 1 of 1
(page number not for citation purposes) Retrovirology Open Access Results In both of the former species we evidenced a huge tran-
scriptional activation of LTR retrotransposons at EGA. This transcriptional activation is faithfully reprogrammed
following the transfer of a somatic cell nucleus into the
oocyte cytoplasm (somatic cloning) [2]. Very interestingly
the expression of some of these retrotransposons is then
restricted to the pluripotent inner cell mass cells of the 4. Peaston AE, Evsikov AV, Graber JH, de Vries WN, Holbrook AE, Sol-
ter D, Knowles BB: Retrotransposons regulate host genes in
mouse oocytes and preimplantation embryos. Developmental
Cell 2004, 7:597-606. 5. Brûlet P, Condamine H, Jacob F: Spatial distribution of tran-
scripts of the long repeated ETn sequence during early
mouse embryogenesis. Proceedings of National Academy of Science
USA 1985, 82:2054-2058. 5. Brûlet P, Condamine H, Jacob F: Spatial distribution of tran-
scripts of the long repeated ETn sequence during early
mouse embryogenesis. Proceedings of National Academy of Science
USA 1985, 82:2054-2058. Page 1 of 1
(page number not for citation purposes) Page 1 of 1
(page number not for citation purposes)
|
https://openalex.org/W2886601757
|
https://link.springer.com/content/pdf/10.1007/s10840-018-0417-0.pdf
|
English
| null |
Minimally interrupted novel oral anticoagulant versus uninterrupted vitamin K antagonist during atrial fibrillation ablation
|
Journal of interventional cardiac electrophysiology
| 2,018
|
cc-by
| 4,409
|
Abstract Purpose The safety and efficacy of a minimally interrupted novel oral anticoagulant (NOAC) strategy at the time of atrial
fibrillation (AF) ablation is uncertain. The purpose of this study was to compare rates of bleeding and thromboembolic events
between minimally interrupted NOAC and uninterrupted vitamin K antagonist (VKA) in patients undergoing AF ablation. Purpose The safety and efficacy of a minimally interrupted novel oral anticoagulant (NOAC) strategy at the time of atrial
fibrillation (AF) ablation is uncertain. The purpose of this study was to compare rates of bleeding and thromboembolic events
between minimally interrupted NOAC and uninterrupted vitamin K antagonist (VKA) in patients undergoing AF ablation. Methods This was a retrospective single-center cohort study of consecutive patients who underwent AF catheter ablation
between January 2013 and April 2017. Endpoints included major bleeding, clinically relevant non-major bleeding and systemic p
y
y
y
p
g
gy
fibrillation (AF) ablation is uncertain. The purpose of this study was to compare rates of bleeding and thromboembolic events
between minimally interrupted NOAC and uninterrupted vitamin K antagonist (VKA) in patients undergoing AF ablation. Methods This was a retrospective single-center cohort study of consecutive patients who underwent AF catheter ablation
between January 2013 and April 2017. Endpoints included major bleeding, clinically relevant non-major bleeding and systemic
thromboembolic event from the time of ablation through 30 days. Bleeding events were defined by the Bleeding Academic
Research Consortium (BARC) and International Society on Thrombosis and Haemostasis (ISTH). Methods This was a retrospective single-center cohort study of consecutive patients who underwent AF catheter ablation
between January 2013 and April 2017. Endpoints included major bleeding, clinically relevant non-major bleeding and systemic
thromboembolic event from the time of ablation through 30 days. Bleeding events were defined by the Bleeding Academic
Research Consortium (BARC) and International Society on Thrombosis and Haemostasis (ISTH). Results A total of 637 patients were included in the analysis, 520 patients used uninterrupted VKA and 117 patients minimally
interrupted NOAC (dabigatran: n = 68; apixaban: n = 30; rivaroxaban, n = 14; edoxaban, n = 5). The rate of clinically relevant
non-major bleeding was lower in the NOAC group in comparison to the VKA group (BARC type 2: 2.6% versus 8.3%, P = 0.03;
ISTH: 0% versus 3.8%, P = 0.03). Abstract Rates of major bleeding were similar between groups (BARC type 3 to 5: 3.4% versus 4.2%,
P = NS; ISTH: 6.0% versus 8.7%, P = NS; for NOAC and VKA groups, respectively). Rates of systemic embolism were 0% with
minimally interrupted NOAC, and 0.6% with uninterrupted VKA (P = NS). Conclusions In patients undergoing AF ablation, anticoagulation with minimally interrupted NOAC was associated with fewer
clinically relevant non-major bleeding events in comparison with uninterrupted VKA without compromising thromboembolic
safety. Keywords Atrial fibrillation . Novel oral anticoagulation . Vitamin-K antagonist . Catheter ablation . Bleeding . Stroke Keywords Atrial fibrillation . Novel oral anticoagulation . Vitamin-K antagonist . Catheter ablation . Ble 1
Department of Cardiology, Erasmus Medical Center, P.O. Box 2040,
3000 CA Rotterdam, the Netherlands Minimally interrupted novel oral anticoagulant versus uninterrupted
vitamin K antagonist during atrial fibrillation ablation John De Heide1 & Christiaan J. Vroegh1 & Rohit E. Bhagwandien1 & Sip A. Wijchers1 & Tamas Sz
Mattie J. Lenzen1 & S. C. Yap1 Received: 10 May 2018 /Accepted: 18 July 2018 /Published online: 3 August 2018
# The Author(s) 2018 * S. C. Yap
s.c.yap@erasmusmc.nl Journal of Interventional Cardiac Electrophysiology (2018) 53:341–346
https://doi.org/10.1007/s10840-018-0417-0 Journal of Interventional Cardiac Electrophysiology (2018) 53:341–346
https://doi.org/10.1007/s10840-018-0417-0 2 Methods Primary bleeding endpoints were major bleeding (within
30 days) as defined by the Bleeding Academic Research
Consortium (BARC) and International Society on
Thrombosis and Haemostasis (ISTH) [17, 18]. The reason to
choose both classifications is that clinical trials reporting ma-
jor bleeding either use ISTH and/or BARC classification. In
our study, BARC types 3 to 5 were considered a major bleed-
ing. Secondary bleeding endpoints were the individual BARC
bleeding types (types 2, 3a, 3b, 3c, 5), clinically relevant non-
major bleeding (CRNMB) according to ISTH [19], and any
clinically relevant bleeding (BARC types 2 to 5; ISTH major
bleeding and CRNMB). BARC type 2 bleeding most closely
aligns with the ISTH CRNMB [19]. 2.5 Statistical analysis All patients received therapeutic oral anticoagulation for at
least 3 weeks prior to ablation. In patients using VKA the
target INR level at the day of the procedure was 2.0 to 2.5. In patients using NOACs, anticoagulation was withheld for
24 h before the procedure (1 or 2 doses withheld). A cardiac
CT was routinely performed weeks to months prior to abla-
tion. CT imaging was mainly used to assess PV anatomy. Rarely, a left atrial thrombus could be found as an incidental
finding. A preprocedural transesophageal echocardiogram
was routinely performed on the same day or 1 day prior to
ablation to exclude left atrial appendage (LAA) thrombus. In
the case of LAA thrombus the procedure was canceled or
postponed. During the procedure, a bolus of heparin was ad-
ministered after sheath placement. Furthermore, immediately
after transseptal puncture another bolus of heparin was given
and a continuous heparin pump was started and adjusted to
maintain an ACT of at least 300 s. We did not administer
protamine routinely at the end of the procedure. Continuous parameters are presented as the mean ± SD as they
were normally distributed. Categorical data are presented as
frequencies and percentages. Comparisons between groups
were performed with an independent Student t test, chi-square
tests, or Fisher exact test. A P-value < 0.05 was considered sta-
tistically significant. Statistical analyses were performed using
SPSS software (SPSS, version 21; IBM, Chicago, Illinois). 2.1 Study population We evaluated consecutive patients who underwent catheter
ablation of AF from January 2013 to April 2017 in the
Erasmus Medical Center, Rotterdam, the Netherlands. We in-
cluded patients with 2 specific anticoagulation regimens. The
first group included patients who used periprocedural uninter-
rupted VKA (either acenocoumarol or marcoumar). The strat-
egy of uninterrupted VKAwas introduced in our institution at
the end of 2012. The second group included patients who used
periprocedural minimally interrupted NOAC (1 or 2 doses
withheld). In February 2013, our first patient underwent cath-
eter ablation using a minimally interrupted NOAC strategy. Patients who did not use oral anticoagulation and were accept-
ed for catheter ablation of AF usually received a NOAC. The primary thromboembolic endpoint was a composite of
stroke, transient ischemic attack (TIA), or other systemic em-
bolism within 30 days. 1 Introduction have several advantages, including a rapid onset of therapeutic
range of anticoagulation, predictability of the anticoagulant
effect, and relatively short time to reversal of anticoagulation
when the medication is withheld [2]. Several observational
and randomized controlled trials (RCTs) have demonstrated
that uninterrupted NOAC is as safe and effective in compari-
son to uninterrupted VKA in patients undergoing AF ablation
[3–13]. A recent meta-analysis demonstrated that NOAC was
even associated with less major bleeding compared with VKA
in pooled RCTs [14]. The 2016 ESC guidelines give a class IIa
indication to perform AF ablation with continuous oral
anticoagulation with either VKA or NOAC [15]. Catheter ablation is increasingly used for the treatment of
symptomatic atrial fibrillation (AF). Although catheter abla-
tion of AF is considered safe, it may be associated with a low
risk of stroke. One of the strategies to reduce this risk is to
perform AF ablation with continuous oral anticoagulation. This strategy has been shown to be safe and effective with
vitamin K antagonists (VKAs) [1]. However, there is an in-
creased use of novel oral anticoagulants (NOACs) in the cur-
rent AF population undergoing catheter ablation. NOACs However, the uninterrupted NOAC strategy does not reflect
current clinical practice as most centers still use a minimally
interrupted NOAC strategy [16]. There is limited data demon-
strating the safety and efficacy of a minimally interrupted NOAC
strategy. The aim of the present study was to compare the * S. C. Yap
s.c.yap@erasmusmc.nl J Interv Card Electrophysiol (2018) 53:341–346 342 incidence of bleeding and thromboembolic complications of
minimally interrupted NOAC versus uninterrupted VKA in pa-
tients undergoing catheter ablation of AF. restarted NOAC in the evening of the procedure. Patients con-
tinued their oral anticoagulation for at least 3 months after the
procedure. 3 Results A total of 637 patients (mean age 60 ± 9 years, 69% male)
were included in the analysis, 520 patients (82%) used unin-
terrupted VKAs and 117 patients (18%) had a minimally
interrupted NOAC strategy. In the NOAC group, the follow-
ing NOACs were used: dabigatran (n = 68), apixaban (n = 30),
rivaroxaban (n = 14), and edoxaban (n = 5). The NOAC group
comprised more patients with long-standing persistent AF and
a lower proportion of patients with a CHA2DS2-VASc ≥2
(Table 1). All other baseline variables were similar between
groups. Figure 1 demonstrates the increased use of NOAC
over the years in our AF ablation population. 2.3 Postprocedural protocol VKA patients, who had an INR 2.0 or greater at the day of the
procedure, continued their anticoagulation regimen with a tar-
get INR level of 2.0–3.0. VKA patients who had an INR
below 2.0 at the day of the procedure were bridged with in-
travenous UFH for 24 h (starting 2 h after removal of sheaths). After these 24 h they received low molecular weight heparin
until their INR level was equal or above 2.0. NOAC patients 3.1 Bleeding complications No patient in either group had a
BARC type 3c (i.e., intracranial bleeding) or type 5 bleeding
(i.e., fatal bleeding). Cardiac tamponade occurred in 4 patients
(0.8%) of the VKA group and in 1 patient (0.9%) of the
NOAC group (P = 1.00). 3.1 Bleeding complications The rates of major bleeding, either by BARC or ISTH criteria,
were similar between groups (Table 2). The rate of any clini-
cally relevant bleeding (BARC types 2–5; composite of ISTH J Interv Card Electrophysiol (2018) 53:341–346 343 Table 1 Baseline characteristics Characteristic
Uninterrupted
Interrupted
P-
value
VKA
NOAC
N = 520
N = 117
Age (years), mean ± SD
60 ± 10
60 ± 9
0.55
Male sex, n (%)
354 (68)
84 (72)
0.43
Atrial fibrillation, n (%):
0.048
Paroxysmal
392 (76)
86 (74)
Persistent
116 (22)
24 (20)
Long-standing persistent
10 (2)
7 (6)
Hypertension
217 (42)
44 (38)
0.41
Diabetes mellitus
52 (10)
5 (4)
0.05
Coronary artery disease
62 (12)
7 (6)
0.06
Congestive heart failure
20 (4)
2 (2)
0.25
Left ventricular dysfunction
18 (3)
5 (4)
0.58
LA diameter (mm), mean ± SD
42 ± 6
43 ± 7
0.56
CHA2DS2-VASc score ≥2, n (%)
245 (47)
40 (34)
0.02
HAS-BLED score ≥3, n (%)
31 (6)
4 (3)
0.30
Body mass index, mean ± SD (kg/m2)
27.7 ± 4.1
27.2 ± 3.3
0.23
Technique of catheter ablation, n (%):
0.09
Cryoballoon
100 (19)
33 (28)
Radiofrequency
402 (78)
83 (71)
Laser
18 (3)
1 (1)
LA = left atrium, NOAC = novel oral anticoagulant, VKA = vitamin K antagonist vertebrobasilar stroke 3 days after the procedure. Three
months after the procedure, this patient had a modified
Rankin score of 1. Furthermore, 2 patients (0.4%) in the
VKA group experienced a TIA 1 day after the procedure. They had an uneventful recovery. No patient in the NOAC
group experienced a systemic thromboembolic event. No
deaths occurred. major bleeding and CRNMB) was lower with NOACs com-
pared with VKAs. This difference was mainly due to a differ-
ence in clinically relevant non-major bleeding (CRNMB or
BARC type 2) (Table 2). No patient in either group had a
BARC type 3c (i.e., intracranial bleeding) or type 5 bleeding
(i.e., fatal bleeding). Cardiac tamponade occurred in 4 patients
(0.8%) of the VKA group and in 1 patient (0.9%) of the
NOAC group (P = 1.00). major bleeding and CRNMB) was lower with NOACs com-
pared with VKAs. This difference was mainly due to a differ-
ence in clinically relevant non-major bleeding (CRNMB or
BARC type 2) (Table 2). CRNMB, n (%) CRNMB, n (%) ISTH major bleeding and CRNMB, n (%) ISTH major bleeding and CRNMB, n (%) Primary thromboembolic endpoint Primary thromboembolic endpoint Stroke, TIA, or other systemic embolism, n (%) Stroke, TIA, or other systemic embolism, n (%) BARC = Bleeding Academic Research Consortium, CRNMB = clinically relevant non-major bleeding, ISTH = Internat
Haemostasis, NOAC= novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist BARC = Bleeding Academic Research Consortium, CRNMB = clinically relevant non-major bleeding, ISTH = International Society on Thrombosis and
Haemostasis, NOAC= novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist the Apixaban Evaluation of Interrupted Or Uninterrupted
anticoagulation for ablation of atrial fibrillation (AEIOU) ran-
domized trial showed no difference between continuous
apixaban compared with minimally interrupted apixaban (1
dose withheld) with regard to major bleeding (BARC 3–5)
or thromboembolic events (Table 3) [21]. Finally, a recent
meta-analysis of 4 randomized and 9 prospective observation-
al studies (N = 5463) found that minimally interrupted and
continuous NOAC strategy were both safe and non-inferior
strategies compared with uninterrupted VKA [14]. Our study
extends on these results demonstrating less clinically relevant
non-major bleeding events with minimally interrupted NOAC
in comparison with uninterrupted VKA without compromis-
ing thromboembolic safety. In clinical practice, however, most centers still use a min-
imally interrupted NOAC strategy [16]. The European
Snapshot Survey on Procedural Routines in Atrial
Fibrillation Ablation (ESS-PRAFA) in 2015 demonstrated
that AF ablations were performed with a minimally
interrupted NOAC strategy (1–2 doses withheld) in 53% of
procedures, interrupted NOAC ≥2 days in 34%, and an unin-
terrupted NOAC strategy in 14% [16]. The ABlation
peRIoperative DabiGatran in use Envisioning in Japan
(ABRIDGE-J) randomized trial demonstrated that
anticoagulation with minimally interrupted dabigatran (1 or
2 doses withheld) was associated with fewer ISTH major
bleeding complications than uninterrupted VKA with no in-
crease in thromboembolic events (Table 3) [13]. *Statistically significant difference in comparison to the VKA group. BARC = Bleeding Academic Research Consortium, ISTH = International Society
on Thrombosis and Haemostasis, NA = not available, NOAC = novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist 4 Discussion There were no differences in the systemic thromboembolic
event rates between both groups (0.6% versus 0%, P = 1.00)
(Table 2). In the VKA group, 1 patient (0.2%) experienced a The main findings of our study are that (1) the rate of clinically
relevant non-major bleeding was lower in patients with a min-
imally interrupted NOAC strategy compared with those with
an uninterrupted VKA strategy, and (2) the rates of major
bleeding and thromboembolic events were similar between
groups. Fig. 1 Proportion of periprocedural NOAC and VKA use over the years Uninterrupted use of vitamin K antagonists (VKA) as
periprocedural anticoagulant is currently widely accepted for
patients undergoing catheter ablation of AF who are using
VKA. However, there is an increased use of NOACs in the
current AF ablation population. Despite initial concerns on the
safety of using periprocedural NOAC [20], nowadays, several
large RCTs have demonstrated the safety and efficacy of un-
interrupted use of NOACs (i.e., dabigatran, rivaroxaban,
apixaban) during AF ablation [5, 6, 12] (Table 3). Fig. 1 Proportion of periprocedural NOAC and VKA use over the years J Interv Card Electrophysiol (2018) 53:341–346 344 Table 2
Primary and secondary end points Table 2
Primary and secondary end points
Uninterrupted
Interrupted
P-
value
VKA
NOAC
N = 520
N = 117
Primary bleeding endpoints
BARC 3–5 bleeding, n (%)
22 (4.2)
4 (3.4)
0.70
ISTH major bleeding, n (%)
45 (8.7)
7 (6.0)
0.34
Secondary bleeding endpoints
Bleeding requiring medical attention that does not fit the criteria for types 3–5 (BARC 2), n (%)
43 (8.3)
3 (2.6)
0.03
Bleeding with hemoglobin drop of 30 to < 50 g/L or requiring transfusion (BARC 3a), n (%)
10 (1.9)
3 (2.6)
0.72
Bleeding with hemoglobin drop of ≥50 g/L, or requiring surgery or iv vasoactive agents, or
cardiac tamponade (BARC 3b), n (%)
12 (2.3)
1 (0.9)
0.48
BARC 2–5 bleeding, n (%)
65 (12.5)
7 (6.0)
0.04
CRNMB, n (%)
20 (3.8)
–
0.03
ISTH major bleeding and CRNMB, n (%)
65 (12.5)
7 (6.0)
0.04
Primary thromboembolic endpoint
Stroke, TIA, or other systemic embolism, n (%)
3 (0.6)
–
1.00
BARC = Bleeding Academic Research Consortium, CRNMB = clinically relevant non-major bleeding, ISTH = International Society on Thrombosis and
Haemostasis, NOAC= novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist CRNMB, n (%) In addition, Table 3
Overview of major bleeding and thromboembolic events in large randomized controlled trials comparing periprocedural NOAC and VKA in
patients undergoing catheter ablation of AF
Trial
BARC 3–5 bleedings
ISTH major bleeding
Thrombo-embolic events
RE-CIRCUIT [5] – VKA, N = 318
NA
6.9%
0.3%
RE-CIRCUIT [5] – uninterrupted dabigatran, N = 317
NA
1.6%*
0.0%
VENTURE-AF [6] – VKA, N = 124
NA
0.8%
0.8%
VENTURE-AF [6] – uninterrupted rivaroxaban, N = 124
NA
0.0%
0.0%
AXAFA [12] – VKA, N = 315
4.1%
4.4%
0.0%
AXAFA [12] – uninterrupted apixaban, N = 318
2.5%
3.1%
0.6%
ABRIDGE-J [13] – VKA, N = 222
NA
5.0%
0.5%
ABRIDGE-J [13] – interrupted dabigatran, N = 220
NA
1.4%*
0.0%
AEIOU [21] – uninterrupted apixaban, N = 150
1.3%
NA
0.7%
AEIOU [21] – interrupted apixaban, N = 145
2.1%
NA
0.7%
*Statistically significant difference in comparison to the VKA group. BARC = Bleeding Academic Research Consortium, ISTH = International Society
on Thrombosis and Haemostasis, NA = not available, NOAC = novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist *Statistically significant difference in comparison to the VKA group. BARC = Bleeding Academic Research Consortium, ISTH = International Society
on Thrombosis and Haemostasis, NA = not available, NOAC = novel oral anticoagulant, TIA = transient ischemic attack, VKA = vitamin K antagonist J Interv Card Electrophysiol (2018) 53:341–346 345 One of the reasons to choose an uninterrupted NOAC strat-
egy instead of a minimally interrupted NOAC strategy is to
maximally reduce the incidence of thromboembolic events. However, the risk of a systemic thromboembolic event using
a minimally interrupted NOAC strategy is already low (<
0.7%) [13, 14, 21]. Furthermore, continuous anticoagulation
does not prevent all acute brain lesions, which can be caused
by debris from ablation lesions, air emboli, or small thrombi
[22]. This was demonstrated by the MRI substudy of the
AXAFA trial in which acute brain lesions occurred in 27%
of patients despite uninterrupted apixaban [12]. Further re-
search is required to establish the optimal NOAC dosing strat-
egy (minimally interrupted or uninterrupted) with regard to
both bleeding and thromboembolic risk. Another question is
whether every NOAC is effective in preventing
periprocedural thromboembolic complications. 4.1 Study limitations 2. Jackson LR 2nd, Becker RC. Novel oral anticoagulants: pharma-
cology, coagulation measures, and considerations for reversal. J
Thromb Thrombolysis. 2014;37(3):380–91. There were differences in baseline characteristics between the
study groups. The VKA group had a higher proportion of
patients with a CHA2DS2-VASc ≥2 in comparison to the
NOAC group (47% versus 34%). This difference can be ex-
plained by the fact that in patients who did not use an oral
anticoagulant (low CHA2DS2-VASc score) and were accepted
for catheter ablation, a NOAC was preferentially started as
periprocedural anticoagulation regime. This difference in
CHA2DS2-VASc score could potentially lower the risk of
thromboembolic and bleeding events in the NOAC group. Furthermore, patients used different NOACs in the present
study. The limited number of NOAC patients precluded fur-
ther subanalysis for the different NOACs. 3. Di Biase L, Lakkireddy D, Trivedi C, Deneke T, Martinek M,
Mohanty S, et al. Feasibility and safety of uninterrupted
periprocedural apixaban administration in patients undergoing ra-
diofrequency catheter ablation for atrial fibrillation: results from a
multicenter study. Heart Rhythm. 2015;12(6):1162–8. 4. Aryal MR, Ukaigwe A, Pandit A, Karmacharya P, Pradhan R,
Mainali NR, et al. Meta-analysis of efficacy and safety of
rivaroxaban compared with warfarin or dabigatran in patients un-
dergoing catheter ablation for atrial fibrillation. Am J Cardiol. 2014;114(4):577–82. 5. Calkins H, Willems S, Gerstenfeld EP, Verma A, Schilling R,
Hohnloser SH, et al. Uninterrupted dabigatran versus warfarin for
ablation in atrial fibrillation. N Engl J Med. 2017;376(17):1627–36. 6. Cappato R, Marchlinski FE, Hohnloser SH, Naccarelli GV, Xiang J,
Wilber DJ, et al. Uninterrupted rivaroxaban vs. uninterrupted vita-
min K antagonists for catheter ablation in non-valvular atrial fibril-
lation. Eur Heart J. 2015;36(28):1805–11. CRNMB, n (%) RCTs with
dabigatran (RE-CIRCUIT) and rivaroxaban (VENTURE-
AF) did not show any thromboembolic events [5, 6], while
RCTs with apixaban (AXAFA, AEIOU) showed a low throm-
boembolic event rate [12, 21]. subjected to the Dutch Medical Research Involving Human Subjects
Act. The study was carried out according to the ethical principles for
medical research involving human subjects established by Declaration
of Helsinki, protecting the privacy of all the participants and the confi-
dentiality of their personal information. Conflict of interest
The authors declare that they have no conflict of
interest. Conflict of interest
The authors declare that they have no conflict of
interest. Open Access This article is distributed under the terms of the Creative
Commons Attribution 4.0 International License (http://
creativecommons.org/licenses/by/4.0/), which permits unrestricted use,
distribution, and reproduction in any medium, provided you give appro-
priate credit to the original author(s) and the source, provide a link to the
Creative Commons license, and indicate if changes were made. 5 Conclusions 7. Hohnloser SH, Camm AJ. Safety and efficacy of dabigatran
etexilate during catheter ablation of atrial fibrillation: a meta-
analysis of the literature. Europace. 2013;15(10):1407–11. In patients undergoing catheter ablation of AF, a minimally
interrupted NOAC strategy was associated with fewer clini-
cally relevant non-major bleeding compared with uninterrupt-
ed VKA. The risk of major bleeding and thromboembolic
events was similar between both strategies. Our study rein-
forces the safety and efficacy of a minimally interrupted
NOAC strategy as periprocedural anticoagulant in patients
undergoing catheter ablation of AF. 8. Kaess BM, Ammar S, Reents T, Dillier R, Lennerz C, Semmler V,
et al. Comparison of safety of left atrial catheter ablation procedures
for atrial arrhythmias under continuous anticoagulation with
apixaban versus phenprocoumon. Am J Cardiol. 2015;115(1):47–
51. 9. Lakkireddy D, Reddy YM, Di Biase L, Vallakati A, Mansour MC,
Santangeli P, et al. Feasibility and safety of uninterrupted
rivaroxaban for periprocedural anticoagulation in patients undergo-
ing radiofrequency ablation for atrial fibrillation: results from a
multicenter prospective registry. J Am Coll Cardiol. 2014;63(10):
982–8. References 1. Di Biase L, Burkhardt JD, Santangeli P, Mohanty P, Sanchez JE,
Horton R, et al. Periprocedural stroke and bleeding complications in
patients undergoing catheter ablation of atrial fibrillation with dif-
ferent anticoagulation management: results from the role of
coumadin in preventing thromboembolism in atrial fibrillation
(AF) patients undergoing catheter ablation (COMPARE) random-
ized trial. Circulation. 2014;129(25):2638–44. 1. Di Biase L, Burkhardt JD, Santangeli P, Mohanty P, Sanchez JE,
Horton R, et al. Periprocedural stroke and bleeding complications in
patients undergoing catheter ablation of atrial fibrillation with dif-
ferent anticoagulation management: results from the role of
coumadin in preventing thromboembolism in atrial fibrillation
(AF) patients undergoing catheter ablation (COMPARE) random-
ized trial. Circulation. 2014;129(25):2638–44. Compliance with ethical standards 10. Santarpia G, De Rosa S, Polimeni A, Giampa S, Micieli M, Curcio
A, et al. Efficacy and safety of non-vitamin K antagonist oral anti-
coagulants versus vitamin K antagonist oral anticoagulants in The Medical Ethics Committee of the Erasmus Medical Center reviewed
the study (MEC-2015-073), and this retrospective study was not 346 J Interv Card Electrophysiol (2018) 53:341–346 patients undergoing radiofrequency catheter ablation of atrial fibril-
lation: a meta-analysis. PLoS One. 2015;10(5):e0126512. 17. Mehran R, Rao SV, Bhatt DL, Gibson CM, Caixeta A, Eikelboom
J, et al. Standardized bleeding definitions for cardiovascular clinical
trials: a consensus report from the bleeding academic research con-
sortium. Circulation. 2011;123(23):2736–47. 11. 11. Wu S, Yang YM, Zhu J, Wan HB, Wang J, Zhang H, et al. Meta-
analysis of efficacy and safety of new oral anticoagulants compared
with uninterrupted vitamin K antagonists in patients undergoing
catheter ablation for atrial fibrillation. Am J Cardiol. 2016;117(6):
926–34. 18. Schulman S, Kearon C, Subcommittee on Control of
Anticoagulation of the Scientific, Standardization Committee of
the International Society on Thrombosis and Haemostasis. Definition of major bleeding in clinical investigations of
antihemostatic medicinal products in non-surgical patients. J
Thromb Haemost. 2005;3(4):692–4. 12. Kirchhof P, Haeusler KG, Blank B, De Bono J, Callans D, Elvan A
et al. Apixaban in patients at risk of stroke undergoing atrial fibril-
lation ablation. Eur Heart J. 2018. https://doi.org/10.1093/eurheartj/
ehy176. 19. Kaatz S, Ahmad D, Spyropoulos AC, Schulman S, Subcommittee
on Control of Anticoagulation. Definition of clinically relevant non-
major bleeding in studies of anticoagulants in atrial fibrillation and
venous thromboembolic disease in non-surgical patients: commu-
nication from the SSC of the ISTH. J Thromb Haemost. 2015;13(11):2119–26. 13. Nogami A, Machino T, Harada T, Nakano Y, Yoshida Y, Goya M, et
al. Clinical benefit of minimally-interrupted dabigatran versus un-
interrupted warfarin for catheter ablation of atrial fibrillation: a pro-
spective randomized multicenter trial. Anaheim: American Heart
Association Scientific Sessions; 2017. 20. Lakkireddy D, Reddy YM, Di Biase L, Vanga SR, Santangeli P,
Swarup V, et al. Feasibility and safety of dabigatran versus warfarin
for periprocedural anticoagulation in patients undergoing radiofre-
quency ablation for atrial fibrillation: results from a multicenter
prospective registry. J Am Coll Cardiol. 2012;59(13):1168–74. 14. Ha FJ, Barra S, Brown AJ, Begley DA, Grace AA, Agarwal S. Continuous and minimally-interrupted direct oral anticoagulant
are both safe compared with vitamin K antagonist for atrial fibril-
lation ablation: an updated meta-analysis. Compliance with ethical standards Int J Cardiol. 2018;262:
51–6. 15. Kirchhof P, Benussi S, Kotecha D, Ahlsson A, Atar D, Casadei B, et
al. 2016 ESC guidelines for the management of atrial fibrillation
developed in collaboration with EACTS. Eur Heart J. 2016;37(38):
2893–962. 21. Reynolds MR, Scott Allison J, Natale A, Weisberg IL, Ellenbogen
KA, Richards M et al. A prospective randomized trial of apixaban
dosing during atrial fibrillation ablation. JACC Clin Electrophysiol. 2018;4(5):580–8. 16. Potpara TS, Larsen TB, Deharo JC, Rossvoll O, Dagres N, Todd D,
et al. Oral anticoagulant therapy for stroke prevention in patients
with atrial fibrillation undergoing ablation: results from the first
European snapshot survey on procedural routines for atrial fibrilla-
tion ablation (ESS-PRAFA). Europace. 2015;17(6):986–93. 22. Takami M, Lehmann HI, Parker KD, Welker KM, Johnson SB,
Packer DL. Effect of left atrial ablation process and strategy on
microemboli formation during irrigated radiofrequency catheter ab-
lation in an in vivo model. Circ Arrhythm Electrophysiol. 2016;9(1):e003226.
|
https://openalex.org/W4386919110
|
https://link.springer.com/content/pdf/10.1007/978-3-031-43849-3_18.pdf
|
English
| null |
A Graph Neural Network Approach for Evaluating Correctness of Groups of Duplicates
|
Lecture notes in computer science
| 2,023
|
cc-by
| 5,341
|
1 Istituto di Scienza e Tecnologie dell’Informazione “A. Faedo” - ISTI (CNR)
Pisa, Italy 1 Istituto di Scienza e Tecnologie dell’Informazione “A. Faedo” - ISTI (CNR)
Pisa, Italy {michele.debonis,paolo.manghi,fabrizio.falchi}@isti.cnr.it
2 {michele.debonis,paolo.manghi,fabrizio.falchi}@isti.cnr.it
2 OpenAIRE AMKE, Pisa, Italy
paolo.manghi@openaire.eu
3 TIM S.p.A., Pisa, Italy
filippo.minutella@telecomitalia.it {michele.debonis,paolo.manghi,fabrizio.falchi}@isti.cnr.it
2 OpenAIRE AMKE, Pisa, Italy
paolo.manghi@openaire.eu
3 TIM S.p.A., Pisa, Italy
filippo.minutella@telecomitalia.it }
2 OpenAIRE AMKE, Pisa, Italy
paolo.manghi@openaire.eu
3 TIM S.p.A., Pisa, Italy
filippo.minutella@telecomitalia.it Abstract. Unlabeled entity deduplication is a relevant task already
studied in the recent literature. Most methods can be traced back to
the following workflow: entity blocking phase, in-block pairwise compar-
isons between entities to draw similarity relations, closure of the result-
ing meshes to create groups of duplicate entities, and merging group
entities to remove disambiguation. Such methods are effective but still
not good enough whenever a very low false positive rate is required. In this paper, we present an approach for evaluating the correctness
of “groups of duplicates”, which can be used to measure the group’s
accuracy hence its likelihood of false-positiveness. Our novel approach is
based on a Graph Neural Network that exploits and combines the con-
cept of Graph Attention and Long Short Term Memory (LSTM). The
accuracy of the proposed approach is verified in the context of Author
Name Disambiguation applied to a curated dataset obtained as a sub-
set of the OpenAIRE Graph that includes PubMed publications with at
least one ORCID identifier. Keywords: entity deduplication · correctness · graph neural
networks · author name disambiguation c
⃝The Author(s) 2023
O. Alonso et al. (Eds.): TPDL 2023, LNCS 14241, pp. 207–219, 2023.
https://doi.org/10.1007/978-3-031-43849-3 18 A Graph Neural Network Approach
for Evaluating Correctness of Groups
of Duplicates Michele De Bonis1(B)
, Filippo Minutella3, Fabrizio Falchi1
,
and Paolo Manghi1,2 Michele De Bonis1(B)
, Filippo Minutella3, Fabrizio Falchi1
,
and Paolo Manghi1,2 1
Introduction Entity deduplication (or disambiguation) refers to the process of identifying
duplicates within a given collection of entity metadata descriptions. The primary
objective of this process is to group the equivalent entities into distinct groups
of duplicates, thereby increasing the data quality and saving storage space. The
deduplication process is particularly relevant for providers who curate collections
that must be indexed and made available for user search. Before the advent of machine learning, the most popular approaches were
based on a three-stage workflow: 208 M. De Bonis et al. Blocking preliminary blocking stage to group “potentially equivalent” entities
to limit the number of comparisons; Blocking preliminary blocking stage to group “potentially equivalent” entities
to limit the number of comparisons; Similarity match pairwise comparisons stage inside each block to check for
equivalence and to draw similarity relationships between equivalent entities;
Deduplication identification of groups of duplicates (equivalent entities) by
closing the meshes in the graph resulting from the previous phase. Similarity match pairwise comparisons stage inside each block to check for
equivalence and to draw similarity relationships between equivalent entities; q
y
p
q
;
Deduplication identification of groups of duplicates (equivalent entities) by
closing the meshes in the graph resulting from the previous phase. Deduplication identification of groups of duplicates (equivalent entities) by
closing the meshes in the graph resulting from the previous phase. This type of approach persists nowadays when the entities bear a well-described
set of metadata attributes and the collection curator demands strong control and
explainability over the results [1–3]. On the other hand, evaluating the quality
(e.g. via metrics) of the groups of duplicates when these are label-less becomes as
challenging as inefficient. Measuring quality is essential, to refine or improve the
results, or to provide a level of confidence to the consumers of the deduplicated
collection. Given the nature of the problem, where the main objective is to have
a low number of wrong groups of duplicates, it is important to have an evaluation
measure able to give a score to a group independently from the others. In this
way, the data quality can be increased by excluding from the final graph all the
groups with a low score by cutting their similarity relations. 1 https://pubmed.ncbi.nlm.nih.gov.
2 https://graph.openaire.eu. 1
Introduction In this paper, we address this problem by exploiting a Graph Neural Network
(GNN) approach, relying on a twofold intuition: (i) the similarity match stage
described above generates a graph where nodes represent the entities and rela-
tionships indicate the equivalence between two nodes; and (ii) the deduplication
stage generates a set of distinct graphs, whose nodes have no relationships with
nodes of other graphs. In the last few years, many different architectures involv-
ing deep learning and graphs have been proposed, with GNN methods becoming
very popular in the research community. Typically, such methods encode the
information in every node of the graph through a feature-extraction algorithm
and subsequently generate node embeddings by encoding information about the
node’s topology via message passing with other nodes in the neighborhood. GNN
methods have been proven effective in node and graph classification, where node
embeddings are merged to represent the whole graph. Most popular examples
of GNNs are the Graph Convolutional Network (GCN) [4], the Graph Attention
Network (GAT) [5], Graph Isomorphism Network (GIN) [6] and Graphormer [7],
which brings the concept of NLP transformers on Graphs. In light of these observations, we propose a custom model capable of pro-
cessing groups of duplicates to evaluate their correctness regarding a percentage
indicator. The model is then applied in a real-case scenario of scholarly commu-
nication to duplicate author names. More specifically, it is trained in a supervised
way using a custom dataset of ORCID-provided authors coming from PubMed1
article metadata records collected by the OpenAIRE Graph2 [8–10]. To define
the model, a preliminary analysis of known Graph Neural Networks has been
carried out and a 3-layered GAT was identified as the most promising. The model
has been customized in two ways. Firstly, by adding edge weights that reflect
the similarity match between two nodes and a node betweenness centrality [11] A GNN Approach for Evaluating Correctness of Groups of Duplicates 209 measure that reflects the pivotal role of a node in a graph in terms of shortest
paths. Secondly, by adding a further LSTM layer [12], before the classifier for the
prediction. A sigmoid function is subsequently applied to the classifier output to
transform the result into a percentage measure of correctness. Once the model
has been trained over labeled data, it can be used to classify groups with no
available labels (i.e. 1
Introduction the majority of those resulting from a real-case scenario)
as the nature of groups of duplicates depends on the algorithm used for the
deduplication and therefore remains the same. Our experiments have shown the
approach to be effective with both big and small groups with an accuracy of
circa 90%. The paper is organized as follows: Sect. 2 describes the current status of the
research on the topic; Sect. 3 describes the methodology used to conduct the
research; Sect. 4 provides a description of the developed architecture together
with the experimental results; Sect. 5 discusses the obtained results; Sect. 6 con-
cludes the paper providing some hints for the future directions of this research. 3 https://github.com/miconis/dedup-groups-evaluator.
4 https://www.dgl.ai. 3
Methodology The research of this paper has been conducted by following three steps: (i) the
preparation of the dataset to be used as training, validation, and testing set;
(ii) the preliminary experiments on base Graph Neural Network architecture
to highlight the advantages and the disadvantages of each model; and (iii) the
implementation, training, and validation of the final model architecture to be
used for the classification of groups of duplicates. The dataset preparation has been performed by mimicking a real-case sce-
nario when a standard framework for deduplication has been applied. In this
research we used FDup [16], a framework for efficient data deduplication using
decision tree-based matching. The FDup framework delivers a full deduplica-
tion workflow in a single easy-to-use software based on Apache Spark Hadoop,
where developers can customize the blocking and the similarity matching via an
intuitive configuration file. In particular, the similarity matching function is engi-
neered as a decision tree that drives the comparisons of the fields of two records
as branches of predicates and allows early-exit strategies to save computation
time. The code is available on GitHub3 and it is written in Python by using the
Deep Graph Library4 (DGL), a Pytorch-based library which implements fast
and memory-efficient message passing primitives for training Graph Neural Net-
works. All the models have been trained using an NVIDIA GeForce RTX 3060
Laptop GPU. 2
State of the Art The literature does not address the problem of assessing the quality of groups
of duplicate entities. However, since the groups created after a deduplication
process correspond to clusters of equivalent data (entities), clustering evalu-
ation metrics may be considered a valuable solution. Two classes of metrics
exist: “extrinsic measures” when the ground truth label is required, and “intrin-
sic measures” when the ground truth label is not required. Known metrics in
these fields are the Rand Index, the Mutual Information, the V-measure, and
the Fowlkes-Mallow score when speaking about intrinsic measure, while the Sil-
houette Coefficient, the Calinski-Harabasz Index, and the Davies-Bouldin Index
when speaking about extrinsic measure. In order to use such metrics for the
evaluation it is important to think of the group of duplicates as a set of points
in an n-dimensional space, and in some cases to define a measure of distance
between such points. The evaluation of deduplication by means of the metrics
described above does not allow the evaluation of each group independently from
the others, as the final score provided by the formulas of each metric is either
inefficient to be computed or descriptive of the whole deduplication. The evaluation of a deduplication result can be sometimes performed by
heavily relying on persistent identifiers of entities [13] (e.g. the DOI) but it is
not guaranteed that the measure is trusty, as the persistent identifier for the
evaluation is not often available for every entity in the collection of a real-case
scenario. The graph classification problem has been studied in literature and surveys
on this topic summarise several methods [14,15]. The methods described in the
surveys classify molecules and proteins in a supervised fashion by giving accept-
able accuracy ranges. Nonetheless, such methods are not directly applicable to
groups of duplicates because of the different and particular nature of such groups,
having a dense or sparse distribution of relations that is not directly indicative
of the correctness of the group. 210 M. De Bonis et al. As claimed by the authors, the best approach for classifying a graph is
Graphormer [7], which brings the transformer concept into Graph Neural Net-
works. Nonetheless, the nature of transformers makes such architectures’ training
and inference process extremely slow or feasible only when a high computation
power is available, which is not the case in most scenarios. 4 https://www.dgl.ai. 4.1
Dataset Preparation Since this is aimed to be classified as a supervised way of training a Graph Neural
Network for graph classification, the main objective of the research is to have a
proper dataset to test the goodness of the findings. We decided to use Author
Names Disambiguation as an example, and we extracted only Authors with an
ORCID identifier provided by PubMed records in the OpenAIRE Graph. The
identifier will be used as a label to determine the correctness of a group. The first step of the dataset preparation consists of extracting the authors
from PubMed records. Every author extracted from a publication comprises
personal fields and fields inherited by the respective publication. Such fields are: A GNN Approach for Evaluating Correctness of Groups of Duplicates 211 A GNN Approach for Evaluating Correctness of Groups of Duplicates – full name (i.e. “Surname, Name” or “Surname, N.”) – full name (i.e. “Surname, Name” or “Surname, N.”) – the co-authors list (i.e. the list of authors belonging to the same publication
as a list of strings) – the co-authors list (i.e. the list of authors belonging to the same publication
as a list of strings) – the abstract of the publication Since the deduplication algorithm needs meaningful information for the compari-
son, the abstract of the publications has been processed with the Latent Dirichlet
Allocation (LDA) [17]. To this aim, the abstracts of the publications have been
tokenized (i.e. transformed into vectors of words excluding the stop-words), and
vectorized (by means of a Bag of Word model) using the Dewey Decimal Classi-
fication [18] as a dictionary. Various models of LDA have been trained over the
vectorized abstracts by varying the number of topics. The perplexity score over
the testing set has been fined-tuned to reach the optimal number of topics for
the collection, which resulted in 15, as depicted in Fig. 1. Fig. 1. LDA perplexity score varying the number of topics Fig. 1. LDA perplexity score varying the number of topics Once the optimal LDA model in terms of perplexity is obtained, every
abstract has been processed to produce a 15-sized topic vector assigned to
the publication’s author names to describe authors in terms of the topics they
touched upon. The collection of enriched author names is deduplicated at this
stage by applying FDup. 4.1
Dataset Preparation The framework has been configured as follows: – preliminary Last Name First Initial (LNFI) blocking stage to identify poten-
tially equivalent authors as authors sharing the surname and the first letter of
the first name; in particular, authors having the same surname and the same
initial letter of the name are considered potentially equivalent and there-
fore processed by the similarity matching function (i.e. “Sandra Smith” and
“Steven Smith” will end up in the same block as they share the same blocking
key - “smiths”); – preliminary Last Name First Initial (LNFI) blocking stage to identify poten-
tially equivalent authors as authors sharing the surname and the first letter of
the first name; in particular, authors having the same surname and the same
initial letter of the name are considered potentially equivalent and there-
fore processed by the similarity matching function (i.e. “Sandra Smith” and
“Steven Smith” will end up in the same block as they share the same blocking
key - “smiths”); M. De Bonis et al. 212 – pairwise similarity matching based on comparing the co-authors lists and LDA
topic vectors. The similarity on the co-authors’ lists is measured by counting
the number of common names among the lists (i.e. number of similar names),
while the cosine similarity measures the similarity on the topic vectors. Note
that the threshold of the co-authors similarity has been set empirically to
2, while the threshold of the topic vectors similarity has been set to 0.5
after a False Positive - False Negative analysis varying the threshold on all
the possible comparisons. The FDup decision tree used for this purpose is
depicted in Fig. 2. Fig. 2. FDup decision tree used for authors’ disambiguation Fig. 2. FDup decision tree used for authors’ disambiguation The result of the deduplication creates groups of authors sharing at least 2 co-
authors and/or having a cosine similarity of their topic vectors greater than 0.5. Such groups have been processed and prepared to be the proper training set for
the Graph Neural Network. To this aim, they have been labeled and manually
classified into positive groups (i.e. all the authors in the group have the same
ORCID), or negative groups (i.e. the group has authors with different ORCIDs). Subsequently, 2-sized groups have been removed (i.e. they are pairs), and the
dataset has been balanced to have the same number of positive and negative
samples. 4.1
Dataset Preparation Statistics on the groups are reported in Table 1. The dataset used for
this research is available on Zenodo.org [19]. Note that the total number of posi-
tive and negative groups has been balanced, but the dataset reflects the common
situation in real-case scenarios where the number of wrong groups increases with
the size of the groups. 4.2
Preliminary Experiments In order to provide meaningful features to the Neural Networks, the abstract
associated with each author has been further processed via a pre-trained BERT
Sentence Embedding model called bert-base-multilingual-cased. BERT [20] is a
method of language representation able to extract high-quality language features
from text data, guaranteeing that similar texts produce similar embeddings. A GNN Approach for Evaluating Correctness of Groups of Duplicates 213 Table 1. Training dataset statistics Table 1. Training dataset statistics
positive negative
global
25,450
25,450
groups of 3
12,291
6,699
groups of 4 to 10
11,882
12,107
groups of more than 10
1,277
6,644
total
50,900 Once the BERT embedding for each graph node has been created, the dataset
has been divided into training, validation, and testing set with a ratio of 60%,
20%, and 20%. The idea is to exploit the message passing to update node
embeddings with topology information coming from the neighborhood and con-
sequently apply a readout (e.g. aggregation of node embeddings) to have the final
graph embedding classified (as usual in graph classification tasks). We decided to
test 3 base architectures using the most popular GNN layers. Such architectures
are described below: – GCN3: a 3-layered Graph Convolutional Network; – GAT3: a 3-layered Graph Attention Network; – Graphormer: a 6-layered graph transformer with Spacial Encoding and Degre – Graphormer: a 6-layered graph transformer with Spacial Encoding and Degree
Encoding, as described in the original paper [7]. – Graphormer: a 6-layered graph transformer with Spacial Encoding and Degree
Encoding, as described in the original paper [7]. Encoding, as described in the original paper [7]. In every case, the network is finalized by a Linear transformation layer inputted
to a sigmoid function to obtain the value as a percentage to be used as a score
for evaluating a group. Each architecture has been trained and tested to stop the
training process once the overfitting condition was verified (i.e. the loss on the
testing set increasing for more than 20 epochs). We chose the best model for each
architecture by taking the one from the epoch with the lower loss. Subsequently,
models have been evaluated by measuring their performances on the validation
set. Results depicted in Table 2 showed the GAT3 model to be the most promising
approach for this kind of activity, confirming the outcomes of the literature
claiming that putting attention on neighborhoods’ features brings better results. Table 2. 4.2
Preliminary Experiments Preliminary experiments on base Graph Neural Networks
model
Acc
TPR
TNR FPR
FNR
Precision F1-Score
Graphormer 75.91 85.02 66.56 33.43 14.97 72.29
78.14
GCN3
78.76 81.63 75.81 24.18 18.36 77.59
79.59
GAT3
81.73 87.16 76.17 23.82 12.83 78.96
82.86 Table 2. Preliminary experiments on base Graph Neural Networks 214 M. De Bonis et al. 4.3
Final Model Architecture Once the best base model has been pointed out, the final architecture to be
used for the purpose of this research has been developed. The intuition behind
the approach is in the intrinsic characteristics that make a group of duplicates
wrong. The first source of errors is in the clustering key that defines initial blocks
to limit the number of comparisons. In other words, each node in the graph
must include in its encoding also some sort of encoding for the field used for
the blocking. Since the strategy adopted for the purpose of this experiment is to
apply the LNFI on the authors’ names, the encoding of each node should include
also an encoding for author names. The type of encoding used for this purpose is
a Bag of Letters-like method, a simplifying representation that imitates the most
common Bag of Words representation used in natural language processing and
information retrieval. Each author name is coded in a 55-sized feature vector in
which each element indicates the frequency of a specific letter in the name (the
size of 55 indicates the number of characters in the alphabet used as a dictionary). Such kind of encoding is sufficient to achieve good results since it guarantees a
good representation of typos, which may be present in author names but are
still coded in similar vectors (in case of typing errors leading to letters swapped
in positions, the encoding is exactly the same). An example of how an author
name is encoded is shown in Fig. 3. To better describe the differences among the
names in the group, each edge has been weighted with the Jaro-Winkler distance
between the two names. This way each edge is normalized with the degree of
similarity of the names of its nodes. Fig. 3. Simplified example of the author name encoding Fig. 3. Simplified example of the author name encoding The second source of error lies in one (or more) nodes leading to the cre-
ation of bigger groups. Such nodes have been identified as “bridges” because
they are usually poorly described nodes (with a missing first name, and missing
co-authors) matching with nodes belonging to different groups for their intrinsic
characteristics, creating bigger groups putting together different entities. Exam-
ples of bridges are depicted in Fig. 4, where authors with missing first names
matched with authors with two different names resulting in the creation of a big
wrong group of duplicates after the closure of the meshes. In order to emphasize such nodes, we developed a centrality encoder that
gives a higher weight to nodes which can be potentially a bridge. For this purpose,
we used the betweenness centrality measure, which detects the influence a node
has over the flow of information in a graph. It is often used to find nodes that
serve as a bridge from one part of a graph to another because it measures how A GNN Approach for Evaluating Correctness of Groups of Duplicates 215 Fig. 4. Example of bridges in a disambiguation graph Fig. 4. Example of bridges in a disambiguation graph many times, in proportion, the path needs to pass from a specific node to reach
another. To complete the model, we added an LSTM to process the output of the
GAT convolutional layers. This intuition comes from the fact that groups in the
dataset are not of the same length and a smaller group may be flattened by
passing through a high number of convolutional layers. On the contrary, bigger
groups must pass through more layers for better representation. In this economy,
the concatenation of the outcome of every GAT convolutional layer is inputted
to the LSTM which will be able to learn to which extent to consider the results of
the first layers of the network (meaningful for small groups) combining them with
results of the last layer of the network (meaningful for big groups). Following
the previous description, our final architecture is depicted in Fig. 5. p
p
,
p
g
Table 3 reports the results obtained for the testing set using the newly created
model, dividing them on the nature of the block to better describe how the model
behaves. Fig. 3. Simplified example of the author name encoding It is shown as the model has an accuracy of about 90% on each class
of groups. Table 3. Experiments on the final architecture
model
Acc
TPR
TNR FPR
FNR
Precision F1-Score
GAT3NamesEdgesCentrality 89.87 93.03 86.62 13.37 6.96
87.71
90.29
(in groups of 3)
88.56 95.05 76.75 23.24 4.94
88.14
91.46
(in groups of 4 to 10)
88.77 91.48 85.98 14.01 8.59
87.08
89.22
(in groups of more than 10)
96.25 88.64 97.81 2.18
11.35 89.29
88.97 Table 3. Experiments on the final architecture A GNN Approach for Evaluating Correctness of Groups of Duplicates A fixed threshold has been set on the network output for training. Such
threshold identifies a correct group when the output score is greater than 0.5,
while identifies a wrong group when the output score is lower than 0.5. A thresh-
old analysis on the scores of the False Negatives and False Positives allows the
fine-tuning of such threshold to reduce the number of errors. Increasing the
threshold on the final score increases the model’s overall accuracy. The outcome
of the Graph Neural Network can be consequently used to correct wrong groups
(i.e. those with a low score) and to promote correct groups (i.e. those with a
high score). In the end, it is important to mention that the approach is meant to work also
for other types of entities since the correctness of a group depends on attributes
of the same nature (e.g. titles when the deduplication is performed over pub-
lications, legal names when the deduplication is performed over organizations,
etc.). The concept of the bridge remains the same in every scenario and does not
depend on the type of entity to be deduplicated. 5
Discussion Usually, a deduplication process ends up with a series of groups with different
sizes: smaller groups are the most probable while bigger groups are less. Con-
versely, the number of wrong groups among bigger groups is higher because 216 M. De Bonis et al. Fig. 5. Final architecture for the classification of a group of duplicates Fig. 5. Final architecture for the classification of a group of duplicates finding bridges on a more extensive set of nodes is easier. The dataset we cre-
ated for this research perfectly reflects the environment described above, as table
numbers suggest a coherent distribution among wrong and correct groups. Note
that the accuracy of the process is not directly comparable to any other archi-
tecture of the literature as emerged that the use case was not studied in other
research. The results in terms of accuracy and other metrics depicted in tables for
each model architecture tested in this research showed that the main lack of
base approach was the misalignment of the accuracies on groups of different sizes. Smaller groups tend to bring down the whole accuracy because the information of
the first layers is lost as the other layers of the network process the input. Adding
the LSTM at the end of the network allows for overcoming this limitation as it
considers meaningful information coming from previous processing steps when
needed. In fact, the results of the final model with the LSTM show a balanced
accuracy between smaller groups, leading to a higher average accuracy among
all the groups in the dataset. It is important to notice that the accuracy of groups with more than 10
entities is very promising, as such groups are the most difficult to be individuated. The percentages of True Positives, True Negatives, False Positives, and False
Negatives fit with the use case, as in this kind of activities is important not to
have False Negatives which tend to bring the quality of the data to a lower level. 217 A GNN Approach for Evaluating Correctness of Groups of Duplicates References 1. Manghi, P., Atzori, C., De Bonis, M., Bardi, A.: Entity deduplication in big data
graphs for scholarly communication. Data Technol. Appl. 54(4), 409–435 (2020) 2. He, Q., Li, Z., Zhang, X.: Data deduplication techniques. In: 2010 International
Conference on Future Information Technology and Management Engineering, vol. 1, pp. 430–433. IEEE (2010) (
)
3. Kolb, L., Thor, A., Rahm, E.: Dedoop: efficient deduplication with hadoop. Proc. VLDB Endow. 5(12), 1878–1881 (2012). https://doi.org/10.14778/2367502. 2367527 4. Zhang, S., Tong, H., Xu, J., Maciejewski, R.: Graph convolutional networks: a
comprehensive review. Comput. Soc. Netw. 6(1), 1–23 (2019). https://doi.org/10. 1186/s40649-019-0069-y /
5. Veliˇckovi´c, P., Cucurull, G., Casanova, A., Romero, A., Lio, P., Bengio, Y.: Graph
attention networks. arXiv preprint arXiv:1710.10903 (2017) 6. Xu, K., Hu, W., Leskovec, J., Jegelka, S.: How powerful are graph neural networks? arXiv preprint arXiv:1810.00826 (2018) 7. Ying, C., et al.: Do transformers really perform badly for graph representation? Adv. Neural Inf. Process. Syst. 34, 28877–28888 (2021) 8. Manghi, P., Houssos, N., Mikulicic, M., J¨org, B.: The data model of the OpenAIRE
scientific communication e-infrastructure. In: Dodero, J.M., Palomo-Duarte, M.,
Karampiperis, P. (eds.) MTSR 2012. CCIS, vol. 343, pp. 168–180. Springer, Hei-
delberg (2012). https://doi.org/10.1007/978-3-642-35233-1 18 9. Manghi, P., et al.: The openaire research graph data model. Zenodo (2019)
(
) 10. Manghi, P., et al.: Openaire research graph dump (2022) 11. Ausiello, G., Firmani, D., Laura, L.: The (betweenness) centrality of critical nodes
and network cores, pp. 90–95, July 2013 12. Hochreiter, S., Schmidhuber, J.: Long short-term memory. Neural Comput. 9,
1735–1780 (1997) 13. Vichos, K., et al.: A preliminary assessment of the article deduplication algorithm
used for the openaire research graph (2022) 14. Errica, F., Podda, M., Bacciu, D., Micheli, A.: A fair comparison of graph neural
networks for graph classification. CoRR abs/1912.09893 (2019). http://arxiv.org/
abs/1912.09893 /
15. Tsuda, K., Saigo, H.: Graph classification, pp. 337–363. Springer, US, Boston, MA
(2010). https://doi.org/10.1007/978-1-4419-6045-0 11 16. De Bonis, M., Manghi, P., Atzori, C.: FDup: a framework for general-purpose and
efficient entity deduplication of record collections. PeerJ. Comput. Sci. 8, e1058
(2022) (
)
17. Blei, D.M., Ng, A.Y., Jordan, M.I.: Latent dirichlet allocation. J. Mach. Learn. Res. 3, 993–1022 (2003) 18. Scott, M.L., SCOTT, M.L.: Dewey Decimal Classification. Libraries Unlimited
(1998) 19. De Bonis, M.: Deduplication groups evaluator data benchmark. https://doi.org/
10.5281/zenodo.7997279, June 2023 20. 6
Conclusions and Future Works In this paper, we presented a Graph Neural Network based on the Graph Atten-
tion mechanism and the Long Short Term Memory to classify groups of duplicates
created by a standard deduplication algorithm. The architecture is provided with
a custom encoding for the betweenness centrality of each node and a Bag Of Let-
ters model for the name of the author encoding. The experiments performed on the
custom dataset created for this purpose showed acceptable measures of accuracy
considering the typical use case of the deduplication activity. Accuracy can be further increased by including in the encodings entity
attributes used by the deduplication algorithm in charge of performing the pair-
wise comparisons, as experiments suggested that the source of errors lies in
poorly described fields. y
The approach described in this paper uses the Author Name Disambiguation
as an example use case but it is possible to turn it into a general purpose app-
roach. The “bridge” problem depends not on the entity type being deduplicated
but on the 3-stage entity linking paradigm formed by entity blocking, pairwise
matching, and closing meshes. To turn the approach into a general purpose, it is
sufficient to act on the feature type used to feed the Graph Neural Network in a
way that they describe the entity attribute responsible for the equivalence of a
pair of entities. The initial ground truth to train the Graph Neural Network with
can be created by performing the deduplication on entities with identifiers (e.g. ORCID) to be used for the labeling of groups. Once the network has been trained
over the ground truth, it can be used to evaluate the correctness of groups even
when they do not contain entities with an identifier. Acknowledgements. This work was partially funded by the EC H2020 projects
OpenAIRE-Nexus (Grant agreement 101017452) and FAIRCORE4EOSC (Grant agree-
ment 101057264). M. De Bonis et al. 218 References Devlin, J., Chang, M., Lee, K., Toutanova, K.: BERT: pre-training of deep bidi-
rectional transformers for language understanding. CoRR abs/1810.04805 (2018). http://arxiv.org/abs/1810.04805 219 A GNN Approach for Evaluating Correctness of Groups of Duplicates A GNN Approach for Evaluating Correctness of Groups of Duplicates Open Access This chapter is licensed under the terms of the Creative Commons
Attribution 4.0 International License (http://creativecommons.org/licenses/by/4.0/),
which permits use, sharing, adaptation, distribution and reproduction in any medium
or format, as long as you give appropriate credit to the original author(s) and the
source, provide a link to the Creative Commons license and indicate if changes were
made. Access This chapter is licensed under the terms of the Creative Commons
ution 4.0 International License (http://creativecommons.org/licenses/by/4.0/), The images or other third party material in this chapter are included in the
chapter’s Creative Commons license, unless indicated otherwise in a credit line to the
material. If material is not included in the chapter’s Creative Commons license and
your intended use is not permitted by statutory regulation or exceeds the permitted
use, you will need to obtain permission directly from the copyright holder.
|
https://openalex.org/W2971515279
|
http://openaccess.sgul.ac.uk/111111/5/ntz151.pdf
|
English
| null |
Interest in and Use of Smoking Cessation Support Across Pregnancy and Postpartum
|
Nicotine & tobacco research
| 2,019
|
cc-by
| 7,922
|
Felix Naughton PhD1, , Luis Reeves Vaz PhD2, Tim Coleman MD2,
Sophie Orton PhD2, Katharine Bowker PhD2, Jo Leonardi-Bee PhD3,
Sue Cooper PhD2, Laura Vanderbloemen PhD4, Stephen Sutton PhD5,
Michael Ussher PhD6,7 Felix Naughton PhD1, , Luis Reeves Vaz PhD2, Tim Coleman MD2,
Sophie Orton PhD2, Katharine Bowker PhD2, Jo Leonardi-Bee PhD3,
Sue Cooper PhD2, Laura Vanderbloemen PhD4, Stephen Sutton PhD5,
Michael Ussher PhD6,7 Downloaded from https://academic.oup.com/ntr/article-abstract/22/7/1178/5553845 by guest on 23 June 2020 1School of Health Sciences, University of East Anglia, Norwich, NR4 7TJ, UK; 2Division of Primary Care, UK Centre
for Tobacco and Alcohol Studies and National Institute for Health Research School for Primary Care Research,
University of Nottingham, Nottingham, UK; 3Division of Epidemiology and Public Health, University of Nottingham,
Nottingham, UK; 4Department of Primary Care and Public Health, Imperial College London, London, UK; 5Behavioural
Science Group, Institute of Public Health, University of Cambridge, CB2 0SR, UK; 6Population Health Research
Institute, St Georges, University of London, London, UK; 7Institute for Social Marketing and Health, University of
Stirling, Stirling, UK Corresponding Author: Felix Naughton, PhD, School of Health Sciences, University of East Anglia, Norwich, NR4 7TJ, UK;
Telephone: 44 (0) 1603 593459; E-mail: f.naughton@uea.ac.uk This is an Open Access article distributed under the terms of the Creative Commons Attribution License (http://creativecommons.org/licenses/by/4.0/),
which permits unrestricted reuse, distribution, and reproduction in any medium, provided the original work is properly cited.
© The Author(s) 2019. Published by Oxford University Press on behalf of the Society for Research on Nicotine and Tobacco. Nicotine & Tobacco Research, 2020, 1178–1186
doi:10.1093/ntr/ntz151
Original investigation
Received May 19, 2019; Editorial Decision August 12, 2019; Accepted August 15, 2019 Nicotine & Tobacco Research, 2020, 1178–1186
doi:10.1093/ntr/ntz151
Original investigation
Received May 19, 2019; Editorial Decision August 12, 2019; Accepted August 15, 2019 © The Author(s) 2019. Published by Oxford University Press on behalf of the Society for Research on Nicotine and Tobacco. Abstract lower quitting confidence.13 Accepting a referral or accessing spe-
cialist cessation support is associated with having a mental health
problem, when pregnant women with and without mental health
problems were compared,14 and, among postpartum smokers, higher
education.15 However, these cross-sectional studies have only inves-
tigated a relatively narrow range of potential predictors. Identifying
predictors of interest and uptake of a variety of cessation support in
this population will help guide and inform interventions that aim to
increase support engagement. Abstract Background: Limited research exists on interest in and use of smoking cessation support in preg-
nancy and postpartum. Methods: A longitudinal cohort of pregnant smokers and recent ex-smokers were recruited in
Nottinghamshire, United Kingdom (N = 850). Data were collected at 8–26 weeks gestation, 34–36
weeks gestation, and 3 months postpartum and used as three cross-sectional surveys. Interest and
use of cessation support and belief and behavior measures were collected at all waves. Key data
were adjusted for nonresponse and analyzed descriptively, and multiple regression was used to
identify associations. Results: In early and late pregnancy, 44% (95% CI 40% to 48%) and 43% (95% CI 37% to 49%) of
smokers, respectively, were interested in cessation support with 33% (95% CI 27% to 39%) inter-
ested postpartum. In early pregnancy, 43% of smokers reported discussing cessation with a mid-
wife and, in late pregnancy, 27% did so. Over one-third (38%) did not report discussing quitting
with a health professional during pregnancy. Twenty-seven percent of smokers reported using any
National Health Service (NHS) cessation support and 12% accessed NHS Stop Smoking Services
during pregnancy. Lower quitting confidence (self-efficacy), higher confidence in stopping with
support, higher quitting motivation, and higher age were associated with higher interest in sup-
port (ps ≤ .001). A recent quit attempt and greater interest in support was associated with speaking
to a health professional about quitting and use of NHS cessation support (ps ≤ .001). Conclusions: When asked in early or late pregnancy, about half of pregnant smokers were inter-
ested in cessation support, though most did not engage. Cessation support should be offered
throughout pregnancy and after delivery. Implications: There is relatively high interest in cessation support in early and late pregnancy
and postpartum among smokers; however, a much smaller proportion of pregnant or postpartum
women access any cessation support, highlighting a gap between interest and engagement. 1178 1179 Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 Reflecting women’s interest, offers of cessation support should be provided throughout pregnancy
and after delivery. Increasing motivation to quit and confidence in quitting with assistance may
enhance interest in support, and promoting the discussion of stopping smoking between women
and health practitioners may contribute to higher support engagement rates. Participants Women aged 16 years or above, between 8 and 26 weeks pregnant,
and who self-reported being either current smokers (self-reported
occasional smokers or daily smokers) or having smoked in the
3 months prior to becoming pregnant were eligible for participa-
tion. Women who were unable to understand study procedures suffi-
ciently to provide consent or were unable to read or understand the
written questionnaires in English were excluded. A likely important factor in accessing or accepting the offer of ces-
sation support in pregnancy is an individual’s interest in the support
being offered. There have been very few assessments of interest in
cessation support among pregnant smokers and, when undertaken,
this has been only for a limited selection of interventions. An English
cross-sectional study conducted in 2004 found that 60% of preg-
nant smokers interviewed in early pregnancy indicated an interest
in receiving help with stopping, with interest highest for in-person
behavioral support followed closely by self-help materials.9 We are
not aware of any longitudinal studies examining interest in cessation
support over time during pregnancy, nor for a wider selection of
intervention types, though findings have shown that quit attempts
continue throughout pregnancy and postpartum, suggesting interest
may be maintained over time.10 Findings from such work could help
prioritize which type of support to offer and when. For example, in
recent years, self-help has emerged as a promising and low-cost ap-
proach to supporting cessation in pregnancy. Reviews have demon-
strated that self-help11 and digital self-help12 cessation interventions
are effective in pregnancy. Currently, though, we do not know how
pregnant smokers view these types of interventions and how inter-
ested they are in using them. Design Three cross-sectional surveys, taken from a longitudinal cohort of
pregnant and postpartum women (the Pregnancy Lifestyle Survey),
were used for this study.10,16 Data were collected at 8–26 weeks ges-
tation (wave 1), 34–36 weeks gestation (wave 2), and 3 months after
childbirth (wave 3). Introduction Reducing smoking rates in pregnancy remains a global public
health priority.1 While smoking in pregnancy rates have continued
to reduce over the last decade,2 rates remain relatively high in many
European and American nations. The United Kingdom is among the
countries with the highest smoking in pregnancy rates.2 Based on
routinely collected data at the time of delivery in England in 2018,3
recent reductions of smoking in pregnancy rates appears to have
stalled, remaining at 11%. Increased efforts and new approaches
are likely needed in order to reach the English national ambition
of no more than 6% of women smoking in pregnancy by the end
of 2022.4 The primary aim of this study was to assess the interest in, use
of, and attitudes toward smoking cessation support during preg-
nancy and the immediate postpartum period among current or re-
cent ex-smokers. Our secondary aims were to identify predictors of
interest in and use of cessation support during pregnancy and to
identify perceived barriers to using self-help cessation support over
the pregnancy and postpartum period. One key approach to reducing smoking in pregnancy is the
provision of smoking cessation support. Guidance from the UK
National Institute for Health and Care Excellence (NICE) recom-
mends that all pregnant women are carbon monoxide (CO) breath
tested, with all those identified as smokers provided with risk infor-
mation and referred to local National Health Service (NHS) Stop
Smoking Services (SSS) for specialist behavioral support and nico-
tine replacement therapy (NRT) where appropriate.5 This “opt-out”
referral pathway can increase both access rates to the English SSS,
from 11% to 18% in one site,6 and abstinence rates.6,7 Use of other
smoking cessation support among pregnant smokers is largely un-
known. This includes discussions about stopping smoking with
health professionals, the use of the NHS telephone helpline, and
use of NRT outside of the SSS other than in primary care, where
NRT prescription rates around the time of pregnancy are estimated
to be 11%.8 Measures Copies of the questionnaires used at each wave can be found in a
separate publication.10 The questions used in the current study are
described below and used a range of response formats including yes/
no responses, multiple choices, and five-point Likert-type scales for
attitudinal items. Interest, Use, and Attitudes Toward Smoking Cessation Support
At all three waves, participants were asked to rate their interest in
receiving help with stopping smoking in general and their interest in,
difficulty in using, and perceived usefulness of nine different types
of smoking cessation support using a 1–5 scale (“not at all” to “ex-
tremely”). These were split into health practitioner-orientated sup-
port (telephone helpline, group sessions, and one-to-one sessions)
and self-help support (booklet, DVD, web site, text messages, e-mail,
and smartphone/digital device application). Participants were also
asked to indicate whether they had accessed any of the cessation
support offered by the NHS, though not necessarily delivered by the
NHS, since finding out they were pregnant (wave 1) or since com-
pleting the last survey (waves 2 and 3). These included talking to a
General Practitioner (GP)/nurse or midwife about stopping smoking,
attending an NHS Stop Smoking Service group or individual session,
calling a stop smoking helpline, or using NRT (from any source). At baseline only, participants were asked about their access to elec-
tronic/digital devices for using self-help. In all three waves, parti-
cipants were asked to indicate from a list of statements, informed
by prior work,13 any potential barriers toward accessing or using
self-help cessation support. For the exploratory analysis investigating potential correlates of
general interest in cessation support at baseline, discussion of stop-
ping smoking with a health professional at baseline, and use of NHS
cessation support (telephone helpline, group sessions, one-to-one
sessions, or NRT) in late pregnancy, we used linear regression and
logistic regression to test the univariable associations with base-
line characteristics. Interest was measured on a 1–5 scale and use
was coded as a binary “use” or “nonuse” variable. Following this,
all predictors that were associated with interest in or use of cessa-
tion support in the univariable analyses at p < .1 were included in
multivariable models,30 providing they were not found to be col-
linear (variance inflation factor ≥10). Procedure Recruitment to the Pregnancy Lifestyle Survey took place between
August 2011 and August 2012 at two antenatal clinics within
Nottingham University Hospitals NHS Trust (City Hospital and
Queen’s Medical Centre). To ensure representative sampling, re-
searchers attended on average five different clinic sessions per week. All women self-reporting to be between 8 and 26 weeks gestation
attending routine antenatal appointments at these clinics were in-
vited by a researcher or a member of clinic staff to complete an
anonymous screening questionnaire to determine study eligibility. Those who met the criteria were directed to read a participant infor-
mation sheet describing the study and, if willing, to then complete
a baseline questionnaire; women could also seek further informa-
tion from the researcher/staff member. On completion of the baseline
questionnaire, women were offered a £5 high street shopping vou-
cher as recognition for the time taken to complete the questionnaire. Written informed consent was obtained from those who wished to
complete the two follow-up questionnaires, who made up the sample
of the study. Little is also known about which characteristics of pregnant
smokers are associated with interest in or the uptake of cessation
support. Existing studies have shown that interest in cessation coun-
seling among pregnant smokers is associated with being older, having
a lower income, having a significant other who advises quitting, and Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1180 partner’s smoking status, nicotine dependence using the “Heaviness
of Smoking Index,” 26 intentions and determination to quit smoking
and confidence (self-efficacy) in achieving this,27 support for stop-
ping smoking from friends/family, beliefs about the harm of smoking
during pregnancy,27 and whether participant had talked to a health
professional (midwife, nurse, or GP) about quitting. Smoking-related
norm predictors included injunctive norm (“people important to me
think I should stop smoking”) and descriptive norm (knowing others
who smoked throughout pregnancy).28 All participants were posted a second questionnaire at 34–36
weeks gestation. In addition, participants who provided an e-mail
address were e-mailed a link to a web-based version of the ques-
tionnaire and sent one e-mail reminder. Nonrespondents were sent
one postal/e-mail reminder letter and then contacted by telephone;
if no response was received, participants were texted a reminder. Participants who were successfully contacted via telephone were in-
vited to complete the questionnaire during the call. Measures Missing data for the predictor
variables (i.e., not having answered survey questions at either base-
line or late pregnancy follow-up) were addressed through including
missing data as either an additional category for categorical vari-
ables or using a dummy variable to indicate missingness for con-
tinuous variables. As two out of three of the predictor analyses were
cross-sectional and they were part of a secondary aim of the study,
we did not perform multiple imputation for these. Sample Size and Analysis A more detailed description of the procedure for enrollment
and data collection and sample characteristics is provided else-
where.16 The study was approved by Derbyshire Research Ethics
Proportionate Review Sub-Committee (11/EM/0078). Analysis Descriptive statistics were used to report interest in and use of
smoking cessation services as well as attitudes to smoking cessation
support and barriers to self-help use for all three waves. For the preva-
lence estimates of interest in and attitudes toward smoking cessation
support among smokers, responses were dichotomized by grouping
the five possible responses: not at all/a little (no interest) versus mod-
erately/very much/extremely (interest), with the same thresholds for
determining low versus high perceived usefulness and difficulty ac-
cessing/using. Multiple imputation using chained equations was per-
formed using 20 iterations29 for the percentage who were interested
in cessation support at late pregnancy and postpartum. Missing data
on interest in and attitudes toward smoking cessation support was
imputed using a logit imputation method based on the following
baseline factors: maternal age, ethnicity, highest educational quali-
fication, gestation of pregnancy, smoking status, urge to smoke,
general health status, depression status, parity, and smoking status
in previous pregnancy. Predetermined Predictor Variables of Interest and Use of
Cessation Support A broad range of potential demographic and psychosocial predictors
were included based on previous evidence in predicting interest or
uptake in cessation support13–15 and cessation17,18; although relatively
little is known about this, we had no prior hypotheses regarding
potential associations. Background and health predictors included
gestation, general health (general health rating from excellent to
poor and whether they had a long-standing physical or mental
illness or disability),19 depression (during the past month bothered
by feeling down, depressed, or hopeless or having little interest or
pleasure in doing things),20 the Perceived Stress Scale 4 (PSS-4),21
ethnicity, age, and index of multiple deprivation.22 Smoking-related
predictors included general smoking behavior,23,24 urges to smoke,25 Procedure Participants were sent the final questionnaire 3 months after their
delivery using the same method as described above for follow-up in
later pregnancy. All participants who completed follow-up question-
naires were sent a £5 shopping voucher for each follow-up. Sample Size and Analysis
The sample size calculation for the cohort survey was based on
estimating the number of quit attempts initiated during pregnancy
among smokers and is reported elsewhere.16 Factors Associated With Discussing Stopping Smoking With a
Health Professional Among Smokers in Early Pregnancy Factors Associated With Discussing Stopping Smoking With a
Health Professional Among Smokers in Early Pregnancy One-third reported that the current pregnancy was their first and,
among those who had been pregnant before, around two-thirds
smoked during their last pregnancy. Fifty-seven percent reported
being current smokers and, among these, over half had a partner
who smoked. Almost all respondents owned a mobile phone (97%)
and 71% percent owned a smartphone. Ten out of 23 prespecified baseline variables were univariable
correlates (p < .05) of whether or not smokers reported having had a
discussion with a health professional (midwife, nurse, or GP) about
quitting smoking in early pregnancy (Supplementary Table S1). Of
these, two remained statistically significant in the multivariable ana-
lysis: having previously tried to quit during the current pregnancy
(odds ratio [OR] 3.0, 95% CI 2.0 to 4.6) and interest in support (OR
5.4, 95% CI 3.6 to 8.2). Predictors of use of NHS cessation support among smokers by
late pregnancy Nine baseline variables were associated with use of NHS-provided
cessation support by late pregnancy (p < .05) among baseline
smokers (Table 4). Three variables remained statistically significant
in the multivariable model: having previously tried to quit during
the current pregnancy (OR 2.7, 95% CI 1.3 to 5.5), older age (OR
1.1, 95% CI 1.0 to 1.1), and interest in support (OR 1.8 95% CI
1.4 to 2.3). Interest and Use of Cessation Support and Perceived
Barriers to Accessing Self-Help At baseline, during early pregnancy, 44% (95% CI 40% to 48%)
of current smokers (Table 2) and 9% (95% CI 6% to 12%) of re-
cent ex-smokers (not shown in table) reported being interested in
receiving help with stopping smoking. Among smokers, the spe-
cific support types rated of most interest were one-to-one sessions
(42%), followed by self-help booklets (39%). Imputed survey results
showed that interest in support to stop smoking, among smokers,
changed little in late pregnancy (43%; 95% CI 37% to 49%) rela-
tive to early pregnancy but dropped to 33% (95% CI 27% to 39%)
3 months postpartum. Self-help booklets were of most interest (49%)
followed by self-help web sites (45%) in late pregnancy. Across all
timepoints, one-to-one sessions had the highest perceived usefulness
and self-help support had the lowest levels of perceived difficulty to
access and use. Results At the late pregnancy and postpartum follow-ups, 509 (60%) and
476 (56%) of baseline participants completed a questionnaire re-
spectively. Table 1 presents the baseline sample characteristics
(N = 850), full details of which are reported elsewhere.16 On average,
participants were 26 years old and 16 weeks gestation at baseline. Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1181 Table 1. Characteristics of the cohort (N = 850) Table 1. Characteristics of the cohort (N = 850)
Characteristic
Mean (SD)
Gestation (weeks) (n = 806)
15.6 (4.1)
Age (n = 847)
25.8 (5.6)
Perceived stress scale (PSS-4) (n = 819)
10.6 (3.5)*
n (%)**
Qualifications: GCSEs or similar***
594/850 (69.9)
Home ownership
166/846 (19.6)
Cars or vans available for use in household
446/839 (53.2)
In paid work
383/850 (45.1)
Ethnicity: Caucasian
783/844 (92.8)
Baseline smoker
488/850 (57.4)
First pregnancy
275/839 (32.8)
If pregnant before, smoked during last pregnancy
368/561 (65.6)
Owns a mobile phone
776/797 (97.4)
Owns a smartphone
547/774 (70.7)
Mobile phone bundle includes free text messages
610/778 (78.4) common type of support used was NRT without additional behav-
ioral support (Table 3). In early pregnancy, the most common barriers for using self-help
cessation support was preferring to receive support from a health
professional (19% smokers, 6% recent ex-smokers) and thinking
self-help would not be of much help with quitting (14% smokers,
7% recent ex-smokers). These remained the two most common bar-
riers at the two follow-up timepoints. Factors Associated With Interest in Cessation Support Among
Smokers in Early Pregnancy Among smokers, 11 out of 23 prespecified variables were univariable
correlates of interest in receiving cessation support in general at base-
line (p < .05; Table 4). When these were entered into a multivariable
model, the following five predictors remained statistically significant:
higher determination to quit (B = 0.42, 95% CI 0.31 to 0.54), lower
confidence in stopping until the end of pregnancy (B = −0.23, 95%
CI −0.35 to −0.12), higher confidence in stopping with health profes-
sional support (B = 0.22, 95% CI 0.11 to 0.33), having spoken to a
health professional about stopping (B = 0.77, 95% CI 0.55 to 0.98),
and higher age (B = 0.03, 95% CI 0.01 to 0.05). *Maximum score on PSS-4 is 16. **Numbers may not add up to 850 (total sample size) due to missing data. ***General Certificate of Secondary Education (GCSE) is a qualification/exam
taken by school students in the United Kingdom (except Scotland) usually
when aged between 14 and 16 years old. Discussion This study found that a substantial minority of pregnant smokers are
interested in getting smoking cessation support and that this level of
interest is as high at the end of pregnancy and drops only a modest
amount by 3 months postpartum. While there is relatively high
interest in cessation support, a much smaller proportion of women
accessed any cessation support in pregnancy, highlighting a gap be-
tween interest and engagement. Our study indicates that speaking to
a health care professional about stopping smoking, being motivated
to stop, and having low confidence in doing so without assistance
could influence interest in NHS-provided cessation support. Interest
in support, in turn, prospectively predicted use of NHS cessation
support. However, women who had not tried to quit early on in
their pregnancy were less likely to have used support later on in
pregnancy compared with those who had tried to quit, independent
of quitting motivation and interest in support. This suggests that the In early pregnancy, less than half of smokers (43%) reported
having talked to a midwife about stopping smoking and fewer had
spoken to a GP or nurse (27%) about this (Table 3). Between early
and late pregnancy, 27% of smokers reported speaking to a mid-
wife about stopping. Across the whole of pregnancy, over one-third
(38%) of smokers did not report having talked with either a mid-
wife, GP, or nurse about stopping smoking (not shown in table). Out of those participants who smoked at all during pregnancy,
12% reported accessing Stop Smoking Service support (group or
one-to-one support) at some point in their pregnancy (not shown in
table). Across the whole of pregnancy 17% of participants reported
accessing at least one form of NHS-provided cessation support,
which rose to 27% when restricted to those reporting smoking at
both baseline and end of pregnancy (not shown in table). The most Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1182 Table 2. Discussion Interest in and attitudes toward smoking cessation support among smokers (N = 488)
Type of support*
Early pregnancy (8–26 weeks gestation) Late pregnancy (34–36 weeks gestation)** Postpartum (3 months)**
n (%, 95% CI)
% (95% CI)
% (95% CI)
Interest in receiving help with stopping
212 (44.0, 39.5 to 48.4)
42.8 (37.0 to 48.6)
32.9 (26.9 to 38.8)
Health professional telephone helpline
Interest
92 (20.5)
25.2
21.8
Perceived usefulness
112 (24.7)
24.6
25.5
Difficulty accessing/using
153 (34.3)
30.9
31.9
Health professional group sessions
Interest
62 (14.1)
14.9
12.2
Perceived usefulness
128 (28.3)
28.0
24.9
Difficulty accessing/using
179 (40.3)
39.5
43.0
Health professional one-to-one
Interest
190 (41.7)
43.9
38.1
Perceived usefulness
225 (49.2)
49.8
48.3
Difficulty accessing/using
155 (34.9)
33.0
34.0
Self-help booklet
Interest
177 (39.3)
48.9
39.3
Perceived usefulness
182 (40.1)
46.0
36.6
Difficulty accessing/using
135 (30.1)
21.5
20.3
Self-help DVD
Interest
154 (34.8)
37.9
29.0
Perceived usefulness
163 (36.1)
39.8
29.8
Difficulty accessing/using
130 (29.3)
20.5
24.8
Self-help web site
Interest
148 (33.9)
44.7
37.0
Perceived usefulness
160 (35.5)
42.2
32.1
Difficulty accessing/using
132 (30.1)
24.2
27.7
Self-help text messages
Interest
133 (30.5)
40.5
30.4
Perceived usefulness
138 (30.5)
40.2
30.3
Difficulty accessing/using
128 (28.8)
23.1
22.6
Self-help emails
Interest
112 (25.7)
32.8
24.2
Perceived usefulness
124 (27.5)
32.2
24.7
Difficulty accessing/using
138 (31.0)
25.8
24.3
Self-help phone app
Interest
146 (33.2)
40.2
36.3
Perceived usefulness
159 (35.3)
43.3
37.0
Difficulty accessing/using
136 (30.7)
25.4
22.7
*Responses were dichotomized by grouping the five possible responses: not at all/a little (no interest) versus moderately/very much/extremely (interest). The same Interest in and attitudes toward smoking cessation support among smokers (N = 488) process of trying and failing to quit may be helpful for some by
prompting them to seek assistance. the impact of this by performing multiple imputation for key
variables, this is a limitation. A further limitation is that we did
not collect data during the second trimester of participant’s preg-
nancies, and so there may have been fluctuations in variables of
interest that we were unable to capture. Also, we did not collect
data on views and use of e-cigarettes in this survey as, when the
survey was carried out, e-cigarette usage was still relatively low. Discussion We have now undertaken research to explore this in pregnancy
in several separate recent studies.31,32 Similarly, the use of smart-
phone apps were somewhat lower when the study was undertaken
compared to current usage, and interest in this may have grown
in recent years. While our analysis investigating predictors of use
of support was prospective, the correlates of interest in cessation
support and discussion about stopping smoking analyses were
cross-sectional and so we are limited in our ability to indicate pos-
sible directions of causality. the impact of this by performing multiple imputation for key
variables, this is a limitation. A further limitation is that we did
not collect data during the second trimester of participant’s preg-
nancies, and so there may have been fluctuations in variables of
interest that we were unable to capture. Also, we did not collect
data on views and use of e-cigarettes in this survey as, when the
survey was carried out, e-cigarette usage was still relatively low. We have now undertaken research to explore this in pregnancy
in several separate recent studies.31,32 Similarly, the use of smart-
phone apps were somewhat lower when the study was undertaken
compared to current usage, and interest in this may have grown
in recent years. While our analysis investigating predictors of use
of support was prospective, the correlates of interest in cessation
support and discussion about stopping smoking analyses were
cross-sectional and so we are limited in our ability to indicate pos-
sible directions of causality. Implications for Practice One key implication is that, based on findings related to interest
levels, the offer of cessation support should be provided throughout
pregnancy and postpartum. In the United Kingdom at least, cur-
rently policy relating to the offer of cessation support is weighted
toward early pregnancy, even if strictly following NICE guidance.5
This is reflected by our findings, where we found far fewer smokers
reporting a discussion with a health professional about stopping
smoking in mid-to-late pregnancy compared with early pregnancy. This matches other research showing that less than one quarter of
health professionals follow up women after an initial discussion
about smoking,14,44 which can inadvertently reassure women that
quitting smoking may not be a priority.46 Despite relatively high rates of interest in one-to-one cessation
support among baseline smokers (42%), only a small proportion
(12%) of our cohort who smoked at all during pregnancy reported
using the NHS Stop Smoking Services. This very closely matches the
11% access rate identified from NHS records in another study in
the same region, prior to implementation of an opt-out pathway.6
Low rates of access to specialist cessation support among pregnant
smokers has been reported historically33,34 and can be increased using
an opt-out referral pathway,6,7, which also increases abstinence. The
most common type of cessation support used by women in our co-
hort that the NHS provides was NRT. This is despite safety concerns
and reluctance to recommend NRT among many practitioners.35,36
However, use of NRT without guidance or behavioral support is
unlikely to be effective in pregnancy as even with guidance and sup-
port it is only of borderline efficacy37 and use of over-the-counter
NRT is not associated with abstinence in the general population.38
Suboptimal adherence39,40 and increased nicotine metabolism41 indi-
cate that higher doses of NRT combined with adherence support is
likely required to make NRT more effective in pregnancy. To promote interest in cessation support, which was predictive
of accessing support, our findings suggest that increasing motiv-
ation to stop smoking, ensuring health professionals discuss stop-
ping smoking, and enhancing women’s confidence that their chances
of stopping smoking are higher if they receive professional support
are important targets for interventions. Findings in Context with a health professional’s help and support interest, which had not
been examined before. Prior international research has found that
while most practitioners working with pregnant women ask about
smoking status,42,43 far fewer discuss cessation and only around
one-third discuss treatment options.42–44 Our findings broadly sup-
port this from the U.K. pregnant women’s perspective – fewer than
two-thirds of smokers in our sample reported discussing stopping
smoking with a practitioner. U.K. research undertaken over the last
two decades report similar findings suggesting that little has changed
in this regard.13,45 Our finding that just under half of pregnant smokers were interested
in receiving cessation support in early pregnancy corresponds closely
with Ussher et al.9 who found in 2004 that 60% of women were
interested in cessation support in early pregnancy. As with this prior
study, our data also showed similar interest levels between self-help
and one-to-one cessation support, with low interest in group support. However, in our study, the point estimates for difficulty accessing
one-to-one support were higher across all waves than the self-help
options, suggesting perceived access could inhibit uptake, particu-
larly in late pregnancy. No studies have previously explored the rela-
tive interest in different types of self-help among pregnant women. Booklets were of most interest across all waves and with mostly the
highest perceived usefulness compared to other estimates for self-help
types. Though there were only minor differences between the self-help
types, e-mail appeared to be of least interest and perceived usefulness. Strengths and Limitations Reported use of National Health Service (NHS) provided smoking cessation support split by smoking status
Early pregnancy
Early–late pregnancy**
Postpartum use of National Health Service (NHS) provided smoking cessation support split by smoking status *Noncumulative support usage. Rates in each time period do not include usage in earlier time period and represent what was reported in each questionnaire. **Period between the early pregnancy questionnaire and the late questionnaire. Includes 10 women who had given birth prior to completing the 34-week
questionnaire Strengths and Limitations We believe this was the first longitudinal cohort study looking at
smoking cessation support interest and use over pregnancy and
into the postpartum period. We examined women’s views and use
of a broad range of support types, across the three timepoints in a
large cohort. Although participants were recruited from one area,
the sample as a whole demonstrated similar characteristics to preg-
nant smokers in national cohort studies16 and so key findings may
be generalizable to pregnant smokers across the United Kingdom. Furthermore, very few prior studies have examined a wide range of
potential predictors of interest and use of cessation support. Common to many cohort studies, we experienced moderate at-
trition at follow-ups. Although not excessive and we minimized Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1183 Table 3. Reported use of National Health Service (NHS) provided smoking cessation support split by smoking status
Type of support*
Early pregnancy
Early–late pregnancy**
Postpartum
Recent
ex-smoker
(N = 362)
Smoker
(N = 488)
Recent
ex-smoker
(N = 265)***
Smoker
(N = 256)***
Recent
ex-smoker
(N = 196)
Smoker
(N = 280)
n (%)
n (%)
n (%)
n (%)
n (%)
n (%)
Talked to GP/Nurse about giving up
22 (6.1)
132 (27.0)
3 (1.1)
28 (10.9)
3 (1.5)
36 (12.9)
Talked to midwife about giving up
36 (9.9)
211 (43.2)
16 (6.0)
68 (26.6)
3 (1.5)
24 (8.6)
Accessed/used any NHS smoking cessation
support
29 (8.0)
90 (18.4)
21 (7.9)
66 (25.8)
6 (3.1)
38 (13.6)
Attended NHS stop smoking service group
session
3 (0.8)
21 (4.3)
1 (0.4)
10 (3.9)
0 (0.0)
5 (1.8)
Attended solo/individual NHS stop smoking
service session
10 (2.8)
25 (5.1)
15 (5.7)
23 (9.0)
1 (0.5)
7 (2.5)
Called a stop smoking telephone helpline
5 (1.4)
18 (3.7)
3 (1.1)
7 (2.7)
0 (0.0)
5 (1.8)
Used nicotine replacement therapy
25 (6.9)
64 (13.1)
16 (6.0)
57 (22.3)
6 (3.1)
31 (11.1)
*Noncumulative support usage. Rates in each time period do not include usage in earlier time period and represent what was reported in each questionnaire. **Period between the early pregnancy questionnaire and the late questionnaire. Includes 10 women who had given birth prior to completing the 34-week
questionnaire Table 3. Implications for Practice Practitioners often do not
initiate discussions about quitting smoking with pregnant clients
because of low levels of confidence, feelings of being underskilled,
and concern about damaging the client relationship.35 The use of
carbon monoxide monitoring may help with facilitating a discus-
sion about stopping smoking, from both the perspective of prac-
titioners35,47 and pregnant women,48 and enhance motivation to
quit. When combined with an opt-out referral, it can increase the
uptake of support.6,7 Training health practitioners can also increase In line with a further study,13 we found higher age and lower
quitting self-efficacy associated with interest in receiving support. We also found a positive association between confidence in quitting 1184 Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 Table 4. None declared. None declared. 17. Riaz M, Lewis S, Naughton F, Ussher M. Predictors of smoking cessa-
tion during pregnancy: a systematic review and meta-analysis. Addiction. 2018;113(4):610–622. Conclusion Almost half of pregnant smokers in our cohort were interested in help
to stop smoking and this changed little from early to late pregnancy. Yet rates of discussing stopping smoking with a health professional
reduced after early pregnancy and a substantial minority of pregnant
smokers did not report having a discussion with a health profes-
sional about stopping at any point in pregnancy. With one-quarter
of smokers accessing any NHS-provided support and less than half
of these accessing stop smoking services, the gap between support
interest and access indicates a missed opportunity. Our findings in-
dicate that increasing motivation to quit, enhancing interest in sup-
port, the discussion of stopping smoking with health practitioners,
and confidence in quitting with cessation support may contribute to
higher support use rates. In addition, nonroutine forms of cessation
support, including self-help, should be promoted given evidence of
effectiveness, low cost, and their popularity among this population. 8. Dhalwani NN, Szatkowski L, Coleman T, Fiaschi L, Tata LJ. Prescribing
of nicotine replacement therapy in and around pregnancy: a population-
based study using primary care data. Br J Gen Pract. 2014;64(626):e554–
560. doi: 10.3399/bjgp14X681361. 9. Ussher M, West R, Hibbs N. A survey of pregnant smokers’ interest
in different types of smoking cessation support. Patient Educ Couns. 2004;54(1):67–72. 10. Cooper S, Orton S, Leonardi-Bee J, et al. Smoking and quit attempts
during pregnancy and postpartum: a longitudinal UK cohort. BMJ Open. 2017;7(11):e018746. 11. Naughton F, Prevost AT, Sutton S. Self-help smoking cessation interven-
tions in pregnancy: a systematic review and meta-analysis. Addiction. 2008;103(4):566–579. 12. Griffiths SE, Parsons J, Naughton F, Fulton EA, Tombor I, Brown KE. Are
digital interventions for smoking cessation in pregnancy effective? A sys-
tematic review and meta-analysis. Health Psychol Rev. 2018;12(4):333–
356. doi: 10.1080/17437199.2018.1488602. Implications for Practice 22, No. 7 1185 the assessment of smoking and support provision49, and the use of
prompts in maternity paperwork and electronic systems may also
facilitate appropriate discussions.35 In terms of factors influencing
uptake of support, being younger was associated with a reduced like-
lihood of using practitioner-orientated cessation support. This sug-
gests a potential targeting opportunity. Supplementary Material 13. Ussher M, Etter JF, West R. Perceived barriers to and benefits of at-
tending a stop smoking course during pregnancy. Patient Educ Couns. 2006;61(3):467–472. Supplementary data are available at Nicotine and Tobacco Research online. 14. Howard LM, Bekele D, Rowe M, Demilew J, Bewley S, Marteau TM. Smoking cessation in pregnant women with mental disorders: a cohort
and nested qualitative study. BJOG. 2013;120(3):362–370. References 1. Ussher M, Naughton F, Notley C, Bauld L. Smoking and pregnancy: risk
factors, women’s experiences, and interventions. In: Ussher J, Chrisler J,
Perz J, eds. Routledge International Handbook of Women’s Sexual and
Reproductive Health. London, UK: Routledge; 2019. 2. Lange S, Probst C, Rehm J, Popova S. National, regional, and global preva-
lence of smoking during pregnancy in the general population: a systematic
review and meta-analysis. Lancet Glob Health. 2018;6(7):e769-e776. doi:
10.1016/S2214-109X(18)30223–7. Our findings also reinforce previous research9 by highlighting the
popularity of self-help cessation support. Current UK guidance only
recommends promoting self-help to those who accept the offer of
formal cessation support but who are struggling to engage.5 This
may be a missed opportunity, given recent evidence of effectiveness
of digital self-help approaches for pregnant smokers,12 particularly
when delivered by SMS text message.27,50 3. Health and Social Care Information Centre. Statistics on Women’s
Smoking Status at Time of Delivery, England—2017–18. 2018; http://con-
tent.digital.nhs.uk/catalogue/PUB20899/stat-wome-smok-time-deli-eng-
q4-15-16-rep.pdf. Accessed May 26, 2018. 4. Department of Health and Social Care. Tobacco Control Delivery Plan
2017–2022. London, UK: Department of Health and Social Care; 2018. 4. Department of Health and Social Care. Tobacco Control Delivery Plan
2017–2022. London, UK: Department of Health and Social Care; 2018. One less prominent but nonetheless important finding was that
some of the most predictive factors in determining smoking and a
failure to quit smoking in pregnancy, that is, socioeconomic status/de-
privation, nicotine dependence, and having a partner that smokes,17
did not predict interest in or use of support in our cohort. From a
public health perspective, this is positive and suggests these factors
may not inhibit the seeking of and acceptance of cessation support. 5. National Institute for Health and Care Excellence. Quitting Smoking in
Pregnancy and Following Childbirth. NICE Public Health Guidance 26. London, UK: National Institute for Health and Care Excellence; 2010. 6. Campbell KA, Cooper S, Fahy SJ, et al. “Opt-out” referrals after identifying
pregnant smokers using exhaled air carbon monoxide: impact on engage-
ment with smoking cessation support. Tob Control. 2017;26(3):300–306. doi: 10.1136/tobaccocontrol-2015–052662. 7. Bell R, Glinianaia SV, Waal ZV, et al. Evaluation of a complex healthcare
intervention to increase smoking cessation in pregnant women: inter-
rupted time series analysis with economic evaluation. Tob Control. 2018;27(1):90–98. Implications for Practice Univariable and multivariable models for correlates/predictors among smokers of (1) general interest in cessation support at baseline and (2) use of National Health Service
cessation support in late pregnancy
Baseline variables
Dependent variable: interest in cessation support at baseline
(N = 482)
Dependent variable: use of cessation support in late pregnancy
(N = 263)
Univariable model
Multivariable model
Univariable model
Multivariable model
Beta
p
95% CI
Beta
p
95% CI
OR
p
95% CI
OR
p
95% CI
Smoked in a prior pregnancy
−0.126
.336
−0.38, 0.13
0.89
.690
0.51, 1.56
Heaviness of Smoking Index
0.039
.396
−0.05, 0.13
1.08
.486
0.87, 1.34
Urges to smoke
0.009
.791
−0.06, 0.07
1.00
.972
0.88, 1.15
Has tried to quit (y/n)
0.716
<.001
0.47, 0.96
3.03
.001
1.60, 5.73
2.70
.006
1.34, 5.46
Number of 24-h quit attempts
−0.022
.036
−0.04, 0.00
0.97
.465
0.89, 1.06
Seriously planning to quit
0.491
<.001
0.40, 0.58
1.65
<.001
1.30, 2.08
Determination to stop till baby born
0.507
<.001
0.42, 0.59
0.423
<.001
0.31, 0.54
1.71
<.001
1.32, 2.20
Confidence to stop till baby born
0.217
<001
0.12, 0.31
−0.231
<.001
−0.35, −0.12
1.24
.049
1.00, 1.54
Confidence to stop alone
0.026
.596
−0.07, 0.12
0.89
.339
0.71, 1.13
Confidence to stop with health professional help
0.425
<.001
0.33, 0.52
0.216
<.001
0.11, 0.33
1.36
.008
1.08, 1.70
Beliefs on harms of smoking to baby
0.774
<.001
0.43, 1.11
3.05
.026
1.14, 8.11
Knows others who smoked in pregnancy
−0.035
.863
−0.43, 0.36
1.40
.484
0.54, 3.61
People important to me think I should stop
0.605
<.001
0.33, 0.88
1.69
.132
0.85, 3.33
Has support to stop
0.304
.025
0.04, 0.57
1.73
.104
0.89, 3.36
Partner smokes
0.041
.760
−0.22, 0.30
0.90
.729
0.50, 1.62
Spoken to health professional about stopping
1.212
<.001
0.99, 1.43
0.765
<.001
0.55, 0.98
3.29
<.001
1.80, 6.01
General health
−0.206
.244
−0.55, 0.14
1.67
.283
0.66, 4.24
Depression
0.169
.276
−0.14, 0.47
0.94
.877
0.46, 1.95
Perceived Stress Scale
0.008
.706
−0.04, 0.05
0.99
.871
0.90, 1.10
Gestation (weeks)
−0.022
.152
−0.05, 0.01
0.97
.386
0.91, 1.04
Ethnic minority
−0.143
.609
−0.69, 0.41
0.76
.640
0.24, 2.39
Age
0.032
.006
0.01, 0.05
0.030
.001
0.01, 0.05
1.09
.001
1.03, 1.14
1.08
.006
1.02, 1.15
Deprivation (Index of Multiple Deprivation)
−0.004
.274
−0.01, 0.00
1.00
.638
0.98, 1.01
Interest in support at baseline
—
—
—
—
—
—
1.91
<.001
1.53, 2.37
1.80
<.001
1.43, 2.27 Downloaded from https://academic.oup.com/ntr/article-abstract/22/7/1178/5553845 by guest on 23 June 2020 Nicotine & Tobacco Research, 2020, Vol. Funding This article presents independent research funded by the National Institute for
Health Research (NIHR) under the Programme Grants for Applied Research
programme RP-PG-0109-10020. The views expressed in this publication are
those of the authors and not necessarily those of the NIHR or the Department
of Health and Social Care. 15. Röske K, Hannöver W, Kelbsch J, Thyrian JR, John U, Hapke U. The
readiness of women, after they have given birth to children, to participate
in individualized counselling for smoking cessation. Gesundheitswesen. 2004;66(10):697–702. 16. Orton S, Bowker K, Cooper S, et al. Longitudinal cohort survey of
women’s smoking behaviour and attitudes in pregnancy: study methods
and baseline data. BMJ Open. 2014;4(5):e004915. Acknowledgments Downloaded from https://academic.oup.com/ntr/article-abstract/22/7/1178/5553845 by guest on 23 June 2020 26. Heatherton TF, Kozlowski LT, Frecker RC, Rickert W, Robinson J. Measuring the heaviness of smoking: using self-reported time to the first
cigarette of the day and number of cigarettes smoked per day. Br J Addict. 1989;84(7):791–799. 41. Dempsey D, Jacob P III, Benowitz NL. Accelerated metabolism of
nicotine and cotinine in pregnant smokers. J Pharmacol Exp Ther. 2002;301(2):594–598. doi: 10.1124/jpet.301.2.594. 42. Jordan TR, Dake JR, Price JH. Best practices for smoking cessation in
pregnancy: do obstetrician/gynecologists use them in practice? J Womens
Health (Larchmt). 2006;15(4):400–441. 27. Naughton F, Prevost AT, Gilbert H, Sutton S. Randomized controlled trial
evaluation of a tailored leaflet and SMS text message self-help intervention
for pregnant smokers (MiQuit). Nicotine Tob Res. 2012;14(5):569–577. 43. Okoli CTC, Greaves L, Bottorff JL, Marcellus LM. Health care pro-
viders’ engagement in smoking cessation with pregnant smokers. J Obstet
Gynecol Neonatal Nurs. 2010;39(1):64–77. 28. Ajzen I, Fishbein M. The Influence of attitudes on behaviour. In:
Albarracin D, Johnson BT, Zanna MP, eds. The Handbook of Attitudes. Mahwah, NJ: Lawrence Erlbaum Associates Publishers; 2005:173–221. 44. Abatemarco DJ, Steinberg MB, Delnevo CD. Midwives’ knowledge, per-
ceptions, beliefs, and practice supports regarding tobacco dependence
treatment. J Midwifery Womens Health. 2007;52(5):451–457. 29. Royston P, White IR. Multiple imputation by chained equations (MICE):
implementation in Stata. J Stat Softw. 2011;45(4):1–20. doi: 10.18637/jss. v045.i04. 45. Owen L, Penn G. Smoking and Pregnancy: A Survey of Knowledge, Attitudes
and Behaviour 1992–1999. London, UK: Health Education Authority; 1999. 30. Bursac Z, Gauss CH, Williams DK, Hosmer DW. Purposeful selection of
variables in logistic regression. Source Code Biol Med. 2008;3:17. doi:
10.1186/1751-0473-3-17. 46. Naughton F, Eborall H, Sutton S. Dissonance and disengagement in preg-
nant smokers: a qualitative study. J Smoking Cessation. 2013;8(1):24–32. doi: 10.1017/jsc.2013.4. 31. Bowker K, Orton S, Cooper S, et al. Views on and experiences of electronic
cigarettes: a qualitative study of women who are pregnant or have recently
given birth. BMC Pregnancy Childbirth. 2018;18(1):233. 47. Campbell KA, Bowker KA, Naughton F, Sloan M, Cooper S, Coleman T. Antenatal clinic and stop smoking services staff views on “Opt-Out” re-
ferrals for smoking cessation in pregnancy: a framework analysis. Int J
Environ Res Public Health. 2016;13(10). doi: 10.3390/ijerph13101004. 32. Cooper S, Orton S, Campbell KA, et al. Attitudes to e-cigarettes and ces-
sation support for pregnant women from English stop smoking services:
A mixed methods study. Acknowledgments 18. Orton S, Coleman T, Coleman-Haynes T, Ussher M. Predictors of
postpartum return to smoking: a systematic review. Nicotine Tob Res. 2018;20(6):665–673. The authors would like to thank Nottingham University Hospital NHS Trust
for facilitating this research. We also thank Rachel Whitemore for invaluable
assistance in setting up this research. Tim Coleman acknowledges the sup-
port of the East Midlands Collaboration for Leadership in Applied Health
Research and Care (CLARHC). Prof. Coleman is an NIHR Senior Investigator. 19. National Centre for Longitudinal Studies. Millennium Cohort Study, First
Survey: CAPI Questionnaire Documentation. London, UK: Centre for
Longitudinal Studies; 2003. Nicotine & Tobacco Research, 2020, Vol. 22, No. 7 1186 20. National Institute for Health and Care Excellence. Antenatal and Postnatal
Mental Health: Clinical Management and Service Guidance. London, UK:
National Institute for Health and Care Excellence; 2007. 36. Flemming K, Graham H, McCaughan D, Angus K, Sinclair L, Bauld L. Health professionals’ perceptions of the barriers and facilitators to pro-
viding smoking cessation advice to women in pregnancy and during the
post-partum period: a systematic review of qualitative research. BMC
Public Health. 2016;16:290. doi: 10.1186/s12889-016-2961-9. 21. Cohen S, Williamson GM. Perceived stress in a probability sample of the
United States. Soc Psychol Health. 1988;1:31–67. 22. Noble M, McLennan D, Wilkinson K, et al. The English Indices of
Deprivation 2007. London, UK: Whetherby; 2007. 37. Coleman T, Chamberlain C, Davey MA, Cooper SE, Leonardi-Bee J. Pharmacological interventions for promoting smoking cessation during
pregnancy. Cochrane Database Syst Rev. 2015;12:CD010078. doi:
10.1002/14651858.CD010078.pub2. 23. Coleman T, Thornton J, Britton J, et al. Protocol for the smoking, nico-
tine and pregnancy (SNAP) trial: double-blind, placebo-randomised, con-
trolled trial of nicotine replacement therapy in pregnancy. BMC Health
Serv Res. 2007;7:2. doi: 10.1186/1472-6963-7-2. 38. Kotz D, Fidler J, West R. Factors associated with the use of aids to cessa-
tion in English smokers. Addiction. 2009;104(8):1403–1410. 24. Mullen PD, Carbonari JP, Tabak ER, Glenday MC. Improving dis-
closure of smoking by pregnant women. Am J Obstet Gynecol. 1991;165(2):409–413. 39. Fish LJ, Peterson BL, Namenek Brouwer RJ, et al. Adherence to nico-
tine replacement therapy among pregnant smokers. Nicotine Tob Res. 2009;11(5):514–518. doi: 10.1093/ntr/ntp032. 25. West R, Hajek P. Evaluation of the mood and physical symptoms scale
(MPSS) to assess cigarette withdrawal. Psychopharmacology (Berl). 2004;177(1–2):195–199. 40. Coleman T, Cooper S, Thornton JG, et al. A randomized trial of
nicotine-replacement therapy patches in pregnancy. N Engl J Med. 2012;366(9):808–818. doi: 10.1056/NEJMoa1109582. Acknowledgments Int J Environ Res Public Health. 2019;16(1). doi:
10.3390/ijerph16010110. 48. Sloan M, Campbell KA, Bowker K, et al. Pregnant women’s experiences and
views on an “Opt-Out” referral pathway to specialist smoking cessation
support: a qualitative evaluation. Nicotine Tob Res. 2016;18(5):900–905. 33. Taylor T, Hajek P. Smoking Cessation Services for Pregnant Women. London, UK: Health Development Agency; 2001. 49. Althabe F, Aleman A, Berrueta M, et al. A multifaceted strategy to im-
plement brief smoking cessation counseling during antenatal care in
Argentina and Uruguay: a cluster randomized trial. Nicotine Tob Res. 2016;18(5):1083–1092. doi: 10.1093/ntr/ntv276. 34. Klerman LV, Spivey C, Raykovich KT. Smoking reduction activities in a
federal program to reduce infant mortality among high risk women. Tob
Control. 2000;9 (suppl 3):III51–55. doi: 10.1136/tc.9.suppl_3.iii51. 50. Naughton F, Cooper S, Foster K, et al. Large multi-centre pilot random-
ized controlled trial testing a low-cost, tailored, self-help smoking cessa-
tion text message intervention for pregnant smokers (MiQuit). Addiction. 2017;112(7):1238–1249. doi: 10.1111/add.13802. 35. Naughton F, Hopewell S, Sinclair L, McCaughan D, McKell J, Bauld L. Barriers and facilitators to smoking cessation in pregnancy and in the
post-partum period: the health care professionals’ perspective. Br J Health
Psychol. 2018;23(3):741–757.
|
https://openalex.org/W4389032867
|
http://e-journal.stmik-bnj.ac.id/index.php/jb/article/download/92/91
|
Indonesian
| null |
Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah
|
Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
| 2,023
|
cc-by
| 3,985
|
Abstract The role of the Lecturer is very important where the main task is to transform, develop and disseminate science,
technology and art through education, research and community service. STMIK Bina Nusantara Jaya
Lubuklinggau is one of the tertiary institutions in Lubuklinggau which has 1 Study Program (Information System),
the number of courses and powerful lecturers makes the Chair of the Study Program (Kaprodi) determine the
Effective Lecturer for each subject is still not optimal, there are still lecturers which are not in accordance with
the qualifications for the subject being taught. So far, in determining the lecturers for the course, they have only
looked at the results of the recapitulation of the lecture gems questionnaire obtained in the form of Index
Interpretation (Quite Good, Good and Very Good). Teaching, Evaluation along with Lecturers and Lectures). Therefore the authors conducted research in determining the effective lecturers for the course not only looking at
the results of the recapitulation of the questionnaires distributed to students, there were other criteria, for example
Lecturer Status, Education, Competence, Years of Service and Absence. The purpose of this research is to
determine the course lecturers who are very helpful to the Head of Study Program. The author uses the MOORA
method for the process of determining and later testing results can help the performance of the Head of Study
Program in determining recommendations for lecturers for courses according to the established criteria. Keywords: Decision Support System, Lecturer, Course, MOORA Keywords: Decision Support System, Lecturer, Course, MOORA Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu
Mata Kuliah
Assessment Analysis Using MOORA in Determining Lecturers for Courses Ahmadi1), Hengki Juliansa2)
1Program Studi Sistem Informasi, STMIK Bina Nusantara Jaya Lubuklinggau
2Program Studi Teknik Informatika, Politeknik Sekayu
1Jl. Yos Sudarso No. 97 A Kel. Jawa Kanan Kota Lubuklinggau, Sumatera Selatan
Telp : 0733-322307
2 Jalan Bupati Oesman Bakar LK. I Kel. Kayuara Kec. Sekayu, Sumatera Selatan 30711
E-mail : ahmadi.bnj@gmail.com1), hengki.juliansa@gmail.com2) Ahmadi1), Hengki Juliansa2)
1Program Studi Sistem Informasi, STMIK Bina Nusantara Jaya Lubuklinggau
2Program Studi Teknik Informatika, Politeknik Sekayu
1Jl. Yos Sudarso No. 97 A Kel. Jawa Kanan Kota Lubuklinggau, Sumatera Selatan
Telp : 0733-322307 Ahmadi1), Hengki Juliansa2)
1Program Studi Sistem Informasi, STMIK Bina Nusantara Jaya Lubuklinggau
2Program Studi Teknik Informatika, Politeknik Sekayu
1Jl. Yos Sudarso No. 97 A Kel. Jawa Kanan Kota Lubuklinggau, Sumatera Selatan
Telp : 0733-322307 2 Jalan Bupati Oesman Bakar LK. I Kel. Kayuara Kec. Sekayu, Sumatera Selatan 30711
E-mail : ahmadi.bnj@gmail.com1), hengki.juliansa@gmail.com2) Jalan Bupati Oesman Bakar LK. I Kel. Kayuara Kec. Sekayu, Sumatera Selatan
E-mail : ahmadi.bnj@gmail.com1), hengki.juliansa@gmail.com2) Abstrak Peran Dosen sangat penting dimana tugas utamanya mentransformasikan, mengembangkan, dan menyebarkan
ilmu pengetahuan, teknologi, dan seni melalui pendidikan, penelitian dan pengabdian kepada masyarakat. STMIK
Bina Nusantara Jaya Lubuklinggau merupakan salah satu Perguruan Tinggi di Lubuklinggau yang memiliki 1
Program Studi (Sistem Informasi), banyaknya mata kuliah dan dosen pengampuh membuat Ketua Program Studi
(Kaprodi) dalam menentukan Dosen Pengampuh pada setiap mata kuliah masih belum maksimal, masih ada dosen
yang tidak sesuai dengan kualifikasi terhadap mata kuliah yang diampuh. Selama ini dalam menentukan dosen
pengampu mata kuliah hanya melihat pada hasil rekapan kuisioner permata kuliah yang didapat berupa
Interprestasi Index (Cukup Baik, Baik dan Sangat Baik) Skala penilaian yang dilihat pada Kuisioner yang
disebarkan kepada mahasiswa dilihat pada beberapa aspek (Persiapan Mengajar, Kegiatan Belajar Mengajar,
Evaluasi beserta Dosen dan Perkuliahan). Maka dari itu penulis melakukan penelitian dalam penentuan dosen
pengampuh mata kuliah tidak hanya melihat dari hasil rekapan kuisioner yang disebarkan kepada mahasiswa ada
kriteria lagi misalkan Status Dosen, Pendidikan, Kompetensi, Masa Kerja dan Absensi. Tujuan dari penelitian ini
adalah untuk menentukan Dosen Pengampu Mata Kuliah yang sangat membantu Kaprodi. Penulis menggunakan
metode MOORA untuk proses penentuan dan hasil pengujian nantinya dapat membantu kinerja Kaprodi dalam
menentukan rekomendasi dosen pengampuh mata kuliah sesuai dengan kriteria yang ditetapkan. Kata kunci: Sistem Pendukung Keputusan, Dosen, Mata Kuliah, MOORA MIK Bina Nusantara Jaya
Bina Nusantara Jaya Lubuklinggau saat ini dilakukan
dengan cara menentukan secara langsung dengan
melihat pada hasil rekapan kuisioner permata kuliah
yang didapat berupa Interprestasi Index (Cukup Baik,
Baik dan Sangat Baik) Skala penilaian yang dilihat pada
Kuisioner yang disebarkan kepada mahasiswa dilihat
pada beberapa aspek (Persiapan Mengajar, Kegiatan
Belajar Mengajar, Evaluasi beserta Dosen dan Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
1. Pendahuluan
Dosen mempunyai peran yang sangat penting yang
mana
tugas
utamanya
mentransformasikan,
mengembangkan,
dan
menyebarluaskan
ilmu
pengetahuan, teknologi, dan seni melalui pendidikan,
penelitian
dan
pengabdian
kepada
masyarakat. Penunjukan dosen pengampuh matakuliah pada STMIK
Bina Nusantara Jaya Lubuklinggau saat ini dilakukan
dengan cara menentukan secara langsung dengan
melihat pada hasil rekapan kuisioner permata kuliah
yang didapat berupa Interprestasi Index (Cukup Baik,
Baik dan Sangat Baik) Skala penilaian yang dilihat pada
Kuisioner yang disebarkan kepada mahasiswa dilihat
pada beberapa aspek (Persiapan Mengajar, Kegiatan
Belajar Mengajar, Evaluasi beserta Dosen dan y
y
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 1. Pendahuluan Jurnal Ilmiah Binary STM
Dosen mempunyai peran yang sangat penting yang
mana
tugas
utamanya
mentransformasikan,
mengembangkan,
dan
menyebarluaskan
ilmu
pengetahuan, teknologi, dan seni melalui pendidikan,
penelitian
dan
pengabdian
kepada
masyarakat. Penunjukan dosen pengampuh matakuliah pada STMIK Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 29 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah 2.2 Multi-Objecttive Optimization on The Basic of Ratio
Analysis (MOORA) 2.2 Multi-Objecttive Optimization on The Basic of Ratio
Analysis (MOORA)
Metode
MOORA
perkalian
digunakan
untuk
menghubungkan rating atribut, dimana rating atribut
harus dipangkatkan dahulu dengan bobot yang ada pada
setiap kolomnya, Preferensi untuk alternatif Si, Secara
umum
prosedur
MOORA
meliputi
langkah-
langkah[11][12] : Perkuliahan). Peranan dosen sangatlah penting bagi
mahasiswa, karena peranan tersebut memiliki arti akan
tugasnya masing -masing bagi seorang dosen seperti
mendidik mahasiswa. Hal ini untuk menimbang seorang
dosen
agar
dalam
menunjukan
sebagai
dosen
pengampuh dapat meningkatkan kualitas hasil ajar
didalam kelas. Metode
MOORA
perkalian
digunakan
untuk
menghubungkan rating atribut, dimana rating atribut
harus dipangkatkan dahulu dengan bobot yang ada pada
setiap kolomnya, Preferensi untuk alternatif Si, Secara
umum
prosedur
MOORA
meliputi
langkah-
langkah[11][12] : Maka dari itu penulis melakukan penelitian dalam
penentuan dosen pengampu mata kuliah tidak hanya
melihat dari hasil rekapan kuisioner yang disebarkan
kepada mahasiswa ada kriteria lagi misalkan Status
Dosen, Pendidikan, Kompetensi, Masa Kerja dan
Absensi. Tujuan dari penelitian ini adalah untuk
menentukan dosen pengampuh mata kuliah yang mana
ini akan sangat membantu ketua program studi. 1. Menentukan Nilai Matrix 𝑋= [
𝑋11 𝑋12 𝑋1𝑛
𝑋21 𝑋22 𝑋2𝑛
𝑋31 𝑋32 𝑋3𝑛
]
(1) (1) x merupakan nilai kriteria masing-masing kriteria yang
dipresentasikan sebagai matriks. p
g
2. Normalisasi Matriks Dalam
penelitian
sebelumnya
Multi
Objective
Optimization On The Basic Of Ratio Analysis dapat
menilai optimasi karyawan sebagai nilai akhir penilaian
[1][2][3][4]. Penelitian yang lain juga membahas hal
yang sama dengan Metode AHP-MOORA Pada Sistem
Pendukung Keputusan pemilihan paket wisata dapat
membantu pengambil keputusan dalam
masalah
pemilihan wisata secara cepat dan mudah[5]. Penelitian
lain juga dilakukan, Metode MOORA mampu digunakan
untuk dapat menilai tiap-tiap alternatif sehingga
menghasilkan rekomendasi pemilihan smartphone dari
beberapa kriteria pengambilan keputusan [6]. Metode
Moora mampu menentukan nilai bobot dengan
sederhana [7][8][1]. 4. Melakukan Penentuan Hasil Prefrensi/Optimasi p
Nilai Yi bias bersifat positif atau negatif tergantung dari
jumlah total maksimal dan minimal pada matriks
keputusan. Urutan peringkat dan Yi menujukan pilihan
terakhir. Dengan demikian alternatif terbaik memiliki
nilai Yi tertinggi, sedangkan alternatif terburuk memiliki
nilai yang rendah. 𝑌𝑖= ∑
𝑊𝑗 𝑋𝑖𝑗∗
∗ ∑
𝑊𝑗
𝑛
𝑗=𝑔+1
𝑊𝑖𝑗
∗
𝑔
𝑗=1
(4)
Keterangan (4) Keterangan i : 1,2,3,……g adalah attribute atau kriteria dengan
status maksimal i : 1,2,3,……g adalah attribute atau kriteria dengan
status maksimal 2.3 Dosen Menurut Anggrey Aditya Saputri dan kawan-kawan
bahwa dalam penentuan dosen pengampu matakuliah
tidak hanya berdasarkan rapat awal semester saja
dikarenakan masih ada yang tidak sesuai kualifikasi
terhadap matakuliah yang diampu oleh dosen oleh
karena itu untuk membantu prodi maka dibutuhkanlah
sistem pendukung keputusan [9]. sedangkan menurut
Gellysa Urva1 dan Ari Sellyana menentukan dosen
pengampu atau beban mengajar dosen salah satu
kegiatan yang sering dihadapi pada saat semester baru
dan manjadi permasalahan yang komplek [10]. Dosen mempunyai peran yang sangat penting yang
mana
tugas
utamanya
mentransformasikan,
mengembangkan,
dan
menyebarluaskan
ilmu
pengetahuan, teknologi, dan seni melalui pendidikan,
penelitian dan pengabdian kepada masyarakat [10]. 2.1 Analisis Penelitian Terdahulu 2.1 Analisis Penelitian Terdahulu dengan status minimal Penelitian yang mengangkat topik tentang menentukan
dosen pengampu matakuliah telah ada beberapa
dilakukan oleh peneliti terdahulu. y*j : Matriks Normalisasi max-min alternative j y*j : Matriks Normalisasi max-min alternative j 2.3 Dosen 2. Tinjauan Pustaka j : g+1, g+2, g+3,…..,n adalah attribute atau kriteria
dengan status minimal j : g+1, g+2, g+3,…..,n adalah attribute atau kriteria
dengan status minimal 1. Pendahuluan Dari beberapa refrensi yang sudah
dikemukakan maka penulis menggunakan metode Multi
Objective Optimization On the basis of Ratio Analysis
(MOORA) untuk proses penentuan atau perhitungan
menggunakan Metode Multi Objective Optimization On
the basis of Ratio Analysis (MOORA). Dari hasil
pengujian dengan metode MOORA nantinya dapat
membantu
kinerja
ketua
program
studi
dalam
menentukan rekomendasi dosen pengampuh mata kuliah
sesuai dengan kriteria yang ditetapkan. 𝑋∗𝑖𝑗−𝑋𝑖𝑗/√[∑
𝑋𝑖𝑗
2
𝑚
𝑖=1
(2) (2) Keterangan : g
Xij
: Respon alternative j pada kriteria i j
p
j p
X*ij: Normalisasi j pada kriteria i j
j p
3. Melakukan Normalisasi Terbobot 3. Melakukan Normalisasi Terbobot
𝑊𝑗 𝑥 𝑋𝑖𝑗
(3)
Keterangan : (3) Keterangan : Wij : Bobot Kriteria Xij : Hasil Normalisasi alternative j pada kriteria i. 4. Melakukan Penentuan Hasil Prefrensi/Optimasi 3. Metodologi Penelitian 3. Penentuan Bobot Sub Kriteria Kompentensi 2.4 Mata Kulaih Mata kuliah merupakan kelompok bahan kajian dan
pembelajaran
yang
ditunjukan
terutama
untuk
memberikan landasan pembentukan keahlian, baik
untuk
kepentingan
profesi
maupun
bahan
pengembangan ilmu teknologi [9]. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 30 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah 3. Penentuan Bobot Sub Kriteria Kompentensi
Tabel 4 Bobot Sub Kriteria Kompetensi
No
Sub Kriteria
Bobot
1
Sesuai
5
2
Tidak Sesuai
2 3.1 Kerangka Penelitian Untuk membantu penulisan ini, dibutuhkan sebuah
kerangka penelitian. Kerangka Penelitian dapat dilihat
pada gambar di bawah ini. 4. Penentuan Bobot Sub Kriteria Jenjang Jabatan 4. Penentuan Bobot Sub Kriteria Jenjang Jabatan
Tabel 5 Bobot Sub Kriteria Jenjang Jabatan
No
Sub Kriteria
Bobot
1
Guru Besar
5
2
Lektor Kepala
4
3
Lektor
3
4
Asisten Ahli
2
5
Tenaga Pengajar
1 Gambar 1. Kerangka Penelitian 5. Penentuan Bobot Sub Kriteria Masa Kerja 5. Penentuan Bobot Sub Kriteria Masa Kerja 5. Penentuan Bobot Sub Kriteria Masa Kerja
Tabel 6 Bobot Sub Kriteria Masa Kerja Tabel 6 Bobot Sub Kriteria Masa Kerja
No
Sub Kriteria
Bobot
1
>5 Tahun
4
2
3-4 Tahun
3
3
1-2 Tahun
2
4
<6 Bulan
1 Gambar 1. Kerangka Penelitian 4. Hasil dan Pembahasan 6. Penentuan Bobot Sub Kriteria Absensi
Tabel 7 Bobot Sub Kriteria Absensi
No
Sub Kriteria
Bobot
1
>80%
5
2
<60%
3 Sampel yang penulis gunakan 18 dosen sebagai
koresponden dalam menentukan kriteria. Dari hasil
perhitungan uji validitas yang diperoleh 7 buah kriteria,
berikut hasil dari 7 buah kriteria yang sudah didapatkan. Tabel 1 Kriteria
No
Ket
Kriteria
Bobot
Jenis
1
C1
Status Dosen
20%
Benefit
2
C2
Pendidikan
20%
Benefit
3
C3
Kompetensi
15%
Benefit
4
C4
Jenjang Jabatan
15%
Benefit
5
C5
Masa Kerja
10%
Cost
6
C6
Absensi
10%
Cost
7
C7
Kuisioner Mahasiswa
10%
Benefit 7. Penentuan Bobot Sub Kriteria Kuisioner Mahasiswa
Tabel 8 Bobot Sub Kriteria Kuisioner Mahasiswa
No
Sub Kriteria
Bobot
1
Sangat Baik
5
2
Baik
3
3
Cukup Baik
1
4.2. Analisa Perhitungan Metode MOORA 7. Penentuan Bobot Sub Kriteria Kuisioner Mahasiswa Setelah bobot masing-masing krtiera dan sub kriteria
yang diperoleh, langkah berikutnya adalah melakukan
perhiungan
dengan
metode
MOORA,
berikut
tahapannya. 4. Hasil dan Pembahasan Tabel 2 Bobot Sub Kriteria Status Dosen
No
Sub Kriteria
Bobot
1
Tetap
5
2
Tidak Tetap
2 31 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah
Tabel 9 Data Awal Alternatif Per Kriteria
Alternatif
Kriteria
C1
C2
C3
C4
C5
C6
C7
Arie
Yandi
Saputra,
M.Kom
Tetap
S2
Sesuai
Lektor
>5 Th
<60%
Cukup Baik
Robi Yanto, M.Kom
Tetap
S2
Sesuai
Lektor
>5 Th
>80%
Sangat Baik
Deni Apriadi, M.Kom
Tetap
S2
Sesuai
Asisten Ahli
>5 Th
>80%
Sangat Baik
Alfiarini, S.Kom., M.M
Tetap
S2
Sesuai
Asisten Ahli
>5 Th
>80%
Sangat Baik
Yogi Primadasa, M.Kom
Tetap
S2
Sesuai
Asisten Ahli
>5 Th
<60%
Cukup Baik
Ria Putri Santri, M.Pd
Tetap
S2
Tidak
Sesuai
Tenaga
Pengajar
3-4
Th
>80%
Sangat Baik
Novi Yanti, M.Pd
Tetap
S2
Sesuai
Tenaga
Pengajar
3-4
Th
>80%
Cukup Baik
Sismarwiyanti, S.Kom.,
M.Cs
Tidak
Tetap
S2
Sesuai
Tenaga
Pengajar
3-4
Th
<60%
Sangat Baik
Syafi’ul
Hamidani,
M.Kom
Tetap
S2
Sesuai
Tenaga
Pengajar
3-4
Th
>80%
Cukup Baik
Rakhmad
Kuswandhie,
M.Kom
Tetap
S2
Sesuai
Asisten Ahli
1-2
Th
>80%
Sangat Baik
Ahmadi, M.Kom
Tetap
S2
Sesuai
Asisten Ahli
1-2
Th
>80%
Sangat Baik
Hengki Juliansa, M.Kom
Tetap
S2
Sesuai
Asisten Ahli
1-2
Th
>80%
Sangat Baik
Ayub, M.Si
Tetap
S2
Tidak
Sesuai
Asisten Ahli
>5 Th
<60%
Cukup Baik
Dedi, M.Pd
Tetap
S2
Sesuai
Asisten Ahli
>5 Th
<60%
Cukup Baik
H. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 4. Hasil dan Pembahasan Sutiman, M.Si
Tidak
Tetap
S2
Tidak
Sesuai
Tenaga
Pengajar
>5 Th
<60%
Cukup Baik
Veradilla
Amalia,
M.Kom
Tetap
S2
Sesuai
Tenaga
Pengajar
1-2
Th
>80%
Baik
Yayang Eluis Bali M,
S.Kom., M.Cs
Tetap
S2
Sesuai
Tenaga
Pengajar
1-2
Th
>80%
Baik
Endang Etriyanti, M.Kom
Tidak
Tetap
S2
Sesuai
Tenaga
Pengajar
<6 Th
>80%
Baik
Dari table diatas, maka langkah selanjtunya menntukan bobot alternative perkriteria, bobot alternative perkriteria
terdapat pada table berikut: e diatas, maka langkah selanjtunya menntukan bobot alternative perkriteria, bobot alternative perkriteria
pada table berikut: Tabel 10 Data Pembobotan Alternatif Per Kriteria Tabel 10 Data Pembobotan Alternatif Per Kriteria Tabel 10 Data Pembobotan Alternatif Per Kriteria Tabel 10 Data Pembobotan Alternatif Per Kriteria
Alternatif
Kriteria
C1
C2
C3
C4
C5
C6
C7
Arie Yandi Saputra, M.Kom
5
5
5
3
4
3
1
Robi Yanto, M.Kom
5
5
5
3
4
5
5
Deni Apriadi, M.Kom
5
5
5
2
4
5
5
Alfiarini, S.Kom., M.M
5
5
5
2
4
5
5
Yogi Primadasa, M.Kom
5
5
5
2
4
3
1
Ria Putri Santri, M.Pd
5
5
2
1
3
5
5
Novi Yanti, M.Pd
5
5
5
1
3
5
1
Sismarwiyanti, S.Kom., M.Cs
2
5
5
1
3
3
5
Syafi’ul Hamidani, M.Kom
5
5
5
1
3
5
1
Rakhmad Kuswandhie, M.Kom
5
5
5
2
2
5
5
Ahmadi, M.Kom
5
5
5
2
2
5
5
Hengki Juliansa, M.Kom
5
5
5
2
2
5
5
Ayub, M.Si
5
5
2
2
4
3
1
Dedi, M.Pd
5
5
5
2
4
3
1
H. Sutiman, M.Si
2
5
2
1
4
3
1
Veradilla Amalia, M.Kom
5
5
5
1
2
5
3
Yayang Eluis Bali M, S.Kom., M.Cs
5
5
5
1
2
5
3
Endang Etriyanti, M.Kom
2
5
2
1
1
5
3 32 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Dari data diatas maka lankah selajutnya melakukan
perhitungan matrik, menggunakan persamaan (1). 4. Hasil dan Pembahasan 𝐴=
[
5 5 5 3 4 3 1
5 5 5 3 4 5 5
5 5 5 2 5 5 5
𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋
𝑋 𝑋 𝑋 𝑋 𝑋 𝑋 𝑋
2 5 2 1 1 5 3 ]
= 5/√25 + 25 + 25 + 25 + 25 + 25 + 25 + 4 + 25 +
25 + 25 + 25 + 25 + 4 + 25 + 25 + 2
= 5/√362
= 0,254
Langkah selanjutnya adalah melakukan normalisasi
setiap alternative perkriteria. Cara ini dilakukan dengan
menggunakan
persamaan
(2). Hasil
keselurhan
normalisasi terdapat pada table berikut : Langkah selanjutnya adalah melakukan normalisasi
setiap alternative perkriteria. Cara ini dilakukan dengan
menggunakan
persamaan
(2). Hasil
keselurhan
normalisasi terdapat pada table berikut : = 5/√25 + 25 + 25 + 25 + 25 + 25 + 25 + 4 + 25 +
25 + 25 + 25 + 25 + 4 + 25 + 25 + 2 Tabel 11 Hasi Keseluruhan Normalisasi
Alternatif
Kriteria
C1
C2
C3
C4
C5
C6
C7
Arie Yandi Saputra, M.Kom
0.002
0.002
0.002
0.267
0.016
0.000
0.001
Robi Yanto, M.Kom
0.002
0.002
0.002
0.267
0.016
0.002
0.002
Deni Apriadi, M.Kom
0.002
0.002
0.002
0.178
0.016
0.002
0.002
Alfiarini, S.Kom., M.M
0.002
0.002
0.002
0.178
0.016
0.002
0.002
Yogi Primadasa, M.Kom
0.002
0.002
0.002
0.178
0.016
0.000
0.001
Ria Putri Santri, M.Pd
0.002
0.002
0.001
0.089
0.012
0.002
0.002
Novi Yanti, M.Pd
0.002
0.002
0.002
0.089
0.012
0.000
0.002
Sismarwiyanti, S.Kom., M.Cs
0.001
0.002
0.002
0.089
0.012
0.002
0.001
Syafi’ul Hamidani, M.Kom
0.002
0.002
0.002
0.089
0.012
0.000
0.002
Rakhmad Kuswandhie, M.Kom
0.002
0.002
0.002
0.178
0.008
0.002
0.002
Ahmadi, M.Kom
0.002
0.002
0.002
0.178
0.008
0.002
0.002
Hengki Juliansa, M.Kom
0.002
0.002
0.002
0.178
0.008
0.002
0.002
Ayub, M.Si
0.002
0.002
0.001
0.178
0.016
0.000
0.001
Dedi, M.Pd
0.002
0.002
0.002
0.178
0.016
0.000
0.001
H. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 5. Kesimpulan [4] M. Mesran, S. D. A. Pardede, A. Harahap, and A. P. U. Siahaan, “Sistem Pendukung Keputusan Pemilihan Peserta
Jaminan Kesehatan Masyarakat (Jamkesmas) Menerapkan
Metode MOORA,” J. Media Inform. Budidarma, vol. 2, no. 2, pp. 16–22, 2018, doi: 10.30865/mib.v2i2.595. 5.1 Simpulan Pada penelitian ini dapat ditarik kesimpulan
metode moora mampu menilai semua kriteria dengan
menentukan
matrik
keputusan
dan
melakukan
normalisasi matrik sehingga hasil akhir dari pernilaian
tersebut berupa nilai optimasi, yang mana nilai optimasi
tersebut menjadi suatu pendukung kaprodi untuk
menentukan dosen pengampuh. Dari hasil optimasi
didapatkan, kaprodi dapat mengevaluasi yang mana nilai
hasil optimasi yang tinggi dapat menjadi pendukung
keputusan untuk menentukan dosen pengampu. [5]
[6]
[7] Pada penelitian ini dapat ditarik kesimpulan
metode moora mampu menilai semua kriteria dengan
menentukan
matrik
keputusan
dan
melakukan
normalisasi matrik sehingga hasil akhir dari pernilaian
tersebut berupa nilai optimasi, yang mana nilai optimasi
tersebut menjadi suatu pendukung kaprodi untuk
menentukan dosen pengampuh. Dari hasil optimasi
didapatkan, kaprodi dapat mengevaluasi yang mana nilai
hasil optimasi yang tinggi dapat menjadi pendukung
keputusan untuk menentukan dosen pengampu. [5]
[6]
[7] I. G. Hendrayana and G. S. Mahendra, “Perancangan
Metode AHP-MOORA Pada Sistem Pendukung Keputusan
Pemilihan Paket Wisata,” Pros. Semin. Nas. Pendidik. Tek. Inform. Ke-10, vol. 1, no. 1, pp. 143–149, 2019. I. Hidayatulloh, T. Purwokerto, and M. Z. Naf’an, “Metode
Moora Dengan Pendekatan Price-Quality Ratio Untuk,”
Semin. Nas. Teknol. Inf. dan Apl. Komput., vol. 1, no. November, pp. 62–68, 2017. A. Y. Saputra, Y. Primadasa, P. Sisteminformasi, and K. T. Pengajar, “Penerapan Metode Moora Dalam Pemilihan
Sekolah Dasar,” SISTEMASI, vol. 8, pp. 305–312, 2019. 4. Hasil dan Pembahasan Bangunan di Toko Megah Gracindo Jaya,” InfoTekJar
(Jurnal Nas. Inform. dan Teknol. Jaringan), vol. 3, no. 1, pp. 95–99, 2018, doi: 10.30743/infotekjar.v3i1.524. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92 5.2 Saran [8] [8] E. Laudia Olivianita and Rudy Ariyanto, “Sistem
Pendukung Keputusan Kelayakan Hasil Cetakan Buku
Menggunakan Metode MOORA,” Semin. Inform. Apl., no. 9, pp. 1–6, 2016. Penulis menyarankan agar penelitian ini dapat
diterapkan dan dikembangkan kembali dalam penentuan
dosen pengampu matakuliah sehingga dapat membantu
kaprodi dalam mengambil keputusan. [9] Penulis menyarankan agar penelitian ini dapat
diterapkan dan dikembangkan kembali dalam penentuan
dosen pengampu matakuliah sehingga dapat membantu [9] dosen pengampu matakuliah sehingga dapat membantu
kaprodi dalam mengambil keputusan. [9] A. A. Saputri, N. Dengen, and I. Islamiyah, “Sistem
Pendukung Keputusan Penentuan Dosen Pengampu Mata
Kuliah Dengan Metode MOORA,” J. Rekayasa Teknol. Inf.,
vol. 3, no. 1, p. 11, 2019, doi: 10.30872/jurti.v3i1.2452. [10] [2]
Y. Primadasa and P. S. Informasi, “Sistem Pendukung
Keputusan Penilaian Kinerja Karyawan Menggunakan
Pembobotan Ahp Dan Moora Decision Support System Of
Employee Performance,” vol. 5, no. 2, 2019.
[12] 4. Hasil dan Pembahasan Sutiman, M.Si
0.001
0.002
0.001
0.089
0.016
0.000
0.001
Veradilla Amalia, M.Kom
0.002
0.002
0.002
0.089
0.008
0.001
0.002
Yayang Eluis Bali M, S.Kom., M.Cs
0.002
0.002
0.002
0.089
0.008
0.001
0.002
Endang Etriyanti, M.Kom
0.001
0.002
0.001
0.089
0.004
0.001
0.002
Langkah yang dapat dilakukan berikutnya adalah melakukan perhitungan nilai optimasi terbobot dengan
menggunakan persamaan (3) Berikut hasil nilai optimasi terbobot untuk semua dosen pengampuh Tabel 11 Hasi Keseluruhan Normalisasi Langkah yang dapat dilakukan berikutnya adalah melakukan perhitungan nilai optimasi terbobot dengan
menggunakan persamaan (3). Berikut hasil nilai optimasi terbobot untuk semua dosen pengampuh. Langkah yang dapat dilakukan berikutnya adalah melakukan perhitungan nilai optimasi terbobot dengan
menggunakan persamaan (3). Berikut hasil nilai optimasi terbobot untuk semua dosen pengampuh. Jurnal Ilmiah Binary STMIK Bina Nusantara Jaya
Vol. 0 5 No. 01 Tahun 2023, ISSN : 2657– 2117 | DOI : 10.52303/jb.v5i1.92
Tabel 12 Nilai Optimasi Keseluruhan
Alternatif
Kriteria
Hasil
Optimasi
C1
C2
C3
C4
C5
C6
C7
Arie
Yandi
Saputra, M.Kom
0,0508
0,0471
0,0392
0,0591
0,0294
0,0065
0,0159
0,2482
Robi
Yanto,
M.Kom
0,0508
0,0471
0,0392
0,0591
0,0294
0,0327
0,0266
0,2849
Deni
Apriadi,
M.Kom
0,0508
0,0471
0,0392
0,0394
0,0294
0,0327
0,0266
0,2652
Alfiarini,
S.Kom., M.M
0,0508
0,0471
0,0392
0,0394
0,0294
0,0327
0,0266
0,2652
Yogi Primadasa,
M.Kom
0,0508
0,0471
0,0392
0,0394
0,0294
0,0065
0,0159
0,2285
Ria Putri Santri,
M.Pd
0,0508
0,0471
0,0157
0,0197
0,0221
0,0327
0,0266
0,2147
Novi Yanti, M.Pd
0,0508
0,0471
0,0392
0,0197
0,0221
0,0065
0,0266
0,2120
Sismarwiyanti,
S.Kom., M.Cs
0,0203
0,0471
0,0392
0,0197
0,0221
0,0327
0,0159
0,1971
Syafi’ul
Hamidani,
M.Kom
0,0508
0,0471
0,0392
0,0197
0,0221
0,0065
0,0266
0,2120
Rakhmad
Kuswandhie,
M.Kom
0,0508
0,0471
0,0392
0,0394
0,0147
0,0327
0,0266
0,2505
Ahmadi, M.Kom
0,0508
0,0471
0,0392
0,0394
0,0147
0,0327
0,0266
0,2505 Tabel 12 Nilai Optimasi Keseluruhan 33 Ahmadi, Analisa Penilaian Menggunakan MOORA dalam Menentukan Dosen Pengampu Mata Kuliah Hengki Juliansa,
M.Kom
0,0508
0,0471
0,0392
0,0394
0,0147
0,0327
0,0266
0,2505
Ayub, M.Si
0,0508
0,0471
0,0157
0,0394
0,0294
0,0065
0,0159
0,2049
Dedi, M.Pd
0,0508
0,0471
0,0392
0,0394
0,0294
0,0065
0,0159
0,2285
H. Sutiman, M.Si
0,0203
0,0471
0,0157
0,0197
0,0294
0,0065
0,0159
0,1547
Veradilla
Amalia, M.Kom
0,0508
0,0471
0,0392
0,0197
0,0147
0,0196
0,0266
0,2178
Yayang
Eluis
Bali M, S.Kom.,
M.Cs
0,0508
0,0471
0,0392
0,0197
0,0147
0,0196
0,0266
0,2178
Endang Etriyanti,
M.Kom
0,0203
0,0471
0,0157
0,0197
0,0074
0,0196
0,0266
0,1564 Bangunan di Toko Megah Gracindo Jaya,” InfoTekJar
(Jurnal Nas. Inform. dan Teknol. Jaringan), vol. 3, no. 1, pp. 95–99, 2018, doi: 10.30743/infotekjar.v3i1.524. Daftar Rujukan G. Urva and A. Sellyana, “Aplikasi Penentuan Beban Sks
Mengajar Dosen Pengampu Mata Kuliah,” J. Unitek, vol. 11,
no. 2, pp. 144–154, 2020, doi: 10.52072/unitek.v11i2.37. [1]
Y. Sa’adati, S. Fadli, and K. Imtihan, “Analisis Penggunaan
Metode AHP dan MOORA untuk Menentukan Guru
Berprestasi Sebagai Ajang Promosi Jabatan,” SinkrOn, vol. 3, no. 1, pp. 82–90, 2018, [Online]. Available:
https://jurnal.polgan.ac.id/index.php/sinkron/article/view/1
89. [11] M. Ashari and F. Mintarsih, “QUERY : Jurnal Sistem
Informasi Volume : 01 , Number : 02 , October 2017 ISSN
2579-5341 ( online ) Aplikasi Pemilihan Bibit Budidaya
Ikan Air Tawar dengan Metode MOORA – Entropy
QUERY : Jurnal Sistem Informasi Volume : 01 , Number :
02 , October 2017 ISSN,” Sist. Inf., vol. 1, no. October, 2017. [2]
Y. Primadasa and P. S. Informasi, “Sistem Pendukung
Keputusan Penilaian Kinerja Karyawan Menggunakan
Pembobotan Ahp Dan Moora Decision Support System Of
Employee Performance,” vol. 5, no. 2, 2019. [12] M. Ashari, Arini, and F. Mintarsih, “Aplikasi Pemilihan
Bibit Budidaya Ikan Air Tawar dengan Metode MOORA –
Entropy,” Query, vol. 1, no. 2, pp. 63–72, 2017. [3] [3]
A. Revi, I. Parlina, and S. Wardani, “Analisis Perhitungan
Metode MOORA dalam Pemilihan Supplier Bahan 34
|
https://openalex.org/W2443985281
|
https://hal.sorbonne-universite.fr/hal-01408919/document
|
English
| null |
Towards improved and more routine Earth system model evaluation in CMIP
|
Earth system dynamics
| 2,016
|
cc-by
| 15,812
|
To cite this version: Veronika Eyring, Peter J. Gleckler, Christoph N Heinze, Ronald J. Stouffer, Karl E. Taylor, et al.. Towards improved and more routine Earth system model evaluation in CMIP. Earth System Dynamics,
2016, 7 (4), pp.813 - 830. 10.5194/esd-7-813-2016. hal-01408919 Veronika Eyring, Peter J. Gleckler, Christoph N Heinze, Ronald J. Stouffer,
Karl E. Taylor, V. Balaji, Éric Guilyardi, Sylvie Joussaume, Stephan
Kindermann, Bryan N. Lawrence, et al. Distributed under a Creative Commons Attribution 4.0 International License Saclay, France y
10Deutsches Klimarechenzentrum, Hamburg, Germany 11Centre for Environmental Data Analysis, STFC Rutherford Appleton Laboratory, Didcot, UK
12 11Centre for Environmental Data Analysis, STFC Rutherford Appleton Laboratory, Didcot, UK
12National Center for Atmospheric Research (NCAR) Boulder CO USA 12National Center for Atmospheric Research (NCAR), Boulder, CO, USA Correspondence to: Veronika Eyring (veronika.eyring@dlr.de) Received: 14 June 2016 – Published in Earth Syst. Dynam. Discuss.: 16 June 2016
Revised: 4 October 2016 – Accepted: 6 October 2016 – Published: 1 November 2016 Abstract. The Coupled Model Intercomparison Project (CMIP) has successfully provided the climate commu-
nity with a rich collection of simulation output from Earth system models (ESMs) that can be used to understand
past climate changes and make projections and uncertainty estimates of the future. Confidence in ESMs can be
gained because the models are based on physical principles and reproduce many important aspects of observed
climate. More research is required to identify the processes that are most responsible for systematic biases and
the magnitude and uncertainty of future projections so that more relevant performance tests can be developed. At the same time, there are many aspects of ESM evaluation that are well established and considered an essential
part of systematic evaluation but have been implemented ad hoc with little community coordination. Given the
diversity and complexity of ESM analysis, we argue that the CMIP community has reached a critical juncture
at which many baseline aspects of model evaluation need to be performed much more efficiently and consis-
tently. Here, we provide a perspective and viewpoint on how a more systematic, open, and rapid performance
assessment of the large and diverse number of models that will participate in current and future phases of CMIP
can be achieved, and announce our intention to implement such a system for CMIP6. Accomplishing this could
also free up valuable resources as many scientists are frequently “re-inventing the wheel” by re-writing analy-
sis routines for well-established analysis methods. A more systematic approach for the community would be to
develop and apply evaluation tools that are based on the latest scientific knowledge and observational reference,
are well suited for routine use, and provide a wide range of diagnostics and performance metrics that compre-
hensively characterize model behaviour as soon as the output is published to the Earth System Grid Federation
(ESGF). HAL Id: hal-01408919
https://hal.sorbonne-universite.fr/hal-01408919v1
Submitted on 5 Dec 2016 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License Earth Syst. Dynam., 7, 813–830, 2016
www.earth-syst-dynam.net/7/813/2016/
doi:10.5194/esd-7-813-2016
© Author(s) 2016. CC Attribution 3.0 License. Published by Copernicus Publications on behalf of the European Geosciences Union. Towards improved and more routine Earth system model
evaluation in CMIP Veronika Eyring1, Peter J. Gleckler2, Christoph Heinze3,4, Ronald J. Stouffer5, Karl E. Taylor2,
V. Balaji5,6, Eric Guilyardi7,8, Sylvie Joussaume9, Stephan Kindermann10, Bryan N. Lawrence8,11,
Gerald A. Meehl12, Mattia Righi1, and Dean N. Williams2 1
Introduction rewards of the coordinated experiments and data standards
have yet to be realized to further capitalize on the CMIP
multi-model and observational infrastructure already in place
(Williams et al., 2015). High-profile reports such as the Intergovernmental Panel
on Climate Change (IPCC) Fifth Assessment Report (AR5;
IPCC, 2013) attest to the exceptional societal interest in un-
derstanding and projecting future climate. The climate sim-
ulations considered in IPCC AR5 are mostly based on Earth
system model (ESM) experiments defined and internation-
ally coordinated as part of the World Climate Research Pro-
gramme (WCRP) Coupled Model Intercomparison Project
Phase 5 (CMIP5; Taylor et al., 2012). The objective of
CMIP is to better understand past, present, and future cli-
mate changes in a multi-model context. However, adequate
use of the simulations requires an awareness of their limi-
tations. Therefore, it is essential to systematically evaluate
models with available observations (Flato et al., 2013). More
generally, model evaluation and intercomparison provides a
necessary albeit insufficient perspective on the reliability of
models and also facilitates the prioritization of research that
aims at improving the models. Here, we provide a perspective for developing standard-
ized analysis procedures that could routinely be applied to
CMIP model output at the time of publication to the ESGF,
and we announce our intention to implement such a sys-
tem in time for the sixth phase of CMIP (CMIP6; Eyring
et al., 2016a). The goal is to produce – along with the
model output and documentation – a set of informative di-
agnostics and performance metrics that provide a broad, al-
beit incomplete, overview of model performance and simu-
lation behaviour. With this paper we aim to attract input and
development of established, yet innovative analysis codes
from the broad community of scientists analysing CMIP re-
sults, including the CMIP6-Endorsed model intercomparison
projects (MIPs). The CMIP standard evaluation procedure
should utilize open-source and community-based evaluation
tools, flexibly designed in order to allow their improvement
and extension over time. Our discussion here specifically ad-
dresses the crucial infrastructure requirements generated by
such community tools for ESM analysis and evaluation, in-
cluding how such requirements lead to reliance on the infras-
tructure supporting ESM output and relevant Earth system
observations. Saclay, France The CMIP infrastructure enforces data standards and conventions for model output and documentation
accessible via the ESGF, additionally publishing observations (obs4MIPs) and reanalyses (ana4MIPs) for model Published by Copernicus Publications on behalf of the European Geosciences Union 814 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP intercomparison projects using the same data structure and organization as the ESM output. This largely facil-
itates routine evaluation of the ESMs, but to be able to process the data automatically alongside the ESGF, the
infrastructure needs to be extended with processing capabilities at the ESGF data nodes where the evaluation
tools can be executed on a routine basis. Efforts are already underway to develop community-based evaluation
tools, and we encourage experts to provide additional diagnostic codes that would enhance this capability for
CMIP. At the same time, we encourage the community to contribute observations and reanalyses for model eval-
uation to the obs4MIPs and ana4MIPs archives. The intention is to produce through the ESGF a widely accepted
quasi-operational evaluation framework for CMIP6 that would routinely execute a series of standardized evalua-
tion tasks. Over time, as this capability matures, we expect to produce an increasingly systematic characterization
of models which, compared with early phases of CMIP, will more quickly and openly identify the strengths and
weaknesses of the simulations. This will also reveal whether long-standing model errors remain evident in newer
models and will assist modelling groups in improving their models. This framework will be designed to readily
incorporate updates, including new observations and additional diagnostics and metrics as they become available
from the research community. 1http://esgf.llnl.gov/
2http://es-doc.org 1
Introduction An overarching theme is that, if we are to cap-
italize on the community effort devoted to model develop-
ment, analysis, documentation, and evaluation and if we are
to fully exploit the value of coordinated multi-model simu-
lation activities like CMIP, then further infrastructure devel-
opment and maintenance will be needed. Given the CMIP6
timeline and the complex and integrated nature of the in-
frastructure, it is expected that requirements will have to be
satisfied by modifications and additions to the current in-
frastructure, rather than development and deployment of a
completely new approach. The proposed infrastructure re-
lies on conventions for data and for recording model and ex- p
g
Output from CMIP5 models is archived in a common for-
mat and structure and is accessible via a distributed data
archive, namely the Earth System Grid Federation (ESGF).1
The scientific contents of the models and the details of the
simulations are further described via the Earth System Doc-
umentation (ES-DOC) effort.2 This has enabled a diverse
community of scientists with more than 27 000 registered
users (Williams et al., 2015) to readily search, retrieve, and
analyse these simulations. Since CMIP5, there has also been
a large effort to provide observations and reanalysis prod-
ucts to end users of CMIP results as part of the observations
(obs4MIPs; Teixeira et al., 2014) and reanalysis (ana4MIPs)
for model intercomparison projects. Together, these efforts
have the potential to facilitate comparisons of model simu-
lations with observations and reanalyses. However, the full Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 815 open-source, community-developed diagnostic packages that
would be routinely applied to standardized model output pro-
duced under common experiment conditions. The CMIP Di-
agnostic, Evaluation and Characterization of Klima (DECK)
experiments and the CMIP historical simulations (Eyring et
al., 2016a) lend themselves to this purpose. periment documentation that have been developed over the
last two decades. Its backbone is the distributed data archive
and the delivery system developed by the ESGF, which with
CMIP5’s success and WCRP’s encouragement is increas-
ingly being adopted by the climate research community. We
hope the overview presented here inspires additional, fo-
cused efforts toward improved and more routine evaluation
in CMIP. The workflow for routinely analysing and evaluating the
CMIP simulations is shown in Fig. 1. 2.1
Access to CMIP model output and observations in
common formats The CMIP5 archive of multi-model output constitutes an
enormous and valuable resource that efficiently enables
progress in climate research. This diverse repository, in ex-
cess of 2 PB (see Table 1), of commonly formatted climate
model data also has proved valuable in the preparation of
climate assessment reports such as the IPCC and in serv-
ing the needs of downstream users of climate model out-
put such as impact researchers. The CMIP data format re-
quirements are based on the Climate and Forecast (CF) self-
describing Network Common Data Format (NetCDF) stan-
dards and naming convention4 and tools such as Climate
Model Output Rewriter (CMOR).5 As a result, the CMIP
model output conforms to a common standard with metadata
that enables automated interpretation of file contents. The
layout of data in storage and the definition of discovery meta-
data have also been standardized in the data reference syntax
(DRS),6 which provides for logical and automated ways to
access data across all models. This has enabled development
of analysis tools capable of treating data from all models in
the same way and effectively independent of the platform on
which they are executed. This paper is organized as follows. In Sect. 2 we argue for
the development of community evaluation tools that would
be routinely applied to CMIP model output as soon as it be-
comes available from the ESGF, and we identify the asso-
ciated software infrastructural needs. In Sect. 3, we discuss
some of the scientific gaps and challenges that might be ad-
dressed through innovative diagnostics that could be incorpo-
rated into future, more comprehensive evaluation tools. Sec-
tion 4 closes with a summary and outlook. 1
Introduction It utilizes community
tools and relies on the ESGF infrastructure and relevant Earth
system observations. The workflow assumes CMIP model
output and observations are accessible in a common format
on ESGF data nodes (Sect. 2.1), open-source software eval-
uation tools exist (Sect. 2.2), and the existing ESGF infras-
tructure, which is now mainly a data archive, is enhanced
with additional processing capabilities enabling evaluation
tools to be directly executed on at least some of the ESGF
nodes (Sect. 2.3). Plans for making evaluation results trace-
able, well documented, and visually rendered are also dis-
cussed (Sect. 2.4). We emphasize that routine evaluation of the ESMs can-
not and is not meant to replace the cutting-edge and in-depth
explorative analysis and research that makes use of CMIP
output, which will remain essential to close gaps in our sci-
entific understanding. Rather, we suggest to make the well-
established parts of ESM evaluation that have demonstrated
their value in the peer-reviewed literature, for example, as
part of the IPCC climate model evaluation chapters (Flato et
al., 2013) more routine. This will leave more time for innova-
tive research, for example on additional guidance in reducing
systematic biases and on new diagnostics that can reduce the
uncertainty in future projections. Our assessment draws substantially on responses to a
CMIP5 survey3 of representatives from the climate science
community. The summer 2013 survey was developed by the
CMIP Panel, a subcommittee of the WCRP Working Group
on Coupled Modelling (WGCM), which is responsible for
direct coordination of CMIP. The scientific gaps and recom-
mendations for CMIP6 that were identified through this com-
munity survey are summarized by Stouffer et al. (2016). 3http://www.wcrp-climate.org/wgcm-cmip/wgcm-cmip6 4http://cfconventions.org
5https://pcmdi.github.io/cmor-site/
6http://cmip-pcmdi.llnl.gov/cmip5/docs/cmip5_data_
reference_syntax.pdf www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output
using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output
using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output
using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Figure 1. Schematic diagram of the workflow for routinely producing a broad characterization of model performance for CMIP model output
using community evaluation tools that utilize relevant observations and reanalyses and rely on the ESGF infrastructure. Table 1. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. Table 1. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. Table 1. Participation statistics for CMIP3 and CMIP5 and those estimated for CMIP6. CMIP3
CMIP5
CMIP6 (estimated)
Modelling groups
17
29
> 30
Models
25
60
> 60
Mean number of simulated years per model
∼2800
∼5500
∼7500
Data volume (terabytes)
∼36
> 2000
∼20 000–40 000 are set by the WGCM Infrastructure Panel (WIP), and
through the ESGF’s own governance structure these are in-
tegrated with demands from other projects. The individual,
funded projects comprising the ESGF ultimately determine
what can be realized by volunteering to respond to the prior-
itized needs and requirements. The model evaluation activity
advocated here depends on the ESGF providing automated
and robust access to all published model output and relevant
observational data. The quantity of data made available un-
der CMIP5 was about 50 times larger than under CMIP3. The
data volume is expected to grow by another factor of 10–20
for CMIP6, resulting in a database of between 20 and 40 PB,
depending on model resolution and the number of modelling
centres ultimately participating in the project (Table 1). 2
Evaluation tools and corresponding infrastructure
needs for routine model evaluation in CMIP With the increasing complexity and resolution of ESMs, it
is a daunting challenge to systematically analyse, evaluate,
understand, and document their behaviour. Thus, it is an
especially attractive idea to engage a wide range of scien-
tific and technical experts in the development of community-
based diagnostic packages. The value of a broad suite of
performance metrics that summarize overall model perfor-
mance across the atmospheric, oceanic, and terrestrial do-
mains is recognized by model developers, among others, as
one way to obtain a broad picture of model behaviour. An
obvious way to avoid duplication of effort across the model
development and research community would be to adopt The infrastructure supporting the publication of CMIP5
data was developed by the ESGF, which archives data ac-
cessible via a common interface but distributed among data
nodes hosted by modelling and data centres. The CMIP5 sur-
vey noted that this first generation of a distributed infrastruc-
ture to serve the model data did not initially perform well, Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 816 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Similar documentation efforts for observations specifi-
cally meant for use in model evaluation can be found at the
National Center for Atmospheric Research (NCAR) climate
data guide.7 Ideally, standard technical documentation as de-
fined by obs4MIPs will be adopted broadly by the interna-
tional observational community and will be hosted alongside
(or integrated with) the CMIP model and simulation standard
documentation (ES-DOC). Additionally, there are proposals
being considered to include non-gridded data in obs4MIPs
(e.g. data collected by ground stations or during aircraft cam-
paigns), and the possibility that auxiliary data such as land–
sea masks, averaging kernels, and additional uncertainty data
might also be provided. Whatever datasets are used for model
evaluation, it will be important to determine the size of ob-
servational error relative to the errors in the models. One ap-
proach being developed is to provide ensembles of observa-
tional estimates, all based on a single sensor or product and
generated by making many different choices of retrieval al-
gorithms or parameters, all considered to be reasonable. The
goal is to be able to extend obs4MIPs in order to better char-
acterize observational uncertainty. The convenience of dealing with CMIP output that adheres
to well-defined standards and conventions is a major reason
why the data have been used extensively in research. An-
other requirement of any model evaluation activity is well-
characterized observational data. Traditionally, observations
from different sources have been archived and documented
in a variety of ways and formats. To encourage a more uni-
fied approach, the obs4MIPs initiative (Teixeira et al., 2014)
has defined a set of specifications and criteria for techni-
cally aligning observational datasets with CMIP model out-
put (with common file format, data, and metadata structure). Over 50 gridded datasets that conform to these standards are
now archived on the ESGF alongside CMIP model output,
and the archive continues to rapidly expand (Ferraro et al.,
2015). Data users have enthusiastically received obs4MIPs,
and the WCRP Data Advisory Council’s (WDAC) has es-
tablished a task team to encourage the project and provide
guidance and governance at the international level. The ex-
pansion of the obs4MIPs project, with additional observa-
tional products directly relevant to Earth’s climate system
components and process evaluation, is a clear opportunity
to facilitate routine evaluation of ESMs in CMIP. A sister
project, ana4MIPs, provides selected fields well suited for
model evaluation from major atmospheric reanalyses. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP The
CMIP6 routine model evaluation activity discussed here will
initially rely mostly on well-observed and commonly anal-
ysed fields, so this activity is not expected to increase the which, retrospectively, is not surprising given that it was a
first major application of a distributed approach to archiving
CMIP data and given the limited time and resources avail-
able for development and testing. Storing, testing, and deliv-
ering these data have relied on a distributed infrastructure de-
veloped largely through community-based coordination and
short-term funding. This relatively fragile approach to pro-
viding climate modelling infrastructure will face even stiffer
challenges in the future. Climate modelling and evaluation,
which already involves management of enormous amounts
of data, is a big data challenge confronted with demands
for prompt access and availability (Laney, 2012). Unless we
meet the challenge of dealing with increasing volumes of
data, it will be difficult to routinely and promptly evaluate
CMIP models. Improvements in the functionality of the ESGF require a
coordinated international undertaking. Priorities for CMIP Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CM 817 CMIP6 data request beyond the CMIP6-Endorsed MIP de-
mands. Table 2. Examples of existing diagnostic tools that are available for CMIP6. Some of the tools focus on the broad characterization of the models and others on specific scientific
applications. For details on diagnostics and performance metrics included in these tools and a description on how to contribute to the developments, we refer the reader to the individual
literature and websites given below. Short name of tool
Long name of tool
Focus
Reference
Language
Further information
Coupled to the ESGF running locally and on specific supernodes in CMIP6 (see text and Fig. 5)
ESMValTool
Earth System Model Evaluation Tool
Diagnostics and performance metrics for the
Eyring et al. (2016b)
Backend in Python, diagnostics
http://www.esmvaltool.org/
broad characterization of CMIP6 models
in NCL, R, Python
PMP
PCMDI Metrics Package
Summary statistics and associated diagnostics for
Gleckler et al. 7https://climatedataguide.ucar.edu V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP (2016)
Python
https://github.com/PCMDI/pcmdi_metrics
the broad characterization of CMIP6 models
Examples of evaluation tools targeting specific applications or phenomena
CREM∗
Cloud regime error metric
Clouds
Williams and Webb (2009)
Python
–
CLIMDEX∗
Climate extremes indices
Core indices of extreme climate
–
R
https://cran.r-project.org/web/packages/climdex.pcic/
ILAMB
International Land Modeling Benchmarking Project
Carbon cycle and land surface processes i
Luo et al. (2012)
NCL, Python
http://www.ilamb.org/
NCAR CVDP*
NCAR Climate Variability Diagnostics Package
Major modes of climate variability
Phillips et al. (2014)
NCL
https://www2.cesm.ucar.edu/
SOCCOM∗
Southern Ocean Climate Model Atlas
Southern Ocean
–
Ferret
http://southernocean.arizona.edu/
∗These tools are also included as separate namelists in the ESMValTool and will be applied to CMIP6 models together with other ESMValTool diagnostics and performance metrics as soon as the output is published to the ESGF
earth-syst-dynam.net/7/813/2016/ The convenience of dealing with CMIP output that adheres
to well-defined standards and conventions is a major reason
why the data have been used extensively in research. An-
other requirement of any model evaluation activity is well-
characterized observational data. Traditionally, observations
from different sources have been archived and documented
in a variety of ways and formats. To encourage a more uni-
fied approach, the obs4MIPs initiative (Teixeira et al., 2014)
has defined a set of specifications and criteria for techni-
cally aligning observational datasets with CMIP model out-
put (with common file format, data, and metadata structure). Over 50 gridded datasets that conform to these standards are
now archived on the ESGF alongside CMIP model output,
and the archive continues to rapidly expand (Ferraro et al.,
2015). Data users have enthusiastically received obs4MIPs,
and the WCRP Data Advisory Council’s (WDAC) has es-
tablished a task team to encourage the project and provide
guidance and governance at the international level. The ex-
pansion of the obs4MIPs project, with additional observa-
tional products directly relevant to Earth’s climate system
components and process evaluation, is a clear opportunity
to facilitate routine evaluation of ESMs in CMIP. A sister
project, ana4MIPs, provides selected fields well suited for
model evaluation from major atmospheric reanalyses. The
obs4MIPs protocol requires every dataset submitted to be ac-
companied by a technical note, which includes, for example,
discussion of uncertainties and guidance as to aspects of the
data product that are particularly relevant to model evalua-
tion. www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 2.2
Community tools for Earth system model evaluation
ready for CMIP6 It is envisaged that well-established plots produced by the
standardize evaluation process outlined here will eventually
be archived and become part of model documentation. In
the meantime they can also be included in publications on
model evaluation: since the tools that produce them are open-
source, the resulting plots are also effectively freely avail-
able. However, we would expect users to cite both software
versions and technical papers produced by the tool develop-
ers to provide the formal provenance for the plots. There is growing awareness that community-shared software
could facilitate more comprehensive and efficient evaluation
of ESMs and that this could help increase the pace of un-
derstanding model behaviour and consequentially also the
rate of model improvement. Here we highlight several ex-
amples of capabilities that are currently under development
and relevant to the goal of developing routine evaluation of
CMIP simulations. Table 2 provides examples for existing
diagnostic tools that can be used within CMIP6. Specifics of
the design and the diagnostics included in these tools are de-
tailed in the corresponding documentations of the tools that
we refer to in the text and Table 2. Here, we only provide a
brief overview and show a few examples of the type of plots
that could be produced as soon as the model output is sub-
mitted to the ESGF. An up-to-date version of available tools
will be catalogued by the WCRP’s Working Group on Nu-
merical Experimentation (WGNE)/WGCM Climate Model
Diagnostics and Metrics Panel and maintained via an Earth
System CoG site. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 818 Figure 2. Examples of performance metrics and diagnostics that will be calculated from CMIP6 models with the ESMValTool (Eyring et
al., 2016b) as soon as the output is submitted to the ESGF. (a) Taylor diagram showing the 20-year annual average performance of CMIP5
models for total cloud fraction as compared to MODIS satellite observations, (b) aerosol optical depth from ESA-CCI satellite data (contours)
compared with station measurements by AERONET (circles), (c) an emergent constraint on the carbon cycle–climate feedback (γLT) based
on the short-term sensitivity of atmospheric CO2 to interannual temperature variability (γIAV) in the tropics, (d) modelled and observed time
series of September mean Arctic sea-ice extent, (e) RMSD metric of several components of the global carbon cycle, and (f) annual-mean
precipitation rate (mm day−1) bias from the CMIP5 multi-model mean compared to the Global Precipitation Climatology Project. Figure 2. Examples of performance metrics and diagnostics that will be calculated from CMIP6 models with the ESMValTool (Eyring et
al., 2016b) as soon as the output is submitted to the ESGF. (a) Taylor diagram showing the 20-year annual average performance of CMIP5
models for total cloud fraction as compared to MODIS satellite observations, (b) aerosol optical depth from ESA-CCI satellite data (contours)
compared with station measurements by AERONET (circles), (c) an emergent constraint on the carbon cycle–climate feedback (γLT) based
on the short-term sensitivity of atmospheric CO2 to interannual temperature variability (γIAV) in the tropics, (d) modelled and observed time
series of September mean Arctic sea-ice extent, (e) RMSD metric of several components of the global carbon cycle, and (f) annual-mean
precipitation rate (mm day−1) bias from the CMIP5 multi-model mean compared to the Global Precipitation Climatology Project. 2.2
Community tools for Earth system model evaluation
ready for CMIP6 2.2
Community tools for Earth system model evaluation
ready for CMIP6 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP The
obs4MIPs protocol requires every dataset submitted to be ac-
companied by a technical note, which includes, for example,
discussion of uncertainties and guidance as to aspects of the
data product that are particularly relevant to model evalua-
tion. Similar documentation efforts for observations specifi-
cally meant for use in model evaluation can be found at the
National Center for Atmospheric Research (NCAR) climate
data guide.7 Ideally, standard technical documentation as de-
fined by obs4MIPs will be adopted broadly by the interna-
tional observational community and will be hosted alongside
(or integrated with) the CMIP model and simulation standard
documentation (ES-DOC). Additionally, there are proposals
being considered to include non-gridded data in obs4MIPs
(e.g. data collected by ground stations or during aircraft cam-
paigns), and the possibility that auxiliary data such as land–
sea masks, averaging kernels, and additional uncertainty data
might also be provided. Whatever datasets are used for model
evaluation, it will be important to determine the size of ob-
servational error relative to the errors in the models. One ap-
proach being developed is to provide ensembles of observa-
tional estimates, all based on a single sensor or product and
generated by making many different choices of retrieval al-
gorithms or parameters, all considered to be reasonable. The
goal is to be able to extend obs4MIPs in order to better char-
acterize observational uncertainty. Earth Syst. Dynam., 7, 813–830, 2016 Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 2.2.1
Evaluation tools targeting the broad
characterization of ESMs in CMIP6 Example plots produced with PMP are shown in
Fig. 3. The first examines how well simulated sea ice
agrees with measurements on sector scales and demon-
strates that the classical measure of total sea-ice area
is often misleading because of compensating errors
(Ivanova et al., 2016). The second highlights the am-
plitude and phase of the diurnal cycle of precipitation
(Covey et al., 2016), and the third example is given by a
“portrait plot” comparing different versions of the same
model (Gleckler et al., 2016) in Atmospheric Model In-
tercomparison Project (AMIP) mode. Both software packages are open-source, have a wide
range of functionalities, and are being developed as com-
munity tools with the involvement of multiple institutions. CMIP6 modelling groups and users of the CMIP6 data can
make use of the evaluation results that are produced with
these tools which will be made available to the wider com-
munity. They can also download the source code and can run
the tools locally before submission of the results to the ESGF
for an additional quality check of the simulations. Here we summarize some aspects of these tools but refer
the reader to their respective documentation in the literature
for further details. – The ESMValTool (Eyring et al., 2016b) consists of
a workflow manager and a number of diagnostic and
graphical output scripts. The workflow manager is writ-
ten in Python, whereas multi-language support is pro-
vided for the diagnostic and graphic routines. The ES-
MValTool workflow is controlled by a main namelist file
defining the model and observational data to be read, the
variables to be analysed, and the diagnostics to be ap-
plied. The priority of the effort so far has been to target
specific scientific themes focusing on selected essential
climate variables (ECVs); a range of known systematic
biases common to ESMs, such as coupled tropical cli-
mate variability, monsoons, Southern Ocean processes,
continental dry biases and soil hydrology–climate in-
teractions; atmospheric CO2 budgets; tropospheric and
stratospheric ozone; and tropospheric aerosols. ESM-
ValTool v1.0 includes a large collection of standard
namelists for reproducing the analysis of many variables
across atmosphere, ocean, and land domains, with diag-
nostics and performance metrics focusing on the mean
state, trends, variability and important processes, phe-
nomena, and emergent constraints. 2.2.1
Evaluation tools targeting the broad
characterization of ESMs in CMIP6 The collection of
standard namelists allows for reproduction of, for ex-
ample, the figures from the climate model evaluation
chapter of IPCC AR5 (Chapt. 9; Flato et al., 2013)
and parts of the projection chapter (Chapt. 12; Collins
et al., 2013b), a portrait diagram comparing the time-
mean root mean square difference (RMSD) over dif-
ferent subdomains as in Gleckler et al. (2008) and for
land and ocean components of the global carbon cycle
as in Anav et al. (2013). ESMValTool v1.0 also includes
stand-alone packages such as the NCAR CVDP and
the cloud regime metric developed by the Cloud Feed-
back MIP (CFMIP) community (Williams and Webb,
2009), as well as detailed diagnostics for monsoon, El
Niño–Southern Oscillation (ENSO), and the Madden–
Julian Oscillation (MJO). Example plots that illustrate
the type of plots that will be produced with ESMVal- Both tools are under rapid development with a priority of
providing a diverse suite of diagnostics and performance
metrics for all DECK and historical simulations in CMIP6 to
researchers and model developers suitable for use soon after
each simulation is published on the ESGF. Since these tools
are freely available, modelling groups participating in CMIP
can additionally make use of these packages. They could
choose, for example, to utilize the tools during the model
development process in order to identify relative strengths
and weaknesses of new model versions also in the context
of the performance of other models or they could run the
tools locally before publishing the model output to the ESGF. The tools are therefore highly portable and have been tested
across different platforms. The packages are designed to en-
able community contributions, with all results made highly
traceable and reproducible. Collectively, the ESMValTool,
PMP, and other efforts such as those mentioned in Sect. 2.2.2
below offer valuable capabilities that will be crucial for the
systematic evaluation of the wide variety of models and
model versions contributing to CMIP6. 8https://verc.enes.org/models/support-service-for-model-users-1 2.2.1
Evaluation tools targeting the broad
characterization of ESMs in CMIP6 Our initial goal is the coupling of two capabilities to the
ESGF to produce a broad characterization of CMIP6 DECK
and historical simulations as soon as new model experiments
are published on the CMIP6 archive: the Earth System Model
Evaluation Tool (ESMValTool), which includes other model
evaluation packages such as the NCAR Climate Variability
Diagnostics Package (CVDP; see Sect. 2.2.2 and Table 2),
and the PCMDI Metrics Package (PMP). The foundation that
will enable this quasi-operation evaluation of the models to
be efficient and systematic is the community-based experi- Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 819 Tool for CMIP6 are illustrated in Fig. 2, and we refer
the reader to the corresponding literature and the ESM-
ValTool website (see Table 2) for full details. mental protocols and conventions of CMIP, including their
aforementioned extensions to obs4MIPs and ana4MIPs (see
Sect. 2.1). These evaluation tools are designed to exploit the
data standards used in CMIP. – The PMP (Gleckler et al., 2016) includes a diverse
suite of summary statistics to objectively gauge the level
of agreement between model simulations and observa-
tions across a broad range of space and timescales. It
is built on the Python and Ultrascale Visualization Cli-
mate Data Analysis Tools (UV-CDAT; Williams, 2014),
a powerful software tool kit that provides cutting-edge
data management, diagnostic, and visualization capabil-
ities. Example plots produced with PMP are shown in
Fig. 3. The first examines how well simulated sea ice
agrees with measurements on sector scales and demon-
strates that the classical measure of total sea-ice area
is often misleading because of compensating errors
(Ivanova et al., 2016). The second highlights the am-
plitude and phase of the diurnal cycle of precipitation
(Covey et al., 2016), and the third example is given by a
“portrait plot” comparing different versions of the same
model (Gleckler et al., 2016) in Atmospheric Model In-
tercomparison Project (AMIP) mode. – The PMP (Gleckler et al., 2016) includes a diverse
suite of summary statistics to objectively gauge the level
of agreement between model simulations and observa-
tions across a broad range of space and timescales. It
is built on the Python and Ultrascale Visualization Cli-
mate Data Analysis Tools (UV-CDAT; Williams, 2014),
a powerful software tool kit that provides cutting-edge
data management, diagnostic, and visualization capabil-
ities. 2.2.2
Evaluation tools targeting specific applications or
phenomena Some other tools are being developed specifically to address
targeted applications or phenomena. For example, the Euro-
pean Network for Earth System Modelling (ENES) portal8
provides open-source evaluation tools for specific applica-
tions that include chemistry–climate models (Gettelman et www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 820 Figure 3. Examples of the kind of summary statistics that will be calculated from CMIP6 models with the PMP (Gleckler et al., 2016) as
soon as the output is submitted to the ESGF: (a) harmonic dial plots of the amplitude and phase of Fourier components, after vector averaging
over land and ocean areas separately, (b) model ranking using mean-square error (MSE) of the total sea-ice area annual cycle versus an MSE
constructed to include spatial information on sector scales, and (c) relative error measures of different developmental tests of the Geophysical
Fluid Dynamics Laboratory (GFDL) model in AMIP mode. Figure 3. Examples of the kind of summary statistics that will be calculated from CMIP6 models with the PMP (Gleckler et al., 2016) as
soon as the output is submitted to the ESGF: (a) harmonic dial plots of the amplitude and phase of Fourier components, after vector averaging
over land and ocean areas separately, (b) model ranking using mean-square error (MSE) of the total sea-ice area annual cycle versus an MSE
constructed to include spatial information on sector scales, and (c) relative error measures of different developmental tests of the Geophysical
Fluid Dynamics Laboratory (GFDL) model in AMIP mode. al., 2012), the aerosol component of ESMs, a satellite simula-
tor package for satellite observations of ocean surface fluxes,
and an objective recognition algorithm for properties of mid-
latitude storms. the same scientific metrics incorporated into different techni-
cal frameworks. The wider community is being encouraged to contribute
to the development of these tools by adding code for addi-
tional diagnostics. We refer the reader to the literature of the
individual tools for details on how the development teams
invite these contributions. The free availability of the codes
should facilitate this task and also help to increase code qual-
ity. 2.2.2
Evaluation tools targeting specific applications or
phenomena We stress again that the focus of these evaluation tools
is on reproducing standard evaluation tasks and not on per-
forming generic data processing task, such as extracting, for
example, monthly or zonal means, or reducing or regridding
model data. Although they could be in principle used just for
data processing, this is not their main goal and they may not
include all the functionalities typically covered by pure data-
processing tools. Other examples are the NCAR CVDP, which has been de-
signed to work on CMIP output and provides analysis of the
major modes of climate variability in models and observa-
tions (Phillips et al., 2014). The NCAR CVDP is also imple-
mented as a stand-alone namelist in the ESMValTool. Fig-
ure 4 shows a comparison of the CMIP5 models with ob-
servations for the Pacific Decadal Oscillation (PDO) to il-
lustrate the kind of plots that can be produced with CVDP. Other available model evaluation packages that could be ap-
plied to CMIP6 output are the International Land Modeling
Benchmarking Project (ILAMB), focusing on the represen-
tation of the carbon cycle and land surface processes in cli-
mate models via extensive comparison of model results with
observations (Luo et al., 2012). Still other packages target
model evaluation methods that are computationally demand-
ing such as the parallel toolkit for extreme climate analysis
(TECA; Prabhat et al., 2012). 2.3
Integration of evaluation tools in ESGF infrastructure 2.3
Integration of evaluation tools in ESGF infrastructure In order to connect multivariate results from multiple mod-
els and multiple observational datasets (Sect. 2.1) with
tools for a quasi-operational evaluation of the CMIP models
(Sect. 2.2), an efficient ESGF infrastructure is needed that
can handle the vast amount of data and execute the evalua-
tion tools. At the same time the workflow should be captured
so that the evaluation procedure can be reproduced as new
model output becomes available. This will allow changes in
model performance to be monitored over a time frame of
many years. Our expectation is that, for CMIP6, the ESMVal-
Tool and PMP, with contributions from other efforts such as
the NCAR CVDP and ILAMB packages, will be able to oper-
ate directly on the data served by the major ESGF data nodes. While it was and is possible to run analysis tools over the
CMIP5 archive, it was difficult, error-prone, and not widely
done. The proposed new functionality for CMIP6 is a step to- There is some overlap in function between the ESMVal-
Tool and PMP and the other tools mentioned above, but ef-
forts are underway to provide some coordination between
these developing capabilities to reduce duplication of effort
and to help ensure they advance in a way that best serves
the CMIP modelling and research communities, including
the modelling groups themselves. In any case, encouraging
a diversity of technical approaches and tools rather than a
single one may at this stage be beneficial as it will provide
experience that will help guide a more integrated approach
in the longer term, perhaps as the community prepares for
CMIP7 and beyond. Current testing with the same RMSD
and ENSO metrics implemented in both the ESMValTool and
PMP should inform such comparisons and reliability tests of Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP wards improved and more routine Earth system model evaluation in CMIP 821 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP
821
Figure 4. Examples of the kind of plots that will be calculated from CMIP6 models with the NCAR CVDP (Phillips et al., 2014) ESMValTool
namelist as soon as the output is submitted to the ESGF. 2.3
Integration of evaluation tools in ESGF infrastructure The figure shows the PDO as simulated by 41 CMIP5 models (individual panels
labelled by model name) and observations (upper left panel) for the historical period 1900–2005. Figure 4. Examples of the kind of plots that will be calculated from CMIP6 models with the NCAR CVDP (Phillips et al., 2014) ESMValTool
namelist as soon as the output is submitted to the ESGF. The figure shows the PDO as simulated by 41 CMIP5 models (individual panels
labelled by model name) and observations (upper left panel) for the historical period 1900–2005. Figure 4. Examples of the kind of plots that will be calculated from CMIP6 models with the NCAR CVDP (Phillips et al., 2014) ESMValTool
namelist as soon as the output is submitted to the ESGF. The figure shows the PDO as simulated by 41 CMIP5 models (individual panels
labelled by model name) and observations (upper left panel) for the historical period 1900–2005. ward what should become a tighter integration of model anal-
ysis tools with data servers. This advancement will be partic-
ularly advantageous given the very large and complex CMIP
data archive. Here we describe the necessary associated in-
frastructural changes that need to be made to enable this for
CMIP6. As we provide an overview of the challenges emerg-
ing from the desire to move towards more routine evaluation
of the models in future CMIP phases, it should be understood
that actual implementation will require specification of many
important technical details not addressed here. vations used by the evaluation tools. Although these repli-
cas typically represent a significant subset of the data vol-
ume available on the ESGF, especially at the larger ESGF
nodes, the complete replication of the entire CMIP model
output at a single ESGF site cannot be achieved. As a con-
sequence, some of the required CMIP model output used in
the evaluation tools might still not be available even on the
largest ESGF nodes. There are two practical solutions: (1) to
distribute the processing of the evaluation tools at different
ESGF nodes, and (2) to acquire and potentially cache data as
needed for the evaluation tools. We regard the first option as
not being practical in the CMIP6 time frame but a possibly
promising option in the long term. It is envisaged that the evaluation tools will be executed at
one or more of the ESGF sites that host copies (i.e. www.earth-syst-dynam.net/7/813/2016/ 2.3
Integration of evaluation tools in ESGF infrastructure Schematic diagram of the envisaged evaluation tool pro-
cessing stream for CMIP6. The schematic displays how the tools
will be executed directly on ESGF supernodes exploiting opti-
mized ESGF data organization and software solutions (see details
in Sect. 2.3). The second option that we envisage to be feasible for
CMIP6 is schematically displayed in Fig. 5. The evaluation
tools are executed with specific user configurations (e.g. the
ESMValTool namelists; Eyring et al., 2016b). These user
configurations also include the list of model and observa-
tional data to be analysed. Tools such as esgf-pyclient9 and
synda10 exist which allow interrogation of local and dis-
tributed node data and which could transfer the necessary
data into either a cache or the ESGF replica storage. OPeN-
DAP11 could also be used without the necessity for a cache. However, the workflow for managing this process does not
yet exist and needs to be developed. Given the huge vol-
umes of the ESGF data collections, it is realistic to assume
that the requisite data will be maintained only at specific
ESGF nodes where the evaluation tools will be executed. It
is therefore realistic that within CMIP6 the evaluation tools
will be installed and operated on selected ESGF supernodes
only, currently expected to be those hosted by seven climate
data centres on four continents (Beijing Normal University
(China), Centre for Environmental Data Analysis (CEDA,
UK), Deutsches Klimarechenzentrum (DKRZ, Germany),
Institut Pierre Simon Laplace (IPSL, France), Lawrence Liv-
ermore National Laboratory (LLNL, USA), National Com- A coordinated set of community-based diagnostic pack-
ages will require standards and conventions to be adopted
governing the analysis interface and the output produced by
the diagnostic procedures. Clear documentation of the pro-
cedures and codes is required, as are standards for all key
interfaces. Because working towards a community-based ap-
proach represents a shift in CMIP procedure, like the data
standards themselves it will likely take considerable time and
effort to establish agreed-upon software standards. In the in-
terim, substantial progress can be made by expert teams de-
veloping diagnostic tools if they follow a set of best practices
and reasonable efforts are made to coordinate them where
possible. During this period the different approaches avail-
able can be assessed, and further experience with them can
help lead to advancing community-based interfaces. 2.3
Integration of evaluation tools in ESGF infrastructure “repli-
cas”) of most of the required CMIP datasets and the obser- Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 822 putational Infrastructure (NCI, Australia), and the University
of Tokyo (Japan); see Williams et al., 2015). These supern-
odes will need to provide the necessary storage and com-
puting resources and be integrated into the ESGF replication
infrastructure, which optimizes data transport between core
ESGF sites. Since it will take substantial time to replicate all
output from the CMIP DECK and historical simulations to
the supernodes (similar replications took months in CMIP5),
we have recommended to the ESGF teams that the data used
by the CMIP evaluation tools be replicated with higher pri-
ority. This should substantially speed up the evaluation of
model results after submission of the simulation output to the
ESGF. A prerequisite for this is that the evaluation tools pro-
vide an overview of the experiments, the subset of data from
the CMIP6 data request, and the observations and reanaly-
ses that are used. In the long term (e.g. in time for CMIP7),
more automatic and rapid procedures could be developed so
that the evaluation tools could be run as part of the publica-
tion process of the model output. Figure 5. Schematic diagram of the envisaged evaluation tool pro-
cessing stream for CMIP6. The schematic displays how the tools
will be executed directly on ESGF supernodes exploiting opti-
mized ESGF data organization and software solutions (see details
in Sect. 2.3). Executing the evaluation tools directly alongside the
ESGF may also require the extension of the current hardware
and software infrastructure to implement processing capabil-
ities where the tools can be run. This infrastructure will need
to include new interfaces to computers, and should allow for
flexible deployment and usage scenarios since we can foresee
application in a spectrum of possible environments discussed
above. Given the large amount of data involved, paralleliza-
tion of the data handling in the evaluation tools themselves
needs to be considered in order to efficiently process the large
amount of data. A number of different technical solutions are
possible, but in Europe at least, it is likely that supernodes
will deploy web processing services12 exposing the diagnos-
tic codes as “capabilities” to new ESGF portals which exploit
backend computing and access to the ESGF data nodes. Figure 5. 9https://pypi.python.org/pypi/esgf-pyclient
10https://github.com/Prodiguer/synda
11http://www.opendap.org 12http://www.opengeospatial.org/standards/wps www.earth-syst-dynam.net/7/813/2016/ Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 823 Figure 6. Schematic diagram of routine evaluation of CMIP DECK experiments and the CMIP historical simulations that is envisaged in
the long term. The evaluation tools would be executed quasi-operationally to produce a broad characterization of model performance as
part of the ESGF publishing workflow, as could documentation and visual displays of the evaluation results with records of provenance. This example shows four different models that contribute with different model versions (V1–4) over time throughout CMIP6 and following
phases. Figure 6. Schematic diagram of routine evaluation of CMIP DECK experiments and the CMIP historical simulations that is envisaged in
the long term. The evaluation tools would be executed quasi-operationally to produce a broad characterization of model performance as
part of the ESGF publishing workflow, as could documentation and visual displays of the evaluation results with records of provenance. This example shows four different models that contribute with different model versions (V1–4) over time throughout CMIP6 and following
phases. tomatically and made available within the ESGF web service
as well as in the local viewer. that early ESGF resources will be allocated to the tool devel-
opers to provide diagnostics products centrally rather than
for open computing on demand by multiple users. Multiple
users could, however, still make profitable use of the tools
by downloading the source codes and running them on their
own local systems. For more information regarding ESGF’s
infrastructure and progress towards computing and tool inte-
gration, please see the 2016 5th Annual ESGF Face-to-Face
Conference Report.13 To summarize, we will begin in the CMIP6 time frame
with the deployment of a subset of packages, in particu-
lar the ESMValTool (which itself includes other well-known
packages such as NCAR CVDP) and PMP and run them
on or alongside ESGF supernodes. Starting with available
data in existing CMIP5 replica caches, the evaluation pack-
age developments are tested at dedicated sites (some of the
supernodes) and prepared for CMIP6. In parallel, develop-
ments with respect to the supporting infrastructure (replica-
tion, cache maintenance, provenance recording, parallel pro-
cessing) are starting. We expect this initial effort to spur de-
velopments toward a uniform approach to analytic package
deployment. 13http://esgf.llnl.gov/media/pdf/2015-ESGF_F2FConference_
report_web.pdf 2.3
Integration of evaluation tools in ESGF infrastructure During
this time it will also be possible to experiment with different
approaches to delivering the required computing within or
alongside the ESGF. Given that the amount of necessary and
affordable computing resources is not yet clear, it is likely Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CM www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 3
Current Earth system model evaluation
approaches and scientific challenges Establishing a more routine evaluation approach based on
performance metrics and diagnostics that have been com-
monly used in ESM evaluation in the peer-reviewed literature
will complement model evaluation analyses existing at each
individual modelling group and will more rapidly allow mod-
elling groups and users of CMIP output to identify strengths
and weaknesses of the simulations in a shared and multi-
model framework. This will constitute an important step for-
ward that will help uncover some of the main characteristics
of CMIP models. However, in order to fill some of the main
long-standing scientific gaps around systematic biases in the
models and the spread of the models’ responses to external
forcings as evident, for example, in the large spread in equi-
librium climate sensitivity in CMIP5 models (Collins et al.,
2013b), additional research is required so that more relevant
performance tests can be developed that could at a later stage
be added to the community tools. The interpretation of the model evaluation results requires
a precise understanding of a model’s configuration and the
experimental conditions. Although these requirements are
not new for CMIP, the plan to carry out routine model eval-
uation increases the priority for enhancing documentation in
these respects. In CMIP5 with over 1000 different model–
experiment combinations, the first attempt was made to cap-
ture structured metadata describing the models and the sim-
ulations themselves (Guilyardi et al., 2013). Based upon the
Common Information Model (CIM; Lawrence et al., 2012),
the European Metafor and US Earth System Curator projects
worked together to provide tools to capture documentation of
models and simulations. This effort is now continuing as part
of the international ES-DOC activity, which defines common
controlled vocabularies (CVs) that describe models, simula-
tions, forcings, and conformance to MIP protocols. Informa-
tion from this structured representation of models and ex-
periments can be extracted to provide comparative views of
differences across models. Feedback from the CMIP5 survey
indicates that improvements in methodology used to record
model documentation consistent with the CIM are needed. These developments are currently underway and will be im-
plemented in time for CMIP6. With the focus here on model
evaluation, we anticipate expanding model documentation in
the longer term to include metrics of the model scientific per-
formance in order to help characterize the simulations. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMI 824 2.4
Data documentation, provenance, and visualization tion of the evaluation diagnostics and metrics generated by
the tools is also envisaged for CMIP6; see also Sect. 2.3. 2.4
Data documentation, provenance, and visualization For CMIP6, a specific goal will be to use the analysis tools
currently being developed and to execute them on the ESGF
once CMIP6 model output is published to provide a com-
prehensive evaluation of model behaviour. To document the
process and to ensure traceability and reproducibility of the
evaluation tool results, a catalogue will be created, including
all the relevant information about models, observations, and
versions of the tools used for evaluation along with informa-
tion on the creation date of running the script, applied diag-
nostics and variables, and corresponding references. In this
way, a record of model evolution and performance through
different CMIP phases would be preserved and tracked over
time (see Fig. 6). In the long term, such an evaluation could
be part of the publication workflow (Sect. 2.3). 3
Current Earth system model evaluation
approaches and scientific challenges Unlike numerical weather prediction models, which can
routinely be tested against observations on a daily ba-
sis, ESMs produce their own interannual variability and
“weather”, meaning that they cannot be compared with ob-
servations of a specific day, month, or year but rather only
evaluated in a statistical sense over a longer, climate-relevant
time period, except when they are run in offline mode and
nudged towards, for example, observed meteorology (e.g. Righi et al., 2015). Confidence in ESMs relies on them be-
ing based on physical principles and able to reproduce many
important aspects of observed climate (Flato et al., 2013). Assessing ESMs’ performance is essential as they are used
to understand historical and present-day climate and to make
scenario-based projections of the Earth’s climate over many
decades and centuries. While significant progress has been
made in ESM evaluation over the last decades, there are
still many important scientific research opportunities and
challenges for CMIP6 that will be addressed by the vari-
ous CMIP6-Endorsed MIPs with the seven WCRP Grand
Challenges as their scientific backdrop (Eyring et al., 2016a). Stouffer et al. (2016) summarize the main CMIP5 scientific
gaps and here we review and discuss briefly only those sci-
entific challenges specifically related to model evaluation. In addition, proper data citation and provenance is re-
quired. Both model output and the observations serve as the
basis for large numbers of scientific papers. It is recognized
that sound science and due credit require (1) that data be cited
in research papers to give appropriate credit for the data cre-
ator and (2) that the provenance of data be recorded to enable
results to be verified. Although these requirements were rec-
ognized in CMIP5, an automated system to generate appro-
priate data citation information and provenance information
remained immature. For CMIP6 the WIP encourages con-
certed efforts in this area to meet the growing demand for
formal scientific literature to cite all datasets used. Visualiza- A critical aspect in ESM evaluation is that, despite signif-
icant progress in observing the Earth’s climate, the ability to
evaluate model performance is often still limited by deficien-
cies or gaps in observations (Collins et al., 2013a; Flato et
al., 2013). Additional investment in sustained observations
is required, while at the same time some improvements can
be made by fully exploiting existing observational data and
by more thoroughly taking into account observational uncer- www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Eventually we aspire to put in place a robust
and agile framework whereby new diagnostics developed by
individual scientists can quickly and routinely be deployed
on the large scale. p
In support of the ESGF infrastructure, a library will pro-
vide a system for indexing the output of the community-
based diagnostics packages and automatically generate a
user-friendly web interface for looking through the results
(i.e. “viewer”). This library will integrate with an ESGF web
service to provide a simple workflow for uploading diagnos-
tics results to a server and share them with collaborators. Each diagnostics run will generate provenance data that will
track data used for input, the version of the community-based
package, who ran the diagnostics and at which location, etc. This information would then be bundled with the output au- Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 3
Current Earth system model evaluation
approaches and scientific challenges Other examples
include constraints on the CO2 fertilization effect (Wenzel et
al., 2016a), equilibrium climate sensitivity and clouds (Fa-
sullo et al., 2015; Fasullo and Trenberth, 2012; Klein and
Hall, 2015; Sherwood et al., 2014), the austral jet stream
(Wenzel et al., 2016b), total column ozone (Karpechko et al.,
2013), and sea ice (Mahlstein and Knutti, 2012; Massonnet et
al., 2012). One should keep in mind, however, that the “emer-
gent constraint” approach is based on relationships which are
uncovered in models themselves. Moreover, we must rule out
the possibility that some apparent relationship might simply
occur by chance or because the representation of the underly-
ing physics is too simplistic. The key is whether the processes
underlying the constraints are understood and simple enough
to likely govern changes on multiple timescales (Caldwell
et al., 2014; Karpechko et al., 2013; Klocke et al., 2011). In
addition, different studies should not lead to contradictory re-
sults but rather confirm each other. As the approach is fairly
new, more work is needed to consolidate its applicability. Re-
lated to the topic on emergent constraints, more research is
required to explore the value of weighting multi-model pro-
jections based on both model performance (e.g. Knutti et al.,
2010) and model interdependence (Sanderson et al., 2015),
as well as the statistical interpretation of the model ensemble
(Tebaldi and Knutti, 2007). A wide variety of observational datasets, including the al-
ready identified ECVs (GCOS, 2010), can be used to as-
sess the evolving climate state (e.g. means, trends, extreme
events, and variability) on a range of temporal and spatial
scales. Examples include the evaluation of the simulated an-
nual and seasonal mean surface air temperature, precipitation
rate, and cloud radiative effects (e.g. Fig. 9.2–9.5 of Flato et
al., 2013). In evaluating the climate state, many studies are
limited to the end result of the combined effects of all pro-
cesses represented in CMIP simulations, and as determined
by the prescribed boundary conditions, forcings, and other
experiment specifications. While a necessary part of model evaluation, a limitation of
this approach is that it rarely reveals the extent to which com-
pensating model errors might be responsible for any realistic-
looking behaviour, and it often fails to reveal the origins of
model biases. 3
Current Earth system model evaluation
approaches and scientific challenges Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 825 compared with the observational palaeo-record (Braconnot
et al., 2012; Otto-Bliesner et al., 2009). Another increasingly
explored option is to identify apparent relationships across
an ensemble of models, between some aspect of long-term
Earth system sensitivity and an observable trend or variation
in the current climate. Such relationships are termed “emer-
gent constraints”, referring to the use of observations to con-
strain a simulated future Earth system feedback. If physically
plausible relationships can be found between, for example,
changes occurring on seasonal or interannual timescales and
changes found in anthropogenically forced climate change,
then models that correctly simulate the seasonal or interan-
nual responses could be considered more likely to make more
reliable projections. For example, Hall and Qu (2006) used
the observable variation in the seasonal cycle of the snow
albedo as a proxy for constraining the unobservable feed-
back strength to climate warming, and Cox et al. (2013) and
Wenzel et al. (2014) found a good correlation between the
carbon cycle–climate feedback and the observable sensitivity
of interannual variations in the CO2 growth rate to tempera-
ture variations in an ensemble of models, enabling the pro-
jections to be constrained with observations. Other examples
include constraints on the CO2 fertilization effect (Wenzel et
al., 2016a), equilibrium climate sensitivity and clouds (Fa-
sullo et al., 2015; Fasullo and Trenberth, 2012; Klein and
Hall, 2015; Sherwood et al., 2014), the austral jet stream
(Wenzel et al., 2016b), total column ozone (Karpechko et al.,
2013), and sea ice (Mahlstein and Knutti, 2012; Massonnet et
al., 2012). One should keep in mind, however, that the “emer-
gent constraint” approach is based on relationships which are
uncovered in models themselves. Moreover, we must rule out
the possibility that some apparent relationship might simply
occur by chance or because the representation of the underly-
ing physics is too simplistic. The key is whether the processes
underlying the constraints are understood and simple enough
to likely govern changes on multiple timescales (Caldwell
et al., 2014; Karpechko et al., 2013; Klocke et al., 2011). In
addition, different studies should not lead to contradictory re-
sults but rather confirm each other. As the approach is fairly
new, more work is needed to consolidate its applicability. www.earth-syst-dynam.net/7/813/2016/ 3
Current Earth system model evaluation
approaches and scientific challenges Re-
lated to the topic on emergent constraints, more research is
required to explore the value of weighting multi-model pro-
jections based on both model performance (e.g. Knutti et al.,
2010) and model interdependence (Sanderson et al., 2015),
as well as the statistical interpretation of the model ensemble
(Tebaldi and Knutti, 2007). With the ever-expanding range of scientific questions and
communities using CMIP output
model evaluation also tainty so that model performance can be advanced. In addi-
tion, the comparability of models and observations will need
to be further improved, for example, through the develop-
ment of simulators that take into account the features of the
specific instrument (Aghedo et al., 2011; Bodas-Salcedo et
al., 2011; Jöckel et al., 2010; Santer et al., 2008; Schutgens et
al., 2016). Model evaluations must also take into account the
details of any model tuning (Hourdin et al., 2016; Mauritsen
et al., 2012) which necessitate comprehensive information
and documentation about what tuning went into setting up
the model, so that evaluations can be cognizant of any conse-
quences. ES-DOC will be collecting the relevant information
to aid this process. compared with the observational palaeo-record (Braconnot
et al., 2012; Otto-Bliesner et al., 2009). Another increasingly
explored option is to identify apparent relationships across
an ensemble of models, between some aspect of long-term
Earth system sensitivity and an observable trend or variation
in the current climate. Such relationships are termed “emer-
gent constraints”, referring to the use of observations to con-
strain a simulated future Earth system feedback. If physically
plausible relationships can be found between, for example,
changes occurring on seasonal or interannual timescales and
changes found in anthropogenically forced climate change,
then models that correctly simulate the seasonal or interan-
nual responses could be considered more likely to make more
reliable projections. For example, Hall and Qu (2006) used
the observable variation in the seasonal cycle of the snow
albedo as a proxy for constraining the unobservable feed-
back strength to climate warming, and Cox et al. (2013) and
Wenzel et al. (2014) found a good correlation between the
carbon cycle–climate feedback and the observable sensitivity
of interannual variations in the CO2 growth rate to tempera-
ture variations in an ensemble of models, enabling the pro-
jections to be constrained with observations. 3
Current Earth system model evaluation
approaches and scientific challenges To learn more about the sources of errors and
uncertainties in models and thereby highlight specific areas
that require improvements, evaluation of the underlying pro-
cesses and phenomena is necessary. This approach hones in
on the sources of model errors by performing process- or
regime-oriented evaluations (Bony et al., 2006, 2015; Eyring
et al., 2005; Waugh and Eyring, 2008; Williams and Webb,
2009). Indeed, the metrics need to be sufficiently broad in
scope in order to avoid tuning towards a small subset of met-
rics. As an example of broad metrics applied successfully
on a process-based manner to models, we refer the reader to
the SPARC CCMVal report (SPARC-CCMVal, 2010). Other
targeted diagnostics can determine the extent to which spe-
cific phenomena (such as natural, unforced modes of climate
variability like ENSO) are accurately represented by models
(Bellenger et al., 2014; Guilyardi et al., 2009; Sperber et al.,
2013). With the ever-expanding range of scientific questions and
communities using CMIP output, model evaluation also
needs to be expanded to develop more downstream, user-
oriented diagnostics and metrics that are relevant for impact
studies, such as statistics (e.g. frequency and severity) of ex-
treme events that can potentially have a significant impact on
ecosystems and human activities (e.g. Ciais et al., 2005), or
diagnostics for water management (e.g. Sun et al., 2007) or
the energy sector (e.g. Schaeffer et al., 2012). Another long-standing open scientific question is the miss-
ing relation between model performance and future projec-
tions. While the evaluation of the evolving climate state and
processes can be used to build confidence in model fidelity,
this does not guarantee the correct response to changing forc-
ings in the future. One strategy is to compare model results
against palaeo-observations. The response of ESMs to forc-
ings that have been experienced during, for example, the Last
Glacial Maximum or the mid-Holocene can be assessed and Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMI V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 826 mation would, for example, help the climate community to
analyse the multi-model ensemble and would facilitate the
comparison of models more generally. 4
Summary and discussion We provide a viewpoint here that advocates the develop-
ment of community evaluation tools and the associated in-
frastructure that as part of CMIP6 will enable increasingly
systematic and efficient ESM evaluation. This is an improve-
ment over the existing CMIP infrastructure, which mainly
only supports access to the data in the CMIP database. The
initial goal is to make available in shared, common anal-
ysis packages a fairly comprehensive suite of performance
metrics and diagnostics, including those that appeared in
the IPCC’s AR5 chapter on climate model evaluation (Flato
et al., 2013). Over time, an expanding collection of per-
formance metrics and diagnostics would be produced for
successive model generations. These baseline measures of
model performance, applied at the time new model results
are archived, would also likely uncover obvious mistakes in
data processing and metadata information, thereby providing
an additional level of quality control on output submitted to
the CMIP archive. Routine evaluation of the ESMs cannot
and is not meant to replace cutting-edge and in-depth explo-
rative multi-model analysis and research, in particular within
the various CMIP6-Endorsed MIPs. Rather, the routine eval-
uation would complement CMIP research by providing com-
prehensive baseline documentation of broad aspects of model
behaviour. Furthermore, the use of the broad set of diagnos-
tics offered by the tools highlighted here also reduces the risk
that model performance is tuned to a single or limited set of
metrics. y
Modelling centres now periodically produce and distribute
data compliant with the CMIP data standards and conven-
tions. These standards critically underpin the multi-model
analyses that play an ever-increasing role in supporting and
enabling climate science. Development of an analysis and
evaluation framework requires ongoing maintenance and
evolution of that existing infrastructure. Observational and
reanalysis data are also produced now in accordance with
well-defined specifications and are stored on ESGF data
nodes as part of obs4MIPs and ana4MIPs. The modelling,
observational, and reanalysis communities should continue
to nurture these efforts and ensure that these datasets include
documentation in the form of technical notes, uncertainty in-
formation, and any special guidance on how to use the obser-
vations to evaluate models. This encapsulates ongoing efforts
of the WCRP’s data advisory council. 3
Current Earth system model evaluation
approaches and scientific challenges In addition, the diag-
nostic tools could also be run locally by individual modelling
groups to provide an initial check of the quality of their sim-
ulations before submission to the ESGF, thereby accelerat-
ing the model development/improvement process. The ES-
MValTool (Eyring et al., 2016b) and the PMP (Gleckler et
al., 2016) are now available to directly run on CMIP6 model
output and observations alongside the ESGF and will form
the starting point for routine evaluation of CMIP6 models. An international strategy is required to organize and present
results from these tools and to develop a set of performance
metrics and diagnostics that are most relevant for climate
change studies. The WGNE/WGCM Climate Model Diag-
nostics and Metrics Panel is in the process of defining such a
strategy in collaboration with the CMIP Panel and the CMIP
community. Such a strategy should also propose a way to
mitigate the risk of restricting the evaluation of models to a
predefined set of – possibly rapidly aging – metrics, however
comprehensive, or to a limited subset of models or model en-
sembles. It should, for instance, ensure that performance and
process-based metrics definitions evolve as scientific knowl-
edge progresses. This requires that the relevant science ex-
pert groups be involved in the development so that they can
directly feed new metrics into the evaluation infrastructure. In summary, there is a large demand for substantially more
research in the area of ESM evaluation. The evaluation tools
proposed here will support this by making established ap-
proaches more routine, thus leaving more time to develop in-
novative diagnostics targeting open scientific questions such
as the ones discussed above, which will then be included in
the system as research progresses. www.earth-syst-dynam.net/7/813/2016/ Earth Syst. Dynam., 7, 813–830, 2016 References Aghedo, A. M., Bowman, K. W., Shindell, D. T., and Faluvegi,
G.: The impact of orbital sampling, monthly averaging and
vertical resolution on climate chemistry model evaluation with
satellite observations, Atmos. Chem. Phys., 11, 6493–6514,
doi:10.5194/acp-11-6493-2011, 2011. Anav, A., Friedlingstein, P., Kidston, M., Bopp, L., Ciais, P., Cox,
P., Jones, C., Jung, M., Myneni, R., and Zhu, Z.: Evaluating the
Land and Ocean Components of the Global Carbon Cycle in the
CMIP5 Earth System Models, J. Climate, 26, 6801–6843, 2013. Bellenger, H., Guilyardi, E., Leloup, J., Lengaigne, M., and Vialard,
J.: ENSO representation in climate models: from CMIP3 to
CMIP5, Clim. Dynam., 42, 1999–2018, 2014. Acknowledgements. This work was supported in part by the
European Commission’s 7th Framework Programme “InfraS-
tructure for the European Network for Earth System Modelling
Phase 2 (IS-ENES2)” project under grant agreement no. 312979. Veronika Eyring acknowledges additional funding received from
the European Union’s Horizon 2020 research and innovation
programme under grant agreement no. 641816 (CRESCENDO). V. Balaji acknowledges funding from an ExArch grant (NSF award
1119308) and support by the Cooperative Institute of Climate
Science from the National Oceanic and Atmospheric Administra-
tion, US Department of Commerce (award NA08OAR4320752). Gerald A. Meehl acknowledges support from the National Science
Foundation and from the Regional and Global Climate Modeling
Program of the US Department of Energy’s Office (DOE) of
Biological & Environmental Research (cooperative agreement
no. DE-FC02-97ER62402). Karl E. Taylor and Peter J. Gleckler
acknowledge support from the same DOE programme under
Lawrence Livermore National Laboratory as a contribution to
the US Department of Energy, Office of Science, Climate and
Environmental Sciences Division, Regional and Global Climate
Modeling Program, under contract DE-AC52-07NA27344. The
authors thank all representatives of the climate science community Bodas-Salcedo, A., Webb, M. J., Bony, S., Chepfer, H., Dufresne,
J. L., Klein, S. A., Zhang, Y., Marchand, R., Haynes, J. M., Pin-
cus, R., and John, V. O.: COSP Satellite simulation software for
model assessment, B. Am. Meteor. Soc., 92, 1023–1043, 2011. Bony, S., Colman, R., Kattsov, V. M., Allan, R. P., Bretherton, C. S.,
Dufresne, J.-L., Hall, A., Hallegatte, S., Holland, M. M., Ingram,
W., Randall, D. A., Soden, B. J., Tselioudis, G., and Webb, M. J.: How Well Do We Understand and Evaluate Climate Change
Feedback Processes?, J. Climate, 19, 3445–3482, 2006. Bony, S., Stevens, B., Frierson, D. M. W., Jakob, C., Kageyama, M.,
Pincus, R., Shepherd, T. G., Sherwood, S. 4
Summary and discussion The effort devoted to
conforming data to well-defined standards should pay off in
the long term and lead to a better process-level understand-
ing of the models and the Earth’s climate system while fully
exploiting existing observations. Our experience with past MIPs has been that initially
the threshold effort required for standardizing data output
(CMORization) is perceived as an obstacle by many groups,
but time and experience has shown that this effort is well
worth it. We have found that only standardized data get
widely used by the community, and the analysis of those data,
especially by researchers outside the major modelling cen-
tres, has been central to CMIP’s success. Once the output is
collected in a common format, a more routine and system-
atic approach to model evaluation in CMIP has clear benefits
for the scientific community. The recording of a set of in-
formative diagnostics and metrics, along with publication of
the model output itself and the model and simulation docu-
mentation, would enable anyone interested in CMIP model
output to obtain a broad overview of model behaviour soon
after the simulation has been published to the ESGF, and with
a level of efficiency that was not possible before. The infor- With an eventual multi-model evaluation infrastructure es-
tablished, we can look forward to revolutionary advancement
in how climate models are evaluated. Specifically, results
from a comprehensive suite of important climate characteris-
tics should become available soon after simulations are made
publicly available, with extensive documentation and work-
flow traceability. Moreover, modelling centres will be able
to incorporate these codes into their own development-phase
workflows to gain a more comprehensive understanding of Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 827 the performance of new model versions. The infrastructure
will enable groups of experts to develop and contribute both
standard and novel analysis codes to community-developed
diagnostic packages. The ongoing efforts to establish uni-
form standards across models and observations will lead to
standard ways to develop and integrate codes across analysis
packages and languages. who responded to the CMIP5 survey that formed much of the
basis for this and an accompanying paper on scientific needs for
CMIP6. 5
Data availability The model output from CMIP simulations as well as obser-
vations and reanalyses for model evaluation from obs4MIPs
and ana4MIPs are distributed through the Earth System Grid
Federation (ESGF) with digital object identifiers (DOIs). The
model output and obs4MIPs/ana4MIPs data are freely acces-
sible through data portals after registration. An example of
a dataset DOI can be found here: http://dx.doi.org/10.1594/
WDCC/CMIP5.MXELpc. Additional observations used for
model evaluation in the example plots shown here produced
with the ESMValTool, NCAR CVDP, and PMP are described
in the documentation papers of these tools. 4
Summary and discussion We thank Ingo Bethke, Björn Brötz, Tony Del Genio,
Larry Horowitz, Martin Juckes, John Krasting, and Bjorn Stevens
for helpful comments on an earlier version of this manuscript, and
Sébastien Denvil for many related discussions. Thanks to Luisa
Sartorelli for her help with the figures and to Simon Read for
helpful discussions and recommendations on the coupling of the
evaluation tools to the ESGF. We acknowledge the World Climate
Research Programme’s (WCRP’s) Working Group on Coupled
Modelling (WGCM), which is responsible for CMIP, and we thank
the climate modelling groups for producing and making available
their model output. The statements, findings, conclusions, and
recommendations are those of the authors and do not necessarily
reflect the views of any government agency or department. Successful realization of these plans will require our com-
munity to make a long-term commitment to support the envi-
sioned infrastructure. Moreover, the wider climate research
community will need encouragement to contribute innova-
tive analysis codes to augment the community-developed
tools already being developed. The resulting suite of diag-
nostic codes will constitute a CMIP evaluation capability that
is expected to evolve over time and be run routinely on CMIP
model simulations. At the same time, continuous innovative
scientific research on model evaluation is required if metrics
and diagnostics are to be discovered that might help in nar-
rowing the spread in future climate projections. The article processing charges for this open-access
publication were covered by a Research
Centre of the Helmholtz Association. Edited by: B. Kravitz
Reviewed by: three anonymous referees Edited by: B. Kravitz
Reviewed by: three anonymous referees V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 828 Fasullo, J. T., Sanderson, B. M., and Trenberth, K. E.: Recent
Progress in Constraining Climate Sensitivity With Model En-
sembles, Current Climate Change Reports, 1, 268–275, 2015. Ciais, P., Reichstein, M., Viovy, N., Granier, A., Ogee, J., Allard, V.,
Aubinet, M., Buchmann, N., Bernhofer, C., Carrara, A., Cheval-
lier, F., De Noblet, N., Friend, A. D., Friedlingstein, P., Grun-
wald, T., Heinesch, B., Keronen, P., Knohl, A., Krinner, G., Lous-
tau, D., Manca, G., Matteucci, G., Miglietta, F., Ourcival, J. M.,
Papale, D., Pilegaard, K., Rambal, S., Seufert, G., Soussana, J. F.,
Sanz, M. J., Schulze, E. D., Vesala, T., and Valentini, R.: Europe-
wide reduction in primary productivity caused by the heat and
drought in 2003, Nature, 437, 529–533, 2005. Ferraro, R., Waliser, D. E., Gleckler, P., Taylor, K. E., and Eyring,
V.: Evolving obs4MIPs to Support the Sixth Coupled Model In-
tercomparison Project (CMIP6), B. Am. Meteor. Soc., ES131–
ES133, doi:10.1175/BAMS-D-14-00216.1, 2015. Flato, G., Marotzke, J., Abiodun, B., Braconnot, P., Chou, S. C.,
Collins, W., Cox, P., Driouech, F., Emori, S., Eyring, V., Forest,
C., Gleckler, P., Guilyardi, E., Jakob, C., Kattsov, V., Reason, C.,
and Rummukainen, M.: Evaluation of Climate Models. In: Cli-
mate Change 2013: The Physical Science Basis. Contribution of
Working Group I to the Fifth Assessment Report of the Inter-
governmental Panel on Climate Change, edited by: Stocker, T. F., Qin, D., Plattner, G.-K., Tignor, M., Allen, S. K., Boschung,
J., Nauels, A., Xia, Y., Bex, V., and Midgley, P. M., Cambridge
University Press, Cambridge, UK and New York, NY, USA, 741–
866, 2013. Collins, M., Achuta Rao, K., Ashok, K., Bhandari, S., Mitra, A. K., Prakash, S., Srivastava, R., and Turner, A.: CORRESPON-
DENCE: Observational challenges in evaluating climate models,
Nat. Clim. Change, 3, 940–941, 2013a. Collins, M., Knutti, R., Arblaster, J., Dufresne, J.-L., Fichefet, T.,
Friedlingstein, P., Gao, X., Gutowski, W. J., Johns, T., Krinner,
G., Shongwe, M., Tebaldi, C., Weaver, A. J., and Wehner, M.:
Long-term Climate Change: Projections, Commitments and Irre-
versibility, in: Climate Change 2013: The Physical Science Ba-
sis, Contribution of Working Group I to the Fifth Assessment Re-
port of the Intergovernmental Panel on Climate Change, edited
by: Stocker, T. F., Qin, D., Plattner, G.-K., Tignor, M., Allen,
S. K., Boschung, J., Nauels, A., Xia, Y., Bex, V., and Midgley, P. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP M., Cambridge University Press, Cambridge, UK and New York,
NY, USA, 1029–1136, 2013b. GCOS: Implementation Plan for the Global Observing System for
Climate in Support of the UNFCCC, August 2010, 1–29, 2010. Gettelman, A., Eyring, V., Fischer, C., Shiona, H., Cionni, I.,
Neish, M., Morgenstern, O., Wood, S. W., and Li, Z.: A com-
munity diagnostic tool for chemistry climate model validation,
Geosci. Model Dev., 5, 1061–1073, doi:10.5194/gmd-5-1061-
2012, 2012. M., Cambridge University Press, Cambridge, UK and New York,
NY, USA, 1029–1136, 2013b. Covey, C., Gleckler, P. J., Doutriaux, C., Williams, D. N., Dai, A.,
Fasullo, J., Trenberth, K., and Berg, A.: Metrics for the Diurnal
Cycle of Precipitation: Toward Routine Benchmarks for Climate
Models, J. Climate, 29, 4461–4471, 2016. Gleckler, P. J., Taylor, K. E., and Doutriaux, C.: Performance met-
rics for climate models, J. Geophys. Res., 113, D06104, 2008. Gleckler, P. J., Doutriaux, C., Durack P. J., Taylor K. E., Zhang, Y.,
Williams, D. N., Mason, E., and Servonnat, J.: A more powerful
reality test for climate models, Eos Trans. AGU, 97, 2016. Cox, P. M., Pearson, D., Booth, B. B., Friedlingstein, P., Hunting-
ford, C., Jones, C. D., and Luke, C. M.: Sensitivity of tropical
carbon to climate change constrained by carbon dioxide variabil-
ity, Nature, 494, 341–344, 2013. Guilyardi, E., Wittenberg, A., Fedorov, A., Collins, M., Wang, C. Z., Capotondi, A., van Oldenborgh, G. J., and Stockdale, T.: Un-
derstanding El Nino in Ocean-Atmosphere General Circulation
Models Progress and Challenges, B. Am. Meteor. Soc., 90, 325,
2009. y
Eyring, V., Harris, N. R. P., Rex, M., Shepherd, T. G., Fahey, D. W., Amanatidis, G. T., Austin, J., Chipperfield, M. P., Dameris,
M., Forster, P. M. D., Gettelman, A., Graf, H. F., Nagashima, T.,
Newman, P. A., Pawson, S., Prather, M. J., Pyle, J. A., Salawitch,
R. J., Santer, B. D., and Waugh, D. W.: A Strategy for Process-
Oriented Validation of Coupled Chemistry–Climate Models, B. Am. Meteor. Soc., 86, 1117–1133, 2005. Guilyardi, E., Balaji, V., Lawrence, B., Callaghan, S., Deluca, C.,
Denvil, S., Lautenschlager, M., Morgan, M., Murphy, S., and
Taylor, K. E.: Documenting Climate Models and Their Simula-
tions, B. Am. Meteor. Soc., 94, 2013. Eyring, V., Bony, S., Meehl, G. A., Senior, C. A., Stevens, B.,
Stouffer, R. J., and Taylor, K. E.: Overview of the Coupled
Model Intercomparison Project Phase 6 (CMIP6) experimen-
tal design and organization, Geosci. References C., Siebesma, A. P.,
Sobel, A. H., Watanabe, M., and Webb, M. J.: Clouds, circulation
and climate sensitivity, Nat. Geosci., 8, 261–268, 2015. Braconnot, P., Harrison, S. P., Kageyama, M., Bartlein, P. J.,
Masson-Delmotte, V., Abe-Ouchi, A., Otto-Bliesner, B., and
Zhao, Y.: Evaluation of climate models using palaeoclimatic
data, Nat. Clim. Change, 2, 417–424, 2012. Caldwell, P. M., Bretherton, C. S., Zelinka, M. D., Klein, S. A.,
Santer, B. D., and Sanderson, B. M.: Statistical significance of
climate sensitivity predictors obtained by data mining, Geophys. Res. Lett., 41, 1803–1808, 2014. Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 829 Geosci. Model Dev., 8, 733–768, doi:10.5194/gmd-8-733-2015,
2015. Geosci. Model Dev., 8, 733–768, doi:10.5194/gmd-8-733-2015,
2015. Karpechko, A. Y., Maraun, D., and Eyring, V.: Improving Antarc-
tic Total Ozone Projections by a Process-Oriented Multiple Di-
agnostic Ensemble Regression, J. Atmos. Sci., 70, 3959–3976,
2013. Sanderson, B. M., Knutti, R., and Caldwell, P.: Addressing Interde-
pendency in a Multimodel Ensemble by Interpolation of Model
Properties, J. Climate, 28, 5150–5170, 2015. Klein, S. A. and Hall, A.: Emergent Constraints for Cloud Feed-
backs, Current Climate Change Reports, 1, 276–287, 2015. Santer, B. D., Thorne, P. W., Haimberger, L., Taylor, K. E., Wigley,
T. M. L., Lanzante, J. R., Solomon, S., Free, M., Gleckler, P. J.,
Jones, P. D., Karl, T. R., Klein, S. A., Mears, C., Nychka, D.,
Schmidt, G. A., Sherwood, S. C., and Wentz, F. J.: Consistency
of modelled and observed temperature trends in the tropical tro-
posphere, Int. J. Climatol., 28, 1703–1722, 2008. Klocke, D., Pincus, R., and Quaas, J.: On Constraining Estimates
of Climate Sensitivity with Present-Day Observations through
Model Weighting, J. Climate, 24, 6092–6099, 2011. Knutti, R., Abramowitz, G., Collins, Eyring, V., Gleckler, P. J.,
Hewitson, B., and Mearns., L.: Good Practice Guidance Paper
on Assessing and Combining Multi Model Climate Projections,
IPCC Working Group I Technical Support Unit, University of
Bern, Bern, Switzerland, 0165-0009, 2010. Schaeffer, R., Szklo, A. S., de Lucena, A. F. P., Borba, B. S. M. C.,
Nogueira, L. P. P., Fleming, F. P., Troccoli, A., Harrison, M., and
Boulahya, M. S.: Energy sector vulnerability to climate change:
A review, Energy, 38, 1–12, 2012. Laney, D.: The Importance of Big Data: A Definition, 2012. Schutgens, N. A. J., Gryspeerdt, E., Weigum, N., Tsyro, S., Goto,
D., Schulz, M., and Stier, P.: Will a perfect model agree with per-
fect observations? The impact of spatial sampling, Atmos. Chem. Phys., 16, 6335–6353, doi:10.5194/acp-16-6335-2016, 2016. Lawrence, B. N., Balaji, V., Bentley, P., Callaghan, S., DeLuca, C.,
Denvil, S., Devine, G., Elkington, M., Ford, R. W., Guilyardi,
E., Lautenschlager, M., Morgan, M., Moine, M.-P., Murphy, S.,
Pascoe, C., Ramthun, H., Slavin, P., Steenman-Clark, L., Tous-
saint, F., Treshansky, A., and Valcke, S.: Describing Earth system
simulations with the Metafor CIM, Geosci. Model Dev., 5, 1493–
1500, doi:10.5194/gmd-5-1493-2012, 2012. Sherwood, S. C., Bony, S., and Dufresne, J. L.: Spread in model
climate sensitivity traced to atmospheric convective mixing, Na-
ture, 505, 37–42, 2014. Luo, Y. Q., Randerson, J. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP T., Abramowitz, G., Bacour, C., Blyth,
E., Carvalhais, N., Ciais, P., Dalmonech, D., Fisher, J. B., Fisher,
R., Friedlingstein, P., Hibbard, K., Hoffman, F., Huntzinger, D.,
Jones, C. D., Koven, C., Lawrence, D., Li, D. J., Mahecha, M.,
Niu, S. L., Norby, R., Piao, S. L., Qi, X., Peylin, P., Prentice, I. C., Riley, W., Reichstein, M., Schwalm, C., Wang, Y. P., Xia, J. Y., Zaehle, S., and Zhou, X. H.: A framework for benchmarking
land models, Biogeosciences, 9, 3857–3874, doi:10.5194/bg-9-
3857-2012, 2012. SPARC-CCMVal: SPARC Report on the Evaluation of Chemistry-
Climate Models, edited by: Eyring, V., Shepherd, T. G., and
Waugh, D. W., SPARC Report No. 5, WCRP-132, WMO/TD-
No. 1526, 2010. Sperber, K., Annamalai, H., Kang, I. S., Kitoh, A., Moise, A.,
Turner, A., Wang, B., and Zhou, T.: The Asian summer mon-
soon: an intercomparison of CMIP5 vs. CMIP3 simulations of
the late 20th century, Clim. Dynam., 41, 2711–2744, 2013. Stouffer, R. J., Eyring, V., Meehl, G. A., Bony, S., Senior, C.,
Stevens, B., and Taylor, K. E.: CMIP5 Scientific Gaps and Rec-
ommendations for CMIP6, BAMS, accepted, doi:10.1175/bams-
d-15-00013.1, 2016. Mahlstein, I. and Knutti, R.: September Arctic sea ice predicted
to disappear near 2 degrees C global warming above present, J. Geophys. Res.-Atmos., 117, doi:10.1029/2011jd016709, 2012. Sun, Y., Solomon, S., Dai, A., and Portmann, R. W.: How often will
it rain?, J. Climate, 20, 4801–4818, 2007. Massonnet, F., Fichefet, T., Goosse, H., Bitz, C. M., Philippon-
Berthier, G., Holland, M. M., and Barriat, P. Y.: Constraining
projections of summer Arctic sea ice, The Cryosphere, 6, 1383–
1394, doi:10.5194/tc-6-1383-2012, 2012. Taylor, K. E., Stouffer, R. J., and Meehl, G. A.: An Overview of
Cmip5 and the Experiment Design, B. Am. Meteor. Soc., 93,
485–498, 2012. Mauritsen, T., Stevens, B., Roeckner, E., Crueger, T., Esch, M.,
Giorgetta, M., Haak, H., Jungclaus, J., Klocke, D., Matei,
D., Mikolajewicz, U., Notz, D., Pincus, R., Schmidt, H., and
Tomassini, L.: Tuning the climate of a global model, J. Adv. Modl. Earth Syst., 4, doi:10.1029/2012ms000154, 2012. Tebaldi, C. and Knutti, R.: The use of the multi-model ensemble
in probabilistic climate projections, Philos. T. R. Soc. A, 365,
2053–2075, 2007. Teixeira, J., Waliser, D., Ferraro, R., Gleckler, P., Lee, T., and
Potter, G.: Satellite Observations for CMIP5: The Genesis of
Obs4MIPs, B. Am. Meteor. Soc., 95, 1329–1334, 2014. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Model Dev., 9, 1937–1958,
doi:10.5194/gmd-9-1937-2016, 2016a. Hall, A. and Qu, X.: Using the current seasonal cycle to constrain
snow albedo feedback in future climate change, Geophys. Res. Lett., 33, doi:10.1029/2005gl025127, 2006. Hourdin, F., Mauritsen, T., Gettelman, A., Golaz, J.-C., Balaji, V.,
Duan, Q., Folini, D., Ji, D., Klocke, D., Qian, Y., Rauser, F.,
Rio, C., Tomassini, L., Watanabe, M., and Williamson, D.: The
art and science of climate model tuning, B. Am. Meteor. Soc.,
doi:10.1175/bams-d-15-00135.1, 2016. Eyring, V., Righi, M., Lauer, A., Evaldsson, M., Wenzel, S., Jones,
C., Anav, A., Andrews, O., Cionni, I., Davin, E. L., Deser, C.,
Ehbrecht, C., Friedlingstein, P., Gleckler, P., Gottschaldt, K.-D.,
Hagemann, S., Juckes, M., Kindermann, S., Krasting, J., Kunert,
D., Levine, R., Loew, A., Mäkelä, J., Martin, G., Mason, E.,
Phillips, A. S., Read, S., Rio, C., Roehrig, R., Senftleben, D.,
Sterl, A., van Ulft, L. H., Walton, J., Wang, S., and Williams,
K. D.: ESMValTool (v1.0) – a community diagnostic and perfor-
mance metrics tool for routine evaluation of Earth system models
in CMIP, Geosci. Model Dev., 9, 1747–1802, doi:10.5194/gmd-
9-1747-2016, 2016b. IPCC: Climate Change 2013: The Physical Science Basis. Contri-
bution of Working Group I to the Fifth Assessment Report of the
Intergovernmental Panel on Climate Change, Cambridge Univer-
sity Press, Cambridge, UK and New York, NY, USA, 1535, 2013. Ivanova, D. P., Gleckler, P. J., Taylor, K. E., Durack, P. J., and Mar-
vel, K. D.: Moving beyond the Total Sea Ice Extent in Gauging
Model Biases, J. Climate, doi:10.1175/jcli-d-16-0026.1, 2016. Jöckel, P., Kerkweg, A., Pozzer, A., Sander, R., Tost, H., Riede, H.,
Baumgaertner, A., Gromov, S., and Kern, B.: Development cycle
2 of the Modular Earth Submodel System (MESSy2), Geosci. Model Dev., 3, 717–752, doi:10.5194/gmd-3-717-2010, 2010. Fasullo, J. T. and Trenberth, K. E.: A Less Cloudy Future: The Role
of Subtropical Subsidence in Climate Sensitivity, Science, 338,
792–794, 2012. Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP www.earth-syst-dynam.net/7/813/2016/ Williams, K. and Webb, M.: A quantitative performance assessment
of cloud regimes in climate models, Clim. Dynam., 33, 141–157,
2009. V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Otto-Bliesner, B., Schneider, R., Brady, E., Kucera, M., Abe-Ouchi, Otto-Bliesner, B., Schneider, R., Brady, E., Kucera, M., Abe-Ouchi,
A., Bard, E., Braconnot, P., Crucifix, M., Hewitt, C., Kageyama,
M., Marti, O., Paul, A., Rosell-Melé, A., Waelbroeck, C., Weber,
S., Weinelt, M., and Yu, Y.: A comparison of PMIP2 model sim-
ulations and the MARGO proxy reconstruction for tropical sea
surface temperatures at last glacial maximum, Clim. Dynam., 32,
799–815, 2009. A., Bard, E., Braconnot, P., Crucifix, M., Hewitt, C., Kageyama, Waugh, D. W. and Eyring, V.: Quantitative performance met-
rics for stratospheric-resolving chemistry-climate models, At-
mos. Chem. Phys., 8, 5699–5713, doi:10.5194/acp-8-5699-2008,
2008. Wenzel, S., Cox, P. M., Eyring, V., and Friedlingstein, P.: Emer-
gent constraints on climate-carbon cycle feedbacks in the CMIP5
Earth system models, J. Geophys. Res.-Biogeosci., 119, 2014. Phillips, A. S., Deser, C., and Fasullo, J.: Evaluating Modes of Vari-
ability in Climate Models, Eos Trans. AGU, 95, 453–455, 2014. Wenzel, S., Cox, P. M., Eyring, V., and Friedlingstein, P.: Projected
land photosynthesis constrained by changes in the seasonal cycle
of atmospheric CO2, Nature, doi:10.1038/nature19772, 2016a. Prabhat, Rubel, O., Byna, S., Wu, K. S., Li, F. Y., Wehner, M., and
Bethel, W.: TECA: A Parallel Toolkit for Extreme Climate Anal-
ysis, Procedia Comput. Sci., 9, 866–876, 2012. Wenzel, S., Eyring, V., Gerber, E. P., and Karpechko, A. Y.: Con-
straining Future Summer Austral Jet Stream Positions in the
CMIP5 Ensemble by Process-Oriented Multiple Diagnostic Re- Righi, M., Eyring, V., Gottschaldt, K.-D., Klinger, C., Frank, F.,
Jöckel, P., and Cionni, I.: Quantitative evaluation of ozone and
selected climate parameters in a set of EMAC simulations, Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/ V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP Earth Syst. Dynam., 7, 813–830, 2016 V. Eyring et al.: Towards improved and more routine Earth system model evaluation in CMIP 830 Williams, K. and Webb, M.: A quantitative performance assessment
of cloud regimes in climate models, Clim. Dynam., 33, 141–157,
2009. Williams, K. and Webb, M.: A quantitative performance assessment
of cloud regimes in climate models, Clim. Dynam., 33, 141–157,
2009. gression, J. Climate, 673–687, doi:10.1175/JCLI-D-15-0412.1,
2016b. gression, J. Climate, 673–687, doi:10.1175/JCLI-D-15-0412.1,
2016b. Williams, D. N.: Visualization and Analysis Tools for Ultrascale
Climate Data, Eos, Trans. Am. Geophys. Union, 95, 377–378,
2014. Williams, D. N., Balaji, V., Cinquini, L., Denvil, S., Duffy, D.,
Evans, B., Ferraro, R., Hansen, R., Lautenschlager, M., and Tren-
ham, C.: A Global Repository for Planet-Sized Experiments and
Observations, B. Am. Meteor. Soc., 803–816, doi:10.1175/bams-
d-15-00132.1, 2015. Earth Syst. Dynam., 7, 813–830, 2016 www.earth-syst-dynam.net/7/813/2016/
|
https://openalex.org/W4211040222
|
https://acp.copernicus.org/articles/10/169/2010/acp-10-169-2010.pdf
|
English
| null |
Oxidant and particle photochemical processes above a south-east Asian tropical rain forest (the OP3 project): introduction, rationale, location characteristics and tools
| null | 2,009
|
cc-by
| 24,202
|
Overview: oxidant and particle photochemical processes above a
south-east Asian tropical rainforest (the OP3 project): introduction,
rationale, location characteristics and tools Yin5 1Lancaster Environment Centre, Lancaster University, Lancaster LA1 4YQ, UK Lancaster Environment Centre, Lancaster University, Lancaster LA1 4YQ, UK ,
y,
Q,
National Centre for Atmospheric Science, University of York, York YO10 5DD, UK p
y
3School of GeoSciences, University of Edinburgh, Edinburgh EH9 3JW, UK 4Environment Department, University of York, York YO10 5DD, UK 4Environment Department, University of York, York YO10 5DD, UK Centre for Atmospheric Science, Department of Chemistry, Cambridge University, Cambridge, CB2 6School of Earth, Atmospheric and Environmental Sciences, University of Manchester, Manchester M13 3PL, UK 6School of Earth, Atmospheric and Environmental Sciences, University of Manchester, Manch 8School of Chemistry, University of Leeds, Leeds LS2 9JT, UK 8School of Chemistry, University of Leeds, Leeds LS2 9JT, UK y
y
9CETEMPS – Dipartimento di Fisica, Universit`a di L’Aquila, 67010 Coppito, L’Aquila, Italy 9CETEMPS – Dipartimento di Fisica, Universita di L Aquila, 67010 Coppito, L Aquila, Italy
10Biogeochemistry Programme, Centre for Ecology and Hydrology, Penicuik, EH26 0QB, UK 10Biogeochemistry Programme, Centre for Ecology and Hydrology, Penicuik, EH26 0QB, UK School of the Environment, University of Leeds, Leeds, LS2 9JT, UK 11School of the Environment, University of Leeds, Leeds, LS2 9JT, UK National Center for Atmospheric Research, Boulder CO 80301, USA 12National Center for Atmospheric Research, Boulder CO 80301, USA Department of Chemistry, University of York, York YO10 5DD, UK 13Department of Chemistry, University of York, York YO10 5DD, UK Department of Chemistry, University of Leicester, Leicester LE1 7RH, UK 15Retired, formerly at Malaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor Darul Ehsan, Malaysia
16S h
l f E
i
t l S i
U i
it
f E
t A
li
N
i h NR4 7TJ UK alaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor Darul Ehsan, Malaysia Retired, formerly at Malaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor D Received: 8 July 2009 – Published in Atmos. Chem. Phys. Discuss.: 11 September 2009
Revised: 4 December 2009 – Accepted: 9 December 2009 – Published: 12 January 2010 est” (OP3) project. Fluxes and concentrations of trace
gases and particles were made from and above the rainfor-
est canopy at the Bukit Atur Global Atmosphere Watch sta-
tion and at the nearby Sabahmas oil palm plantation, using
both ground-based and airborne measurements. Here, the
measurement and modelling strategies used, the character-
istics of the sites and an overview of data obtained are de-
scribed. Atmos. Chem. Phys., 10, 169–199, 2010
www.atmos-chem-phys.net/10/169/2010/
© Author(s) 2010. This work is distributed under
the Creative Commons Attribution 3.0 License.
Atmospheric
Chemistry
and Physics
Overview: oxidant and particle photochemical processes above a
south-east Asian tropical rainforest (the OP3 project): introduction,
rationale, location characteristics and tools
C. N. Hewitt1, J. D. Lee2, A. R. MacKenzie1, M. P. Barkley3, N. Carslaw4, G. D. Carver5, N. A. Chappell1, H. Coe6,
C. Collier7, R. Commane8,*, F. Davies7, B. Davison1, P. DiCarlo9, C. F. Di Marco10, J. R. Dorsey6, P. M. Edwards8,
M. J. Evans11, D. Fowler10, K. L. Furneaux**,†, M. Gallagher6, A. Guenther12, D. E. Heard8, C. Helfter10,
J. Hopkins13, T. Ingham8, M. Irwin6, C. Jones13, A. Karunaharan14, B. Langford1, A. C. Lewis13, S. F. Lim15,
S. M. MacDonald8, A. S. Mahajan8, S. Malpass4, G. McFiggans6, G. Mills16, P. Misztal10,17, S. Moller13, P. S. Monks14,
E. Nemitz10, V. Nicolas-Perea14, H. Oetjen8, D. E. Oram16, P. I. Palmer3, G. J. Phillips10, R. Pike5, J. M. C. Plane8,
T. Pugh1, J. A. Pyle5, C. E. Reeves16, N. H. Robinson6, D. Stewart16,***, D. Stone8,11, L. K. Whalley8, and X. Yin5
1Lancaster Environment Centre, Lancaster University, Lancaster LA1 4YQ, UK
2National Centre for Atmospheric Science, University of York, York YO10 5DD, UK
3School of GeoSciences, University of Edinburgh, Edinburgh EH9 3JW, UK
4Environment Department, University of York, York YO10 5DD, UK
5Centre for Atmospheric Science, Department of Chemistry, Cambridge University, Cambridge, CB2 1EW, UK
6School of Earth, Atmospheric and Environmental Sciences, University of Manchester, Manchester M13 3PL, UK
7Centre for Environmental Systems Research, University of Salford, Salford M5 4WT, UK
8School of Chemistry, University of Leeds, Leeds LS2 9JT, UK
9CETEMPS – Dipartimento di Fisica, Universit`a di L’Aquila, 67010 Coppito, L’Aquila, Italy
10Biogeochemistry Programme, Centre for Ecology and Hydrology, Penicuik, EH26 0QB, UK
11School of the Environment, University of Leeds, Leeds, LS2 9JT, UK
12National Center for Atmospheric Research, Boulder CO 80301, USA
13Department of Chemistry, University of York, York YO10 5DD, UK
14Department of Chemistry, University of Leicester, Leicester LE1 7RH, UK
15Retired, formerly at Malaysian Meteorological Department, Jalan Sultan, Petaling Jaya, Selangor Darul Ehsan, Malaysia
16School of Environmental Sciences, University of East Anglia, Norwich NR4 7TJ, UK
17Department of Chemistry, University of Edinburgh, Edinburgh EH9 3JW, UK
*now at: School of Engineering and Applied Sciences, Harvard University, MA, USA
**formerly at: School of Chemistry, University of Leeds, Leeds LS2 9JT, UK
***now at: Department of Chemistry, University of Reading, Reading RG6 6AH, UK
†deceased Atmos. Chem. Phys., 10, 169–199, 2010
www.atmos-chem-phys.net/10/169/2010/
© Author(s) 2010. This work is distributed under
the Creative Commons Attribution 3.0 License. Atmospheric
Chemistry
and Physics Overview: oxidant and particle photochemical processes above a
south-east Asian tropical rainforest (the OP3 project): introduction,
rationale, location characteristics and tools C. N. Hewitt1, J. D. Lee2, A. R. MacKenzie1, M. P. Barkley3, N. Carslaw4, G. D. Carver5, N. A. Chappell1, H. Coe6,
C. Collier7, R. Commane8,*, F. Davies7, B. Davison1, P. DiCarlo9, C. F. Di Marco10, J. R. Dorsey6, P. M. Edwards8,
M. J. Evans11, D. Fowler10, K. L. Furneaux**,†, M. Gallagher6, A. Guenther12, D. E. Heard8, C. Helfter10,
J. Hopkins13, T. Ingham8, M. Irwin6, C. Jones13, A. Karunaharan14, B. Langford1, A. C. Lewis13, S. F. Lim15,
S. M. MacDonald8, A. S. Mahajan8, S. Malpass4, G. McFiggans6, G. Mills16, P. Misztal10,17, S. Moller13, P. S. Monks14,
E. Nemitz10, V. Nicolas-Perea14, H. Oetjen8, D. E. Oram16, P. I. Palmer3, G. J. Phillips10, R. Pike5, J. M. C. Plane8,
T. Pugh1, J. A. Pyle5, C. E. Reeves16, N. H. Robinson6, D. Stewart16,***, D. Stone8,11, L. K. Whalley8, and X. 1
Introduction Tropical and equatorial forests account for over half of the
World’s forests (1.8 billion ha) and act as a massive source
of matter and energy to the lower atmosphere. They exhibit
some of the most dynamic yet poorly understood biogeo-
chemical behaviour on Earth. This behaviour is driven by
solar radiation and is largely mediated by its transformation
into latent and sensible heat, with the concomitant uptake of
carbon by photosynthesis and the associated emission of re-
active, less-reactive and un-reactive trace gases, water vapour
and energy into the atmosphere. Simultaneously, ozone and
other trace gases, aerosol particles, and momentum, are lost
to the forest surface. A further important consequence of the
large solar radiation flux in the tropics is the very vigorous
convective uplift that occurs, which results in the rapid move-
ment of chemical species emitted at or near ground level into
the free troposphere, as shown, for example, in Surinam (An-
dreae et al., 2001). Hence reactive trace gas emissions from
the surface in the tropics may take part in chemical processes
at greater distances and at higher altitudes from their sources
than might otherwise occur. In common with the other tropical forest regions, SE Asia
is undergoing very rapid, and in some cases catastrophic,
rates of land use change. For example, in Malaysia, the area
of total land cover dedicated to oil palm plantations has in-
creased from ∼1% in 1974 to ∼13% (FAO, 2005; MPOC,
2008). In spite of attempts to implement policies to conserve
rainforest, logging of this dwindling resource continues at
a rapid rate, and natural forests are being replaced by crop
monocultures. The multi-national OP3 (“Oxidant and particle photo-
chemical processes above a south-east Asian tropical rain-
forest”) project had the goal of better understanding the inter-
actions that exist between natural forests, atmospheric com-
position and the Earth’s climate system. The project had
the specific objectives of (a) understanding how emissions
of reactive trace gases from a tropical rainforest mediate the
regional scale production and processing of oxidants and
particles, and (b) better understanding the impacts of these
processes on local, regional and global scale atmospheric
composition, chemistry and climate. Overview: oxidant and particle photochemical processes above a
south-east Asian tropical rainforest (the OP3 project): introduction,
rationale, location characteristics and tools Composition measurements show that the rainforest Abstract. In April–July 2008, intensive measurements were
made of atmospheric composition and chemistry in Sabah,
Malaysia, as part of the “Oxidant and particle photochem-
ical processes above a South-East Asian tropical rainfor- Correspondence to: C. N. Hewitt
(n.hewitt@lancaster.ac.uk) Correspondence to: C. N. Hewitt
(n.hewitt@lancaster.ac.uk) Published by Copernicus Publications on behalf of the European Geosciences Union. Published by Copernicus Publications on behalf of the European Geosciences Union. Published by Copernicus Publications on behalf of the European Geosciences Union. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 170 site was not significantly impacted by anthropogenic pollu-
tion, and this is confirmed by satellite retrievals of NO2 and
HCHO. The dominant modulators of atmospheric chemistry
at the rainforest site were therefore emissions of BVOCs and
soil emissions of reactive nitrogen oxides. At the observed
BVOC:NOx volume mixing ratio (∼100 pptv/pptv), current
chemical models suggest that daytime maximum OH con-
centrations should be ca. 105 radicals cm−3, but observed OH
concentrations were an order of magnitude greater than this. We confirm, therefore, previous measurements that suggest
that an unexplained source of OH must exist above tropical
rainforest and we continue to interrogate the data to find ex-
planations for this. Amazonia (e.g. the LBA project: Andreae et al., 2002; Avis-
sar et al., 2002), with less in Africa (e.g. the AMMA project:
Redelsperger et al., 2006) and very little in SE Asia. Un-
like the LBA and AMMA domains, which are contiguous
continental regions, the complex mosaic of tropical seas and
islands that exists in SE Asia makes the likely atmospheric
chemistry occurring there somewhat different to that else-
where. Structurally and floristically, the lowland dipterocarp
forest of SE Asia is very different to the rainforest of Ama-
zonia, and it is not known what differences this may cause in
the speciation and rates of emission of VOCs and hence in
atmospheric composition and chemistry. Furthermore, there
is strong evidence that transport from the boundary layer in
this “maritime continent” region into the upper troposphere,
and possibly subsequently into the stratosphere, is particu-
larly efficient (Fueglistaler and Haynes, 2005), so that the
region’s importance to global atmospheric processes may be
disproportionately large. 2.1
Equatorial climate and forest formations The equatorial tropics are characterised by rain throughout
the year, i.e., an absence of marked seasonal droughts. This
climatic regime covers: (i) Malaysia, Papua New Guinea and
much of Indonesia within tropical monsoon Asia, (ii) coastal
regions of Liberia, Nigeria and Cameroon, and central Congo
in Africa, and (iii) western Amazonia and a belt extend-
ing from the western Caribbean coast to the Pacific coast in
Ecuador in tropical America (McGregor and Nieuwolt, 1998;
Walsh, 1996). The equatorial tropics can be further clas-
sified into tropical superwet, tropical wet and tropical wet
seasonal, using a perhumidity index, based on a cumulative
annual score of the number of months with >200 mm (+2 in-
dex value), 100–199 mm (+1), 50–99 mm (−1) and <50 mm
(−2) of rainfall (Walsh, 1996). The extent of tropical super-
wet and wet climates (with a perhumidity index >10) shown
in Walsh (1996) is similar to the extent of tropical climates
of Asia and America lacking marked dry seasons shown in
McGregor and Nieuwolt (1998). Similarly, current models suggest that secondary organic
aerosol (SOA) in the tropics is dominated by biogenic aerosol
(e.g. Kanakidou et al., 2005), but the measurement database
is sparse. Emerging first measurements by aerosol mass
spectrometry indicate that sub-micrometre organic aerosol
concentrations are at the lower end of the model estimates,
with median concentrations of around 1 µg m−3 observed in
subtropical West Africa and Amazonia (Capes et al., 2009). Despite recent progress, our picture of the formation pro-
cesses of biogenic SOA (BSOA) is still far from complete
(Hallquist et al., 2009). Again, the suite of measurements
during OP3 was designed to improve our understanding of
the levels, composition and formation processes of BSOA in
the SE Asian domain. With the exception of the central Congo and the western
Caribbean, there is a good correspondence of regions with
a tropical wet or superwet climate and the extent of tropi-
cal lowland evergreen broadleaf rainforest. This forest for-
mation dominates within the majority of the Asian, West
African and American wet/superwet zone of the equatorial
tropics (Whitmore, 1998), and is the most common forest
formation in the tropics as a whole (Schmitt et al., 2008). However, in areas locally above 750–1200 m altitude, low-
land evergreen broadleaf rainforest grades into lower mon-
tane and then upper montane forest. 1
Introduction By very closely cou-
pling ground-based and airborne measurements of surface
fluxes and atmospheric composition of reactive trace gases
and particles with modelling studies of chemical processes,
the project aimed to address the following questions: Globally, tropical and equatorial forests are estimated
to account for almost half of all biogenic reactive volatile
organic compound (VOC) emissions into the atmosphere
(Guenther et al., 1995, 2006: global total 1150 Tg C/y, es-
timate for tropical forests ∼500 Tg C/y). These compounds
are believed to play a major role in mediating the chem-
istry of the atmosphere, yet their roles in controlling chem-
ical budgets and processes in the atmosphere on the local,
regional and global scales are poorly understood, with con-
siderable and surprising gaps and uncertainties in knowledge
remaining (e.g. Lelieveld et al., 2008). In addition, it is pos-
sible that biological primary and secondary organic particles
play a pivotal role in the formation of cloud condensation nu-
clei (CNN) and thus control precipitation patterns in forested
regions (Barth et al., 2005). 1. What are the rates of transfer of organic compounds
emitted from the tropical forest? 2. How are these organic compounds chemically pro-
cessed immediately after release? 3. To what extent do the regional organic emissions con-
tribute to the atmospheric aerosol in the region, and
what are the effects of the aerosol? What is the com-
position of the organic fraction of the aerosol? 4. What are the effects of these biogenic emissions on
global chemistry and climate? Most previous work on the interactions between tropical
forests and atmospheric composition has been carried out in Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 171 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools The OH radical initiates the oxidative degradation of biogeni-
cally emitted VOCs, and its concentration defines the rate of
production of secondary products. A consistent and impor-
tant finding from field studies conducted in forested environ-
ments, characterised by high emissions of isoprene and low
levels of NOx, is the significant underestimation of OH by
models (Lelieveld et al., 2008; Ren et al., 2008; Butler et
al., 2008; Carslaw et al., 2001; Martinez et al., 2008; Tan et
al., 2001; Kubistin et al., 2009). These model underestima-
tions scale with isoprene concentration and indicate a current
inability to correctly describe isoprene oxidation. 1
Introduction The OP3
project provided an excellent opportunity to confirm these
findings and to seek an explanation. Atmospheric chemistry
models, constrained to measured isoprene emission rates,
predict dramatic reductions in ambient OH concentrations in
forested areas, in contrast to observations and, as a conse-
quence, predict unrealistically high concentrations of other
trace gas constituents (Guenther et al., 2008). Simultane-
ous measurements of the OH concentration, isoprene con-
centration and fluxes and isoprene oxidation products were
made during OP3, together with many species that control
the rate of production and destruction of OH, providing a
stringent set of model constraints to investigate in detail any
modelled/measured discrepancies for OH. used in the project are also described, as are some prelimi-
nary conclusions. Atmos. Chem. Phys., 10, 169–199, 2010 2.2
Local climate and forest formations Tangki (2008) demonstrated that Dipterocarpaceae were the
most abundant tree family recorded for the 225 km2 area as
a whole (comprising of only lowland evergreen broadleaf
rainforest), but Euphobiaceae had become more abundant in
Coupe 88 following timber harvesting. – Malua Forest Reserve, but is less than 5 km east of
the 438 km2 area of PFE Protection Forest known as the
Danum Valley Conservation Area (DVCA). The Ulu Segama
– Malua Forest Reserve is 2411 km2 in area and is divided
into annual timber harvesting coupes. The GAW tower lies
at the centre of the 22.6 km2 “Coupe 88” which was sub-
jected to selective timber harvesting in 1988. An average of
96 m3 of timber ha−1 was cut by both tractor and high-lead
harvesting (Tangki and Chappell, 2008). The central area
of this coupe was subsequently rehabilitated by enrichment
planting (Moura-Costa, 1996). As part of a study covering a
225 km2 area Tangki and Chappell (2008) calculated an av-
erage tree biomass of 172 t ha−1 for Coupe 88, (using five
inventory plots surveyed in March 1997), and demonstrated
a strong correlation (r2=0.76) between such coupe-averaged
values and Landsat-5 TM band 4 (near-infra red) radiance. Tangki (2008) demonstrated that Dipterocarpaceae were the
most abundant tree family recorded for the 225 km2 area as
a whole (comprising of only lowland evergreen broadleaf
rainforest), but Euphobiaceae had become more abundant in
Coupe 88 following timber harvesting. Fig. 1. Land cover maps of Sabah showing (a) the extent of Perma-
nent Forest Estate (PFE) based on Sabah Forest Department (1998)
data, where dark green shows PFE Protection Forest, and light green
PFE Production Forest; non-PFE commercial timber plantation is
also shown in light brown, and (b) extent of oil palm (orange) and
other land covers based on a preliminary classification of remote
sensing imagery. The satellite data used to produce this map was
medium resolution data from Landsat7-ETM+. Eight images from
2005 to 2008 were used. All the images were first geo-referenced
using 1:50 000 topographic maps of Sabah. After refinements of the
training area collection, the data were reclassified into the eight land
cover classes, excluding cloud and shadow. did however range from 9 (1997) to 23 (1999) as a result of
the 4–5 year cycle in the rainfall caused by El Ni˜no South
Oscillation phenomena (Chappell et al., 2001). 2.1
Equatorial climate and forest formations Such areas of mountain
forests are noted particularly in the wet/superwet zones of the
Asian tropics. Within low-lying areas of the wet and super-
wet zone, peat swamp, freshwater swamp and heath forest
are also present. In areas of podzolic sands, limestone or ul-
trabasic rocks other forest formations are developed locally. As described below,
the focus of activity was the
Global Atmosphere Watch (GAW) station at Bukit Atur,
Sabah, Malaysia, on the island of Borneo (4◦58′49.33′′ N,
117◦50′39.05′′ E, 426 m a.s.l.) (http://gaw.empa.ch/gawsis/). Two field campaigns were held during the periods 7 April–4
May 2008 (OP3-I) and 23 June–23 July 2008 (OP3-III). Dur-
ing OP3-III, the UK’s largest atmospheric science research
aircraft, a converted BAe 146–301, was based at Kota Kina-
balu International Airport during the period 8–23 July 2008
and operated for over 60 h over northern Borneo. Between
these two forest campaigns, a sub-set of instruments were de-
ployed in an oil palm plantation, where measurements were
made during the period 11 May–20 June 2008 (OP3-II). The key exception to the link between climate and the
extent of lowland evergreen rainforest is found within cen-
tral Congo and the western Caribbean, where tropical semi-
evergreen rainforest dominates in areas classified as tropi-
cal wet. This semi-evergreen forest formation is important
throughout the surrounding seasonal tropics of continental
tropical Asia, north-east Australia, and eastern and southern
Amazonia (Whitmore, 1998). Within the equatorial tropics, the dominant lowland ever-
green broadleaf rainforest is characterised by a lofty (45 m
or taller) and dense canopy with a large number of differ-
ent tree species occurring together. Usually over two thirds
of the upper canopy comprises tree species not contributing In this paper, the land use, vegetation and climate char-
acteristics of the ground-based measurement sites are de-
scribed, together with an overview of the chemical clima-
tology of the region. The measurement and modelling tools Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
excluding cloud and shadow. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
excluding cloud and shadow. 172 Fig. 1. 2.1
Equatorial climate and forest formations Land cover maps of Sabah showing (a) the extent of Perma-
nent Forest Estate (PFE) based on Sabah Forest Department (1998)
data, where dark green shows PFE Protection Forest, and light green
PFE Production Forest; non-PFE commercial timber plantation is
also shown in light brown, and (b) extent of oil palm (orange) and
other land covers based on a preliminary classification of remote
sensing imagery. The satellite data used to produce this map was
medium resolution data from Landsat7-ETM+. Eight images from
2005 to 2008 were used. All the images were first geo-referenced
using 1:50 000 topographic maps of Sabah. After refinements of the
training area collection, the data were reclassified into the eight land
cover classes, excluding cloud and shadow. more than 1% to the total number (Whitmore, 1998). The
soils typically associated with the occurrence of this forest
formation in tropical Asia are the Ultisol group, and within
western Amazonia the Oxisol group (Baillie, 1996; Chappell
et al., 2007). 2.2
Local climate and forest formations The majority of the island of Borneo (total area 743 330 km2)
has a superwet climate (Walsh, 1996) and the most extensive
forest formation is lowland evergreen broadleaf rainforest,
occupying some 257 000 km2 (Schmitt et al., 2008). A sim-
ilar situation is observed at the 76 115 km2 regional scale of
the state of Sabah, Malaysian Borneo. Within Borneo Island,
and elsewhere within equatorial Asia, the lowland evergreen
rainforest typically has a tree family dominance of Diptero-
carpaceae (Whitmore, 1984). Most of the state of Sabah was
once covered with rainforest (Schmitt et al., 2008), particu-
larly such mixed dipterocarp forest. Currently, some 47%
(36 049 km2) of the state lies within Permanent Forest Estate
(PFE: Fig. 1a). Most of this PFE (74%) is maintained un-
der a selective harvesting system (PFE Production Forest),
while the remaining 26% is classified as PFE Protection For-
est. Within eastern Sabah, most of the cleared lands are now
used for the cultivation of oil palm trees (Fig. 1b). Some
commercial timber plantations are also present within Sabah. The Bukit Atur GAW tower used for OP3 sampling is lo-
cated within the PFE Production Forest of the Ulu Segama The Bukit Atur GAW tower used for OP3 sampling is lo-
cated within the PFE Production Forest of the Ulu Segama
– Malua Forest Reserve, but is less than 5 km east of
the 438 km2 area of PFE Protection Forest known as the
Danum Valley Conservation Area (DVCA). The Ulu Segama
– Malua Forest Reserve is 2411 km2 in area and is divided
into annual timber harvesting coupes. The GAW tower lies
at the centre of the 22.6 km2 “Coupe 88” which was sub-
jected to selective timber harvesting in 1988. An average of
96 m3 of timber ha−1 was cut by both tractor and high-lead
harvesting (Tangki and Chappell, 2008). The central area
of this coupe was subsequently rehabilitated by enrichment
planting (Moura-Costa, 1996). As part of a study covering a
225 km2 area Tangki and Chappell (2008) calculated an av-
erage tree biomass of 172 t ha−1 for Coupe 88, (using five
inventory plots surveyed in March 1997), and demonstrated
a strong correlation (r2=0.76) between such coupe-averaged
values and Landsat-5 TM band 4 (near-infra red) radiance. 2.2
Local climate and forest formations Dashed lines on temperature and PAR graphs show ap-
proximate sunrise and sunset times. Dotted lines on the PAR graph
show 5th and 95th percentiles. 2.3
Campaign meteorology Most of the OP3 measurements were undertaken within the
four-month period of April to July 2008. This period was
124% more wet than normal, with 1045 mm of rainfall. No-
tably, the driest month according to the longer-term record,
April, received 170% of the normal rainfall at 263 mm. The
April–July 2008 period was also cooler, with a mean temper-
ature of 27.1 ◦C, which was 99% of the norm for April–July
2001–2008. A clear diurnal cycle in the rainfall is observed, even
within the records of the relatively short OP3 campaign pe-
riod of April–July (Fig. 2a). The presence of a late afternoon
peak in rainfall at DVFC, which is more pronounced when
several years of data are summarised, as in Bidin and Chap-
pell (2006), results from the diurnal development of convec-
tive rainfall cells, which is consistent with LIDAR observa-
tions (peak rainfall typically observed around 15:00 LT) and
measurements of radiation and heat fluxes at the site (Pear-
son et al., 2010; Helfter et al., 2010). The predominance of
rainfall delivery by convective events also results in an ex-
treme localisation of the rainfall field. Within a 5 km2 region
encompassing the summit of Bukit Atur, Bidin and Chap-
pell (2003) demonstrated that inter-gauge correlation in an-
nual rainfall totals fell to 0.90 over distances of only 1.1 km,
which is short even by comparison with other convective sys-
tems. Figure 2 also shows median temperatures at various
heights at Bukit Atur for the combined periods of OP3-I and
OP3-III, measured with aspirated thermocouples. The over-
all median temperature at 30 m was 25.1±1.6 ◦C. This is sim-
ilar to the long-term surface temperature data from DVFC,
taking into account a typical temperature gradient with alti-
tude. During the campaign, the atmospheric stability varied
from strongly stable at night to strongly unstable during the
middle of the day, as would be expected for a convective re-
gion with low wind speeds. Fig. 2. Local-time diurnal cycles in (top panel) mean rainfall, (mid-
dle panel) median temperature at various heights on the Bukit Atur
GAW tower, and (bottom) median canopy-top photosynthetically
active radiation (PAR), over the OP3 campaign months of April–
July 2008. Dashed lines on temperature and PAR graphs show ap-
proximate sunrise and sunset times. Dotted lines on the PAR graph
show 5th and 95th percentiles. very frequently in nocturnal radiation fogs. 2.2
Local climate and forest formations During the
OP3 campaign year of 2008, the perhumidity index was 22,
and therefore identical to the longer-term average. The 23-year mean rainfall (1986–2008 inclusive) for the
DVFC rain gauge is 2840 mm (±438 mm standard devia-
tion). The wettest month is typically January with 310 mm
precipitation. April is typically the driest month with
155 mm on average, but it also has the most variable rain-
fall total with a coefficient of variation (CV) of 69% against Within the immediate vicinity of the Bukit Atur GAW
tower, we calculate the average perhumidity index to be 22
(using the daily rainfall data for the period 1996–2008 from
the Danum Valley Field Centre (DVFC), located 8 km from
Bukit Atur at 4◦58′ N, 117◦48′′ E, 100 m a.s.l.). Hence Bukit
Atur is classified as having a superwet climate. The index Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 173 tion characteristics and tools
17 Fig. 2. Local-time diurnal cycles in (top panel) mean rainfall, (mid-
dle panel) median temperature at various heights on the Bukit Atur
GAW tower, and (bottom) median canopy-top photosynthetically
active radiation (PAR), over the OP3 campaign months of April– a mean monthly CV of 46%. Indeed, the three-month pe-
riod from February to April has the least predictable rainfall
totals, with CV values all over 57%. This variability in rain-
fall totals may relate to the period being at the change from
the northeast monsoon (approximately November–April) to
the southwest monsoon (approximately May–October: Bidin
and Chappell, 2006). Rainfall in 2008 totalled 3220 mm, the fifth wettest year in
the 23-year record with 113% of normal rainfall. The mag-
nitude of the seasonal variations in rainfall was the smallest
on record with a CV of 23%, against the long-term average
monthly CV of 47%. This lack of marked seasonality was
also shown in the number of days with rainfall. A total of
257 rain-days, the largest number in the 23-year record, were
observed in 2008 against an average of 226 rain-days. Fig. 2. Local-time diurnal cycles in (top panel) mean rainfall, (mid-
dle panel) median temperature at various heights on the Bukit Atur
GAW tower, and (bottom) median canopy-top photosynthetically
active radiation (PAR), over the OP3 campaign months of April–
July 2008. 2.3
Campaign meteorology LIDAR data
(not shown) demonstrate this, and also suggest a day-time
(10:00–18:00 LT) mixing height of ∼800 m. The strong When the boundary layer was stable, the rainforest canopy
was decoupled from the overlying atmosphere, resulting Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
over that area in the last 24 hours. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
over that area in the last 24 hours. 174 Fig. 3. Air mass residency times for air reaching Bukit Atur (black
circle) during (top panel) OP3-I and (bottom panel) OP3-III. No
colour means no trajectories passed over that area in the last 24 h. daytime turbulence, along with weak winds, makes chemi-
cal box-modelling a reasonable strategy for interpretation of
daytime atmospheric composition (Sect. 5, below), but un-
derstanding measurements made at night, when the atmo-
sphere near the surface is strongly stratified, requires more
careful consideration of vertical mixing (Pugh et al., 2010a). The bottom panel of Fig. 2 shows the diurnal cycle in pho-
tosynthetically active radiation (PAR), measured at canopy-
top height. There is a tail of dull days (shown by the 5th
percentile) but, on the whole, the period of the campaign
was bright. The warm temperatures and bright sunshine
produced substantial emissions of biogenic volatile organic
compounds (BVOCs) from the forest (Sect. 4.2.2, below). Turning from vertical mixing/convective effects, to take
a more horizontal/advective view, backwards air mass tra-
jectories were analysed in order to characterise the origins
of chemical species measured at Bukit Atur during the mea-
surement campaigns. They were calculated by the British At-
mospheric Data Centre (BADC) Web Trajectory Service us-
ing European Centre for Medium-Range Weather Forecasts
(ECMWF) wind fields. A series of trajectories was calcu-
lated, with one trajectory for every hour during OP3-I and
OP3-III. These were then analysed to give an ensemble rep-
resentation of air mass residency time as a function of loca-
tion for the whole of each campaign (Ashbaugh et al., 1985). Back trajectories are calculated for the 24 h before arrival
at Bukit Atur, with a time resolution of 30 min, and a final
pressure altitude of 950 hPa. Back trajectories that touch the
ground have been removed. 2.3
Campaign meteorology Figure 3a and b show air mass
residency time on a 0.1◦×0.1◦grid for all back trajectories
from the first and third campaign periods, respectively. The first campaign period (OP3-I) was influenced by air
masses from most directions, in contrast to OP3-III when the
air was predominantly from the south. The southern air in
the third period can be split into two main areas of origin:
the SE air from the sea with a minimal fetch over land, and
the SW air which is exclusively over land. This can be used
to identify and compare periods of marine and terrain influ-
enced air. It is possible to extend this analysis by using only
trajectories from periods when a certain measurement is ele-
vated, giving a coloured probability distribution of the source
of the measured quantity. A subsequent paper will use these
techniques to present a more in-depth analysis of chemical
origins in the future. Fig. 3. Air mass residency times for air reaching Bukit Atur (black
circle) during (top panel) OP3-I and (bottom panel) OP3-III. No
colour means no trajectories passed over that area in the last 24 h. tempts to characterize regional BVOC emissions, especially
in highly diverse tropical forests. Guenther et al. (1995) estimated global biogenic VOC
emissions using the highest resolution (0.5◦) and most de-
tailed global map of land-cover and land-use (Olson, 1992)
available at that time. Figure 4 (top left panel) illustrates
the Olson (1992) classification of Borneo landscapes, which
include six unmanaged land-cover types, dominated by trop-
ical rainforest (50%), marsh/swamp (14%) and tropical mon-
tane (7%) and three managed land-cover types dominated by
re-growing woods (9%) and paddy rice (7%). The associ-
ated isoprene emission factor map shown in Fig. 4 (top right
panel) characterizes the gross features of Borneo but does not
represent the full diversity of landscapes in this region. A
major limitation of the Olson global ecosystem approach is
that, for example, all re-growing woods are lumped together
and observations from North American and European forests C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006)
right). N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) (b
right). Fig. 4. Land cover distributions for Borneo used by the global biogenic VOC emissions inventory of Guenther et al., 1995) (top left) and
by MEGAN (Guenther et al., 2006) (bottom left) and associated isoprene emission factor (µg m−2 h−1) map used by Guenther et al. (1995)
(top right) and by MEGAN (Guenther et al., 2006) (bottom right). Fig. 4. Land cover distributions for Borneo used by the global biogenic VOC emissions inventory of Guenther et al., 1995) (top left) and
by MEGAN (Guenther et al., 2006) (bottom left) and associated isoprene emission factor (µg m−2 h−1) map used by Guenther et al. (1995)
(top right) and by MEGAN (Guenther et al., 2006) (bottom right). 48
8% of the total. While the total area associated with broad
types (e.g. tropical forest, montane forest) agree reasonably
well with the Olson (1992) database, the details differ con-
siderably. Figure 4 (bottom right) shows that land-cover re-
sults in considerable differences between the isoprene emis-
sion factor distribution of Guenther et al. (1995) and the
MEGAN model (Guenther et al., 2006) which uses the Ol-
son et al. (2001) eco-region map and satellite derived PFT
(e.g. crop, broadleaf tree, shrub) cover fractions. In addition,
MEGAN uses plant species composition estimates from the
Olson et al. (2001) global terrestrial eco-region database and
the Leff et al. (2004) crop species distribution database. Al-
though the spatial pattern is quite different, the annual iso-
prene emission for Borneo differs by less than 5% when the
MEGAN land-cover is used in place of Guenther et al. (1995)
land-cover data. This good agreement, however, is the result
of major offsetting differences between these two land-cover
databases. The Guenther et al. (1995) foliar density and LAI
estimates are about 50% higher, resulting in about 25% more
isoprene, but the emission factors are about 25% lower. The
result is a very similar annual isoprene emission but for dif-
ferent reasons. were used to assign a single isoprene emission factor to all
occurrences of this land-cover type across the globe. The
Guenther et al. (1995) estimate of annual isoprene emission
from Borneo is about 10 Tg of carbon, which is 2% of the
estimated global total. 2.4
Land-cover classification and VOC emissions
modelling Biogenic VOC emissions are highly sensitive to land-cover
characteristics and can vary over several orders of magni-
tude across different landscapes. This is partly due to vari-
ability in total biomass density but is greatly enhanced by
variability among different plant species, especially for com-
pounds such as isoprene that are emitted by less than a third
of all plant species. This presents a daunting challenge for at- Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006) (b
right). 175 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006)
right). The availability of satellite observations has greatly im-
proved quantitative estimates of eco-region distributions and
other land-cover variables, including leaf area indices (LAI)
and plant functional type (PFT) cover fractions. In addi-
tion, the development of a global geo-referenced eco-region
map by Olson et al. (2001) represents an additional major
advance for biogenic emission modeling. This high reso-
lution digital map is the product of over 1000 biogeogra-
phers, taxonomists, conservation biologists and ecologists
from around the world. Each of the 867 eco-regions rep-
resented on this map has relatively uniform species com-
position and is accompanied by an online database (http:
//www.nationalgeographic.com/wildworld/) that includes a
description of the dominant plant species. Figure 4 (lower
left) shows that this database divides Borneo into seven eco-
regions with Borneo lowland rainforests covering just over
half of the total land area, Borneo montane rainforests and
Sundaland heath forests together comprise about 25%, and
the remaining four ecoregions (Kinabalu montane alpine
meadows, Borneo peat swamp forests, Borneo freshwater
swamp forests, Sunda Shelf mangroves) each make up 1 to The MEGAN framework can be used to estimate re-
gional to global biogenic VOC emissions but the accuracy of
the results is dependent on the availability of representative
measurements of individual ecoregions. A lack of BVOC Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 176 particle size distribution and composition, as well as tem-
perature, relative humidity, radiation and turbulence. Four
platforms were strapped against an emergent tree (Canarium
decumanum), at 8, 16, 24, 32 m. Each platform sup-
ported sonic anemometers, inlets to a gradient system for
O3/NO/NO2 and fine thermocouples. In addition, an auto-
mated winch system continuously raised and lowered a tem-
perature/humidity probe, a PAR sensor, an optical particle
spectrometer (GRIMM 1.08) and an inlet leading to a PTR-
MS. This gave vertical gradient measurements between 2 and
28 m (Ryder et al., 2010). In a clearing near the in-canopy
site, LIDAR measurements were made of wind speed and di-
rection and of aerosol backscatter throughout the boundary
layer. measurements from Borneo resulted in the assignment of
MEGAN version 2.1 emission factors to the ecoregions of
Borneo that were based on observations from other tropical
regions. 3.1.3
Concentration and flux measurements at Bukit
Atur The overall measurement strategy for OP3 was to perform
integrated measurements from the forest-floor, through the
forest canopy, above the canopy and then up-scaled to the
regional scale using airborne measurements, with clear link-
ages between measurements made at the different sites at the
different scales. The largest number of ground-based measurements were
made at the Bukit Atur GAW station, which routinely records
CO2 and O3 mixing ratios, and various aerosol parame-
ters. The station consists of a main building with four air-
conditioned laboratories at the base of a 100 m tower, all lo-
cated in a large (∼150×50 m) clearing on the top of a hill
and surrounded by forest. The surrounding forest canopy ex-
tends ∼10 m above the base of the tower. Four mobile sea-
container laboratories were deployed around the base of the
tower to provide extra instrument accommodation. Electri-
cal power was provided by generators, located 2 km E of the
station. Pollution events, attributable to individual vehicles
arriving on site, the generators, or to small leaks of reactive
compounds on site, were identified by elevated concentra-
tions of the oxides of nitrogen and by wind direction analy-
sis, and are excluded from subsequent data analysis. Table 1
summarises the measurements made at Bukit Atur: the criti-
cal measurements included: 3.1.1
Forest floor (soil) NOx flux measurements The fluxes of NOx from forest soil were measured using a
continuous automated dynamic chamber system at the “in-
canopy site”. Seven spatially distributed chambers were used
in order to represent the spatial variation inherent in soil NOx
emissions at each site. The chamber construction and oper-
ation is described in Pilegaard (2001) while the flux calcula-
tion method was modified from Conrad (1994), with further
details available in Dorsey and Gallagher (2010). In addition,
fluxes of nitrous oxide (N2O) and methane (CH4) were made
at the “in-canopy site”, at a near-by undisturbed primary for-
est site, at a heavily disturbed road-side site and from the
soils at the oil palm plantation (see below), using static soil
chambers (Siong et al., 2009; Ryder et al., 2010). – eddy covariance and gradient flux measurements of
trace gases and particles; – speciated concentration measurements of trace gases
and particles; – measurements of aerosol size-dependent hygroscopicity
and critical supersaturations for cloud growth; – concentration measurements of OH, HO2, and the sum
of hydroperoxy and organic peroxy radicals; – OH reactivity measurements (the rate at which OH is
removed from the atmosphere); – characteristics of boundary layer turbulence and mix-
ing. 3.1
Ground based measurements Ground based measurements were centred on the 100 m
tower at the Bukit Atur GAW station (4◦58′49.33′′ N,
117◦50′39.05′′ E, 426 m a.s.l.) (http://gaw.empa.ch/gawsis/). An “in-canopy” sampling site was established 2 km E of the
Bukit Atur tower (4◦58′49.10′′ N, 117◦51′19.12′′ E) and a
further “oil palm plantation” sampling site was established
at the Sabahmas oil palm estate, 70 km NE of Bukit Atur
(5◦14′58.69′′ N, 118◦27′15.76′′ E). C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
by Guenther et al. (1995) (top right) and by MEGAN (Guenther et al. 2006)
right). Improved estimates for future versions of MEGAN
and other models are highly dependent on the availability
of observations characterizing the dominant plant functional
types within major global ecoregions. In fact, our initial anal-
ysis of emissions from Bukit Atur show that the default base
emission rates in MEGAN prior to the OP3 observations are
a factor of four too high for this forest ecoregion. We also
confirm that, unusually for a species classified as crop in
MEGAN, oil palm is an intense isoprene emitter. 3.1.2
Within-canopy concentration profiles At the “in-canopy site”, measurements were made of the
vertical gradients (from the ground to 32 m height) of the
concentrations of ozone, NOx, volatile organic compounds, www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
The underlying map is as shown in Fig. 1b. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
The underlying map is as shown in Fig. 1b. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
The underlying map is as shown in Fig. 1b. 177 Fig. 5. Flight tracks of the BAe 146 research aircraft over Sabah during OP3-III. The underlying map is as shown in Fig. 1b. Fig. 5. Flight tracks of the BAe 146 research aircraft over Sabah during OP3-III. The underlying map is as shown in Fig. 1b. 3.1.4
Concentration and flux measurements at the
Sabamas oil palm plantation profiles, allowing a picture to be built up of the concentra-
tions of trace gases and particles during the daytime. Two
flights were also made over the ocean up- and down-wind of
Sabah. The Sabahmas oil palm plantation measurement site used
during OP3-II was located in a 33 ha flat area of oil
palm (Elaeis guineensis × Elaeis oleifera hybrid, progeny
“Guthrie”) trees. The trees were of uniform age (12 years)
and height (12 m). The site comprised a 15 m tower and an
8 m canopy access platform. Instruments were housed in a
hut at the base of the platform. The analytical methods used
were the same as at Bukit Atur, including the measurements
of aerosol sub-micrometre composition, fluxes of aerosol,
BVOCs, ozone and CO2, although the suite of measurements
made was not as comprehensive. In particular, measurements
of OH and other radicals and of the oxides of nitrogen were
not made. 49
In order to link the ground-based and airborne measure-
ments, the aircraft flew past the Bukit Atur measurement sta-
tion on more than ten occasions, at the same height above
sea-level as the base of the GAW tower and at approximately
500 m horizontal separation. Table 2 summarises the flights
made during the OP3 deployment and Fig. 5 shows the geo-
graphical extent of the flights over Sabah. 3.1.5
Airborne measurements Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
NMHC, includ-
ing isoprene
and oxygenates
Disjunct
eddy
covariance flux
measurement
with
continu-
ous
flow
and
analysis by
PTR-MS
√BA, OP
Fluxes:
30 min
Mixing
ratios: ∼7 s
NMHC, includ-
ing isoprene
and oxygenates
Automated
PTR-MS
gradient
√IC
Gradient ev-
ery 7 min
NMHC, includ-
ing isoprene,
monoterpenes
and oxygenates
Dual
Channel
Gas
Chro-
matograph
with
Flame
ionisa-
tion detectors
(DC-GC-FID)
√BA
√
1 h ground
variable air
Terpenoids, al-
cohols, aldehy-
des
GC-PID,
portable mass
spectrometer
√BA
CO2/H2O flux
Eddy-
covariance
flux using
infrared gas
analyser Li-Cor
7000/7500
√BA, OP
30 min fluxes
NO2 flux
Eddy covari-
ance using laser
induced
fluorescence
√BA
30 min fluxes
HNO3, HCl,
HNO2, NH3,
SO2, NH+
4 ,
NO−
3 , Cl−,
SO2−
4
Wet effluent
denuder &
steam jet
aerosol collec-
tor, online IC
(GRAEGOR)
√BA
1 h
Turbulence,
sensible heat
flux
Eddy-
covariance
using sonic
anemometry
√BA
30 min fluxes
Soil NO flux
Dynamic auto-
chamber using
NO analyser
√IC Table 1. Overview of the measurements made in OP3. 3.1.5
Airborne measurements Satellite observations of key tropospheric trace gases allow
the surface and aircraft trace gas measurements above the
rainforest surrounding Bukit Atur to be put in a wider context
relative to Borneo and the larger south-east Asian region. We
focus on formaldehyde (HCHO) and nitrogen dioxide (NO2),
which are good indicators of emissions and photochemical
activity, to examine the atmospheric chemistry over Borneo
during the OP3 campaigns in 2008. Global background con-
centrations of HCHO are determined by the balance between
the source (from the oxidation of methane) and the OH sink. Concentrations are typically much larger over continents due
to additional sources from the oxidation of biogenic and an-
thropogenic VOCs, and from biomass burning (either di-
rectly released or from the oxidation of co-emitted VOCs)
(Palmer et al., 2003; Fu et al., 2007). Anthropogenic activi-
ties, biomass burning and soil emissions are the main source Airborne measurements (see Table 1) were made dur-
ing OP3-III using the Natural Environment Research
Council/UK Meteorological Office’s BAe 146–301 Facility
for Airborne Atmospheric Measurements (FAAM) aircraft
(Lewis et al., 2007), deployed to Kota Kinabalu airport, less
than 30 min flying time from Bukit Atur. In general, the same
type of flight plan was executed on each flight, with one pro-
file up and one down, interrupted by straight and level runs at
altitudes of 100–250, 1500, 3000 and 6000 m above ground
over the rainforest (centred on Bukit Atur), over an exten-
sive and homogeneous agro-industrial oil palm landscape
surrounding and including the Sabahmas oil palm plantation
estate, and in transects between the two sites. Flights were
made morning and afternoon giving typically four stacked Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 178 Table 1. Overview of the measurements made in OP3. 3.1.5
Airborne measurements Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
Detection
Limit
Measurement
Uncertainty
Reference
NMHC, includ-
ing isoprene
and oxygenates
Disjunct
eddy
covariance flux
measurement
with
continu-
ous
flow
and
analysis by
PTR-MS
√BA, OP
Fluxes:
30 min
Mixing
ratios: ∼7 s
Fluxes:
< 0.05
mg m−2 h−1
Mixing
ra-
tios: 10–100
pptv
Fluxes:
Precision =
∼±30%
Mixing ratios
∼±10%
(Langford et
al., 2009)
NMHC, includ-
ing isoprene
and oxygenates
Automated
PTR-MS
gradient
√IC
Gradient ev-
ery 7 min
10–100 pptv
(Karl et al.,
2007)
NMHC, includ-
ing isoprene,
monoterpenes
and oxygenates
Dual
Channel
Gas
Chro-
matograph
with
Flame
ionisa-
tion detectors
(DC-GC-FID)
√BA
√
1 h ground
variable air
1 pptv
variable,
typ-
ically
around
10%
(Lewis et al.,
2007; Lewis et
al., 2005)
Terpenoids, al-
cohols, aldehy-
des
GC-PID,
portable mass
spectrometer
√BA
CO2/H2O flux
Eddy-
covariance
flux using
infrared gas
analyser Li-Cor
7000/7500
√BA, OP
30 min fluxes
(Aubinet et al.,
2000)
NO2 flux
Eddy covari-
ance using laser
induced
fluorescence
√BA
30 min fluxes
(Farmer et al.,
2006)
HNO3, HCl,
HNO2, NH3,
SO2, NH+
4 ,
NO−
3 , Cl−,
SO2−
4
Wet effluent
denuder &
steam jet
aerosol collec-
tor, online IC
(GRAEGOR)
√BA
1 h
(Thomas et al.,
2009)
Turbulence,
sensible heat
flux
Eddy-
covariance
using sonic
anemometry
√BA
30 min fluxes
Soil NO flux
Dynamic auto-
chamber using
√IC
(Pilegaard et
al 2006) Table 1. Overview of the measurements made in OP3. (Pilegaard et
al., 2006) Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
179
Table 1. Continued. 3.1.5
Airborne measurements Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
Detection
Limit
Measurement
Uncertainty
Reference
Soil N2O/CH4
flux
Static soil
chamber with
off-line GC
analysis
√IC, OP
1 h
OH, HO2
FAGE
(Fluorescence
Assay by Gas
Expansion)
laser-induced
fluorescence
√BA
10 s
(OH)
2.4×105
molecule
cm−3 (3 min
av.)
(HO2)
3.8×106
molecule
cm−3 (3 min
av.)
44 % (OH)
50 % (HO2)
(2σ)
(Whalley et al.,
2010a, b)
OH, HO2
FAGE
(Fluorescence
Assay by Gas
Expansion)
laser-induced
fluorescence
√
60 s
(OH)
2.3×106
molecule
cm−3 (1 min
av.)
(HO2)
2.0×106
molecule
cm−3 (1 min
av.)
28 % (OH
& HO2) (2σ)
OH Reactivity
FAGE
√BA
1 min
22 % (2σ)
(Ingham et al.,
2009)
6RO2 + HO2,
HO2
PERCA (PEr-
oxy Radical
Chemical Am-
plifier), dual in-
let
√BA
√
1 min
0.4 pptv
(10 min)
38% (1σ)
(Fleming et al.,
2006)
NO3, CH2O,
NO2, HONO,
O3, CHOCHO
Differential
Optical Ab-
sorption
Spectroscopy
√BA
10min
2 pptv, 480
pptv, 80 pptv,
150 pptv, 4.6
ppbv,
150 pptv
1.5 pptv,
500 pptv, 60
pptv, 130 pptv,
4 ppbv, 130
pptv
(Plane and
Saiz-Lopez,
2006)
NO2, HCHO,
CHOCHO
MAX-DOAS
√BA
(Leigh et al.,
2006)
Photolysis fre-
quencies (incl. j(O1D),j(NO2))
Calibrated filter
(2π and 4π
sr) radiometers
and spectral-
radiometer
√BA/IC
√
1s
n/a
14% and 13%
0–90◦SZA
(Bohn
et
al.,
2008; Edwards
and Monks,
2003; Volz-
Thomas, et al.,
1996) C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
179 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools witt et al.: The OP3 project: introduction, rationale, location characteristics and tools 179 Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 180 Table 1. Continued. Table 1. Continued. 3.1.5
Airborne measurements Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
Detection
Limit
Measurement
Uncertainty
Reference
O3 flux eddy
correlation
Dry chemilu-
minescence
√BA, OP
30 min fluxes
from 0.05 s
0.1 ppbv
(G¨usten et al.,
1990; Gusten
and Heinrich,
1996)
O3/NO/NO2
gradient
Chemilu-
minescence
(O3), thermal
converter
√BA/IC
15 min
NO
NO2
6NOy,
6NOy-HNO3
NO/O3 chemi-
luminescence
detectors
Pho-
tochemical
convertor +
above
Gold tube/CO
converter +
above
Gold tube con-
vertor and de-
nuder
√BA
10 min
3 pptv for
NO, 7 pptv
for NO2
15% for NO
and 20% for
NO2 at 50 pptv
Pike et al., 2009
NO
NO2
6NOy,
6NOy-HNO3
NO/O3 chemi-
luminescence
detectors
Pho-
tochemical
convertor
+ above
Gold tube/CO
converter +
above
Gold tube con-
vertor and de-
nuder
√
10 s
3 pptv for
NO and 15
pptv for NO2
8% for NO at
1 ppbv and 9%
for NO2 at
1 ppbv
(Brough et al.,
2003; Stewart,
et al., 2008)
NO2
Laser-induced
fluorescence
(LIF)
√BA
1 Hz
3.6 pptv/60 s
20%
(Dari-
Salisburgo
et al., 2009)
6PNs
Thermal-
dissociation
LIF
√BA
1 Hz
13 pptv/60 s
40%
(Dari-
Salisburgo
et al., 2010)
6ANs
Thermal-
dissociation
LIF
√BA
1 Hz
13 pptv/60 s
40%
(Aruffo et al.,
2010)
NO2 flux
LIF-Eddy
covariance
√BA
10 Hz
11 pptv/60s
20%
(Dari-
Salisburgo
et al., 2010) √
10 s
3 pptv for
NO and 15
pptv for NO2
8% for NO at
1 ppbv and 9%
for NO2 at
1 ppbv
(Brough et al.,
2003; Stewart,
et al., 2008) Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 181 Table 1. Continued. Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
Detection
Limit
Measurement
Uncertainty
Reference
H2O2,
6
ROOH
Dual-channel
fluorometric
detector
√
1 min
50 pptv
14% (1σ)
(Penkett et al.,
1995)
H2O vapour
Dew point
hygrometer
√BA
√
H2O flux
Eddy-
covariance
using UV
Absorption
√BA
30 min fluxes
100 Hz
8% (q-
dependent)
(Coe et al.,
1995)
CH2O
Fluorometric
detection
(Hantzsh
reaction)
√BA
1 min
100 pptv
17% (2σ)
(Still et al.,
2006)
Speciated alde-
hydes, ketones
and alcohols
NMHC, includ-
ing isoprene
and oxygenates
GC/GC
detec-
tion, PTR-MS
√
15 s
50–120 pptv
13–16% (1σ)
>C7 NMHC
(e.g. 3.1.5
Airborne measurements terpenes)
Adsorbent
tubes &
GC/TOF-MS
√
Variable
50 pptv
±(5%+20 pptv)
(Capes et al.,
2009)
CO
Chemilu-
minesence
√BA
√
(Gerbig et al.,
1999)
PAN
GC/ECD (elec-
tron capture de-
tection)
√
90 s
5 pptv
5%
(Whalley et al.,
2004)
PAN
GC/ECD (elec-
tron capture de-
tection)
√BA
10 min
PAN:15
pptv, PPAN,
MPAN:25
pptv
20% (2σ)
(Harrison et al.,
2006)
Alkyl nitrates,
organic N
GC and neg-
ative ion CI
GC/MS
√BA
√
G: 1 h
A: variable
0.005 pptv
13% (2σ)
(Reeves et al.,
2007; Worton
et al., 2008)
Reactive
halocarbons
GC/MS
√BA
√
G: 1 h
A: variable
0.005 pptv
15% (2σ)
(Worton et al.,
2008)
Halocarbons
GC/ECD
√BA
∼15 min
∼0.5 pptv
5–10%
(Gostlow et al.,
2009) www.atmos-chem-phys.net/10/169/2010/
Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 182 Table 1. Continued. Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
Detection
Limit
Measurement
Uncertainty
Reference
Aerosol
number
concentration
CPCs total
particle number
concentration
(>3 nm);
√BA
√
30 min
(ground)
1 s (aircraft)
N/A
N/A
Aerosol size
distribution
SMPS ground:
3< Dmd <700
nm Air:
3< Dmd <350
nm
√BA/IC
√
30 min
(ground)
1 min
(aircraft)
N/A
N/A
Optical and
aerodynamic
particle
counters
(0.3/0.1–
20/3µm)
√BA/IC
√
30 min
(ground)
1 s (aircraft)
in-canopy
gradients
(2–32 m)
N/A
N/A
Ultra-fine
particle fluxes
Eddy
Correla-
tion Dp >3 nm,
>10 nm, inde-
pendent CPCs
√BA
Fluxes
30 min. Raw
0.3 s. < 0.01
particle/cm3
±10% @
3×105
particles/cm3. 3.1.5
Airborne measurements (Buzorius et al.,
1998)
Aerosol size
segregated
chemical
composition
Aerodyne
Aerosol
Mass
Spectro-
meter (40 nm<
Dvad <
0.8 µm),
non-refractory
SO2−
4 , NO−
3 ,
NH+
4 , organic
species
√BA, OP
√
30 min
(ground)
10 s (profile)
30 s (SLR)
Ground: 3 ng
m−3 (NO−
3 ,
SO2−
4 ) and
11 ng m−3
(NH+
4 ), 10
min average,
high res
mode
Air: 3 ng
m−3 (NO−
3 ,
SO2−
4 ) and
30 ng m3
(NH+
4 ) 30 s
average
15%
Ground:
(Aiken et al.,
2008; Cana-
garatna et al.,
2007)
Aircraft:
(Crosier et al.,
2007)
Size segregated
chemically spe-
ciated aerosol
mass fluxes
Eddy-
covariance
using Aero-
dyne Aerosol
Mass
Spec-
√BA, OP
30-min
fluxes
10 ng m−2
s−1
±10 ng m−2
s−1
(Nemitz et al.,
2008) 30-min
fluxes Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
183 183 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
183
Table 1. Continued. Species
Method/
Analytical
Technique
Ground†
Air
Temporal
Resolution
Detection
Limit
Measurement
Uncertainty
Reference
Size-segregated
bioaerosol
WIBS
√BA, IC
(Kaye et al.,
2005)
Genetic
bioaerosol
Genetic analy-
sis of filters
√BA, IC, OP
12-h
Cloud liquid
water
Gerber PVM-
100
√
0.1 s
0.005 g m−3
(Gerber, 1991)
Aerosol Scat-
tering proper-
ties
3 wavelength
nephelometer
√
2 mm−1
5%
(Osborne et al.,
2008)
Cloud Conden-
sation Nuclei
Activity
CCN
spectrometer
√BA
(single)
√(two)
1 h (ground)
(Roberts and
Nenes, 2005)
Aerosol hygro-
scopicity
Hygroscopic
Tandem Differ-
ential Mobility
Analyser
√BA
1 h
(Gysel et al.,
2007)
Meteorological
parameters
(Wind speed
& direction,
solar radiation,
PAR, precipita-
tion, wetness,
pressure, tem-
perature, RH,
turbulence, sen-
sible heat flux)
Standard mete-
orological sen-
sors (aspirated
thermocouples,
Vaisala WXT)
√BA, IC, OP
30 min
temperature
gradients
Boundary
Layer Height
LIDAR
√BA
1 s
20–60 m
(Pearson et al.,
2009)
† – BA=Bukti Atur site; IC=In-canopy site; OP=oil-palm site (OP3-II). (Pearson et al.,
2009) (Pearson et al.,
2009) † – BA=Bukti Atur site; IC=In-canopy site; OP=oil-palm site (OP3-II). † – BA=Bukti Atur site; IC=In-canopy site; OP=oil-palm site (OP3-II). 3.1.5
Airborne measurements of variability in the tropospheric NO2 columns (Martin et al.,
2002, 2003). the HCHO columns onto a coarser 2.5◦×2.0◦grid (to im-
prove the signal-to-noise ratio), since it is a much weaker
absorber and because global coverage is only achieved by
SCIAMACHY at the Equator every 6 days. Scenes with frac-
tional cloud coverage >40% are excluded from our analysis. Figure 6a and b shows HCHO and NO2 column distribu-
tions over Borneo during April–July 2008, quantified using
UV spectroscopic measurements taken by the nadir-viewing
data from SCIAMACHY (HCHO; De Smedt et al., 2008)
and OMI (NO2; ATBD-OMI-02) instruments respectively. NO2 is a strong absorber at UV wavelengths and, because
the OMI instrument provides daily coverage, the NO2 col-
umn data can be averaged onto a fine resolution grid of
1.0◦×1.0◦(longitude × latitude). In contrast, we average Figure 6b shows that NO2 measurements from OMI iden-
tify anthropogenic NOx signals from Bangkok, Jakarta,
Surabaya and Singapore. Enhanced HCHO also seen over
these cities indicates intense photochemical activity, likely
associated with polluted conditions. Over Indochina in April,
elevated HCHO and NO2 columns are loosely correlated Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 184 Table 2. Overview of aircraft flights made in OP3. Flight
Flight description
Date in 2008
Take off-
Landing Times
(UTC)
B384
Survey flight (Bukit Atur, oil palm, SW of Kota
Kinabalu)
9 July
02:13–05:32
B385
Bukit Atur (ground sampling site) and SW of Kota
Kinabalu
10 July
01:10–05:04
07:04–10:41
B386
Bukit Atur
12 July
01:02–04:48
06:10–9:59
B387
Maliau Basin, S of Sabah. N of Bukit Atur and W of oil palm plantation
13 July
00:54–06:01
06:30–10:10
B388
Bukit Atur and oil palm
15 July
00:54–04:43
06:01–09:33
B389
Ocean flight SE of Sabah
16 July
00:49–04:31
05:39–09:40
B390
CASCADE (Marine flight, W and NW of Sabah)
18 July
22:57–03:14
B391
SW of Bukit Atur, oil palm
19 July
00:54–05:06
06:15–09:48
B392
Mainly oil palm plantation
21 July
00:48–04:46
05:53–09:46
B393
Ocean flight (NW and SE of Sabah)
22 July
00:43–05:10 Table 2. Overview of aircraft flights made in OP3. Local Time is (UTC+8). with AATSR fire-counts (not shown) (Arino et al., 2005) and
hence are probably due to fire emissions (Fu et al., 2007). 3.1.5
Airborne measurements During May, enhanced HCHO columns over the Gulf of
Thailand may reflect outflow from fires occurring in Sumatra
and from the Sibu area of eastern Borneo. However, dur-
ing the OP3 campaigns, fire activity over Malaysian Borneo
was minimal and the levels of HCHO and NO2 were gen-
erally low, with their column amounts typically approach-
ing their background values of ∼5×1015 molecules cm−2
and ∼5×1014 molecules cm−2, respectively. These low val-
ues also suggest that during the OP3 measurement period
the HCHO source from biogenic VOC oxidation was weak. We observe a slight HCHO enhancement during April over
Danum Valley (Fig. 6a), but it is difficult to assign source
attribution. ATSR/AATSR instruments (Arino et al., 2001, 2005). High
correlations between HCHO and NO2 columns and the fire-
count data suggest that biomass burning over Borneo drives
observed variability of these trace gases. We find that anoma-
lously high HCHO and NO2 columns were due to intense
burning periods associated with strong El Nino conditions,
indicated here by the Multivariate El Nino Southern Oscilla-
tion (ENSO) Index (Wolter and Timlin, 1998), as expected. For example, during 1997/98 an increased number of forest
and peat fires during the warmer and drier El Nino condi-
tions (Levine, 1999) led to extremely high trace gas column
concentrations. Our recent analysis shows that spatial correlations be-
tween the 12-year HCHO and NO2 data, and the associated
assimilated meteorological data, vegetation activity and fire-
counts were strongest in southernmost Borneo and not over
the Bukit Atur (Danum Valley) region (Barkley et al., 2009). The low trace gas columns observed over this region during
2008 are consistent with our understanding of past variabil-
ity. In Fig. 6c we show the monthly-mean 12-year time series
of (continuous) HCHO and (non-continuous) NO2 columns,
retrieved from the GOME and SCIAMACHY instruments
(De Smedt et al., 2008; Martin et al., 2002, 2003), to-
gether with the total number of fire-counts detected by the Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 185 Fig. 6. (a). Monthly averaged SCIAMACHY HCHO columns on a 2.5◦×2.0◦(longitude × latitude) grid, with cloud coverage ≤40%. (b)
Monthly averaged OMI NO2 columns on a 1.0◦×1.0◦grid, with cloud coverage ≤40%. 3.1.5
Airborne measurements (c) The (deseasonalized and normalized) monthly-
mean time series anomalies over Borneo of HCHO (red) and NO2 (grey) columns retrieved by the GOME and SCIAMACHY instruments (De
Smedt et al., 2008; Martin et al., 2002). The total number of firecounts detected by the ATSR/AATSR instruments (Arino et al., 2001, 2005)
(black) and the Multivariate El Nino Southern Oscillation Index (MEI) (Wolter and Timlin, 1998) (blue) are also shown. The correlation
of the MEI with the HCHO, NO2 and firecount timeseries is given in the plot-title; the correlation of the HCHO timeseries with NO2 and
firecounts are shown inset. Fig. 6. (a). Monthly averaged SCIAMACHY HCHO columns on a 2.5◦×2.0◦(longitude × latitude) grid, with cloud coverage ≤40%. (b)
Monthly averaged OMI NO2 columns on a 1.0◦×1.0◦grid, with cloud coverage ≤40%. (c) The (deseasonalized and normalized) monthly-
mean time series anomalies over Borneo of HCHO (red) and NO2 (grey) columns retrieved by the GOME and SCIAMACHY instruments (De
Smedt et al., 2008; Martin et al., 2002). The total number of firecounts detected by the ATSR/AATSR instruments (Arino et al., 2001, 2005)
(black) and the Multivariate El Nino Southern Oscillation Index (MEI) (Wolter and Timlin, 1998) (blue) are also shown. The correlation
of the MEI with the HCHO, NO2 and firecount timeseries is given in the plot-title; the correlation of the HCHO timeseries with NO2 and
firecounts are shown inset. 4.2
In-situ observations 50
the plantation significantly higher (2–5 times higher; 5000–
10 000 pptv). This is consistent with the higher emission rate
of isoprene from oil palm trees (Elaeis guineensis) compared
to most rainforest tree species (Wilkinson et al., 2006). The
plantation landscape also contains associated agro-industrial
activities (e.g. road traffic, oil palm processing plants and ni-
trogenous fertiliser application) and as a result, NOx concen-
trations were also higher compared to the rainforest. How-
ever, whereas the higher isoprene concentrations observed
tended to be in the west of the oil palm plantation area,
higher NOx levels were concentrated in the north and east
of the plantation area, where the majority of plantation pro-
cessing plants were observed to be situated. In this area, typ-
ical NOx levels were 1000–1500 pptv, with up to >2000 pptv
observed when flying through or close to the plume of a pro-
cessing plant. Further south in the plantation area, closer to
the boundary with the rainforest, NOx was much lower, with
levels typically <300 pptv, which is similar to levels that are
observed over the rainforest. 4.2.1
Airborne measurements The in-situ observations made during the OP3 project were
centred on sites representative of natural rainforest and oil
palm plantations (see above), with aircraft flights over each
landscape and over the up- and down-wind oceans (see
above). Figure 7 shows aircraft measurements of six species
taken on flights near to the Bukit Atur GAW station and the
adjacent oil palm plantations. Data are shown from flights
(a) below 500 m above ground level, representative of the
boundary layer and (b) above 2500 m, representative of the
free troposphere. Also indicated on the plots is the approx-
imate boundary between the natural rainforest and the palm
oil plantations. Within the boundary layer (Fig. 7a), the most striking
concentration difference between the rainforest and plan-
tation is for isoprene. Concentrations over the rainfor-
est were typically 1000–3000 pptv, with concentrations over Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 186 Fig. 7a. Flight track of all data collected from the aircraft below
500 m (above ground level), coloured by NOx, isoprene, ozone and
organic/sulphate aerosol concentrations. Fig. 7a. Flight track of all data collected from the aircraft below
500 m (above ground level), coloured by NOx, isoprene, ozone and
organic/sulphate aerosol concentrations. Fig. 7b. Flight track of all data collected from the aircraft above
2500 m (in the free troposphere), coloured by NOx, isoprene, ozone
and organic/sulphate aerosol content. Fig. 7b. Flight track of all data collected from the aircraft above
2500 m (in the free troposphere), coloured by NOx, isoprene, ozone
and organic/sulphate aerosol content. Fig. 7b. Flight track of all data collected from the aircraft above
2500 m (in the free troposphere), coloured by NOx, isoprene, ozone
and organic/sulphate aerosol content. Fig. 7a. Flight track of all data collected from the aircraft below
500 m (above ground level), coloured by NOx, isoprene, ozone and
organic/sulphate aerosol concentrations. In the free troposphere (Fig. 7b), very little isoprene or sul-
phate aerosol was observed over either the rainforest or plan-
tation and levels of CO were similar over both areas (∼50–
60 ppbv). 4.2.1
Airborne measurements NOx levels were higher in the eastern plantation re-
gion (200–300 pptv) compared to the rainforest (<50 pptv);
however this did not lead to increased ozone in the free tro-
posphere over the plantation. This is likely to be due to the
very low levels of isoprene and other biogenic VOCs, which
do not have a long enough lifetime to escape the boundary
layer. Organic aerosol was also very low over both planta-
tion and rainforest in the free troposphere, with an average
organic loading of 0.03 µg m−3. CO shows a similar behaviour to NOx, with higher levels
(100–110 ppbv) observed over the northern and eastern plan-
tation area compared to further south and over the rainforest
(70–90 ppbv). Levels of sulphate aerosol show little differ-
ence between the two land use areas, with both exhibiting
aerosol loading of 0.25–1 µg m−3. The result of the increased levels of primary pollutants
over the oil palm plantation compared to the rainforest can
be seen in the observed ozone, a species that is not directly
emitted into the atmosphere but produced photochemically. Ozone was significantly higher (20–25 ppbv) over the eastern
area of oil palm plantation, corresponding to the area where
NOx was generally higher. Over the western area of oil palm
plantation, where NOx levels are lower but isoprene levels
are still high, and over the natural rainforest, where both NOx
and isoprene are lower, ozone is observed to be 8–15 ppbv. This demonstrates the need for increased NOx emissions, as
well as isoprene, in order for significant extra ozone produc-
tion to occur (Hewitt et al., 2009). More organic particulate
was observed over the oil palm plantation than the rainfor-
est, with average loadings of 0.67 µg m−3 and 0.48 µg m−3
respectively, which is consistent with our ground based mea-
surements (see below) and could be due to enhanced produc-
tion of secondary organic material, although primary emis-
sions from the processing plants and human settlements may
also be contributing. As described above, some flights were also undertaken
over the ocean, both upwind and downwind of Sabah. Levels
of isoprene and NOx were very low in both cases and there
was no obvious enhancement in ozone in the upwind flights. 4.2.1
Airborne measurements These data were collected on only two days; however our ini-
tial interpretation of this is that Sabah is not a large exporter
of primary or processed pollutants to the wider region. 4.2.2
Bukit Atur measurements Data were taken within the rainforest at the Bukit Atur GAW
station during two four-week intensive measurement periods
(OP3-I and OP3-III). The GAW station has made ozone mea-
surements since January 2007 and these data are shown in Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 187 Fig. 9a. Average diurnal concentration profiles for NOx, iso-
prene, ozone and organic/sulphate aerosol content for the Bukit
Atur ground site and aircraft data taken over surrounding rainforest
below 500 ms above ground level (BL) and in the free troposphere
above 2500 m (FT). The error bars on the aircraft data indicate 1σ
standard deviations for data taken on the four flights. Fig. 8. Ground level ozone concentrations measured at the Bukit
Atur GAW site 2007–2008. Data are shown as hourly points with a
24 h running average. Fig. 9a. Average diurnal concentration profiles for NOx, iso-
prene, ozone and organic/sulphate aerosol content for the Bukit
Atur ground site and aircraft data taken over surrounding rainforest
below 500 ms above ground level (BL) and in the free troposphere
above 2500 m (FT). The error bars on the aircraft data indicate 1σ
standard deviations for data taken on the four flights. Fig. 8. Ground level ozone concentrations measured at the Bukit
Atur GAW site 2007–2008. Data are shown as hourly points with a
24 h running average. Fig. 8. Gaps in the data are due to lightning strikes rendering
the instrument inoperable. However the plot shows that the
levels of ozone observed during the OP3 intensive periods in
2008 are typical for the site. night. NO2 exhibits a clear diurnal cycle peaking at around
midnight at 300 pptv, with a minimum of ∼150 pptv in
mid-afternoon. These values are comparable to NOx mea-
surements made in Amazonia (e.g. Ganzeveld et al., 2008)
and over West Africa during the AMMA experiments (e.g. Saunois et al., 2009). Campaign daytime (10:00–14:00) average isoprene and
total monoterpene fluxes measured at 75 m on the GAW
tower were 1.2 and 0.3 mg m−2 h−1 respectively during OP3-
I and 2.1 and 0.49 mg m−2 h−1 during OP3-III (Langford et
al., 2010). 4.2.2
Bukit Atur measurements These values were comparable to measurements
made above regions of the Congo during the EXPRESSO
field campaigns (Greenberg et al., 1999; Klinger et al., 1998;
Serca et al., 2001) and are somewhat smaller than values re-
ported above regions of the Amazon (Karl et al., 2007; Kuhn
et al., 2007). The typical monoterpene to isoprene ratio was
between 0.2–0.25, which is within the upper range of ratios
reported in other tropical regions (Guenther et al., 2008). The
fluxes of other biogenic VOCs, including methanol, acetone
and acetaldehyde, were very much smaller, accounting for
just 2% of the total measured VOC emissions. 53
Boundary layer aircraft measurements of NO and NO2
were in reasonable agreement with the ground based mea-
surements, although airborne NO levels were consistently
lower. This, along with the non-zero night-time levels, sug-
gests a local NO source that was diluted throughout the
boundary layer. NO and NO2 levels in the free troposphere
were much lower, being <10 pptv and ∼20 pptv, respec-
tively. A full description of ground level NOx data and dis-
cussion of the chemistry is given by Pike et al. (2009) and
Pugh et al. (2010b). Isoprene was the most abundant terpenoid compound ob-
served and showed a clear diurnal cycle with very low
(<40 pptv) levels at night and a peak of ∼2000 pptv in mid
afternoon. This was caused by the dependence of isoprene
emission from trees on temperature and light (Guenther et
al., 1993). Boundary layer isoprene measurements from
the aircraft were in good agreement with the ground-based
Bukit Atur measurements, and free tropospheric isoprene
levels were, as expected, very low. Limonene, alpha-pinene
and beta-pinene were the most abundant monoterpene com-
pounds observed. Relatively high concentrations of 2-ethyl
hexanol and some aldehydes were also seen in samples taken
from within the forest canopy in the vicinity of Bukit Atur. Figure 9a shows hourly averaged median diurnal cycles
for NO, NO2, O3, isoprene and sulphate and organic aerosol
mass concentration, taken at Bukit Atur during June and July
2008. Only data from the six days when flights took place
over the station were used in the averaging for a direct com-
parison between the ground-based and aircraft data in the
boundary layer and free troposphere over the rainforest. Atmos. Chem. Phys., 10, 169–199, 2010 4.2.2
Bukit Atur measurements The mean net ozone production rate
may then be calculated using: N(O3) = kp[NO][HO2 +RO2]
−{f ·j(O1D)+k1[OH]+k2[HO2]}[O3] where kp is a combined rate coefficient for the oxidation of
NO to NO2 by all peroxy radicals and f ·j(O1D)[O3] repre-
sents the fraction of ozone photolysed to yield O(1D) atoms
and then OH (with f being the proportion of O(1D) atoms
which react with H2O to give OH rather than being colli-
sionally deactivated). The rate constants k1 and k2 are from
the ozone loss reactions: Concentrations of OH display a clear diurnal cycle,
peaking at solar noon, with significant concentrations ob-
served: up to 8.7×106 molecules cm−3 (60 min average) was
recorded on one day. During the GABRIEL campaign above
Amazonia, average midday boundary layer OH concentra-
tions were 5.75×106 molecules cm−3 (Martinez et al., 2008). Although j(O1D) levels and humidity were high, the rela-
tively low O3 concentrations limit primary OH production. The measured OH reactivity was very high, up to 87 s−1 (cor-
responding to a lifetime for OH approaching 10 ms). Accord-
ing to the measurements of reactive hydrocarbons (above),
this reactivity is dominated by reaction with isoprene, indi-
cating that significant OH sources must be present – in ad-
dition to primary production following ozone photolysis – in
order to maintain the elevated levels of OH levels recorded
(Whalley et al., 2010b). The OH diurnal profile was asym-
metric (i.e., lower post-noon than the equivalent time pre-
noon). This may be due to its main measured sink, iso-
prene, being present at higher concentrations in the after-
noon, but the asymmetric profile could also result from other
factors that have yet to be identified. OH concentrations up to
6×105 molecule cm−3 (60 min average) were also recorded
on several nights, consistent with measurements by other
groups in forested environments (Tan et al., 2001), with some
residual OH observed after j(O1D) had dropped to zero. Measured concentrations of HO2 and the sum of HO2+RO2
displayed similar profiles. OH+O3 = HO2 +O2
(R1)
HO2 +O3 = OH+2O2
(R2) (R1) (R2) The net formation of ozone was found to be strongly depen-
dent on the concentration of isoprene, having a linear sensi-
tivity (e.g. dln(P(O3))/dln(isoprene)=1)). 4.2.2
Bukit Atur measurements Ozone vertical profiles were therefore more like those ob-
served during the monsoon over northern Australia, than
those observed during monsoon break periods (Heyes et al.,
2009) RO2NO2 compounds are produced in the oxidation of iso-
prene and other terpenoids, this result provides evidence for
the oxidation of BVOC in the vicinity of the forest canopy. Additional evidence for the active photochemical processing
of isoprene is provided by the increase in concentrations of
its oxidation products, methyl vinyl ketone and methacrolein,
observed in the afternoons. than uptake on background aerosol in this environment, be-
cause, as discussed earlier, aerosol mass loadings were low. cause, as discussed earlier, aerosol mass loadings were low. There was a slight diurnal trend in ground-based O3 mea-
surements, with levels of ∼5 ppbv at 06:00, rising to ∼8 ppbv
in mid afternoon. Note that the very small amplitude in
the diurnal pattern is typical of a hill-top site (Fowler et al.,
2008) and contrasts with that observed at the in-canopy site
and over the low-lying palm plantations (see below). These
values are comparable to above canopy measurements made
above regions of Amazonia (Karl et al., 2007). Boundary
layer O3 levels also show an increase throughout the day, but
at higher levels (10–13 ppbv), probably because the bound-
ary layer O3 is less depleted by deposition to the canopy
(Matsuda et al., 2006; Cros et al., 2000). These boundary
layer values are slightly less than those measured over Ama-
zonia and West Africa during the GABRIEL and AMMA
campaigns (Ganzveld et al., 2008; Saunois et al., 2009). There is little vertical structure in the O3 mixing ratio at
higher heights above the rainforest, with levels in the free tro-
posphere being very similar to those in the boundary layer. Ozone vertical profiles were therefore more like those ob-
served during the monsoon over northern Australia, than
those observed during monsoon break periods (Heyes et al.,
2009). The concentrations of HO2+RO2 were measured at
Bukit Atur using PEroxy Radical Chemical Amplification
(PERCA) technology (Karunaharan et al., 2009) over 20
days in OP3-I and 29 days in OP3-III. Mean midday mixing
ratio of 33.5±3.3 and 35.5±3.5 parts per trillion (pptv) were
calculated from the continuous measurements of the sum of
the inorganic and organic peroxy radicals from OP3-I and
OP3-III respectively. 4.2.2
Bukit Atur measurements Note
that since Bukit Atur is on a ridge, some of the boundary
layer data collected by the aircraft over the surrounding for-
est were at the same or lower altitude (above sea level) as the
GAW tower. For NO, a peak of ∼100 pptv was observed between 07:00
and 08:00 local time, which corresponds to the onset of
NO2 photolysis. This was followed by a drop to ∼40 pptv
by 11:00, with NO then remaining fairly constant through-
out the day, until a further drop to ∼20 pptv occurred at
around 17:00. NO then remained constant throughout the The concentrations of NO2, peroxy nitrate (RO2NO2) and
alkyl nitrate (RONO2) were measured at Bukit Atur with a
laser induced fluorescence system (Aruffo et al., 2009). The
diurnal cycle of RO2NO2 followed the isoprene diurnal cy-
cle, with maximum concentrations in the afternoon. Since Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 188 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools than uptake on background aerosol in this environment, be-
cause, as discussed earlier, aerosol mass loadings were low. There was a slight diurnal trend in ground-based O3 mea-
surements, with levels of ∼5 ppbv at 06:00, rising to ∼8 ppbv
in mid afternoon. Note that the very small amplitude in
the diurnal pattern is typical of a hill-top site (Fowler et al.,
2008) and contrasts with that observed at the in-canopy site
and over the low-lying palm plantations (see below). These
values are comparable to above canopy measurements made
above regions of Amazonia (Karl et al., 2007). Boundary
layer O3 levels also show an increase throughout the day, but
at higher levels (10–13 ppbv), probably because the bound-
ary layer O3 is less depleted by deposition to the canopy
(Matsuda et al., 2006; Cros et al., 2000). These boundary
layer values are slightly less than those measured over Ama-
zonia and West Africa during the GABRIEL and AMMA
campaigns (Ganzveld et al., 2008; Saunois et al., 2009). There is little vertical structure in the O3 mixing ratio at
higher heights above the rainforest, with levels in the free tro-
posphere being very similar to those in the boundary layer. 4.2.3
Oil palm plantation measurements This is indicative of the high NOx con-
centrations observed in certain areas of the plantation land-
scape, as described above. Free troposphere NO and NO2
levels over the plantation were again much lower and very
similar to those observed over the rainforest. Ground based isoprene data show a similar diurnal cycle
to the rainforest, with near zero levels at night, but with an
earlier peak at around 12:00. Isoprene concentrations are
much higher in the plantation, with peak daytime levels of
∼16 000 pptv. Isoprene concentrations in the boundary layer
over the plantation show a very similar diurnal profile, but
with a significantly lower peak of ∼5000 pptv. The ground-
based measurements were made at the top of the oil palm
canopy, and hence this difference may be explained by dilu-
tion. Also, since the oil palm plantations are generally situ-
ated in low-lying, flat land, the aircraft measurements were
always made at a significant height above the ground level
measurements, unlike at Bukit Atur where the aircraft was
able to fly past the base of the GAW tower, located on a hill. Slightly larger aerosol concentrations were measured from
the aircraft than the ground, both over the rainforest and
oil palm, with mean total loadings in the boundary layer of
1.66 and 1.78 µg m−3, respectively. Aerosol loadings were
much lower in the free troposphere, with an average total of
0.22 µg m−3. Free-tropospheric aerosol showed a larger sul-
phate contribution of 69%, compared with 43% in the bound-
ary layer. The water uptake ability of the atmospheric aerosol at
Bukit Atur was probed in both the sub- and super-saturated
regimes with the use of a Hygroscopicity Tandem Differen-
tial Mobility Analyser (HTDMA; Cubison et al., 2005; Gy-
sel et al., 2007) and Cloud Condensation Nucleus counter
(CCNc; Roberts et al., 2005), respectively. Aerosol hygro-
scopic growth factors (GF) at 90% relative humidity (RH)
for particles of dry diameter (D0) from 27 to 217 nm showed
the aerosol to be externally mixed, with a mean growth fac-
tor (GFD0,90%) ranging between 1.3 and 1.6 with increasing
dry diameter and multiple growth factor modes at each dry
size evident. A Scanning Mobility Particle Analyser (SMPS;
TSI 3080) was operated upstream of the CCNc, to supply
quasi-monodisperse aerosol in the size range 30 to 220 nm. 4.2.3
Oil palm plantation measurements at the surface. A full description of the OH, HO2 and OH
reactivity measurements is given in Whalley et al. (2009,
2010a) and Edwards et al. (2009, 2010). Campaign daytime average (10:00–14:00) isoprene fluxes
measured at 15 m at the Sabahmas oil palm plantation site
were 8.6 mg m−2 h−1 during OP3-II (Misztal et al., 2010a). This is four to seven times greater than the isoprene flux mea-
sured at Bukit Atur (see above). The fluxes of other biogenic
VOCs, including oxygenated species and more exotic com-
pounds (e.g. estragole: Misztal et al., 2010b), were smaller,
contributing ∼15% of the total measured VOC emissions. Net fluxes of monoterpenes were very small (<1% of total
VOC flux). The non-refractory sub-micrometre aerosol as measured
by aerosol mass spectrometry at the Bukit Atur ground site
was mostly composed of organics, sulphate, and ammonium,
with low levels of nitrate and chloride. Average loadings
were 0.74, 0.61, 0.21, 0.04 and 0.01 µg m−3, respectively,
giving a total aerosol loading of 1.61 µg m−3. The sulphate
was observed to be largely neutralised to ammonium sul-
phate. Organics showed a diurnal profile peaking around
21:00. The ensemble organic spectrum had a m/z=44 to total
organics ratio of 0.15%, with prominent peaks at m/z=55 and
53, features which would be considered typical of a partially
oxygenated organic aerosol (e.g., Hallquist et al., 2009). The
sulphate showed no distinct diurnal profile, suggesting it was
regional in nature, potentially from the anthropogenic back-
ground, volcanoes or oxidised dimethyl sulphate originating
from marine phytoplankton (Dacey and Wakeham, 1986). Of
all the gas and aerosol species measured at Bukit Atur, sul-
phate aerosol most clearly showed the influence of regional-
scale transport rather than local sources and sinks. Both ni-
trate and chloride showed strong nocturnal peaks that could
be caused by partitioning from the gas phase as the tempera-
ture falls and humidity increases at night. Figure 9b shows diurnal cycles of data taken at the ground-
based site within the Sabahmas oil palm plantation. Species
plotted are the same as for the Bukit Atur rainforest ground
site, with the exception of NO and NO2 which were not mea-
sured at ground level at Sabahmas. Boundary layer NO and
NO2 levels show slightly higher levels compared to the rain-
forest but the scatter on the data (indicated by the 1σ error
bars) is much larger. 4.2.2
Bukit Atur measurements Since HO2+RO2
are produced during the oxidation of isoprene and other ter-
penoids, taken together with the observations of MVK and
methacrolein formation, this result provides evidence for the
oxidation of BVOC in the vicinity of the forest canopy and
of the role of isoprene in the formation of ozone in the near-
canopy environment during the daytime. Evidence of BVOC reactivity also comes from differen-
tial optical absorption spectroscopy (DOAS) measurements. DOAS was used at Bukit Atur to make the first measure-
ments in a tropical rainforest of glyoxal (CHOCHO), one of
the major products of isoprene oxidation by OH. Mixing ra-
tios much higher than in other rural locations were observed,
with a maximum of 1.6 ppbv and average around 600 pptv. HCHO was also measured, peaking at 4.5 ppbv and with an
average around 3 ppbv. Both species were closely correlated
to isoprene (which should be their major source in this envi-
ronment), and peaked in the early afternoon. A box model
indicates that the production efficiency of glyoxal from iso-
prene is ∼10%. Although glyoxal was significantly scav-
enged during rain showers, it is mostly removed by reaction
with OH and photolysis (lifetime at midday ∼2.3 h) rather Boundary layer OH concentrations recorded on the aircraft
over Bukit Atur were similar to those measured at ground
level, whereas aircraft HO2 concentrations were higher than
measured at the ground, a reflection of the elevated NO levels Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 189 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 5
Modelling and assessment As stated in the introduction above, a fundamental aim of
the OP3 project was to understand the role played by bio-
genic emissions from the tropical rainforest: what is the na-
ture of the emissions, how are they transformed and how do
these processes then impact local, regional and hemispheric
scale atmospheric chemistry; what will be the implications
of global change for these processes and their impacts? To address these questions, the OP3 project employed a
range of models, varying in their spatial scale of interest and
chemical complexity, as shown in Table 3. Thus, a model of
transport and chemistry through and above the forest canopy
has been used to address the canopy measurements, to study
vertical transport of gas and aerosol species, their emission
and deposition, and chemical transformation (Ryder et al.,
2009). A range of chemical box models (some run along air
parcel trajectories) has been employed to study local chem-
istry, addressing both the ground based and aircraft measure-
ments. These very detailed models aim to inform the chemi-
cal mechanisms used in our regional and global models that,
in turn, are used to study the impact of the biogenic emis-
sions at the regional and wider scales. They are also used to
investigate transport and variability. Fig. 9b. Average diurnal profiles for isoprene, ozone and or-
ganic/sulphate aerosol content for the oil palm plantation ground
site and aircraft data (also with NOx) taken over surrounding oil
palm plantations and below 500 m above ground level (BL) and in
the free troposphere above 2500 m (FT). The error bars on the air-
craft data indicate 1σ standard deviations for data taken on the four
flights. deposition to the oil palm trees, reaction with NOx from local
sources, and reaction with isoprene, are three possible con-
tributing factors for the low concentrations and earlier peak
of day-time O3 observed on the ground in the plantation. Understanding the fast photochemistry processes (mainly
involving HOx and ROx) is carried out using constrained box
models. These use the observed concentrations of species
providing HOx sources, sinks and inter-conversion pathways,
to calculate the concentrations of OH, HO2 and other short
lived species such as the sum of peroxy radicals (RO2), for
comparison with observations. 5
Modelling and assessment Insight from these calcula-
tions allows our understanding of the complex organic chem-
istry occurring in this region to be evaluated, the level of
chemical complexity required to capture these processes to
be quantified and the impact of the approximations made in
the chemical transport models to be evaluated. The total aerosol loading, as measured by the AMS, at
the oil palm site was on average 1.6 µg m−3, similar to the
aerosol loading measured by AMS at the forest site (Nemitz
et al., 2009, 2010). The mass was dominated by organic
aerosol, which made up on average 65% of the total mass,
with sulphate contributing 20% of the total mass. The or-
ganic aerosol exhibits a clear diurnal trend with two maxima,
occurring at approximately 08:00 and 15:00 local time. The
ensemble mass spectrum measured at the oil palm resem-
bles the classic oxygenated organic aerosol spectrum (e.g. Hallquist et al., 2009), dominated by mass fragment m/z 44,
resulting from carboxylic acid functionality. An examination
of mass fragment-specific diurnal profiles indicates that frag-
ments thought to be associated with less oxygenated organic
aerosol make a smaller contribution to the afternoon max-
imum in the organic mass relative to those masses arising
from oxygenated fragments, e.g. m/z 44. p
The constrained-box-model focus is split between the
ground-based and aircraft data. One investigation has used
the Master Chemical Mechanism, a near-explicit mechanism
that considers the degradation of a suite of hydrocarbons in
the atmosphere (Jenkin et al., 2003; Saunders et al., 2003). For both ground and aircraft data, a zero-dimensional box
model is constrained with the observed concentrations of
longer-lived species such as hydrocarbons, NOx, O3, rele-
vant meteorological data and observed photolysis rates; the
models predict radical concentrations which can be com-
pared with those measured. The ground-based model is a
continuation of a previous modelling framework (e.g. Em-
merson et al., 2007) that has been used extensively for sim-
ilar comparisons (Heard and Pilling, 2003). The aircraft
based model uses the Dynamically Simple Model of Atmo-
spheric Chemical Complexity (DSMACC) (Emmerson and
Evans, 2009) model and follows previous aircraft based work
(Jaegle et al, 2000; Olson et al., 2006). Preliminary results
show that for the first (April–May) ground-based campaign, Sulphate aerosol shows a slightly different trend in mass to
the total organics, with a broader maximum during the day-
time, although there was large day-to-day variability. 4.2.3
Oil palm plantation measurements Critical supersaturations (Sc) derived from fraction activated
CCN spectra, showed a diurnal variation in supersaturation
between 0.2 and 0.8% required to activate particles of a given
D0, primarily in the dry diameter range 50 to 120 nm. y p
Measurements of O3 at the ground in the plantation ex-
hibit a very different diurnal cycle compared to the rainfor-
est, with near zero night-time concentrations and a peak of
∼5 ppbv at 11:00–12:00. This is followed by a steady de-
crease throughout the day until O3 reaches close to zero at
around 23:00. This general pattern is typical of that for a low-
lying site, where O3 lost by reaction with NO emitted from
fertilised plantation soils and deposition at night is not re-
plenished by mixing from aloft, due to the more ready estab-
lishment of a stable boundary layer compared with elevated,
more windy, sites (Fowler et al., 2008). Data taken in the
boundary layer above the plantation show a similar diurnal
cycle to the rainforest, with an increase throughout the day
to a peak of ∼15 ppbv. This mean value is 2 to 3 ppbv higher
than the rainforest levels, but as indicated by the 1σ error
bars there is scatter in this value, which reflects the variabil-
ity in the NOx and its impact on O3 concentrations. Increased www.atmos-chem-phys.net/10/169/2010/ Atmos. Chem. Phys., 10, 169–199, 2010 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 190 Fig. 9b. Average diurnal profiles for isoprene, ozone and or-
ganic/sulphate aerosol content for the oil palm plantation ground
site and aircraft data (also with NOx) taken over surrounding oil
palm plantations and below 500 m above ground level (BL) and in
the free troposphere above 2500 m (FT). The error bars on the air-
craft data indicate 1σ standard deviations for data taken on the four
flights. Atmos. Chem. Phys., 10, 169–199, 2010 5
Modelling and assessment Both
the nitrate and chloride fractions showed an obvious max-
imum, coincident with the morning organic aerosol maxi-
mum, but both lacked the increase in mass observed in the
organic fraction during the afternoon. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
Table 3. Modelling tools employed in the OP3 project. Model name
Brief description
Domain
References
Canopy model
1-D transport and
chemistry
Ground to canopy
top – six levels
Ryder et al. (2009)
MCM – York
4500 species, >12 500
reactions. Near-explicit
chemistry; long lived
gases constrained by
observations
Ground-based box
Emmerson et al. (2007)
Dynamically Simple
Model of Atmospheric
Chemical Complexity
(DSMACC)
Reduced chemistry;
long lived gases
constrained by
observations
Steady state calcula-
tions along aircraft
flight track
Emmerson and Evans
(2009)
CiTTyCAT
200 species, >800
reactions including
MIM2 isoprene
scheme, Jenkin alpha-
pinene and RACM
limonene
Boundary layer: one
well-mixed layer in
daytime, two at night. Pugh et al. (2010b)
Cambridge p-
TOMCAT chemical
transport model
63 species, 177 reac-
tions. Simple organic
mechanism, including
isoprene. Separate bro-
mocarbon scheme. Global. Variable reso-
lution, usually 3◦×3◦
or 0.5◦×0.5◦
Cook et al. (2007),
Voulgarakis et al. (2009)
p-TOMCAT box
As above
Box model
Pike et al. (2009) C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 191 Global. Variable reso-
lution, usually 3◦×3◦
or 0.5◦×0.5◦
Cook et al. (2007),
Voulgarakis et al. (2009) Global. Variable reso-
lution, usually 3◦×3◦
or 0.5◦×0.5◦ Pike et al. (2009) p-TOMCAT box
As above p-TOMCAT box Pike et al. (2009) Box model Box model become an even more dominant crop, replacing the rainfor-
est. Hewitt et al. (2009) show that under these circumstances,
what happens to local and regional-scale emissions of NOx
will be crucial. Without control of NOx emissions, the levels
of ozone could become unacceptably high, damaging both
crop and human health. there is reasonable agreement between modelled and mea-
sured OH on some days, but an under-prediction on oth-
ers. The OH loss for the OP3 campaigns was dominated
by isoprene chemistry, with smaller contributions from γ t
terpinene and limonene. γ -Terpinene becomes much more
important at night-time, when isoprene emissions are effec-
tively zero. 6
Conclusions The overall aim of the OP3 project was to better understand
the interactions that exist between SE Asian rainforests, at-
mospheric composition and, ultimately, the Earth’s climate
system. In pursuing this aim, an extensive field deployment
was carried out in 2008, supported by satellite data retrievals
and modelling studies. The field deployment, from April to
the end of July 2008, comprised extensive composition and
flux measurements within and above the rainforest canopy,
along with a more limited set of measurements in and above
an oil palm plantation. Composition measurements across
most of the state of Sabah in northern Borneo, and out to sea
on both windward and leeward sides of the island, were pro-
vided by flights of the FAAM BAe 146. Remote sensing of
land cover has shown that the chosen sites were representa-
tive of large areas of Borneo and the rest of insular SE Asia;
long-term meteorological and ozone data gathered as part of
the Global Atmosphere Watch programme show that weather
and ozone mixing ratios during the time period of the field
deployment were typical of the long term record. Fig. 10. Mean surface ozone concentrations (ppbv) for April 2008
taken from two integrations of the Cambridge p-TOMCAT chem-
ical transport model. The upper plot shows mean ozone from an
integration at 3×3 degrees horizontal resolution. At this resolu-
tion, Borneo is poorly represented and ozone is over estimated. The lower plot shows the same result but when the model is run at
0.5×0.5 degree horizontal resolution. Ozone concentrations have
improved and there is a noticeable land-sea difference consistent
with the shape of the island. oil palm plantation. By an accident of the non-linearity of
boundary-layer chemistry, ozone mixing ratios over the two
landscapes were similar, although plumes of higher ozone
were observed in air impacted by emissions from oil-palm
processing plants. Composition measurements show that the rainforest site
was not impacted significantly by anthropogenic pollution,
and this is confirmed by satellite retrievals of NO2 and
HCHO. The dominant modulators of atmospheric chemistry
at the rainforest site were therefore emissions of BVOCs and
soil emissions of reactive nitrogen oxides. At the observed
BVOC:NOx volume mixing ratio (∼100 pptv/pptv), current
chemical models suggest that daytime maximum OH con-
centrations should be ca. 105 radicals cm−3, but observed OH
concentrations were an order of magnitude greater than this. 5
Modelling and assessment Modelling of the aircraft data is in a more pre-
liminary state but shows relatively good agreement between
the observed and simulated HO2 with poorer agreement for
the OH. Whether this reflects issues with making OH obser-
vations from aircraft or with our understanding of the chem-
istry of isoprene will require further analysis. We find that CiTTyCAT can represent the broad features of
atmospheric composition above a tropical rainforest (Pugh et
al., 2010a). In particular, the model can fit daytime NOx and
O3 chemistry. Ambient concentration measurements have
been used to estimate a net NO flux of 5 µg N m−2 h−1. De-
position of intermediate VOC oxidation products can have
a very significant influence on their concentrations and the
chemistry of the boundary layer, highlighting the need for
further investigation into deposition processes over tropical
forests. Reduced chemical mechanisms, of the kind traditionally
employed in global chemical transport models, have also
been used in box model mode, to compare against the mea-
sured constituent data and to investigate the significance of
processes. Thus, the CiTTyCAT model (Wild et al., 1996;
Evans et al., 2000; Emmerson et al., 2004; Donovan et al.,
2005) has been used to study the chemical regimes probed
by the OP3 measurements, both over the rainforest and over
palm oil plantations, and to explore how local air quality
could be affected should palm oil (a major isoprene-emitter) Another box model study with a reduced chemical mech-
anism has focussed on the ground-based measurements of
ozone and NOx (Pike et al., 2009). This study suggests that
the chemical mechanism included in the Cambridge global
chemistry transport model, p-TOMCAT (Cook et al., 2007;
Voulgarakis et al., 2009a, b) can reproduce the measurements Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 192 oject: introduction, rationale, location characteristics and tools
Fig. 10. Mean surface ozone concentrations (ppbv) for April 2008
taken from two integrations of the Cambridge p-TOMCAT chem-
ical transport model. The upper plot shows mean ozone from an
integration at 3×3 degrees horizontal resolution. At this resolu-
tion, Borneo is poorly represented and ozone is over estimated. 5
Modelling and assessment The lower plot shows the same result but when the model is run at
0.5×0.5 degree horizontal resolution. Ozone concentrations have
improved and there is a noticeable land-sea difference consistent
with the shape of the island. if a parametrization of mixing out of and into the boundary
layer is included. The Cambridge p-TOMCAT global model has been used
to look at regional-scale chemistry. Figure 10 (Pike et al.,
2009) shows surface ozone concentrations from two calcu-
lations for April 2008, with the model run at two differ-
ent spatial resolutions (approx 3◦×3◦and 0.5◦×0.5◦, re-
spectively). At the lower resolution (typical of multi-annual
integrations), the model significantly overestimates surface
ozone over Borneo. Little spatial structure is evident and de-
tailed flight track comparisons (not shown) fail to reproduce
much observed structure. In contrast, at the high resolution,
the model now captures a significant land – sea difference in
surface ozone, driven by deposition over the land. Modelled
ozone concentrations are still somewhat higher than observed
but are now closer to the observations. 6
Conclusions Acknowledgements. The OP3 project was funded by the UK
Natural Environment Research Council (NE/D002117/1). Mea-
surements made during OP3-II were, in part, performed as part of
the ACES (Aerosol Coupling in the Earth System; NE/E011179/1)
project of the NERC APPRAISE (Aerosol Properties, PRocesses
And Influences on the Earth’s Climate) programme. We thank the
Malaysian and Sabah Governments for their permission to conduct
research in Malaysia; the Malaysian Meteorological Department
(MMD) for access to the Bukit Atur Global Atmosphere Watch
station and their long term ozone record; Leong Chow Peng
(formerly of MMD) for her support in the early stages of the
project; Wilmar International Ltd (and particularly Simon Siburat
and his staff) for access to and considerable logistical support
at their PPB Oil Palms Bhd Sabahmas Estate; Waidi Sinun of
Yayasan Sabah and his staff and Glen Reynolds of the Royal
Society’s South East Asian Rainforest Research Programme and
his staff for logistical support at the Danum Valley Field Centre;
the ground staff, engineers, scientists and pilots of the UK Natural
Environment Research Council/UK Meteorological Office’s BAe
146-301 large atmospheric research aircraft; the NERC Facility
for Ground-based Atmospheric Measurements and Halo Photonics
for support with the LIDAR deployment; Phua Mui How of the
Universiti Malaysia Sabah for his help with the land cover map;
and the rest of the OP3 project team for their individual and
collective efforts. Isabelle De Smedt and Michel Van Roozendael
(Belgian Institute for Space Aeronomy) provided the GOME and
SCIAMACHY HCHO products and the OMI NO2 product was
downloaded from the NASA Data and Information Services Center. This is paper number 501 of the Royal Society’s South East Asian
Rainforest Research Programme and is dedicated to the memory of
Kate Furneaux, a core member of the OP3 project team, who was
killed in a traffic accident while cycling in Leeds on 28 July 2009. Arino, O., Plummer, S., and Defrenne, D.: Fire disturbance: the ten
years time series of the ATSR world fire atlas. Proceedings of
the MERIS-AATSR workshop 2005, Frascati, Italy, September
2005. Arino, O., Simon, M., Piccolini, I., and Rosaz, J. M.: The ERS-2
ATSR-2 World Fire Atlas and the ERS-2 ATSR-2 World Burnt
Surface Atlas projects. Proceedings of the 8th ISPRS conference
on Physical Measurement and Signatures in Remote Sensing,
Aussois, 8–12 January 2001. 6
Conclusions We confirm, therefore, previous measurements which sug-
gest that an unexplained source of OH must exist above trop-
ical forests (Lelieveld et al., 2008) and continue to interrogate
the data to find explanations for this. The land-sea mosaic of SE Asia makes it difficult for
global atmospheric chemistry-and-transport models run at
typical resolution to capture the observed atmospheric com-
position; runs at higher horizontal resolution provide much
better agreement with measurements. A missing OH source
notwithstanding, simple chemistry schemes, as currently im-
plemented in most global models, can match observed ozone
and NOx diurnal patterns, if a parametrization of mixing out
of and into the boundary layer is included. Marked differences in BVOC and NOx concentrations,
and in BVOC fluxes, were measured in the rainforest and the Overall, the SE Asian rainforest has shown itself to have
significant differences from the more intensively studied Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 193 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Amazon rainforest – in tree speciation and, hence, in BVOC
emission potential, and in the apparent lack of seasonality
of emissions. It also exhibits significant differences to the
oil palm plantations that are replacing it. A striking simi-
larity, however, is the sustained oxidative capacity of the at-
mosphere above the rainforest in both SE Asia and Amazo-
nia. Our current inability to adequately explain this limits
the confidence we can have in our projections of how atmo-
spheric composition and climate may change in the future. J. H. C., Grace, J., Kabat, P., Lelieveld, J., Malhi, Y., Manzi,
A. O., Meixner, F. X., Nobre, A. D., Nobre, C., Ruivo, M.,
Silva-Dias, M. A., Stefani, P., Valentini, R., von Jouanne, J.,
and Waterloo, M. J.: Biogeochemical cycling of carbon, wa-
ter, energy, trace gases, and aerosols in amazonia: The LBA-
EUSTACH experiments, J. Geophys. Res.-Atmos., 107, 8066,
doi:10.1029/2001JD000524, 2002. Andreae, M. O., Artaxo, P., Fischer, H., Freitas, S. R., Gregoire,
J. M., Hansel, A., Hoor, P., Kormann, R., Krejci, R., Lange, L.,
Lelieveld, J., Lindinger, W., Longo, K., Peters, W., de Reus, M.,
Scheeren, B., Dias, M., Strom, J., van Velthoven, P. F. J., and
Williams, J.: Transport of biomass burning smoke to the upper
troposphere by deep convection in the equatorial region, Geo-
phys. Res. Lett., 28, 951–954, 2001. 6
Conclusions Aruffo E., Di Carlo P., Dari Salisburgo C., and Giammaria F.:
Thermal-dissociation Laser Induced fluorescence (TD-LIF) in-
strument for NOy speciation: observations of total peroxy nitrate
and total alkyl nitrate, Atmos. Chem. Phys. Discuss., in prepara-
tion, 2010. Ashbaugh, L. L., Malm, W. C., and Sadeh, W. Z.: A residence time
probability analysis of sulfur concentrations at Grand Canyon
National Park, Atmos. Environ., 19, 1263–1270, 1985. ATBD-OMI-02: OMI Algorithm Theoretical Basis Document Vol-
ume IV OMI Trace Gas Algorithms, edited by: Chance, K.,
Smithsonian Astrophysical Observatory Cambridge, MA, USA,
Version 1.0, September 2001. p
Aubinet, M., Grelle, A., Ibrom, A., Rannik, U., Moncrieff, J., Fo-
ken, T., Kowalski, A. S., Martin, P. H., Berbigier, P., Bernhofer,
C., Clement, R., Elbers, J., Granier, A., Grunwald, T., Morgen-
stern, K., Pilegaard, K., Rebmann, C., Snijders, W., Valentini, R.,
and Vesala, T.: Estimates of the annual net carbon and water ex-
change of forests: The EUROFLUX methodology, in Advances
in Ecological Research, Vol 30, Academic Press Inc, San Diego,
113–175, 2000. Avissar, R., Dias, P. L. S., Dias, M., and Nobre, C.: The large-scale
biosphere-atmosphere experiment in Amazonia (LBA): Insights
and future research needs, J. Geophys. Res.-Atmos., 107, 8086,
doi:10.1029/2002JD002704, 2002. Edited by: W. T. Sturges References Baillie, I. C.: Soils of the humid tropics, in: The tropical rainforest
(Second edition), edited by: Richards P. W., Cambridge Univer-
sity Press, Cambridge, 256–286, 1996. Aiken, A. C., Decarlo, P. F., Kroll, J. H., Worsnop, D. R., Huff-
man, J. A., Docherty, K. S., Ulbrich, I. M., Mohr, C., Kimmel,
J. R., Sueper, D., Sun, Y., Zhang, Q., Trimborn, A., Northway,
M., Ziemann, P. J., Canagaratna, M. R., Onasch, T. B., Alfarra,
M. R., Prevot, A. S. H., Dommen, J., Duplissy, J., Metzger,
A., Baltensperger, U., and Jimenez, J. L.: O/C and OM/OC ra-
tios of primary, secondary, and ambient organic aerosols with
high-resolution time-of-flight aerosol mass spectrometry, Envi-
ron. Sci. Technol., 42, 4478–4485, 2008. Barkley, M. P., Palmer, P. I., De Smedt, I., Karl, T., Guenther, A.,
and Van Roozendael, M.: Regulated large-scale annual shut-
down of amazonian isoprene emissions?, Geophys. Res. Lett.,
36, L04803, doi:10.1029/2008GL036843, 2009. Barth, M., McFadden, J., Sun, J., Wiedinmyer, C., Chuang, P.,
Collins, D., Griffin, R., Hannigan, M., Karl, T., Kim, S.-W.,
Lasher-Trapp, S., Levis, S., Litvak, M., Mahowald, N., Moore,
K., Nandi, S., Nemitz, E., Nenes, A., Potosnak, M., Raymond,
T., Smith, J., Still, C., and Stroud, C.: Coupling between land Barth, M., McFadden, J., Sun, J., Wiedinmyer, C., Chuang, P.,
Collins, D., Griffin, R., Hannigan, M., Karl, T., Kim, S.-W.,
Lasher-Trapp, S., Levis, S., Litvak, M., Mahowald, N., Moore, K., Nandi, S., Nemitz, E., Nenes, A., Potosnak, M., Raymond,
T., Smith, J., Still, C., and Stroud, C.: Coupling between land Andreae, M. O., Artaxo, P., Brandao, C., Carswell, F. E., Cic-
cioli, P., da Costa, A. L., Culf, A. D., Esteves, J. L., Gash, Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 194 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Conrad, R.: Compensation Concentration as Critical Variable for
Regulating the Flux of Trace Gases between Soil and Atmo-
sphere, Biogeochemistry, 27, 155–170, 1994. ecosystems and the atmospheric hydrologic cycle through bio-
genic aerosol pathways, B. Am. Meteor. Soc., 86(12), 1738–
1742, 2005. ecosystems and the atmospheric hydrologic cycle through bio-
genic aerosol pathways, B. Am. Meteor. Soc., 86(12), 1738–
1742, 2005. Bidin, K. and Chappell, N. A.: TECHNICAL NOTE: First evidence
of a structured and dynamic spatial pattern of rainfall within a
small humid tropical catchment, Hydrol. Earth Syst. References Dari-Salisburgo C., Di Carlo P., Aruffo E., Langford B., Dorsey J.,
and Giammaria F.: Flux measurements of NO2 in Asian tropical
rainforest using laser induced fluorescence and eddy covariance,
Atmos. Chem. Phys. Discuss., in preparation 2010. Buzorius, G., Rannik, ¨U., M¨akel¨a, J. M., Vesala, T., and Kulmala,
M.: Vertical aerosol particle fluxes measured by eddy covariance
technique using condensational particle counter, J. Aerosol Sci.,
29, 157–171, 1998. Canagaratna, M. R., Jayne, J. T., Jimenez, J. L., Allan, J. D., Al-
farra, M. R., Zhang, Q., Onasch, T. B., Drewnick, F., Coe, H.,
Middlebrook, A., Delia, A., Williams, L. R., Trimborn, A. M.,
Northway, M. J., DeCarlo, P. F., Kolb, C. E., Davidovits, P., and
Worsnop, D. R.: Chemical and microphysical characterization of
ambient aerosols with the Aerodyne aerosol mass spectrometer,
Mass Spectrom. Rev., 26, 185–222, 2007. Dari-Salisburgo, C., Di Carlo, P., Giammaria, F., Kajii, Y., and
D’Altorio, A.: Laser induced fluorescence instrument for NO2
measurements: observations at a central Italy background site,
Atmos. Environ., 43, 970–977, 2009. De Smedt, I., M¨uller, J.-F., Stavrakou, T., van der A, R., Eskes, H.,
and Van Roozendael, M.: Twelve years of global observations
of formaldehyde in the troposphere using GOME and SCIA-
MACHY sensors, Atmos. Chem. Phys., 8, 4947–4963, 2008,
http://www.atmos-chem-phys.net/8/4947/2008/. Capes, G., Murphy, J. G., Reeves, C. E., McQuaid, J. B., Hamilton,
J. F., Hopkins, J. R., Crosier, J., Williams, P. I., and Coe, H.:
Secondary organic aerosol from biogenic VOCs over West Africa
during AMMA, Atmos. Chem. Phys., 9, 3841–3850, 2009,
http://www.atmos-chem-phys.net/9/3841/2009/. Donovan, R. G., Hope, E. S., Owen, S. M., Mackenzie, A. R., and
Hewitt, C. N.: Development and Application of an Urban Tree
Air Quality Score for Photochemical Pollution Episodes Using
the Birmingham, United Kingdom, Area as a Case Study, Envi-
ron. Sci. Technol., 39, 6730–6738, 2005. Carslaw, N., Creasey, D. J., Harrison, D., Heard, D. E., Hunter, M. C., Jacobs, P. J., Jenkin, M. E., Lee, J. D., Lewis, A. C., Pilling,
M. J., Saunders, S. M., and Seakins, P. W.: OH and HO2 radical
chemistry in a forested region of north-western Greece, Atmos. Environ., 35, 4725–4737, 2001. Dorsey, J. R and Gallagher, M. W.: NOx flux measurements from
a south east Asian tropical rainforest soil, Atmos. Chem. Phys. Discuss., in preparation, 2010. Edwards, G. D. and Monks, P. References Sci., 7, 245–
253, 2003,
http://www.hydrol-earth-syst-sci.net/7/245/2003/. Cook, P. A., Savage, N. H., Turquety, S., Carver, G. D., O’Connor,
F. M., Heckel, A., Stewart, D., Whalley, L. K., Parker, A. E., Schlager, H., Singh, H. B., Avery, M. A., Sachse, G. W.,
Brune, W., Richter, A., Burrows, J. P., Purvis, R., Lewis, A. C., Reeves, C. E., Monks, P. S., Levine, J. G., and Pyle, J. A.: Forest fire plumes over the north Atlantic: p-TOMCAT
model simulations with aircraft and satellite measurements from
the ITOP/ICARTT campaign, J. Geophys. Res.-Atmos., 112,
D10S43, doi:10.1029/2006JD007563, 2007. http://www.hydrol-earth-syst-sci.net/7/245/2003/. Bidin, K. and Chappell, N. A.: Characteristics of rain events at an
inland locality in northeastern Borneo, Malaysia, Hydrol. Pro-
cess., 20, 3835–3850, 2006. Bohn, B., Corlett, G. K., Gillmann, M., Sanghavi, S., Stange, G.,
Tensing, E., Vrekoussis, M., Bloss, W. J., Clapp, L. J., Kortner,
M., Dorn, H.-P., Monks, P. S., Platt, U., Plass-D¨ulmer, C., Mi-
halopoulos, N., Heard, D. E., Clemitshaw, K. C., Meixner, F. X.,
Prevot, A. S. H., and Schmitt, R.: Photolysis frequency measure-
ment techniques: results of a comparison within the ACCENT
project, Atmos. Chem. Phys., 8, 5373–5391, 2008,
http://www.atmos-chem-phys.net/8/5373/2008/. Cros, B., Delon, C., Affre, C., Marion, T., Druilhet, A., Perros, P. E., and Lopez, A.: Sources and sinks of ozone in savanna and
forest areas during EXPRESSO: Airborne turbulent flux mea-
surements, J. Geophys. Res.-Atmos., 105, 29347–29358, 2000. Crosier, J., Allan, J. D., Coe, H., Bower, K. N., Formenti, P., and
Williams, P. I.: Chemical composition of summertime aerosol in
the Po Valley (Italy), northern Adriatic and Black Sea, Q. J. Roy. Meteorol. Soc., 133, 61–75, 2007. Brough, N., Reeves, C. E., Penkett, S. A., Stewart, D. J., Dewey,
K., Kent, J., Barjat, H., Monks, P. S., Ziereis, H., Stock, P.,
Huntrieser, H., and Schlager, H.: Intercomparison of aircraft
instruments on board the C-130 and Falcon 20 over southern
Germany during EXPORT 2000, Atmos. Chem. Phys., 3, 2127–
2138, 2003,
http://www.atmos-chem-phys.net/3/2127/2003/. Cubison, M. J., Coe, H., and Gysel, M.: A modified hygroscopic
tandem DMA and a data retrieval method based on optimal esti-
mation, J. Aerosol Sci., 36, 846–865, 2005. Dacey, J. W. H. and Wakeham, S. G.: Oceanic dimethylsulfide - pro-
duction during zooplankton grazing on phytoplankton, Science,
233, 1314–1316, 1986. References M., and Pyle, J. A.: µDirac:
an autonomous instrument for halocarbon measurements, Atmos. Meas. Tech. Discuss., 2, 2123–2159, 2009,
http://www.atmos-meas-tech-discuss.net/2/2123/2009/. Emmerson, K. M., Carslaw, N., and Pilling, M. J.: Urban Atmo-
spheric Chemistry during the PUMA Campaign. 2: Radical bud-
gets for OH, HO2 and RO2, J. Atmos. Chem., 52(2), 165–183,
2005. Gostlow, B., Robinson, A. D., Harris, N. R. P., O’Brien, L. M.,
Oram, D. E., Mills, G. P., Newton, H. M., and Pyle, J. A.: Dirac:
an autonomous instrument for halocarbon measurements, Atmos. Meas. Tech. Discuss., 2, 2123-2159, 2009,
http://www.atmos-meas-tech-discuss.net/2/2123/2009/. European Centre for Medium-Range Weather Forecasts, ECMWF
Trajectories: British Atmospheric Data Centre, 2006–2009, on-
line available at: http://badc.nerc.ac.uk/data/ecmwf-trj/, March
2009. Evans, M. J., Shallcross, D. E., Law, K. S., Wild, J. O. F., Sim-
monds, P. G., Spain, T. G., Berrisford, P., Methven, J., Lewis,
A. C., McQuaid, J. B., Pilling, M. J., Bandy, B. J., Penkett, S. A., And Pyle, J. A.: Evaluation of a Langrangian box model us-
ing field measurements from EASE (Eastern Atlantic Summer
Experiment) 1996, Atmos. Environ., 34, 3843–3863, 2000. Greenberg, J. P., Guenther, A. B., Madronich, S., Baugh, W., Gi-
noux, P., Druilhet, A., Delmas, R., and Delon, C.: Biogenic
volatile organic compound emissions in central Africa during the
experiment for the regional sources and sinks of oxidants (EX-
PRESSO) biomass burning season, J. Geophys. Res.-Atmos.,
104, 30659–30671, 1999. Guenther, A., Hewitt, C. N., Erickson, D., Fall, R., Geron, C.,
Graedel, T., Harley, P., Klinger, L., Lerdau, M., McKay, W. A.,
Pierce, T., Scholes, B., Steinbrecher, R., Tallamraju, R., Tay-
lor, J., and Zimmerman, P.: A global-model of natural volatile
organic-compound emissions, J. Geophys. Res.-Atmos., 100,
8873–8892, 1995. Farmer, D. K., Wooldridge, P. J., and Cohen, R. C.: Applica-
tion of thermal-dissociation laser induced fluorescence (TD-LIF)
to measurement of HNO3, 6alkyl nitrates, 6peroxy nitrates,
and NO2 fluxes using eddy covariance, Atmos. Chem. Phys., 6,
3471–3486, 2006,
http://www.atmos-chem-phys.net/6/3471/2006/. Fleming, Z. L., Monks, P. S., Rickard, A. R., Heard, D. E., Bloss,
W. J., Seakins, P. W., Still, T. J., Sommariva, R., Pilling, M. J.,
Morgan, R., Green, T. J., Brough, N., Mills, G. P., Penkett, S. A., Lewis, A. C., Lee, J. D., Saiz-Lopez, A., and Plane, J. M. C.:
Peroxy radical chemistry and the control of ozone photochem-
istry at Mace Head, Ireland during the summer of 2002, Atmos. Chem. Phys., 6, 2193–2214, 2006,
http://www.atmos-chem-phys.net/6/2193/2006/. References S.:
Performance of a single-
monochromator diode array spectroradiometer for the determi-
nation of actinic flux and atmospheric photolysis frequencies, J. Geophys. Res., 108, 8546, doi:10.1029/2002JD002844, 2003. Chappell, N. A., Sherlock, M., Bidin, K., Macdonald, R., Najman,
Y., and Davies, G.: Runoff processes in Southeast Asia: role
of soil, regolith and rock type, in: Forest Environments in the
Mekong River Basin, edited by: Sawada, H., Araki, M., Chap-
pell, N. A., LaFrankie, J. V., and Shimizu ,A., Springer Verlag,
Tokyo, 3–23, 2007. Edwards, P. M., Edwards, P., Whalley, L. K., Heard, D. E., et al.:
OH reactivity measurements in a South-East Asian tropical Rain-
forest, Atmos. Chem. Phys. Discuss., in preparation, 2010. Chappell, N. A., Bidin, K., and Tych, W.: Modelling rainfall and
canopy controls on net-precipitation beneath selectively-logged
tropical forest, Plant Ecol., 153, 215–229, 2001. Emmerson, K. M., MacKenzie, A. R., Owen, S. M., Evans, M. J.,
and Shallcross, D. E.: A Lagrangian model with simple primary
and secondary aerosol scheme 1: comparison with UK PM10
data, Atmos. Chem. Phys., 4, 2161–2170, 2004,
http://www.atmos-chem-phys.net/4/2161/2004/. Coe, H., Gallagher, M. W., Choularton, T. W., and Dore, C.: Canopy
Scale Measurements of Stomatal and Cuticular O3 Uptake by
Sitka Spruce, Atmos. Environ., 29, 1413–1423, 1995. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 195 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools a Laser-Diffraction Instrument, Appl. Optics, 30, 4824–4831,
1991. a Laser-Diffraction Instrument, Appl. Optics, 30, 4824–4831,
1991. Emmerson, K. M. and Evans, M. J.: Comparison of tropospheric
gas-phase chemistry schemes for use within global models, At-
mos. Chem. Phys., 9, 1831–1845, 2009,
http://www.atmos-chem-phys.net/9/1831/2009/. Gerbig, C., Schmitgen, S., Kley, D., Volz-Thomas, A., Dewey, K.,
and Haaks, D.: An improved fast-response vacuum-UV reso-
nance fluorescence CO instrument, J. Geophys. Res., 104, 1699–
1704, 1999. Emmerson, K. M., Carslaw, N., Carslaw, D. C., Lee, J. D., McFig-
gans, G., Bloss, W. J., Gravestock, T., Heard, D. E., Hopkins, J.,
Ingham, T., Pilling, M. J., Smith, S. C., Jacob, M., and Monks, P. S.: Free radical modelling studies during the UK TORCH Cam-
paign in Summer 2003, Atmos. Chem. Phys., 7, 167–181, 2007,
http://www.atmos-chem-phys.net/7/167/2007/. Global Forest Resources: Assessment 2005, FAO, Rome, ISBN-92-
5-105481-9, 2006. Gostlow, B., Robinson, A. D., Harris, N. R. P., O’Brien, L. M.,
Oram, D. E., Mills, G. P., Newton, H. References Guenther, A., Karl, T., Harley, P., Wiedinmyer, C., Palmer, P. I.,
and Geron, C.: Estimates of global terrestrial isoprene emissions
using MEGAN (Model of Emissions of Gases and Aerosols from
Nature), Atmos. Chem. Phys., 6, 3181–3210, 2006,
http://www.atmos-chem-phys.net/6/3181/2006/. Guenther, A. B., Zimmerman, P. R., Harley, P. C., Monson, R. K.,
and Fall, R.: Isoprene and monoterpene emission rate variability
- model evaluations and sensitivity analyses, J. Geophys. Res.-
Atmos., 98, 12609–12617, 1993. Fowler, D.: Ground-level ozone in the 21st century: future trends,
impacts and policy implications, Royal Society, London, 2008. Guenther, A., Hewitt, C. N., Karl. T., Harley, P., and Reeves. C.: Biogenic VOC emissions from African American and Asian
tropical rainforests, Eos Trans. AGU, 89(53), Fall Meet. Suppl.,
Abstract A14C-04, 2008. Fu, T.-M., Jacob, D. J., Palmer, P. I., Chance, K., Wang, Y. X., Barletta, B., Blake, D. R., Stanton, J. C., and Pilling, M. J.: Space-based formaldehyde measurements as constraints on
volatile organic compound emissions in east and south Asia
and implications for ozone, J. Geophys. Res., 112, D06312,
doi:10.1029/2006JD007853, 2007. G¨usten, H., Heinrich, G., Schmidt, R. W. H., and Schurath, U.: A
Novel Ozone Sensor for Direct Eddy Flux Measurements, paper
presented at 7th International Symp of the Commission for At-
mospheric Chemistry and Global Pollution : the Chemistry of
the Global Atmosphere, Kluwer Academic Publ, Chamrousse,
France, 5–11 September, 1990. Fueglistaler, S. and Haynes, P. H.: Control of interannual and
longer-term variability of stratospheric water vapor, J. Geophys. Res.-Atmos., 110, D24108, doi:10.1029/2005JD006019, 2005. Ganzeveld, L., Eerdekens, G., Feig, G., Fischer, H., Harder, H.,
K¨onigstedt, R., Kubistin, D., Martinez, M., Meixner, F. X.,
Scheeren, H. A., Sinha, V., Taraborrelli, D., Williams, J., Vil´a-
Guerau de Arellano, J., and Lelieveld, J.: Surface and boundary
layer exchanges of volatile organic compounds, nitrogen oxides
and ozone during the GABRIEL campaign, Atmos. Chem. Phys.,
8, 6223–6243, 2008,
http://www.atmos-chem-phys.net/8/6223/2008/. Gusten, H. and Heinrich, G.: On-line measurements of ozone sur-
face fluxes .1. methodology and instrumentation, Atmos. Envi-
ron., 30, 897–909, 1996. Gysel, M., Crosier, J., Topping, D. O., Whitehead, J. D., Bower, K. N., Cubison, M. J., Williams, P. I., Flynn, M. J., McFiggans, G. B., and Coe, H.: Closure study between chemical composition
and hygroscopic growth of aerosol particles during TORCH2,
Atmos. Chem. Phys., 7, 6131–6144, 2007,
http://www.atmos-chem-phys.net/7/6131/2007/. http://www.atmos-chem-phys.net/8/6223/2008/. Gerber, H.: Direct Measurement of Suspended Particulate Vol-
ume Concentration and Far-Infrared Extinction Coefficient with http://www.atmos-chem-phys.net/7/6131/2007/. References Gerber, H.: Direct Measurement of Suspended Particulate Vol-
ume Concentration and Far-Infrared Extinction Coefficient with http://www.atmos chem phys.net/7/6131/2007/. Hallquist, M., Wenger, J. C., Baltensperger, U., Rudich, Y., Simp- Hallquist, M., Wenger, J. C., Baltensperger, U., Rudich, Y., Simp- Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools 196 son, D., Claeys, M., Dommen, J., Donahue, N. M., George,
C., Goldstein, A. H., Hamilton, J. F., Herrmann, H., Hoff-
mann, T., Iinuma, Y., Jang, M., Jenkin, M. E., Jimenez, J. L.,
Kiendler-Scharr, A., Maenhaut, W., McFiggans, G., Mentel, Th. F., Monod, A., Pr´evˆot, A. S. H., Seinfeld, J. H., Surratt, J. D.,
Szmigielski, R., and Wildt, J.: The formation, properties and im-
pact of secondary organic aerosol: current and emerging issues,
Atmos. Chem. Phys., 9, 5155–5235, 2009,
http://www.atmos-chem-phys.net/9/5155/2009/. B. G., Kondo, Y., Sachse, G. W., Anderson, B., Gregory, G. L.,
Singh, H. B., Pueschel, R., Ferry, G., Blake, D. R., and Shetter,
R. E.: Photochemistry of HOx in the upper troposphere at north-
ern midlatitudes, J. Geophys. Res.-Atmos., 105(D3), 3877–3892,
2000. son, D., Claeys, M., Dommen, J., Donahue, N. M., George,
C., Goldstein, A. H., Hamilton, J. F., Herrmann, H., Hoff-
mann, T., Iinuma, Y., Jang, M., Jenkin, M. E., Jimenez, J. L.,
Kiendler-Scharr, A., Maenhaut, W., McFiggans, G., Mentel, Th. Jenkin, M. E., Saunders, S. M., Wagner, V., and Pilling, M. J.: Pro-
tocol for the development of the Master Chemical Mechanism,
MCM v3 (Part B): tropospheric degradation of aromatic volatile
organic compounds, Atmos. Chem. Phys., 3, 181–193, 2003,
http://www.atmos-chem-phys.net/3/181/2003/. http://www.atmos-chem-phys.net/9/5155/2009/. p
p y
Harrison, R. M., Yin, J., Tilling, R. M., Cai, X., Seakins, P. W.,
Hopkins, J. R., Lansley, D. L., Lewis, A. C., Hunter, M. C.,
Heard, D. E., Carpenter, L. J., Creasy, D. J., Lee, J. D., Pilling,
M. J., Carslaw, N., Emmerson, K. M., Redington, A., Derwent,
R. G., Ryall, D., Mills, G., and Penkett, S. A.: Measurement
and modelling of air pollution and atmospheric chemistry in the
UK West Midlands conurbation: Overview of the PUMA Con-
sortium project, Sci. Total Environ., 360, 5–25, 2006. Kanakidou, M., Seinfeld, J. H., Pandis, S. N., Barnes, I., Dentener,
F. J., Facchini, M. References A., Plane, J. M. C., Saiz-Lopez, A., Worton, D., Monks, P. S., Fleming, Z., Rickard, ,
,
,
,
,
,
,
,
,
,
M., Flynn, M., McFiggans, G., Gallagher, M., Norton, E. G., Langford, B., Davison, B., Nemitz, E., and Hewitt, C. N.: Mix-
ing ratios and eddy covariance flux measurements of volatile or-
ganic compounds from an urban canopy (Manchester, UK), At-
mos. Chem. Phys., 9, 1971–1987, 2009,
http://www.atmos-chem-phys.net/9/1971/2009/. Flynn, M., McFiggans, G., Gallagher, M., Norton, E O’Dowd, C. D., Shillito, J., Topping, D., Vaughan, G., Williams, P., Bitter, M., Ball, S. M., Jones, R. L., Povey, I. M., O’Doherty, S., Simmonds, P. G., Allen, A., Kinnersley, R. P., Beddows, D. C. S., Dall’Osto, M., Harrison, R. M., Donovan, R. J., Heal, M. C. S., Dall’Osto, M., Harrison, R. M., Donovan, R. J., Heal, M. R., Jennings, S. G., Noone, C., and Spain, G.: The North Atlantic
Marine Boundary Layer Experiment (NAMBLEX). Overview of
the campaign held at Mace Head, Ireland, in summer 2002, At-
mos. Chem. Phys., 6, 2241–2272, 2006,
http://www.atmos-chem-phys.net/6/2241/2006/. Langford, B., Misztal, P. Nemitz, E., Davison, B., Helfter, C., Lee,
J., MacKenzie, A. R., and Hewitt, C. N.: Fluxes of volatile or-
ganic compounds from a south-east Asian tropical rainforest, At-
mos. Chem. Phys. Discuss., in preparation, 2010. Leff, B., Ramankutty, N., and Foley, J. A.: Geographic distribution
of major crops across the world, Global Biogeochem. Cy., 18,
GB1009, doi:10.1029/2003GB002108, 2004. Heard, D. E. and Pilling, M. J.: Measurement of OH and HO2 in
the troposphere, Chem. Rev., 103, 5163–5198, 2003. Leigh, R. J., Corlett, G. K., Friess, U., and Monks, P. S.: Concurrent
multiaxis differential optical absorption spectroscopy system for
the measurement of tropospheric nitrogen dioxide, Appl. Optics,
45, 7504–7518, 2006. Helfter, C., Phillips, G. J., Coyle, M., Di Marco, C. F., Langford, B.,
Whitehead, J., Dorsey, J. R., Gallagher, M. W., Sei, E. Y., Fowler,
D., and Nemitz, E.: Momentum and heat exchange above South
East Asian rainforest in complex terrain. Atmos. Chem. Phys. Discuss., in preparation, 2010. Lelieveld, J., Butler, T. M., Crowley, J. N., Dillon, T. J., Fischer,
H., Ganzeveld, L., Harder, H., Lawrence, M. G., Martinez, M.,
Taraborrelli, D., and Williams, J.: Atmospheric oxidation capac-
ity sustained by a tropical forest, Nature, 452, 737–740, 2008. Hewitt, C. N., MacKenzie, A. R., Di Carlo, P., Di Marco, C. F.,
Dorsey, J. R., Evans, M., Fowler, D., Gallagher, M. References C., Van Dingenen, R., Ervens, B., Nenes, A.,
Nielsen, C. J., Swietlicki, E., Putaud, J. P., Balkanski, Y., Fuzzi,
S., Horth, J., Moortgat, G. K., Winterhalter, R., Myhre, C. E. L., Tsigaridis, K., Vignati, E., Stephanou, E. G., and Wilson, J.:
Organic aerosol and global climate modelling: a review, Atmos. Chem. Phys., 5, 1053–1123, 2005,
http://www.atmos-chem-phys.net/5/1053/2005/. R. G., Ryall, D., Mills, G., and Penkett, S. A.: Measurement
and modelling of air pollution and atmospheric chemistry in the
UK West Midlands conurbation: Overview of the PUMA Con-
sortium project, Sci. Total Environ., 360, 5–25, 2006. Heard, D. E., Read, K. A., Methven, J., Al-Haider, S., Bloss, W. J., Johnson, G. P., Pilling, M. J., Seakins, P. W., Smith, S. C.,
Sommariva, R., Stanton, J. C., Still, T. J., Ingham, T., Brooks,
B., De Leeuw, G., Jackson, A. V., McQuaid, J. B., Morgan, R.,
Smith, M. H., Carpenter, L. J., Carslaw, N., Hamilton, J., Hop-
kins, J. R., Lee, J. D., Lewis, A. C., Purvis, R. M., Wevill, D. J.,
Brough, N., Green, T., Mills, G., Penkett, S. A., Plane, J. M. C.,
Saiz-Lopez, A., Worton, D., Monks, P. S., Fleming, Z., Rickard,
A. R., Alfarra, M. R., Allan, J. D., Bower, K., Coe, H., Cubison,
M., Flynn, M., McFiggans, G., Gallagher, M., Norton, E. G.,
O’Dowd, C. D., Shillito, J., Topping, D., Vaughan, G., Williams,
P., Bitter, M., Ball, S. M., Jones, R. L., Povey, I. M., O’Doherty,
S., Simmonds, P. G., Allen, A., Kinnersley, R. P., Beddows, D. C. S., Dall’Osto, M., Harrison, R. M., Donovan, R. J., Heal, M. R., Jennings, S. G., Noone, C., and Spain, G.: The North Atlantic
Marine Boundary Layer Experiment (NAMBLEX). Overview of
the campaign held at Mace Head, Ireland, in summer 2002, At-
mos. Chem. Phys., 6, 2241–2272, 2006,
http://www.atmos-chem-phys.net/6/2241/2006/. Kaye, P. H., Stanley, W. R., Hirst, E., Foot, E. V., Baxter, K. L.,
and Barrington, S. J.: Single particle multichannel bio-aerosol
fluorescence sensor, Optics Express, 13(10), 3583–3593, 2005. Klinger, L. F., Greenberg, J., Guenther, A., Tyndall, G., Zimmer-
man, P., M’Bangui, M., and Moutsambote, J. M.: Patterns in
volatile organic compound emissions along a savanna-rainforest
gradient in central Africa, J. Geophys. Res.-Atmos., 103, 1443–
1454, 1998. Smith, M. H., Carpenter, L. J., Carslaw, N., Hamilton, J., Hop
kins, J. R., Lee, J. D., Lewis, A. C., Purvis, R. M., Wevill, D. J., Brough, N., Green, T., Mills, G., Penkett, S. References and Nieuwolt, S.: Tropical climatology: an in-
troduction to the climates of the low latitudes (Second Edition),
John Wiley & Sons, Chichester, 339 pp., 1998. Penkett, S. A., Bandy, B. J., Reeves, C. E., McKenna, D., and
Hignett, P.: Measurements of peroxides in the atmosphere and
their relevance to the understanding of global tropospheric chem-
istry, paper presented at Faraday Discussions on Atmospheric
Chemistry – Measurements, Mechanics and Models, Royal Soc
Chemistry, E Anglia, England, 19–21 April, 1995. Misztal, P. K., Nemitz, E., Langford, B., Coyle, M., Ryder, J., Di-
Marco, C., Phillips, G., Oram, D., Owen, S., and Cape, J. N.:
First direct ecosystem fluxes of VOCs from oil palms in SE Asia,
Atmos. Chem. Phys. Discuss., in preparation, 2010a. Pike, R. C., Lee, J. D., Young, P. J., Moller, S., Carver, G. D., Yang,
X., Misztal, P., Langford, B., Stewart, D., Reeves, C. E., Hewitt,
C. N., and Pyle, J. A.: Can a global model chemical mechanism
reproduce NO, NO2, and O3 measurements above a tropical rain-
forest?, Atmos. Chem. Phys. Discuss., 9, 27611–27648, 2009,
http://www.atmos-chem-phys-discuss.net/9/27611/2009/. Misztal, P. K., Owen, S., Guenther, A., Geron, C., Rasmussen, C.,
Phillips, G., Ryan, A., Edwards, D. P., Hewitt, C. N., Nemitz, E.,
and Cape, J. N.: Large estragole fluxes from oil palms in Borneo,
Atmos. Chem. Phys. Discuss., submitted, 2010b. //www.atmos-chem-phys-discuss.net/9/27611/2009/. Moura-Costa, P. H., Yap, S. W., Ong, C. L., Ganing, A., Nussbaum,
R., and Mojiun, T.: Large scale enrichment planting with dipte-
rocarps as an alternative for carbon offset – methods and pre-
liminary results, 1996, in: Proceedings of the Fifth Round Table
Conference on Dipterocarps, edited by: Appanah, S. and Khoo,
K. C., Chiang Mai, Thailand, November 1994. Pilegaard, K.: Air-soil exchange of NO, NO2 and O3 in forests,
Water Air Soil Pollut., 1, 79–88, 2001. Pilegaard, K., Skiba, U., Ambus, P., Beier, C., Br¨uggemann, N.,
Butterbach-Bahl, K., Dick, J., Dorsey, J., Duyzer, J., Gallagher,
M., Gasche, R., Horvath, L., Kitzler, B., Leip, A., Pihlatie, M. K., Rosenkranz, P., Seufert, G., Vesala, T., Westrate, H., and
Zechmeister-Boltenstern, S.: Factors controlling regional differ-
ences in forest soil emission of nitrogen oxides (NO and N2O),
Biogeosciences, 3, 651–661, 2006,
http://www.biogeosciences.net/3/651/2006/. Pilegaard, K., Skiba, U., Ambus, P., Beier, C., Br¨uggemann, N.,
Butterbach-Bahl, K., Dick, J., Dorsey, J., Duyzer, J., Gallagher,
M., Gasche, R., Horvath, L., Kitzler, B., Leip, A., Pihlatie, M. MPOC.: Fact sheet, Malaysian Palm Oil Council, Brussels, 2008. References F., Wettengel, W. W., Hedao,
P., and Kassem, K. R.: Terrestrial Ecoregions of the World: A
New Map of Life on Earth, BioScience, 51(11), 933–938. 2001. http://www.atmos-chem-phys.net/5/1963/2005/. Martin, R. V., Jacob, D. J., Chance, K., Kurosu, T. P., Palmer, P. I., and Evans, M. J.: Global inventory of nitrogen oxide emis-
sions constrained by space-based observations of NO2 columns,
J. Geophys. Res., 108(D17), 4537, doi:10.1029/2003JD003453,
2003. Olson, J. R., Crawford, J. H., Chen, G., Brune, W. H., Faloona, I. C.,
Tan, D., Harder, H., and Martinez, M.: A reevaluation of airborne
Hox observations from Nasa field campaigns, J. Geophys. Res.-
Atmos., 111, D10301, doi:10.1029/2005JD006617, 2006. Martin, R. V., Chance, K., Jacob, D. J., Kurosu, T. P., Spurr, R. J. D., Bucsela, E., Gleason, J. F., Palmer, P. I., Bey, I., Fiore, A. M.,
Li, Q. B., Yantosca, R. M., and Koelemeijer, R. B. A.: An im-
proved retrieval of tropospheric nitrogen dioxide from gome, J. Geophys. Res.-Atmos., 107, 4437, doi:10.1029/2001JD001027,
2002. Osborne, S. R., Johnson, B. T., Haywood, J. M., Baran, A. J., Harrison, M. A. J., and McConnell, C. L.: Physical and
optical properties of mineral dust aerosol during the Dust
and Biomass-burning Experiment, J. Geophys. Res.-Atmos.,
113(14), D00C03, doi:10.1029/2007JD009551, 2008. Palmer, P. I., Jacob, D. J., Fiore, A. M., Martin, R. V., Chance,
K., and Kurosu, T. P.: Mapping isoprene emissions over North
America using formaldehyde column observations from space,
J. Geophys. Res., 108(D6), 4180, doi:10.1029/2002JD002153,
2003. Martinez, M., Harder, H., Kubistin, D., Rudolf, M., Bozem, H.,
Eerdekens, G., Fischer, H., Gurk, C., Kl¨upfel, T., K¨onigstedt,
R., Parchatka, U., Schiller, C. L., Stickler, A., Williams, J., and
Lelieveld, J.: Hydroxyl radicals in the tropical troposphere over
the Suriname rainforest: airborne measurements, Atmos. Chem. Phys. Discuss., 8, 15491–15536, 2008,
http://www.atmos-chem-phys-discuss.net/8/15491/2008/. Pearson, G., Davies, F., and Collier, C. G.: An analysis of the per-
formance of the UFAM pulsed Doppler LIDAR for observing the
boundary layer, J. Atmos. Ocean. Tech., 26, 240–250, 2009. Matsuda, K., Watanabe, I., Wingpud, V., Theramongkol, P., and
Ohizumi, T.: Deposition velocity of O3 and SO2 in the dry and
wet season above a tropical forest in northern Thailand, Atmos. Environ., 40, 7557–7564, 2006. Pearson, G., Davies, F., and Collier, C. G.: Remote sensing of the
tropical rainforest boundary layer using pulsed Doppler lidar, At-
mos. Chem. Phys., in preparation, 2010. McGregor, G. R. References W., Hopkins,
J. R., Jones, C. E., Langford, B., Lee, J. D., Lewis, A. C., Lim,
S. F., McQuaid, J., Misztal, P., Moller, S. J., Monks, P. S., Ne-
mitz, E., Oram, D. E., Owen, S. M., Phillips, G. J., Pugh, T. A. M., Pyle, J. A., Reeves, C. E., Ryder, J., Siong, J., Skiba, U., and
Stewart, D. J.: Nitrogen management is essential to prevent trop-
ical oil palm plantations from causing ground-level ozone pollu-
tion, P. Natl. Acad. Sci. USA, 106, 18447–18451, 2009. Levine, J.: The 1997 Fires in Kalimantan and Sumatra, Indonesia:
Gaseous and Particulate Emissions, Geophys. Res. Lett., 26(7),
815–818, 1999. Lewis, A. C., Evans, M. J., Methven, J., Watson, N., Lee, J. D.,
Hopkins, J. R., Purvis, R. M., Arnold, S. R., McQuaid, J. B.,
Whalley, L. K., Pilling, M. J., Heard, D. E., Monks, P. S., Parker,
A. E., Reeves, C. E., Oram, D. E., Mills, G., Bandy, B. J., Stew-
art, D., Coe, H., Williams, P., and Crosier J.: Chemical compo-
sition observed over the mid-Atlantic and the detection of pollu-
tion signatures far from source regions, J. Geophys. Res.-Atmos.,
112, D10S39, doi:10.1029/2006JD007584, 2007. Ingham, T., Goddard, A., Whalley, L. K., Furneaux, K. L., Edwards,
P. M., Seal, C. P., Self, D. E., Johnson, G. P., Read, K. A., Lee,
J. D., and Heard, D. E.: A flow-tube based laser-induced fluo-
rescence instrument to measure OH reactivity in the troposphere,
Atmos. Meas. Tech., 2, 465–477, 2009,
http://www.atmos-meas-tech.net/2/465/2009/. Lewis, A. C., Hopkins, J. R., Carpenter, L. J., Stanton, J., Read, K. A., and Pilling, M. J.: Sources and sinks of acetone, methanol, http://www.atmos-meas-tech.net/2/465/2009/. Jaegle, L., Jacob, D. J., Brune, W. H., Faloona, I., Tan, D., Heikes, Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 197 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools
and acetaldehyde in North Atlantic marine air, Atmos. Chem. Phys., 5, 1963–1974, 2005,
http://www atmos-chem-phys net/5/1963/2005/
D., Powell, G. V. N., Underwo
Strand, H. E., Morrison, J. C. etts T H Kura Y Lamoreu C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools and acetaldehyde in North Atlantic marine air, Atmos. Chem. Phys., 5, 1963–1974, 2005,
http://www.atmos-chem-phys.net/5/1963/2005/. D., Powell, G. V. N., Underwood, E. C., D’Amico, J. A., Itoua, I.,
Strand, H. E., Morrison, J. C., Loucks, C. J., Allnutt, T. F., Rick-
etts, T. H., Kura, Y., Lamoreux, J. References Soc., 87, 1739–1746, 2006. Tangki, H.: Biomass variation across selectively logged forest in
Borneo and its prediction by Landsat TM data, Unpublished
MPhil thesis, Lancaster University, UK, 2008. Reeves, C. E., Slemr, J., Oram, D. E., Worton, D., Penkett, S. A.,
Stewart, D. J., Purvis, R., Watson, N., Hopkins, J., Lewis, A.,
Methven, J., Blake, D. R., and Atlas, E.: Alkyl nitrates in out-
flow from North America over the North Atlantic during Inter-
continental Transport of Ozone and Precursors 2004, J. Geophys. Res.-Atmos., 112(21), D10S37, doi:10.1029/2006JD007567,
2007. Tangki, H., and Chappell, N. A.: Biomass variation across selec-
tively logged forest within a 225 km2 region of Borneo and its
prediction by Landsat TM, Forest Ecol. Manage., 256, 1960–
1970, 2008. Thomas, R. M., Trebs, I., Otjes, R., Jongejan, P. A. C., Ten Brink,
H., Phillips, G., Kortner, M., Meixner, F. X., and Nemitz, E.: An
Automated Analyzer to Measure Surface-Atmosphere Exchange
Fluxes of Water Soluble Inorganic Aerosol Compounds and Re-
active Trace Gases, Environ. Sci. Technol., 43, 1412–1418, 2009. Roberts, G. C. and Nenes, A.:
A continuous-flow streamwise
thermal-gradient CCN chamber for atmospheric measurements,
Aerosol Sci. Tech., 39, 206–221, 2005. Ryder, J., Langford, B., Oram, D., Coyle, M., Phillips, G., Helfter,
C., Misztal, P., Cape, N., and Nemitz, E.: Sources and sinks
of BVOCs inside a SE Asian rainforest canopy, Atmos. Chem. Phys. Discuss., in preparation, 2010. UNEP-WCMC: Global Distribution of Original and Remaining
Forests, United Nations Environment Programme – World Con-
servation Monitoring Centre (UNEP-WCMC), online available
at: http://www.unep-wcmc.org/forest/original.htm, 2000. Saunders, S. M., Jenkin, M. E., Derwent, R. G., and Pilling, M. J.: Protocol for the development of the Master Chemical Mech-
anism, MCM v3 (Part A): tropospheric degradation of non-
aromatic volatile organic compounds, Atmos. Chem. Phys., 3,
161–180, 2003,
http://www.atmos-chem-phys.net/3/161/2003/. Voulgarakis, A., Savage, N. H., Wild, O., Carver, G. D., Clemit-
shaw, K. C., and Pyle, J. A.: Upgrading photolysis in the p-
TOMCAT CTM: model evaluation and assessment of the role
of clouds, Geosci. Model Dev., online available at:
www. geosci-model-dev.net/2/59/2009/2, 59–72, 2009. http://www.atmos-chem-phys.net/3/161/2003/. Saunois, M., Reeves, C. E., Mari, C. H., Murphy, J. G., Stewart, D. J., Mills, G. P., Oram, D. E., and Purvis, R. M.: Factors control-
ling the distribution of ozone in the West African lower tropo-
sphere during the AMMA (African Monsoon Multidisciplinary
Analysis) wet season campaign, Atmos. Chem. Phys., 9, 6135–
6155, 2009,
http://www.atmos-chem-phys.net/9/6135/2009/. Voulgarakis, A., Savage, N. References Nemitz, E., Jimenez, J. L., Huffman, J. A., Ulbrich, I. M., Cana-
garatna, M. R., Worsnop, D. R., and Guenther, A. B.: An eddy-
covariance system for the measurement of surface/atmosphere
exchange fluxes of submicron aerosol chemical species - First
application above an urban area, Aerosol Sci. Tech., 42, 636–
657, 2008. Plane, J. M. C. and Saiz-Lopez, A.: Analytical Techniques for At-
mospheric Measurement, in: Analytical Techniques for Atmo-
spheric Measurement, edited by: Heard, D. E., Blackwell, Ox-
ford, 2006. Nemitz, E., Phillips, G. J., Di Marco, C. F., Misztal, P. K., Farmer,
D., Kimmel, J., and Jimenez, J. L.: Concentrations and sur-
face/atmosphere exchange of aerosol chemical components in
PM1 above an oil palm plantation in Sabah, Malaysia, Atmos. Chem. Phys. Discuss., in preparation, 2010. Pugh, T. A. M., MacKenzie, A. R., and Hewitt, C. N.: Modelling of
nighttime near-surface chemistry in a South-East Asian tropical
rainforest, Atmos. Chem. Phys., in preparation, 2010a. Olson, J.: World ecosystems (WE1.4): Digital raster data on a
10 minute geographic 1080 x 2160 grid. Global Ecosytems
Database, Version 1.0: Disc A. N. G. D. Center, Boulder CO,
Nat. Ocean. Atmos. Admin., 1992. Pugh, T. A. M., MacKenzie, A. R., Hewitt, C. N., Langford, B.,
Edwards, P. M., Furneaux, K. L., Heard, D. E., Hopkins, J. R.,
Jones, C. E., Karunaharan, A., Lee, J., Mills, G., Misztal, P.,
Moller, S., Monks, P. S., and Whalley, L. K.: Simulating atmo-
spheric composition over a South-East Asian tropical rainforest: Olson, D. M., Dinerstein, E., Wikramanayake, E. D., Burgess, N. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 198 C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools http://www.atmos-chem-phys.net/6/2711/2006/. performance of a chemistry box model, Atmos. Chem. Phys. Dis-
cuss., accepted, 2010b. http://www.atmos-chem-phys.net/6/2711/2006/. Tan, D., Faloona, I., Simpas, J. B., Brune, W., Shepson, P. B.,
Couch, T. L., Sumner, A. L., Carroll, M. A., Thronberry, T.,
Apel, E., Riemer, D., and Stockwell, W.: HOx budgets in a de-
ciduous forest: Results from the PROPHET summer 1998 cam-
paign, J. Geophys. Res.-Atmos., 106(D20), 24407–24427, 2001. Redelsperger, J.-L., Thorncroft, C. D., Diedhiou, A., Lebel, T.,
Parker, D. J., and Polcher, J.: African Monsoon Multidisciplinary
Analysis: An International Research Project and Field Cam-
paign, B. Am. Meteor. References H., Braesicke, P., Wild, O., Carver, G. D., and Pyle, J. A.: Interannual variability of tropospheric com-
position: the influence of changes in emissions, meteorology and
clouds, Atmos. Chem. Phys. Discuss., 9, 14023–14057, 2009,
http://www.atmos-chem-phys-discuss.net/9/14023/2009/. http://www.atmos-chem-phys-discuss.net/9/14023/2009 Volz-Thomas, A., Lerner, A., Patz, H. S., Schultz, M., McKenna,
D., Schmitt, R., Madronich, S., and Roth, E.: Airborne Measure-
ments of the Photolysis of NO2, J. Geophys. Res.-Atmos., 101,
18613–18627, 1996. p
p y
Schmitt, C., Belokurov, A., Besanc¸on, C., Boisrobert, L., Burgess,
N.D., Campbell, A., Coad, L. Fish, L., Gliddon, D., Humphries,
K., Kapos, V., Loucks, C., Lysenko, I., Miles, L., Mills, C., Min-
nemeyer, S., Pistorius, T., Ravilious, C., and Winkel, G.: Global
Ecological Forest Classification and Forest Protected Area Gap
Analysis: Analyses and Recommendations in view of the 10%
target for forest protection under the Convention on Biological
Diversity (CBD). Freiburg University Press, Freiburg, Germany,
2008. Walsh, R. P. D.: Climate. The Tropical Rain Forest, edited by:
Richards, P. W., 159–205, Cambridge University Press, Cam-
bridge, 352 pp., 1996. Whalley, L. K., Furneaux, K. L., Goddard, A., Lee, J. D., Mahajan,
A., Oetjen, H., Read, K. A., Carpenter, L. J., Lewis, A. C., Plane,
J. M. C., Saltzman, E. S., and Heard, D. E.: The Chemistry of
OH and HO2 in the Boundary Layer over the tropical Atlantic
Ocean, Atmos. Chem. Phys. Discuss., in preparation, 2010a. Serca, D., Guenther, A., Klinger, L., Vierling, L., Harley, P., Druil-
het, A., Greenberg, J., Baker, B., Baugh, W., Bouka-Biona, C.,
and Loemba-Ndembi, J.: Expresso flux measurements at upland
and lowland Congo tropical forest site, Tellus B, 53, 220–234,
2001. Whalley, L. K., Furneaux, K. L., Heard, D. E.: Measurements of
hydroxyl radicals over a SE Asian tropical rainforest, Atmos. Chem. Phys Discuss., in preparation, 2010b. Stewart, D. J., Taylor, C. M., Reeves, C. E., and McQuaid, J. B.:
Biogenic nitrogen oxide emissions from soils: impact on NOx
and ozone over west Africa during AMMA (African Monsoon
Multidisciplinary Analysis): observational study, Atmos. Chem. Phys., 8, 2285–2297, 2008,
http://www.atmos-chem-phys.net/8/2285/2008/. Whalley, L. K., Lewis, A. C., McQuaid, J. B., Purvis, R. M., Lee,
J. D., Stemmler, K., Zellweger, C. and Ridgeon, P.: Two high-
speed, portable GC systems designed for the measurement of
non-methane hydrocarbons and PAN: Results from the Jungfrau-
joch High Altitude Observatory, J. Environ. Monit., 6, 234–241,
2004. Whitmore, T. C. N. Hewitt et al.: The OP3 project: introduction, rationale, location characteristics and tools Wilkinson, M. J., Owen, S. M., Possell, M., Hartwell, J., Gould,
P., Hall, A., Vickers, C., and Hewitt, C. N.: Circadian control of
isoprene emissions from oil palm (Elaeis guineensis), The Plant
Journal, 47, 960–968, doi:10.1111/j.1365-313X.2006.02847.x,
2006. the North Atlantic region during August 1993, J. Geophys. Res.,
101, 29269–29288, 1996.
Wilkinson, M. J., Owen, S. M., Possell, M., Hartwell, J., Gould,
P., Hall, A., Vickers, C., and Hewitt, C. N.: Circadian control of
isoprene emissions from oil palm (Elaeis guineensis), The Plant
Journal, 47, 960–968, doi:10.1111/j.1365-313X.2006.02847.x,
2006. the North Atlantic region during August 1993, J. Geophys. Res.,
101, 29269–29288, 1996. References C.: Tropical rain forests of the Far East, 2nd edition,
Oxford University Press, Oxford, 1984. Still, T. J., Al-Haider, S., Seakins, P. W., Sommariva, R., Stanton,
J. C., Mills, G., and Penkett, S. A.: Ambient formaldehyde mea-
surements made at a remote marine boundary layer site during
the NAMBLEX campaign – a comparison of data from chro-
matographic and modified Hantzsch techniques, Atmos. Chem. Phys., 6, 2711–2726, 2006, Whitmore, T. C.: An introduction to tropical rain forests, 2nd edi-
tion, Clarendon, Oxford, 1998. Wild, O., Law, K. S., McKenna, D. S., Bandy, B. J., Penkett, S. A.,
and Pyle, J. A.: Photochemical trajectory modeling studies of Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/ 199 Wolter, K. and Timlin, M. S.: Measuring the strength of ENSO –
how does 1997/98 rank?, Weather, 53, 315–324, 1998. Worton, D. R., Mills, G. P., Oram, D. E., and Sturges, W. T.:
Gas chromatography negative ion chemical ionization mass spec-
trometry: Application to the detection of alkyl nitrates and halo-
carbons in the atmosphere, J. Chromatogr. A, 1201, 112–119,
2008. Atmos. Chem. Phys., 10, 169–199, 2010 www.atmos-chem-phys.net/10/169/2010/
|
https://openalex.org/W2921006415
|
https://www.ojcmt.net/download/exploring-the-extrinsic-and-intrinsic-motivations-in-blogging-a-survey-on-hong-kong-university.pdf
|
English
| null |
Exploring the Extrinsic and Intrinsic Motivations in Blogging: A Survey on Hong Kong University Students
|
Online journal of communication and media technologies
| 2,012
|
cc-by
| 6,126
|
Ying LI, City University of Hong Kong, Hong Kong & Gongcheng LIN, Sun Yat-Sen University, China Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 University Students Ying LI, City University of Hong Kong, Hong Kong & Gongcheng LIN, Sun Yat-Sen Abstract Blogging stickiness and motivations have become a frequently studied topic in blogging
research for several years. Yet few research pay attention to the difference between the initial
motivation and current motivations. This study proposes to investigate and understand
bloggers behaviors through specifying the intrinsic and extrinsic components of their
motivations. Two major questions were raised and explored in this study: 1. what the reasons
that promote students to initiate blogs are; 2. how the blogging motivations and behavior
patterns interact in blog maintaining. Based on a survey of 186 bloggers among City
University of Hong Kong, it is found that: three major motivations (practicing a new type of
diary, curiosity and thoughts on following the crowd) are the most important motivations in
initiating blogging. In maintaining a blog, the hypothesis that social connection motivation is
positively related to interaction-oriented behavior while emotion pouring motivation is
positively related to self-restriction behavior in expression is supported. Keywords: Blogging, motivations, blogging behavior 96 © Online Journal of Communication and Media Technologies Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Primitive studies on blogging were more like commentary or summary on the trend based on
personal observation and experiences since they were mostly authored by media or IT
practitioners (Jin, 2007). Main focus of blog study is the functional aspects of blog and the
social implication it brings to the media (Chou, 2005); limited effort have been put on the
producer side, which may actually compose a fundamental component of studying blogging. Earlier studies on why people blog mostly treated reasons for starting blogging and
motivations of stickiness to blogging as a whole, with exploratory approaches mostly adopted. An important study was carried out by Efimova (2003) who used her own blog as a platform
of data collection to analyze “the stickiness factor” of blogs. Efimova figured out that
curiosity, improving personal learning and interest in communication are most frequently
quoted as reasons to start blogging. As for stickiness factors, Efimova concluded that
personality and technology convenience enabled adoption of blog most. © Online Journal of Communication and Media Technologies © Online Journal of Communication and Media Technologies 97 Abstract In 2004, Veigas
conducted a study of blogging behavior and found that most blogs (83%) were “personal
ramblings” in nature, a feature still characterizes the blogosphere today. Also in 2004, Nardi,
Schiano, Gumbrecht, and Swartz examined the motivation of blogging in depth. As an
exploratory study, they adopted ethnographic interviews and summed up five blogging
motivations: “to document life experiences, to provide commentary and opinions, to express
deeply felt emotions, to articulate ideas through writing, and to form and maintain
community forums.” This study has been widely consulted by later studies. Although
divergent rationales for the reasons and motivations for blogging have been provided, quite a
number of the reasons are actually overlapping. Later research on blogging motivations began to integrate social psychology theories or
frameworks into investigating deep incentives underlying bloggers’ behavior based on the
earlier descriptions of motivations or behavior, raising a series of elementary models for
further study. In 2006, Brady proposed a positive feedback system framework bridging
reading and posting behavior together in analyzing blogging and found that positive feedback © Online Journal of Communication and Media Technologies 97 97 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 from readers was a fundamental motivation promoting bloggers to stick to blogging. Brady
also suggested that reasons to begin blogging are often different from the eventual
motivations they have to continue to blog but he didn’t offer a detailed analysis on this
argument. Enlightened by Nardi’s study, several Taiwanese scholars designed a survey among
Taiwanese and validated a framework addressing blogger’s motivations, behaviors, and
management effort heterogeneity together, clarifying the relationships among them (Huang,
Shen, Lin, Chang, 2007). In this model, blogging behavior was decomposed into
interaction-oriented behavior and information-oriented behavior. The study validated the
model proposed through testing the relationship between motivations clarified by Nardi and
the behaviors pattern of blog management. In a more recent study, Liu, Liao and Zeng (2007)
addressed expectancy theory into analyzing motivations for blogging, figuring out that
rewards played an important role in motivating bloggers. © Online Journal of Communication and Media Technologies 98 © Online Journal of Communication and Media Technologies Abstract Thus bloggers may behave under the dual
motivations of both satisfying extrinsic need and the need of protecting privacy and safety. This phenomenon might be more common among youth as they are still experiencing identity
formation and have relatively less ability or power in coping with contingencies. This study
proposes to examine the relation between young bloggers’ motivation and behavior under the
proposed framework of the dual motivation as an exploratory investigation for further
studying the complicated behavior patterns and underlying motivations. Abstract Bloggers in their study ranked
pouring out feelings and connecting with people respectively as their two most valued
rewards; those bloggers with high motivation for rewards have higher level of blogging
intention and are willing to spend more time on maintaining their blog. Generally speaking, research on blogging motivation started from exploration with
qualitative methods or descriptive survey roughly probing into the motivations and gradually
proceeded to establishing relationships between motivations and behaviors including
blogging and other online activities. In this procedure, main efforts were put into measuring
different sublevels of motivation yet the behavior dimension was primarily measured by
energy or time spent on it. This study argues that blogging is a multi-dimensional behavior corresponding to multi
motivations since bloggers’ behavior is not homogeneous and even the same blogger may
behave differently based on various motivations. With the advantages of anonymity brought
by Internet, people may bring quite a lot of goals which are oftentimes difficult to obtain in
real life: tension may be released through pouring out feelings in blogs and at the same time,
social network may be maintained or expanded in the same sphere. Despite of that advantage, © Online Journal of Communication and Media Technologies 98 98 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 it is possible that attention from readers may bring potential trouble to the bloggers. Consequence, many bloggers may be cautious in content generating and may even
self-censor their blogs before posting the article. Thus bloggers may behave under the dual
motivations of both satisfying extrinsic need and the need of protecting privacy and safety. This phenomenon might be more common among youth as they are still experiencing identity
formation and have relatively less ability or power in coping with contingencies. This study
proposes to examine the relation between young bloggers’ motivation and behavior under the
proposed framework of the dual motivation as an exploratory investigation for further
studying the complicated behavior patterns and underlying motivations. it is possible that attention from readers may bring potential trouble to the bloggers. Consequence, many bloggers may be cautious in content generating and may even
self-censor their blogs before posting the article. © Online Journal of Communication and Media Technologies 99 © Online Journal of Communication and Media Technologies Research Question and Hypotheses This study proposes to understand young generation’s blogging behavior based on two
general motivations: extrinsic motivation and intrinsic motivation. The distinction between
the two motivations has been asserted by cognitive psychologists that intrinsic motivation
usually leads to engaging in an activity for the sake of the inherently interesting or satisfying
process whereas extrinsic motivation is oftentimes related with the reinforcement of the
rewards or the potential value of the outcomes (Ryan & Deci, 2000). Extrinsic motivation in
this study is defined as the social-oriented motivations in search of satisfaction from exterior
social environments. For young people, extrinsic motivation mainly refers to connection with
friends or fame-seeking. Intrinsic motivation basically indicates that bloggers blog for their
inherent satisfaction or four pouring private emotions rather than external rewards. On
behavioral level, it is proposed that bloggers tend to behave based on weighing the
psychological rewards corresponding to the intrinsic and extrinsic motivation. Before exploring motivations underlying maintenance behaviors, this study firstly asks a
general question: why students start to blog? As for why students keep blogging, several
assumptions are proposed on testing relationships between motivations and behaviors: (a)
bloggers are more likely to be driven by intrinsic motivation when they initiate blogs; (b) in
maintaining blogging, bloggers will be motivated by an integration of the two types of © Online Journal of Communication and Media Technologies 99 99 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 motivations; (c) in order to achieve best psychological and social rewards, bloggers will
create more opportunities to facilitate extrinsic motivation and (d) bloggers consciously
restrict their blog content so that they will release intrinsic motivations safely. The proposed model drawn from assumptions discussed above is presented in figure 1. Figure 1. Proposed model of this study
H3+
Self-restriction on
expression
Interaction-oriented
behavior
Extrinsic
motivation
Intrinsic
motivation
H1-
H2+
H4- Extrinsic
motivation Self-restriction on
expression Intrinsic
motivation Interaction-oriented
behavior Figure 1. Proposed model of this study Based on the framework, the more specific hypotheses are as follows: Based on the framework, the more specific hypotheses are as follows: H1: Extrinsic motivation is negatively related to self-restriction on expression, such that
the more blogging is motivated by extrinsic motivation, the less possible that the author will
restrict their expression in blog. © Online Journal of Communication and Media Technologies Survey design A paper survey was utilized in this study targeting at individual students in City University of
Hong Kong who maintain their personal blog. According to a telephone survey conducted by
Pew Internet& American Life Project, more than half of the bloggers (those who own their
own blogs) are under the age of 30, similar findings were also reported by Technorati, the
2008 worldwide blogger survey figured out that among the Asian survey subjects, 69% are
college graduate and 73% are 18-34 years old (Technorati, 2009). Therefore, university
students compose a typical group of bloggers not only for the research purpose of this study,
but also may be useful for other studies. 400 copies of the questionnaires were distributed among students selected through stratified
sampling framework regarding class time and classroom location in April, 2009. To alleviate
privacy concerns, no identifying information was tracked or requested of the respondents. Responses from the survey were compiled into a SPSS file and analyzed. Research Question and Hypotheses H2: Extrinsic motivation is positively related to interaction-oriented behavior. Such that
the more blogging is motivated by extrinsic motivation, the more likely they will pay
attention to affiliating to online social interaction involved in blogosphere. H2: Extrinsic motivation is positively related to interaction-oriented behavior. Such that
the more blogging is motivated by extrinsic motivation, the more likely they will pay
attention to affiliating to online social interaction involved in blogosphere. H3: Intrinsic motivation is positively related to self-restriction on expression. Such that
the more the blogger tend to satisfy their intrinsic motivation in blog, the more restriction
they will put on expression and be more cautious in expression. H3: Intrinsic motivation is positively related to self-restriction on expression. Such that
the more the blogger tend to satisfy their intrinsic motivation in blog, the more restriction
they will put on expression and be more cautious in expression. H4: Intrinsic motivation is negatively related to interaction-oriented behavior. Such that
the more the blogger tend to satisfy their intrinsic motivation in blog, the less they less likely
they will pay attention to affiliating to online social interaction involved in blogosphere. © Online Journal of Communication and Media Technologies 100 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 © Online Journal of Communication and Media Technologies 101 © Online Journal of Communication and Media Technologies 102 Survey Description and Measurement Construction The blogger background section concerns with basic information of bloggers such as gender,
age, home region, educational background and student status in university. Motivation and
behavior was evaluated by 5-point Likert scales, with 1 being “strongly disagree” and 5 being
“strongly agree”. Updating conduct was indicated by the number of articles posted and time
spent on wring each article. Since the measurements in this study are largely established on a mix of items adopted in
other surveys and items designed by the researcher of this study, it is necessary to validate
them before being further analyzed. In the initial measurements, there are altogether 6 items
assigned to the construct of motivation and 6 items assigned to behavior. This study began
with the exploratory factor analysis as the first step to validate the measurements. After two
rounds of analyses, for each construct, 5 items survived and 2 factors emerged. Result is © Online Journal of Communication and Media Technologies 101 101 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 shown in Table 1 and Table 2. Compared to initial measurements, the most salient differences
between before and after factor analysis are (a) emotion pouring scale became a single-item
scale and (b) originality was excluded in construction of behavior. The two factors for
motivation construction altogether explained 58.93% of the total variance while the two
factors for behavior construction altogether explained 56.52% of the total variance. Table 1. Factor analysis for motivation items
Motivation Items
Component
Social connection
Emotion release
Gaining support on my viewpoint
from others
.745
Communicating
with
other
bloggers
.721
Becoming a focus person
.659
Sharing my materials
.615
Pouring out my thoughts/emotion
.958
Table 2. Factor analysis for behavior items
Behavior Items
Component
Self-restriction on expression
Interaction-oriented behavior
Limited expression
.788
Unwillingness of sharing
blog
.788
Linking
to blogosphere
.796
Showing more linkage
.675
Attention
to
others’
reaction
.521 Table 1. Factor analysis for motivation items
Motivation Items
Component
Social connection
Emotion release
Gaining support on my viewpoint
from others
.745
Communicating
with
other
bloggers
.721
Becoming a focus person
.659
Sharing my materials
.615
Pouring out my thoughts/emotion
.958 Table 1. Factor analysis for motivation items Table 2. © Online Journal of Communication and Media Technologies Survey Description and Measurement Construction Factor analysis for behavior items
Behavior Items
Component
Self-restriction on expression
Interaction-oriented behavior
Limited expression
.788
Unwillingness of sharing
blog
.788
Linking
to blogosphere
.796
Showing more linkage
.675
Attention
to
others’
reaction
.521 Secondly, the reliability of each scale was tested. Result is shown in Table 3. Cronbach’s α
coefficients of the two factors for behavior construction are .40 and .45, which could be
marginally accepted. Reliability of behavior construction was not very high, indicating that
the scales need to be improved in further studies. 102 Table 3. Result of reliability testing
Motivation
Behavior
Social
connection
Emotion
release
Self-restricted
expression
Social-interaction
oriented behavior
Cronbach’s α .63
1.00a
.40
.45
Note:
a
single item scale Description of Participants From the 400 questionnaires distributed, a total of 247 responses were returned. Finally, 61
responses in the 247 were eliminated from the analysis because the respondents: (a) indicated
they did not have their own blogs (n=59) or (b) assigned same scores on each of the items
under the same measurement in the questionnaire (n=2). Among the 186 effective responses, female students were a little more on the number than
male students, with 52% identifying themselves as female and 48% identified as male. 94%
of respondents were between the ages of 18-25, with 61% identifying themselves as 18-21
years of age and 33% identifying themselves as 22-25 years of age. Survey participants were
mostly Hong Kong local residents (90%, n=166), with the next highest group being 9%
participants who identified as mainland Chinese. Only 1% of the participants were oversea
students. As for the education status, 90.66% are pursuing Bachelor degree or below, with
36.81% of them sub-degree students and 53.85% are undergraduate students. 73.08% of the
respondents got University granted committee funding while 26.92% are self-financed. 95.6% of the respondents are full-time students. Demographical distributions of the sample
are presented in Table 4. In a whole, the sample could represent Hong Kong university
student group. 103 © Online Journal of Communication and Media Technologies Table 4. Description of survey participants
Blogger Background Item
No. Participants
Percentage of Total
Valid
percentage
Gender
Female
95
51.1%
51.9%
Male
88
47.3%
48.1%
No response
3
1.6%
Age range
<=17 years
1
0.5%
0.5%
18-21 years
112
60.2%
61.2%
22-25 years
60
32.3%
32.8%
26-29 years
3
1.6%
1.6%
>=33 years
7
3.8%
3.8%
No response
3
1.6%
Home region
Hong
Kong
permanent
Residents
166
89.2%
90.2%
Mainland
Chinese
Residents
17
9.1%
9.2%
Oversea Residents
1
0.5%
0.5%
No response
2
1.1%
Education background
Sub-degree students
67
36.0%
36.8%
Undergraduates
98
52.7%
53.8% Table 4. Description of survey participants © Online Journal of Communication and Media Technologies 104 © Online Journal of Communication and Media Technologies 104 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
Taught post graduates
11
5.9%
6.0%
Research post graduates
6
3.2%
3.3%
No response
4
2.2% © Online Journal of Communication and Media Technologies 106 © Online Journal of Communication and Media Technologies Blog Usage Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
active users who frequently updated their blogs last month. The main body of the respondents Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 active users who frequently updated their blogs last month. The main body of the respondents
spent limited time on each article. The usage pattern implied that blogging may firmly exist
as part of the respondents’ daily life. Blog Usage As illustrated in figure 2, a remarkable majority of the respondents (83.78%) has maintained
their blogs for more than one year with 43.78% of them (n=81) indicating they had
maintained their blogs for 1-3 years and 40.00% (n=74) with more than 3 years. Only 30 of
the 186 respondents had not more than 1 year’s blogging experience. Figure 2. Reported time length of blogs that had been maintained, from the day it was
initiated Figure 2. Reported time length of blogs that had been maintained, from the day it was
initiated As shown in figure 3, nearly two thirds of the respondents indicated that they had updated
their blogs last month. Among them, 52.15% (n=97) updated 1-7 times and 12.90% are even
more active. There are still 34.95% (n=65) of the respondents reported that they didn’t update
their blog. © Online Journal of Communication and Media Technologies 105 © Online Journal of Communication and Media Technologies 105 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
Figure 3. Reported frequency of updating blog in last month. Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Figure 3. Reported frequency of updating blog in last month. As for the average time length for a single piece of blog article, most of the respondents spent
not more than one hour. 61.08% (n=113) of the respondents write one article within 30
minutes while it cost 30 minutes to 1 hour for another 30.27% (56) to write a piece of blog
article. Figure 4. Reported time lengths on one piece of blog Figure 4. Reported time lengths on one piece of blog To sum up, the majority of the respondents are experienced blogger; most respondents are To sum up, the majority of the respondents are experienced blogger; most respondents are 106 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
active users who frequently updated their blogs last month. The main body of the respondents
spent limited time on each article. The usage pattern implied that blogging may firmly exist
as part of the respondents’ daily life. Why Bloggers Start a Blog As shown in Table 5, when asked to select main reasons for initiating a blog, the highest
percentage (34.7%) of responses indicated that the main reason was documenting everyday
feelings. Other reasons endorsed most were following the Crowd (16.6%), expressing opinion
(14.5%), and storing material (10.0%). Less emphasis was put on social interaction oriented
reasons; for others’ invitations, sharing materials, making more friends and for fame together
composed 20.5% of selection. A notable reason reflecting influence of others is following the
crowd; however, this factor also implies that bloggers may be promoted by curiosity. Table 5. Reasons of Initiating a Blog
Reasons
responses
N
Percentage
Documenting everyday feelings
132
34.7%
Following the flow
63
16.6%
Expressing opinions
55
14.5%
Storing materials
38
10.0%
For others’ invitations
35
9.2%
Sharing materials
29
7.6%
Making more friends
11
2.9%
Other reasons
9
2.4%
Assisting study or work
5
1.3%
For fame
3
0.8% © Online Journal of Communication and Media Technologies 107 107 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 How bloggers maintain blogs: relationship between motivation and behavior Bloggers evaluated the 5 motivations of blogging and 5 behavior characteristics. Highest
mean score was found on pouring out thoughts/emotion while lowest mean score was on
using blog to become a focus person. Other items obtained relatively medium scores. Mean
scores for each item and factors were presented in Table 6, Table 7 and Table 8. © Online Journal of Communication and Media Technologies 108
scores for each item and factors were presented in Table 6, Table 7 and Table 8. Table 6. Evaluations of Items
Motivation Items
Mean
Std. Deviation
Gaining support on viewpoint
form others
3.03
1.15
Communicating
with
other
bloggers
2.66
1.18
Using blogs to become a focus
person
1.72
0.90
sharing materials
3.05
1.10
Pouring out thoughts/emotion
4.06
0.91
Behavior Items
Mean
Std. Deviation
I’m unwilling to share my blog to
those who are not familiar to me
3.08
1.24
If there is more attention, I will
spend more energy on writing
blog
3.32
1.07
I would like to express my
thoughts restrictedly
3.17
1.05
I would like to show more linkage
in my blog
2.68
1.06
I would like to link my blog to
blogospheres
2.75
1.70
Table 7. Evaluation for Motivation Factors
Motivation factors
Mean
Std. Deviation
Social connection
2.61
0.75 Table 6. Evaluations of Items
Motivation Items
Mean
Std. Deviation
Gaining support on viewpoint
form others
3.03
1.15
Communicating
with
other
bloggers
2.66
1.18
Using blogs to become a focus
person
1.72
0.90
sharing materials
3.05
1.10
Pouring out thoughts/emotion
4.06
0.91
Behavior Items
Mean
Std. Deviation
I’m unwilling to share my blog to
those who are not familiar to me
3.08
1.24
If there is more attention, I will
spend more energy on writing
blog
3.32
1.07
I would like to express my
thoughts restrictedly
3.17
1.05
I would like to show more linkage
in my blog
2.68
1.06
I would like to link my blog to
blogospheres
2.75
1.70 Table 7. Evaluation for Motivation Factors
Motivation factors
Mean
Std. Deviation
Social connection
2.61
0.75 © Online Journal of Communication and Media Technologies 108 108 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
Life documenting
3.14
0.63 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Life documenting Table 8. Evaluation for Behavior Factors
Motivation Items
Mean
Std. © Online Journal of Communication and Media Technologies How bloggers maintain blogs: relationship between motivation and behavior Deviation
Self-restriction on expression
2.35
0.78
Interaction-oriented behavior
2.89
0.73 Table 8. Evaluation for Behavior Factors Relationships between motivations and behaviors were tested by partial correlations;
controlling gender, age, blogging experience, as well as other determinants. Main findings of
the study are shown in Table 9. Table 9. Result of Model Testing
Self-restriction on expression
Interaction-oriented behavior
Partial
correlation
coefficient
p
Partial
correlation
coefficient
p
Social
connection
-.013
.865
.544
.000
Emotion
pouring
.170
.025
.094
.218 Table 9. Result of Model Testing Table 9. Result of Model Testing More specifically, this study found following findings: 1. Social connection motivation is significantly positively related to interaction-oriented
behavior, such that the higher blogging is deemed to increase social connection, the more
interaction the blogger will tend to exhibit in blogging. Therefore, hypothesis 2 is supported. 1. Social connection motivation is significantly positively related to interaction-oriented
behavior, such that the higher blogging is deemed to increase social connection, the more
interaction the blogger will tend to exhibit in blogging. Therefore, hypothesis 2 is supported. 2. Emotion pouring motivation is positively related to self-restriction on expression, so
that the more the blogger tend to pour their emotion in blog, the more restriction they will put
on expression and be more cautious in expression. Therefore, hypothesis 3 is supported. 3. Social connection motivation is not significantly related to self-restriction. Hypothesis
1 is rejected. 3. Social connection motivation is not significantly related to self-restriction. Hypothesis
1 is rejected. © Online Journal of Communication and Media Technologies 109 109 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 4. Emotion pouring motivation is not significantly related to Interaction-oriented
behavior; hence, hypothesis 4 is rejected. 4. Emotion pouring motivation is not significantly related to Interaction-oriented
behavior; hence, hypothesis 4 is rejected. For further investigation, this study also found that gender has significant effect on
blogging behavior. Female students were found to put more self-restriction on expression in
blogging (r=-.162, p<.05). It is also found in females that, emotion pouring motivation is
positively related to self-restriction behavior (r=.246, p<.05), while there is no such
significant relationship among that of males (r=.082, p=.463). © Online Journal of Communication and Media Technologies 110 Discussion and Conclusion This study starts by the question of relationships between motivation and behavior pattern,
which may partly help explaining the reasons of stickiness to blog and self-disclosure or
self-censorship in blogging. Among various previous studies, Nardi’s classification on motivations (Nardi, etc, 2003),
models raised by Huang, etc (Huang, Shen, Lin, and Chang, 2007) and questions mentioned
in Jin’s research on stickiness to blogging (Jin, 2007) are especially stimulating in developing
the model adopted in this study. Compared to these studies, the most prominent difference
involved in this study is that both the constructs of motivation and behavior are briefly
divided into two sub-dimensions concerning extrinsic stimulation and intrinsic dynamic. In terms of reasons for initiating blogs, intrinsic motivations were ranked at the front instead
of extrinsic motivations. It is understandable that university students’ social network is of
relatively smaller size comparing with people of older ages; thus, practicing a new type of
diary, curiosity and thoughts on following the crowd may have more influence rather than the
social connection motivations in registering a new blog. In regards of testifying the model, as shown in figure 5, only the hypothesis that social
connection motivation is positively related to interaction-oriented behavior and emotion
pouring motivation is positively related to self-restriction behavior are supported. These 110 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 findings imply that: (a) social connection motivation may not be conflicting with
self-restriction on expression; people may be highly involved into online social connection
activities and protect their privacy or be cautious about speaking out true opinion at the same
time; (b) the similar rationale may also be applicable to relationship between emotion pouring
motivation and interaction-oriented behaviors since bloggers may release their tensions or
talk out feelings to their intimate friends or those who are outside of the bloggers’ real life
circle, therefore, this motivation may also increase degree of online social interaction. Note:
Significant path
Non significant path
Figure 5. Results of hypothesis testing
H3+
Self-restriction on
expression
Interaction-oriented
behavior
Social
connection
Emotion
pouring
H1-
H2+
H4- Self-restriction on
expression Social
connection H3+ Interaction-oriented
behavior Figure 5. Results of hypothesis testing Further more, gender has significant influence on behavior, females tends to put more
self-restriction on expression. © Online Journal of Communication and Media Technologies 111 Discussion and Conclusion The positive relationship between emotion pouring motivation
and self-restriction behavior noticed in the whole sample is largely contributed by behavior of
females since there was no such significant relationship found in that of males. Although not included in the proposed research design, a series of regressions were still
conducted to predict blog usage pattern (years of blogging, update times in last month and
time spent on each article). It is found that, as shown in Table 10, gender and age have larger
effect on predicting blog usage pattern. Compared with males, females tend to update blogs
more frequently last month and spent more time on each article. Older bloggers had longer
experience of blogging and spent more time on each article. As for the motivations, only the 111 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 motivation of communicating with other bloggers is significantly related to update times in
last month, indicating that the more the bloggers are motivated by communication need, the
more frequently they may update their blogs. Table 10. Blog Usage Pattern
Years of
blogging (β)
Update times
in last month
(β)
Time spend on
each article (β)
Motivation items
Communicating with other bloggers
.163*
Becoming a focus person
Sharing my materials
Document my thoughts/emotion
.182*
Gaining supports from others on my
viewpoint
Demographics
Gender (reference=female)
-.198**
-.153*
Age
.223**
R2
.077
.060
.079
Adjusted R2
4.0%
2.2%
4.2%
Notes:
# p<.1; * p<.05 Table 10. Blog Usage Pattern This undesignedly extended analysis not only reveals the limitation of this study but also
hints further directions in this topic. For the first thing, it confirms that the reliability and
validity of the original scale need a great deal of improvement; for the second thing, the blog
management is greatly affected by gender and age, suggesting that the model proposed in this
study may also affected by the demographic factors; third, the categorization of the
motivations and behaviors are still too rough that the intention of this study to categorize
bloggers simply by the factors and items adopted in this study may be confronted with a great
number of challenges. Therefore, a more specific scale needs to be addressed into analyzing
blogging motivation, behavior and update management. Discussion and Conclusion Models concerning more moderators
like personality and demographic factors might be more convincing in investigating blogging
motivations and behaviors. © Online Journal of Communication and Media Technologies © Online Journal of Communication and Media Technologies 112 112 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Reference Documenting everyday feelings
B. Following the flow
C. Storing materials
D. Expressing personal opinions
E. Making more friends
F. Sharing materials
G. For fame
H. For others’ invitations
I. Assisting study or work
J. Other reasons Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 © Online Journal of Communication and Media Technologies Reference Brady, M. (2006). Blogs: Motivations behind the Phenomenon. Information Communication
and Society Conference, 12-14. September 2006, University of York, York, UK. Available
at
http://www.essex.ac.uk/chimera/content/pubs/wps/CWP-2006-17-blog-motivations.pd
f. Retrieved on Mar, 17, 2009. http://www.essex.ac.uk/chimera/content/pubs/wps/CWP-2006-17-blog-motivations.pd f. Retrieved on Mar, 17, 2009. f. Retrieved on Mar, 17, 2009. Chou, L-H (2005). The Research of Blog User and User Behavior. Unpublished Master
Thesis. Taiwan: Dept. of Information Communication, Yuan-ze University. Efimova,
L. (2003). Blogs:
The
stickiness
factor. Available
at
https://doc.telin.nl/dscgi/ds.py/Get/File-34088. Retrieved on Mar, 16, 2009. Fung, H-Y. (2006). Weblogging in Hong Kong: Motivations and Self-Disclosure. Graduation
project for Master of Science in New Media, School of Journalism and
Communication, The Chinese University of Hong Kong. Huang, C-Y., Shen, Y-Z., Lin, H-X., and Chang, S-S. (2007), Bloggers’ Motivations and
Behaviors: A Model. Journal of Advertising Research, 47(4): 472-484. Jin, J-B. (2007), The stickiness determinants of blogging: from the perspective of user
acceptance of information technology. Conference Papers -- International
Communication Association, 2007 Annual Meeting. Lenhart, A., & Fox ,S. (2006). Bloggers: a portrait of the Internet’s news storytellers. Pew
Internet
&
American
Life
Report,
July
19,
2006:
Available
at
http://www.pewinternet.org/~/media//Files/Reports/2006/PIP%20Bloggers%20Report
%20July%2019%202006.pdf.pdf. Retrieved on Mar, 17, 2009. Liu, S-H., Liao, H-L., and Zeng, Y-T. (2007) Why people blog: an expectancy theory analysis. Issues in Information System, 8(2):232-237. Menchen-Trevino, E. (2005) Blogger motivations: power, pull and positive feedback. Available at http://blog.erickamenchen.net/MenchenBlogMotivations.pdf. Retrieved
on April, 3, 2009. Nardi, B. A., Schiano, D.J. , Gumbrecht, M. & Swartz, L. (2004). Why We Blog. Communications
of
the
ACM. 47
(12):
41-46. Available
at
http://technorati.com/blogging/state-of-the-blogosphere/. Retrieved on Mar 17, 2009. Ryan, R., & Deci, E. (2000). Intrinsic and extrinsic motivations: classic definitions and new
directions. Contemporary Educational Psychology. 25(4): 54-67. Viegas, F. (2004). Blog Survey: Expectations of Privacy and Accountability. Available at
http://web.media.mit.edu/~fviegas/survey/blog/results.htm. Retrieved on April, 20. 113 © Online Journal of Communication and Media Technologies Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012 Appendix: Key items and scales
Reasons for initiating blogging (you could chose more than one
A. Documenting everyday feelings
B. Following the flow
C. Storing materials
D. Expressing personal opinions
E. Making more friends
F. Sharing materials
G. For fame
H. For others’ invitations
I. Assisting study or work
J. Other reasons Appendix: Key items and scales
Reasons for initiating blogging (you could
A. © Online Journal of Communication and Media Technologies Appendix: Key items and scales Reasons for initiating blogging (you could chose more than one reason) Motivations of maintaining blog (5-point scale, with 1 refers to “strongly disagree” and 5
f
t “ t
l
”) E. Gaining support on my viewpoint from others Behaviors (5-point scale, with 1 refers to “strongly disagree” and 5 refers to “strongly agree”)
A. Unwilling to share my blog to those who are not familiar to me
B. There are more articles originated by me rather than others in my blog
C. If there is more attention, I will spend more energy on writing blog
D. I will express my thoughts restrictedly
E. I would like to show more linkage in my blog
F. I would like to link my blog to blogospheres
Updating management
1. When did you originally register the blog
A. <1 month
B. 1-6 months
C. 6-12 months
D. 1-3 years
E. > 3 years
2. How many times did you update your blog in last month? A. 0
B. 1-7
C. 8-14 114 © Online Journal of Communication and Media Technologies Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
D. 15-21
E. 22-28
F. 29 or more Online Journal of Communication and Media Technologies
Volume: 1 – Issue: 4 – January - 2012
D. 15-21
E. 22-28
F. 29 or more 3. How long will you spend on writing an article in your blog in average? 3. How long will you spend on writing an article in your blog in average? 3. How long will you spend on writing an article in your blog in average? A. <30 minutes
B. 31-60 minutes
C. 61-120 minutes
D. >120 minutes 115 © Online Journal of Communication and Media Technologies © Online Journal of Communication and Media Technologies
|
https://openalex.org/W1975885903
|
https://www.scielo.br/j/spmj/a/jc5t4ZMPMSxLfKGYjMmkwLp/?lang=en&format=pdf
|
English
| null |
Iron stores and coagulation parameters in patients with hypoxemic polycythemia secondary to chronic obstructive pulmonary disease: the effect of phlebotomies
|
São Paulo medical journal
| 1,997
|
cc-by
| 4,576
|
José Antônio Baddini Martinez,
Celso Carlos de Campos Guerra, Luiz Eduardo Nery,
José Roberto de Brito Jardim José Antônio Baddini Martinez,
Celso Carlos de Campos Guerra, Luiz Eduardo Nery,
José Roberto de Brito Jardim Iron stores and coagulation parameters in patients with
hypoxem' c polycythemia secondary to chronic obstructive
pulmonary disease: The effect of phlebotomies p
y
p
From the Respiratory
and Hematology
Divisions,
Universidade
Federal de São Paulo/Escola
Paulista tle Medicina
-
São Paulo,
Brazil. This study was designed to determine the effects of phlebotomy on iron body contents and coagulation tests of COPO patients with
po'ycythemia secondary to hypoxemia. Seventeen patients with COPO and hematocrits higher than 54 percent (mean Hct: 57 :t 0.49
percent ), who had not received anti-inflammatory or antiplatelet aggregation agents recently.Their mean forced expiratory volume at
1 second (FEV1) was 0.92:t 0.11 L. Intervention: Blood work was collected to evaluate the following: serum iron and ferritin leveis, total
iron binding capacity, transferrin saturation index, fibrinogen plasma leveis, activated partial thromboplastin time, platelet count, plate-
let aggregation
measurements,
and thromboelastography
coagulation parameters. The blood samples were obtained before and
about 7 days after the hematocrit correction by 300-400 ml phlebotomies done every other day.The mean number of phlebotomies
done for each patient was 4.4. Postphlebotomy iron serum leveis decreased from 90.1 :t 14.8 to 59.7:t 9.9 mg/dl and the ferritin serum
leveis from 133.8 :t 37.9 to 70.8 :t 32.7 ng/ml (p< 0.05). Regarding the coagulation studies, there were significant increases in the
platelet count, from 227,300
:t 13,900 to 312,500
:t 30,200 per mm3, and in the maximum
clot amplitude
(a) obtained
by
thromboelastography
( from 53.6 :t 1.4 percent to 60.4 :t 1.1 percent). The coagulation time (k) of the thromboelastography
also
decreased significantly, from 7.5 :t 0.7mm prephlebotomy to 4.5 :t 0.3mm postphlebotomy. Although the coagulation changes were
small amount, the observed significant decrease in iron contents may have important clinicai implications. UNITERMS: Secondary polycythemia; repetitive phlebotomies; iron deficiency; coagulation; chronic obstructive pulmonary disease UNITERMS: Secondary polycythemia; repetitive phlebotomies; iron deficiency; coagulation; chronic obstr São Paulo
Medicai
Journal/RPM
115(2):
1395-1402,
1997 MARTINEZ,
J.A.B.;
GUERRA,C.C.C,;
NERY, L.E. et aI. - lron stores and coagulation
parameters
in patients
with hypoxemic
polycythemia
secondary
to chronic obstructive
pulmonary
disease:
The effect of phlebotomies INTRODUCTION In a group of patients performing
exercise
studies in
ergometer,
the
maximum
workload
and
oxygen
consumption
have
increased
31
and
16 percent
respectively,
when the mean Htc had decreased
from 62
to 50 percent,x These effects are not secondary
to changes
in respiratory
mechanics
or blood gases.2.4.S.7-10Rather,
it
seems they result
from improvements
in hemodynamic
conditions
related to a better blood viscosity.3.11-13 B B
loodlettings,
or phlebotomies,
are still adyocated
in the
care
of chronic
obstructive
pulmonary
disease
(COPD)
patients
with cor pulmonale
and
severe
secondary
polycythemia.1
Several
authors
have
shown
that hematocrit
(Hct)
reductions
in hypoxemic
patients
with COPD
and polycythemia
are followed
by
improvement
in general symptoms,2-S mental activity2-6 and
exercise
performance.2-4.7.8 Although a great deal has been published
in this field,
no attention
has been paid to the potential
hematological
consequences
of phlebotomies. Similarly
to what happens
with
blood
donors
and
during
the
treatment
of
hemochromatosis,
repeated
phlebotomies
in COPD
patients
could
lead
to reductions
in their
iron
body
contents.14.1S
Iron
deficiency
states
may
run
with
decrements
in work performance
secondary
to drops
in Address for correspondence:
José A. B. Martinez MO Address for correspondence:
José A. B. Martinez MO Address for correspondence:
José A. B. Martinez MO
Disciplina
de Pneumologia
(Lung Division)
UNIFESP/EPM
Rua Botucatu,
740 - Vila Clementino
São Paulo/SP
- Brasil - CEP 04023-900 Address for correspondence:
José A. B. Martinez MO Address for correspondence:
José A. B. Martinez MO
Disciplina
de Pneumologia
(Lung Division)
UNIFESP/EPM
Rua Botucatu,
740 - Vila Clementino
São Paulo/SP
- Brasil - CEP 04023-900 Disciplina
de Pneumologia
(Lung Division)
UNIFESP/EPM
Rua Botucatu,
740 - Vila Clementino São Paulo/SP
- Brasil - CEP 04023-900 São Paulo/SP
- Brasil - CEP 04023-900 1396 with
readings
made
with
a
Colelnan
6/20
spectrophotometer. Ferritin
serum
leveIs
were
also
evaluated
by a commercially
available
enzymatic
immunoassay
(FerrizYlne TM@- Abbot Laboratories). The
transferrin
saturation
index (TSI) was calculated
as the
percentile
ratio between
serum iron leveIs and TIBC. helTIoglobin leveIs, and disturbances
in muscular oxidative
metaboIism.1ó
In the case
of reductions
in iron body
contents actualIy deveIoping
in COPD patients folIowing
phlebotomies,
the former could act as limiting factors for
expected
exercise
improvements. In addition, polycythemia
is a welI known risk factor
for thrombosis,17
and lnany studies. suggest
that COPD
patients have a higher tendency
to have thromboembolic
episodes.IX-20
SOlne studies
of thrombotic
risk in COPD
have shown an increased
tendency
towards
coagulation
with
altered
values
in
the
throlnboelastogram,
hyperfibrinogemia
and increased platelet aggregation.1x'21-2
Therefore,
we hypothesized
that a reduction in Hct leveIs
by phlebotolnies
could
aIso have a favorable
effect on
decreasing
s'uch thrombotic
risk. - PlateIet count, made in an automatic
counter Clay
Adams modeI Ultra-FIo. - PlateIet count, made in an automatic
counter Clay
Adams modeI Ultra-FIo. - Platelet
aggregation
determinations
by the Born
lnethod in a Chronolog
aggregometer.2ó
The aggregation
agents
ADP
in concentrations
of
1 mM and 3 mM,
epinephrine
at 1:1000 dilution,
and hUlnan colIagen were
used in salnples
froln each patient. The percentage
of
aggregated
pIatelets
was caIculated
at a curve
point
corresponding
to an interval of 5 minutes from the initial. stimulus for each aggregation
agent. PATIENTS AND METHODS Patient Selection Patient Selection - Throlnboelastography
(TEG),
using
a Hartert
throlnboelastograph
lnade by HelIige. This test exalnines
the entire bloocl coaguIation
process
and the interaction
of alI involvecl cOlnponents.27
The reaction
tilne r, the
coagulation
time k, and the lnaxil11um cIot alnpIitude a ,
were lneasured using a special ruIer on the developed filmo Seventeen
with COPD
and polycythelnia
( Hct 54
percent
or more) patients
were studied
after signing
an
informed
consent
formo All patients
were
in stable
respiratory conditions,
without clinicaI evidence of right or
left ventricular
faiIure. They
had not been under
any
antiplatelet or anti-inflammatory
agent for at least the prior
10 days, and.during the study period there were no changes
in their daily medications. None of the patients
showed
clinicaI evidence ofblood
loss or were using oxygen at that
time. Statistical
Methods All data are expressed
as the mean :t standard error. The WiIcoxon test was used in the statistical
analysis for
the nonindependent
variables. A. leveI of 5 percent
was
fixed as the litnit for rejection of the null hypothesis. Following an initiallaboratory evaIuation, phlebotomies
of 300 to 400 ml were perfonned
every other day until a
venous Hct value around 45 percent was reached (range: 41-
48 percent). A second
set of laboratory
tests was then
performed about 7 days after the last phlebotomy 'session. MARTINEZ,
J.A.B.; GUERRA,C.C.C,;
NERY, L.E. et aI. - Iron stores and coagulation
parameters
in patients with hypoxemic
polycythemia
secondary
to chronic
obstructive
pulmonary
disease:
The effect of phlebotomies São Paulo
Medicai
Journal/RPM
115(2):
1395-1402,
1997 Coagulation Studies Coagulation
tests were performed
on 3.8 percent
sodium
citrate
venous
blood
samples
collected
simuItaneously
with the iron blood work. The following
determinations
were made: - Activated paltial thromboplastin
time (APTT) using
human cephalin.24 The results were expressed
as the ratio
to the control values for the Iaboratory
on that day. The present study investigates
the effects of the Hct
correction
by repeated
phlebotomies
on paralneters
of
hemostasis
and body iron contents in COPD patients with
severe secondary
hypoxemic
polycythemia. - Fibrinogen
plasma leveIs, assessed by the Ratnoff-
Menzie Inethocl.25 - PlateIet count, made in an automatic
counter Clay
Adams modeI Ultra-FIo. Coagulation
Studies Coagulation
Studies studies. The second set of blood tests were collected
8.7 :t
1.3 days after the Iast phlebotomy. The time between blood
collection
and actuaI sample analysis
was no longer than
two hours in every case. Coagulation
studies
obtained
before
and
after
phlebotomies
are listed in Table 3. Ali the initial
Inean
values
were
within
the norlnal
limits'
of the authors'
laboratory
except for the r paralneter
of the TEG, vvhich
was slightly increased. No significant
decreases
were seen
in
the
Inean
APTT
and
fibrinogen
leveIs
after
phlebotolnies. The platelet
count
significantly
increased
fronl 227,3001Inln3
to 312,000/mm3
after the procedure. Fifteen patients
(88.2 percent)
showed
an increase
in the MARTINEZ,
J.A.B.;
GUERRA,C.C.C,;
NERY, L.E. et aI. - lron stores and coagulation
parameters
in pa~ients with hypoxemic
polycythemia
secondary
to chronic obstructive
pulmonary
disease:
The effect of phlebotomies São Paulo
Medicai
JournallRPM
115(2):
1395-1402,
1997 Iron Stores Measurements Thirteen male and four female patients were studiecl. Most of theln had severe or 1110derate COPD with arterial
hypoxemia
(Table 1). The mean Hct fell frol1157 percent
before phebotolnies
to 45 percent
at the time of the final Venous blood samples
with no anticoagulant
were
collected from fasting patients in the Inorning. Iron seruln
leveIs and seruln total iron binding capacity (TIBC) were
measured using a commercialIy
available kit (Iron Roche@) 1397 Table 1
Patient Summary
Age
FEV1
FVC/FEV1
Pa02
Hct Pre
Hct Post
No. Gender
yr
L
%
mmHg
%
%
1
M
53
1.17
50
47
54
45
2
M
44
0.82
38
39
55
48
3
M'
60
0.71
35
44
54
44
4
M
63
0.59
31
49
57
45
5
M
44
0.65
38
45
60
45
6
F
36
0.47
47
42
57
41
7
M
50
1.46
50
46
63
44
8
F
72
0.48
45
38
56
46
9
M
28
0.57
36
42
58
47
10
M
75
1.19
45
49
60
47
11
M
67
1.41
60
53
58
44
12
M
70
1.68
60
51
55
45
13
F
42
0.65
32
46
56
43
14
F
68
0.44
37
49
58
44
15
M
70
0.62
35
53
57
46
16
M
35
1.88
49
52
55
45
17
M
66
0.93
28
59
55
42
Mean
55:t3.6
0.92:t .11
42:t2.4
47:t1.2
57:t.49
45:t.49 Coagulation
Studies MARTINEZ,
J.A.B.;
GUERRA,C.C.C,;
NERY, L.E. et aI. - lron stores and coagulation
parameters
in pa~ients with hypoxemic
polycythemia
secondary
to chronic obstructive
pulmonary
disease:
The effect of phlebotomies
São Paulo
Medicai
JournallRPM
115(2):
1395-1402,
1997 Iron Measurements Figure 1- Iron and ferritin
individual
values for COPO patients
submitted
to sequencial
phlebotomies. platelet count, 4 of them with final measurements
beyond
400,OOO/mm.3 Studies
of platelet
aggregation
made with
different
stimulant
agents
did not show any significant
postphlebotomies
change. Adequate
thromboelastography
studies
before
and
after phIebotomies
could not be obtained in 4 patients due
to technical
problems. In the
13 studied
subjects,
a
significant
decrease
was noticed
in k during
the final
studies. Although
r also experienced
a decrease,
such
change
did not reach
statistical
significance. Finally,
a
values showed
a significant
postphlebotomies
increase. Experimental
studies
on rats have found
that mild
and severe iron deficiency
are associated
with deficits 9f
cytochrome
c and mioglobin
in skeletal
muscle.33 FINCH
et a1.34 completed
studies
of work performance
on iron-
deficient rats, keeping hemoglobin
leveIs constant through
exchange
transfusions. It was seen that iron-deficient
rats
had a significant
shorter running
time than çontrols
with
similar
hemoglobin
leveIs. After
4 days
of
iron
administration,
the iron-deficient
group
achieved
normal
running times. Iron Measurements TIBC: serum total iron
*p< 0.05
Iron cont
There were significant
decreases
in the serunl leveIs
of iron, ferritin and TSI postphlebotolny
(Table 2). Twelve
Norm
50
20
2
Iron, mg/dl
TIBC, mg/dl
TSI,
%
a decrease
in iron
patients
(70
percent)
showed
concentrations
and in 7 of these
it remained
below 50 percent of
the initial value. Falls in ferritin
leveIs were seen in 16 patients
(94 percent). Such
decreases
were
greater
than
50 percent
from the baseline
values
in 12
(70 percent)
of the subjects. In
8 patients (47 percent),
the final
ferritin values were below 10 ng/
Inl,
indicating
severe
iron
depletion
(Fig. 1). TIBC: serum total iron binding capacity; TSI: transferin saturation indexo
*p< 0.05
Table 2
Iron contents measurements (Mean :!: SE) obtained
pre-and postphlebotomy
Postphlebotomy
59.7:t
9.9*
399.9 :t 20.0
16.7:t 3.6*
Prephlebotomy
90.1 :t 14.8
393.6 :t 27.6
25.4 :t 4.9
Normal Range
50-150
200-400
20-50
Iron, mg/dl
TIBC, mg/dl
TSI,
% Table 2
Iron contents measurements (Mean :!: SE) obtained
pre-and postphlebotomy 1398 2). Serum ferritin
is a good indicator
of
iron body stores, and the drop in its leveIs
denotes
that the tissue
iron contents28,29
were also affected. 'OST
PK.EBOTOMY
r-PCO.os -,
PRE
PHELEBOTOMY
,--
pc 0.05
-,
300
410
400
250
1
_
350
E
200
.5._
I
z
z
t=
o
~
250
e:
150
~
200
100
150
100
50
50
PRE
'OST
PHELEBOTOMY
PK.EBOTOMY
Figure 1- Iron and ferritin
individual
values for COPO patients
submitted
to sequencial
phlebotomies. Iron
deficiency
states
may
have
effects on red blood cells and solid organ
tissues. Although
it would
be expected
that
iron
deficiency
could
have
an
inhibitory
effect
on
COPD
hypoxic
hemopoietic
response,
this is not always
the
case. Secondary
polycythemia
associated
to iron deficiency
in COPD
patients
has been
described.30,31
Some
authors report that iro,n depletion
may not
be an impeding
factor to increases
in red
cell
mass,
and
that
in
such
cases
polycythemia
is
associated
with
hypochromic
erythrocytes.32 PK.EBOTOMY
MY
An iron deficiency
state may also
ed
to sequencial
di sturb
the
mu scular
oxidati
ve
metabolism,
interfering
with the patient's
work performance. 16 The tissue haem iron
compounds
include the cytoçhromes,
myoglobin,
catalase
and peroxidase. In additiQD, muscles
harbor
non-haem
iron-containing
enzymes
such as NADH
dehydrogenase,
succinic
dehydrogenase
and xanthine
oxidase. Finally,
some enzymes such as aconitase
and tryptophan
pyrrolase
require iron or haem as a cofactor. MARTINEZ,
J.A.B.; GUERRA,C.C.C,;
NERY, L.E. et aI. - Iron stores
and coagulation
parameters
in patients
with hypoxemic
polycythemia
secondary
to chronic
obstructive
pulmonary
disease:
The effect of phlebotomies São Paulo
Medicai
Journal/RPM
115(2): 1395-1402,
1997 DISCUSSION Biochemical
analysis done at that time suggested that
an increase
in the rate of oxidative
phosphorylation
with
a-glycerophosphate
as a substrate
played
a key role in the
improvement
of work performance. Non-published
data
from
our laboratory
have
shown
small
but significant
increases
in the
maximal
work
load
and
oxygen
consumption
reached by 15 iron-deficient,
anemic wom'
4 days after administration
ofIV iron-dextran,
ev~n though
their hemoglobin
leveIs had not changed. Phlebotomy
may
be used
in the care
of COPD
patients in an attempt to reduce detrimental
cardiovascular
effects of blood hyperviscosity
due to polycythemia. The
basis
for this procedure
is the effect
of phIebotomy
in
improving
hemodynamic
conditions
and
exercise
performance
in such patients.2-4,7,8,11-13
However, the effects
of this kind of therapy
on hemostasis
and iron reserves of
COPD patients had not been thoroughIy
examined
before. Therefore,
we can hypothesize
that COPD
patients
who show
ameIioration
of exercise
performance
after
phIebotomies
lnight
have
this
effect
attenuated
if
simuItaneous
iron
deficiency
states
deveIop. The Our present resuIts showed that the normalization
of
hematocrits
by phlebotomies
led to an important
reduction
in iron
body
contents. This
became
apparent
by the
significant
decreases
in serum iron, ferritin and TSI (Table 1399 Table 3
Results of coagulation
studies (Mean :!: SE) obtained
pre-and postphlebotomy
Normal Range
Prephlebotomy
Postphlebotomy
APTT
0.90-1.25
1.14:t 0.06
1.06 :t 0.04
Fibrinogen, mg/dl
200-400
262:t
12
236.5 :t 13.2
Platelets/mm3
200,000-400,000
227,300:t
13,900
312,500:t
30.2*
Platelet Aggregation
ADP 3mM,
%
60-80
65.8 :t 5.1
74.1 :t 3.9
ADP 1mM,
%
60-80
63.0 :t 6.4
69.8 :t 4.7
Epinephrine,
%
60-80
63.3 :t 6.4
64.6 :t 5.9
Collagen,
%
60-80
80.0 :t 2.8
78.2 :t 3.2
Thromboelastography#
',mm
7.2-9.6
9.9 :t 0.7
9.0 :t 0.5
k,mm
5.8-7.8
7.5 :t 0.7
4.5 :t 0.3*
a,mm
48-60
53.6:t
1.4
60.4:t
1.1*
APTT: activated partial thromboplastin time; ADP: adenosine diphosphate; r: reaction time;
k coagulation time; a: maximum clot amplitude
*p < 0.05; # data from 13 patients Table 3
Results of coagulation
studies (Mean :!: SE) obtained
pre-and postphlebotomy development
of hypochromic
red ceIls in such situations
could impair oxygen
transport
to the tissues, even with
the presence
of a high hematocrit. Furthermore,
iron
depletion
at the skeletal muscle leveI could lead to poor
enzymatic
function and oxygen utilization. MARTINEZ,
J.A.B.;
GUERRA,C.C.C,;
NERY, L.E. et aI. - Iron stores and coagulation
parameters
in patients
with hypoxemic
polycythemia
secondary
to chronic obstructive
pulmonary
disease:
The effect of phlebotomies São Paulo
Medicai
Journal/RPM
115(2):
1395-1402,
1997 MARTINEZ,
J.A.B.;
GUERRA,C.C.C,;
NERY, L.E. et aI. - Iron stores and coagulation
parameters
in patients
with hypoxemic
polycythemia
secondary
to chronic obstructive
pulmonary
disease:
The effect of phlebotomies
São Paulo
Medicai
Journal/RPM
115(2):
1395-1402,
1997 PTT: activated partial thromboplastin time; ADP: adenosine diphosphate; r: reaction time; DISCUSSION losses during surgery have been described.41
Such changes
were documented
even 2 hours after surgery and could
have accounted for cathecolamine
releases related to stress,
and the entry into circulation
of coagulation
factors froln
the hepatic interstitial fluido However, our final coagulation
tests
were
performed
about
7 days
after
the
last
phlebotomy, again making this interpretation less probable. Another
possibility
is that decreased
helnatocrits
led to
falls
in viscosity
with
better
liver
perfusion
and
oxygenation,
promoting
improvelnent
its production
of
coagulation
factors. losses during surgery have been described.41
Such changes
were documented
even 2 hours after surgery and could
have accounted for cathecolamine
releases related to stress,
and the entry into circulation
of coagulation
factors froln
the hepatic interstitial fluido However, our final coagulation
tests
were
performed
about
7 days
after
the
last
phlebotomy, again making this interpretation less probable. Another
possibility
is that decreased
helnatocrits
led to
falls
in viscosity
with
better
liver
perfusion
and
oxygenation,
promoting
improvelnent
its production
of
coagulation
factors. In summary,
the
coagulation
tests
made
after
phlebotolny
have
shown
slnall
changes
towards
an
augmented coagulability. Such changes could be the result
of an organic reaction to bleeding, especially
the increase
in platelet counting. Although the precise clinicaI meaning
of these findings
are unknown,
the literature
contains
a
reference to a patient with pulmonary
artery thrombosis
following phlebotomies.42
However,
alnong the different
tests done, only k reached a final value out of our normal
laboratory range. Therefore, we speculate that the detected
changes do not represent a harmful thrombotic
risk related
to the phlebotomies The
increase
in
a Inay
also
be related
to the
en)argement'
of the platelet
counting. Although
the
fibrinogen
leveIs
have
not changed,
the growth
in a
postphlebotomy
may also be in part secondary to a higher
availability
of fibrinogen
for the fibrin network making. In high Hct samples, the total alnount of fibrinogen
may
not be enough to make a fibrin network capable of strongly
containing
an increased
nUlnber of red cells. Low Hct
samples
may have proportionally
Inore fibrinogen
to be Based in the present
results,
we do oot think the
prophylactic
adlninistration
of anticoagulant
agents after
phlebotomies
in COPD patients is necessary. In addition,
we
recolnmend
oral
iron
supplementation
after
phlebotolnies
for polycythelnic
COPD patients
in order
to avoid iron deficiency. MARTINEZ,
J.A.B.; GUERRA,C.C.C,;
NERY, L.E. et aI. - Iron stores and coagulation
parameters
in patients with hypoxemic
polycythemia
secondary
to chronic
obstructive
pulmonary
disease:
The effect of phlebotomies DISCUSSION inhibitory
effect of this metal in throbopoiesis
has been
described.35
Other
studies
suggest
the presence
of an
humoral factor, the thrombopoietin,
in plasma from animaIs
with posthemorrhagic
thrombocytosis.37 In opposition
to previous reports on COPD patients,
we did not observe an increase in platelet aggregation
after
phlebotomy.'XJX-40Those reports attempted
to relate their
findings
to increases
in circulating
cathecolamines,
especial1y
serotonin,
secondary
to the bleeding. The
differences
between
present
and former
results
lnay be
explained by the fact that our blood samples were collected
later, around one week after the Iast phlebotomy,
when
normalization
of cathecolamine
leveIs
probably
had
already occurred. In order to evaluate the effects of Het correction
by
phlebotomies
on the hemostasis
of COPD polycythemic
patients,
tests were done to assess the intrinsic pathway,
platelet and fibrinogen concentrations,
platelet aggregation
and TEG. A renewed interest in TEG monitoring has been
seen recently
because
its tracing
represents
the shear
elasticity of a blood clot as it forms, matures, retracts and
eventuaIIy lyses. This test is extremely sensitive to identify
hypercoagulabi
lity. 27 The initial evaluation
prephlebotomy
did not show
any evidence of hypercoagulability,
since most of the test
resuIts were within the normal range for our coagulation
laboratory (Table 3). The only exception was the reaction
time r, which represents the time required for initiaI fibrin
fornlation,
which was slightly increased. This last finding
indeed
is lnore
compatible
with a hypocoagulability
condition. Other significant
postphlebotomy
changes
were an
extension of a and shortening
of k in the TEG tracings
(Table 3). The paralneter
a represents
the lnaximuln
clot
strength. The parameter
k represents
the ~peed of clot
forlnation,
fibrin
crosslinking
and
platelet-fibrin
interaction. Both parameters
may be decreased
in cases of
throlnbocytopenia
or hypofibrinogenemia. Although
with
no statistical
significance,
the r value
also decreased
postphlebotomy. The mean platelet count increased significantly
after
phlebotomy
from 227,300 to 312,500 mm3 (Table 3). Increases
in platelet
number
have been reported
after
chronic and acute blood 10ss.35.36The lnechanisms involved
in such rises may be related to iron depletion,
since an These
last results
suggest
that improvements
in
thrombin fonnation
have occurred postphlebotomy. This
could be a non-specific
reaction to bleeding,
as increases
in coagulation
activity measured by TGE following
blood 1400 used in the fibrin network,
producing
clots with greater
texture. São Paulo
Medicai
Journal/RPM
115(2): 1395-1402,
1997 São Paulo
Medicai
Journal/RPM
115(2): 1395-1402,
1997 REFERENCES 17. Schafer AL. The hypercoagulable
states. Ann Intern Med
1985; 102:814-28. 18. Cordova
C, Musca
A, Violi F, Perrone
F, Alessandri
C,
Marigliano
V, Balsano
F. Pathophysiological
and clinicaI
research
on the platelet
hyperaggregation
in patients
with
chronic respiratory
failure. BulI Europ Physiopatol
Respir
1980;16:113-5. 1. Kingler JR, HiU NS. Right ventricular dysfunction in chronic
obstructive
pulmonary
disease. Chest 1991 ;99:715-23. 2. Harrison BDW, Gregory RJ, Clark TJH, ScoU BW. Exchange
transfusion
with Dextran 40 in polycythaemia
secondary to
hypoxic lung disease. Br Med J 1971 ;4:7136. 19. MitchelI RS, Silvers G, Dart GA, Petty TL, Vicent TN, Ryan
SF, FilIey
GF. ClinicaI
and morphologic
correlations
in
chronic airway obstruction. Am Rev Respir Dis 1968;97:54-
62. 3. Harrison BDW, Daws J, Madgwick RG, Evans M. The effects
of therapeutic
decrease
in packed
cell
volume
on the
responses
to exercise
of patients
with
polycythaemia
secondary
to lung disease. Clin Sci 1973;45:833-47. 20. Ryan SF. Pulmonary
embolism
and thrombosis
in chronic
obstructive
emphysema. Am J Pathol
1963;43:767-73. 21. Balsano F, Cordova C, Musca A, Perone A, Violi F. Ruolo
deI metabolismo
pulmonary
sull'emocoagulazione
in
fisiologia
in clinica ed in terapia. CI Terap 1977;80:513-7. 4. Wedzicha
JA, Rudd RM, Apps MCP, Cotter FE, Newland
AC,
Empey
DW. Erythrapheresis
in patients
with
polycythaemia
secondary to hypoxic lung disease. Br Med J
1983;286:511-4. 22. Brun J, Biot N, Perryn-FayolIe
M, Sab H. Les troubles de la
coagulation
sanguine au cours de I'insuffisance
respiratoire
cronique:
Deductions
therapeutiques. Poumon
Couer
1962;18:181-194. 5. Dayton
LM, McCullough
RE, Scheinhorn
DJ, Well JV. Symptomatic
and pulmonary
response to acute phlebotomy
in secondary
polycythemia. Chest 1975;68:785-90. 23. Gaida
A,
Ghio
G. Emocoagulazione
e fibrinolisi
nelI'enfisema
polmonare. Minerva
Med 1964;55:2122-5. 6. Bornstein
R, Meron D, York E, Sproule B, Zak C. Effects of
venesection
on cerebral function in chronic lung disease. Can
J Neurol Sci 1980;7:293-6. 24. Chanarin L Laboratory haematology:
an account of laboratory
techniques,
1st ed. Edinburgh:
Churchill
Livingstone,
1989:274-5. 7. Chetty
KG, Brown
SE, Light
RW. Improved
exercise
tolerance
of the
polycythemic
lung
patient
following
phlebotomy. Am J Med 1983;74:415-20. 25. Ratnoff OD, Menzie C. A new method for determination
of
fibrinogen
in small samples
of plasma. J Lab Clin Med
1951 ;37:316-20. 8. Chetty KO, Light RW, Stansbury
DW, Milne N. Exercise
performance
of polycythemic
chronic obstructive pulmonary
disease: Effect of phlebotomies. Chest 1990;98: 1073-7. 26. Born GVR. MARTINEZ,
J.A.B.;
GUERRA,C.C.C,;
NERY, L.E. et aI. - lron stores and coagulation
parameters
in patients
with hypoxemic
polycythemia
secondary
to chronic obstructive
pulmonary
disease:
The effect of phlebotomies São Paulo
Medicai
JournallRPM
115(2):
1395-1402,
1997 Aggregation
of blood
platelets
by adenosine
diphosphate
and its reversal. Nature
1962; 194:327-9. 9. Massaro
D, Katz F. Effect of venesection
on arterial
gas
values
and ventilatory
function
in patients
with chronic
bronchitis. Thorax
1965 ;20:441-6. 27. Spiess BD, DavalIe M. Coagulation
monitoring in the surgical
intensive care unit. Crit Care Clin 1988;4:605-20. 28. Milnan N, Pedersen NS, Visfeldt 1. Serum ferritin in healthy
Danes: Relation
to marrow haemosiderin
iron stores. Dan
Med BulI 1983;30: 116-20. 10. Patakas DA, Christaki PI, Louridas GE, Sproule BJ. Control
of breathing in patients with chronic obstructi ve lung disease
and secondary
polycythemia
after venesection. Respiration
1986;49:257-62. 29. Walters
GO,
Miller
FE,
Worwood
M. Serum
ferritin
concentration
and iron stores in normal subjects. J Clin Path
1973;26:770-2. 11. Rakita L, Gillespie DG, Sancetta SM. The acute and chronic
effects
of phlebotomy
on general
hemodynamics
and
pulmonary functions of patients with pulmonary elnphysema. Am Heart J ] 965;70:466-75. 30. Tura S, Pollycove M, Gelpi AP. Erythrocyte
and ironkinetics
in patients with chronic pulmonary
emphysema. J Nucl Med
1962;3: 110-25. 12. Segel N, Bishop JM. The circulation
in patients with chronic
bronchitis
and emphysenla
at rest and during exercise, with
special
reference
to the influence
of changes
in blood
viscosity
and blood volume on the pulmonary
circulation. J
Clin Invest 1966;45: 1555-68. 31. Shaw DB, Simpson T. Polycythemia
in emphysema. Q J Med
1961 ;30: 135-52. 32. Stradling
JR,
Lane
DJ. Development
of secondary
polycythaemia
in chronic
airways
obstruction. Thorax
1981 ;36:321-5. 13. Weisse AB, Moschos
CB, Frank MJ, Levinson GE, Cannila
JE, Regan T1. Hemodynamic
effects of staged helnatocrit
reduction
in patients with stable cor puhnonale
and severel
elevated hematocrit
leveIs. Am J Med 1975;58:92-8. 33. Siimes MA, Refino C, Dallman PRo Manifestations
of iron
deficiency
at various leveIs of dietary iron intake. Am J Clin
Nutr 1980;33:570-4. 34. Finch
CA, Miller
LR, Inamdar
AR, Person
R, Seiler
K,
Mackler
B. Iron deficiency
in the rat: Physiological
and
biochemical
studies of muscle dysfunction .. J Clin Invest
1976;58:447-53. 14. Lieden
G. Iron
state
in regular
blood
donors. Scand
J
I-Iaematol.1973;11
:342-9. 15. Propper
R, Nathan
D. ClinicaI
removal
of iron. Ann Rev
Med 1982;33:509-19. 35. Krizsa A. Study on the development
of posthaemorrhagic
thrombocytosis
in rats. Acta Haemat
1971 ;46:228-31. 16. Dallman
PRo Manifestations
of iron deficiency. Semin
Hematol
1982; 19: 19-30. São Paulo
Medicai
JournallRPM
115(2):
1395-1402,
1997 1402 36. MARTINEZ,
J.A.B.; GUERRA,C.C.C,;
NERY, L.E. et aI. - lron stores and coagulation
parameters
in patients with hypoxemic
polycythemia
secondary
to chronic
obstructive
nl Jlm()n~
rv rli~A~~A'
ThA
AffAr.t
()f nhIAh()t()miA~ São Paulo
Medicai
Journal/RPM
115(2): 1395-1402,
1997 Karpaktin
S, Garg
SK, Fredman
ML. Role of iron as a
regulator
of thrombopoiesis.Am
J Med 1974;57:521-5. 40. Cordova
C, Musea
A, Perrone
A, Violi F, Alessandri
C,
Marigliano
V. Possibile
ruolo
deIla
serotonina
nel
determinismo
deIla iperaggregazione
piastriniea dopo sal asso
in pazienti eon insufieienza
respiratoria
eroniea. CI Terap
1979;90:489-501. 37. Weintraub
A, Khan I, Karpatkin
S. A splenie
dependent
thrombopoietie
faetor in ehronie blood loss plaslna. Clin Res
1974;22:411A. 41. Tuman KJ, Spiess BD, Me Carthy RJ, Ivankovieh AD. Etfeets
of progressive
blood
Ioss on eoagulation
as measures
by
thromboelastography. Anesth AnaIg
1987;66:856-63. 38. Cordova
C, Musea
A, Violi F, Alessandri
A, Perrone
A,
Balsano
F. Platelet
hyperfunetion
in patients
with ehronie
airways obstruetion. Eur J Respir Dis 1985;66:9-12 42. Chamberlain DA, MilIard FJC. The treatment of polyeythaemia
seeondary
to hypoxie
lung disease
by continuous
oxygen
administration. Q J Med 1963;32:341-50. 39. Musea
A, Cordova
C, Violi F. The thrombogenie
risk in
ehronie res .ratory failure. Adv Exp Med Bio11984; 164:369-
375.
|
https://openalex.org/W2158415064
|
https://europepmc.org/articles/pmc3368319?pdf=render
|
English
| null |
Circulating Tumor Cells Measurements in Hepatocellular Carcinoma
|
International journal of hepatology
| 2,012
|
cc-by
| 15,023
|
Hindawi Publishing Corporation
International Journal of Hepatology
Volume 2012, Article ID 684802, 16 pages
doi:10.1155/2012/684802 Hindawi Publishing Corporation
International Journal of Hepatology
Volume 2012, Article ID 684802, 16 pages
doi:10.1155/2012/684802 Hindawi Publishing Corporation
International Journal of Hepatology
Volume 2012, Article ID 684802, 16 pages
doi:10.1155/2012/684802 Review Article
Circulating Tumor Cells Measurements in
Hepatocellular Carcinoma Franck Chiappini INSERM U785, AP-HP Hˆopital Paul Brousse, Centre H´epato-Biliaire, Universit´e Paris-Sud. 14 avenue Paul Vaillant-Couturier,
94800 Villejuif, France Correspondence should be addressed to Franck Chiappini, franck.chiappini@inserm.fr Received 12 January 2012; Accepted 24 March 2012 Academic Editor: Shigeru Marubashi Copyright © 2012 Franck Chiappini. This is an open access article distributed under the Creative Commons Attribution License,
which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited. Liver cancer is the fifth most common cancer in men and the seventh in women. During the past 20 years, the incidence of HCC
has tripled while the 5-year survival rate has remained below 12%. The presence of circulating tumor cells (CTC) reflects the
aggressiveness nature of a tumor. Many attempts have been made to develop assays that reliably detect and enumerate the CTC
during the development of the HCC. In this case, the challenges are (1) there are few markers specific to the HCC (tumor cells
versus nontumor cells) and (2) they can be used to quantify the number of CTC in the bloodstream. Another technical challenge
consists of finding few CTC mixed with million leukocytes and billion erythrocytes. CTC detection and identification can be used
to estimate prognosis and may serve as an early marker to assess antitumor activity of treatment. CTC can also be used to predict
progression-free survival and overall survival. CTC are an interesting source of biological information in order to understand
dissemination, drug resistance, and treatment-induced cell death. Our aim is to review and analyze the different new methods
existing to detect, enumerate, and characterize the CTC in the peripheral circulation of patients with HCC. International Journal of Hepatology 2 International Journal of Hepatology 2 to indicate tumor cells found in distant organs, the tumor
spread circulating of liver-derived cells [20, 37, 38]. 2.1. Relevance of Cytokines in HCC Circulating Tumor Cells. HCC tumor has shown to secret a lot of cytokines related
to the development of the tumor, like vascular endothelial
growth factor (VEGF), transforming growth factor-beta 1
(TGF-β1), Interleukin 8 (IL-8), or tumor-specific growth
factor (TSGF). These serum markers are useful to follow-up
the development and the prognosis of the HCC but useless
to follow-up circulating tumor cells in blood [69]. Because
of that the detection of the cytokine(s) and the mRNA
marker(s) simultaneously increases the specificity and the
sensitivity the methods of detecting CTC. The presence of CTC reflects the aggressiveness nature
of a solid tumor. Many attempts have been made to develop
assays that reliably detect and enumerate these cells. The
clinical results obtained with such assays suggest that in some
tumor types, CTC detection and identification can be used to
estimate prognosis and may serve as an early marker to assess
antitumor activity of treatment. In addition, CTC can be
used to predict progression-free survival and overall survival. CTC are an interesting source of biological information
in order to understand dissemination, drug resistance and
treatment-induced cell death [22, 23, 39–50]. In HCC animal models showed that 10 to 10 000 CTC
are capable to initiate new metastasis [20, 51–53]. Even
after curative resection, the tumor recurrence rate remains
high. Although CTC detection has been applied and well
documented in different types of cancer, especially breast
cancer, CTC detection is not routinely performed in HCC
follow-up and remains in the experimental field. However,
CTC detection might bring new interesting information of
metastatic process might be used as diagnostic tool of early
recurrence and may allow a better patient selection for liver
transplantation. Mechanisms of tumor recurrence are still
poorly understood. Several arguments point out that HCC
tumor cells can infiltrate the blood system as shown by the
presence of alpha-fetoprotein mRNA [54–64]. CTC seem to
be correlated with poor survival in many types of tumors
[54, 55, 57, 58, 62, 64]. 2.2. α-Fetoprotein (AFP). The serum α-fetoprotein (AFP)
levels show high levels in newborns and then decline
progressively below 10 ng/mL in 300 days of life. International Journal of Hepatology An increase
of serum AFP levels can be observed during pregnancy,
and in patients with mucoviscidosis, acute hepatitis (30%–
50%), chronic hepatitis (15%–50%), cirrhosis (11%–47%)
and other cancers (gastrointestinal, pancreatic, biliary, non-
seminomatous germ-cell testicular, and germ cell ovarian). Serum level AFP sensitivity is between 39% to 64% with
approximately 60% for a cutoffof 20 ng/mL and decrease to
22% if higher cutoffof 200 ng/mL is used [9, 70–74]. AFP
specificity is around 76%–91% with a low predictive value
between 9%–32% [9, 70–72]. In addition, the serum AFP level is correlated with the
tumor size. 80% of small HCC (<2 cm) do not express
AFP. In the other hand, AFP level can be elevated in
patients with chronic liver disease with high degree of
hepatocytes regeneration such as HCV-infection that show
a high level of AFP in absence of malignancy [75, 76]. For
these reasons, some additional serological markers used in
combination with AFP seem to improve the performance of
this biomarker alone, especially in term of sensitivity. However, HCC circulating cells are still difficult to detect,
and their presence and amount are poorly correlated with
either long-term survival or recurrence in the setting of HCC. Methods of CTC detection have to be highly sensitive
and specific. The first technical challenge in this field consists
of finding exceptional cells. Just a few CTC are mixed
with the approximately 10 million leukocytes and 5 billion
erythrocytes in 1 mL of blood. To be useful, the method
used to identify circulating tumor cells must also detect all
tumor cells and discriminate them from nontumor cells. [22, 37, 39, 40, 43, 47, 48, 65–67]. It is important first to
have circulating hepatoma-specific biomarkers to be able to
detect the CTC and further to be useful to early diagnosis,
monitoring metastasis, or posttreatment recurrences of HCC
[68]. Studies were done by using one or two more markers like
des-γ carboxyprothrombin (DCP) also called prothrombin
induced by vitamin K absence II (PIVKAII) and glycosylated
AFP-L3 (Lens culinaris Agglutinin-Reactive AFP) fraction
serum levels to diagnose earlier HCC and increasing the
sensitivity especially when HCC is associate with cirrhosis,
HCV or HBV infection [71, 74, 77–81]. But there is no study
that correlates their serum levels and the circulating tumor
cell during the HCC development. Because of that serum AFP and mRNA AFP detection can
be used. International Journal of Hepatology In this paper, we will first focus on the specific markers
of HCC used to detect CTC, follow by the different methods
of enrichment of CTC and finally we will describe the new
promising methods to study and detect the CTC from the
HCC. The relevance of AFP mRNA as a marker of circulating
tumor cells is better but is also controversial because these
cells have not been further characterized, and it has been
shown that they may correspond to normal circulating
hepatocytes [58, 82, 83]. Furthermore, these tumor cells
have mostly been sought and detected shortly after liver
resection [56, 58, 62, 82, 83]. This finding suggests that CTC
could spread following liver mobilization or manipulation. Although the mechanisms leading to intra, and extrahepatic
recurrences are still unknown, some observations suggest
that bone marrow (BM) could also be a specific reservoir of
CTC. Indeed, several reports have suggested that tumor cells
are from BM origin [84–86]. Hepatic tumor stem cells may 1. Introduction HCC is one of the most aggressive cancers. Patients
who show progress over the terminal stage have 1-year
survival of less than 10%. The choice of the therapy and the
prognosis are dictated by the severity of the liver function,
portal hypertension, and medical comorbidities. National
and international consensus was established to choose the
best treatment adapted for each case and obtain the best
prognosis [1, 5–21, 24, 25, 27, 30, 35, 36]. Hepatocellular carcinoma (HCC) is responsible for signifi-
cant morbidity and mortality in cirrhosis and also accounts
for between 85% and 90% of primary liver cancer [1–3]. Most of HCCs in the world occur in the setting of cirrhosis
and over half-million of people develop liver cancer every
year and an almost equal number die of it [1, 2, 4]. The most important causes leading to HCC are the
HBV and HCV infections, heavy alcohol consumption,
aflatoxin B1, age and gender (males are more susceptible than
females), race (Asian and African over 20 years old), tobacco
consumption, obesity associated with nonalcoholic fatty liver
disease, and the increase of the Diabetes II mellitus (that rises
the risk factor between 2 and 3), genetic hemochromatosis,
primary biliary cirrhosis, and alpha1-antitrypsin deficiency
and autoimmune hepatitis [1, 2, 5–32]. In the field of biology of tumors, some expressions have
been coined for the different types of circulating cellular
elements. The term circulating tumor cells (CTC) defines
specifically the tumor cells detected in blood or lymphatic
vessels. Circulating cells in the bloodstream or in the
lymphatic system are considered to be tumoral microemboli
(CTM) and represent a collective migration. The terms
disseminated tumor cells (DTCs) and isolated tumor cell
(ITC) can be also found in the literature but are usually used
to define the cells that can be detected in both the organs and
the bloodstream. The word micrometastasis is usually used Usually, HCC develops during a long process of inflam-
mation and fibrosis, eventually leading to cirrhosis [2, 16, 33,
34]. 2. HCC Markers and Their Applications for CTC The amplification of AFP mRNA by
means of reverse transcription (RT) and a nested polymerase
chain reaction (PCR) is the highly sensitive method for
the detection of residual HCC cells in peripheral blood. The qualitative (positive versus negative) detection of HCC
circulating tumor cells in blood samples from individual
patients is of limited value in predicting the risk of disease
progression. Because the level of AFP mRNA is increased
in HCC tissue compared with in normal hepatocytes, the
quantification of AFP transcripts seems to be a more reliable
indicator of disease progression. A more highly sensitive
assay based on TaqMan technology to quantify AFP mRNA
in “real time” should be preferred [59, 87–89]. Even using
this methodology, reported results are not homogeneous and
contradictory [72]. The main studies which have evaluated
AFP mRNA are summarized in Table 1. The false-positive
results can be obtained using AFP mRNA. 2.5. Insulin-Like Growth Factor (IGF)-II. Studies using
amplified fragments of IGF-II mRNA by RT-PCR showed
that the lowest sensitivity with 2 ng/L of total RNA. Dong
et al., showed that the positive frequencies of IGF-II mRNA
were 100% in HCC, around 50% in paracancerous and 0% in
noncancerous tissues respectively. But, the positive frequency
of circulating IGF-II mRNA was 34% in HCC, and no
amplification was found in other liver diseases, extrahepatic
tumors, and normal control, meaning that IGF-II is specific
of the HCC but not really sensitive. Associated to other
circulating markers IGF-II can be helpful to detect CTC. The
circulating IGF-II mRNA was correlated with the stage of
HCC (incidence = 100%) with extrahepatic metastasis and
35% with AFP-negative. No difference was found between
tumor size and circulating IGF-II mRNA [99, 100] but these
results are controversial [101]. 2.3. Alpha Albumin (ALF). For more than a decade, we
know that mRNAs of hepatocytes-specific albumin genes are
detected in peripheral blood by RT-PCR. It was shown that
there is evidence that detection of albumin mRNA associated
with the detection of AFP mRNA is strongly associated with
the presence of metastases [57, 61, 94, 95]. Wong et al.,
showed that circulating hepatocellular carcinoma cells can
be detected and be semiquantified by albumin RT-PCR [96]. On the other hand, Resto et al., showed that downregulation
of alpha-albumin (ALF) specifically in HCC-circulating cells
can be used as a specific marker to discriminate the normal
hepatocellular circulating cells that express abundantly ALF. 2. HCC Markers and Their Applications for CTC The hepatocellular carcinomas can synthesize various
tumor-related proteins, polypeptides, and isoenzymes more
or less specific of the hepatoma tissues as well as the
corresponding mRNA. It is important to have tumor-specific
markers of HCC to detect CTC in the bloodstream or
lymphatic system. International Journal of Hepatology 3 Table 1: Evaluation of serum alpha fetoprotein as a marker of circulation tumor cell in different hepatocellular carcinoma studies. nRT-PCR,
nested RT-PCR; qRT-PCR, quantitative RT-PCR. Author
PCR
Sensitivity
Cases
Samples
Positivity
Predictability of recurrence
[55]
qRT-PCR
1 CHC/107
37
136
Blood
BM
18%
28%
No
Yes
[64]
qRT-PCR
1 CHC/106
38
25
Blood
BM
10%
48%
Yes
No
[56]
nRT-PCR
5 cells/1 mL
24
Blood
BM
29%
43%
Suspect
[54]
Competitive RT
10 cells/9 mL
22
11
Blood
BM
26%
45%
NA
[90]
RT-PCR
NA
18
BM
93%
No
[61, 62]
nRT-PCR
33
Blood
52%
Extrahepatic metastases
[57]
nRT-PCR
15 cells/mL
64
Blood
36%
Extrahepatic metastases
[58]
nRT-PCR
1CHC/105 mono
20
Blood
25%
No
[91]
nRT-PCR
10−6 μg/μL of RNA
33
Blood
54%
Yes
[92]
nRT-PCR
1CHC/105 mono
87
Blood
36%
Yes
[93]
nRT-PCR
1 CHC/107 mono
85
Blood
26–45%
No
[88]
RT-PCR
1 CHC/106
52
Blood
25%
No Table 1: Evaluation of serum alpha fetoprotein as a marker of circulation tumor cell in different hepatocellular carcinoma studies. nRT-PCR,
nested RT-PCR; qRT-PCR, quantitative RT-PCR. Table 1: Evaluation of serum alpha fetoprotein as a marker of circulation tumor cell in different hepatocellular carcinoma studies. nRT-PCR,
nested RT-PCR; qRT-PCR, quantitative RT-PCR. 2.4. Transforming Growth Factor Beta-1 (TGF-β1). The levels
of circulating TGF-β1 and TGF-β1 mRNA were significantly
higher in the HCC patients than any other group of
patients. The sensitivity and specificity of circulating TGF-
β1 level (>1.2 μg/L) were 90% and 94% for HCC diagnosis,
but no significant correlation was found between TGF-
β1 expression an AFP levels or tumor size. The combined
detection of TGF-β1 and serum AFP could raise the detection
rate of HCC up to 97%. Both of circulating TGF-β1 and TGF-
β1 mRNA could be used as sensitive biomarkers for diagnosis
and prognosis of HBV-induced HCC [98, 99]. Unfortunately,
TGF-β1 mRNA was poorly studied and further investigations
have to be done to use circulating TGF-β1 mRNA as a marker
of circulating tumor cells in HCC. take advantage of the potential for stem cell support of the
BM microenvironment. 2. HCC Markers and Their Applications for CTC RT-PCR ALF in association with RT-PCR AFP have been
proposed to distinguish normal or malignant hepatocytes in
peripheral blood, but the interpretation of the results is still
debated [97]. 2.6. Prostate-Specific Antigen (PSA). The Prostate-Specific
Antigen (PSA) had shown to be well-established reliability
marker and remained a valid prostate marker in patients 4 International Journal of Hepatology showed that SSX-1 can be potential used in peripheral blood,
with short-term recurrence rate at 46% (6/13) in patients
whose peripheral blood expressed SSX-1 mRNA, while the
recurrence rate in patients with negative SSX-1 mRNA was
28.6% (4/14) [107]. In another study, Peng et al., showed
that specific expression of CT antigens was observed in AFP-
negative HCC, suggesting the application of their mRNA
as tumor markers to detect circulating HCC cells [108]. Yang et al., showed that FATE/BJ-HCC-2 (another CTA)
mRNA expression was detected in the peripheral blood
mononuclear cells (PBMCs) of 46.67% patients, whose HCC
tissue samples were cut offand positive for FATE/BJ-HCC-2
mRNA, which implicated tumor cell dissemination in blood
circulation and related to the metastasis of HCC. These
studies suggest that CT antigens expressions can be used in
peripheral blood to detect HCC circulating cells but also can
be associated to the research of AFP mRNA to increases the
specificity and the frequency of the method. This group of
markers seems promising and further studies have to be done
first to determine the panel of CT antigens to be used as
markers of HCC circulating cells. with acute hepatitis and HCC [102]. But these results are
controversial, PSA and mRNA PSA seem to do not be specific
to the tissue and frequently detected in peripheral blood cells
from healthy patients [17]. In addition, like the cytokines,
serum PSA cannot be used as hepatocellular carcinoma
marker for circulating tumor cells. 2.7. Heat Shock Protein (HSP). Heat shock proteins (HSPs)
are stimulated under perturbation or stressors by the tissue. HSPs are ubiquitous molecules and can be also expressed
during carcinogenesis. Different HSPs have been related to
the development of the hepatocellular carcinoma like gp96
or GRP94, HSP70 and HSP27, but none of them were used
as a specific marker of circulating tumor cell [99]. 2.8. Human Telomerase Reverse Transcriptase (hTERT). Human telomerase is a ribonucleic protein composed by the
association of three structures: human telomerase RNA com-
ponent (hTERC); human telomerase-associated protein 1
(hTEP1); human telomerase reverse transcriptase (hTERT). 3. New Approaches to Discover New Markers To attempt the lack of CTC markers, new techniques
and technologies are used such as microarray/mRNA large
analyses, proteomic and “secretome” analyses and finally
microRNA testing. 3.1. Microarray/mRNA Large Analyses. DNA chips were used
to measure and find new markers to diagnose HCC but
also to use these as CTC markers. The studies showed the
expression of mRNAs for members of the glypican and
syndecan families of heparin sulfate proteoglycans such as
GPC3. GPC3 can be a good CTC marker that can be used
in human or mouse models [109, 110]. Another interesting
marker was discovered called Snail. Snail mRNA was studied
in blood of patients with HCC and metastasis [80]. But
further investigation has to be done to figure out the
specificity and the sensitivity of those markers. 2.9. Cancer-Testis Antigens (CTA). Cancer-testis antigens
(CTAs) represent a category of tumor-associated antigens
normally expressed in male germ cells but not in adult
somatic tissues [105]. CTAs are heterogeneous group of anti-
gens. Actually, more than 44 distinct CT “gene” or “antigen”
families have been reported in literature. Certain CT gene
families contain multiple members, as well as splice variants
and today more than 89 distinct transcripts are known to be
encoded by CT genes [105]. A number of CT antigens have
been found expressed with high percentage and specificity
in HCC. The expression of the CT antigens mRNA was
investigated by Wu et al., in HCC and corresponding
peripheral blood of 37 patients with HCC, 15 samples
of cirrhotic tissues and 15 normal tissues with the same
method. Two CT antigens SSX-2 and SSX-5 showed in this
study high specific and high frequent expression only in HCC
tissues. In corresponding peripheral blood of HCC tissues,
the positive expressions rate of these two CT antigens mRNA
was not very high [106]. The same group of researchers
used another two CT antigens SSX-1 and NY-ESO1 in
the same group of patients and with the same methods
(RT-PCR) with the corresponding peripheral blood. They 3.2. Proteomic and Secretome Analyzes. In the process to find
new markers for CTC, a number of teams started to work
with proteomic analysis such as quadrupole IT-TOF, SELDI-
TOF MALDI-TOF/TOF mass spectrometry. Their objective
is tracking earlier the development and the progression of
the HCC. 2. HCC Markers and Their Applications for CTC hTERT is the catalytic unit of the complex. Also, telomerase
is expressed in embryonic cells, in most human cancer
cells or immortal cell lines, but not in normal somatic cell
lines or tissues. For these reasons hTERT was investigated
as a marker of diagnosis and prognosis of HCC, but the
results are controversial and appear that false-positive results
can be observed because of lymphocytes, precancerous liver
parenchymal cells, and micrometastasis maybe responsible
(for review [69, 99, 103]). Recently, Kong et al. investigated
hTERT in peripheral blood in HCC from 343 Korean
patients. There is no association between hTERT expression
and clinical features and not a relationship between AFP and
hTERT mRNA. Their conclusion is that AFP and hTERT
mRNA expression in peripheral blood is useless as HCC
prognostic markers [104]. 3. New Approaches to Discover New Markers Few markers or group of markers were identified
by these methods such as the usual markers AFP, AFP-
L3, TGF-β1, and PIVKA-II but also vitronectin, alpha-
1-fucosidase (AFU) and DCP, Golgi protein-73 (GP73),
hepatocyte growth factor (HGF), and nervous growth factor
(NGF) [111–117]. Interestingly, the proteomic analyses were able to detect
new markers in the serum secreted (which is called “secre-
tome”) by the carcinoma cells. [118–120]. Over 90 proteins
in some studies compiled with high powerful biocomputa-
tional analysis where identified and used to diagnose HCC
early [111, 113, 115, 116]. Unfortunately these studies did 5 International Journal of Hepatology not analyze the real usefulness of these markers to identify
CTC in the patients with HCC. be specific by the nature of the primers used it can amplify
the signal by increasing the number of copies of mRNA
originally presents in the sample. A subgroup of HCC was identified by these techniques
expressing stem cell markers (CD133, CD90, CD44, EpCAM,
CD13 or neural cell adhesion molecule; NCAM) defining
what is called now liver cancer stem cell, but unfortunately
these markers were not study in the area of circulating
tumor cells [121–123], but they are very promising markers. Another group of markers very promising to detect CTC
belong to the chemokine receptors such as CXCR4, CX3CR1,
and CCR6 express during HCC progression [123, 124], but
none of them were tested during a clinical trial. Interestingly, the Milan Criteria and Model for End-Stage
Liver Disease (MELD) system for the allocation of livers in
the United States do not include CTC markers to select the
recipient [134]. Among all of these CTC markers described
above, only AFP is routinely available before transplant. Although its performance as a screening test is unsatisfactory
[135], but it is a valuable predictor of HCC recurrence and
patients survival after transplant [136, 137]. In Korea, a
scoring system incorporating tumor size, number, and AFP
has been proposed for the selection of transplant candidates
[138]. These data suggest that serum AFP could be integrated
with the Milan Criteria and the MELD system’s HCC to
improve selection criteria for prioritization patients on the
waiting list. Following this idea, it will be interesting to
assess the consequences of including more than one CTC
markers in the scoring system to select HCC patients for liver
transplantation and their followup. 3.3. MicroRNA Markers: A New Hope. 3. New Approaches to Discover New Markers Around 28 years
ago, microRNA (miRNA) was discovered and showed the
regulation of genes [125, 126] such as oncogenes or tumor
suppressor genes at the level of the mRNA. More than 35
studies focused on the identification of miRNA or a group of
miRNAs to be used as marker of early diagnosis or metastasis. miR-122/-122a, miR-221/222, miR-145, miR-146a, miR-26
(NFκB pathway), miR-199a-3p (mTOR pathway), and miR-
26 (MYC pathway) were strongly linked to the development
and metastasis of the HCC and also a group of miRNAs were
used to identify and classify HCC [127–132], but none of
them were used as a CTC marker and tested during a clinical
trial. But before using these markers, it is necessary to
concentrate the number of CTC from the peripheral blood
in a smaller volume. The next paragraph will describe these
methods. 4. Conclusion In conclusion, we can observe that not too many specific
HCC markers are available and useful for the detection of
the CTC. This is certainly due to the heterogeneity of the
hepatocellular carcinoma. The most important marker used
in clinical routine is the detection of serum AFP mRNA
expression (Table 1). But this marker is not expressed in all
HCC and by consequence in all CTC leading false-negative
results. Some propose to combine the research of more than
one marker to increase the specificity and the sensitivity of
CTC detection method. One of promising marker is Cancer-
Testis Antigens, but more studies need to be done to select
one or more CTA combined (or not) with the detection of
the AFP mRNA expression. As we notice previously, CTC
are very rare in peripheral blood. We saw also that real-time
polymerase chain reaction is a method that in addition to 5. Enrichment of the Sample CTC are usually detected in the peripheral circulation, but
we can find CTC in other body fluids like the cerebrospinal
fluids or the urines. The limitations to discover the CTC
in these fluids are the same than in the blood circulation. However, it is possible to extract a relatively big amount of
blood without harming the patient and much easier. 3.4. Cancer Stem Cell (CSC) Marker in HCC Associated
with Flow Cytometry. Fan et al. described a multicolor flow
cytometry used to detect the number of circulating CSCs
(CD45−CD90+ CD44+) in the peripheral circulation HCC
patients. Circulating CSCs predicted posthepatectomy HCC
recurrence with high accuracy. They may be the target
of eradication in the prevention of posthepatectomy HCC
metastasis, recurrence and also will be used to monitor
the efficiency of postsurgery treatment of the HCC [133]. The major problem of this technique beside the cost of the
equipment is the fact that it detects only a part (cancer stem
cells) and not the whole CTC decreasing the sensitivity of the
method and increasing false-negative results. We will focus on the methods of CTC detection in
the blood. As we describe above, CTC in the peripheral
circulation occur at an estimated number of one CTC per
105−7 peripheral blood mononuclear cell or PBMC. Because
of the scarcity of the target cells, it is necessary to concentrate
the sample. Since enrichment will inevitably be accompanied
by some loss of CTC, irrespective of the method, some essays
are performed directly in whole blood [89]. Two different groups of techniques can be used to
enrich samples, the nonspecific and the specific enrichment
techniques. The nonspecific enrichment techniques use
physicochemical CTC properties (size, density, etc.). The
specific enrichment technique uses markers expressed by the
CTC. Advantages of the nonspecific and specific enrichment
techniques are summarized in the Table 2 and described in
the following paragraphs. 6. The Nonspecific Enrichment Techniques 6.1. Density Gradient(s) Centrifugation. The tumor cells,
epithelial cells, platelets, and low-density leukocytes from
leukocytes and erythrocytes can be separated by the propri-
ety of their particular density (Table 2). Density gradient cen-
trifugation is the preferred method to purify cells, subcellular
organelles, and macromolecules. Density gradients can be 6 International Journal of Hepatology Table 2: Summary of advantages and disadvantages of the methods of CTC enrichment. CTC, circulating tumor cell; CTC-Chip, circulating
tumor cell chip; EPIPSPOT, epithelial immunospot; FACS, fluorescence-activated cell sorting = flow cytometric; FAST, fiber-optic array
scanning technology; ICH, immunocytochemistry; ISET, isolation by size of epithelial tumor cells; MACS, magnetic cell sorting; MEMS,
microelectromechanical system scanning technology; ICH, immunocytochemistry; ISET, isolation by size of epithelial tumor cells; MACS, magnetic cell sorting; MEMS,
microelectromechanical system. Methods of enrichment
Advantages
Disadvantages
References
Nonspecific
Density
(OncoQuick, Ficoll, UNI-Set)
(1) Isolation of whole and living CTC,
(2) using another method of enrichment
more specific (immunomagnetic beads),
(3) cytopathology, cytological staining, ICH,
FISH, and so forth can be performed
(4) RNA, DNA extractions followed by
RT-PCR or PCR, respectively, can be done. (1) Nonspecific,
(2) rare CTC can be lost in the
plasma fraction or trapped among
erythrocytes and neutrophils,
(3) low and variable sensitivity,
(4) Depends on the type of CTC,
temperature, and centrifuge,
(5) expensive. [47, 65, 139, 140]
Size
(MEMS, ISET)
(1) Easy,
(2) precise counting of the cells per mL of
blood, independently of the volume of the
blood treated,
(3) Allowing cytopathology, cytological
staining, ICH, FISH, and so forth,
(4) Allowing Microdissection followed by
(5) RNA, DNA extraction followed by
RT-PCR or PCR respectively
(6) Avoiding multiple steps,
(7) Increasing sensitivity (1 single CTC can
be detect from 1 mL of blood). (1) Nonspecific,
(2) CTC can go through the filter,
(3) cells can be damaged,
(4) expensive, but less than the
immunomagnetic beads. [47, 68, 124, 141,
142]
Cytospin
(1) Easy,
(2) Allowing cytopathology, cytological
staining, ICH, FISH, and so forth,
(3) Allowing Microdissection followed by
(4) RNA, DNA extraction follow by RT-PCR
or PCR, respectively. (1) Increasing the mortality of the
CTC. [65, 143–146]
Lysis Buffer
(Qiagen)
(1) Easy,
(2) the cells harvested by this method can be
reenriched or analysed by the methods
already described,
(3) low cost. (1) Increasing the mortality of the
CTC,
(2) low sensitivity. 6. The Nonspecific Enrichment Techniques Once this quasi-
equilibrium is reached, the length of centrifugation does
not have any influence on the migration of the particle. A
common example for this method is separation of nucleic
acids in a CsCl gradient. A variety of gradient media can be
used for isopycnic separations [157–161]. 6.3. Cytocentrifugation (Cytospin). The cytocentrifugation
was designed for hypocellular fluids; it spins at lower speeds
and has more gradual acceleration and deceleration than
normal centrifuges. Some are able to deposit cells directly
onto a slide for examination. Cytocentrifugation could be
used in research purposes and is also widely used in the
routine surgical pathology practice. This method is fast and
affordable [65, 144, 145, 164]. In the context of the CTC enrichment by centrifugation
the isopycnic separation is the method usually used. The cells
that have a density higher than the density of the buffer will
stay in the bottom of the tube. If the density of the cells is
lower than the buffer, they will remain on the top of the
liquid, forming a ring. On the contrary, if the density of the
cells is the same than the buffer, the cells will form a ring in
the middle of the tube. A well-known example of the method
is the commercial buffer Ficoll tube or Ficoll-Paque PLUS
(GE Healthcare Bioscience, Amersham Biosciences AB) or
Lymphoprep (Nicomed) to separate the red blood cells from
the other cells including CTC (Table 2). Methods to identify CTC can after be used (see below). As it occurs with magnetic beads, cytospin increases mor-
tality of the target cells (Table 2). Because enrichment by
cytocentrifugation is a critical step, addition of 10% buffered
formaldehyde solution added to the blood sample can
preserve morphology of the cells and will certainly preserve
nucleic acids integrity [143], but the disadvantage of this
method is that formaldehyde kills the cells (Table 2). Liquid-
based cytology (LBC) using a filtration process and computer
assisted thin layer deposition of cells has been developed
as a replacement for cytocentrifugation and/or smearing,
owing to its improved cell recovery capabilities and better cell
preservation. In most published series, LBC allows a good
interobserver reproducibility [165–167]. OncoQuick (Greiner) method uses a specific buffer
able to isolate the CTC [47, 139, 140]. These methods
are usually fast but expensive and found in a context
of clinical laboratory used in routine diagnosis (Table 2). 6. The Nonspecific Enrichment Techniques [147–149]
Specific
ImmunoMagnetic Beads
(MACS system, CellSearch)
(1) Specific,
(2) morphological analysis of CTC,
cytopathology, cytological staining, ICH,
FISH, and so forth,
(3) multiple labelling of antigens on CTC,
(4) direct quantification of CTC. (1) Subjective analyses for CTC
identification,
(2) time-consuming screening of
tumor cells,
(3) needing specific marker(s) and
antibody available,
(4) expensive
[40, 150–152]
EPISPOT
(1) High sensitivity,
(2) detection of viable CTC,
(3) detection of secreted proteins
(1) Protein must be actively
secreted, shed, or released,
(2) no identification and isolation
of secreting cell possible. [40, 150–152]
FACS
(1) High sensitivity,
(2) technique for counting, examining, and
sorting microscopic particles (CTC)
suspended,
(3) simultaneous multiparametric analyses
of the physical and/or chemical
characteristics. (1) Need the apparatus,
(2) high cost. [140, 153, 154] 7 7 International Journal of Hepatology Table 2: Continued. Methods of enrichment
Advantages
Disadvantages
References
FAST
(1) High sensitivity,
(2) can detect rare events. (1) Fluorescent dyeconjugated
antibodies,
(2) specificity depend on the
antibodies,
(3) very expensive. [48, 89, 141, 155]
CTC-Chip
(1) High sensitivity,
(2) detection of viable CTC,
(1) Detecting only cytokeratin ±
CTC,
(2) needing to control precisely
laminar flow conditions,
(3) expensive. [40, 156] is centrifuged and the pellets will contain the CTC. Some
companies provide a kit with lysis buffers ready to use. After
lysis, the next step is the extraction of DNA or RNA (e.g.,
Red Lysis Buffer from Qiagen or Panomics) or the extracted
cells can be purified by immunomagnetic beads enrichment
[147–149]. However, methods using lysis buffer can induce
the death of a lot of cells including the CTC and it is not
appropriate if the sample contains few CTC leading to false
negative results. generated by placing layer after layer of gradient media such
as sucrose in a tube with the heaviest layer at the bottom and
the lightest at the top in either a discontinuous or continuous
mode. The cell fraction to be separated is placed on top
of the layer and centrifuged. Density gradient separation
can be classified into two categories: (1) Rate-zonal (size)
separation. (2) Isopycnic (density) separation. Rate-zonal separation takes advantage of particle size and
mass instead of particle density for sedimentation [157]. In isopycnic separation, a particle of a particular density
will sink during centrifugation until a position is reached
where the density of the surrounding solution is exactly
the same as the density of the particle. International Journal of Hepatology After the CTC, are captured in the filter, electrical
lysis of cells on membrane filter is applied and the DNA
as well as RNA can be extracted and analyzed by PCR
or RT-PCR, respectively. CTC enrichment is performed by
either gradient centrifugation of CTC based on their buoyant
density or magnetic separation of epithelial CTC, both of
which are laborious procedures with variable efficiency, and
CTC identification is typically done by trained pathologists
through visual observation of stained cytokeratin-positive
epithelial CTC. These processes may take hours, if not
days. The Micro-Electro-Mechanical System (MEMS-) based
makes the process simpler faster and better to separate CTC
(∼90% recovery) from blood cells. Since enrichment will
inevitably be accompanied by loss of CTC, irrespective of the
exact method, some essays are performed directly in whole
blood [89]. But the disadvantages of this technique are that
morphology of the cells is lost, besides markers also and the
capacity to count exactly the number of CTC (Table 2). 6.4. Filters. A nonspecific method of enrichment using filters
can captured the cells with a certain size. The cells captured
on the filter can after be transferred and analyzed on a
slide. In this case the samples can come from blood or
body fluids (urines, cerebrospinal fluid, and ascites). We will
describe tow kinds of methods using this technology and
usually used to isolate CTC (Table 2): the Isolation by Size
of Epithelial Tumor Cells (ISET) method and the Micro-
Electro-Mechanical System (MEMS). 6.4.1. The Isolation by Size of Epithelial Tumor Cells. (ISET) method (Metagenex, Paris, France, http://www
.metagenex.fr/) separates cells by size with a filter. Cells larger
than 10 μm, including tumor cells from carcinomas, are
enriched from leukocytes (erythrocytes are lysed, see above)
on a filter. Enriched cells are stained on the filter and CTC are
precisely counted after cytopathological evaluation. The cells
on the filter can be also studied by immunolabelling, FISH,
TUNEL, and molecular analysis. Molecular analysis can be
performed specifically to CTC after laser microdissection. The filter can be also mounted between slide and coverslip
for routine microscope observation and storage. Although
promising, this method is expensive, time consuming, and
the filters are not easily available [47, 68, 141]. Cells
should be better characterized using morphological methods
that allow both detection and characterization. International Journal of Hepatology International Journal of Hepatology 8 cytotechnologists to these fields where they are evaluated. This can cut down on technologists’ screening time (Table 2). Vona et al. reported that microemboli and isolated CTC
could be detected in HCC patient [142]. Presence of CTC was
associated with a shorter survival. This work also showed the
feasibility of molecular studies of individual circulating cells. Indeed, β-Catenin mutations were searched in samples of 60
single microdissected CTC. β-Catenin mutations were found
in only 3 CTC that highlighted the weak impact of these
mutations in the initial step of tumor cell invasion. Further
studies are needed. Vona et al. reported that microemboli and isolated CTC
could be detected in HCC patient [142]. Presence of CTC was
associated with a shorter survival. This work also showed the
feasibility of molecular studies of individual circulating cells. Indeed, β-Catenin mutations were searched in samples of 60
single microdissected CTC. β-Catenin mutations were found
in only 3 CTC that highlighted the weak impact of these
mutations in the initial step of tumor cell invasion. Further
studies are needed. g
g
There are also some disadvantages, which include
increased manpower needed to prepare the smears and the
dependence of smear preparation on the instrument. This
technique cannot be used directly from blood samples. The
red blood cells need to be eliminated (See Table 2) and after
the sample can be processed by this technique (Table 2). However, optimization of cell capture and fixation can be
achieved by methods other than Cytyc Thinprep LBC, par-
ticularly while using meticulous modern cytocentrifugation
methods in the study of hypocellular fluids [166, 167]. In
their study, Piaton et al. conclude that Cytyc Thinprep LBC
and modern cytocentrifugation techniques are appropriate
methods for cytology-based molecular studies. From an
economical point of view (standard cytocentrifugation are
around $ 538 compared to Cytyc ThinprepH $ 1,278),
and taking into account the value of a meticulous tech-
nique, cytocentrifugation with disposable sample chambers
remains the quality standard for current treatment of urinary
samples for example [166]. 6.4.2. The Micro-Electro-Mechanical System (MEMS). It is
a parylene membrane microfilter device for single stage
capture and electrolysis of circulating tumor cells in human
blood and the potential of this device to allow genomic
analysis. International Journal of Hepatology A second
potential main advantage is that CTC could be compared
to the primary tumor in order to better understand the
mechanism of metastatic process. However, this approach
has been rarely performed and neither firm recommendation
nor conclusion could be drawn. The technique also avoids
damaging the tumor cell which can be diagnosed using a
simple pathologist analysis. However, the pathologist should
get use to this technique to avoid a misinterpretation with
others types of cells. The use of ISET technology to detect and
characterize CTC in HCC has been reported in one study. 6. The Nonspecific Enrichment Techniques Alternative and cheaper methods can be used by preparing
in the laboratory the gradient/density buffers. The same tube
can contain one, two or three gradient buffers to increase
the specificity of the separation between the different cells
present in the blood [27, 47, 162, 163]. There are several advantages to this system. One is that
it produces a thin layer of cells which is easier to evaluate
than a thick smear. The morphology of the cells is also
better. In addition, the entire cell sample is captured in the
fixative vial which leads to a more representative smear being
prepared. One of the most important advantages of this
test is that the material that is left over after a smear has
been prepared can be used for adjunctive testing. A further
advantage is that the smears may be initially subjected to
image analysis. Computer software “reads” the smears and
registers the coordinates of the fields with what it regards as
the most abnormal cells. On review, the system directs the 6.2. Lysis Buffers. The content of different cells has different
osmotic pressures. It is possible to expose the samples to
buffer(s) that can be hypo-or hyperosmotic to any cell
different to the target cells. After the lysis step the mix 7. The Specific Enrichment Techniques The specific enrichment techniques can use specifically
protein tumoral markers expressed by the CTC. These
methods use antibodies against the protein tumoral markers
coupled to steel beads, by applying a magnetic field the cells
expressing the marker can be captured. Several immune-
magnetic methods (MACS system, Deanabeads Invitrogen,
macroiron beads, ferrofluid(colloidal iron-) based systems)
to enrich the sample have been used successfully [168]. Another approach to enrich the sample is to use the
properties of CTC to grow-up in a specific culture cell
medium. A method (EPISPOT) that combines the capacity
of CTC to secret specific markers and grow-up in specific cell
medium was developed (see Table 2). 7.1. Magnetic Separation. To use immune-magnetic detec-
tion system the first step is to deplete the whole blood
of the red cells (by lysis buffers or density gradient) to
obtain the PBMC. After, the magnetic particles coated
and surrounded by a specific antibody are added to the
PBMC supposing containing the CTC. Labeled cells are then
collected by applying a magnetic force while nonlabeled cells
are containing in the supernatant and are discerned. This use 7.1. Magnetic Separation. To use immune-magnetic detec-
tion system the first step is to deplete the whole blood
of the red cells (by lysis buffers or density gradient) to
obtain the PBMC. After, the magnetic particles coated
and surrounded by a specific antibody are added to the
PBMC supposing containing the CTC. Labeled cells are then
collected by applying a magnetic force while nonlabeled cells
are containing in the supernatant and are discerned. This use International Journal of Hepatology 9 of magnetic beads to catch specifically CTC is called “positive
selection” [40, 47, 49]. CTC, the primary tumor cells can be cultured in the specific
culture medium [169]. The good conditions of culture
growth and specially the culture medium leading the growth
of the CTC, but not the other epithelial or nonepithelial
cells, has to be determined through an experiment. Some
companies propose commercial kits. For example, The
Cancer Cell Isolation Kit from Panomics includes lysis buffer
to increase the number of CTC. One of the main problems
is that cultured cells can lose their original markers and
derive. Mimicry of tumoral microenvironment in vitro is
particularly difficult because for most tumors it is largely
unknown. 7. The Specific Enrichment Techniques Another problem is that the samples containing
the CTC are usually contaminated by stromal cells like
fibroblasts, which create competition in the Petri dish. After
few days, only the fibroblasts are present in the flask. Since a large number of leukocytes (potential source
of false negative CTC) still remain trapped with the cells,
some methods include a “negative selection” of leukocytes
(with anti-CD 45 beads for example) followed with a
“positive selection” with antibodies specific to epithelial cells
(EpCAM, CK) [47, 169, 170]. The problem of this procedure
is that gets ride the majority of leukocytes but still hold in
nonmalignant epithelial cells and loses tumor cells which
whish do not express epithelial antigens and/or are lysed
during the first step [47, 171]. g
p [
]
The methods using antibodies like immune-magnetic
methods (MACS system, Deanabeads Invitrogen, macroiron
beads, ferrofluid(colloidal iron-) based systems) to enrich the
sample will induce false-positive extraction [168]. For exam-
ple, antibodies against cytokeratin (CK) or other epithelial-
specific antigens have been reported to bind both specifically
and nonspecifically to macrophages, plasma cells and nucle-
ated hematopoietic cells precursors. The nonspecific binding
of the antibodies involves Fc receptor-bearing leukocytes and
monocytes or illegitimate expression of epithelial antigens
in normal hematopoietic cells. Some of these positive cells
are morphologically difficult to distinguish from CTC. Variable numbers of epithelial cells have been found in
peripheral blood of subject without malignancy in some
physiopathological conditions like benign epithelial prolif-
erative diseases, inflammation, surgeries, and tissue trauma
[47, 65, 169, 172–174]. Moreover, epithelial CTC may lose
epithelial markers during dissemination through the process
called epithelial-to-mesenchymal transition (EMT). Since
the epithelial markers that get lost during EMT may include
markers used for CTC measurement, underestimation of
the actual CTC number may occur, inducing de facto false-
negative results [46, 47, 49, 175, 176]. In the case that the
method induce false positive, the problem can be diminished
avoided using a second marker or a full panel of markers
and techniques (see below) to characterize the CTC, like
RT-PCR, immunocytochemistry or immunefluorescence,
morphology by optical microscopy [37, 47, 49]. In another
hand, in the case of the false negative results the doubt
persist, and only strict followup of the patient by repeating
the detection of the CTC can potentially eliminate this
doubt. No available antibodies are 100% tumor or tissue
specific [13, 47, 172]. 7. The Specific Enrichment Techniques To isolate CTC a method using
a ligand biotinylated was used. Biotinylated asialofetuin,
a ligand of asialoglycoprotein receptor, was experimented
and followed by magnetic separation or density gradient
(Ficoll-Paque PLUS; GE Healthcare). The cells were iden-
tified by microscopy, FISH, immunofluorescence staining,
flux cytometry, and RT-PCR. This technique shows 81%
specificity and 20 cells/5 mL for the sensitivity [177]. This
promising approach has to be confirmed in a larger cohort
of patients and still depends on the receptors expressed at the
surface of the CTC. 7.3. Epithelial ImmunoSPOT (EPISPOT). A technique that
allows the detection of only viable cells after a CD45+
cell depletion was introduced for CTC analysis from bone
marrow aspirates and blood samples [40, 43, 151]. This tech-
nique was designated EPISPOT (epithelial ImmunoSPOT). It is a protein-secreting profiling based on the secretion
or active release of specific marker proteins using an
adaptation of the enzyme-linked immunospot technology. As immunospots are the protein fingerprint left only by
the viable releasing epithelial cells, a cell culture is needed
to accumulate a sufficient amount of the released marker
proteins (Table 2). The dying cells do not secrete adequate
amounts of protein and are not detected [40, 150–152]. This assay can also provide important information on the
profile of secreted proteins potentially relevant for metastasis
formation. However, this technique has still to be validated in
large-scale clinical studies on cancer patients [40, 151]. After
the enrichment and isolation of the CTC, the next step is to
identify, characterize, and finally enumerate them. The CTC
can be identified by indirect or direct methods. But these
important steps need tumor markers specific to the CTC
seeked. 8. Experimental Models 8.1. HCC Mouse Models. Over decades, different HCC
mouse models have been developed. 8.1. HCC Mouse Models. Over decades, different HCC
mouse models have been developed. Chemically induced HCC-models are diverse and not
always reproducible. The chemicals usually used are diethyl-
nitrosamine (DEN), peroxisome proliferators, aflatoxine,
carbon tetrachloride (CCl4), choline deficient diet or thi-
acetamide [178, 179]. Transgenic mouse models were also
developed, for example, mice that contained HBV or HCV
viruses or expressed specifically oncogenes (c-myc, c-myc
+ E2F1) or growth factors (TGF-α, TGF-α + c-myc, EGF,
FGF19, GMNT, PDGF, α1-antitrypsin) [178]. Circulating
tumor cells were not looked for in any of these animal
models. One reason is the huge differences between models
and the presence of specific markers for each situation. In order to solve these problems, researchers developed
ectopic implantation that is fast and easy to perform. However, there is still many differences between the cell lines, 7.2. Culture of CTC. After isolation of the CTC by the
different methods described above, to increase the number of International Journal of Hepatology 10 no direct interaction with the liver tissues and difficulty to
export to humans [178]. attached to an antibody that detects the CTC or fluorescently
labelled cells as described in Li et al. paper [185]. Briefly,
fluorescence signal from a given circulating cell population
is recorded as the cells pass through the slit of light. Confocal
detection of the excited fluorescence enables continuous
monitoring of labeled cells in the upper layers of scattering
tissue, such as the skin of a mouse ear. Based on algorithm
and data analysis the computer is able to estimate the number
of CTC in the blood stream. This method is still used in
animal models to detect CTC from HCC but as promising
future to detect CTC in human patients. 8.2. Orthotopic Implantation. Orthotopic implantation is a
more suitable model because the cells are directly implanted
in the liver tissue. Nevertheless, the procedure is challenging. There are big differences between cell lines and the choice
of the markers is still limited [178]. Mechanisms leading
to tumoral cells spreading are ill known. Currently, there
are few models of orthotopic implantation of human
tumoral cells [180, 181]. An experimental model of human
orthotopic HCC transplantation in NOD/SCID (nonobese
diabetic/several compromise immunodeficient) mice allows
to generate and to modulate CTC [180, 181]. 9. Conclusion The idea is to bind
luminescence tag (luciferase, yellow fluorescence, or red
fluorescence proteins) in the hepatoma cell lines injected
in the liver that be detected by bioluminescence machine. For example, thymidine kinase-luciferase was placing under
the transcriptional control of endogenous AFP promoter to
develop a transgenic mouse model that injected with DEN
will develop HCC [182]. The development of the HCC was
followed in the live animal by bioluminescence and PET
analyses. The inconvenient of this method is that the HCC
model has to express AFP. To avoid this problem hepatoma
cell lines where engineered with luciferase (HCC-LM3) [183]
or red luminescence protein [184]. This approach to study
CTC in the context of HCC is very promising, but the major
problem is the sensitivity of the bioluminescence machine. This approach has not yet studied in the context of CTC in
the blood or in organs other than liver. 8. Experimental Models In this mouse
model, tumoral spreading is an early event during tumoral
development and the number of CTC is directly correlated
to the tumor size. 9. Conclusion There are two major problems to detect circulating hepa-
tocarcinoma cells in the human blood. The first problem
is the low number of specific markers known. The second
problem is that few cells are present in the bloodstream. To
overcome these problems, few years ago new approaches have
been developed such as the techniques to study membrane
proteins by mass spectrometry and the development of
fluorescent hepatoma cells. When injected under the liver capsule, a primary tumor
develops and continuously yields circulating tumor cells. In addition, the CTC could be modulated after tumor
removal. Liver tumor removal led to a very low level of
tumoral cells in blood 30 days later. After complete tumor
removal, the number of CTC significantly decreases but still
remains detectable even at a low level. The FACS was used
to detect CTC (detection of human HLA marker in mouse
bloodstream). The reality of CTC was then demonstrated. An
important finding is that the bone marrow could be early and
permanently colonized by CTC [181]. Nowadays, these procedures are not suitable in clinical
practice. However, it is undeniable that early detection of
tumors and metastasis is urgently needed in medicine and
these new exciting techniques and findings are changing our
point of view of carcinogenesis very fast. In the future, CTC
detection will certainly be an important diagnostic tool in
cancer patients, providing a new and accurate assessment of
lesion staging. 8.3. Small Imaging Animal Models. With the recent develop-
ment of the small imaging apparatus (example: IVIS Lumina
II XR Imaging System, positron emission tomography) to
study development and the progression of diseases in the
live animals like rheumatism, a new area to study CTC in
live animals is open. This technique was applied to study the
CTC in ectopic or orthotopic HCC cell lines implantation. 8.3. Small Imaging Animal Models. With the recent develop-
ment of the small imaging apparatus (example: IVIS Lumina
II XR Imaging System, positron emission tomography) to
study development and the progression of diseases in the
live animals like rheumatism, a new area to study CTC in
live animals is open. This technique was applied to study the
CTC in ectopic or orthotopic HCC cell lines implantation. As we discuss below, the lack of specific HCC markers
makes CTC studies very challenging. International Journal of Hepatology F. Yao, Z. Z. Dong, and M. Yao, “Specific molecular
markers in hepatocellular carcinoma,” Hepatobiliary and
Pancreatic Diseases International, vol. 6, no. 3, pp. 241–247,
2007. [15] M. M. Hassan, A. Frome, Y. Z. Patt, and H. B. El-Serag,
“Rising prevalence of hepatitis C virus infection among
patients recently diagnosed with hepatocellular carcinoma in
the United States,” Journal of Clinical Gastroenterology, vol. 35, no. 3, pp. 266–269, 2002. [31] M. C. Yu, J. M. Yuan, S. Govindarajan, and R. K. Ross, “Epi-
demiology of hepatocellular carcinoma,” Canadian Journal of
Gastroenterology, vol. 14, no. 8, pp. 703–709, 2000. [16] R. Idilman, N. De Maria, A. Colantoni, and D. H. Van Thiel,
“Pathogenesis of hepatitis B and C-induced hepatocellular
carcinoma,” Journal of Viral Hepatitis, vol. 5, no. 5, pp. 285–
299, 1998. [32] S. Z. Yu, “Primary prevention of hepatocellular carcinoma,”
Journal of Gastroenterology and Hepatology, vol. 10, no. 6, pp. 674–682, 1995. [17] T. Ishikawa, H. Kashiwagi, Y. Iwakami et al., “Expression of
α-fetoprotein and prostate-specific antigen genes in several
tissues and detection of mRNAs in normal circulating blood
by reverse transcriptase-polymerase chain reaction,” Japanese
Journal of Clinical Oncology, vol. 28, no. 12, pp. 723–728,
1998. [33] B. J. McMahon, “The natural history of chronic hepatitis B
virus infection,” Hepatology, vol. 49, no. 5, pp. S45–S55, 2009. [34] M. R. C. Britto, L. A. Thomas, N. Balaratnam, A. P. Griffiths,
and P. D. Duane, “Hepatocellular carcinoma arising in non-
cirrhotic liver in genetic haemochromatosis,” Scandinavian
Journal of Gastroenterology, vol. 35, no. 8, pp. 889–893, 2000. [18] R. Jung, W. Kr¨uger, S. Hosch et al., “Specificity of reverse
transcriptase polymerase chain reaction assays designed for
the detection of circulating cancer cells is influenced by
cytokines in vivo and in vitro,” British Journal of Cancer, vol. 78, no. 9, pp. 1194–1198, 1998. [35] R. B. Freeman, A. Mithoefer, R. Ruthazer et al., “Optimizing
staging for hepatocellular carcinoma before liver transplanta-
tion: a retrospective analysis of the UNOS/OPTN database,”
Liver Transplantation, vol. 12, no. 10, pp. 1504–1511, 2006. [19] J. M. Llovet, C. Br´u, and J. Bruix, “Prognosis of hepatocellular
carcinoma: the BCLC staging classification,” Seminars in
Liver Disease, vol. 19, no. 3, pp. 329–337, 1999. [36] G. SanchezAntolin, F. GarciaPajares, E. Perez et al., “Milan
criteria versus San Francisco criteria in hepatocellular carci-
noma: our center’s experience,” Transplantation Proceedings,
vol. 41, no. 3, pp. 1012–1013, 2009. [20] K. J. Luzzi, I. C. International Journal of Hepatology 11 [24] B. Naume, “New methods for early detection of breast cancer
metastasis,” Tidsskrift for den Norske laegeforening, vol. 118,
no. 3, p. 354, 1998. [8] CLIP, “A new prognostic system for hepatocellular carci-
noma: a retrospective study of 435 patients: the Cancer of the
Liver Italian Program (CLIP) investigators,” Hepatology, vol. 28, no. 3, pp. 751–755, 1998. [25] B. Naume, E. Borgen, J. M. Nesland et al., “Increased
sensitivity for detection of micrometastases in bone-
marrow/peripheral-blood stem-cell products from breast-
cancer patients by negative immunomagnetic separation,”
International Journal of Cancer, vol. 78, no. 5, pp. 556–560,
1998. [9] J. Collier and M. Sherman, “Screening for hepatocellular
carcinoma,” Hepatology, vol. 27, no. 1, pp. 273–278, 1998. [10] J. A. Davila, R. O. Morgan, Y. Shaib, K. A. McGlynn, and
H. B. El-Serag, “Hepatitis C infection and the increasing
incidence of hepatocellular carcinoma: a population-based
study,” Gastroenterology, vol. 127, no. 5, pp. 1372–1380, 2004. [26] K. Okuda, T. Ohtsuki, H. Obata et al., “Natural history
of hepatocellular carcinoma and prognosis in relation to
treatment. Study of 850 patients,” Cancer, vol. 56, no. 4, pp. 918–928, 1985. [11] F. Donato, U. Gelatti, R. M. Limina, and G. Fattovich,
“Southern Europe as an example of interaction between
various environmental factors: a systematic review of the
epidemiologic evidence,” Oncogene, vol. 25, no. 27, pp. 3756–
3770, 2006. [27] E. Racila, D. Euhus, A. J. Weiss et al., “Detection and
characterization of carcinoma cells in the blood,” Proceedings
of the National Academy of Sciences of the United States of
America, vol. 95, no. 8, pp. 4589–4594, 1998. [12] H. B. El-Serag, “Hepatocellular carcinoma: an epidemiologic
view,” Journal of Clinical Gastroenterology, vol. 35, no. 5, pp. S72–S78, 2002. [28] K. Sch¨utte, J. Bornschein, and P. Malfertheiner, “Hepatocel-
lular carcinoma—epidemiological trends and risk factors,”
Digestive Diseases, vol. 27, no. 2, pp. 80–92, 2009. [13] H. B. El-Serag, “Hepatocellular carcinoma: recent trends in
the United States,” Gastroenterology, vol. 127, pp. S27–S34,
2004. [29] G. X. Wu, Y. M. Lin, T. H. Zhou, H. Gao, and G. Pei,
“Significant down-regulation of alpha-albumin in human
hepatoma and its implication,” Cancer Letters, vol. 160, no. 2, pp. 229–236, 2000. [14] H. B. El-Serag, J. A. Davila, N. J. Petersen, and K. A. McGlynn,
“The continuing increase in the incidence of hepatocellular
carcinoma in the United States: an update.,” Annals of internal
medicine, vol. 139, no. 10, pp. 817–823, 2003. [30] D. References [1] S. Caldwell and S. H. Park, “The epidemiology of hepatocel-
lular cancer: from the perspectives of public health problem
to tumor biology,” Journal of Gastroenterology, vol. 44, no. 19,
pp. 96–101, 2009. [2] K. Hussain and H. B. El-Serag, “Epidemiology, screening,
diagnosis and treatment of hepatocellular carcinoma.,” Min-
erva Gastroenterologica e Dietologica, vol. 55, no. 2, pp. 123–
138, 2009. As we discuss below, the lack of specific HCC markers
makes CTC studies very challenging. The idea is to bind
luminescence tag (luciferase, yellow fluorescence, or red
fluorescence proteins) in the hepatoma cell lines injected
in the liver that be detected by bioluminescence machine. [3] P. Tandon and G. Garcia-Tsao, “Prognostic indicators in
hepatocellular carcinoma: a systematic review of 72 studies,”
Liver International, vol. 29, no. 4, pp. 502–510, 2009. [4] H. B. El-Serag, “Hepatocellular carcinoma,” New England
Journal of Medicine, vol. 365, no. 12, pp. 1118–1127, 2011. [5] E. Banks, G. Reeves, V. Beral et al., “Hormone replacement
therapy and false positive recall in the Million Women Study:
patterns of use, hormonal constituents and consistency of
effect,” Breast Cancer Research, vol. 8, no. 1, article no. R8,
2005. [6] E. Borgen, K. Beiske, S. Trachsel et al., “Immunocytochemical
detection of isolated epithelial cells in bone marrow: non-
specific staining and contribution by plasma cells directly
reactive to alkaline phosphatase,” Journal of Pathology, vol. 185, no. 4, pp. 427–434, 1998. [7] P. J. Bostick, S. Chatterjee, D. D. Chi et al., “Limitations
of specific reverse-transcriptase polymerase chain reaction
markers in the detection of metastases in the lymph nodes
and blood of breast cancer patients,” Journal of Clinical
Oncology, vol. 16, no. 8, pp. 2632–2640, 1998. In vivo flow cytometry method to detect CTC from HCC
has been developed. This method combined the flow cytom-
etry technology that can detect specific fluorochromes based
on their wavelengths, the specificity of these fluorochromes International Journal of Hepatology International Journal of Hepatology 12 [56] P. Kienle, J. Weitz, R. Klaes et al., “Detection of isolated dis-
seminated tumor cells in bone marrow and blood samples of
patients with hepatocellular carcinoma,” Archives of Surgery,
vol. 135, no. 2, pp. 213–218, 2000. [41] K. Pantel, R. H. Brakenhoff, and B. Brandt, “Detection,
clinical relevance and specific biological properties of dissem-
inating tumour cells,” Nature Reviews Cancer, vol. 8, no. 5,
pp. 329–340, 2008. [42] S. Riethdorf, H. Wikman, and K. Pantel, “Review: Biological
relevance of disseminated tumor cells in cancer patients,”
International Journal of Cancer, vol. 123, no. 9, pp. 1991–
2006, 2008. [57] T. Komeda, Y. Fukuda, T. Sando et al., “Sensitive detection
of circulating hepatocellular carcinoma cells in peripheral
venous blood,” Cancer, vol. 75, no. 9, pp. 2214–2219, 1995. [58] A. Lemoine, T. L. Bricon, M. Salvucci et al., “Prospective
evaluation of circulating hepatocytes by alpha-fetoprotein
mRNA in humans during liver surgery,” Annals of Surgery,
vol. 226, no. 1, pp. 43–50, 1997. [43] S. Braun, F. D. Vogl, B. Naume et al., “A pooled analysis of
bone marrow micrometastasis in breast cancer,” New England
Journal of Medicine, vol. 353, no. 8, pp. 793–802, 2005. [44] V. M¨uller, N. Stahmann, S. Riethdorf et al., “Circulating
tumor cells in breast cancer: correlation to bone marrow
micrometastases, heterogeneous response to systemic ther-
apy and low proliferative activity,” Clinical Cancer Research,
vol. 11, no. 10, pp. 3678–3685, 2005. [59] M. Matsumura, “AFP mRNA in the circulation,” Nippon
Rinsho, vol. 59, pp. 377–382, 2001. [60] M. Matsumura, M. Ijichi, Y. Shiratori et al., “Simple quanti-
tative assay of alpha-fetoprotein mRNA in liver tissue using
the real-time detection polymerase chain reaction assay—its
application for clinical use,” Hepatology Research, vol. 20, no. 1, pp. 84–96, 2001. [45] K. Pantel and U. Woelfle, “Detection and molecular char-
acterisation of disseminated tumour cells: implications for
anti-cancer therapy,” Biochimica et Biophysica Acta - Reviews
on Cancer, vol. 1756, no. 1, pp. 53–64, 2005. [61] M. Matsumura, Y. Niwa, Y. Hikiba et al., “Sensitive assay for
detection of hepatocellular carcinoma associated gene tran-
scription (alpha-fetoprotein mRNA) in blood,” Biochemical
and Biophysical Research Communications, vol. 207, no. 2, pp. 813–818, 1995. [46] B. Willipinski-Stapelfeldt, S. Riethdorf, V. Assmann et
al., “Changes in cytoskeletal protein composition indica-
tive of an epithelial-mesenchymal transition in human
micrometastatic and primary breast carcinoma cells,” Clin-
ical Cancer Research, vol. 11, no. 22, pp. 8006–8014, 2005. [62] M. Matsumura, Y. International Journal of Hepatology Niwa, N. Kato et al., “Detection of α-
fetoprotein mRNA, an indicator of hematogenous spreading
hepatocellular carcinoma, in the circulation: a possible pre-
dictor of metastatic hepatocellular carcinoma,” Hepatology,
vol. 20, no. 6, pp. 1418–1425, 1994. [47] P. Paterlini-Brechot and N. L. Benali, “Circulating tumor
cells (CTC) detection: clinical impact and future directions,”
Cancer Letters, vol. 253, no. 2, pp. 180–204, 2007. [48] D. N. Curry, R. T. Krivacic, H. B. Hsieh et al., “High-speed
detection of occult tumor cells in peripheral blood,” in 26th
Annual International Conference of the IEEE Engineering in
Medicine and Biology Society (EMBC ’04), pp. 1267–1270,
September 2004. [63] M. Matsumura, Y. Shiratori, Y. Niwa et al., “Presence of
α-fetoprotein mRNA in blood correlates with outcome in
patients with hepatocellular carcinoma,” Journal of Hepatol-
ogy, vol. 31, no. 2, pp. 332–339, 1999. [64] O. Morimoto, H. Nagano, A. Miyamoto et al., “Association
between recurrence of hepatocellular carcinoma and α-
fetoprotein messenger RNA levels in peripheral blood,”
Surgery Today, vol. 35, no. 12, pp. 1033–1041, 2005. p
[49] S. Sleijfer, J. W. Gratama, A. M. Sieuwerts, J. Kraan, J. W. M. Martens, and J. A. Foekens, “Circulating tumour cell
detection on its way to routine diagnostic implementation?”
European Journal of Cancer, vol. 43, no. 18, pp. 2645–2650,
2007. [65] S. Becker, G. Becker-Pergola, T. Fehm, R. Emig, D. Wall-
wiener, and E. F. Solomayer, “Image analysis systems for
the detection of disseminated breast cancer cells on bone-
marrow cytospins,” Journal of Clinical Laboratory Analysis,
vol. 19, no. 3, pp. 115–119, 2005. [50] M. H. Strijbos, J. W. Gratama, J. Kraan, C. H. Lamers, M. A. Den Bakker, and S. Sleijfer, “Circulating endothelial cells
in oncology: pitfalls and promises,” British Journal of Cancer,
vol. 98, no. 11, pp. 1731–1735, 2008. [66] A. A. Ross, B. W. Cooper, H. M. Lazarus et al., “Detection and
viability of tumor cells in peripheral blood stem cell collec-
tions from breast cancer patients using immunocytochemical
and clonogenic assay techniques,” Blood, vol. 82, no. 9, pp. 2605–2610, 1993. [51] A. C. Groom, I. C. MacDonald, E. E. Schmidt, V. L. Morris, and A. F. Chambers, “Tumour metastasis to the liver,
and the roles of proteinases and adhesion molecules: new
concepts from in vivo videomicroscopy,” Canadian Journal
of Gastroenterology, vol. 13, no. 9, pp. 733–743, 1999. [67] J. B. Smerage and D. F. International Journal of Hepatology MacDonald, E. E. Schmidt et al., “Multistep
nature of metastatic inefficiency: dormancy of solitary cells
after successful extravasation and limited survival of early
micrometastases,” American Journal of Pathology, vol. 153,
no. 3, pp. 865–873, 1998. [37] F. Sch¨uler and G. D¨olken, “Detection and monitoring of
minimal residual disease by quantitative real-time PCR,”
Clinica Chimica Acta, vol. 363, no. 1-2, pp. 147–156, 2006. [38] V. Zieglschmid, C. Hollmann, and O. B¨ocher, “Detection
of disseminated tumor cells in peripheral blood,” Critical
Reviews in Clinical Laboratory Sciences, vol. 42, no. 2, pp. 155–
196, 2005. [21] M. Mendizabal and K. R. Reddy, “Current management of
hepatocellular carcinoma,” Medical Clinics of North America,
vol. 93, no. 4, pp. 885–900, 2009. [22] S. Mocellin, D. Hoon, A. Ambrosi, D. Nitti, and C. R. Rossi,
“The prognostic value of circulating tumor cells in patients
with melanoma: a systematic review and meta-analysis,”
Clinical Cancer Research, vol. 12, no. 15, pp. 4605–4613, 2006. [39] T. Nakagawa, S. R. Martinez, Y. Goto et al., “Detection of
circulating tumor cells in early-stage breast cancer metastasis
to axillary lymph nodes,” Clinical Cancer Research, vol. 13,
no. 14, pp. 4105–4110, 2007. [23] S. Mocellin, U. Keilholz, C. R. Rossi, and D. Nitti, “Circu-
lating tumor cells: The “leukemic phase” of solid cancers,”
Trends in Molecular Medicine, vol. 12, no. 3, pp. 130–139,
2006. [40] C. Alix-Panabi`eres, S. Riethdorf, and K. Pantel, “Circulating
tumor cells and bone marrow micrometastasis,” Clinical
Cancer Research, vol. 14, no. 16, pp. 5013–5021, 2008. International Journal of Hepatology 13 [72] J. Bruix, M. Sherman, J. M. Llovet et al., “Clinical man-
agement of hepatocellular carcinoma. Conclusions of the
Barcelona-2000 EASL conference. European Association for
the Study of the Liver,” Journal of Hepatology, vol. 35, no. 3,
pp. 421–430, 2001. [87] S. T. Cheung, C. L. Liu, J. P. Chow et al., “Preoperative plasma
transcript AA454543 level is an independent prognostic fac-
tor for hepatocellular carcinoma after partial hepatectomy,”
Neoplasia, vol. 8, no. 9, pp. 696–701, 2006. [88] M. Gross-Goupil, R. Saffroy, D. Azoulay et al., “Real-
time quantification of AFP mRNA to assess hematogenous
dissemination after transarterial chemoembolization of hep-
atocellular carcinoma,” Annals of Surgery, vol. 238, no. 2, pp. 241–248, 2003. [73] F. Trevisani, P. E. D’Intino, A. M. Morselli-Labate et al.,
“Serum α-fetoprotein for diagnosis of hepatocellular car-
cinoma in patients with chronic liver disease: influence of
HBsAg and anti-HCV status,” Journal of Hepatology, vol. 34,
no. 4, pp. 570–575, 2001. [89] Y. Lu, L. Q. Wu, Z. H. L¨u, X. J. Wang, and J. Y. Yang,
“Expression of SSX-1 and NY-ESO-1 mRNA in tumor tissues
and its corresponding peripheral blood expression in patients
with hepatocellular carcinoma,” Chinese Medical Journal, vol. 120, no. 12, pp. 1042–1046, 2007. [74] S. Fujiyama, M. Tanaka, S. Maeda, H. Ashihara, R. Hirata,
and K. Tomita, “Tumor markers in early diagnosis, follow-up
and management of patients with hepatocellular carcinoma,”
Oncology, vol. 62, no. 1, pp. 57–63, 2002. [75] H. Toyoda, T. Kumada, S. Kiriyama et al., “Changes in the
characteristics and survival rate of hepatocellular carcinoma
from 1976 to 2000: analysis of 1365 patients in a single
institution in Japan,” Cancer, vol. 100, no. 11, pp. 2415–2421,
2004. [90] R. Sutcliffe, D. Maguire, P. Murphy et al., “Detection and
clinical significance of bone marrow micrometastases in
patients undergoing liver transplantation for hepatocellular
carcinoma,” Transplantation, vol. 80, no. 1, pp. 88–94, 2005. [91] F. Miyazono, S. Natsugoe, S. Takao et al., “Surgical maneuvers
enhance molecular detection of circulating tumor cells
during gastric cancer surgery,” Annals of Surgery, vol. 233, no. 2, pp. 189–194, 2001. [76] P. Vejchapipat, P. Tangkijvanich, A. Theamboonlers, V. Chongsrisawat, S. Chittmittrapap, and Y. Poovorawan,
“Association between serum hepatocyte growth factor and
survival in untreated hepatocellular carcinoma,” Journal of
Gastroenterology, vol. 39, no. 12, pp. 1182–1188, 2004. [92] M. Ijichi, T. Takayama, M. Matsumura, Y. Shiratori, M. Omata, and M. International Journal of Hepatology Makuuchi, “α-fetoprotein mRNA in the
circulation as a predictor of postsurgical recurrence of
hepatocellular carcinoma: a prospective study,” Hepatology,
vol. 35, no. 4, pp. 853–860, 2002. [77] K. Dohmen, H. Shigematsu, K. Irie, and H. Ishibashi,
“Clinical characteristics among patients with hepatocellular
carcinoma according to the serum levels of α-fetoprotein and
des-γ-carboxy prothrombin,” Hepato-Gastroenterology, vol. 50, no. 54, pp. 2072–2078, 2003. [93] H. Witzigmann, F. Geißler, F. Benedix et al., “Prospec-
tive evaluation of circulating hepatocytes by α-fetoprotein
messenger RNA in patients with hepatocellular carcinoma,”
Surgery, vol. 131, no. 1, pp. 34–43, 2002. [78] A. S. Lok, R. K. Sterling, J. E. Everhart et al., “Des-γ-carboxy
prothrombin and α-fetoprotein as biomarkers for the early
detection of hepatocellular carcinoma,” Gastroenterology, vol. 138, no. 2, pp. 493–502, 2010. [94] S. Hillaire, V. Barbu, E. Boucher, M. Moukhtar, and R. Poupon, “Albumin messenger RNA as a marker of circulating
hepatocytes in hepatocellular carcinoma,” Gastroenterology,
vol. 106, no. 1, pp. 239–242, 1994. [79] T. Suehiro, K. Sugimachi, T. Matsumata, H. Itasaka, A. Take-
tomi, and T. Maeda, “Protein induced by vitamin K absence
or antagonist II as a prognostic marker in hepatocellular
carcinoma. Comparison with alpha-fetoprotein,” Cancer, vol. 73, no. 10, pp. 2464–2471, 1994. [95] S. Kar and B. I. Carr, “Detection of liver cells in peripheral
blood of patients with advanced- stage hepatocellular carci-
noma,” Hepatology, vol. 21, no. 2, pp. 403–407, 1995. [80] A. L. Min, J. Y. Choi, H. Y. Woo et al., “High expression
of Snail mRNA in blood from hepatocellular carcinoma
patients with extra-hepatic metastasis,” Clinical and Experi-
mental Metastasis, vol. 26, no. 7, pp. 759–767, 2009. [96] I. H. N. Wong, T. Leung, S. Ho, W. Y. Lau, M. Chan, and P. J. Johnson, “Semiquantification of circulating hepatocellular
carcinoma cells by reverse transcriptase polymerase chain
reaction,” British Journal of Cancer, vol. 76, no. 5, pp. 628–
633, 1997. [81] S. A. Gonzalez and E. B. Keeffe, “Diagnosis of hepatocellular
carcinoma: role of tumor markers and liver biopsy,” Clinics in
Liver Disease, vol. 15, no. 2, pp. 297–306, 2011. [97] V. A. Resto, O. L. Caballero, M. R. Buta et al., “A putative
oncogenic role for MPP11 in head and neck squamous cell
cancer,” Cancer Research, vol. 60, no. 19, pp. 5529–5535, 2000. [82] M. Louha, J. Nicolet, H. Zylberberg et al., “Liver resection
and needle liver biopsy cause hematogenous dissemination
of liver cells,” Hepatology, vol. 29, no. International Journal of Hepatology Hayes, “The measurement and
therapeutic implications of circulating tumour cells in breast
cancer,” British Journal of Cancer, vol. 94, no. 1, pp. 8–12,
2006. [52] P. Hermanek, R. V. Hutter, L. H. Sobin, and C. Wittekind,
“International Union Against Cancer. Classification of iso-
lated tumor cells and micrometastasis,” Cancer, vol. 86, no. 12, pp. 2668–2673, 1999. [68] A. Mejean, G. Vona, B. Nalpas et al., “Detection of circulating
prostate derived cells in patients with prostate adenocarci-
noma is an independent risk factor for tumor recurrence,”
Journal of Urology, vol. 163, no. 6, pp. 2022–2029, 2000. [53] L. A. Liotta, J. Kleinerman, and G. M. Saidel, “Quantitative
relationships of intravascular tumor cells, tumor vessels,
and pulmonary metastases following tumor implantation,”
Cancer Research, vol. 34, no. 5, pp. 997–1004, 1974. [69] L. Zhou, J. Liu, and F. Luo, “Serum tumor markers for
detection of hepatocellular carcinoma,” World Journal of
Gastroenterology, vol. 12, no. 8, pp. 1175–1181, 2006. [54] H. Aselmann, H. Wolfes, F. Rohde et al., “Quantification
of α1-fetoprotein mRNA in peripheral blood and bone
marrow: a tool for perioperative evaluation of patients with
hepatocellular carcinoma,” Langenbeck’s Archives of Surgery,
vol. 386, no. 2, pp. 118–123, 2001. [70] K. Okuda, “Early recognition of hepatocellular carcinoma,”
Hepatology, vol. 6, no. 4, pp. 729–738, 1986. [55] T. Kamiyama, H. Miyakawa, K. Tajiri, F. Marumo, and C. Sato, “Ischemic hepatitis in cirrhosis: clinical features and
prognostic implications,” Journal of Clinical Gastroenterology,
vol. 22, no. 2, pp. 126–130, 1996. [71] R. Saffroy, P. Pham, M. Reffas, M. Takka, A. Lemoine,
and B. Debuire, “New perspectives and strategy research
biomarkers for hepatocellular carcinoma,” Clinical Chemistry
and Laboratory Medicine, vol. 45, no. 9, pp. 1169–1179, 2007. International Journal of Hepatology International Journal of Hepatology Geng, “Chemokines and hepatocellular
carcinoma,” World Journal of Gastroenterology, vol. 16, no. 15,
pp. 1832–1836, 2010. [107] A. Bergamaschi, E. Tagliabue, T. Sorlie et al., “Extracellular
matrix signature identifies breast cancer subgroups with
different clinical outcome,” Journal of Pathology, vol. 214, no. 3, pp. 357–367, 2008. [124] N. Li, W. Guo, J. Shi et al., “Expression of the chemokine
receptor CXCR4 in human hepatocellular carcinoma and its
role in portal vein tumor thrombus,” Journal of Experimental
and Clinical Cancer Research, vol. 29, no. 1, article no. 156,
2010. [108] J. R. Peng, H. S. Chen, D. C. Mou et al., “Expression
of cancer/testis (CT) antigens in Chinese hepatocellular
carcinoma and its correlation with clinical parameters,”
Cancer Letters, vol. 219, no. 2, pp. 223–232, 2005. [125] R. C. Lee, R. L. Feinbaum, and V. Ambros, “The C. elegans
heterochronic gene lin-4 encodes small RNAs with antisense
complementarity to lin-14,” Cell, vol. 75, no. 5, pp. 843–854,
1993. [109] M. Suzuki, K. Sugimoto, J. Tanaka et al., “Up-regulation of
glypican-3 in human hepatocellular carcinoma,” Anticancer
Research, vol. 30, no. 12, pp. 5055–5062, 2010. [126] B. J. Reinhart, F. J. Slack, M. Basson et al., “The 21-nucleotide
let-7 RNA regulates developmental timing in Caenorhabditis
elegans,” Nature, vol. 403, no. 6772, pp. 901–906, 2000. [110] M. Yao, D. F. Yao, Y. Z. Bian et al., “Oncofetal antigen
glypican-3 as a promising early diagnostic marker for hep-
atocellular carcinoma,” Hepatobiliary and Pancreatic Diseases
International, vol. 10, no. 3, pp. 289–294, 2011. [127] Y. Hoshida, S. Toffanin, A. Lachenmayer, A. Villanueva, B. Minguez, and J. M. Llovet, “Molecular classification and
novel targets in hepatocellular carcinoma: recent advance-
ments,” Seminars in Liver Disease, vol. 30, no. 1, pp. 35–51,
2010. [111] Z. Dai, J. Zhou, S. J. Qiu, Y. K. Liu, and J. Fan, “Lectin-
based glycoproteomics to explore and analyze hepatocellu-
lar carcinoma-related glycoprotein markers,” Electrophoresis,
vol. 30, no. 17, pp. 2957–2966, 2009. [128] J. Ji and X. W. Wang, “New kids on the block: diagnostic and
prognostic microRNAs in hepatocellular carcinoma.,” Cancer
biology & therapy, vol. 8, no. 18, pp. 1686–1693, 2009. [112] M. Donati, G. Brancato, and A. Donati, “Clinical biomarkers
in hepatocellular carcinoma (HCC),” Frontiers in Bioscience
(Scholar edition), vol. 2, pp. 571–577, 2010. [129] T. A. Kerr, K. M. Korenblat, and N. O. Davidson, “MicroR-
NAs and liver disease,” Translational Research, vol. 157, no. 4,
pp. 241–252, 2011. [113] V. Paradis, F. International Journal of Hepatology 14 [117] X. Liu, X. Wan, Z. Li, C. Lin, Y. Zhan, and X. Lu, “Golgi
protein 73(GP73), a useful serum marker in liver diseases,”
Clinical Chemistry and Laboratory Medicine, vol. 49, no. 8,
pp. 1311–1316, 2011. mRNA in metastasis of hepatocellular carcinoma,” American
Journal of Clinical Pathology, vol. 134, no. 5, pp. 799–806,
2010. [102] B. Malavaud, M. Mi´edoug´e, J. L. Payen et al., “Prostate-
specific antigen in acute hepatitis and hepatocellular carci-
noma,” Prostate, vol. 41, no. 4, pp. 258–262, 1999. [118] M. Makridakis and A. Vlahou, “Secretome proteomics for
discovery of cancer biomarkers,” Journal of Proteomics, vol. 73, no. 12, pp. 2291–2305, 2010. [103] F. Grizzi, B. Franceschini, C. Hamrick, E. E. Frezza, E. Cobos, and M. Chiriva-Internati, “Usefulness of cancer-testis
antigens as biomarkers for the diagnosis and treatment of
hepatocellular carcinoma,” Journal of Translational Medicine,
vol. 5, article no. 3, 2007. [119] G. Malaguarnera, M. Giordano, I. Paladina, M. Berretta,
A. Cappellani, and M. Malaguarnera, “Serum markers of
hepatocellular carcinoma,” Digestive Diseases and Sciences,
vol. 55, no. 10, pp. 2744–2755, 2010. [120] D. Niu, H. Feng, and W. N. Chen, “Proteomic analysis of
HBV-associated HCC: insights on mechanisms of disease
onset and biomarker discovery,” Journal of Proteomics, vol. 73, no. 7, pp. 1283–1290, 2010. [104] S. Y. Kong, J. W. Park, J. O. Kim et al., “Alpha-fetoprotein
and human telomerase reverse transcriptase mRNA levels in
peripheral blood of patients with hepatocellular carcinoma,”
Journal of Cancer Research and Clinical Oncology, vol. 135, no. 8, pp. 1091–1098, 2009. [121] L. L. Liu, D. Fu, Y. Ma, and X. Shen, “The power and the
promise of liver cancer stem cell markers,” Stem Cells and
Development, vol. 20, no. 12, pp. 2023–2030, 2011. [105] M. J. Scanlan, A. O. Gure, A. A. Jungbluth, L. J. Old, and
Y. T. Chen, “Cancer/testis antigens: an expanding family of
targets for cancer immunotherapy,” Immunological Reviews,
vol. 188, pp. 22–32, 2002. [122] T. Chiba, A. Kamiya, O. Yokosuka, and A. Iwama, “Cancer
stem cells in hepatocellular carcinoma: recent progress and
perspective,” Cancer Letters, vol. 286, no. 2, pp. 145–153,
2009. [106] I. H. Benoy, H. Elst, M. Philips et al., “Real-time RT-PCR
detection of disseminated tumour cells in bone marrow
has superior prognostic significance in comparison with
circulating tumour cells in patients with breast cancer,”
British Journal of Cancer, vol. 94, no. 5, pp. 672–680, 2006. [123] F. Huang and X. P. International Journal of Hepatology 3, pp. 879–882, 1999. [98] Z. Z. Dong, D. F. Yao, M. Yao et al., “Clinical impact of
plasma TGF-β1 and circulating TGF-β1 mRNA in diagnosis
of hepatocellular carcinoma,” Hepatobiliary and Pancreatic
Diseases International, vol. 7, no. 3, pp. 288–295, 2008. [83] M. Minata, N. Nishida, T. Komeda et al., “Postoperative
detection of alpha-fetoprotein mRNA in blood as a predic-
tor for metastatic recurrence of hepatocellular carcinoma,”
Journal of Gastroenterology and Hepatology, vol. 16, no. 4, pp. 445–451, 2001. [99] Y. L. Wang, G. Li, D. Wu, Y. W. Liu, and Z. Yao,
“Analysis of alpha-fetoprotein mRNA level on the tumor
cell hematogenous spread of patients with hepatocellular
carcinoma undergoing orthotopic liver transplantation,”
Transplantation Proceedings, vol. 39, no. 1, pp. 166–168, 2007. [84] J. Houghton, C. Stoicov, S. Nomura et al., “Gastric cancer
originating from bone marrow-derived cells,” Science, vol. 306, no. 5701, pp. 1568–1571, 2004. [100] Z. Z. Dong, D. F. Yao, D. B. Yao et al., “Expression and
alteration of insulin-like growth factor II-messenger RNA
in hepatoma tissues and peripheral blood of patients with
hepatocellular carcinoma,” World Journal of Gastroenterology,
vol. 11, no. 30, pp. 4655–4660, 2005. [85] S. K. Agarwal, A. L. Burns, K. E. Sukhodolets et al.,
“Molecular pathology of the MEN1 gene,” Annals of the New
York Academy of Sciences, vol. 1014, pp. 189–198, 2004. [86] S. Sell, “Cellular origin of hepatocellular carcinomas,” Sem-
inars in Cell and Developmental Biology, vol. 13, no. 6, pp. 419–424, 2002. [101] J. Qian, D. Yao, Z. Dong et al., “Characteristics of hepatic
IGF-II expression and monitored levels of circulating IGF-II International Journal of Hepatology Rosenberg, “The use of flow cytometry in
assessing malignancy in bone and soft tissue tumors,” Clinical
Orthopaedics and Related Research, no. 397, pp. 95–105, 2002. [155] H. B. Hsieh, D. Marrinucci, K. Bethel et al., “High speed
detection of circulating tumor cells,” Biosensors and Bioelec-
tronics, vol. 21, no. 10, pp. 1893–1899, 2006. [141] P. Pinzani, B. Salvadori, L. Simi et al., “Isolation by size
of epithelial tumor cells in peripheral blood of patients
with breast cancer: correlation with real-time reverse
transcriptase-polymerase chain reaction results and feasibil-
ity of molecular analysis by laser microdissection,” Human
Pathology, vol. 37, no. 6, pp. 711–718, 2006. [156] S. Nagrath, L. V. Sequist, S. Maheswaran et al., “Isolation of
rare circulating tumour cells in cancer patients by microchip
technology,” Nature, vol. 450, no. 7173, pp. 1235–1239, 2007. [157] D. G. J. M. Rickwood, Biological Centrifugation, Springer,
Berlin, Germany, 2001. [142] G. Vona, L. Estepa, C. B´eroud et al., “Impact of cytomorpho-
logical detection of circulating tumor cells in patients with
liver cancer,” Hepatology, vol. 39, no. 3, pp. 792–797, 2004. [158] T. C. Ford and J. M. Graham, An Introduction to Centrifuga-
tion, BIOS Scientific, 1991. [143] A. Farina, A. Sekizawa, M. Iwasaki, R. Matsuoka, K. Ichizuka,
and T. Okai, “Total cell-free DNA (beta-globin gene) distri-
bution in maternal plasma at the second trimester: a new
prospective for preeclampsia screening,” Prenatal Diagnosis,
vol. 24, no. 9, pp. 722–726, 2004. [159] J. Graham and D. Rickwood, Subcellular Fractionation: A
Practical Approach, Oxford University Press, 1997. [160] D. Rickwood,
Preparative
Centrifugation:
A
Practical
Approach, IRL Press, Oxford, UK, 1992. [161] D. Rickwood, T. Ford, and J. Steensgaard, Centrifugation:
Essential Data, John Wiley & Son, New York, NY, USA, 1994. [144] G. Kallergi, S. Agelaki, A. Kalykaki, C. Stournaras, D. Mavroudis, and V. Georgoulias, “Phosphorylated EGFR and
PI3K/Akt signaling kinases are expressed in circulating tumor
cells of breast cancer patients,” Breast Cancer Research, vol. 10, no. 5, article no. R80, 2008. [162] R. Gertler, R. Rosenberg, K. Fuehrer, M. Dahm, H. Nekarda,
and J. R. Siewert, “Detection of circulating tumor cells in
blood using an optimized density gradient centrifugation.,”
Recent Results in Cancer Research, vol. 162, pp. 149–155, 2003. [145] J. Kollermann, B. Heseding, B. Helpap, M. W. Kollermann,
and K. International Journal of Hepatology Degos, D. Darg`ere et al., “Identification of a
new marker of hepatocellular carcinoma by serum protein
profiling of patients with chronic liver diseases,” Hepatology,
vol. 41, no. 1, pp. 40–47, 2005. [130] K. Kojima, A. Takata, C. Vadnais et al., “MicroRNA122 is a
key regulator of alpha-fetoprotein expression and influences
the aggressiveness of hepatocellular carcinoma,” Nature
Communications, vol. 2, article 338, 2011. [114] X. Q. Peng, F. Wang, X. Geng, and W. M. Zhang, “Current
advances in tumor proteomics and candidate biomarkers for
hepatic cancer,” Expert Review of Proteomics, vol. 6, no. 5, pp. 551–561, 2009. [131] G. Kong, J. Zhang, S. Zhang, C. Shan, L. Ye, and X. Zhang,
“Upregulated microRNA-29a by hepatitis B virus X protein
enhances hepatoma cell migration by targeting PTEN in cell
culture model,” PLoS One, vol. 6, no. 5, Article ID e19518,
2011. [115] T. C. W. Poon, T. T. Yip, A. T. C. Chan et al., “Comprehensive
proteomic profiling identifies serum proteomic signatures
for detection of hepatocellular carcinoma and its subtypes,”
Clinical Chemistry, vol. 49, no. 5, pp. 752–760, 2003. [132] F. Sato, E. Hatano, K. Kitamura et al., “MicroRNA profile
predicts recurrence after resection in patients with hepato-
cellular carcinoma within the Milan criteria,” PLoS One, vol. 6, no. 1, Article ID e16435, 2011. [116] N. T. Zinkin, F. Grall, K. Bhaskar et al., “Serum proteomics
and biomarkers in hepatocellular carcinoma and chronic
liver disease,” Clinical Cancer Research, vol. 14, no. 2, pp. 470–
477, 2008. [133] S. T. Fan, Z. F. Yang, D. W. Ho, M. N. Ng, W. C. Yu,
and J. Wong, “Prediction of posthepatectomy recurrence of International Journal of Hepatology 15 [148] Z. A. J. Khan, S. K. Jonas, N. Le-Marer et al., “p53 mutations
in primary and metastatic tumors and circulating tumor
cells from colorectal carcinoma patients,” Clinical Cancer
Research, vol. 6, no. 9, pp. 3499–3504, 2000. hepatocellular carcinoma by circulating cancer stem cells: a
prospective study,” Annals of Surgery, vol. 254, no. 4, pp. 569–
576, 2011. [134] D. M. Levi and S. Nishida, “Liver transplantation for hepa-
tocellular carcinoma: lessons learned and future directions,”
Clinics in Liver Disease, vol. 15, pp. 717–725, 2011. [149] R. Q. Wharton, S. K. Jonas, C. Glover et al., “Increased
detection of circulating tumor cells in the blood of colorectal
carcinoma patients using two reverse transcription-PCR
assays and multiple blood samples,” Clinical Cancer Research,
vol. 5, no. 12, pp. International Journal of Hepatology 4158–4163, 1999. [135] F. Farinati, D. Marino, M. DeGiorgio et al., “Diagnostic
and prognostic role of alpha-fetoprotein in hepatocellular
carcinoma: both or neither?” The American Journal of
Gastroenterology, vol. 101, no. 3, pp. 524–532, 2006. [150] C. Alix-Panabi`eres, J. P. Brouillet, M. Fabbro et al., “Charac-
terization and enumeration of cells secreting tumor markers
in the peripheral blood of breast cancer patients,” Journal of
Immunological Methods, vol. 299, no. 1-2, pp. 177–188, 2005. [136] M. Vivarelli, A. Cucchetti, G. L. Barba et al., “Liver trans-
plantation for hepatocellular carcinoma under calcineurin
inhibitors: reassessment of risk factors for tumor recurrence,”
Annals of Surgery, vol. 248, no. 5, pp. 857–862, 2008. [151] C. Alix-Panabieres, J. P. Vendrell, O. Pelle et al., “Detection
and characterization of putative metastatic precursor cells in
cancer patients,” Clinical Chemistry, vol. 53, no. 3, pp. 537–
539, 2007. [137] F. Y. Yao, L. Xiao, N. M. Bass, R. Kerlan, N. L. Ascher, and J. P. Roberts, “Liver transplantation for hepatocellular carcinoma:
validation of the UCSF-expanded criteria based on preopera-
tive imaging,” American Journal of Transplantation, vol. 7, no. 11, pp. 2587–2596, 2007. [152] C. C. Czerkinsky, L. A. Nilsson, H. Nygren, O. Ouchter-
lony, and A. Tarkowski, “A solid-phase enzyme-linked
immunospot (ELISPOT) assay for enumeration of specific
antibody-secreting cells,” Journal of Immunological Methods,
vol. 65, no. 1-2, pp. 109–121, 1983. [138] S. H. Yang, K. S. Suh, H. W. Lee et al., “A revised scoring
system utilizing serum alphafetoprotein levels to expand
candidates for living donor transplantation in hepatocellular
carcinoma,” Surgery, vol. 141, no. 5, pp. 598–609, 2007. [153] K. Lobodasch, F. Fr¨ohlich, M. Rengsberger et al., “Quan-
tification of circulating tumour cells for the monitoring of
adjuvant therapy in breast cancer: an increase in cell number
at completion of therapy is a predictor of early relapse,”
Breast, vol. 16, no. 2, pp. 211–218, 2007. [139] M. Balic, N. Dandachi, G. Hofmann et al., “Comparison
of two methods for enumerating circulating tumor cells in
carcinoma patients,” Cytometry B, vol. 68, no. 1, pp. 25–30,
2005. [154] K. Pachmann, J. H. Clement, C. P. Schneider et al.,
“Standardized quantification of circulating peripheral tumor
cells from lung and breast cancer,” Clinical Chemistry and
Laboratory Medicine, vol. 43, no. 6, pp. 617–627, 2005. [140] H. J. Mankin, G. Fondren, F. J. Hornicek, M. C. Gebhardt,
and A. E. International Journal of Hepatology 16 urinary samples,” Journal of Clinical Pathology, vol. 57, no. 11,
pp. 1208–1212, 2004. [182] X. Lu, H. Guo, J. Molter et al., “Alpha-fetoprotein-thymidine
kinase-luciferase knockin mice: a novel model for dual
modality longitudinal imaging of tumorigenesis in liver,”
Journal of Hepatology, vol. 55, no. 1, pp. 96–102, 2011. pp
[167] R. G. Wright and J. A. Halford, “Evaluation of thin-layer
methods in urine cytology,” Cytopathology, vol. 12, no. 5, pp. 306–313, 2001. [183] X. Ma, Z. Liu, X. Yang et al., “Dual-modality monitoring
of tumor response to cyclophosphamide therapy in mice
with bioluminescence imaging and small-animal positron
emission tomography,” Molecular Imaging, vol. 10, no. 4, pp. 278–283, 2011. [168] G. Sergeant, F. Penninckx, and B. Topal, “Quantitative
RT-PCR detection of colorectal tumor cells in peripheral
blood—a systematic review,” Journal of Surgical Research, vol. 150, no. 1, pp. 144–152, 2008. [184] C. L. Xiao, Z. H. Tao, L. Guo et al., “Isomalto oligosaccharide
sulfate inhibits tumor growth and metastasis of hepatocellu-
lar carcinoma in nude mice,” BMC Cancer, vol. 11, article no. 150, 2011. [169] W. J. Allard, J. Matera, M. C. Miller et al., “Tumor cells
circulate in the peripheral blood of all major carcinomas
but not in healthy subjects or patients with nonmalignant
diseases,” Clinical Cancer Research, vol. 10, no. 20, pp. 6897–
6904, 2004. [185] Y. Li, J. Guo, C. Wang et al., “Circulation times of prostate
cancer and hepatocellular carcinoma cells by in vivo flow
cytometry,” Cytometry A, vol. 79, no. 10, pp. 848–854, 2011. [170] D. A. Smirnov, D. R. Zweitzig, B. W. Foulk et al., “Global
gene expression profiling of circulating tumor cells,” Cancer
Research, vol. 65, no. 12, pp. 4993–4997, 2005. [171] R. E. Zigeuner, R. Riesenberg, H. Pohla, A. Hofstetter, and R. Oberneder, “Isolation of circulating cancer cells from whole
blood by immunomagnetic cell enrichment and unenriched
immunocytochemistry in vitro,” Journal of Urology, vol. 169,
no. 2, pp. 701–705, 2003. [172] J. C. Goeminne, T. Guillaume, and M. Symann, “Pitfalls
in the detection of disseminated non-hematological tumor
cells,” Annals of Oncology, vol. 11, no. 7, pp. 785–792, 2000. [173] B. Naume, E. Borgen, S. Tøssvik, N. Pavlak, D. Oates, and J. M. Nesland, “Detection of isolated tumor cells in peripheral
blood and in BM: evaluation of a new enrichment method,”
Cytotherapy, vol. 6, no. 3, pp. 244–252, 2004. [174] B. Naume and T. International Journal of Hepatology Pantel, “Comparative immunocytochemical assess-
ment of isolated carcinoma cells in lymph nodes and bone
marrow of patients with clinically localized prostate cancer,”
International Journal of Cancer, vol. 84, pp. 145–149, 1999. [163] O. Zach and D. Lutz, “Tumor cell detection in peripheral
blood and bone marrow,” Current Opinion in Oncology, vol. 18, no. 1, pp. 48–56, 2006. [164] B. Molnar, A. Ladanyi, L. Tanko, L. Sr´eter, and Z. Tulassay,
“Circulating tumor cell clusters in the peripheral blood of
colorectal cancer patients,” Clinical Cancer Research, vol. 7,
no. 12, pp. 4080–4085, 2001. [146] B. M. Saraiva-Romanholo, V. Barnab´e, A. L. I. Carvalho,
M. A. Martins, P. H. N. Saldiva, and M. D. P. T. Nunes,
“Comparison of three methods for differential cell count in
induced sputum,” Chest, vol. 124, no. 3, pp. 1060–1066, 2003. [165] J. L. Papillo and D. Lapen, “Cell yield: ThinPrep vs. cytocen-
trifuge,” Acta Cytologica, vol. 38, no. 1, pp. 33–36, 1994. [147] K. R. Aryal, A. J. Lengyel, N. Purser, N. Harrison, N. Aluwi-
hare, and B. Isgar, “Nipple core biopsy for the deformed or
scaling nipple,” Breast, vol. 13, no. 4, pp. 350–352, 2004. [166] E. Piaton, K. Hutin, J. Faynel, M. C. Ranchin, and M. Cot-
tier, “Cost efficiency analysis of modern cytocentrifugation
methods versus liquid based (Cytyc Thinprep) processing of International Journal of Hepatology Espevik, “Effects of IL-7 and IL-2 on highly
enriched CD56+ natural killer cells: a comparative study,”
Journal of Immunology, vol. 147, no. 7, pp. 2208–2214, 1991. [175] J. Y. Wang, C. H. Wu, C. Y. Lu et al., “Molecular detection
of circulating tumor cells in the peripheral blood of patients
with colorectal cancer using RT-PCR: significance of the
prediction of postoperative metastasis,” World Journal of
Surgery, vol. 30, no. 6, pp. 1007–1013, 2006. [176] J. J. Christiansen and A. K. Rajasekaran, “Reassessing epithe-
lial to mesenchymal transition as a prerequisite for carcinoma
invasion and metastasis,” Cancer Research, vol. 66, no. 17, pp. 8319–8326, 2006. [177] W. Xu, L. Cao, L. Chen et al., “Isolation of circulating tumor
cells in patients with hepatocellular carcinoma using a novel
cell separation strategy,” Clinical Cancer Research, vol. 17, no. 11, pp. 3783–3793, 2011. [178] F. Heindryckx, I. Colle, and H. Van Vlierberghe, “Experimen-
tal mouse models for hepatocellular carcinoma research,”
International Journal of Experimental Pathology, vol. 90, no. 4, pp. 367–386, 2009. [179] K. H. Weylandt, L. F. Krause, B. Gomolka et al., “Suppressed
liver tumorigenesis in fat-1 mice with elevated omega-3
fatty acids is associated with increased omega-3 derived lipid
mediators and reduced TNF-α,” Carcinogenesis, vol. 32, no. 6,
pp. 897–903, 2011. [180] O. Scatton, F. Chiappini, X. H. Liu et al., “Generation and
modulation of hepatocellular carcinoma circulating cells: a
new experimental model,” Journal of Surgical Research, vol. 150, no. 2, pp. 183–189, 2008. [181] O. Scatton, F. Chiappini, P. Riou et al., “Fate and characteriza-
tion of circulating tumor cells in a NOD/SCID mouse model
of human hepatocellular carcinoma,” Oncogene, vol. 25, no. 29, pp. 4067–4075, 2006.
|
https://openalex.org/W4385198460
|
https://bmcanesthesiol.biomedcentral.com/counter/pdf/10.1186/s12871-023-02207-9
|
English
| null |
Intensive care unit admissions with and without COVID-19 in Finland from 2017 to 2021: a retrospective register-based study
|
BMC anesthesiology
| 2,023
|
cc-by
| 5,937
|
Saara Jäntti1*, Ville Ponkilainen2, Ilari Kuitunen3,4, Mikko M. Uimonen2, Tuomas Huttunen5 and Ville M. Mattila1,6 Jäntti1*, Ville Ponkilainen2, Ilari Kuitunen3,4, Mikko M. Uimonen2, Tuomas Huttunen5 and Ville M. M Abstract Keywords COVID-19, Intensive care unit, Critical care 3Mikkeli Central Hospital, Porrassalmenkatu 35-37, Mikkeli 50100, Finland
4School of Medicine, University of Eastern Finland, Yliopistonranta 1,
Kuopio 70211, Finland
5Department of Cardiothoracic Anesthesia, Tampere Heart Hospital,
Teiskontie 35, Tampere 33521, Finland
6Department of Orthopaedics and Traumatology, Tampere University
Hospital, Teiskontie 35, Tampere PL2000, 33521, Finland *Correspondence:
Saara Jäntti
saara.jantti@tuni.fi
1Faculty of Medicine and Health Technology, Tampere University, Kauppi
Campus, Arvo Ylpön katu 34, Tampere 33520, Finland
2Department of Surgery, Central Finland Hospital Nova, Hoitajantie 3,
40620 Jyväskylä, Finland *Correspondence:
Saara Jäntti
saara.jantti@tuni.fi
1Faculty of Medicine and Health Technology, Tampere University, Kauppi
Campus, Arvo Ylpön katu 34, Tampere 33520, Finland
2Department of Surgery, Central Finland Hospital Nova, Hoitajantie 3,
40620 Jyväskylä, Finland BMC Anesthesiology BMC Anesthesiology Jäntti et al. BMC Anesthesiology (2023) 23:251
https://doi.org/10.1186/s12871-023-02207-9 Open Access Abstract Background After the COVID-19 pandemic started, critical care resources were expanded in Finland to manage a
possible surge in patients requiring intensive care. The aim of this study was to evaluate the incidence of overall ICU
admissions, patient diagnoses, characteristics, and length of stay during the pandemic. Methods This retrospective hospital register-based study was conducted in two large and one mid-size Finnish
public hospitals. The required data were collected from ICU patient information systems and all adult patients were
included. Monthly and yearly incidences with 95% confidence intervals (CI) were counted per 100 000 persons-years
by Poisson exact method and compared by incidence rate ratios (IRR). Results A total of 4407 admissions to ICUs for any cause occurred during 2020. In 2021, this figure was 4931. During
the reference years (2017–2019), the mean number of admissions to ICU was 4781. In 2020 and 2021, the proportion
of patients requiring intensive care due to COVID-19 was only 3%. The incidence of all-cause ICU admissions
decreased during the lockdown in 2020 when compared to the reference years. Before the start of the lockdown in
February 2020, the IRR of all-cause ICU admissions was 1.02 (CI: 0.89 to 1.18). During the lockdown period, however,
the IRR of all-cause ICU admissions decreased to 0.78 (CI: 0.67 to 0.90) in March. When the lockdown ended, the
incidence rebounded to the same level as before the lockdown. However, in 2021, the incidence of ICU admissions
remained at the same level when compared to the reference years. The most prominent changes occurred in the
incidence of diseases of the nervous system, which includes epilepsy and seizures and transient cerebral ischemic
attacks, in diseases of the respiratory system, and neoplasms. Conclusions According to the findings of this study, the incidence of all-cause ICU admissions decreased after the
lockdown was implemented in 2020. Furthermore, the percentage of patients requiring intensive care due to COVID-
19 in Finland was only 3% in 2020 and 2021. These findings may serve to help in the planning and allocating of ICU
resources during future pandemics. 3Mikkeli Central Hospital, Porrassalmenkatu 35-37, Mikkeli 50100, Finland
4School of Medicine, University of Eastern Finland, Yliopistonranta 1,
Kuopio 70211, Finland
5Department of Cardiothoracic Anesthesia, Tampere Heart Hospital,
Teiskontie 35, Tampere 33521, Finland
6Department of Orthopaedics and Traumatology, Tampere University
Hospital, Teiskontie 35, Tampere PL2000, 33521, Finland © The Author(s) 2023. Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use,
sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and
the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this
article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included
in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will
need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/. The
Creative Commons Public Domain Dedication waiver (http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available
in this article, unless otherwise stated in a credit line to the data. Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 Page 2 of 7 Jäntti et al. BMC Anesthesiology Tampere University Hospital, the mean age of population
was 43 years, in Mikkeli Central Hospital catchment area
49 years and in Central Finland Hospital catchment area
43 years. The distribution by gender was similar in all
areas, 50% were men and 50% women [8]. The required
data were collected from the ICU patient information
systems of the three hospitals. All adult patients (aged
18 or older) who were admitted to the ICUs of the par
ticipating hospitals in 2020 and 2021 were included. As
a reference, we used ICU admissions from 2017 to 2019. The classification of patients was done using Interna
tional Classification of Diseases 10th Revision (ICD-10)
diagnostic codes [9]. Data regarding ICU admission was
collected using the first diagnosis of a patient and each
treatment period was collected only once. The changes in
the number of ICU admissions were collected and ana
lyzed in categories based on the ICD-10 diagnostic codes
(Table 1). The number of patients who were admitted to
ICU and had tested positive for COVID-19 in the years
2020 and 2021 was collected using ICD-10 diagnostic
codes starting with U07.1. Results A total of 4407 admissions to ICU occurred in 2020 and
4931 in 2021. During the reference years (2017–2019),
the mean number of admissions to ICU was 4781. A total
of 4864 admissions occurred in 2017, 4856 in 2018, and
4624 in 2019. In addition, a total of 110 (2.5% of all ICU
admissions) COVID-positive patients were admitted to
ICU units in the participating hospitals in 2020. During
the year 2021, the number of COVID patients admitted
was 141 (2.9% of all ICU admissions). We found three
distinctive peaks of COVID patients being admitted to
ICU: 27 patients in April 2020, 23 patients in December
2020, and 27 patients in December 2021 (Fig. 1). Ethics. Due to the register-based study design, we did not
obtain ethical committee evaluation. As the law on the
secondary use of routinely collected health care data is
rather strict, we did not combine the patient data from
the participating hospitals. Instead, we analyzed the data
from each hospital separately and then combined the
data anonymously. Previous literature has yielded conflicting results, as
both increases and decreases in non-COVID-19 ICU
admissions have been reported [5–7]. Therefore, the aim of this study was to evaluate the
incidence of overall ICU admissions, patient demo
graphics, and length of stay during the pandemic. Also,
the number of confirmed COVID-19 patients in Finland
requiring intensive care during the years 2020 and 2021
was assessed. Background During the COVID-19 pandemic, ICUs worldwide have
faced numerous challenges. The increasing number of
COVID-19 patients and a high number of patients requir
ing respiratory support, in addition to other patients
requiring ICU treatment, have placed high demands on
ICU capacity [1]. At the start of the pandemic in Finland,
critical care resources were expanded to deal with a pos
sible surge in COVID-19 patients requiring intensive
care. The number of ICU admissions due to COVID-19
began to increase in March 2020. In Finland, the peak
prevalence in ICU admissions in patients who tested
positive for COVID-19 was 1.5 per 100 000 in April 2020. The largest number of patients needing ICU treatment
was 83 patients on April 7, 2020. Thereafter, the preva
lence remained below 0.90 per 100 000 (50 patients) dur
ing subsequent waves of the pandemic [2]. During the global outbreaks of SARS in 2002–2003 and
a novel influenza H1N1 in 2009, a substantial increase in
demand of ICU services was reported. According to pre
vious research from New Zealand and Australia, during
the H1N1 pandemic in winter 2009 the number of ICU
admissions was 15 times the number of admissions due
to viral pneumonitis in reference years. In 2002–2003,
SARS pandemic created a strain on healthcare systems in
Toronto. The supply of critical care staff was limited, and
ICU beds were closed which caused limitation of beds for
all critical ill patients [3, 4]. Statistical analysis
hl
d Monthly and yearly incidences with 95% confidence
intervals (CI) were counted per 100 000 person-years by
Poisson exact method and compared by incidence rate
ratios (IRR). Median and interquartile range (IQR) was
calculated for ICU stay duration. The analyses and figures
were performed using R version 3.6.2 (R Foundation for
Statistical Computing, Vienna, Austria). Ethics To our knowledge, the extent of the changes in over
all ICU admissions and the length of ICU stay during the
pandemic remains unclear. As the number of patients
requiring intensive care due to COVID-19 has remained
low during the pandemic in Finland, this is an important
issue that needs to be addressed. Ethics. Methodsh childbirth and the puerperium
19
2.6
18
2.5
0.94
(0.49–1.79)
18
2.5
0.93 (0.49–1.78)
S
Injury. poisoning and other external causes
221
30.7
238
32.8
1.07
(0.89–1.28)
196
26.8
0.87 (0.72–1.06)
T
Injury. poisoning and other external causes
174
24.2
168
23.1
0.96
(0.77–1.18)
220
30.1
1.24 (1.02–1.52)
U0*
Covid patients
0
110
15.1
141
19.3
W
External causes of morbidity
437
60.6
372
51.2
0.84
(0.74–0.97)
390
53.3
0.88 (0.77–1.01)
R. H. L. Z
Other and unspecified
572
79.3
486
66.9
0.84
(0.75–0.95)
569
77.8
0.98 (0.87–1.10)
Fig. 1 The number of COVID-positive patients in three ICU units during the COVID-19 pandemic Table 1 The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the
reference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals
2017–2019
2020
2021
ICD code
Explanation
N
Inc
N
Inc
IRR (95% CI)
N
Inc
IRR (95% CI)
A. B
Infectious and parasitic diseases
273
37.8
266
36.6
0.97
(0.82–1.14)
250
34.2
0.90 (0.76–1.07)
C. D
Neoplasms. diseases of the blood
608
84.4
534
73.5
0.87
(0.78–0.98)
555
75.8
0.90 (0.80–1.01)
E
Endocrine. nutritional and metabolic
diseases
647
89.7
591
81.3
0.91
(0.81–1.01)
602
82.3
0.92 (0.82–1.02)
F
Mental. Behavioral and Neurodevelopmental
disorders
212
29.4
202
27.8
0.95
(0.78–1.15)
221
30.2
1.03 (0.85–1.24)
G
Diseases of the nervous system
219
30.4
194
26.7
0.88
(0.72–1.06)
352
48.1
1.58 (1.34–1.87)
I
Diseases of the circulatory system
1542
213.8
1429
196.7
0.92
(0.86–0.99)
1711
233.8
1.09 (1.02–1.17)
J
Diseases of the respiratory system
163
22.6
125
17.2
0.76
(0.60–0.96)
116
15.9
0.70 (0.55–0.89)
K
Diseases of the digestive system
81
11.2
114
15.7
1.40
(1.05–1.86)
74
10.1
0.90 (0.66–1.23)
M
Diseases of the musculoskeletal system and
connective tissue
21
3.0
13
1.8
0.60
(0.30–1.21)
16
2.2
0.74 (0.39–1.41)
N
Diseases of the genitourinary system
17
2.4
20
2.8
1.17
(0.61–2.23)
22
3.0
1.28 (0.68–2.40)
O
Pregnancy. childbirth and the puerperium
19
2.6
18
2.5
0.94
(0.49–1.79)
18
2.5
0.93 (0.49–1.78)
S
Injury. poisoning and other external causes
221
30.7
238
32.8
1.07
(0.89–1.28)
196
26.8
0.87 (0.72–1.06)
T
Injury. poisoning and other external causes
174
24.2
168
23.1
0.96
(0.77–1.18)
220
30.1
1.24 (1.02–1.52)
U0*
Covid patients
0
110
15.1
141
19.3
W
External causes of morbidity
437
60.6
372
51.2
0.84
(0.74–0.97)
390
53.3
0.88 (0.77–1.01)
R. H. L. Methodsh childbirth and the puerperium
19
2.6
18
2.5
0.94
(0.49–1.79)
18
2.5
0.93 (0.49–1.78)
S
Injury. poisoning and other external causes
221
30.7
238
32.8
1.07
(0.89–1.28)
196
26.8
0.87 (0.72–1.06)
T
Injury. poisoning and other external causes
174
24.2
168
23.1
0.96
(0.77–1.18)
220
30.1
1.24 (1.02–1.52)
U0*
Covid patients
0
110
15.1
141
19.3
W
External causes of morbidity
437
60.6
372
51.2
0.84
(0.74–0.97)
390
53.3
0.88 (0.77–1.01)
R. H. L. Z
Other and unspecified
572
79.3
486
66.9
0.84
(0.75–0.95)
569
77.8
0.98 (0.87–1.10)
Fig. 1 The number of COVID-positive patients in three ICU units during the COVID-19 pandemic lockdown period in 2020 (Fig. 2). The IRR of all-cause
ICU admissions was 1.02 (CI: 0.89 to 1.18) before the
lockdown in February 2020 when compared to refer
ence years. During the lockdown period in 2020, the IRR
of all-cause ICU admissions decreased, falling to 0.78
(CI: 0.67 to 0.90) in March. When the lockdown ended,
the incidence rebounded to pre-pandemic levels and
remained there until the end of that year. In 2021, the
Table 1 The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the
reference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals
2017–2019
2020
2021
ICD code
Explanation
N
Inc
N
Inc
IRR (95% CI)
N
Inc
IRR (95% CI)
A. B
Infectious and parasitic diseases
273
37.8
266
36.6
0.97
(0.82–1.14)
250
34.2
0.90 (0.76–1.07)
C. D
Neoplasms. diseases of the blood
608
84.4
534
73.5
0.87
(0.78–0.98)
555
75.8
0.90 (0.80–1.01)
E
Endocrine. nutritional and metabolic
diseases
647
89.7
591
81.3
0.91
(0.81–1.01)
602
82.3
0.92 (0.82–1.02)
F
Mental. Behavioral and Neurodevelopmental
disorders
212
29.4
202
27.8
0.95
(0.78–1.15)
221
30.2
1.03 (0.85–1.24)
G
Diseases of the nervous system
219
30.4
194
26.7
0.88
(0.72–1.06)
352
48.1
1.58 (1.34–1.87)
I
Diseases of the circulatory system
1542
213.8
1429
196.7
0.92
(0.86–0.99)
1711
233.8
1.09 (1.02–1.17)
J
Diseases of the respiratory system
163
22.6
125
17.2
0.76
(0.60–0.96)
116
15.9
0.70 (0.55–0.89)
K
Diseases of the digestive system
81
11.2
114
15.7
1.40
(1.05–1.86)
74
10.1
0.90 (0.66–1.23)
M
Diseases of the musculoskeletal system and
connective tissue
21
3.0
13
1.8
0.60
(0.30–1.21)
16
2.2
0.74 (0.39–1.41)
N
Diseases of the genitourinary system
17
2.4
20
2.8
1.17
(0.61–2.23)
22
3.0
1.28 (0.68–2.40)
O
Pregnancy. Methodsh This retrospective hospital register-based study was con
ducted in two large - Tampere University Hospital (ter
tiary level unit), and Central Finland Hospital (secondary
level unit) and one mid-size - Mikkeli Central Hospital
(secondary level) Finnish public hospitals. In total, these
hospitals cover a catchment area of approximately 700
000 adult inhabitants (remained unchanged during the
study years). During the study period, the mean age in
Finnish population was 43 years. In the catchment area of When compared to the reference years, the inci
dence of all-cause ICU admissions decreased during the Page 3 of 7 Jäntti et al. BMC Anesthesiology (2023) 23:251 lockdown period in 2020 (Fig. 2). The IRR of all-cause
ICU admissions was 1.02 (CI: 0.89 to 1.18) before the
lockdown in February 2020 when compared to refer
ence years. During the lockdown period in 2020, the IRR
of all-cause ICU admissions decreased, falling to 0.78
(CI: 0.67 to 0.90) in March. When the lockdown ended,
the incidence rebounded to pre-pandemic levels and
remained there until the end of that year. In 2021, the
Table 1 The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the
reference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals
2017–2019
2020
2021
ICD code
Explanation
N
Inc
N
Inc
IRR (95% CI)
N
Inc
IRR (95% CI)
A. B
Infectious and parasitic diseases
273
37.8
266
36.6
0.97
(0.82–1.14)
250
34.2
0.90 (0.76–1.07)
C. D
Neoplasms. diseases of the blood
608
84.4
534
73.5
0.87
(0.78–0.98)
555
75.8
0.90 (0.80–1.01)
E
Endocrine. nutritional and metabolic
diseases
647
89.7
591
81.3
0.91
(0.81–1.01)
602
82.3
0.92 (0.82–1.02)
F
Mental. Behavioral and Neurodevelopmental
disorders
212
29.4
202
27.8
0.95
(0.78–1.15)
221
30.2
1.03 (0.85–1.24)
G
Diseases of the nervous system
219
30.4
194
26.7
0.88
(0.72–1.06)
352
48.1
1.58 (1.34–1.87)
I
Diseases of the circulatory system
1542
213.8
1429
196.7
0.92
(0.86–0.99)
1711
233.8
1.09 (1.02–1.17)
J
Diseases of the respiratory system
163
22.6
125
17.2
0.76
(0.60–0.96)
116
15.9
0.70 (0.55–0.89)
K
Diseases of the digestive system
81
11.2
114
15.7
1.40
(1.05–1.86)
74
10.1
0.90 (0.66–1.23)
M
Diseases of the musculoskeletal system and
connective tissue
21
3.0
13
1.8
0.60
(0.30–1.21)
16
2.2
0.74 (0.39–1.41)
N
Diseases of the genitourinary system
17
2.4
20
2.8
1.17
(0.61–2.23)
22
3.0
1.28 (0.68–2.40)
O
Pregnancy. Methodsh Z
Other and unspecified
572
79.3
486
66.9
0.84
(0.75–0.95)
569
77.8
0.98 (0.87–1.10) Table 1 The yearly number of ICU admissions and incidence in 2020 and 2021 compared to the mean yearly incidence of the
eference years (2017–2019) by incidence rate ratios (IRR) with 95% confidence intervals lockdown period in 2020 (Fig. 2). The IRR of all-cause
ICU admissions was 1.02 (CI: 0.89 to 1.18) before the
lockdown in February 2020 when compared to refer
ence years. During the lockdown period in 2020, the IRR
of all-cause ICU admissions decreased, falling to 0.78
(CI: 0.67 to 0.90) in March. When the lockdown ended,
the incidence rebounded to pre-pandemic levels and
remained there until the end of that year. In 2021, the
Fig. 1 The number of COVID-positive patients in three ICU units during the COVID-19 pandemic Fig. 1 The number of COVID-positive patients in three ICU units during the COVID-19 pandemic Fig. 1 The number of COVID-positive patients in three ICU units during the COVID-19 pandemic of all-cause ICU admissions decreased, falling to 0.78
(CI: 0.67 to 0.90) in March. When the lockdown ended,
the incidence rebounded to pre-pandemic levels and
remained there until the end of that year. In 2021, the lockdown period in 2020 (Fig. 2). The IRR of all-cause
ICU admissions was 1.02 (CI: 0.89 to 1.18) before the
lockdown in February 2020 when compared to refer
ence years. During the lockdown period in 2020, the IRR Jäntti et al. BMC Anesthesiology (2023) 23:251 Page 4 of 7 (2023) 23:251 Jäntti et al. BMC Anesthesiology Fig. 2 Incidence of ICU admissions for any cause during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the
mean of incidences in the reference years (2017–2019) with confidence intervals Fig. 2 Incidence of ICU admissions for any cause during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the
mean of incidences in the reference years (2017–2019) with confidence intervals incidence of all-cause ICU admissions remained at the
same level when compared to the reference years. respiratory system decreased during the study period. The incidence of diseases of the respiratory system was
22.6 per 100 000 person-years during the reference years
but decreased to 17.2 per 100 000 person-years (IRR
0.76, CI:0.60 to 0.96) in 2020. Methodsh In 2021, the incidence was
15.9 per 100 000 person-years (IRR 0.70, CI: 0.55 to 0.89)
when compared to the reference years. In the diseases
of the blood and neoplasms, the incidence was 84.4 per
100 000 person-years during the reference years and then
decreased, being the lowest (73.5) in 2020 (IRR: 0.87, CI:
0.78 to 0.98). The incidence increased slightly in 2021
to 75.8 per 100 000 person-years (IRR: 0.90, CI: 0.80 to
1.01). When compared the all-cause ICU admissions in dif
ferent participating hospitals, the most prominent change
in March 2020 was seen in Mikkeli Central Hospital (IRR:
0.69, CI: 0.55–0.86) and in Tampere University Hospital
(IRR: 0.78, CI: 0.61-1.00). In Central Finland Central hos
pital, the incidence of ICU admissions remained higher
than in reference years during the year 2021, the IRR
being 1.67 (CI: 1.25–2.23) in February 2021 and 1.41 (CI:
1.05–1.89) in September 2021. In Mikkeli Central Hos
pital, the incidence of ICU admissions was lower than in
reference years during 2021. In February 2021, the IRR
was 0.84 (CI: 0.68–1.04) and in August 2021, the IRR was
0.86 (CI: 0.70–1.05). In Tampere University Hospital, the
incidence remained similar than in reference years dur
ing 2021.h The incidence of ICU admissions due to trauma (S)
remained stable during the years 2020 and 2021 in com
parison to the reference years (Fig. 3). During the lock
down in April 2020, the IRR was 1.21 (CI: 0.59 to 2.44). In October, the IRR was 0.81 (CI: 0.41 to 1.61). The inci
dence of ICU admissions due to trauma in 2021 remained
similar to those in the reference years. The IRR was 0.92
(CI: 0.43 to 1.95) in April 2021 and 0.81 (0.41 to 1.60) in
October 2021. The most prominent change occurred in the incidence
of diseases of the nervous system (G), the incidence of
diseases of the respiratory system (J), and the incidence
of neoplasms (C and D) (Table 1). The incidence of the
diseases of the nervous system decreased from 30.4 to
100 000 person-years in 2017–2019 to 26.7 per 100 000
person-years (IRR: 0.88 CI: 0.72 to 1.06) in 2020. There
after, the incidence increased to 48.1 per 100 000 person-
years (IRR: 1.58, CI: 1.34 to 1.87) in 2021 when compared
to the reference years. Methodsh The incidence of diseases of the There were no changes in the length of ICU stay dur
ing 2020 and 2021 when compared to the reference years
(Table 2). Page 5 of 7 Jäntti et al. BMC Anesthesiology Fig. 3 Incidence of ICU admissions in the groups based on ICD-10 diagnostic codes during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the mean of incidences in the reference years (2017–2019) Fig. 3 Incidence of ICU admissions in the groups based on ICD-10 diagnostic codes during the COVID-19 pandemic and the reference years (2017–2019). The darker line illustrates the mean of incidences in the reference years (2017–2019) Table 2 Mean and standard deviation for ICU stay duration in
days during the COVID-19 pandemic and pre-pandemic period
(2017–2019) restrictions reduced the spread of other respiratory infec
tions, which are one of the most common reasons for
ICU admission [10, 11]. In this study, the most prominent
change in all-cause ICU admissions during the lockdown
2020 was seen in Mikkeli Central Hospital, which is a
mid-size hospital. The incidence remained lower than in
reference years during 2021 in Mikkeli Central Hospital,
while an increase was seen in larger Central Finland Cen
tral Hospital. Based on the results of the present study,
the incidence of severe diseases of the respiratory sys
tem in patients requiring ICU treatment decreased dur
ing the pandemic, which further supports the findings of
previous studies. Moreover, after the announcement of a
national lockdown in Finland in 2020, the overall number
of emergency department visits and hospital inpatient
admissions decreased, which may have also affected the
number of ICU admissions [12, 13]. To our knowledge,
the effect of the COVID-19 pandemic on the incidence
of ICU admissions in Finland has not been previously
published.h (2017–2019)
Month
Pre-pandemic
2017–2019
Pandemic
2020–2021
Mean
SD
Mean
SD
Jan
1,5
3,3
1,4
2,6
Feb
1,5
3,2
1,5
2,8
Mar
1,6
3,4
1,7
3,7
Apr
1,7
3,3
1,9
4,4
May
1,4
2,8
1,4
2,7
Jun
1,4
2,9
1,4
2,9
Jul
1,5
3,0
1,5
3,1
Aug
1,4
2,8
1,4
2,9
Sep
1,6
3,4
1,4
2,9
Oct
1,5
2,9
1,5
3,0
Nov
1,4
3,0
1,5
3,3
Dec
1,7
4,0
1,7
3,1 Data availability Research data are not publicly available due to Finnish research legislation as
the Law on the secondary use of routinely collected healthcare data prohibits
to share data. Persons interest in gaining access to data must submit official
application and study protocol to institutional review boards and after the
evaluation of the protocol access to data may be granted, but it must be
noted that the current legislation prohibits the delivery of original data out of
Finland. The data used in the current study available from the corresponding author
on reasonable request. Discussionh The incidence of all-cause ICU admissions decreased
after the lockdown was declared in 2020. At the same
time, the number of COVID-positive patients in ICU
units was highest in April 2020. The proportion of
COVID-positive patients admitted to ICU was, however,
only 3% in 2020 and 2021. In line with the findings of pre
vious studies, the ongoing social distancing measures and The number of patients requiring intensive care due to
COVID-19 remained low during the pandemic in Finland
[2]. This can be explained by the lower incidence of coro
navirus in 2020 and 2021 in Finland, compared to many
other countries, and the measures implemented, where
necessary, during the pandemic. Jäntti et al. BMC Anesthesiology (2023) 23:251 Page 6 of 7 Jäntti et al. BMC Anesthesiology (2023) 23:251 During the study period, the most remarkable change
in ICU admissions occurred in diseases of the nervous
system, diseases of the respiratory system, and neo
plasms. The incidence of diseases of the nervous system
in patients requiring ICU treatment was lowest in 2020
but increased notably in 2021. However, the incidence
of neoplasms in patients requiring ICU treatment first
decreased in 2020 when compared to the reference years
and then increased slightly in 2021. ICU admissions
due to neoplasm include patients who have undergone
oncological surgery due to malignant tumor. A previous
study showed that when the lockdown started in Finland
in April, the incidence of oncological surgery decreased
slightly but remained at the level of previous years [14]. In addition, caring for COVID-positive patients requires
more ICU capacity than patients who do not need isola
tion. Therefore, the total number of patients treated at
the same time in ICUs may have been restricted. may have had more than one diagnosis and reason for
ICU stay. Author contributions V.M., T.H. and V.P. conceived of the presented idea. S.J. and V.P. designed and
performed the data analysis and analyzed the data. S.J. wrote the manuscript
with input from all authors. All authors provided critical feedback, discussed
the results, and helped shape the research and manuscript. V.M. and V.P. supervised the project. The incidence of ICU admissions due to trauma
remained stable during the pandemic when compared
to the reference years. According to a previous Finn
ish study, the total number of emergency department
visits due to injury decreased by 16% during the lock
down period in 2020 [18]. Nevertheless, the incidence
of severely injured trauma patients remained unchanged
during the first wave of COVID-19 in Finland [19]. The
social restrictions and recommendations to stay at home
may have reduced the number of minor injuries because
of the changes in peoples’ behavior. However, our find
ings indicate that the rate of severe traumas and patients
requiring ICU treatment because of live-threatening
injury remained unchanged. According to the previ
ous literature, the number of severe traumas globally
decreased or remained stable during the pandemic
[20–22]. Funding
Th This research received no specific grant from any funding agency in the
public, commercial, or not-for-profit sectors. i
Open access funding provided by Tampere University including Tampere
University Hospital, Tampere University of Applied Sciences (TUNI). Conclusions In conclusion, the incidence of all-cause ICU admissions
decreased during the lockdown due to the COVID-19
pandemic. The proportion of patients with COVID-19
requiring intensive care in Finland was only 3% in 2020
and 2021. Restrictions implemented during the pandemic
reduced the spread of respiratory infections, which are
one of the most common reasons for ICU admission. When the lockdown started in Finland, a slight decrease
was seen in the incidence of oncological surgery and the
incidence of ICU admissions due to neoplasm decreased. However, the incidence of ICU admissions due to trauma
remained stable during the pandemic compared to the
reference years. Abbreviations According to previous studies, the number of ED vis
its due to acute coronary syndrome decreased during
the first wave of the COVID-19 pandemic [15–17]. Fear
of infection may have caused a decreased willingness to
seek treatment and delayed medical intervention may
have caused a worsening of the patients’ cardiac disease. This may, therefore, be reflected in an increase in the
number of ICU admissions during the second wave of the
pandemic. ICU
Intensive Care Unit
CI
Confidence Interval
IRR
Incidence Rate Ratio
IQR
Interquartile Range ICU
Intensive Care Unit
CI
Confidence Interval
IRR
Incidence Rate Ratio
IQR
Interquartile Range Declarations The strengths of our study include the broad range of
data from three large Finnish hospitals. Furthermore,
many previous studies have only evaluated the impact of
the COVID-19 pandemic in 2020. In this study, we were
able to collect follow-up data from all patients during the
first two years of the COVID-19 pandemic and to evalu
ate the impact of the changing restrictions. Our current
study also has a limitation that should be addressed. We
only analyzed treatment periods according to a patient’s
primary diagnosis, and therefore some of the patients References 1. Phua J, Weng L, Ling L, Egi M, Lim CM, Divatia JV, et al. Intensive care manage
ment of coronavirus disease 2019 (COVID-19): challenges and recommenda
tions. Lancet Respir Med. 2020;8(5):506–17. 18. Nygren H, Kopra J, Kröger H, Kuitunen I, Mattila VM, Ponkilainen V, et al. The
effect of COVID-19 lockdown on the incidence of emergency department
visits due to injuries and the most typical fractures in 4 finnish hospitals. Acta
Orthop. 2022;93:360–6. 2. Koronatilastot [Available from. : https://www.koronatilastot.fi/fi/sairaala/. 2. Koronatilastot [Available from. : https://www.koronatilastot.fi/fi/sairaala/. 2. Koronatilastot [Available from. : https://www.koronatilastot.fi/fi/sairaala/. 3. Webb SA, Pettilä V, Seppelt I, Bellomo R, Bailey M, Cooper DJ, et al. Critical
care services and 2009 H1N1 influenza in Australia and New Zealand. N Engl J
Med. 2009;361(20):1925–34. 3. Webb SA, Pettilä V, Seppelt I, Bellomo R, Bailey M, Cooper DJ, et al. Critical
care services and 2009 H1N1 influenza in Australia and New Zealand. N Engl J
Med. 2009;361(20):1925–34. 19. Riuttanen A, Ponkilainen V, Kuitunen I, Reito A, Sirola J, Mattila VM. Severely
injured patients do not disappear in a pandemic: incidence and character
istics of severe injuries during COVID-19 lockdown in Finland. Acta Orthop. 2021;92(3):249–53. 4. Booth CM, Stewart TE. Severe acute respiratory syndrome and critical care
medicine: the Toronto experience. Crit Care Med. 2005;33(1 Suppl):53–60.f 4. Booth CM, Stewart TE. Severe acute respiratory syndrome and critical care
medicine: the Toronto experience. Crit Care Med. 2005;33(1 Suppl):53–60. 20. Walline JH, Hung KKC, Yeung JHH, Song PP, Cheung NK, Graham CA. The
impact of SARS and COVID-19 on major trauma in Hong Kong. Am J Emerg
Med. 2021;46:10–5. 5. Kj Adhikari N, Beane A, Devaprasad D, Fowler R, Haniffa R, James A, et al. Impact of COVID-19 on non-COVID intensive care unit service utilization, case
mix and outcomes: a registry-based analysis from India. Wellcome Open Res. 2021;6:159. 5. Kj Adhikari N, Beane A, Devaprasad D, Fowler R, Haniffa R, James A, et al. Impact of COVID-19 on non-COVID intensive care unit service utilization, case
mix and outcomes: a registry-based analysis from India. Wellcome Open Res. 2021;6:159. 21. van Aert GJJ, van der Laan L, Boonman-de Winter LJM, Berende CAS, de
Groot HGW, van Boele P, et al. Effect of the COVID-19 pandemic during the
first lockdown in the Netherlands on the number of trauma-related admis
sions, trauma severity and treatment: the results of a retrospective cohort
study in a level 2 trauma centre. Competing interests. Competing interests. Competing interests. The Authors declare that they have no competing interests. The Authors declare that they have no competing interests. 9. World Health Organization. ICD-10 Classifications [Available from: https://
www.who.int/classifications/icd/icdonlineversions/en/. Ethics approval and consent to participate The ethical committee evaluation was waived by the Tampere University
Hospital ethical committee. Tampere University Hospital is the tertiary
academic unit of the Pirkanmaa hospital district. According to the Finnish
research legislation ethical committee evaluation is not needed when
routinely collected healthcare data is analyzed and the participants are
not contacted. All methods were carried out in accordance with relevant
guidelines and Finnish regulations (Law on the secondary use of routinely
collected healthcare data and Law of medical research). Page 7 of 7 Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 Jäntti et al. BMC Anesthesiology (2023) 23:251 12. Kuitunen I, Ponkilainen VT, Launonen AP, Reito A, Hevonkorpi TP, Paloneva
J, et al. The effect of national lockdown due to COVID-19 on emergency
department visits. Scand J Trauma Resusc Emerg Med. 2020;28(1):114. According to Finnish research law and the law on the secondary use
of routinely collected healthcare data informed consent to participate
is not required when instituitonal or national register data is analyzed
retrospectively. Therefore, the need for informed consent was waived by the
institutional review boards of the participating hospitals (Tampere University
Hospital, Central Finland Hospital Nova and Mikkeli Central Hospital) and the
ethical committee of the Tampere University Hospital. 13. Tuominen J, Hällberg V, Oksala N, Palomäki A, Lukkarinen T, Roine A. NYU-EDA
in modelling the effect of COVID-19 on patient volumes in a finnish emer
gency department. BMC Emerg Med. 2020;20(1):97. g
y
g
14. Kuitunen I, Ponkilainen VT, Uimonen MM, Paloneva J, Launonen AP, Mattila
VM. Postponing elective surgery due to COVID-19 did not decrease the onco
logical surgery rate in Finland. Br J Surg. 2021;108(5):e191–e3. Received: 10 October 2022 / Accepted: 14 July 2023 Received: 10 October 2022 / Accepted: 14 July 2023 Received: 10 October 2022 / Accepted: 14 July 2023 16. Pines JM, Zocchi MS, Black BS, Celedon P, Carlson JN, Moghtaderi A, et al. The
effect of the COVID-19 pandemic on emergency department visits for seri
ous cardiovascular conditions. Am J Emerg Med. 2021;47:42–51. 17. Olié V, Carcaillon-Bentata L, Thiam MM, Haeghebaert S, Caserio-Schönemann
C. Emergency department admissions for myocardial infarction and stroke in
France during the first wave of the COVID-19 pandemic: National temporal
trends and regional disparities. Arch Cardiovasc Dis. 2021;114(5):371–80. References BMJ Open. 2021;11(2):e045015. 6. Bagshaw SM, Zuege DJ, Stelfox HT, Opgenorth D, Wasylak T, Fraser N, et al. Association between Pandemic Coronavirus Disease 2019 Public Health Mea
sures and reduction in critical care utilization across ICUs in Alberta, Canada. Crit Care Med. 2022;50(3):353–62. 6. Bagshaw SM, Zuege DJ, Stelfox HT, Opgenorth D, Wasylak T, Fraser N, et al. Association between Pandemic Coronavirus Disease 2019 Public Health Mea
sures and reduction in critical care utilization across ICUs in Alberta, Canada. Crit Care Med. 2022;50(3):353–62. 22. Giudici R, Lancioni A, Gay H, Bassi G, Chiara O, Mare C, et al. Impact of the
COVID-19 outbreak on severe trauma trends and healthcare system reassess
ment in Lombardia, Italy: an analysis from the regional trauma registry. World
J Emerg Surg. 2021;16(1):39. 7. Galiatsatos P, Page KR, Chatterjee S, Maygers J, Sarker S, Jones V, et al. Com
paring critical care admissions among urban populations before and during
the COVID-19 pandemic. Health Secur. 2021;19(S1):34–s40. 8. Tilastokeskus. Statistics Finland’s PxWeb databases. Mean population accord
ing to age and sex by area, 1981–2019. [Available from: http://pxnet2.stat.fi/
PXWeb/pxweb/en/StatFin/StatFin__vrm__vaerak/statfin_vaerak_pxt_11s1. px/. Competing interests. The Authors declare that they have no competing interests. p
Not required due to the register-based study design. g
g y
g
15. Uimonen M, Ponkilainen V, Kuitunen I, Eskola M, Mattila VM. Emergency
department visits due to coronary artery disease during COVID-19 in Finland:
a register-based study. Scand J Public Health. 2022;50(1):117–23. Not required due to the register-based study design. Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. Springer Nature remains neutral with regard to jurisdictional claims in
published maps and institutional affiliations. 10. Chu DK, Akl EA, Duda S, Solo K, Yaacoub S, Schünemann HJ. Physical distanc
ing, face masks, and eye protection to prevent person-to-person transmis
sion of SARS-CoV-2 and COVID-19: a systematic review and meta-analysis. Lancet. 2020;395(10242):1973–87. 11. Chen Y, Wang Y, Quan N, Yang J, Wu Y. Associations between wearing masks
and respiratory viral infections: a Meta-analysis and systematic review. Front
Public Health. 2022;10:874693. 11. Chen Y, Wang Y, Quan N, Yang J, Wu Y. Associations between wearing masks
and respiratory viral infections: a Meta-analysis and systematic review. Front
Public Health. 2022;10:874693.
|
https://openalex.org/W2806132127
|
http://www.scielo.br/pdf/bjps/v54n1/2175-9790-bjps-54-01-e17280.pdf
|
English
| null |
Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis - an in vitro assay
|
Brazilian Journal of Pharmaceutical Sciences
| 2,018
|
cc-by
| 3,739
|
INTRODUCTION sources of natural antioxidants (Ebrahimzadeh et al.,
2016; Ebrahimzadeh, Safdari, Khalili, 2015; Khalili,
Ebrahimzadeh, Kosaryan, 2015). Free radicals, which refer to any molecular
species containing unpaired electron in an atomic
orbital, are unstable elements amenable to take part in
chemical reactions (Yangthong, Hutadilok-Towatana,
Phromkunthong, 2009). Reactive oxygen, nitrogen and
sulfur species are free that produce superoxide anion,
hydroxyl radical, hydrogen peroxide and nitric oxide. These compounds may cause diseases as diverse as cancer,
diabetes, Alzheimer, and Parkinson through inducing
oxidative stresses, cell damage and death (Lü et al., 2010;
Yangthong, Hutadilok-Towatana, Phromkunthong, 2009;
Ebrahimzadeh, Safdari, Khalili, 2015). A huge number
of natural compounds have been proven to exhibit
antioxidant activity and be applicable for treatment of
oxidative-damage related diseases. Large number of
plants (e.g. Salvia virgate and Silybum marianum), fungi
(e.g. Cantharellus cibarius) and alga (e.g. Ecklonia cava
and Stoechospermum marginatum) are regarded as major Recent studies have shown that marine algae are
rich in bioactive compounds including polysaccharides,
polyunsaturated fatty acids, polyphenolic compounds,
antioxidants, peptides, essential vitamins and minerals
(Kim et al., 2014; Fernando et al., 2017; Wang et
al., 2017). These compounds exhibit wide range of
pharmacological activities, including antioxidant,
antibacterial, antifungal, anti-inflammatory, anti-aging,
and anti-cancer activities (Mayer et al., 2009; Fernando
et al., 2016; Agatonovic-Kustrin, Morton, 2017). In the
current study, we evaluate the anti-oxidative activity of
two marine alga, Nannochloropsis oculata and Gracilaria
gracilis. *Correspondence: M. Khalili. Neuroscience Research Center, Golestan Uni
versity of Medical Sciences, Gorgan, Iran. Tel/Fax: +981732420515. E-mail
address: mkhalili_phs@goums.ac.ir; mkhalili_ps@yahoo.com Article Brazilian Journal of
Pharmaceutical Sciences http://dx.doi.org/10.1590/s2175-97902018000117280 Mohammad Ali Ebrahimzadeh1, Masoumeh Khalili2,*, Abbas Ali Dehpour3 Mohammad Ali Ebrahimzadeh1, Masoumeh Khalili2,*, Abbas Ali Dehpour3 1Pharmaceutical Sciences Research Center, School of Pharmacy, Mazandaran University of Medical Sciences, Sari, Iran,
2Neurosciences Research Center, Golestan University of Medical Sciences, Gorgan, Iran, 3Department of Biology, Islamic Azad
University, Branch of Qaemshahr, Qaemshahr, Iran The aim of this study was to evaluate the antioxidant activity of ethyl acetate and methanolic extracts of
two marine algae, Nannochloropsis oculata and Gracilaria gracilis. The extracts were assayed for total
phenol and flavonoid content, DPPH free radical scavenging capacity, nitric oxide activity, iron chelation
activity, and reducing power activity. Total phenol and flavonoid content were found to be high in both
algae. Ethyl acetate extracts of both algae were found to exhibit significant antioxidant activity. Ethyl
acetate extract of N. oculata exhibited a good capacity for iron chelation, nitrate oxide, and scavenging
DPPH free radicals (72.95±2.30, 73.73±1.76, and 39.03±0.97% inhibition at 400 µg mL-1 respectively). Keywords: Marine algae/antioxidant activity. Nannochloropsis Oculata/total phenol/total flavonoid/
Gracilaria Gracilis/total phenol/total flavonoid. Antioxidant activity of ethyl acetate and methanolic extracts of
two marine algae, Nannochloropsis oculata and Gracilaria gracilis
– an in vitro assay Antioxidant activity of ethyl acetate and methanolic extracts of
two marine algae, Nannochloropsis oculata and Gracilaria gracilis
– an in vitro assay Chemicals Ferrozine, trichloroacetic acid, 1, 1-diphenyl-2-
picryl hydrazyl (DPPH), and potassium ferricyanide
were purchased from Sigma Chemical Co. (Germany). Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 1 / 6 Page 1 / 6 Page 1 / 6 M. A. Ebrahimzadeh, M. Khalili, A. A. Dehpour 54°39′20″E, 2015). G. gracilis samples were washed
with water and then dried at 45 °C for 24 h using forced
convection drying oven. butylated hydroxyanisole, ascorbic acid, sulfanilamide,
N-(1-naphthyl)ethylenediamine dihydrochloride,
ethylenediaminetetraacetic acid, and ferric chloride were
purchased from Merck (Germany). Algae species N. oculata was cultivated to Walne medium (Walne
1970) (Table I). G. gracilis samples were kindly provided
by Dr. Dehpour (Department of Biology, Islamic Azad
University, Branch of Qaemshahr, Qaemshahr, Iran). The
samples have been gathered from the beach of Persian Gulf
(Bostaneh, Central District of Bandar Lengeh County,
Hormozgan Province, Iran. Coordinates: 26°30′37″N Ethyl acetate extracts were obtained by percolating
10 g of powdered algae for 24 h at room temperature. The
extracts were refined using Whatman filter paper (No. 1).The remaining samples were used to extract methanolic
compounds. Both the extracts were filtered and then
concentrated under reduced pressure at 40 °C using a rotary
evaporator. All extracts were dried by vacuum freeze dryer. Determination of total flavonoid and phenolic
contents TABLE I - Walne media for cultivated N. oculata
Stocks
Per 100 mL
(1) Trace metal solution (TMS)
ZnCl2
2.1 g
CoCl2.6HO2
2.0 g
(NH4)6Mo7O24.4HO2
0.9 g
CuSO4.5H2O
2.0 g
Make up to 100 mL with distilled water. This solution is
normally cloudy. Acidify with a few drops of conc. HCl to give
a clear solution. (2) Vitamin solution
Vitamin B12. (Cyanocobalamin)
10.0 mg
Vitamin B1(Thiamine.HCl)
10.0 mg
Vitamin H (Biotin)
200.0 µg
Make up to 100 ml with distilled water. (3) Nutrient solution
per litre
FeCl3.6H02
1.3 g
MnCl2.4H02
0.36 g
H3BO3
33.6 g
EDTA(Disodium salt)
45.0 g
NaH2PO4.2HO2
20.0 g
NaNO3
100.0 g
TMS (1 above)
1.0 ml
Make up to 1 litre with distilled water. Medium
per litre
Nutrient solution (3)
1.0 mL
Vitamin solution (2)
0.1 mL
Sterilised seawater
1.0 L
Dispense nutrient and vitamin solutions separately into 10 mL
and 1 mL respectively and autoclave at 15 psi for 15 minutes. Add an aliquot of each aseptically 10 L of sterilised seawater. TABLE I - Walne media for cultivated N. oculata To quantity total flavonoids in the algae species, 0.5
mL of each algal extract (Concentration: 800 µg mL-1)
was mixed with 1.5 mL methanol, 0.1 mL 1 M potassium
acetate, 0.1 mL aluminum chloride10%, and 2.8 mL
distilled water, and then incubated at room temperature
for 30 min. The absorbance was measured at 415 nm by
spectrophotometer. Total flavonoid content was calculated
as quercetin equivalents (QE) from a calibration curve as
described previously (Ebrahimzadeh, Safdari, Khalili,
2015). Total phenolic content was measured using
Folin–Ciocalteu method. Summarily, the extracts (0.5
mL) were mixed with 2.5 mL of Folin-Ciocalteau reagent
(0.2 N) and 2.0 mL sodium carbonate (concentration of
75g/L) and subjected to absorbance measuring at 760
nm (spectrophotometer (UV-Visible EZ201, Perkin
Elmer, Norwalk, Connecticut). More details on the
procedure can be found in our previously published article
(Ebrahimzadeh, Safdari, Khalili, 2015). The results were
expressed as gallic acid equivalents (GAE). Metal chelating activity assay Metal chelating activity assay has been described
in our previous work (Ebrahimzadeh, Safdari, Khalili,
2015). Summarily, 1 mL of each extracts (800 μg mL-1)
was mixed with 0.5 mL of 2 mM FeCl (II) solution, to
which 0.2 mL of ferrozine (5 mM) was added to initiate
the reaction by adding. The absorbance of the solutions
was measured at 562 nm. EDTA was used as a standard. Reducing power assay Each extract (at different concentrations, ranging
from 100 to 1600 μg mL-1) was mixed with 1 mL potassium
hexacyanoferrate and 1 mL phosphate buffer (0.2 M, pH
6.6) (1%), incubated at 50°C (in a water bath) for 20 min,
and then received To terminate the reaction, 1 mL of TCA
(10%) was added to each reaction. The upper portion of the
solution (1 mL) was mixed with 1 mL distilled water and
0.2 mL iron (III) chloride solution (0.1%) and subjected to
absorbance measuring at 700 nm (Ebrahimzadeh, Safdari,
Khalili, 2015). We found the maximum phenolic compounds in
ethyl acetate extract of algal species. Our results are
consistent with the results of Duan et al. (2006). However,
our findings are inconsistent with the reports of Farasat et
al. (2014). They evaluated the total phenol and flavonoid
content of some algae species driven from northern coasts
of the Persian Gulf, and showed that methanolic extracts
contain higher levels of flavonoid content. l Statistical analysis Both phenolic and flavonoid compounds have been
demonstrated to exhibit wide range of advantageous
biological activities, including antioxidant activity,
free radical scavenging activity, anti-cancer and anti-
atherosclerotic activities, and so forth (Balasundram,
Sundram, Samman, 2006; Cox, Abu-Ghannam, Gupta,
2010; Duan et al., 2006; Li et al., 2007; Fernando et al.,
2016). All the experiments included in this study were
done in triplicate and the results expressed as means ±
SD. The data were analyzed through one-way analysis
of variance (ANOVA) using GrphPad Prism. The means
were compared using Tukey multiple comparisons test
(p<0.05). Nitric oxide scavenging activity assay Dispense nutrient and vitamin solutions separately into 10 mL
and 1 mL respectively and autoclave at 15 psi for 15 minutes. Add an aliquot of each aseptically 10 L of sterilised seawater. 3 mL of each extract (800 µg mL-1) was added to 3 mL of each extract (800 µg mL-1) was added to Braz. J. Pharm. Sci. 2018;54(1):e17280 Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 2 / 6 Page 2 / 6 Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay l acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria and methanolic extracts of N. oculata were calculated to
be 4.54 and 5.15 %, respectively. 1 mL of sodium nitroprusside (10 mM) and incubated at
room temperature for 150 min. Afterward, 0.5 mL Griess
reagent [1% sulfanilamide, 2% H3PO4, and 0.1% N-(1-
naphthyl) ethylenediamine dihydro chloride] was added to
the reaction and subjected to absorbance measuring at 546
nm. Quercetin (a flavonoid compound, PubChem CID:
5280343) was used as a positive control (Ebrahimzadeh,
Safdari, Khalili, 2015). DPPH radical scavenging activity DPPH radical scavenging activity was assayed as
described previously (Ebrahimzadeh, Safdari, Khalili,
2015). Summarily, 2 mL of DPPH solution (100 μM) was
added to 2 mL of each fraction (concentration of 800 μg
mL-1) and then incubated at room temperature for 15 min,
the absorbance was recorded at 517 nm. The reaction was
then subjected to absorbance measuring at 517 nm. BHA
was used as standard control. Total phenol content was calculated using Folin-
Ciocalteau method and linear gallic acid standard curve
(y = 0.0054x +0.0623; r = 1). The content of total phenols
in the algal species is shown in Table II. The maximum and
the minimum amounts of phenolic compounds belonged to
ethyl acetate extract of N. oculata and methanolic extract
of the G. gracilis 41.45±1.42 and 29.39±2.01mg gallic
acid equivalent g-1 of extract, respectively (Table II). Total
phenol content of methanolic extract of N. oculata and
ethyl acetate extract of G. gracilis were calculated to be
30.94±1.61 and 35.53±1.47 mg gallic acid equivalent g-1
of extract, respectively. Total flavonoid and phenolic contents Total flavonoid content of all the extracts is shown
in Table II. Ethyl acetate extracts of both N. oculata and
G. gracilis species were found to be rich in flavonoid
compounds (71.79±2.32 and 66.48±1.87 mg quercetin
equivalent g-1 of extract, respectively) while their
methanolic extracts were found to contain less amounts
of flavonoid compounds (42.08±1.09 and 26.47±1.203 mg
quercetin equivalent g-1 of extract, respectively). Ethyl acetate and methanolic extracts of N.
oculata and G. gracilis Ethyl acetate extracts of both algae species were
found to have higher iron chelation activity than their
methanolic extracts. . The maximum and the minimum
iron chelation activities belonged to ethyl acetate extract
of N. oculata (and the methanolic extract of G. gracilis -
72.95±2.30 and 19.49±1.46% inhibition at 400 µg mL-1,
respectively. The correlation coefficient (r2) between The maximum and the minimum extraction
efficiencies belonged to ethyl acetate extract of G. gracilis
and methanolic extract of G. gracilis, 0.016 and 0.059 g/g
DW, respectively. Extraction efficiencies for ethyl acetate Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 3 / 6 Page 3 / 6 M. A. Ebrahimzadeh, M. Khalili, A. A. Dehpour TABLE II -Total phenol and flavonoid contents and antioxidant activities of ethyl acetate and methanolic extract of N. oculata and
G. gracilis TABLE II -Total phenol and flavonoid contents and antioxidant activities of ethyl acetate and methanolic extract of N. oculata and
G. gracilis
Sample name
N. oculata
G. gracilis
Extract
Ethyl acetate extract Methanolic extract Ethyl acetate extract Methanolic extract
EFFICIENCY (g/g DW)
0.045
0.051
0.016
0.059
Total Flavonoid content (mg quercetin
equivalent g-1 of extract)
71.79±2.32
42.08±1.09
66.48±1.87
26.47±1.203
Total Phenol content (mg gallic acid
equivalent g-1 of extract)
41.45±1.42
30.94±1.61
35.53±1.47
29.39±2.01
Iron chelation activity*
percentage of
inhibition at
400 µg mL-1
72.95±2.30
29.71±1.98
49.71±1.93
19.49±1.46
Nitric Oxide activity **
73.73±1.76
65.6±1.54
65.33±2.54
34.8±1,59
DPPH***
39.03±0.97
21.68±1.41
20.48±0.38
17.4±1.34
Each value is the mean of three replicate determinations ± SD; * EDTA was used as control (IC50 =18.27 ± 0.09 μg mL-1); **
Quercetin was used as control (IC50 =5.28 ± 0.2 μg mL-1); *** BHA was used as control (IC50 = 53.96 ± 3.1 μg mL-1). TABLE II -Total phenol and flavonoid contents and antioxidant activities of ethyl acetate and methanolic extract of N. oculata and
G. gracilis inhibition at 400 µg mL-1) and the lowest activity belonged
to methanolic extract of G. gracilis (17.4±1.34% inhibition
at 400 µg mL-1). Methanolic extract of N. oculata and
ethyl acetate extract of G. gracilis (at concentration of
400 µg mL-1) were found to inhibit DPPH free radicals
up to 21.68±1.41 and 20.48±0.38%, respectively. DPPH
was found to have a high correlation (r²= 0.81) with
total phenolic compounds but not with total flavonoid
compounds (r² = 0.49). Ethyl acetate and methanolic extracts of N.
oculata and G. gracilis These findings are consistent
with the results of our previous study (carried out on
Cantharellus cibarius) and also with the results of
Orhan and Üstün who investigated the correlation of
phenol content and antioxidant activity of some Turkey
mushrooms (Ebrahimzadeh, Safdari, Khalili, 2015; Orhan,
Üstün, 2011; Duan et al., 2006). iron chelation activity and either “total phenol” or
“flavonoid content “was calculated to b 0.99 and 0.89,
respectively. Studies show that algae are rich in compounds
with significant iron chelation activity (Bermejo, Piñero,
Villar, 2008). Metal chelation ability depends on the type
(flavonoid and phenolic acid), structure, and the number of
available hydroxyl groups (Wang, Jónsdóttir, Ólafsdóttir,
2009). Reducing power activity Reducing power, which is an index for antioxidant
activity, can be measured using a reaction in which Fe 3+ in
potassium ferricyanide is converted into Fe 2+. The reaction
product is measured using spectrophotometer at λ = 700
nm (Sharma, Gujral, Singh, 2012; Gontijo et al., 2012). As shown in Figure 1, reducing power of all the extracts
increased in a dose dependent manner. In both N. oculata
and G. gracilis species, ethyl acetate extracts werefound
to have higher reduction capacity than methanolic extract
(Figure 1). The least reduction power belonged Methanolic
extract of G. gracilis. Vitamin C (the control) reached
a plateau at concentration of 800µg/ml-1 (OD = 0.401),
whereas the ethyl acetate extract of N. oculata and
methanolic extract of G. gracilis exceeded this value and
produced OD values of 0.73 and 0.531, respectively. At
concentration of 1600µg/ml-1 reducing power was found Nitric oxide activity Nitric oxide activity of the algal extracts at
concentration of 400 µg mL-1 for ethyl acetate extract of
N. oculata, the methanolic extract of N. oculata, the ethyl
acetate extract of G. gracilis, and ethyl acetate extract of
G. gracilis were calculated to be 73.73±1.7 %, 65.6±1.54,
65.33±2.54 and 34.8±1.59% inhibition respectively. There
was a low correlation between nitric oxide activity and
either total phenol or flavonoid contents (r2 = 0.56 and
r2 = 0.69 respectively). Reactive oxygen and nitrogen
species are two main sources of oxidative substances,
including hydrogen peroxide, superoxide, nitric oxide and
peroxynitrite (ONOO−). These substances can damage
proteins, lipids and DNA. (Thanigaivel et al., 2016). REFERENCES Agatonovic-Kustrin S, Morton DWJ. Quantification of
polyphenolic antioxidants and free radical scavengers in marine
algae. J Appl Phycol. 2017;29:1-8. Agatonovic-Kustrin S, Morton DWJ. Quantification of
polyphenolic antioxidants and free radical scavengers in marine
algae. J Appl Phycol. 2017;29:1-8. Irudayaraj and colleagues (2012) reported that ethyl
acetate extract driven from leaves of Toddalia asiatica
has potential anti-diabetic and antioxidant capacities. Al‑Saeedi, Al- Ghafri, Hossain (2016) reported that the
ethyl acetate extract of Ziziphus jujuba L. has high levels
of phenolic and flavonoid compounds. Therefore, the ethyl
acetate extracts of N. oculata and G. gracilis could be
used as a natural antioxidant for the treatment of different
diseases related with free radicals and oxidative stress. Al-Saeedi AH, Al- Ghafri MTH, Hossain MA. Comparative
evaluation of total phenols, flavonoids content and antioxidant
potential of leaf and fruit extracts of Omani Ziziphus jujuba L. PSRA. 2016;18(1):78-83. Balasundram N, Sundram K, Samman S. Phenolic compounds
in plants and agri-industrial by-products: antioxidant activity,
occurrence, and potential uses. Food Chem. 2006;99(1):191-
203. DPPH radical scavenging activity DPPH color change from purple -to- yellow is an
index for radical-scavenging activity, the more intense
color transformation the higher scavenging activity is
expected (Gontijo et al., 2012). As shown Table II, the
highest DPPH radical scavenging activity belonged to
the ethyl acetate extract of N. oculata (39.03±0.97% Page 4 / 6 Page 4 / 6 Braz. J. Pharm. Sci. 2018;54(1):e17280 Antioxidant activity of ethyl acetate and methanolic extracts of two marine algae, Nannochloropsis oculata and Gracilaria gracilis – an in vitro assay FIGURE 1 - Reducing power of ethyl acetate and methanolic extracts of algal species. Each point on the graphs represents the
mean of three repetitions. FIGURE 1 - Reducing power of ethyl acetate and methanolic extracts of algal species. Each point on the graphs represents the
mean of three repetitions. FIGURE 1 - Reducing power of ethyl acetate and methanolic extracts of algal species. Each point on the graphs represents the
mean of three repetitions. research council of Medical Sciences University of
Mazandaran, Iran. to have a potent coloration with total phenolic (r2=0.98)
and flavonoid (r2=0.92) compounds. Phenolic compounds
and flavonoids are electron donor substances that play an
important role in exhibiting reduction capacity (Sharma,
Gujral, Singh, 2012). Therefore, high coloration between
reducing power and total phenolic and flavonoid content
may be a reason for high reducing power activity. CONCLUSION Bermejo P, Piñero E, Villar ÁM. Iron-chelating ability and
antioxidant properties of phycocyanin isolated from a protean
extract of Spirulinaplatensis. Food Chem. 2008;110(2):436-45. Ethyl acetate extracts of Nannochloropsis oculata
and Gracilaria gracilis algae have considerable amounts
of phenolic and flavonoid compounds. Ethyl acetate
extracts driven from the both algae species exhibit
significant antioxidant activity. There is a good correlation
between total phenols and flavonoids content and iron
chelation activity Cox S, Abu-Ghannam N, Gupta S. An assessment of the
antioxidant and antimicrobial activity of six species of edible
Irish seaweeds. Int Food Res J. 2010;17:205-20. ACKNOWLEDGMENTS Duan, XJ, Zhang, WW, Li XM, Wang BG. Evaluation of
antioxidant property of extract and fractions obtained from a red
alga, Polysiphonia urceolata. Food Chem. 2006;95(1):37-43. This research was supported by a grant from the This research was supported by a grant from the Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 5 / 6 Page 5 / 6 M. A. Ebrahimzadeh, M. Khalili, A. A. Dehpour Lü JM, Lin PH, Yao Q, Chen C. Chemical and molecular
mechanisms of antioxidants: experimental approaches and
model systems. J Cell Mol Med. 2010;14(4):840-60. Lü JM, Lin PH, Yao Q, Chen C. Chemical and molecular
mechanisms of antioxidants: experimental approaches and
model systems. J Cell Mol Med. 2010;14(4):840-60. Ebrahimzadeh MA, Khalili M, Azadbakht M, Azadbakht
M. Salvia virgata JACQ. and silibum marianum L. gaertn
display significant iron-chelating activity. Int J Pharm Sci Res. 2016;9(7):3756-63. Mayer AM, Rodríguez AD, Berlinck RG, Hamann MT. Marine
pharmacology in 2005-6: marine compounds with anthelmintic,
antibacterial, anticoagulant, antifungal, anti-inflammatory,
antimalarial, antiprotozoal, antituberculosis, and antiviral
activities; affecting the cardiovascular, immune and nervous
systems, and other miscellaneous mechanisms of action. Biochim Biophys Acta. 2009;1790(5):283-308. Ebrahimzadeh MA, Safdari Y, Khalili M. Antioxidant activity of
different fractions of methanolic extract of the golden chanterelle
mushroom Cantharellus cibarius (higher basidiomycetes) from
Iran. Int J Med Mushrooms. 2015,17(6):557-65. Ebrahimzadeh MA, Safdari Y, Khalili M. Antioxidant activity of
different fractions of methanolic extract of the golden chanterelle
mushroom Cantharellus cibarius (higher basidiomycetes) from
Iran. Int J Med Mushrooms. 2015,17(6):557-65. Farasat M, Khavari-Nejad RA, Nabavi SMB, Namjooyan F. Antioxidant activity, total phenolics and flavonoid contents of
some edible green seaweeds from Northern coasts of the Persian
Gulf. Iran J Pharm Res. 2014;13(1):163-70. Orhan I, Üstün O. Determination of total phenol content,
antioxidant activity and acetylcholinesterase inhibition
in selected mushrooms from Turkey. J Food Comp Anal. 2011;24(3):386-90. Fernando IS, Kim M, Son KT, Jeong Y, Jeon YJ. Antioxidant
activity of marine algal polyphenolic compounds: a mechanistic
approach. J Med Food. 2016;19(7):615-28. Sharma P, Gujral HS, Singh B. Antioxidant activity of barley as
affected by extrusion cooking. Food Chem. 2012;131(4):1406-
13. Fernando IS, Sanjeewa KA, Samarakoon KW, Lee WW, Kim
HS, Kim EA, Gunasekara U, Abeytunga D, Nanayakkara C,
Silva E. FTIR characterization and antioxidant activity of water
soluble crude polysaccharides of Sri Lankan marine algae. Algae. 2017;32(1):75-86. Thanigaivel S, Chandrasekaran N, Mukherjee A, John T. Seaweeds as an alternative therapeutic source for aquatic disease
management. Aquaculture. 2016;464:529-36. Walne PR. Studies on the food value of nineteen genera of
algae to juvenile bivalves of the genera Ostrea, Crassostrea,
Mercenaria, and Mytilis. Fish Invest. 1970;26:162. This research was supported by a grant from the Gontijo VS, Souza TC, Rosa IA, Soares MG, Silva MA,
Vilegas W, Viegas C, Santos MH. Isolation and evaluation of
the antioxidant activity of phenolic constituents of the Garcinia
brasiliensis epicarp. Food Chem. 2012;132(3):1230-5. Wang, T, Jónsdóttir R, Ólafsdóttir G. Total phenolic compounds,
radical scavenging and metal chelation of extracts from
Icelandic seaweeds. Food Chem. 2009;116(1):240-8. Irudayaraj SS, Sunil C, Duraipandiyan V, Ignacimuthu S. Antidiabetic and antioxidant activities of Toddalia asiatica
(L.) Lam. leaves in Streptozotocin induced diabetic rats. J
Ethnopharmacol. 2012;143(2):515-23. Wang H-MD, Li X-C, Lee D-G, Chang J-S. Potential biomedical
applications of marine algae. Bioresour Technol., 2017. [In
press]. Khalili M, Ebrahimzadeh MA, Kosaryan M. In vivo iron-
chelating activity and phenolic profiles of the Angel’s Wings
Mushroom, Pleurotus porrigens (Higher Basidiomycetes). Int
J Med Mushrooms. 2015;17(9):847-56. Yangthong M, Hutadilok-Towatana N, Phromkunthong W. Antioxidant activities of four edible seaweeds from the southern
coast of Thailand. Plant Foods Hum Nutr. 2009;64(3):218-23. Kim SY, Kim EA, Kang MC, Lee JH, Yang HW, Lee JS, Lim
TI, Jeon YJ. Polyphenol-rich fraction from Ecklonia cava
(a brown alga) processing by-product reduces LPS-induced
inflammation in vitro and in vivo in a zebrafish model. Algae. 2014;29(2):165-74. Received for publication on 16th May 2017
Accepted for publication on 07th August 2017 Received for publication on 16th May 2017
Accepted for publication on 07th August 2017 Li HB, Cheng KW, Wong CC, Fan KW, Chen F, Jiang Y. Evaluation of antioxidant capacity and total phenolic content
of different fractions of selected microalgae. Food Chem. 2007;102(3):771-6. Braz. J. Pharm. Sci. 2018;54(1):e17280 Page 6 / 6 Page 6 / 6
|
https://openalex.org/W4293186724
|
https://hal-insu.archives-ouvertes.fr/insu-03618558/document
|
English
| null |
The HIFI spectral survey of AFGL 2591 (CHESS)
|
Astronomy & astrophysics
| 2,014
|
cc-by
| 16,435
|
HAL Id: insu-03618558
https://insu.hal.science/insu-03618558v1
Submitted on 24 Mar 2022
The HIFI spectral survey of AFGL 2591 (CHESS). II.
Summary of the survey
M. Kaźmierczak-Barthel, F. F. S. van Der Tak, F. P. Helmich, L. Chavarría,
K. -S. Wang, C. Ceccarelli
To cite this version:
M. Kaźmierczak-Barthel, F. F. S. van Der Tak, F. P. Helmich, L. Chavarría, K. -S. Wang, et al.. The
HIFI spectral survey of AFGL 2591 (CHESS). II. Summary of the survey. Astronomy and Astrophysics
- A&A, 2014, 567, 10.1051/0004-6361/201322819. insu-03618558 To cite this version:
M. Kaźmierczak-Barthel, F. F. S. van Der Tak, F. P. Helmich, L. Chavarría, K. -S. Wang, et al.. The
HIFI spectral survey of AFGL 2591 (CHESS). II. Summary of the survey. Astronomy and Astrophysics
- A&A, 2014, 567, 10.1051/0004-6361/201322819. insu-03618558 Distributed under a Creative Commons Attribution 4.0 International License 1. Introduction forming regions and the differences between regions with dif-
ferent masses/luminosities. The target sources of CHESS are
the pre-stellar cores I16293E and L1544, the outflow shock
spot L1157-B1, the low-mass protostar IRAS16293-2422, the
intermediate-mass protostar OMC2-FIR 4, the intermediate-
luminosity hot cores NGC 6334I and AFGL 2591, and the high-
luminosity hot core W51e1/e2. Almost the entire spectral range
of the HIFI instrument, that is, 480 to 1910GHz, has been used
to observe these objects. In this paper we focus on the source
AFGL 2591. Massive stars play a major role in the evolution of galaxies. From their birth in dense molecular clouds to their death as a su-
pernova explosion, massive stars interact heavily with their sur-
roundings by emitting strong stellar winds and by creating heavy
elements (Zinnecker & Yorke 2007). They influence the forma-
tion of nearby low-mass stars and planets (Bally et al. 2005) and
the physical, chemical, and morphological structure of galaxies
(e.g. Kennicutt & Evans 2012). Although massive stars are an
important component of galaxies, their formation processes are
still unclear. It is difficult to observe high-mass star forming re-
gions because of high dust extinction and their large distances
and rapid evolution (Tan et al. 2014). Spectral surveys simultaneously cover a wide variety of
molecular and atomic lines. In this way they offer the possibil-
ity to probe cold and warm gas and the fundamental processes
that occur in star forming regions. Especially the wide frequency
range of Herschel’s allowed us to cover molecular lines from
very different energy levels, from light to heavier molecules, and
thus to study the several species thoroughly. High-mass star forming regions are quite rare, so each ob-
servational effort is very helpful in solving they represent. One
of the goals of the Herschel Space Observatory (Pilbratt et al. 2010) was to improve our understanding of the high-mass star
formation processes. Among the several key projects devoted
to those studies, we focus here on the Herschel key program
Chemical Herschel Survey of Star Forming Regions (CHESS,
Ceccarelli et al. 2010). The aim of this project is to study
the chemical composition of dense regions of the interstel-
lar medium and to understand the chemical evolution of star AFGL 2591 is one of the CHESS sources. It is a relatively
isolated high-mass protostellar object with a bipolar molecular
outflow (Van der Tak et al. 1999). 1 The previous distance estimates were uncertain, with values between
1 and 2 kpc (e.g. Van der Tak et al. 1999, 2000b), thus luminosity at
1 kpc L = 2 × 104 L⊙. ⋆Herschel is an ESA space observatory with science instruments
provided by European-led Principal Investigator consortia and with im-
portant participation from NASA.
⋆⋆Appendix A is available in electronic form at
http://www.aanda.org ABSTRACT Aims. This paper presents the richness of submillimeter spectral features in the high mass star forming region AFGL 2591. Methods. As part of the Chemical Herschel Survey of Star Forming Regions (CHESS) key programme, AFGL 2591 was observed
by the Herschel (HIFI) instrument. The spectral survey covered a frequency range from 480 to 1240 GHz as well as single lines from
1267 to 1901 GHz (i.e. CO, HCl, NH3, OH, and [CII]). Rotational and population diagram methods were used to calculate column
densities, excitation temperatures, and the emission extents of the observed molecules associated with AFGL 2591. The analysis was
supplemented with several lines from ground-based JCMT spectra. pp
g
p
Results. From the HIFI spectral survey analysis a total of 32 species were identified (including isotopologues). Although the lines
are mostly quite weak (
TmbdV∼few K km s−1), 268 emission and 16 absorption lines were found (excluding blends). Molecular
column densities range from 6 × 1011 to 1 × 1019 cm−2 and excitation temperatures from 19 to 175 K. Cold (e.g. HCN, H2S, and NH3
with temperatures below 70 K) and warm species (e.g. CH3OH, SO2) in the protostellar envelope can be distinguished. Key words. ISM: individual objects: AFGL 2591 – ISM: molecules – stars: formation – stars: massive The HIFI spectral survey of AFGL 2591 (CHESS) 1 SRON Netherlands Institute for Space Research, Landleven 12, 9747 AD Groningen, The Netherlands
e-mail: maja.kazmierczak@gmail.com 2 Kapteyn Astronomical Institute, University of Groningen
3 2 Kapteyn Astronomical Institute, University of Groningen, PO Box 800, 9700 AV Groningen, The Netherlands
3
i
id d d Chil
C
i
d l Ob
i 1515
C
d
S
i
Chil Kapteyn Astronomical Institute, University of Groningen, PO Box 800, 9700 AV Groningen,
3 Universidad de Chile, Camino del Observatorio 1515, Las Condes, Santiago, Chile 3 Universidad de Chile, Camino del Observatorio 1515, Las Condes, Santiago, Chile
4 4 Leiden Observatory, Leiden University, PO Box 9513, 2300 RA Leiden, The Netherlands
5 4 Leiden Observatory, Leiden University, PO Box 9513, 2300 RA Leiden, The N
5 5 Institute of Astronomy and Astrophysics, Academia Sinica, Taipei, Taiwan
6 UJF G
bl 1/CNRS INSU I
i
d Pl
é l
i
d’A
h
i
d 5 Institute of Astronomy and Astrophysics, Academia Sinica, Taipei, Taiwan
6 UJF-Grenoble 1/CNRS-INSU, Institut de Planétologie et d’Astrophysique de Received 9 October 2013 / Accepted 16 May 2014 Received 9 October 2013 / Accepted 16 May 2014 HAL Id: insu-03618558
https://insu.hal.science/insu-03618558v1
Submitted on 24 Mar 2022 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License Astronomy
&
Astrophysics Astronomy
&
Astrophysics A&A 567, A53 (2014)
DOI: 10.1051/0004-6361/201322819
c⃝ESO 2014 A&A 567, A53 (2014)
DOI: 10.1051/0004-6361/201322819
c⃝ESO 2014 1. Introduction A massive sub-Keplerian disk
has been proposed to exist around source AFGL 2591–VLA 3
(Wang et al. 2012). AFGL 2591 is located in the Cygnus X re-
gion, (l, b) = 78.◦9, 0.◦71. Based on VLBI parallax measurements
of 22 GHz water maser, Rygl et al. (2012) have recently esti-
mated the distance1 towards AFGL 2591 to be 3.33 ± 0.11 kpc, Article published by EDP Sciences A53, page 1 of 18 A&A 567, A53 (2014) Table 1. Overview of all HIFI bands for the observations of AFGL 2591
(bands 1a−5a are spectral scans, 5b−7b single-frequency settings). hence, the corresponding luminosity is L = 2 × 105 L⊙(Sanna
et al. 2012). For a detailed source description see Van der Wiel
et al. (2013, hereafter Paper I) and references therein. Band
Freq. range
Beam size
rms
Obs. time
[GHz]
[′′]
[K]
[s]
1a
483–558
41
0.030
4591
1b
555–636
36
0.029
4643
2a
631–722
31
0.026
9833
2b
717–800
28
0.067
6407
3a
800–859
26
0.039
4893
3b
858–960
23
0.067
8578
4a
950–1060
21
0.157
9137
4b
1051–1120
20
0.144
6300
5a
1110–1240
18
0.147
11931
5b
1266–1270
17
0.149
1380
5b
1251–1255
17
0.149
2255
6a
1496–1499
14
0.117
1440
6b
1611–1614
13
0.106
1392
7a
1726–1729
12
0.092
1575
7a
1762–1764
12
0.095
1423
7b
1840–1843
12
0.092
1711
7b
1900–1903
12
0.120
1452
0
5
10
15
20
25
500
600
700
800
900
1000 1100 1200 1300 1400 1500 1600 1700 1800 1900
Tmb [K]
frequency [GHz]
Fig. 1. Complete baseline-subtracted spectrum. The strongest lines be-
long to CO and its isotopologues, while at 1901 GHz [CII] is seen. The richness of the detected lines in AFGL 2591 from the
HIFI/CHESS spectral survey gives us the opportunity to gain
detailed insight into its chemical and physical structure. Results
from the spectral survey will be presented in a series of papers. The first one focused on highly excited linear rotor molecules
(Van der Wiel et al. 2013). In the present work the entire HIFI
spectral survey of AFGL 2591 is presented. Van der Wiel et al. (2013) studied linear rotor molecules
(CO, HCO+, CS, HCN, HNC) in the high-mass protostellar en-
velope. This work was based on the Herschel/HIFI data together
with observations from the ground-based telescopes, JCMT and
IRAM 30 m. 2 Data are available from
www-laog.obs.ujf-grenoble.fr/heberges/hs3f
3 HIPE is a joint development by the Herschel Science Ground
Segment Consortium, consisting of ESA, the NASA Herschel Science
Center, and the HIFI, PACS and SPIRE consortia. 4 The James Clerk Maxwell Telescope is operated by the Joint
Astronomy Centre on behalf of the Science and Technology Facilities
Council of the United Kingdom, the Netherlands Organisation for
Scientific Research, and the National Research Council of Canada. 1. Introduction The line profiles of the observed emissions con-
sist of two components, a narrow one that corresponds to the
envelope, and a broad component from the outflow. The same
nomenclature is used in the present paper. This paper starts with the description of the observations
and the data reduction of Herschel and JCMT spectra (Sect. 2). In Sect. 3 the general summary of the HIFI/CHESS spectral sur-
vey of AFGL 2591 is given. Here, all of the observed species
from that survey are presented together with emission and ab-
sorption lines analysis. Discussions and conclusions are given in
Sects. 5 and 6. Appendix A gives a table with all detected tran-
sitions and plots of their line profiles. 2.1. 480−1850 GHz Herschel/HIFI data 2.1. 480−1850 GHz Herschel/HIFI data Fig. 1. Complete baseline-subtracted spectrum. The strongest lines be-
long to CO and its isotopologues, while at 1901 GHz [CII] is seen. Observations of AFGL 2591 (α2000 = 20h29m24.s9, δ2000 =
+40◦11′21′′) were obtained with the Heterodyne Instrument for
the Far-Infrared (HIFI, de Graauw et al. 2010) on board the ESA
Herschel Space Observatory as a part of the HIFI/CHESS guar-
anteed time key programme2. each spectrum was checked and spectral regions with spurious
features (spurs) were flagged. Next, the correction for stand-
ing waves was made and a baseline was subtracted (polynomial
of ∼3). The final single-sideband spectrum is presented in Fig. 1. each spectrum was checked and spectral regions with spurious
features (spurs) were flagged. Next, the correction for stand-
ing waves was made and a baseline was subtracted (polynomial
of ∼3). The final single-sideband spectrum is presented in Fig. 1. Strong lines are known to create ghost features in the side-
band deconvolution process (Comito & Schilke 2002). To check
the importance of this effect on our data, the above steps were re-
peated with strong lines (especially CO transitions) masked out
in the same way as spurs. The term strong lines refers to features
of T ∗
A > 1 K in band 1a to >8 K in band 5a, depending on the
amount of lines and the noise level in a given band. Following the
outlined data reduction procedure, two single-sideband spectra
for bands 1a−5a were obtained. The first set of spectra was used
to analyse strong lines (e.g. CO and its isotopologues, HCO+),
the second for line measurements of weak features, that is, those
that were not masked as strong lines (e.g. SO, CH3OH). A full spectral survey of AFGL 2591 of HIFI bands 1a−5a
(480−1240 GHz, 18.4 h of observing time) was obtained. Nine
additional selected frequencies were observed in 3.5 h of ob-
serving time. The corresponding bands are 5b (lines: HCl, CO),
6a (CO), 6b (CO), 7a (NH3, CO) and 7b (CO, OH, [CII]). Strong lines are known to create ghost features in the side-
band deconvolution process (Comito & Schilke 2002). To check
the importance of this effect on our data, the above steps were re-
peated with strong lines (especially CO transitions) masked out
in the same way as spurs. 2.1. 480−1850 GHz Herschel/HIFI data The term strong lines refers to features
of T ∗
A > 1 K in band 1a to >8 K in band 5a, depending on the
amount of lines and the noise level in a given band. Following the
outlined data reduction procedure, two single-sideband spectra
for bands 1a−5a were obtained. The first set of spectra was used
to analyse strong lines (e.g. CO and its isotopologues, HCO+),
the second for line measurements of weak features, that is, those
that were not masked as strong lines (e.g. SO, CH3OH). Although this is the second in a series of papers based
on HIFI/CHESS data of AFGL 2591 and a detailed descrip-
tion of its data reduction process has been provided in Paper I
(Van der Wiel et al. 2013), basic information is recalled here
as well. The spectral scan observations were carried out using
the dual beam-switch (DBS) mode, with the Wide Band
Spectrometer (WBS) with a resolution of 1.1 MHz, correspond-
ing to 0.66 km s−1 at 500 GHz and 0.18 km s−1 at 1850 GHz. The single-frequency settings were obtained in the dual beam-
switch mode as well, with the fast chop and stability optimiza-
tion options selected. Table 1 gives information about the cov-
ered frequency range, beam size, noise level, and integration
time. 3.2. Absorption line analysis There are only a few absorption features observed toward
AFGL 2591. A foreground cloud at Vlsr
∼
0 km s−1 has
been detected before, for example, Bruderer et al. (2010b),
Emprechtinger et al. (2012), and Van der Wiel et al. (2013). In
the CHESS/HIFI dataset we found 16 absorption lines; all mea-
surements are listed together with emissions in Table A.1, and
their lines profiles are presented in Fig. A.1. Most of them are
red-shifted and associated with the foreground cloud at Vlsr ∼
0 km s−1. Three broad, blue-shifted absorptions belong to the
outflow lobe. Although the analysis of our survey revealed no new molecu-
lar species, some of our observed species have not been detected
toward AFGL 2591 before. HIFI with its broad spectral range
gave the opportunity to observe for the first time transitions of
HF (Emprechtinger et al. 2012), OH+, CH, CH+ (Bruderer et al. 2010b) or C+ and HCl (this work) in AFGL 2591. Within the object AFGL 2591, CH3OH, SO2, and SO show
the highest number of detected transitions (54, 26, and 18 lines,
respectively) among its identified species, followed by H2CO
and CO and its isotopologues. For the other molecules, a few
lines at most were observed. The strongest transitions originate
from CO and its isotopologues, HCO+, H2O, and OH. In com-
parison, the remaining detected lines are relatively weak because
of fluxes below 1 K km s−1. We derived the molecular column densities using the follow-
ing relations: Ntot = Nl
Q(Tex)
gl
exp
El
kTex
[cm−2] and
(1)
Nl = 8πν3
c3
gl
guAul
τ · dv [cm−2],
(2) (1) The lines were measured in the same way as described
in Paper I. A Gaussian profile was fitted to each line, using
the Levenberg-Marquardt fitter in the line analysis module of
CASSIS. For most lines, a single Gaussian profile gave a good
fit to the profile. However, for CO, 13CO, C18O, CI, [CII], HCO+,
OH, and H2O, double Gaussian profiles were needed to fit suffi-
ciently narrow and broad line components. The measured param-
eters from Gaussian fits of the emission lines (central velocity
and full width at half maximum) are plotted in Fig. 2 (together
with the complementary JCMT data) as an average value for
each molecule. 5 CASSIS (http://cassis.cesr.fr)
has
been developed
by
IRAP- UPS/CNRS.. 2.2. 330–373 GHz JCMT data The excitation analysis of several molecules was complemented
by ground-based observations from the James Clerk Maxwell
Telescope (JCMT)4. These data are part of the JCMT Spectral
Legacy Survey (SLS, Plume et al. 2007). The observations
were taken with the 16-element Heterodyne Array Receiver
Programme B (BHARP-B) and the Auto-Correlation Spectral AFGL 2591 data were completely reduced with the with the
Herschel interactive processing environment3 (HIPE; Ott 2010),
version 8.1, using scripts written by the CHESS data reduc-
tion team (Kama et al. 2013). After pipelining, the quality of A53, page 2 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Imaging System (ACSIS) correlator (Dent et al. 2000; Smith
et al. 2008; Buckle et al. 2009). Table 2. Fit results for absorptions. Imaging System (ACSIS) correlator (Dent et al. 2000; Smith
et al. 2008; Buckle et al. 2009). Molecule
Vlsra
ΔVa
N
[km s−1]
[km s−1]
[cm−2]
CCH
0.82
2.58
3.3 ± 1.0 × 1017
CHb
0.21
2.19
3.1 ± 0.9 × 1013
CH+
4.17
12.42
1.1 ± 0.4 × 1014
H2S
0.22
0.97
3.5 ± 0.9 × 1012
NH3
0.00
1.30
1.8 ± 0.8 × 1012
H2Ob
−0.50
2.43
1.5 ± 0.6 × 1013
OH+b
3.65
9.13
3.0 ± 1.0 × 1013
HF
−0.05
2.31
5.2 ± 1.3 × 1012
HF
−3.88
2.50
5.5 ± 1.4 × 1012
H2O
−11.98
13.75
2.3 ± 0.6 × 1013
CH+
−16.90
9.24
6.8 ± 1.3 × 1013
HF
−12.58
8.81
1.8 ± 0.6 × 1013
Notes. (a) Errors of Vlsr and ΔV are listed in Table A.1. (b) The average
of a few lines from the same velocity component: 2 lines of CH, 2 lines
of H2O and 3 lines of OH+. The JCMT survey of AFGL 2591 covers the frequency
range of 330−373GHz with a spectral resolution of 1 MHz
(∼0.8 km s−1). The beam size of the JCMT at these frequencies
is 14−15′′, the image size is 2′. Detailed information about the
data reduction and analysis can be found in Van der Wiel et al. (2011). 3.1. Detections and line profiles From the Herschel/HIFI spectral survey, a total of 32 species
(including isotopologues) were identified, resulting in 252 emis-
sion and 16 absorption lines (218 different transitions). Blended
features were excluded from the analysis. Herschel surveys to-
ward different sources revealed many spectral features that we
currently cannot identify (e.g. Wang et al. 2011). However,
no unidentified lines were found in our spectra. Notes. (a) Errors of Vlsr and ΔV are listed in Table A.1. (b) The average
of a few lines from the same velocity component: 2 lines of CH, 2 lines
of H2O and 3 lines of OH+. For the line identification the JPL (Pickett et al. 1998) and
CDMS (Müller et al. 2001, 2005) databases were used. Line
analysis was made with the CASSIS software5. The presence of
possible transitions resulting from an upper energy level Eup of
less than 500 K was checked. Generally, detected lines have
Eup < 400 K, except for the high-J CO transitions, which have
Eup up to 752 K. and originate from the protostellar envelope. Their line widths
are of the order of 3.7 ± 0.9 km s−1, whereas the broader line
components (10.9 ± 4.2 km s−1) are caused by the outflows and
are centred on −6.3 ± 0.7 km s−1. It was shown in Paper I that the
outflow gas is not significantly different from that in the enve-
lope, considering gas density, gas temperature, and the chemical
balance of CO and HCO+. All the detected lines in the HIFI survey are presented in
Table A.1, the entire spectrum is shown in Fig. 1, and corre-
sponding line profiles can be found in Fig. A.1. For the sake of
completeness all of the observed lines together with their pro-
files and measurements are presented in Table A.1, including the
datasets of Paper I (Van der Wiel et al. 2013) and the comple-
mentary JCMT data. 3.3. Emission line analysis transitions. For the absorptions that arise from the excited states
we used Eq. (1) and assumed an excitation temperature of 10 K,
as was derived for the foreground cloud in Paper I (see Table 4
in Van der Wiel et al. 2013). To estimate column densities and excitation temperatures from
the observed emissions we constructed rotational diagrams
assuming that all lines for a given molecule have the same ex-
citation temperature. This method is a useful tool for estimat-
ing the column densities and the excitation temperatures when
many transitions of a particular species are observed. However,
in many cases its accuracy is limited because it is based on the
assumption that the emission lines are optically thin and the
emissions fill the beam. The tentative absorption lines from a foreground cloud at
Vlsr ∼0 km s−1 were observed of CCH (77−66 at 611.265GHz),
CH (two transitions: 3/22+−1/21−at 532.724 and 3/22−−1/21+
at 536.761GHz), CH+ (1−0 at 835.138GHz), H2S (212−101
at 736.034GHz), NH3 (10−00 at 572.498GHz), H2O (two tran-
sitions: 110−101 at 556.936 and 111−000 at 1113.343GHz),
OH+ (three transitions: J = 2−1, F = 3/2−1/2 at 971.805,
J = 1−1, F = 3/2−1/2 at 1033.004 and J = 1−1, F = 3/2−3/2
at 1033.119GHz) and HF (1−0 at 1232.476GHz). The estimated
column densities for these species are listed in the upper part of
Table 2. Goldsmith & Langer (1999) improved this excitation anal-
ysis method by introducing correction factors for the effects of
the beam dilution and optical depth. Using this population di-
agram method, we estimated the column density, the excitation
temperature, and the emission extent for each molecule with the
observed multiple transitions. With three free parameters (col-
umn density, excitation temperature, and the beam filling factor),
we used this method only when at least four lines for a given
molecule were observed. Otherwise, only the rotational method
was applied. The rotation diagram gives beam-averaged column
densities, while the population diagram gives source-averaged
values. Hereafter, all stated column densities (Ncol) or excita-
tion temperatures (Tex) were derived from the population dia-
grams, except those of HNC and N2H+, which were estimated
from the rotational diagrams. At this point, the complementary
JCMT data were crucial to increase the number of observed tran-
sitions for a given molecule. Three broad absorptions are associated with the outflow
(centred on ∼−13.8km s−1): H2O, CH+ and HF. 3.2. Absorption line analysis A&A 567, A53 (2014)
0
4
8
12
16
CO
COo
13CO
13COo
C17O
C17Oo
C18O
C18Oo
C
Co
HCO+
HCO+
o
H13CO+
HCN
HCNo
H13CN
HC15N
HNC
HNCo
CCH
CH
CH+
OH
OHo
CN
CS
CSo
H2S
H2
34S
HCl
H37Cl
NH3
N2H+
NO
CH3OH
H2CO
SO
SO2
H2O
H2Oo
HF
mean FWHM [km/s]
−7
−6
−5
−4
CO
COo
13CO
13COo
C17O
C17Oo
C18O
C18Oo
C
Co
HCO+
HCO+
o
H13CO+
HCN
HCNo
H13CN
HC15N
HNC
HNCo
CCH
CH
CH+
OH
OHo
CN
CS
CSo
H2S
H2
34S
HCl
H37Cl
NH3
N2H+
NO
CH3OH
H2CO
SO
SO2
H2O
H2Oo
HF
mean V [km/s]
molecule A&A 567, A53 (2014) Fig. 2. Average values of the line widths (top panel) and of the central velocity (bottom panel) from Gaussian fits for the observed emission lines of
different molecules (”o” represents the outflow component). The emission lines of the envelope component are centred on −5.5 km s−1, as shown
by the dashed line in the bottom panel. 3.2. Absorption line analysis (2) where Q(Tex) is the partition function computed at the excitation
temperature Tex, ν is the frequency of the observed transition
with the Einstein A-coefficient Aul and the statistical weights of
the lower gl and upper levels gu; c is the speed of light, and
k is the Boltzmann constant. The line opacity τ was calculated
from the measured brightness temperature Tmb and the tempera-
ture of the background continuum in a single side band Tc, using
the relation τ = −ln
Tmb
Tc
. Ntot and Nl are the total column density and the column den-
sity in the lower state of transition. The Nl may be the same as
total column density for the ground state lines when the exci-
tation temperature is very low (Tex ∼2.73 K). Therefore we ap-
plied Eq. (2) to calculate column densities for the ground-state The narrow and single-line components are centred on
−5.5 ± 0.5 km s−1 (as derived before by Van der Tak et al. 1999) A53, page 3 of 18 A&A 567, A53 (2014)
0
4
8
12
16
CO
COo
13CO
13COo
C17O
C17Oo
C18O
C18Oo
C
Co
HCO+
HCO+
o
H13CO+
HCN
HCNo
H13CN
HC15N
HNC
HNCo
CCH
CH
CH+
OH
OHo
CN
CS
CSo
H2S
H2
34S
HCl
H37Cl
NH3
N2H+
NO
CH3OH
H2CO
SO
SO2
H2O
H2Oo
HF
mean FWHM [km/s]
−7
−6
−5
−4
CO
COo
13CO
13COo
C17O
C17Oo
C18O
C18Oo
C
Co
HCO+
HCO+
o
H13CO+
HCN
HCNo
H13CN
HC15N
HNC
HNCo
CCH
CH
CH+
OH
OHo
CN
CS
CSo
H2S
H2
34S
HCl
H37Cl
NH3
N2H+
NO
CH3OH
H2CO
SO
SO2
H2O
H2Oo
HF
mean V [km/s]
molecule
Fig. 2. Average values of the line widths (top panel) and of the central velocity (bottom panel) from Gaussian fits for the observed emission lines of
different molecules (”o” represents the outflow component). The emission lines of the envelope component are centred on −5.5 km s−1, as shown
by the dashed line in the bottom panel. 3.3. Emission line analysis Parameters estimated from rotational and population diagrams methods (column densities, excitation temperatures, and emission extents)
based on HIFI and JCMT data. Table 3. Parameters estimated from rotational and population diagrams methods (column densities, excitation temperatures, and emission extents)
based on HIFI and JCMT data. Molecule
V
FWHM
Rotational
Population
τ
Eup range
No of trans. 3.3. Emission line analysis [km s−1]
[km s−1]
Ncol[cm−2]
Tex[K]
Ncol[cm−2]
Tex[K]
size[′′]
[K]
CO
−4.8±0.3
5.1±0.9
6.0 × 1016 +0.5
−0.5
162+10
−9
1.2 × 1019 +0.4
−0.6
62+4
−6
17+3
−7
0.1–144
33–752
12
−7.2±2.3
15.4±1.8
6.0 × 1016 +1.0
−1.0
89+10
−9
8.0 × 1018 +0.4
−0.4
42+2
−2
17+1
−1
0.01–34
33–752
12
HCO+
−5.6±0.2
3.4±0.4
2.3 × 1013 +1.0
−1.0
35+3
−3
1.0 × 1014 +1.0
−1.0
43+2
−3
11+1
−1
0.08–2.02
43–283
7
−6.8±0.6
7.3±2.0
2.2 × 1013 +4.2
−1.6
23+15
−15
2.0 × 1015 +3.3
−1.6
19+9
−2
9.7+0.8
−2.4
0.7–35
43–154
4
HCN
−5.3±0.2
4.2±0.7
4.5 × 1013 +0.7
−0.5
31+14
−10
1.1 × 1015 +0.8
−0.7
35+1
−1
7.7+0.2
−0.2
0.2–4.4
43–234
6
HNCa
−5.4±0.1
3.8±0.5
4.8 × 1012 +6.3
−0.5
43+9
−7
44–122
3
CCH
−6.3±0.5
3.7±0.5
2.2 × 1014 +0.3
−0.2
22+3
−3
1.1 × 1016 +1.1
−0.5
25+6
−5
5.3+0.8
−0.6
0.3–7.1
42–151
4
CNa
−5.6±0.2
3.2±0.5
9.7 × 1013 +0.8
−0.7
22+1
−1
1.3 × 1014 +0.3
−0.3
26+4
−3
23+6
−4
0.01–0.18
33–114
3
CS
−5.5±0.4
3.9±0.5
7.4 × 1013 +0.5
−0.4
26+12
−10
4.9 × 1013 +14.6
−0.6
61+7
−19
14+4
−9
0.01–0.09
66–282
7
H2S
−5.7±0.7
3.4±0.8
1.1 × 1013 +1.1
−0.7
56+25
−14
4.9 × 1014 +0.9
−0.6
26+3
−2
8.9+0.6
−0.7
0.01–5.6
55–350
5
NH3
−5.1±0.6
4.1±1.0
2.8 × 1013 +0.3
−0.2
67+6
−5
4.8 × 1013 +11
−2.4
28+3
−6
9.6+1.8
−0.6
0.1–1.6
28–170
5
N2H+a
−5.9±0.2
2.8±0.3
5.6 × 1011 +0.1
−1.6
19+13
−3
45–125
3
NOa
−4.8±0.5
5.8±2.8
7.2 × 1015 +0.7
−0.5
25+14
−10
1.7× 1016 +3.6
−0.5
54+9
−14
12+15
−6
0.015–0.021
36–115
2
CH3OH
−5.7±0.5
3.3±0.6
1.8 × 1014 +1.0
−0.7
209+171
−62
1.5 × 1017 +0.4
−0.3
108+10
−7
1.5+0.1
−0.1
0.6–10.4
25–352
49
H2CO
−5.4±0.3
3.6±0.7
2.0 × 1013 +1.0
−0.9
34+12
−6
9.9 × 1013 +0.1
−0.1
41+2
−2
7.3+0.1
−0.1
0.02–0.61
32–263
14
SO
−5.5±0.4
4.9±0.7
1.5 × 1014 +0.2
−0.2
53+23
−20
1.9 × 1016 +0.4
−0.3
64+2
−4
2.7+0.3
−0.2
0.1–6.1
26–405
22
SO2
−5.1±0.4
4.6±0.9
3.0 × 1014 +2.0
−1.7
92+77
−43
5.4 × 1017 +0.7
−0.6
175+5
−4
0.9+0.1
−0.1
0.5–8.9
31-354
47
H2O
−4.8±0.9
3.1±0.6
3.5 × 1013 +3.0
−1.4
63+17
−15
2.4 × 1015 +0.3
−0.5
38+1
−1
9.1+0.5
−0.6
0.4–104
53–305
8
−6.0±0.2
12.1±2.3
5.5 × 1013 +3.1
−1.9
43+35
−20
1.0 × 1016 +0.4
−0.4
31+3
−3
4.9+0.3
−0.4
0.2–5.7
101–305
6
Notes. 3.3. Emission line analysis Their column
densities are presented in the lower part of Table 2. Bruderer
et
al. (2010b)
analysed
hydrides
toward
AFGL 2591 using HIFI. Our column density results agree
well, with their measurements within the errors: 3.1 × 1013 and
2.6 × 1013 cm−2 for CH, 6.8 × 1013 and 1.8 × 1014 cm−2 for the
CH+ outflow component, 1.1 × 1014 and 1.2 × 1014 cm−2 for
CH+, and 3.0 × 1013 and 6.1 × 1013 cm−2 for OH+, our results
and from (Bruderer et al. 2010b) respectively. Bruderer et al. (2010b) also found lines of NH and H2O+ in their spectra. These two species are not seen in our dataset, because of a
slightly lower quality of spectral scans (Bruderer et al. 2010b
have observations from the single frequency settings). The column densities of CO, HCN and HCO+ were obtained
from their isotopologues (13CO, C18O, C17O, H13CN, HC15N,
and H13CO+) using the standard isotopic ratios: 12C/13C = 60,
16O/18O = 500, 16O/17O = 2500, and 14N/15N = 270 (Wilson &
Rood 1994). The column densities of CO, HCN and HCO+ were obtained
from their isotopologues (13CO, C18O, C17O, H13CN, HC15N,
and H13CO+) using the standard isotopic ratios: 12C/13C = 60,
16O/18O = 500, 16O/17O = 2500, and 14N/15N = 270 (Wilson &
Rood 1994). Based on Herschel data, Barlow et al. (2013) recently
detected emission lines of
36ArH+ in the Crab nebula. Absorptions of this ion are also seen toward sources from
Herschel Observations of EXtra-Ordinary Sources (HEXOS)
and PRobing InterStellar Molecules with Absorption line
Studies (PRISMAS) Herschel key programs (Schilke et al. 2014). The 36ArH+ J = 1−0 transition at 617.525 GHz is not
detected in our spectra. The upper limit of the column density is
7.7 × 1012 cm−2 for the width of an absorption line of 1 km s−1. All column densities and excitation temperatures values
based on the rotational and population diagrams methods are
given in Table 3. The opacities and emission sizes for each
molecule derived from the population diagrams are listed in
Table 3 as well. It also contains information about the covered
energy Eup range for a given species and the number of lines
from different energy levels that were used for the analysis. The values of the excitation temperatures and column densities A53, page 4 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table 3. 3.3. Emission line analysis The second column shows the values of the central velocity of the observed lines. When there are two values, the first corresponds to the
envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range,
which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines
of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were
observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different
levels were observed. Notes. The second column shows the values of the central velocity of the observed lines. When there are two values, the first corresponds to the
envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range,
which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines
of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were
observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different
levels were observed. Notes. The second column shows the values of the central velocity of the observed lines. When there are two values, the first corresponds to the
envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range,
which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines
of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were
observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different
levels were observed. Notes. The second column shows the values of the central velocity of the observed lines. 3.3. Emission line analysis When there are two values, the first corresponds to the
envelope component, the second to the outflow. The last 3 columns show first the range of optical depth τ for observed lines, then the Eup range,
which is covered by observed features, and finally the number of lines from different energy levels used for the analysis; i.e., we observed 4 lines
of NO, but they originate only from 2 different energy levels. Population diagram method was used when at least 4 lines of a given molecule were
observed, which is why there are no values for HNC and N2H+. (a) Indicates higher uncertainty of measurements because e.g. only 3 different
levels were observed 1e+12
1e+14
1e+16
1e+18
1e+20
CO
COo
HCO+
HCO+
o
HCN
CCH
CS
H2S
NH3
CH3OH
H2CO
SO
SO2
H2O
H2Oo
Ncol [cm−2]
0
50
100
150
200
CO
COo
HCO+
HCO+
o
HCN
CCH
CS
H2S
NH3
CH3OH
H2CO
SO
SO2
H2O
H2Oo
Tex [K]
molecule
Fig. 3. Column densities and excitation temperatures estimated from the population diagrams, without the uncertain measurements, “o” represents
the outflow component. Fig. 3. Column densities and excitation temperatures estimated from the population diagrams, without the uncertain measurements, “o” represents
the outflow component. s and excitation temperatures estimated from the population diagrams, without the uncertain measurements, “o” repres are plotted in Fig. 3, excluding the uncertain measurements
(i.e. HNC, N2H+, CN, and NO). good approximations of the column densities and the excitation
temperatures. The other molecular lines were characterised as
optically thick. For these molecular species the population dia-
gram method was more accurate. Based on the optical depths values from Table 3, the lines of
CN, CS, NO, and H2CO can be characterised as optically thin
(τ < 0.6). However, the results of CN and NO are uncertain
because of only a few lines were observed. 3.3. Emission line analysis For optically thin
lines calculations based on the rotational diagrams resulted in The emission extent of the analysed molecules associated
with AFGL 2591 ranges from around 2′′ (species such as SO, A53, page 5 of 18 A53, page 5 of 18 A&A 567, A53 (2014)
ln(Nu/gu
-2]
Eu
CO
(envelope)
ln(Nu/gu
-2]
Eu
HCO+
ln(Nu/gu
-2]
Eu
HCN
ln(Nu/gu
-2]
Eu
CCH
ln(Nu/gu
-2]
Eu
CN
ln(Nu/gu
-2]
Eu
CS
ln(Nu/gu
-2]
Eu
H2S
ln(Nu/gu
-2]
Eu
NH3
ln(Nu/gu
-2]
Eu
NO
ln(Nu/gu
-2]
Eu
H2O
(envelope)
ln(Nu/gu
-2]
Eu
CH3OH
ln(Nu/gu
-2]
Eu
H2CO
ln(Nu/gu
-2]
Eu
SO
ln(Nu/gu
-2]
Eu
SO2
Fig. 4. Population diagrams. Open circles represent the observational data and crosses are the best-fit model from population diagram analysis. Dotted lines correspond to a linear fit to the rotational diagram. ln(Nu/gu
-2]
Eu
CO
(envelope)
ln(Nu/gu
-2]
Eu
HCO+ A&A 567, A53 (2014) A&A 567, A53 (2014)
2
ln(Nu/gu
-2]
Eu
CS ln(Nu/gu
-2]
Eu
CH3OH
ln(Nu/gu
-2]
Eu
H2CO ln(Nu/gu
-2]
Eu
H2S ln(Nu/gu
-2]
Eu
HCO+ ln(Nu/gu
-2]
Eu
NH3 ln(Nu/gu
-2]
Eu
HCN ln(Nu/gu
-2]
Eu
SO ln(Nu/gu
-2]
Eu
CCH ln(Nu/gu
-2]
Eu
NO ln(Nu/gu
-2] ln(Nu/gu
-2]
Eu
H2O
(envelope) ln(Nu/gu
-2]
Eu
CN Fig. 4. Population diagrams. Open circles represent the observational data and crosses are the best-fit model from population diagram analysis. Dotted lines correspond to a linear fit to the rotational diagram. 4. Discussion SO2, and CH3OH) up to 23′′ (CN). For most species emission
sizes are smaller than 17′′. SO2, and CH3OH) up to 23′′ (CN). For most species emission
sizes are smaller than 17′′. A53, page 6 of 18 4.1. CI and CII From the comparison of the temperatures derived from the
population diagrams (see the bottom panel of Fig. 3) it is
possible to distinguish warm (e.g. CH3OH and SO2) and cold
(e.g. HCN, H2S, and NH3) species. As cold species we clas-
sify those with excitation temperatures of up to 70 K. Warm
molecules have higher temperatures, up to 175 K for SO2. It is
difficult to give an accurate borderline here and classify all
species, but the wide range of excitation temperatures seems sig-
nificant. Moreover,it was shown before by Bisschop et al. (2007)
that some of the complex organic species can be classified as
both warm and cold, which may indicate that they are present in
multiple physical components. C and C+ are the only atomic species found in our HIFI spectral
survey of AFGL 2591. Both fine-structure transitions of neu-
tral carbon, 3P1−3P0 at 492 GHz and 3P2−3P1 at 809 GHz, were
observed towards AFGL 2591. These transitions consist of two
components originating from the envelope and the outflow, sim-
ilar to the CO lines (see Fig. A.1). CI was observed previously
in AFGL 2591 by Van der Tak et al. (1999), but [CII] was ob-
served for the first time with Herschel. The [CII] 2P3/2−2P1/2
line, an important interstellar coolant, shows several velocity
components, two of them correspond to those in CI and CO. The [CII] line profile is distorted by a contamination from
the off-position even after applying corrections within HIPE
(Fig. A.1). The population diagrams are presented in Fig. 4. They show
evidence for an excitation gradient of several species (HCO+,
HCN, CS, and SO), which means that the population diagram
method may be not enough to analyse all observed molecules. This is a motivation to use more sophisticated method in the near
future (i.e., radiative transfer modelling) to study our spectral
survey. 4.2. CO and its isotopologues 4.4. N-bearing species Our spectra also revealed lines from the protostellar envelope
and foreground clouds that belong to CCH, CH, CH+, OH, and
OH+. CCH and CH show three absorption lines at ∼0 km s−1,
OH+ three absorptions at ∼3.6 km s−1. Using HIFI, Bruderer
et al. (2010b,a) found lines of CH, CH+, NH, OH+, and H2O+,
while lines of NH+ and SH+ have not been detected. Bruderer
et al. (2010b) concluded that absorption lines of NH, OH+ and
H2O+ originate from a foreground cloud and an outflow lobe,
while the emission lines of CH and CH+ are connected with the
protostellar envelope (compare Sect. 3.2). Six N-bearing species were observed in the HIFI spectra: HCN,
HNC, CN, NO, N2H+, and NH3. All of these molecules have
been detected before in AFGL 2591 (e.g. Takano et al. 1986;
Carr et al. 1995; Boonman et al. 2001). Lines of N-bearing
species observed with the Herschel/HIFI are weaker than those
of CO and were fitted with a single-Gaussian profile, revealing
these species to be components of the protostellar envelope, cen-
tred on −5.5 km s−1. Only o-NH3 shows a tentative absorption
feature from a foreground cloud at Vlsr = 0 km s−1. Two fea-
tures observed with the JCMT, HCN 4-3, and HNC 4−3 show
a contribution from the outflow and double-Gaussian profiles
were fitted to these lines. We did not find NH and NH2, which
were detected in other HIFI spectral surveys (e.g. Zernickel et al. 2012). Upper limits are 0.8 K km s−1 for the NH 1−0 line near
946 GHz and 0.6 K km s−1 for the NH2 1−0 line near 953 GHz. Upper limits were measured in the same way as in Paper I,
that is, considering 3 km s−1 a typical line width, hence using
5σrms × 3 km s−1. Among the observed features, two lines of vi-
brationally excited HCN 4−3, υ = 1c and υ = 1d are found
(JCMT data). Line υ = 1c was observed before by Van der Tak
et al. (1999). Boonman et al. (2001) analysed excited HCN, the
4−3 and 9−8 transitions. The interferometric observations from
Veach et al. (2013) showed vibrationally excited υ = 1 and also
υ=2 HCN 4−3 lines. These authors suggested that the υ = 2
HCN lines might be a useful tool to study a protostellar disk. Takano et al. 4.8. HF HF is the only detected fluorine-bearing species in AFGL 2591. Its 1−0 transition at 1233 GHz was observed and analysed by
Emprechtinger et al. (2012). They calculated an HF column
density of 2 × 1014 cm−2 and 4 × 1013 cm−2 for emission and
absorption. 4.2. CO and its isotopologues CO is one of the most often studied molecules (e.g. Mitchell
et al. 1989; Black et al. 1990; Hasegawa & Mitchell 1995). A53, page 6 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey H2S is classified as colder species with an excitation tempera-
ture of 26 K. CS and SO have similar excitation temperatures,
61 K and 64 K. Van der Tak et al. (2003) studied the sulphur
chemistry in the envelopes of massive star forming regions and
found excitation temperatures of 185 K for SO2, which is a sim-
ilar result to the one calculated in this work. However, the col-
umn density of SO2 varies strongly, 5.2 × 1014 cm−2 Van der Tak
et al. (2003), 5.4 × 1017 cm−2 our work. Results of column den-
sity of CS also differ in one order of magnitude, 3 × 1013 cm−2
and 4.9 × 1014 cm−2 (Van der Tak et al. 2003) and our work, re-
spectively. The population diagram method is a good first step
for the spectral surveys analysis, but in some cases a more ad-
vanced method is needed. Especially when there are not enough
observed transitions from the lower energy levels for a given
molecule, for example SO or CS and the excitation gradient is
visible (see Fig. 4). We are planning to use radiative transfer
modelling and estimate molecular abundances in the near future. Based on CO observation, Lada et al. (1984) found an extended
bipolar outflow associated with AFGL 2591. Many strong lines
of CO and its isotopologues (13CO, C18O, C17O) were also de-
tected in our HIFI spectra, clearly showing the envelope and
outflow components. The C17O lines are weaker and show only
the envelope components. The abundance of CO = 3 × 10−5 was
calculated in Paper I. The CO column density in this work was
estimated at 1.2 × 1019 cm−2; Van der Tak et al. (2000b) derived
a similar value of 3.4 × 1019 cm−2. 4.4. N-bearing species (1986) observed ammonia transitions (1, 1) and
(2, 2) with the Effelsberg 100 m telescope. They found a compact
NH3 cloud of around 0.6 pc diameter around the central source. These authors estimated a column density of 8 × 1013cm−2. In
comparison, calculations of our work gave a column density of
4.8 × 1013cm−2. 4.3. HCO+ HCO+ was identified by intense lines in the HIFI and JCMT
spectra. Moreover, three lines of H13CO+ were also positively
detected. The abundance of HCO+ was estimated at 9 × 10−9
(Paper I) and column density at 1.0 × 1014 cm−2. Carr et al. (1995) estimated an abundance of 4 × 10−10 and Van der Tak
et al. (1999) derived [HCO+] = 1 × 10−8 by using a model with
lower H2 column density. 4.7. Water Water lines have also been detected in our spectra. We found four
transitions of o-H2O (110−101 at 557 GHz, 312−303 at 1097 GHz,
312−221 at 1153GHz, and 321−312 at 1163 GHz) and four tran-
sitions of p-H2O (211−202 at 752 GHz, 202−111 at 988 GHz,
111−000 at 1113 GHz, and 220−211 at 1229 GHz). They show dif-
ferent profiles, mostly the envelope and outflow components, but
also some absorptions (see Fig. A.1). For the envelope compo-
nent we estimated a column density of 2.4 × 1015 cm−2, an exci-
tation temperature of 38 K, and an emission extent of 9.1′′. The
full analysis of water lines in AFGL 2591 as part of the Water
In Star forming regions with Herschel (WISH) Project will be
presented in the forthcoming paper of Choi et al. (2014). 4.8. HF 5. Conclusions Goldsmith, P. F., & Langer, W. D. 1999, ApJ, 517, 209 Hasegawa, T. I., & Mitchell, G. F. 1995, ApJ, 451, 225 The main conclusions from our AFGL 2591 spectral survey are
as follows: g
p
Kama, M., López-Sepulcre, A., Dominik, C., et al. 2013, A&A, 556, A57 Kama, M., López-Sepulcre, A., Dominik, C., et al. 2013, Kennicutt, R. C., & Evans, N. J. 2012, ARA&A, 50, 531 Lada, C. J., Thronson, Jr., H. A., Smith, H. A., Schwartz, P. R., & Glaccum, W. 1984, ApJ, 286, 302 1. In the Herschel/HIFI spectral survey of AFGL 2591 we ob-
served 268 lines (excluding blends) of a total of 32 species. No unidentified features were found in the spectra. JCMT
data supplemented the excitation analysis of several species
seen in emissions. Mitchell, G. F., Curry, C., Maillard, J.-P., & Allen, M. 1989, ApJ, 341, 1020
j
i
ff
l
6 ,
,
y,
,
,
,
,
,
p ,
,
Monje, R. R., Lis, D. C., Roueff, E., et al. 2013, ApJ, 767, 81 Monje, R. R., Lis, D. C., Roueff, E., et al. 2013, ApJ, 767, 81 Müller, H. S. P., Thorwirth, S., Roth, D. A., & Winnewisser, G. 2001, A&A, 370,
L49 Müller, H. S. P., Schlöder, F., Stutzki, J., & Winnewisser, G. 2005, J. Mol. Struct.,
742, 215 2. Among the observed 268 lines, 16 absorptions were de-
tected. Most of them belong to the known foreground cloud
at Vlsr ∼0 km s−1. Three broad absorptions are associated
with the outflow lobe. The estimated column densities agree
well with previous work. Neufeld, D. A., Roueff, E., Snell, R. L., et al. 2012, ApJ, 748, 37 Neufeld, D. A., Roueff, E., Snell, R. L., et al. 2012, ApJ, 748, 37
Ott, S. 2010, in Astronomical Data Analysis Software and Systems XIX, eds. ,
,
,
,
,
,
,
p ,
,
Ott, S. 2010, in Astronomical Data Analysis Software and Systems XIX, eds. Ott, S. 2010, in Astronomical Data Analysis Software and Syst Y. Mizumoto, K.-I. Morita, & M. Ohishi, ASP Conf. Ser., 434, 139 Pickett, H. M., Poynter, R. L., Cohen, E. A., et al. 1998, J. Quant. Spectr. Rad. Transf., 60, 883 3. Based on the population diagram method, the column den-
sities and excitation temperatures were estimated. 5. Conclusions Molecular
column densities range from 6 × 1011 to 1 × 1019 cm−2 and
excitation temperatures range from 19 to 175 K. We can dis-
tinguish between species of higher (e.g. CH3OH, and SO2)
and lower (e.g. HCN, H2S, and NH3) excitation temperature. Pilbratt, G. L., Riedinger, J. R., Passvogel, T., et al. 2010, A&A, 518, L1
Plume, R., Fuller, G. A., Helmich, F., et al. 2007, PASP, 119, 102 Rygl, K. L. J., Brunthaler, A., Sanna, A., et al. 2012, A&A, 539, A79
Sanna
A
Reid
M
J
Carrasco González
C
et al
2012
A Rygl, K. L. J., Brunthaler, A., Sanna, A., et al. 2012, A&A, 539, A79 Rygl, K. L. J., Brunthaler, A., Sanna, A., et al. 2012, A&A, 539, A79
Sanna, A., Reid, M. J., Carrasco-González, C., et al. 2012, Ap Sanna, A., Reid, M. J., Carrasco-González, C., et al. 2012, ApJ, 745,
191 191
Schilke, P., Neufeld, D. A., Müller, H. S. P., et al. 2014, A&A, 566, A29
Smith, H., Buckle, J., Hills, R., et al. 2008, in Proc. SPIE, 7020, 0Z ( g
)
p
4. The population diagram method is a very useful tool for
spectral survey analysis, but it is far from being perfect. Several species (HCO+, HCN, CS, and SO) show evidence
of an excitation gradient, which is a motivation to use a more
sophisticated method (i.e., radiative transfer modelling) in
the near future to study molecules observed in the protostel-
lar envelope of AFGL 2591. g
p
4. The population diagram method is a very useful tool for
spectral survey analysis, but it is far from being perfect. Several species (HCO+, HCN, CS, and SO) show evidence
of an excitation gradient, which is a motivation to use a more
sophisticated method (i.e., radiative transfer modelling) in
the near future to study molecules observed in the protostel-
lar envelope of AFGL 2591. Takano, T., Stutzki, J., Winnewisser, G., & Fukui, Y. 1986, A&A, 158, 14 Tan, J. C., Beltran, M. T., Caselli, P., et al. 2014, Protostars and Planets VI
(University of Arizona Press), eds. H. Dishoeck, E. F. Klessen, C. Dullemond,
& Th. Henning [arXiv:1402.0919] g
Van der Tak, F. F. S., van Dishoeck, E. F., Evans, II, N. J., Bakker, E. J., & Blake,
G. A. 1999, ApJ, 522, 991 Van der Tak, F. F. S., van Dishoeck, E. F., & Caselli, P. 4.10. Complex species 2014 A&A, submitted
Codella, C., Ceccarelli, C., Bottinelli, S., et al. 2012, ApJ, 744, 164 Codella, C., Ceccarelli, C., Bottinelli, S., et al. 2012, ApJ, 744, 164 Comito, C., & Schilke, P. 2002, A&A, 395, 357 de Graauw, T., Helmich, F. P., Phillips, T. G., et al. 2010, A&A, 518, L6 Dent, W., Duncan, W., Ellis, M., et al. 2000, in Imaging at Radio through Submillimeter Wavelengths, eds. J. G. Mangum & S. J. E. Radford, ASP
Conf. Ser., 217, 33
E
hti
M
M
j
R R
d
T k F F S
t l 2012 A J 756 Emprechtinger, M., Monje, R. R., van der Tak, F. F. S., et al. 2012, ApJ, 756,
136 Emprechtinger, M., Monje, R. R., van der Tak, F. F. S., et al. 2012, ApJ, 756,
136
Goldsmith P F & Langer W D 1999 ApJ 517 209 136
Goldsmith, P. F., & Langer, W. D. 1999, ApJ, 517, 209 A&A 567, A53 (2014) A&A 567, A53 (2014) Neufeld et al. (2012), neither lines of H2Cl+ nor lines of H237Cl+
toward AFGL 2591 were found. Neufeld et al. (2012), neither lines of H2Cl+ nor lines of H237Cl+
toward AFGL 2591 were found. References Bally, J., Moeckel, N., & Throop, H. 2005, in Chondrites and the Protoplanetary
Disk, eds. A. N. Krot, E. R. D. Scott, & B. Reipurth, ASP Conf. Ser., 341, 81
Barlow, M. J., Swinyard, B. M., Owen, P. J., et al. 2013, Science, 342, 1343
Bisschop S E
Jørgensen J K van Dishoeck E F & de Wachter E B M 4.10. Complex species Bisschop, S. E., Jørgensen, J. K., van Dishoeck, E. F., & de Wachter, E. B. M. 2007, A&A, 465, 913 From the HIFI spectral survey we found only two molecules
(methanol and formaldehyde) that belong to complex organ-
ics. Bisschop et al. (2007) showed before that AFGL 2591 is
a line-poor source. These authors analysed complex organic
molecules in massive young stellar objects and found only a few
of them in AFGL 2591; all of the intensities of the observed
lines were very low. Many weak CH3OH and H2CO lines were
detected in our HIFI spectra. Their column densities and excita-
tion temperatures are 1.5 × 1017 cm−2 and 108 K for CH3OH,
and 9.9 × 1013 cm−2 and 41 K for H2CO. Van der Tak et al. (2000a) estimated 1.2 × 1015 cm−2 and 163 K for CH3OH, and
8.0 × 1013 cm−2 and 89 K for H2CO. From the rotational dia-
grams Bisschop et al. (2007) derived 4.7 × 1016 cm−2 and 147 K
for methanol. All of these results vary slightly, but also suggest
that methanol represents warm species. Black, J. H., van Dishoeck, E. F., Willner, S. P., & Woods, R. C. 1990, ApJ, 358,
459 Boonman, A. M. S., Stark, R., van der Tak, F. F. S., et al. 2001, ApJ, 553, L63 p
er, S., Benz, A. O., Bourke, T. L., & Doty, S. D. 2009, A&A, 503, y
Bruderer, S., Benz, A. O., Stäuber, P., & Doty, S. D. 2010a, ApJ, 720, 1432 Bruderer, S., Benz, A. O., van Dishoeck, E. F., et al. 2010b, A&A, 521, L44 Buckle, J. V., Hills, R. E., Smith, H., et al. 2009, MNRAS, 399, 102 Buckle, J. V., Hills, R. E., Smith, H., et al. 2009, MNRAS, 399, 1026
Carr, J. S., Evans, II, N. J., Lacy, J. H., & Zhou, S. 1995, ApJ, 450, 667 Carr, J. S., Evans, II, N. J., Lacy, J. H., & Zhou, S. 1995, ApJ, 450, 667 Ceccarelli, C., et al. (CHESS Consortium) 2010, in 38th COSPAR Scientific
Assembly, 38, 2476 Choi, Y., van der Tak, F. F. S., van Dishoeck, E. F., et al. 2014 A&A, submitted
C d ll
C C
lli C B tti
lli S
t l 2012 A J 744 164 Choi, Y., van der Tak, F. F. S., van Dishoeck, E. F., et al. 4.5. S-bearing species Thanks to HIFI, many chlorine-bearing molecules (e.g. HCl,
H37Cl, H2Cl+, H237Cl+) were observed in different envi-
ronments, for example toward protostellar shocks (Codella
et al. 2012), diffuse clouds (Monje et al. 2013), and star
forming regions (Neufeld et al. 2012). HCl and H37Cl are
the only observed chlorine-bearing species in our HIFI spec-
tra of AFGL 2591. Three hyperfine components of HCl
from the energy level of Eup = 30 K and two from the
higher state Eup = 90.1 K were detected. In agreement with Of the S-bearing molecules we detected with HIFI CS, H2S,
H234S, SO, and SO2. All of these molecules have been observed
before in AFGL 2591 (e.g. Yamashita et al. 1987; Van der Tak
et al. 2003; Bruderer et al. 2009). Additionally, from the JCMT
dataset we have several lines of these molecules, and also
isotopologues of CS, SO, and SO2 (13CS and C34S, 34SO,
34SO2), as well as OCS and o-H2CS. SO and SO2 show many
weak lines of the envelope component. SO2 is an example of
warm species with an excitation temperature of 175 K, whereas A53, page 7 of 18 Acknowledgements. We thank Matthijs van der Wiel for providing JCMT
data and useful discussions. HIFI has been designed and built by a con-
sortium of institutes and university departments from across Europe, Canada
and the United States under the leadership of SRON Netherlands Institute
for Space Research, Groningen, The Netherlands and with major contribu-
tions from Germany, France and the US. Consortium members are: Canada:
CSA, U.Waterloo; France: CESR, LAB, LERMA, IRAM; Germany: KOSMA,
MPIfR, MPS; Ireland: NUI Maynooth; Italy: ASI, IFSI-INAF, Osservatorio
Astrofisico di Arcetri-INAF; Netherlands: SRON, TUD; Poland: CAMK, CBK;
Spain: Observatorio Astronómico Nacional (IGN), Centro de Astrobiologa
(CSIC-INTA). Sweden: Chalmers University of Technology −MC2, RSS &
GARD; Onsala Space Observatory; Swedish National Space Board, Stockholm
University −Stockholm Observatory; Switzerland: ETH Zurich, FHNW; USA:
Caltech, JPL, NHSC. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey
pendix A: HIFI/CHESS spectral survey
-25 -20 -15 -10 -5
Tmb
CO
5-4
6-5
7-6
8-7
9-8
10-9
-25 -20 -15 -10
-5
CO
11-10
13-12
14-13
15-14
16-15
-25 -20 -15 -10
-5
13CO
5-4
6-5
7-6
8-7
9-8
10-9
11-10
-25 -20 -15 -10
-5
C18O
5-4
6-5
7-6
8-7
9-8
10-9
-25 -20 -15 -10 -5
Tmb
C17O
5-4
6-5
7-6
8-7
-25 -20 -15 -10
-5
HCO+
6-5
7-6
8-7
9-8
10-9
11-10
-25 -20 -15 -10
-5
HCN
6-5
7-6
8-7
9-8
10-9
-25 -20 -15 -10
-5
H13CN
6-5
7-6
8-7
H13CO+
4-3
6-5
-25 -20 -15 -10 -5
Tmb
HNC
6-5
7-6
HC15N
5-4
-25 -20 -15 -10
-5
CN
566.731
566.947
680.047
680.264
-25 -20 -15 -10
-5
C
492.161
809.344
-25 -20 -15 -10
-5
CS
10-9
11-10
12-11
13-12
14-13
15-14
-25 -20 -15 -10 -5
Tmb
Vlsr
/s]
CCH
66-55
65-54
77-66
76-65
88-77
87-76
-25 -20 -15 -10
-5
Vlsr
/s]
CH
532.724
532.793
-0.5
-30
-20
-10
Vlsr
/s]
CH+
-30
-20
-10
Vlsr
/s]
OH
1834.747
OH+
971.805
1033.004
1033.119
A.1. Line profiles of all identified species in HIFI spectral survey of AFGL 2591. Molecules (e.g. HCl, CH) for which hyperfine compon
e detected are plotted all together and are centred on the velocity of the middle line. Lines with multiply profiles (e.g. CO – envelope
ow components; HF – emission and absorptions) are also presented in one figure and are centered at the velocity of the envelope compo
se compare with Table A.1. 5. Conclusions 2000a, A&A, 361,
327 Van der Tak, F. F. S., van Dishoeck, E. F., Evans, II, N. J., & Blake, G. A. 2000b,
ApJ, 537, 283 Acknowledgements. We thank Matthijs van der Wiel for providing JCMT
data and useful discussions. HIFI has been designed and built by a con-
sortium of institutes and university departments from across Europe, Canada
and the United States under the leadership of SRON Netherlands Institute
for Space Research, Groningen, The Netherlands and with major contribu-
tions from Germany, France and the US. Consortium members are: Canada:
CSA, U.Waterloo; France: CESR, LAB, LERMA, IRAM; Germany: KOSMA,
MPIfR, MPS; Ireland: NUI Maynooth; Italy: ASI, IFSI-INAF, Osservatorio
Astrofisico di Arcetri-INAF; Netherlands: SRON, TUD; Poland: CAMK, CBK;
Spain: Observatorio Astronómico Nacional (IGN), Centro de Astrobiologa
(CSIC-INTA). Sweden: Chalmers University of Technology −MC2, RSS &
GARD; Onsala Space Observatory; Swedish National Space Board, Stockholm
University −Stockholm Observatory; Switzerland: ETH Zurich, FHNW; USA:
Caltech, JPL, NHSC. Van der Tak, F. F. S., Boonman, A. M. S., Braakman, R., & van Dishoeck, E. F. 2003, A&A, 412, 133 Van der Wiel, M. H. D., van der Tak, F. F. S., Spaans, M., et al. 2011, A&A, 532,
A88 Van der Wiel, M. H. D., Pagani, L., van der Tak, F. F. S., Ka´zmierczak, M., &
Ceccarelli, C. 2013, A&A, 553, A11 Wang, K.-S., van der Tak, F. F. S., & Hogerheijde, M. R. 2012, A&A, 543, A22 g,
,
,
,
g
j
,
,
,
,
Wang, S., Bergin, E. A., Crockett, N. R., et al. 2011, A&A, 527, A95
Wilson, T. L., & Rood, R. 1994, ARA&A, 32, 191 Wang, S., Bergin, E. A., Crockett, N. R., et al. 2011, A&A, 527, A95 g
g
Wilson, T. L., & Rood, R. 1994, ARA&A, 32, 191 Yamashita, T., Sato, S., Tamura, M., et al. 1987, PASJ, 39, 809 Zernickel, A., Schilke, P., Schmiedeke, A., et al. 2012, A&A, 546, A87
Zinnecker, H., & Yorke, H. W. 2007, ARA&A, 45, 481 Pages 9 to 18 are available in the electronic edition of the journal at http://www.aanda.org A53, page 8 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. 5. Conclusions A53, page 9 of 18 A&A 567, A53 (2014)
-25 -20 -15 -10 -5
Tmb
o-H2S
505.565
736.034
993.102
1072.837
-25 -20 -15 -10
-5
p-H2S
568.051
687.304
H2
34S
734.269
0.0
1.0
2.0
3.0
4.0
5.0
-25 -20 -15 -10
-5
o-NH3
10-00
30-20
p-NH3
21-11
31-21
32-22
-25 -20 -15 -10
-5
N2H+
6-5
7-6
NO
651.434
651.773
-25 -20 -15 -10
-5
Tmb
o-H2O
556.936
1097.365
1153.127
1162.912
-25 -20 -15 -10
-5
p-H2O
752.033
987.927
1113.343
1228.789
-25 -20 -15 -10
-5
H2CO
491.968
510.156
510.238
525.666
561.899
600.331
-25 -20 -15 -10
-5
H2CO
631.703
656.465
674.810
505.834
513.076
-25 -20 -15 -10 -5
Tmb
SO2
501.108
508.710
559.882
561.266
561.393
-25 -20 -15 -10
-5
SO2
613.076
626.087
632.193
639.651
651.300
-25 -20 -15 -10
-5
SO2
653.110
660.918
661.962
662.404
662.567
-25 -20 -15 -10
-5
SO2
662.799
662.877
662.934
665.247
670.366
-25 -20 -15 -10 -5
Tmb
Vlsr
/s]
SO2
695.633
702.104
727.379
820.150
840.751
848.523
-25 -20 -15 -10
-5
Vlsr
/s]
SO
514.853
516.335
517.354
558.087
559.319
560.178
-25 -20 -15 -10
-5
Vlsr
/s]
SO
601.258
602.292
603.021
644.378
645.254
645.875
-25 -20 -15 -10
-5
Vlsr
/s]
SO
687.456
688.204
688.735
816.493
816.971
817.306
ig. A.1. continued. 5. Conclusions A53, page 9 o Appendix A: HIFI/CHESS spectral survey tral survey
-25 -20 -15 -10
-5
CO
11-10
13-12
14-13
15-14
16-15 -25 -20 -15 -10
-5
C18O
5-4
6-5
7-6
8-7
9-8
10-9 -25 -20 -15 -10
-5
13CO
5-4
6-5
7-6
8-7
9-8
10-9
11-10 -25 -20 -15 -10 -5
Tmb
CO
5-4
6-5
7-6
8-7
9-8
10-9 -25 -20 -15 -10 -5
Tmb
C17O
5-4
6-5
7-6
8-7 -25 -20 -15 -10
-5
H13CN
6-5
7-6
8-7
H13CO+
4-3
6-5 -25 -20 -15 -10
-5
HCN
6-5
7-6
8-7
9-8
10-9 -25 -20 -15 -10
-5
HCO+
6-5
7-6
8-7
9-8
10-9
11-10 9-8 Tmb -25 -20 -15 -10
-5
CS
10-9
11-10
12-11
13-12
14-13
15-14 -25 -20 -15 -10
-5
C
492.161
809.344 -25 -20 -15 -10
-5
CN
566.731
566.947
680.047
680.264 -25 -20 -15 -10 -5
Tmb
HNC
6-5
7-6
HC15N
5-4 -0.5
-30
-20
-10
Vlsr
/s]
CH+ -25 -20 -15 -10
-5
Vlsr
/s]
CH
532.724
532.793 -30
-20
-10
Vlsr
/s]
OH
1834.747
OH+
971.805
1033.004
1033.119 -25 -20 -15 -10 -5
Tmb
Vlsr
/s]
CCH
66-55
65-54
77-66
76-65
88-77
87-76 -20
-10
Vlsr
/s] 15 10
5
Vlsr
/s] 0
Vlsr
/s] Vlsr
/s] Fig. A.1. Line profiles of all identified species in HIFI spectral survey of AFGL 2591. Molecules (e.g. HCl, CH) for which hyperfine components
were detected are plotted all together and are centred on the velocity of the middle line. Lines with multiply profiles (e.g. CO – envelope and
outflow components; HF – emission and absorptions) are also presented in one figure and are centered at the velocity of the envelope component;
please compare with Table A.1. Fig. A.1. continued. 5. Conclusions A&A 567, A53 (2014) -25 -20 -15 -10
-5
N2H+
6-5
7-6
NO
651.434
651.773 -25 -20 -15 -10
-5
p-H2S
568.051
687.304
H2
34S
734.269 -25 -20 -15 -10 -5
Tmb
o-H2S
505.565
736.034
993.102
1072.837 0.0
1.0
2.0
3.0
4.0
5.0
-25 -20 -15 -10
-5
o-NH3
10-00
30-20
p-NH3
21-11
31-21
32-22 Tmb Tmb -25 -20 -15 -10
-5
Tmb
o-H2O
556.936
1097.365
1153.127
1162.912 -25 -20 -15 -10
-5
H2CO
491.968
510.156
510.238
525.666
561.899
600.331 -25 -20 -15 -10
-5
p-H2O
752.033
987.927
1113.343
1228.789 -25 -20 -15 -10
-5
H2CO
631.703
656.465
674.810
505.834
513.076 -25 -20 -15 -10 -5
Tmb
SO2
501.108
508.710
559.882
561.266
561.393 -25 -20 -15 -10
-5
SO2
613.076
626.087
632.193
639.651
651.300 -25 -20 -15 -10
-5
SO2
662.799
662.877
662.934
665.247
670.366 -25 -20 -15 -10
-5
SO2
653.110
660.918
661.962
662.404
662.567 -25 -20 -15 -10
-5
Vlsr
/s]
SO
514.853
516.335
517.354
558.087
559.319
560.178 -25 -20 -15 -10
-5
Vlsr
/s]
SO
601.258
602.292
603.021
644.378
645.254
645.875 -25 -20 -15 -10 -5
Tmb
Vlsr
/s]
SO2
695.633
702.104
727.379
820.150
840.751
848.523 -25 -20 -15 -10
-5
Vlsr
/s]
SO
687.456
688.204
688.735
816.493
816.971
817.306 Tmb 5
10
5
Vlsr
/s] 5 10
5
Vlsr
/s] 5
10
5
Vlsr
/s] Vlsr
/s] Vlsr
/s] Fig. A.1. continued. Fig. A.1. continued. A53, page 10 of 18 M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey M. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey
-25 -20 -15 -10 -5
Tmb
HCl
626
1251
H37Cl
625
-25 -20 -15 -10
-5
E-CH3OH
495.173
504.294
520.179
524.269
558.345
-25 -20 -15 -10
-5
E-CH3OH
568.566
581.092
601.849
602.233
616.980
-25 -20 -15 -10
-5
E-CH3OH
625.749
629.652
638.280
649.540
651.617
-25 -20 -15 -10 -5
Tmb
E-CH3OH
665.442
672.903
675.773
685.505
705.182
-25 -20 -15 -10
-5
E-CH3OH
713.983
721.011
802.241
815.071
820.762
-25 -20 -15 -10
-5
A-CH3OH
492.279
493.699
538.571
542.001
542.082
-25 -20 -15 -10
-5
A-CH3OH
579.085
579.921
580.196
580.213
584.450
-25 -20 -15 -10 -5
Tmb
Vlsr
/s]
A-CH3OH
622.659
626.626
629.921
633.423
638.818
-25 -20 -15 -10
-5
Vlsr
/s]
A-CH3OH
673.746
674.991
676.824
678.785
686.732
-25 -20 -15 -10
-5
Vlsr
/s]
A-CH3OH
687.225
728.863
771.576
829.891
830.349
-25 -20 -15 -10
-5
Vlsr
/s]
A-CH3OH
832.754
894.614
902.935
1071.514
Fig. A.1. continued. -25 -20 -15 -10 -5
Tmb
HCl
626
1251
H37Cl
625 -25 -20 -15 -10
-5
E-CH3OH
625.749
629.652
638.280
649.540
651.617 -25 -20 -15 -10
-5
E-CH3OH
568.566
581.092
601.849
602.233
616.980 -25 -20 -15 -10
-5
E-CH3OH
495.173
504.294
520.179
524.269
558.345 -25 -20 -15 -10
-5 -25 -20 -15 -10
-5 -25 -20 -15 -10
-5
A-CH3OH
492.279
493.699
538.571
542.001
542.082 -25 -20 -15 -10
-5
E-CH3OH
713.983
721.011
802.241
815.071
820.762 -25 -20 -15 -10
-5
A-CH3OH
579.085
579.921
580.196
580.213
584.450 -25 -20 -15 -10 -5
Tmb
E-CH3OH
665.442
672.903
675.773
685.505
705.182 -25 -20 -15 -10
-5 -25 -20 -15 -10
-5
Vlsr
/s]
A-CH3OH
832.754
894.614
902.935
1071.514 -25 -20 -15 -10
-5
Vlsr
/s]
A-CH3OH
673.746
674.991
676.824
678.785
686.732 -25 -20 -15 -10 -5
Tmb
Vlsr
/s]
A-CH3OH
622.659
626.626
629.921
633.423
638.818 -25 -20 -15 -10
-5
Vlsr
/s]
A-CH3OH
687.225
728.863
771.576
829.891
830.349 15 10
5
Vlsr
/s] 5
10
5
Vlsr
/s] 5
10
5
Vlsr
/s] 5
0
5
Vlsr
/s] Vlsr
/s] Fig. A.1. continued. Fig. A.1. continued. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table A.1. continued. ontinued. 5. Conclusions A53, page 11 of 18 A&A 567, A53 (2014) ,
(
)
ts of line measurements of all identified species from the HIFI spectral survey of AFGL 2591 ( ∗indicates JCM
Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
CO
3−2∗
345.796
33.2
−4.16 ± 0.01
4.13 ± 0.01
195.3 ± 0.2
44.40 ± 0.02
−14.03 ± 0.01
11.40 ± 0.02
170.8 ± 0.4
14.08 ± 0.01
5−4
576.268
83.0
−4.42 ± 0.02
4.98 ± 0.05
76.6 ± 0.1
14.45 ± 0.14
−6.70 ± 0.06
15.85 ± 0.12
155.7 ± 0.2
9.23 ± 0.13
6−5
691.473
116.2
−4.61 ± 0.01
5.39 ± 0.04
92.1 ± 0.1
16.07 ± 0.12
−7.23 ± 0.05
15.70 ± 0.10
145.5 ± 0.1
8.71 ± 0.11
7−6
806.652
154.9
−4.78 ± 0.01
5.52 ± 0.03
90.8 ± 0.1
15.45 ± 0.09
−7.36 ± 0.04
15.09 ± 0.09
119.5 ± 0.1
7.44 ± 0.09
8−7
921.800
199.1
−4.90 ± 0.02
5.96 ± 0.06
100.1 ± 0.2
15.77 ± 0.17
−7.21 ± 0.09
15.17 ± 0.18
105.9 ± 0.2
6.56 ± 0.17
9−8
1036.912
248.9
−5.02 ± 0.03
6.43 ± 0.09
109.9 ± 0.3
16.06 ± 0.27
−7.22 ± 0.18
15.96 ± 0.42
77.8 ± 0.5
4.58 ± 0.27
10−9
1151.985
304.2
−4.97 ± 0.02
6.01 ± 0.07
102.9 ± 0.2
16.08 ± 0.23
−7.29 ± 0.17
14.64 ± 0.35
66.1 ± 0.4
4.24 ± 0.23
11−10
1267.014
365.0
−5.05 ± 0.02
5.71 ± 0.06
100.8 ± 0.2
10.10 ± 0.12
−7.21 ± 0.17
14.87 ± 0.40
58.1 ± 0.4
2.23 ± 0.12
13−12
1496.923
503.1
−4.94 ± 0.01
4.82 ± 0.03
69.5 ± 0.1
9.34 ± 0.05
−4.95 ± 0.30
18.24 ± 0.84
34.7 ± 0.8
1.23 ± 0.06
14−13
1611.794
580.5
−5.00 ± 0.01
4.54 ± 0.02
62.2 ± 0.1
8.80 ± 0.03
−5.98 ± 0.11
17.47 ± 0.36
24.7 ± 0.4
0.91 ± 0.03
15−14
1726.603
663.4
−5.08 ± 0.01
4.22 ± 0.02
46.6 ± 0.1
7.01 ± 0.03
−6.07 ± 0.13
16.61 ± 0.41
18.0 ± 0.4
0.69 ± 0.03
16−15
1841.346
751.7
−4.82 ± 0.01
3.80 ± 0.03
23.1 ± 0.1
3.83 ± 0.03
−4.96 ± 0.11
13.34 ± 0.40
12.1 ± 0.4
0.57 ± 0.03
13CO
3−2∗
330.588
31.3
−5.58 ± 0.01
3.68 ± 0.02
92.3 ± 0.6
23.56 ± 0.05
−7.33 ± 0.01
9.13 ± 0.04
97.3 ± 1.1
10.01 ± 0.02
5−4
550.926
79.3
−5.85 ± 0.01
3.78 ± 0.03
38.7 ± 0.1
9.61 ± 0.12
−6.34 ± 0.04
9.06 ± 0.14
31.6 ± 0.2
3.27 ± 0.12
6−5
661.067
111.1
−5.76 ± 0.01
3.58 ± 0.03
34.6 ± 0.1
9.07 ± 0.11
−6.41 ± 0.03
8.21 ± 0.11
31.0 ± 0.2
3.54 ± 0.11
7−6
771.184
148.1
−5.66 ± 0.01
3.63 ± 0.04
32.1 ± 0.2
8.31 ± 0.15
−6.34 ± 0.06
8.06 ± 0.19
22.4 ± 0.2
2.61 ± 0.16
8−7
881.273
190.4
−5.55 ± 0.01
3.18 ± 0.05
21.0 ± 0.2
6.21 ± 0.16
−5.92 ± 0.04
7.03 ± 0.17
20.8 ± 0.2
2.78 ± 0.17
9−8
991.329
237.9
−5.43 ± 0.02
2.94 ± 0.10
14.1 ± 0.3
4.51 ± 0.28
−5.77 ± 0.05
6.03 ± 0.21
18.5 ± 0.4
2.88 ± 0.29
10−9
1101.350
290.8
−5.33 ± 0.04
2.32 ± 0.18
6.2 ± 0.4
2.53 ± 0.32
−5.41 ± 0.04
5.19 ± 0.21
18.1 ± 0.4
3.28 ± 0.33
11−10
1211.330
348.9
−5.22 ± 0.03
3.81 ± 0.07
17.4 ± 0.1
4.29 ± 0.07
C18O
5−4
548.831
79.0
−5.79 ± 0.01
2.55 ± 0.05
6.2 ± 0.1
2.30 ± 0.07
−6.30 ± 0.04
5.72 ± 0.12
7.8 ± 0.1
1.29 ± 0.07
6−5
658.553
110.6
−5.69 ± 0.01
2.63 ± 0.06
6.3 ± 0.1
2.26 ± 0.08
−6.23 ± 0.06
5.84 ± 0.19
6.2 ± 0.2
0.99 ± 0.08
7−6
768.252
147.5
−5.47 ± 0.05
2.58 ± 0.19
4.6 ± 0.3
1.69 ± 0.19
−6.01 ± 0.17
5.71 ± 0.51
5.3 ± 0.5
0.87 ± 0.20
8−7
877.922
189.6
−5.41 ± 0.04
1.79 ± 0.15
1.7 ± 0.2
0.88 ± 0.10
−5.82 ± 0.06
4.32 ± 0.18
4.9 ± 0.2
1.07 ± 0.10
9−8
987.560
237.0
−5.30 ± 0.03
3.24 ± 0.06
4.1 ± 0.1
1.19 ± 0.07
10−9
1097.163
289.7
−5.51 ± 0.08
4.00 ± 0.19
3.8 ± 0.2
0.90 ± 0.05
C17O
3−2∗
337.061
32.4
−5.64 ± 0.04
2.80 ± 0.10
9.8 ± 0.6
3.29 ± 0.08
−6.90 ± 0.20
5.70 ± 0.30
7.3 ± 1.0
1.20 ± 0.04
5−4
561.713
80.9
−5.63 ± 0.03
3.44 ± 0.07
4.3 ± 0.1
1.17 ± 0.02
6−5
674.009
113.2
−5.81 ± 0.03
3.51 ± 0.08
3.6 ± 0.1
0.97 ± 0.02
7−6
786.281
150.9
−5.60 ± 0.07
3.37 ± 0.16
2.8 ± 0.2
0.79 ± 0.03
8−7
898.523
194.1
−5.44 ± 0.06
3.04 ± 0.15
1.7 ± 0.1
0.51 ± 0.02
C
3P1−3P0
492.161
23.6
−5.72 ± 0.02
3.97 ± 0.06
13.66 ± 0.39
3.23 ± 0.05
−7.17 ± 0.06
10.19 ± 0.15
19.87 ± 0.79
1.83 ± 0.05
3P2−3P1
809.344
62.5
−5.30 ± 0.02
3.48 ± 0.05
13.33 ± 0.30
3.59 ± 0.04
−6.55 ± 0.05
10.96 ± 0.12
27.63 ± 0.71
2.37 ± 0.04 A53, page 12 of 18 M. 5. Conclusions continued. .1. continued. 5. Conclusions Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
C+
2P3/2−2P1/2
1900.537
91.2
−16.04 ± 0.05
4.95 ± 0.24
30.59 ± 4.62
5.81 ± 0.65
−5.42 ± 0.05
3.11 ± 0.12
29.51 ± 2.56
8.92 ± 0.51
−2.05 ± 0.03
3.21 ± 0.09
44.82 ± 2.94
13.10 ± 0.58
−19.48 ± 2.60
12.79 ± 2.79
17.55 ± 7.91
1.29 ± 0.38
−6.64 ± 0.71
9.05 ± 0.75
33.74 ± 6.24
3.51 ± 0.33
1.59 ± 0.04
1.75 ± 0.13
4.86 ± 0.65
2.61 ± 0.20
HCO+
4−3∗
356.734
42.8
−5.87 ± 0.01
4.18 ± 0.02
61.7 ± 0.5
13.87 ± 0.04
−7.61 ± 0.04
9.46 ± 0.08
39.8 ± 0.9
3.96 ± 0.02
6−5
535.061
89.9
−5.73 ± 0.03
3.48 ± 0.10
8.5 ± 0.2
2.30 ± 0.14
−6.65 ± 0.21
6.12 ± 0.37
4.0 ± 0.4
0.62 ± 0.15
7−6
624.208
119.8
−5.55 ± 0.04
3.15 ± 0.14
6.0 ± 0.2
1.80 ± 0.20
−6.42 ± 0.20
5.15 ± 0.27
4.5 ± 0.3
0.82 ± 0.20
8−7
713.342
154.1
−5.61 ± 0.01
3.10 ± 0.04
5.4 ± 0.1
1.65 ± 0.02
−6.62 ± 0.14
8.29 ± 0.38
2.2 ± 0.4
0.25 ± 0.02
9−8
802.458
192.6
−5.47 ± 0.03
3.27 ± 0.06
4.8 ± 0.1
1.37 ± 0.02
10−9
891.557
235.3
−5.47 ± 0.04
3.11 ± 0.09
3.4 ± 0.1
1.02 ± 0.03
11−10
980.637
282.4
−5.21 ± 0.10
3.52 ± 0.25
2.1 ± 0.3
0.56 ± 0.04
H13CO+
4−3∗
346.998
41.6
−5.60 ± 0.10
2.90 ± 0.10
5.74 ± 0.36
1.86 ± 0.05
6−5
520.460
87.4
−5.49 ± 0.13
4.25 ± 0.31
0.66 ± 0.08
0.15 ± 0.01
7−6
607.175
116.6
−5.34 ± 0.15
1.96 ± 0.35
0.25 ± 0.08
0.12 ± 0.02
HCN
4−3∗
354.506
42.5
−5.51 ± 0.02
4.33 ± 0.04
36.20 ± 0.70
7.86 ± 0.28
−6.52 ± 0.06
8.40 ± 0.20
22.40 ± 1.30
2.51 ± 0.30
6−5
531.716
89.3
−5.52 ± 0.02
3.91 ± 0.05
3.49 ± 0.08
0.84 ± 0.01
7−6
620.304
119.1
−5.35 ± 0.04
4.02 ± 0.09
2.88 ± 0.12
0.67 ± 0.02
8−7
708.877
153.1
−5.30 ± 0.06
4.16 ± 0.14
2.11 ± 0.13
0.48 ± 0.02
9−8
797.434
191.4
−5.14 ± 0.07
3.46 ± 0.17
1.20 ± 0.10
0.33 ± 0.02
10−9
885.971
233.9
−4.98 ± 0.09
5.47 ± 0.20
2.07 ± 0.13
0.36 ± 0.01
HCN υ = 1c, 4−3
354.46043
1066.9
−5.22 ± 0.18
5.99 ± 0.45
2.29 ± 0.14
0.36 ± 0.10
HCN υ = 1d, 4−3
356.25556
1067.1
−5.08 ± 0.25
5.27 ± 0.68
1.54 ± 0.15
0.28 ± 0.07
H13CN
4−3∗
345.340
41.4
−5.10 ± 0.10
5.40 ± 0.20
7.93 ± 0.44
1.38 ± 0.03
6−5
517.970
87.0
−5.44 ± 0.15
3.54 ± 0.36
0.46 ± 0.08
0.12 ± 0.02
7−6
604.268
116.0
−4.82 ± 0.14
3.38 ± 0.33
0.56 ± 0.09
0.16 ± 0.01
8−7
690.552
149.2
−4.92 ± 0.18
4.43 ± 0.44
0.64 ± 0.08
0.11 ± 0.01
HC15N
4−3∗
344.200
41.3
−5.50 ± 0.20
4.30 ± 0.40
2.52 ± 0.30
0.55 ± 0.04
6−5
516.262
86.7
−4.17 ± 0.23
3.66 ± 0.55
0.32 ± 0.08
0.08 ± 0.01
HNC
4−3∗
362.630
43.5
−5.51 ± 0.03
2.50 ± 0.10
8.20 ± 0.70
3.08 ± 0.13
−6.01 ± 0.07
4.80 ± 0.20
10.00 ± 2.00
1.96 ± 0.12
6−5
543.897
91.4
−5.37 ± 0.06
3.36 ± 0.14
0.86 ± 0.06
0.24 ± 0.01
7−6
634.511
121.8
−5.32 ± 0.08
3.55 ± 0.19
0.79 ± 0.07
0.21 ± 0.01
CCH
45-34∗
349.338
41.9
−5.89 ± 0.04
3.80 ± 0.11
8.50 ± 0.19
2.12 ± 0.06
45-32∗
349.401
41.9
−5.46 ± 0.32
4.01 ± 0.99
6.68 ± 1.21
1.56 ± 0.31
66−55
523.971
88.0
−6.41 ± 0.09
3.79 ± 0.21
0.85 ± 0.08
0.21 ± 0.01
65−54
524.033
88.0
−6.04 ± 0.11
4.13 ± 0.27
0.71 ± 0.08
0.16 ± 0.01
77−66
611.265
117.4
−6.26 ± 0.15
3.22 ± 0.35
0.47 ± 0.09
0.14 ± 0.01
0.82 ± 0.15
2.58 ± 0.36
−0.33 ± 0.08
-0.12 ± 0.02
76−65
611.328
117.4
−6.64 ± 0.14
2.86 ± 0.33
0.39 ± 0.09
0.14 ± 0.02
88−77
698.542
150.9
−6.89 ± 0.19
3.89 ± 0.46
0.35 ± 0.08
0.09 ± 0.01
87−76
698.604
150.9
−6.64 ± 0.19
3.62 ± 0.45
0.38 ± 0.08
0.09 ± 0.01 A53, page 13 of 18 A&A 567, A53 (2014) Table A.1. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table A.1. continued. Table A.1. continued. .1. continued. 5. Conclusions Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
CH 2Π3/2
3/22+−1/21−
532.724
25.7
−5.10 ± 0.07
4.84 ± 0.19
2.00 ± 0.13
0.39 ± 0.01
−0.32 ± 0.14
1.80 ± 0.33
−0.24 ± 0.07
-0.13 ± 0.02
3/21+−1/20−
532.793
25.7
−5.77 ± 0.14
4.83 ± 0.34
1.12 ± 0.13
0.22 ± 0.01
3/22−−1/21+
536.761
25.8
−5.40 ± 0.08
5.68 ± 0.20
2.04 ± 0.12
0.34 ± 0.01
0.73 ± 0.15
2.57 ± 0.36
−0.31 ± 0.07
−0.11 ± 0.01
3/21−−1/21+
536.782
25.8
−4.93 ± 0.25
3.64 ± 0.60
1.98 ± 0.10
0.09 ± 0.01
3/21−−1/20+
536.796
25.8
−5.68 ± 0.15
4.92 ± 0.38
1.18 ± 0.12
0.19 ± 0.01
CH+
1−0
835.138
40.1
4.17 ± 0.16
12.42 ± 0.43
−5.90 ± 0.33
−0.45 ± 0.01
−7.46 ± 0.12
3.50 ± 0.29
1.24 ± 0.17
0.33 ± 0.02
−16.90 ± 0.22
9.24 ± 0.59
−2.72 ± 0.28
−0.28 ± 0.01
OH 2Π1/2
J = 3/2−1/2, F = 2– −1+
1834.747
269.8
−4.30 ± 0.18
3.42 ± 0.10
6.8 ± 0.3
1.27 ± 0.05
−5.12 ± 0.06
10.39 ± 0.28
9.5 ± 0.6
0.56 ± 0.05
OH+, F = 1−0
J = 2−1, F = 3/2−1/2
971.805
46.7
3.46 ± 0.28
11.87 ± 0.69
−7.66 ± 0.77
−0.61 ± 0.03
J = 1−1, F = 3/2−1/2
1033.004
49.6
3.88 ± 0.19
4.60 ± 0.47
−2.03 ± 0.36
−0.42 ± 0.04
J = 1−1, F = 3/2−3/2
1033.119
49.6
3.61 ± 0.25
10.92 ± 0.64
−5.78 ± 0.59
−0.51 ± 0.03
CN
303−203∗
339.517
32.6
−5.66 ± 0.30
3.19 ± 0.80
0.67 ± 0.17
0.20 ± 0.02
303−202∗
340.008
32.6
−5.47 ± 0.18
2.14 ± 0.34
0.83 ± 0.35
0.36 ± 0.04
303−202∗
340.020
32.6
−5.45 ± 0.37
3.14 ± 0.50
1.15 ± 0.31
0.34 ± 0.05
303−202∗
340.032
32.6
−5.47 ± 0.19
2.93 ± 0.46
5.77 ± 1.01
1.85 ± 0.11
303−202∗
340.035
32.6
−5.60 ± 0.20
3.17 ± 0.57
5.90 ± 1.04
1.75 ± 0.12
505−404
566.731
81.6
−5.61 ± 0.09
3.56 ± 0.22
0.88 ± 0.09
0.23 ± 0.01
506−405
566.947
81.7
−5.66 ± 0.07
3.52 ± 0.16
1.11 ± 0.09
0.30 ± 0.01
606−505
680.047
114.2
−5.38 ± 0.09
2.87 ± 0.21
0.47 ± 0.06
0.16 ± 0.01
607−506
680.264
114.3
−5.85 ± 0.11
3.80 ± 0.25
0.75 ± 0.07
0.17 ± 0.01
CS
7−6∗
342.883
65.8
−5.80 ± 0.02
3.10 ± 0.06
15.50 ± 0.50
4.70 ± 0.30
−7.30 ± 0.30
6.40 ± 0.30
5.00 ± 0.80
0.73 ± 0.29
10−9
489.751
129.3
−5.68 ± 0.06
3.69 ± 0.14
1.30 ± 0.10
0.33 ± 0.01
11−10
538.689
155.2
−5.71 ± 0.07
3.53 ± 0.17
1.01 ± 0.20
0.27 ± 0.01
12−11
587.616
183.4
−5.04 ± 0.11
4.52 ± 0.25
0.89 ± 0.30
0.18 ± 0.01
13−12
636.532
213.9
−5.24 ± 0.12
4.04 ± 0.29
0.61 ± 0.30
0.14 ± 0.01
14−13
685.435
246.8
−5.05 ± 0.12
3.93 ± 0.28
0.73 ± 0.30
0.18 ± 0.01
15−14
734.324
282.0
−5.66 ± 0.16
4.17 ± 0.38
0.70 ± 0.40
0.16 ± 0.01
13CS
8−7∗
369.909
79.9
−5.20 ± 0.40
3.20 ± 0.80
0.85 ± 0.36
0.25 ± 0.05
C34S
7−6∗
337.396
50.2
−5.00 ± 0.30
3.40 ± 0.60
1.52 ± 0.46
0.42 ± 0.06
OCS
28−27∗
340.449
237.0
−4.91 ± 0.21
2.94 ± 0.40
0.77 ± 0.11
0.25 ± 0.0.3
29−28∗
352.600
253.9
−4.85 ± 0.18
4.09 ± 0.44
1.12 ± 0.11
0.25 ± 0.0.3
30−29∗
364.749
271.4
−5.37 ± 0.24
2.79 ± 0.80
0.80 ± 0.16
0.27 ± 0.0.4
o-H2S
32,1−31,2∗
369.102
154.5
−5.27 ± 0.32
3.30 ± 0.58
1.29 ± 0.22
0.37 ± 0.04
221−212
505.565
79.4
−5.71 ± 0.08
3.10 ± 0.20
0.70 ± 0.08
0.22 ± 0.01
212−101
736.034
55.1
−5.40 ± 0.03
3.39 ± 0.07
4.00 ± 0.14
1.11 ± 0.02
0.22 ± 0.09
0.97 ± 0.22
−0.19 ± 0.08
-0.19 ± 0.04
303−212
993.102
350.1
−6.98 ± 0.16
4.34 ± 0.40
2.66 ± 0.42
0.58 ± 0.05
221−110
1072.837
79.4
−5.59 ± 0.19
4.05 ± 0.45
1.73 ± 0.30
0.38 ± 0.04
p-H2S
331−322
568.051
166.0
−4.96 ± 0.19
2.08 ± 0.45
0.19 ± 0.07
0.08 ± 0.02
202−111
687.304
54.7
−5.77 ± 0.05
3.49 ± 0.13
1.43 ± 0.09
0.39 ± 0.01
H34
2 S
212−101
734.269
55.0
−5.54 ± 0.18
1.94 ± 0.42
0.27 ± 0.12
0.15 ± 0.03 A53, page 14 of 18 M. 5. Conclusions continued. 5. Conclusions Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
o-H2CS
101,10−91,9∗
338.083
102.4
−5.60 ± 0.27
3.09 ± 1.07
0.96 ± 0.21
0.30 ± 0.03
101,9−91,8∗
348.534
105.2
−5.25 ± 0.29
4.61 ± 0.86
1.31 ± 0.18
0.27 ± 0.03
111,11−101,10∗
371.847
120.3
−5.62 ± 0.33
4.36 ± 0.71
0.98 ± 0.15
0.21 ± 0.03
HCl
13/2−03/2
625.902
30.0
−5.85 ± 0.04
3.63 ± 0.08
2.46 ± 0.10
0.64 ± 0.01
15/2−03/2
625.919
30.0
−5.68 ± 0.03
3.82 ± 0.08
2.45 ± 0.10
0.73 ± 0.01
11/2−03/2
625.932
30.0
−5.89 ± 0.06
3.89 ± 0.14
2.44 ± 0.10
0.42 ± 0.01
25/2−15/2
1251.434
90.1
−5.21 ± 0.12
2.22 ± 0.37
0.52 ± 0.28
0.30 ± 0.08
27/2−15/2
1251.452
90.1
−5.27 ± 0.03
4.51 ± 0.08
2.26 ± 0.20
0.47 ± 0.04
H37Cl
13/2−03/2
624.964
30.0
−5.74 ± 0.09
4.07 ± 0.23
1.15 ± 0.11
0.27 ± 0.01
15/2−03/2
624.978
30.0
−5.86 ± 0.07
3.19 ± 0.18
1.18 ± 0.12
0.42 ± 0.02
11/2−03/2
624.988
30.0
−5.74 ± 0.18
3.89 ± 0.45
0.17 ± 0.13
0.17 ± 0.01
o-NH3
10−00
572.498
27.5
−5.41 ± 0.03
4.13 ± 0.07
3.41 ± 0.10
0.78 ± 0.01
0.00 ± 0.15
1.30 ± 0.36
-0.12 ± 0.06
-0.09 ± 0.02
30−20
1763.524
170.4
−5.30 ± 0.13
5.41 ± 0.31
2.54 ± 0.25
0.44 ± 0.02
p-NH3
21−11
1168.452
79.3
−5.68 ± 0.11
2.68 ± 0.28
2.29 ± 0.41
0.80 ± 0.07
31−21
1763.601
165.1
−4.37 ± 0.09
4.18 ± 0.22
1.01 ± 0.32
0.23 ± 0.07
32−22
1763.823
149.1
−4.55 ± 0.15
3.92 ± 0.36
1.67 ± 0.25
0.40 ± 0.03
N2H+
4−3∗
372.673
44.7
−6.00 ± 0.10
2.90 ± 0.10
6.61 ± 0.39
2.14 ± 0.06
6−5
558.967
93.9
−5.68 ± 0.09
2.89 ± 0.21
0.76 ± 0.09
0.25 ± 0.02
7−6
652.096
125.2
−6.01 ± 0.09
2.47 ± 0.19
0.43 ± 0.06
0.16 ± 0.01
NO
2Π+1/2, J = 7/2−5/2, F = 7/2−5/2∗
350.691
36.1
−4.40 ± 0.20
4.90 ± 0.30
4.32 ± 0.13
0.80 ± 0.10
2Π−1/2, J = 7/2−5/2, F = 7/2−5/2∗
351.052
36.1
−4.62 ± 0.70
9.98 ± 1.50
2.01 ± 0.14
0.17 ± 0.10
2Π+1/2, J=13/2-11/2, F=11/2-9/2
651.434
115.4
−5.39 ± 0.17
4.46 ± 0.40
0.48 ± 0.08
0.10 ± 0.01
2Π−1/2, J=13/2-11/2, F=11/2-9/2
651.773
115.5
−4.92 ± 0.09
3.78 ± 0.22
0.58 ± 0.06
0.15 ± 0.01
E-CH3OH
70,0−6−1,0
495.173
70.2
−5.62 ± 0.20
3.16 ± 0.47
0.35 ± 0.10
0.11 ± 0.02
71,0−60,0
504.294
78.2
−6.25 ± 0.19
4.10 ± 0.46
0.49 ± 0.10
0.11 ± 0.01
2−2,0−1−1,0
520.179
25.0
−5.33 ± 0.13
3.57 ± 0.30
0.57 ± 0.09
0.15 ± 0.01
13−4,0−13−3,0
524.269
291.2
−5.86 ± 0.18
3.61 ± 0.44
0.40 ± 0.08
0.10 ± 0.01
112,0−101,0
558.345
167.6
−5.57 ± 0.24
3.10 ± 0.57
0.34 ± 0.11
0.10 ± 0.02
3−2,0−2−1,0
568.566
31.9
−5.87 ± 0.17
4.08 ± 0.41
0.58 ± 0.10
0.14 ± 0.01
12−2,0−11−2,0
581.092
199.2
−6.21 ± 0.20
2.55 ± 0.46
0.23 ± 0.07
0.09 ± 0.01
131,0−122,0
601.849
224.4
−6.24 ± 0.25
3.44 ± 0.60
0.30 ± 0.09
0.08 ± 0.01
91,0−80,0
602.233
117.6
−5.86 ± 0.21
2.86 ± 0.49
0.33 ± 0.10
0.11 ± 0.02
4−2,0−3−1,0
616.980
41.2
−5.63 ± 0.11
3.39 ± 0.27
0.62 ± 0.09
0.17 ± 0.01
130,0−120,0
625.749
215.9
−6.31 ± 0.31
4.52 ± 0.74
0.38 ± 0.11
0.08 ± 0.01
13−2,0−12−2,0
629.652
229.4
−6.56 ± 0.23
3.21 ± 0.55
0.30 ± 0.09
0.09 ± 0.01
100,0−9−1,0
638.280
132.7
−5.53 ± 0.18
2.98 ± 0.42
0.31 ± 0.08
0.10 ± 0.01
141,0−132,0
649.540
256.9
−5.84 ± 0.17
3.71 ± 0.42
0.27 ± 0.05
0.07 ± 0.01
101,0−90,0
651.617
140.8
−5.79 ± 0.12
3.79 ± 0.30
0.40 ± 0.06
0.10 ± 0.01
5−2,0−4−1,0
665.442
52.8
−5.53 ± 0.07
2.87 ± 0.16
0.54 ± 0.06
0.20 ± 0.01
17−1,0−160,0
672.903
352.0
−5.76 ± 0.14
3.09 ± 0.33
0.35 ± 0.06
0.11 ± 0.01
33,0−22,0
675.773
53.7
−5.81 ± 0.20
4.17 ± 0.49
0.44 ± 0.08
0.09 ± 0.01
110,0−10−1,0
685.505
158.2
−5.56 ± 0.23
4.30 ± 0.56
0.50 ± 0.08
0.09 ± 0.01
142,0−131,0
705.182
258.2
−5.11 ± 0.16
2.61 ± 0.38
0.23 ± 0.06
0.08 ± 0.01
6−2,0−5−1,0
713.983
66.8
−5.93 ± 0.10
3.47 ± 0.22
0.63 ± 0.07
0.17 ± 0.01
150,0−140,0
721.011
282.9
−6.11 ± 0.14
2.64 ± 0.33
0.44 ± 0.10
0.16 ± 0.02
131,0−120,0
802.241
224.4
−5.78 ± 0.13
2.14 ± 0.31
0.43 ± 0.11
0.19 ± 0.02
6−4,0−5−3,0
815.071
128.8
−5.41 ± 0.12
2.63 ± 0.28
0.43 ± 0.08
0.15 ± 0.01
63,0−52,0
820.762
88.6
−5.83 ± 0.22
3.45 ± 0.52
0.46 ± 0.12
0.13 ± 0.02 A53, page 15 of 18 A&A 567, A53 (2014) Table A.1. 5. Conclusions Ka´zmierczak-Barthel et al.: AFGL 2591 – HIFI/CHESS survey Table A.1. continued. Table A.1. continued. 5. Conclusions Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
A-CH3OH
41,+0−30,+0
492.279
37.6
−5.75 ± 0.11
3.44 ± 0.26
0.80 ± 0.11
0.22 ± 0.01
53,+0−42,+0
493.699
84.6
−5.41 ± 0.17
2.67 ± 0.41
0.30 ± 0.08
0.11 ± 0.01
51,+0−40,+0
538.571
49.1
−5.76 ± 0.07
3.03 ± 0.16
0.72 ± 0.07
0.22 ± 0.01
63,+0−52,+0
542.001
98.6
−5.60 ± 0.14
1.88 ± 0.33
0.31 ± 0.10
0.16 ± 0.02
63,−0−52,−0
542.082
98.6
−6.69 ± 0.19
3.43 ± 0.47
0.60 ± 0.14
0.16 ± 0.02
22,−0−11,−0
579.085
44.7
−5.44 ± 0.11
3.01 ± 0.27
0.54 ± 0.09
0.17 ± 0.01
22,+0−11,+0
579.921
44.7
−6.39 ± 0.21
4.30 ± 0.50
0.60 ± 0.13
0.13 ± 0.01
124,+0−114,+0
580.196
261.4
−5.87 ± 0.20
2.57 ± 0.49
0.20 ± 0.09
0.08 ± 0.02
123,−0−113,−0
580.213
230.8
−5.51 ± 0.26
3.53 ± 0.62
0.31 ± 0.10
0.09 ± 0.01
61,+0−50,+0
584.450
62.9
−5.54 ± 0.12
3.07 ± 0.27
0.66 ± 0.10
0.20 ± 0.02
131,+0−121,+0
622.659
223.8
−6.25 ± 0.18
3.58 ± 0.43
0.40 ± 0.09
0.10 ± 0.01
32,−0−21,−0
626.626
51.6
−6.25 ± 0.13
3.67 ± 0.31
0.71 ± 0.10
0.18 ± 0.01
71,+0−60,+0
629.921
79.0
−5.32 ± 0.11
3.16 ± 0.11
0.65 ± 0.10
0.19 ± 0.01
131,−0−121,−0
633.423
227.5
−6.74 ± 0.24
4.14 ± 0.59
0.50 ± 0.12
0.11 ± 0.01
83,−0−72,−0
638.818
133.4
−5.41 ± 0.13
3.13 ± 0.31
0.51 ± 0.09
0.15 ± 0.01
42,−0−31,−0
673.746
60.9
−5.70 ± 0.09
3.66 ± 0.22
0.69 ± 0.07
0.18 ± 0.01
81,+0−70,+0
674.991
97.4
−5.42 ± 0.09
3.18 ± 0.22
0.56 ± 0.07
0.17 ± 0.01
144,+0−134,+0
676.824
324.0
−5.48 ± 0.15
3.89 ± 0.36
0.47 ± 0.07
0.11 ± 0.01
42,+0−31,+0
678.785
60.9
−5.99 ± 0.09
4.13 ± 0.20
0.87 ± 0.07
0.20 ± 0.01
93,+0−82,+0
686.732
154.3
−5.36 ± 0.15
4.20 ± 0.37
0.54 ± 0.08
0.12 ± 0.01
93,−0−82,−0
687.225
154.3
−5.52 ± 0.23
2.70 ± 0.55
0.32 ± 0.11
0.11 ± 0.02
52,+0−41,+0
728.863
72.5
−5.46 ± 0.18
4.19 ± 0.43
0.95 ± 0.17
0.21 ± 0.02
160,+0−150,+0
771.576
315.2
−4.57 ± 0.19
3.21 ± 0.44
1.70 ± 0.31
0.41 ± 0.04
44,−0−33,−0
829.891
103.6
−5.26 ± 0.14
3.40 ± 0.36
0.67 ± 0.11
0.18 ± 0.02
72,+0−61,+0
830.349
102.7
−5.60 ± 0.12
2.67 ± 0.29
0.57 ± 0.11
0.20 ± 0.02
123,−0−112,−0
832.754
230.8
−5.45 ± 0.16
2.73 ± 0.38
0.49 ± 0.12
0.17 ± 0.02
131,+0−120,+0
894.614
223.8
−6.08 ± 0.18
3.59 ± 0.43
0.71 ± 0.15
0.19 ± 0.02
92,−0−81,−0
902.935
142.2
−5.45 ± 0.22
3.12 ± 0.52
0.62 ± 0.18
0.19 ± 0.03
94,+0−83,+0
1071.514
184.8
−4.69 ± 0.10
1.95 ± 0.23
0.97 ± 0.19
0.47 ± 0.05
o-H2CO
515−414∗
351.769
31.7
−5.57 ± 0.02
3.51 ± 0.04
10.85 ± 0.10
2.91 ± 0.02
533−432∗
364.275
158.4
−5.24 ± 0.16
4.78 ± 0.35
2.98 ± 0.21
0.58 ± 0.08
532−431∗
364.289
158.4
−5.65 ± 0.26
4.21 ± 0.63
2.96 ± 0.38
0.66 ± 0.17
717−616
491.968
106.3
−5.75 ± 0.09
3.59 ± 0.21
0.98 ± 0.10
0.26 ± 0.01
735−634
510.156
203.9
−5.21 ± 0.56
3.19 ± 0.97
0.33 ± 0.15
0.10 ± 0.02
734−633
510.238
203.9
−5.43 ± 0.25
3.64 ± 0.60
0.31 ± 0.09
0.08 ± 0.01
716−615
525.666
112.8
−5.56 ± 0.09
3.56 ± 0.25
0.77 ± 0.09
0.20 ± 0.01
818−717
561.899
133.3
−4.69 ± 0.12
3.53 ± 0.28
0.80 ± 0.11
0.21 ± 0.02
817−716
600.331
141.6
−5.20 ± 0.15
3.53 ± 0.36
0.61 ± 0.11
0.16 ± 0.02
919−818
631.703
163.6
−5.09 ± 0.12
2.90 ± 0.28
0.53 ± 0.09
0.17 ± 0.01
936−835
656.465
263.4
−4.84 ± 0.22
4.43 ± 0.54
0.36 ± 0.05
0.08 ± 0.01
918−817
674.810
174.0
−5.18 ± 0.22
4.49 ± 0.52
0.49 ± 0.05
0.10 ± 0.01
p-H2CO
505−404∗
362.736
52.3
−5.58 ± 0.04
3.47 ± 0.10
7.27 ± 0.16
1.96 ± 0.04
524−423∗
363.946
99.5
−5.57 ± 0.21
3.85 ± 0.47
2.48 ± 0.27
0.61 ± 0.13
523−422∗
365.363
99.7
−5.69 ± 0.10
3.53 ± 0.28
1.98 ± 0.12
0.53 ± 0.09
707−606
505.834
97.4
−5.53 ± 0.09
1.92 ± 0.20
0.36 ± 0.07
0.18 ± 0.02
725−624
513.076
145.4
−5.30 ± 0.17
2.29 ± 0.39
0.23 ± 0.07
0.09 ± 0.01 A53, page 16 of 18 M. 5. Conclusions continued. 5. Conclusions Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
SO
33−32∗
339.342
25.5
−5.39 ± 0.12
3.38 ± 0.32
1.58 ± 0.12
0.44 ± 0.05
78−67∗
340.714
81.2
−5.78 ± 0.07
5.35 ± 0.17
7.99 ± 0.20
1.41 ± 0.10
88−77∗
344.311
87.5
−5.76 ± 0.06
5.12 ± 0.13
8.57 ± 0.18
1.57 ± 0.10
98−87∗
346.529
78.8
−5.56 ± 0.05
5.91 ± 0.14
10.42 ± 0.18
1.66 ± 0.10
1211−1110
514.853
167.6
−5.43 ± 0.18
4.51 ± 0.44
0.61 ± 0.10
0.13 ± 0.01
1212−1111
516.335
174.2
−4.97 ± 0.23
5.65 ± 0.55
0.72 ± 0.12
0.12 ± 0.01
1213−1112
517.354
165.8
−5.08 ± 0.18
5.15 ± 0.43
0.73 ± 0.11
0.13 ± 0.01
1312−1211
558.087
194.4
−5.83 ± 0.18
5.50 ± 0.44
0.95 ± 0.13
0.16 ± 0.01
1313−1212
559.319
201.1
−4.90 ± 0.20
5.73 ± 0.48
0.90 ± 0.13
0.15 ± 0.01
1314−1213
560.178
192.7
−6.30 ± 0.15
4.47 ± 0.36
0.75 ± 0.11
0.16 ± 0.01
1413−1312
601.258
223.2
−5.90 ± 0.18
5.08 ± 0.44
0.79 ± 0.12
0.15 ± 0.01
1414−1313
602.292
230.0
−4.87 ± 0.27
4.56 ± 0.65
0.53 ± 0.13
0.11 ± 0.01
1415−1314
603.021
221.6
−5.60 ± 0.17
5.04 ± 0.40
0.81 ± 0.11
0.15 ± 0.01
1514−1413
644.378
254.2
−5.47 ± 0.13
4.61 ± 0.32
0.80 ± 0.10
0.16 ± 0.01
1515−1414
645.254
260.9
−5.18 ± 0.15
5.14 ± 0.37
0.80 ± 0.10
0.14 ± 0.01
1516−1415
645.875
252.6
−5.51 ± 0.12
4.86 ± 0.29
0.86 ± 0.09
0.16 ± 0.01
1615−1514
687.456
287.2
−5.45 ± 0.12
4.91 ± 0.29
0.82 ± 0.08
0.15 ± 0.01
1616−1515
688.204
294.0
−5.24 ± 0.10
3.39 ± 0.25
0.62 ± 0.09
0.17 ± 0.01
1617−1516
688.735
285.7
−5.72 ± 0.16
5.36 ± 0.38
0.96 ± 0.08
0.14 ± 0.01
1918−1817
816.493
398.5
−6.06 ± 0.19
3.88 ± 0.46
0.68 ± 0.09
0.16 ± 0.02
1919−1818
816.971
405.4
−6.01 ± 0.20
4.64 ± 0.48
0.76 ± 0.13
0.15 ± 0.01
1920−1819
817.306
397.2
−5.32 ± 0.19
4.41 ± 0.47
0.76 ± 0.14
0.16 ± 0.01
34SO
78−67∗
333.902
79.9
−5.12 ± 0.18
4.15 ± 0.43
1.74 ± 0.16
0.39 ± 0.05
88−77∗
337.582
86.1
−5.41 ± 0.27
4.05 ± 0.62
1.12 ± 0.15
0.26 ± 0.04
98−87∗
339.858
77.3
−5.18 ± 0.13
4.75 ± 0.30
2.06 ± 0.12
0.41 ± 0.05
SO2
212,20−211,21∗
332.091
219.5
−4.74 ± 0.18
5.00 ± 0.43
1.81 ± 0.14
0.34 ± 0.04
43,1−32,2∗
332.505
31.3
−5.41 ± 0.14
5.26 ± 0.36
2.80 ± 0.16
0.50 ± 0.07
82,6−71,7∗
334.673
43.2
−5.25 ± 0.17
5.43 ± 0.37
3.52 ± 0.22
0.61 ± 0.08
233,21−232,22∗
336.089
276.0
−4.55 ± 0.21
4.44 ± 0.46
1.87 ± 0.18
0.40 ± 0.06
184,14−183,15∗
338.306
196.8
−5.03 ± 0.19
5.29 ± 0.41
2.31 ± 0.16
0.41 ± 0.06
201,19−192,18∗
338.612
198.9
−6.55 ± 0.34
6.04 ± 0.50
3.95 ± 0.46
0.61 ± 0.09
191,19−180,18∗
346.652
168.1
−5.11 ± 0.14
5.99 ± 0.33
3.45 ± 0.16
0.54 ± 0.07
242,22−233,21∗
348.388
292.7
−4.98 ± 0.18
5.06 ± 0.40
2.47 ± 0.18
0.46 ± 0.06
106,4−115,7∗
350.863
138.9
−5.41 ± 0.20
4.15 ± 0.40
0.82 ± 0.10
0.19 ± 0.03
53,3−42,2∗
351.257
35.9
−5.16 ± 0.10
5.16 ± 0.21
3.30 ± 0.12
0.60 ± 0.07
144,10−143,11∗
351.874
135.9
−5.10 ± 0.10
4.90 ± 0.22
2.31 ± 0.10
0.44 ± 0.05
124,8−123,9∗
355.046
111.0
−5.02 ± 0.10
5.29 ± 0.21
3.84 ± 0.13
0.68 ± 0.08
134,10−133,11∗
357.165
122.9
−5.12 ± 0.16
5.27 ± 0.34
2.70 ± 0.16
0.48 ± 0.06
154,12−153,13∗
357.241
149.7
−5.25 ± 0.11
5.10 ± 0.26
2.54 ± 0.12
0.47 ± 0.06
114,8−113,9∗
357.388
100.0
−5.11 ± 0.11
5.12 ± 0.22
2.99 ± 0.12
0.55 ± 0.06
84,4−83,5∗
357.581
72.4
−5.01 ± 0.13
4.64 ± 0.26
2.58 ± 0.14
0.52 ± 0.06
94,6−93,7∗
357.672
80.6
−5.14 ± 0.13
5.23 ± 0.32
2.85 ± 0.15
0.51 ± 0.06
74,4−73,5∗
357.892
65.0
−4.85 ± 0.10
4.71 ± 0.18
3.02 ± 0.10
0.60 ± 0.06
64,2−63,3∗
357.926
58.6
−5.24 ± 0.26
5.65 ± 0.63
2.98 ± 0.28
0.49 ± 0.06
44,0−43,1∗
358.038
48.5
−5.32 ± 0.12
4.36 ± 0.25
2.07 ± 0.11
0.45 ± 0.05
200,20−191,19∗
358.216
185.3
−4.97 ± 0.10
5.26 ± 0.22
3.78 ± 0.13
0.68 ± 0.08
214,18−213,19∗
363.159
252.1
−5.39 ± 0.20
5.47 ± 0.48
2.62 ± 0.20
0.45 ± 0.06
152,14−141,13∗
366.215
119.3
−5.18 ± 0.10
5.09 ± 0.23
3.17 ± 0.13
0.58 ± 0.06
63,3−52,4∗
371.172
41.1
−5.19 ± 0.13
4.86 ± 0.29
2.75 ± 0.14
0.53 ± 0.06
280,28−271,27
501.108
354.3
−5.41 ± 0.17
3.12 ± 0.42
0.38 ± 0.09
0.11 ± 0.01
153,13−142,12
508.710
132.5
−4.63 ± 0.19
3.40 ± 0.46
0.41 ± 0.09
0.11 ± 0.01
186,12−185,13
559.882
245.5
−5.88 ± 0.24
3.06 ± 0.57
0.32 ± 0.11
0.10 ± 0.02
136,8−135,9
561.266
171.9
−5.27 ± 0.25
4.81 ± 0.61
0.61 ± 0.12
0.11 ± 0.01
126,6−125,7
561.393
160.0
−5.13 ± 0.21
2.96 ± 0.49
0.32 ± 0.09
0.10 ± 0.02
85,3−74,4
613.076
94.4
−4.86 ± 0.19
4.74 ± 0.45
0.53 ± 0.09
0.11 ± 0.01
144,10−133,11
626.087
135.9
−4.54 ± 0.10
2.23 ± 0.24
0.41 ± 0.08
0.17 ± 0.02
95,5−84,4
632.193
102.7
−5.09 ± 0.20
4.61 ± 0.48
0.56 ± 0.10
0.11 ± 0.01 A53, page 17 of 18 A&A 567, A53 (2014) Table A.1. 5. Conclusions Transition
Frequency
Eup/k
Vlsr
ΔV
TmbdV
Tpeak
[GHz]
[K]
[km s−1]
[km s−1]
[K km s−1]
[K]
154,12−143,11
639.651
149.7
−5.16 ± 0.20
3.76 ± 0.48
0.37 ± 0.08
0.09 ± 0.01
105,5−94,6
651.300
111.9
−5.06 ± 0.15
5.06 ± 0.35
0.62 ± 0.07
0.11 ± 0.01
183,15−172,16
653.110
180.6
−4.83 ± 0.18
5.01 ± 0.44
0.55 ± 0.08
0.10 ± 0.01
227,15−226,16
660.918
352.8
−4.81 ± 0.21
3.69 ± 0.49
0.39 ± 0.09
0.10 ± 0.01
197,13−196,14
661.962
294.8
−5.00 ± 0.18
3.60 ± 0.44
0.35 ± 0.08
0.09 ± 0.01
177,11−176,12
662.404
260.8
−4.64 ± 0.25
4.50 ± 0.60
0.34 ± 0.08
0.07 ± 0.01
167,9−166,10
662.567
245.1
−4.99 ± 0.15
3.91 ± 0.36
0.42 ± 0.07
0.10 ± 0.01
147,7−146,8
662.799
216.6
−5.34 ± 0.19
4.12 ± 0.46
0.43 ± 0.08
0.10 ± 0.01
137,7−146,8
662.877
203.8
−5.19 ± 0.23
4.73 ± 0.57
0.36 ± 0.08
0.07 ± 0.01
127,5−126,6
662.934
191.8
−4.93 ± 0.22
3.92 ± 0.53
0.40 ± 0.08
0.08 ± 0.01
164,12−153,13
665.247
164.5
−4.75 ± 0.21
5.53 ± 0.49
0.59 ± 0.08
0.10 ± 0.01
115,7−104,6
670.366
122.0
−5.16 ± 0.16
4.07 ± 0.37
0.51 ± 0.08
0.12 ± 0.01
76,2−65,1
695.633
114.0
−4.89 ± 0.13
3.73 ± 0.30
0.51 ± 0.07
0.13 ± 0.01
194,16−183,15
702.104
214.3
−4.73 ± 0.17
4.19 ± 0.39
0.49 ± 0.08
0.11 ± 0.01
214,18−203,17
727.379
252.1
−5.61 ± 0.11
2.39 ± 0.26
0.71 ± 0.15
0.30 ± 0.03
195,15 −184,14
820.150
236.2
−5.26 ± 0.17
5.27 ± 0.41
0.94 ± 0.13
0.17 ± 0.01
205,15 −194,16
840.751
254.6
−4.79 ± 0.20
5.25 ± 0.49
0.70 ± 0.11
0.12 ± 0.01
156,10 −145,9
848.523
198.6
−4.85 ± 0.18
4.76 ± 0.43
0.78 ± 0.12
0.15 ± 0.01
34SO2
191,19−180,18∗
344.581
167.7
−5.23 ± 0.24
4.15 ± 0.54
1.03 ± 0.12
0.23 ± 0.03
134,10−133,11∗
344.808
121.6
−5.18 ± 0.28
3.49 ± 0.55
0.65 ± 0.10
0.17 ± 0.03
74,4−73,5∗
345.520
63.7
−4.70 ± 0.24
3.06 ± 0.49
0.76 ± 0.12
0.23 ± 0.03
200,20−191,19∗
357.102
184.8
−5.27 ± 0.20
3.04 ± 0.48
0.72 ± 0.10
0.23 ± 0.03
63,3−52,4∗
362.158
40.7
−4.92 ± 0.28
3.40 ± 0.47
0.80 ± 0.16
0.22 ± 0.04
o-H2O
110−101
556.936
61.0
−3.63 ± 0.10
3.35 ± 0.13
3.82 ± 0.44
1.07 ± 0.02
−0.52 ± 0.17
2.25 ± 0.33
−0.66 ± 0.42
−0.28 ± 0.04
312−303
1097.365
249.4
−5.27 ± 0.05
2.85 ± 0.13
5.94 ± 0.46
1.96 ± 0.08
−6.34 ± 0.35
11.65 ± 1.02
6.38 ± 0.11
0.52 ± 0.07
312−221
1153.127
249.4
−5.10 ± 0.09
2.16 ± 0.25
2.18 ± 0.41
0.95 ± 0.09
−5.78 ± 0.35
10.93 ± 1.02
5.97 ± 1.11
0.51 ± 0.06
321−312
1162.912
305.3
−5.32 ± 0.04
2.89 ± 0.10
8.12 ± 0.50
2.65 ± 0.08
−6.04 ± 0.76
14.17 ± 1.44
6.79 ± 1.41
0.45 ± 0.04
p-H2O
211−202
752.033
136.9
−5.56 ± 0.03
3.45 ± 0.09
8.11 ± 0.36
2.21 ± 0.05
−6.20 ± 0.28
12.60 ± 0.93
5.48 ± 0.19
0.41 ± 0.05
202−111
987.927
100.9
−5.33 ± 0.04
3.82 ± 0.10
11.12 ± 0.45
2.74 ± 0.06
−5.81 ± 0.40
14.78 ± 1.30
8.01 ± 0.19
0.54 ± 0.05
111−000
1113.343
53.4
−3.30 ± 0.20
3.26 ± 0.34
6.17 ± 0.63
1.78 ± 0.11
−0.48 ± 0.20
2.60 ± 0.27
−3.88 ± 0.51
−1.40 ± 0.17
−11.98 ± 0.34
13.75 ± 0.84
−11.23 ± 0.93
−0.77 ± 0.03
220−211
1228.789
195.9
−5.24 ± 0.10
2.82 ± 0.27
6.23 ± 0.64
2.08 ± 0.20
−5.98 ± 0.91
8.47 ± 1.59
5.66 ± 1.80
0.63 ± 0.20
HF
1−0
1232.476
59.2
13.01 ± 0.13
1.17 ± 0.31
−1.16 ± 0.52
−0.93 ± 0.21
−0.05 ± 0.13
2.31 ± 0.31
−2.81 ± 0.76
−1.25 ± 0.16
−3.88 ± 0.15
2.50 ± 0.35
3.08 ± 0.79
1.21 ± 0.15
−12.58 ± 0.28
8.81 ± 0.71
−10.02 ± 1.39
−1.07 ± 0.07 A53, page 18 of 18
|
https://openalex.org/W2891044852
|
http://nectar.northampton.ac.uk/10526/7/Ofori_Attah_etal_EAL_2018_A_Survey_of_System_Level_Power_Management_Schemes_in_the_Dark_Silicon_Era_for_Many_Core_Architectures.pdf
|
English
| null |
A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures
|
EAI endorsed transactions on industrial networks and intelligent systems
| 2,018
|
cc-by
| 13,779
|
Abstract Power consumption in Complementary Metal Oxide Semiconductor (CMOS) technology has escalated to a
point that only a fractional part of many-core chips can be powered-on at a time. Fortunately, this fraction
can be increased at the expense of performance through the dark-silicon solution. However, with many-
core integration set to be heading towards its thousands, power consumption and temperature increases
per time, meaning the number of active nodes must be reduced drastically. Therefore, optimized techniques
are demanded for continuous advancement in technology. Existing efforts try to overcome this challenge by
activating nodes from different parts of the chip at the expense of communication latency. Other efforts on the
other hand employ run-time power management techniques to manage the power performance of the cores
trading-offperformance for power. We found out that, for a significant amount of power to saved and high
temperature to be avoided, focus should be on reducing the power consumption of all the on-chip components. Especially, the memory hierarchy and the interconnect. Power consumption can be minimized by, reducing
the size of high leakage power dissipating elements, turning-offidle resources and integrating power saving
materials. Received on 10 August 2018; accepted on 03 September 2018; published on 19 August 2018
Keywords: Dark-Silicon, Many-Core, Multi-Core, NoC, Low Power NoC Architectures, Power Budgeting
Copyright © 2018 Emmanuel Ofori-Attah et al., licensed to EAI. This is an open access article distributed under
the terms of the Creative Commons Attribution license (http://creativecommons.org/licenses/by/3.0/), which
permits unlimited use, distribution and reproduction in any medium so long as the original work is properly cited. doi:10.4108/eai.19-9-2018.155569 doi:10.4108/eai.19-9-2018.155569 EAI Endorsed Transactions
on Industrial Networks and Intelligent Systems Research Article A Survey of System Level Power Management
Schemes in the Dark-Silicon Era for Many-Core
Architectures Emmannuel Ofori-Attah1, Xiaohang Wang2, Michael Opoku Agyeman1,* 1Department of Computing, University of Northampton, United Kingdom
2South China University of Technology, 1121 Haibin Road, Nansha, Guangzhou 1. Introduction applications that are currently being executed in many-
core chips will be executed in the future at a time. The
industrial approach to this solution is the fabrication
of processor chips, designed to work within a thermal
design constraint to prevent possible overheating and
permanent damage. Unfortunately, as a trade-off, this
solution prevents peak frequency level operation and
thus novel techniques are needed to maximise the chip’s
performance. Aggressive transistor scaling with technology has
fuelled an unprecedented growth in the number of
Processing Elements (PE) available in modern Systems-
on-Chip (SoCs). However, due to the excess thermal
issues caused by the breakdown of Dennard’s scaling,
multi-core/many-core chips do not scale properly
with die area. Continues scaling of the chip size
aggravates the total power consumption and hence
to meet the systems power budget, only a subset of
nodes can be powered-on while the rest are powered-
off(dark). To make things worse, researchers have
already estimated that in the near future, 50% of
a chip size at 8 nanometer (nm) technology will
be powered-off. This implies that only half of the One possible solution for this challenge is application
mapping, where specific nodes are selected for incom-
ing applications. Unfortunately, prior works only focus
on distributing application tasks in different regions on
the chip without considering the performance of the
applications. Another alternative solution is through
Dynamic Thermal Management (DTM) techniques such
as power-gating, Dynamic Voltage Frequency Scaling
(DVFS) and Task migration. Unfortunately, this also ∗Corresponding author: Michael.OpokuAgyeman@northampton.ac.uk ∗Corresponding author: Michael.OpokuAgyeman@northampton.ac.uk EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 1 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman trades-offapplication performance to satisfy the tem-
perature threshold by scaling the Voltage Frequency
(V/F) levels of the cores. Nonetheless, there have been
many works and techniques proposed through the dark-
silicon solution, however only a few consider the power
consumption of on-chip components such as the mem-
ory hierarchy and the interconnect. Recently, Multi-
Level Caches (MCA) and the Network-on-Chip (NoC)
paradigm have replaced single-level caches and buses
respectively as the standard components for many-core
future chip designs [1–4]. However, these components
increase the power consumption and impacts heavily
on the temperature of the chip. In fact, the Last-Level-
Caches and NoC in a 16-core machine [5] constitutes
to 33% of the total power consumption. Therefore, to
avoid high temperature, a reduction of power consump-
tion in these elements is very essential. contributes to a higher percentage of the chip’s total
power consumption at the deep-sub micron level [8–
10]. Consequently, high power density generates excess
heat and increases the temperature of the chip. The
consequence of such peak temperature is overheating,
permanent damage, transient faults and faster ageing
[11, 12]. Therefore, to reduce power consumption at
the transistor level, designers adjust the equations
above. Dynamic power consumption can be reduced
by scaling the V/F level and reducing the activities. Leakage power consumption on the hand is reduced
by utilizing low power cells or reducing the number of
active transistors. An example of such a technique is the
dark-silicon. Where, every chip is allocated a Thermal
Design Power (TDP) for the chip to operate with. 3. Dark-Silicon: The Future For Emerging SoC
Designs The remainder of this paper is organised as follows. Section II discuss the causes of power consumption. Section III introduce techniques for DCSCs while
Section VI discusses the influence that the interconnect
and memory sub-system have on the chip’s total power. Section V summarises all the techniques presented and
finally, the conclusion is drawn in Section VI. Unfortunately, the TDP provided by the industries
only allow DSCSs to operate at a feasible power
budget to keep the thermal profile of the chip down. Thus, limiting them from operating at high V/F
levels. Nonetheless, Intel’s Turbo Boost [13] and AMD’s
Turbo CORE [14] violate the TDP constraint during
short intervals by boosting the system for higher
performance. When the threshold is violated, DTM
techniques are used to cool down the chip. The result of
such an action is performance degradation. Therefore,
such
techniques
have
to
be
used
appropriately. Particularly, Task migration and DVFS. 2. Background For decades, Moore and Dennardian theories were the
embodiment of exa-scale technology. Dennard’s scaling
revealed that, by reducing the size of transistors, it can
be utilised at lower power and voltage because, power
density is equivalent to the square of applied voltage,
therefore, it remains the same [6–8]. Consequently,
by reducing the physical parameters of transistors, it
has been possible to utilise them under lower power
and voltage. Thus, enabling an advent in resource
duplication for performance enhancement resulting in
the multi-core/many-core technologies. 3.1. Task Migration Task migration is an optimized technique used to
migrate tasks between nodes that are dissipating high
temperature. For example, if a task causes a node to
generate excess heat thus raising the temperature, that
task is then migrated to a node in exchange for another
task with low temperature. This is done to avoid excess
heat which can have a negative effect on neighbouring
tasks. Unfortunately, this technique only applies when
some nodes are executing heavy loaded tasks. If all the
nodes are executing heavy loaded tasks, task migration
will not have any effect. Figure 3 depicts an image
of task migration. The temperature of application 1
has been reduced because the task in node 1 has been
migrated to node 7 because it has a lower temperature. Unfortunately, in application 3, because all the nodes
are executing heavy load tasks, there is no difference
in the overall temperature of the chip when the task is
migrated to a different node [15]. y
g
Figure 2 depicts the effects of transistor scaling. A
chip at 8nm with all its node activated will cause the
chip’s temperature to be very high because of high of
power consumption. To prevent this, the dark-silicon
solution permits fractions of the chip to be powered-
off. By switching parts of the chip off, the leakage
power consumption reduces as well as the dynamic
power consumption. Power consumption materialises
as a subset of dynamic and leakage power in CMOS
integrated circuits. Until the deep-submicron processes
emerged,
dynamic
power
consumption
was
held
accountable for majority of the power consumption
in CMOS technology. Unfortunately, transistor size
reduction has caused a halt in voltage scaling down
and resulted with an increase in the amount of
sub-threshold leakage, as well the gate tunnelling
leakage current caused by having thinner gate oxides. Therefore, it has been reported that leakage power 3.2. Dynamic Voltage Frequency Scaling 3.2. Dynamic Voltage Frequency Scaling DVFS is used to dynamically vary the V/F levels of a
node that exhibits high temperature. This technique is EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 2 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Figure 1. An Overview of Dark-Silicon Techniques Figure 1. An Overview of Dark-Silicon Techniques groups of cores to have different power constraints
based on the incoming application. Therefore, for every
floor-plan, a different power constraint is computed
for the worst-case mappings. This is contrary to TDP
architectures, where all the cores are judged to be
functioning in their worst-case V/F. TSP worst case
mapping is computed based on the number of active
cores, their position, and the influence of neighbouring
cores temperature. Therefore, TSP is considered as the
most optimized thermal constraint because the amount
of power the chip can operate on, is based on core
alignment which is determined by application mapping
[17, 18]. Chip
Damage
Wear
Faster Ageing
Over Heating
High Power
Density
Increase in
Leakage Power
Consumption
Chip Temperature
Dark-Silicon
Chip Temperature
Hot
Cold
Hot
Cold
Transistor Scaling
A2
A1
A3 A4
A2
A1
A2
A3
A4
65nm
4 nodes running at 1.8 Ghz
8nm
88 nodes running at 4 x 1.8 Ghz
Ptotal (Pdynamic X Pleakage) < a
Ptotal (Pdynamic X Pleakage) > a
Figure 2. Effects of Transistor Scaling Similarly, Wang et al. [15] also introduced a new
power budgeting technique for DSCSs. The proposed
power budgeting technique advocates the number of
cores that needs to be activated, as well as selecting the
maximum power that every core can consume based on
the current thermal profile of the chip. In addition to
this, the proposed technique uses a model prediction
method to generate a power budget for the chip for
future mappings. 3.4. Run-Time Management Systems The purpose of a RTM is to monitor the power budget,
reserve idle cores and allocate them to applications. In case there is not enough power available for an
incoming application, the application is halted until
an executing application leaves the system. However,
due to the dynamic nature of workloads, the number
of core count available for applications may change,
depending on the requirement of an application [19]. This can result in a change of layout, increase in
power consumption and deadline time for executing
tasks. A biased RTM will result in impecunious
resource allocation limiting the maximum achievement
of the system. In a such a system, more stress is
placed on regions where applications can be executed
faster. Therefore, a run-time management system which
incorporates design factors such as the layout of
the processor chip, heterogeneity, uncore components
(NoC and cache), architecture (2D, 3D and Wireless),
temperature of the system and TDP/TSP power budget Figure 2. Effects of Transistor Scaling best used in a Run-Time Management (RTM) system
because accommodating newly arrived applications can
at sometimes cause an overshoot. During this process,
DVFS is used to vary the V/F levels until the application
has been successfully mapped. Although, this helps
to reduce the temperature of the chip, the tasks in
question suffer from performance loss. With such
technique, tasks are likely to be executed beyond the
deadline time [15]. 3.3. Thermal Design Power Techniques EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 3.3. Thermal Design Power Techniques For this purpose, Pagani et al. [16] proposed a power
budgeting technique for DSCSs to operate at their
highest power. Unlike TDP where all the cores are
modelled with one power value, TSP allows different EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 3 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Figure 3. An Example of Task Migration Figure 3. An Example of Task Migration [16]. In addition to this, the RTM needs to consider
which DTM techniques to use for specific applications. execute the application. However, if it does not exceed
the TSP/TDP constraint, the new application is added
without any scaling. The only disadvantage with the
proposed RTM is how application tasks are mapped. The dark nodes which are used to cool down the
chip are only used to separate applications. Although
external heat generated from neighbouring application
nodes are minimized, internal heat is ignored. The
mapping algorithms could be further enhanced to
contain dark nodes inside the region which has been
selected. In this way, internal heat is minimized. Run-time Management System Algorithms. Rahmani et al. [20] propose a dynamic power management with a
multi-objective approach for NoC based dark-silicon
many-core
platforms. The
proposed
management
system utilises per-core power-gating and DVFS based
on the following characteristics: workload, network
congestion and the power performance of the cores. The management system incorporates the following to
measure the characteristics of the system: Application
Power Calculator, Application Processor Utilization
Calculator, Application Buffer Utilization Calculator,
Application Injection Rate Calculator, a TSP Lookup
Table, and Proportional Integral Derivative Controller. There are four algorithms which can be activated in the
system. Salehi et al. [21] on the hand propose a power-
constrained reliability Management System for dark-
silicon chips (dsReliM) which considers the reliability
of tasks. The model of the system has been categorised
into four different parts. (Hardware Architecture,
Application
Model,
Reliability
Model,
and
Power
Model). The hardware architecture model of the system
consists of heterogeneous cores which can operate
at different V/F levels through DVFS. A reliability
compiler is utilised in the application model to compile
multiple code versions for each application task with
properties such as reliability and execution time. The
purpose of dsRelim is to execute applications with
minimum reliability loss while meeting deadlines. 3.3. Thermal Design Power Techniques Firstly, the code version with the highest reliability
is chosen along with the maximum V/F level. If the
selected code exceeds the TDP constraint, the V/F level
is gradually adjusted. If the execution task of the system
is violated after adjusting the V/F, another version of
the task which meets the deadline but with a lesser
reliability loss is chosen. However, if there are not any
code versions which meets the deadline time, the code
with the minimum execution task is chosen with a
performance trade-off. The V/F level of the selected
code version is scale down to meet the TDP constraint. y
The first algorithm dynamically scales the V/F Level
by monitoring various feedback from the system. The
second algorithm downscale the applications with the
lowest priority when there is an overshoot in the system. Among the lowest priority, the congested applications
are chosen to be optimized since congested areas
contributes to high power consumption. The third
algorithm is used to scale up the applications when
there is an undershoot. In particular, priority is given
to applications that were previously downscaled, not
congested and non-intensive. Since a newly added
application can push the power consumption above
the TSP/TDP constraint, algorithm four performs the
following tasks: when a new application arrives, the
algorithm checks the available power budget and
determines if the new application can be mapped
to nodes. After checking the new application, the
algorithm predicts the power consumption of the
system when the new application is executed. Rahmani et al. resolves the reliability problem
by introducing a novel power controller unit [22]. If the application is likely to cause an overshoot,
the currently running applications are scaled down to 3.5. Application Mapping As previously stated, application mapping ensures that
specific nodes are selected on the chip for mapping. This can be done in several ways [17, 23, 27–
29]. Different mapping algorithms produces different
results (temperature effects and power budget). The
selection of the correct nodes enables more nodes to be
activated to accommodate more applications and run
tasks faster. Haghbayan et al. [23] also proposed a reliability-
aware resource management for many-core systems
which prioritises the younger cores than older cores. The proposed solution consists of two units (Reli-
ability Analysis Unit (RAU) and Runtime Mapping
Unit (RMU). The RAU monitors the ageing informa-
tion/status of all the cores. The RMU on other hand,
takes into the account the ageing status of the cores pro-
vided by the RAU and then the total power consump-
tion of system provided by a power monitor before
mapping applications to cores. MapPro [24] is used to
locate the first node, however regions with busy cores
are ignored during the application mapping stage. Fur-
thermore, during the application mapping, a reliability
factor metric is applied to prioritize the selection of
younger cores for performance enhancement. In DSCSs, application mapping is initiated in two
stages. For clarification purposes, we refer to the first
stage as region mapping and the second stage as task
mapping. Region mapping is the process of finding
a particular region on the chip with sufficient nodes
available for task mapping. Task mapping on the
hand refers to the process of identifying and assigning
tasks to preferred nodes from the pool of nodes
found using application mapping. The most applied
method for region mapping is to find an optimal
node and then map task to surrounding nodes to
form a rectangular/square shape mapping. In practice,
MapPro is used by many [17, 23] to automatically
calculate and determine this approach. Similarly, Khan et al. [25] presents a hierarchical
budget scheme which distributes resource and power
budgets based on the system workload for clusters. Firstly, the scheme determines the number of cores
required for an application to be executed successfully. For the inter clusters, several factors are used to
determine which cluster is allocated more power. One
factor that is used is the number of cores in a cluster. Another is the history of an application. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures The power controller contains an operating mode
selector which monitors the workload or intensity of
the system and selects the following modes for the
system to operate at: overboosting mode and reliability
aware. The overboosting mode is selected when there
are high intensive applications which requires full
system operation without considering the reliability
performance. The other mode is reliability-aware. This
mode is selected for applications with low priority. Unlike [21], during this mode, the system operates at
feasible V/F where thermal hotspots are considered as
well as good performance. opposite. Only one core is activated in each cluster
to keep the temperature at a minimum. Consequently,
each core in the node has various V/F levels which can
meet an application’s demand. In addition to this, idle
cores are turned-offto keep the temperature under the
safe value. Furthermore, the active cores are physically
decentralised to avoid possible heat dissipation. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 3.5. Application Mapping For example,
an application with a history of requiring high power
consumption is allocated more power at the next epoch. For the intra clusters, since different types of threads
require different amount of power for execution, in
video applications, data tiles which consists of high
motion content are allocated more power. Therefore, in
the inter clusters, cores are allocated power individually
based on their data tile. Subsequently, existing application mapping algo-
rithms can be categorized into groups. These are con-
tiguous mapping and non-contiguous mapping. Figure
4 shows the impact of contiguous and non-contiguous
mapping. Contiguous mapping is the process of activat-
ing nodes in one region for an application to be mapped
to reduce communication overhead between tasks. Non-
contiguous mapping on the hand, assign application
tasks to any available node. In practice, some techniques aim to monitor the
temperature of nodes periodically in order to map
incoming applications. These techniques predict and
estimate
the
temperature
and
produce
optimized
mapping algorithms with minimum chip temperature
[30]. Likewise, Yang et al. [26] proposed a run-time
management system to handle a scalable hardware
topology based on a Quad-core cluster. Quad-core
cluster is a tile-based architecture which consists of
heterogeneous cores ((High Performance (HP), General
Purpose (GP), Power Saving (PA) and Low Energy (LE))
and a shared cache within each cluster. The purpose
of having different cores is to utilise them based on
the incoming application requirements. For example,
the HP cores are used for high workloads and thus
consumes the most power while the LE cores do the J. Wang et al. [28] propose an Ant-Colony (ACO)
based thermal-ware thread-to-core mapping. The ACO-
based thread-to-core mapping algorithm releases an ant
colony into the system. Each ant conducts the thread-
to-core mapping individually. After conducting the
thread-to-core mapping, the ant with the best minimiz-
ing Chip Multi Processors (CMP) peak temperature is
chosen. The temperature of the results generated by the EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 5 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Figure 4. Contiguous Mapping and Non-Contiguous Mapping mapped to cores located in the same region. However,
due to the alignment of nodes directly next to each
other, the dissipating heat generated by each node
affects their neighbouring nodes gradually increasing
the temperature of the system as applications are being
executed. Furthermore, because contiguous mapping
demands that an application is mapped in one region,
an incoming application may be forced to wait when
there are insufficient nodes available for it to be mapped
in one region. As a matter of fact, in some cases, the
application will be non-contiguously mapped to free
nodes to satisfy the application deadline [31]. Nonetheless, to accommodate more applications on
the chip, Ng et al. [31] propose an optimized technique
called defragmentation. Defragmentation ensures that,
all the free nodes which are dispersed on the chip
are gathered into one region for an application to
be mapped contiguously. Similarly, X. Wang et al. [32] introduced an application mapping algorithm
which dynamically adjust and shift tasks onto different
nodes for a contiguous mapping to take place. The
algorithm proposed relocate tasks to different nodes
to accommodate a new application in a square-shaped
region. Figure 4. Contiguous Mapping and Non-Contiguous Mapping Figure 4. Contiguous Mapping and Non-Contiguous Mapping best ants are then used to map incoming applications to
nodes. Similarly, Wang et al. [27] also proposed a thread-
to-core mapping management system. However, this
mapping systems uses two different types of virtual
mapping algorithms to estimate the performance of
applications when different number of dark cores
are used. Upon the arrival of a new application,
the virtual mapping process is used to estimate the
performance of the application with different number
of dark cores. In addition to this, the mapping system
consists of two different modes: Computational and
Communication. Applications which are affected by
the task computation performances are mapped as far
away from each other as possible. Applications whose
performances are affected by their communication
volume are mapped closer to each other. With this
algorithm, it is possible to migrate a task from core to
core to harness the best performance. Unfortunately, accommodating more applications
means more hot regions on the chip as shown in
Figure 4. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 For this purpose, Kanduri et al. [17] presented
an optimized application mapping and patterning
algorithm for DSCSs based on MapPro. The dense nodes
from the region are activated as dark nodes to cool their
active counterparts. During task mapping, the task with
the highest communication volume is mapped to the
first node. This process is repeated until the last task
is assigned. After this process, one node in the square
region is left un-occupied and used as a dark node to
avoid hotspot. Similarly,
Aghaaliakbari
et
al. [33]
propose
a
contiguous mapping algorithm which positions dark
nodes in between application tasks to reduce heat. Rezaei et al. [34] also proposed a contiguous mapping
algorithm contiguous mapping algorithm called Round
Rotary mapping which targets a hybrid Wireless NoC
virtually divided into regions. The proposed algorithm
map applications in a round robin approach to evenly
distribute applications all over the chip. Li et al. [30] propose a Mixed Integer Linear
Programming (MILP) thermal model which monitors
all nodes and map applications while minimizing
the temperature. The proposed algorithm works by
predicting the temperature of chip when applications
are mapped. This approach sorts out all applications
into groups and execute them starting from the highest
V/F to their lowest V/F. During this process, MILP
is used find the best optimized mapping with the
least minimized temperature. In addition, an efficient
algorithm is proposed to release some applications from
the list in case they violate the temperature threshold. Moreover, by placing dark nodes in contiguous
mapping algorithms, the hot regions could be reduced
thus allowing more nodes to be activated. In addition
to this, prioritising younger cores is also an essential
technique because ageing cores dissipate more heat
when they are stressed. Furthermore, nodes are able
to perform at peak V/F levels when dark nodes are
activated near it. Therefore, it will be beneficial for
contiguous mapping algorithms to incorporate dark-
silicon patterning approaches for a trade-offbetween
communication cost and hot regions by efficiently Application Mapping Techniques. Contiguous mapping
algorithms are preferred choices for application map-
ping because non-contiguous mapping techniques do
not consider the increase in communication latency
between tasks which requires inter communication. Contiguous mapping on the hand ensures that tasks are 6 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures positioning dark nodes in between tasks. Another
alternative would be to incorporate heterogeneity in
such a way that different resources are used to
perform different computations. Every application has
its own requirements for executing tasks. Computer-
intensive applications require more power to execute
applications while communication tasks require close
connection with other tasks. These various applications
could be executed using different nodes. consumed by each resource. Incorporating components
which consists of power hungry elements results in
high power consumption which increases the amount of
heat being generated by the resources. By incorporating
heterogeneity, power saving materials can be used to
form low power architectures. p
Moreover, one common action that all these tech-
niques that we have review share is that, to reduce
power consumption or temperature, they ignore uncore
components such as the Last Level Cache (LLC) and
the routers in NoC. Ignoring these components result
in an increase in heat since they contribute to the power
consumption. Additionally, these components consume
a significant of on-chip power and therefore impacts
heavily on the power budget. To ensure that, that the
power budget allocated for a specific chip is sufficient
enough for high performance computation, we target at
reducing the power consumption in the NoC intercon-
nect and the memory sub-system without performance
degradation. 3.6. Architectural Heterogeneity It has been proven [35] that incorporating heterogeneity
through diverse materials which offers extra power
savings in DSCSs, reduces the dynamic and leakage
power consumption at a cost of a slight degrade in
performance [36]. For this purpose, many techniques
have
been
proposed
in
literature
that
combines
different materials, sizes etc. to offer more power for
actual computation. Shafique et al. [19] conducted
a survey about the challenges in dark-silicon trends. In the survey, Shafique addresses the challenges of
dark-silicon by presenting factors which demands high
emphasis on when designing a system. Particularly,
high
emphasis
is
placed
on
the
importance
of
incorporating heterogeneity. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4.
The Dominance of Uncore components in
Dark-Silicon Constraint Systems: The NoC
Interconnect and Cache Architecture With the introduction
of these components in many-core systems in which
they scale proportionate to, processing power is set to
increase [37]. Figure 5 depicts a DSCS node comprised
of 3 cores, a cache and a router. It is therefore important
to address the power consumption of these uncore
components as many-core systems dominate modern
technology. Evaluation results conducted with McPAT
[38] shows that uncore components are responsible for
nearly half of the chip’s total budget with the LLC and
NoC interconnect being the largest consumers. chip temperature rises. [46–51]. Consequently, the
router architecture has already been identified by many
as the main component responsible for majority of
the NoC’s total power. However, with the continues
shrinkage of technology, the power consumption in the
links have also increased along with the workload. NoC
routers are composed of power consuming elements
such as the buffers, arbiters, crossbars, input and output
ports. In as much as all these elements imbibe the
power budget of the NoC, buffers and the crossbars are
identified as the main culprits to exaggerate above the
power constraints [47, 52]. With the increasing dark
fractions in many-core systems, a significant portion
of power can be saved through optimized algorithms
and components. However, a lot of factors must be
considered before proposing schemes relating to the
buffers. One thing to consider is that, the absence of
buffers provokes network congestion leading to high
latency while on the other hand, excessive use of buffers
aggravates the chips power consumption. Therefore, a
balance is required. Caches suffer from high leakage in cache storage
cells caused by the size reduction in emerging chip
resources. NoC’s power consumption on the other hand
is down to its power-hungry elements. This problem
becomes even worse when computational sprinting
is applied on cores [39–41]. This affects the total
power budget and makes it hard for more power
to be used for actual computation. This part of the
survey present techniques which can be applied to
reduce the power consumption of these components but
before we introduce a background information of each
component. Run-time Power Consumption Techniques For NoC Architec-
tures. Modarressi et al. [53] propose a NoC Architec-
ture in which packets can bypass the dark regions of the
chip. The proposed algorithm takes the CTG of an input
application and the number of active cores and estab-
lishes virtual long links among them. 4.
The Dominance of Uncore components in
Dark-Silicon Constraint Systems: The NoC
Interconnect and Cache Architecture 4. The Dominance of Uncore components in
Dark-Silicon Constraint Systems: The NoC
Interconnect and Cache Architecture The power dominance of uncore components (memory
hierarchy (L2/L3 caches), memory controllers (MCs)
and Interconnect) are often ignored in DSCSs, with
majority of the power budgeting techniques (V/F
scaling, power-gating, dynamic cache resizing and
pipeline reconfigurations) that are found in literature,
either targeted at the processor level or chip level. Therefore, for more power to be available for executing
applications,
the
power
consumption
in
on-chip
components needs to be addressed. Heterogeneous Cores. Zhang et al. [36] demonstrated
that the employment of diverse materials to form
processors can lead to less dark areas on the chip. Zhang proved that by integrating High-K (consists
of big cores) and NEMS-CMOS (consists of small
cores), the processor can operate more efficiently than
the conventional CMPs formed with one material. In addition to this, because NEMS-CMOS consumes
less power and generate less heat, the power density
is smaller compared to CMPs formed with a single
material. Figure 5. Router Architecture Yang et al. [26] approached the use of heterogeneity
in a different design aspect by introducing a Quad-
core Cluster Architecture which is not situated about
the size of the core but rather the purpose of each
core. The Quad-core Cluster Architecture consists
of four different types of heterogeneous cores: High
Performance (HP), General Purpose (GO), Power Saving
(PA) and Low Energy (LE). The integration of these
cores allows different types of applications to be
executed on different cores depending on the workload. For example: In this architecture, the HP cores are
used for intensive workloads which consumes the
highest power consumption while the LE cores are
used for workloads which consumes the lowest power
consumption. Figure 5. Router Architecture Power consumption is one major factor which
constitutes to the heat dissipated by the on-chip
resources. The amount of heat generated by the
resources is proportional to the amount of power Moreover, recent advances in technology have seen
the NoC paradigm and MCA emerge as the standard
interconnect for many-core systems, rapidly replacing 7 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman the traditional buses and single-level-caches. NoC
supplies high level of parallelism through multiple
working routers and links, clustered with cores and
caches together to form a node. 4.
The Dominance of Uncore components in
Dark-Silicon Constraint Systems: The NoC
Interconnect and Cache Architecture Furthermore, the
router architecture of the dark nodes is optimized as
follows: Firstly, the short-cut path of an input port that
allows the pipeline stages of a router to be bypassed
is selected. Secondly, incoming flits are then buffered
using a register along a virtual long link which is estab-
lished between two active nodes. Thirdly, the register
indicates which output is part of the virtual link and
which input port should be assigned to it. Bypassing
the pipeline stages reduces the power consumption as
power hungry elements such as buffers and virtual
channels are avoided. In dynamic system workloads,
the number of nodes available changes based on the
arrival and departure of applications. In theory, active
nodes can run at a higher frequency level if dark nodes
are located near it for heat dissipation; this ultimately
helps leverage the temperature of the system. Unfor-
tunately, the downside of this is the communication
latency between active cores. This proposed design
allows the communication latency between two active
cores to be minimized thus enhancing the performance
of the system. Figure 6. Uncore Components Figure 6. Uncore Components 4.1. NoC: Router Architecture Conventional bus-based architectures inability to scale
along with many-core systems, and supply performance
proportionate to the number of nodes available in SoCs,
have seen the NoC paradigm established itself as the
standard interconnect for exa-scale computing [42–45]. NoC scales along with the size of the architecture
and therefore amplifies the throughput equivalent to
the system performance. A typical NoC architecture
is comprised of routers and links. In the many-
core system, NoC is used to form nodes as depicted
in Figure 5. Routers communicate with each other
through the links which establishes multiple access
and communication channels between a source and
a destination. However, the switching of activities of
transistors during transmission causes an increase in
dynamic power consumption and with leakage power
already dominating power consumption, the overall Bokhari et al. [54] propose the Malleable NoC for
DSCS CMPs. In the proposed architecture, each node
contains multiple heterogeneous routers designed for
their frequencies and voltage to be altered. Depending
on the behaviour/characteristics of an application, a
router from each node is selected and formed into a low
power NoC Fabric while idle routers are switched off. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 8 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Sharifiet al. [5] propose PEPON, a power budget
distribution mechanism that shares the chip-wide
power budget among the chip’s resources (cores, caches
and NoC) based on the workload for an optimized
performance while respecting their allocated budget. performance bottleneck that occur in bufferless router
architectures, this technique is often disregarded. Buffers are used as temporal storage for packets which
cannot be transmitted immediately. The absence of it
causes packets to be deflected leading to livelock which
also increases the power consumption. For this purpose,
some techniques introduce heterogeneous architectures
comprised of buffered and bufferless routers. Reducing Power Consumption in The NoC Router Architecture:
Buffers. Input
buffers
occupy
majority
of
power
consumption
in
the
router
architecture
[52,
55]. Therefore, by reducing the power consumption of
the input buffers, the power consumption of the
chip will be reduced. The following techniques either
seek to avoid the use of input buffers during run
time or activate and deactivate them depending on
the workload. An effective way to reduce power
consumption is reducing the number of pipeline stages
that packets traverse to reach their destination. By
reducing the pipeline stages, dynamic power is reduced
as well reducing the workload latency [56, 57]. Fang et al. [66] propose a heterogeneous NoC
architecture comprised of buffered and bufferless
routers. Results show that the use of both these routers
reduces the power consumption by 42%. Furthermore,
this reduction in power allows more nodes to be
activated compared to a generic buffered router. Naik et al. [67] introduces a heterogeneous NoC
comprised of circuit switched buffered and bufferless
routers. The use of this heterogeneous approach reduces
the power consumption by 26% and 32% in area. Kodi et al. [68] on the other hand, introduced a dual-
function links architecture called iDeal which unlike
input buffers, does not consume a lot of power. iDeal
uses a dynamic router buffer allocation to allocate
incoming flits to any available buffer. Alternatively, virtual channels are employed in
buffers to enable parallelism in one router. The Traffic-
Based Virtual Channel Algorithm introduced in [58],
enables the switch port of virtual channels to be
organised into various cells. By grouping them, some of
these cells can be powered-on or powered-offbased on
the network traffic and congestion. Similarly, DiTomaso et al. [52] propose a power-
efficient architecture called QORE, which saves power
consumption through the use of multi-function chan-
nel buffers and enhances the performance through
reversible links. Li et al. [69] on the other hand, replaces
the traditional SRAM with 3T_N eDRAM. The result of
this is a reduction of 52% of power consumption and
43% of area. Virtual channels are employed in buffers to enable
simultaneous use of one physical channel. However,
this consumes power. To reduce the power consumption
of virtual channels, Zhan et. [59] propose an algorithm
which categorises the virtual channels of a switch port
into different levels. The architecture consists of a
level (lower level) designed with SRAM and another
with STT-RAM. The use of STT-RAM trade-offleakage
power for dynamic power which can be tolerated. In
addition to this, the algorithm allows the SRAM level
to be powered-on, offor left in a drowsy state. In
case of heavy traffic, the STT-RAM levels are activated. Nasirian et al. [60] on the other hand, employs a
power-gating control unit to disable buffers when they
are in-active for a number of cycles. However, power-
gating can cause a performance penalty and therefore,
system performance needs to be considered. This is
because, constantly turning-on and offrouters leads
to non-negligible power overhead. Secondly, switched-
offrouters block all paths it intersects with and
therefore, arriving packets have to wait until the router
is powered-on first before traversing to the next router. Nonetheless, power punch is presented by [61] to send
a signal three hops ahead to alert routers that are
switched-offare about to switched offor routers which
are switched-offto stay activated. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4.2. Reducing Power Consumption in the Cache
Architecture 4.2. Reducing Power Consumption in the Cache
Architecture On-chip cache memories account for a significant
portion [70–77] of power consumption in embedded
devices. Therefore, for mobile devices that run on
batteries,
efficient
power
optimization
techniques
are highly in demand as the sizes of transistors
progressively decreases. The introduction of MCA
trades-off
performance
for
power
expanding
the
fraction of chip area and on-chip power that caches
account for [41, 70, 78]. Consequently, this increase
in chip area and power can lead to thermal and
reliability issues and therefore, reducing cache power
consumption can avoid this and increase the power
budget available for actual computation. While Last
Level Caches (LLC) account for majority of leakage
power due to their relatively large sizes, the First
Level Cache (FLC) dominate dynamic power. Therefore,
architectural techniques which seek to reduce the
leakage power switches-offparts of the caches offand
focus on minimizing transistor activity during cache
accesses at the expense of performance. For lower
memory caches, it is practical for sequential accesses of Another alternative to input buffers is the concept
of bufferless routers. Bufferless Routers [62–65] have
emerged as one possible solution to the leakage power
consumption in routers. Unfortunately, due to the EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 9 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman meta-data and data arrays to take place to save energy
because very few access occur [79]. However, for FLC
caches, there is a performance penalty. As a matter of
fact, the lower memories are only accessed when there
is a cache miss. Figure 7 depicts an image of a typical
cache architecture in many-core CMPS. L1 is generally
referred as the FLC and L2/L3 is referred as the LLC. To avoid these challenges, several techniques have
been proposed to address the power loss in set-
associative FLC’s trading-offpower for design com-
plexity or an increase in latency. These techniques can
however be can classified into two categories (Tag Look
up and Voltage Scaling). A. Tag Look up: Some of the techniques proposed
perform tag lookup and data sequentially. Unfortu-
nately, this increases the cache latency. Others on the
hand, store parts of the data and retrieve way informa-
tion before the FLC is accessed escaping the need for
accessing all sets. 4.2. Reducing Power Consumption in the Cache
Architecture Performing tag lookup and reading
tags introduce extra cycles which consumes more power
[81]. Therefore, optimized techniques are very essential
because FLC performance plays an important role in
processor efficiency. On a cache miss, the system suf-
fers a performance penalty which further increases the
power consumption. Figure 7. Cache Architecture For this purpose, Zhang et al. [82] propose an Early
Tag Lookup (ETL) for FLC instruction caches. Unlike
existing 2-phase methods, the proposed algorithm
determines the matching way one cycle earlier than
the actual cache access, eliminating non-matching
way accesses without sacrificing performance. The
technique
proposed
retains
two
instruction
fetch
addresses. One of these being the current fetch address
stored in the program counter and the other in the next
program counter. The matching way is determined by
looking up the tag array using the next programming
counter so when it is loaded up by the program counter,
the matching way is already known. The program
counter therefore accesses the matching way without
accessing other ways. Figure 7. Cache Architecture Buffers and caches are similar because they are both
used as temporal storage however, they consume a lot
of power. Reducing the sizes of these two components
can drastically affect the performance of the system. Chakraborty et al. [80] conducted a survey on caches
and concluded that, turning-offcache banks trades-off
performance for power. Results show that decreasing
the cache banks from 16 to 8 caused a massive degrade
in performance. However, when 12 banks are used, this
degrade in performance is not as high. Although, power
is reduced by shutting down cache banks, there is an
increase in conflict misses. In this section of the paper,
we present techniques for reducing power in both the
FLC and LLC. Similarly, Dai et al. [83] proposed an early tag
access cache technique which determines the location
of most memory instructions before the FLC Data
cache is accessed. The proposed technique operates by
storing a part of the physical address in tag arrays
while the conversion between the virtual address and
physical address is performed by the Translation Look-
aside Buffer (TLB). This data is used to locate the
destination of a required memory instruction during
the Load/Stage Queue before accessing the FLC data
cache escaping the need for accessing all ways. First
Level
Cache
Power
Consumption. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 4.2. Reducing Power Consumption in the Cache
Architecture First-Level
Caches (FLC) are generally optimised for performance
enhancement with less emphasis on power efficiency
due to the impact and importance of having high
associativity. For this purpose, designers trade-off
power consumption for high performance in FLCs. Consequently, to improve the performance of memory,
Set Associates Caches (SAC) are employed to enable
blocks to be stored anywhere in the cache. This reduces
cache miss rates and improves the performance of the
system. Unlike associative caches where, a tag array
has to be compared with each block in the cache, data
is accessed parallel with a lookup tag. Unfortunately,
during this process, power is wasted reading meta-data
and looking up all the sets when only one set will
be accessed after the cycle. Consider a 16-way set
associative cache. A significant amount of power is
wasted accessing all sets when the required data resides
in only one set. Valls et al. [84] on the proposed the tag filter cache
which unlike the first two techniques can be applied
to all levels of the cache hierarchy. The proposed
architecture filters the number of tags and data blocks
to be checked when accessing the cache hierarchy by
using the least significant bits of the tag part of address
to determine which ways to access. The proposed
architecture reduces power consumption between 74%
and 85.9%. Sembrant et al. [85] proposed an extended
TLB which will provide the location of cache lines in the
data-array by adding an extra way index information 10 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures (way location and location of cache lines). This reduces
extra data array reads and avoid tag comparisons. high, the FLC utilizes (SEC-MAECC) to correct the
faulty cache lines and enable them for use. In contrast, Bardizbanyan et al. [81] argues that
accessing ways sequentially by predicting the location
of memory instructions affect the performance by
incurring extra cycles due to additional switching of
the clock. For this purpose, they propose load data
dependency detection, a technique which decides when
to sequentially access the FLC data based on the data
dependency of the load. Similarly, Dayalan et al. [86]
propose a technique which dynamically selects the
best associativity of the cache during execution. The
proposed technique operates by employing shadow tags
to monitor how the cache would have performed if it
was operating in the other mode. Saito et al. [90] proposed a FLC architecture which
operate under different speed through Dynamic Voltage
Frequency Scaling (DVFS). The proposed architecture
dynamically selects the right speed depending on
the type of performance that is required. Yan et al. [91] proposed two techniques which permit voltage
scaling in FLCs (data and instruction caches) without
a performance penalty (access latency). The first
technique, Fault-Free Window (FFW) reduces the effect
of defective words by only permitting cache lines
to only store the most likely accesses. The second
technique prevent the core from accessing defective
words. Das et al. proposed a replacement policy
algorithm which prioritise remote blocks to remain
in the FLC to avoid latency. The proposed technique
reduces power consumption by 14.85%. In conventional MCA, the FLC data cache and write
buffer are accessed in parallel for the same data. During a write/read miss, both the FLC data cache and
write buffer are updated. Lee et al. [70] proposed an
architecture which functions opposite to this. In the
proposed architecture, during write operations, only
the write buffer is updated. The only time the FLC is
updated is when data is retired or the write buffer is
full. Last
Level
Cache
Power
Consumption. As previously
mentioned,
LLCs
have
been
reported
to
occupy
and consume majority of leakage power because
of its large size. To improve the power efficiency,
several
techniques
have
been
proposed
forward. These techniques can however be classified into two
categories: hybrid architectures and cache performance. B. Voltage Scaling: Alternatively, downscaling the
supply voltage close to the transistors’ threshold
is
a
technique
which
can
effectively
reduce
the
power consumption in FLCs. However, as a result
of operating below the safe margin, persistent faults
occur caused by voltage and temperature variations. Therefore, techniques which employ near-threshold
scaling utilizes Error Correcting Codes (ECC) to
overcome this challenge. ECC encoder generates parity
bits when a data line is updated. During the reading
of the data line, the decoder regenerates the parity bits
to check and correct any existing faults. This process
requires extra cycles and consume power causing a
performance penalty which FLCs cannot tolerate. This
gets even worse, when the fault rate is very high which
is normal in near threshold scaling [87, 88]. A. Hybrid Architectures: STT-RAM, has been widely tutored as the conven-
tional material for LLC cache design. With similar like
features such as high density, low power consumption
and good performance, STT-RAM is able to mirror per-
formances close to that of SRAM. However, STT-RAM
suffers extensively from dynamic power consumption
during write accesses. Consequently, STT-RAM read
latency also becomes an issue when implemented in
FLCs. Komalan et al. [92] proposed a NVM FLC with a
very wide buffer to mitigate the read latency. The
proposed architecture offers more area with a reduction
in power consumption. However, it is not quite sure
how the proposed architecture will perform during
heavy workloads as it was experimented under light
workloads. For this purpose, Reviriego et al. [89] proposed a
Single Error Correcting - Multiple Adjacent ECC to
correct faults in one cycle (SEC-MAECC). Similarly,
Yalcin et al. [87] proposed an improved version of SEC-
MAEC to correct the faults in half a cycle. The proposed
architecture reduces the encoding and decoding latency
up to 80%. Similarly, Wang et al. [93] proposed a hybrid
STT-RAM and SRAM FLC. The proposed design
incorporates the MESI cache coherence protocol to
effectively manage block relocation between the SRAM
and STT-RAM partitions. However, because system
performance is closely related to FLC, to the best of
our knowledge, not many work have been done on
designing FLCs out of SRAM. In terms architecting LLC
caches out STT-RAM, the most considered optimized
solution for MCA by many designers is employing both
SRAM and STT-RAM [94–97]. Hijaz et al. [88] proposed an FLC hybrid architecture
which can operate in two different modes (Cache line
disable and correction and disable). The proposed
architecture switches in between mode to preserve
the performance of the system. Cache Line disable
techniques allow the FLC to function at near-threshold
voltages. During this process, cache lines which suffer
from error bit rates are shut down limiting the cache
capacity. In case the cache capacity loss becomes too EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 11 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Moreover, the following authors combine the benefits
of both hardware technology to overcome the chal-
lenges that each technology brings. Li et al. [94], Kim et
al. [98] and Safayenikoo [99] all proposed architectures
which incorporates STT-RAM and SRAM technology. The proposed design proposed by Li, focuses on shar-
ing private STT-RAM groups with neighbouring nodes
to reduce latency and power consumption. KimâĂŹs
architecture consists of algorithm which decides which
region of the cache (STT-RAM and SRAM), data needs
to be placed in. Safayenikoo’s cache architecture moves
data to the SRAM blocks when the energy writes in the
STT-RAM increases. must consider several factors. One of these checking
the surrounding of the neighbouring codes before
allocating power. Consequently, for a high-power
efficiency, idle virtual channels can shut down while
alternative buffers are employed. However, this can
degrade the performance therefore, it is only wise
to do so under minimal workload. Additionally, the
implementation of STT-RAM and SRAM architecture
offers a high-power efficiency resulting in the reduction
of high temperature. Unfortunately, with scaling set to go even deeper,
dark-silicon may yet become a constraint rather than
a solution. Deep scaling meant that fractional parts of
the chip had to be shut down. Therefore, reducing the
transistor size further will only increase the fractional
part of the chip which are dark [104]. Asad et al. [100] introduced a heterogeneous cache
memory hierarchy for CMPs. Each cache level in
the memory hierarchy has been designed with a
different memory technology (Static Random Access
Memory (SRAM), Embedded Dynamic Random Access
Memory (eDRAM) and STT-RAM. Similarly, Onsori et
al. [101] proposed a hybrid memory system for DSCSs
comprised of NVM devices. The propose architecture
consists of STT-RAM memory banks which have been
incorporated with SRAM memory banks. Consequently, this had led many researchers to now
shift their focus to Near-Threshold Voltage Computing
Constraint Systems (NTCCS) [105], [106]. In contrary to
DSCSs where transistors are under-utilised, NTC allows
all the transistors to operate in the near-threshold
region thus providing a fluid balance between power
and delay [107]. Since, the entire chip can be utilised at
the same time, multiple applications can be executed,
however this is at a cost of performance degradation
and reliability loss. Another alternative would be a
joint implementation of both dark-silicon and NTC in
future technologies. A technique which has already
been proven to provide better performances [108]. B. Cache Performance: Alternatively, power-gating
techniques are employed to disable idle parts of
the cache when under minimal workload. However,
shutting
down
idle
parts
of
a
cache
can
incur
performance penalties which can exacerbate the power
being dissipated [102]. To ensure that power-gating
techniques does not impose a significant threat on the
performance, less likely used banks and powered-off
and their requests forwarded to neighbouring requests
[102]. Other techniques on the hand, power-offcache
ways instead of banks. Azad et al. [103] on the other
hand reduces power consumption by categorising cache
blocks into different groups and apply ECC based on
the level of protection that is required. 5. Conclusion This paper introduced techniques which can be imple-
mented in DSCSs to reduce power consumption whilst
considering performance and avoiding high tempera-
ture. Particularly, efficient application mapping tech-
niques and heterogeneous architectures are presented. Using the correct application mapping algorithm to
distribute applications across the chip can effectively
reduce thermal hotspots. In addition to this, we showed
that by using resources which are made of power saving
materials, high power consumption which increases
the power density can be reduced. Thus, keeping the
temperature of the working resources low enough for
the chip to function beyond its supplied thermal design
constraints. 4.3. Summary The breakdown of Dennardian Law has made it a
challenge for systems to maintain the same power
performance as the same time transistors quadrupled
in many-core/multi-core systems. For this purpose, the
dark-silicon phenomenon has become an interesting
field because it allows only a subset of resources to
be active and with the application of the techniques
presented, this subset of resources can provide high
level performances. In addition to this, we provided alternative thermal
design constraints which can implemented to allow
systems to function beyond their restricted threshold. Furthermore, we discussed novel techniques which can
applied to the NoC interconnect and the cache architec-
ture. Power consumption in the NoC interconnect can
be reduced through the replacement of input buffers. Cache power consumption on the hand can reduced
by implementing hybrid STT-RAM and SRAM architec-
tures. Table
1 presents a summary of all the techniques
which target many-core systems in DSCSs. Unlike
other work found in literature, we have targeted
all of the on-chip components with considering the
performance of the chip as well as the temperature. It can be deduced from the table that for a good
temperature efficiency, the power budgeting technique References [11] M. Shafique, S. Garg, J. Henkel, and D. Marculescu,
“The eda challenges in the dark silicon era: Tempera-
ture, reliability, and variability perspectives,” in Pro-
ceedings of the 51st Annual Design Automation Confer-
ence, ser. DAC, 2014, pp. 185:1–185:6. [1] M. O. Agyeman, A. Ahmadinia, and N. Bagherzadeh,
“Performance and energy aware inhomogeneous 3d
networks-on-chip architecture generation,” IEEE Trans-
actions on Parallel and Distributed Systems, vol. 27, no. 6,
pp. 1756–1769, 2016. pp
[12] D. Brooks, R. P. Dick, R. Joseph, and L. Shang, “Power,
thermal, and reliability modeling in nanometer-scale
microprocessors,” IEEE Micro, vol. 27, no. 3, pp. 49–62,
2007. [2] M. O. Agyeman, K. Tong, and T. Mak, “Towards
reliability and performance-aware wireless network-
on-chip design,” in IEEE International Symposium on
Defect and Fault Tolerance in VLSI and Nanotechnology
Systems (DFTS), 2015, pp. 205–210. [13] I. Corporation., “Dual-core intel xeon processor 5100
series datasheet,” revision 003, August 2007. g
[14] S. Nussbaum, “Amd trinity apu,” In Hot Chips, 2012. [15] H. Wang, M. Zhang, S. X. D. Tan, C. Zhang, Y. Yuan,
K. Huang, and Z. Zhang, “New power budgeting and
thermal management scheme for multi-core systems
in dark silicon,” in IEEE International System-on-Chip
Conference (SOCC), 2016, pp. 344–349. [3] M. O. Agyeman, A. Ahmadinia, and A. Shahrabi, “Low
power heterogeneous 3d networks-on-chip architec-
tures,” in International Conference on High Performance
Computing Simulation, 2011, pp. 533–538. [4] M. O. Agyeman and A. Ahmadinia, “Optimising
heterogeneous 3d networks-on-chip,” in International
Symposium on Parallel Computing in Electrical Engineer-
ing, 2011, pp. 25–30. [16] S. Pagani, H. Khdr, J. J. Chen, M. Shafique, M. Li, and
J. Henkel, “Thermal safe power (tsp): Efficient power
budgeting for heterogeneous manycore systems in dark
silicon,” IEEE Transactions on Computers, vol. 66, no. 1,
pp. 147–162, 2017. g
pp
[5] A. Sharifi, A. K. Mishra, S. Srikantaiah, M. Kandemir,
and C. R. Das, “Pepon: Performance-aware hierarchical
power
budgeting
for
noc
based
multicores,”
in
International Conference on Parallel Architectures and
Compilation Techniques (PACT), 2012, pp. 65–74. [17] A. Kanduri, M. H. Haghbayan, A. M. Rahmani,
P. Liljeberg, A. Jantsch, and H. Tenhunen, “Dark silicon
aware runtime mapping for many-core systems: A
patterning approach,” in IEEE International Conference
on Computer Design (ICCD), 2015, pp. 573–580. [6] J. Henkel, H. Khdr, S. Pagani, and M. Shafique, “New
trends in dark silicon,” in 2015 52nd ACM/EDAC/IEEE
Design Automation Conference (DAC), 2015, pp. 1–6. p
g
pp
[18] X. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 12 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Table 1. A summary of DSCS techniques
Area
Techniques
Temperature
Efficiency
Power
Efficiency
Pros
Cons
Power
Budgeting
- Maximum Power Budget
Medium
Medium
Performance enhancement
Ageing
Architectural
Heterogeneity
- Heterogeneous Cores
- Heterogeneous Memory
Medium
Low
- Increase in the number
of executed applications
- Hotspot reduced
Performance penalty
Run-Time
Management
- DVFS
- Task Migration
- Power-gating
Medium
Medium
- Sudden overshoot avoided
- Low V/F Operation
- Different power metrics per-core
Performance penalty
NoC
Interconnect
- Powering-offVirtual
channels
- Bufferless routers
- Alternative buffers
Medium
High
- Low dynamic power
- Low leakage power
- Latency penalty
- Deadlock
- Performance penalty
Cache
Memory
- Tag Look Up
- Voltage Scaling
- Hybrid Architectures
Medium
High
- Low dynamic power
- Low leakage power
Latency penalty Table 1. A summary of DSCS techniques system optimization in the dark silicon era,” IEEE
Design Test, vol. 34, no. 2, pp. 39–50, 2017. Based on these findings, it can be deduced that the
thermal limitations in the dark-silicon era cannot be sig-
nificantly reduce by application mapping alone. How-
ever, with the addition of architectural heterogeneity
and consideration of uncore components, the thermal
profile of the chip can be kept at a minimum whilst
still maintaining the performance. With this in mind,
optimization techniques for NoC and the memory sub-
system will be the focal of our future work. [8] A. Kanduri, A. M. Rahmani, P. Liljeberg, A. Hemani,
A. Jantsch, and H. Tenhunen, “A perspective on dark
silicon,” 01 2017. [9] P. Saini and R. Mehra, “Article:
Leakage power
reduction in cmos vlsi circuits,” International Journal of
Computer Applications, vol. 55, no. 8, pp. 42–48, 2012. [10] S. Borkar, “Getting gigascale chips: Challenges and
opportunities in continuing moore’s law,” Queue, vol. 1,
no. 7, pp. 26–33, 2003. References Wang, A. K. Singh, B. Li, Y. Yang, H. Li, and
T. Mak, “Bubble budgeting: Throughput optimization
for dynamic workloads by exploiting dark cores in [7] A. Pedram, S. Richardson, M. Horowitz, S. Galal,
and S. Kvatinsky, “Dark memory and accelerator-rich Zhou,
“Multi-objective task mapping approach for wireless
noc in dark silicon age,” in Euromicro International
Conference on Parallel, Distributed and Network-based
Processing (PDP), 2017, pp. 589–592. [23] M. H. Haghbayan, A. Miele, A. M. Rahmani, P. Lil-
jeberg, and H. Tenhunen, “A lifetime-aware runtime
mapping approach for many-core systems in the dark
silicon era,” in Design, Automation Test in Europe Con-
ference Exhibition (DATE), 2016, pp. 854–857. [35] H. F. Dadgour and K. Banerjee, “Design and analysis of
hybrid nems-cmos circuits for ultra low-power appli-
cations,” in ACM/IEEE Design Automation Conference,
2007, pp. 306–311. [24] M.-H. Haghbayan, A. Kanduri, A.-M. Rahmani, P. Lilje-
berg, A. Jantsch, and H. Tenhunen, “Mappro: Proactive
runtime mapping for dynamic workloads by quantify-
ing ripple effect of applications on networks-on-chip,”
in Proceedings of the 9th International Symposium on
Networks-on-Chip, ser. NOCS ’15, 2015, pp. 26:1–26:8. [36] Y. Zhang, L. Peng, X. Fu, and Y. Hu, “Lighting the
dark silicon by exploiting heterogeneity on future
processors,” in ACM/EDAC/IEEE Design Automation
Conference (DAC), 2013, pp. 1–7. [37] K. Fischer, H. K. Chang, D. Ingerly, I. Jin, H. Kil-
ambi, J. Longun, R. Patel, C. Pelto, C. Petersburg,
P. Plekhanov, C. Puls, L. Rockford, I. Tsameret,
M. Uncuer, and P. Yashar, “Performance enhancement
for 14nm high volume manufacturing microprocessor
and system on a chip processes,” in In IEEE Inter-
national Interconnect Technology Conference / Advanced
Metallization Conference (IITC/AMC), 2016, pp. 5–7. [25] T. S. Muthukaruppan, M. Pricopi, V. Venkataramani,
T. Mitra, and S. Vishin, “Hierarchical power manage-
ment for asymmetric multi-core in dark silicon era,”
in 50th ACM/EDAC/IEEE Design Automation Conference
(DAC), 2013, pp. 1–9. [26] L. Yang, W. Liu, N. Guan, M. Li, P. Chen, and
E. H. M. Sha, “Dark silicon-aware hardware-software
collaborated
design
for
heterogeneous
many-core
systems,” in Asia and South Pacific Design Automation
Conference (ASP-DAC), 2017, pp. 494–499. [38] S. Li, J. H. Ahn, R. D. Strong, J. B. Brockman, D. M. Tullsen, and N. P. Jouppi, “Mcpat: An integrated power,
area, and timing modeling framework for multicore
and manycore architectures,” in Annual IEEE/ACM
International Symposium on Microarchitecture (MICRO),
2009, pp. 469–480. [27] X. Wang, A. K. Singh, B. Li, Y. Yang, T. Mak, and
H. Li, “Bubble budgeting: throughput optimization for
dynamic workloads by exploiting dark cores in many
core systems,” in IEEE/ACM International Symposium on
Networks-on-Chip (NOCS), vol. PP, no. 99, 2017, pp. 1–
1. [39] C. Sun, C. H. O. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 13 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman many core systems,” IEEE Transactions on Computers,
vol. 67, no. 2, pp. 178–192, 2018. [30] M. Li, J. Yi, W. Liu, W. Zhang, L. Yang, and E. H. M. Sha, “An efficient technique for chip temperature
optimization of multiprocessor systems in the dark
silicon era,” in IEEE International Conference on High
Performance Computing and Communications, IEEE 7th
International
Symposium
on
Cyberspace
Safety
and
Security, andIEEE 12th International Conference on
Embedded Software and Systems, 2015, pp. 688–693. [19] M. Shafique and S. Garg, “Computing in the dark
silicon era: Current trends and research challenges,”
IEEE Design Test, vol. 34, no. 2, pp. 8–23, 2017. [20] A. M. Rahmani, M. H. Haghbayan, A. Kanduri, A. Y. Weldezion, P. Liljeberg, J. Plosila, A. Jantsch, and
H. Tenhunen, “Dynamic power management for many-
core platforms in the dark silicon era: A multi-
objective control approach,” in IEEE/ACM International
Symposium
on
Low
Power
Electronics
and
Design
(ISLPED), 2015, pp. 219–224. [31] J. Ng, X. Wang, A. K. Singh, and T. Mak, “Defragmenta-
tion for efficient runtime resource management in noc-
based many-core systems,” IEEE Transactions on Very
Large Scale Integration (VLSI) Systems, vol. 24, no. 11,
pp. 3359–3372, 2016. [21] M. Salehi,
M. Shafique,
F. Kriebel,
S. Rehman,
M. K. Tavana, A. Ejlali, and J. Henkel, “dsrelim:
Power-constrained reliability management in dark-
silicon many-core chips under process variations,” in
International Conference on Hardware/Software Codesign
and System Synthesis (CODES+ISSS), 2015, pp. 75–82. [32] X. Wang,
T. Fei,
B. Zhang,
and
T. Mak,
“On
runtime adaptive tile defragmentation for resource
management in many-core systems,” 2016. g
[33] F. Aghaaliakbari, M. Hoveida, M. Arjomand, M. Jalili,
and H. Sarbazi-Azad, “Efficient processor allocation in
a reconfigurable cmp architecture for dark silicon era,”
in IEEE International Conference on Computer Design
(ICCD), 2016, pp. 336–343. y
y
pp
[22] A. M. Rahmani, M. H. Haghbayan, A. Miele, P. Lilje-
berg, A. Jantsch, and H. Tenhunen, “Reliability-aware
runtime power management for many-core systems in
the dark silicon era,” IEEE Transactions on Very Large
Scale Integration (VLSI) Systems, vol. 25, no. 2, pp. 427–
440, 2017. [34] A. Rezaei, D. Zhao, M. Daneshtalab, and H. Chen, G. Kurian, L. Wei, J. Miller,
A. Agarwal, L. S. Peh, and V. Stojanovic, “Dsent - a
tool connecting emerging photonics with electronics
for opto-electronic networks-on-chip modeling,” in
Networks on Chip (NoCS), IEEE/ACM International
Symposium on, 2012, pp. 201–210. [28] J. Wang,
Z. Chen,
J. Guo,
Y. Li,
and
Z. Lu,
“Aco-based thermal-aware thread-to-core mapping for
dark-silicon-constrained cmps,” IEEE Transactions on
Electron Devices, vol. PP, no. 99, pp. 1–8, 2017. [40] H. Y. Cheng, M. Poremba, N. Shahidi, I. Stalev, M. J. Irwin, M. Kandemir, J. Sampson, and Y. Xie, “Eecache:
Exploiting design choices in energy-efficient last-level
caches for chip multiprocessors,” pp. 303–306, 2014. [29] X. Wang, T. Fei, B. Zhang, and T. S. T. Mak, “On
runtime adaptive tile defragmentation for resource
management in many-core systems,” Microprocessors
and Microsystems - Embedded Hardware Design, vol. 46,
no. Part B, pp. 161 – 174, 2016. [41] D. Wendel, R. Kalla, R. Cargoni, J. Clables, J. Friedrich,
R. Frech, J. Kahle, B. Sinharoy, W. Starke, S. Taylor,
S. Weitzel, S. G. Chu, S. Islam, and V. Zyuban, “The EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 14 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures implementation of power7tm: A highly parallel and
scalable multi-core high-end server processor,” pp. 102–103, 2010. [54] H. Bokhari, H. Javaid, M. Shafique, J. Henkel, and
S. Parameswaran, “Malleable noc: Dark silicon inspired
adaptable network-on-chip,” in Design, Automation Test
in Europe Conference Exhibition (DATE), 2015, pp. 1245–
1248. [42] M. O. Agyeman, A. Ahmadinia, and N. Bagherzadeh,
“Performance and energy aware inhomogeneous 3d
networks-on-chip architecture generation,” IEEE Trans. Parallel Distrib. Syst., 2016. [55] P. Kundu, “On-die interconnects for next generation
cmps,âĂİ in workshop on on- and off-chip interconnec-
tion networks for multicore systems,” 2006. [43] M. O. Agyeman, W. Zong, J. Wan, A. Yakovlev, K. Tong,
and T. S. T. Mak, “Novel hybrid wired-wireless network-
on-chip architectures: Transducer and communication
fabric design,” in Proceedings of the 9th International
Symposium on Networks-on-Chip, NOCS, 2015, pp. 32.1–
32.2. [56] J. Postman, T. Krishna, C. Edmonds, L. S. Peh,
and P. Chiang, “Swift: A low-power network-on-
chip implementing the token flow control router
architecture with swing-reduced interconnects,” IEEE
Transactions on Very Large Scale Integration (VLSI)
Systems, vol. 21, no. 8, pp. 1432–1446, 2013. [44] M. O. Agyeman and W. Zong, “An efficient 2d router
architecture for extending the performance of inho-
mogeneous 3d noc-based multi-core architectures,” in
International Symposium on Computer Architecture and
High Performance Computing Workshops (SBAC-PADW),
2016, pp. 79–84. y
pp
[57] S. Shenbagavalli and S. Karthikeyan, “An efficient
low power noc router architecture design,” in Online
International
Conference
on
Green
Engineering
and
Technologies (IC-GET), 2015, pp. 1–8. g
pp
[58] S. T. Muhammad,
M. A. El-Moursy,
A. A. El-
Moursy, and A. M. Refaat, “Optimization for traffic-
based virtual channel activation low-power noc,” in
International Conference on Energy Aware Computing
Systems Applications, 2015, pp. 1–4. [45] M. O. Agyeman, J. Wan, Q. Vien, W. Zong, A. Yakovlev,
K. Tong, and T. Mak, “On the design of reliable hybrid
wired-wireless network-on-chip architectures,” in IEEE
International Symposium on Embedded Multicore/Many-
core Systems-on-Chip, 2015, pp. 251–258. y
pp
[59] J. Zhan, J. Ouyang, F. Ge, J. Zhao, and Y. Xie, “Hybrid
drowsy sram and stt-ram buffer designs for dark-
silicon-aware noc,” IEEE Transactions on Very Large
Scale Integration (VLSI) Systems, vol. 24, no. 10, pp. 3041–3054, 2016. [46] Y. Hoskote, S. Vangal, A. Singh, N. Borkar, and
S. Borkar, “A 5-ghz mesh interconnect for a teraflops
processor,” IEEE Micro, vol. 27, no. 5, pp. 51–61, 2007. [47] H. Zheng and A. Louri, “Ez-pass: An energy amp;
performance-efficient power-gating router architecture
for scalable nocs,” IEEE Computer Architecture Letters,
vol. 17, no. 1, pp. 88–91, 2018. [60] N. Nasirian and M. Bayoumi, “Low-latency power-
efficient
adaptive
router
design
for
network-on-
chip,” in IEEE International System-on-Chip Conference
(SOCC), 2015, pp. 287–291. [48] H. Farrokhbakht, H. M. Kamali, and S. Hessabi, “Smart:
A scalable mapping and routing technique for power-
gating in noc routers,” in 2017 Eleventh IEEE/ACM
International Symposium on Networks-on-Chip (NOCS),
2017, pp. 1–8. [61] L. Chen, D. Zhu, M. Pedram, and T. M. Pinkston,
“Power punch: Towards non-blocking power-gating of
noc routers,” in IEEE International Symposium on High
Performance Computer Architecture (HPCA), 2015, pp. 378–389. [49] T. G. Mattson,
M. Riepen,
T. Lehnig,
P. Brett,
W. Haas, P. Kennedy, J. Howard, S. Vangal, N. Borkar,
G. Ruhl, and S. Dighe, “The 48-core scc processor: the
programmer’s view,” pp. 1–11, 2010. [62] C. Fallin, C. Craik, and O. Mutlu, “Chipper: A
low-complexity bufferless deflection router,” in IEEE
International Symposium on High Performance Computer
Architecture, 2011, pp. 144–155. [50] J. Zhan, Y. Xie, and G. Sun, “Noc-sprinting: Intercon-
nect for fine-grained sprinting in the dark silicon era,”
pp. 1–6, 2014. pp
[63] B. K. Daya, L. S. Peh, and A. P. Chandrakasan, “Towards
high-performance bufferless nocs with scepter,” IEEE
Computer Architecture Letters, vol. 15, no. 1, pp. 62–65,
2016. [51] J. Howard, S. Dighe, S. R. Vangal, G. Ruhl, N. Borkar,
S. Jain, V. Erraguntla, M. Konow, M. Riepen, M. Gries,
G. Droege, T. Lund-Larsen, S. Steibl, S. Borkar, V. K. De,
and R. V. D. Wijngaart, “A 48-core ia-32 processor in
45 nm cmos using on-die message-passing and dvfs for
performance and power scaling,” IEEE Journal of Solid-
State Circuits, vol. 46, no. 1, pp. 173–183, 2011. [64] C. Feng, Z. Liao, Z. Lu, A. Jantsch, and Z. Zhao,
“Performance analysis of on-chip bufferless router with
multi-ejection ports,” in IEEE International Conference
on ASIC (ASICON), 2015, pp. 1–4. [65] H. Kim, Y. Kim, and J. Kim, “Clumsy flow control for
high-throughput bufferless on-chip networks,” IEEE
Computer Architecture Letters, vol. 12, no. 2, pp. 47–50,
2013. pp
[52] D. DiTomaso, A. K. Kodi, A. Louri, and R. Bunescu,
“Resilient and power-efficient multi-function channel
buffers in network-on-chip architectures,” IEEE Trans-
actions on Computers, vol. 64, no. 12, pp. 3555–3568,
2015. [66] J. Fang, M. Cai, Z. Leng, and S. Liu, “A perspective from
exploiting heterogeneity on networks-on-chip based
on dark silicon mitigation,” in International Conference
on Computational Science and Computational Intelligence
(CSCI), 2016, pp. 590–595. [53] M. Modarressi and H. Sarbazi-Azad, “A reconfigurable
network-on-chip architecture for heterogeneous cmps
in the dark-silicon era,” in IEEE International Conference
on Application-Specific Systems, Architectures and Proces-
sors, 2014, pp. 76–77. [67] A. Naik and T. K. Ramesh, “Efficient network on chip
(noc) using heterogeneous circuit switched routers,” in
International Conference on VLSI Systems, Architectures, Ponomarev, “Dynamic
associative caches: Reducing dynamic energy of first
level caches,” in IEEE 32nd International Conference on
Computer Design (ICCD), 2014, pp. 118–124. g y
y
pp
[73] B. Maric, J. Abella, and M. Valero, “Analyzing the
efficiency of l1 caches for reliable hybrid-voltage
operation using edc codes,” IEEE Transactions on Very
Large Scale Integration (VLSI) Systems, vol. 22, no. 10,
pp. 2211–2215, 2014. [87] G. Yalcin, E. Islek, O. Tozlu, P. Reviriego, A. Cristal,
O. S. Unsal, and O. Ergin, “Exploiting a fast and simple
ecc for scaling supply voltage in level-1 caches,” in IEEE
20th International On-Line Testing Symposium (IOLTS),
2014, pp. 1–6. [74] E. Ofori-Attah, W. Bhebhe, and M. O. Agyeman,
“Architectural techniques for improving the power
consumption of noc-based cmps: A case study of cache
and network layer,” Journal of Low Power Electronics and
Applications, vol. 7, 2017. [88] F. Hijaz, Q. Shi, and O. Khan, “A private level-1
cache architecture to exploit the latency and capacity
tradeoffs in multicores operating at near-threshold
voltages,” in IEEE 31st International Conference on
Computer Design (ICCD), 2013, pp. 85–92. [75] E. Ofori-Attah, X. Wang, and M. O. Agyeman, “A survey
of low power design techniques for last level caches,”
in
Applied
Reconfigurable
Computing. Architectures,
Tools, and Applications - 14th International Symposium,
Santorini, Greece, May 2-4„ Proceedings, 2018, pp. 217–
228. [89] P. Reviriego, S. Pontarelli, J. A. Maestro, and M. Ottavi,
“Low-cost single error correction multiple adjacent
error correction codes,” Electronics Letters, vol. 48,
no. 23, pp. 1470–1472, 2012. [90] K. Saito, R. Kobayashi, and H. Shimada, “Reduction
of cache energy by switching between l1 high speed
and low speed cache under application of dvfs,”
in International Conference On Advanced Informatics:
Concepts, Theory And Application (ICAICTA), 2016, pp. 1–6. [76] E. Ofori-Attah and M. O. Agyeman, “A survey of low
power noc design techniques,” in Proceedings of the
2Nd International Workshop on Advanced Interconnect
Solutions and Technologies for Emerging Computing
Systems, ser. AISTECS, 2017, pp. 22–27. y
[77] ——, “A survey of recent contributions on low power
noc architectures,” in 2017 Computing Conference, 2017. [91] C. Yan and R. Joseph, “Enabling deep voltage scaling
in delay sensitive l1 caches,” in 46th Annual IEEE/IFIP
International Conference on Dependable Systems and
Networks (DSN), 2016, pp. 192–202. [78] J. Choi and G. H. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 15 Emmannuel Ofori-Attah, Xiaohang Wang and Michael Opoku Agyeman Technology and Applications (VLSI-SATA), 2016, pp. 1–
6. Exhibition (DATE), vol. 24, no. 3, 2016, pp. 871–883. [82] W. Zhang, H. Zhang, and J. Lach, “Reducing dynamic
energy of set-associative l1 instruction cache by early
tag lookup,” in IEEE/ACM International Symposium on
Low Power Electronics and Design (ISLPED), 2015, pp. 49–54. [68] A. K. Kodi, A. Sarathy, A. Louri, and J. Wang, “Adaptive
inter-router links for low-power, area-efficient and
reliable network-on-chip (noc) architectures,” in Asia
and South Pacific Design Automation Conference, 2009,
pp. 1–6. [83] J. Dai, M. Guan, and L. Wang, “Exploiting early tag
access for reducing l1 data cache energy in embedded
processors,” IEEE Transactions on Very Large Scale
Integration (VLSI) Systems, vol. 22, no. 2, pp. 396–407,
2014. [69] C. Li and P. Ampadu, “A compact low-power edram-
based noc buffer,” in Low Power Electronics and Design
(ISLPED), IEEE/ACM International Symposium on, 2015,
pp. 116–121. [84] J. J. Valls, J. Sahuquillo, A. Ros, and M. E. GÃşmez,
“The tag filter cache: An energy-efficient approach,”
in 23rd Euromicro International Conference on Parallel,
Distributed, and Network-Based Processing, 2015, pp. 182–189. [70] J. Lee and S. Kim, “Write buffer-oriented energy
reduction in the l1 data cache for embedded systems,”
IEEE Transactions on Very Large Scale Integration (VLSI)
Systems, vol. 24, no. 3, pp. 871–883, 2016. y
pp
[71] M. A. Awan and S. M. Petters, “Enhanced race-to-
halt: A leakage-aware energy management approach
for dynamic priority systems,” in 23rd Euromicro
Conference on Real-Time Systems, 2011, pp. 92–101. [85] A. Sembrant, E. Hagersten, and D. Black-Shaffer, “Tlc:
A tag-less cache for reducing dynamic first level cache
energy,” in Annual IEEE/ACM International Symposium
on Microarchitecture (MICRO), 2013, pp. 49–61. f
y
pp
[72] J. A.Artes, J.Ayala and F.Catthoor, “Survey of low-
energy techniques for instruction memory organisa-
tions in embedded systems,” in Journal of Signal Process-
ing Systems 70(1):1-19 January, vol. 70, 2013, pp. 1–19. [86] K. Dayalan, M. Ozsoy, and D. Exhibition (DATE), vol. 24, no. 3, 2016, pp. 871–883. Park, “Nvm way allocation scheme
to reduce nvm writes for hybrid cache architecture in
chip-multiprocessors,” IEEE Transactions on Parallel and
Distributed Systems, vol. 28, no. 10, pp. 2896–2910,
2017. [92] M. P. Komalan, C. Tenllado, J. I. G. PÃľrez, F. T. FernÃąndez, and F. Catthoor, “System level exploration
of a stt-mram based level 1 data-cache,” in Design,
Automation Test in Europe Conference Exhibition (DATE),
2015, pp. 1311–1316. [79] D. Williamson, “Low power applications, arm.” 2017. [80] S. Chakraborty, D. Deb, D. Buragohain, and H. K. Kapoor, “Cache capacity and its effects on power con-
sumption for tiled chip multi-processors,” in Inter-
national Conference on Electronics and Communication
Systems (ICECS), 2014, pp. 1–6. [93] J. Wang, Y. Tim, W. F. Wong, Z. L. Ong, Z. Sun, and
H. H. Li, “A coherent hybrid sram and stt-ram l1 cache
architecture for shared memory multicores,” in Asia
and South Pacific Design Automation Conference (ASP-
DAC), 2014, pp. 610–615. [81] A. Bardizbanyan, M. SjÃďlander, D. Whalley, and
P. Larsson-Edefors, “Reducing set-associative l1 data
cache energy by early load data dependence detection
(eld3),” in Design, Automation Test in Europe Conference [94] J. Li, C. J. Xue, and Y. Xu, “Stt-ram based energy-
efficiency
hybrid
cache
for
cmps,”
in
IEEE/IFIP
International Conference on VLSI and System-on-Chip, EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 16 A Survey of System Level Power Management Schemes in the Dark-Silicon Era for Many-Core Architectures Large Scale Integration (VLSI-SoC), 2016, pp. 1–6. g
g
[103] Z. Azad, H. Farbeh, A. M. H. Monazzah, and S. G. Miremadi, “An efficient protection technique for last
level stt-ram caches in multi-core processors,” IEEE
Transactions on Parallel and Distributed Systems, vol. 28,
no. 6, pp. 1564–1577, 2017. [95] F. Shen, Y. He, J. Zhang, N. Jiang, Q. Li, and J. Li,
“Feedback learning based dead write termination for
energy efficient stt-ram caches,” vol. 26, pp. 460–467,
05 2017. [96] S. Agarwal and H. K. Kapoor, “Restrictingwrites for
energy-efficient hybrid cache in multi-core architec-
tures,” in IFIP/IEEE International Conference on Very
Large Scale Integration (VLSI-SoC), 2016, pp. 1–6. [104] H. Esmaeilzadeh, E. Blem, R. St. Amant, K. Sankar-
alingam, and D. Burger, “Power limitations and dark
silicon challenge the future of multicore,” ACM Trans. Comput. Syst., vol. 30, no. 3, pp. 11:1–11:27, 2012. [97] R. K. Aluru and S. Ghosh, “Droop mitigating last level
cache architecture for sttram,” in Design, Automation
Test in Europe Conference Exhibition (DATE), 2017, pp. 262–265. [105] R. G. Dreslinski,
M. Wieckowski,
D. Blaauw,
D. Sylvester,
and
T. Mudge,
“Near-threshold
computing: Reclaiming moore’s law through energy
efficient integrated circuits,” Proceedings of the IEEE,
vol. 98, no. 2, pp. 253–266, 2010. [98] N. Kim, J. Ahn, W. Seo, and K. Choi, “Energy-efficient
exclusive last-level hybrid caches consisting of sram
and stt-ram,” in IFIP/IEEE International Conference on
Very Large Scale Integration (VLSI-SoC), 2015, pp. 183–
188. pp
[106] S. Jain, S. Khare, S. Yada, V. Ambili, P. Salihundam,
S. Ramani, S. Muthukumar, M. Srinivasan, A. Kumar,
S. K. Gb, R. Ramanarayanan, V. Erraguntla, J. Howard,
S. Vangal, S. Dighe, G. Ruhl, P. Aseron, H. Wilson,
N. Borkar, V. De, and S. Borkar, “A 280mv-to-1.2v wide-
operating-range ia-32 processor in 32nm cmos,” in
IEEE International Solid-State Circuits Conference, 2012,
pp. 66–68. [99] P. Safayenikoo, A. Asad, M. Fathy, and F. Mohammadi,
“Exploiting
non-uniformity
of
write
accesses
for
designing a high-endurance hybrid last level cache in
3d cmps,” in IEEE Canadian Conference on Electrical and
Computer Engineering (CCECE), 2017, pp. 1–5. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 pp
[107] U. R. Karpuzcu, A. Sinkar, N. S. Kim, and J. Torrel-
las, “Energysmart: Toward energy-efficient manycores
for near-threshold computing,” in IEEE International
Symposium on High Performance Computer Architecture
(HPCA), 2013, pp. 542–553. [100] A. Asad, O. Ozturk, M. Fathy, and M. R. Jahed-
Motlagh, “Exploiting heterogeneity in cache hierarchy
in dark-silicon 3d chip multi-processors,” in Euromicro
Conference on Digital System Design, 2015, pp. 314–321. [101] S. Onsori, A. Asad, K. Raahemifar, and M. Fathy,
“Optmem: Dark-silicon aware low latency hybrid
memory design,” in International Conference on VLSI
Systems,
Architectures,
Technology
and
Applications
(VLSI-SATA), 2016, pp. 1–5. [108] J. Wang, x. Fu, W. Zhang, Z. Junwei, K. Qiu, and
T. Li, “On the implication of ntc vs. dark silicon
on emerging scale-out workloads: The multi-core
architecture perspective,” IEEE Transactions on Parallel
and Distributed Systems, vol. 28, no. 8, pp. 2314–2327,
2017. [102] S. Chakraborty and H. K. Kapoor, “Static energy
reduction
by
performance
linked
dynamic
cache
resizing,” in IFIP/IEEE International Conference on Very 2011, pp. 31–36. EAI Endorsed Transactions on
Industrial Networks and Intelligent Systems
06 2018 - 09 2018 | Volume 5 | Issue 15| e5 17 17
|
https://openalex.org/W4387868912
|
https://www.frontiersin.org/articles/10.3389/fendo.2023.1236472/pdf?isPublishedV2=False
|
English
| null |
Mitochondrial regulation in human pluripotent stem cells during reprogramming and β cell differentiation
|
Frontiers in endocrinology
| 2,023
|
cc-by
| 15,170
|
OPEN ACCESS OPEN ACCESS
EDITED BY
Adriana Migliorini,
University Health Network, Canada
REVIEWED BY
Rangarajan Sambathkumar,
University Health Network (UHN), Canada
Antonio Citro,
San Raffaele Hospital (IRCCS), Italy
Paraish Misra,
University of Toronto, Canada
*CORRESPONDENCE
A. M. James Shapiro
jshapiro@ualberta.ca
Nidheesh Dadheech
dadheech@ualberta.ca
†These authors have contributed equally to
this work
RECEIVED 07 June 2023
ACCEPTED 06 October 2023
PUBLISHED 20 October 2023
CITATION
Jasra IT, Cuesta-Gomez N,
Verhoeff K, Marfil-Garza BA,
Dadheech N and Shapiro AMJ (2023)
Mitochondrial regulation in human
pluripotent stem cells during
reprogramming and b cell differentiation. Front. Endocrinol. 14:1236472. doi: 10.3389/fendo.2023.1236472
COPYRIGHT OPEN ACCESS
EDITED BY
Adriana Migliorini,
University Health Network, Canada
REVIEWED BY
Rangarajan Sambathkumar,
University Health Network (UHN), Canada
Antonio Citro,
San Raffaele Hospital (IRCCS), Italy
Paraish Misra,
University of Toronto, Canada
*CORRESPONDENCE
A. M. James Shapiro
jshapiro@ualberta.ca
Nidheesh Dadheech
dadheech@ualberta.ca
†These authors have contributed equally to
this work
RECEIVED 07 June 2023
ACCEPTED 06 October 2023 EDITED BY
Adriana Migliorini,
University Health Network, Canada
REVIEWED BY
Rangarajan Sambathkumar,
University Health Network (UHN), Canada
Antonio Citro,
San Raffaele Hospital (IRCCS), Italy
Paraish Misra,
University of Toronto, Canada Ila Tewari Jasra 1†, Nerea Cuesta-Gomez 1†, Kevin Verhoeff 1,
Braulio A. Marfil-Garza 1,2, Nidheesh Dadheech 1*
and A. M. James Shapiro 1* 1Clinical Islet Transplant Program, Department of Surgery, Alberta Diabetes Institute, University of
Alberta, Edmonton, AB, Canada, 2Tecnologico de Monterrey, The Institute for Obesity Research,
Monterrey, Nuevo Leon, Mexico †These authors have contributed equally to
this work Mitochondria are the powerhouse of the cell and dynamically control
fundamental biological processes including cell reprogramming, pluripotency,
and lineage specification. Although remarkable progress in induced pluripotent
stem cell (iPSC)-derived cell therapies has been made, very little is known about
the role of mitochondria and the mechanisms involved in somatic cell
reprogramming into iPSC and directed reprogramming of iPSCs in terminally
differentiated cells. Reprogramming requires changes in cellular characteristics,
genomic and epigenetic regulation, as well as major mitochondrial metabolic
changes to sustain iPSC self-renewal, pluripotency, and proliferation. Differentiation of autologous iPSC into terminally differentiated b-like cells
requires further metabolic adaptation. Many studies have characterized these
alterations in signaling pathways required for the generation and differentiation
of iPSC; however, very little is known regarding the metabolic shifts that govern
pluripotency transition to tissue-specific lineage differentiation. Understanding
such metabolic transitions and how to modulate them is essential for the
optimization of differentiation processes to ensure safe iPSC-derived cell
therapies. TYPE Review
PUBLISHED 20 October 2023
DOI 10.3389/fendo.2023.1236472 TYPE Review
PUBLISHED 20 October 2023
DOI 10.3389/fendo.2023.1236472 Diabetes Mellitus, stem cells, induced pluripotent stem (iPS) cells, islet transplantation,
beta cells (b Cells) 1 Introduction by selective autophagy, known as mitophagy, which eliminates
faulty mitochondria through lysosomal machinery. Mitophagy is a complex mechanism that selectively segregates
damaged or depolarized mitochondria into double-membraned
autophagosomes. These autophagosomes are then degraded by
lysosomal enzymes. Mitophagy is essential cellular process that
plays a significant part in cellular reprogramming because it
removes undesired and damaged mitochondria or helps
reorganizing mitochondrial network needed for optimal
differentiation (11). During differentiation, mitochondria in iPSCs
undergo mitophagy cleanup and are then replenished by newly
developed mitochondria for adapting to the metabolic needs of the
differentiating cells. For example, both somatic cell reprogramming
into iPSC and b cell differentiation need NIX-mediated mitophagy
(12). Other proteins, such as PINK1 and Parkin (Park2), are known
to play important roles in controlling mitophagy in beta cells (13). PDX1, a pancreatic differentiation master regulator transcription
factor, has recently been shown to regulate mitophagy in b cells
(14). The balance between organelle fusion and fission processes
helps maintain the adaptability of the mitochondrial network (15,
16). Mitochondrial fusion has been demonstrated to be a viable
method for stress reduction in biological systems. Mitochondria
that have been partially damaged can benefit from fusion because it
allows for the complementation of their contents. Fission, on the
other hand, is critical for the genesis of new mitochondria, but it
also serves to maintain quality control by allowing the removal of
defective mitochondria. Fission can potentially promote apoptosis
in conditions of high cellular stress. The introduction of the reprogramming factors Oct4, Sox2,
Klf4, and c-Myc enable the reprogramming of adult somatic cells
into induced pluripotent stem cells (iPSC) capable of self-renewal
(1, 2). Autologous iPSCs hold promise for applications in precision
health and regenerative medicine, disease modelling, and drug
screening (3). Although remarkable progress has been made on
molecular regulation and methods to achieve pluripotency and
subsequent differentiation into lineage-specific cell types, little is
known regarding the metabolic shifts that somatic cells must
undergo to achieve pluripotency and differentiation into cell types
of interest, such as b cells. Currently, the risk of teratogenicity and
low reprogramming efficiency interfere with the translation of
iPSC-based cell therapies into the clinic. The process of reprogramming adult somatic cells involves
transition in cellular characteristics, genomic and epigenetic
remodelling in parallel with major metabolic changes to sustain
self-renewal and plasticity of iPSCs (4, 5). 1 Introduction Overall, the metabolic
shift that occurs during reprogramming consists of decreasing
oxidative phosphorylation (OXPHOS) while increasing glycolysis
(6–8). Glycolysis is a very inefficient energy generation process; but,
if the rate of metabolic flux is high enough, glycolysis can provide
enough adenosine triphosphate (ATP) for fast cell multiplication. Glycolysis is also required for nucleic acid, amino acid, and lipid
production. Despite the presence of oxygen and functioning
mitochondria, increased aerobic glycolysis in iPSCs replicates the
Warburg effect, in which cancer and pluripotent stem cells enhance
their glucose absorption and lactate fermentation (9). Undifferentiated embryonic stem cells (ESCs) have been found to
possess a small number of mitochondria with poorly formed cristae
and a perinuclear location (17). ESCs also exhibit a low number of
mtDNA copies, but this increases with differentiation and
mitochondrial maturation (18). In the case of iPSCs, studies using
the mitochondrial dye MitoTracker Green have shown that active
mitochondria are primarily found in cells along the boundaries of
iPSC colonies, which reflect cells undergoing spontaneous
differentiation (10, 18). This supports previous findings that
undifferentiated iPSCs have fewer active mitochondria (6, 19). In
contrast to the elongated, tubular-shaped, branched, and cristae-rich
mitochondria found in somatic cells, iPSC mitochondria are round,
globular, spherical, with underdeveloped cristae and a perinuclear
distribution (Figure 1). The number and mass of mitochondria are
also lower in iPSCs compared to their original somatic cells (18, 20). These observations have led some scientists to propose that the
reduction in mitochondria may be associated with mitophagy-like
processes induced during the reprogramming process (13, 21, 22). In
fact, the autophagy stimulator- rapamycin has been shown to
enhance iPSC reprogramming efficiency (20, 23), suggesting a
potential link between mitophagy activation and the reduction in
mitochondria during reprogramming (24). Rapamycin is a mTOR
complex inhibitor that binds to mTOR1 complex and promotes
mitophagy and cell survival in response to ER stress (25, 26). It plays
an important role in identifying and degrading damaged
mitochondria by inducing the expression of genes promoting To date, several studies have investigated the mechanism
behind the metabolic shift to glycolysis occurring during somatic
cell reprogramming. Furthermore, differentiation of iPSC into
specific tissues requires further metabolic adaptation. For this
reason, this review article aims to summarize the metabolic
transitions that occur in the process of somatic cell
reprogramming to iPSC and during optimal iPSC generation and
differentiation into b-like cells. OPEN ACCESS In this review, we summarize the current understanding of
mitochondrial metabolism during somatic cell reprogramming to iPSCs and
the metabolic shift that occurs during directed differentiation into pancreatic
b-like cells. CITATION
Jasra IT, Cuesta-Gomez N,
Verhoeff K, Marfil-Garza BA,
Dadheech N and Shapiro AMJ (2023)
Mitochondrial regulation in human
pluripotent stem cells during
reprogramming and b cell differentiation. Front. Endocrinol. 14:1236472. doi: 10.3389/fendo.2023.1236472 COPYRIGHT
© 2023 Jasra, Cuesta-Gomez, Verhoeff,
Marfil-Garza, Dadheech and Shapiro. This is
an open-access article distributed under the
terms of the Creative Commons Attribution
License (CC BY). The use, distribution or
reproduction in other forums is permitted,
provided the original author(s) and the
copyright owner(s) are credited and that
the original publication in this journal is
cited, in accordance with accepted
academic practice. No use, distribution or
reproduction is permitted which does not
comply with these terms. COPYRIGHT
© 2023 Jasra, Cuesta-Gomez, Verhoeff,
Marfil-Garza, Dadheech and Shapiro. This is
an open-access article distributed under the
terms of the Creative Commons Attribution KEYWORDS Diabetes Mellitus, stem cells, induced pluripotent stem (iPS) cells, islet transplantation,
beta cells (b Cells) 01 01 Frontiers in Endocrinology frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. mitophagy (PINK1, PARKIN, ULK1, AMBRA1) and mitochondrial
fission (FIS1, DRP1) (27). provide clear insights into efficient cellular reprogramming and
differentiation processes. It is important to note that the mitochondrial characteristics
observed in iPSCs are transient and change as the cells differentiate
(28, 29). With differentiation into fibroblast-like cells, iPSCs exhibit
an increase in mtDNA copy number and undergo mitochondrial
maturation, acquiring tubular structures with well-formed cristae,
similar to somatic fibroblasts (30). These findings highlight the
adaptability of iPSCs and their mitochondria and have sparked
considerable interest in the field in characterizing iPSCs for their
function and mitochondrial metabolism. 2 Mitochondrial characteristics
of iPSC Mitochondria play a crucial role in cellular energy production
through oxidative phosphorylation (OXPHOS), generating ATP in
all nucleated cells (4). They consist of the electron transport
respiratory chain (ETC) complexes I-IV and the ATP synthase
complex V (10). During the reprogramming of human induced
pluripotent stem cells (iPSCs), changes occur in various
mitochondrial characteristics, including number, mitochondrial
DNA (mtDNA), shape, ultrastructure, and distribution, as part of
the metabolic transition from OXPHOS to glycolysis. The
subcellular composition and distribution of mitochondria are
highly dynamic, and the organelles undergo turnover facilitated Frontiers in Endocrinology 02 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 FIGURE 1
Schematic representation of the mitochondrial architectural changes during somatic cell reprogramming and differentiation of iPSCs into b cells. Somatic
cells undergo reprogramming to generate iPSCs, which can be re-differentiated into specialized terminal cells. This process leads to changes in the
metabolic signature for mitochondria size, number, shape, fragmentation pattern (fission vs fusion), mtDNA homo/heteroplasmy, oxidative stress and
metabolic pathways. Somatic cells are characterized by the presence of high number of elongated mitochondria which have a highly active OXPHOS
metabolism that generates high concentrations of ROS. Reprogramming results in fission of the mitochondria that results in immature, fragmented, spherical,
and perinuclear mitochondria with condensed cristae. Differentiation of iPSCs to terminal b cells requires the fusion of mitochondria to generate large
numbers of enlarged mature and cristae-rick mitochondria resulting in a transition from glycolysis to OXPHOS. FIGURE 1
Schematic representation of the mitochondrial architectural changes during somatic cell reprogramming and differentiation of iPSCs into b cells. Somatic
cells undergo reprogramming to generate iPSCs, which can be re-differentiated into specialized terminal cells. This process leads to changes in the
metabolic signature for mitochondria size, number, shape, fragmentation pattern (fission vs fusion), mtDNA homo/heteroplasmy, oxidative stress and
metabolic pathways. Somatic cells are characterized by the presence of high number of elongated mitochondria which have a highly active OXPHOS
metabolism that generates high concentrations of ROS. Reprogramming results in fission of the mitochondria that results in immature, fragmented, spherical,
and perinuclear mitochondria with condensed cristae. Differentiation of iPSCs to terminal b cells requires the fusion of mitochondria to generate large
numbers of enlarged mature and cristae-rick mitochondria resulting in a transition from glycolysis to OXPHOS. mitophagy (PINK1, PARKIN, ULK1, AMBRA1) and mitochondrial
fission (FIS1, DRP1) (27). 3 Metabolic features of iPSC When compared to somatic cells, iPSCs have a higher rate of
proliferation and diverse cell cycle properties, such as a shorter G1
phase and a longer S phase (31). As a result, a significant portion of
cellular energy is committed in constructing the biomass required
for ongoing cell development while maintaining the
undifferentiated state. In addition, pluripotency maintenance by
exogenous pluripotency-associated transcription factors, need
greater anabolic requirements to carry out significant chromatin
state, gene expression, and signal transduction modulation,
allowing somatic cells conversion into iPSCs (32). In conclusion, the characteristics of mitochondria in iPSCs
undergo changes during reprogramming, including alterations in
number, mtDNA, shape, ultrastructure, and distribution but remain
stable during prolong cell generations, as connected with the
pluripotency state. Mitochondrial characteristics associated with
the metabolic transition from OXPHOS to glycolysis undergo
substantial changes only upon directed differentiation only. Thus,
understanding the functional and metabolic implications of these
mitochondrial features in iPSCs, while maintaining pluripotency
and upon differentiation, is an important area of research that can Glycolysis provides more than just ATP for fast growth. Furthermore, glycolytic pathway intermediaries supply precursors
for fatty acid and amino acid synthesis, which are essential to
sustain iPSC biomass (15). Even in the presence of oxygen, iPSCs
preferentially convert glucose to lactate, just like growing tumor Frontiers in Endocrinology frontiersin.org 03 10.3389/fendo.2023.1236472 Jasra et al. mitochondria number with reduced DY and oxidative capacity,
can explain for glycolytic metabolism of stem cells. Changes in DY
is suggested to be a predictive indicator of self-renewal, lineage
commitment and to select optimal stem cell population with
enhanced pluripotency and differentiation potential. Recently,
Woods and colleagues performed a metabolic study with
pluripotent stem cells to show that stem cells with lower average
DY more efficiently drive into primordial germ-like cells (36). In
culture, human iPSCs are discovered to inherit higher DY, and this
hyperpolarization is thought to be a result of decreased ATP
generation via OXPHOS but more pronounced glycolysis-based
energy flux (33, 37). High DY in cells allow them to handle the
rising energy demands for stemness and pluripotency, where the
mitochondrial ATP synthase hydrolyzes the ATP generated from
glycolysis and supply the instant energy demand for early cells (33). This glycolytic state is linked to the cellular
reprogramming process, which ensures the appropriate ATP
demand required for pluripotency. 3 Metabolic features of iPSC Indeed, bioenergetic
investigations have revealed that, as compared to somatic cells,
iPSCs create a significant quantity of lactate while producing less
ATP and consuming less oxygen, which fits with the few immature
mitochondria observed on iPSCs (Figure 2) (34). iPSCs, on the
other hand, primarily oxidize glucose via cytosolic glycolysis to
create ATP, whereas somatic cells have highly structured, cristae-
rich, and respiratory-active mitochondria to feed their energy
demands via OXPHOS. As a result, mitochondrial ultrastructure,
number, and resting mitochondrial membrane potential (DY) in
iPSCs are significantly different. Despite mitochondrial immaturity,
DY plays an important role in mitochondrial homeostasis by
selectively eliminating defective mitochondria (35). Low A
B
FIGURE 2
Schematic representation of the key metabolic mechanistic pathways for energy generation in (A) iPSCs and (B) b cells. Glycolysis breaks down
glucose into two molecules of pyruvate which can enter the mitochondria upon oxidative decarboxylation into acetyl CoA in the mitochondrial
matrix. Acetyl-CoA then enters in the TCA cycle where it is oxidized for energy production and/ or for the generation of metabolic intermediates for
fatty acid and nucleotide biosynthesis. Metabolic intermediates that arise throughout glycolysis, including glucose-6-phosphate, fructose-6-
phosphate, and dihydroxyacetone phosphate (DHAP), provide the scaffolds for fatty acids and amino acids synthesis required to support the
increasing biomass. Several key molecular mechanisms regulating the mitochondrial metabolic homeostasis are represented with numbers in this
figure. (A) For iPSCs, three mechanisms are summzied as (1), pluripotency phenotypes (naïve vs prime)- responsible for metabolic shift between
glycolysis and OXPHOS (2); mitochondrial genes affecting pluripotency genes expression to help regulating optimal glycolytic function in iPSCs; (3)
Nutritional requirements facilitating glycolytic pathway for lactate production. (B) Mechanisms in human b cells include, (1) islet maturation
associated genes contribute to achieve metabolic homeostasis; (2) repression of disallowed genes improves mitochondrial function and high ATP
production; (3) screening mtDNA mutations will further help eliminating the risk of mitochondrial dysfunction; (4) genomic regulation of
mitochondrial genes; (5) Nutritional control for ATP production and maturation; and (6) increased ROS production as a result of high mitochondrial
function and respiration. A
B A A FIGURE 2
Schematic representation of the key metabolic mechanistic pathways for energy generation in (A) iPSCs and (B) b cells. Glycolysis breaks down
glucose into two molecules of pyruvate which can enter the mitochondria upon oxidative decarboxylation into acetyl CoA in the mitochondrial
matrix. 3 Metabolic features of iPSC Genes regulating gluconeogenesis,
glycolysis's first and last steps, and the non-oxidative branch of
the pentose phosphate pathway (PPP) are upregulated in iPSCs
compared to somatic fibroblasts, favoring glycolysis and the
diversion of glycolytic intermediates into the PPP, which provides
nucleotide precursors necessary for anabolic growth (38). Metabolite analysis indicated that iPSCs accumulate more
glucose-6-phosphate than somatic fibroblasts, indicating PPP
activation (34, 38). The glycolytic state of iPSCs may be phenocopied mechanistically
by inhibiting pyruvate transport into mitochondria (pyruvate
shunting), resulting in decreased availability of pyruvate as a
substrate for the tricarboxylic acid cycle (TCA) and increased
conversion of pyruvate to lactate in the cytosol (37, 39). As a result,
3-Phosphoinositide-dependent kinase1 (PDK1), a small molecule
activator has been found to greatly improve the effectiveness of
cellular reprogramming (39) . Furthermore, iPSCs may have
significant levels of oxidized pyruvate kinase isoform M2 (PKM2),
which has reduced catalytic activity. Because of the decreased
catalytic activity, reduced phosphoenolpyruvate is converted to
pyruvate, shifting energy flow beyond the mitochondria to
upstream glycolysis-related processes (40).. In both normoxic (21%
O2) and hypoxic (1-5% O2) circumstances, iPSCs prefer glycolysis
over OXPHOS. Although, iPSCs thrive better in hypoxic condition,
despite having a 19-fold better ATP production efficiency than
glycolysis, iPSCs are unable to adopt OXPHOS-based metabolism
in the absence of accessible oxygen (5). It has been proposed that
higher ATP levels in iPSCs, irrespective of maintenance oxygen
circumstances, allow cells to undergo glycolysis. It has also been
shown that lack of oxygen during reprogramming may impede
mitochondrial remodelling, preventing cells from achieving higher
levels of OXPHOS in iPSCs (41). Human iPSCs show high levels of mitochondrial uncoupling
protein UCP2 compared to somatic cells, which regulates glutamine
and glucose oxidation for self-renewal capacity (47). High-lipid
supplements are essential for iPSC self-renewal and glycolytic mode
of action and should be removed during cell differentiation. DRP-1
protein inhibition in mitochondria facilitates early reprogramming
process by increasing reduced expression-1 (REX1) expression to
maintain pluripotency. In somatic cell reprogramming, MAPK
inhibition is required for DRP1 phosphorylation via ERK
pathway. Particularly, depletion in fusion protein Mfn1/2 plays
key mechanistic role in OXPHOS transition into glycolytic states
followed by ROS mediated HIF1a activation to favor hypoxic
reprogramming. During differentiation, DRP1 activity plays a
crucial mechanism in cellular lineage patterning for cardiac,
muscle, and neuronal cells (48–50). 3 Metabolic features of iPSC However, in islet cell
differentiation, Mfn1/2 and OPA1 play central roles, instead of
DRP1, to switch from glycolysis to OXPHOS. Additionally, ROS
generation during cell differentiation alters DRP1 and Fis1
expression leading to increased mitochondrial fission. The
mechanism associated in the process requires recruitment of
protein disulfide isomerase A1 (PDIA1), OPA1, and Sirtuin 4 to
induce fission while regulating mitophagy (51). Mitochondria are the principal source of harmful reactive oxygen
species (ROS), which are common by-products of OXPHOS (42). ROS
can then cause oxidative damage to DNA, proteins, or lipids, which
antioxidant enzymes can prevent (43). If this regulated redox
equilibrium (ratios of reduced/oxidized cofactors and proteins- NAD
(P)H/NAD(P)+ and GSH/GSSG) is disrupted, oxidative stress can
develop, resulting in negative cellular consequences, a circumstance
that is expected to occur during the ageing process and age-related
neurodegeneration (44). As a result, in the context of redox balance,
iPSC glycolytic metabolism offers additional benefits. To begin with, it
reduces ROS generation by decreasing mitochondrial respiration. Second, by increasing the flow via the PPP's oxidative branch, it
supplies the reducing component nicotinamide adenine dinucleotide
phosphate hydrogen NADPH, which is essential for antioxidant
enzyme activity (45). To summarize, iPSCs utilize glycolysis as their main pathway for
energy production, and primarily dependent on fatty acid or amino
acid precursors for their metabolic demands to achieve unrestrained
expansion. Furthermore, the preference of glycolysis over OXPHOS
results in a reduction of ROS generation, which in combination with
increased stress defense mechanisms, results in extended cell survival
with maximal safeguard from genome instability (52). 3 Metabolic features of iPSC Acetyl-CoA then enters in the TCA cycle where it is oxidized for energy production and/ or for the generation of metabolic intermediates for
fatty acid and nucleotide biosynthesis. Metabolic intermediates that arise throughout glycolysis, including glucose-6-phosphate, fructose-6-
phosphate, and dihydroxyacetone phosphate (DHAP), provide the scaffolds for fatty acids and amino acids synthesis required to support the
increasing biomass. Several key molecular mechanisms regulating the mitochondrial metabolic homeostasis are represented with numbers in this
figure. (A) For iPSCs, three mechanisms are summzied as (1), pluripotency phenotypes (naïve vs prime)- responsible for metabolic shift between
glycolysis and OXPHOS (2); mitochondrial genes affecting pluripotency genes expression to help regulating optimal glycolytic function in iPSCs; (3)
Nutritional requirements facilitating glycolytic pathway for lactate production. (B) Mechanisms in human b cells include, (1) islet maturation
associated genes contribute to achieve metabolic homeostasis; (2) repression of disallowed genes improves mitochondrial function and high ATP
production; (3) screening mtDNA mutations will further help eliminating the risk of mitochondrial dysfunction; (4) genomic regulation of
mitochondrial genes; (5) Nutritional control for ATP production and maturation; and (6) increased ROS production as a result of high mitochondrial
function and respiration. 04 Frontiers in Endocrinology frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. and DNA, ensuring maximum safeguard against genome instability
in the undifferentiated state (20). As a result, it has been proposed
that the cellular metabolome of iPSCs has an abundance of
unsaturated metabolites that are extremely vulnerable to
oxygenation and hydrogenation processes (18), enabling iPSCs to
adapt swiftly to increased metabolic oxidation by initiating
differentiation programmes, a mechanism known as "chemical
plasticity". In this process, undifferentiated stem cells attain their
low oxidative state of metabolomes, which are concentrated in
highly unsaturated metabolites. Once differentiated, such
metabolites decreased dramatically with a marked increase in
newly hydrogenated and oxygenated compounds. The
phenomenon is an akin to cell plasticity, and therefore known as
chemical plasticity (46). It is worth noting that the addition of
certain cell stage-specific metabolites or modifications of related
metabolic pathways consistently promoted stem cell self-renewal or
facilitate specific differentiation, highlighting the role of metabolic
products in defining cell fate. differentiation or lineage specification. Despite immaturity,
mitochondria in iPSCs are still capable of producing sufficient
ATP from OXPHOS and consuming oxygen (34, 38). Specific transcriptional fingerprints can also be used to identify
an iPSC's metabolic profile. Frontiers in Endocrinology 4.2 Upregulation of glycolysis Upregulation of proteins involved in glycolysis occurs early and
is maintained throughout the reprogramming process up until the
generation of established iPSCs (33). This upregulation of glycolytic
enzymes is consistent with an increase in lactate production (58,
63). Hypoxia-related genes Hif1ɑ and Hif2ɑ are upregulated during
the early stages of reprogramming because of increased glycolysis. In early stages of reprogramming, Hif1ɑ and Hif2ɑ increase the
expression of glycolytic enzymes, while at later stages Hif2ɑ induces
apoptosis through tumor necrosis factor-related apoptosis-inducing
ligand (64). The mechanism for the selective clearance of defective
mitochondria was first described by Fan et al. in their initial
study (54). Later, Pei et al. screened all four Yamanaka factors
(Oct4, Sox2, Klf4, and c-Myc) and discovered that they all work
together to suppress mTOC1. However, the study outlined specific
its mechanism mediated via Klf4 and c-Myc factors restraining
mTOR complex to activate ATG5-dependent autophagy while Sox2
and Oct4 repress mTOR1 and bifurcate in autophagy-related gene
suppression (Ulk1 and Atg genes) (55). Furthermore, Ding et al. showed that an ATG5-independent autophagic pathway is
indispensable for iPSC induction, since inhibition of ATG-5
dependent canonical pathway inhibits autophagy of mature
mitochondria which is critical for the metabolic shift (56). Although the relationship between the pluripotency
reprogramming factors and the autophagy pathway genes remain
controversial, further investigations are required to descend the
observed differences in somatic reprogramming and directed
differentiation methodologies. Overall, the published studies
supported the notion that a decline in mitochondrial number
may be vital for iPSC reprogramming. Glycolysis is not only favored by upregulation of the glycolytic
enzymes, but also by post-transcriptional regulation of other key
metabolic enzymes. Pyruvate dehydrogenase (PDH) connects
glucose and fatty acid oxidation by converting pyruvate to acetyl-
CoA, augmenting the input of acetyl-CoA from glycolysis into the
TCA cycle. The protein levels of pyruvate dehydrogenase kinase 1
(PDHK1), a negative regulator of PDH activity through
phosphorylation, are increased during reprogramming, which
decreases conversion of pyruvate into acetyl-CoA and hence,
favoring the generation of lactate (5). Reprogramming induces
the generation of PKM2 instead of PKM1 via alternative splicing
(65). Pyruvate kinase catalyzes the generation of pyruvate from
phosphoenolpyruvate, and PKM2 has lower catalytic activity than
PKM1, decreasing the generation of pyruvate available for
OXPHOS and hence, enhancing glycolytic activity (66). Furthermore, there is also a reduction in mitochondrial size
through mitochondrial fission. 4 Mitochondrial physiology during
reprogramming and differentiation To ensure extended cell survival and proliferation capacity,
iPSCs increase their stress-protective mechanisms and acquire a
strictly restrained redox state via upregulation of antioxidant
enzymes such as uncoupling protein 2 and superoxide dismutase
2, resulting in low levels of oxidatively-modified proteins, lipids, Cellular reprogramming requires extensive mitochondrion
architectural reorganization and metabolic shift to balance the
need for pluripotency and self-renewal. In this section we Frontiers in Endocrinology frontiersin.org 05 10.3389/fendo.2023.1236472 Jasra et al. describe key morphological, genetic, or epigenetic factors and
metabolic states that regulate iPSC reprogramming and terminal
cell differentiation. increases reprogramming efficiency by enabling HIF1a
stabilization and facilitating the transition from OXPHOS to
glycolysis (57). Similarly, Klf4, also lowers the mitochondrial
content and OXPHOS during reprogramming through inhibition
of mitochondrial polynucleotide phosphorylase (PnPase) (58, 59) . PnPase maintains mitochondrial homeostasis through facilitating
the import of nucleus-encoded RNA required for mtDNA
replication, transcription and translation (60) . Klf4 regulates
PnPase through T-cell leukemia/ lymphoma 1 (Tcl1), which is
induced during late reprogramming and suppresses the activity of
PnPase lowering the mitochondrial content and OXPHOS (5). 4.1 Morphological and numerical changes
of mitochondria and subunit composition The role of mitophagy and mitochondrial dynamic fission is
critical process of reprogramming somatic cells into iPSCs. During
reprogramming, mitochondria adopt a rejuvenated state (condition
of attaining youthful characteristics after somatic reprogramming)
(33, 53) through elusive mechanisms that include mitochondrial
fission and mitophagy (21). It suggests that the autophagy mediated
regulation of mitochondrial dynamics can selectively target
dysfunctional mitochondrial clearance, leading to cellular changes
such as increased glucose uptake and a shift from mitochondrial
respiration to glycolysis. This metabolic shift is important for
achieving pluripotency. Mitophagy facilitates glycolysis which is
not as result of mitochondrial biogenesis but attributed to increased
formation of autophagic acidic vesicles enclosing the dysfunctional
mitochondria. Studies also suggest that autophagy inducers and
mTOR inhibitors can enhance the efficiency of iPSC generation
without compromising pluripotency due to mTOR-regulated
changes in mitochondrial fission and fusion. The process of
mTOR complex inhibition controls size, morphology, and
number of mitochondria suggesting that increased mitophagy
enable successful somatic reprogramming while mitophagy
abrogation leads to cell senescence. To facilitate the energetic shift, during early reprogramming
stages the expression of the subunit proteins in complexes I and IV
is downregulated while there is an increased expression of proteins
in complexes II, III and V of the electron transport chain (61). Alterations in the stoichiometry of the different subunits results in
functional changes of the mitochondria. The low expression of
complex I and high expression of complex II enhances the
reduction of flavin adenine dinucleotide (FAD+) to FADH2 over
the reduction of nicotinamide adenine dinucleotide (NAD+) to
NADH, which in combination with decreased expression of
complex IV, reduces O2 to H2O. Resulted transient burst of
OXPHOS activity in turn promotes glycolysis and the metabolic
shift (62). Frontiers in Endocrinology 4.3 Remodelling of alternative
mitochondrial metabolic pathways Functional potential of iPSC-derived cells is suggested to be
closely linked to mitochondrial genome, epigenetic regulation and
mtDNA heteroplasmy (24, 74). iPSC reprograming remodels the
existing epigenetic memory and establishes a new epigenetic profile
that complies iPSC identity and pluripotency (75). The activity of
mitochondrial metabolites produced by the TCA cycle regulate
DNA methylation and chromatin changes during cellular
reprogramming. It has been suggested that somatic
reprogramming is associated with improved expression of acetyl-
CoA, -ketoglutarate, NADH/NAD pool, and TCA cycle product
such as citrate and succinate (54). The metabolites, in turn, control
chromatin machinery involved in development and proliferation
via acetylating histones proteins (49, 55). Acetyl-CoA supplies the
requisite acetyl groups to initiate the reaction specifically required
for histone acetylation process carried out by histone
acetyltransferases (HATs). HATs are responsible for addition of
acetyl groups in histone N-terminal trials and alter the dynamics of
chromatin to drive the epigenetic control of gene expression by
activating transcriptional programs. They are highly dependent on
glucose availability, fatty acid oxidation and mitochondrial
respiration. Mitochondrial TCA cycle acetyl-CoA generating
enzyme- ACLY is responsible for cytosolic entry of citrate to
synthesize acetyl-CoA which directly controls the histone
modification process. Further, histone demethylases like Jumonji
C domain-containing (JMJD) family histone demethylases and ten-
eleven translocation (TET) DNA demethylases, as well as a-
ketoglutarate (aKG), all require this component. aKG provides a
substrate for chromatic modifying enzymes and its availability has a
direct impact on gene expression for cellular fate decisions by
regulating histone and DNA demethylases (76). In addition,
succinate, a by-product of 2-oxoglutarte dependent dioxygenases
(2-OGDD) enzyme processes from aKG, when it builds up, it acts
as an antagonist to the reaction. Through the inhibition of histone
and DNA demethylases, 2-HG and fumarate can also change the
way that cells express their epigenetic information. Notably, the Despite the switch from OXPHOS to a highly glycolytic state being
a driving force for reprogramming (33), adaptations in lipid and amino
acid metabolism pathways are also relevant during nuclear
reprogramming (8). De novo fatty acid biogenesis promotes somatic
cell reprogramming efficiency and pluripotency maintenance by
regulating mitochondrial fission. Nuclear reprogramming enhances
the expression of acetyl-CoA carboxylase 1 (ACC1), which catalyzes
the irreversible carboxylation of acetyl-CoA to malonyl-CoA, the
building block of fatty acid synthesis (70). 4.2 Upregulation of glycolysis c-Myc, an important
reprogramming factor, elicits the activation of DRP1, which
induces active fragmentation resulting in smaller mitochondria
with high OXPHOS. Inhibition of DRP1 (21) or induction of
mitochondrial fusion proteins MFN1 and MFN2 suppresses
reprogramming (57), while inhibition of MFN1 and MFN2 At later stages of reprogramming, core pluripotency factors
Oct4, Sox2, Nanog, c-Myc, are directly involved in the maintenance
of aerobic glycolysis. In reprogrammed stem cells, the core Frontiers in Endocrinology 06 frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. derived AGEs, which are associated with several degenerative
disorders including diabetes, chronic kidney disease and
Alzheimer’s disease (17). However, despite the metabolic switch
from OXPHOS to glycolysis, the number of methylglyoxal-derived
AGEs accumulated in somatic cells gradually decreases during
reprogramming until it is found absent in established iPSCs (72). During early stages of cellular reprogramming, Klf4 and c-Myc
induce the expression of glycine decarboxylase (GLDC), the rate
limiting enzyme in the serine/glycine biosynthesis pathway, where 3-
phosphoglycerate is used for the generation of serine and glycine. GLDC promotes the upregulation of glycolysis and the serine/glycine
pathway while suppressing the generation of methylgloxal-derived
AGEs (72). Upregulation of GLDC promotes reprogramming while
inhibition of GLDC induces the accumulation of AGE in iPSC and
reverses pluripotency, showing the relevance of amino acid
metabolism in induction and maintenance of pluripotency (73). pluripotency transcription factors, commonly referred to as CPTFs,
interact with the promoters of genes encoding glycolytic enzymes,
namely hexokinase 2 (HK2) and pyruvate kinase M2 (PKM2), to
effectively drive transcription and significantly enhance glycolytic
flux. The metabolic coordination exhibited by CPTFs strongly
suggests their indispensable role for modulating mitochondrial
metabolism controlling pluripotency (67). Oct4 directly
upregulates the expression of hexokinase (HK)-2, and PKM2 (68). HK generates glucose-6-phospate in the first step of glycolysis,
which combined with a low conversion of phosphoenolpyruvate to
pyruvate, maintains a high glycolysis rate (68). The inhibition of
HK2 produces a metabolic shift from glycolysis to OXPHOS
resulting in the loss of pluripotency (69). Furthermore, through
Tcl1 expression induction, Klf4 directs metabolic shift during
reprogramming by (a) enhancing glycolysis and (b) diminishing
OXPHOS. Tcl1 stimulates protein kinase B, also known as Akt, that
promotes glucose metabolism by enhancing glycolysis and inhibits
PnPase to diminish OXPHOS (58). Frontiers in Endocrinology 4.5 Transient hyper-energetic state Somatic cells that are highly reliant on glycolysis appear to
undergo more efficient reprogramming than cells with an OXPHOS
phenotype (40). Moreover, induction of glycolysis enhances
reprogramming while induction of OXPHOS or inhibition of
glycolysis hampers this process (33), suggesting that the metabolic
shift is not a consequence of reprogramming but a driving force. It
has been suggested that metabolic changes during reprogramming
are driven by shift in metabolic demands. However, while
examining gene expression patterns, scientists discovered that
early in the reprogramming process, both OXPHOS and genes
related to glycolysis reached their highest levels of expression (78). The presence of mitochondrial proteins and OXPHOS increases by
day three of reprogramming (79) resulting in a transient hyper-
energetic state where cells show both increased glycolysis and
OXPHOS (80). c-Myc plays an essential role for the induction of
this transient hyper-energetic state by strongly upregulating the
estrogen-related nuclear receptors (ERR) ERRa and ERRb, which
control the expression of genes involved in the TCA and OXPHOS
(81). Estrogen-related nuclear receptors (ERR) are a group of
nuclear receptors involved in regulating genes related to energy
metabolism and mitochondrial function. ERRa (Estrogen-related
receptor alpha) and ERRb (Estrogen-related receptor beta) are two
members of this receptor family. While their name suggests a
connection to estrogen, they do not bind estrogen like classical
estrogen receptors. Instead, they are considered orphan receptors Pancreatic b cells adjust insulin secretion in response to
circulating blood glucose, which is controlled by the equilibrium
between glycolysis and OXPHOS. Disruption of OXPHOS results in
impaired glucose stimulated insulin secretion (GSIS), showcasing
the essential role of mitochondrial metabolism in the orchestration
of b cell function (73). In healthy, non-diabetic b cells, glucose sensing and insulin
secretion is controlled by the glucokinase and the ATP production
through OXPHOS (83). Briefly, glucose transporter (GLUT) 1
facilitates the diffusion of glucose into the cytosol of b cells,
which gets phosphorylated by glucokinase, initiating glycolysis
and generating pyruvate (84, 85). Two molecules of pyruvate per
molecule of glucose are then imported into the mitochondria and
into the TCA, initiating the transfer of electrons generated
throughout the TCA to the respiratory chain via NADH and
FADH2 and the subsequent OXPHOS mediated ATP production. Mitochondrial phosphoenolpyruvate carboxykinase (PEPCK-M)
converts malate into phosphoenolpyruvate, which re-enters into
TCA to sustain the mitochondrial metabolism and OXPHOS for
continued ATP production (86). 4.3 Remodelling of alternative
mitochondrial metabolic pathways In this manner, ACC1
decreases the availability of acetyl-CoA in the cytoplasm, which
promotes the degradation of mitochondrial fission 1 protein (Fis1),
and thus, decreases mitochondrial fission. However, increased de novo
fatty acid synthesis decreases cellular acetyl-CoA levels, resulting in
stabilization of Fis1 and increased mitochondrial fission which
enhances reprogramming (21). In addition, nuclear reprogramming
induces the upregulation of caritinine palmiltoytransferase 1B, which
transfers the acyl group from coenzyme A to carnitine, enabling the
transfer of long-chain fatty acids into mitochondria. Addition of
palmitoylcarnitine, the product of caritinine palmiltoytransferase 1B,
stimulates OXPHOS during early reprogramming, which fosters a
transient hyper-energetic state (71). At later stages of reprogramming,
palmitoylcarnitine does not increase OXPHOS but generates acetyl-
CoA inside the mitochondria, which is converted into citrate by-citrate
synthase and exits the mitochondria generating cytosolic acetyl-CoA,
which maintains the open state of the chromatin structure, and thus,
pluripotency through acetylation of histones (71). Here we described
alternative mitochondrial metabolic pathways that induce
reprogramming other than previously mentioned. Although
contradicting to mitochondrial fusion, iPSC in certain specific culture
conditions could attain stemness and somatic reprogramming when
treatment differently, early-on. Excessive glycolysis is associated with the accumulation of
advanced glycation end products (AGEs), including methylglyoxal- Frontiers in Endocrinology 07 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 because their exact endogenous ligands (activating molecules) are
not well-defined. largest histone variation- macroH2A has a reductional explanation
that controls this specific epigenetic signature to iPSCs during the
somatic state to pluripotency state transition (61). ERRa and ERRb primarily regulate genes involved in energy
metabolism, mitochondrial biogenesis, and oxidative
phosphorylation. They help coordinate the expression of genes
related to processes like glucose and fatty acid metabolism,
making them important for cellular energy production. These
receptors can respond to changes in metabolic demands within
cells and are also involved in the development of various tissues and
organs. Their activity is influenced by co-regulators and
environmental factors, allowing them to adapt to different
cellular contexts. Furthermore, ROS and the master regulator of cellular
resistance to oxidants and activates nuclear factor erythroid 2–
related factor 2 (Nrf2) which play an important role in the
epigenetic remodelling of iPSCs during reprogramming (5). High
amounts of ROS generated from OXPHOS results in HIF1a
induction which serve as a signal to modify cysteine residues on
Kelch like ECA associated protein 1 (Keap1). 4.3 Remodelling of alternative
mitochondrial metabolic pathways Keap1 is an adaptor
subunit of Cullin 3-based E3 ubiquitin ligase and directly regulates
the activity of Nrf2 to acts as a sensor for oxidative and electrophilic
stresses, KEAP1, the repressor of Nrf2, resulting in Nrf2 activation,
and the subsequent interaction with HIF1a to induce the metabolic
shift towards glycolysis as well as PPP and increase in nucleic acid
synthesis (4). Furthermore, Nrff2 is a pivotal regulator of self-
renewal, proliferation, and differentiation where High levels of ROS
will modify KEAP1 and NRF2 activity to allow them freely to
interact with bind Oct4 and Nanog promoters for self-renewal
induction while maintaining pluripotency (77). The key players in
the process are c-Myc, Lin28, PARP1, and ROS associated genes
such as GSR, SOD2, MGST1 and MAPK26 (74). During
differentiation, the metabolic shift resulting in increased ROS and
DNA damage controls macroH2A1 expression and suppresses
PARP1, which is under control of cMyc. PARP1 inhibition
promotes the methylation of Sox2, Oct4 and Nanog promoters,
inhibiting their transcription and hence, promoting differentiation. c-Myc alone can produce as robust OXPHOS as the
combination of Oct4, Sox2, Klf4 and c-Myc together (81). Cells
that achieve a transient hyper-energetic state possess high DY,
which is a strong indicator of cells that will successfully acquire
pluripotency (81). Despite the role of a transient hyper-energetic
state in the metabolism switch, this state causes DNA damage,
especially de novo copy number variations, and is detrimental for
the genomic stability of the cells (82). However, we hypothesize that
increased OXPHOS at the beginning of reprogramming is essential
to promote the activation of Nrf2 and induce HIF1 and the
subsequent transcription of glycolytic and PPP genes required to
achieve and sustain pluripotency. Frontiers in Endocrinology 4.5 Transient hyper-energetic state PEPCK-M activity depends on
mitochondrial GTP generated because of the activity of the GTP-
specific isoform of succinyl CoA-synthetase (SCS-GTP) (87). In
mammals, SCS is a heterodimer and is located within the
mitochondria. Succinyl-CoA synthetase (SCS; also known as
succinate-CoA ligase) is responsible for breaking down succinyl- Frontiers in Endocrinology 08 frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. CoA to succinate and CoA, accompanied by the phosphorylation of
NDP (ADP or GDP) to NTP (ATP or GTP) in the citric acid cycle. ATP production results in an increased cytosolic ATP/ADP ratio,
promoting the closure of ATP dependent K+ channels and hence,
the depolarization of the mitochondrial membrane that induces the
influx of Ca2+ into the cytoplasm through voltage dependent Ca2+
channels. It is the influx of cytosolic Ca2+ upon initiation of
glycolysis by the glucokinase what triggers insulin secretion (88,
89). In the presence of low concentration of blood glucose, K+
channels in the cell membrane are open and Ca2+ channels are
closed, preventing insulin release. Under these circumstances, fatty
acid oxidation generates enough ATP to maintain basal levels of
insulin secretion (88). mitochondrial biogenesis regulator peroxisome proliferator-
activated receptor gamma coactivator 1- increased considerably,
which is required for sustaining TCA gene expression (98). More
recently, Jiang et. al., showed that mitochondria play crucial role in
iPSC-derived definitive endoderm (DE) cell differentiation mainly
by regulating ATP and ROS. Mitochondria actively participate in DE differentiation to
accomplish OXPHOS by producing ATP and ROS. If
mitochondrial defects persist in human iPSCs then combined
approach using ATP and nicotinamide can be useful to rescue
optimal DE differentiation (101). Mitochondrial DY increases upon
differentiation to DE and thereafter, suggesting the maturation of
the respiratory chain which, in combination with increased
mitochondrial mass, results in elevated intracellular ATP levels
that provide energy for differentiation until stage-6 (98). Inhibition
of TGF-b signaling disturbs the increase of ATP levels and hampers
optimal differentiation. In diabetes, metabolic disfunction impairs glucose sensing,
compromises mitochondrial regulation, lowers ATP production
and ultimately, impacts insulin secretion (90). Approximately 1%
of all types of diabetes are caused by mtDNA mutations (91) and to
date, there are 54 known mutations associated to diabetes pathology
and prognosis (92). Mutations of TFAM, which regulates the
transcription and replication of mitochondrial DNA, result in
decreased hyperpolarization of the mitochondrial membrane,
resulting in reduced Ca2+ influx and hence, suboptimal GSIS (91,
93). 4.5 Transient hyper-energetic state Mutations associated to decreased oxygen consumption,
mitochondrial ATP generation, diminished glucokinase activity or
mitochondrial DY all result in dysfunctional GSIS (94). Furthermore, morphological impairment of b cell mitochondria is
also associated with diabetes. Fusion or fragmentation of the
filamentous network of mitochondria found on healthy b cells
impairs GSIS (95, 96). At stage 4, generation of ATP is correlated with a sharp increase
of mitochondrial DY and ROS levels because of upregulated
OXPHOS during DE differentiation. The activation of the
electron transfer chain and TCA promote the expression of
enzymes involved in aerobic metabolism while downregulating
glycolysis (102). HK1, HK2, phosphofructokinase and lactate
dehydrogenase are remarkably downregulated during DE
differentiation. Most glycolysis-related genes are downregulated
upon DE differentiation except for GLUT3. On the other hand,
OXPHOS-related genes were massively upregulated upon DE
differentiation, including succinate dehydrogenase complex
flavoprotein subunits A and B, the genes encoding succinate-
ubiquinone oxidoreductase, and pyruvate dehydrogenase
phosphatase catalytic subunit 1 and 2, encoding activating
enzymes for the mitochondrial pyruvate dehydrogenase complex. 6 Metabolic alterations during iPSC-
derived b cell differentiation 10.3389/fendo.2023.1236472 FIGURE 3
Schematic representation of directed differentiation of iPSC towards b cells and the metabolic shift that happens throughout the process. iPSCs can
be differentiated in vitro b cells by inducing iPSCs into definitive endoderm (DE) (stage-1), which are further differentiated into primitive gut tube
(PGT) (stage-2) and posterior foregut (PFT) (stage-3) before developing as pancreatic progenitors (PP) (stage-4). PPs can be further differentiated in
vitro, into pancreatic endocrine precursors (PEPs) (stage-5) and lastly, into b cells (stage-6). Differentiation of iPSC towards b cells include a variety of
changes for increased mitochondrial mass, mitochondrial membrane potential, ATP production, intracellular ROS level, and regulation of anaerobic
and aerobic metabolic-associated genes. Briefly, differentiation to DE downregulates mitochondrial biogenesis regulators TFAM, POLG1 and POLG2,
while upregulating PGC1-A, which results in increased mitochondria through upregulation of mtDNA transcription, replication, and mitochondrial
membrane potential (DY). These alterations result in the maturation of the tricarboxylic acid (TCA) cycle gene transcripts. Elevated intracellular ATP
levels provide energy for further differentiation and ROS generation as a result of OXPHOS. The activation of the electron transfer chain and TCA
cycle promote the expression of enzymes involved in aerobic metabolism while down regulating glycolysis enzymes. Upregulation and activation of
the oxidative glucose metabolism enables the activation of the triggering pathway of insulin secretion. mitochondrial NADH shuttles, which also contribute to decreased
GSIS (108). Upon transplantation and in vivo maturation, SC-b
cells upregulate OXPHOS-related genes, which allows them to
better respond to high concentrations of glucose in vivo (109). cells have shown that decreased GSIS is not a result of a defective
or immature cellular machinery or decreased insulin content,
but metabolic failure because of imperfectly regulated
differentiation (86). The enzymatic activity of SCS-GTP is decreased in SC-b cells as
compared to b cells from donor islets, resulting in decreased GTP
required for the activation of PEPCK-M, and hence, decreased
generation of TCA cycle metabolites (Figure 4). Loss-of-function
studies for SCS-GTP clearly mandate that mitochondrial preference
to stimulate GSIS is SCS-GTP, despite functional SCS-ATP. GTP
generated by SCS-GTP upon glucose stimulation is utilized by
mitochondria isoform of PEPCK-M to synthesis PEP from
oxaloacetate. This metabolic flux is revealed doubling of PEPCK-
M flux to potentiate GSIS. 6 Metabolic alterations during iPSC-
derived b cell differentiation At stage 5, inhibition of TGF-b signaling using ALK5 inhibitor-
RepSox interferes with the sharp increase in intracellular ATP and
ROS levels, but also with the rearrangement of the metabolic
transcriptome, thus impairing differentiation. Mature b cells rely
on OXPHOS to meet energy demands and multiple genes encoding
OXPHOS-related enzymes must be upregulated during the b cell
differentiation process (103). Current differentiation protocols to
generate stem cell-derived b (SC-b) cells yield a cell product able to
secrete insulin in response to increasing concentrations of glucose
and reverse diabetes upon transplantation in mice (104). However,
in vitro GSIS response of SC-b cells is not comparable to that of
cadaveric human donor islets in terms of the magnitude of insulin
secretion or biphasic secretion profile. Metabolic assessment of
human donor islets from patients with type-2 diabetes presented
clear evidence for genomic regulation of OXPHOS-related genes
controlling glucose responsive insulin release. It has been suggested
that low expression of glycolytic genes (LDHA, HK1, and PFKP)
and OXPHOS-related genes upregulation (NDUFA5, NDUFA10,
COX11, and ATP6V1H) along with ATP production is essential for
the activation of insulin secretion pathway (105). Although, glucose
does not increase mitochondrial respiration in SC-b cells, studies
reported that pyruvate stimulation facilitated increase in OXPHOS,
which is indicative of immature metabolic characteristics (106). In
depth comparative studies of mitochondrial machinery in SC-b Differentiation of iPSCs into terminally differentiated b-like
cells requires adaptations to meet new metabolic requirements. Several protocols have been reported to generate functional glucose-
responsive insulin-secreting b-like cells. Following six-stages
directed differentiation protocol, as previously described, new
investigations also suggest addition of seventh stage for metabolic
maturation with specific focus to reform mitochondrial metabolic
dynamics in stage-specific manner (Figure 3) (97). Differentiation of iPSC towards stage-1- definitive endoderm
(DE) is the critical first step for differentiation towards pancreatic b
cell lineage. It includes a variety of changes including molecular
regulators- TFAM, POLG1/2, and PDGC1-A activation regulating
mitochondrial fission and maturation. These factors affect
mitochondrial mass, mtDNA abundance, mitochondrial DY, ATP
production, intracellular ROS level, and expression of anaerobic
and aerobic metabolic-associated genes (98). Differentiation to DE
stage downregulates mitochondrial biogenesis, regulators
mitochondrial transcription factor A and, mtDNA polymerase-g
-1 and -2, which results in increased mitochondrial mass through
upregulation of mtDNA transcription and replication (99, 100). Furthermore, during DE differentiation, the expression of the Frontiers in Endocrinology 09 frontiersin.org Jasra et al. 6 Metabolic alterations during iPSC-
derived b cell differentiation The metabolic machinery in adult human b cells function optimally to sense glucose
and express key metabolic enzymes that facilitate glucose-stimulated insulin secretion in response to insulin signaling and glucose transport. Glucose gets
efficiently converted into pyruvate with phosphoenolpyruvate (PEP) activity which then enters mitochondrial membrane and serves as a precursor for TCA
cycle respiration. Downstream enzymes converting GDP to GTP and phosphoenolpyruvate carboxykinase (PEPCK) allows continuous pyruvate flux using
malate precursors which result in efficient ATP production. Increased cytosolic ATP pool then help facilitating Ka+ channel closure and Ca2+ depolarization
to ensure glucose internalization and improved insulin secretion. Conversely, SC-derived b cells show anaplerotic cycling in the mitochondria. Substantial
reduction in PEP activity reduces pyruvate production which further limit the mitochondrial respiratory cycle for enhanced ATP production. Further, lack of
PEPCK activity results in dysfunctional mitochondria in SC-derived b cells. This overall shunt in metabolic precursors affect glucose responsive insulin
production, metabolic control, and SC-b cell maturation like primary adult islets. functional SC-b cells that were reported to attain improved
mitochondrial metabolic maturation with enriched OXPHOS,
electron transport chain, TCA cycle metabolism and ATP
biosynthesis. The study confirmed the presence of mature
mitochondrial cristae that extended effective metabolic shift from
glycolysis to OXPHOS in SC-b cells through the enrichment of
ERRg, a mitochondrial regulator of metabolic transition (110). imbalance (i.e enzymatic conversion of glyceraldehyde-3-phosphate
to 3-phosphoglycerate) (86). Further studies are required to
ascertain these effects in scape-up generation of SC-islets. More recently, Otonkoski group performed a detailed
physiologic metabolic tracing study to characterize SC-islets
metabolism against cadaveric donor islets using 13C labeled
glucose (111) following optimal Balboa et al., protocol (106) for
SC-islet generation. Mature b cells from donor islets exhibited
augmented GSIS though glucose responsive metabolism into PPP,
PSP and ABP pathways. SC-islets, however, showed remarkably
lower enrichment of glucose-derived carbons entering into these
pathways compared to primary islets. Key insights from this
metabolic study suggested impaired mitochondrial TCA cycle
metabolism in generated SC-islets, despite optimal directed
differentiation. Furthermore, SC-islet metabolic function is
dependent on core mitochondrial TCA cycle-driven metabolic
with limited glucose-derived metabolic flux. The group inferenced In parallel, Melton group performed a metabolic tracing study
and reported that SC-islets primarily lack PEPCK-M activity due to
slow glycolytic flux that prevented GTP sensing mechanolatry for
glucose metabolism to PEP cycle. They also confirmed increased
cytosolic ATP/ADP ratio. 6 Metabolic alterations during iPSC-
derived b cell differentiation PEPCK-M derived phosphoenolpyruvate
comprises as much as 40% of the pyruvate that enters in the
mitochondria to generate ATP; loss of PEPCK-M activity and its
associated decreased in ATP production, and hence, decreased
ATP/ADP ration, results in unsuccessful insulin secretory
responses (107–109). Furthermore, SC-b cells present immature Overall, differentiation towards definitive endoderm is the key
step for successful generation of SC- b-cells and involves increasing
the mitochondrial mass and maturation of the respiratory chain
while downregulating glycolysis-associated genes. During the
differentiation process, OXPHOS associated genes are required to
be upregulated, which results in the generation of SC-b cells that
rely on OXPHOS to fulfil their energy demands (103). Several advanced and improved method for SC-islet generation
have sought to understand how culture condition and chemical
programming affect the metabolic phenotype in-vitro in direct
comparison to primary b cells (86, 110–112). These studies
presented a roadmap to highlight the key mechanisms responsible
for SC-islet mitochondrial metabolic and functional (GSIS)
immaturity. With protocol advancements, Hebrok and colleagues
(110) in 2019 reported enriched clustering method to produce more Frontiers in Endocrinology 10 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 FIGURE 4 FIGURE 4
Metabolism dynamics in human primary b- cells and SC-derived b cells. The metabolic machinery in adult human b cells function optimally to sense glucose
and express key metabolic enzymes that facilitate glucose-stimulated insulin secretion in response to insulin signaling and glucose transport. Glucose gets
efficiently converted into pyruvate with phosphoenolpyruvate (PEP) activity which then enters mitochondrial membrane and serves as a precursor for TCA
cycle respiration. Downstream enzymes converting GDP to GTP and phosphoenolpyruvate carboxykinase (PEPCK) allows continuous pyruvate flux using
malate precursors which result in efficient ATP production. Increased cytosolic ATP pool then help facilitating Ka+ channel closure and Ca2+ depolarization
to ensure glucose internalization and improved insulin secretion. Conversely, SC-derived b cells show anaplerotic cycling in the mitochondria. Substantial
reduction in PEP activity reduces pyruvate production which further limit the mitochondrial respiratory cycle for enhanced ATP production. Further, lack of
PEPCK activity results in dysfunctional mitochondria in SC-derived b cells. This overall shunt in metabolic precursors affect glucose responsive insulin
production, metabolic control, and SC-b cell maturation like primary adult islets. FIGURE 4
Metabolism dynamics in human primary b- cells and SC-derived b cells. 7 Required metabolic traits for the
generation of safe SC-b cells To date, off target growth remains one of the major limitations
for the translation of iPSC-derived therapies into the clinic. Mitochondria has been described to play an important role in the
generation of teratomas and hence, several strategies have been
studied to control the metabolic function of iPSCs and
differentiated tissues to gain optimal graft function while
controlling unwanted teratogenic growth. Herein, we summarize
multiple approaches so far tested to refine ideal iPSCs and SC-b
cell metabolism. Similarly, the mitochondrial redox protein Erv/ALR inhibitor-
MitoBloCK-6, has shown potential in eliminating iPSCs in SC-b
cells (121). Other identical and potential efficacious small molecules
tested to influence metabolism in iPSCs are ER stress inducer-
JC011, Substrate of ATP binding cassette transporter- 27-deoxy-27-
oxookadaate, and pluripotency specific inhibitor PluriSln1 (122). JC011 and 27-deoxy-27-oxookadaate are reported to show neural
cell toxicity while MitobloCK-6 shows cardiac cell toxicity. To date,
only APH is evaluated for its toxicity in differentiated SC-b cells
specifically, others including PluriSln1, JC011, 27-deoxy-27-
oxookadaate, and MitoblockCK-6 remain untested for their
application in differentiation protocols (121, 123, 124). Despite
proven efficacy, almost none of these strategies has been tested
for SC-b cells function, metabolism, and survival. There is a need to
develop strategies to eliminate off target cells without compromising
functionality and survival of SC-b cells to generate safe, off-target
free SC-b cells and translate this approach into the clinic. We
believe that further understanding of the metabolic function during
iPSC reprogramming and differentiation will enable the
optimization of differentiation protocols to produce GMP grade
SC-cell products. While the precise molecular mechanisms for the metabolic
effect on iPSCs’ teratogenicity or differentiation remain
undetermined, several studies have described the role of HIF1a in
enhanced differentiation. Armstrong and colleagues showed direct
evidence of the role of mitochondrial metabolism in iPSC to control
teratoma formation rate when injected in SCID mice (20, 74). As a
result of limited OXPHOS, iPSCs show reduced ROS scavenging
genes, including glutathione reductase (GSR), SOD2, MGSTI1, and
MAPK26, and hence, high levels of ROS result in senescence and
apoptosis (43, 113). Thus, it might be beneficial to confirm the levels
of ROS scavenging machinery in differentiated beta cells for
OXPHOS dependency to circumvent the risk of teratoma post
implantation. In general, iPSCs are reported to exhibit both low
and high resting DY. Cells with lower DY show enhanced lineage
specifications into germ layer cells. 6 Metabolic alterations during iPSC-
derived b cell differentiation The study also reported to identify
suppressed generation of PEP enzyme within the mitochondria
due to glycolytic deficiency. Furthermore, differentiated SC-islets
were observed to exhibit reduced GAPDH activity and the
mechanism for this reduced activity remain elusive to conclude if
this is due to post translational modification or other metabolic Frontiers in Endocrinology frontiersin.org 11 10.3389/fendo.2023.1236472 Jasra et al. that the primary reason for such impaired TCA metabolism might
be due to more restrictive glycolytic metabolism. Collectively, these
evidence indicate that although mitochondrial metabolic activity
can be enhanced by limiting glycolysis, the TCA enzyme reactions
and downstream metabolism (13C3 pyruvate and 13C5 glutamate)
present in SC-islets are far beyond comparison to those seen in
donor primary islets (111). Notably, deeper phenotypic
investigations to correlate direct comparison of genomic to
phenotypic datasets from donor islets and SC-islets, pre- and
post-transplantation, are required to unravel metabolic
bottlenecks in achieving optimal metabolic physiology. cells as glucose is required for insulin release; furthermore, b cells
lack lactate transporter MCT13 and show reduced lactate
dehydrogenase enzyme expression (117). Similarly, exposure to
high concentration of certain amino acids (i.e., L-alanine and L-
methionine) has been shown to selectively kill residual iPSCs (118,
119). This strategy cannot be used for SC-b cells either since
prolonged exposure to L-alanine induces changes in the calcium
responses promoting desensitization of insulin secretion, while L-
methionine alters MafA expression without inducing teratogenicity. In a recent study, Egli et al reported use of DNA replication
inhibitor- Aphidicolin (APH) to be highly efficient in retarding
teratogenic growth in SC-b implanted cells (120). The grafted cells
produced c-peptide and reversed diabetes without any noticeable
incidence of teratoma formation in long term engraftment. APH is
a potent DNA polymerase inhibitor which has been shown to
modulate mitochondrial DNA replication. The authors of this
study clearly demonstrated that APH treatment of SC-islets
completely eliminated cell growth, but they did not assess the
impact of APH on mitochondrial replication or metabolism
during the development of safe SC-cells (120). 7 Required metabolic traits for the
generation of safe SC-b cells Schieke and colleagues injected
several ESC lines into mice and showed that ESCs with lower resting
DY show reduced risk of teratoma formation due to less oxygen
consumption (114). This study confirms that the growth of rapidly
proliferating cells is dependent on high aerobic glycolytic rates and
nutrient availability. Therefore, differentiation of iPSCs with low
DY into SC-b cells might allow to limit teratogenic growth. Frontiers in Endocrinology 8 Concluding remarks Understanding the metabolic demands and
adaptations that iPSCs acquire from somatic cells are essential to
tailor current protocols for inducing sustained reprogramming and
identify the most optimal iPSCs that can deliver consistent cell
products that can differentiate efficiently to provide safe cell therapy
products. Overall, understanding of the metabolic demands of
specific cell products require further investigation. Determining
the molecular nature of metabolic immaturity and disconnect will
advance the field by helping to resolve metabolic incapacities using
small molecules and produce functional mature SC-b cells. Herein,
we provide key recommendations for investigating and remodelling
the mitochondrial metabolic adaptations for efficient and functional
SC-islet manufacturing as closely comparable to native human
donor islets. These approaches include (a) optimizing chemical
differentiation factors to generate highly enriched endocrine
progenitor population (PDX1+NKX6.1+CHGA+) that show
reduced gene expression for critical disallowed genes like LDHA,
LDHB, HK1, HK2, IGF2, SLC16A1 (improve OXPHOS), and
ACOT7 (favor fatty acid metabolism and more ATP utilization),
(b) incorporating extended maturation stage- Stage-7 by culturing
SC-islets in growth factors-deprived and basal (5mM) glucose
containing media to favor elevated ROS generation and ATP
production and ultimately enhance OXPHOS transcriptome in
SC-b cells, and (c) introducing factors (chemical or biological) for
augmenting PEPCK expression and activity to channel glucose flux
and co-factors required to shunt TCA metabolism and machinery,
and (d) utilizing naïve transitioned iPSCs (favor bivalent
metabolism) over primed iPSCs (favor glycolysis) for SC-b cell
manufacturing. Naïve pluripotent stem cells have shown clear
evidence for improved and defined multi-lineage differentiation
(125–128) that attain functional maturity without the need for
metabolic adaptation. Other strategies might include mitochondrial
fusion regulation by Mfn1/2 expression to facilitate improved b cell
function. In order to control Drp1, Mfn1/2 expression, and mTOR
inhibition for potentiating insulin secretion and optimal metabolic
functional result, it is crucial to create strategies that provide
balance between mitochondrial fission and fusion in developing
cells. Ultimately, screening human iPSCs for reported mtDNA
mutation/ variants such as TRL-CAG1-7, Tfam and OPA1 gene
defects may additionally provide critical insight for
dysfunctional iPSCs. The knowledge summarized in this review reflects key Islet differentiation process confined to directed differentiation
protocols involves metabolic shifts that are tightly regulated. In the
early stages (definitive endoderm and foregut stages) of differentiation,
cells rely more on glycolysis for energy production and gradually start
transitioning into OXPHOs state as the mitochondrial machinery
remodel. 8 Concluding remarks Mitochondrial metabolism plays a critical role in the generation
of SC-islets, especially in the context of ongoing state-of-the-art
differentiation protocols aimed at generating functional human
pancreatic islet cells from pluripotent stem cells for cell therapy. These protocols are of great interest in the field of regenerative
medicine for the treatment of diabetes, as they hold the potential to
produce insulin-secreting cells that can replace damaged or
dysfunctional pancreatic islets in diabetic patients. Here, we will
provide an overview of mitochondrial metabolism in stem cell-
derived islets and its relevance to the latest differentiation protocols. Metabolically, SC-b cells exhibit distinct regulatory pathways to
other lineages tissues such as SC-cardiomyocytes or neural
progenitor cells (NPC). iPSCs produce most ATP through
glycolysis while SC-cardiomyocytes produce most ATP using
glucose, fatty acids, and lactate in OXPHOS (115) and NPCs rely
predominantly on glycolysis rather than OXPHOS (116). Thus,
differentiated cells can be enriched from iPSC favoring OXPHOS by
using glucose and glutamine deprived media with lactate
supplementation. This strategy, however, is not suitable for SC- b Frontiers in Endocrinology 12 frontiersin.org Jasra et al. Jasra et al. 10.3389/fendo.2023.1236472 Differentiation protocols for the conversion of human ES/iPSCs
into functional SC-islets involve a series of carefully orchestrated
steps that mimic pancreatic development in-vitro. These protocols
typically include stages of definitive endoderm formation,
pancreatic progenitor specification, and maturation into insulin-
secreting b-like and other islet hormonal cells. The efficiency and
success of these protocols rely on precise control of cellular
processes, including mitochondrial metabolism. From the
beginning of somatic cell reprogramming to SC-islet
differentiation, cellular mitochondria undergo extensive
remodelling for its morphological architecture, genomic elements
and physiology balancing enzymatic machinery. Mitochondria,
known as the "powerhouses" of the cell, are responsible for energy
metabolism and generating adenosine triphosphate (ATP), the
primary energy currency of the cell. In SC-islets, as in native
pancreatic islets, mitochondrial metabolism plays a crucial role in
energy production. During differentiation, stem cells transition
from a relatively low-energy state to a high-energy state to
support the demands of insulin secretion. This energy transition
is effectively governed through a metabolic shift from glycolytic
state to more energy producing OXPHOS metabolism. status of iPSC. 8 Concluding remarks As the differentiating cells progress towards becoming more
mature insulin-secreting cells, there is a rapid transition toward
OXPHOS, which occurs in the mitochondrial TCA component. This
shift is essential for meeting the increased energy demands associated
with high insulin synthesis and secretion upon glucose stimulation. Furthermore, monitoring mitochondrial function is crucial in assessing
the quality of SC-islets production with advanced protocols. Techniques such as measuring the oxygen consumption rate (OCR)
can provide critical insights into the functional efficiency of OXPHOS
competence and overall mitochondrial health. Optimal OCR is an
indicative of mature functional mitochondria capable of meeting islet
energy demands for regulated insulin secretion. Lastly, mitochondrial
dynamics, including fission and fusion processes, are integral to
maintaining a healthy mitochondrial population. Proper regulation
of mitochondrial dynamics is essential for SC-islets to adapt to
changing energy demands and maintain mitochondrial functionality. The knowledge summarized in this review reflects key
limitations and potential impediments in achieving essential
mitochondrial features and optimal metabolic function in SC-b
cells with an ultimate objective to produce metabolically active and
safer product for clinical islet cell therapy. While the protocol advancements have been made in
understanding and optimizing cellular differentiation, mapping
heterogeneity, transitional maturity and enhancing islet
physiology for glucose control, robust mitochondrial metabolism
in SC-islets remains a challenge. Achieving consistent and fully
functional islet-like cells is a complex task to achieve and deeper
phenotypic investigations are required to explore differentiation
protocols, culture conditions, and genetic engineering approaches
to enhance mitochondrial functionality and metabolism. Frontiers in Endocrinology References 15. Vander Heiden MG, Cantley LC, Thompson CB. Understanding the Warburg
effect: the metabolic requirements of cell proliferation. Science (2009) 324:1029–33. doi:
10.1126/science.1160809 1. Takahashi K, Yamanaka S. Induction of pluripotent stem cells from mouse
embryonic and adult fibroblast cultures by defined factors. Cell (2006) 126:663–76. doi: 10.1016/j.cell.2006.07.024 1. Takahashi K, Yamanaka S. Induction of pluripotent stem cells from mouse
embryonic and adult fibroblast cultures by defined factors. Cell (2006) 126:663–76. doi: 10.1016/j.cell.2006.07.024 15. Vander Heiden MG, Cantley LC, Thompson CB. Understanding the Warburg
effect: the metabolic requirements of cell proliferation. Science (2009) 324:1029–33. doi:
10.1126/science.1160809 2. Takahashi K, Tanabe K, Ohnuki M, Narita M, Ichisaka T, Tomoda K, et al. Induction of pluripotent stem cells from adult human fibroblasts by defined factors. Cell (2007) 131:861–72. doi: 10.1016/j.cell.2007.11.019 16. Kim D, Fiske BP, Birsoy K, Freinkman E, Kami K, Possemato RL, et al. SHMT2
drives glioma cell survival in ischaemia but imposes a dependence on glycine clearance. Nature (2015) 520:363–7. doi: 10.1038/nature14363 17. Allaman I, Belanger M, Magistretti PJ. Methylglyoxal, the dark side of glycolysis. Front Neurosci (2015) 9:23. doi: 10.3389/fnins.2015.00023 3. Verhoeff K, Henschke SJ, Marfil-Garza BA, Dadheech N, Shapiro AMJ. Inducible
pluripotent stem cells as a potential cure for diabetes. Cells (2021) 10. doi: 10.3390/
cells10020278 18. Facucho-Oliveira JM, Alderson J, Spikings EC, Egginton S, St John JC. Mitochondrial DNA replication during differentiation of murine embryonic stem
cells. J Cell Sci (2007) 120:4025–34. doi: 10.1242/jcs.016972 4. Ishida T, Nakao S, Ueyama T, Harada Y, Kawamura T. Metabolic remodeling during
somatic cell reprogramming to induced pluripotent stem cells: involvement of hypoxia-
inducible factor 1. Inflammation Regener (2020) 40:8. doi: 10.1186/s41232-020-00117-8 19. Bukowiecki R, Adjaye J, Prigione A. Mitochondrial function in pluripotent stem cells
and cellular reprogramming. Gerontology (2014) 60:174–82. doi: 10.1159/000355050 5. Nishimura K, Fukuda A, Hisatake K. Mechanisms of the metabolic shift during
somatic cell reprogramming. Int J Mol Sci (2019) 20. doi: 10.3390/ijms20092254 20. Armstrong L, Tilgner K, Saretzki G, Atkinson SP, Stojkovic M, Moreno R, et al. Human induced pluripotent stem cell lines show stress defense mechanisms and
mitochondrial regulation similar to those of human embryonic stem cells. Stem Cells
(2010) 28:661–73. doi: 10.1002/stem.307 6. Varum S, Rodrigues AS, Moura MB, Momcilovic O, Easley CA IV, Ramalho-
Santos J, et al. Energy metabolism in human pluripotent stem cells and their
differentiated counterparts. PLoS ONE (2011) 6(6):e20914. doi: 10.1371/
journal.pone.0020914 21. Funding AS is supported by a Canada Research Chair (Tier 1) in
Regenerative Medicine and Transplant Surgery and through grant
support from the Juvenile Diabetes Research Foundation (JDRF),
Canada, Canadian Donation and Transplant Research Project
(CDTRP), Diabetes Research Institute Foundation of Canada
(DRIFCan), Alberta Diabetes Foundation (ADF), Canadian All claims expressed in this article are solely those of the authors
and do not necessarily represent those of their affiliated
organizations, or those of the publisher, the editors and the
reviewers. Any product that may be evaluated in this article, or
claim that may be made by its manufacturer, is not guaranteed or
endorsed by the publisher. Author contributions IJ and NC-G participated in study conceptualization,
visualization, writing of the original draft, and final draft review
and editing. KV participated in final draft review and editing. BM-G
participated in final draft review and editing. ND participated in
study conceptualization, visualization, writing of the original draft,
final draft review and editing. Both corresponding authors Reprogramming of cells into iPSC can provide a novel and
unlimited starting cell source for personalized regenerative
medicine. Reprogramming requires a transition in cellular
characteristics, gene expression profiles and epigenetic status as
well as major metabolic changes to sustain the highly proliferative Frontiers in Endocrinology 13 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 Institute Health Research (CIHR) and Stem Cell Network
(SCN), Canada. Institute Health Research (CIHR) and Stem Cell Network
(SCN), Canada. supervised this project’s work, are responsible for the figures and
text within the study, have ensured that all authorship is granted
appropriately with all competing interests and disclosures
identified, have ensured all authors have approved the work, have
ensured adherence to all editorial and submission policies, and have
ensured that figures accurately present the original data. AS
participated in study conceptualization, funding acquisition,
project administration, final draft review and editing and
arbitrating decisions and disputes and ensuring communication
with the journal. All authors contributed to the article and approved
the submitted version. Conflict of interest AS serves as a consultant to ViaCyte Inc., Hemostemix Inc.,
Protokinetix Inc. and Pelican Therapeutics Inc. The remaining authors declare that the research was conducted
in the absence of any commercial or financial relationships that
could be construed as a potential conflict of interest. References Vazquez-Martin A, CufiS, Corominas-Faja B, Oliveras-Ferraros C, Vellon L,
Menendez JA, et al. Mitochondrial fusion by pharmacological manipulation impedes
somatic cell reprogramming to pluripotency: new insight into the role of mitophagy in
cell stemness. Aging (Albany NY) (2012) 4:393–401. doi: 10.18632/aging.100465 7. Panopoulos AD, Yanes O, Ruiz S, Kida YS, Diep D, Tautenhahn R, et al. The
metabolome of induced pluripotent stem cells reveals metabolic changes occurring in
somatic cell reprogramming. Cell Res (2012) 22:168–77. doi: 10.1038/cr.2011.177 22. Wang C, Liu K, Cao J, Wang L, Zhao Q, Li Z, et al. PINK1-mediated mitophagy
maintains pluripotency through optineurin. Cell Prolif (2021) 54:e13034. doi: 10.1111/
cpr.13034 8. Tsogtbaatar E, Landin C, Minter-Dykhouse K, Folmes CDL. Energy metabolism
regulates stem cell pluripotency. Front Cell Dev Biol (2020) 8:87. doi: 10.3389/
fcell.2020.00087 9. Liberti MV, Locasale JW. The warburg effect: how does it benefit cancer cells? Trends Biochem Sci (2016) 41:211–8. doi: 10.1016/j.tibs.2015.12.001 23. Chen T, Shen L, Yu J, Wan H, Guo A, Chen J, et al. Rapamycin and other longevity-
promoting compounds enhance the generation of mouse induced pluripotent stem cells. Aging Cell (2011) 10:908–11. doi: 10.1111/j.1474-9726.2011.00722.x 10. Chung S, Dzeja PP, Faustino RS, Perez-Terzic C, Behfar A, Terzic A. Mitochondrial oxidative metabolism is required for the cardiac differentiation of
stem cells. Nat Clin Pract Cardiovasc Med (2007) 4 Suppl 1:S60–67. doi: 10.1038/
ncpcardio0766 24. Menendez JA, Vellon L, Oliveras-Ferraros C, CufiS, Vazquez-Martin A. mTOR-
regulated senescence and autophagy during reprogramming of somatic cells to
pluripotency: a roadmap from energy metabolism to stem cell renewal and aging. Cell Cycle (2011) 10:3658–77. doi: 10.4161/cc.10.21.18128 11. Krantz S, Kim YM, Srivastava S, Leasure JW, Toth PT, Marsboom G, et al. Mitophagy
mediates metabolic reprogramming of induced pluripotent stem cells undergoing endothelial
differentiation. J Biol Chem (2021) 297:101410. doi: 10.1016/j.jbc.2021.101410 25. Wang H, Fu J, Xu X, Yang Z, Zhang T. Rapamycin activates mitophagy and
alleviates cognitive and synaptic plasticity deficits in a mouse model of alzheimer's
disease. J Gerontol A Biol Sci Med Sci (2021) 76:1707–13. doi: 10.1093/gerona/glab142 12. Zhang J, Ney PA. Role of BNIP3 and NIX in cell death, autophagy, and
mitophagy. Cell Death Differ (2009) 16:939–46. doi: 10.1038/cdd.2009.16 26. Li Q, Gao S, Kang Z, Zhang M, Zhao X, Zhai Y, et al. Rapamycin enhances
mitophagy and attenuates apoptosis after spinal ischemia-reperfusion injury. Front
Neurosci (2018) 12:865. doi: 10.3389/fnins.2018.00865 13. Jin SM, Youle RJ. PINK1-and Parkin-mediated mitophagy at a glance. 15. Vander Heiden MG, Cantley LC, Thompson CB. Understanding the Warburg
effect: the metabolic requirements of cell proliferation. Science (2009) 324:1029–33. doi:
10.1126/science.1160809 References Folmes CD, Nelson TJ, Martinez-Fernandez A, Arrell DK, Lindor JZ, Dzeja PP,
et al. Somatic oxidative bioenergetics transitions into pluripotency-dependent
glycolysis to facilitate nuclear reprogramming. Cell Metab (2011) 14:264–71. doi:
10.1016/j.cmet.2011.06.011 58. Nishimura K, Aizawa S, Nugroho FL, Shiomitsu E, Tran YTH, Bui PL, et al. A
Role for KLF4 in Promoting the Metabolic Shift via TCL1 during Induced Pluripotent
Stem Cell Generation. Stem Cell Rep (2017) 8:787–801. doi: 10.1016/
j.stemcr.2017.01.026 34. Zhang J, Khvorostov I, Hong JS, Oktay Y, Vergnes L, Nuebel E, et al. UCP2
regulates energy metabolism and differentiation potential of human pluripotent stem
cells. EMBO J (2011) 30:4860–73. doi: 10.1038/emboj.2011.401 59. Khaw SL, Min-Wen C, Koh CG, Lim B, Shyh-Chang N. Oocyte factors suppress
mitochondrial polynucleotide phosphorylase to remodel the metabolome and enhance
reprogramming. Cell Rep (2015) 12:1080–8. doi: 10.1016/j.celrep.2015.07.032 35. Zorova LD, Popkov VA, Plotnikov EY, Silachev DN, Pevzner IB, Jankauskas SS,
et al. Mitochondrial membrane potential. Anal Biochem (2018) 552:50–9. doi: 10.1016/
j.ab.2017.07.009 60. Wang G, Shimada E, Koehler CM, Teitell MA. PNPASE and RNA trafficking
into mitochondria. Biochim Biophys Acta (2012) 1819:998–1007. doi: 10.1016/
j.bbagrm.2011.10.001 36. Bothun AM, Woods DC. Inherent mitochondrial activity influences
specification of the germ line in pluripotent stem cells. Heliyon (2020) 6:e03651. doi:
10.1016/j.heliyon.2020.e03651 61. Powers DE, Millman JR, Huang RB, Colton CK. Effects of oxygen on mouse
embryonic stem cell growth, phenotype retention, and cellular energetics. Biotechnol
Bioeng (2008) 101:241–54. doi: 10.1002/bit.21986 37. Prigione A, Hossini AM, Lichtner B, Serin A, Fauler B, Megges M, et al. Mitochondrial-associated cell death mechanisms are reset to an embryonic-like state
in aged donor-derived iPS cells harboring chromosomal aberrations. PloS One (2011) 6:
e27352. doi: 10.1371/journal.pone.0027352 62. Zhou W, Choi M, Margineantu D, Margaretha L, Hesson J, Cavanaugh C, et al. HIF1alpha induced switch from bivalent to exclusively glycolytic metabolism during
ESC-to-EpiSC/hESC transition. EMBO J (2012) 31:2103–16. doi: 10.1038/
emboj.2012.71 38. Prigione A, Lichtner B, Kuhl H, Struys EA, Wamelink M, Lehrach H, et al. Human induced pluripotent stem cells harbor homoplasmic and heteroplasmic
mitochondrial DNA mutations while maintaining human embryonic stem cell-like
metabolic reprogramming. Stem Cells (2011) 29:1338–48. doi: 10.1002/stem.683 63. Prieto J, Seo AY, Leon M, Santacatterina F, Torresano L, Palomino-Schatzlein M,
et al. MYC induces a hybrid energetics program early in cell reprogramming. Stem Cell
Rep (2018) 11:1479–92. doi: 10.1016/j.stemcr.2018.10.018 64. Mathieu J, Zhou W, Xing Y, Sperber H, Ferreccio A, Agoston Z, et al. References Hypoxia-
inducible factors have distinct and stage-specific roles during reprogramming of
human cells to pluripotency. Cell Stem Cell (2014) 14:592–605. doi: 10.1016/
j.stem.2014.02.012 39. Zhu S, Li W, Zhou H, Wei W, Ambasudhan R, Lin T, et al. Reprogramming of
human primary somatic cells by OCT4 and chemical compounds. Cell Stem Cell (2010)
7(2010):651–5. doi: 10.1016/j.stem.2010.11.015 40. Prigione A, Rohwer N, Hoffmann S, Mlody B, Drews K, Bukowiecki R, et al. HIF1a modulates cell fate reprogramming through early glycolytic shift and
upregulation of PDK1-3 and PKM2. Stem Cells (2014) 32:364–76. doi: 10.1002/
stem.1552 65. Puckett DL, Alquraishi M, Chowanadisai W, Bettaieb A. The Role of PKM2 in
Metabolic Reprogramming: Insights into the Regulatory Roles of Non-Coding RNAs. Int J Mol Sci (2021) 22. doi: 10.3390/ijms22031171 41. Spyrou J, Gardner DK, Harvey AJ. Metabolomic and Transcriptional Analyses
Reveal Atmospheric Oxygen During Human Induced Pluripotent Stem Cell
Generation Impairs Metabolic Reprogramming. Stem Cells (2019) 37:1042–56. doi:
10.1002/stem.3029 66. Li Z, Yang P, Li Z. The multifaceted regulation and functions of PKM2 in tumor
progression. Biochim Biophys Acta (2014) 1846(2014):285–96. doi: 10.1016/
j.bbcan.2014.07.008 67. Dahan P, Lu V, Nguyen RMT, Kennedy SAL, Teitell MA. Metabolism in
pluripotency: Both driver and passenger? J Biol Chem (2019) 294:5420–9. doi:
10.1074/jbc.TM117.000832 42. Zorov DB, Juhaszova M, Sollott SJ. Mitochondrial reactive oxygen species (ROS)
and ROS-induced ROS release. Physiol Rev (2014) 94:909–50. doi: 10.1152/
physrev.00026.2013 68. Gupta V, Bamezai RN. Human pyruvate kinase M2: a multifunctional protein. Protein Sci (2010) 19:2031–44. doi: 10.1002/pro.505 43. Chaudhari P, Ye Z, Jang YY. Roles of reactive oxygen species in the fate of stem
cells. Antioxid Redox Signal (2014) 20:1881–90. doi: 10.1089/ars.2012.4963 69. Kim H, Jang H, Kim TW, Kang BH, Lee SE, Jeon YK, et al. Core pluripotency
factors directly regulate metabolism in embryonic stem cell to maintain pluripotency. Stem Cells (2015) 33:2699–711. doi: 10.1002/stem.2073 44. Birnbaum JH, Wanner D, Gietl AF, Saake A, Kundig TM, Hock C, et al. Oxidative stress and altered mitochondrial protein expression in the absence of
amyloid-beta and tau pathology in iPSC-derived neurons from sporadic Alzheimer's
disease patients. Stem Cell Res (2018) 27:121–30. doi: 10.1016/j.scr.2018.01.019 70. Wang L, Zhang T, Wang L, Cai Y, Zhong X, He X, et al. Fatty acid synthesis is
critical for stem cell pluripotency via promoting mitochondrial fission. EMBO J (2017)
36:1330–47. doi: 10.15252/embj.201695417 45. Ralser M, Wamelink MM, Kowald A, Gerisch B, Heeren G, Struys EA, et al. References J Cell Sci
(2012) 125:795–9. doi: 10.1242/jcs.093849 27. Lenzi P, Ferese R, Biagioni F, Fulceri F, Busceti CL, Falleni A, et al. Rapamycin
ameliorates defects in mitochondrial fission and mitophagy in glioblastoma cells. Int J
Mol Sci (2021) 22. doi: 10.3390/ijms22105379 14. Soleimanpour SA, Ferrari AM, Raum JC, Groff DN, Yang J, Kaufman BA, et al. Diabetes susceptibility genes pdx1 and clec16a function in a pathway regulating
mitophagy in beta-cells. Diabetes (2015) 64:3475–84. doi: 10.2337/db15-0376 Frontiers in Endocrinology 14 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 Jasra et al. 10.3389/fendo.2023.1236472 28. Prigione A, Adjaye J. Modulation of mitochondrial biogenesis and bioenergetic
metabolism upon in vitro and in vivo differentiation of human ES and iPS cells. Int J
Dev Biol (2010) 54:1729–41. doi: 10.1387/ijdb.103198ap 53. Suhr ST, Chang EA, Tjong J, Alcasid N, Perkins GA, Goissis MD, et al. Mitochondrial rejuvenation after induced pluripotency. PloS One (2010) 5:e14095. doi: 10.1371/journal.pone.0014095 54. Wang S, Xia P, Ye B, Huang G, Liu J, Fan Z. Transient activation of autophagy
via Sox2-mediated suppression of mTOR is an important early step in reprogramming
to pluripotency. Cell Stem Cell (2013) 13:617–25. doi: 10.1016/j.stem.2013.10.005 29. Mandal S, Lindgren AG, Srivastava AS, Clark AT, Banerjee U. Mitochondrial
function controls proliferation and early differentiation potential of embryonic stem
cells. Stem Cells (2011) 29:486–95. doi: 10.1002/stem.590 30. Prigione A, Fauler B, Lurz R, Lehrach H, Adjaye J. The senescence-related
mitochondrial/oxidative stress pathway is repressed in human induced pluripotent
stem cells. Stem Cells (2010) 28:721–33. doi: 10.1002/stem.404 55. Wu Y, Li Y, Zhang H, Huang Y, Zhao P, Tang Y, et al. Autophagy and mTORC1
regulate the stochastic phase of somatic cell reprogramming. Nat Cell Biol (2015)
17:715–25. doi: 10.1038/ncb3172 31. Boward B, Wu T, Dalton S, Boward B, Wu T, Dalton S. Concise review: control
of cell fate through cell cycle and pluripotency networks. Stem Cells (2016) 34:1427–36. doi: 10.1002/stem.2345 56. Ma T, Li J, Xu Y, Yu C, Xu T, Wang H, et al. Atg5-independent autophagy
regulates mitochondrial clearance and is essential for iPSC reprogramming. Nat Cell
Biol (2015) 17:1379–87. doi: 10.1038/ncb3256 32. Kim JS, Choi HW, Choi S, Do JT. Reprogrammed pluripotent stem cells from
somatic cells. Int J Stem Cells (2011) 4:1–8. doi: 10.15283/ijsc.2011.4.1.1 57. Son MJ, Kwon Y, Son MY, Seol B, Choi HS, Ryu SW, et al. Mitofusins deficiency
elicits mitochondrial metabolic reprogramming to pluripotency. Cell Death Differ
(2015) 22:1957–69. doi: 10.1038/cdd.2015.43 33. References Dynamic rerouting of the carbohydrate flux is key to counteracting oxidative stress. J
Biol (2007) 6:10. doi: 10.1186/jbiol61 71. Moussaieff A, Rouleau M, Kitsberg D, Cohen M, Levy G, Barasch D, et al. Glycolysis-mediated changes in acetyl-CoA and histone acetylation control the early
differentiation of embryonic stem cells. Cell Metab (2015) 21:392–402. doi: 10.1016/
j.cmet.2015.02.002 46. Li W, Li K, Wei W, Ding S. Chemical approaches to stem cell biology and
therapeutics. Cell Stem Cell (2013) 13:270–83. doi: 10.1016/j.stem.2013.08.002 47. Seo BJ, Yoon SH, Do JT. Mitochondrial dynamics in stem cells and
differentiation. Int J Mol Sci (2018) 19. doi: 10.3390/ijms19123893 72. Kang PJ, Zheng J, Lee G, Son D, Kim IY, Song G, et al. Glycine decarboxylase
regulates the maintenance and induction of pluripotency via metabolic control. Metab
Eng (2019) 53:35–47. doi: 10.1016/j.ymben.2019.02.003 48. Wakabayashi J, Zhang Z, Wakabayashi N, Tamura Y, Fukaya M, Kensler TW,
et al. The dynamin-related GTPase Drp1 is required for embryonic and brain
development in mice. J Cell Biol (2009) 186:805–16. doi: 10.1083/jcb.200903065 73. Zhang WC, Shyh-Chang N, Yang H, Rai A, Umashankar S, Ma S, et al. Glycine
decarboxylase activity drives non-small cell lung cancer tumor-initiating cells and
tumorigenesis. Cell (2012) 148:259–72. doi: 10.1016/j.cell.2011.11.050 49. Ishihara N, Nomura M, Jofuku A, Kato H, Suzuki SO, Masuda K, et al. Mitochondrial fission factor Drp1 is essential for embryonic development and
synapse formation in mice. Nat Cell Biol (2009) 11(8):958–66. doi: 10.1038/ncb1907 74. Giallongo S, Rehakova D, Raffaele M, Lo Re O, Koutna I, Vinciguerra M. Redox
and epigenetics in human pluripotent stem cells differentiation. Antioxid Redox Signal
(2021) 34:335–49. doi: 10.1089/ars.2019.7983 50. De Palma CF, Falcone S, Pisoni S, Cipolat S, Panzeri C, Pambianco S, et al. Nitric
oxide inhibition of Drp1-mediated mitochondrial fission is critical for myogenic
differentiation. Cell Death Differentiation (2010) 17:1684–96. doi: 10.1038/cdd.2010.48 75. Etchegaray JP, Mostoslavsky R. Interplay between metabolism and epigenetics: A
nuclear adaptation to environmental changes. Mol Cell (2016) 62:695–711. doi:
10.1016/j.molcel.2016.05.029 51. Wanet A, Arnould T, Najimi M, Renard P. Connecting mitochondria,
metabolism, and stem cell fate. Stem Cells Dev (2015) 24:1957–71. doi: 10.1089/
scd.2015.0117 76. Martinez-Reyes I, Chandel NS. Mitochondrial TCA cycle metabolites control
physiology and disease. Nat Commun (2020) 11:102. doi: 10.1038/s41467-019-13668-3 52. Yanes O, Clark J, Wong DM, Patti GJ, Sanchez-Ruiz A, Benton HP, et al. Metabolic oxidation regulates embryonic stem cell differentiation. Nat Chem Biol
(2010) 6:411–7. doi: 10.1038/nchembio.364 77. References Dai X, Yan X, Wintergerst KA, Cai L, Keller BB, Tan Y. Nrf2: redox and
metabolic regulator of stem cell state and function. Trends Mol Med (2020) 26:185–200. doi: 10.1016/j.molmed.2019.09.007 Frontiers in Endocrinology 15 frontiersin.org 10.3389/fendo.2023.1236472 Jasra et al. Jasra et al. 78. Cacchiarelli D, Trapnell C, Ziller MJ, Soumillon M, Cesana M, Karnik R, et al. Integrative analyses of human reprogramming reveal dynamic nature of induced
pluripotency. Cell (2015) 162:412–24. doi: 10.1016/j.cell.2015.06.016 metabolism in health and type 2 diabetes. Commun Biol (2021) 4:594. doi: 10.1038/
s42003-021-02113-1 104. Velazco-Cruz L, Song J, Maxwell KG, Goedegebuure MM, Augsornworawat P,
Hogrebe NJ, et al. Acquisition of dynamic function in human stem cell-derived beta
cells. Stem Cell Rep (2019) 12:351–65. doi: 10.1016/j.stemcr.2018.12.012 79. Hansson J, Rafiee MR, Reiland S, Polo JM, Gehring J, Okawa S, et al. Highly
coordinated proteome dynamics during reprogramming of somatic cells to
pluripotency. Cell Rep (2012) 2:1579–92. doi: 10.1016/j.celrep.2012.10.014 105. Olsson AH, Yang BT, Hall E, Taneera J, Salehi A, Nitert MD, et al. Decreased
expression of genes involved in oxidative phosphorylation in human pancreatic islets from
patients with type 2 diabetes. Eur J Endocrinol (2011) 165:589–95. doi: 10.1530/EJE-11-0282 80. Takashima Y, Guo G, Loos R, Nichols J, Ficz G, Krueger F, et al. Resetting
transcription factor control circuitry toward ground-state pluripotency in human. Cell
(2015) 162:452–3. doi: 10.1016/j.cell.2015.06.052 106. Balboa D, Barsby T, Lithovius V, Saarimaki-Vire J, Omar-Hmeadi M, Dyachok O,
et al. Functional, metabolic and transcriptional maturation of human pancreatic islets derived
from stem cells. Nat Biotechnol (2022) 40:1042–55. doi: 10.1038/s41587-022-01219-z 81. Chang CY, McDonnell DP. Molecular pathways: the metabolic regulator
estrogen-related receptor a as a therapeutic target in cancer. Clin Cancer Res (2014)
18:6089–95. doi: 10.1158/1078-0432.CCR-11-3221 107. Kibbey RG, Pongratz RL, Romanelli AJ, Wollheim CB, Cline GW, Shulman GI. Mitochondrial GTP regulates glucose-stimulated insulin secretion. Cell Metab (2007)
5:253–64. doi: 10.1016/j.cmet.2007.02.008 82. Ji J. Antioxidant supplementation reduces genomic aberrations in human induced
pluripotent stem cells. Stem Cell Rep (2014) 2:44–51. doi: 10.1016/j.stemcr.2013.11.004 108. Tan C, Tuch BE, Tu J, Brown SA. Role of NADH shuttles in glucose-induced
insulin secretion from fetal beta-cells. Diabetes (2002) 51:2989–96. doi: 10.2337/
diabetes.51.10.2989 83. Maechler P. Mitochondrial function and insulin secretion. Mol Cell Endocrinol
(2013) 379:12–8. doi: 10.1016/j.mce.2013.06.019 84. Iynedjian PB. Molecular physiology of mammalian glucokinase. Cell Mol Life Sci
(2009) 66:27–42. doi: 10.1007/s00018-008-8322-9 109. Augsornworawat P, Maxwell KG, Velazco-Cruz L, Millman JR. References Single-Cell
Transcriptome Profiling Reveals beta Cell Maturation in Stem Cell-Derived Islets after
Transplantation. Cell Rep (2020) 32:108067. doi: 10.1016/j.celrep.2020.108067 85. Sekine N, Cirulli V, Regazzi R, Brown LJ, Gine E, Tamarit-Rodriguez J, et al. Low
lactate dehydrogenase and high mitochondrial glycerol phosphate dehydrogenase in
pancreatic beta-cells. Potential role nutrient sensing. J Biol Chem (1994) 269:4895–902. doi: 10.1016/S0021-9258(17)37629-9 110. Nair GG, Liu JS, Russ HA, Tran S, Saxton MS, Chen R, et al. Recapitulating
endocrine cell clustering in culture promotes maturation of human stem-cell-derived
beta cells. Nat Cell Biol (2019) 21:263–74. doi: 10.1038/s41556-018-0271-4 86. Davis JC, Alves TC, Helman A, Chen JC, Kenty JH, Cardone RL, et al. Glucose
response by stem cell-derived b Cells in vitro is inhibited by a bottleneck in glycolysis. Cell Rep (2020) 31:107623. doi: 10.1016/j.celrep.2020.107623 111. Barsby T, Vahakangas E, Ustinov J, Montaser H, Ibrahim H, Lithovius V, et al. Aberrant metabolite trafficking and fuel sensitivity in human pluripotent stem cell-
derived islets. Cell Rep (2023) 42:112970. doi: 10.1016/j.celrep.2023.112970 87. Stark R, Pasquel F, Turcu A, Pongratz RL, Roden M, Cline GW, et al. Phosphoenolpyruvate cycling via mitochondrial phosphoenolpyruvate carboxykinase
links anaplerosis and mitochondrial GTP with insulin secretion. J Biol Chem (2009) 284
(2009):26578–90. doi: 10.1074/jbc.M109.011775 112. Dadheech N, de León M Bermúdez, Cuesta-Gomez N, Jasra IT, Pawlick R,
Marfil-Garza B, et al. Complete suspension differentiation of human pluripotent stem
cells into pancreatic islets using vertical wheel® Bioreactors. bioRvix- (2023). doi:
10.1101/2023.08.09.552676 88. Yaney GC, Corkey BE. Fatty acid metabolism and insulin secretion in pancreatic
beta cells. Diabetologia (2003) 46:1297–312. doi: 10.1007/s00125-003-1207-4 113. Bigarella CL, Liang R, Ghaffari S. Stem cells and the impact of ROS signaling. Development (2014) 141:4206–18. doi: 10.1242/dev.107086 89. Rutter GA, Pullen TJ, Hodson DJ, Martinez-Sanchez A. Pancreatic beta-cell
identity, glucose sensing and the control of insulin secretion. Biochem J (2015) 466:203–
18. doi: 10.1042/BJ20141384 114. Schieke SM, Ma M, Cao L, McCoy JPJr., Liu C, Hensel NF, et al. Mitochondrial
metabolism modulates differentiation and teratoma formation capacity in mouse
embryonic stem cells. J Biol Chem (2008) 283:28506–12. doi: 10.1074/jbc.M802763200 90. Dover EN, Beck R, Huang MC, Douillet C, Wang Z, Klett EL, et al. Arsenite and
methylarsonite inhibit mitochondrial metabolism and glucose-stimulated insulin
secretion in INS-1 832/13 beta cells. Arch Toxicol (2018) 92:693–704. doi: 10.1007/
s00204-017-2074-y 115. Tohyama S, Hattori F, Sano M, Hishiki T, Nagahata Y, Matsuura T, et al. References Distinct metabolic flow enables large-scale purification of mouse and human
pluripotent stem cell-derived cardiomyocytes. Cell Stem Cell (2013) 12:127–37. doi:
10.1016/j.stem.2012.09.013 91. Silva JP, Kohler M, Graff C, Oldfors A, Magnuson MA, Berggren PO, et al. Impaired insulin secretion and beta-cell loss in tissue-specific knockout mice with
mitochondrial diabetes. Nat Genet (2000) 26:336–40. doi: 10.1038/81649 116. Iwata R, Vanderhaeghen P. Regulatory roles of mitochondria and metabolism in
neurogenesis. Curr Opin Neurobiol (2021) 69:231–40. doi: 10.1016/j.conb.2021.05.003 92. Dabravolski SA, Orekhova VA, Baig MS, Bezsonov EE, Starodubova AV,
Popkova TV, et al. The role of mitochondrial mutations and chronic inflammation
in diabetes. Int J Mol Sci (2021) 22. doi: 10.3390/ijms22136733 117. Pellegrini S, Zamarian V, Sordi V. Strategies to Improve the Safety of iPSC-
Derived beta Cells for beta Cell Replacement in Diabetes. Transpl Int (2022) 35:10575. doi: 10.3389/ti.2022.10575 93. Maassen JA, Janssen GM, t Hart LM. Molecular mechanisms of mitochondrial
diabetes (MIDD). Ann Med (2005) 37:213–21. doi: 10.1080/07853890510007188 118. Nagashima T, Shimizu K, Matsumoto R, Honda H. Selective elimination of
human induced pluripotent stem cells using medium with high concentration of L-
alanine. Sci Rep (2018) 8:12427. doi: 10.1038/s41598-018-30936-2 94. Lee WJ, Lee HW, Palmer JP, Park KS, Lee HK, Park JY, et al. Islet cell autoimmunity
and mitochondrial DNA mutation in Korean subjects with typical and atypical Type I
diabetes. Diabetologia (2001) 44:2187–91. doi: 10.1007/s001250100028 119. Matsuura K, Ito K, Shiraki N, Kume S, Hagiwara N, Shimizu T. Induced pluripotent
stem cell elimination in a cell sheet by methionine-free and 42 degrees C condition for tumor
prevention. Tissue Eng Part C Methods (2018) 24:605–15. doi: 10.1089/ten.tec.2018.0228 95. Molina AJ, Wikstrom JD, Stiles L, Las G, Mohamed H, Elorza A, et al. Mitochondrial networking protects beta-cells from nutrient-induced apoptosis. Diabetes (2009) 58:2303–15. doi: 10.2337/db07-1781 120. Sui L, Xin Y, Du Q, Georgieva D, Diedenhofen G, Haataja L, et al. Reduced
replication fork speed promotes pancreatic endocrine differentiation and controls graft
size. JCI Insight (2021) 6. doi: 10.1172/jci.insight.141553 96. Park KS, Wiederkehr A, Kirkpatrick C, Mattenberger Y, Martinou JC, Marchetti
P, et al. Selective actions of mitochondrial fission/fusion genes on metabolism-secretion
coupling in insulin-releasing cells. J Biol Chem (2008) 283:33347–56. doi: 10.1074/
jbc.M806251200 121. Dabir DV, Hasson SA, Setoguchi K, Johnson ME, Wongkongkathep P, Douglas
CJ, et al. A small molecule inhibitor of redox-regulated protein translocation into
mitochondria. Dev Cell (2013) 25:81–92. doi: 10.1016/j.devcel.2013.03.006 97. References Rezania A, Bruin JE, Arora P, Rubin A, Batushansky I, Asadi A, et al. Reversal of
diabetes with insulin-producing cells derived in vitro from human pluripotent stem
cells. Nat Biotechnol (2014) 32:1121–33. doi: 10.1038/nbt.3033 122. Ben-David U, Gan QF, Golan-Lev T, Arora P, Yanuka O, Oren YS, et al. Selective
elimination of human pluripotent stem cells by an oleate synthesis inhibitor discovered in a
high-throughput screen. Cell Stem Cell (2013) 12:167–79. doi: 10.1016/j.stem.2012.11.015 98. Li S, Huang Q, Mao J, Li Q. TGFb-dependent mitochondrial biogenesis is
activated during definitive endoderm differentiation. In Vitro Cell Dev Biol Anim
(2020) 56:378–85. doi: 10.1007/s11626-020-00442-9 123. Kuo TF, Mao D, Hirata N, Khambu B, Kimura Y, Kawase E, et al. Selective
elimination of human pluripotent stem cells by a marine natural product derivative. J
Am Chem Soc (2014) 136:9798–801. doi: 10.1021/ja501795c 99. Webb AC, Smith LD. Accumulation of mitochondrial DNA during oogenesis in
Xenopus laevis. Dev Biol (1977) 56:219–25. doi: 10.1016/0012-1606(77)90166-X 124. Richards M, Phoon CW, Goh GT, Seng EK, Guo XM, Tan CM, et al. A new
class of pluripotent stem cell cytotoxic small molecules. PloS One (2014) 9:e85039. doi:
10.1371/journal.pone.0085039 100. Garstka HL, Schmitt WE, Schultz J, Sogl B, Silakowski B, Pérez-Martos A, et al. Import of mitochondrial transcription factor A (TFAM) into rat liver mitochondria
stimulates transcription of mitochondrial DNA. Nucleic Acids Res (2003) 31:5039–47. doi: 10.1093/nar/gkg717 125. Buckberry S, Liu X, Poppe D, Tan JP, Sun G, Chen J, et al. Transient naive
reprogramming corrects hiPS cells functionally and epigenetically. Nature (2023)
620:863–72. doi: 10.1038/s41586-023-06424-7 126. Cuesta-Gomez N, Verhoeff K, Dadheech N, Dang T, Jasra IT, de Leon MB, et al. Suspension culture improves iPSC expansion and pluripotency phenotype. Stem Cell
Res Ther (2023) 14:154. doi: 10.1186/s13287-023-03382-9 101. Lv J, Yi Y, Qi Y, Yan C, Jin W, Meng L, et al. Mitochondrial homeostasis
regulates definitive endoderm differentiation of human pluripotent stem cells. Cell
Death Discovery (2022) 8:69. doi: 10.1038/s41420-022-00867-z 127. Lee JH, Laronde S, Collins TJ, Shapovalova Z, Tanasijevic B, McNicol JD, et al. Lineage-specific differentiation is influenced by state of human pluripotency. Cell Rep
(2017) 19:20–35. doi: 10.1016/j.celrep.2017.03.036 102. Kondoh H, Lleonart ME, Nakashima Y, Yokode M, Tanaka M, Bernard D, et al. A high glycolytic flux supports the proliferative potential of murine embryonic stem
cells. Antioxid Redox Signal (2007) 9:293–9. doi: 10.1089/ars.2006.1467 128. Romayor I, Herrera L, Buron M, Martin-Inaraja M, Prieto L, Etxaniz J, et al. References A
comparative study of cell culture conditions during conversion from primed to naive human
pluripotent stem cells. Biomedicines (2022) 10. doi: 10.3390/biomedicines10061358 103. Wang Z, Gurlo T, Matveyenko AV, Elashoff D, Wang P, Rosenberger M, et al. Live-cell imaging of glucose-induced metabolic coupling of beta and alpha cell Frontiers in Endocrinology 16 frontiersin.org Jasra et al. 10.3389/fendo.2023.1236472 Continued
PKM
Pyruvate kinase isoenzyme M
ROS
Reactive oxygen species
SC-b cells
Stem cell-derived b cells
SCS-GTP
GTP specific isoform of succinyl CoA-synthetase
Sox 2
SRY box transcription factor 2
Tcl1
T-cell leukemia/ lymphoma 1
TCA
Tricarboxylic acid cycle
TET
Ten-eleven translocation Glossary
2-OGDD
2-Oxoglutarate-dependent dioxygenases
aKG
Alpha-Ketoglutarate
ACC1
Acetyl-CoA carboxylase 1
AGEs
Advanced glycation end products
APH
Aphidicolin
ATG5
Autophagy-related protein 5
cMyc
Cellular Myc
DE
Definitive endoderm
DRP1
Dynamin-related protein 1
ETC
Electron transport respiratory chain
ESCs
Embryonic stem cells
ERR
Estrogen-related nuclear receptors
FAD
Flavin adenine dinucleotide
Fis1
Fission 1 protein
GLDC
Glycine decarboxylase
GLUT
Glucose transporter
GSIS
Glucose stimulated insulin secretion
GSR
Glutathione Reductase
HK
Hexokinase
HIF1
Hypoxia-inducible factor 1
iPSC
Induced pluripotent stem cells
JMJD
Jumonji C domain-containing family histone demethylases
Klf4
Kripple like factor 4
MAPK26
Mitogen-activated kinase 26
mtDNA
Mitochondrial DNA
MGST1
Microsomal glutathione S-transferase 1
NAD
Nicotinamide adenine dinucleotide
Nrf2
Nuclear erythroid-related factor 2
Oct4
Octamer binding transcription factor 4
OXPHOS
Oxidative phosphorylation
PARP1
Poly(ADP)Ribose Polymerase-1
PC
Palmytolcarnitine
PPP
Pentose phosphate pathway
PnPase
Polynucleotide phosphorylase
PDK1
3-Phosphoinositide-dependent kinase1
PDHK1
Pyruvate dehydrogenase kinase
PEPCK-M
Mitochondrial phosphoenolpyruvate carboxykinase
PK
Pyruvate kinase
(Continued)
Continued
PKM
Pyruvate kinase isoenzyme M
ROS
Reactive oxygen species
SC-b cells
Stem cell-derived b cells
SCS-GTP
GTP specific isoform of succinyl CoA-synthetase
Sox 2
SRY box transcription factor 2
Tcl1
T-cell leukemia/ lymphoma 1
TCA
Tricarboxylic acid cycle
TET
Ten-eleven translocation Glossary 2-OGDD
2-Oxoglutarate-dependent dioxygenases
aKG
Alpha-Ketoglutarate
ACC1
Acetyl-CoA carboxylase 1
AGEs
Advanced glycation end products
APH
Aphidicolin
ATG5
Autophagy-related protein 5
cMyc
Cellular Myc
DE
Definitive endoderm
DRP1
Dynamin-related protein 1
ETC
Electron transport respiratory chain
ESCs
Embryonic stem cells
ERR
Estrogen-related nuclear receptors
FAD
Flavin adenine dinucleotide
Fis1
Fission 1 protein
GLDC
Glycine decarboxylase
GLUT
Glucose transporter
GSIS
Glucose stimulated insulin secretion
GSR
Glutathione Reductase
HK
Hexokinase
HIF1
Hypoxia-inducible factor 1
iPSC
Induced pluripotent stem cells
JMJD
Jumonji C domain-containing family histone demethylases
Klf4
Kripple like factor 4
MAPK26
Mitogen-activated kinase 26
mtDNA
Mitochondrial DNA
MGST1
Microsomal glutathione S-transferase 1
NAD
Nicotinamide adenine dinucleotide
Nrf2
Nuclear erythroid-related factor 2
Oct4
Octamer binding transcription factor 4
OXPHOS
Oxidative phosphorylation
PARP1
Poly(ADP)Ribose Polymerase-1
PC
Palmytolcarnitine
PPP
Pentose phosphate pathway
PnPase
Polynucleotide phosphorylase
PDK1
3-Phosphoinositide-dependent kinase1
PDHK1
Pyruvate dehydrogenase kinase
PEPCK-M
Mitochondrial phosphoenolpyruvate carboxykinase
PK
Pyruvate kinase
(Continued) (Continued) frontiersin.org Frontiers in Endocrinology 17
|
https://openalex.org/W3155640198
|
https://hal.archives-ouvertes.fr/hal-03320478/document
|
English
| null |
A Combined Lidar-Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean
|
Frontiers in remote sensing
| 2,021
|
cc-by
| 20,905
|
A Combined Lidar-Polarimeter Inversion Approach for
Aerosol Remote Sensing Over Ocean
Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa,
Arlindo da Silva, Snorre Stamnes, Sharon Burton, Xu Liu, Richard Ferrare, et
al.
To cite this version:
Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa, et al.. A Combined Lidar-
Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean. Frontiers in Remote Sensing,
2021, 2, 10.3389/frsen.2021.620871. hal-03320478 A Combined Lidar-Polarimeter Inversion Approach for
Aerosol Remote Sensing Over Ocean
Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa,
Arlindo da Silva, Snorre Stamnes, Sharon Burton, Xu Liu, Richard Ferrare, et
al. To cite this version: Feng Xu, Lan Gao, Jens Redemann, Connor Flynn, W. Reed Espinosa, et al.. A Combined Lidar-
Polarimeter Inversion Approach for Aerosol Remote Sensing Over Ocean. Frontiers in Remote Sensing,
2021, 2, 10.3389/frsen.2021.620871. hal-03320478 Distributed under a Creative Commons Attribution 4.0 International License A Combined Lidar-Polarimeter
Inversion Approach for Aerosol
Remote Sensing Over Ocean
Feng Xu 1*, Lan Gao 1, Jens Redemann 1, Connor J. Flynn 1, W. Reed Espinosa 2,
Arlindo M. da Silva 2, Snorre Stamnes 3, Sharon P. Burton 3, Xu Liu 3, Richard Ferrare 3,
Brian Cairns 4 and Oleg Dubovik 5 Feng Xu 1*, Lan Gao 1, Jens Redemann 1, Connor J. Flynn 1, W. Reed Espinosa 2,
Arlindo M. da Silva 2, Snorre Stamnes 3, Sharon P. Burton 3, Xu Liu 3, Richard Ferrare 3,
Brian Cairns 4 and Oleg Dubovik 5 1School of Meteorology, The University of Oklahoma, Norman, OK, United States, 2NASA Goddard Space Flight Center,
Greenbelt, MD, United States, 3NASA Langley Research Center, Hampton, VA, United States, 4NASA Goddard Institute for
Space Studies, New York, NY, United States, 5Université de Lille, CNRS, UMR 8518 - LOA - Laboratoire d’Optique
Atmosphérique, Lille, France An optimization algorithm is developed to retrieve the vertical profiles of aerosol
concentration, refractive index and size distribution, spherical particle fraction, as well
as a set of ocean surface reflection properties. The retrieval uses a combined set of lidar
and polarimeter measurements. Our inversion includes using 1) a hybrid radiative transfer
(RT) model that combines the computational strengths of the Markov-chain and adding-
doubling approaches in modeling polarized RT in vertically inhomogeneous and
homogeneous media, respectively; 2) a bio-optical model that represents the water-
leaving radiance as a function of chlorophyll-a concentration for open ocean; 3) the
constraints regarding the smooth variations of several aerosol properties along altitude;
and 4) an optimization scheme. We tested the retrieval using 50 sets of coincident lidar and
polarimetric data acquired by NASA Langley airborne HSRL-2 and GISS RSP respectively
during the ORACLES field campaign. The retrieved vertical profiles of aerosol single
scattering albedo (SSA) and size distribution are compared to the reference data
measured by University of Hawaii’s HiGEAR instrumentation suite. At the vertical
resolution of 315 m, the mean absolute difference (MAD) between retrieved and
HiGEAR derived aerosol SSA is 0.028. And the MADs between retrieved and HiGEAR
effective radius of aerosol size distribution are 0.012 and 0.377 micron for fine and coarse
aerosols, respectively. The retrieved aerosol optical depth (AOD) above aircraft are
compared to NASA Ames 4-STAR measurement. The MADs are found to be 0.010,
0.006, and 0.004 for AOD at 355, 532 and 1,064 nm, respectively. Edited by:
Jose Antonio Sobrino,
University of Valencia, Spain Reviewed by:
Pengwang Zhai,
University of Maryland, United States
Xiaoguang Xu,
University of Maryland, United States *Correspondence:
Feng Xu
fengxu@ou.edu *Correspondence:
Feng Xu
fengxu@ou.edu Specialty section:
This article was submitted to
Satellite Missions,
a section of the journal
Frontiers in Remote Sensing
Received: 24 October 2020
Accepted: 07 January 2021
Published: 21 April 2021 Specialty section:
This article was submitted to
Satellite Missions,
a section of the journal
Frontiers in Remote Sensing Received: 24 October 2020
Accepted: 07 January 2021 Received: 24 October 2020
Accepted: 07 January 2021
Published: 21 April 2021 Keywords: aerosols, remote sensing, lidar-polarimeter, combined retrieval, radiative transfer HAL Id: hal-03320478
https://hal.science/hal-03320478v1
Submitted on 16 Aug 2021 L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés. HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers. Distributed under a Creative Commons Attribution 4.0 International License ORIGINAL RESEARCH
published: 21 April 2021
doi: 10.3389/frsen.2021.620871 Keywords: aerosols, remote sensing, lidar-polarimeter, combined retrieval, radiative transfer Edited by:
Jose Antonio Sobrino,
University of Valencia, Spain Edited by:
Jose Antonio Sobrino,
University of Valencia, Spain INTRODUCTION Xu F, Gao L, Redemann J, Flynn CJ,
Espinosa WR, da Silva AM, Stamnes S,
Burton SP, Liu X, Ferrare R, Cairns B
and Dubovik O (2021) A Combined
Lidar-Polarimeter Inversion Approach
for Aerosol Remote Sensing Aerosols are tiny particles suspended in the atmosphere. They stem from a variety of natural and
anthropogenic sources and processes, and influence the distribution of radiation by either directly
absorbing, scattering and emitting radiation or indirectly by providing cloud condensation nuclei. In
addition, the concentration and speciation of aerosols in the boundary layer impact air quality and
consequently public health. Characterization of spatial and temporal variations of a few key aerosol
characteristics such as abundance, size, absorption, and composition is critical for quantifying their April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 1 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. global and regional impact on climate and air quality. However,
the short life cycle of aerosols and high-degree of variability in
their composition and distribution has been a challenge for their
accurate remote sensing. According to the most recent IPCC
report (IPCC, 2013), aerosols remain the largest radiative forcing
uncertainty. during daytime. The global coverage of aerosol products
enables its wide applications such as aerosol-cloud interaction
and air quality studies. Like a radiometer, a polarimeter can
provide large swath aerosol/cloud context for TOA flux
assessment. Both theoretical studies and real data analysis have
proved polarimeter’s capability of constraining column effective
aerosol abundance, absorption and microphysical properties
together with surface reflection properties (see for example
[Mishchenko et al., 2011; Hasekamp et al., 2011; Chowdhary
et al., 2012; Knobelspiesse et al., 2012; Dubovik et al., 2019; Remer
et al., 2019; among others]). Compared to lidar, however,
polarimeter carries much less information about the vertical
distributions of aerosols. y
To better anchor aerosol direct and indirect impacts on the
Earth’s energy balance, the Global Climate Observing System
(GCOS, 2011) sets out observational requirements for a few key
aerosol characteristics such as aerosol optical depth (AOD, denoted
by “τ”), single scattering albedo (SSA), extinction profiles and layer
height. For example, the accuracy of AOD at 550 nm is required to
be better than the max of (0.1τ, 0.03) at the horizontal resolution of
5–10 km and a temporal resolution of 4 h. The accuracy of SSA is
required to be better than 0.03. INTRODUCTION Aerosol extinction profiles are
required to be better than 10% at a horizontal resolution of
200–500 km, a vertical resolution <1 km near the tropopause
and of ∼2 km in the middle stratosphere. The NASA Aerosol
Clouds, and Convection and Precipitation (ACCP) mission that is
currently undergoing formulation (https://vac.gsfc.nasa.gov/accp/
home.htm) is also setting up criteria on a set of geophysical
variables (documented as Milestone SATM, September 16,
2019). For example, the total and planetary boundary layer
(PBL) effective total fine mode AODs are desired to be better
than 0.05τtotal/fine + 0.02. In both column and PBL effective sense,
the accuracy of SSA is desired to be better than 0.03; aerosol
extinction-to-backscatter ratios are required to be better than 25%;
the real part of aerosol refractive index is desired to be better than
0.025; and the nonspherical AOD fractions are desired to be better
than 10%. Aerosol extinction profile is desired to be better than the
max of (0.02 km−1, 20%–40%) at the vertical resolution from 30 to
250 m, depending on specific mission objective. It is apparent that lidar and polarimeter have highly
complementary strengths: while lidar resolves details of aerosol
vertical profiles and types, polarimeter provides constraints on
anchoring column-effective aerosol abundance, absorption and
microphysical properties across a large swath. Consequently, a
combination of these two types of measurements enhances the
observational information about aerosol properties. Informing
aerosol retrieval by these two types of measurements, we target a
comprehensive determination of aerosol size, type, abundance
and absorption as well as their vertical variations. To fully utilize the information contained in lidar and
polarimetric measurements, reliable forward and inversion
models are prerequisite. Some earlier efforts have been made
toward
combining
lidar
and
polarimetric/radiometric
measurements to improve the retrieval of aerosol properties. For example, Knobelspiesse et al. (2011) investigated the
Research Scanning Polarimeter (RSP, Cairns et al., 1999) and
HSRL (Hair et al., 2008) data collected during the field campaign -
Arctic Research of the Composition of the Troposphere from
Aircraft and Satellites (ARCTAS). It is found that the combined
use of the two types of measurement in retrieval reduces the
likelihood of unsuccessful retrievals caused by significantly biased
initial estimate of the aerosol number concentration in optimal
estimate inversion approach. In the case of ground-based
observations, the LIRiC and GARRLiC algorithms have been
developed by Chaikovsky et al. (2016) and by Lopatin et al. (2013), respectively. INTRODUCTION backscatter lidar measurements in 532 and 1,064 nm in
combination with a radiometer or polarimeter with 10 angles
spaced over ±57° with 6 wavelengths spanning 0.44–2.2 μm. Compared to stand alone polarimetric or radiometric retrieval,
an enhanced accuracy in fine mode aerosol SSA was observed
from the combined retrieval. In essence, the combined retrieval
capitalizes on the benefit of backscatter observations that contain
sensitivity to the profiling properties of aerosols and the benefits
of polarimetric observations that contain information about
aerosol loading and absorption. output of the optimized solution, ancillary aerosol quantities
including
AOD,
SSA,
particulate
lidar
ratio,
particulate
extinction and backscatter coefficients as well as particulate
depolarization are derived. Error estimate is provided for all
retrieval outcome. With these algorithm modules, we outlined in Figure 1 the
algorithm flow of combined lidar-polarimeter inversion. Input
into the retrieval consists of 1) lidar signals including extinction,
backscatter, and/or depolarization or a subset of them; and 2)
polarimetric signals including multi-angle and multi-spectral
measurements of radiance and polarimetric components. As
retrieval parameters, the state vector contains the column
volume concentrations of multiple aerosol species and vertical
profiles of 1) speciated aerosol refractive index with its spectral
dependence constrained by a linear model in logarithmic space;
2) speciated log-normal volume weighted size distribution
constrained by median size parameter and standard deviation;
3) species dependent spherical particle volume fraction; and 4)
species column concentrations in vertical layers. Also included in
the retrieval state vector are chlorophyll-a (Chl-a) concentration,
an empirical spectral term that adjusts the water-leaving
radiances to mitigate bio-optical modeling error, and the
wind speed. g
p
In this paper, we describe a research algorithm that allows a
combined use of lidar and polarimetric observations for
retrieving vertical profiles of speciated aerosol abundance and
aerosol intrinsic properties such as size distribution, refractive
index, and spherical particle fraction. The algorithm builds upon
our earlier work using only polarimetric observations to retrieve a
column effective set of aerosol properties over ocean (Xu et al.,
2016). The paper is organized as follows. Following an algorithm
overview in General Structure of the Algorithm, we introduce our
1D RT model for polarized RT in a coupled atmosphere-ocean
system in Aerosol Scattering and Ocean Surface Reflection. Forward
Model
for
Light
Propagation
in
a
Coupled
Atmosphere-Ocean System formulates the inversion and error
estimate approach. INTRODUCTION The latter is currently a branch of the
Generalized
Retrieval
of
Aerosol
and
Surface
Properties
(GRASP) algorithm (Dubovik et al., 2011; Dubovik et al.,
2014). These two algorithms use joint data from a multi-
wavelength lidar and an AERONET radiometer and derive
two vertical profiles of fine and coarse aerosol components as
well as extra parameters on the column-integrated properties of
aerosols. Particularly, LIRIC derives vertical profiles using the
retrieval results from AERONET but not changing them. GARRLiC/GRASP, on the other hand, fits simultaneously lidar
and photometer data and derives both enhanced vertical and
columnar aerosol properties. As ongoing efforts, Liu et al., (2016)
and Burton et al., (2019) have been developing an optical estimate
approach to retrieve vertically resolved particle concentrations,
effective radius, and absorption by using both RSP and HSRL
observations acquired during DISCOVER-AQ, TCAP and
ORACLES field missions. Espinosa et al., (2019) used the
GRASP algorithm to simulate the retrieval of attenuated Capitalizing
on
the
rapid
advancement
of
lidar
and
polarimetric
remote
sensing
techniques
and
the
relevant
remote
sensing
theory
over
the
last
few
decades,
the
combination of these two types of measurement is highly
promising for meeting the requirements described above. As
an active remote sensing technique, lidar sends out laser
pulses into atmosphere and detects the backscattered radiation. Accounting for speed of light, the time delay in the received
signals determines the distance from the backscatter location, and
the range-resolved profiles of attenuated backscatter (e.g.,
CALIOP (Winker et al., 2007)) or backscatter, extinction and
depolarization (e.g., the measurement by the High Spectral
Resolution Lidar (HSRL, (Hair et al., 2001; Hair et al., 2008;
Rogers et al., 2009) at single or multiple wavelengths resolves
aerosol types and microphysical properties, and consequently
vertically resolved radiative forcing. The determination of
vertically
resolved
aerosol
radiative
forcing
has
direct
implications for the thermodynamic structure of atmosphere
and consequent effects on monsoonal circulations and the
global hydrological cycle. Polarimeters, in contrast, use the
Sun as the radiation source and measure radiometric and
polarimetric
signals
of
sunlight
reflection
from
top-of-
atmosphere (TOA) in multi-spectral/hyper-spectral and multi-
angular dimensions. It enables a moderate-to-high horizontal
resolution aerosol/cloud optical and microphysical products April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 2 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. INTRODUCTION In Coupled Retrieval of Aerosols and Ocean
Properties, we test the inversion algorithm using 50 sets of
coincident lidar and polarimetric observations made by the
HSRL-2 and RSP instruments aboard the NASA ER-2 during
the NASA’s ORACLES field campaign (Redemann et al., 2021). These observations cover a moderately high bio-mass burning
and sea salt aerosol loading with column total AOD532-nm
between ∼0.2 and ∼0.3 and an altitude dependent SSA. Comparisons of the retrieved AOD, SSA, and aerosol size
distribution are made to the reference data measured by 4-
STAR and HiGEAR which are aboard the NASA P-3 aircraft. A summary is given in Retrieval Implementation and Validation. Our retrieval starts with an initialized state vector x0. Speciated
aerosol
abundance,
optical
properties
and
microphysical
properties are used to calculate vertically resolved aerosol
single scattering quantities including 1) AOD, SSA and phase
matrix for radiative transfer modeling and fit polarimetric
measurement of radiance and degree of linear polarizartion
(DOLP);
and
2)
aerosol
extinction
coefficient,
scattering
coefficient and depolarization ratio for fitting relevant lidar
measurements. To guide the direction of search of solution
through iterations, we run the forward model multiple times
to calculate the Jacobian matrix that contains the derivatives of
radiative and lidar quantities with respect to the aerosol and
ocean surface properties. Moreover, a smoothness matrix is
constructed to improve monotonic convergence of iteration
toward the vicinity of globally optimized solution. A linear
system is then established that includes the difference between
model and observation, the Jacobian matrix, the smoothness
matrix and the a priori. By solving the linear system, a
stepwise increment of solution is determined to adjust the
solution. In an iterative way, retrieval converges to a final
solution. GENERAL STRUCTURE OF THE
ALGORITHM The combined lidar and polarimetric retrieval of aerosol loading
and properties consists of three major modules: 1) A static light
scattering dataset for intrinsic aerosol properties including
refractive index and multiple rectangular size bins. The dataset
is pre-calculated and called during the inversion to provide on-
the-fly single scattering properties for spherical and nonspherical
particle properties. These properties include aerosol optical
depth, phase matrix and SSA for radiative transfer modeling;
and extinction, backscatter and depolarization to fit lidar
measurement; 2) A hybrid radiative transfer model that
combines the computational strengths of the Markov-chain
and adding-doubling approaches in modeling polarized RT in
vertically inhomogeneous and homogeneous media, respectively;
and 3) Optimization model. The inversion is assisted by allowing
an imposition of smoothness constraints on the vertical
variations of speciated aerosol refractive index, size parameters
and spherical particle fraction. Following retrieval success and the Frontiers in Remote Sensing | www.frontiersin.org AEROSOL SCATTERING AND OCEAN
SURFACE REFLECTION min
(5) (5) where C(s),sphere
n0,a,l
is the aerosol number concentration (m−3),
dn(s)
l (r)/d ln r is the number weighted aerosol size distribution
in association with dv(s)
l (r)/d ln r, rmin and rmax are the lower and
upper bounds of the size distribution respectively, c(s),sphere
ext,a,l
is
extinction cross section as a function of particle refractive index
m(s)
a,l and radius r, f (s),sphere
v,l
is the volume fraction of spherical
particles, v(r) is the volume of a spherical particle of radius r, and
C(s)
v0,a,l is the aerosol volumetric concentration (in the unit of m3/m3). It is related to the subcolumn aerosol concentration (C(s)
v,a,l in the
unit of m3/m2) in lth layer by ,
If we discretize the speciated aerosol size distribution in the lth
layer into Nbin size bins, the volumetric fraction of the ith bin is
equal to f (s)
i,l d ln ri (1 ≤i ≤Nbin), where f (s)
i,l
is calculated by f (s)
i,l dv(s)
l (ri)
d ln ri
,
(3) (3) where ri stands for the central radius of ith size bin and
dv(s)
l (ri)/d ln ri can be evaluated from Eq. 2. AEROSOL SCATTERING AND OCEAN
SURFACE REFLECTION Dependent on the information content offered by specific
combinations of lidar and polarimeter, our algorithm is designed
to be flexible in the aspect of allowing multiple aerosol species to be
retrieved. In this section we will introduce the calculation of aerosol
single scattering quantities as well as ocean surface reflection. Adopting
a
log-normal
volumetric
size
distribution
[dv(s)
l (r)/d ln r] for all (Ns) aerosol species, we have the
subcolumn volumetric concentrations in lth layer, April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 3 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 1 | Algorithm flowcharts for retrieving aerosol and surface properties from a combined use of lidar and polarimer. extinction coefficient K(s)
ext, a,l and scattering coefficient K(s)
sca, a,l
(in the unit of m−1) are calculated by (1)
extinction coefficient K(s)
ext, a,l and scattering coefficient K(s)
sca, a,l
(in the unit of m−1) are calculated by dVl(r)
d ln r
Ns
s1
C(s)
v,l
dv(s)
l (r)
d ln r ,
(1) (1) K(s)
ext,a,l K(s),sphere
ext,a,l
+ K(s),spheroid
ext,a,l
(4) (4) where the size distribution of the sth species dv(s)
l (r)/d ln r is
parameterized by a geometric volume mean radius r(s)
m and a
logarithmic standard deviation σ(s)
m,l: for sth aerosol species. In the above equation, the volumetric
extinction component of spherical particles is evaluated by for sth aerosol species. In the above equation, the volumetric
extinction component of spherical particles is evaluated by dv(s)
l (r)
d ln r
1
2π
√
σ(s)
m,l
exp⎡⎢⎢⎢⎢⎣−ln r −ln r(s)
m,l
2
2σ(s)
m,l
2
⎤⎥⎥⎥⎥⎦. (2) K(s),sphere
ext,a,l
C(s),sphere
n0,a,l
rmax
rmin
dn(s)
l (r)
d ln r c(s),sphere
ext,a,l
m(s)
a,l , rd ln r
C(s)
v0,a,lf (s),sphere
v,l
rmax
rmin
dv(s)
l (r)
d ln r
1
v(r)c(s),sphere
ext,a,l
m(s)
a,l , rd ln r,
(5) (2) In Eq. 1, C(s)
v,l is the subcolumn volume concentration of the sth
aerosol species in the lth layer and is related to its volume fraction
(f (s)
v,l ) and the total column concentration (Ctot, (s)
v
) by C(s)
v,l
Ctot, (s)
v
f (s)
v,l . Aerosol Single Scattering Properties for
Radiative Transfer Calculation C(s)
v,a,l C(s)
v0,a,lΔHl Ctot, (s)
v
f (s)
v,l ,
(6) (6) where In this section, we are going to introduce the calculation of aerosol
single scattering properties including AOD, SSA and phase
matrix elements for radiative transfer modeling. f (s)
v,l C(s)
v,l ΔHl
Ctot, (s)
v
C(s)
v,l ΔHl
NLayer
l1
C(s)
v,l ΔHl
. (7) (7) Accounting for the contribution by both spherical and
spheroid-based
nonspherical
particles,
the
volumetric April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org Xu et al. Combined Lidar-Polarimeter Aerosol Inversion Calculation
of
volumetric
extinction
coefficient
of
spheroidal particles in Eq. 4 should account for both size
and aspect ratio distributions of spheroids (Dubovik et al.,
2011). Therefore, Replacing the subscript “ext” by “sca” in above derivations (Eqs. 4–13) gives relevant equations for the volumetric scattering
coefficient: K(s)
sca,a,l
Nbin
i1
f (s)
i,l f (s),sphere
v,l
K(s),sphere
sca,a,l,i
+ 1 −f (s),sphere
v,l
K(s),spheroid
sca,a,l,i
. (14) K(s),spheroid
ext,a,l
C(s),spheroid
n0,a,l
rmax
rmin
dn(s)
l (r)
d ln r c(s),spheroid
ext,a,l
m(s)
a,l , rd ln r
C(s)
v0,a,l1 −f (s),sphere
v,l
ηmax
ηmin
rmax
rmin
dn(s)
l η
d ln η
dv(s)
l (r)
d ln r
1
v(r)c(s),spheroid
ext,a,l
m(s)
a,l , r, ηd ln ηd ln r
(8) (14) (8) In a similar way, the phase matrix element Pa,j,k,l of sth aerosol
species in the lth layer is calculated from P(s)
a, j,k,l
Nbin
i1
f (s)
i,l f (s),sphere
v,l
K(s),sphere
a, sca, l, i P(s),sphere
a, j,k,l, i + 1 −f (s),sphere
v,l
K(s),spheroid
a, sca, l, i P(s),spheroid
a, j,k, l, i
Nbin
i1
f (s)
i,l f (s),sphere
v,l
K(s),sphere
a, sca, l, i + 1 −f (s),sphere
v,l
K(s),spheroid
a, sca, l, i
. (15) where r becomes the volume equivalent spherical particle radius, the
aspect ratio η < 1 for oblate spheroids and η > 1 for prolate
spheroids, and ηmin and ηmax are the lower and upper bounds of
the aspect ratio distribution respectively. Note that we assume
spheroids to have fixed aspect ratio distribution (Legrand et al.,
2014) and dn(s)
l (η)/d ln η is independent of aerosol size. In the numerator of the above equation, we have In the numerator of the above equation, we have sphere
a,l,i
P(s),sphere
a, j,k,l,i
lnri+Δlnri/2
lnri−Δlnri/2
c(s),sphere
sca,a,l
m(s)
a,l , r
v(r)
P(s),sphere
a, j,k,l
m(s)
a,l , rdln r,
(16) (16) K(s),spheroid
sca,a,l,i
P(s),spheroid
a, j,k,l, i
NAR
q1
dn(s)
l ηq
d ln η
lnηq+Δlnηq/2
lnηq−Δlnηq/2
lnri+Δlnri/2
lnri−Δlnri/2
c(s),spheroid
sca,a,l
m(s)
a,l , r, η
v(r)
P(s),spheroid
a, j,k,l,q
m(s)
a,l , r, ηdlnrdlnη. (17) For numerical calculation, the aerosol size distribution is
descritized into Nbin rectangular bins so that for spherical particles K(s),shere
ext,a,l
C(s)
v0,a,lf (s),sphere
v,l
Nbin
i1
dv(s)
l (ri)
d ln r K(s),sphere
ext,a,l,i
m(s)
a,l , ri,
(9) (9) (17) where the component of sth aerosol species in its ith size bin is where the component of sth aerosol species in its ith size bin is Summing over the contributions from all aerosol species gives
the total volumetric extinction and scattering coefficients in lth
layer, K(s),sphere
ext,a,l,i
m(s)
a,l , ri
lnri+Δlnri/2
lnri−Δlnri/2
c(s),sphere
ext,a,l
m(s)
a,l , r
v(r)
dlnr. (10) (10) Kext[sca],a,l
Ns
s1
K(s)
ext[sca],a,l,
(18) (18) For spheroids, we further need to break the integral of
volumetric extinction into NAR bins of aspect ratio so that: where K(s)
ext, a,l and K(s)
sca,a,l are given by Eqs 13 and 14 respectively. The speciated aerosol SSA in lth layer is calculated as the ratio
of speciated scattering and extinction coefficients by, where K(s)
ext, a,l and K(s)
sca,a,l are given by Eqs 13 and 14 respectively. The speciated aerosol SSA in lth layer is calculated as the ratio
of speciated scattering and extinction coefficients by, K(s),spheroid
ext,a,l
C(s)
v0,a,l1 −f (s),shere
v,l
Nbin
i1
K(s),spheroid
ext,a,l,i
m(s)
a,l , ri dv(s)
l (ri)
d ln r , (11) ω(s)
0,a,l K(s)
sca,a,l
K(s)
ext,a,l
. (19) (19) where K(s),spheroid
ext,a,l,i
m(s)
a,l , ri
NAR
q1
dn(s)
l ηq
d ln η
lnηq+Δlnηq/2
lnηq−Δlnηq/2
lnri+Δlnri/2
lnri−Δlnri/2
c(s),spheroid
ext,a,l
m(s)
a,l , r, η
v(r)
dlnrdlnη. Aerosol Single Scattering Properties for
Radiative Transfer Calculation Both
dn(s)
l (η)/d ln η and dv(s)
l (r)/d ln r are normalized to unity in the
presence of non-zero lower bound or non-infinity upper bound in
their integral over r and η, respectively. (15) Aerosol Single Scattering Properties for
Lidar Equation Use During the optimization process, the spectrally dependent
refractive index and size distribution of aerosols and the spherical
particle fraction of aerosols are updated dynamically. To avoid
inefficient on-the-fly light scattering computations of aerosol
extinction [scattering] coefficients Ksphere[spheroid]
ext[sca], a,i
, and aerosol
phase matrix Psphere[spheroid]
a,j,k,i
are precalculated for a set of size bins
and refractive indices and saved in a lookup table. The table is then
linearly
interpolated
to
determine
the
scattering
properties
associated with dynamically updated refractive index during the
retrieval. The bin resolved properties are weighted by size
distribution parameters to determine Ksphere[spheroid]
ext[sca], a,i
, Psphere[spheroid]
a,j,k,i
and then (αa, βa, δa) for the whole size distribution (see Aerosol Single
Scattering Properties for Radiative Transfer Calculation and Aerosol
Single Scattering Properties for Lidar Equation Use). In this section, we are going to introduce the calculation of aerosol
single scattering properties including extinction, backscatter and
depolarization for use in the lidar equation. The total extinction coefficient for lth layer (αa,l, in the unit of
m−1) is calculated by summing over the contribution from all
aerosol species, namely αa,l
Ns
s1
α(s)
a,l ,
(24) (24) where the speciated aerosol extinction α(s)
a,l
in a layer of
geometric thickness ΔHl is related to layer resolved aerosol
optical depth by α(s)
a,l Δτ(s)
a,l
ΔHl
C(s)
v,a,lK(s)
ext,a,l
ΔHl
,
(25) (25) In the generation of the lookup table, the real part of
refractive index is uniformly distributed in linear space
from 1.3 to 1.7 with 22 grids. The imaginary part of
refractive index is uniformly distributed in logarithmic
space from 1 × 10−8 to 3 × 10−4 with five grids and from
5 × 10−4 to 0.5 with 15 grids. The lower and upper bounds for
aerosol size are set as rmin 5 nm and rmax 50 μm,
respectively. A total of 50 size bins are equally spaced in
logarithmic
space
to
calculate
aerosol
light
scattering
properties. Mie theory is used to calculate spherical particle
scattering (van de Hulst, 1981). For spheroids, the lower and
upper bounds for aerosol axis ratio to be 0.33 and 3.0
respectively and a total of 25 bins are set for precalculating
spheroidal scattering properties by use of T-matrix method in
combination with geometric optics (Dubovik et al., 2006). where C(s)
v,a,l and K(s)
ext,a,l are given by Eqs 6 and 7 respectively. Development of a Lookup Table for Aerosol
Single Scattering Properties Δτa,l
Ns
s1
Δτ(s)
a,l . (22) (22) Calculation of aerosol single scattering properties (AOD, SSA,
p) for RT modeling and (αa, βa, δa) for fitting lidar
measurements needs to use the aerosol refractive index as
the input. We adopt the following two parameter constrained
model for refractive index as a function of wavelength
(Dubovik and King, 2000), In the above equation, the AOD for sth aerosol species is In the above equation, the AOD for sth aerosol species is Δτ(s)
a,l C(s)
v, a, lK(s)
ext,a,l,
(23) (23) where C(s)
v,a,l is the subcolumn volumetric concentration of sth
aerosol species, evaluated by Eq. 6, and K(s)
ext,a,l is column effective
extinction coefficient (in the unit of m−1) of sth aerosol species in
the lth layer, evaluated by Eq. 13. mr, l(λ) mr0, l(λ/λ0)−κr0, l
mi, l(λ) mi0, l(λ/λ0)−κi0, l
(30) (30) where mr0 and mi0 are the real and imaginary parts of the
refractive index at the reference wavelength λ0, and κr0 and κi0
are used to characterize their spectral dependence. In the numerator of the above equation, we have (12) Contributed by all aerosol species, the overall SSA contributed
by all aerosol species in lth layer is Contributed by all aerosol species, the overall SSA contributed
by all aerosol species in lth layer is (12) ω0,a,l
Ns
s1
f (s)
v,l K(s)
sca,a,l
Ns
s1
f (s)
v,l K(s)
ext,a,l
,
(20) (20) For simplicity, the layer resolved volumetric extinction
coefficient can be rewritten in the following form, where f (s)
v,l stands for the volume fraction of sth aerosol species in
lth layer, as given by Eq. 7. K(s)
ext,a,l
Nbin
i1
f (s)
i,l f (s),sphere
v,l
K(s),sphere
ext,a,l,i
+ 1 −f (s),sphere
v,l
K(s),spheroid
ext,a,l,i
,
(13) The overall aerosol phase matrix elements are evaluated by, (13)
d K(s),spheroid
ext,a,l,i
are given in Eqs 10 and 12,
Pa, j,k,l
Ns
s1
f (s)
v,l K(s)
sca, a, lP(s)
a, j,k,l
Ns
s1
f (s)
v,l K(s)
sca,a,l
,
(21) Pa, j,k,l
Ns
s1
f (s)
v,l K(s)
sca, a, lP(s)
a, j,k,l
Ns
s1
f (s)
v,l K(s)
sca,a,l
,
(21) (13) (21) where K(s),sphere
ext,a,l,i
and K(s),spheroid
ext,a,l,i
are given in Eqs 10 and 12,
respectively. Frontiers in Remote Sensing | www.frontiersin.org
April 2021 | Volume 2 | Article 620871
5 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org Combined Lidar-Polarimeter Aerosol Inversion Xu et al. where P(s)
a, j,k,l is given by Eq. 15. The layer aerosol optical depth
(AOD, Δτa,l) is contributed by all aerosol species. Therefore, we
have where the layer resolved phase matrix elements Pa,i,j,l are
evaluated via Eq. 21. Aerosol Single Scattering Properties for
Lidar Equation Use 1
1 , ,
, ,
Calculation of the total backscatter βa,l (in the unit of m−1Sr−1)
also needs to account for the contributions of all aerosol species as
well, namely βa,l
Ns
s1
β(s)
a,l ,
(26) (26) where the speciated aerosol backscatter is evaluated by β(s)
a,l β(s)
sca,a,l
P(s)
a,1,1,l(180+)
4π
,
(27) (27) where P(s)
a,1,1,l(180+) is given by Eq. 15 and the aerosol scattering
coefficient (β(s)
sca,a,l, in the unit of m−1) in lth layer is evaluated by, where P(s)
a,1,1,l(180+) is given by Eq. 15 and the aerosol scattering
coefficient (β(s)
sca,a,l, in the unit of m−1) in lth layer is evaluated by, β(s)
sca,a,l C(s)
v,a,lK(s)
sca,a,l
ΔHl
,
(28) (28) Surface Reflection The use of bio-optical model to simulate ocean water-leaving
radiance effectively reduces the parameter space and provides
extra constraints in the retrieval of ocean bulk properties. It
has been more and more adopted over the last decade and
justified
by
many
research
groups
(see
for
example
[Chowdhary et al., 2012; Xu et al., 2016; Gao et al., 2018; where K(s)
sca,a,l is given by Eq. 16. where K(s)
sca,a,l is given by Eq. 16. , ,
Assuming random orientation of nonspherical particles, the
aerosol linear depolarization ratio of lth layer is calculated as δa,l(180+) 1 −Pa,2,2,l(180+)Pa,1,1,l(180+)
1 + Pa,2,2,l(180+)Pa,1,1,l(180+),
(29) (29) April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 2 | The coupled atmosphere-ocean system for RT modeling. The Sun illuminates the top of atmosphere with zenith angle θ0 and azimuthal
angle ϕ0 (ϕ0 is assumed to be zero here). The sensor views the atmosphere at
viewing angle θv and azimuthal angle ϕv. The Markov chain model is used
for computing polarized RT in the atmosphere. The ocean is assumed
optically homogeneous so that the doubling method can be applied to achieve
modeling efficiency. Coupling of local radiative fields from ocean and
atmospheric layer is completed by using an “adding” strategy. Stamnes et al., 2018; among others]). Our ocean surface
reflection model incorporates a polarized specular reflection
term, a Lambertian term for depolarizing ocean foam
reflection and an empirical Lambertian correction term
“Δa” to account for the errors of the single-parameter based
bio-optical model (i.e., departures from the predetermined
functional relationships to Chl-a). The overall bidirectional
ocean surface reflection matrix Rsurf is described by (Xu et al.,
2016), πRSurf,λ fFoamaFoam,λD0 + 1 −fFoamRW,λ + 1 −fFoamRBio
WL,λ
+ 1 −fFoamΔaWL,λD0, + 1 −fFoamΔaWL,λD0, (31) where D0 is a zero matrix except D0,11 1; aFoam is foam albedo;
fFoam is foam coverage fraction related to wind speed Vwind by
fFoam 2.95 × 10−6×Vwind
3.52 (Koepke, 1984); RW,λ is the
polarized specular reflection from water surface (Cox and
Munk, 1954a; Cox and Munk, 1954b), and RBio
WL,λ is the
reflection
matrix
of
the
ocean-interface
system
with
a
correction of Raman scattering (Lee et al., 2013; Xu et al.,
2016), and “ΔaWL,λ” is the Lambertian correction term. Note
that RBio
WL,λ is a physically based term depending on the Chl-a
concentration [Chl_a]. Surface Reflection The last two terms of Eq. 31 constitute
our water-leaving radiance model. With and without assuming
ΔaWL to be 0 the simplified and the empirically adjusted bio-
optical models are formulated, respectively. By setting the Sun at
zenith and viewing angle to be nadir, we can evaluate the
normalized water-leaving radiance from RBio
WL and ΔaWL, FIGURE 2 | The coupled atmosphere-ocean system for RT modeling. The Sun illuminates the top of atmosphere with zenith angle θ0 and azimuthal
angle ϕ0 (ϕ0 is assumed to be zero here). The sensor views the atmosphere at
viewing angle θv and azimuthal angle ϕv. The Markov chain model is used
for computing polarized RT in the atmosphere. The ocean is assumed
optically homogeneous so that the doubling method can be applied to achieve
modeling efficiency. Coupling of local radiative fields from ocean and
atmospheric layer is completed by using an “adding” strategy. layers are calculated from speciated aerosol refractive index,
size distributions and spherical particle fraction. They are
mixed with molecule scattering to get bulk scattering
properties in all layers. Consequently, the optical thickness
(Δτl), SSA (ω0,l) and phase matrix (Pl) of lth layer contributed
by both aerosols and Rayleigh-scattering molecules are
evaluated by layers are calculated from speciated aerosol refractive index,
size distributions and spherical particle fraction. They are
mixed with molecule scattering to get bulk scattering
properties in all layers. Consequently, the optical thickness
(Δτl), SSA (ω0,l) and phase matrix (Pl) of lth layer contributed
by both aerosols and Rayleigh-scattering molecules are
evaluated by nLwλ F0,λ
π d0
d
2
RBio
WL,λ,11(θv 0+; θ0
0+; [Chl a]) + ΔaWL,λ,
(32) nLwλ F0,λ
π d0
d
2
RBio
WL,λ,11(θv 0+; θ0
0+; [Chl a]) + ΔaWL,λ,
(32) (32) where d0 is the Earth-Sun distance at which F0 is reported, and d
is the Earth-Sun distance at the time of measurement. Note that
nLw, RW, Rsurf, RBio
WL, aFoam, ΔaWL, and F0 in Eqs 31 and 32 are all
spectrally dependent. Δτ1 Δτa,1 + ΔτR,1,
(33)
ω0,l ΔτR,l + ω0,a,lΔτa,l
ΔτR,l + Δτa,l
,
(34)
Pl(Θ) ΔτR,lPR(Θ) + ω0,a,lΔτa,lPa,l(Θ)
ΔτR,l + ω0,a,lΔτa,l
,
(35) (33) FORWARD MODEL FOR LIGHT
PROPAGATION IN A COUPLED
ATMOSPHERE-OCEAN SYSTEM (35) where as a function of scattering angle Θ, PR and Pa,l are the
Rayleigh and aerosol phase matrices, respectively, the aerosol SSA
of lth layer (ω0,a,l) is given by Eq. 20 and the AOD of lth layer
(Δτa,l) is given by Eq. 22. Polarized Radiative Transfer As illustrated in Figure 2, a coupled atmosphere-surface
model is established for 1D RT modeling, which consists of
an aerosol/air-molecule atmospheric layer and ocean water at
the bottom of the atmosphere. The whole atmosphere is
subdivided into NLayer layers, each bounded by the altitudes
hl and hl+1 (hl < hl+1) and NLayer depends on the vertical
resolution of lidar measurement or the desired resolution for
retrieval products. Knowing the layer optical depth, SSA and phase matrices for
all atmospheric layers, an efficient calculation of reflection and
transmission
matrices
of
the
vertically
inhomogeneous
atmosphere is implemented by use of the Markov chain
method (Esposito and House, 1978; Esposito 1979; Xu et al.,
2010; Xu et al., 2011; Xu et al., 2012). As an approximation, the
ocean water constituents are assumed to be homogeneously
mixed. Then the doubling method (see for example [Stokes,
1862; van de Hulst, 1963; Hansen, 1971; de Haan et al., 1987; As the input to radiative transfer modeling, vertically
resolved AOD, SSA, and phase matrices of aerosols in all April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 7 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. Pp(z)
gp
1
z2βm(z)exp −2
z
0[αm(z′) + αa(z′)]dz′. (37) Evans and Stephens, 1991; among others]) is applied for a fast
calculation of the reflection matrices of the ocean bulk. Finally,
the interaction between atmosphere and ocean through multiple
reflection and transmission are coupled via an “adding” approach
(Xu et al., 2016). The output of atmosphere and ocean reflection is
the reflection matrix for the coupled atmosphere-ocean system,
from which the radiance and polarimetric components are
derived to compare to observations. The incorporation of
Markov chain model and doubling methods into a hybrid RT
modeling scheme capitalizes on the strength of these two
methods in modeling RT in vertically inhomogeneous and
homogeneous media, respectively. Moreover, it provides an
efficient
Jacobian
calculation
and
an
optimization-based
retrieval
by
saving
the
local
RT
fields
(reflection
and
transmission matrices) for each layer from forward modeling,
which are then reused for subsequent Jacobian evaluations as long
as the aerosol or ocean parameters remain unperturbed. In other
words, only the RT in the layer with perturbed parameters
requires recalculation. (37) High-spectral-resolution lidars such as NASA Langley’s HSRL-1
and HSRL-2 send a linearly polarized beam into an atmosphere. Lidar Equation The propagation of a light pulse from a single-channel lidar in the
atmosphere is governed by lidar equation (e.g., (Winker et al.,
1996; Vaughan, 2004; Weitkamp, 2005; Burton et al., 2018]): The lidar equation Eq. 37 is single scattering based. It can
break into a discretized form, namely multiplication of local
backscatter at range z with the sum of the contributions of
extinction in all layers above z. The calculation of aerosol
component of layer effective extinction (αa), backscatter (βa)
and depolarization (δa) have been specified in Aerosol Single
Scattering Properties for Lidar Equation Use. In addition, to
combine lidar observations with polarimetric measurements:
one can structure the retrieval to fit either direct lidar
measurements
such
as
total
extinction,
backscatter
and
depolarization, or its aerosol products such as particulate
extinction, backscatter and depolarization ratio. The latter is
adopted in the current retrieval demonstration in Retrieval
Implementation and Validation. Pp(z)
gp
1
z2 βm(z) + βa(z)exp −2
z
0[αm(z′) + αa(z′)]dz′,
(36)
(36) where Pp(z) is the calibrated signal at the detector as a function of
the range (distance, z) between the lidar and the target
atmospheric volume, gp is a gain factor which takes into
account detector and receiver optical efficiencies, βa(z) and
βm(z) are backscatter coefficients of aerosols and air molecules
at range z, and αa and αm are the aerosol and molecular extinction
coefficients respectively. The exponential term on the right-hand
side of the above equation represents two-way attenuation of the
lidar signal between the detector and the atmospheric volume. Polarized Radiative Transfer High-spectral-resolution lidars such as NASA Langley’s HSRL-1
and HSRL-2 send a linearly polarized beam into an atmosphere. The returned lidar signals are measured with linear polarization
analyzers oriented both parallel (||) and perpendicular (⊥) to the
emitted beam. By taking the ratio of light intensities of these two
components, the depolarization ratio of the returned transmitted
signal is derived as: δ I⊥
I∥
. (38) (38) Due to the anisotropy of the air molecules, the depolarization
ratio of the pure molecular atmosphere is nonzero but can be pre-
calculated from climatology. Moreover, the backscatter of a
linearly polarized laser beam from spherical particles is totally
linearly polarized so that (δ 0). However, the presence of
nonspherical aerosols causes the measured depolarization ratio
to deviate from zero which provides extra constraints on
retrieving non-sphericity of aerosols. COUPLED RETRIEVAL OF AEROSOLS AND
OCEAN PROPERTIES The multiplication of the exponential term on the right hand
side of Eq. 36 and the term “[βa(z) + βm(z)]” gives attenuated
backscatter. The molecular scattering and extinction coefficients
βm(r) and αm(r) can be accurately determined from measured
atmospheric density or from climatology. What remain to be
resolved are the aerosol extinction and backscatter coefficients. However, with these two unknowns coupled in the attenuated
backscatter lidar system via Eq. 36, they cannot be separated from
one measured variable on the left-hand-side of the equation. By
adopting the HSRL measurement technique, however, the
received backscatter is split into two channels, one with a very
narrow bandwidth optical absorption filter in the molecular
channel to suppress the aerosol backscatter, whereas another is
a combined channel that detects the intensity contributed by both
aerosol and molecules. In this case, the lidar equation for the
combined signal remains the same as the above equation while for
the molecular channel with narrow bandwidth optical absorption
filter the lidar equation becomes [e.g., Burton et al., 2015], Frontiers in Remote Sensing | www.frontiersin.org State Vector Our algorithm is developed to be flexible and allow for
multiple
(Ns)
aerosol
species
to be
retrieved
from
a
combined use of lidar and polarimetric measurements
depending on the information content of 1) the specific
configuration of lidar measurement capabilities in terms of
providing the whole set or a subset of extinction, backscatter/
attenuated
backscatter,
and
depolarization
ratio
measurements, their vertical resolutions and number of
wavelengths;
and
2)
the
number
of
radiometric
and
polarimetric view angles and spectral channels provided by
a polarimeter. The state vector x that includes retrieval
parameters for Ns aerosol species can be expressed as, x x(1); x(2); / ; x(Ns); x(ocean)N×1,
(39) (39) Frontiers in Remote Sensing | www.frontiersin.org April 2021 | Volume 2 | Article 620871 8 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. Xu et al. TABLE 1 | Parameters in coupled aerosol and surface property retrieval, their initial estimates, and order of difference and Lagrange multipliers for imposing smoothness
constraints. State Vector Aerosol parameters (layer resolved)
Range
Initial guess
Order of finite
difference for vertical/
spectral
smoothness
constraints (mh)
Lagrange regularization
factor
(γh)
Real part of refractive index - parameter
1 (mr0)
Species 1
[1.33,1.60]
1.45
mh 1
ch 10
Species 2
[1.33,1.60]
1.35
mh 1
ch 10
Imaginary part of refractive index -
parameter 1 (mi0)
Species 1
[5 × 10−4, 5
× 10−1]
1 × 10−1
mh 1
ch 5
Species 2
[5 × 10−8, 5
× 10−2]
1 × 10−5
mh 1
ch 5
Real part of refractive - index parameter
2 (κr0)
Species 1
[1 × 10−5, 1×103]
1 × 10−2
mh 1
ch 10
Species 2
[1 × 10−5, 1×103]
1 × 10−2
mh 1
ch 10
Imaginary part of refractive index -
parameter 2 (κi0)
Species 1
[1 × 10−5, 1×103]
5 × 10−1
mh 1
ch 5
Species 2
[1 × 10−5, 1×103]
5 × 10−1
mh 1
ch 5
Volumetric median aerosol radius (rm)
Species 1
[1 × 10−2, 5
× 10−1]
1 × 10−1
mh 2
ch 5 × 10−1
Species 2
[1 × 10−1, 5×10°]
1×10°
mh 2
ch 5 × 10−1
Standard deviation of size distribution (σm)
Species 1
[0.9,1.1]
xσUHSAS
a,b
UHSAS in-situ
measurementa,b
mh 2
ch 5 × 10−1
Species 2
[0.9,1.1]xσAPS
c,b
APS in-situ measurementc,b
mh 2
ch 5 × 10−1
Aerosol subcolumn volume concentration
(Cv, μm3/μm2)
Species 1
[1 × 10−8, 5]
Associated with AOD 0.005/
NLayer
mh 3
ch 5 × 10−3
Species 2
[1 × 10−8, 5]
Associated with AOD 0.005/
NLayer
mh 3
ch 5 × 10−3
Spherical particle fraction (fv
sphere)
Species 1
[1 × 10−3, 1×10°]
9 × 10−1
mh 2
ch 1 × 10−1
Species 2
[1 × 10−3,1×10°]
9 × 10−1
mh 2
ch 1 × 10−1
Surface parameters (ocean)
Adjustment term (ΔaWL(λ), mw/cm2-sr-μm)
[1 × 10−5, 5 × 10°]
1 × 10−5
—
—
Chlorophyll a concentration ([Chl_a], mg/m3)
[1 × 10−2, 6 × 101]
3 × 10−1
—
—
Surface wind speed (Vwind, m/sec)
[1×10°, 3 × 101]
5
—
—
aUHSAS, Ultra-High Sensitivity Aerosol spectrometer; σUHSAS is derived from fitting in-situ size measurement by UHSAS using the log-normal size distribution (Eq. 103). Constraints x(s) C(s)
v ; m(s)
r0 ; κ(s)
r0 ; m(s)
i0 ; κ(s)
i0 ; r(s)
m ; σ(s)
m ; f (s),sphere
v
Naer×1, (40) Imposition of various types of constraints is important for
stabilizing
the
retrievals
and
improving
accuracy. The
combined lidar-polarimeter inversion approach described here
uses three types of constraints: 1) direct observation signals
provided
by
lidar
and
polarimetric
remote
sensing
measurements (see formulation in Observational Constraints (i
1)); 2) a priori constraint for the retrieval parameters (see
formulation in A Priori Constraints (i 2)); and 3) smoothness
constraint over the variations of certain aerosol properties along
altitude (see formulation in Smoothness Constraints (i 3)). Incorporation of all these three types of constraints into our
combined inversion approach is described in Construction of
Overall Equation System. where for sth aerosol species Cv contains layer specific column
aerosol concentration (m3/m2), (mr0, κr0) and (mi0, κi0) are
layer resolved model parameters that constrain spectrally
dependent real and imaginary parts of aerosol refractive
index, respectively (via Eq. 30); rm and σm contain layer
resolved geometric volume median radius and standard
deviation of volumetric log-normal distribution; fv
sphere
contain the layer resolved volume fraction of spherical
aerosols. As the last component of the state vector in Eq. 39, x(ocean) contains parameters that contribute to ocean
surface reflection. These parameters include a simplified
bio-optical model parameter chlorophyll-a concentration,
wind speed and the empirical terms (Lambertian) that
mitigate the bio-optical modeling errors by adjusting the
spectral
water-leaving
radiance
(see
Development
of
a where for sth aerosol species Cv contains layer specific column
aerosol concentration (m3/m2), (mr0, κr0) and (mi0, κi0) are
layer resolved model parameters that constrain spectrally
dependent real and imaginary parts of aerosol refractive
index, respectively (via Eq. 30); rm and σm contain layer
resolved geometric volume median radius and standard
deviation of volumetric log-normal distribution; fv
sphere
contain the layer resolved volume fraction of spherical
aerosols. As the last component of the state vector in Eq. 39, x(ocean) contains parameters that contribute to ocean
surface reflection. These parameters include a simplified
bio-optical model parameter chlorophyll-a concentration,
wind speed and the empirical terms (Lambertian) that
mitigate the bio-optical modeling errors by adjusting the
spectral
water-leaving
radiance
(see
Development
of
a Imposition of the above three types of constraints
(M
3)
can
be
formulated
in
the
framework
of
statistical
inversion
of
multi-source
constraints. State Vector cAPS, Aerodynamic Particle Sizer (APS-TSI3320); σAPS is derived from fitting in-situ size measurement by APS using the log-normal size distribution (Eq. 103). bσUHSSA and σAPS are adopted when measured lidar extinction is larger than its uncertainty; otherwise the initial guess of σm is set to 0.2 and its range is relaxed to [0.05, 0.60]. TABLE 1 | Parameters in coupled aerosol and surface property retrieval, their initial estimates, and order of difference and Lagrange multipliers for imposing smoothness
constraints TABLE 1 | Parameters in coupled aerosol and surface property retrieval, their initial estimates, and order of difference and Lagrange multipliers for imposing smoothness aUHSAS, Ultra-High Sensitivity Aerosol spectrometer; σUHSAS is derived from fitting in-situ size measurement by UHSAS using the log-normal size distribution (Eq. 103). cAPS, Aerodynamic Particle Sizer (APS-TSI3320); σAPS is derived from fitting in-situ size measurement by APS using the log-normal size distribution (Eq. 103). bσUHSSA and σAPS are adopted when measured lidar extinction is larger than its uncertainty; otherwise the initial guess of σm is set to 0.2 and its range is relaxed to [0.05, 0.60]. Lookup Table for Aerosol Single Scattering Properties). Retrieval starts with an initial estimate of these parameters,
as specified in Table 1. where N is the total number of aerosol and ocean properties to be
retrieved, the subvector x(s) contains aerosol properties for sth
aerosol species. For a total of Naer 8 aerosol parameters per
species, we have, Observational Constraints (i 1) Without the loss of generality, we assume a polarimeter
measures
multi-angular
radiance
(L)
across
multiple
spectral channels. Neglecting the contribution from circular
polarization, the polarimetric components Q/L and U/L can be
combined into DOLP via DOLP (Q2 + U2)1/2/L. Lidar
observations
include
extinction
(α),
backscatter
or
attenuated backscatter (β) and depolarization ratio (δ). Arranging all types of observations into a single column
vector we have Further introducing the weight matrix (W), the objective cost
function to be minimized has a quadratic form, namely, Ψtotal(x)
M
i1
ciΨi(x),
(44) (44) where Ψi(x) 1
2fi(x) −fp
i
TW−1
i fi(x) −fp
i ,
(45) (45) with with fp
i1(x) fp
1,L; fp
1,DOLP; fp
1,α; fp
1,β; fp
1,δ "y1; y2; /; yNf#,
(54) (54) Wi 1
ε2
i
Ci,
(46)
ci ε2
1
ε2
i
,
(47) (46) where the total number of signals Nf NL + NDOLP + Nα + Nβ +
Nδ, where Nx is the number of “x” type of signals. (47) The aerosol and ocean properties in the state vector are
adjusted so that the model prediction of these types of signals
f1(x) [f1, L; f1, DOLP; f1,α; f1,β; f1,δ]
fit
the
observational
constraints fp
1(x). The calculation of f1(x) is introduced in
Forward
Model
for
Light
Propagation
in
a
Coupled
Atmosphere-Ocean System. The Jacobian matrix K1 consists of
first order partial derivatives with respect to all elements in the
state vector x, namely, In the above equations, ε2
i is the first diagonal element of Ci
(i.e., ε2
i {Ci}11) and the Lagrange factor ci weights the
contribution of each type of constraint with respective to the
first one (c1 1). Minimization
of
Ψtotal(x)
in
Eq. 44
means
its
gradient with respect to the solution x approaches zero,
such that K1 KL
KDOLP
Kα
Kβ
Kδ
T,
(55) (55) ∇Ψtotal(x)
M
i1
ci∇Ψi(x) 0,
(48) (48) where KL, KDOLP, Kα, Kβ, and Kδ are the Jacobian matrices
containing derivatives of L, DOLP, α, β and δ with respect to
aerosol parameters xj (1 ≤j ≤N), respectively. Accounting for all
N parameters in the state vector (see Eq. Constraints Our April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 9 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion objective is to solve the following system of equations
(Dubovik, 2004): where Ki is the Jacobian matrix containing the derivatives of the
ith type of constraint with respect to the retrieval parameters. To
approach the solution iteratively, we replace x by x −Δx in Eq. 49
and substitute fp
i fi(x) + Δfp
i ,
1 ≤i ≤M
(41) (41) where fp
i denotes the ith type of constraint, Δfp
i is the error with
this type of constraint, and x xstate as defined in Eq. 39. Formally, the statistical independence of different sources of
constraints
means
that
the
covariance
matrix
of
joint
constraint fp [fp
1; fp
2; /; fp
M] has the following structure fi(x −Δx) fi(x) −KiΔx,
(50) (50) into it. This results in into it. This results in ∇Ψi(x −Δx) KT
i W−1
i fi(x) −KiΔx −fp
i 0,
(51) (51) Cf p
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
C1
0
0
0
0
C2
0
0
/
/
1
/
0
0
CM
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦,
(42) or equivalently, or equivalently, (42) KT
i W−1
i Ki)Δx KT
i W−1
i fi(x) −fp
i ∇Ψi(x). (52) (52) The Jacobian matrix Ki in Eqs 49–52 consists of the derivative of
the mth observational or a priori data with respect to the nth
unknown, where Ci indicates the covariance matrix of the ith constraint (fp
i ). Following the expressions of fp
i
and Cfp
i , the probability
distribution function (PDF) of joint data (1 ≤i ≤M) can be
derived by multiplying PDFs of data from all M sources of
constraints, namely, Ki,(m,n) zfi,m
zxn
. (53) (53) Pf(x)
fp
M
i1
Pfi(x)
fp
i ∼exp
⎧
⎨
⎩
−1
2
M
i1
fi(x) −fp
i
T(Ci)−1fi(x) −fp
i
⎫
⎬
⎭. (43) More explicit evaluation of fi(x), fp
i and K and W matrices
for all types of constraints is discussed in the following
subsections. Observational Constraints (i 1) (62) Kδ
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kδ,l1
0
/
0
0
Kδ,l2
/
0
/
/
1
/
0
0
/
Kδ,lNLayer
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦. (62) The Jacobian matrix for extinction coefficient equals to (62) Kα
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kα,l1
0
/
0
0
0
Kα,l2
/
0
0
«
«
1
«
«
0
0
/
Kα,lNLayer
0
0
0
/
0
0Ocean
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(57) (57) Assuming extinction δ is provided at Mδ wavelengths, the layer
resolved Jacobian matrix for depolarization ratio (Kδ,l)
equals to where NLayer is the number of layers in which lidar signals are
resolved. Assuming extinction α is provided at Mα wavelengths,
the layer resolved Jacobian matrix (Kα,l) for extinction coefficient
equals to, Kδ,l
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
zδl(λ1)
zxl,1
zδl(λ1)
zxl,2
/
zδl(λ1)
zxl,N
zδl(λ2)
zxl,1
zδl(λ2)
zxl,2
/
zδl(λ2)
zxl,N
/
/
1
/
zδlλMδ
zxl,1
zδlλMδ
zxl,2
/
zδlλMδ
zxl,N
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
. (63) (63) Kα,l
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
zαl(λ1)
zxl,1
zαl(λ1)
zxl,2
/
zαl(λ1)
zxl,N
zαl(λ2)
zxl,1
zαl(λ2)
zxl,2
/
zαl(λ2)
zxl,N
/
/
1
/
zαlλMα
zxl,1
zαlλMα
zxl,2
/
zαlλMα
zxl,N
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(58) (58) where δl is contributed by both molecules and aerosols in lth layer
and is equal to particulate depolarization ratio (δ δl,a) if the
derived aerosol depolarization ratio is used directly. The overall covariance matrix incorporates the submatrices
from all types of signals, namely, The Jacobian matrix for backscatter coefficient and attenuated
backscatter coefficients is evaluated by, )
W1
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
WL
0
0
0
0
0
WDOLP
0
0
0
0
0
Wα
0
0
0
0
0
Wβ
0
0
0
0
0
Wδ
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(64) coefficients is evaluated by,
Kβ
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kβ,l1
0
/
0
0
Kβ,l2
/
0
/
/
1
/
0
0
/
Kβ,lNLayer
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦,
(59)
W1
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
WL
0
0
0
0
0
WDOLP
0
0
0
0
0
Wα
0
0
0
0
0
Wβ
0
0
0
0
0
Wδ
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(64) Kβ
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kβ,l1
0
/
0
0
Kβ,l2
/
0
/
/
1
/
0
0
/
Kβ,lNLayer
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦,
(59)
Kβ
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kβ,l1
0
/
0
Kβ,l1
Kβ,l2
/
0
/
/
1
/
Kβ,l1
Kβ,l2
/
Kβ,lNLayer
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦,
(60) (64) (59) and If absolute measurement uncertainty is used and correlation
among signals are neglected, then Wx is a diagonal matrix. Observational Constraints (i 1) 39), KL can be expanded
into the following matrix form: which can be ensured by enforcing the gradient of all components
approach zero, namely ∇Ψi(x) KT
i W−1
i fi(x) −fp
i 0,
(49) (49) Frontiers in Remote Sensing | www.frontiersin.org
10 Frontiers in Remote Sensing | www.frontiersin.org April 2021 | Volume 2 | Article 620871 10 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion KL
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
zL1
zx1
zL1
zx2
/
zL1
zxN
zL2
zx1
zL2
zx2
/
zL2
zxN
/
/
1
/
zLNL
zx1
zLNL
zx2
/
zLNL
zxN
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(56)
Kβ,l
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
zβl(λ1)
zxl,1
zβl(λ1)
zxl,2
/
zβl(λ1)
zxl,N
zβl(λ2)
zxl,1
zβl(λ2)
zxl,2
/
zβl(λ2)
zxl,N
/
/
1
/
zβlλMβ
zxl,1
zβlλMβ
zxl,2
/
zβlλMβ
zxl,N
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(61) (61) where NL depends on the number of views angles (Nview) and the
number of channels (Nλ, L) of a polarimeter. Assuming the same
number of view angles for all spectral bands, then we have NL
Nλ,L × Nview. Replacing “L” in the above equation by DOLP gives
the Jacobian matrix KDOLP and in this case the total number of
DOLP signals depends on the number of polarimetric bands
(Nλ,DOLP) so that NDOLP Nλ,DOLP × Nview. Calculation of the
derivatives in Eq. 56 can proceed numerically by use of finite
difference method, or analytically (and more efficiently) if the RT
model is linearized. where β βl,a if we use the derived product of particulate
backscatter for the lth layer from lidar measurement, and β
βl,att if we used direct measured attenuated backscatter signals,
where βl,att is the product of the backscatter (contributed by both
molecules and aerosols) and the two-way transmission of the
atmospheric volume between the lidar and the backscatter
volume in question (see Eq. 36). where β βl,a if we use the derived product of particulate
backscatter for the lth layer from lidar measurement, and β
βl,att if we used direct measured attenuated backscatter signals,
where βl,att is the product of the backscatter (contributed by both
molecules and aerosols) and the two-way transmission of the
atmospheric volume between the lidar and the backscatter
volume in question (see Eq. 36). The Jacobian matrix for depolarization ratio (δ) equals to Kδ
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kδ,l1
0
/
0
0
Kδ,l2
/
0
/
/
1
/
0
0
/
Kδ,lNLayer
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦. A Priori Constraints (i 2) (70) Starting from Eq. 41, the a priori constraint can be explicitly
expressed as (Dubovik, 2004), Application of the above equation to L discretized grids rj
(namely, 1 ≤j ≤L) leads to Application of the above equation to L discretized grids rj
(namely, 1 ≤j ≤L) leads to fp
i2 xa priori x + Δxa priori. (65) (65) pp
(namely, 1 ≤j ≤L) leads to Moreover, Ki2 I (identity matrix) and Wi2 (1/ε2
ap
11)Cap in
Eqs 49–52. In explicit form, Wi2 is constructed from estimated
range of each parameter relative to the first one (Dubovik and
King, 2000), fi(x) Si,mx,
(71) fi(x) Si,mx,
(71) (71) so that by invoking Eq. 53, so that by invoking Eq. 53, Ki Si,m,
(72) (72) Wi2 Wa
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
1
0
/
0
0
x2,max −x2,min
2
x1,max −x1,min
2
/
0
/
/
1
/
0
0
/
xN,max −xN,min
2
x1,max −x1,min
2
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
. (66) Wi2 Wa
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
1
0
/
0
0
x2,max −x2,min
2
x1,max −x1,min
2
/
0
/
/
1
/
0
0
/
xN,max −xN,min
2
x1,max −x1,min
2
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
. (66) where the matrix Si,m is evaluated by, where the matrix Si,m is evaluated by, Si,m1
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
1
Δ1(1)
−
1
Δ1(1)
0
/
0
0
1
Δ1(2)
−
1
Δ1(2)
/
0
0
0
/
1
0
0
0
/
1
Δ1(L −1)
−
1
Δ1(L −1)
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
,
(73) (66) (73) where [xi,min, xi,max] are the lower and upper bounds of ith
retrieval parameters, respectively. For retrieving combined RSP
and HSRL-2 observations, their estimates are specified in Table 1. and Si, m 2
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
2
Δ1(1)[Δ1(1) + Δ1(2)]
−2
Δ1(1)Δ1(2)
2
Δ1(2)[Δ1(1) + Δ1(2)]
0
0
/
0
0
2
Δ1(2)[Δ1(2) + Δ1(3)]
−2
Δ1(2)Δ1(3)
2
Δ1(3)[Δ1(2) + Δ1(3)]
/
0
/
/
/
/
/
1
/
0
0
/
2
Δ1(L −1)[Δ1(L −1) + Δ1(L)]
−2
Δ1(L −1)Δ1(L)
/
2
Δ1(L)[Δ1(L −1) + Δ1(L)]
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦
(74) Observational Constraints (i 1) Taking
jth signal (xj) with relative uncertainty σj as an example, we have
Wx, jj σ2
j . If relative uncertainty (εj) is used, then we have Wx, jj
ε2
j x2
j . Under
certain
circumstances
signals
may
differ
in
magnitude. To balance their contributions to the cost function
which reflects the quality of fitting, observations are often
transferred to logarithmic space for fitting. In this case, we
have Wx, jj ε2
j . Kβ
⎡⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣
Kβ,l1
0
/
0
Kβ,l1
Kβ,l2
/
0
/
/
1
/
Kβ,l1
Kβ,l2
/
Kβ,lNLayer
⎤⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦,
(60) (60) respectively. Assuming β is provided at Mβ wavelengths, the layer
resolved Jacobian matrix for backscatter coefficient (Kβ,l) can be
expanded into the following specific form, April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org
11 Frontiers in Remote Sensing | www.frontiersin.org Combined Lidar-Polarimeter Aerosol Inversion Xu et al. Xu et al. A Priori Constraints (i 2)
Starting from Eq. 41, the a priori constraint can be explicitly
expressed as (Dubovik, 2004),
⎧
⎨
⎩
Δm1zj zj+1 −zj
Δm2zj Δ1zj + Δ1zj+1%2 . (70) xplicitly
⎧
⎨
⎩
Δm1zj zj+1 −zj
Δm2zj Δ1zj + Δ1zj+1%2 . (70) A Priori Constraints (i 2)
Starting from Eq. 41, the a priori constraint can be explicitly
expressed as (Dubovik, 2004),
⎧
⎨
⎩
Δm1zj zj+1 −zj
Δm2zj Δ1zj + Δ1zj+1%2 . (70) ⎧
⎨
⎩
Δm1zj zj+1 −zj
Δm2zj Δ1zj + Δ1zj+1%2 . (70) Smoothness Constraints (i 3) The third type of constraint reflects the smooth variation of a
certain type of parameter as a function of altitude. we have The same principle applied to higher orders of difference (m > 2)
ensures a smooth curve with dmg(z)/dzm 0. Substitution of Eqs
71 and 72 and fp
i 0p into Eq. 45 gives, fp
3 0p Si3, mx + Δp
g,
(67) (67) where Si3,m is the differentiation matrix of mth order for third
type of constraint and the delta term Δp
g accounts for the
uncertainties
associated
with
the
assumption
of
smooth
variation of an aerosol parameter to the mth order. The error
of such an assumption is accounted via the cost function
component given in Eq. 75 later. Ψi(x) 1
2xTST
i,mW−1
i,mSi,mx,
(75) (75) where the weighting matrix W has the following diagonal terms, where the weighting matrix W has the following diagonal terms, &Wi,m'jj
1
Δmzj
,
(76) (76) When a retrieval parameter varies smoothly as a function
of some variable (e.g., altitude) z, it is assumed to be
locally approximated by a smooth function g(z), such as a
constant, a line, a parabola, etc. With a polynomial form, the
mth derivative approaches zero (Dubovik et al., 2011), such
that, and Δm(zj) is specified in Eq. 70 for m 1 and 2, and can be
generalized to an arbitrary higher order. g
y
g
Substitution of Eqs 71 and 72 and fp
i 0p into Eq. 52 gives ST
i,mW−1
i,mSi,m)Δx ST
i,mW−1
i.mSi,mx. (77) (77) Si,m(z)z dmg(z)
dzm
0
0
⎧
⎪
⎨
⎪
⎩
gm1(z) const
gm2(z) Az + B
gm3(z) Az2 + Bz + C
. (68) Further defining Further defining (68) Ωi ST
i,mW−1
i,mSi,m,
(78) (78) we have For a discretized grid of the variable z, the explicit form of Si,mz, is, For a discretized grid of the variable z, the explicit form of Si,mz, is, ΩiΔx Ωix. (79) (79) Si,mzjzj
⎧
⎪
⎪
⎪
⎪
⎪
⎪
⎨
⎪
⎪
⎪
⎪
⎪
⎪
⎩
dg
dz ≈Δ1g
Δ1(z)
gzj+1 −gzj
Δ1zj
,
for m 1
dmg
dzm ≈Δmg
Δm(z)
Δm−1gzj+1/Δm−1zj+1 −Δm−1gzj/Δm−1zj
Δm−1zj + Δm−1zj+1%2
,
for m ≥2
. (69) Construction of Overall Equation System Accounting for the above three types of constraints, the solution
to the non-linear minimization of Eq. 44 can be approached
iteratively. At iteration q, the solution is updated as, (69) Taking the orders of difference m 1 and 2 as examples, we
have xq+1 xq −Δxq,
(80) (80) April 2021 | Volume 2 | Article 620871
12 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 12 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. where Δxq is obtained by accounting for all three types of
constraints derived in Observational Constraints (i 1), A
Priori Constraints (i 2), and Smoothness Constraints (i 3), where Δxq is obtained by accounting for all three types of
constraints derived in Observational Constraints (i 1), A
Priori Constraints (i 2), and Smoothness Constraints (i 3), where ε2
i are the first diagonal elements of the covariance matrices
corresponding to ith type of constraints. To estimate ε2
i for a given
parameter to be retrieved (f x) which is a function of z, the most
unsmooth known solution f us(z) over the target domain is used
as suggested by Dubovik and King (2000) namely, Aq × Δxq ∇Ψtotalxq. (81) (81) As the explicit form, we have As the explicit form, we have ε2
zmax
zmin
dmf us(z)
dmz
2
dz,
(89) (89) Aq KT
1,qW−1
1 K1,q + cΩ + caW−1
a ,
(82)
∇Ψtotalxq KT
1,qW−1
1 f1xq −fp
1 + cΩxq + caW−1
a
xq −xa priori,
(83) (82) where zmin and zmax specify the lower and upper bound of z. For
ci3 is evaluated using most unsmooth known solution of
parameter x over the target domain. In the current study, the
vertical variations of extinction and backscatter from lidar
measurements
are
referred
to
initialize
the
Lagrange
multipliers for profiled aerosol properties. (83) where “cΩ” incorporates vertical and spectral smoothness
constraints, namely, cΩ ( chΩh
0
0
0ocean ),
(84) (84) Indeed, the Lagrange multipliers for practical implementation
has to be modified to account for possible redundancy of the
measured and a priori data and to reduce the weight of a priori
constraints during an optimization process (Xu et al., 2019): where the smoothness matrix chΩh acts on the vertical variations
of aerosol parameters; and the multipliers γh control the strength
of the constraints. Convergence Criteria Ideally, a retrieval is deemed successful when the minimization of
the cost function is achieved in such a way that ensures Ψtotal ≤Nf + Nc + Na* −Naε2
f ,
(86) (86) where Nf is the number of observations, Nc is the number of
constraints
imposed
on
retrieval
(including
vertical
smoothness constraints), Na is the number of retrieval
parameters, and Na* is the number of a priori estimates of
parameters; ε2
f is the expected variance due to measurement
errors. In practice, forward RT modeling error and other
unmodeled effects can impede the cost function being
satisfied by the form of Eq. 86. Taking such a practical
situation into account, the retrieval is also terminated when
the relative difference of fitting residuals with solutions from
two
successive
iterations
drops
below
a
user-specified
threshold value, ε2
c, namely, Construction of Overall Equation System The explicit forms of chΩh are given by. cFinal
i
Nf
Ni
~ε2
f
ε2
f
ci,
(90) cFinal
i
Nf
Ni
~ε2
f
ε2
f
ci,
(90) (90) chΩh
⎛
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎝
ch,n1Ωn1
0
/
0
0
ch,n2Ωn2
/
0
/
/
1
/
0
0
/
ch,NaerΩNaer
⎞⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎠,
(85) where where (85) ~ε2
f xq ≈
Ψtotalxq
Nf + Nc + Nap −Naε2
f
. (91) (91) where the diagonal terms correspond to the constraints imposed
on the Naer aerosol parameters. For retrieving a combined set of RSP and HSRL-2 observations,
first estimates of Lagrange parameters ci are specified in
Table 1 and then scaled by the ratio of the cost functions
associated with the updated and the previous iterative
solutions during optimization. Typically, retrieval takes 8-
10 iterations to meet the convergence criteria specified
Convergence Criteria. For retrieving a combined set of RSP and HSRL-2 observations,
first estimates of Lagrange parameters ci are specified in
Table 1 and then scaled by the ratio of the cost functions
associated with the updated and the previous iterative
solutions during optimization. Typically, retrieval takes 8-
10 iterations to meet the convergence criteria specified
Convergence Criteria. Retrieval Error Estimate Random errors (Δyobs
rand) and systematic errors (Δysyst) are two
major error types. The former is contributed by measurements
while the latter is contributed by both measurement (Δyobs
syst) and
forward model (Δymodel). Following Dubovik’s error estimate
methodology [2004], we also consider a priori smoothness
constraints
regarding
the
vertical
distribution
of
aerosol
parameters, and a priori estimate of the solution in retrieval
error estimate. The overall covariance matrix for error estimate
for combined lidar-polarimeter inversion is expressed as, CΔx,syst ΔxsystΔxsyst
T + CΔx, rand,
(92) (92) Ψtotalxq+1 −Ψtotalxq
Ψtotalxq
≤ε2
c. (87) (87) where Δxsyst is approximated by Δxsyst A−1∇Ψ,
(93) Δxsyst A−1∇Ψ,
(93) (93) and covariance matrix of the retrieval solution contributed by the
random error is evaluated by RETRIEVAL IMPLEMENTATION AND
VALIDATION Observations From HSRL-2 and RSP
Following the algorithm formulation in the previous sections, the
retrieval approach is applied to combined sets of polarimetric and
lidar observations acquired by RSP and HSRL-2 on September 12,
2016 during the ORACLES field campaign. The polarimeter
signals include radiance and DOLP and the lidar signals
include
particulate
extinction
coefficient,
backscatter,
and
depolarization ratio. p
g
For practicality, Δxsyst is calculated by assuming Δysyst f1xretrieved −f*
1. (97) (97) so that Eq. 93 becomes so that Eq. 93 becomes Δxsyst A−1KT
1W−1
1 f1xretrieved −f*
1 + cΩxtrue
+ caW−1
a xtrue −xa priori. (98) (98) p
During the ORACLES mission, RSP and HSRL-2 were aboard
NASA’s ER-2 aircraft flying at an altitude of 20 km. NASA’s P-3
Orion aircraft flew underneath the ER-2 at up to 6 km in altitude. It carried a set of instrumentation, including the Hawaii Group
for Environmental Aerosol Research (HiGEAR, (McNaughton
et al., 2009)) aerosol in situ sampling instruments and NASA
Ames
Spectrometer
for
Sky-Scanning,
Sun-Tracking
Atmospheric Research (4-STAR, (Dunagan et al., 2013)) that
combines airborne Sun tracking and sky scanning with grating
spectroscopy to improve knowledge of atmospheric constituents. HiGEAR’s suite of in situ sampling instruments measure
absorption and scattering coefficients under dry conditions,
which can be used to derive aerosol SSA. 4-STAR measures
accumulated AOD. As the retrieved solution is the closest estimate of the “true”
solution xtrue, we assume xtrue xretrieved. When a priori xa priori is
unavailable, we further assume xa priori xtrue. Under these
assumptions, the last term on the right-hand-side of Eq. 95
disappears (namely caW−1
a (xtrue −xa priori) 0). Note that Eq. 94 treats measurement errors as random. Indeed, these errors are
already contained in the observation f*
1 used by Eq. 98. Therefore,
by implementing Eqs 92, 94 and 98, it is possible that errors are
double-counted in the case that they bias the solution in the same
direction as the modeling errors, resulting in a conservative error
estimate. Determination of Lagrange Multipliers The Lagrange multipliers reflect the strength of smoothness
constraints for a given parameter to be retrieved. Each
multiplier is defined as, CΔx, rand A−1ε2
rand,
(94) (94) where εrand is the random noise, A is computed at the retrieved
solution x via Eq. 82 and ∇Ψ is given by where εrand is the random noise, A is computed at the retrieved
solution x via Eq. 82 and ∇Ψ is given by ci ε2
i1ε2
i ,
(88) (88) April 2021 | Volume 2 | Article 620871
13 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 13 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. ∇Ψ JTW−1
f Δysyst + cΩxtrue + caW−1
a xtrue −xp, (95) zero in Eq. 57. In practice, however, observation errors can highly
correlated between neighboring spectral bands and/or angular
measurements. In addition, the a priori covariance matrix also
assumes no error dependency between state vector elements so
that its off-diagonal terms in Eq. 66 are zero. These are potential
error sources of our error estimate model. where the total systematic error is expressed as where the total systematic error is expressed as Δysyst
2 Δyobs
syst
2 + Δymodel
2. (96) (96) By performing the above error analysis, it is assumed that the
modeling error and the systematic errors of an instrument in Eq. 28 are well characterized. Indeed, their quantification is rather
difficult due to the complexity of error analysis for a sensor that
consists of multiple optical units as well as the under-
characterization of multiple sources of modeling errors. RETRIEVAL IMPLEMENTATION AND
VALIDATION To estimate errors for functions of the retrieved parameters
(namely y f(x), and y can be vertical layer resolved SSA and
AOD,
vertical
layer
resolved
extinction
and
scattering
coefficients, accumulated AOD from the TOA, effective radius,
etc.), the chain rule is applied so that we have the following matrix
form, We selected the scenes that met the following criteria: 1)
collocated measurements by RSP and HSRL-2 onboard NASA’s
ER-2 high altitude aircraft are available; 2) collocated AOD, SSA,
and aerosol size distribution data for retrieval validation provided
by 4-STAR and HiGEAR are available; and 3) the measurements
were made at cloud-free condition, as identified from HSRL-2’s
backscatter measurements. Figure 3 provides a curtain of HSRL-
2 aerosol backscatter at 532 nm along the ER-2 flight on
September 12, 2016. This is the typical aerosol scene from the
ORACLES campaign over the southeast Atlantic Ocean. A layer
of elevated smoke aerosol was originated from biomass burning
and transported to the ocean. After mixing with marine sea salt
aerosol (dark red in the lidar curtain) from the top of the
boundary layer, the mixture complexity provides us an ideal
scene to test our algorithm. As indicated by the white line in the
upper right part of the figure, the lidar and polarimeter data
meeting these criteria were acquired from 14:25 to 14:34 UTC. During this timeframe, the solar zenith angle is around 52°, and
the ER-2 aircraft flew a distance about 100 km from (-18.73°N,
8.72°E) to (-19.39°N, 9.39°E). A total of 50 sets of observations
with collocated measurements by HSRL-2 and RSP data were
collected to test the combined retrieval. Moreover, 4-STAR
measurements of accumulated AODs at different altitudes
under 6 km (as traversed by the P-3) and SSA derived from Δy
KT
y CΔxKy
0
,
(99) (99) where Ky denotes the Jacobian array containing derivatives of y
with respect to all retrieved parameters x that are relevant to the
calculation of y. Summing over the contribution by both systematic and
random errors, the overall error is estimated by taking the
diagonal term of the retrieval error covariance matrix, namely Δxj
(CΔx)jj
0
,
(100) (100) where CΔx is given in Eq. 92. where CΔx is given in Eq. 92. where CΔx is given in Eq. 92. Moreover, the initial guess of the standard deviation
of fine and coarse aerosol size distribution are informed by
UHSAS measurements. the name “355_aer_dep”, “532_aer_dep”, and “1,064_aer_dep”
for the three wavelengths in the product. In computing the error
covariance matrix, an uncertainty of 17 Mm−1, 5%, and 10% are
assumed for αa, βa, and δa, respectively. Within the 315 m layer,
optical homogeneity is assumed. Such a layer is further divided
into sublayers to ensure the radiative transfer modeling accuracy. HiGEAR products of absorption and scattering coefficients, and
number weighted aerosol size distribution are available in this
time frame, as indicated in Figure 4. They are used for retrieval
validation. The RSP instrument measures the radiance and polarimetric
components Q and U in nine wavelength bands from UV
(410 nm) to short-wave infrared (2,250 nm) (Cairns et al.,
1999). If RSP’s measurements are collocated with HSRL-2’s
(lat, lon) within 1 km horizontal distance, then its angular
data are used for combined retrieval. For the 50 sets of
observations under test, a total of 152 view angles from –39°
to 25° around nadir in the wavelengths 410, 470, 550, 670, and
865 nm are used. Note that due to the yaw of the ER-2 aircraft and
high altitude, RSP’s view angular range is reduced to [−39°, 25°]
around nadir. These measurements are within ±35° around the
principal plane. The relative uncertainty is 2% for intensity and
the absolute uncertainty 0.002 for DOLP. HSRL-2 is the second
generation NASA Langley airborne High Spectral Resolution
Lidar (Hair et al., 2008). It uses the HSRL technique (Shipley
et al., 1983) to independently measure aerosol backscatter and
extinction at 355 and 532 nm. While HSRL-2 products of
particulate extinction, backscatter, depolarization ratio are
reported at 15 m vertical resolution, the true resolution is
315 m for extinction (αa) and 15 m for backscatter (βa) and
depolarization (δa) in the ORACLES campaign (Burton et al.,
2018). The lidar signals that we used in this study include aerosol
extinction, backscatter, and depolarization ratio. In the HSRL-2
product, the aerosol extinction at 355 and 532 nm wavelengths
are under the name “355_ext” and “532_ext”, respectively. To
preserve the independence of extinction data used for retrieval,
we access αa at 315 m resolution. The aerosol backscatter data at
355, 532, and 1,064 nm wavelength are under the name
“355_bsc_Sa”, “532_bsc_Sa”, and “1,064_bsc_Sa”, respectively
in the HSRL-2 product. where CΔx is given in Eq. 92. Their reported values are averaged at
the same resolution as extinction for lidar ratio (“Sa”) calculation. The depolarization ratios at the three lidar wavelengths are under y
g
y
As the assumption, two aerosol species are retrieved from the
combined use of HSRL-2 and RSP observations. Each species is
characterized by an independent and layer resolved set of
refractive index, log-normal volumetric size distribution, and
spherical particle fraction. These quantities are initialized with
values in Table 1 before retrieval starts. As informed by the range
of the imaginary part of the refractive index in Table 1, weakly to
strongly absorbing fine mode aerosols, and non-absorbing to
moderately absorbing coarse mode aerosols are assumed in
retrieval. Moreover, the initial guess of the standard deviation
of fine and coarse aerosol size distribution are informed by
UHSAS measurements. where CΔx is given in Eq. 92. Our error estimates involve the use of Jacobians and assume 1)
the retrieved solution is representative of the solution space; and
2) retrieval errors are linearly proportional to the measurement
errors. These assumptions can be problematic in situations where
the model and/or observation errors are large. Moreover, the
observation covariance matrix assumes no correlations among
errors of observational signals so that its off-diagonal terms are April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 14 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 3 | HSRL-2 aerosol backscatter at 532 nm along ER-2 flight on September 12, 2016. The white piece of line marks the temporal window from 14:25 to 14:
34UTC when the HSRL-2 and RSP collocated measurements were made. The ER-2 aircraft flew a distance ∼100 km from (−18.73°N, 8.72°E) to (−19.39°N, 9.39°E)
within this temporal window. A total of 50 sets of observations are identified to test the combined retrieval with a simultaneous use of RSP and HSRL-2 data. FIGURE 3 | HSRL-2 aerosol backscatter at 532 nm along ER-2 flight on September 12, 2016. The white piece of line marks the temporal window from 14:25 to 14:
34UTC when the HSRL-2 and RSP collocated measurements were made. The ER-2 aircraft flew a distance ∼100 km from (−18.73°N, 8.72°E) to (−19.39°N, 9.39°E)
within this temporal window. A total of 50 sets of observations are identified to test the combined retrieval with a simultaneous use of RSP and HSRL-2 data. the name “355_aer_dep”, “532_aer_dep”, and “1,064_aer_dep”
for the three wavelengths in the product. In computing the error
covariance matrix, an uncertainty of 17 Mm−1, 5%, and 10% are
assumed for αa, βa, and δa, respectively. Within the 315 m layer,
optical homogeneity is assumed. Such a layer is further divided
into sublayers to ensure the radiative transfer modeling accuracy. As the assumption, two aerosol species are retrieved from the
combined use of HSRL-2 and RSP observations. Each species is
characterized by an independent and layer resolved set of
refractive index, log-normal volumetric size distribution, and
spherical particle fraction. These quantities are initialized with
values in Table 1 before retrieval starts. As informed by the range
of the imaginary part of the refractive index in Table 1, weakly to
strongly absorbing fine mode aerosols, and non-absorbing to
moderately absorbing coarse mode aerosols are assumed in
retrieval. Retrieval Validation Against 4-STAR and
HiGEAR Measurements As the first check, a retrieval is performed using RSP and HSRL-2
collocated measurement at 14:25:10 UTC, namely the first case
among the total 50 sets of collocated observations. Figure 5
displays the whole set of retrieved aerosol geophysical parameters
as a function of altitude. These parameters include aerosol
refractive index, volume concentration, geometric volume
mean radius and logarithmic standard deviation of aerosol size
distributions, and spherical particle fraction. These quantities are
displayed in different panels. From the ranges of the retrieved real
and imaginary parts of refractive index, the two aerosol species
pre-assumed in our retrieval can be distinguished as smoke and
sea salt particles. Following the transportation of biomass burning smoke
particles
for
a
long
distance
(e.g.,
>800 km)
from
the April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 15 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion FIGURE 4 | Collocation of HSRL-2, 4-STAR, and the HiGEAR suite of instrumentation in taking measurements. The column aerosol optical depth accumulated
from the position of the ER-2 aircraft to the location of P-3 aircraft calculated from HSRL-2 is used to validate the retrieval and to compare to the 4-STAR reference data. The aerosol SSA derived from extinction and scattering coefficients measured by HiGEAR suite of instrumentation is used to validate the retrieved SSA. HiGEAR also
provides fine and coarse mode aerosol size distributions measured by UHSAS and APS instruments at dry condition, which are compared to the retrieved size
distributions at ambient condition. Approximately at the altitude from 3 to 6 km, P-3 followed the trajectory of ER-2. FIGURE 4 | Collocation of HSRL-2, 4-STAR, and the HiGEAR suite of instrumentation in taking measurements. The column aerosol optical depth accumulated
from the position of the ER-2 aircraft to the location of P-3 aircraft calculated from HSRL-2 is used to validate the retrieval and to compare to the 4-STAR reference data. The aerosol SSA derived from extinction and scattering coefficients measured by HiGEAR suite of instrumentation is used to validate the retrieved SSA. HiGEAR also
provides fine and coarse mode aerosol size distributions measured by UHSAS and APS instruments at dry condition, which are compared to the retrieved size
distributions at ambient condition. Approximately at the altitude from 3 to 6 km, P-3 followed the trajectory of ER-2. Retrieval Validation Against 4-STAR and
HiGEAR Measurements The
vertical
mean
of
absolute fitting error of particulate extinction coefficient is
found to be 7.6 and 8.9 Mm−1 for 355 and 532 nm,
respectively, for altitudes below 5.2 km, and the vertical
mean of absolute fitting error of particulate backscatter is
0.16, 0.07 and 0.14 Mm−1Sr−1 for 355, 532 and 1,064 nm,
respectively. Noticeably, the fit to the particulate backscatter
of 1,064 nm at ∼1.4 km altitude has a relatively larger error. Indeed, to derive vertically resolved backscatter at 1,064 nm one
needs to know the extinction at the same wavelength. Since
HSRL-2 does not measure extinction at 1,064 nm directly, it is
estimated from an assumed relationship with the measured lidar
ratio at 532 nm. Though provided as a best guess, such an
estimate
may
cause
extra
uncertainty
to
the
1,064 nm
backscatter, which is beyond our 5% error estimate for
particulate backscatter at all wavelengths. The comparison of
the
depolarization
ratio
fit
to
the
measurements
was
demonstrated in the bottom panels of Figure 7A. In the
altitude range from 2.5 to 5.2 km, the fitting at the 532 nm
wavelength is noticeable to be beyond the measurement error. Considering that the depolarization is highly relevant to aerosol
non-sphericities, such a deviation may be caused by the
modeling
errors
with
the
pre-assumed
aspect
ratio
distribution of spheroidal particles (Legrand et al., 2014). In
Figure 7B, we compare the fit of aerosol lidar ratio (Sa αa/βa)
to the measurements. Plotted as the horizontal error bars, the
measurement uncertainty with aerosol lidar ratio (ΔSa) is
derived from the uncertainties of extinction (σαa 17 Mm−1)
and backscatter coefficients (εβa 5%) via error propagation
ΔSa αa/βa
(σαa/αa)2 + (εβa)2
0
. In the altitude ranges from 0 to
1 km and from 2.5 to 5.2 km where most aerosols are
distributed, the fitting errors are observed to be less than 20 Calculated from the speciated aerosol abundance and intrinsic
quantities displayed in Figures 5 and 6A displays the retrieved
profiles of accumulated AOD (left panel) and SSA (right panel) at
532 nm (black curves), with comparison to the collocated
HiGEAR measurement (red dot) at the altitude around 3 km. The retrieved AOD in the left panel of Figure 6A is accumulated
AOD from TOA to different altitudes with 315 m resolution. Retrieval Validation Against 4-STAR and
HiGEAR Measurements FIGURE 5 | Demonstration of aerosol geophysical property retrieval using a combined set of lidar (HSRL-2) and polarimeter (RSP) observations acquired at
14:25:10UTC on September 12, 2016 during the ORACLES field campaign. Upper left panel: real part of aerosol refractive index; Upper middle panel: imaginary part of
aerosol refractive index; Upper middle right panel: volume concentration (unit: m3/m3); Bottom left panel: geometric volume mean radius (unit: μm) as a function of
altitude; Bottom middle panel: logarithmic standard deviation of aerosol size distribution; Bottom right panel: spherical particle fraction. The horizontal bars in all
panels indicate the retrieval errors. To estimate the retrieval uncertainties, we use the relative uncertainty 2% for RSP’s intensity measurement and the absolute
uncertainty 0.002 for DOLP measurement, and use the uncertainties 17 Mm−1, 5%, and 10% for HSRL-2’s particulate extinction, backscatter and depolarization,
respectively. FIGURE 5 | Demonstration of aerosol geophysical property retrieval using a combined set of lidar (HSRL-2) and polarimeter (RSP) observations acquired at
14:25:10UTC on September 12, 2016 during the ORACLES field campaign. Upper left panel: real part of aerosol refractive index; Upper middle panel: imaginary part of
aerosol refractive index; Upper middle right panel: volume concentration (unit: m3/m3); Bottom left panel: geometric volume mean radius (unit: μm) as a function of
altitude; Bottom middle panel: logarithmic standard deviation of aerosol size distribution; Bottom right panel: spherical particle fraction. The horizontal bars in all
panels indicate the retrieval errors. To estimate the retrieval uncertainties, we use the relative uncertainty 2% for RSP’s intensity measurement and the absolute
uncertainty 0.002 for DOLP measurement, and use the uncertainties 17 Mm−1, 5%, and 10% for HSRL-2’s particulate extinction, backscatter and depolarization,
respectively. April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 16 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. continent, the volumetric concentration plot shows the co-
existence of smoke and sea salt particles in two regions,
namely from 0 to 1 km and from 2.5 to 5.2 km. Moreover, the
sea salt particles present a larger size than that of smoke particles. The spherical particle fraction for smoke and sea salt particles are
∼0.8 and >0.9, respectively, at the altitude close to the sea surface
(with an retrieval uncertainty between 0.1 and 0.2). Increased
nonspherical particle fraction for the sea salt particles is observed
at a higher altitude from 2.5 to 5.2 km. Retrieval Validation Against 4-STAR and
HiGEAR Measurements This could be caused by
crystallization as temperature, and relative humidity decreases at
higher altitude. We have also noticed that the geometric mean
radius of smoke particles is slightly lower in the boundary layer
than in the free troposphere. In the context of the ORACLES
campaign, the smoke particles in and above the boundary layer
can be different in terms of their ages, transport, and
microphysical
properties. The
smoke
particles
may
be
entrained
into
the
PBL
via
large-scale
re-circulation
(Redemann et al., 2021) instead of directly sinking into PBL
through subsidence as previously thought. Thus, the smoke
aerosol properties in the PBL may be affected by their
interactions with clouds or new particle formation processes. This is a likely cause of observing smaller smoke particles in the
PBL than at high altitudes from the case study in Figure 5. aerodynamic particle diameter (dae) needs to be converted to
the geometric diameter d. This is done via d dae×(χ/ρp)0.5, where
ρp is aerosol density and χ is the dynamic shape parameter. Assuming all aerosols measured by APS are sea salt particles, we
adopt χ 1.08 and ρp 1.8 g/cm−3 (Froyd et al., 2019). Then the
conversion is determined as d dae/1.29. By performing such a
conversion, we neglect the impact of highly irregular particles on
χ and assume equivalent spherical diameter for “d” which may
cause bias to the estimate of χ (Reid et al., 2003). In addition,
UHSAS and APS measure the number concentrations of fine and
coarse mode particles in the ranges of geometric radius [0.03, 0.5]
and aerodynamic radius [0.22, 8.1] μm, respectively. Apparently,
the two instruments have an overlapped measurement range of
geometric radius from 0.2 to 0.5 μm. Nevertheless, this range is
accounted in determining r(s)
g
and σ(s)
g
for both fine and coarse
aerosols. With these preconditions and conversions, Figure 6B
compared the retrieved particle size distribution to HiGEAR’s in-
situ measurement. While the difference is basically within the
retrieval error estimated using the methodology described in
Retrieval
Error
Estimate,
the
coarse
mode
aerosol
size
distribution is subjected to larger retrieval errors than the fine
mode aerosol size distribution. Along with the results demonstrated in Figures 5, 6, and 7A
demonstrates the retrieval fit to HSRL-2’s measurements of
vertical extinction
coefficient,
scattering coefficients,
and
depolarization
ratio
of
aerosols. Retrieval Validation Against 4-STAR and
HiGEAR Measurements FIGURE 6 | (A) Retrieved profiles of AOD (left panel) and SSA (right panel) at 532 nm (black curves), with comparison to the collocated HiGEAR measurement
(red dot); (B): retrieved fine mode (left panel) and coarse mode (right panel) aerosol size distributions (black curves), with comparison to the in-situ HiGEAR
measurements via UHSAS and APS (red curves). The retrieved AOD, SSA and size distribution are derived from the speciated aerosol abundance and intrinsic quantities
displayed in Figure 5. Moreover, the retrieved AOD in the left panel of Figure 6A is accumulated AOD from TOA to different altitudes with 315 m resolution. The
horizontal bars in all panels indicate the retrieval errors. Collocation of HiGEAR and RSP/HSRL-2 measurements was demonstrated in Figure 4. To estimate the retrieval
uncertainties, the measurement uncertainties are same as those used in Figure 5. HiGEAR, the accumulated AOD measured by 4-STAR is sampled
at a resolution of 315 m. Plotted in red dots, comparison of
retrieval to 4-STAR reference data shows the MAD to be around
0.006, which is within the AOD retrieval errors for all cases. The
determinant of regression is about 0.99. As another measure of
the quality of retrieved resolution in fitting observation, we also
compare retrieved AOD to HSRL-2 AOD calculated from its
extinction measurements. As indicated with the blue squares,
most data fall very close to the 1:1 line - indicating a high quality
of the agreement. Also, at the vertical resolution of 315 m, the
right panel of Figure 9 shows the MAD of SSA retrievals is 0.028. Overall, the retrieved SSAs are slightly larger than HiGEAR
reference data derived from its measurement of absorption
and scattering coefficients. This could be due to the retrieved
aerosol properties from RSP and HSRL-2’s observations are
under ambient conditions, while the in-situ measurements of
absorption and scattering coefficients are under dry conditions. However, seeking an exact explanation for such a difference is
hard since it is within the estimated retrieval errors of SSA. Indeed, gaining an SSA retrieval accuracy of 0.028 is largely due to
the constraints provided by RSP’s multiangle polarimetry, by
HSRL’s direct measurement of extinction, as well as by the
smoothness constraints imposed on the variation of refractive Sr, or less than 20% in relative sense viewing the measured lidar
ratio is larger than 100 in 355 and 532 nm. Retrieval Validation Against 4-STAR and
HiGEAR Measurements Fairly consistent agreement between retrieved values and
reference
data
derived
from
4-STAR
and
HiGEAR
measurements can be observed. The difference is within the
estimated retrieval error for SSA and accumulated AOD. In
Figure 6B, the retrieved fine mode (left panel) and coarse
mode (right) aerosol size distributions (black curves) are
compared to the in-situ HiGEAR measurement averaged
within a vertical bin of 315 m (red curves). To compare to the
number weighted aerosol size distribution measured by UHSAS
and APS, the retrieved volumetric size distribution Eq. 2 needs a
conversion. Specifically, the retrieved r(s)
m and σ(s)
m are converted
to the geometric number mean radius r(s)
g
and the standard
deviation for sth aerosol species σ(s)
g
by use of the following
relationship (Grainger, 2017): r(s)
g
r(s)
m e−3σ(s)
m
2
,
(101)
σ(s)
g
σ(s)
m . (102) (101) (102) On such a basis, the retrieved number weighted size distribution
is calculated as On such a basis, the retrieved number weighted size distribution
is calculated as dn(s)(r)
dln r
1
2π
√
σ(s)
g
exp⎡⎢⎢⎢⎢⎣−
ln r −ln r(s)
g
2
2σ(s)
g
2
⎤⎥⎥⎥⎥⎦. (103) (103) While UHSAS reports number concentrations of aerosols at their
geometric
diameters,
APS
reports
the
concentration
at
aerodynamic
diameters
of
aerosols. Therefore,
the
APS April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 17 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 6 | (A) Retrieved profiles of AOD (left panel) and SSA (right panel) at 532 nm (black curves), with comparison to the collocated HiGEAR measurement
(red dot); (B): retrieved fine mode (left panel) and coarse mode (right panel) aerosol size distributions (black curves), with comparison to the in-situ HiGEAR
measurements via UHSAS and APS (red curves). The retrieved AOD, SSA and size distribution are derived from the speciated aerosol abundance and intrinsic quantities
displayed in Figure 5. Moreover, the retrieved AOD in the left panel of Figure 6A is accumulated AOD from TOA to different altitudes with 315 m resolution. The
horizontal bars in all panels indicate the retrieval errors. Collocation of HiGEAR and RSP/HSRL-2 measurements was demonstrated in Figure 4. To estimate the retrieval
uncertainties, the measurement uncertainties are same as those used in Figure 5. Frontiers in Remote Sensing | www.frontiersin.org Retrieval Validation Against 4-STAR and
HiGEAR Measurements Consistent with Figures 5 and 6, the
observations were acquired at 14:25:10 UTC on September 12, 2016 during ORACLES campaign. (A) Upper panels: extinction coefficients at 355 nm (left) and 532 nm
(right) as a function of altitude; Middle panels: backscatter coefficient at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. Bottom panels:
depolarization ratio at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. (B) Lidar ratio at 355 nm (left) and 532 nm (right). The
horizontal bars in all panels indicate the measurement uncertainties. The measurement uncertainties are same as those used in Figure 5. FIGURE 7 | Comparison of HSRL-2 measurements with model fit using the retrieved aerosol properties displayed in Figure 6. Consistent with Figures 5 and 6, the
observations were acquired at 14:25:10 UTC on September 12, 2016 during ORACLES campaign. (A) Upper panels: extinction coefficients at 355 nm (left) and 532 nm
(right) as a function of altitude; Middle panels: backscatter coefficient at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. Bottom panels:
depolarization ratio at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. (B) Lidar ratio at 355 nm (left) and 532 nm (right). The
horizontal bars in all panels indicate the measurement uncertainties. The measurement uncertainties are same as those used in Figure 5. significant role in retrieval accuracy enhancement. Similar to the
comparison of AOD in the left panel of Figure 9, the left and right
panels of Figure 10 give a comparison of the accumulated AODs
against the product of 4-STAR at 355 and 1,064 nm, respectively. The MADs of AOD at these two wavelengths are found to be
0.010 and 0.004, respectively. As a retrieval quality check, the
comparison was also made to AOD calculated from HSRL-2’s
extinction measurement in 355 nm. Compared to the agreement
of retrieval AOD and HSRL-2 AOD in 532 nm, the agreement of
the two AODs in 355 nm slightly reduces. For AOD at 1,064 nm,
the difference in the retrieval and 4-STAR AODs falls beyond the
range of retrieval error bars at some points. To fill the gap, we may
need to further account for the uncertainties in 4-STAR AOD index and size distribution. Retrieval Validation Against 4-STAR and
HiGEAR Measurements Such a difference is
within the measurement uncertainties of the lidar ratio
indicated by the horizontal error bars. y
The retrieved BRF and DOLP are compared to the measured
data by RSP in Figure 8. The spectral mean of fitting error for
BRF and DOLP is less than ∼2% and 0.003 respectively in the four
bands centered at 410, 470, 670, and 865 nm. By contrast, the
fitting error at 550 nm is relatively larger (∼4.5% for BRF and
∼0.007 for DOLP), which could be caused by the approximation
in estimating the ozone absorption to be ∼0.03 in optical depth at
550 nm for radiance calculation, and/or due to the residue error
of instrument calibration. Moreover, the fitting errors have
certain angular dependence: relatively larger fitting errors can
be observed when the polarimeter’s view angle gets more and
more off nadir. This could be caused by the inhomogeneity in the
spatial distribution of aerosols in the measurement zone, as seen
from the lidar curtain in Figure 3. Following the case study demonstrated through Figures 5–8,
Figure 9 gives a systematic comparison of AOD and SSA at
532 nm from all 50 sets of retrievals to the measurements by 4-
STAR and HiGEAR instruments. Starting from the maximum
flight altitude (6 km) of P-3 aircraft, which carries 4-STAR and April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 18 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 7 | Comparison of HSRL-2 measurements with model fit using the retrieved aerosol properties displayed in Figure 6. Consistent with Figures 5 and 6, the
observations were acquired at 14:25:10 UTC on September 12, 2016 during ORACLES campaign. (A) Upper panels: extinction coefficients at 355 nm (left) and 532 nm
(right) as a function of altitude; Middle panels: backscatter coefficient at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. Bottom panels:
depolarization ratio at 355 nm (left), 532 nm (middle), and 1,064 nm (right) as a function of altitude. (B) Lidar ratio at 355 nm (left) and 532 nm (right). The
horizontal bars in all panels indicate the measurement uncertainties. The measurement uncertainties are same as those used in Figure 5. FIGURE 7 | Comparison of HSRL-2 measurements with model fit using the retrieved aerosol properties displayed in Figure 6. Retrieval Validation Against 4-STAR and
HiGEAR Measurements The benefits of using polarimetry to
constrain the retrieval of aerosol SSA has been demonstrated by
multiple airborne polarimeters such as RSP (Wu et al., 2015),
AirMSPI (Xu et al., 2017), AirSPEX (Hasekamp et al., 2019) and
AirHARP (Puthukkudy et al., 2020). Generally, retrieval error is
within
∼0.02–0.04
when
the
absolute
error
with
DOLP
measurement is less than ∼0.005. However, in this work, we
are retrieving vertically dependent aerosol properties. Therefore,
the
parameter
space
is
significantly
expanded,
and
the
polarimeter’s capability may spread increasingly thin as the
number of vertical layers for retrieval to resolve increases. To
mitigate this issue, extra a priori constraints regarding smooth
variations of some aerosol properties are imposed, and they play a April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 19 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 8 | (A) Comparison of RSP radiance measurements (in BRF unit) with model fit using the retrieved aerosol properties displayed in Figure 5. Consistent with
Figures 5 and 6, the observations were acquired at 14:25:10UTC on September 12, 2016 during ORACLES campaign. Comparison is made for five wavelengths from
near UV (410 nm) to near-infrared (865 nm) in different panels. (B) Comparison of RSP DOLP measurements with model fits using the retrieved aerosol properties
displayed in Figure 5. The vertical bars in all panels indicate the measurement uncertainties. FIGURE 8 | (A) Comparison of RSP radiance measurements (in BRF unit) with model fit using the retrieved aerosol properties displayed in Figure 5. Consistent with
Figures 5 and 6, the observations were acquired at 14:25:10UTC on September 12, 2016 during ORACLES campaign. Comparison is made for five wavelengths from
near UV (410 nm) to near-infrared (865 nm) in different panels. (B) Comparison of RSP DOLP measurements with model fits using the retrieved aerosol properties
displayed in Figure 5. The vertical bars in all panels indicate the measurement uncertainties. v(s)
eff eσ(s)
g
2
−1. (105) measurements (e.g., ∼0.01 for above-cloud AOD sampled at
500 nm and 1,020 nm according to LeBlanc et al., (2020)). (105) Figures 11 and 12 compare the effective radius and effective
variance of fine and coarse mode aerosols against the reference
data derived from in-situ measurements by use of the UHSAS and
APS instruments aboard P-3 aircraft. Frontiers in Remote Sensing | www.frontiersin.org Retrieval Validation Against 4-STAR and
HiGEAR Measurements The vertical bars in all panels indicate the retrieval
errors. FIGURE 9 | Systematic comparison of accumulated partial-column AOD and layer-effective SSA from retrieval using 50 combined sets of HSRL-2 and RSP
observations to the reference measurement by 4-STAR and HiGEAR. Left panel: comparison of accumulated AOD at 532 nm against 4-STAR and HSRL-2
measurements; Right panel: comparison of SSA at 532 nm against HiGEAR reference data. Collocation of these measurements was demonstrated in Figure 4. For SSA
comparison, less than 50 retrieval data points are plotted due to the screening of data for altitude above 5.2 km (too low aerosol loading). The vertical bars in all
panels indicate the retrieval errors. FIGURE 9 | Systematic comparison of accumulated partial-column AOD and layer-effective SSA from retrieval using 50 combined sets of HSRL-2 and RSP
observations to the reference measurement by 4-STAR and HiGEAR. Left panel: comparison of accumulated AOD at 532 nm against 4-STAR and HSRL-2
measurements; Right panel: comparison of SSA at 532 nm against HiGEAR reference data. Collocation of these measurements was demonstrated in Figure 4. For SSA
comparison, less than 50 retrieval data points are plotted due to the screening of data for altitude above 5.2 km (too low aerosol loading). The vertical bars in all
panels indicate the retrieval errors. FIGURE 10 | Same as the left panel of Figure 9 but the comparison against 4-STAR and HSRL-2 reference data for AOD at 355 nm, and against 4-STAR reference
data for AOD at 1,064 nm. Left panel: comparison of AOD at 355 nm; Right panel: comparison of AOD at 1,064 nm. The vertical bars in all panels indicate the retrieval
errors. FIGURE 10 | Same as the left panel of Figure 9 but the comparison against 4-STAR and HSRL-2 reference data for AOD at 355 nm, and against 4-STAR reference
data for AOD at 1,064 nm. Left panel: comparison of AOD at 355 nm; Right panel: comparison of AOD at 1,064 nm. The vertical bars in all panels indicate the retrieval
errors. FIGURE 11 | Comparison of effective radius (left panel) and variance (right panel) of fine mode aerosol size distribution. The vertical bars in all panels indicate the
retrieval errors. FIGURE 11 | Comparison of effective radius (left panel) and variance (right panel) of fine mode aerosol size distribution. The vertical bars in all panels indicate the
retrieval errors. Retrieval Validation Against 4-STAR and
HiGEAR Measurements We filtered out the results
above 5.2 km where aerosols loading is very low so that the
retrieved aerosol microphysical properties are subjected to
relatively larger retrieval errors. Moreover, the UHSAS/APS
measured the size-resolved number concentration are fit with
the number weighted log-normal size distribution expressed in
Eq. 103. Following the derivation of r(s)
g
and σ(s)
g
from fitting in-
situ
measurements,
the
effective
radius
and
variance
is
calculated via Comparison of fine and coarse mode aerosol effective radii and
variance in the left panel of Figures 11 and 12 indicates the
retrieved values are larger than their counterparts as measured by
UHSAS and APS. The MADs of effective radii are around 0.012
and 0.377 μm for fine and coarse aerosols, respectively. Such a
difference is basically within the estimated range of retrieval
errors. MADs of effective variance are around 0.132 and 0.257
for fine and coarse aerosols, respectively. Such a deviation is
beyond the range of estimated retrieval errors. However, the in-
situ aerosol size measurement by HiGEAR suite of instruments
has 5% (Uin 2016) and 10% (Pfeifer et al., 2016) uncertainty for
fine and coarse mode aerosols, respectively. Moreover, HiGEAR
measurement was carried out under dry conditions while the
retrieved aerosol properties from RSP and HSRL-2’s observations r(s)
eff r(s)
g e
5
2σ(s)
g
2
, (104) April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 20 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. FIGURE 9 | Systematic comparison of accumulated partial-column AOD and layer-effective SSA from retrieval using 50 combined sets of HSRL-2 and RSP
observations to the reference measurement by 4-STAR and HiGEAR. Left panel: comparison of accumulated AOD at 532 nm against 4-STAR and HSRL-2
measurements; Right panel: comparison of SSA at 532 nm against HiGEAR reference data. Collocation of these measurements was demonstrated in Figure 4. For SSA
comparison, less than 50 retrieval data points are plotted due to the screening of data for altitude above 5.2 km (too low aerosol loading). The vertical bars in all
panels indicate the retrieval errors. FIGURE 10 | Same as the left panel of Figure 9 but the comparison against 4-STAR and HSRL-2 reference data for AOD at 355 nm, and against 4-STAR reference
data for AOD at 1,064 nm. Left panel: comparison of AOD at 355 nm; Right panel: comparison of AOD at 1,064 nm. SUMMARY An optimization approach is developed to combine the use of
lidar and polarimetric observations to retrieve the vertical
profiles of speciated aerosol abundance and properties over
the ocean. These aerosol properties include aerosol refractive
index,
size
distribution,
and
spherical
particle
fractions. Acquired during 2016 ORACLES field campaign, the HSRL-2
measurements of extinction, backscatter and depolarization in
combination with RSP measurements of radiance and DOLP are
used to test the retrieval. Comparison to the accumulated AODs
from TOA to different altitudes measured by 4-STAR aboard the
P-3 at different altitudes (up to 6 km) shows an MAD of 0.010,
0.006, and 0.004 for 355, 532 and 1,064 nm, respectively. At the
vertical resolution of 315 m, validation of SSA against the in-situ
measurement by HiGEAR shows an accuracy of 0.028 for
532 nm. Comparing the retrieved effective radii of fine and
coarse mode aerosols to the reference data from in-situ
measurements by UHSAS and APS, we found the MADs to
be around 0.012 and 0.377 μm for fine and coarse mode aerosols,
respectively. AUTHOR CONTRIBUTIONS FX formulated the inversion approach and developed the prototype
codes for retrieval use. LG interfaced the retrieval with OU
Supercomputing Center for Education and Research, implemented
the retrieval test, and provided inputs on interpreting the results. JR,
CF, WE, AS, SS, SB, XL, RF, BC and OD provided insightful
discussions on the algorithm development and proper use of
HSRL-2 and RSP data for retrieval test, and made editorial changes. While most comparisons indicate that the differences are within
the estimated retrieval errors or within measurement uncertainties of
relevant quantities, it is noteworthy that we assume 1) a plane-
parallel
atmosphere-surface
system
for
computing
polarized
radiative
transfer
and
2)
sphere
and
spheroid
model
for
computing aerosol single-scattering properties. These assumptions
are subjected to errors. One error source that is particularly relevant
to lidar-polarimeter combined retrieval under the context of high
spatial resolution is the difference in the atmosphere viewed along
nadir direction by lidar and the atmosphere viewed along oblique
angles of a polarimeter. In a strict sense, combined retrieval should DATA AVAILABILITY STATEMENT Publicly available datasets were analyzed in this study. This data can
be found here: https://espoarchive.nasa.gov/archive/browse/oracles. Retrieval Validation Against 4-STAR and
HiGEAR Measurements April 2021 | Volume 2 | Article 620871 21 Frontiers in Remote Sensing | www.frontiersin.org 21 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion FIGURE 12 | Same as Figure 11 but for coarse mode aerosol size distribution. me as Figure 11 but for coarse mode aerosol size distribution. FIGURE 12 | Same as Figure 11 but for coarse mode aerosol size distribution. were under ambient conditions. These are potential sources that
can cause the difference in the estimated geometric number mean
radius and standard deviation from HiGEAR measurements,
which further impacts the comparison of aerosol effective
radius and variance. only
use
nadir
polarimetric
measurements,
or
all
angular
measurements but with a 3D forward RT model that accurately
accounts for the spatial inhomogeneity with the atmosphere. However, the former option will reduce the benefits of multi-
angular benefits in constraining while the latter option will
reduce the modeling efficiency. As a trade-off between retrieval
accuracy and efficiency, we use all angular measurements and retain
the simplicity of assuming a plane-parallel atmosphere-surface
system to perform the retrieval. Then the modeling errors are
factored into the error estimates (see Retrieval Error Estimate). Nevertheless,
seeking
an
effective
way
to
further
mitigate
modeling errors while retaining the modeling efficiency is a
worthwhile topic to pursue in the next stage. Frontiers in Remote Sensing | www.frontiersin.org REFERENCES Systematic observation requirements for satellite-based data products
for climate; 2011 update, supplemental details to the satellite-based component of
the “implementation plan for the global observing system for climate in support of
the UNFCCC (2010 update). Geneva, Switzerland: WMO. the UNFCCC (2010 update). Geneva, Switzerland: WMO. Chowdhary, J., Cairns, B., Waquet, F., Knobelspiesse, K., Ottaviani, M., Redemann,
J., et al. (2012). Sensitivity of multiangle, multispectral polarimetric remote
sensing over open oceans to water-leaving radiance: analyses of RSP data
acquired during the MILAGRO campaign. Remote Sens. Environ. 118, 284–308. doi:10.1016/j.rse.2011.11.003 Grainger, R. G. (2017). Some useful formulae for aerosol size distributions and
optical
properties. Available
at:
http://eodg.atm.ox.ac.uk/user/grainger/
research/aerosols.pdf. Hair, J. W., Caldwell, L. M., Krueger, D. A., and She, C.-Y. (2001). High-spectral-
resolution lidar with iodine-vapor filters: measurement of atmospheric-state
and aerosol profiles. Appl. Optic. 40, 5280–5294. doi:10.1364/AO.40.005280 Cox, C., and Munk, W. (1954a). Measurement of the roughness of the sea surface
from photographs of the sun’s glitter. J. Opt. Soc. Am. 44, 838–850. Hair, J. W., Hostetler, C. A., Cook, A. L., Harper, D. B., Ferrare, R. A., Mack, T. L.,
et al. (2008). Airborne high spectral resolution Lidar for profiling aerosol optical
properties. Appl. Optic. 47, 6734–6752. doi:10.1364/AO.47.006734 Cox, C., and Munk, W. (1954b). Statistics of sea surface derived from sun glitter. J. Mar. Res. 13, l98–227. Hansen, J. E. (1971). Multiple scattering of polarized light in planetary
atmospheres. Part II. Sunlight reflected by terrestrial water clouds. J. Atmos. Sci. 28, 1400–1426. doi:10.1175/1520-0469(1971)028<1400:MSOPLI>2.0.CO;2 de Haan, J. F., Bosma, P. B., and Hovenier, J. W. (1987). The adding method for
multiple scattering calculations of polarized light. Astron. Astrophys. 181,
371–391. Dubovik, O., Herman, M., Holdak, A., Lapyonok, T., Tanré, D., Deuzé, J. L., et al. (2011). Statistically optimized inversion algorithm for enhanced retrieval of
aerosol properties from spectral multi-angle polarimetric satellite observations. Atmos. Meas. Tech. 4, 975–1018. doi:10.5194/amt-4-975-2011 Hasekamp, O., Litvinov, P., and Butz, A. (2011). Aerosol properties over the ocean
from PARASOL multi-angle photopolarimetric measurements. J. Geophys. Res. 116, D14204. doi:10.1029/2010JD015469 Hasekamp, O. P., Fu, G., Rusli, S. P., Wu, L., Noia, A. D., aan de Brugh, J., et al. (2019). Aerosol measurements by SPEXone on the NASA PACE mission:
expected retrieval capabilities. J. Quant. Spectrosc. Radiat. Rransfer. 227,
170–184. doi:10.1016/j.jqsrt.2019.02.006 Dubovik, O., and King, M. D. (2000). A flexible inversion algorithm for retrieval of
aerosol optical properties from Sun and sky radiance measurements. J. Geophys. Res. 105, 673–696. REFERENCES Espinosa, W. R., Castellanos, P., Sayer, A., Colarco, P., Kemppien, O., Nowottnick,
E., et al. (2019). An exploration of joint LIDAR and multiangle polarimeter
aerosol retrieval capabilities using the GRASP algorithm and OSSE data derived
from
the
GEOS
model. Available
at:
https://www.giss.nasa.gov/staff/
mmishchenko/APOLO-2/Abstracts/Espinosa.pdf. Burton, S. P., Hair, J. W., Kahnert, M., Ferrare, R. A., Hostetler, C. A., Cook, A. L.,
et al. (2015). Observations of the spectral dependence of linear particle
depolarization ratio of aerosols using NASA Langley airborne high spectral
resolution lidar. Atmos. Chem. Phys. 15, 13453–13473. doi:10.5194/acp-15-
13453-2015 Esposito, L. W. (1979). An “adding” algorithm for the Markov chain formalism for
radiation transfer. Astrophys. J. 233, 661–663. Esposito, L. W., and House, L. L. (1978). Radiative transfer calculated from a
Markov chain formalism. Astrophys. J. 219, 1058–1067. Burton, S. P., Hostetler, C. A., Cook, A. L., Hair, J. W., Seaman, S. T., Scola, S., et al. (2018). Calibration of a high spectral resolution lidar using a Michelson
interferometer, with data examples from ORACLES. Appl. Optic. 57,
6061–6075. doi:10.1364/AO.57.006061 Markov chain formalism. Astrophys. J. 219, 1058–1067. Evans, K. F., and Stephens, G. L. (1991). A new polarized atmospheric radiative
transfer model. J. Quant. Spectrosc. Radiat. Transfer. 46, 413–423. doi:10.1016/
0022-4073(91)90043-P Burton, S. P., Stamnes, S., Liu, X., Dawson, K., Chemyakin, E., Ferrare, R., et al. (2019). High spectral resolution lidar for aerosol characterization and
combined lidar + polarimeter retrieval. Available at: https://www.giss.nasa. gov/staff/mmishchenko/APOLO-2/Abstracts/Burton.pdf. Froyd, K. D., Murphy, D. M., Brock, C. A., Campuzano-Jost, P., Dibb, J. E.,
Jimenez, J.-L., et al. (2019). A new method to quantify mineral dust and other
aerosol species from aircraft platforms using single-particle mass spectrometry. Atmos. Meas. Tech. 12, 6209–6239. doi:10.5194/amt-12-6209-2019 gov/staff/mmishchenko/APOLO-2/Abstracts/Burton.pdf. tmos. Meas. Tech. 12, 6209–6239. doi:10.5194/amt-12-6209-2019 Cairns, B., Russell, E. E., and Travis, L. D. (1999). The research scanning
polarimeter: calibration and ground-based measurements. PROC SPIE. 3754,
186. doi:10.1117/12.366329 Gao, M., Zhai, P-W., Franz, B., Hu, Y., Knobelspiesse, K., Werdell, P. J., et al. (2018). Retrieval of aerosol properties and water leaving reflectance from multi-
angular polarimetric measurements over coastal waters. Optic Express. 26,
8968–8989. doi:10.1364/OE.26.008968 Chaikovsky, A., Dubovik, O., Holben, B., Bril, A., Goloub, P., Tanré, D., et al. (2016). Lidar-Radiometer Inversion Code (LIRIC) for the retrieval of vertical
aerosol properties from combined lidar/radiometer data: development and
distribution in EARLINET. Atmos. Meas. Tech. 9, 1181–1205. doi:10.5194/amt-
9-1181-2016 GCOS (2011). ACKNOWLEDGMENTS The authors acknowledge support from National Aeronautics
and Space Administration (NASA) for conducting the study
presented in this paper. O. Dubovik acknowledges the support
of the Labex CaPPA project, which is funded by the French
National Research Agency under contract ANR-11-LABX- April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 22 Combined Lidar-Polarimeter Aerosol Inversion Xu et al. comments on the early version of this manuscript. A majority
of the computation for this project was performed at
University
of
Oklahoma’s
Supercomputing
Center
for
Education and Research (OSCER). 0005-01. F. Xu thanks Dr. Yongxiang Hu and Dr. Xiaomei Lu
from NASA Langley Research Center for providing helpful
discussions on lidar remote sensing algorithm development. The authors are grateful to the reviewers for their constructive REFERENCES LIDAR: range-resolved optical remote sensing of the
atmosphere. New York, NY: Springer. Winker, D. M., Couch, R. H., and McCormick, P. (1996). An overview of LITE:
NASA’s lidar in-space technology experiment. Proc. IEEE. 84, 164–180. Liu, X, Stamnes, S., Ferrare, R. A., Hostetler, C., Burton, S., Chemyakin, E., et al. (2016). Development of a combined lidar–polarimeter inversion algorithm for
retrieving aerosol. Abstract A54E-06, AGU. Winker, D. M., Hunt, W. H., and McGill, M. J. (2007). Initial performance assessment
of CALIOP. Geophys. Res. Lett. 34, L19803. doi:10.1029/2007GL030135 Lopatin, A., Dubovik, O., Chaikovsky, A., Goloub, P., Lapyonok, T., Tanré, D., et al. (2013). Enhancement of aerosol characterization using synergy of lidar and
sun-photometer coincident observations: the GARRLiC algorithm. Atmos. Meas. Tech. 6, 2065–2088. doi:10.5194/amt-6-2065-2013 Wu, L., Hasekamp, O., van Diedenhoven, B., and Cairns, B. (2015). Aerosol
retrieval from multiangle, multispectral photopolarimetric measurements:
importance of spectral range and angular resolution. Atmos. Meas. Tech. 8,
2625–2638. doi:10.5194/amt-8-2625-2015 McNaughton, C. S., Clarke, A. D., Kapustin, V., Shinozuka, Y., Howell, S. G.,
Anderson, B. E., et al. (2009). Observations of heterogeneous reactions between
Asian pollution and mineral dust over the Eastern North Pacific during INTEX-
B. Atmos. Chem. Phys. 9, 8283–8308. doi:10.5194/acp-9-8283-2009 Xu, F., Davis, A. B., and Diner, D. J. (2016). Markov chain formalism for generalized
radiative transfer in a plane-parallel medium, accounting for polarization. J. Quant. Spectrosc. Radiat. Transfer. 184, 14–26. doi:10.1016/j.jqsrt.2016.06.004 Mishchenko, M. I., Yatskiv, Y. S., Rosenbush, V. K., and Videen, G. (2011). Polarimetric
detection, characterization, and remote sensing. Cham, Switzerland: Springer. Xu, F., Davis, A. B., Suniti, S. V., Martonchik, J. V., and Diner, D. J. (2012). Linearization of Markov chain formalism for vector radiative transfer in a
plane-parallel atmosphere/surface system. Appl. Optic. 51, 3491–3507. doi:10. 1364/AO.51.003491 Pfeifer, S., Müller, T., Weinhold, K., Zikova, N., Martins dos Santos, S., Marinoni,
A., et al. (2016). Intercomparison of 15 aerodynamic particle size spectrometers
(APS 3321): uncertainties in particle sizing and number size distribution. Atmos. Meas. Tech. 9, 1545–1551. doi:10.5194/amt-9-1545-2016 Xu, F., Davis, A. B., West, R. A., and Esposito, L. W. (2010). Markov chain
formalism for polarized light transfer in plane-parallel atmospheres, with
numerical comparison to the Monte Carlo method. Optic Express. 19,
946–967. doi:10.1364/OE.19.000946 Puthukkudy, A., Martins, J. V., Remer, L. A., Xu, X., Dubovik, O., Litvinov,
P., et al. (2020). Retrieval of aerosol properties from airborne hyper-angular
rainbow polarimeter (AirHARP) observations during ACEPOL 2017. Atmos. Meas. Tech. 13, 5207–5236. REFERENCES doi:10.5194/amt-13-5207-2020 Xu, F., Davis, A. B., West, R. A., Martonchik, J. V., and Diner, D. J. (2011). Markov
chain formalism for vector radiative transfer in a plane-parallel atmosphere
overlying a polarizing surface. Opt. Lett. 36, 2083–2085. doi:10.1364/OL.36. 002083 Redemann, J., Wood, R., Zuidema, P., Doherty, S. J., Luna, B., LeBlanc, S. E., et al. (2021). An overview of the ORACLES (observations of aerosols above clouds
and their interactions) project: aerosol-cloud-radiation interactions in the
Southeast Atlantic basin. Atmos. Chem. Phys. 21, 1507–1563. doi:10.5194/
acp-2020-449 Xu, F., Diner, D. J., Dubovik, O., and Schechner, Y. (2019). A correlated multi-pixel
inversion approach for aerosol remote sensing. Rem. Sens. 11, 746. doi:10.3390/
rs11070746 Reid, J. S., Jonsson, H. H., Maring, H. B., Smirnov, A., Savoie, D. L., Cliff, S. S., et al. (2003). Comparison of size and morphological measurements of coarse mode
dust particles from Africa. J. Geophys. Res. 108 (D19), 8593. doi:10.1029/
2002JD002485 Xu, F., van Harten, G., Diner, D. J., Kalashnikova, O. V., Seidel, F. C., Bruegge, C. J.,
et al. (2017). Coupled retrieval of aerosol properties and land surface reflection
using the Airborne Multiangle SpectroPolarimetric Imager. J. Geophys. Res. Atmos. 122, 7004–7026. doi:10.1002/2017JD026776 Remer, L. A., Knobelspiesse, K. D., Zhai, P.-W., Xu, F., Kalashnikova, O.,
Chowdhary, J., et al. (2019). Retrieving aerosol characteristics from the
PACE mission, Part 2: multi-angle and polarimetry. Front. Environ. Sci. 7,
94. doi:10.3389/fenvs.2019.00094 Conflict of Interest: The authors declare that the research was conducted in the
absence of any commercial or financial relationships that could be construed as a
potential conflict of interest. Conflict of Interest: The authors declare that the research was conducted in the
absence of any commercial or financial relationships that could be construed as a
potential conflict of interest. Rogers, R. R., Hair, J. W., Hostetler, C. A., Ferrare, R. A., Obland, M. D., Cook, A. L., et al. (2009). NASA LaRC airborne high spectral resolution lidar aerosol
measurements during MILAGRO: observations and validation. Atmos. Chem. Phys. 9, 4811–4826. doi:10.5194/acp-9-4811-2009 Copyright © 2021 United States Government as represented by the Administrator of
the National Aeronautics and Space Administration, Dr. Xu, Dr. Gao, Dr. Redemann, Dr. Flynn, and Dr. Dubovik. Shipley, S. T., Tracy, D. H., Eloranta, E. W., Trauger, J. T., Sroga, J. T., Roesler, F. L.,
et al. (1983). High spectral resolution lidar to measure optical-scattering
properties of atmospheric aerosols .1. theory and Instrumentation. Appl. Optic. 22, 3716–3724. REFERENCES doi:10.1029/2000JD900282 Dubovik, O., Lapyonok, T., Litvinov, P., Herman, M., Fuertes, D., Ducos, F., et al. (2014). GRASP: a versatile algorithm for characterizing the atmosphere. SPIE
Newsroom 2014. Knobelspiesse, K., Cairns, B., Mishchenko, M., Chowdhary, J., Tsigaridis, K., van
Diedenhoven, B., et al. (2012). Analysis of fine-mode aerosol retrieval
capabilities by different passive remote sensing instrument designs. Optic
Express. 20, 21457–21484. doi:10.1364/OE.20.021457 Dubovik, O., Li, Z., Mishchenko, M. I., Tanré, D., Karol, Y., Bojkov, B., et al. (2019). Polarimetric
remote
sensing
of
atmospheric
aerosols:
instruments,
methodologies,
results,
and
perspectives. J. Quant. Spectrosc. Radiat. Transfer. 224, 474–511. doi:10.1016/j.jqsrt.2018.11.024 Knobelspiesse, K., Cairns, B., Ottaviani, M., Ferrare, R., Hair, J., Hostetler, C., et al. (2011). Combined retrievals of boreal forest fire aerosol properties with a
polarimeter and lidar. Atmos. Chem. Phys. 11, 7045–7067. doi:10.5194/acp-11-
7045-2011 Dubovik, O. (2004). “Optimization of numerical inversion in photopolarimetric
remote sensing,” in Photopolarimetry in remote sensing. Editors G. Videen,
Y. Yatskiv, and M. I. Mishchenko (Dordrecht, The Netherlands: Kluwer
Academic Publishers), 65–106. Koepke, P. (1984). Effective reflectance of oceanic whitecaps. Appl. Optic. 23,
1816–1824. LeBlanc, S. E., Redemann, J., Flynn, C., Pistone, K., Kacenelenbogen, M., Segal-
Rosenheimer, M., et al. (2020). Above-cloud aerosol optical depth from
airborne observations in the southeast Atlantic. Atmos. Chem. Phys. 20,
1565–1590. doi:10.5194/acp-20-1565-2020 Dubovik, O., Sinyuk, A., Lapyonok, T., Holben, B. N., Mishchenko, M. I., Yang, P.,
et al. (2006). Application of spheroid models to account for aerosol particle
nonsphericity in remote sensing of desert dust. J. Geophys. Res. 111, D11208. doi:10.1029/2005JD006619 Lee, Z. P., Hu, C., Shang, S. L., Du, K. P., Lewis, M., Arnone, R., et al. (2013). Penetration of UV-Visible solar light in the global oceans: insights from
ocean color remote sensing. J. Geophys. Res. 118, 4241–4255. doi:10.1002/
jgrc.20308 Dunagan, S. E., Johnson, R., Zavaleta, J., Russell, P. B., Schmid, B., Flynn, C., et al. (2013). Spectrometer for sky-scanning sun-tracking atmospheric research
(4STAR): instrument technology. Rem. Sens. 5, 3872–3895. doi:10.3390/rs5083872 April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 23 Xu et al. Combined Lidar-Polarimeter Aerosol Inversion Vaughan, M. (2004). Algorithm for retrieving lidar ratios at 1064 nm fromspace-
based lidar backscatter data. Proc. SPIE. 5240, 104–115. doi:10.1117/12.510770 Legrand, M., Dubovik, O., Lapyonok, T., and Derimian, Y. (2014). Accounting for
particle non-sphericity in modeling mineral dust radiative properties in the
thermal infrared. J. Quant. Spectrosc. Radiat. Transfer. 149, 219–240. doi:10. 1016/j.jqsrt.2014.07.014 Weitkamp, C. (2005). Frontiers in Remote Sensing | www.frontiersin.org REFERENCES doi:10.1364/AO.22.003716 At least a portion of this work is authored by W. Reed Espinosa, Arlindo M. da
Silva, Snorre Stamnes, Sharon P. Burton, Xu Liu, Richard Ferrare and Brian
Cairns on behalf of the U.S. Government and, as regards Dr. Espinosa, Dr. da
Silva, Dr. Stamnes, Dr. Burton, Dr. Liu, Dr. Farrare, Dr. Cairns, U.S. copyright
protection does not attach to separable portions of a Work authored solely by
U.S. Government employees as part of their official duties. The U.S. Government
is the owner of foreign copyrights in such separable portions of the Work and is a
joint owner (with any non-U.S. Government author) of U.S. and foreign
copyrights that may be asserted in inseparable portions the Work. The U.S. Government retains the right to use, reproduce, distribute, create derivative
works, perform and display portions of the Work authored solely or co-authored
by a U.S. Government employee. Non-U.S copyrights also apply. This is an open-
access article distributed under the terms of the Creative Commons Attribution
License (CC BY). The use, distribution or reproduction in other forums is
permitted, provided the original author(s) and the copyright owner(s) are
credited and that the original publication in this journal is cited, in
accordance
with
accepted
academic
practice. No
use,
distribution
or
reproduction is permitted which does not comply with these terms. Stamnes, S., Hostetler, C., Ferrare, R., Burton, S., Liu, X., Hair, J., et al. (2018). Simultaneous polarimeter retrievals of microphysical aerosol and ocean color
parameters from the “MAPP” algorithm with comparison to high-spectral-
resolution lidar aerosol and ocean products. Appl. Optic. 57, 2394–2413. doi:10. 1364/AO.57.002394 Stokes, G. G. (1862). On the intensity of the light reflected from or transmitted
through a pile of plates. Proc. Roy. Soc. Lond. 11, 545–556. IPCC (2013). Climate change 2013: the physical science basis. Contribution of
working group I to the fifth assessment report of the intergovernmental panel on
climate change. New York, NY: Cambridge. Uin, J. (2016). Ultra-high sensitivity aerosol spectrometer (UHSAS) instrument
handbook. ARM Tech. Rep. DOE/SC-ARM-TR-163, 17. van de Hulst, H. C. (1963). A new look at multiple scattering. Goddard Institute for
Space Studies. Tech. Rep.NASA TM-I03044. van de Hulst, H. C. (1981). Light scattering by small particles. New York, NY: Dover. April 2021 | Volume 2 | Article 620871 Frontiers in Remote Sensing | www.frontiersin.org 24
|
https://openalex.org/W4225331161
|
https://eprints.ncl.ac.uk/fulltext.aspx?url=282910/AF416317-1FB9-492F-97B1-7D4EED4BAA04.pdf&pub_id=282910
|
English
| null |
Multi-Organism Composites: Combined Growth Potential of Mycelium and Bacterial Cellulose
|
Biomimetics
| 2,022
|
cc-by
| 9,075
|
Citation: Hoenerloh, A.; Ozkan, D.;
Scott, J. Multi-Organism Composites:
Combined Growth Potential of
Mycelium and Bacterial Cellulose. Biomimetics 2022, 7, 55. https://
doi.org/10.3390/biomimetics7020055 biomimetics biomimetics biomimetics biomimetics Aileen Hoenerloh *, Dilan Ozkan and Jane Scott Aileen Hoenerloh *, Dilan Ozkan and Jane Scott Hub for Biotechnology in the Built Environment, School of Architecture, Planning and Landscape, Newcastle
University, Newcastle upon Tyne NE1 7RU, UK; d.ozkan2@ncl.ac.uk (D.O.); jane.scott@newcastle.ac.uk (J.S.)
* Correspondence: a.t.hoenerloh2@ncl.ac.uk Abstract: The demand for sustainable materials derived from renewable resources has led to
significant research exploring the performance and functionality of biomaterials such as mycelium
and bacterial cellulose. Whilst the growing conditions and performance of individual biomaterials
are understood, to achieve additional new and enhanced functionality, an understanding of how
biomaterials can be used together as composites and hybrids is required. This paper investigates
the compatibility of mycelium and bacterial cellulose as two biomaterials with different qualities
for the development of a large-scale biohybrid structure, the BioKnit prototype. Their compatibility
was tested through preliminary design experiments and a material tinkering approach. The findings
demonstrate that under optimal conditions mycelium and bacterial cellulose can grow in each other’s
presence and create composites with an extensive array of functions. However, there is a need to
develop further fabrication settings that help to maintain optimal growing conditions and nutrition
levels, whilst eliminating problems such as contamination and competition during growth. Keywords: mycelium; bacterial cellulose; biocompatibility; knitted fabric; material tinkering 1. Introduction The growing interest in the use of living materials in the design field is motivated
by the desire to create a renewable resource of sustainable materials that is biodegradable
and grown using waste materials. This approach offers the potential to produce a low-
cost alternative to commercial synthetic materials whilst developing a new spectrum of
functional properties [1]. For instance, while fungi as mycelium composites can be used
as a structural bulk material as in the MycoTree, MycoCreate-2, and El Monolito Micelio
projects [2–5], bacterial cellulose shares many properties with plant cellulose and is already
successfully used in the medical field [6] and in fashion design projects [7,8]. y
g
p
j
Whilst current research has focused on optimising the growth and performance of
individual microorganisms for design applications, our research considers the potential to
combine different microbial systems in order to achieve new functional possibilities. For ex-
ample, can multi-microbial systems produce stronger, more durable biomaterials whilst
transforming the look and feel of materials for architecture? Using biological materials at
different stages of their lifecycle for different purposes requires developing new methods of
fabrication that allow the designers to reveal their various features. BioKnit is a prototype
designed and built in the Hub for Biotechnology in the Built Environment (HBBE) under
the Living Construction theme [9]. It focuses on bringing mycelium and bacterial cellulose
together with textiles using knitting technologies. Knitted fabric, the first component of
the prototype, acts as a scaffold and guides, enhances, and restricts the organism as it
grows or attaches to it. Mycelium in a composite form, the second component, acts as a
bulk material that gives sufficient compressive strength to the knitted structure to enable
the production of a 1.8 m high, free-standing vault. Bacterial cellulose (BC) is the third
component and adds a layer of complexity to the system by adding a new optical and Publisher’s Note: MDPI stays neutral
with regard to jurisdictional claims in
published maps and institutional affil-
iations. Copyright:
© 2022 by the authors. Licensee MDPI, Basel, Switzerland. This article is an open access article
distributed
under
the
terms
and
conditions of the Creative Commons
Attribution (CC BY) license (https://
creativecommons.org/licenses/by/
4.0/). https://www.mdpi.com/journal/biomimetics Biomimetics 2022, 7, 55. https://doi.org/10.3390/biomimetics7020055 Biomimetics 2022, 7, 55 2 of 11 tactile quality. BC is used as a surface treatment to coat the knit/mycelium composite and
as a tactile skin, self-adhered to the mycelium/knit composite. 2.1. Mycelium Composite Preparation Mycelium grown in the experiments was inoculated with a mixed substrate (10 g
of strawbale, 10 g of wood shavings, 10 g of coffee grounds), which was sterilized in an
autoclave at 121 ◦C for 15 min. The sterile mixture was seeded with 10 g of oyster mush-
room spawn from GroCycle, UK and kept in sealed plastic boxes (100 × 100 × 30 mm),
in the dark, at ambient temperature. After three weeks, the samples were taken out of
the boxes and kept in three different forms: oven-dried, air-dried, and living. The first
set was air-dried for 8 days and then oven-dried (for 2 h under 60 ◦C). The second set
was air-dried for 2 weeks at room temperature. Finally, the third set of tiles were kept
alive in a closed container. These three sets of tiles were then integrated in the bacterial
cellulose experiments. 1. Introduction Mycelium and BC, as two
commonly used biomaterials in the design field, were chosen as organisms since cellulose
can be used to cultivate mycelium [9]. It proves that they can establish a relationship, and
one of the organisms could be used to support the other. Fungi mainly consist of two parts: the fruiting body/mushroom and the mycelium/roots. The mycelium is of general interest as a biomaterial due to its ability to rapidly grow on
various forms of waste as a composite, creating a bulk building material [5]. There are
numerous studies on the properties of mycelium composite materials grown on agricultural
waste, such as the works of Appels et al. [10] and Jones et al. [5]. Another approach was
taken by Elsacker et al. by growing BC to be utilized as a nutritious substrate additive with
the focus being on improving the mycelium growth and incorporating the bio-organism in
a dried form [11]. BC is a biopolymer that can be grown as a pure culture from a single bacterial strain in
sterile lab conditions or with a symbiotic culture of bacteria and yeast (SCOBY), which is
commonly used to create fermented kombucha tea in household kitchens. Properties such
as fine crystalline structures, biodegradability and biocompatibility, good water-holding
capacity, and chemical stability can explain the growing interest in BC as a biomaterial [6]. Due to the large-scale nature of the BioKnit prototype, the more resilient kombucha method
was chosen for these experiments. This paper introduces the initial design experiments that were conducted during the
prototyping process and asks the following questions: (1) how two organisms grow together
and how they influence each other, (2) what is the potential of a knit scaffold as a technique
to assemble multiple living materials through growth, and (3) how can the challenge of con-
tamination due to varying growth requirements be addressed? These questions are tested
to develop protocols for multi-kingdom textile composites through a methodology based
on explorative experimentation using material tinkering [12] and based within established
biomaterial protocols rather than a biomimetic investigation translating functional models
from nature. Each organism’s behavior was observed in an iterative array of experiments. 2.2. Bacterial Cellulose Preparation All BC was grown using the kombucha technique with a tea-based medium and a piece
of SCOBY (symbiotic culture of bacteria and yeast) purchased from “Happy Kombucha”. A new SCOBY was used for each experiment. The medium was prepared in 3-litre batches
with tap water, pasteurized apple cider vinegar (62.5 mL/L), white refined sugar (75 g/L),
and black tea (2 g/L) (Tetley Black Tea bags). To prepare the medium, the water was brought
to boiling point before adding the tea bags to infuse for 15 min. The vinegar and sugar
were added, then stirred until all the sugar had dissolved. The addition of vinegar lowers
the pH from 4.9 to 3.5 (±0.1). The medium was cooled down to <30 ◦C before being used. The BC in experiments 1–3 was grown in a plastic box (110 × 190 × 330 mm) with 2.2 L Biomimetics 2022, 7, 55 3 of 11 medium, covered with a cotton cloth. Experiment 4 was grown in a (360 × 26 × 140 mm)
box with the medium quantity adjusted throughout. The associations of BC and mycelium in different metabolic stages were tested in four
experiments. Mycelium composites were shaped as tiles, and BC was oriented flat due to
the necessity in its growth conditions. medium, covered with a cotton cloth. Experiment 4 was grown in a (360 × 26 × 140 mm)
box with the medium quantity adjusted throughout. The associations of BC and mycelium in different metabolic stages were tested in four
experiments. Mycelium composites were shaped as tiles, and BC was oriented flat due to
the necessity in its growth conditions. 2.3. The Experimental Setting
The experiments were do
T2 with 80 mm lens) and micro 2.4. Experiment 1 (Oven-Dried Mycelium with BC)
y
p
y
p
tiles towards the center of the container. This setup w
f
14 d After preparing the kombucha culture, a fresh SCOBY was placed in the medium, as
seen in Figure 1. Then, the first set of oven-dried mycelium tiles were positioned on the
surface. It was not necessary to add support and keep the mycelium at the liquid surface,
as the hydrophobicity of it kept the tiles afloat. The SCOBY was positioned in between the
tiles towards the center of the container. This setup was left in a static condition to ferment
for 14 days. for 14 days. To harvest the composite material of BC and mycelium of experiments 1–3, the
growth was removed from the liquid medium and washed with antibacterial dish soap
and cold water after 14 days of static fermenting. While the BC was thoroughly kneaded
with the soap, care was taken to not wet the mycelium or introduce stress to the joint
locations of the BC to the tiles. Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). Figure 1. The setup for experiments 1, 2, and 3 (image credit: authors). 2.5. Experiment 2–3 (Air-Dried Mycelium with BC and Living Mycelium with BC)
For experiments 2 and 3, the hydrophobicity of the air-dried and living mycelium
was reduced and not sufficient to keep the tiles afloat; therefore, the placement of the tiles
in the liquid medium was adjusted. Two small glass jars were used to support each tile:
To harvest the composite material of BC and mycelium of experiments 1–3, the growth
was removed from the liquid medium and washed with antibacterial dish soap and cold
water after 14 days of static fermenting. While the BC was thoroughly kneaded with the
soap, care was taken to not wet the mycelium or introduce stress to the joint locations of
the BC to the tiles. 2.3. The Experimental Setting
The experiments were do
T2 with 80 mm lens) and micro The associations of BC and mycelium in different metabolic stages were tested in four
experiments. Mycelium composites were shaped as tiles, and BC was oriented flat due to
the necessity in its growth conditions. )
py (
g
p
g
)
The images from photography and microscopy captured the details, smaller features, and
non-measurable characteristics such as the surface texture and BC attachment. They gen-
erated qualitative data for this study. The experiments were documented using photography (iPhone SE and Fuji film X-T2
with 80 mm lens) and microscopy (Dino-Lite digital microscope at 70× magnification). The images from photography and microscopy captured the details, smaller features, and
non-measurable characteristics such as the surface texture and BC attachment. They gener-
ated qualitative data for this study. In experiments 1, 2, and 3, the compatibility of BC (secondary organism) growing
around already-established mycelium (primary organism) was explored. In experiment 4,
the compatibility of mycelium (secondary organism) growing around already-established
BC (primary organism) was explored. In each experiment, the success of the growth of the
secondary organism was monitored alongside the contamination that occurred during the q
y
In experiments 1, 2, and 3, the compatibility of BC (secondary organism) growing
around already-established mycelium (primary organism) was explored. In experiment 4,
the compatibility of mycelium (secondary organism) growing around already-established
BC (primary organism) was explored. In each experiment, the success of the growth of the
secondary organism was monitored alongside the contamination that occurred during the
growth stage. growth stage. 2.4. Experiment 1 (Oven-Dried Mycelium with BC)
After preparing the kombucha culture, a fresh SCOBY was placed in the medium, as
seen in Figure 1. Then, the first set of oven-dried mycelium tiles were positioned on the
surface. It was not necessary to add support and keep the mycelium at the liquid surface,
as the hydrophobicity of it kept the tiles afloat The SCOBY was positioned in between the p
p
y
g
g
y
was explored; however, it was also important to understand whethe
ld b
d
i h
li
i
d
i
2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) could be reversed, with mycelium growing as a secondary organism alongside
established BC. This was tested in experiment 4. For the mycelium to grow next
ide wet bacterial cellulose, a support that can hold and contain the substrate is
In line with the BioKnit background of this research, a knitted pocket (linen, cir-
in, 8 gg Dubied) was used to contain the mycelium substrate. To avoid killing the
in the BC, the mycelium substrate was autoclaved and pre-inoculated for 5–10
multaneously, the BC was grown on the soft scaffold. To stop the BC from merging
es of the pocket together, one side was placed on top of an acrylic scaffold inside
bucha medium to be held on the air–liquid interface while the other side was
p on the corners with acrylic string (see Figure 3a). Fresh medium was added
ath the growing pellicle every 3 days to compensate the evaporated medium and
air–liquid interface stable. second step of the experiment involved harvesting the BC knit composite and
e pocket with the pre-inoculated mycelium substrate (see Figures 3b and 4). The
was sewn shut using cotton string, piercing through the layer of BC and the knit. In experiments 1–3, the compatibility of BC growing around already-established
mycelium was explored; however, it was also important to understand whether the order
of growth could be reversed, with mycelium growing as a secondary organism alongside
already-established BC. This was tested in experiment 4. For the mycelium to grow next
to or inside wet bacterial cellulose, a support that can hold and contain the substrate
is needed. In line with the BioKnit background of this research, a knitted pocket (linen,
circular plain, 8 gg Dubied) was used to contain the mycelium substrate. To avoid killing
the bacteria in the BC, the mycelium substrate was autoclaved and pre-inoculated for
5–10 days. Simultaneously, the BC was grown on the soft scaffold. To stop the BC from
merging both sides of the pocket together, one side was placed on top of an acrylic scaffold
inside the kombucha medium to be held on the air–liquid interface while the other side
was pulled up on the corners with acrylic string (see Figure 3a). Fresh medium was added
underneath the growing pellicle every 3 days to compensate the evaporated medium and
keep the air–liquid interface stable. p
p
y
g
g
y
was explored; however, it was also important to understand whethe
ld b
d
i h
li
i
d
i
2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) VIEW
5 of 11 the mycelium to breathe, the excess BC was folded underneath the pocket on the
ch had the BC growth on it (total of 9 BC layers), leaving one knitted side exposed
4b). This composite was placed inside a plastic box with lid, BC side facing down,
to grow for 12 days. eriment 4 required two separate harvesting processes. First, the BC was har-
fter 14 days of static growth and washed as described above. The top side of the
pocket was also cleaned with dish soap to remove any media that had been drawn
ugh the fibers. The fabric was thoroughly rinsed to eliminate the risk of soap resi-
dering the mycelium growth. The second harvest stage was after 12 days of my-
growth, where the composite material was removed from the plastic box and
ecause contamination occurred, the composite was dried in an industrial oven at
8 h. oughout the 14 days of BC growth, the formation of air bubbles was handled as
evious experiments and pushed out to the sides. (a)
(b)
Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic
scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and
BC folded in 9 layers underneath (image credit: authors). Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic
scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and
BC folded in 9 layers underneath (image credit: authors). ed underneath the pocket on the
eaving one knitted side exposed
x with lid, BC side facing down,
ocesses. First, the BC was har-
ribed above. The top side of the
any media that had been drawn
o eliminate the risk of soap resi-
stage was after 12 days of my-
oved from the plastic box and
as dried in an industrial oven at
n of air bubbles was handled as
(b) the mycelium to breathe, the excess BC was fold
h had the BC growth on it (total of 9 BC layers),
b). This composite was placed inside a plastic bo
o grow for 12 days. riment 4 required two separate harvesting p
er 14 days of static growth and washed as des
ocket was also cleaned with dish soap to remove
gh the fibers. 2.5. Experiment 2–3 (Air-Dried Mycelium with BC and Living Mycelium with BC) For experiments 2 and 3, the hydrophobicity of the air-dried and living mycelium
was reduced and not sufficient to keep the tiles afloat; therefore, the placement of the tiles
in the liquid medium was adjusted. Two small glass jars were used to support each tile:
one upside down and submerged in the liquid to place the tile on (see Figure 2) and the
other one placed on top to weigh down the otherwise floating tile. The jar was placed with
the opening facing down to allow ventilation and avoid the growth of mold underneath. Biomimetics 2022, 7, 55 4 of 11 The quantity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY
was placed in between the tiles in the center of the box. ntity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY
ced in between the tiles in the center of the box. e harvesting process for these experiments was the same as for experiment 1. The quantity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY
was placed in between the tiles in the center of the box. ntity of medium was adjusted to cover the bottom half of the tiles, and the SCOBY
ced in between the tiles in the center of the box. harvesting process for these experiments was the same as for experiment 1. (a)
(b)
(a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living myce-
d a control culture. (b) Closeup of the positioning of the tiles within the liquid using jars
redit: authors). Figure 2. (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living
mycelium, and a control culture. (b) Closeup of the positioning of the tiles within the liquid using
jars (image credit: authors). (b) (a) (a) (b) (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living myce-
a control culture. (b) Closeup of the positioning of the tiles within the liquid using jars
edit: authors). Figure 2. (a) Setup of experiments 2 and 3 with (from right to left) air-dried mycelium, living
mycelium, and a control culture. (b) Closeup of the positioning of the tiles within the liquid using
jars (image credit: authors). 2.5. Experiment 2–3 (Air-Dried Mycelium with BC and Living Mycelium with BC) iment 4 (BC with Living Mycelium Inside Soft Scaffold)
xperiments 1–3 the compatibility of BC growing around already-established my-
The harvesting process for these experiments was the same as for experiment 1. 3.1. Results of Experim
In experiment o
2.7. Drying Process In experiment one, good BC growth occurred; however, the resultant growth was
uneven across the surface. Growth was measured on day 14. The BC thickness ranged
from 12 mm at the outer edges of the cellulose to 2 mm around the SCOBY (where a bubble
had formed). The thicker areas of the pellicle showed good connection to the mycelium
tile and did not detach while handling; however, the 2 mm BC ripped during the harvest-
ing process. After drying, the tiles were firmly integrated into the pellicle, and the com-
posite could be held up from the tiles without the cellulose detaching or ripping (Figure
5). The drying process for experiment 4 is described above. For experiments 1–2, the BC
was washed, padded dry using paper towels, and placed on a clean bamboo cutting to dry
uncovered at 21 ◦C. The composite was placed with the BC side on the tiles facing down. After 48 h, the composite was turned over, exposing the BC on the tiles. After further 48 h,
the BC had turned translucent and fully dried. For experiment 3, the samples that showed
signs of mold contamination were not dried on a bamboo board but dried in an industrial
oven at 60 ◦C for 4–6 h. p
p
y
g
g
y
was explored; however, it was also important to understand whethe
ld b
d
i h
li
i
d
i
2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) This composite was placed inside a plastic box with lid, BC side facing
down, and left to grow for 12 days. (a)
(b)
Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic
scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and
BC folded in 9 layers underneath (image credit: authors) Figure 4. The setup for experiment 4 (image credit: authors). Figure 4. The setup for experiment 4 (image credit: authors). Figure 4. The setup for experiment 4 (image credit: authors). Figure 4. The setup for experiment 4 (image credit: authors). 2.7. Drying Process
The drying process for experiment 4 is described above. For experiments 1–2, the BC
was washed, padded dry using paper towels, and placed on a clean bamboo cutting to
dry uncovered at 21 °C. The composite was placed with the BC side on the tiles facing
down. After 48 h, the composite was turned over, exposing the BC on the tiles. After fur-
ther 48 h, the BC had turned translucent and fully dried. For experiment 3, the samples
that showed signs of mold contamination were not dried on a bamboo board but dried in
an industrial oven at 60 °C for 4–6 h. Experiment 4 required two separate harvesting processes. First, the BC was harvested
after 14 days of static growth and washed as described above. The top side of the knit-
ted pocket was also cleaned with dish soap to remove any media that had been drawn
up through the fibers. The fabric was thoroughly rinsed to eliminate the risk of soap
residue hindering the mycelium growth. The second harvest stage was after 12 days of
mycelium growth, where the composite material was removed from the plastic box and
dried. Because contamination occurred, the composite was dried in an industrial oven at
50 ◦C for 8 h. 3. Results
Throughout the 14 days of BC growth, the formation of air bubbles was handled as in
the previous experiments and pushed out to the sides. The ove
liquid mediu
3. Results q
y
,
3.1. Results of Experiment 1 (Oven-Dried Mycelium with BC) p
p
y
g
g
y
was explored; however, it was also important to understand whethe
ld b
d
i h
li
i
d
i
2.6. Experiment 4 (BC with Living Mycelium inside Soft Scaffold) The fabric was thoroughly rinsed
ering the mycelium growth. The second harves
owth, where the composite material was rem
cause contamination occurred, the composite w
8 h. ughout the 14 days of BC growth the formatio
(a) ocesses. First, the BC was har-
ribed above. The top side of the
any media that had been drawn
o eliminate the risk of soap resi-
stage was after 12 days of my-
oved from the plastic box and
as dried in an industrial oven at
n of air bubbles was handled as
(b) h
(b) f BC
(a) oughout the 14 days of BC growth, the formation of air bubbles was handled as
evious experiments and pushed out to the sides. Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic
scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and
BC folded in 9 layers underneath (image credit: authors). Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic
scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and
BC folded in 9 layers underneath (image credit: authors). The second step of the experiment involved harvesting the BC knit composite and
filling the pocket with the pre-inoculated mycelium substrate (see Figures 3b and 4). The pocket was sewn shut using cotton string, piercing through the layer of BC and Biomimetics 2022, 7, 55 5 of 11 the knit. To allow the mycelium to breathe, the excess BC was folded underneath the pocket
on the side which had the BC growth on it (total of 9 BC layers), leaving one knitted side
exposed (Figure 3b). This composite was placed inside a plastic box with lid, BC side facing
down, and left to grow for 12 days. (a)
(b)
Figure 3. (a) The knitted pocket being placed inside the kombucha culture on top of the acrylic
scaffold with the top half being lifted. (b) Pocket filled with pre-inoculated mycelium substrate and
BC folded in 9 layers underneath (image credit: authors) the knit. To allow the mycelium to breathe, the excess BC was folded underneath the pocket
on the side which had the BC growth on it (total of 9 BC layers), leaving one knitted side
exposed (Figure 3b). q
y
,
3.1. Results of Experiment 1 (Oven-Dried Mycelium with BC) In experiment one, good BC growth occurred; however, the resultant growth was
uneven across the surface. Growth was measured on day 14. The BC thickness ranged
from 12 mm at the outer edges of the cellulose to 2 mm around the SCOBY (where a bubble
had formed). The thicker areas of the pellicle showed good connection to the mycelium tile
and did not detach while handling; however, the 2 mm BC ripped during the harvesting
process. After drying, the tiles were firmly integrated into the pellicle, and the composite
could be held up from the tiles without the cellulose detaching or ripping (Figure 5). Biomimetics 2022, 7, 55 6 of 11 g
(a)
(b)
Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b)
Large BC sheet dried around mycelium tile (image credit: authors). Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b) Large BC sheet dried around mycelium tile (image credit: authors). (b) (a) (b) (a) Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b)
Large BC sheet dried around mycelium tile (image credit: authors). Figure 5. (a) Dried BC around oven-dried mycelium tile under the Dino-Lite digital microscope. (b) Large BC sheet dried around mycelium tile (image credit: authors). 3.2. Results of Experiment 2 (Air-Dried Mycelium with BC)
In experiment two, good BC growth occurred producing a more even pellicle after
14 days of growth. Growth was measured on day six and day 14. On day six, there was a
visible layer of cellulose on the surface that measured 2–3 mm. By day 14, growth meas-
ured between 10–13 mm across the whole surface. During the growing stage, there was a
very weak attachment between the mycelium and the BC. This was clear during harvest
because the BC fully detached from the mycelium. Despite this, during drying the BC
dh
d t
th
li
Th
tt
h
t
i t i
d
ith h
h
dli
The oven-dried tiles were very hydrophobic and initially moved freely within the
liquid medium. On day three of the fermentation, a thin and clear layer of cellulose had
grown on the surface, which stopped the mycelium tiles from moving around. In the center
of the pellicle, a large bubble of gas built up where the SCOBY had been positioned during
the fermentation. q
y
,
3.1. Results of Experiment 1 (Oven-Dried Mycelium with BC) This bubble lifted the cellulose off the liquid and stopped the growth
of the cellulose at this area after less than 7 days. One of the tiles was also lifted into an
angled position. adhered to the mycelium. The attachment was maintained even with heavy handling. During BC growth, many small bubbles formed underneath the pellicle. To maintain
growth, the bubbles were gently pushed to the side of the pellicle using sterile hands. This
was continued each day until day 10, when the stiffness of the pellicle prevented inter-
vention. Cellulose growth was thicker around dried fruiting bodies (the side of the myce-
lium tiles). This formed a patchy appearance overall (Figure 6a). In addition, the BC had
formed a skin-like film under the submerged half of the tile, even without direct access to
The formation of CO2 during the fermentation is a normal occurrence during the
kombucha method; however, the visible amount of trapped CO2 produced in this experi-
ment was greater than in a control setup without mycelium present. The gas bubble was
problematic because it limited BC growth in particular areas and disturbed the position of
one of the mycelium tiles. This led to a poor connection between the BC and mycelium
close to the gas bubble. oxygen (Figure 6b). This indicates that the mycelium can prov
gen to the bacteria
3.2. Results of Experiment 2 (Air-Dried Mycelium with BC) gen to the bacteria. In experiment two, good BC growth occurred producing a more even pellicle after
14 days of growth. Growth was measured on day six and day 14. On day six, there was a
visible layer of cellulose on the surface that measured 2–3 mm. By day 14, growth measured
between 10–13 mm across the whole surface. During the growing stage, there was a very
weak attachment between the mycelium and the BC. This was clear during harvest because
the BC fully detached from the mycelium. Despite this, during drying the BC adhered to
the mycelium. The attachment was maintained even with heavy handling. (a)
(b)
During BC growth, many small bubbles formed underneath the pellicle. To maintain
growth, the bubbles were gently pushed to the side of the pellicle using sterile hands. This was continued each day until day 10, when the stiffness of the pellicle prevented
intervention. Cellulose growth was thicker around dried fruiting bodies (the side of the
mycelium tiles). This formed a patchy appearance overall (Figure 6a). In addition, the BC
had formed a skin-like film under the submerged half of the tile, even without direct access
to oxygen (Figure 6b). This indicates that the mycelium can provide a small amount of
oxygen to the bacteria. 3.3. Results of Experiment 3 (Living Mycelium with BC) In experiment three, BC growth was changed by the presence of a living mycelium. Growth was measured on day six and day 14. On day six, the pellicle thickness was 2–3 mm
in line with previous results. However, by day 14 the pellicle had only grown to a thickness
of between 3–5 mm. BC growth was observed across the mycelium tile in gaps within the
material, and this led to good attachment during the growing stage. Due to contamination,
this sample was oven-dried, and this drying process also created the strongest connection
between the mycelium and the BC. 7 of 11 Biomimetics 2022, 7, 55 en to the bacteria. (a)
(b)
Figure 6. (a) Thicker BC growth around dried fruiting body. (b) BC skin around submerged half of
mycelium tile after harvest (image credit: authors). (b) (a) (b) (a) Figure 6. (a) Thicker BC growth around dried fruiting body. (b) BC skin around submerged half of
mycelium tile after harvest (image credit: authors). Aeration bubbles again appeared underneath the pellicle; however, these were much
smaller and greater in number, leaving a foam-like appearance. Larger bubbles also formed,
and these were pushed to the side. The living mycelium tiles had fruiting bodies that grew
out on the side and were either hovering just above or within the air–liquid interface of
the medium. The BC grew around the fruiting bodies and enclosed them. The mushrooms
sitting half-submerged on the surface began to dry out and had shrunk in size by day seven,
but the connection to the BC remained. Unlike the mycelium tiles in experiments one and
two, these tiles were not hydrophobic, and they soaked up the liquid medium. During the
experiment, the top of the tiles also became submerged. Where the top of the tile soaked
up the medium, some BC growth occurred. Around the side of the tiles, the BC growth
was uneven, with thinner parts forming the connection to the mycelium (2–3 mm) and
the outside edges and corners being the thickest parts. As in the previous experiment, the
cellulose growing around bunches of primordia formations was thicker. During the first
7 days, the area of the tile that was covered with the upside-down jar continued to grow
white patchy mycelium. This growth slowed down and eventually stopped once the jars
were removed. 3.3. Results of Experiment 3 (Living Mycelium with BC) Contamination in the form of green mold occurred on the top surface of one of the
tiles where the medium had been soaked up. This meant that the composite could not be
air-dried after harvest but needed to be oven-dried at 100 ◦C for 1 h. Compared to the
air-dried versions, the BC was darker in color and significantly more brittle. During the
harvest, the tiles soaked up the washing water and needed to be handled very carefully to
not fall apart. The BC did not hold the tile substrate in shape. Figure 7 shows a visual comparison of experiments one, two, and three in a hydrated
and dried state. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) Comparison of experiments 1–3 in the order oven-dried, air-dried, and living from top to
bottom in (a) wet state and (b) dried state (image credit: authors). g
g
g
g
y ,
g
of contamination in the form of mold; therefore, the composite was oven-dried (see Figure
8). The connection between the mycelium and BC as a dried composite was strong, with
h
f h f b i
l
l
i ibl
h
h h BC (a)
(b)
Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted
pocket on day 14 (image credit: authors). Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted
pocket on day 14 (image credit: authors). (b) (a) (b) (a) Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted
pocket on day 14 (image credit: authors). Figure 8. (a) Mycelium growth on the knitted pocket on day 7. (b) Mycelium growth on the knitted
pocket on day 14 (image credit: authors). The first stage of the experiment resulted in an even growth of BC (5 mm) attached
to the bottom half of the knitted pocket. Due to the high absorbency of the fabric used to
create the pocket, the starter liquid for the kombucha culture partly saturated the top
layer, which was suspended over the air–liquid interface. No visible layer of the BC
formed on those parts of the pocket. During the second stage of the experiment, the growth behavior of the mycelium was
observed. In the first 7 days, the organism started to visibly grow around the sides of the
pocket as seen in Figure 7 The larger patches of mycelial growth were located predomi-
During the second stage of the experiment, the growth behavior of the mycelium
was observed. In the first 7 days, the organism started to visibly grow around the sides
of the pocket, as seen in Figure 7. The larger patches of mycelial growth were located
predominantly along the edges due to the level of moisture on those parts. However, the
knitted pocked was not fully covered by a dense layer of mycelium. This was possibly due
to the linen being difficult to digest for the mycelium. The BC had not begun drying at this
time. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) In experiment four, mycelium growth was contained in a knitted pocket submerged
in BC. The results showed that the mycelium grew alongside the BC; however, mycelium
growth was uneven (in comparison to controls with no BC present). In this experiment, the
attachment between the mycelium and BC was created by the knitted pocket, and this was
effective in bringing the two organisms together. After 12 days, the BC showed signs of
contamination in the form of mold; therefore, the composite was oven-dried (see Figure 8). The connection between the mycelium and BC as a dried composite was strong, with the
texture of the fabric clearly visible through the BC. The first stage of the experiment resulted in an even growth of BC (5 mm) attached
to the bottom half of the knitted pocket. Due to the high absorbency of the fabric used to
create the pocket, the starter liquid for the kombucha culture partly saturated the top layer,
which was suspended over the air–liquid interface. No visible layer of the BC formed on
those parts of the pocket. 8 of 11 Biomimetics 2022, 7, 55 d state. (a)
(b)
Figure 7. Comparison of experiments 1–3 in the order oven-dried, air-dried, and living from top to
bottom in (a) wet state and (b) dried state (image credit: authors). VIEW
8 of 11
Figure 7. Comparison of experiments 1–3 in the order oven-dried, air-dried, and living from top to
bottom in (a) wet state and (b) dried state (image credit: authors). 3.4. Results of Experiment 4 (BC with Living Mycelium Inside Soft Scaffold)
In experiment four, mycelium growth was contained in a knitted pocket submerged
in BC. The results showed that the mycelium grew alongside the BC; however, mycelium
growth was uneven (in comparison to controls with no BC present). In this experiment,
the attachment between the mycelium and BC was created by the knitted pocket, and this
was effective in bringing the two organisms together. After 12 days, the BC showed signs
of contamination in the form of mold; therefore, the composite was oven-dried (see Figure
8). The connection between the mycelium and BC as a dried composite was strong, with
the texture of the fabric clearly visible through the BC (b)
ated b
After (a)
ment
ive in Figure 7. Discussion
4. Discussion The primary purpose of this study was to test the compatibility of the two chosen
materials and identify methods of growing them into viable composites. The results of
our experiments demonstrated that reliable growth of a secondary organism was
evable in the presence of a primary organism (Table 1). However, we were not able to
id contamination in the wet stage of the growth process in experiments three and four
en both the mycelium and BC were alive. Although pre-grown mycelium composites
less receptive to contamination, the increased humidity and presence of sugar from
BC culture created a beneficial environment for mold, which was observed in experi-
nt three. This problem could be solved by either adjusting the timeline of the setup,
wing the BC to dry partly before adding the mycelium in experiment four, or by add-
active ventilation underneath the BC inside the mycelium growth box. For experi-
nts 1–3, a more refined method to place the tiles inside the kombucha medium can be
gned to maximize free air flow on the surface of the mycelium. Whilst contamination
vident in experiments three and four, it is notable that this has not prevented successful
chment between the mycelium and the bacterial cellulose; in fact, the best attachment
observed in experiment four, where mold was observed on both the BC and myce-
m. The primary purpose of this study was to test the compatibility of the two chosen
biomaterials and identify methods of growing them into viable composites. The results
of all four experiments demonstrated that reliable growth of a secondary organism was
achievable in the presence of a primary organism (Table 1). However, we were not able to
avoid contamination in the wet stage of the growth process in experiments three and four
when both the mycelium and BC were alive. Although pre-grown mycelium composites
are less receptive to contamination, the increased humidity and presence of sugar from the
BC culture created a beneficial environment for mold, which was observed in experiment
three. This problem could be solved by either adjusting the timeline of the setup, allowing
the BC to dry partly before adding the mycelium in experiment four, or by adding active
ventilation underneath the BC inside the mycelium growth box. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) The fabric on the top side had also not fully dried from the washing. pocket, as seen in Figure 7. The larger patches of mycelial growth were located predomi-
nantly along the edges due to the level of moisture on those parts. However, the knitted
pocked was not fully covered by a dense layer of mycelium. This was possibly due to the
linen being difficult to digest for the mycelium. The BC had not begun drying at this time. The fabric on the top side had also not fully dried from the washing. After a total of 12 days, the wet BC showed signs of contamination in the form of
mold. The mycelium had continued to grow along the edges of the pocket and onto the
After a total of 12 days, the wet BC showed signs of contamination in the form of
mold. The mycelium had continued to grow along the edges of the pocket and onto the
plastic container. The very top of the fabric showed less growth than before. The corners of
the pocket, where the liquid medium had been soaked up during the first stage, showed
no mycelium growth but contamination reaching from the BC. Those areas of the fabric
showed dark discoloration. y
g
g
g
p
plastic container. The very top of the fabric showed less growth than before. The corners
of the pocket, where the liquid medium had been soaked up during the first stage, showed
no mycelium growth but contamination reaching from the BC. Those areas of the fabric
showed dark discoloration. After drying the composite in an oven, the mycelium and BC both significantly de-
After drying the composite in an oven, the mycelium and BC both significantly
decreased in thickness. Only one corner of the pocket showed signs of a beginning white
coating (see Figure 9a), as have been observed in prior experiments. While the BC was very
brittle, it showed strong attachment to the fabric and had molded onto it in a way that the
texture of the fabric came through. 9 of 11 Biomimetics 2022, 7, 55
omimetics 2022, 7, x FOR PE (a)
(b)
ure 9. (a) Corner of the pocket with white mycelium skin. (b) BC dried onto the pocket, showing
ern of fabric underneath (image credit: authors). Figure 9. (a) Corner of the pocket with white mycelium skin. Discussion
4. Discussion For experiments 1–3, a
more refined method to place the tiles inside the kombucha medium can be designed to
maximize free air flow on the surface of the mycelium. Whilst contamination is evident in
experiments three and four, it is notable that this has not prevented successful attachment
between the mycelium and the bacterial cellulose; in fact, the best attachment was observed
in experiment four, where mold was observed on both the BC and mycelium. Table 1. The summary of the experiment. Oven-Dried (No. 1)
Air-Dried (No. 2)
Living (No. 3)
Pocket (No. 4)
BC growth
5–13 mm, <2 mm on
gas bubble
5–8 mm
5–8 mm
4–6 mm and inclu-
sion of knit
Mycelium growth
Dead, white film
around substrate
Dormant pinheads,
white film
Mushrooms and no
white film
Little and on top
side only
Attachment
Good
Weak to not at all
Stronger after oven dry-
ing
Strong
Contamination
No contamination
No contamination
Mold on exposed myce-
lium
Mold on BC and
mycelium
Other observations
Uneven BC
growth
BC around fruiting
bodies thicker
BC grew around mush-
room
-
Table 1. The summary of the experiment. Oven-Dried (No. 1)
Air-Dried (No. 2)
Living (No. 3)
Pocket (No. 4)
BC growth
5–13 mm, <2 mm on
gas bubble
5–8 mm
5–8 mm
4–6 mm and inclusion
of knit
Mycelium growth
Dead, white film
around substrate
Dormant pinheads,
white film
Mushrooms and no
white film
Little and on top
side only
Attachment
Good
Weak to not at all
Stronger after
oven drying
Strong
Contamination
No contamination
No contamination
Mold on
exposed mycelium
Mold on BC
and mycelium
Other observations
Uneven BC
growth
BC around fruiting
bodies thicker
BC grew
around mushroom
- le 1. The summary of the experiment. Table 1. The summary of the experiment. The presence of mycelium in any state of aliveness caused greater production of fer-
ntation gases, which led to visibly thinner BC in the areas where gas collected in bub-
s. The BC also showed increased growth around fruiting bodies and primordia for-
tions, indicating a greater availability of nutrients and/or oxygen in these areas through
mycelium composite. The presence of mycelium in any state of aliveness caused greater production of
fermentation gases, which led to visibly thinner BC in the areas where gas collected in
bubbles. 3.4. Results of Experiment 4 (BC with Living Mycelium inside Soft Scaffold) (b) BC dried onto the pocket, showing
pattern of fabric underneath (image credit: authors). (a) (b) (b) (a) re 9. (a) Corner of the pocket with white mycelium skin. (b) BC dried onto the pocket, showing
ern of fabric underneath (image credit: authors). Figure 9. (a) Corner of the pocket with white mycelium skin. (b) BC dried onto the pocket, showing
pattern of fabric underneath (image credit: authors). Discussion
4. Discussion The BC also showed increased growth around fruiting bodies and primordia
formations, indicating a greater availability of nutrients and/or oxygen in these areas
through the mycelium composite. The shape of knit in the form of a pocket was valuable as a scaffold for the BC to
grow around and to hold the loose mycelium substrate in a compacted shape. The knit
successfully offered a link between the two organisms in the setup. The growth behavior of Biomimetics 2022, 7, 55 10 of 11 10 of 11 mycelium with different types of yarn was tested in a separate set of experiments as part of
the BioKnit project, which revealed linen to be less compatible [13]. This can partly explain
the limited mycelium growth in experiment four. mycelium with different types of yarn was tested in a separate set of experiments as part of
the BioKnit project, which revealed linen to be less compatible [13]. This can partly explain
the limited mycelium growth in experiment four. g
p
g
y
4.
JDO Vaults. Available online: https://jdovaults.com/El-Monolito-Micelio (accessed on 20 April 2022) J
gy
3.
Biomaterial Building. Available online: https://www.biomaterialbuilding.com/mycocreate (accessed
O
l
A
l bl
l
h
// d
l
/ l
l
l
(
d
A
l
) 5. Conclusions Informed Consent Statement: Not applicable. Informed Consent Statement: Not applicable. Data Availability Statement: Not applicable. Data Availability Statement: Not applicable. Acknowledgments: This research is part of a series of prototypes developed in the Hub for Biotech-
nology in the Built Environment (HBBE). HBBE is funded by Research England and is a joint initiative
between Newcastle University and Northumbria University. The BioKnit prototype was further
designed and built in collaboration with Armand Agraviador, Ahmet Topcu, Romy Kaiser, Elise
Elsacker, Emily Birch and Ben Bridgens. Conflicts of Interest: The authors declare no conflict of interest. 5. Conclusions This paper focused on the biological compatibility of mycelium and bacterial cellulose
as two biomaterials that produce different and potentially complimentary qualities for
a new generation of biohybrid materials for architecture. Through experimental study,
the research investigated four different combined growth setups to test the potential for
growing together, the use of a knit scaffold, and the challenge of contamination. g
g
g
g
Growing Together: The research demonstrates that BC and mycelium can grow effec-
tively in the presence of one another. The growth of the secondary organism is influenced
by the growth requirements of the primary organism, particularly when both organisms
are living. This influence was observed predominantly through uneven growth of the
secondary organism. In two experiments, the presence of mushrooms growing from the
mycelium increased the BC formation in the surrounding area, suggesting a localized
increase in nutrition supply for the BC. pp y
The use of a knit scaffold: Whilst BC and mycelium can grow together, producing a
strong attachment during growth, forming a composite is more problematic. The knitted
scaffold proved helpful in bringing the two organisms together in a way that supported
both growth behaviors through the fabric’s adjustable breathability and rough texture. As a
result of this research, large-scale knit scaffolds have been implemented in the design of
the BioKnit prototype. Further research investigating attachment strategies could guide the
design of future textile scaffolds. The challenge of contamination: The changing environmental conditions required by
the different growth requirements of BC and mycelium increase the probability of contami-
nation during the growth phase. The most challenging factors observed are humidity and
ventilation leading to the growth of mold. Further research is required to optimize the
environmental conditions, and active systems to control ventilation and humidity during
growth will be developed to eliminate these problems in future projects. Author Contributions: Conceptualization, A.H. and D.O.; methodology, A.H. and D.O.; validation,
A.H. and D.O.; formal analysis, A.H. and D.O.; investigation, A.H. and D.O.; resources, A.H. and D.O.;
data curation, A.H. and D.O.; writing—original draft preparation, A.H. and D.O.; writing—review
and editing, J.S., A.H. and D.O.; visualization, A.H. and D.O.; supervision, J.S.; project administration,
A.H. and D.O. All authors have read and agreed to the published version of the manuscript. Funding: Research funded by Research England’s Expanding Excellence in England (E3) Fund. Institutional Review Board Statement: Not applicable. Institutional Review Board Statement: Not applicable. 1.
Karana, E. When the Mycelium Grows: A case study on Designing (with) Mycelium-based Materials. Int. J. Des. 2018, 12, 119–136.
2.
Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree at the 2017 Seoul Biennale
of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef]
3.
Biomaterial Building. Available online: https://www.biomaterialbuilding.com/mycocreate (accessed on 20 April 2022). 1.
Karana, E. When the Mycelium Grows: A case study on Designing (with) Mycelium-based Materials. Int. J. Des. 2018, 12, 119–136.
2.
Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree at the 2017 Seoul Biennale
of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef]
3.
Biomaterial Building. Available online: https://www.biomaterialbuilding.com/mycocreate (accessed on 20 April 2022).
4.
JDO Vaults. Available online: https://jdovaults.com/El-Monolito-Micelio (accessed on 20 April 2022). 1.
Karana, E. When the Mycelium Grows: A case study on Designing (with) Mycelium based Materials. Int. J. Des. 2018, 12, 119 136.
2.
Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree at the 2017 Seoul Biennale
of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef] y
y
g
g (
)
y
2.
Heisel, F. Design, Cultivation and Application of Load-Bearing Mycelium Components: The MycoTree a
of Architecture and Urbanism. Int. J. Sustain. Energy Dev. 2017, 6, 296–303. [CrossRef] References 11 of 11 11 of 11 Biomimetics 2022, 7, 55 5. Jones, M.; Mautner, A.; Luenco, S.; Bismarck, A.; John, S. Engineered mycelium composite construction materials from fungal
biorefineries: A critical revies. Mater. Des. 2022, 187, 108397. [CrossRef] 6. Portela, R.; Leal, C.R.; Almeida, P.L.; Sobral, R.G. Bacterial Cellulose: A versatile biopolymer for wound dressing applications. Microb. Biotechnol. 2019, 12, 565–610. [CrossRef] [PubMed] 7. Sayfutdinova, A.; Samofalova, I.; Barkov, A.; Cherednichenko, K.; Rimashevskiy, D.; Vinokurov, V. Structure and Properties of
Cellulose/Mycelium Biocomposites. Polymers 2022, 14, 1519. [CrossRef] [PubMed] 8. Ng, F.M.; Wang, P.W. Natural Self-grown Fashion from Bacterial Cellulose: A paradigm Shift Design Approach in Fashion
Creation. Des. J. 2016, 19, 837–855. [CrossRef] 9. Scott, J. Knitted Cultivation: Textiling a Multi-Kingdom Bio Architecture. In Proceedings of the ICSA 2022, 5th International
Conference on Structures and Architecture, Aalborg, Denmark, 6–8 July 2022. 10. Appels, F.V.W. The Use of Fungal Mycelium for the Production of Bio-Based Materials. Doctoral Dissert
Utrecht, The Netherlands, 2019. Use of Fungal Mycelium for the Production of Bio-Based Materials. Doctoral Dissertation, University Utrecht
lands, 2019. 11. Elsacker, E.; Vandelook, S.; Damsin, B.; Van Wylick, A.; Peeters, E.; De Laet, L. Mechanical characteristics of bacterial cellulose-
reinforced mycelium composite materials. Fungal Biol. Biotechnol. 2021, 8, 18. [CrossRef] [PubMed] y
p
g
12. Resnick, M.; Rosenbaum, E. Chapter 10-Designing for Tinkerability. In Design, Make, Play; Honey, M., Kanter, D., Eds.; Routledge:
New York, NY, USA, 2013. 13. Scott, J.; Ozkan, D.; Hoenerloh, A.; Birch, E.; Kaiser, R.; Agraviador, A.; Elsacker, E. BioKnit Building: Strategies for Living Textile
Architectures 2021. In Proceedings of the CEES International Conference Construction, Energy, Environment and Sustainability,
Coimbra, Portugal, 12–15 October 2021.
|
https://openalex.org/W2115938899
|
http://journal.asu.ru/cw/article/download/jcprm.1401195/197
|
Chinese
| null |
СЕЗОННАЯ И ВОЗРАСТНАЯ ДИНАМИКА СОДЕРЖАНИЯ БЕРБЕРИНА В ИНТРОДУЦИРОВАННОМ BERBERIS SIBIRICA PALL.
|
Himiâ rastitelʹnogo syrʹâ
| 2,014
|
cc-by
| 2,924
|
©
ɂȼ. ɇɟɱɟɩɭɪɟɧɤɨ
1, ɇɂ. Ʉɨɦɚɪɨɜɚ1, Ɉɇ. ɉɨɬɺɦɤɢɧ2, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ1
1ɇɨɜɨɫɢɛɢɪɫɤɢɣɢɧɫɬɢɬɭɬɨɪɝɚɧɢɱɟɫɤɨɣɯɢɦɢɢɢɦ. ɇɇ. ȼɨɪɨɠɰɨɜɚɋɈɊȺɇ,
ɩɪ. ɚɤɚɞ. Ʌɚɜɪɟɧɬɶɟɜɚ, 9, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ),
e-mail niv@nioch.nsc.ru
2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ,
101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru ©
ɂȼ. ɇɟɱɟɩɭɪɟɧɤɨ
1, ɇɂ. Ʉɨɦɚɪɨɜɚ1, Ɉɇ. ɉɨɬɺɦɤɢɧ2, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ1
1ɇɨɜɨɫɢɛɢɪɫɤɢɣɢɧɫɬɢɬɭɬɨɪɝɚɧɢɱɟɫɤɨɣɯɢɦɢɢɢɦ. ɇɇ. ȼɨɪɨɠɰɨɜɚɋɈɊȺɇ,
ɩɪ. ɚɤɚɞ. Ʌɚɜɪɟɧɬɶɟɜɚ, 9, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ),
e-mail niv@nioch.nsc.ru
2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ,
101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru ©
ɂȼ. ɇɟɱɟɩɭɪɟɧɤɨ
1, ɇɂ. Ʉɨɦɚɪɨɜɚ1, Ɉɇ. ɉɨɬɺɦɤɢɧ2, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ1
1ɇɨɜɨɫɢɛɢɪɫɤɢɣɢɧɫɬɢɬɭɬɨɪɝɚɧɢɱɟɫɤɨɣɯɢɦɢɢɢɦ. ɇɇ. ȼɨɪɨɠɰɨɜɚɋɈɊȺɇ,
ɩɪ. ɚɤɚɞ. Ʌɚɜɪɟɧɬɶɟɜɚ, 9, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ),
e-mail niv@nioch.nsc.ru
2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ,
101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru e mail niv@nioch.nsc.ru
2ɐɟɧɬɪɚɥɶɧɵɣɫɢɛɢɪɫɤɢɣɛɨɬɚɧɢɱɟɫɤɢɣɫɚɞɋɈɊȺɇ, ɭɥ. Ɂɨɥɨɬɨɞɨɥɢɧɫɤɚɹ,
101, ɇɨɜɨɫɢɛɢɪɫɤ, 630090 (Ɋɨɫɫɢɹ), e-mail: 1964o@mail.ru ȼɬɟɱɟɧɢɟɬɪɟɯɜɟɝɟɬɚɬɢɜɧɵɯ ɫɟɡɨɧɨɜ ɦɟɬɨɞɨɦ ȼɗɀɏ ɢɡɭɱɟɧɚ ɞɢɧɚɦɢɤɚ ɫɨɞɟɪɠɚɧɢɹ ɢɡɨɯɢɧɨɥɢɧɨɜɨɝɨɚɥɤɚ-
ɥɨɢɞɚɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɢɧɚɞɡɟɦɧɨɣɱɚɫɬɢɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɜɭɫɥɨɜɢɹɯɐɋȻɋɋɈɊȺɇɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨ
ɪɚɡɥɢɱɧɵɯɜɨɡɪɚɫɬɧɵɯɫɨɫɬɨɹɧɢɣ. ɉɨɤɚɡɚɧɨ, ɱɬɨɤɨɪɧɢɛ. ɫɢɛɢɪɫɤɨɝɨɫɨɞɟɪɠɚɬɜ 3–5 ɪɚɡɛɨɥɶɲɟɛɟɪɛɟɪɢɧɚ, ɱɟɦɫɬɟɛ-
ɥɢ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 7 ɥɟɬɤɨɥɟɛɥɟɬɫɹɜɬɟɱɟɧɢɟɫɟɡɨɧɚɧɟɡɧɚɱɢɬɟɥɶɧɨ, ɫɪɟɞɧɟɟɡɧɚɱɟɧɢɟɫɨ-
ɫɬɚɜɥɹɟɬ 1,10%, ɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɛɵɥɨɧɚɣɞɟɧɨɜɢɸɥɟ (1,16r0,03%). Ʉɨɪɧɢɜɨɡɪɚɫɬɚ 3 ɝɨɞɚɫɨ-
ɞɟɪɠɚɬɦɟɧɶɲɟɟɤɨɥɢɱɟɫɬɜɨɛɟɪɛɟɪɢɧɚ. ɂɡɨɛɪɚɡɰɚɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɯɤɨɪɧɟɣɫɫɨɞɟɪɠɚɧɢɟɦ 0,95% ɛɟɪɛɟɪɢɧɚɛɵɥ
ɩɪɟɩɚɪɚɬɢɜɧɨɜɵɞɟɥɟɧɛɟɪɛɟɪɢɧɯɥɨɪɢɞɫɜɵɯɨɞɨɦ 0,62%, ɱɬɨɹɜɥɹɟɬɫɹɩɨɤɚɡɚɬɟɥɟɦ, ɛɥɢɡɤɢɦɞɥɹɩɨɥɭɱɟɧɢɹɛɟɪɛɟɪɢɧ-
ɯɥɨɪɢɞɚɢɡɞɢɤɨɪɚɫɬɭɳɢɯɤɨɪɧɟɣ. ɪ ɞ
ɞ
ɪ
ɭɳ
ɪ
Ʉɥɸɱɟɜɵɟɫɥɨɜɚ:ɛɟɪɛɟɪɢɧ, Berberis sibirica, ɞɢɧɚɦɢɤɚɚɥɤɚɥɨɢɞɨɜ, ɢɧɬɪɨɞɭɤɰɢɹ, ȼɗɀɏ. Ⱥɜɬɨɪ, ɜɟɞɭɳɢɣɩɟɪɟɩɢɫɤɭ ɇɟɱɟɩɭɪɟɧɤɨɂɜɚɧȼɚɫɢɥɶɟɜɢɱ – ɧɚɭɱɧɵɣɫɨɬɪɭɞɧɢɤ,
ɤɚɧɞɢɞɚɬɯɢɦɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-88-70,
e-mail: niv@nioch.nsc.ru
Ʉɨɦɚɪɨɜɚɇɢɧɚɂɜɚɧɨɜɧɚ – ɜɟɞɭɳɢɣɢɧɠɟɧɟɪ,
ɬɟɥ.: (383) 330-88-70, e-mail: komar@nioch.nsc.ru
ɉɨɬɺɦɤɢɧɈɥɟɝɇɢɤɨɥɚɟɜɢɱ – ɡɚɜɟɞɭɸɳɢɣ
ɥɚɛɨɪɚɬɨɪɢɟɣɞɟɧɞɪɨɥɨɝɢɢ, ɫɬɚɪɲɢɣɧɚɭɱɧɵɣ
ɫɨɬɪɭɞɧɢɤ, ɤɚɧɞɢɞɚɬɛɢɨɥɨɝɢɱɟɫɤɢɯɧɚɭɤ,
ɬɟɥ.: (383) 330-27-63, e-mail: 1964o@mail.ru
ɋɚɥɚɯɭɬɞɢɧɨɜɇɚɪɢɦɚɧɎɚɪɢɞɨɜɢɱ – ɪɭɤɨɜɨɞɢɬɟɥɶ
Ɉɬɞɟɥɚɦɟɞɢɰɢɧɫɤɨɣɯɢɦɢɢ, ɞɨɤɬɨɪɯɢɦɢɱɟɫɤɢɯɧɚɭɤ,
ɬɟɥ.: (383) 330-97-33, e-mail: anvar@nioch.nsc.ru ɏɂɆɂəɊȺɋɌɂɌȿɅɖɇɈȽɈɋɕɊɖə. 2014. ʋ1. ɋ. 195–202.
DOI: 10.14258/jcprm.1401195 ɏɂɆɂəɊȺɋɌɂɌȿɅɖɇɈȽɈɋɕɊɖə. 2014. ʋ1. ɋ. 195–202. DOI: 10.14258/jcprm.1401195 ɍȾɄ 581.543+581.192.2+547.978.1+581.522.4+582.675.34 ɍȾɄ 581.543+581.192.2+547.978.1+581.522.4+582.675.34 ȼɜɟɞɟɧɢɟ ɂɫɩɨɥɶɡɨɜɚɧɢɟɜɨɡɨɛɧɨɜɥɹɟɦɨɝɨɪɚɫɬɢɬɟɥɶɧɨɝɨɫɵɪɶɹɲɢɪɨɤɨɩɪɢɦɟɧɹɟɬɫɹɞɥɹɩɨɥɭɱɟɧɢɹɛɢɨɥɨɝɢ-
ɱɟɫɤɢɚɤɬɢɜɧɵɯɫɨɟɞɢɧɟɧɢɣ. Ɉɞɧɚɤɨɩɨɫɬɨɹɧɧɨɭɫɢɥɢɜɚɸɳɚɹɫɹɚɧɬɪɨɩɨɝɟɧɧɚɹɧɚɝɪɭɡɤɚɧɚɛɢɨɥɨɝɢɱɟɫɤɢɟ
ɫɨɨɛɳɟɫɬɜɚ ɩɪɢɜɨɞɢɬ ɤ ɭɧɢɱɬɨɠɟɧɢɸ ɪɚɫɬɢɬɟɥɶɧɨɝɨ ɦɧɨɝɨɨɛɪɚɡɢɹ ɢ ɛɟɡɜɨɡɜɪɚɬɧɨɣ ɩɨɬɟɪɟ ɭɧɢɤɚɥɶɧɨɝɨ
ɩɪɢɪɨɞɧɨɝɨɝɟɧɨɮɨɧɞɚ. ɇɚɮɨɧɟɫɨɜɪɟɦɟɧɧɨɝɨɫɨɤɪɚɳɟɧɢɹɚɪɟɚɥɨɜɢɭɧɢɱɬɨɠɟɧɢɹɩɨɩɭɥɹɰɢɣ, ɪɚɫɲɢɪɟɧɢɟ
ɚɫɫɨɪɬɢɦɟɧɬɚɪɟɫɭɪɫɧɵɯɪɚɫɬɟɧɢɣɩɭɬɟɦɢɯɢɧɬɪɨɞɭɤɰɢɢɩɨɡɜɨɥɹɟɬɤɨɦɩɥɟɤɫɧɨɪɟɲɢɬɶɪɹɞɚɤɬɭɚɥɶɧɵɯ
ɩɪɨɛɥɟɦ, ɫɬɨɹɳɢɯɩɟɪɟɞɱɟɥɨɜɟɱɟɫɬɜɨɦ. ɍɫɩɟɲɧɚɹɢɧɬɪɨɞɭɤɰɢɹɪɚɫɬɟɧɢɣ, ɩɨɦɢɦɨɪɟɲɟɧɢɹɛɢɨɥɨɝɢɱɟɫɤɢɯ
ɡɚɞɚɱ (ɬɚɤɢɯɤɚɤɫɩɨɫɨɛɧɨɫɬɶɪɚɫɬɢɢɞɚɜɚɬɶɩɨɬɨɦɫɬɜɨ), ɩɪɟɞɩɨɥɚɝɚɟɬɜɵɹɫɧɟɧɢɟɜɨɩɪɨɫɚ – ɫɩɨɫɨɛɧɨɥɢ
ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɟɪɚɫɬɟɧɢɟɨɛɪɚɡɨɜɵɜɚɬɶɬɪɟɛɭɟɦɵɣɦɟɬɚɛɨɥɢɬɜɧɟɩɪɢɜɵɱɧɵɯɞɥɹɧɟɝɨɭɫɥɨɜɢɹɯɫɭɳɟ-
ɫɬɜɨɜɚɧɢɹ. Ɏɢɡɢɨɥɨɝɢɹɢɛɢɨɯɢɦɢɹɢɧɬɪɨɞɭɰɟɧɬɨɜɜɡɧɚɱɢɬɟɥɶɧɨɣɫɬɟɩɟɧɢɡɚɜɢɫɹɬɨɬɭɫɥɨɜɢɣɜɵɪɚɳɢɜɚ-
ɧɢɹɢɭɯɨɞɚ; ɢɡɜɟɫɬɧɵɫɥɭɱɚɢ, ɤɨɝɞɚɪɚɫɬɟɧɢɹɩɪɢɢɧɬɪɨɞɭɤɰɢɢɧɟɧɚɤɚɩɥɢɜɚɸɬɚɥɤɚɥɨɢɞɵ [1, 2]. ɂɡɨɯɢɧɨɥɢɧɨɜɵɣɚɥɤɚɥɨɢɞɛɟɪɛɟɪɢɧɹɜɥɹɟɬɫɹ ɰɟɧɧɵɦɜɟɳɟɫɬɜɨɦ, ɨɛɥɚɞɚɸɳɢɦɩɪɨɬɢɜɨɦɢɤɪɨɛɧɨɣ,
ɚɧɬɢɛɚɤɬɟɪɢɚɥɶɧɨɣ, ɝɢɩɨɯɨɥɟɫɬɟɪɢɧɟɦɢɱɟɫɤɨɣ ɚɤɬɢɜɧɨɫɬɶɸ [3, 4]. Ȼɟɪɛɟɪɢɧ ɜɵɞɟɥɹɥɢ ɜ ɜɢɞɟ ɯɥɨɪɢɞɚ
ɪɢɫ. 1) ɢɥɢɫɭɥɶɮɚɬɚɢɡɪɚɫɬɟɧɢɣɪɨɞɨɜɛɚɪɛɚɪɢɫ (Berberis), ɛɚɪɯɚɬ (Phellodendron), ɯɨɯɥɚɬɤɚ (Corydalis),
ɠɟɥɬɨɤɨɪɟɧɶ (Hydrastis). ɇɚ ɬɟɪɪɢɬɨɪɢɢ ɛɵɜɲɟɝɨ
ɋɋɋɊɛɨɬɚɧɢɱɟɫɤɢɦɢɫɚɞɚɦɢɜɜɟɞɟɧɵɜɤɭɥɶɬɭɪɭ 45
ɜɢɞɨɜ ɛɚɪɛɚɪɢɫɚ. ɂɡ ɪɚɫɬɟɧɢɣ, ɩɪɨɢɡɪɚɫɬɚɸɳɢɯ ɧɚ
ɬɟɪɪɢɬɨɪɢɢ Ɋɨɫɫɢɢ ɢ ɫɨɞɟɪɠɚɳɢɯ ɛɟɪɛɟɪɢɧ, ɧɚɢɛɨ-
ɥɟɟɲɢɪɨɤɨɪɚɫɩɪɨɫɬɪɚɧɟɧɵɪɚɫɬɟɧɢɹɪɨɞɚɛɚɪɛɚɪɢɫ:
ɜ ɟɜɪɨɩɟɣɫɤɨɣ ɱɚɫɬɢ – ɛ. ɨɛɵɤɧɨɜɟɧɧɵɣ (Berberis
vulgaris L.) ɢ ɜ ɚɡɢɚɬɫɤɨɣ ɱɚɫɬɢ – ɛ. ɫɢɛɢɪɫɤɢɣ
(Berberis sibirica Pall.), ɜɢɞɵ ɹɜɥɹɸɬɫɹ ɛɥɢɡɤɢɦɢ ɢ
ɦɧɨɝɢɦɢɚɜɬɨɪɚɦɢɧɟɪɚɡɥɢɱɚɸɬɫɹ. Ȼ. ɫɢɛɢɪɫɤɢɣ –
ɇɟɱɟɩɭɪɟɧɤɨɂɜɚɧȼɚɫɢɥɶɟɜɢɱ – ɧɚɭɱɧɵɣɫɨɬɪɭɞɧɢɤ,
ɤɚɧɞɢɞɚɬɯɢɦɢɱɟɫɤɢɯɧɚɭɤ, ɬɟɥ.: (383) 330-88-70,
e-mail: niv@nioch.nsc.ru
Ʉɨɦɚɪɨɜɚɇɢɧɚɂɜɚɧɨɜɧɚ – ɜɟɞɭɳɢɣɢɧɠɟɧɟɪ,
ɬɟɥ.: (383) 330-88-70, e-mail: komar@nioch.nsc.ru
ɉɨɬɺɦɤɢɧɈɥɟɝɇɢɤɨɥɚɟɜɢɱ – ɡɚɜɟɞɭɸɳɢɣ
ɥɚɛɨɪɚɬɨɪɢɟɣɞɟɧɞɪɨɥɨɝɢɢ, ɫɬɚɪɲɢɣɧɚɭɱɧɵɣ
ɫɨɬɪɭɞɧɢɤ, ɤɚɧɞɢɞɚɬɛɢɨɥɨɝɢɱɟɫɤɢɯɧɚɭɤ,
ɬɟɥ.: (383) 330-27-63, e-mail: 1964o@mail.ru
ɋɚɥɚɯɭɬɞɢɧɨɜɇɚɪɢɦɚɧɎɚɪɢɞɨɜɢɱ – ɪɭɤɨɜɨɞɢɬɟɥɶ
Ɉɬɞɟɥɚɦɟɞɢɰɢɧɫɤɨɣɯɢɦɢɢ, ɞɨɤɬɨɪɯɢɦɢɱɟɫɤɢɯɧɚɭɤ,
(383) 330 97 33
il
@ i
h ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ 196 ɫɢɥɶɧɨɜɟɬɜɢɫɬɵɣ ɤɨɥɸɱɢɣ ɤɭɫɬɚɪɧɢɤ ɜɵɫɨɬɨɣ ɞɨ 1,5 ɦ, ɫɩɨɥɡɭ
ɱɢɦɢ, ɨɞɪɟɜɟɫɧɟɜɚɸɳɢɦɢ ɤɨɪɧɟɜɢɳɚɦɢ. Ʉɫɟɪɨɮɢɬ, ɨɥɢɝɨɬɪɨɮ,
ɫɜɟɬɨɥɸɛɢɜ. ɉɪɨɢɡɪɚɫɬɚɟɬ ɜ ɋɚɹɧɚɯ, Ɋɟɫɩɭɛɥɢɤɟ Ⱥɥɬɚɣ (Ɋɨɫɫɢɹ),
ɚɬɚɤɠɟɜɋɪɟɞɧɟɣȺɡɢɢ, Ɇɨɧɝɨɥɢɢ [5]. Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ ɪ ɞ
,
[ ]
Ȼ. ɫɢɛɢɪɫɤɢɣɭɫɩɟɲɧɨɢɧɬɪɨɞɭɰɢɪɨɜɚɧɜɐɟɧɬɪɚɥɶɧɨɦɋɢ-
ɛɢɪɫɤɨɦɛɨɬɚɧɢɱɟɫɤɨɦɫɚɞɭ (ɐɋȻɋ), ɧɟɫɦɨɬɪɹɧɚɬɨ, ɱɬɨɩɪɢɪɨɞ-
ɧɨɤɥɢɦɚɬɢɱɟɫɤɢɟ ɭɫɥɨɜɢɹ ɢɧɬɪɨɞɭɤɰɢɢ ɢ ɟɫɬɟɫɬɜɟɧɧɨɝɨ ɚɪɟɚɥɚ
ɩɪɨɢɡɪɚɫɬɚɧɢɹ ɛ. ɫɢɛɢɪɫɤɨɝɨ ɨɬɥɢɱɚɸɬɫɹ ɞɨɜɨɥɶɧɨ ɡɧɚɱɢɬɟɥɶɧɨ
[6]. ȼ ɩɪɢɪɨɞɟ ɛ. ɫɢɛɢɪɫɤɢɣ ɩɪɨɢɡɪɚɫɬɚɟɬ ɧɚ ɫɤɚɥɚɯ ɜ ɨɛɥɚɫɬɹɯ
ɪɫɫɭɯɢɦɢɞɨɜɨɥɶɧɨɠɚɪɤɢɦɤɥɢɦɚɬɨɦ. ȺɪɛɨɪɟɬɭɦɐɋȻɋɪɚɫɩɨ-
ɥɨɠɟɧɜɨɤɪɟɫɬɧɨɫɬɹɯɇɨɜɨɫɢɛɢɪɫɤɚ, Ɋɨɫɫɢɹ (ɝɟɨɝɪɚɮɢɱɟɫɤɢɟɤɨ-
ɨɪɞɢɧɚɬɵ 83.104 E, 54.821 N), ɜɵɫɨɬɚ 114–130 ɦ. ɧɚɞɭɪɦ., ɩɪɨ-
ɞɨɥɠɢɬɟɥɶɧɨɫɬɶɜɟɝɟɬɚɰɢɨɧɧɨɝɨɩɟɪɢɨɞɚ (Ɍɜɵɲɟ +5 °ɋq) – 158 ɞɧɟɣ, ɞɥɢɬɟɥɶɧɨɫɬɶɛɟɡɦɨɪɨɡɧɨɝɨɩɟɪɢɨɞɚ
– 120 ɞɧɟɣ. ɇɟɫɦɨɬɪɹɧɚɫɭɪɨɜɭɸɞɥɢɬɟɥɶɧɭɸɡɢɦɭ, ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɣɛ. ɫɢɛɢɪɫɤɢɣɧɟɩɨɞɦɟɪɡɚɥ, ɪɟɝɭ-
ɥɹɪɧɨɩɥɨɞɨɧɨɫɢɥɫ 6 ɥɟɬ. ɂɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɣɛ. ɫɢɛɢɪɫɤɢɣɪɚɫɬɟɬɯɨɪɨɲɨɢɦɨɠɟɬɛɵɬɶɢɫɩɨɥɶɡɨɜɚɧɤɚɤ
ɪɚɫɬɟɧɢɟɞɥɹɝɨɪɨɞɫɤɨɝɨɨɡɟɥɟɧɟɧɢɹ. Ɉɞɧɚɤɨɨɫɬɚɟɬɫɹɧɟɪɟɲɟɧɧɵɦɜɨɩɪɨɫ – ɫɤɨɥɶɤɨɛɟɪɛɟɪɢɧɚɫɨɞɟɪɠɢɬ-
ɫɹɜɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɦɛ. ɫɢɛɢɪɫɤɨɦɢɦɨɠɟɬɥɢɨɧɡɚɦɟɧɢɬɶɪɚɫɬɟɧɢɹɢɡɩɪɢɪɨɞɧɵɯɩɨɩɭɥɹɰɢɣɩɪɢɩɪɨ-
ɢɡɜɨɞɫɬɜɟɛɟɪɛɟɪɢɧɚ? Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ Ɋɢɫ. 1. Ȼɟɪɛɟɪɢɧɯɥɨɪɢɞ ɉɪɢɢɡɭɱɟɧɢɢɯɢɦɢɱɟɫɤɨɝɨɫɨɫɬɚɜɚɛ. ɫɢɛɢɪɫɤɨɝɨɢɡɄɚɡɚɯɫɬɚɧɚ [7] ɢɢɡɆɨɧɝɨɥɢɢ [8], ɢɡɤɨɪɧɟɣ,
ɩɨɛɟɝɨɜɢɥɢɫɬɶɟɜɜɵɞɟɥɟɧɨ 14 ɚɥɤɚɥɨɢɞɨɜ, ɨɫɧɨɜɧɵɦɹɜɥɹɟɬɫɹɛɟɪɛɟɪɢɧ. Ɉɞɧɚɤɨɞɚɧɧɵɟɩɨɢɡɭɱɟɧɢɸɞɢ-
ɧɚɦɢɤɢɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɜɪɚɫɬɟɧɢɹɯɪɨɞɚȻɚɪɛɚɪɢɫɢɡɚɜɢɫɢɦɨɫɬɢɟɝɨɫɨɞɟɪɠɚɧɢɹɨɬɭɫɥɨɜɢɣɩɪɨɢɡ-
ɪɚɫɬɚɧɢɹɞɨɜɨɥɶɧɨɮɪɚɝɦɟɧɬɚɪɧɵ. Ⱦɥɹ B. oblonga Ʉɚɡɚɯɫɬɚɧ) ɧɚɣɞɟɧɨ, ɱɬɨɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯ
ɦɚɤɫɢɦɚɥɶɧɨɜɤɨɧɰɟɜɟɝɟɬɚɰɢɢ (1,22%), ɚɜɦɨɥɨɞɵɯɩɨɛɟɝɚɯ – ɜɧɚɱɚɥɟɮɚɡɵɰɜɟɬɟɧɢɹ (0,30%) [9]. Ȼɵɥɨ
ɩɨɤɚɡɚɧɨ, ɱɬɨɞɥɹ B. koreanaɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɞɨɫɬɢɝɚɟɬɫɹɜɨɤɬɹɛɪɟ (ɜɟɪɨɹɬ-
ɧɨ, ɜ ɤɨɧɰɟ ɜɟɝɟɬɚɰɢɨɧɧɨɝɨ ɫɟɡɨɧɚ) ɢ ɫɨɫɬɚɜɥɹɟɬ 1,32% [10]. Ⱦɥɹ ɦɨɥɨɞɵɯ ɩɨɛɟɝɨɜ B. integerrima ɢ B. nummularia (ɍɡɛɟɤɢɫɬɚɧ) ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ ɦɚɤɫɢɦɚɥɶɧɨɬɚɤɠɟɜɮɚɡɭɰɜɟɬɟɧɢɹ – 0,24 ɢ 0,29%, ɫɨɨɬ-
ɜɟɬɫɬɜɟɧɧɨ [11]. ȼɪɚɛɨɬɟ [12] ɩɨɤɚɡɚɧɨ, ɱɬɨɩɪɢɭɜɟɥɢɱɟɧɢɢɜɵɫɨɬɵɩɪɨɢɡɪɚɫɬɚɧɢɹɛɚɪɛɚɪɢɫɚ B. asiatica
ɁɚɩɚɞɧɵɟȽɢɦɚɥɚɢ) ɫ 1200 ɞɨ 2450 ɦɧɚɞɭɪɦ., ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɩɚɞɚɟɬɫ 3,2 ɞɨ 1,6%. ɇɚɦɢɩɨɫɬɚɜɥɟɧɚɡɚɞɚɱɚ: ɨɩɪɟɞɟɥɢɬɶɨɩɬɢɦɚɥɶɧɭɸɩɪɨɞɨɥɠɢɬɟɥɶɧɨɫɬɶɜɵɪɚɳɢɜɚɧɢɹɪɚɫɬɢɬɟɥɶɧɨɝɨ
ɫɵɪɶɹɛ. ɫɢɛɢɪɫɤɨɝɨɞɥɹɩɨɥɭɱɟɧɢɹɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ, ɞɥɹɱɟɝɨɧɟɨɛɯɨɞɢɦɨɢɡɭɱɢɬɶɞɢɧɚɦɢɤɭɫɨɞɟɪɠɚɧɢɹ
ɛɟɪɛɟɪɢɧɚɜɪɚɡɥɢɱɧɵɯɨɪɝɚɧɚɯɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨ, ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɜɐɋȻɋ (ɇɨɜɨɫɢɛɢɪɫɤ, Ɋɨɫ-
ɫɢɹ) ɜɡɚɜɢɫɢɦɨɫɬɢɨɬɜɨɡɪɚɫɬɚɪɚɫɬɟɧɢɣɢɮɚɡɵɫɛɨɪɚ. ɗɤɫɩɟɪɢɦɟɧɬɚɥɶɧɚɹɱɚɫɬɶ Ɋɚɫɬɢɬɟɥɶɧɵɣɦɚɬɟɪɢɚɥ. ɉɨ 2–3 ɪɚɫɬɟɧɢɹɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɯɩɨɩɭɥɹɰɢɣɛ. ɫɢɛɢɪɫɤɨɝɨɜɨɡɪɚɫɬɚ
3, 7, 12–20 ɥɟɬɛɵɥɢɫɨɛɪɚɧɵɜɪɚɡɥɢɱɧɵɟɩɟɪɢɨɞɵɜɟɝɟɬɚɰɢɢ (ɦɚɣ, ɢɸɧɶ, ɢɸɥɶ, ɚɜɝɭɫɬ 2009–2011 ɝ) ɜɚɪ-
ɛɨɪɟɬɭɦɟɐɋȻɋɋɈɊȺɇ, ɇɨɜɨɫɢɛɢɪɫɤ, Ɋɨɫɫɢɹ (83.104 E, 54.821 N, 114–130 ɦɧɭɦ.). Ⱦɢɤɨɪɚɫɬɭɳɢɟɪɚɫ-
ɬɟɧɢɹɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨɜɨɡɪɚɫɬɚ 12–20 ɥɟɬɛɵɥɢɫɨɛɪɚɧɵɜɈɧɝɭɞɚɣɫɤɨɦɪɚɣɨɧɟɊɟɫɩɭɛɥɢɤɢȺɥɬɚɣ
Ɋɨɫɫɢɹ) ɜɢɸɥɟ 2009 ɝ. Ɉɛɪɚɡɰɵɜɵɫɭɲɢɜɚɥɢɫɶɩɪɢɤɨɦɧɚɬɧɨɣɬɟɦɩɟɪɚɬɭɪɟ, ɪɚɡɞɟɥɹɥɢɫɶɧɚɫɬɟɛɥɢ (ɛɟɡ
ɥɢɫɬɶɟɜ) ɢɩɨɞɡɟɦɧɭɸɱɚɫɬɶ, ɢɡɦɟɥɶɱɚɥɢɫɶ. ɈɛɪɚɡɰɵɪɚɫɬɟɧɢɣɛɵɥɢɡɚɥɨɠɟɧɵɜɝɟɪɛɚɪɢɣɐɋȻɋɋɈɊȺɇ
ɩɨɞɧɨɦɟɪɚɦɢ NS-332-57, NS-332-85, NS -332-110, NS-332-197, NS-332-44, NS-332-1145. Ⱥɧɚɥɢɬɢɱɟɫɤɚɹɷɤɫɬɪɚɤɰɢɹ. ɗɤɫɬɪɚɤɰɢɹɩɪɨɜɨɞɢɥɚɫɶɞɥɹɱɟɬɵɪɟɯɩɚɪɚɥɥɟɥɶɧɵɯɩɪɨɛ. Ɍɨɱɧɭɸɧɚ-
ɜɟɫɤɭ (1 ɝ) ɢɡɦɟɥɶɱɟɧɧɵɯ ɨɪɝɚɧɨɜ ɛɚɪɛɚɪɢɫɚ ɫɢɛɢɪɫɤɨɝɨ (ɤɨɪɧɢ ɢɥɢ ɫɬɟɛɥɢ) ɷɤɫɬɪɚɝɢɪɨɜɚɥɢ 12 ɦɥ 70%
ɜɨɞɧɨɝɨɫɩɢɪɬɚɩɪɢɤɢɩɹɱɟɧɢɢɜɬɟɱɟɧɢɟ 2 ɱ, ɝɨɪɹɱɢɣɷɤɫɬɪɚɤɬɮɢɥɶɬɪɨɜɚɥɢ. ɗɤɫɬɪɚɤɰɢɸɩɨɜɬɨɪɹɥɢɞɜɚ-
ɠɞɵɫ 10 ɦɥ 70% ɜɨɞɧɨɝɨɫɩɢɪɬɚ. Ɉɫɬɚɬɨɤɩɨɫɥɟɷɤɫɬɪɚɤɰɢɢɩɪɨɦɵɜɚɥɢ 70% ɜɨɞɧɵɦɫɩɢɪɬɨɦ, ɷɤɫɬɪɚɤɬɵ
ɨɛɴɟɞɢɧɹɥɢ, ɞɨɜɨɞɢɥɢɞɨɦɟɬɤɢɜɦɟɪɧɨɣɤɨɥɛɟ (V = 50 ɦɥ). ɉɨɥɭɱɟɧɧɵɣɷɤɫɬɪɚɤɬɛɚɪɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨ
ɰɟɧɬɪɢɮɭɝɢɪɨɜɚɥɢ (10 000 ɨɛɦɢɧ, 5 ɦɢɧ) ɢɢɫɩɨɥɶɡɨɜɚɥɢɞɥɹɧɟɩɨɫɪɟɞɫɬɜɟɧɧɨɝɨɨɩɪɟɞɟɥɟɧɢɹɫɨɞɟɪɠɚɧɢɹ
ɛɟɪɛɟɪɢɧɚɜɩɟɪɟɫɱɟɬɟɧɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɦɟɬɨɞɨɦȼɗɀɏ. ȼɗɀɏɨɩɪɟɞɟɥɟɧɢɟ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɨɩɪɟɞɟɥɹɥɢɧɚɠɢɞɤɨɫɬɧɨɦɦɢɤɪɨɤɨɥɨɧɨɱɧɨɦɯɪɨɦɚɬɨ-
ɝɪɚɮɟ «ɆɢɥɢɯɪɨɦȺ-02» (ɗɤɨɧɨɜɚ, Ɋɨɫɫɢɹ). Ⱦɥɹɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɨɝɨɪɚɡɞɟɥɟɧɢɹɢɫɩɨɥɶɡɨɜɚɥɢɤɨɥɨɧɤɭɫ
ProntoSIL-120-5-C18 AQ (5 ɦɤɦ, 2×75 ɦɦ) ɩɪɢ ɬɟɦɩɟɪɚɬɭɪɟ 35 °ɋ, ɞɚɜɥɟɧɢɢ 30ۛ36 ɚɬɦ, ɩɨɬɨɤɟ ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … 197 150 ɦɤɥɦɢɧ. Ɉɛɴɟɦɢɧɴɟɤɰɢɢɩɪɨɛɵ – 2 ɦɤɥ. ɉɪɨɜɨɞɢɥɢɝɪɚɞɢɟɧɬɧɨɟɷɥɸɢɪɨɜɚɧɢɟɜɫɢɫɬɟɦɟɪɚɫɬɜɨɪɢɬɟ-
ɥɟɣȺ (0,1% ɪɚɫɬɜɨɪɬɪɢɮɬɨɪɭɤɫɭɫɧɨɣɤɢɫɥɨɬɵɜɜɨɞɟ) ɢȻ (ɦɟɬɚɧɨɥ), ɨɬ 100% Ⱥɞɨ 100% Ȼɡɚ 25 ɦɢɧɫɨɞ-
ɧɨɜɪɟɦɟɧɧɨɣɦɧɨɝɨɜɨɥɧɨɜɨɣɞɟɬɟɤɰɢɟɣɧɚɩɹɬɢɞɥɢɧɚɯɜɨɥɧ (210, 230, 260, 300, 346 ɧɦ). ȼɤɚɱɟɫɬɜɟɫɬɚɧɞɚɪɬɚɢɫɩɨɥɶɡɨɜɚɥɢɨɛɪɚɡɟɰɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚ, ɜɵɞɟɥɟɧɧɵɣɢɡɛ. ɫɢɛɢɪ-
ɫɤɨɝɨɩɪɢɪɨɞɧɵɯɩɨɩɭɥɹɰɢɣɩɨɦɟɬɨɞɢɤɟ [13] ɩɨɫɥɟɬɪɨɣɧɨɣɩɟɪɟɤɪɢɫɬɚɥɥɢɡɚɰɢɢ. ȼɟɳɟɫɬɜɨɢɦɟɥɨɱɢɫɬɨ-
ɬɭ ɩɨ ȼɗɀɏ ɛɨɥɟɟ 99%, ɭɞɨɜɥɟɬɜɨɪɢɬɟɥɶɧɵɣ ɷɥɟɦɟɧɬɧɵɣ ɚɧɚɥɢɡ ɢ ɧɟ ɫɨɞɟɪɠɚɥɨ ɩɪɢɦɟɫɟɣ ɜ ɫɩɟɤɬɪɟ
əɆɊ 1ɇ. ȼɪɟɠɢɦɟɨɫɬɚɧɨɜɥɟɧɧɨɝɨɩɨɬɨɤɚɨɩɪɟɞɟɥɹɥɢɦɚɤɫɢɦɭɦɵɩɨɝɥɨɳɟɧɢɹɜɍɎɫɩɟɤɬɪɟɫɬɚɧɞɚɪɬɧɨɝɨ
ɨɛɪɚɡɰɚ ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ ɦɨɧɨɝɢɞɪɚɬɚ (230, 266, 346 ɧɦ). Ⱦɥɹ ɤɨɥɢɱɟɫɬɜɟɧɧɨɝɨ ɨɩɪɟɞɟɥɟɧɢɹ ɛɟɪɛɟɪɢɧɚ
ɢɫɩɨɥɶɡɨɜɚɥɢ ɡɧɚɱɟɧɢɹ ɨɩɬɢɱɟɫɤɨɣ ɩɥɨɬɧɨɫɬɢ ɧɚ ɞɥɢɧɟ ɜɨɥɧɵ 346 ɧɦ. ɂɫɩɨɥɶɡɭɹ ɫɬɚɧɞɚɪɬɧɵɣ ɨɛɪɚɡɟɰ
ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚ, ɩɨɫɬɪɨɢɥɢɤɚɥɢɛɪɨɜɨɱɧɭɸɩɪɹɦɭɸɩɭɬɟɦɢɡɦɟɪɟɧɢɹɩɪɢɱɟɬɵɪɟɯɪɚɡɥɢɱ-
ɧɵɯɤɨɧɰɟɧɬɪɚɰɢɹɯ, ɞɥɹɤɚɠɞɨɣɤɨɧɰɟɧɬɪɚɰɢɢɪɚɫɬɜɨɪɚɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɨɟɨɩɪɟɞɟɥɟɧɢɟɩɪɨɜɨɞɢɥɢɬɪɢ-
ɠɞɵ, ɩɥɨɳɚɞɢɩɢɤɨɜɭɫɪɟɞɧɹɥɢ. Ʉɚɥɢɛɪɨɜɨɱɧɚɹɩɪɹɦɚɹɨɩɢɫɵɜɚɟɬɫɹɭɪɚɜɧɟɧɢɟɦ (1) ɢɩɨɤɚɡɵɜɚɟɬɯɨɪɨ-
ɲɭɸɥɢɧɟɣɧɭɸɪɟɝɪɟɫɫɢɸ (r2 = 0,9974). S = 73,959·m + 0,149,
(1) (1) S = 73,959·m + 0,149, ɝɞɟ m – ɦɚɫɫɚɛɟɪɛɟɪɢɧɚ, ɧɚɧɟɫɟɧɧɨɝɨɧɚɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɭɸɤɨɥɨɧɤɭ (ɦɤɝ), ɢ S – ɩɥɨɳɚɞɶɩɢɤɚ ɝɞɟ m – ɦɚɫɫɚɛɟɪɛɟɪɢɧɚ, ɧɚɧɟɫɟɧɧɨɝɨɧɚɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɭɸɤɨɥɨɧɤɭ (ɦɤɝ), ɢ S – ɩɥɨɳɚɞɶɩɢɤɚ, ɦ.o.ɟ. ɇɚɩɪɚɤɬɢɤɟɞɥɹɜɵɱɢɫɥɟɧɢɹɦɚɫɫɵɜɟɳɟɫɬɜɚɦɨɝɭɬɛɵɬɶɢɫɩɨɥɶɡɨɜɚɧɵɨɤɪɭɝɥɟɧɧɵɟɡɧɚɱɟɧɢɹɤɨ-
ɷɮɮɢɰɢɟɧɬɨɜɜɭɪɚɜɧɟɧɢɢ (1), ɢɡɧɚɱɟɧɢɟɩɪɢɜɟɞɟɧɧɨɣɜɟɫɨɜɨɣɷɤɫɬɢɧɤɰɢɢɦɨɧɨɝɢɞɪɚɬɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ
ɩɪɢɞɥɢɧɟɜɨɥɧɵ 346 ɧɦɦɨɠɧɨɩɪɢɧɹɬɶɪɚɜɧɵɦ 74,0r0,8 ɨɟ./ɦɝ. ɉɨɝɪɟɲɧɨɫɬɶɨɩɪɟɞɟɥɟɧɢɹɫɨɫɬɚɜɥɹɟɬɧɟ
ɛɨɥɟɟ 5% (ɨɬɧɨɫɢɬ.). Ⱦɢɚɩɚɡɨɧɪɚɛɨɱɢɯɤɨɧɰɟɧɬɪɚɰɢɣ: ɜɟɪɯɧɹɹɝɪɚɧɢɰɚ – 2,0 ɦɝɦɥ; ɩɪɟɞɟɥɨɛɧɚɪɭɠɟɧɢɹ –
0,3 ɦɤɝɦɥ. Ƚɨɦɨɝɟɧɧɨɫɬɶɢɢɞɟɧɬɢɱɧɨɫɬɶɩɢɤɚɛɟɪɛɟɪɢɧɚɜɷɤɫɬɪɚɤɬɚɯɪɚɫɬɟɧɢɣɩɨɞɬɜɟɪɠɞɚɥɢɫɪɚɜɧɟɧɢɟɦɫɩɟɤ-
ɬɪɚɥɶɧɵɯɨɬɧɨɲɟɧɢɣɜɪɚɡɥɢɱɧɵɯɬɨɱɤɚɯɯɪɨɦɚɬɨɝɪɚɮɢɱɟɫɤɨɝɨɩɢɤɚɢɫɪɚɜɧɟɧɢɟɦɫɨɜɪɟɦɟɧɟɦɭɞɟɪɠɢɜɚɧɢɹ
ɢ ɫɩɟɤɬɪɚɥɶɧɵɦɢ ɨɬɧɨɲɟɧɢɹɦɢ ɫɬɚɧɞɚɪɬɧɨɝɨ ɨɛɪɚɡɰɚ ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ ɦɨɧɨɝɢɞɪɚɬɚ. Ⱦɥɹ ɤɚɠɞɨɣ ɩɪɨɛɵ
ɷɤɫɬɪɚɤɬɚȼɗɀɏɨɩɪɟɞɟɥɟɧɢɟɩɥɨɳɚɞɢɩɢɤɚɛɟɪɛɟɪɢɧɚɩɪɨɜɨɞɢɥɢɞɜɚɠɞɵ, ɩɨɥɭɱɟɧɧɨɟɡɧɚɱɟɧɢɟɭɫɪɟɞɧɹɥɢ. Ɋɚɫɱɟɬɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚ (ɜɩɟɪɟɫɱɟɬɟɧɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞ) ɩɪɨɜɨɞɢɥɢɫɨɝɥɚɫɧɨɭɪɚɜɧɟɧɢɸ: %,
100
0,
74
%
,
ɋɨɞɟɪɠɚɧɢɟ
m
V
V
S
s
(2) (2) ɝɞɟ S – ɭɫɪɟɞɧɟɧɧɚɹɩɥɨɳɚɞɶɩɢɤɚ, ɨɟ.; V – ɨɛɳɢɣɨɛɴɟɦɷɤɫɬɪɚɤɬɚ (50 ɦɥ = 50 000 ɦɤɥ); 74,0 – ɩɪɢɜɟɞɟɧ-
ɧɚɹɜɟɫɨɜɚɹɷɤɫɬɢɧɤɰɢɹɫɬɚɧɞɚɪɬɧɨɝɨɨɛɪɚɡɰɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ (ɨɟ./ɦɝ); Vs – ɨɛɴɟɦɩɪɨɛɵ, ɜɜɨɞɢɦɵɣɞɥɹ
ɚɧɚɥɢɡɚ (2 ɦɤɥ); m – ɦɚɫɫɚɪɚɫɬɢɬɟɥɶɧɨɝɨɨɛɪɚɡɰɚ (1000 ɦɝ). ɋɬɚɬɢɫɬɢɱɟɫɤɢɣɚɧɚɥɢɡ. Ⱦɥɹɬɪɟɯ±ɱɟɬɵɪɟɯɫɯɨɞɹɳɢɯɫɹɪɟɡɭɥɶɬɚɬɨɜɨɩɪɟɞɟɥɟɧɢɹɫɨɞɟɪɠɚɧɢɹɛɟɪ-
ɛɟɪɢɧɚɜɵɱɢɫɥɹɥɢɫɪɟɞɧɟɟɚɪɢɮɦɟɬɢɱɟɫɤɨɟɢɫɬɚɧɞɚɪɬɧɨɟɨɬɤɥɨɧɟɧɢɟ Sx (ɭɪɚɜɧɟɧɢɟ (3)). ,
)1
(
)
(
2
'
¦
n
n
x
S
i
x ,
)1
(
)
(
2
'
¦
n
n
x
S
i
x
(3) (3) ɢɫɥɨɢɡɦɟɪɟɧɢɣ. Ⱦɥɹɩɪɨɜɟɪɤɢɡɧɚɱɢɦɨɫɬɢɪɚɡɥɢɱɢɣɦɟɠɞɭɧɚɣɞɟɧɧɵɦɢɡɧɚɱɟɧɢɹɦɢɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɪɚɡɥɢɱ-
ɧɵɯɨɛɪɚɡɰɚɯɢɫɩɨɥɶɡɨɜɚɥɢ tɬɟɫɬɋɬɶɸɞɟɧɬɚ [14]. ɗɤɫɩɟɪɢɦɟɧɬɚɥɶɧɚɹɱɚɫɬɶ Ɂɧɚɱɟɧɢɹɤɪɢɬɟɪɢɹ tɪɚɫɫɱɢɬɵɜɚɥɢɩɨɭɪɚɜɧɟɧɢɸ: ,
2
2
2
1
2
1
2
1
n
S
n
S
x
x
t
,
2
2
2
1
2
1
2
1
n
S
n
S
x
x
t
,
2
2
2
1
2
1
2
1
n
S
n
S
x
x
t
(4) (4) ɝɞɟ
2
1 , x
x
– ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɪɚɜɧɢɜɚɟɦɵɯɨɛɪɚɡɰɚɯ; S1, S2 – ɫɬɚɧɞɚɪɬɧɵɟɨɬɤɥɨɧɟɧɢɹ
2
1 , x
x
; n1, n2
– ɱɢɫɥɨɢɡɦɟɪɟɧɢɣ. ɝɞɟ
2
1 , x
x
– ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɪɚɜɧɢɜɚɟɦɵɯɨɛɪɚɡɰɚɯ; S1, S2 – ɫɬɚɧɞɚɪɬɧɵɟɨɬɤɥɨɧɟɧɢɹ
2
1 , x
x
; n1, n2
– ɱɢɫɥɨɢɡɦɟɪɟɧɢɣ. ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ 198 Ʉɨɝɞɚ n1 = n2 = 4,
2
2
2
1
2
1
2
S
S
x
x
t
. ȿɫɥɢɪɚɫɫɱɢɬɚɧɧɨɟɡɧɚɱɟɧɢɟ t > S t(P; n1+n2–2), ɬɨɫɪɚɜɧɢɜɚɟɦɵɟ Ʉɨɝɞɚ n1 = n2 = 4,
2
2
2
1
2
1
2
S
S
x
x
t
. ȿɫɥɢɪɚɫɫɱɢɬɚɧɧɨɟɡɧɚɱɟɧɢɟ t > S t(P; n1+n2–2), ɬɨɫɪɚɜɧɢɜɚɟɦɵɟ ɚɱɟɧɢɹɢɦɟɸɬɡɧɚɱɢɦɨɟɪɚɡɥɢɱɢɟ. ɉɪɢ P = 0,99, n1 = n2 = 4, St = 3,71. ɡɧɚɱɟɧɢɹɢɦɟɸɬɡɧɚɱɢɦɨɟɪɚɡɥɢɱɢɟ. ɉɪɢ P = 0,99, n1 = n2 = 4, St = 3,71. Ⱦɥɹɨɛɴɟɞɢɧɟɧɧɨɣɜɵɛɨɪɤɢɡɧɚɱɟɧɢɟɫɪɟɞɧɟɝɨɪɚɫɫɱɢɬɵɜɚɥɢɤɚɤɫɪɟɞɧɟɟɚɪɢɮɦɟɬɢɱɟɫɤɨɟɡɧɚɱɟɧɢɟ
ɜɟɥɢɱɢɧ; ɫɬɚɧɞɚɪɬɧɨɟɨɬɤɥɨɧɟɧɢɟɪɚɫɫɱɢɬɵɜɚɥɢɩɨɭɪɚɜɧɟɧɢɸ: ,
)1
(
)1
(
2
2
¦
¦
i
i
i
i
i
n
S
n
S ,
)1
(
)1
(
2
2
¦
¦
i
i
i
i
i
n
S
n
S
(5) (5) ɟɫɥɢ i = 3, n1 = n2 = n3 = 4, ɬɨ
. 3
2
2 ¦
iS
S Ɉɛɫɭɠɞɟɧɢɟɪɟɡɭɥɶɬɚɬɨɜ Ɇɨɪɮɨɥɨɝɢɱɟɫɤɢ ɞɥɹ ɤɨɪɧɟɜɨɣ ɫɢɫɬɟɦɵ ɛɚɪɛɚɪɢɫɚ ɫɢɛɢɪɫɤɨɝɨ ɧɚɦɢ ɜɵɞɟɥɟɧɨ ɧɟɫɤɨɥɶɤɨ ɨɫɧɨɜɧɵɯ
ɫɬɚɞɢɣɪɚɡɜɢɬɢɹ. ɉɪɢɜɢɪɝɢɧɚɥɶɧɨɣɮɚɡɟ ɜɨɡɪɚɫɬɞɨ 4-ɯɥɟɬ) ɪɚɫɬɟɧɢɟɢɦɟɟɬɧɟɛɨɥɶɲɨɣɤɨɪɟɧɶ, ɦɧɨɝɨɦɟɥ-
ɤɢɯɤɨɪɟɲɤɨɜ, ɩɪɢɷɬɨɦɝɥɚɜɧɵɣɫɬɟɪɠɧɟɜɨɣɤɨɪɟɧɶɧɚɱɢɧɚɟɬɨɛɨɫɨɛɥɹɬɶɫɹɤɤɨɧɰɭ 2-ɝɨɝɨɞɚɪɚɡɜɢɬɢɹ. ɉɪɢ
ɩɟɪɟɯɨɞɟɜɝɟɧɟɪɚɬɢɜɧɨɟɫɨɫɬɨɹɧɢɟ ɨɬ 4-ɯɞɨ 8-ɦɢɥɟɬ) ɪɚɫɬɟɧɢɟɢɦɟɟɬɜɵɪɚɠɟɧɧɭɸɫɬɟɪɠɧɟɜɭɸɤɨɪɧɟɜɭɸ
ɫɢɫɬɟɦɭ, ɰɟɧɬɪɚɥɶɧɵɣɤɨɪɟɧɶɭɜɟɥɢɱɢɜɚɟɬɫɹɜɪɚɡɦɟɪɚɯ, ɪɚɫɬɟɬɤɨɥɢɱɟɫɬɜɨɛɨɤɨɜɵɯɤɨɪɟɲɤɨɜ. Ɇɚɤɫɢɦɚɥɶ-
ɧɨɝɨɪɚɡɦɟɪɚɤɨɪɟɧɶɞɨɫɬɢɝɚɟɬɤ 8-ɦɢɝɨɞɚɦ. ɉɪɢɷɬɨɦɜɰɟɧɬɪɟɧɚɱɢɧɚɟɬɫɹɨɬɦɢɪɚɧɢɟ, ɛɨɤɨɜɵɟɫɬɟɛɥɢɞɟɪɟ-
ɜɟɧɟɸɬ. Ȼɵɥɨɫɨɛɪɚɧɨɩɨ 2–3 ɪɚɫɬɟɧɢɹɤɚɠɞɨɝɨɜɨɡɪɚɫɬɚɬɪɢɠɞɵɡɚɫɟɡɨɧ – ɜɧɚɱɚɥɟɜɟɝɟɬɚɰɢɢ (ɦɚɣ), ɜɫɟɪɟ-
ɞɢɧɟɫɟɡɨɧɚ (ɮɚɡɚɩɥɨɞɨɧɨɲɟɧɢɹ, ɢɸɥɶ) ɢɜɤɨɧɰɟɜɟɝɟɬɚɬɢɜɧɨɝɨɫɟɡɨɧɚ (ɨɤɬɹɛɪɶ 2009 ɝ.). Ⱦɥɹɤɚɠɞɨɝɨɜɨɡ-
ɪɚɫɬɧɨɝɨɫɨɫɬɨɹɧɢɹɩɪɨɜɨɞɢɥɢɨɩɪɟɞɟɥɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɢɩɨɛɟɝɚɯɪɚɫɬɟɧɢɣ. ɗɤɫɬɪɚɤɰɢɹɪɚɫɬɢɬɟɥɶɧɵɯɨɛɪɚɡɰɨɜɩɪɨɜɨɞɢɥɚɫɶɩɭɬɟɦɬɪɟɯɤɪɚɬɧɨɝɨɤɢɩɹɱɟɧɢɹɜ 70% ɷɬɚɧɨɥɟ [13]. ɗɤɫɬɪɚɤɬɵɮɢɥɶɬɪɨɜɚɥɢ, ɨɛɴɟɞɢɧɹɥɢ, ɞɨɜɨɞɢɥɢɞɨɬɨɱɧɨɝɨɨɛɴɟɦɚɜɦɟɪɧɨɣɤɨɥɛɟɢɚɧɚɥɢɡɢɪɨɜɚɥɢɦɟɬɨ-
ɞɨɦȼɗɀɏ. ȼɞɚɧɧɵɯɭɫɥɨɜɢɹɯɪɚɡɞɟɥɟɧɢɹɛɟɪɛɟɪɢɧɜɵɯɨɞɢɬɝɨɦɨɝɟɧɧɵɦɩɢɤɨɦɫɨɜɪɟɦɟɧɟɦɭɞɟɪɠɢɜɚ-
ɧɢɹ 1660–1694 ɦɤɥ (ɩɢɤ, ɨɬɦɟɱɟɧɧɵɣɡɧɚɤɨɦ *, ɧɚɪɢɫɭɧɤɟ 2). Ʉɨɥɢɱɟɫɬɜɟɧɧɨɟ ɨɩɪɟɞɟɥɟɧɢɟ ɫɨɞɟɪɠɚɧɢɹ
ɛɟɪɛɟɪɢɧɚɜɩɟɪɟɫɱɟɬɟɧɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɦɨɧɨɝɢɞɪɚɬɩɪɨɜɨɞɢɥɢɩɭɬɟɦɫɪɚɜɧɟɧɢɹɩɥɨɳɚɞɢɩɢɤɚɧɚɯɪɨ-
ɦɚɬɨɝɪɚɦɦɟɫɩɥɨɳɚɞɶɸɩɢɤɚɫɬɚɧɞɚɪɬɧɨɝɨ ɨɛɪɚɡɰɚɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚ, ɞɥɹɤɨɬɨɪɨɝɨɩɪɢɜɟ-
ɞɟɧɧɚɹ ɜɟɫɨɜɚɹ ɷɤɫɬɢɧɤɰɢɹ ɫɨɫɬɚɜɢɥɚ 74,0r0,8 ɨɟ./ɦɝ. ɋɨɞɟɪɠɚɧɢɟ ɛɟɪɛɟɪɢɧɚ ɜ ɨɛɪɚɡɰɟ ɪɚɫɫɱɢɬɵɜɚɥɢ
ɜɩɪɨɰɟɧɬɚɯɨɬɜɟɫɚɫɭɯɨɝɨɪɚɫɬɟɧɢɹ. Ɋɟɡɭɥɶɬɚɬɵɨɩɪɟɞɟɥɟɧɢɹɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɨɛɪɚɡɰɚɯɤɨɪɧɟɣɢɫɬɟɛɥɟɣɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛɚɪ-
ɛɚɪɢɫɚɫɢɛɢɪɫɤɨɝɨɫɛɨɪɚ 2009 ɝ. ɩɪɢɜɟɞɟɧɵɜɬɚɛɥɢɰɟ 1. ɋɪɚɜɧɟɧɢɟɞɚɧɧɵɯɩɨɤɚɡɵɜɚɟɬ, ɱɬɨɫɨɞɟɪɠɚɧɢɟɛɟɪ-
ɛɟɪɢɧɚɜɤɨɪɧɹɯɩɪɟɜɵɲɚɟɬɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɬɟɛɥɹɯɜ 3–5 ɪɚɡ. ȼɫɟɪɟɞɢɧɟɫɟɡɨɧɚɢɦɟɟɬɫɹɦɚɤɫɢɦɭɦ
ɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɢɜɤɨɪɧɹɯ, ɢɜɫɬɟɛɥɹɯ. ɉɪɢɢɡɭɱɟɧɢɢɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɩɨɛɟɝɚɯɧɚɣɞɟɧɨ, ɱɬɨ
ɛɟɪɛɟɪɢɧɩɪɚɤɬɢɱɟɫɤɢɧɟɫɨɞɟɪɠɢɬɫɹɜɫɜɟɠɟɨɬɪɨɫɲɢɯɤɨɧɰɚɯɜɟɬɨɤ (0,02%); ɜɬɨɥɫɬɵɯɩɨɛɟɝɚɯ, ɨɤɪɚɲɟɧɧɵɯ
ɧɚɢɡɥɨɦɟɜɠɟɥɬɵɣɰɜɟɬ, ɧɚɣɞɟɧɨ 0,18% ɛɟɪɛɟɪɢɧɚ (ɬɨɱɤɚ «ɂɸɥɶ 2009, ɉɨɛɟɝɢ, ɉɪɢɪɨɞɧɚɹ 12 – 20»). ɉɪɨɜɟ-
ɞɟɧɨɫɪɚɜɧɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɛ. ɫɢɛɢɪɫɤɨɝɨ, ɩɪɨɢɡɪɚɫɬɚɸɳɟɝɨɜɩɪɢɪɨɞɧɵɯɭɫɥɨɜɢɹɯ (Ɉɧ-
ɝɭɞɚɣɫɤɢɣɪɚɣɨɧɊɟɫɩɭɛɥɢɤɢȺɥɬɚɣ) ɢɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɜɭɫɥɨɜɢɹɯɐɋȻɋ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɞɢ-
ɤɨɪɚɫɬɭɳɢɯɜɡɪɨɫɥɵɯɤɨɪɧɹɯ (12–20 ɥɟɬ) ɧɟɫɤɨɥɶɤɨɜɵɲɟ, ɱɟɦɜɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɯ (1,42 ɢ 1,21%, ɫɨɨɬɜɟɬ-
ɫɬɜɟɧɧɨ; ɬɨɱɤɢ «ɂɸɥɶ 2009, Ʉɨɪɧɢ, ɉɪɢɪɨɞɧɚɹ 12 – 20» ɢ «ɂɧɬɪɨɞɭɤɰɢɹ, 12 – 20»), ɧɨɪɚɡɥɢɱɢɟɧɟɨɱɟɧɶɡɧɚ-
ɱɢɬɟɥɶɧɨɟ. ɋɞɪɭɝɨɣɫɬɨɪɨɧɵ, ɤɨɪɧɢɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛɚɪɛɚɪɢɫɚɢɦɟɸɬɛɨɥɶɲɟɟɨɬɧɨɫɢɬɟɥɶɧɨɟɫɨɞɟɪɠɚ-
ɧɢɟɛɟɪɛɟɪɢɧɚ, ɱɬɨɦɨɠɟɬɨɛɥɟɝɱɢɬɶɩɪɟɩɚɪɚɬɢɜɧɨɟɜɵɞɟɥɟɧɢɟɛɟɪɛɟɪɢɧɚ (ɫɦ. ɪɢɫ. 2 ɚ, ɛ). Ⱦɚɧɧɵɟɬɚɛɥɢɰɵ 1 ɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɜɵɞɟɥɟɧɢɟɛɟɪɛɟɪɢɧɚɢɡɧɚɞɡɟɦɧɨɣɱɚɫɬɢɛ. ɫɢɛɢɪɫɤɨɝɨɹɜɥɹɟɬɫɹ
ɧɟɬɟɯɧɨɥɨɝɢɱɧɵɦ, ɬɚɤɤɚɤɨɧɢɫɨɞɟɪɠɚɬɧɢɡɤɨɟɤɨɥɢɱɟɫɬɜɨɛɟɪɛɟɪɢɧɚɢɛɨɥɶɲɨɟɤɨɥɢɱɟɫɬɜɨɞɪɭɝɢɯɤɨɦ-
ɩɨɧɟɧɬɨɜ. ɋɨɨɬɜɟɬɫɬɜɟɧɧɨ, ɞɥɹɩɨɥɭɱɟɧɢɹɛɟɪɛɟɪɢɧɚɯɥɨɪɢɞɚɧɟɨɛɯɨɞɢɦɚɡɚɝɨɬɨɜɤɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ,
ɧɟɫɦɨɬɪɹɧɚɬɨ, ɱɬɨɷɬɨɩɪɢɜɨɞɢɬɤɭɧɢɱɬɨɠɟɧɢɸɪɚɫɬɟɧɢɹ. ɇɟɨɛɯɨɞɢɦɨɨɬɜɟɬɢɬɶɧɚɜɨɩɪɨɫ – ɧɚɫɤɨɥɶɤɨ
ɞɨɥɝɨɫɥɟɞɭɟɬɜɵɪɚɳɢɜɚɬɶɛ. ɫɢɛɢɪɫɤɢɣɞɥɹɞɨɫɬɢɠɟɧɢɹɦɚɤɫɢɦɚɥɶɧɨɝɨɜɵɯɨɞɚɛɟɪɛɟɪɢɧɚ? ɉɪɟɞɫɬɚɜɥɹɟɬ-
ɫɹ, ɱɬɨɩɨɫɤɨɥɶɤɭɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɫɬɚɪɵɯɤɨɪɧɹɯ (ɛɨɥɟɟ 8 ɥɟɬ) ɧɟɩɪɟɜɵɲɚɟɬɡɧɚɱɢɬɟɥɶɧɨɫɨɞɟɪ-
ɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 6–7 ɥɟɬ, ɧɟɰɟɥɟɫɨɨɛɪɚɡɧɨɜɵɪɚɳɢɜɚɬɶɛɚɪɛɚɪɢɫɛɨɥɟɟ 6–8-ɦɢɥɟɬ. ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … 199 Ɋɢɫ. 2. ɏɪɨɦɚɬɨɝɪɚɦɦɚȼɗɀɏɷɤɫɬɪɚɤɬɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ: ɚ) ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɣɩɨɩɭɥɹɰɢɢ, ɛ) ɩɪɢ-
ɪɨɞɧɨɣɩɨɩɭɥɹɰɢɢ. ɉɢɤɛɟɪɛɟɪɢɧɚɨɬɦɟɱɟɧɡɧɚɤɨɦ (*) Ɋɢɫ. 2. ɏɪɨɦɚɬɨɝɪɚɦɦɚȼɗɀɏɷɤɫɬɪɚɤɬɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ: ɚ) ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɣɩɨɩɭɥɹɰɢɢ, ɛ) ɩɪɢ- Ɋɢɫ. 2. ɏɪɨɦɚɬɨɝɪɚɦɦɚȼɗɀɏɷɤɫɬɪɚɤɬɚɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨ: ɚ) ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɣɩɨɩɭɥɹɰɢɢ, ɛ) ɩɪɢ-
ɪɨɞɧɨɣɩɨɩɭɥɹɰɢɢ. ɉɢɤɛɟɪɛɟɪɢɧɚɨɬɦɟɱɟɧɡɧɚɤɨɦ (*) Ɍɚɛɥɢɰɚ 1. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɩɨɛɟɝɚɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨ
ɢɩɪɢɪɨɞɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, 2009 ɝ. ɉɨɩɭɥɹɰɢɹ,
ɜɨɡɪɚɫɬ, ɥɟɬ
Ɇɚɣ 2009
ɂɸɥɶ 2009
Ɉɤɬɹɛɪɶ 2009
Ʉɨɪɧɢ
ɉɨɛɟɝɢ
Ʉɨɪɧɢ
ɉɨɛɟɝɢ
Ʉɨɪɧɢ
ɉɨɛɟɝɢ
ɂɧɬɪɨɞɭɤɰɢɹ,
2–4
0,54±0,01
0,23±0,01
0,60±0,02
0,29±0,03
0,66±0,02
0,20±0,03
ɂɧɬɪɨɞɭɤɰɢɹ,
6–7
0,83±0,03
0,17±0,02
1,13±0,05
0,14±0,04
0,67±0,01
0,03±0,02
ɂɧɬɪɨɞɭɤɰɢɹ,
12–20
0,63±0,02
0,19±0,02
1,21±0,01
0,29±0,02
0,31±0,01
0,037±0,004
ɉɪɢɪɨɞɧɚɹ,
12–20
1,42±0,02
0,18±0,01a
0,023±0,001ɛ
ɉɪɢɦɟɱɚɧɢɹ: aɫɬɚɪɵɟɩɨɛɟɝɢ; ɛɦɨɥɨɞɵɟɩɨɛɟɝɢ. ɛɥɢɰɚ 1. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɩɨɛɟɝɚɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨ
ɢɩɪɢɪɨɞɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, 2009 ɝ. ɇɚɦɢɩɪɨɜɟɞɟɧɨɞɨɩɨɥɧɢɬɟɥɶɧɨɟɢɫɫɥɟɞɨɜɚɧɢɟɤɨɪɧɟɣɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ, ɫɰɟɥɶɸ
ɭɬɨɱɧɟɧɢɹ ɞɢɧɚɦɢɤɢ ɧɚɤɨɩɥɟɧɢɹ ɛɟɪɛɟɪɢɧɚ ɞɥɹ ɪɚɫɬɟɧɢɣ ɜɨɡɪɚɫɬɧɵɯ ɫɨɫɬɨɹɧɢɣ 3 ɢ 7 ɥɟɬ, ɫɨɛɪɚɧɧɵɯ
ɜ 2010 ɢ 2011 ɝɝ., ɪɟɡɭɥɶɬɚɬɵɩɪɢɜɟɞɟɧɵɜɬɚɛɥɢɰɟ 2. Ⱦɥɹɤɚɠɞɨɣɞɚɬɵɫɛɨɪɚɩɪɨɜɟɞɟɧɨɫɬɚɬɢɫɬɢɱɟɫɤɨɟ
ɫɪɚɜɧɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɬɪɟɯ- ɢɫɟɦɢɥɟɬɧɢɯɪɚɫɬɟɧɢɣɫɢɫɩɨɥɶɡɨɜɚɧɢɟɦ t-ɬɟɫɬɚɋɬɶɸ-
ɞɟɧɬɚ (ɭɪɚɜɧɟɧɢɟ 4) [14]. Ɋɟɡɭɥɶɬɚɬɵɫɬɚɬɢɫɬɢɱɟɫɤɨɝɨɚɧɚɥɢɡɚɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɦɨɠɧɨɝɨɜɨɪɢɬɶɨɩɪɟɞɟɥɟɧ-
ɧɨɨɡɧɚɱɢɦɨɦɪɚɡɥɢɱɢɢɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɩɨɩɭɥɹɰɢɹɯɬɪɟɯ- ɢɫɟɦɢɥɟɬɧɢɯɪɚɫɬɟɧɢɣ. ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ 200 Ɍɚɛɥɢɰɚ 2. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ,
2010 ɢ 2011 ɝɝ. ȼɨɡɪɚɫɬ,
ɥɟɬ
31.05.2010 01.07.2010 20.07.2010 07.08.2010 29.08.2010 30.05.2011 28.06.2011 28.07.2011 31.08.2011
3
1,49±0,03
0,86±0,04
0,98±0,04
0,78±0,02
0,64±0,01
0,66±0,02
0,97±0,03
1,05±0,04
1,22±0,01
7
1,17±0,04
1,17±0,01
1,15±0,02
0,95±0,02
1,14±0,01
1,18±0,04
1,06±0,01
1,20±0,03
0,92±0,03 Ɍɚɛɥɢɰɚ 2. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ, ɩɪɨɰɟɧɬɨɬɫɭɯɨɝɨɜɟɫɚ, ɜɤɨɪɧɹɯɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɨɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ,
2010 ɢ 2011 ɝɝ. Ⱦɚɧɧɵɟɜɬɚɛɥɢɰɚɯ 1 ɢ 2 ɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɜɤɨɪɧɹɯɛɚɪɛɚɪɢɫɚɜɨɡɪɚɫɬɚ 7 ɥɟɬɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚ
ɧɚɯɨɞɢɬɫɹɧɚɞɨɜɨɥɶɧɨɛɨɥɶɲɨɦɭɪɨɜɧɟɢɤɨɥɟɛɥɟɬɫɹɧɟɡɧɚɱɢɬɟɥɶɧɨɤɚɤɜɬɟɱɟɧɢɟɜɟɝɟɬɚɰɢɨɧɧɨɝɨɫɟɡɨɧɚ,
ɬɚɤɢɜɪɚɡɥɢɱɧɵɯɝɨɞɚɯ. ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … ɋȿɁɈɇɇȺəɂȼɈɁɊȺɋɌɇȺəȾɂɇȺɆɂɄȺɋɈȾȿɊɀȺɇɂəȻȿɊȻȿɊɂɇȺ … 201 Ɂɚɤɥɸɱɟɧɢɟ Ɋɟɡɭɥɶɬɚɬɵ ɪɚɛɨɬɵɩɨɤɚɡɵɜɚɸɬ, ɱɬɨɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɣ ɛ. ɫɢɛɢɪɫɤɢɣ ɹɜɥɹɟɬɫɹ ɷɮɮɟɤɬɢɜɧɵɦ ɢɫ-
ɬɨɱɧɢɤɨɦɞɥɹɩɨɥɭɱɟɧɢɹɚɥɤɚɥɨɢɞɚɛɟɪɛɟɪɢɧɚ. Ɉɧɯɨɪɨɲɨɩɪɨɢɡɪɚɫɬɚɟɬɜɯɨɥɨɞɧɨɦɤɥɢɦɚɬɟɢɞɨɫɬɢɝɚɟɬ
ɨɩɬɢɦɚɥɶɧɨɝɨɜɟɫɚɤɨɪɧɟɣɤɜɨɡɪɚɫɬɭ 6–8 ɥɟɬ. ɋɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɬɚɤɢɯɤɨɪɧɹɯɜɚɪɶɢɪɭɟɬɫɹɧɟɡɧɚɱɢ-
ɬɟɥɶɧɨɜɬɟɱɟɧɢɟɫɟɡɨɧɚɜɟɝɟɬɚɰɢɢɢɫɨɫɬɚɜɥɹɟɬɜɫɪɟɞɧɟɦ 1,10%, ɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɛɵ-
ɥɨɧɚɣɞɟɧɨɜɢɸɥɟ (1,16r0,03%). Ʉɨɪɧɢɛɨɥɟɟɦɨɥɨɞɨɝɨɜɨɡɪɚɫɬɚ (3–4 ɝɨɞɚ) ɢɦɟɸɬɧɚɦɧɨɝɨɦɟɧɶɲɭɸɦɚɫ-
ɫɭɢɫɨɞɟɪɠɚɬɦɟɧɶɲɟɟɤɨɥɢɱɟɫɬɜɨɛɟɪɛɟɪɢɧɚ. ɂɫɩɨɥɶɡɨɜɚɧɢɟɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɧɵɯɩɨɩɭɥɹɰɢɣɛɚɪɛɚɪɢɫɚ
ɞɥɹɩɪɨɢɡɜɨɞɫɬɜɚɛɢɨɥɨɝɢɱɟɫɤɢɚɤɬɢɜɧɵɯɫɨɟɞɢɧɟɧɢɣɦɨɠɟɬɩɨɦɨɱɶɜɫɨɯɪɚɧɟɧɢɢɩɪɢɪɨɞɧɵɯɩɨɩɭɥɹɰɢɣ
ɪɚɫɬɟɧɢɣ. Ɉɛɫɭɠɞɟɧɢɟɪɟɡɭɥɶɬɚɬɨɜ Ɇɨɠɧɨɡɚɤɥɸɱɢɬɶ, ɱɬɨɧɚɢɥɭɱɲɢɦɜɪɟɦɟɧɟɦɞɥɹɫɛɨɪɚɤɨɪɧɟɣɜɨɡɪɚɫɬɚ 7 ɥɟɬɹɜ-
ɥɹɟɬɫɹ ɢɧɬɟɪɜɚɥ 20–30 ɢɸɥɹ, ɤɨɬɨɪɵɣ ɫɨɨɬɜɟɬɫɬɜɭɟɬ ɬɨɱɤɚɦ «ɂɸɥɶ 2009 ɝ.» (ɬɚɛɥ. 1), «20.07.2010» ɢ
28.07.2011 (ɬɚɛɥ. 2). ɋɨɝɥɚɫɧɨɬɟɫɬɭɩɨ tɤɪɢɬɟɪɢɸɋɬɶɸɞɟɧɬɚ, ɷɬɢɬɨɱɤɢ (ɡɧɚɱɟɧɢɹ 1,13r0,05; 1,15r0,02;
1,20r0,03 ɫɨɨɬɜɟɬɫɬɜɟɧɧɨ) ɩɪɢɧɚɞɥɟɠɚɬɨɞɧɨɣɜɵɛɨɪɤɟ (ɧɟɢɦɟɸɬɡɧɚɱɢɦɵɯɨɬɥɢɱɢɣ). ɉɪɢɨɛɴɟɞɢɧɟɧɢɢ
ɷɬɢɯɜɵɛɨɪɨɤɦɵɩɨɥɭɱɚɟɦɭɫɪɟɞɧɟɧɧɨɟɡɧɚɱɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚɜɢɸɥɟɢɟɝɨɫɬɚɧɞɚɪɬɧɨɟɨɬɤɥɨ-
ɧɟɧɢɟ (ɭɪɚɜɧɟɧɢɟ 5), ɤɨɬɨɪɵɟɫɨɫɬɚɜɥɹɸɬ 1,16r0,03 %. ɉɨɞɚɧɧɵɦɡɚ 2010 ɢ 2011 ɝɝ., ɫɪɟɞɧɟɟɫɨɞɟɪɠɚɧɢɟ
ɛɟɪɛɟɪɢɧɚɜɬɟɱɟɧɢɟɜɫɟɝɨ ɫɟɡɨɧɚɜɟɝɟɬɚɰɢɢɫɨɫɬɚɜɢɥɨ 1,10%, ɤɪɚɣɧɢɟɨɬɤɥɨɧɟɧɢɹ ɨɬɫɪɟɞɧɟɝɨɡɧɚɱɟɧɢɹ
ɫɨɫɬɚɜɢɥɢ +0,10 ɢ –0,18%. ɗɬɨɨɡɧɚɱɚɟɬ, ɱɬɨɤɨɪɧɢɜɨɡɪɚɫɬɚ 7 ɥɟɬɦɨɠɧɨɫɨɛɢɪɚɬɶɧɟɬɨɥɶɤɨɜɨɩɬɢɦɚɥɶɧɨɟ
ɜɪɟɦɹ, ɢɩɪɢɷɬɨɦɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɛɭɞɟɬɥɢɲɶɧɟɧɚɦɧɨɝɨɧɢɠɟ. Ⱦɥɹ ɤɨɪɧɟɣ ɛɚɪɛɚɪɢɫɚ ɜɨɡɪɚɫɬɚ 3 ɝɨɞɚ ɤɚɪɬɢɧɚ ɫɨɞɟɪɠɚɧɢɹ ɛɟɪɛɟɪɢɧɚ ɹɜɥɹɟɬɫɹ ɛɨɥɟɟ ɫɥɨɠɧɨɣ. ȼ 2010 ɢ 2011 ɝɝ. ɞɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɧɟɫɨɜɩɚɞɚɟɬ. Ⱦɨɥɠɧɵɛɵɬɶɩɪɨɜɟɞɟɧɵɞɨɩɨɥɧɢɬɟɥɶɧɵɟ
ɢɫɫɥɟɞɨɜɚɧɢɹ ɞɥɹ ɬɨɝɨ, ɱɬɨɛɵ ɨɩɪɟɞɟɥɢɬɶ – ɨɛɭɫɥɨɜɥɟɧɵ ɥɢ ɡɧɚɱɟɧɢɹ ɜ ɬɨɱɤɚɯ «31.05.2010» (1,49%)
ɢ 31.08.2011 (1,22%) (ɬɚɛɥ. 2) ɨɫɨɛɟɧɧɨɫɬɹɦɢɤɥɢɦɚɬɢɱɟɫɤɢɯɭɫɥɨɜɢɣɞɚɧɧɵɯɫɟɡɨɧɨɜɢɥɢɞɪɭɝɢɦɢɮɚɤɬɨ-
ɪɚɦɢ. ȿɫɥɢɧɟɪɚɫɫɦɚɬɪɢɜɚɬɶɷɬɢɬɨɱɤɢ, ɬɨɜɢɞɧɨ, ɱɬɨ ɜɰɟɥɨɦɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ
3 ɝɨɞɚɦɟɧɶɲɟ, ɱɟɦɜɤɨɪɧɹɯɜɨɡɪɚɫɬɚ 7 ɥɟɬ. Ⱦɚɧɧɵɟ ɡɚ 2009 ɢ 2011 ɝɝ. ɞɥɹ ɬɪɟɯɥɟɬɧɢɯɤɨɪɧɟɣɩɨɤɚɡɵɜɚɸɬɭɜɟɥɢɱɟɧɢɟɫɨɞɟɪɠɚɧɢɹɛɟɪɛɟɪɢɧɚ
ɜɤɨɧɰɟɜɟɝɟɬɚɬɢɜɧɨɝɨɫɟɡɨɧɚ, ɱɬɨɩɪɨɬɢɜɨɩɨɥɨɠɧɨɞɚɧɧɵɦɩɨɫɟɦɢɥɟɬɧɢɦɤɨɪɧɹɦ, ɢɦɟɸɳɢɦɦɚɤɫɢɦɭɦ
ɜɫɟɪɟɞɢɧɟɫɟɡɨɧɚ. ɋɥɟɞɭɟɬɨɬɦɟɬɢɬɶ, ɱɬɨɫɨɝɥɚɫɧɨɥɢɬɟɪɚɬɭɪɧɵɦɞɚɧɧɵɦ, ɞɥɹɛɚɪɛɚɪɢɫɨɜ, ɩɪɨɢɡɪɚɫɬɚɸ-
ɳɢɯɜɛɨɥɟɟɠɚɪɤɢɯɪɟɝɢɨɧɚɯ (ɜɨɡɪɚɫɬɧɟɢɡɜɟɫɬɟɧ), ɦɚɤɫɢɦɚɥɶɧɨɟɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯɧɚɛɥɸɞɚ-
ɥɨɫɶɜɤɨɧɰɟɜɟɝɟɬɚɬɢɜɧɨɝɨɫɟɡɨɧɚ [9, 10]. ɋɞɪɭɝɨɣɫɬɨɪɨɧɵ, ɞɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɜɩɨɩɭɥɹɰɢɹɯ
ɛ. ɫɢɛɢɪɫɤɨɝɨ, ɩɪɨɢɡɪɚɫɬɚɸɳɢɯɜɊɟɫɩɭɛɥɢɤɟȺɥɬɚɣ (Ɋɨɫɫɢɹ) (ɤɚɤɧɚɢɛɨɥɟɟɛɥɢɡɤɢɯɤɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɦɜ
ɇɨɜɨɫɢɛɢɪɫɤɟ), ɧɟɢɡɭɱɚɥɚɫɶ. Ɉɱɟɜɢɞɧɨ, ɱɬɨɫɩɟɪɟɯɨɞɨɦɨɬɜɢɪɝɢɧɢɥɶɧɨɝɨ (v) ɫɨɫɬɨɹɧɢɹɪɚɫɬɟɧɢɹ (3 ɝɨɞɚ) ɤ
ɝɟɧɟɪɚɬɢɜɧɨɦɭ (g1, g2) (7 ɥɟɬ) ɯɚɪɚɤɬɟɪɛɢɨɫɢɧɬɟɡɚɜɬɨɪɢɱɧɵɯɦɟɬɚɛɨɥɢɬɨɜɦɨɠɟɬɦɟɧɹɬɶɫɹ, ɢɞɢɧɚɦɢɤɚɧɚ-
ɤɨɩɥɟɧɢɹɛɟɪɛɟɪɢɧɚɦɨɠɟɬɬɚɤɠɟɢɡɦɟɧɢɬɶɫɹ. ȼɟɪɨɹɬɧɨɬɚɤɠɟ, ɧɚɛɥɸɞɚɟɦɵɟɪɚɡɥɢɱɢɹɜɞɢɧɚɦɢɤɟɧɚɤɨɩɥɟ-
ɧɢɹɛɟɪɛɟɪɢɧɚɦɟɠɞɭɫɟɦɢɥɟɬɧɢɦɢɪɚɫɬɟɧɢɹɦɢ, ɢɧɬɪɨɞɭɰɢɪɨɜɚɧɧɵɦɢɜɐɋȻɋ, ɢɩɪɢɪɨɞɧɵɦɢɩɨɩɭɥɹɰɢɹɦɢ,
ɨɩɢɫɚɧɧɵɦɢɜɥɢɬɟɪɚɬɭɪɟ, ɨɛɭɫɥɨɜɥɟɧɵɪɚɡɥɢɱɢɟɦɩɪɢɪɨɞɧɵɯɢɤɥɢɦɚɬɢɱɟɫɤɢɯɭɫɥɨɜɢɣ. ɉɪɢɫɪɚɜɧɟɧɢɢɬɪɟɯ- ɢɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣɦɨɠɧɨɜɢɞɟɬɶ, ɱɬɨɢɯɫɵɪɨɣɜɟɫɫɨɫɬɚɜɥɹɟɬ 20–30 ɝɞɥɹ
ɬɪɟɯɥɟɬɧɢɯɤɨɪɧɟɣɢɨɤɨɥɨ 70–100 ɝɞɥɹɫɟɦɢɥɟɬɧɢɯ. ɉɪɢɦɟɯɚɧɢɡɢɪɨɜɚɧɧɨɣɨɛɪɚɛɨɬɤɟɧɚ 1 ɦ2ɰɟɥɟɫɨɨɛ-
ɪɚɡɧɨ ɜɵɪɚɳɢɜɚɧɢɟ 6–8 ɤɨɪɧɟɣɛɚɪɛɚɪɢɫɚ, ɱɬɨɦɨɠɟɬ ɞɚɬɶ ɭɪɨɠɚɣɧɨɫɬɶ ɨɤɨɥɨ 4.8 ɬɨɧɧɵ ɧɚ ɝɟɤɬɚɪ ɞɥɹ
ɬɪɟɯɥɟɬɧɢɯɤɨɪɧɟɣ (ɫɨɛɪɚɧɨ 2 ɭɪɨɠɚɹ), ɢɥɢɨɤɨɥɨ 8 ɬɨɧɧɫɝɟɤɬɚɪɚɞɥɹɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣ (ɫɨɛɪɚɧɨɞɢɧ
ɭɪɨɠɚɣ). ɋɥɟɞɨɜɚɬɟɥɶɧɨ, ɜɵɪɚɳɢɜɚɧɢɟɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣɹɜɥɹɟɬɫɹɛɨɥɟɟɩɪɟɞɩɨɱɬɢɬɟɥɶɧɵɦɞɥɹɩɪɨɢɡ-
ɜɨɞɫɬɜɚɛɟɪɛɟɪɢɧɚ. ɇɟɨɛɯɨɞɢɦɨɛɵɥɨɬɚɤɠɟɫɨɩɨɫɬɚɜɢɬɶ ɫɨɞɟɪɠɚɧɢɟɛɟɪɛɟɪɢɧɚɜɤɨɪɧɹɯ, ɨɩɪɟɞɟɥɟɧɧɨɟ ɩɨȼɗɀɏ, ɢ
ɜɵɯɨɞɩɪɨɞɭɤɬɚ (ɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚ) ɩɪɢɜɵɞɟɥɟɧɢɢ. Ȼɵɥɚɩɪɢɝɨɬɨɜɥɟɧɚɨɛɴɟɞɢɧɟɧɧɚɹɩɪɨɛɚɢɧɬɪɨɞɭɰɢɪɨ-
ɜɚɧɧɵɯ ɤɨɪɧɟɣ ɛɚɪɛɚɪɢɫɚ, ɞɥɹ ɤɨɬɨɪɨɣ ɚɧɚɥɢɬɢɱɟɫɤɨɟ ɨɩɪɟɞɟɥɟɧɢɟ ɞɚɟɬ ɫɨɞɟɪɠɚɧɢɟ ɛɟɪɛɟɪɢɧɚ
0,95±0,03%. ɉɪɢɷɤɫɬɪɚɤɰɢɢɨɛɪɚɡɰɚɢɞɚɥɶɧɟɣɲɟɣɟɝɨɨɛɪɚɛɨɬɤɟɩɨɦɟɬɨɞɢɤɟ [13] ɛɵɥɨɩɨɥɭɱɟɧɛɟɪɛɟ-
ɪɢɧɯɥɨɪɢɞɫɜɵɯɨɞɨɦ 0,62%. Ⱦɥɹɫɪɚɜɧɟɧɢɹ, ɩɪɢɷɤɫɬɪɚɤɰɢɢɤɨɪɧɟɣɞɢɤɨɪɚɫɬɭɳɟɝɨɛ. ɫɢɛɢɪɫɤɨɝɨ (ɫɨɞɟɪ-
ɠɚɧɢɟɛɟɪɛɟɪɢɧɚ 1,42±0,02%, ɫɦ. ɬɚɛɥ. 1, ɬɨɱɤɚ «ɂɸɥɶ 2009 ɝ., Ʉɨɪɧɢ, ɉɪɢɪɨɞɧɚɹ 12 – 20»), ɛɟɪɛɟɪɢɧɯɥɨ-
ɪɢɞɛɵɥɩɨɥɭɱɟɧɫɜɵɯɨɞɨɦ 0,71%. ȿɫɥɢɩɪɢɧɹɬɶɭɪɨɠɚɣɧɨɫɬɶɫɟɦɢɥɟɬɧɢɯɤɨɪɧɟɣɛ. ɫɢɛɢɪɫɤɨɝɨɪɚɜɧɨɣ 8
ɬɝɚ, ɫɭɯɨɣɜɟɫɤɨɪɧɟɣ – ɨɤɨɥɨɩɨɥɨɜɢɧɵɫɵɪɨɝɨɜɟɫɚ, ɢɜɵɯɨɞɛɟɪɛɟɪɢɧɚɪɚɜɧɵɦ 0,62%, ɬɨɦɨɠɧɨɩɨɥɭ-
ɱɢɬɶɨɤɨɥɨ 25 ɤɝɛɟɪɛɟɪɢɧɯɥɨɪɢɞɚɦɨɧɨɝɢɞɪɚɬɚɫ 1 ɝɚ. ɉɨɫɬɭɩɢɥɨɜɪɟɞɚɤɰɢɸ 23 ɚɩɪɟɥɹ 2013 ɝ. 14. ȾɺɪɮɮɟɥɶɄ. ɋɬɚɬɢɫɬɢɤɚɜɚɧɚɥɢɬɢɱɟɫɤɨɣɯɢɦɢɢ. Ɇ., 1994. 268 ɫ. References Shlykov G.N. Introdyktsiya i akklimatizatsiya rastenii. [Introduction and akklimatization of plants]. Moscow, 1963
488 p. (in Russ.). 2. Petrovskaya-Baranova T.P. Fisiologiya adaptatsii i introdyktsii rastenii. [Physiology of adaptation and introduction
of plants]. Moscow, 1983. 152 p. (in Russ.). 2. Petrovskaya-Baranova T.P. Fisiologiya adaptatsii i introdyktsii rastenii. [Physiology of adaptation and introduction
of plants]. Moscow, 1983. 152 p. (in Russ.). 3. Nechepurenko I.V., Salakhutdinov N.F., Tolstikov G.A. Khimiya v Interesakh Ustoichivogo Razvitiya, 2010, vol. 18,
pp. 1–23. (in Russ.). 3. Nechepurenko I.V., Salakhutdinov N.F., Tolstikov G.A. Khimiya v Interesakh Ustoichivogo Razvitiya, 2010, vol. 18,
pp. 1–23. (in Russ.). Tillhon M., Ortiz L.M.G., Lombardi P., Scovassi A.I. Biochemical Pharmacology, 2012, vol. 84, pp. 1260–1267. (in Russ.). gy
pp
5. Malysheva L.I., Peshkovoii G.A. Flora Sibiri. [The flora of Siberia]. Novosibirsk, 1994, vol. 7, pp. 9–10. . Malysheva L.I., Peshkovoii G.A. Flora Sibiri. [The flora of Siberia]. Novosibirsk, 1994, vol. 7, pp. 9–10. 6. Vstovskaya T.N., Koropachinskii I.Y. Drevesnye rasteniya tsentralnogo sibirskogo botanicheskogo sada. [Wood
plants in Central Siberian Botanical Garden]. Novosibirsk, 2005. 234 p. 6. Vstovskaya T.N., Koropachinskii I.Y. Drevesnye rasteniya tsentralnogo sibirskogo botanicheskogo sada. [Wood
plants in Central Siberian Botanical Garden]. Novosibirsk, 2005. 234 p. . Karimov A., Levkovich M.G., Abdullaev N.D., Shakirov R. Chemistry of Natural Compounds, 1993, vol. 29
361–364. (Khimiya prirodnykh soedinenii, 1993, no. 3, pp. 424–428. (in Russ.).). 361 364. (Khimiya prirodnykh soedinenii, 1993, no. 3, pp. 424 428. (in Russ.).). 8. Istatkova R., Philipov S., Tuleva P., Amgalan S., Samdan J., Dangaa S. Comptes Rendus de l'Academie Bulgare des
Sciences 2007 vol 60 pp 1177–1182 Istatkova R., Philipov S., Tuleva P., Amgalan S., Samdan J., Dangaa S. Comptes Rendus de l'Academie Bulgare des
Sciences, 2007, vol. 60, pp. 1177–1182. 9. Karimov A., Shakirov R.S. Chemistry of Natural Compounds, 1992, vol. 28, pp. 524–525. (Khimiya prirodnykh
soedinenii, 1992, no. 5, pp. 597–596. (in Russ.).). 9. Karimov A., Shakirov R.S. Chemistry of Natural Compounds, 1992, vol. 28, pp. 524–525. (Khimiya prirodnykh
soedinenii, 1992, no. 5, pp. 597–596. (in Russ.).). pp
10. Yoo S.J., Lee K.B., Kwak J.H. Saengyak Hakhoechi, 1986, vol. 17, pp. 123–128. 10. Yoo S.J., Lee K.B., Kwak J.H. Saengyak Hakhoech 11. Karimov A., Meliboev S., Olimov V., Shakirov R. Chemistry of Natural Compounds, 1993, vol. 29, pp. 4
(Khimiya prirodnykh soedinenii, 1993, no. 3, pp. 472–473. (in Russ.).). 12. Andola H.C., Gaira K.S., Rawal R.S., Rawat M.S.M., Bhatt I.D. * Corresponding author. Nechepurenko I.V.1*, Komarova N.I.1, Potemkin O.N.2, Salakhutdinov N.F.1 SEASONAL AND AGE VARIATIONS
OF BERBERINE CONTENT IN INTRODUCED BERBERIS SIBIRICA PALL. Vorozhtzov Novosibirskii Institute of Organic Chemistry o 1N.N. Vorozhtzov Novosibirskii Institute of Organic Chemistry of the Siberian Branch of Russian Academy of Sciences,
Lavrent'eva ave., 9, Novosibirsk, 630090 (Russia), e-mail: niv@nioch.nsc.ru 1N.N. Vorozhtzov Novosibirskii Institute of Organic Chemistry of the Siberian Branch of Russian Academy of Sciences, 1N.N. Vorozhtzov Novosibirskii Institute of Organic Chemistry of the Siberian Branch of Russian Academy of Sciences,
Lavrent'eva ave., 9, Novosibirsk, 630090 (Russia), e-mail: niv@nioch.nsc.ru
2 Central Siberian Botanical Garden of the Siberian Branch of Russian Academy of Sciences, Zolotodolinskay str., 101,
Novosibirsk, 630090 (Russia) The content of isoquinoline alkaloid berberine was studied by means of HPLC in the roots and the above-ground part of
introduced Berberis sibirica Pall. of various ages collected during different periods of three vegetative seasons. The roots con-
tain 3–5 times more berberine than the stems. The content of berberine in 7-year-old roots varies slightly during the season; its
mean value was 1.10% and maximum content was found in July (1,16r0.03%). The roots of the age of 3 years contain fewer
berberine. Berberine chloride has been preparatively isolated from the introduced roots containing 0,95% of berberine; the yield
was 0,62%, which is close to the value typical for obtaining berberine chloride from wild roots. yp
g
Keywords: berberine; Berberis sibirica; alkaloids dynamics; introduction; HPLC. ɋɩɢɫɨɤɥɢɬɟɪɚɬɭɪɵ 1. ɒɥɵɤɨɜȽɇ. ɂɧɬɪɨɞɭɤɰɢɹɢɚɤɤɥɢɦɚɬɢɡɚɰɢɹɪɚɫɬɟɧɢɣ, Ɇ., 1963. 488 ɫ. . ɉɟɬɪɨɜɫɤɚɹȻɚɪɚɧɨɜɚɌɉ. Ɏɢɡɢɨɥɨɝɢɹɚɞɚɩɬɚɰɢɢɢɢɧɬɪɨɞɭɤɰɢɹɪɚɫɬɟɧɢɣ, Ɇ., 1983. 152 ɫ. 2. ɉɟɬɪɨɜɫɤɚɹȻɚɪɚɧɨɜɚɌɉ. Ɏɢɡɢɨɥɨɝɢɹɚɞɚɩɬɚɰɢɢɢɢɧɬɪɨɞɭɤɰɢɹɪɚɫɬɟɧɢɣ, Ɇ., 1983. 152 ɫ. 3. ɇɟɱɟɩɭɪɟɧɤɨɂȼ., ɋɚɥɚɯɭɬɞɢɧɨɜɇɎ., ɌɨɥɫɬɢɤɨɜȽȺ. Ȼɟɪɛɟɪɢɧ: ɯɢɦɢɹɢɛɢɨɥɨɝɢɱɟɫɤɚɹɚɤɬɢɜɧɨɫɬɶ // ɏɢɦɢɹ
ɜɢɧɬɟɪɟɫɚɯɭɫɬɨɣɱɢɜɨɝɨɪɚɡɜɢɬɢɹ. 2010. Ɍ. 18, ʋ1. ɋ. 1–23. 3. ɇɟɱɟɩɭɪɟɧɤɨɂȼ., ɋɚɥɚɯɭɬɞɢɧɨɜɇɎ., ɌɨɥɫɬɢɤɨɜȽȺ. Ȼɟɪɛɟɪɢɧ: ɯɢɦɢɹɢɛɢɨɥɨɝɢɱɟɫɤɚɹɚɤɬɢɜɧɨɫɬɶ // ɏɢɦɢɹ
ɜɢɧɬɟɪɟɫɚɯɭɫɬɨɣɱɢɜɨɝɨɪɚɡɜɢɬɢɹ. 2010. Ɍ. 18, ʋ1. ɋ. 1–23. 4. Tillhon M., Ortiz L.M.G., Lombardi P., Scovassi A.I., Berberine: New perspectives for old remedies // Biochemical
Pharmacology. 2012. Vol. 84. Pp. 1260–1267. 4. Tillhon M., Ortiz L.M.G., Lombardi P., Scovassi A.I., Berberine: New perspectives for old remedies // Biochemical
Pharmacology. 2012. Vol. 84. Pp. 1260–1267. 5. ɆɚɥɵɲɟɜɚɅɂ., ɉɟɲɤɨɜɨɣȽȺ. Ɏɥɨɪɚɋɢɛɢɪɢ. ɇɨɜɨɫɢɛɢɪɫɤ, 1994. Ɍ. 7. ɋ. 9. 5. ɆɚɥɵɲɟɜɚɅɂ., ɉɟɲɤɨɜɨɣȽȺ. Ɏɥɨɪɚɋɢɛɢɪɢ. ɇɨɜɨɫɢɛɢɪɫɤ, 1994. Ɍ. 7. ɋ. 9 6. ȼɫɬɨɜɫɤɚɹɌɇ., Ʉɨɪɨɩɚɱɢɧɫɤɢɣɂɘ. Ⱦɪɟɜɟɫɧɵɟɪɚɫɬɟɧɢɹɰɟɧɬɪɚɥɶɧɨɝɨɫɢɛɢɪɫɤɨɝɨɛɨɬɚɧɢɱɟɫɤɨɝɨɫɚɞɚ. ɇɨ-
ɜɨɫɢɛɢɪɫɤ, 2005. 234 ɫ. 7. Ʉɚɪɢɦɨɜ A., Ʌɟɜɤɨɜɢɱ M.Ƚ., ȺɛɞɭɥɥɚɟɜɇȾ., ɒɚɤɢɪɨɜɊ. Ⱥɥɤɚɥɨɢɞɵ Berberis. XXIX. ɂɫɫɥɟɞɨɜɚɧɢɟɚɥɤɚɥɨɢ-
ɞɨɜ Berberis sibirica // ɏɢɦɢɹɩɪɢɪɨɞɧɵɯɫɨɟɞɢɧɟɧɢɣ. 1993. ʋ3. ɋ. 424–428. 8. Istatkova R., Philipov S., Tuleva P., Amgalan S., Samdan J., Dangaa S., Alkaloids from Mongolian species
sibirica Pall. // Comptes Rendus de l'Academie Bulgare des Sciences. 2007. Vol. 60. Pp. 1177–1182. 9. ɄɚɪɢɦɨɜȺ., ɒɚɤɢɪɨɜɊɒ. Ⱥɥɤɚɥɨɢɞɵ Berberis. XIV. Ⱦɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɚɥɤɚɥɨɢɞɨɜɜ Berberis oblonga //
ɏɢɦɢɹɩɪɢɪɨɞɧɵɯɫɨɟɞɢɧɟɧɢɣ. 1992. ʋ5. C. 597–598. 10. Yoo S.J., Lee K.B., Kwak J.H., Studies on the seasonal variation of berberine contents in Berberis koreana //
Saengyak Hakhoechi. 1986. Vol. 17. Pp. 123–128. 11. ɄɚɪɢɦɨɜȺ., Ɇɟɥɢɛɨɟɜɋ., Ɉɥɢɦɨɜȼ., ɒɚɤɢɪɨɜɊ. Ⱥɥɤɚɥɨɢɞɵ Berberis. XXX. Ⱦɢɧɚɦɢɤɚɧɚɤɨɩɥɟɧɢɹɚɥɤɚɥɨɢ-
ɞɨɜ Berberis integerrimaɢ B. nummularia // ɏɢɦɢɹɩɪɢɪɨɞɧɵɯɫɨɟɞɢɧɟɧɢɣ. 1993. ʋ3. C. 472–473. 12. Andola H.Ch., Gaira K.S., Rawal R.S., Rawat M.S.M., Bhatt I.D., Habitat-Dependent Variations in Berberine Content
of Berberis asiatica Roxb. ex. DC. in Kumaon, Western Himalaya // Chemistry & Biodiversity. 2010. Vol. 7. Pp. 415–420. 13. ɉɚɬɟɧɬ 2423992 (ɊɎ). ɋɩɨɫɨɛɩɨɥɭɱɟɧɢɹɩɚɤɢɫɬɚɧɚɦɢɧɚɢɛɟɪɛɟɪɢɧɚɯɥɨɪɢɞɚɢɡ Berberis sibirica / ɂȼ. ɇɟɱɟ-
ɩɭɪɟɧɤɨ, Ɇɉ. ɉɨɥɨɜɢɧɤɚ, ɇɂ. Ʉɨɦɚɪɨɜɚ, ɇɎ. ɋɚɥɚɯɭɬɞɢɧɨɜ, ȽȺ. Ɍɨɥɫɬɢɤɨɜ // Ȼɂ. 2011. ʋ20. 14. ȾɺɪɮɮɟɥɶɄ. ɋɬɚɬɢɫɬɢɤɚɜɚɧɚɥɢɬɢɱɟɫɤɨɣɯɢɦɢɢ. Ɇ., 1994. 268 ɫ. 202 ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ. ɋȺɅȺɏɍɌȾɂɇɈȼ ɂȼ. ɇȿɑȿɉɍɊȿɇɄɈ, ɇɂ. ɄɈɆȺɊɈȼȺ, Ɉɇ. ɉɈɌȬɆɄɂɇ, ɇɎ.
ɋȺɅȺɏɍɌȾɂɇɈȼ Nechepurenko I.V.1*, Komarova N.I.1, Potemkin O.N.2, Salakhutdinov N.F.1 SEASONAL AND AGE VARIATIONS
OF BERBERINE CONTENT IN INTRODUCED BERBERIS SIBIRICA PALL. References Habitat-Dependent Variations in Berberine Content of
Berberis asiatica Roxb. ex. DC. in Kumaon, Western Himalaya. Chemistry & Biodiversity, 2010, vol. 7, pp. 415–420. 13. Patent 2423992 (RU). 2011. 13. Patent 2423992 (RU). 2011. Doerffel K. Statistika v analyticheskoi chimii. [Statistik in der analytischen Chemie]. Moscow, 1994. 268 p. (in
Russ.). Received January 27, 2013
|
https://openalex.org/W2976602102
|
https://www.matec-conferences.org/10.1051/matecconf/201929202003/pdf
|
English
| null |
Networking solutions for connecting bluetooth low energy devices - a comparison
|
MATEC web of conferences
| 2,019
|
cc-by
| 6,668
|
Networking solutions for connecting bluetooth low energy
devices - a comparison Mostafa Labib1,*, Atef Ghalwash1, Sarah Abdulkader1, and Mohamed Elgazzar2 1Faculty of Computers and Information, Helwan University, Egypt
2Vodafone Company, Egypt 1Faculty of Computers and Information, Helwan University, Egypt
2Vodafone Company, Egypt Abstract. The Bluetooth Low Energy (BLE) is an attractive solution for implementing low-cost, low
power consumption, short-range wireless transmission technology and high flexibility wireless
products,which working on standard coin-cell batteries for years. The original design of BLE is restricted
to star topology networking, which limits network coverage and scalability. In contrast, other competing
technologies like Wi-Fi and ZigBee overcome those constraints by supporting different topologies such as
the tree and mesh network topologies. This paper presents a part of the researchers' efforts in designing
solutions to enable BLE mesh networks and implements a tree network topology which is not supported in
the standard BLE specifications. In addition, it discusses the advantages and drawbacks of the existing
BLE network solutions. During analyzing the existing solutions, we highlight currently open issues such
as flooding-based and routing-based solutions to allow end-to-end data transmission in a BLE mesh
network and connecting BLE devices to the internet to support the Internet of Things (IoT). The approach
proposed in this paper combines the default BLE star topology with the flooding based mesh topology to
create a new hybrid network topology. The proposed approach can extend the network coverage without
using any routing protocol. Keywords: Bluetooth Low Energy, Wireless Sensor Network, Industrial Wireless Mesh Network,
BLE Mesh Network, Direct Acyclic Graph, Time Division Duplex, Time Division Multiple Access,
Internet of Things. Keywords: Bluetooth Low Energy, Wireless Sensor Network, Industrial Wireless Mesh Network,
BLE Mesh Network, Direct Acyclic Graph, Time Division Duplex, Time Division Multiple Access,
Internet of Things. © The Authors, published by EDP Sciences. This is an open access article distributed under the terms of the Creative Commons Attribution License 4.0
(http://creativecommons.org/licenses/by/4.0/). DP Sciences. This is an open access article distributed under the terms of the Creative Commons Attribution License 4.0
ses/by/4 0/) , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 1 Introduction perspective (WSN). These parameters include the power
consumption of the network, latency, data transmission
speed, node recognition, routing, and failure detection. Power consumption is considered one of the most
important parameters, as the node’s battery life depends
on the power it consumes [2]. Wireless sensor networks (WSNs) are a group of
connected sensors used for collecting, recording and
monitoring the physical parameters of the environment
and sending the collected data to a central device. As
Examples of the environmental conditions that can be
measured using the WSNs are a person's heart rate,
pollution levels, sounds, temperature, humidity, bicycle's
tire pressure, wind and so on. Wireless sensor networks
can be configured using several wireless technologies
such as ANT, ZigBee, Nike+, Classic Bluetooth,
Bluetooth Low Energy and other wireless technologies. The different aspects of those wireless technologies have
been compared and evaluated in [1]. p
[ ]
The default BLE specifications support only the star
network topology, Where a master device connects to
many slave devices to form a star shape. It is impossible
to configure more complex network topology depending
only on the basic BLE specifications [2], and in turn, the
coverage area and scalability of the network is
limited.WSN configurations can be one of the Star,
Mesh, and Tree topologies or a mixed form. So building
BLE networks using different topologies can reduce the
power consumption while increasing the network
coverage [2]. One of the simplest solution to expand the
communication coverage is the Tree topology. The Tree
topology network is usually used because the multi-hop
relaying is possible, meanwhile the communication
distance is limited by just one hop distance in the star
topology network [3]. The Bluetooth Low Energy (BLE), also marketed as
Bluetooth Smart, is extensively adopted in most smart
phones. It plays a major communication channel for the
wide range of industrial applications as well as the
personal applications like Lighting, home automation,
motion detection, Location-based services, fitness, sports
and so on. There are some parameters which are
important
from
the
Wireless
Sensor
Networks' , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 To implement a tree topology, three different nodes
are designed: the root node, the intermediate node and
the leaf node. In a mesh topology, devices communicate
locally to form Pico-nets comprising of devices in master
and slave roles. 1 Introduction The Pico-nets connect via common
devices and form a scatter-net [2].One of the main
advantages of tree topology is its simplicity, but sending
data directly to the other nodes on the same level of the
tree is an impossible task, on the other hand, the main
advantage of mesh topology is its ability in increasing
the coverage area but mesh topology is very complex
structure [3]. The term of Bluetooth Low Energy (BLE) has been
defined for the first time in 2010 by SIG (Bluetooth
Special
Interest
Group)as
a
part
of
Bluetooth
4.0specification [6], since then, subsequently Bluetooth
versions have been published such as, Bluetooth 4.1,
Bluetooth 4.2, and Bluetooth 5.0 [7,8,9]. The following
sections will describe the BLE’s protocol stack and the
main features of the BLE versions which have already
been mentioned, emphasizing the support aspects related
to different network topologies. The classic Bluetooth and BLE have similar protocol
stacks, where the Bluetooth Low Energy consists of two
main components, the Controller and the Host as shown
in Figure 1. The two components can reside on the same
physical device or on different devices. The Controller is
the logical entity that is responsible for the physical layer
and the link layer, which performs the radio interference
related
tasks,
while
the
Host
implements
the
functionalities of the upper layers and support
applications [10]. An important issue of research in wireless networks
is to dynamically organize the nodes into a wireless
network and route the data from the source to the
destination. The former BLE based networks do not
perform routing, but its devices broadcast packets
through the network over BLE advertising channels
which is called flooding techniques [4]. This paper presents different existing techniques for
configuring BLE tree and BLE mesh networks. We
provide taxonomy for BLE network solutions, whereby
we have divided the identified solutions into two main
categories, namely: tree network solutions and mesh
network solutions. This paper has considered and
analyzed some of recent existing BLE trees and mesh
network proposals to the best of our knowledge. Fig. 1. BLE stack (adapted from [10]) In this paper, we propose a new approach based on
merging the default Bluetooth Low Energy “BLE” star
topology with the flooding based mesh topology. 1 Introduction The
new hybrid network topology makes use of the
simplicity of creating BLE star topology with the power
of broadcasting messages using the flooding based mesh
topology without any routing technique. The last section
of this paper discusses the importance of connecting
BLE devices to the Internet to support the Internet of
Things IoT networks and its products. Fig. 1. BLE stack (adapted from [10]) The
physical
layer
Controls
radio
transmission/receiving where at The Physical layer, The
BLE defines 40 Radio Frequency (RF) channels in the
2.4 GHz Industrial Scientific Medical (ISM) band. Three
of them, the advertising channels, are assigned
specifically for advertising and discovery services. The
remaining 37 data channels are intended for bidirectional
exchange of data between devices. Adaptive frequency
hopping method is also used over data channels to
minimize
interference
from
other
technologies
(Bluetooth® and Wireless LAN) in the 2.4 GHz ISM
Band. The data transmission rate is 1 Mbit/s [10]. This paper is organized as follows. Section II, an
overview of Bluetooth Low Energy is presented, while
section III explores the BLE based tree topology
networks. Section IV discusses the BLE based mesh
topology networks. In section V, a new hybrid network
approach is proposed. Section VI discusses an IoT based
system using BLE devices. Finally, section VII has the
conclusions and possible future works. The Link Layer is a hardware-firmware co-
implementation. It’s responsible for a variety of tasks
such as managing the physical BLE connections between
devices, defining packet structure, supporting all Link
Layer states such as Advertising, Scanning, Initiating,
and Connecting Master and Slave, figure. 2, in addition,
providing link layer-level encryption [11]. L2CAP layer
“Logical Link Control and Adaption Layer Protocol”
works as an interface between the Host and Controller. It
provides connection-oriented and connection-less data
services to the upper layer protocols using segmentation,
multiplexing and reassembly capabilities [11]. 2 Bluetooth Low Energy Overview Bluetooth specifications can be classified into two main
standard protocols, namely, classic Bluetooth and low-
Energy (BLE) Bluetooth, also marketed as Bluetooth
Smart. The classic Bluetooth, with its revised versions of
the original Bluetooth standard, provide data rates up to
3 Mbps. Unlike classic Bluetooth, the BLE is targeted to
enable a short range wireless communication with an
emphasis
on
low-data
rate
energy
constrained
applications. In addition to low-power, the aim of BLE is
to enable the design of low-cost and less complex radio
transceivers for both cost and resources (i.e. Memory)
sensitive applications[5]. 2 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 Fig. 2. BLE Link Layer States Flowchart [12] masters, it may happen that the Connection Events CEs
assigned to the same slave by different masters, figure.4
[13]. Section 4.2.1 in this paper presents one of the
researchers’ effort in solving Connection Events overlap
problem. Fig. 4. Example of topology with the CE overlaps problem
(adapted from [13]) Fig. 2. BLE Link Layer States Flowchart [12] As we mentioned above, the Bluetooth Low Energy
standard is limited to point-to-point simple one-level star
topology, the problem with this topology is its lack of
ability to extend the network’s range. In the case of a star
topology, the center node is the master and the nodes
around it are slaves, figure. 3. The slave nodes can’t
communicate with each other directly, so the master can
maintain multiple connections, while the slaves can’t
have more than one connection at a time [13]. Fig. 4. Example of topology with the CE overlaps problem
(adapted from [13]) The Bluetooth V4.2 specification was published in
2014. Bluetooth V4.2 does not provide further
functionality to support BLE mesh networks. But this
version of Bluetooth focused on increasing the
possibilities of BLE technology for the IoT. So this
version incorporated improvements mainly in three
areas; Internet connectivity, improved security, and
higher throughput [8]. Fig. 3. BLE Star topology (adapted from [14]) The Bluetooth V5.0 specification was published in
late 2016. Bluetooth V5.0 does not provide further
functionality to support BLE mesh networks beyond
those in Bluetooth V4.1. However, this new Bluetooth
specification offered many improvements in terms of
range, data rate, and advertising channel functionality
[9]. 2 Bluetooth Low Energy Overview In the last couple of years, several approaches have
been proposed to overcome the BLE network topology
limitations while maintaining the advantages of low-
energy and low-cost communications. The next section
presents different researchers' efforts in designing
solutions to implement a tree network topology and
enable BLE mesh networks. Fig. 3. BLE Star topology (adapted from [14]) Bluetooth
4.0
prevents
a
slave
node
from
participating in multiple connections simultaneously
with other masters. Thus, the star topology is the only
allowed network topology in a BLE network based on
the Bluetooth 4.0 specification [6]. The Bluetooth 4.1 specification was released in 2013. Bluetooth 4.1 has a fundamental change with regard to
BLE mesh network support; a slave node is allowed to
be simultaneously connected to more than one master
device, regardless of its Link Layer role. It can run
multiple Link Layer instances simultaneously without
limitation. In addition, one device can act as a slave node
at certain intervals and as a master node at others,
keeping parallel communications with its neighbors. Those specifications opened the door for creating
extended network topologies such as the mesh network
topology and tree network topology. However, the
architecture and mechanisms for the formation and
operation of a BLE mesh network and tree network are
not defined in the Bluetooth 4.1 specification [7]. 3 BLE Based Tree Topology Networks Tree topology is considered one of the simplest solutions
that can still be used to extend the coverage area of the
network. Any tree based network consists of three
different types of nodes: root node, intermediate nodes
and leaf nodes. Figure 5 illustrates an example of a tree
network topology consisting of different specified nodes. Where each node in any tree based network has different
characteristics [2]: • Root node: This node is the central device according
to the definition of the BLE specifications. It is the
main node in the tree network, and all other nodes
expand from this node. This node receives and
manages all the data in the network and relays them
to the external or other connected networks [2]. In the standard BLE star topology V4.1 specification,
a master can rule the timing and synchronization of all
the network nodes. The time is divided into units called
Connection Event (CE), where in each Connection Event
a different channel can be used. Some issues are raised
in the networks in which the slaves connect to multiple • Intermediate node: This node connects two or more
nodes located at higher and lower positions in the
hierarchy of a tree network. This node consists of 3 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 both a central device and a peripheral device which
are connected together internally [2]. proposed network is suitable for collecting data in a BLE
based Wireless Sensor Networks (WSN). • Leaf nodes: this node connects to only one node
higher up in the hierarchy of the tree network; it is
always set to be a peripheral device. It transmits the
measured data from the sensor node to the upper
node [2]. • Leaf nodes: this node connects to only one node
higher up in the hierarchy of the tree network; it is
always set to be a peripheral device. It transmits the
measured data from the sensor node to the upper
node [2]. other parameters like communication range, power
consumption and latency are tested using the proposed
approach in [2]. It found that the communication range
between two nodes using the designed hardware is
around 8 meters. 3 BLE Based Tree Topology Networks The node life based on power
consumption measurements were carried out for both
devices and which are powered by an individual battery
of 250 mAh during the performing of different activities
of BLE protocol such as advertising, scanning, and
empty connection events is 202 days for peripheral
devices and 60 days for central devices (connected to
three peripherals) [2]. Fig. 5. Tree Network Realized with BLE [2] Latency in the proposed network [2] can be referred
to as the time it takes for sensor data from any node to
reach the root node. There is no exact measurement for
this parameter because of the different node positions in
the tree hierarchy. The main drawback of the proposed
network in [2] is that, the network size is constrained by
the two byte variable which is used for nodes addressing. Fig. 5. Tree Network Realized with BLE [2] Another solution for constructing Tree based
networks was published in 2015 [3]; the work in paper
[3] proposes a method to implement the tree topology
network using the BLE devices. The proposed method
suggests switching the Central and Peripheral modeof
the BLE module in each network node according to a
time similar to the Time Division Duplex system, the
main feature of the proposed method in [3] is to extend
the communication coverage between the nodes at the
different layers of the tree topology. Nodes addressing is the main step in configuring any
tree network, where each node has a unique identity
number (Figure 6). This identity number is stored as a
variable "N-Bytes variable". Using node addressing and
to transmit data from the lower sensors to the central
root node, the data is passed wirelessly from lower
hierarchy nodes on up to higher hierarchy nodes and so
on towards the root node. The routing path is determined
by extracting the address pattern, where the relationship
between parent and child can be determined by the ID
number [3]. BLE Mode Switching using a Time Division Duplex
(TDD) system: In the tree topology, the data
communication between the nodes in the same layer
does not happen. Instead, all the communication is done
between the nodes in the adjacent layers, which are
parent or child nodes. However, if the nodes in the
adjacent layers are in the same mode (master/slave), the
communication between them is impossible. Fig. 8. Data Sending [3] The main drawback of the proposed network [3] is
that, the coverage area of the proposed network still
limited to node identifier size. In addition to, sending
data directly to the other nodes on the same level is
impossible task. BLEmesh is a Bounded flooding technique which
utilizes
the
broadcasting
capability
of
wireless
transmissions. Bounded flooding technique restricts the
process of rebroadcasting in intermediate nodes by only
allowing a subset of these to participate in broadcasting
operations [16]. BLEmesh protocol has been compared
with the other conventional routing method and the flood
method and the experiments approved that BLEmesh
increases overall energy efficiency of a network [16]. 3 BLE Based Tree Topology Networks TransceivingCycle [3] Fig. 7. TransceivingCycle [3]
Fig. 8. Data Sending [3] Fig. 9. The Bluetooth Low Energy mesh network solutions. 4.1 BLE Flooding Based Solutions: Flooding-based
solution
(which
uses
advertising
channels) is the simplest way to send data from node to
node within the network, since it requires neither any
routing protocol nor defining the relation (Parent and
Childs) between the different nodes. In the last few
years, many BLE flooding based solutions have been
proposed such as CSRmesh protocol [15], BLEmesh
protocol [16], Silvair solution [17], Estimote solution
[18] and Mindtree Bluetooth Mesh solutions [19]. Fig. 7. TransceivingCycle [3] Cambridge Silicon Radio (CSR) mesh protocol has
been released on Feb. 2014; CSR mesh is a flooding
mesh protocol that uses BLE’s non connectable
advertisements to send data to individual devices,
groups, sub-groups or all devices. CSRmesh protocol has
a simple mechanism of flooding mesh, scalable up to
64,000 devices or groups per network; CSRmesh’s setup
time is close to zero. In addition, it does not need to
maintain a routing table [15]. 3 BLE Based Tree Topology Networks The nodes
within a tree topology should be able to support both
operational
modes
(master/slave)
simultaneously. Especially, in case of the intermediate nodes which may
communicate with both the parent and child nodes while
maintaining the double connections to them [3]. Fig. 6. Tree network nodes Addressing [3] Switching the operation mode of the nodes in the
adjacent layers is synchronized by the synchronization
algorithm using the timing Information that is delivered
through Beacon packet. As shown in figure 7 the root
node and the intermediate nodes transmit Beacon to
notify the TX cycle begin. Since the transmitted Beacon
contains all the timing information to switch the
operating mode, the child node that receives this Beacon
can synchronize their switching time of operation mode
to their parent nodes [3]. Fig. 6. Tree network nodes Addressing [3] Depending on the size of the identity number
network levels can be determined. For example, if the
size of the stored identity number is 2 Bytes and If the
root node is considered to be level 0, then the tree
network can expand up to 5 levels and then the
maximum number of nodes in each level is 7 nodes. Thus the network size which is considered an important
parameter to determine the coverage area for WSN is
limited by the size of the variable which is used for
addressing [2]. Figure 8 shows the detailed algorithm to deliver data,
where each node in the Peripheral mode uses an
Advertisement packet to transfer data. If nodes in the
Peripheral mode at the Level 2 transmit advertisement
packets at a given time, the node in the Central mode in
the adjacent layer receives the data. When the data is
received, the receiving node checks the ID of data to
identify from where the data came from. If the data came The objective of the proposed approach in [2] is
creating a tree network with uniquely addressable nodes
to read different combinations of sensors, so the 4 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 from the child node, it prepares to retransmit to their
parent node. After a certain time period, Transceiving
cycle, if the operation mode of the node at Level 1 is
changed to the Peripheral mode, then it retransmits data
from their child to their parent. Fig. 9. The Bluetooth Low Energy mesh network solutions. Fig. 7. 4 BLE Based Mesh Topology Networks A wireless mesh network is a network topology in which
each smart device (e.g., Smartphone, tablet, wearable,
and laptop) can transfer the data for the network. Some
or all the devices in the network cooperate in sharing the
data in the network. A mesh networking solution can be
used to overcome the limitations of short range and
restricted BLE star topology. To implement a mesh
network topology, devices communicate locally to form
Pico-nets comprising of devices in master and slave
roles. The Pico-nets are connected via common devices
to form a scatter-net [2]. A mesh networks use flooding
and routing techniques for relaying the data (Figure 9). The main advantage of using the flooding techniques
is its simplicity, in addition to; it does not require any
routing protocol, which increases memory consumption
due to routing tables and their maintenance, and
therefore flooding techniques avoiding delay due to
route creation. Flooding technique is very noisy
technique where it consumes an inefficient number of
messages to achieve end-to-end communication between
two devices [4]. Table 1 presents a set of BLE mesh network
solutions which have been proposed in the last few years
and its mesh paradigm and intended applications. We
will discuss some of them in this paper and present the
main advantages and disadvantage of each one. 5 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 Table 1. Summary of BLE mesh network solutions and its intended applications (adapted from [4])
Proposal
Name
Year
Mesh Paradigm
Application
[15]
CSRmesh
2014
Flooding
Lighting, HVAC, switch
manager, physical access
authorization, smart home
[16]
BLEmesh
2015
Flooding
Multi-purpose
[17]
Silvair solution
2016
Flooding
Smart lighting
[18]
Estimote solution
2016
Flooding
Beacons for motion detection,
guiding
[19]
Mindtree
Bluetooth Mesh
2016
Flooding
Multi-purpose
[13]
RT-BLE
2015
Routing
, Smart office and home
automation
[20]
BLE-MESH.com
2014
Routing
Smart city and home automation
[21]
NXP
2015
Routing
Smart home, smart city, lighting
[22]
IlumiMeshTek
2016
Flooding/Routing
Smart home, remote control,
health monitor
[23]
Wirepas and Nordic
Semiconductor
2014
N/A
Smart home, smart city, smart
door lock, lighting, sport, fitness,
health, virtual reality
[24]
Cypress
2016
N/A
Health, fitness, home appliances,
toys
[25]
Telink Semiconductor
2016
N/A
Lighting, home automation, smart
office, smart cities, remote
controls, human interface devices,
wearable devices Table 1. 4.2 BLE Routing Based Solutions: Routing is the process of transferring the packets from
one network node to another one. Routing-based solution
is one of the most important issues in studying
communication between nodes within any BLE network. It uses advertising channels to send routing protocol
messages but use data channels for data transmission
[28, 29]. Routing-based solutions for BLE networks can
be divided in two parts, static routing based solutions
and dynamic routing based solutions p
p
pp
The RT-BLE protocol proposed in paper [13]
proposes a solution for Connection Events CEs overlap
problem and enables the creation of meshed networks. The main idea to achieve this result is to create multiple
networks (here called sub-networks), each one is
coordinated by a master. The sub-networks can share
one or multiple slave that acts as “bridges” between the
sub-networks (Figure.10). Increasing network scalability, solving Connection
Event overlap problem and finding the shortest route
between nodes to maintain network energy consumption
and speed up data transmission are the main challenges
of routing-based solutions. The routing technique
consumes lesser power than flooding technique. One of
the main drawbacks of routing-based solutions is
creating routing tables for each node in the network
which require greater memory [4]. Fig. 10. Example of RT-BLE network topology [13]. 4 BLE Based Mesh Topology Networks Summary of BLE mesh network solutions and its intended applications (adapted from [4]) Bluetooth 4.1 to increase the BLE network scalability
while providing real-time support for data packets. The
proposed approach in [13] is considered a clear example
of the static routing based solution. The proposed
protocol uses a Time Division Multiple Access (TDMA)
approach with an optimized transmission allocation that
provides data packets with real time support. 4.2.2 Dynamic Routing-Based Solutions: The major contributions of the work in [30] are as
follows: The proposed BMN architecture does not
require any modification in the existing BLE stack and it
developed an algorithm using Direct Acyclic Graph
(DAG) in order to allow all nodes in the network to have
nearly equal hop count distances from the root. In
addition to, it uses the weight balancing technique to
reduce the energy consumption and delay and increase
the throughput. Dynamic routing allows the routers to learn and adapt
automatically to network changes and even system
failures. Dynamic routing is preferred over static routing
in solving the problem of link/node failure. The
following paragraphs present one of the proposed
solutions to enable BLE networks using dynamic routing
techniques. The work in [30] proposes a mesh network for
mobile
(non-static)
devices
using
BLE
version
4.1specifications, where a BLE device can be a master in
one network and can act as a slave in another network,
thus allowing the possibility for the formation of a mesh
network. It suggests a method for developing a prototype
of the BLE mesh network (BMN) using the Android
operating system. The proposed BMN is suitable for mobile or static
BLE devices. It also assumes that the any BLE device
can act as a root node. In a DAG, a network is not
suitable if the distance between the root and leaf nodes is
high. The technique proposes a procedure for balancing
the tree with reference to the root called weight
balancing procedure. The proposed approach in [30] uses many messages
for constructing the BMN formation as shown in figure. 11. When the system is switched on, all devices start
broadcasting DAG information Solicitation (DIS)
messages over the BLE advertisement channels for
collecting the Directed Acyclic Graph information
(DAG). Next, the user selects any node as a root node,
then the root node starts broadcasting the DAG
information Object (DIO) messages as a response
message to a DIS request received. The DIO message of
a node has the rank of the node which contains some
information about this node such as the residual energy,
degree, and hop counts of the node. When a node
receives DIO messages and if it is not part of the BMN,
the node waits for some time for collecting more DIO
messages and selects a node which has the lowest rank
as a parent. 4.2.2 Dynamic Routing-Based Solutions: The main advantages of the proposed approach in
[30] are that, the proposed BMN does not require any
modification in the existing Android operating system
and BLE stack. In addition to, nodes in the proposed
mesh network are able to use alternative parent to form
mesh network and use the shortest routing path for data
transfer. The main drawback of the proposed network is
that, root node is assigned statically by user besides it is
not a complete mesh network structure. 4.2.1 Static Routing-Based Solutions: Static routing is known as non-adaptive routing because
when sending data from node to another one within the
network, the router will always use a static path which
has been predefined by the network administrator. The
following
few
paragraphs
will
present
different
researchers efforts in constructing solutions to enable
BLE networks using static routing techniques. Fig. 10. Example of RT-BLE network topology [13]. Two rules must be followed in configuring the
proposed network to avoid Connection Event Overlap on
bridge nodes: 1)
A node not acting as a master can establish a
connection with up to two masters. The work in [13] presents a real-time protocol for
industrial wireless mesh networks that is designed over 6 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 Fig. 11. BMN formation [30] 2)
A node acting as a master can establish a
connection with at most another master (B). In this
connection, the node A shall play the slave role. 2)
A node acting as a master can establish a
connection with at most another master (B). In this
connection, the node A shall play the slave role. To avoid CE overlap and Enable a slave node to be
on the right sub-network at the right time, the
Connection Intervals “CI” of the different sub-networks
have to be the same, by calculating the connection
interval for each sub-network. Then the CI for any sub-
network (called CI*) is chosen equal to the maximum of
the CImin values among all the sub-networks. One of the main drawbacks of the proposed approach
in [13] is that, the network is configured offline (no
dynamic configuration for this network). However, the
proposed solution is considered one of the best solutions
for construction BLE mesh network and solving the CEs
overlapping problem up till now. Fig. 11. BMN formation [30] 5 Star – Mesh Hybird Flooding Based
Topology The proposed approach uses hybrid network topology
which is one of the popular network topologies. The
proposed approach tries to merge the default BLE star
topology with the flooding based mesh topology to
create a new hybrid network topology, which can benefit
from the advantages of each topology and at the same
time, can reduce the limitations and the disadvantages of
each one. Figure 12 presents the layout of the proposed
hybrid network. 7 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 , 0
(2019)
MATEC Web of Conferences 292
2003 https://doi.org/10.1051/matecconf/201929202003 Fig. 12. Illustration of the proposed hybrid network topology
Fig. 13. Central and Peripheral devices in IoT-Based BLE
network topology [34]
A
b
i
I T b
d
t
i
l d
f
i Fig. 12. Illustration of the proposed hybrid network topology Fig. 13. Central and Peripheral devices in IoT-Based BLE
network topology [34] Fig. 13. Central and Peripheral devices in IoT-Based BLE
network topology [34] Fig. 12. Illustration of the proposed hybrid network topology A basic IoT-based system includes four main
modules:
Sensing
(capturing
physical
variables),
processing
(embedded
systems
interfacing
and
processing), Data Communication (connectivity), and
Data Analysis (getting insights). Many fields in our life
can benefit from using IoT technology, such as, health,
home
automation,
logistics,
military,
agriculture,
industry and others [35]. Location-based services (LBS)
are one of the most successful fields to use IoT
technology. Indoor positioning systems using IoT
technology can solve the limitation of the other similar
technologies such as, Global Navigation Satellite
System (GNSS)and Radio Frequency Identification
(RFID) technologies [36,37],where GPS stops working
on indoor environments while RFID does not have
enough bandwidth for large-scale LBS[35]. As illustrated in the figure 12, each subnetwork is
based on the default star topology (Master and slave
nodes), to connect each sub network and transform data
between them, we propose a simple flooding based
mesh topology which does not require any routing
protocol, or relationship (Master and slave) between the
different master nodes therefore there is no central
device in the main flooding based network. Master nodes are responsible for sending or receive
data to their slave nodes if the message is related to their
subnetwork “Local Message” and sending or receiving
data to other master nodes in broadcasting operations if
the message is related to another subnetwork group
”Global Message”. 7 Conclusion & Future work In this paper, different networking solutions for
connecting Bluetooth Low Energy devices which are
embedded in wireless sensor networks and mobile
devices have been discussed. The objective was to
present and compare a part of the researchers' efforts in
designing and building tree network topology and mesh
network topology based on Bluetooth 4.0 and Bluetooth
4.1
technologies. The
original
design
of
BLE
specifications is limited to star topology networking,
which limit network coverage and scalability. According
to the researchers solutions, tree and mesh topologies
can be used for the purpose of increasing the Bluetooth
Low Energy network range extension. It is expected that
the proposed approach in this paper consumes less power
and extend the network coverage without switching the
operation mode of the BLE nodes or using any routing
protocols. Finally, connecting BLE devices to the
internet opens new doors to the IoT- based BLE devices
toward new application areas. The proposed hybrid network is very reliable,
network expansion and modification can be done easily,
easy to detect, remove and maintenance faults to
improve network performance but it has a complex
design and very expensive. Security is a major problem
because master nodes have access to all other traffics. 5 Star – Mesh Hybird Flooding Based
Topology Master nodes can detect the type of
the incoming or outcoming message easily by checking
the network packet header of the message. Nodes in
different subnetworks can be in sleep modes if there is
no internal or external messages. 8 References 16. Kim, H.-S., Lee, J., Jang, J.W. BLEmesh: “A
Wireless Mesh Network Protocol for Bluetooth Low
Energy Devices.” In Proceedings of the 3rd
International Conference on (FiCloud), Rome, Italy,
24–26 August (2015) 1. Habbal,
Mohamed. "Bluetooth
low
energy–
assessment
within
a
competing
wireless
world." Proceedings of the Wireless Congress
(2012) 17. Silvair. Silvair Bluetooth Mesh Stack Dedicated for
Lighting. Available
online:
https://www.silvair.com/#platform (accessed on 15
May 2018) 2. Maharjan, Bishnu Kumar, Ulf Witkowski, and Reza
Zandian. "Tree network based on Bluetooth 4.0 for
wireless sensor network applications.", (EDERC),
6th European Embedded Design in. IEEE (2014) 18. Estimote. Estimote Homepage. Available online:
http://estimote.com/?gclid=
COKa0efjgNECFdW4GwodNccJeg (accessed on 12
March 2018) 3. Kim, Joonkyo, Shin-kwang Kang, and Jaehyun
Park. "Bluetooth-based tree topology network for
wireless industrial applications." (ICCAS), 15th
International Conference on. IEEE (2015) 19. Mindtree Mesh over Bluetooth Low Energy. Available
online:
https://www.mindtree.com/solutions/bluetooth-
technology/blemesh (accessed on 20 April 2018) 4. Darroudi, Seyed Mahdi, and Carles Gomez. "Bluetooth
low
energy
mesh
networks:
A
survey." Sensors 17.7 (2017) 5. Shahzad, Khurram, and Bengt Oelmann. "A
comparative study of in-sensor processing vs. raw
data transmission using ZigBee, BLE and Wi-Fi for
data intensive monitoring applications." In Wireless
Communications
Systems
(ISWCS),
11th
International Symposium on, pp. 519-524. IEEE
(2014) 20. BLE-mesh.com. Available
online:
https://www.linkedin.com/company-
beta/9264364/?pathWildcard=9264364 (accessed on
20 March 2018) 21. NXP. NXP Bluetooth Smart Mesh. Available
online:
https://community.nxp.com/docs/DOC-
329553 (accessed on 18 March 2018) 6. Gomez, C., Oller, J., Paradells, J. “Overview and
Evaluation of Bluetooth Low Energy: An Emerging
Low-PowerWireless Technology.” Sensors (2012) 22. MESHTEK. Ilumi
MESHTEK
Homepage. Available
online:
https://ilumisolutions.com/
(accessed on 14 March 2018) 7. Bluetooth SIG. Specification of the Bluetooth
System, Covered Core Package; Version 4.1;
Bluetooth Special Interest Group: Kirkland, WA,
USA (2013) 23. Nordic. Mesh Networking Platform Uses Nordic
Semiconductor. Available
online:
https://www.nordicsemi.com/eng/News/News-
releases/Product-Related-News/Mesh-
networkingplatform-uses-Nordic-Semiconductor-
nRF51822-SoCs-to-target-Internet-of-Things-
applications (accessed on 17 March 2018) 8. Bluetooth SIG. Specification of the Bluetooth
System, Covered Core Package; Version 4.2;
Bluetooth Special Interest Group: Kirkland, WA,
USA (2014) 24. CYPRESS. Cypress Unveils New Bluetooth®Low
Energy Modules and Bluetooth Smart Mesh Demo
at
CES. Available
online:
http://www.cypress.com/news/cypress-unveils-new-
bluetooth-low-energy-modulesand-bluetooth-smart-
mesh-demo-ces (accessed on 13 March 2018) 9. Bluetooth SIG. Specification of the Bluetooth
System, Covered Core Package; Version 5;
Bluetooth Special Interest Group: Kirkland,WA,
USA (2016) 10. Mikhaylov, Konstantin. "Simulation of network-
level performance for Bluetooth Low Energy." IEEE
25th
Annual
International
Symposium
on
(PIMRC).IEEE (2014) 25. WordPress.com. Telink
Semiconductor
(IoT
Silicon),
Tag:BLE
mesh. Available
online:
https://telinkiotsilicon. 6 IoT-based Systems using Bluetooth
Low Energy The next wave driving the expansion of the Internet will
come from connecting Bluetooth Low Energy devices to
the Internet. To connect those devices to the internet, it
must use IPv6 protocols, where the capability to run
IPv6 over BLE devices opens new doors to the IoT
devices and BLE devices toward new application areas
[31]. The Internet of Things (IoT) is a network of physical
devices
embedded
with
sensors,
actuators
and
electronics which enables things (cars with built-in
sensors, heart monitoring implants, cameras streaming
live feeds of wild animals in coastal waters or others
(Figure. 13)) To connect and exchange data[32]. The IoT
allows objects to be sensed, measured, or controlled
remotely across existing network infrastructure [33]. Future work could be done to create a tree and a
mesh BLE network topology and study the behavior of
each one. Range coverage and power consumption are
two important factors must be studied using different
topologies and diverse environments in building BLE
networks. Intelligent routing techniques and connecting
BLE networks to IoT devices will be the key to many
future researches. In addition, Security is currently a big 8 https://doi.org/10.1051/matecconf/201929202003 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 challenge in constructing IoT-based systems using
Bluetooth Low Energy technology. 15. CSRmesh. CSRmesh® Development Kit. Available
online:
https://www.qualcomm.com/products/csrmesh-
development-kit (accessed on 13March 2018) 8 References wordpress.com/tag/ble-mesh/
(accessed on 14 March 2018) 11. Bluetooth Low Energy, Cypress documentation
(2014) 26. S. Guo, L. He, Y. Gu, B, Jiang, and T. He,
“Opportunistic
Flooding
in
Low-Duty-Cycle
Wireless Sensor Networks with Unreliable Links,”
IEEE Transactions on Computer, vol. 63, no. 11. (2014, Nov) 12. Bluetooth Low Energy Deep Dive, LPRF San
Diego, TEXAS INSTRUMENTS (2011) 13. Patti, Gaetano, Luca Leonardi, and Lucia Lo Bello. "A Bluetooth low energy real-time protocol for
industrial wireless mesh networks." In Industrial
Electronics
Society,
IECON
42nd
Annual
Conference of the IEEE, pp. 4627-4632. IEEE
(2016) 27. E. Ghadimi, O. Landsiedel, P. Soldati, S. Duquennoy,
and
M.Johansson,
“Opportunistic
Routing in Low Duty-Cycle Wireless Sensor
Networks,” ACM Transactions on Sensor Networks,
vol. 10, no. 4 (2014, June) 14. Haatanen, Marko. "Self-organizing routing protocol
for Bluetooth Low Energy sensor networks" (2012) 9 , 0
(2019)
MATEC Web of Conferences 292
CSCC 2019
2003 https://doi.org/10.1051/matecconf/201929202003 33. "Internet of Things: Science Fiction or Business
Fact?" (PDF)(accessed on 12April 2018) 28. Lee, T., Lee, M.-S., Kim, H.-S. “A Synergistic
Architecture for RPL over BLE.” In Proceedings of
the 13th Annual IEEE International Conference on
(SECON), London, UK, 27–30 (2016, June) 34. Gaitatzis, Tony, Andrew Ward, and Linda
Manning. "Bluetooth Low Energy: A Technical
Primer Your Guide to the Magic Behind the Internet
of Things." (2017) 29. Reddy, Y.K., Juturu, P., Gupta, H.P., Serikar, P.R.,
Sirur, S., Barak, S., Kimy, B. Demo Abstract: “A
Connection Oriented Mesh Network for Mobile
Devices
using
Bluetooth
Low
Energy.”
In
Proceedings of the 13th ACM Conference on
Embedded Networked Sensor Systems, Seoul,
Korea, 1–4 (2015, November) 35. Terán, M., Aranda, J., Carrillo, H., Mendez, D., &
Parra, C. “IoT-based system for indoor location
using bluetooth low energy.” IEEE Colombian
Conference on (COLCOM), (pp. 1-6). IEEE (2017,
August). 30. Sirur, Shruthi, et al. "A mesh network for mobile
devices using Bluetooth low energy." SENSORS,
2015 IEEE. IEEE (2015) 36. Mercer, D. "Connected world the internet of things
and connected devices in 2020." Strategy Analytics
(2014, Oct) 31. Nieminen, Johanna, et al. "Networking solutions for
connecting Bluetooth low energy enabled machines
to the internet of things." IEEE network 28.6 (2014) 37. Macaulay, James, Lauren Buckalew, and Gina
Chung. "Internet of Things in Logistics: A
collaborative report by DHL and Cisco on
implications and use cases for the logistics
industry,”." DHL Trend Research (2015) 32. Brown,
Eric
"Who
Needs
the
Internet
of
Things?". 8 References Linux.com (accessed on 12April 2018) 10
|
https://openalex.org/W2181142494
|
https://heritagesciencejournal.springeropen.com/counter/pdf/10.1186/s40494-015-0064-z
|
English
| null |
Chemistry for cultural heritage
|
Heritage science
| 2,015
|
cc-by
| 1,166
|
Chemistry for cultural heritage Rita Wiesinger and Manfred Schreiner* After successful conferences in Ravenna/Italy 2010 and
Istanbul/Turkey 2012 this time Vienna gathered 170 par-
ticipants, renowned scientists from 17 different countries
from Europe, Asia, Australia, North and South America to
discuss the newest findings in the field of heritage (Fig. 1). Scientific research on our cultural heritage, both for the
study of its material aspects and for designing and con-
trolling conservation and preservation strategies, faces a
diversity of changes due to the complexity and intrinsic
value of the materials and objects. Furthermore, envi-
ronmental conditions all over the world have inflicted
increasing damage or at least deterioration of surfaces
meant to be created for eternity. By conventional tech-
niques we are able to ameliorate most of the dangers, but
new approaches of high technology must be explored to
preserve the heritage of human civilization as well as art
works of former generations. ii
In 46 oral and 71 poster presentations 7 topics focus-
ing on new materials and methods, stability of traditional
and modern materials, chemometrics, nano and bio-
technology and chemical imaging in the field of art and
cultural heritage were discussed. There were also more
than 60 graduate students attending the conference.h The meeting opened with an address by representa-
tives of the organizing and scientific committee: Prof. Dr. Rocco Mazzeo, Chairman of ChemCH in EuCheMS,
Prof. Dr. Herbert Ipser, President of GÖCH—Gesell
schaft Österreichischer Chemiker, Prof. Dr. Ulrich
Schubert, President of EuCheMS, and the rector of the
Academy, Mag. Eva Blimlinger, followed by remarks from
the conference chair, Prof. Dr. Manfred Schreiner. Since the very beginning of investigation, preservation,
and conservation-restoration of our cultural heritage,
chemistry has been playing an important role in docu-
mentation, studying ancient production of materials and
art technology, understanding of degradation processes
and present state of works of art, as well as developing and
evaluating new materials and methods for interventions
of both, movable and immovable art works. In the last
decades the booming developments in chemical science,
especially in analytical, organic or environmental chemis-
try, but also in the fields of electronics and computer sci-
ences has brought us new instruments and methods of
great perfection, which present new horizons in the ana
lysis, diagnosis and protection of art and cultural objects.h The scientific program started with the first session,
opened by invited speaker, Prof. © 2015 Wiesinger and Schreiner. This article is distributed under the terms of the Creative Commons Attribution 4.0 International
License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any
medium, provided you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons
license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver (http://creativecommons.
org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Wiesinger and Schreiner Herit Sci (2015) 3:35
DOI 10.1186/s40494-015-0064-z Wiesinger and Schreiner Herit Sci (2015) 3:35
DOI 10.1186/s40494-015-0064-z *Correspondence: m.schreiner@akbild.ac.at
Institute of Science and Technology in Art, Academy of Fine Arts Vienna,
Schillerplatz 3, 1010 Vienna, Austria Chemistry for cultural heritage Maria Perla Colombini
(University of Pisa and Institute for the Conservation
and Promotion of Cultural Heritage—National Research
Council, Italy) pointing out the challenges and possibili-
ties of organic analysis in art and archeology. The presen-
tations of this session clustered around several challenges:
non-destructive investigation of materials and painting
techniques, new combinations of analytical techniques
for complementary material identification, to modelling
of indoor environments and to better understand degra-
dation effects. The second plenary lecture in this session,
given by Dr. Francesca Casadio (The Art Institute of Chi-
cago) opened the discussions on new techniques for the
identification of traditional and modern organic materials. The 3rd international congress “Chemistry for Cultural
Heritage—ChemCH-2014” was held from July 1–5, 2014
in the Aula of the Academy of Fine Arts Vienna, Austria. ChemCH is part of EuCheMS (European Association of
Chemical and Molecular Sciences), which enforces the
interdisciplinary aspects of natural sciences (chemistry,
physics, microbiology, etc.), the arts (art history, archeol-
ogy, ethnology), and the conservation and preservation of
our cultural heritage. The conference has been organized
by the Institute of Science and Technology in Art, under
the supervision of Univ.-Prof. Dr. Manfred Schreiner and
his team. i
Due to the innovation and improvement of many
analytical techniques in all fields of research chemical
imaging has found its way to be a highly valuable tool to
investigate cultural heritage objects, which was also one
of the key topics of this conference. Invited speaker, Prof. Koen Janssens (University of Antwerp, Belgium) opened
this session presenting X-ray based imaging on paintings
of the artist Vincent Van Gogh. Other speakers further Page 2 of 2 Wiesinger and Schreiner Herit Sci (2015) 3:35 Fig. 1 The conference participants of the ChemCH-2014; photo: E. Hammerschmid (ISTA) Fig. 1 The conference participants of the ChemCH-2014; photo: E. Hammerschmid (ISTA) explored imaging techniques and demonstrated the sig-
nificant advances being made in this field.h authenticity studies of beautiful art objects and ranged
from paintings to statues and codices. The contributions
of the session could demonstrate the importance of sci-
entific investigations by applying complimentary analyti-
cal techniques and of the interdisciplinary discussion for
the syntagmatic determination of materials from para-
digmatic data. ii
The second day of the conference focused on material
degradation, with a plenary lecture by Prof. Matija Strylic
(University College London) enlightening material deg-
radation through the lens of heritage stakeholders, fol-
lowed by interesting degradation studies of parchment,
metals, glass, pigments, rubber and wood. The afternoon
session on chemometrics was opened by invited speaker
Prof. Kurt Varmuza (Vienna University of Technology)
who showed the importance of mathematical and statisti-
cal tools for the extraction of relevant information from
chemical data obtained. Overall this successful meeting was a highly fruitful
knowledge exchange on traditional and contemporary
issues, such as long-lasting protection of cultural herit-
age objects, material stability of traditional and modern
materials, influence of air pollution and non-destructive
analyses for the documentation of art objects, to com-
pletely new and innovative ideas and approaches. Fur-
thermore, the conference enabled international and
multidisciplinary networking opportunities, especially
for young scientists in this field. The last day of the conference was dedicated to new
materials and methods for cultural heritage, and was
opened by an impressive plenary lecture of Prof. Anto-
nio Candeias (University of Evora and HERCULES
Laboratories, Portugal) who raised awareness of the
potential of biotechnology to investigate cultural heri
tage objects. Several speakers in this session outlined
their groups’ efforts from nanoparticles to protective
coatings on different heritage materials. The last session
of the conference opened by Prof. Bruno Brunetti (Uni-
versity of Perugia, Italy) was dedicated to technical and i
This special issue gathers contributions from oral and
poster presentations during the ChemCH- 2014 confer-
ence. For the support and the publication of the themed
issue the organization team would like to thank the edi-
tor and his team from Heritage Science. For more information: http://www.ntk.akbild.ac.at/
CHEMCH2014
|
https://openalex.org/W4389727228
|
https://ebooks.uminho.pt/index.php/uminho/catalog/download/151/180/2966?inline=1
|
Portuguese
| null |
Teoria da Justiça de John Rawls
|
UMinho Editora eBooks
| 2,023
|
cc-by
| 7,358
|
TEORIA DA JUSTIÇA
DE JOHN RAWLS Luís Couto Gonçalves1
https://doi.org/10.21814/uminho.ed.151.3 3 rawls, Uma Teoria da Justiça (tradução de Carlos Pinto Correia), 3ª ed., Lisboa, Presença, 2013 (título original de
1971) e ainda, rawls, Justice as Fairness – A Restatement (ed. Erin Kelly), London, The Belknap Press of Harvard
University Press, 2001. A obra, como se alcança, teve a sua primeira edição em 1971, sofreu uma 2ª revisão na edição
alemã de 1975 e ainda uma reformulação em 2001.
4 joão cardoso rosas, Concepções da Justiça, Lisboa, Edições 70, 2012, p. 21 e joão cardoso rosas,
«Liberalismo igualitário», em AA.VV., Manual de Filosofia Política (org. João Cardoso Rosas), 2.ª ed., Coimbra, 2 Professor estadunidense, considerado um dos maiores filósofos políticos do século XX. 1 Professor da Escola de Direito da Universidade do Minho. 4 joão cardoso rosas, Concepções da Justiça, Lisboa, Edições 70, 2012, p. 21 e joão cardoso rosas,
«Liberalismo igualitário», em AA.VV., Manual de Filosofia Política (org. João Cardoso Rosas), 2.ª ed., Coimbra, Professor da Escola de Direito da Universidade do Minho.
2 Professor estadunidense, considerado um dos maiores filósofos políticos do século XX. rawls, Uma Teoria da Justiça (tradução de Carlos Pinto Correia), 3ª ed., Lisboa, Presença, 2013 (título origina
1971) e ainda, rawls, Justice as Fairness – A Restatement (ed. Erin Kelly), London, The Belknap Press of Harv
University Press, 2001. A obra, como se alcança, teve a sua primeira edição em 1971, sofreu uma 2ª revisão na ed
alemã de 1975 e ainda uma reformulação em 2001. University Press, 2001. A obra, como se alcança, teve a sua primeira edição em 1971, sofreu uma 2ª revisão na edição
alemã de 1975 e ainda uma reformulação em 2001.
4 joão cardoso rosas, Concepções da Justiça, Lisboa, Edições 70, 2012, p. 21 e joão cardoso rosas,
«Liberalismo igualitário», em AA.VV., Manual de Filosofia Política (org. João Cardoso Rosas), 2.ª ed., Coimbra, Introdução Na filosofia política contemporânea, a questão da justiça assumiu uma
relevância assinalável a partir do contributo de John Rawls2 (1921‑2002) de
vido, sobretudo, à sua obra, mais marcante, «Uma Teoria da Justiça»3, na
qual defende uma conceção liberal igualitária, apoiada na primazia da virtude
social da justiça e no respeito por direitos individuais.i «O paradigma liberal igualitário de justiça pode ser definido como
a perspetiva que defende a igualdade das liberdades fundamentais – dos
direitos‑liberdades, civis e políticos –, juntamente com a importância da
igualdade de oportunidades e de uma distribuição equitativa em termos
económicos»4. 37 TEORIA DA JUSTIÇA DE JOHN RAWLS Rawls teve como objetivo, expresso, desenvolver uma teoria neocon
tratualista elevada a «uma ordem superior de abstração à teoria tradicional
do contrato social», representada por Locke5, Rousseau6 e Kant7, e procurar
uma conceção liberal deontológica como alternativa, em especial, ao utili
tarismo dominante8, apoiado em autores como Hume9, Bentham10 e Mill11. Para Rawls «a justiça é a primeira virtude das instituições sociais,
como a verdade o é para os sistemas de pensamento»12. i O autor afirma a primazia da justiça e do respeito por direitos indivi
duais. «Para o liberalismo igualitário estes valores não são negociáveis em
função de quaisquer consequências antecipáveis que permitam a maximização
do bem‑estar agregado»13. Numa proposta dissonante com o paradigma utilitarista14 afirma que
«cada pessoa beneficia de uma individualidade que decorre da justiça, a qual 7 Por todos, ver raymond vancourt, Kant (trad. de António Pinto Ribeiro), Edições 70, Lisboa, 1995. Entre
as suas obras, destacamos Metaphysik der Sitten, de 1797, pela abordagem de matérias com maior aproximação
jurídica, de um modo especial na Parte I, relativa à «Teoria do Direito». Esta obra está disponível em português, A
Metafísica dos Costumes (tradução de José Lamego), 3.ª ed., Fundação Calouste Gulbenkian, Lisboa 2017. Immanuel
Kant, apesar de aceitar a ideia de contrato social, defendia que este entendimento resultava de ato devido (imperativo
categórico) e não, como Locke e Rousseau, do interesse individual de cada pessoa na passagem do «estado natureza»
ao «estado de sociedade». 8 rawls, Uma Teoria da Justiça cit. «Prefácio», p. 19. 9 David Hume foi um autor utilitarista empirista e não normativista, como Jeremy Bentham ou John Stuart Mill. Sobre Hume, cfr. michell malherbe, La Philosophie Empiriste de David Hume, J. Vrin ed., Paris, 1976. 9 David Hume foi um autor utilitarista empirista e não normativista, como Jeremy Bentham ou John Stuart Mill. Sobre Hume, cfr. michell malherbe, La Philosophie Empiriste de David Hume, J. Vrin ed., Paris, 1976. 10 Jeremy Bentham é considerado o fundador do utilitarismo. A sua máxima é a de que «todas as ações humanas
devem ser orientadas para alcançar a maior felicidade do maior número». A sua principal obra é A Fragment on
Government (1776), Cambridge University Press, UK, 1990. 10 Jeremy Bentham é considerado o fundador do utilitarismo. A sua máxima é a de que «todas as ações humanas
devem ser orientadas para alcançar a maior felicidade do maior número». Almedina, 2021, pp. 35‑36. 14 O utilitarismo, na formulação mais simples, sustenta que o ato ou a política moralmente correta é aquela que
gera a maior felicidade entre os membros de uma sociedade. Sobre utilitarismo, ver, entre outros, jeremy bentham,
A Fragment on Government cit.; john stuart mill, Utilitarismo (1863), 1.ª ed. Lisboa, Gradiva, 2005 (trad. Pedro 5 Sobre o pensamento deste autor cfr. david lloyd thomas, Locke on Government, Routeledge, Londres, 1995,
no qual aborda o II Tratado da principal obra política de John Locke, Two Treatises on Civil Government, de 1689,
dedicado à origem, extensão e fim do poder político. 6 Para uma perspetiva do contributo do autor, vide, por todos, robert derathé, Jean-Jacques Rousseau e la Science
Politique de son Temps, J. Vrin ed., Paris, 1979. A obra de Rosseau, Du Contrat Social, de 1762, é a mais emblemática
e controversa. A ele se deve o legado da ideia de contrato social, que ainda hoje perdura no pensamento político
ocidental, e a tensão entre os princípios estruturantes da liberdade e da igualdade na sua proposta do modelo de
regime político. 3 joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política cit., p. 35. 5 Sobre o pensamento deste autor cfr. david lloyd thomas, Locke on Government, Routeledge, Londres, 1995,
no qual aborda o II Tratado da principal obra política de John Locke, Two Treatises on Civil Government, de 1689,
dedicado à origem, extensão e fim do poder político.
6 Para uma perspetiva do contributo do autor, vide, por todos, robert derathé, Jean-Jacques Rousseau e la Science
Politique de son Temps, J. Vrin ed., Paris, 1979. A obra de Rosseau, Du Contrat Social, de 1762, é a mais emblemática
e controversa. A ele se deve o legado da ideia de contrato social, que ainda hoje perdura no pensamento político
ocidental, e a tensão entre os princípios estruturantes da liberdade e da igualdade na sua proposta do modelo de
regime político. Almedina, 2021, pp. 35‑36.
5 Sobre o pensamento deste autor cfr. david lloyd thomas, Locke on Government, Routeledge, Londres, 1995,
no qual aborda o II Tratado da principal obra política de John Locke, Two Treatises on Civil Government, de 1689,
dedicado à origem, extensão e fim do poder político.
6 Para uma perspetiva do contributo do autor, vide, por todos, robert derathé, Jean-Jacques Rousseau e la Science
Politique de son Temps, J. Vrin ed., Paris, 1979. A obra de Rosseau, Du Contrat Social, de 1762, é a mais emblemática
e controversa. A ele se deve o legado da ideia de contrato social, que ainda hoje perdura no pensamento político
ocidental, e a tensão entre os princípios estruturantes da liberdade e da igualdade na sua proposta do modelo de
regime político.
7 Por todos, ver raymond vancourt, Kant (trad. de António Pinto Ribeiro), Edições 70, Lisboa, 1995. Entre
as suas obras, destacamos Metaphysik der Sitten, de 1797, pela abordagem de matérias com maior aproximação
jurídica, de um modo especial na Parte I, relativa à «Teoria do Direito». Esta obra está disponível em português, A
Metafísica dos Costumes (tradução de José Lamego), 3.ª ed., Fundação Calouste Gulbenkian, Lisboa 2017. Immanuel
Kant, apesar de aceitar a ideia de contrato social, defendia que este entendimento resultava de ato devido (imperativo
categórico) e não, como Locke e Rousseau, do interesse individual de cada pessoa na passagem do «estado natureza»
ao «estado de sociedade».
8 rawls, Uma Teoria da Justiça cit. «Prefácio», p. 19.
9 David Hume foi um autor utilitarista empirista e não normativista, como Jeremy Bentham ou John Stuart Mill.
Sobre Hume, cfr. michell malherbe, La Philosophie Empiriste de David Hume, J. Vrin ed., Paris, 1976.
10 Jeremy Bentham é considerado o fundador do utilitarismo. A sua máxima é a de que «todas as ações humanas
devem ser orientadas para alcançar a maior felicidade do maior número». A sua principal obra é A Fragment on
Government (1776), Cambridge University Press, UK, 1990.
11 John Stuart Mill foi um seguidor da corrente utilitarista de Bentham, sendo a sua publicação mais reputada
Principles of Political Economy (1848), Oxford University Press, New York, 1994. Para uma visão do pensamento
do autor, josé garcia añón, John Stuart Mill: Justicia y Derecho, McGraw‑Hill, Madrid, 1997.
12 rawls, Uma Teoria da Justiça cit., p. 27.
13 joão cardoso rosas, «Liberalismo igualitário», em AA.VV., Manual de Filosofia Política cit., p. 35.
14 O utilitarismo, na formulação mais simples, sustenta que o ato ou a política moralmente correta é aquela que
gera a maior felicidade entre os membros de uma sociedade. Sobre utilitarismo, ver, entre outros, jeremy bentham,
A Fragment on Government cit.; john stuart mill, Utilitarismo (1863), 1.ª ed. Lisboa, Gradiva, 2005 (trad. Pedro Madeira); pedro galvão, «Utilitarismo», em AA.VV., Manual de Filosofia Política cit., pp. 15‑33 (e bibliografia
citada no final). 15 rawls, Uma Teoria da Justiça cit., p. 27.
16 rawls, Justice as Fairness – A Restatement cit., «Prefácio», pp. xvi‑xvii, quis deixar claro que a justiça como
equidade tem na sua base uma conceção política e não moral.
17 joão cardoso rosas , «Liberalismo igualitário» em Manual de Filosofia Política cit., p. 37.
18 rawls, Liberalismo Político (tradução de João Sedas Nunes), Lisboa, Presença, 1997 (título original, de 1993). TEORIA DA JUSTIÇA DE JOHN RAWLS A sua principal obra é A Fragment on
Government (1776), Cambridge University Press, UK, 1990. 11 John Stuart Mill foi um seguidor da corrente utilitarista de Bentham, sendo a sua publicação mais reputada
Principles of Political Economy (1848), Oxford University Press, New York, 1994. Para uma visão do pensamento
do autor, josé garcia añón, John Stuart Mill: Justicia y Derecho, McGraw‑Hill, Madrid, 1997. 38 AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... nem sequer em benefício do bem‑estar da sociedade como um todo poderá
ser eliminada. Por esta razão, a justiça impede que a perda da liberdade para
alguns seja justificada pelo facto de outros passarem a partilhar um bem
maior. Não permite que os sacrifícios impostos a uns poucos sejam com
pensados pelas vantagens usufruídas por um maior número. Assim sendo,
numa sociedade justa a igualdade de liberdades e direitos entre os cidadãos
é considerada como definitiva; os direitos garantidos pela justiça não estão
dependentes da negociação política ou do cálculo dos interesses sociais»15. Rawls designa a sua conceção política liberal igualitária de «justiça
como equidade»16. Esta conceção parte de uma intuição básica ‑ a sociedade
como um sistema de cooperação ‑ para a formulação dos princípios da justiça
defendendo‑os de duas formas distintas. Primeiro, pelo estabelecimento de
um equilíbrio refletido provisório entre as intuições morais e os próprios
princípios da justiça. Segundo, através do recurso à noção da posição origi
nal, uma formulação mais abstrata e hipotética da ideia de contrato social17. Na referida reformulação da sua obra, na sequência dos estudos so
bre o liberalismo político18, o autor redefine a sua posição inicial da justiça
como equidade, apresentando‑a já não como parte de uma doutrina moral
compreensiva, mas como uma conceção política de justiça. A justiça como
equidade é considerada a forma mais razoável do liberalismo político, o
que implicou a necessidade de reestruturar alguns aspetos do seu modelo
teórico originário. Os tópicos essenciais da sua obra, que abordaremos neste trabalho, são
os seguintes: i) a sociedade como um sistema equitativo de cooperação; ii) a
sociedade bem ordenada; iii) a sociedade como estrutura básica; iv) a posição
original; v) os cidadãos como pessoas livres e iguais; vi) a justificação pública;
vii) os princípios da justiça. De seguida, vamos efetuar a referida abordagem tripartida de sociedade. 39 TEORIA DA JUSTIÇA DE JOHN RAWLS 1. A sociedade como um sistema equitativo de cooperação Rawls parte do princípio que os cidadãos de uma sociedade democrá
tica têm um conjunto de ideias intuitivas e familiares, adquiridas ao longo
de tempo, entre as quais a de que uma sociedade é um sistema de cooperação
social19. A ideia de cooperação social tem três características essenciais20: a) resulta de regras reconhecidas e aceites pelos cidadãos para
regular a sua conduta e não de regras ditadas ou impostas
por uma autoridade central; b) pressupõe uma ideia de equidade e reciprocidade entre os
membros da comunidade, que aceitam participar segundo
um mesmo sentido público de justiça; c) traduz a expressão da vantagem racional de cada participante
na prossecução do seu interesse, embora num quadro de
razoabilidade. O papel dos princípios da justiça consiste em especificar os termos
equitativos da cooperação social21. «Estes princípios definem os direitos e
deveres básicos que devem ter as principais instituições políticas e sociais,
regulam a distribuição dos benefícios (…) e distribuem os encargos necessários
para a sua sustentação»22. 19 rawls, Uma Teoria da Justiça cit, pp. 28 e ss.
20 rawls, Justice as Fairness – A Restatement cit., pp. 5 e ss.
21 Idem, p. 7 e Uma Teoria da Justiça cit., pp. 28 e ss.
22 rawls, Justice as Fairness – A Restatement cit., pp. 5 e ss.
23 rawls, Uma Teoria da Justiça cit., cap. I, nºs 1 e 2. 19 rawls, Uma Teoria da Justiça cit, pp. 28 e ss. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... Isto significa três condições24: Isto significa três condições24: 1ª – uma sociedade em que cada um aceita, e sabe que todos os
demais aceitam, a mesma conceção política da justiça; 2ª – uma sociedade em que as suas principais instituições políticas
e sociais, e o modo como se interligam para formar um sistema
de cooperação, satisfazem os princípios da justiça; 3ª – uma sociedade na qual os cidadãos têm um sentido normal
mente efetivo de justiça, quer dizer, um sentido que os capacita
para entender e aplicar os princípios publicamente reconhecidos
da justiça e, a sua grande maioria, para atuar de acordo com a
sua posição na sociedade, com os seus deveres e obrigações. «É impossível uma sociedade bem ordenada na qual todos os membros
aceitem a mesma doutrina compreensiva. Mas os cidadãos democráticos que
pratiquem doutrinas compreensivas diferentes podem coincidir em conceções
políticas da justiça». «O liberalismo político é uma conceção que permite
uma base suficiente e mais razoável de unidade social disponível para os (…)
cidadãos de uma sociedade democrática»25. 24 rawls, Justice as Fairness – A Restatement cit., pp. 8‑9.
25 Idem, p. 9.
26 rawls, Uma Teoria da Justiça cit., p. 30. 2. A sociedade bem ordenada A sociedade está bem ordenada quando for uma sociedade efetivamente
regulada por uma conceção pública de justiça23. 40 24 rawls, Justice as Fairness – A Restatement cit., pp. 8‑9.
25 d 26 rawls, Uma Teoria da Justiça cit., p. 30. 25 Idem, p. 9. 28 Ibidem e rawls, Justice as Fairness – A Restatement cit., p. 11. O «direito das gentes» é desenvolvido na sua
obra, The law of peoples – with the idea of public reason revisited, Cambridge, Mass., Harvard University Press, 2000.
29 rawls, Uma Teoria da Justiça cit., cap. I, nºs 3 e 4, pp. 33 e ss. TEORIA DA JUSTIÇA DE JOHN RAWLS propriedade privada dos meios de produção e da família monogâmica são
exemplos de instituições desse tipo27. A justiça como equidade faz da estrutura básica o objeto principal da
justiça política. Esta posição constitui um limite objetivo intencional ao âm
bito da teoria. Esta é aplicável ao nível da «justiça doméstica» (a da estrutura
básica), mas já não, necessariamente, ao nível da «justiça local» (referente a
princípios que se aplicam diretamente a instituições e associações), nem ao
nível da «justiça global» (relativa aos princípios aplicáveis ao direito inter
nacional, o chamado «direito das gentes»)28. 27 Ibidem. 3. A sociedade como estrutura básica «O objeto primário da justiça é a estrutura básica da sociedade ou,
mais exatamente, a forma pela qual as instituições sociais mais importantes
distribuem os direitos e deveres fundamentais e determinam a divisão dos
benefícios da cooperação em sociedade»26. A estrutura básica constitui, por
tanto, a parte institucional e legal que compõe a vida social. As instituições mais importantes são a constituição política, bem como
as principais estruturas económicas e sociais. Assim, a proteção jurídica da
liberdade de pensamento e de consciência, da concorrência de mercado, da 41 TEORIA DA JUSTIÇA DE JOHN RAWLS 30 rawls, Uma Teoria da Justiça cit, cap. III, nº 24, pp. 121 e ss.
31 Idem, cap. I, nº 3 e rawls, Justice as Fairness – A Restatement cit., pp. 16‑17.
32 rawls, Justice as Fairness – A Restatement cit., p. 17.
33 Idem, p. 18. 33 Idem, p. 18. 4. A posição original A posição original é a resposta de Rawls ao problema de saber como se jus
tifica a existência de uma sociedade como um sistema equitativo de cooperação. Para o autor essa justificação resulta de um acordo adotado por
«pessoas» (rectius, partes ou representantes de pessoas) livres e iguais que
participam na cooperação por a considerarem a melhor forma de defesa dos
seus interesses29. Este acordo, alcançado sob condições equitativas de todos os cida
dãos, é a melhor solução no âmbito de uma sociedade democrática plural e
das respetivas instituições livres. Este acordo não pode resultar de qualquer
intervenção exterior à esfera dos destinatários que o integram. Este acordo, para ser válido, do ponto de vista da justiça política, deve
pressupor a participação de «pessoas» livres e iguais e não deve permitir que
alguns possam negociar em posições não equitativas. O acordo equitativo para atingir a estrutura básica da sociedade tem
de abstrair‑se de aspetos e circunstâncias particulares dessa estrutura e não
pode ser distorcido por ela. 42 AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... Na posição original não se permite às partes conhecer as posições
sociais ou as doutrinas compreensivas particulares das «pessoas» que as re
presentam. Tão pouco conhecem a raça, o grupo étnico, o sexo e as qualidades
inatas como a força ou a inteligência. Rawls, metaforicamente, expressa esta ideia afirmando que as «partes»
estão sob um «véu de ignorância»30. Só deste modo se pode garantir um acordo em condições de equidade,
eliminando as posições vantajosas ou de supremacia que surgem, inevitavel
mente, com o fluir social. A posição original, por um lado, alarga a ideia do contrato social, não
o limitando a uma forma particular de Estado ou governo, como em Locke
ou Rousseau, e, por outro, torna o conceito de contrato social mais abstrato,
considerando‑o como hipotético e presente e não como histórico ou resultante
de um estado cultural primitivo31. Rawls não ignora que esta posição coloca uma objeção séria: se
os acordos são hipotéticos e não históricos a posição original não perde
toda a relevância? O autor contrapõe dizendo que a relevância da posição original
«radica no facto de que é um mecanismo de representação ou, alternati
vamente, um instrumento mental pensado para a clarificação pública e a
auto clarificação»32. A posição original serve para modelar as convicções de «pessoas»
consideradas razoáveis, colocando «as partes» numa situação equitativa a
partir da qual chegam a um acordo sujeito a restrições adequadas baseadas
nas razões que respaldam os princípios de justiça política33. 43 TEORIA DA JUSTIÇA DE JOHN RAWLS 5. Os cidadãos como pessoas livres e iguais A justiça como equidade concebe os cidadãos como pessoas livres e
iguais por terem duas «faculdades morais»34: a) a capacidade de terem um sentido da justiça, entendendo,
aplicando e trabalhando segundo os princípios da justiça po
lítica que definem os termos equitativos da cooperação social; b) a capacidade de terem uma conceção axiológica, prosseguindo
racionalmente aquilo que tem valor na vida humana. Estas duas faculdades morais definem o que é a «pessoa moral» e a
«personalidade moral».ii Mas o que significa afirmar que as pessoas são livres e iguais? A resposta tem de ser dada de um modo contextualizado. Estamos a
falar de pessoas livres e iguais numa perspetiva estritamente política (justiça
como equidade destinada à estrutura básica de sociedade), sem qualquer
conotação moral abrangente, metafísica ou psicológica. «A conceção da pessoa livre e igual resulta do modo como a cultura
política pública de uma sociedade democrática concebe os cidadãos, que se
encontra plasmada nos seus textos políticos fundamentais (constituições e
declarações dos direitos humanos) e na tradição histórica da interpretação
desses textos»35. Nesta medida, corresponde a uma visão político‑normativa36. 36 Para mais desenvolvimentos sobre a ideia de liberdade e igualdade, ver rawls, Justice as Fairness – A Restatement
cit., p. 20 e ss e rawls, Uma Teoria da Justiça cit., cap. VIII, pp. 346 e ss. 34 Idem, p. 19. 35 Idem, p. 19. 37 rawls, Justice as Fairness – A Restatement cit., p. 28. 38 Ibidem. 6. A justificação pública A justificação pública acompanha a ideia de uma sociedade bem orde
nada, porquanto, como vimos, esta sociedade encontra‑se regulada por uma
conceção de justiça publicamente reconhecida. 44 38 Ibidem. 6.1. Equilíbrio refletido A ideia de sociedade como um sistema de cooperação pressupõe que
os seus participantes são pessoas livres e iguais dotados de racionalidade e
razoabilidade. A racionalidade é a base do exercício da liberdade de cada
um. A razoabilidade permite que cada cidadão esteja disposto a chegar a
entendimento com os outros tornando possível a vida social. O uso da razão é determinante para a manutenção do sistema de coo
peração, de um modo especial quando se confrontam diferentes conceções
alternativas de justiça política. É nestas situações, em que se tem de encontrar um equilíbrio refletido
entre as intuições morais e os princípios de justiça mais favorecidos. Assim,
o método do equilíbrio refletido afigura‑se como um caminho paralelo ou
complementar face ao argumento da posição original para a construção dos
princípios da «justiça como equidade»39. 39 Para mais desenvolvimentos, rawls, Uma Teoria da Justiça cit., cap. I, nº 9 e rawls, Justice as Fairness –
A Restatement cit., pp. 29 e ss.
40 rawls, ob. ult. cit., pp. 32 e ss. 40 rawls, ob. ult. cit., pp. 32 e ss. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... O aspeto essencial da sociedade bem ordenada é que a sua conceção
pública da justiça política estabelece uma base partilhada que permite aos
cidadãos justificar reciprocamente os seus juízos políticos: cada um coopera,
política e socialmente, com os restantes em condições que todos podem avaliar
como justas. É este o significado de justificação pública.i Falar em justificação pública pressupõe, necessariamente, a possibili
dade de haver discrepâncias e divergências. Só assim faz sentido a necessidade
de justificação.i A justificação pública pretende alcançar um consenso, mas não um
acordo completo. O objetivo praticável é limitar o desacordo, ao menos no que
respeita às controvérsias mais decisivas e, em particular, às controvérsias que
afetam os aspetos essenciais da Constituição e as questões de justiça básica37. p
ç
q
j
ç
Estes aspetos essenciais da Constituição são, por exemplo: a) os princípios fundamentais que definem a estrutura geral
do governo e do processo político; os poderes legislativo,
executivo e judicial; os limites da regra das maiorias; b) os direitos e liberdades básicas de cidadania que toda a maio
ria legislativa deve respeitar, tais como o direito de voto e o
direito a participar na política, a liberdade de pensamento e
de associação, a liberdade de consciência, e também as pro
teções do império da lei38. Um dos principais objetivos da justificação pública é o de preservar
as condições de uma cooperação social, efetiva e democrática, baseada no
respeito mútuo entre cidadãos que se concebem como pessoas livres e iguais. Em caso de conflito a ideia de justificação pública é a de procurar obter um
consenso entrecruzado ou sobreposto de doutrinas razoáveis e, com ele, uma
conceção política resultante de um equilíbrio refletido, de que falamos no
ponto seguinte. 45 TEORIA DA JUSTIÇA DE JOHN RAWLS 6.3. Razão públicai A justificação de uma sociedade bem ordenada é acompanhada da ideia
de uma sociedade regulada por uma razão pública de justiça reconhecida. A razão pública exprime a vontade de cidadãos iguais, como corpo
coletivo, e traduz‑se no poder normativo do Estado. «A razão pública é característica de um povo democrático: é a razão
dos seus cidadãos, daqueles que partilham o estatuto da igual cidadania»41. A razão é pública em três sentidos: como expressão da razão típica dos
cidadãos; enquanto bem do domínio público; pela sua natureza e o seu con
teúdo serem resultantes da conceção de justiça política eleita pela sociedade42. A razão pública apoia‑se numa legitimidade própria e só ela pode jus
tificar a justiça como equidade, na sua dimensão política. A razão pública distingue‑se, pois, da razão não pública (isto é, não
dirigida à sociedade política e aos cidadãos em geral) que corresponde à razão
própria dos indivíduos ou de instituições ou entidades, como associações,
sociedades, sindicatos, universidades e igrejas43. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... 41 rawls, Liberalismo Político cit. p. 209.
42 rawls, ibidem.
43 rawls, Justice as Fairness – A Restatement cit., pp. 89 e ss. 42 rawls, ibidem. 41 rawls, Liberalismo Político cit. p. 209. 43 rawls, Justice as Fairness – A Restatement cit., pp. 89 e ss. 6.2. Consenso entrecruzado ou de sobreposição Para Rawls é indubitável que os cidadãos, numa sociedade bem or
denada, quando afirmam a mesma conceção política de justiça o façam por
diferentes razões e apesar de terem visões opostas a diferentes níveis (religioso,
filosófico e moral). De todo o modo, estas mundividências (ou doutrinas compreensivas)
diferenciadas não são impeditivas da existência de uma sociedade democrá
tica bem ordenada e, consequentemente, de uma conceção política de justiça
comum, pelo menos na esfera dos «aspetos essenciais da Constituição» e das
«questões de justiça básica». i Esta sociedade afirma‑se através de um consenso entrecruzado de po
lítica de justiça, obtido apesar do pluralismo razoável (e desejável) de uma
sociedade democrática, histórica e culturalmente situada40. 46 44 Equivalentes a bens primários.
45 rawls, Uma Teoria da Justiça cit., cap. II, p. 69.
46 rawls, Justice as Fairness – A Restatement cit., pp. 42 e ss.
47 rawls, Uma Teoria da Justiça cit., cap. II, pp. 67 e ss e rawls, Justice as Fairness – A Restatement cit., pp. 42‑43. O
princípio da diferença tem subjacente o chamado «critério maximin», pelo qual é sempre preferível escolher a opção mais
segura que implique o menor risco para todos. A «regra maximin» pretende maximizar o mínimo, isto é, entre as alternativas
possíveis deve escolher‑se aquela que tenha o melhor pior resultado possível. Para mais desenvolvimentos acerca deste (con
troverso) critério, cfr eduardo rivera lópez, Presupuestos Morales del Liberalismo, Madrid, BOE, 1997, pp. 252‑257.
48 rawls, Justice as Fairness – A Restatement cit., p. 43. 7. Os princípios da justiça Entendendo a sociedade como um sistema equitativo de cooperação
entre cidadãos, considerados como livres e iguais, quais são os princípios
da justiça mais indicados para definir os direitos e liberdades básicos e para
regular as desigualdades sociais e económicas? A resposta de Rawls é a enunciação de um princípio geral da justiça e
de dois princípios especiais da justiça. 47 49 joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia Política cit., p. 40.
50 joão cardoso rosas, ibidem.
51 joão cardoso rosas, Concepções da Justiça cit., p. 26.
52 Para mais desenvolvimentos, rawls, Uma Teoria da Justiça cit., cap. II, pp. 63‑107; rawls, Justice as Fairness –
A Restatement cit., pp. 39‑79; joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia 49 joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia Política cit., p. 40.
50 joão cardoso rosas, ibidem.
1 TEORIA DA JUSTIÇA DE JOHN RAWLS O princípio geral é o seguinte: «Todos os valores sociais44 – liberdade
e oportunidade, rendimento e riqueza, e as bases sociais do respeito próprio
– devem ser distribuídos igualmente, salvo se uma distribuição desigual de
algum desses valores, ou de todos eles, redunde em benefício de todos»45. Os dois princípios especiais, na sua versão definitiva46, são assim enunciados: 1º Cada pessoa deve ter um direito igual ao mais extenso sistema
de liberdades básicas que seja compatível com um sistema de
liberdades idêntico para as outras; 2º As desigualdades económicas e sociais devem satisfazer duas
condições: em primeiro lugar, ser a consequência do exercí
cio de cargos e funções abertos a todos em circunstâncias de
igualdade equitativa de oportunidades; e, em segundo lugar,
ser para o maior benefício dos membros menos favorecidos
da sociedade (o princípio da diferença)47. O primeiro princípio (das liberdades) é prioritário em relação ao segun
do e, neste, o princípio da igualdade equitativa de oportunidades é prioritário
em relação ao princípio da diferença. Esta prioridade significa que, ao aplicar
um princípio (ou ao colocá‑lo à prova em casos difíceis), os princípios prévios
estejam plenamente cumpridos48. Para um melhor entendimento destes princípios especiais tem de se
concretizar a ideia do significado de pessoas menos beneficiadas. Para tanto
é necessário introduzir a ideia de bens sociais primários. Estes bens, numa perspetiva não moral, mas política e social, são as diver
sas condições e meios necessários à vida de uma pessoa, concebida como livre e
igual, dotada das duas faculdades morais (já referidas no ponto 5) e capaz de ser
um membro de uma sociedade como um sistema cooperativo de cooperação. 48 52 Para mais desenvolvimentos, rawls, Uma Teoria da Justiça cit., cap. II, pp. 63‑107; rawls, Justice as Fairness –
A Restatement cit., pp. 39‑79; joão cardoso rosas, «Liberalismo igualitário» em AA.VV., Manual de Filosofia TEORIA DA JUSTIÇA DE JOHN RAWLS TEORIA DA JUSTIÇA DE JOHN RAWLS 53 Como escreve will kymlicka, ob. ult. cit., p. 55, a teoria de Rawls «domina o âmbito da discussão, não no
sentido de proporcionar um acordo, já que muitas poucas pessoas estão totalmente de acordo com ela, mas no
sentido de que os teóricos posteriores se têm posicionado por oposição a Rawls». E acrescenta que «não seremos
capazes de entender os trabalhos posteriores sobre a justiça sem antes entendermos Rawls». Isto significa que a
obra de Rawls representou um marco indelével na evolução da filosofia política e, curiosamente, causou uma forte
efervescência doutrinária, em especial, entre os autores da família liberal, centrada, em grande medida, no alcance
rawlsiano dos princípios da justiça. 54 amartya sen, A Ideia de Justiça (trad. Nuno Castello‑Branco Bastos), Coimbra, Almedina, 2010 e Amartya
sen, Inequality Reexamined, Oxford, UK, Clarendon Press, 1992. O autor entende que há uma insuficiência na
abordagem de Rawls aos princípios jurídicos da liberdade e da igualdade a partir da ideia de bens sociais primários. Política cit., pp. 35‑66; joão cardoso rosas, Concepções da Justiça cit., pp. 21‑54; will kymlicka, Contemporary
Political Philosophy: an Introduction, NY, Oxford University Press, 2002, pp. 53‑101. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... Os bens sociais primários são as liberdades e imunidades, as oportu
nidades e poderes, a riqueza e o rendimento e as bases sociais do respeito
próprio. De uma forma mais sucinta, podem reconduzir‑se a três categorias:
liberdades, oportunidades e riqueza49. «Todos e cada um de nós necessitamos de liberdades básicas (que in
cluem as imunidades legais) que protegem as muitas escolhas que fazemos
ao longo da vida. As oportunidades dão‑nos o poder efetivo de realizar essas
escolhas. A riqueza (juntamente com os rendimentos) permite dar maior valor
às nossas escolhas. As bases sociais do respeito próprio são um bem primário
de tipo diferente. O respeito que cada um tem por si mesmo e pela vida que
escolheu depende da possibilidade real de desenvolver as suas escolhas e do
facto de elas serem reconhecidas pelos outros (o respeito próprio também
depende do respeito que os outros nos prestam). Assim, o respeito próprio
é uma espécie de subproduto de uma sociedade na qual os bens sociais pri
mários estão corretamente distribuídos. Embora o respeito próprio não seja
diretamente distribuído pelas instituições sociais, ele decorre de uma socie
dade organizada de modo a distribuir com justiça os restantes bens sociais»50. De acordo com os princípios enunciados, o primeiro não admite a
possibilidade de desigualdade quanto à distribuição do valor da liberdade,
enquanto o segundo e o terceiro admitem essa possibilidade quanto aos as
petos económicos e sociais. A desigualdade económica e social não tem uma carga tão negativa,
pois é potenciadora de um sistema de incentivos51. i O papel da justiça visa definir a distribuição mais adequada dos be
nefícios e encargos ou, se se preferir, dos direitos e deveres, que decorrem da
cooperação social. O objetivo de uma teoria da justiça (que é distinto do seu objeto, a
estrutura básica da sociedade) restringe‑se à definição da distribuição correta
dos bens materiais e imateriais essenciais, os bens primários, a qual permite
que a sociedade seja bem ordenada52. 49 55 ronald dworkin, Sovereign Virtue: The Theory and Practice of Equality, 4.ª ed., Cambridge, Mass., London,
Harvard University Press, 2002. Dworkin critica Rawls por não dar relevância à ideia de igualdade de recursos e da
responsabilidade individual. Baseia‑se em dois tópicos fundamentais: primeiro, a importância objetiva igual de que
todas as vidas humanas floresçam; segundo, cada pessoa é responsável por definir e alcançar o florescimento de sua
própria vida. Assim, considera que a verdadeira igualdade significa igualdade no valor dos recursos que cada pessoa
comanda e não no sucesso que ela alcança. Estas objeções levam Dworkin a defender uma igualdade centrada na
ideia de recursos e não, como em Rawls, numa igualdade distributiva de alguns bens sociais primários. Para A. Sen o mais importante é dar conteúdo a esses princípios. Para tanto propõe o conceito de «capacidades».
Assim, a questão fundamental é a capacidade para transformar os bens sociais primários em efetiva liberdade de
escolha. A noção de capacidade indica essa transformação. «Muito embora os bens primários sejam, no máximo,
meios para se poder atingir os fins da vida humana que se tenham por valiosos, na formulação rawlsiana dos prin
cípios da justiça eles tornam‑se o elemento central da apreciação da equidade distributiva». «E isso é um erro (…)».
«A perspetiva da capacidade dedica‑se especialmente a vir corrigir este foco de atenção (…) sobre os meios em vez
de concentrar‑se sobre a oportunidade de cumprir os fins e sobre a liberdade substantiva para se atingir esses fins
argumentativamente delineados». (Cfr amartya sen, A Ideia de Justiça cit., p. 322 e amartya sen, Inequality
Reexamined cit., pp.112‑119, em especial). AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... filósofo igualitarista Ronald Dworkin55, o filósofo libertário Robert Nozick56
e o filósofo comunitarista57 Michael Sandel58. i
Um dos pontos que suscita alguma perplexidade é construir uma dou
trina racional com base numa proposta intuitiva da «posição original», uma 56 robert nozick, Anarchy, State and Utopia, NY, Basic Books, 2014 (ed. original de 1974). Em resposta à Teoria
da Justiça de Rawls, esta obra tornou‑se um dos textos que define o pensamento libertário e a defesa do Estado
(muito) mínimo. Em relação a Rawls, o autor considera que não é possível garantir a integridade dos indivíduos
quando a estrutura básica da sociedade revela preocupações de ordem igualitária. Uma palavra ainda para salientar
o argumento (radical) da «propriedade de si mesmo», como justificação de liberdade individual, um princípio cujo
único limite é o respeito da «propriedade dos outros». Para mais desenvolvimentos, will kimlicka, Contemporary
Political Philosophy: an Introduction cit., pp. 10‑52; chandran kukathas / philip pettit, Rawls – Uma Teoria
da Justiça e os seus Críticos (trad. Maria Carvalho), Lisboa, Gradiva, 1995, pp. 92‑110; eduardo rivera lópez,
Presupuestos Morales del Liberalismo cit., pp. 31‑136; rui fonseca, «Libertarismo», em AA.VV., Manual de
Filosofia Política cit., pp. 67‑85; alexandra abranches, «Robert Nozick: Direitos Individuais», em AA.VV.,
Pensamento Político Contemporâneo – Uma Introdução (Organizadores João Carlos Espada / João Cardoso Rosas),
Lisboa, Bertrand Ed., 2004, pp. 104‑133. 57 No pressuposto de que o comunitarismo moderno (não confundível com o comunitarismo marxista) não
pretende substituir o pensamento liberal, mas, com um espírito construtivo, corrigi‑lo. Para os comunitaristas,
o principal problema do liberalismo está na matriz individualista excessiva de algumas das suas propostas, com a
consequente desvalorização do eu‑social, na sua dimensão social e política (cfr. will kimlicka, Contemporary
Political Philosophy: an Introduction cit., pp. 208‑283; carlos amaral, «Comunitarismo», em AA.VV., Manual
de Filosofia Política cit., pp. 87‑116). 58 michel sandel, Liberalism and the Limits of Justice, Cambridge, Cambridge University Press, 1996 (reimpressão
do original de 1982). Nesta obra o autor faz uma apreciação aprofundada e discordante dos elementos essenciais da
estrutura teórica e argumentativa da Teoria da Justiça de Rawls. O autor, de um modo frontal, assume que o seu
objetivo é «desafiar» o liberalismo contemporâneo (de raíz kantiana) colocando limites concetuais à primazia da
ideia da justiça deontológica que resulta da proposta rawlsiana (pp. 1‑14). 8. Considerações finais É consensual que a proposta de Rawls, no seu conjunto, configura um
pensamento filosófico com sensibilidade para uma ideia política relevante de
procura da justiça social, um mérito que deve ser sublinhado e reconhecido53. Uma das principais motivações da teoria da justiça foi encontrar uma
alternativa ao utilitarismo que, de há muito, orientava grande parte da teoria
política. Rawls considera que o utilitarismo contraria as nossas intuições sobre
a justiça, dado que não exclui o sacrifício de alguns em prol da maximização
do bem‑estar geral. Mais precisamente, o utilitarismo contraria a intuição
de que, se queremos ser justos, devemos tratar todas as pessoas como iguais. Ora, pensa Rawls, a proteção de certos direitos e liberdades é o que garante
um tratamento igual de todas as pessoas. Em grande parte, a teoria da justiça visa mostrar quais são esses direitos
e liberdades, evitando cair no habitual extremo oposto ao utilitarismo, isto
é, evitando caucionar a pluralidade de intuições desconexas e incompatíveis
entre si e a que dava o nome de «intuicionismo». A ideia de Rawls foi precisamente desenvolver uma teoria política capaz
de articular de forma sistemática e coerente algumas dessas intuições, identi
ficando os direitos e liberdades em que deve assentar qualquer sociedade que
se queira justa. E esta passou a ser a direção que quase toda a filosofia política
acabou por seguir. Mas, não estando, naturalmente, em causa o seu inegável
mérito, há alguns aspetos da sua teoria que suscitam alguma controvérsia. Na verdade, ela tem enfrentado críticas de muitos setores, incluindo os
liberais do qual Rawls faz parte. Limitando‑nos aos principais críticos, com
origem no próprio liberalismo, salientamos o economista Amartya Sen54, o 50 62 Para rawls, Justice as Fairness – A Restatement cit., § 1 (pp. 1‑5) é possível atribuir quatro papéis fundamentais
à filosofia política: um papel prático de resolução de divisões sociais; um papel de orientação, concebendo os fins
da sociedade; um papel de reconciliação a partir da compreensão das instituições sociais constituídas ao longo do
tempo; um papel de formulação de uma «utopia realista» que permita a realização de uma sociedade o mais justa
possível, nos limites da viabilidade política praticável. 61 Embora o título da obra («Uma Teoria da Justiça») seja indiciador de uma teoria do Direito, dado o papel central
e indeclinável que a justiça representa para a ciência jurídica. O autor deste escrito, como é sabido, nem é especialista
em teoria do Direito, nem em filosofia política. Mas a abertura de um jurista à filosofia não se afigura um risco
desmedido, antes um risco mitigado e até justificado. Apoiando‑nos em Condorcet, «As obras filosóficas visam,
algumas o progresso, outras o esclarecimento». E mais adiante «(…) toda a sociedade que não seja esclarecida por
filósofos é enganada por charlatães» (Journal d´ Instruction Sociale – Prospectus, 1793, editado com Sieyes e
Duhamel, pp. 7, 9‑10, respetivamente). 59 Num comentário crítico à ideia do «véu de ignorância», por ser demasiado artificial e fictícia, cfr. diogo freitas
do amaral, História do Pensamento Político Ocidental, Coimbra, Almedina, 2016 (Reimpressão), pp. 728‑729.
60 O contrato social, para estes autores, não assentava numa mera experiência mental, como em Rawls na sua for
mulação de posição original, mas antes em acordos (implícitos) entre os membros da sociedade civil.
61 Embora o título da obra («Uma Teoria da Justiça») seja indiciador de uma teoria do Direito, dado o papel central
e indeclinável que a justiça representa para a ciência jurídica. O autor deste escrito, como é sabido, nem é especialista
em teoria do Direito, nem em filosofia política. Mas a abertura de um jurista à filosofia não se afigura um risco
desmedido, antes um risco mitigado e até justificado. Apoiando‑nos em Condorcet, «As obras filosóficas visam,
algumas o progresso, outras o esclarecimento». E mais adiante «(…) toda a sociedade que não seja esclarecida por
filósofos é enganada por charlatães» (Journal d´ Instruction Sociale – Prospectus, 1793, editado com Sieyes e
Duhamel, pp. 7, 9‑10, respetivamente).
62 Para rawls, Justice as Fairness – A Restatement cit., § 1 (pp. 1‑5) é possível atribuir quatro papéis fundamentais
à filosofia política: um papel prático de resolução de divisões sociais; um papel de orientação, concebendo os fins
da sociedade; um papel de reconciliação a partir da compreensão das instituições sociais constituídas ao longo do
tempo; um papel de formulação de uma «utopia realista» que permita a realização de uma sociedade o mais justa
possível, nos limites da viabilidade política praticável. 59 Num comentário crítico à ideia do «véu de ignorância», por ser demasiado artificial e fictícia, cfr. diogo freitas
do amaral, História do Pensamento Político Ocidental, Coimbra, Almedina, 2016 (Reimpressão), pp. 728‑729. 0 O contrato social, para estes autores, não assentava numa mera experiência mental, como em Rawls na sua
mulação de posição original, mas antes em acordos (implícitos) entre os membros da sociedade civil. AS PALAVRAS NECESSÁRIAS – ESTUDOS EM COMEMORAÇÃO DOS 30 ANOS... A proposta de teoria da justiça de Rawls
não é aceitável por assentar numa conceção abstrata de pessoa. A justiça não nos pode considerar coerentemente
como o tipo de seres (artificiais) que a sua proposta de posição original exige que sejamos. A perspetiva rawlsiana,
devidamente redefinida, remete necessariamente para uma conceção de comunidade que marca os limites da justiça
(pp. 14 e 65). A comunidade é um bem comum que não podemos conhecer sozinhos (p. 183). 51 TEORIA DA JUSTIÇA DE JOHN RAWLS ideia meramente hipotética, na qual não cabem pessoas reais, e contra factual
devido ao caráter espesso do «véu de ignorância»59. ideia meramente hipotética, na qual não cabem pessoas reais, e contra factual
devido ao caráter espesso do «véu de ignorância»59. Os contratualistas clássicos, como Locke e Rousseau, procuravam jus
tificar a questão sobre a origem ou a legitimidade do poder político60 Rawls vai mais longe e pretende justificar uma conceção de justiça
dirigida a uma sociedade política específica.ii A teoria da justiça de Rawls é uma teoria filosófico‑política61 sobre
o modo de alcançar a justiça numa sociedade de matriz liberal, na qual os
cidadãos são considerados como pessoas livres e iguais62. Neste ponto, em que pretende uma visão mais ampla, que inclui a
justiça, afigura‑se contraditório sustentar uma perspetiva independente de
outros valores e doutrinas para se restringir unicamente à estrutura básica
da sociedade. O que se pretende afirmar é que há falta de uma perspetiva eticamente
mais substantiva da pessoa e da sociedade, a qual nos parece crucial para
fundar adequadamente a conceção deontológica do autor. Não será surreal partir da posição original de «pessoas» irreais para
sustentar uma ideia de justiça social feita de pessoas reais? 52
|
https://openalex.org/W2535463376
|
https://europepmc.org/articles/pmc5070159?pdf=render
|
English
| null |
Abdominal ectopic pregnancy after in vitro fertilization and single embryo transfer: a case report and systematic review
|
Reproductive biology and endocrinology
| 2,016
|
cc-by
| 6,118
|
© 2016 The Author(s). Open Access This article is distributed under the terms of the Creative Commons Attribution 4.0
International License (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and
reproduction in any medium, provided you give appropriate credit to the original author(s) and the source, provide a link to
the Creative Commons license, and indicate if changes were made. The Creative Commons Public Domain Dedication waiver
(http://creativecommons.org/publicdomain/zero/1.0/) applies to the data made available in this article, unless otherwise stated. Abstract Background: Ectopic pregnancy is the leading cause of maternal morbidity and mortality during the first trimester
and the incidence increases dramatically with assisted-reproductive technology (ART), occurring in approximately 1. 5–2.1 % of patients undergoing in-vitro fertilization (IVF). Abdominal ectopic pregnancy is a rare yet clinically
significant form of ectopic pregnancy due to potentially high maternal morbidity. While risk factors for ectopic
pregnancy after IVF have been studied, very little is known about risk factors specific for abdominal ectopic
pregnancy. We present a case of a 30 year-old woman who had an abdominal ectopic pregnancy following
IVF and elective single embryo transfer, which was diagnosed and managed by laparoscopy. We performed a
systematic literature search to identify case reports of abdominal or heterotopic abdominal ectopic pregnancies
after IVF. A total of 28 cases were identified. Results: Patients’ ages ranged from 23 to 38 (Mean 33.2, S.D. = 3.2). Infertility causes included tubal factor (46 %),
endometriosis (14 %), male factor (14 %), pelvic adhesive disease (7 %), structural/DES exposure (7 %), and
unexplained infertility (14 %). A history of ectopic pregnancy was identified in 39 % of cases. A history of tubal
surgery was identified in 50 % of cases, 32 % cases having had bilateral salpingectomy. Transfer of two embryos
or more (79 %) and fresh embryo transfer (71 %) were reported in the majority of cases. Heterotopic abdominal
pregnancy occurred in 46 % of cases while 54 % were abdominal ectopic pregnancies. Conclusions: Our systematic review has revealed several trends in reported cases of abdominal ectopic pregnancy
after IVF including tubal factor infertility, history of tubal ectopic and tubal surgery, higher number of embryos
transferred, and fresh embryo transfers. These are consistent with known risk factors for ectopic pregnancy
following IVF. Further research focusing on more homogenous population may help in better characterizing this
rare IVF complication and its risks. Keywords: Abdominal pregnancy, Ectopic pregnancy, In vitro fertilization, IVF-ET or abdomen [3]. Abdominal ectopic pregnancies are a
very rare form of ectopic pregnancy, yet are clinically
significant due to their potential for high morbidity and
often atypical presentation [4]. Abdominal ectopic pregnancy after in vitro
fertilization and single embryo transfer:
a case report and systematic review Nicole Yoder, Reshef Tal*
and J. Ryan Martin * Correspondence: reshef.tal@yale.edu
Division of Reproductive Endocrinology & Infertility, Department of
Obstetrics, Gynecology, & Reproductive Sciences, Yale University School of
Medicine, 333 Cedar Street, New Haven, CT 06510, USA Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69
DOI 10.1186/s12958-016-0201-x Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69
DOI 10.1186/s12958-016-0201-x Open Access Background Ectopic pregnancy is the leading cause of maternal mor-
bidity and mortality during the first trimester and the in-
cidence increases dramatically with assisted reproductive
technology (ART), occurring in approximately 1.5–2.1%
of patients undergoing IVF [1, 2]. The majority of ec-
topic pregnancies from either IVF or spontaneous preg-
nancy occur within the fallopian tubes, but implantation
may occur in other locations such as the cervix, ovary, Recent studies have attempted to identify risk factors
for ectopic pregnancy after IVF. Suggested risk factors
include infertility due to tubal factor, endometriosis,
transfer at blastocyst stage, higher number of embryos
transferred, decreased endometrial thickness, variation
in culture media, and fresh embryo transfer [5–9]. How-
ever, very little data exists regarding risk factors for
abdominal ectopic pregnancy after IVF. * Correspondence: reshef.tal@yale.edu
Division of Reproductive Endocrinology & Infertility, Department of
Obstetrics, Gynecology, & Reproductive Sciences, Yale University School of
Medicine, 333 Cedar Street, New Haven, CT 06510, USA Page 2 of 10 Page 2 of 10 Page 2 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 In this case study, we report an abdominal ectopic
pregnancy after IVF with fresh single embryo transfer. We also performed a systematic review of the literature
for known cases of abdominal ectopic pregnancy after
IVF and provide detailed characterization of these pa-
tients and risk factors for this rare complication. bleeding or abdominal pain. The patient was sent for a
more comprehensive ultrasound evaluation at the asso-
ciated Maternal Fetal Medicine unit and another beta
hCG value was obtained. Repeat scan similarly failed to
identify an IUP or visualize an ectopic pregnancy. The
beta hCG was 12,400 pg/mL. Given the high beta hCG
value in the absence of an IUP, the patient was coun-
seled and advised to take methotrexate treatment for
presumed ectopic pregnancy of unknown location. One
day later (day 29), she received an intramuscular dose of
83 mg (50 mg/m2 body surface area) methotrexate with
plans to follow up with repeat beta hCG and TVUS. Systematic review of the literature A systematic literature review was performed with the
aim of identifying all other case reports of abdominal ec-
topic pregnancies after IVF. The literature search was
performed using PubMed, Google Scholar, and EMBASE
without language restriction encompassing publications
until July 2016. Search terms used included ‘IVF’, ‘ectopic
pregnancy’, ‘abdominal ectopic pregnancy’, and ‘het-
erotopic pregnancy’. To the best of our knowledge,
all reported cases and available data are summarized
in Table 2. Table 1 Beta hCG level and timeline of events
Day
Beta HCG pg/mL
Event
−5
Oocyte retrieval, ICSI
0
Day 5 single embryo transfer
9
28.7
11
45.5
13
130
15
382
17
991
19
2020
28
12,400
Sac Check - No IUP or adnexal abnormalities
29
13,000
Methotrexate given
32
20,000
33
TVUS - Right adnexal mass with gestational sac
and fetal cardiac activity
34
Diagnostic laparoscopy - Abdominal ectopic Table 1 Beta hCG level and timeline of events Table 1 Beta hCG level and timeline of events
Day
Beta HCG pg/mL
Event Case description The patient was a 30-year-old G2P0010 who presented
to our fertility center seeking fertility treatment. She had
a medical history of polycystic ovarian syndrome (PCOS)
and her partner had a diagnosis of male factor infertility. She had no prior surgical history, no known allergies,
and medications included prenatal vitamins. She denied
any history of sexually transmitted infections and had a
normal hysterosalpingogram and saline sonohystero-
gram. Her first IVF cycle with an elective single embryo
transfer resulted in a negative pregnancy test. Her sec-
ond IVF cycle used a GnRH antagonist stimulation
protocol and she was triggered with Ovidrel on stimula-
tion day 12. Twenty-two oocytes were retrieved. On day
five a single fresh blastocyst was transferred using a pass
through technique under ultrasound guidance. A stiff
outer sheath was introduced through the cervix and past
the internal os. A soft tipped catheter containing the
embryo was advanced through the outer sheath and the
embryo was expelled into the uterine cavity approxi-
mately 1.5 cm from the uterine fundus with good
visualization. Beta hCG was positive on post-transfer day
9 and serial beta hCG values were monitored and con-
tinued to rise appropriately (Table 1). On day 28 after
embryo transfer, the patient underwent a transvaginal
ultrasound (TVUS) in the office that did not identify an
intrauterine pregnancy (IUP) or any abnormal adnexal
structures. She
was
asymptomatic
with
no
vaginal Four days after methotrexate administration, repeat
beta hCG level continued to rise (20,000 pg/mL) and an
ultrasound performed 1 day later demonstrated a right
adnexal mass with a yolk sac, fetal pole, and fetal cardiac
activity. The decision was made to proceed with diag-
nostic laparoscopy for treatment of ectopic pregnancy
after failure of methotrexate therapy. The patient contin-
ued to be asymptomatic with no vaginal bleeding or ab-
dominal pain. Diagnostic laparoscopy was performed on
day 34 post-embryo transfer. The operative findings
were significant for minimal hemoperitoneum (<50 mL)
and products of conception were noted to be implanted
on the peritoneum of the posterior cul-de-sac medial to
the left uterosacral ligament (Fig. 1). The products of
conception were removed using graspers without diffi-
culty and hemostasis was obtained with electrocautery
and surgicel. All other pelvic organs including uterus
and bilateral ovaries and tubes appeared grossly normal
in appearance. Results A total of 28 cases of abdominal ectopic pregnancy after
IVF were identified. The age of patients ranged from 23
to 38 yo (Mean = 33.2 S.D. = 3.2), with no age reported
in 1 case. Infertility causes included tubal factor in 13
(46 %) cases, endometriosis in 4 (14 %) cases, male fac-
tor in 4 (14 %) cases, pelvic adhesive disease in 2 (7 %)
cases, structural/DES exposure in 2 (7 %) cases, unex-
plained in 4 (14 %) cases, and one case did not specify
the cause. Overall, anatomic/structural factors accounted Page 3 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Fig. 1 Diagnostic laparoscopy demonstrating hemoperitoneum (top image) and products of conception implanted in the posterior cul-de-sac
(bottom image) roscopy demonstrating hemoperitoneum (top image) and products of conception implanted in the posterior cul-de-sac Fig. 1 Diagnostic laparoscopy demonstrating hemoperitoneum (top image) and products of conception implanted in the posterior cul-de-sac
(bottom image) for 17 (61 %) of the cases. A history of ectopic preg-
nancy was identified in 11 (39 %) cases. History of tubal
surgery had been described in 14 (50 %) cases, 9 (32 %)
of which were bilateral salpingectomy. Transfer of more
than two embryos was reported in 15 (54 %) cases, two
embryos were transferred in 7 (25 %) cases, while single
embryo transfer was reported in only two (7 %) cases. No information about number of embryos transferred
was available in 4 (14 %) cases. Fresh embryo transfer
accounted for 20 (71 %) cases, frozen embryo transfer in
3 (11 %) cases, and 5 (18 %) cases did not specify fresh
versus frozen embryo transfer. Heterotopic abdominal
pregnancy occurred in 13 (46 %) cases, and 15 (54 %)
were abdominal ectopic pregnancies. Notable cases in-
clude 5 retroperitoneal ectopic pregnancies, an abdom-
inal fetal demise at 28 weeks, and 4 cases of viable
abdominal pregnancies at 30 weeks, 32 weeks (two
cases), and 34 weeks gestation. rate eight times greater than tubal ectopic pregnancies
[10]. For this reason, early recognition and treatment is
crucial in the setting of abdominal ectopic pregnancy. The case presented demonstrates the diagnostic chal-
lenge of abdominal ectopic, as the patient’s beta hCG
values followed a normal rise and the patient remained
asymptomatic up to the point of diagnostic laparoscopy. Results Transvaginal ultrasound did not visualize the ectopic
pregnancy until the beta hCG value was 20,000 pg/mL,
which is far beyond the usual discriminatory zone. This
atypical presentation of an ectopic pregnancy highlights
the need to consider abdominal ectopic pregnancy in
the differential of any pregnancy of unknown location
after IVF, especially in the setting of non-diagnostic
transvaginal ultrasound. There appears to be an increased rate of ectopic preg-
nancies after ART when compared to rates in spontan-
eous pregnancy [11]. As the number of IVF procedures
performed continues to rise, the incidence of ectopic
and abdominal ectopic pregnancy will likely also rise. While there are still relatively few reported cases of ab-
dominal ectopic pregnancies after IVF, our systematic Discussion Abdominal ectopic pregnancies comprise less than 1 %
of all ectopic pregnancies, yet have a maternal mortality Table 2 Abdominal ectopic case reports p
p
Author
(year)
Age/
Parity
Infertility
etiology
Other pertinent
history
Priorectopic
Stimulation
Protocol
Egg
#
ET
no./
timing
Fresh/
Frozen
ET
Max
HCG
level
(mIU/
ml)
Location (E/H)
Stage at
diagnosis
Rupture? Discussion Intervention
Outcome
Oehniger
(1988)
[23]
35 yo
G0P0
Endometriosis
Laparotomy x
2, left
salpingectomy,
frozen pelvis;
Right
hydrosalpinx
with partial
obstruction
No
FSH/Pergonal
(hMG/hCG),
hCG trigger
4
4
42–
44 h
Fresh
NA
Sigmoid
mesentery (E)
~41 days PT
No
Exploratory
Laparotomy
Removal of
pregnancy
tissue by
laparotomy
Bassil
(1991)
[24]
33 yo
NA
Male factor
NA
NA
Clomid/hMG,
hCG trigger
6
4
NA
Fresh
NA
Posterior uterus,
broad ligament
(H)
19 weeks
gestation
No
Laparotomy,
right
adnexectomy
Delivery of
viable twins
at 34 weeks
Ferland
(1991)
[25]
32 yo
G4P0030
DES
exposure,
secondary
infertility
Right
salpingectomy,
left hydrosalpinx
Tubal
ectopic
Long
protocol w/
GnRH agonist
7
3
Day
2 ET
Fresh
19,450
Retroperitoneal
(E)
37 days PT
Yes
Laparotomy, left
salpingectomy
Ragni
(1991)
[26]
32 yo
G1P0010
Pelvic
adhesive
disease
Right
adnexectomy,
hysteropexy
Tubal
ectopic
Long
protocol w/
GnRH agonist
4
3
Day
2 ET
Fresh
NA
Right adnexa
(H)
12 weeks
gestation
No
Selective
reduction of
abdominal
pregnancy,
laparotomy
Laparotomy
for resorbing
abdominal
pregnancy,
SAB of IUP at
16 weeks
Balmaceda
(1993) [27]
33 yo
G3P1021
Tubal
Right
salpingectomy,
left
salpingostomy
Tubal
Ectopic x2
Short
protocol, w/
GnRH agonist
15
4
Day
4 ET
Fresh
4651
Abdominal -
broad ligament
(E)
30 days PT
No
Laparoscopy,
salpingectomy
Laparoscopic
removal of
abdominal
ectopic, left
salpingectomy
Fisch
(1995)
[28]
32 yo
G2P0020
Tubal
Bilateral
salpingectomy
Tubal
ectopic x2
Long
protocol w/
GnRH agonist
5
3
NA
Fresh
NA
Ileum, left
uterine cornua
(H)
10 weeks
gestation
Yes
Gastrostoscopy,
sigmoidoscopy,
Tc scan,
angiography,
D&C, tagged
RBC scan,
Laparotomy
Laparotomy
for abdominal
ectopic, D&C
for incomplete
AB of IUP
DelRosario
(1996) [29]
33 yo
G1P1001
Tubal
Breast Cancer
No
NA
NA
4
NA
Frozen
563
Bladder (E)
75 days PT
Yes
Methotrexate,
laparoscopy
Laparoscopic
removal of
pregnancy
tissue Table 2 Abdominal ectopic case reports (Continued) p
p
(
)
Fisch
(1996)
[11]
38 yo
G2P0020
Tubal
Laparoscopic
Salpingectomy x2,
8th IVF cycle
Tubal
ectopic x 2
Long
protocol w/
GnRH agonist
14
4
Day
3 ET
Fresh
1730
Broad Ligament
(E)
21 days PT
Yes
Exploratory
Laparotomy
Removal of
pregnancy
tissue by
laparotomy
Moonen-
Delarue
(1996)
[30]
23 yo
G2P0020
Pelvic
adhesive
disease
Right
salpingectomy
Tubal and
abdominal
ectopic
NA
NA
NA
NA
Fresh
NA
Abdominal -
uterine fundus
(E)
28 weeks
Placental
abruption
Laparotomy
Fetal demise
of abdominal
ectopic @
28 weeks
Pisarska
(1998)
[31]
35 yo
G2P0020
Unexplained
NA
No
Long
protocol w/
GnRH agonist
9
6
NA
Fresh
6004
Bladder serosa
(H)
6 weeks
gestation
No
Diagnostic
laparoscopy
Laparoscopic
removal of
ectopic
pregnancy
(bladder), term
delivery of IUP
Deshpande
(1999) [32]
33 yo
G1P0010
Endometriosis
Endometriosis,
left
salpingectomy,
Patent right
tube
No
Long
protocol w/
GNRH
agonist
8
2
Day
3 ET
Fresh
55,560
Twin pregnancy
in broad
ligament (H)
7 weeks PT
No
Laparotomy
Removal of
twin ectopic
pregnancy by
laparotomy at
7 weeks
Scheiber
(1999)
[33]
37 yo
G3P0030
Tubal factor
EndometriosisDOR
Salpingostomy,
donor oocytes
Tubal
ectopic
NA
NA
2
Day
3 ET
Frozen
NA
Abdominal (H)
8.5 weeks PT
No
KCl selective
reduction of
abdominal
pregnancy
Selective
reduction of
abdominal
pregnancy, full
term viable IUP
Dmowski
(2002)
[34]
34 yo
G0P0
Tubal
Bilateral
Salpingectomy
No
Long
protocol w/
GnRH agonist
15
3
Day
3 ET
Fresh
38,635
Retroperitoneal
pancreatic (E)
41 days PT
Yes
Laparotomy
Retroperitoneal
subpancreatic
ectopic
removed by
laparotomy
Jain
(2002)
[35]
29 yo
G0P0
Unexplained
NA
No
NA
NA
2
NA
NA
NA
Pouch of
Douglas (H)
9 weeks PT
NA
Laparotomy at
4w weeks (no
IUP seen),
selective
reduction of
ectopic at
13 weeks
Selective
reduction of
abdominal
ectopic,
removal by
laparotomy,
SAB of IUP
Cormio
(2003)
[36]
30 yo
G2P0020
Tubal
Bilateral
salpingectomy
Tubal
ectopic x2
Menotropins,
hCG trigger
7
4
Day
3 ET
Fresh
256,400
Omentum,
uterine fundus
(H)
13 weeks
gestation
No
Laparotomy
Laparotomy
for abdominal
ectopic; Live
IUP delivered
at 36 weeks
Reid
(2003)
[37]
28 yo
G5P1041
Tubal
bilateral
salpingectomy
Tubal
ectopic x3
NA
NA
3
NA
NA
5500
Retroperitoneal,
iliac bifurcation
(E)
63 days PT
NA
Laparotomy
Removal of
ectopic via
laparotomy
oder et al. Discussion Reproductive Biology and Endocrinology (2016) 14:69
Pa Table 2 Abdominal ectopic case reports (Continued) Kitade
(2005)
[38]
37 yo
G0P0
Unexplained
NA
No
Long
protocol w/
GnRH agonist
12
3
Day
3 ET
Fresh
45,896
Splenic and
Tubal (H)
34 days PT
(tubal), 46 day
PT (splenic)
Tubal -
No,
Splenic -
Yes
1) Laparoscopic
salpingectomy
2) Exploratory
laparotomy
Removal of
tubal ectopic
by laparoscopy,
removal of
splenic ectopic
by laparotomy
(12 days later)
Ali
(2006)
[39]
35
NA
Tubal
Pelvic adhesions
No
NA
11
1
NA
Fresh
1524
Tube with
Omental/
peritoneal
trophoblastic
tissue (H)
3 weeks PT -
tubal ectopic;
5 weeks PT –
omental tissue
No
Laparoscopic
salpingectomy;
Laparocopic
removal of
omental/
peritoneal
trophoblastic
tissue
Removal of
tubal and
peritoneal/
omental
pregnancy
tissue by 2
laparoscopies
Apantaku
(2006)
[40]
33
G3P1021
Tubal
Bilateral
salpingectomy
Tubal
ectopic x2
NA
NA
2
NA
Fresh
NA
Right adnexa (E)
6 weeks PT
No
Laparoscopy
Laparoscopic
removal of
pregnancy
tissue
Knopman
(2007)
[41]
37 yo
G4P0040
Unexplained
NA
No
GnRH
antagonist
9
2
Day
5 ET
Fresh
1023
Posterior cul-de-
sac (H)
7 weeks,
nonviable IUP;
9 weeks
ectopic
Yes
Laparoscopy
D&C for non-
viable IUP;
Laparoscopy
for abdominal
ectopic
Shih
(2007)
[42]
33 yo
G0P0
Male Factor
Patent tubes
No
Long
protocol w/
GnRH agonist
4
NA
NA
Fresh
901
Cul-de-sac
(E)
28 days PT
No
Laparoscopy
converted to
laparotomy
Removal of
pregnancy
tissue by
laparotomy
Shojai
(2007)
[43]
35 yo
G0P0
Structural, DES
exposure
NA
No
NA
NA
3
NA
NA
NA
Abdominal -
uterine fundus
(H)
21 weeks
gestation
No
Laparotomy
Delivery of
viable twins
at 32 weeks
Iwama
(2008)
[44]
31 yo
G1P0010
Tubal
Right
Salpingectomy
for tubal ectopic
after IVF, left
salpingectomy
for hydrosalpinx
Tubal
ectopic
NA
NA
3
Day
3 ET
Fresh
45, 369
Inferior Vena
Cava/
Retroperitoneal
(E)
32 days PT:
PUL; 53 days
PT:
retroperitoneal
ectopic
Yes
D&C, MTX,
Diagnostic
laparoscopy,
repeat MTX,
Exploratory
laparotomy
Ruptured
retroperitoneal
ectopic,
removed by
laparotomy
Hyvarinen
(2009) [45]
NA
NA
NA
NA
NA
NA
NA
NA
NA
NA
NA
Abdominal (E)
30 weeks
gestation
No
Laparotomy
Delivery of
viable fetus
at 30 weeks
Zacche
(2011)
[46]
36
G1P1
Tubal
Bilateral
Salpingectomy,
PID
No
NA
NA
2
NA
Fresh
NA
Abdominal (H)
32 weeks at
Cesarean
Delivery
No
Laparotomy,
hysterectomy
Viable twin
pregnancies
at 32 weeks;
Hysterectomy
der et al. Discussion Reproductive Biology and Endocrinology (2016) 14:69 Table 2 Abdominal ectopic case reports (Continued) ts (Continued)
Obturated
eft tube
NA
Short
protocol, w/
GnRH
antagonist
NA
2
Day
3 ET
Fresh
NA
Abdominal -
vesicouterine
junction (E)
23 days PT
No
Laparoscopy
Laparoscopic
removal of
pregnancy
tissue
Bilateral
alpingectomy
or hydrosalpinx
NA
NA
NA
NA
NA
NA
21,730
Left adnexa (E)
2 weeks PT
No
Mini-
laparotomy
Removal of
ectopic via
laparotomy
NA
No
NA
NA
1
NA
Frozen
14,800
Retroperitoneal
(E)
10 weeks
gestation
NA
Laparoscopy
Laparoscopic
removal of
pregnancy
tissue
rettage, DES Diethylstilbestrol, E Ectopic, FSH Follicle stimulating hormone, GnRH Gonadotropin-releasing hormone, H Heterotopic, hCG Human chorionic gonadotropin,
ysterosalpingogram, IUP Intrauterine pregnancy, IVF In vitro fertilization, KCl Potassium chloride, MTX Methotrexate, NA Not available, PID Pelvic inflammatory disease, PT
m, SAB Spontaneous abortion
Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 p
p
Angelova
(2015)
[47]
33
NA
Male Factor
Obturated
left tube
NA
Short
protocol, w/
GnRH
antagonist
NA
2
Day
3 ET
Fresh
NA
Abdominal -
vesicouterine
junction (E)
23 days PT
No
Laparoscopy
Laparoscopic
removal of
pregnancy
tissue
Dalmia
(2015)
[48]
37
G1P0010
EndometriosisTubal
factor
Bilateral
salpingectomy
for hydrosalpinx
NA
NA
NA
NA
NA
NA
21,730
Left adnexa (E)
2 weeks PT
No
Mini-
laparotomy
Removal of
ectopic via
laparotomy
Koyama
(2015)
[49]
32
G5P1
Male Factor
NA
No
NA
NA
1
NA
Frozen
14,800
Retroperitoneal
(E)
10 weeks
gestation
NA
Laparoscopy
Laparoscopic
removal of
pregnancy
tissue
Abbreviations: AB Abortion, D&C Dilation and curettage, DES Diethylstilbestrol, E Ectopic, FSH Follicle stimulating hormone, GnRH Gonadotropin-releasing hormone, H Heterotopic, hCG Human chorionic gonadotropin,
hMG Human menopausal gonadotropin, HSG Hysterosalpingogram, IUP Intrauterine pregnancy, IVF In vitro fertilization, KCl Potassium chloride, MTX Methotrexate, NA Not available, PID Pelvic inflammatory disease, PT
Post transfer, RBC Red blood cell, Tc Technetium, SAB Spontaneous abortion Abbreviations: AB Abortion, D&C Dilation and curettage, DES Diethylstilbestrol, E Ectopic, FSH Follicle stimulating hormone, GnRH Gonadotropin-releasing hormone, H Heterotopic, hCG Human chorionic gonadotropin,
hMG Human menopausal gonadotropin, HSG Hysterosalpingogram, IUP Intrauterine pregnancy, IVF In vitro fertilization, KCl Potassium chloride, MTX Methotrexate, NA Not available, PID Pelvic inflammatory disease, PT
Post transfer, RBC Red blood cell, Tc Technetium, SAB Spontaneous abortion Page 7 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Page 8 of 10 Yoder et al. Discussion Reproductive Biology and Endocrinology (2016) 14:69 Page 8 of 10 Other trends identified in our systematic review in-
clude >1 embryo transferred (reported in 79 % of cases)
and a large number of heterotopic abdominal pregnancy
(reported in 46 % of cases). Multiple embryo transfer
has always been associated with increased risk of EP
with transfer of two or less embryos carrying lower risk
than after three or more embryos [20]. In the setting of
multiple embryo transfers, identification of an intrauter-
ine pregnancy often leads to delayed diagnosis of ab-
dominal pregnancy in the absence of clinical symptoms. Among the heterotopic cases, 4 reported a 2 week delay
in diagnosis of the abdominal ectopic from the time of
suspected ectopic, and 5 cases did not identify the ab-
dominal ectopic until beyond the 12th week of preg-
nancy. Unfortunately, this type of delayed diagnosis has
the potential to lead to significantly morbid outcomes. In our review, four cases of viable abdominal pregnan-
cies were identified, which is an extremely rare outcome. Three of these cases were identified at 19 weeks or be-
yond, and all three had attachment of the abdominal
placenta to the peritoneal surface of the uterus without
involvement of other abdominal organs. Placental at-
tachment to the uterus has previously been associated
with viability of abdominal pregnancies [21], and with a
relatively lower risk of bleeding and lower likelihood of
fetal growth retardation [22]. review demonstrates several trends among reported
cases. First, the majority of cases (61 %) report a history
of anatomic/structural infertility etiology with history of
tubal factor infertility (TFI) (46 %) being the most com-
mon. This is consistent with TFI being a known risk fac-
tor for ectopic pregnancy following IVF. One study that
examined the risk factors for EP following IVF in 712
women reported an odds ratio (OR) of 3.99 (95 % CI:
1.23 to 12.98) for women with TFI compared to those
with other infertility causes [12]. In a larger, more recent
study of 553,577 ART cycles in the US, among all infer-
tility diagnoses, TFI was the only one significantly asso-
ciated
with
increased
risk
for
ectopic
pregnancy
(adjusted relative risk (RR) 1.25, 95 % CI 1.16–1.35) [13]. In addition, history of tubal ectopic pregnancy was par-
ticularly common, being reported in 37 % of the abdom-
inal ectopic cases. Discussion A limitation of this review is the heterogeneity of re-
ported cases and IVF practices which encompass several
decades. Further research focusing on more homogenous
population may help in better characterizing this rare IVF
complication. Discussion This also appears to be consistent
with the general ART-associated EP literature. A retro-
spective study that measured the risk of EP following
IVF in 181 women with a previous ectopic demonstrated
a 45-fold higher risk of recurrence when compared with
377 women with other causes of infertility. The authors
reported that the prevalence of EP was 8.95 % compared
with 0.75 % in the control group [14]. History of prior
tubal surgery was also particularly common (50 %)
among abdominal ectopic cases in our systematic review. A history of tubal/pelvic surgery is another major risk
factor for the development of EP following IVF. Odds
ratio for developing EP was 8.52 (95 % CI: 5.91–12.27)
for prior adnexal surgery, 11.02 (95 % CI: 5.49–22.15)
for a previous tubal infertility surgery, 5.16 (95 % CI:
1.25–21.21) for prior surgery for endometriosis and
17.70 (95 % CI: 8.11–38.66) for a previous abdominal/
pelvic surgery [12, 15, 16]. Interestingly, bilateral salpin-
gectomy was the most common tubal surgery reported
in our case review. While the exact mechanism of ab-
dominal ectopic after bilateral salpingectomy remains
unclear, many authors have proposed that it may be due
to the development of a micro-fistulous tract after sal-
pingectomy. Uterine perforation during embryo transfer
has also been suggested as a mechanism for abdominal
ectopic pregnancy, and embryo transfer technique has
been related to overall EP risk after IVF. Aspects of the
transfer that may increase risk of EP include large
volume of transfer media, induction of abnormal uterine
contractions, and location of embryo transfer in relation
to the uterine fundus [9]. These factors have all been
associated with retrograde flow of both transfer media
and the embryo toward the fallopian tubes. Many sug-
gestions have been made regarding optimal transfer lo-
cation within the endometrium, ranging from 5 to
20 mm from the fundal surface, while others recom-
mend “mid-cavity” location to avoid proximity to the fal- Finally, abdominal ectopic pregnancies were far more
common in fresh embryo transfer (71 % of cases) than
frozen embryo transfer (11 % of cases). This may be due
to the fact that frozen embryo transfer has become
widely used only recently, and we may begin to see
higher frequency with frozen embryo transfers over time. However, several recent studies indicate that ectopic
pregnancy rates are higher for fresh as compared to fro-
zen IVF cycles [1, 6]. Ethics approval and consent to participate Since this study used only deidentified patient data, and published data
f
h li
l f
i
i
i
l
i
b
d (IRB) from the literature, no approval from our institutional review board (IRB)
was required. from the literature, no approval from our institutional review board (IRB)
was required. 23. Oehninger S, Kreiner D, Bass MJ, Rosenwaks Z. Abdominal pregnancy
after in vitro fertilization and embryo transfer. Obstet Gynecol. 1988;72(3 Pt 2):499–502. Authors’ contributions NY performed the systematic literature search, extracted and analyzed the
data, and wrote the manuscript; RT conceived and designed the study,
critically reviewed and revised the manuscript; JRM conceived the study,
critically reviewed and revised the manuscript. All authors read and
approved the final submission. 18. Nazari A, Askari HA, Check JH, O’Shaughnessy A. Embryo transfer
technique as a cause of ectopic pregnancy in in vitro fertilization. Fertil
Steril. 1993;60:919–21. 19. Coroleu B, et al. The influence of the depth of embryo replacement into the
uterine cavity on implantation rates after IVF: a controlled, ultrasound –
guided study. Hum Reprod. 2002;17:341–6. Consent for publication 21. Dubinsky TJ, Guerra F, Gormaz G, Maklad N. Fetal survival in abdominal
pregnancy: a review of 11 cases. J Clin Ultrasound. 1996;24:513–7. 22. Huang K, Song L, Wang L, Gao Z, Meng Y, Lu Y. Advanced abdominal
pregnancy: an increasingly challenging clinical concern for obstetricians. Int
J Clin Exp Pathol. 2014;7(9):5461–72. Conclusions In conclusion, ectopic pregnancy, including abdominal
ectopic, is a known risk of IVF. The case reported
highlights the diagnostic challenges behind this rare
form of ectopic pregnancy, and the need to keep it in
the differential in atypical ectopic presentations. Our
systematic
literature
review
has
revealed
several
trends in reported cases of abdominal ectopic preg-
nancy after IVF including tubal factor infertility, his-
tory
of
tubal
ectopic
and
tubal
surgery,
higher
number of embryos transferred, and fresh embryo
transfers. These are consistent with known risk fac-
tors for ectopic pregnancy following IVF. Page 9 of 10 Page 9 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 Received: 31 August 2016 Accepted: 6 October 2016 Received: 31 August 2016 Accepted: 6 October 2016 24. Bassil S, Pouly JL, Canis M, et al. Advanced heterotopic pregnancy after in-
vitro fertilization and embryo transfer, with survival of both the babies and
the mother. Hum Reprod. 1991;6(7):1008–10. Availability of data and materials
Not applicable. Availability of data and materials
Not applicable. 17. Rovei V, et al. IVF outcome is optimized when embryos are replaced
between 5 and 15 mm from the fundal endometrial surface: a prospective
analysis on 1184 IVF cycles. Reprod Biol Endocrinol. 2013;11:114. Acknowledgements 15. Parashi S, Moukhah S, Ashrafi M. Main risk factors for ectopic pregnancy:
a case-control study in a sample of Iranian women. Int J Fertil Steril. 2014;8(2):147–54. Competing interests The authors declare that they have no competing interests. 20. Pandian Z, Marjoribanks J, Ozturk O, Serour G, Bhattacharya S. Number of
embryos for transfer following in vitro fertilisation or intra-cytoplasmic
sperm injection. Cochrane Database Syst Rev. 2013;7:CD003416. References 25. Ferland RJ, Chadwick DA, O’Brien JA, Granai 3rd CO. An ectopic pregnancy
in the upper retroperitoneum following in vitro fertilization and embryo
transfer. Obstet Gynecol. 1991;78(3 Pt 2):544–6. 1. Londra L, Moreau C, Strobino D, Garcia J, Zacur H, Zhao Y. Ectopic
pregnancy after in vitro fertilization: differences between fresh and frozen-
thawed cycles. Fertil Steril. 2015;104(1):110–8. 26. Ragni G, Lombroso Finzi GC, Olivares MD, Crosignani PG. Twin in vitro
fertilization (IVF) pregnancies: spontaneous intrauterine abortion after
selective second-trimester termination of ectopic intraabdominal
pregnancy. J In Vitro Fert Embryo Transf. 1991;8(4):236–7. 2. Clayton HB, Schieve LA, Peterson HB, Jamieson DJ, Reynolds MA, Wright VC. Ectopic pregnancy risk with assisted reproductive technology procedures. Obstet Gynecol. 2006;107(3):595–604. 3. Bouyer J, Coste J, Fernandez H, Pouly JL, Job-Spira N. Sites of ectopic
pregnancy: a 10 year population-based study of 1800 cases. Hum Reprod. 2002;17(12):3224–30. 27. Balmaceda JP, Bernardini L, Asch RH, Stone SC. Early primary abdominal
pregnancy after in vitro fertilization and embryo transfer. J Assist Reprod
Genet. 1993;10(4):317–20. 4. Alto WA. Abdominal pregnancy. Am Fam Physician. 1990;41(1):209–14. 28. Fisch B, Powsner E, Heller L, et al. Heterotopic abdominal pregnancy
following in-vitro fertilization/embryo transfer presenting as massive lower
gastrointestinal bleeding. Hum Reprod. 1995;10(3):681–2. 5. Zhang Y-L, Sun J, Su Y-C, Guo Y-H, Sun Y-P. Study on the incidence and
influences on ectopic pregnancy from embryo transfer of fresh cycles and
frozen-thawed cycles. Zhonghua Fu Chan Ke Za Zhi. 2012;47(9):655–8. 29. delRosario R, el-Roeiy A. Abdominal pregnancy on the bladder wall
following embryo transfer with cryopreserved-thawed embryos: a case
report. Fertil Steril. 1996;66(5):839–41. 6. Huang B, Hu D, Qian K, et al. Is frozen embryo transfer cycle associated with
a significantly lower incidence of ectopic pregnancy? An analysis of more
than 30,000 cycles. Fertil Steril. 2014;102(5):1345–9. 30. Moonen-Delarue MW, Haest JW. Ectopic pregnancy three times in line of
which two advanced abdominal pregnancies. Eur J Obstet Gynecol Reprod
Biol. 1996;66(1):87–8. 7. Decleer W, Osmanagaoglu K, Meganck G, Devroey P. Slightly lower
incidence of ectopic pregnancies in frozen embryo transfer cycles versus
fresh in vitro fertilization-embryo transfer cycles: a retrospective cohort
study. Fertil Steril. 2014;101(1):162–5. 31. Pisarska MD, Casson PR, Moise Jr KJ, DiMaio DJ, Buster JE, Carson SA. Heterotopic abdominal pregnancy treated at laparoscopy. Fertil Steril. 1998;70(1):159–60. 8. Rombauts L, McMaster R, Motteram C, Fernando S. Consent for publication
Not applicable. Consent for publication
Not applicable. Abbreviations 11. Fisch B, Peled Y, Kaplan B, Zehavi S, Neri A. Abdominal pregnancy following
in vitro fertilization in a patient with previous bilateral salpingectomy. Obstet Gynecol. 1996;88(4 Pt 2):642–3. AB: Abortion; ART: Assisted reproduction technologies; D&C: Dilation and
curettage; DES: Diethylstilbestrol; E: Ectopic; FSH: Follicle stimulating
hormone; GnRH: Gonadotropin-releasing hormone; H: Heterotopic;
hCG: Human chorionic gonadotropin; hMG: Human menopausal
gonadotropin; HSG: Hysterosalpingogram; IUP: Intrauterine pregnancy; IVF: In
vitro fertilization; KCl: Potassium chloride; MTX: Methotrexate; NA: Not
available; PID: Pelvic inflammatory disease; PT: Post transfer; RBC: Red blood
cell; SAB: Spontaneous abortion; Tc: Technetium 12. Malak M, Tawfeeq T, Holzer H, Tulandi T. Risk factors for ectopic pregnancy
after in vitro fertilization treatment. J Obstet Gynaecol Can. 2011;33(6):617–9. 13. Perkins KM, Boulet SL, Kissin DM, Jamieson DJ, National ART Surveillance
(NASS) Group. Risk of ectopic pregnancy associated with assisted
reproductive technology in the United States, 2001–2011. Obstet Gynecol. 2015;125(1):70–8. 14. Weigert M, Gruber D, Pernicka E, Bauer P, Feichtinger W. Previous tubal
ectopic pregnancy raises the incidence of repeated ectopic pregnancies in
in vitro fertilization-embryo transfer patients. J Assist Reprod Genet. 2009;
26(1):13–7. Funding
None 16. Li C, Meng C-X, Zhao W-H, Lu H-Q, Shi W, Zhang J. Risk factors for ectopic
pregnancy in women with planned pregnancy: a case-control study. Eur J
Obstet Gynecol Reprod Biol. 2014;181:176–82. References Risk of ectopic
pregnancy is linked to endometrial thickness in a retrospective cohort study
of 8120 assisted reproduction technology cycles. Hum Reprod. 2015. doi:10. 1093/humrep/dev249. 32. Deshpande N, Mathers A, Acharya U. Broad ligament twin pregnancy
following in-vitro fertilization. Hum Reprod. 1999;14(3):852–4. 33. Scheiber MD, Cedars MI. Case Report: Successful non-surgical management
of a heterotopic abdominal pregnancy following embryo transfer with
cryopreserved–thawed embryos. Hum Reprod. 1999;14(5):1375–7. 9. Refaat B, Dalton E, Ledger WL. Ectopic pregnancy secondary to in vitro
fertilisation-embryo transfer: pathogenic mechanisms and management
strategies. Reprod Biol Endocrinol. 2015;13:30. 34. Dmowski WP, Rana N, Ding J, Wu WT. Retroperitoneal subpancreatic
ectopic pregnancy following in vitro fertilization in a patient with previous 10. Atrash HK, Friede A, Hogue CJ. Abdominal pregnancy in the United States:
frequency and maternal mortality. Obstet Gynecol. 1987;69(3 Pt 1):333–7. Page 10 of 10 Yoder et al. Reproductive Biology and Endocrinology (2016) 14:69 bilateral salpingectomy: how did it get there? J Assist Reprod Genet. 2002;19(2):90–3. bilateral salpingectomy: how did it get there? J Assist Reprod Genet. 2002;19(2):90–3. 35. Jain S, Justus K, Bober S. Selective transvaginal embryo reduction in
heterotopic pregnancy located intra-abdominally. J Obstet Gynaecol. 2002;22(3):330. 36. Cormio G, Santamato S, Putignano G, Bettocchi S, Pascazio F. Concomitant
abdominal and intrauterine pregnancy after in vitro fertilization in a woman
with bilateral salpingectomy. A case report. J Reprod Med. 2003;48(9):747–9. 37. Reid F, Steel M. An exceptionally rare ectopic pregnancy. BJOG. 2003;
110(2):222–3. 38. Kitade M, Takeuchi H, Kikuchi I, Shimanuki H, Kumakiri J, Kinoshita K. A case
of simultaneous tubal-splenic pregnancy after assisted reproductive
technology. Fertil Steril. 2005;83(4):1042. 39. Ali CR, Fitzgerald C. Omental and peritoneal secondary trophoblastic
implantation - an unusual complication after IVF. Reprod Biomed Online. 2006;12(6):776–8. 40. Apantaku O, Rana P, Inglis T. Broad ligament ectopic pregnancy following
in-vitro fertilisation in a patient with previous bilateral salpingectomy. J
Obstet Gynaecol. 2006;26(5):474. 41. Knopman JM, Talebian S, Keegan DA, Grifo JA. Heterotopic abdominal
pregnancy following two-blastocyst embryo transfer. Fertil Steril. 2007;88(5):
1437. e13-e15. 42. Shih C-C, Lee RK-K, Hwu Y-M. Cul-de-sac pregnancy following in vitro
fertilization and embryo transfer. Taiwan J Obstet Gynecol. 2007;46(2):171–3. 43. Shojai R, Chaumoitre K, Chau C, Panuel M, Boubli L, d’Ercole C. Advanced
combined abdominal and intrauterine pregnancy: a case report. Fetal Diagn
Ther. 2007;22(2):128–30. 44. Iwama H, Tsutsumi S, Igarashi H, Takahashi K, Nakahara K, Kurachi H. References A case
of retroperitoneal ectopic pregnancy following IVF-ET in a patient with
previous bilateral salpingectomy. Am J Perinatol. 2008;25(1):33–6. 45. Hyvärinen M, Raudaskoski T, Tekay A, Herva R. Abdominal pregnancy. Duodecim. 2009;125(22):2448–51. 46. Zacchè MM, Zacchè G, Gaetti L, Vignali M, Busacca M. Combined
intrauterine and abdominal pregnancy following ICSI with delivery of two
healthy viable fetuses: a case report. Eur J Obstet Gynecol Reprod Biol. 2011;
154(2):232–3. 47. Angelova MA, Kovachev EG, Kozovski I, Kornovski YD, Kisyov SV, Ivanova VR. A case of secondary abdominal pregnancy after In Vitro Fertilization Pre-
Embryo Transfer (IVF-ET). Open Access Maced J Med Sci. 2015;3(3):426–8. 48. Dalmia R, Murthy J, Orakwue C. A case of abdominal pregnancy following
in vitro fertilization in a patient with previous bilateral salpingectomy. IJMPCR. 2015;2(1):18–21. 49. Koyama S, Yoshino A, Okuno K, et al. A case of abdominal pregnancy
following in vitro fertilization and embryo transfer treated with laparoscopic
surgery. Gynecol Minim Invasive Ther. doi:10.1016/j.gmit.2015.04.006. 49. Koyama S, Yoshino A, Okuno K, et al. A case of abdominal pregnancy
following in vitro fertilization and embryo transfer treated with laparoscopic
surgery. Gynecol Minim Invasive Ther. doi:10.1016/j.gmit.2015.04.006. • We accept pre-submission inquiries
• Our selector tool helps you to find the most relevant journal
• We provide round the clock customer support
• Convenient online submission
• Thorough peer review
• Inclusion in PubMed and all major indexing services
• Maximum visibility for your research
Submit your manuscript at
www.biomedcentral.com/submit
Submit your next manuscript to BioMed Central
and we will help you at every step: Submit your next manuscript to BioMed Central
and we will help you at every step: • We accept pre-submission inquiries
• Our selector tool helps you to find the most relevant journal
• We provide round the clock customer support
• Convenient online submission
• Thorough peer review
• Inclusion in PubMed and all major indexing services
• Maximum visibility for your research
Submit your manuscript at
www.biomedcentral.com/submit
Submit your next manuscript to BioMed Central
and we will help you at every step: • We accept pre-submission inquiries
|
https://openalex.org/W2739024990
|
https://www.joe.uobaghdad.edu.iq/index.php/main/article/download/2633/1697
|
English
| null |
PARAMETRIC STUDY OF LAMINAR FREE CONVECTION IN HORIZONTAL ANNULUS WITH AND WITHOUT FINS ON THE INNER CYLINDER
|
Maǧallaẗ al-handasaẗ/Journal of engineering
| 2,010
|
cc-by
| 10,218
|
PARAMETRIC STUDY OF LAMINAR FREE CONVECTION IN
HORIZONTAL ANNULUS WITH AND WITHOUT FINS ON THE
INNER CYLINDER Jasim Mohammed Mehdi
Mechanical Engineering Department
University of Baghdad Asst. Prof. Dr. Saad M. Saleh
Mechanical Engineering Department
University of Baghdad Volume 16 June 2010 Volume 16 June 2010 Journal of Engineering Number 2 ABSTRACT An experimental and numerical study has been carried out to investigate the
heat transfer by natural convection in air-filled annulus between two horizontal
isothermal concentric cylinders with and without annular fins under steady state
conditions; the inner cylinder surface is maintained at a higher temperature and the
outer cylinder surface at a lower one. In the experimental study, the annulus inner surface is maintained at high
temperature by applying uniform heat flux to the inner cylinder while the annulus
outer surface is subjected to ambient temperature and maintained at low temperature. The experiments were curried out at a range of Rayleigh number (1.81×103 –
4.03×104) for case without fins and (1.08×103 – 2.94×104) for case with fins, at
different diameter ratios (η = 2.0, 2.6 and 3.0). The results showed that: (1) increasing
the diameter ratio(η) strongly increases the heat transfer rate, (2) increasing Rayleigh
number increases the heat transfer rate for any η and (3) attaching annular fins to the
inner cylinder surface of (No. of fins/cm) of 1.25 and (fin height/gap width) of 0.143, 0.186 and 0.286 reduced the mean Nusselt number ( Nu) within (16.3 - 29.7) percent
of that for the case without fins at the same Rayleigh number. In the numerical study,
only the case without fins was investigated. The buoyancy driven fluid flow resulting
from the temperature difference between the cylinders, is assumed to be steady,
laminar, two dimensional and symmetric about the vertical center-line. Only half of
the domain needs to be modeled from symmetry considerations. Navier-Stokes and
energy equations are expressed in vorticity-stream function form and discretized via
finite difference method. The Rayleigh number (based on gap width) varied from l02
to l05 with the influence of diameter ratio obtained near a Rayleigh number of 104. Results for the local and mean Nusselt number, the contour maps of the streamlines
and isotherms are presented, to show some of the flow and heat transfer
characteristics. The results numerically obtained showed a good agreement with the
present experimental data. 5199 S. M. Saleh Parametric Study Of Laminar Free Convection
J. M. Mehdi In Horizontal Annulus With And Without Fins
On The Inner Cylinder S. M. Saleh
J. M. ABSTRACT Mehdi Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder انخالصة
ْ أُجشَدْ
ْدساسحْػًهُحْوَظشَحْالسرمصاءْاَرمالْانذشاسجْتانذًمْانطثُؼٍْخاللْفجىجْدهمُحْيًهؤجْهىاءْذمغ
ْتٍُْاسطىاَرٍُْأفمُرٍُْيرذذذٍْانًشكضْتثثىخْدسجحْدشاسجْانسطذٍُْانذاخهٍْوْانخاسجٍْنهفجىجْوْتىجىدْو
ٌػذوْوجىدْصػاَفْدهمُح،ْذذدْششوغْدانحْاالسرمشاس،ْوأٌْذكىْ
ًْاالسطىاَحْانذاخهُحْراخْدسجحْدشاسجْأػه
يٍْانخاسجُح.ْ
فٍْانذساسحْانؼًهُحْذى
ْدفعْانسطخْانذاخهٍْنهفجىجْتذسجحْدشاسجْأػهًْػٍْغشَكْذسهُػْفُطْدشاسٌْيُرظى
ْػهً ْانسطخ ْانذاخهٍ ْنالسطىاَح ْانذاخهُح ْفًُا ْدفع ْانسطخ ْانخاسجٍ ْنهفجىج ْتذسجح ْدشاسج ْألم ْترؼشَط
ْاالسطىاَحْانخاسجُح
انًْدسجحْدشاسجْا
نجىْ. ٍُْأجشَدْانرجاسبْظًٍْيذيْنؼذدْسانٍْذشاوحْت(1.81×103 –
4.03×104)
ْنهذانح ْتذوٌ ْصػاَف، ْو(1.08×103 – 2.94×104)
ْ
ْنهذانح ْتىجىد ْصػاَف،و ْػُذ َْسثح
ألطاس2.0, 2.6 , 3.0)
.)
ٍُْأظهشخ ْانُرائج ْتاٌ ْصَادج َْسثح ْااللطاس ْذضَذ ْيٍ ْيؼذل ْاَرمال ْانذشاسج ْت
االسطْىاَرٍُ،ْكزنكْإٌَّ ْانضَادجْفٍْػذدْسانٍْذؤدٌْانًْصَادجْيؼذلْاَرمالْانذشاسجْالٌَْسثحْألطاس،ْوْإٌْاظافح
ْصػاَفْدهمُحْانًْاالسطىاَحْانذاخهُحْتشكمْذكًُهٍْتًؼذل1.25
ْ
ْصػُفحْنكمْسُرًرشْوادذْوْتُسثح(
ْاسذفاع
انضػُفحْ/سًكْانفجىجْ)
0.143, 0.186 , 0.286
َْْمهمْيٍْسلىَْسهدْ
ٍْانًؼذلْتذىان(16.3% - 29.7%)
ْ
يماسَحْتانذانحْتذوٌْصػاَفْوْنشلىْسانٍَْفسهْ. ْذُاوندْانذساسحْانُظشَحْدمْيسأنحْاَرمالْانذشاسجْتانذًمْانذش
ْخاللْفجىجْدهمُحْأفمُحْوْنهذانحْتذوٌْصػاَفْفمػْ،ْإرْذىْافرشاضْجشَاٌْانًائغْانُاشٍءْػٍْلىيْانطفىْو
َرُجحْنهفاسقْفٍْدسجحْدشاْسج ْاالسطىاَرٍُ،ْهىْجشَاٌْيسرمش،ْغثالٍْ،ْثُائٍْانثؼذْوْيرُاظشْدىلْانخػ
انًسرمُىْانشالىنٍْانًاسْتانًشكضْ.وَْرُجحْالػرثاساخْانرُاظشْفمػَْصفْوادذْيٍَْصفٍْانفجىجْأخعغْنهذساسحْ. ذى ْذًثُم ْيؼذالخ َْافُش-سرىكس ْتاالظافح ْانً ْيؼادنح ْانطالح ْتصُغح ْانذوايُح-ْدانح ْانجشَاٌ ْوْ
ْيٍ ْثى ْفُكد
تاسرخذاوْغشَمحْانفشولاخْانًذذدجْ. ٌْوْلذْذىْانذصىلْػهًَْرائجْيُثهدْتًخططاخْدانحْانجشَاٌْوخطىغْذساو
ٍدسجحْانذشاسج،ْوذىصَغْػذدَْسهدْانًىظؼْوْانًؼذلْ
ٍُْخاللْانفجىجْوألػذادْسانٍْذرشاوحْت102
ًْان105
ْ
ْو
ٍَسةْلطشْخاسجٍْإنًْلطشْداخه2.0, 2.6 , 3.0)
)ْ
ْ. ْتُُد
انُرائجْانرأثُشْانًهىْنهًرغُشاخ(
ْسلىْسانٍْوَْسثح
االلطاس)ػهًْػًهُحْاَرمالْانذشاسجْخاللْانفجىجْوْلذْ
ْأظهشخْانُرائجْانًسرذصهحْػذدَاًْذىافماًْجُذاًْيغْانُرائج
انؼًهُح.ْ ا ال
ْ أُجشَدْ
ْدساسحْػًهُحْوَظشَحْالسرمصاءْاَرمالْانذشاسجْتانذًمْانطثُؼٍْخاللْفجىجْدهمُحْيًهؤجْهىاءْذمغ
ْتٍُْاسطىاَرٍُْأفمُرٍُْيرذذذٍْانًشكضْتثثىخْدسجحْدشاسجْانسطذٍُْانذاخهٍْوْانخاسجٍْنهفجىجْوْتىجىدْو
ٌػذوْوجىدْصػاَفْدهمُح،ْذذدْششوغْدانحْاالسرمشاس،ْوأٌْذكىْ
ًْاالسطىاَحْانذاخهُحْراخْدسجحْدشاسجْأػه
يٍْانخاسجُح.ْ KEYWORDS: Free Convection, Fins, Laminar, Horizontal Annulus. INTRODUCTION Natural convection in the annulus between two horizontal concentric cylinders
has been investigated widely in the past owing to a number of practical applications
associated with this geometry such as heat transfer and fluid flow in parabolic
cylindrical solar collector, under-ground electrical transmission lines and pressurized
water reactors. Kuhen and Goldstein [1] carried out an experimental and numerical
investigation of natural convection heat transfer for air and water in concentric
horizontal annuli for values of Rayleigh number up to 107. Their work was carried out
for a diameter ratio equal to 2.6. In their experimental study, it was reported that the
transition from laminar to turbulent flow occurs at Rayleigh number equal to 106. Later, Hessami et al. [2] studied experimentally the free convection in a horizontal
annulus with a large diameter ratio of (11.4). The test fluids were air, glycerin and
mercury. This study was unique as they clamed because there are no experimental
details in the literature for η > 8.1. In addition, no experimental data exist for
mercury. Recently Nada [3] conducted an experimental study of natural convection
in horizontal and inclined annuli at Rayleigh number of (5×104≤RaDi≤5×105) for
different diameter ratios (η=1.85, 2.5 and 3.85) and different inclination angle of the
annulus (φ = 0˚, 30˚ and 60˚). The results showed that increasing the annulus gap
width strongly increases the heat transfer rate and the heat transfer rate slightly
decreases with increasing the inclination of the annulus from the horizontal. Also,
several numerical investigations of laminar natural convection in a concentric
horizontal annulus have been conducted [4–6]. In these previous works, maximum
transition time to attain steady state in underground electrical transmission lines, the 5200 Volume 16 June 2010 Journal of Engineering effects of variable properties on the laminar natural convection of gases in horizontal
isothermal annulus and the effect of application constant heat flux on the inner
cylinder as compared to an isothermal inner cylinder were studied. effects of variable properties on the laminar natural convection of gases in horizontal
isothermal annulus and the effect of application constant heat flux on the inner
cylinder as compared to an isothermal inner cylinder were studied. y
p
y
An essential restriction in natural convection in annulus is the heat transfer
limitation due to the fixed area of the inner and outer cylinders. NUMERICAL STUDY
Mathematical modeling NUMERICAL STUDY INTRODUCTION One approach
affecting heat transfer rate in annulus is to equip the surface of the inner cylinder with
some annular fins. From a practical point of view, the existence of such fins is of
interest due to the possibility of heat transfer augmentation in such geometry; but also
heat transfer reduction is expected since existence of fins will resist the natural
circulation inside the annulus. Patankar and Chai [7] studied the flow and heat
transfer for an annulus with six radial fins attached to inner cylinder at (Ra ≤ 106); for
two different orientations; the first is when two fins of the six are vertical and the
second is when two fins are horizontal. They observed that the orientation of the fins
has no significant effect on mean Nusselt number prediction, while the blockage due
to the presence of fins has a significant effect on the flow and temperature fields and
therefore on heat transfer. Their results indicate that the mean Nusselt number
decreases with increasing fin height. Rahinam and Farhadi [8] investigated the
effect of radial fins on heat transfer by turbulent natural convection for an annulus
with a number of radial fins ranged from 2 to 12 attached to inner cylinder. They
examined two different orientations used by Patankar and Chai [7] to reveal the effect
of fin height and fin orientation. The Rayleigh number considered in this study ranges
from 106 to 109. Their results show that the higher fin height has a blocking effect on
flow causing lower heat transfer rate. they concludes that there is a reduction of heat
transfer rate in all of the orientations considered in this study as compared to the case
of no fin at the same Rayleigh number. The main aim of the present experimental investigation is to determine the
effect of the annular fins, diameter ratio and Rayleigh number on mean Nusselt
number prediction across the annulus. The numerical study objectives are to develop
a mathematical model capable of predicting fluid flow and heat transfer in horizontal
concentric annuli without fins using finite difference method for a range of Rayleigh
numbers and diameter ratios. NUMERICAL STUDY Mathematical modeling The governing equations for the natural convection in the annulus between horizontal
concentric cylinders under steady-state conditions can be written as: [1]
0
v
r
1
ru
r
r
1
…..………………..………….…….….…… (1)
ru
r
r
1
r
μ
r
p
r
v
φ
u
r
v
r
u
u
ρ
2
o
0
v
r
1
ru
r
r
1
…..………………..………….…….….…… (1)
ru
r
r
1
r
μ
r
p
r
v
φ
u
r
v
r
u
u
ρ
2
o
cos
T
T
1
g
v
2
r
2
2
u
r
1
2
2
o
o
…............................... (2)
rv
r
r
1
r
r
p
uv
v
v
r
v
ru
ρo … (1)
cos
T
T
1
g
v
2
r
2
2
u
r
1
2
2
o
o
…............................... (2)
rv
r
r
1
r
r
p
uv
v
v
r
v
ru
ρo S. M. Saleh Parametric Study Of Laminar Free Convection
J. M. Mehdi In Horizontal Annulus With And Without Fins
On The Inner Cylinder
sin
T
T
1
r
g
u
r
2
v
r
1
2
2
o
o
……………................... NUMERICAL STUDY (3)
2
2
2
φ
T
r
1
r
T
r
r
1
α
φ
T
r
v
r
T
u
…….….………………… (4)
sin
T
T
1
r
g
u
r
2
v
r
1
2
2
o
o
……………................... (3)
2
2
2
φ
T
r
1
r
T
r
r
1
α
φ
T
r
v
r
T
u
…….….………………… (4) where the co-ordinate r is measured from the center of the system, and is measured
clockwise from the upward vertical line; as shown in Fig.(1). The use of vorticity–
streamfunction formulation can simplify the solution procedure. With the
streamfunction, the velocity components u and v can be expressed as
r
1
u
ْ,ْ
r
v
Furthermore, by setting Furthermore, by setting
r
R
ω
α
Ω
2
o
i
o
T
T
T
T
where α=k/ρc is the thermal diffusivity, δ is the gap between the cylinders and ω is
the vorticity, Equations (1)–(4) can be simplified as where α=k/ρc is the thermal diffusivity, δ is the gap between the cylinders and ω is
the vorticity, Equations (1)–(4) can be simplified as
R
sin
R
cos
Ra
R
V
R
U
Pr
1
2
............................ (5) (5)
2
…………………..…….…………………......……… (6)
R
1
U
,
R
V
………………..………………..………... (7)
R
V
R
U
2
………………………....……………………. (8)
2
…………………..…….…………………......……… (6)
R
1
U
,
R
V
………………..………………..………... (7)
R
V
R
U
2
………………………....……………………. NUMERICAL STUDY (8) (6) is Laplacian in polar coordinates and defined as;
2
2
2
2
2
2
R
1
R
R
1
R
is Laplacian in polar coordinates and defined as;
2
2
2
2
2
2
R
1
R
R
1
R
The dimensionless parameters appearing in the Equations (5)–(8) are the Prandtl
number Pr = ν/α and the Rayleigh number Ra = gβ(Ti-To)δ3/αν. For the natural convection in an annulus between two concentric cylinders, the flow is
symmetric with respect to the vertical centerline. Thus, half of the annulus can be
taken as the computational domain, i.e. attention is restricted to (0 < < ). The boundary conditions on two impermeable isothermal walls are given by 0
V
U
2
2
R
1
0
V
U
2
2
R
1
on the inner cylinder and 5202 Volume 16 June 2010
Number 2 Volume 16 June 2010
Number 2 Journal of Engineering 0
V
U
2
2
R
0
0
V
U
2
2
R
0
on the outer cylinder. When half of the annulus is taken as the computational domain,
the following symmetric condition is applied along two vertical lines of symmetry at
0
and
: on the outer cylinder. When half of the annulus is taken as the computational domain,
the following symmetric condition is applied along two vertical lines of symmetry at
0
and
: 0
and
: 0
and
: 0
V
U
0
0
The local and mean Nusselt number on inner cylinder surface is respectively
expressed by the equations below: [4] i
R
R
R
Nu
…………………………………..….…….…… (9)
0
d. Nu
1
___
Nu
…………………………….…..…………..… (10) (9) Simpson rule has been used to compute mean Nusselt number. Numerical solution A finite difference method (FDM) is used to descretize system of the partial
differential equations (5 through 8) into algebraic equations system. The new algebra
equations system will be solved using iterative under relaxation method, to give
approximate values of the dependent variables at a number of discrete points called
(grid points or nodes) in the computational domain. A grid was established by
subdividing the computational domain in the R and directions with indexes i and j
that are integers describing the number of radial grid lines from the inner cylinder and
the number of angular grid lines from the top symmetry line respectively, as shown in
Fig.(4.2).The spacing of the grid lines in the R-direction is uniform and given by ΔR
and that of the grid lines in the -direction is also uniform and given by Δ. The
number of the grid points will be [m × n] where (m) represents the number of
gridlines in the R-direction and equals
1
)
R
1(
while (n) represents the number of
gridlines in the -direction and equals
1
)
(
. The partial differential equations (5)-(8) were finite-differenced using central
difference schemes for all of the derivatives. In particular, let represents
,
,
or, then R
2
R
j,1
i
j,1
i
,
2
1
j,i
1
j,i
,
R
2
2
R
j,1
i
j,i
j,1
i
2
2
and
2
2
1
j,i
j,i
1
j,i
2
2
Equations (5)-(8) were put in the form convenient for iterations with under relaxation
2 Equations (5)-(8) were put in the form convenient for iterations with under relaxation
method as; Equations (5)-(8) were put in the form convenient for iterations with under relaxation
method as;
j,i
j,i
2
1
j,i
1
j,i
3
j,1
i
2
j,1
i
1
j,i
j,i
1
h
R
h
h
h
..…. Numerical solution (13) Where h1-h13 are parameters from the discretization; Where h1-h13 are parameters from the discretization; h
R
2
R
1
h
i
1
h
R
2
R
1
h
i
2
h
R
R
1
h
2
2
i
3
R
R
1
1
2
h
2
h
R
2
R
1
h
i
1
h
R
2
R
1
h
i
2
h
R
R
1
h
2
2
i
3
h
U
Pr
2
R
R
2
R
1
h
j,i
i
4
h
U
Pr
2
R
R
2
R
1
h
j,i
i
5
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
6
R
R
1
1
2
h
2
h
R
2
R
1
h
i
1
h
R
2
R
1
h
i
2
h
R
R
1
h
2
2
i
3
h
U
Pr
2
R
R
2
R
1
h
j,i
i
4
h
U
Pr
2
R
R
2
R
1
h
j,i
i
5
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
6
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
7
h
/
sin
2
R
Ra
h
j
8
h
/
cos
R
2
R
Ra
h
j
i
2
9
h
U
2
R
R
2
R
1
h
j,i
i
10
h
U
2
R
R
2
R
1
h
j,i
i
11
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
12
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
13
R
R
1
1
2
h
2
h
R
2
R
1
h
i
1
h
R
2
R
1
h
i
2
h
R
R
1
h
2
2
i
3
h
U
Pr
2
R
R
2
R
1
h
j,i
i
4
h
U
Pr
2
R
R
2
R
1
h
j,i
i
5
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
6
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
7
h
/
sin
2
R
Ra
h
j
8
h
/
cos
R
2
R
Ra
h
j
i
2
9
h
U
2
R
R
2
R
1
h
j,i
i
10
h
U
2
R
R
2
R
1
h
j,i
i
11
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
12
R
R
2
i
R
2
i
R i
h
U
Pr
2
R
R
2
R
1
h
j,i
i
4
h
U
Pr
2
R
R
2
R
1
h
j,i
i
5
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
6
h
U
Pr
2
R
R
2
R
j,i
i
h
U
Pr
2
R
R
2
R
1
h
j,i
i
5
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
6
h
U
Pr
2
R
R
2
R
1
h
j,i
i
4
h
U
Pr
2
R
R
2
R
1
h
j,i
i
5
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
i
6
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
7
h
/
sin
2
R
Ra
h
j
8
h
/
cos
R
2
R
Ra
h
j
i
2
9
h
U
2
R
R
2
R
1
h
j,i
i
10
h
U
2
R
R
2
R
1
h
j,i
i
11
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
12
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
7
h
/
sin
2
R
Ra
h
j
8
h
/
cos
R
2
R
Ra
h
j
i
2
9
h
U
2
R
R
2
R
1
h
j,i
i
10
h
U
2
R
R
2
R
1
h
j,i
i
11
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
12
R
R
1
2
2
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
7
h
/
sin
2
R
Ra
h
j
8
h
/
cos
R
2
R
Ra
h
j
i
2
9
h
U
2
R
R
2
R
1
h
j,i
i
10
h
U
2
R
R
2
R
1
h
j,i
i
11
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
12
h
V
R
Pr
2
R
R
R
1
h
j,i
i
2
2
2
i
7
h
/
sin
2
R
Ra
h
j
8
h
/
cos
R
2
R
Ra
h
j
i
2
9
h
U
2
R
R
2
R
1
j,i
i
h
U
2
R
R
2
R
1
h
j,i
i
11
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
12
h
V
R
2
R
R
R
1
h
j,i
i
2
2
2
i
13
and
,
and
are relaxation factors chosen from numerical experiments as: 07
.0
,8.0
&
7.0
. Numerical solution (11) 5203 S. M. Saleh Parametric Study Of Laminar Free Convection
J. M. Mehdi In Horizontal Annulus With And Without Fins
On The Inner Cylinder S. M. Saleh Parametric Study Of Laminar Free Convection
J. M. Mehdi In Horizontal Annulus With And Without Fins
On The Inner Cylinder Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder
j,i
1
j,i
7
1
j,i
6
j,1
i
5
j,1
i
4
j,i
j,i
1
h
h
h
h
1
j,i
1
j,i
9
j,1
i
j,1
i
8
h
h
……………. (12)
j,i
1
j,i
13
1
j,i
12
j,1
i
11
j,1
i
10
j,i
j,i
1
h
h
h
h
…......................... (13)
j,i
1
j,i
13
1
j,i
12
j,1
i
11
j,1
i
10
j,i
j,i
1
h
h
h
h
…......................... Numerical solution 07
.0
,8.0
&
7.0
. These values of relaxation factors have been found to stabilize the computation
procedure for Rayleigh number ranges (102 - 105) and increase considerably the rate
of convergence. Number of iterations ranges (1000 - 1500) was enough to attain the
required convergence. For the cases when Ra was increased to a critical value which
was beyond the experimentally known laminar flow regime (Ra > 105) the solution
diverged and the method becomes unstable. During the computation, because of the slow rate of convergence for the
stream function and vorticity compared with that of temperature, iteration was
performed in weighted cyclic pattern as
.The convergence
criteria needed for termination of the computation were preassigned as: 5
1
10
/)
(
,
5
1
10
/)
(
and
5
1
10
/)
(
5
1
10
/)
(
,
5
1
10
/)
(
and
5
1
10
/)
(
The calculations were performed on P4-computer using MATLAB-7 software. 5204 Number 2 Volume 16 June 2010 Journal of Engineering EXPERIMENTAL STUDY
Experimental apparatus p
pp
The apparatus was designed and constructed specially for investigating the effect of
Rayleigh number, diameter ratio and existing of annular fins on the natural
convection heat transfer between two horizontal concentric cylinders of constant wall
temperature under steady state conditions. The experimental apparatus is
diagrammatically shown in Fig.(2). The test-section consists of a fixed (27mm)
outside diameter, (5 mm) thick and (200 mm) long aluminium inner cylinder to which
one of three different aluminium outer cylinders (200 mm) long, (4 mm) thick with
55,70 and 82 mm outside diameter were assembled to yield diameter ratios of 2, 2.6
and 3, respectively. The inner cylinder was made in two configurations, one in which
the inner cylinder is being unfinned and another in which it being finned. Finned
inner cylinder, shown in plate (1), is fixed to one of three different outer cylinders
mentioned above, to give (fin height/gap width) of 0.286, 0.186 and 0.143.The test
section is mounted on a wooden supporting-frame and stored horizontally with aid of
a sprit level. The inner cylinder was heated by passing an alternative current through
a 0.2-mm-dia, 5-m-length, 95-ohm nichrome wire wounded as spiral inside glass
tube, (8 mm) in diameter and (190 mm) long. The heater, i.e. the glass tube and the
nichrome wire, was mounted concentrically in the inner cylinder by two fictile pieces. The space between the glass tube and the inside surface of inner cylinder, also the
space inside glass tube was filled by very fine sand to avoid generation of heat
convection in it and to smooth any irregularities in the heat flux generated from the
heater. The heater was connected in series to the power supply to ensure that
incoming mains voltage is constant (220 V), and in parallel with the variac to adjust
the heater input voltage as required. The voltage and current supplied to the heater
were measured by digital voltmeter and ammeter of accuracy ± 0.05 volt and ± 5×10-4
ampere. Temperatures on the inner and the outer cylinder surfaces were measured by
thermocouples type T; several holes of (1.5 mm) in diameter were cut over along the
surface of the cylinders to accommodate thermocouples .These holes are distributed
as follows: 1. EXPERIMENTAL STUDY
Experimental apparatus Six holes of (5 mm) deep on the surface of unfinned inner cylinder; two located at
a distance of (30 mm) from the ends and four at the mid-plane 90° apart between
them. 1. Six holes of (5 mm) deep on the surface of unfinned inner cylinder; two located at
a distance of (30 mm) from the ends and four at the mid-plane 90° apart between
them. 2. Six holes on the surface of finned inner cylinder, two of (5 mm) deep, located at a
distance of (30 mm) from the ends and four of (9 mm) deep at the mid-plane 90°
apart between them. 2. Six holes on the surface of finned inner cylinder, two of (5 mm) deep, located at a
distance of (30 mm) from the ends and four of (9 mm) deep at the mid-plane 90°
apart between them. p
3. Four of (2 mm) deep on the outer cylinder surface; two located at a distance of (30
mm) from the ends and two at the mid-plane 180° apart between them. p
p
The ends of the test-section were plugged with Teflon (an insulating material) pieces
in order to minimize the axial end losses and to mount the inner cylinder
concentrically inside the outer cylinder. The Teflon piece is a disc (85 mm) in
diameter and (20 mm) thick, cut out radially in a (10 mm) thick to get a diameter
equal to the inside diameter of the outer cylinder, and drilled axially in a distance of
(10 mm) and diameter of (27 mm) to get a diameter equal to the outside diameter of
the inner cylinder. A hole of (5 mm) in diameter was drilled axially in each Teflon
piece to draw the heater terminals and the thermocouples lead outside the test-section. Two thermocouples (type T) were fixed on the inside and outside surface of each
teflon piece to estimate conduction heat losses from the test section ends. The
distance between these thermocouples was 14 mm. knowing the thermal conductivity
of the teflon; the ends conduction losses could thus be calculated. The ends of the test-section were plugged with Teflon (an insulating material) pieces
in order to minimize the axial end losses and to mount the inner cylinder
concentrically inside the outer cylinder. EXPERIMENTAL STUDY
Experimental apparatus The Teflon piece is a disc (85 mm) in
diameter and (20 mm) thick, cut out radially in a (10 mm) thick to get a diameter
equal to the inside diameter of the outer cylinder, and drilled axially in a distance of
(10 mm) and diameter of (27 mm) to get a diameter equal to the outside diameter of
the inner cylinder. A hole of (5 mm) in diameter was drilled axially in each Teflon
piece to draw the heater terminals and the thermocouples lead outside the test-section. Two thermocouples (type T) were fixed on the inside and outside surface of each
teflon piece to estimate conduction heat losses from the test section ends. The
distance between these thermocouples was 14 mm. knowing the thermal conductivity
of the teflon; the ends conduction losses could thus be calculated. 5205 S. M. Saleh Parametric Study Of Laminar Free Convection
J. M. Mehdi In Horizontal Annulus With And Without Fins
On The Inner Cylinder S. M. Saleh
J. M. Mehdi S. M. Saleh
J. M. Mehdi S. M. Saleh
J. M. Mehdi Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder Experimental Procedure Components of experimental rig were assembled in a windowless large room, free
of air currents, to avoid occurrence of fluctuations in the room temperature. The following Procedure steps have been followed in each test run: Mount the inner cylinder to appropriate outer cylinder to obtain a certain
diameter ratio. Mount the inner cylinder to appropriate outer cylinder to obtain a certain
diameter ratio. Adjust the input power to the heater to obtain a certain Rayleigh number. Allow the test to run for a period until steady state condition was achieved. The steady state condition was considered to be achieved when the differences
in the measured temperatures were not more than 0.2 °C over 30 min. In all
the experiments, the steady state condition period was within 3–4 hours. After steady state condition has been established, the readings of all
thermocouples, the input power and the ambient temperature were recorded. After steady state condition has been established, the readings of all
thermocouples, the input power and the ambient temperature were recorded. Repeat steps 2–4 for nine different Rayleigh numbers. Repeat steps 2–5 twice, once for case without fins and another for case with
fins. Repeat steps 2–5 twice, once for case without fins and another for case with
fins. Repeat steps 1–6 three times for different diameter ratio; 2.0, 2.6 and 3.0 . Numerical Results Left sides of Figs. (7) - (11) present streamlines at η=3.0 for different values
of Rayleigh number (102-105). Fig.(7) depicts the streamlines at Rayleigh number of
102 which form a single ce11 rotates clockwise. This cell does not occupy uniformly
the whole gap width. At this value of Rayleigh number the buoyancy force is very
small to influence the temperature field and develop a fluid motion inside the annulus
.A transition region exists for Rayleigh number between 103 and 104, Figs.(8-9). In
this region, the flow remains in essentially the same pattern but become strong
enough to influence the temperature field. As the Rayleigh number increases to 104 -
105, Figs.( 9-10), A steady laminar boundary layer exists and the flow tends to occupy
more uniformly the whole cavity and the center of circulation which defined as the
point of the extremum of the stream function, begins to move higher up toward the
upper symmetry line . The lower portion of the gap looks to be streamlines-free
because this region is filled with a cold fluid and becomes stagnant. It is stagnant
because the viscosity forces overcome the buoyancy forces and inhibit the fluid
motion through it. Right sides of Figs. (7) - (11) show the isotherms for diameter ratio of 3.0
with different values of Rayleigh numbers (102-105). For smaller Rayleigh number
(102), the velocity is too small to affect the temperature distribution which remains
essentially as in pure conduction. This makes the convection term in Eq.(8) vanish,
therefore Eq.(8) can be approximated by
0
2
, so the isotherms are almost
uniformly concentric as shown in Fig.(7). For Rayleigh number of Ra=103, the
isotherms indicates that the conduction stills the dominant heat transfer mechanism in
the cavity. In other words, buoyancy forces are not strong enough to trigger
significant convection. As the Rayleigh numbers increase to 104, convection becomes
dominant mode of heat transfer, and stronger recirculation for the fluid will be
occurred making the outer fluid layer warmer than the inner one causing at the core
so called temperature reversal phenomenon. This phenomenon is depicted by
isotherms of Figs.(9),(10) and (11). It is noticed in Figs.(10) and (11) that the
isotherms are spaced more closely against the bottom of the inner cylinder and top of
the outer cylinder, where the inner and outer cylinder thermal boundary layers are,
respectively, thinnest. Experimental Results Fig.(3) shows the variation of mean Nusselt number
Nu with Ra for
different diameter ratios. This figure shows that for any diameter ratio,
Nu generally
increases with increasing Rayleigh number. Fig.(4) shows that ( Nu) increases with increasing diameter ratio, and also
shows that the curves of the different diameter ratios converge to each others as Ra
decreases. This means that the effect of the diameter ratio on the heat transfer rate
decreases with decreasing Ra. Figs.(5) show the influence of attaching fins on inner cylinder surface on
mean Nusselt number prediction . This figure indicates that there is a reduction in
mean Nusselt number in the presence of fins as compared with case without fins. For
the same value of Rayleigh number, reduction in Nusselt number may be ranged
between (16.3% - 29.7%).The reason for this reduction is although the annular fins
increase the surface area; they also resist the airflow. This resistance has been caused
a decrease in heat transfer coefficient more than the increase in the surface area; as a
consequence lower heat transfer rate was resulted. Fig.(6) presents the effect of the ratio (fin height/gap width) on mean Nusselt
number. At a lower value of fin height (14.3 percent of gap width) the mean Nusselt
number seems to be relatively larger. One can conclude as the (fin height/gap width)
increase the heat transfer coefficient decreases, this probably because of a larger (fin
height/gap width) mean more obstruction for the fluid motion inside the cavity;
consequently less convective heat transferred from inner cylinder. 5206 Number 2 Volume 16 June 2010 Journal of Engineering Effect of diameter ratio The left side of Fig.(14) illustrates the flow patterns moving inside the gap. Although the flow pattern does not change significantly, the center of rotation moves
towards the top with increasing diameter ratio. That mean as the diameter ratio
increases the flow become stronger. g
Fig.(15) illustrates the effect of increasing η on local Nusselt number
distribution around the inner cylinder circumference. It can be seen from this figure
that for all the cases decreasing the diameter ratio decreases the local Nusselt number
since the resistance to the circulation motion of the convection cells increases as η
decreases and this leads to slower replacement of the hot air adjacent to the inner
annulus surface by the cold air adjacent to the annulus outer surface and this results in
a decrease of the heat transfer rate. Comparison of present numerical and experimental results
Nu
Exp. Num. % Dev. η =2.0 Ra = 1.81×103 1.823
1.653 9.3
η =2.0 Ra = 5.76×103 2.656
2.406 10.4
η =2.6 Ra = 5.40×103 2.933
2.766
5.6
η =2.6 Ra = 1.76×104 4.086
3.813
6.6
η =3.0 Ra = 1.14×104 3.662
3.796
3.6
η =3.0 Ra = 4.03×104 4.880
5.184
6.2
%Dev. = ((exp. value – num. value) / exp. value) × 100% Comparison of present numerical and experimental results Numerical Results This mean maximum heat transfer from inner cylinder is from
its lower portion while maximum heat transfer to outer cylinder is from upper
portion; therefore heat is being essentially convected from lower portion of the inner
cylinder to the top of the outer cylinder. In comparison of isotherms in Figs.(10) and
(11) one can conclude as Rayleigh number increases isotherms at the lower portion of
the inner cylinder and at the upper portion of the outer cylinder are further
compressed. Fig.(12) illustrates the distribution of local Nusselt number along the
circumstance of the inner cylinder for the cases of Rayleigh number of 103, 104,
5×104 &105 .The local Nusselt number has an increasing trend from the top (0°-
position) to the bottom (180°-position), where the highest values are reached. There
are three regions can be distinguished in Fig.(12):
First region
o
o
180
140
, in this region local Nusselt number is relatively
constant since the inner boundary layer is of relative uniform thickness (see
i
th
)
d i
littl
i ti
i l
l N
lt di t ib ti Fig.(12) illustrates the distribution of local Nusselt number along the
circumstance of the inner cylinder for the cases of Rayleigh number of 103, 104,
5×104 &105 .The local Nusselt number has an increasing trend from the top (0°-
position) to the bottom (180°-position), where the highest values are reached. There
are three regions can be distinguished in Fig.(12):
First region
o
o
180
140
, in this region local Nusselt number is relatively
constant since the inner boundary layer is of relative uniform thickness (see
isotherms), and gives a little variation in local Nusselt distribution.
Second region
o
o
140
10
, in this region local Nusselt number looses the
uniformity and a large gradient in its distribution can be observed, this because the 5207 S. M. Saleh
J. M. Mehdi Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder inner boundary layer get thicker in this region since heat removal by fluid decreases
as the fluid scends up
Third region
o
o
10
0
, here values of local Nusselt number approach to its
minimum values, this due to formation of plume in this region. Numerical Results formation of the
plume occurs where the two convective currents coming from the two annulus halves,
impinging with each other and moving together upward without mixing, leaving a
relatively stagnant region under impinging point. This behavior is roughly similar for
most of Rayleigh numbers. Fig.(13) illustrate the relation between mean Nusselt number and Rayleigh
number at η = 3.0. Nu is nearly constant at (102 <Ra< 103) because of the
predominance of conduction mode on heat transfer process. Beyond Ra of 5×103
convection become predominant mechanism and Nubegins to largely increase. CONCLUSIONS CONCLUSIONS
Natural convection heat transfer between two horizontal concentric cylinders with
and without annular fins attached to the inner cylinder was investigated numerically
(for case without fins only) and experimentally (for both cases) under steady-state
conditions. The experimental results showed that annular fins of (No. of fins/cm) of
1.25 and (fin height/gap width) of 0.143, 0.186 and 0.286 have negative effect on heat 5208 Volume 16 June 2010 Journal of Engineering transfer results and cause a reduction in mean Nusselt number within (16.3 – 29.7)
percent of that for the case without fins at the same Rayleigh number, and higher (fin
height/gap width) has some blocking effect on fluid motion inside the cavity,
therefore If there is a tendency toward reducing heat transfer rate between the
horizontal concentric cylinders, it is better to use high (fin height/gap width). The
numerical results showed that the heat is essentially transferred from the bottom of
the inner cylinder to the top of the outer cylinder owing to the strong convective
motion due to the buoyancy at these positions and decreasing of the diameter ratio
increase the resistances to the circulation motion which leads to slower replacement
of the hot air adjacent to the inner cylinder by the cold air adjacent to the outer
cylinder and this results in a decrease of the heat transfer rate. Rahnam, M. and Farhadi, M., “Effect of Radial Fins on Two-Dimensional
Turbulent Natural Convection in A Horizontal Annulus”, Int. J. Thermal
Sciences, Vol. 43, Pp. 255-264, 2004. REFERENCES Kuehn, T. H. and Goldstein, R. J., “An Experimental and Theoretical Study
of Natural Convection in the Annulus between Horizontal Concentric
Cylinders”, J. Fluid Mech., Vol. 74, Part 4, Pp. 695-719, 1976. Hessami, M. A., Pollard, A. and Rowe, R.W., “A Study of Free Convective
Heat Transfer in A Horizontal Annulus with A Large Radii Ratio”, ASME, J. Heat Transfer, Vol. 107, Pp. 603-610, 1985 Nada, S. A., “Experimental Investigation of Natural Convection Heat
Transfer In Horizontal and Inclined Annular Fluid Layers”, Int. J. Heat Mass
Transfer, Vol. 50, 2007. Nada, S. A., “Experimental Investigation of Natural Convection Heat
Transfer In Horizontal and Inclined Annular Fluid Layers”, Int. J. Heat Mass
Transfer, Vol. 50, 2007. Tsui, Y. T. and Tremblay, B., “Transient Natural Convection Heat Transfer
in the Annulus between Concentric Horizontal Cylinder with Isothermal
Surfaces”, Int. J. Heat Mass Transfer, Vol. 27, No. 1, Pp. 103-111, 1984. Mahony, D.N., Kumar, R., and Bishop, E. H., “Numerical Investigation of
Variable Property Effects on Laminar Natural Convection of Gases between
Two Horizontal Concentric Cylinders”, ASME, J. Heat Transfer, Vol. 108,
Pp. 783-789, November 1986. Kumar, R., “Study of Natural Convection in Horizontal Annuli”, Int. J. Heat
Mass Transfer, Vol. 31, No.6, Pp. 1137-1148, 1988. Kumar, R., “Study of Natural Convection in Horizontal Annuli”, Int. J. Heat
Mass Transfer, Vol. 31, No.6, Pp. 1137-1148, 1988. Patankar, S.V. and Chai, J.C., “Laminar Natural Convection in Internally
Finned Horizontal Annulus”, Numerical Heat Transfer, Vol. 24, Pp. 67–87,
1993. Patankar, S.V. and Chai, J.C., “Laminar Natural Convection in Internally
Finned Horizontal Annulus”, Numerical Heat Transfer, Vol. 24, Pp. 67–87,
1993. Rahnam, M. and Farhadi, M., “Effect of Radial Fins on Two-Dimensional
Turbulent Natural Convection in A Horizontal Annulus”, Int. J. Thermal
Sciences, Vol. 43, Pp. 255-264, 2004. 5209 S. M. Saleh
J. M. Mehdi Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder Padilla, E. L. M., Campregher, R. And Silveira-Neto, A., “Numerical
Analysis of Natural Convection in Horizontal Annuli at Low and Moderate
Rayleigh Numbers”, Thermal Engineering, Vol. 5, No.4, Pp. 58-65, 2006. Padilla, E. L. M., Campregher, R. And Silveira-Neto, A., “Numerical
Analysis of Natural Convection in Horizontal Annuli at Low and Moderate
Rayleigh Numbers”, Thermal Engineering, Vol. 5, No.4, Pp. 58-65, 2006. Teertstra, P. And Yovanovich, M. REFERENCES M., “Comprehensive Review of Natural
Convection in Horizontal Circular Annuli”, University Of Waterloo, 1998. Teertstra, P. And Yovanovich, M. M., “Comprehensive Review of Natural
Convection in Horizontal Circular Annuli”, University Of Waterloo, 1998. Roach. , P.J. “Computational Fluid Dynamics”, Hermosa, Albuquerque, New
Mexico, 1985. Roach. , P.J. “Computational Fluid Dynamics”, Hermosa, Albuquerque, New
Mexico, 1985. Roach. , P.J. “Computational Fluid Dynamics”, Hermosa, Albuquerque, New
Mexico, 1985.
،انشمري،منار صانح” دراسة نظرية و عمهية النتقال انحرارة بانحمم انحر خالالل جوال ة قهقيالة ما هالة
“
، أطروقة ماجستير، جامعة تكريت5002
. NOMENCLATURE NOMENCLATURE
D
diameter
Δ
laplacian in polar coordinates
g
acceleration
η
diameter ratio
m
number of gridlines in R-direction
ν
kinematic viscosity
n
number of gridlines in -direction
ω
vorticity
Nu
local Nusselt number
Ω
dimensionless vorticity
Nu
mean Nusselt number
ψ
stream-function
p
pressure
Ψ
dimensionless stream-function
Pr
Prandtl number
ρ
density
Ra
Rayleigh number base on gap width
θ
dimensionless temperature
RaDi Rayleigh number based on annulus
inner diameter
Subscripts
i
radial mesh point
r
radial coordinate
j
angular mesh point
R
dimensionless radial coordinate
i
inner cylinder
T
temperature
o
degree
u,v
velocity
components
in
R-,
-
directions
o
outer cylinder
Superscripts
U,V dimensionless velocity components in
R-, -directions
current iteration number
1
next iteration number
Greek symbols
−
mean
α
thermal diffusivity
β
thermal expansion coefficient
δ
gap width 5210 Volume 16 June 2010
Number 2 Volume 16 June 2010 Number 2 Journal of Engineering Fig.(1) Physical and Coordinate system
To
Ti
ro
π
ri
r
0 Fig.(1) Physical and Coordinate system (7)
(6)
(5)
(4)
(3)
(2)
(1)
(1) Stabilizer
(2) Variac
(3) Voltmeter
(4) Ammeter
(5) Test Section
(6) Selector Switch
(7) Digital Thermometer
Fig. (2) Schematic diagram of experimental apparatus (7)
(6)
(5)
(4)
(3)
(2)
(1)
(1) Stabilizer
(2) Variac
(3) Voltmeter
(4) Ammeter
(5) Test Section
(6) Selector Switch
(7) Digital Thermometer
Fig. (2) Schematic diagram of experimental apparatus Fig. (2) Schematic diagram of experimental apparatus Plate (1) Inner finned cylinder
Fig. (2) Schematic diagram of experimental apparatus Plate (1) Inner finned cylinder Plate (1) Inner finned cylinder Plate (1) Inner finned cylinder 5211 S. M. Saleh
J. M. Mehdi Parametric Study Of Laminar Free Convection
In Horizontal Annulus With And Without Fins
On The Inner Cylinder J. M. REFERENCES Mehdi In Horizontal Annulus With And Without Fins
On The Inner Cylinder
5212
0
0.5
1
1.5
2
2.5
3
3.5
4
4.5
x 10
4
0
1
2
3
4
5
6
7
Ra
Mean Nu
= 2.0
= 2.6
= 3.0
Exp. data
Fig (3) Mean Nusselt number as a function of
Rayleigh number
0
180
90
0.046539
0.093077
0.13962
0.18615
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (7) Isotherms and streamlines at η=3.0 ,
Ra=102
0.5
1
1.5
2
2.5
3
3.5
4
x 10
4
0
1
2
3
4
5
6
7
RaDi
Mean Nu
=2.0
=2.6
=3.0
Exp. data
Fig (4) Effect of diameter ratio on mean Nusselt
number predictions
0
180
90
0.45404
1.3621
1.8161
0.90807
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (8) Isotherms and streamlines at η=3.0 ,
Ra=103
0
0.5
1
1.5
2
2.5
3
3.5
4
x 10
4
0
1
2
3
4
5
6
7
Ra
Mean Nu
= 2.0
= 2.6
= 3.0
case without fins
case with fins
Exp. data
Fig (5) Effect of annular fins on mean Nusselt
number predictions
0
180
90
2.4232
4.8465
7.2697
9.6929
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (9) Isotherms and streamlines at η=3.0 ,
Ra=104
0.5
1
1.5
2
2.5
3
3.5
4
x 10
4
0
0.5
1
1.5
2
2.5
3
3.5
4
4.5
5
RaDi
Mean Nu
Fin height
fin height=0.143
fin height=0.186
fin height=0.286
Exp. data
Fig (6) Effect of (fin height/gap width) on mean
Nusselt number predictions
0
180
90
4.3969
13.1908
17.5878
8.7939
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (10) Isotherms and streamlines at η=3.0 ,
Ra=5×105
0
180
90
0.046539
0.093077
0.13962
0.18615
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (7) Isotherms and streamlines at η=3.0 ,
Ra=102
0
0
0.5
1
1.5
2
2.5
3
3.5
4
4.5
x 10
4
0
1
2
3
4
5
6
7
Ra
Mean Nu
= 2.0
= 2.6
= 3.0
Exp. REFERENCES data Fig (3) Mean Nusselt number as a function of
Rayleigh number Fig (3) Mean Nusselt number as a function of
Rayleigh number Fig (7) Isotherms and streamlines at η=3.0 ,
Ra=102
0 0.5
1
1.5
2
2.5
3
3.5
4
x 10
4
0
1
2
3
4
5
6
7
RaDi
Mean Nu
=2.0
=2.6
=3.0
Exp. data
i (4) Eff
f di
i
N
l 180
90
0.45404
1.3621
1.8161
0.90807
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (8) Isotherms and streamlines at η=3.0 ,
Ra=103
0
i
Fig (4) Effect of diameter ratio on mean Nusselt
number predictions i
Fig (4) Effect of diameter ratio on mean Nusselt
number predictions Fig (8) Isotherms and streamlines at η=3.0 ,
Ra=103
0 0
0.5
1
1.5
2
2.5
3
3.5
4
x 10
4
0
1
2
3
4
5
6
7
Ra
Mean Nu
= 2.0
= 2.6
= 3.0
case without fins
case with fins
Exp. data
Fig (5) Effect of annular fins on mean Nusselt Fig (5) Effect of annular fins on mean Nusselt
number predictions Fig (5) Effect of annular fins on mean Nusselt
number predictions Fig (9) Isotherms and streamlines at η=3.0 ,
Ra=104
0 p
0.5
1
1.5
2
2.5
3
3.5
4
x 10
4
0
0.5
1
1.5
2
2.5
3
3.5
4
4.5
5
RaDi
Mean Nu
Fin height
fin height=0.143
fin height=0.186
fin height=0.286
Exp. REFERENCES data
Fig (6) Effect of (fin height/gap width) on mean
Nusselt number predictions 180
90
4.3969
13.1908
17.5878
8.7939
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (10) Isotherms and streamlines at η=3.0 ,
Ra=5×105
180
90
4.3969
13.1908
17.5878
8.7939
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (10) Isotherms and streamlines at η=3.0 ,
Ra=5×105
180
Fig (10) Isotherms and streamlines at η=3.0 ,
Ra=5×105 180
Fig (10) Isotherms and streamlines at η=3.0 ,
Ra=5×105 Fig (6) Effect of (fin height/gap width) on mean
Nusselt number predictions Fig (6) Effect of (fin height/gap width) on mean
Nusselt number predictions 5212 Volume 16 June 2010
Number 2 Volume 16 June 2010
Number 2 Volume 16 June 2010 Journal of Engineering 0
180
90
5.366
10.732
16.098
21.464
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (11) Isotherms and streamlines at η=3.0,
Ra=105
20
40
60
80
100
120
140
160
180
0
1
2
3
4
5
6
7
8
9
10
(Deg.)
Nu
Ra = 103
Ra = 104
Ra = 5104
Ra = 105
Fig (12) local Nusselt number distribution
around the circumference of the inner cylinder
at η=3.0 and different Rayleigh numbers
10
2
10
3
10
4
10
5
0
1
2
3
4
5
6
7
8
Ra
Mean Nu
Fig (5.27) Mean Nusselt number versus
Rayleigh number at η=3.0
0
20
40
60
80
100
120
140
160
180
0
1
2
3
4
5
6
7
8
(Deg.)
Nu
Ra = 104
= 2.0
= 2.6
= 3.0
Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0
and Ra=104
0
180
90
3.0096
6.0191
9.0287
12.0383
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-a-
0
180
90
2.5855
7.7564
10.3419
5.171
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-b-
0
180
90
2.4232
4.8465
7.2697
9.6929
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-c-
Fig (15) Streamlines and isotherms for Ra=104 at: a- η=2.0, b- η=2.6 and c- η=3.0
0
180
90
5.366
10.732
16.098
21.464
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
Fig (11) Isotherms and streamlines at η=3.0,
Ra=105
20
40
60
80
100
120
140
160
180
0
1
2
3
4
5
6
7
8
9
10
(Deg.)
Nu
Ra = 103
Ra = 104
Ra = 5104
Ra = 105 (Deg.)
Fig (12) local Nusselt number distribution
around the circumference of the inner cylinder
at η=3.0 and different Rayleigh numbers 180
Fig (11) Isotherms and streamlines at η=3.0,
Ra=105 g (
)
around the circumference of the inner cylinder y
at η=3.0 and different Rayleigh numbers 10
2
10
3
10
4
10
5
0
1
2
3
4
5
6
7
8
Ra
Mean Nu
Fig (5.27) Mean Nusselt number versus
Rayleigh number at η=3.0 0
20
40
60
80
100
120
140
160
180
0
1
2
3
4
5
6
7
8
(Deg.)
Nu
Ra = 104
= 2.0
= 2.6
= 3.0
Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0
and Ra=104 Fig (5.27) Mean Nusselt number versus
Rayleigh number at η=3.0 Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0
and Ra=104 Fig (14) local Nusselt number at η=2.0, 2.6 , 3.0
and Ra=104 0
180
90
3.0096
6.0191
9.0287
12.0383
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-a-
0
180
90
3.0096
6.0191
9.0287
12.0383
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-a-
0
180
90
2.5855
7.7564
10.3419
5.171
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-b-
0
180
90
2.4232
4.8465
7.2697
9.6929
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
-c-
Fig (15) Streamlines and isotherms for Ra=104 at: a- η=2.0, b- η=2.6 and c- η=3.0
180
-b- -a- -c- Fig (15) Streamlines and isotherms for Ra=104 at: a- η=2.0, b- η=2.6 and c- η=3.0 5213
|
https://openalex.org/W2050746052
|
https://dadun.unav.edu/bitstream/10171/35610/1/Alfredo%202014.pdf
|
English
| null |
DNA Methylation Pattern in Overweight Women under an Energy-Restricted Diet Supplemented with Fish Oil
|
BioMed research international
| 2,014
|
cc-by
| 8,623
|
Clinical Study
DNA Methylation Pattern in Overweight Women under
an Energy-Restricted Diet Supplemented with Fish Oil Cátia Lira do Amaral,1,2 Fermín I. Milagro,1,3 Rui Curi,2 and J. Alfredo Martínez1,3
1 Department of Nutrition, Food Sciences and Physiology, University of Navarra, C/Irunlarrea 1, 31008 Pamplona, Spain
2 Department of Physiology and Biophysics, Institute of Biomedical Sciences, University of S˜ao Paulo,
Avenue Professor Lineu Prestes, 1524, 05508-900 S˜ao Paulo, SP, Brazil
3
l
´ d l
b
d d
l
´ (
b )
d
l d
l
d d Cátia Lira do Amaral,1,2 Fermín I. Milagro,1,3 Rui Curi,2 and J. Alfredo Martínez1,3
1 Department of Nutrition, Food Sciences and Physiology, University of Navarra, C/Irunlarrea 1, 31008 Pamplona, Spain
2 Department of Physiology and Biophysics, Institute of Biomedical Sciences, University of S˜ao Paulo,
Avenue Professor Lineu Prestes, 1524, 05508-900 S˜ao Paulo, SP, Brazil f
CIBER Fisiopatolog´ıa de la Obesidad y la Nutrici´on (CIBERobn), Instituto de Salud Carlos III, 28029 Madrid, Spain Correspondence should be addressed to J. Alfredo Mart´ınez; jalfmtz@unav.es Received 9 April 2013; Accepted 20 November 2013; Published 22 January 2014 Received 9 April 2013; Accepted 20 November 2013; Published 22 January 2014 Academic Editor: Wolfgang Arthur Schulz Academic Editor: Wolfgang Arthur Schulz Copyright © 2014 C´atia Lira do Amaral et al. This is an open access article distributed under the Creative Commons Attribution
License, which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly
cited. Dietary factors modulate gene expression and are able to alter epigenetic signatures in peripheral blood mononuclear cells
(PBMC). However, there are limited studies about the effects of omega-3 polyunsaturated fatty acids (n-3 PUFA) on the epigenetic
mechanisms that regulate gene expression. This research investigates the effects of n-3-rich fish oil supplementation on DNA
methylation profile of several genes whose expression has been reported to be downregulated by n-3 PUFA in PBMC: CD36, FFAR3,
CD14, PDK4, and FADS1. Young overweight women were supplemented with fish oil or control in a randomized 8-week intervention
trial following a balanced diet with 30% energy restriction. Fatty acid receptor CD36 decreased DNA methylation at CpG +477 due
to energy restriction. Hypocaloric diet-induced weight loss also reduced the methylation percentages of CpG sites located in CD14,
PDK4, and FADS1. The methylation patterns of these genes were only slightly affected by the fish oil supplementation, being the
most relevant to the attenuation of the weight loss-induced decrease in CD36 methylation after adjusting by baseline body weight. Clinical Study
DNA Methylation Pattern in Overweight Women under
an Energy-Restricted Diet Supplemented with Fish Oil These results suggest that the n-3 PUFA-induced changes in the expression of these genes in PBMC are not mediated by DNA
methylation, although other epigenetic mechanisms cannot be discarded. Hindawi Publishing Corporation
BioMed Research International
Volume 2014, Article ID 675021, 10 pages
http://dx.doi.org/10.1155/2014/675021 Hindawi Publishing Corporation
BioMed Research International
Volume 2014, Article ID 675021, 10 pages
http://dx.doi.org/10.1155/2014/675021 1. Introduction Excluded (n = 204)
∙Iceland participants (n = 140) and
Ireland participants (n = 64) Excluded (n = 24)
∙No PBMC sample
available at baseline
and endpoint (n = 14)
∙Men (n = 10) Figure 1: Flow chart of the participants in the study. in young overweight adults (trial registration: ClinicalTri-
als.gov NCT00315770) [18]. In this clinical trial, a total of 324
overweight individuals were included (140 from Iceland, 120
from Spain, and 64 from Ireland) and randomly assigned to
four diets groups (control, cod, salmon, and fish oil capsules)
[18]. Detailed description of the protocol, participant recruit-
ment and enrolment, and inclusion and exclusion criteria
are described elsewhere [18, 19]. Briefly, the initial inclusion
criteria were body mass index (BMI) 27.5–32.5 kg/m2, age
between 20 and 40 years old, and waist circumference ≥94 cm
and ≥80 cm for men and women, respectively. Exclusion
criteria were weight change due to weight-loss diet within 3
months before the start of the study, use of supplements
containing n-3 fatty acids, calcium, or vitamin-D during the
last 3 months, drug treatments of diabetes mellitus, hyperten-
sion, or hyperlipidemia, and women’s pregnancy or lactation.f molecule (CD36), the cluster of differentiation 14 (CD14), and
pyruvate dehydrogenase kinase 4 (PDK4) in healthy elderly
subjects [12]. However, few studies have examined the effects
of PUFA supplementation on DNA methylation, a key epi-
genetic mechanism for gene expression regulation. In vitro,
EPA treatment reduced the demethylation of one CpG at the
promoter of CCAAT/enhancer-binding protein 𝛿(C/EBP𝛿)
in U937 leukemia cells [13]. In rodents, n-3 PUFA sup-
plementation during pregnancy and/or lactation increased
liver FADS2 DNA methylation in the offspring [14]. FADS2
methylation was increased in the liver of dams exposed to
an n-3 PUFA-deficient diet during pregnancy followed by
postnatal supplementation diet containing n-3 PUFA from
flaxseed oil [15]. On the other hand, n-3 PUFA supplemen-
tation during pregnancy increased global DNA methylation
levels in rats supplemented with folic acid in the absence of
vitamin B12 [16]. However, other authors analyzed the methy-
lation pattern of genes in mouse epididymal fat (leptin, leptin
receptor, and proopiomelanocortin) and did not find effects
as a result of fish oil supplementation [17]. Up to date, there is
no report about the effects of n-3 PUFA supplementation on
DNA methylation in adult humans. 1. Introduction yp
p
p g
y
As the objective of the paper is to examine the effects of
fish oil supplementation on the DNA methylation pattern of
genes that are downregulated by n-3 PUFA supplementation
in PBMC, we only analyzed Spanish subjects from two of the
intervention groups: control and fish oil (Figure 1). A selec-
tion of the individuals of these two groups was performed,
taking into account their age, biochemical, and anthropomet-
ric characteristics. The reasons for this selection were that (i)
it was necessary to match the individuals according to their
age, life style, biochemical, and anthropometric charac-
teristics in order to diminish heterogeneity and to avoid
confounding environmental factors and (ii) the high cost of
the epigenetic determinations implied that they could not be
applied to a large number of patients. In a first moment, two
more subjects from each group had been selected but, unfor-
tunately, the quality of their DNA samples was under the
quality standards of the procedure and could not be included
in the analysis. Because we aimed to evaluate DNA methy-
lation changes in response to fish oil supplementation, we
selected participants with PBMC samples available at baseline Hence, the aim of the present study was to test the hypoth-
esis whether fish oil supplementation within an energy-
restricted dietary treatment affects the DNA methylation
pattern of genes that are downregulated by n-3 PUFA sup-
plementation in PBMC, such as the fatty acid receptors CD36
and FFAR3, the enzymes FADS1 and PDK4, and the surface
antigen CD14. 1. Introduction the consumption of an overall healthy diet including fatty fish
at least twice a week is a recommendation for reducing the
risk of developing cardiovascular diseases [6]. Furthermore,
n-3 PUFA have also been proposed to reduce proinflam-
matory cytokine production and decrease obesity-induced
insulin resistance [7]. Although epidemiological associations
between n-3 PUFA intake and obesity are inconclusive, some
cross-sectional studies have demonstrated inverse relation-
ships between them [8].f Several environmental factors, including dietary intake of
specific nutrients, germ-line genetic variations, stochastic
events, and inheritance systems, may change epigenetic
marks and affect gene expression [1, 2]. The most impor-
tant environmental factors associated with obesity onset are
sedentary lifestyles and unbalanced diets, such as the intake
of energy-dense foods [3]. The change of dietary habits and
physical activity patterns are the main strategy for managing
obesity and the associated disorders. Fatty fishes are rich in
long chain fatty acids, especially omega-3 polyunsaturated
fatty acids (n-3 PUFA), as exemplified by salmon and trout
[4]. Particularly, eicosapentaenoic acid (EPA; 20:5n-3) and
docosahexaenoic acid (DHA; 22:6n-3) are the n-3 PUFA
occurring in fish oil that have been more comprehensively
studied due to their health improving effects [5]. For instance, Consumption of n-3 PUFA affects the expression of many
genes in various cell types and tissues, including liver [9],
adipose tissue [10], and blood white cells [11, 12]. In peripheral
blood mononuclear cells (PBMC), n-3 PUFA supplementa-
tion has been reported to downregulate the expression of
genes related to fatty acid transport, such as fatty acid desat-
urase 1 (FADS1) and fatty acid receptor 3 (FFAR3), in insulin
resistant subjects [11] as well as other genes such as CD36 2 2 BioMed Research International Study population (n = 324)
Spain participants (n = 120)
Excluded (n = 204)
∙Iceland participants (n = 140) and
Ireland participants (n = 64)
Control group
(n = 5)
Fish oil group
(n = 7)
Excluded (n = 25)
∙No PBMC sample
available at baseline
and endpoint (n = 24)
∙Men (n = 1)
Excluded (n = 24)
∙No PBMC sample
available at baseline
and endpoint (n = 14)
∙Men (n = 10)
Cod group
(not included)
Salmon group
(not included)
Excluded
(n = 29)
Excluded
(n = 30)
Figure 1: Flow chart of the participants in the study. 2. Methods To estimate total energy expen-
diture, the physical activity level was set to 1.3, as a relatively
low physical activity level was reported by all subjects [18]. PAL was estimated according to the Nordic Nutrition Rec-
ommendations, 2004 [22]. The questionnaire asked about the
occupation, sleeping hours, and additional activities at work
and during the rest of the day. The physical activity question-
naire included representative values expressed as multiples
of Resting Energy Expenditure (REE). Average daily exercise
was calculated taking into account the intensity level and time
spent on each activity. Finally, activities were quantified with
respect to the Resting Energy Expenditure (1.0). The subjects
under weight loss treatment were randomly single-blindedly
assigned to control group (6 placebo capsules/day) or fish
oil group (6 capsules/day). Both capsules were from Loders
Croklaan (Lipid Nutrition), Wormerveer, the Netherlands,
encapsulated by Banner Pharmacaps, Tilburg, the Nether-
lands. Participants from both control and fish oil groups were
instructed not to eat seafood because it could complicate the
analysis that would be translated into unknown variability. So, seafood was simply stopped for the intervention period. Each subject received a detailed meal plan to follow, as
well as recipe booklets and instructions, so as to minimize
differences between diets in terms of sources of fat, fruit
and vegetable consumption, and meal frequency. Diets were
similar in total fat (30% of total energy), carbohydrate (50% of
total energy), protein (20% of total energy), and dietary fiber
(20–25 g) [18, 19]. Amounts of long chain n-3 fatty acid intake
were <260 mg/day for the control and >1300 mg/day for the
fish oil groups, as elsewhere described [23]. 2.5. Methylation Profile Determined by MALDI-TOF Mass
Spectrometry. The DNA methylation profiles of five genes
were analyzed in PBMC: CD36, CD14, FADS1, PDK4, and
FFAR3. The genomic sequences studied are shown in Table
1S in supplementary materials available online at http://dx.doi
.org/10.1155/2014/675021. 2.5. Methylation Profile Determined by MALDI-TOF Mass
Spectrometry. The DNA methylation profiles of five genes
were analyzed in PBMC: CD36, CD14, FADS1, PDK4, and
FFAR3. The genomic sequences studied are shown in Table
1S in supplementary materials available online at http://dx.doi
.org/10.1155/2014/675021. g
Firstly, a region covering 3 kb (2,000 base pairs upstream
to 1,000 base pairs downstream from the transcriptional start
site) was chosen from Gene Bank (http://www.ncbi.nlm.nih
.nih.gov/gene) for each gene. CpG islands were identified
using MethPrimer software (http://www.urogene.org/meth-
primer/) [27]. 2. Methods 2.1. Trial Design and Participants. The primary study was
based on a randomized 8-week intervention trial study of four
isocaloric diets, designed to investigate the specific effects of
fish consumption or fish oil supplementation on weight loss 3 BioMed Research International and endpoint. Furthermore, due to the low number of men
in the intervention groups, men were excluded. So, the
DNA methylation study was conducted in 12 young over-
weight/obese women of similar characteristics that belonged
to the two following groups: control (𝑛= 5) and fish oil (𝑛=
7). To reduce variability, subjects belonging to the cod and
salmon groups were not analyzed because if changes in
DNA methylation were observed in these groups, it would
be impossible to find the responsible agents due to the big
differences in macronutrients and micronutrients between
both fish species. The study was approved by the Ethical Com-
mittee of the University of Navarra and followed the Helsinki
guidelines. All participants gave their written consent after
being informed of the nature purpose and possible risks of the
study. This study was performed at the University of Navarra
in Pamplona, Spain, and recruitment was undertaken during
2004 and 2005. Plasma levels of glucose, total cholesterol, and triacylglycerols
were measured by specific colorimetric assays (Horiba ABX
Diagnostics, Montpellier, France) using an automatic system
(COBAS MIRA, Roche, Basel, Switzerland), whereas circulat-
ing insulin levels were determined by ELISA (Mercodia, AB,
Uppsala, Sweden). The homeostasis model assessment index
(HOMA-IR) was calculated according to Matthews et al. [25]
in order to assess insulin resistance. 2.4. PBMC Isolation, DNA Extraction, and Bisulfite Con-
version. PBMC were isolated by differential centrifugation
using Polymorphprep (Axis Shield PoC AS, Oslo, Norway),
as previously described [26], and stored at −80∘C. DNA
was extracted using AllPrep DNA/RNA Mini Kit (Qiagen,
Hilden, Germany). DNA concentration was quantified with
Quant-iT PicoGreen dsDNA Assay Kit (Invitrogen, Carlsbad,
CA, USA) and genomic DNA (2 𝜇g) was bisulfite-converted
with the EpiTect Bisulfite Kit (Qiagen, Valencia, CA, USA). 2.2. Dietary Intervention. Overweight young women were
instructed to follow a diet with 30 percent fewer calories than
the estimated energy expenditure (approximately 600 kcal/
day), for eight consecutive weeks. As described earlier [18],
basal metabolic rate was estimated by applying Harris-Bene-
dict equations and a correction factor due to the overweight
status of the subjects [20, 21]. 2. Methods able 2: Anthropometric and serum variables from control and fish oil supplemented women before and af
reatment. Data represent mean ± SD (control 𝑛= 5; fish oil group 𝑛= 7). Differences within and between subjects were determined by a general linear model with
repeated measures. ns.: not significant; SBP: systolic blood pressure; DBP: diastolic blood pressure; HOMA: homeostasis model assessment; Oral suppl.: effect
of the oral supplementation of fish oil. were conducted with baseline body weight as a covariable. The significance level was set at 𝑃< 0.05. methylated, whereas FFAR3 showed two distinct regions: a
highly methylated region close to the transcription start site
(CpG sites −18, +33, and +77) and a low-methylated region
between CpGs −53 and −202. 2. Methods Whereas three genes showed CpG islands
(CD14, PDK4, and FADS1), neither FFAR3 nor CD36 showed
these CpG dinucleotide-rich regions. Predicted transcription
factor binding sites were identified with AliBaba2 software
(http://www.gene-regulation.com/pub/programs/alibaba2/
index.html) with a homology of 75%. Then, a region of 300 to
500 bp in a CpG island and/or rich in predicted transcription
factors was chosen for each gene (Table 1). The methylation
profile of these genes was determined by Sequenom’s
MassARRAY EpiTyper technology (Sequenom, San Diego,
CA, USA), which relies on base-specific cleavage followed
by MALDI-TOF mass spectrometry as previously described
[28]. The primers used are reported in Table 1. DNA meth-
ylation values of some CpG sites could not be measured
independently. This is the case of nearby CpG sites and
CpG sites included in similar chemical fragments after the
enzymatic breakdown. So, they were clustered together and
were considered as an independent CpG site when analyzed. 2.6. Statistical Analysis. The data are presented as the mean ±
SD and were analyzed using SPSS 15.0 for Windows (SPSS,
Chicago, IL, USA). A general linear model with repeated
measures was conducted to assess the impact of oral sup-
plementation (control or fish oil) on DNA methylation of
CD36, FFAR3, CD14, PDK4, and FADS1 through the weight
loss treatment (baseline and endpoint). For CpG site +477
from CD36 gene, we hypothesized that the differences in
initial body weight may affect statistical analysis. In order
to control the effect of the body weight, statistical analyses 2.3. Anthropometric and Metabolic Measurements. Anthro-
pometric parameters measurements and blood samples col-
lections were carried out at baseline and after supple-
mentation period (endpoint), as previously described [24]. 4 BioMed Research International 4 Table 1: Primers used for the bisulfite conversion of DNA. Table 1: Primers used for the bisulfite conversion of DNA. Table 1: Primers used for the bisulfite conversion of DNA. Symbol
Primers
Product size
CpG in regiona
CD36
L: GGGTTGAGAGTTTGTGTTTTATTTTT
R: TTCAAATACAATTACACTTTTTAAAATCAC
479
4
FFAR3
L: GGTAAATTGGATAAATGTTATTTTAGAGA
R: CAACAAAAAAACACCAAAATACTCC
385
9 (7)
CD14
L: GGAGGGAATTGAATGATATTTTAGG
R: AAATCTCCACCTCTACTACAAACACA
429
24 (20)
PDK4
L: TTTTGTTTTGAGTAAGGATTAATGA
R: TCCCAAACAAAAAAAATCACTAAAA
400
23
FADS1
L: TTGTAATTTTTAAGGGTTTTTAGGT
R: AAACAACTCACAACTAAACTACCAACA
419
37 (35)
aValues between parenthesis indicate the number of CpGs covered by Sequenom EpiTyper approach. L: left primer; R: right primer; Chr: chromosome; CD36:
thrombospondin receptor; CD14: cluster of differentiation 14; FADS1: fatty acid desaturase 1; PDK4: pyruvate dehydrogenase kinase, isozyme 4; FFAR3: free
fatty acid receptor 3. 2. Methods aValues between parenthesis indicate the number of CpGs covered by Sequenom EpiTyper approach. L: left primer; R: right primer; Chr: chromosome; CD36:
thrombospondin receptor; CD14: cluster of differentiation 14; FADS1: fatty acid desaturase 1; PDK4: pyruvate dehydrogenase kinase, isozyme 4; FFAR3: free
fatty acid receptor 3. Table 2: Anthropometric and serum variables from control and fish oil supplemented women before and after the 8-week weight loss
treatment. Control
Fish oil
Interaction
Weight loss treatment
Oral suppl. Baseline
Endpoint
Baseline
Endpoint
Anthropometric
Age, years
35.1 ± 5.5
—
32.4 ± 5.0
—
Height, m
1.65 ± 0.06
—
1.61 ± 0.05
—
Weight, kg
82.9 ± 2.3
78.7 ± 3.0
78.8 ± 5.2
73.6 ± 5.6
ns. 𝑃< 0.05
ns. BMI, kg/m2
30.7 ± 2.0
29.1 ± 2.6
30.5 ± 1.7
28.4 ± 1.8
ns. 𝑃< 0.05
ns. SBP, mmHg
120.6 ± 9.6
121.8 ± 8.3
115.4 ± 9.5
113.1 ± 5.7
ns. ns. ns. DBP, mmHg
67.2 ± 4.1
68.4 ± 2.9
72.1 ± 6.5
68.9 ± 5.6
ns. ns. ns. Serum
Glucose, mg/dL
86.9 ± 4.6
85.1 ± 3.2
88.1 ± 6.0
90.6 ± 9.7
ns. ns. ns. Insulin, mU/L
8.4 ± 4.0
8.2 ± 4.0
12.4 ± 6.7
8.3 ± 3.3
ns. ns. ns. HOMA index
1.8 ± 0.9
1.7 ± 0.7
2.7 ± 1.5
1.8 ± 0.7
ns. ns. ns. Leptin, 𝜇g/mL
37.6 ± 10.7
25.4 ± 8.4
30.6 ± 14.5
18.5 ± 8.0
ns. 𝑃< 0.05
ns. Total cholesterol, mg/dL 214.9 ± 49.0
200.1 ± 44.9
197.4 ± 46.5
185.4 ± 35.1
ns. ns. ns. LDL cholesterol, mg/dL
132.5 ± 30.9
124.8 ± 26.9
114.0 ± 40.6
114.5 ± 29.7
ns. ns. ns. HDL cholesterol, mg/dL
65.2 ± 21.2
58.2 ± 24.7
57.0 ± 11.0
52.7 ± 8.8
ns. ns. ns. Triglycerides, mg/dL
85.9 ± 48.7
85.8 ± 26.1
131.9 ± 75.0
88.1 ± 35.3
ns. ns. ns. Data represent mean ± SD (control 𝑛= 5; fish oil group 𝑛= 7). Differences within and between subjects were determined by a general linear model with
repeated measures. ns.: not significant; SBP: systolic blood pressure; DBP: diastolic blood pressure; HOMA: homeostasis model assessment; Oral suppl.: effect
of the oral supplementation of fish oil. Table 2: Anthropometric and serum variables from control and fish oil supplemented women before and after the 8-week weight loss
treatment. 3. Results However, fish oil
supplementation did not alter the DNA methylation pattern
Statistically significant (although small) changes were
also induced by the hypocaloric diet-induced weight loss in
the promoters of PDK4 and FADS1 genes (CpGs −254 and CREP
CPE bind
CRE-BP1
CRE-BP
ACE2
100
80
60
40
20
0
Methylation (%)
+95
+167
+477
+498
CREB-2
CREB
REV-ErbA
ATF
C/EBP𝛼
Sp1
Sp1
Sp1
Sp1
YY1
−146
−96
−53
−42
−18
+33
+77
100
80
60
40
20
0
Methylation (%)
CRE-BP1
ATF
AP-2𝛼
2 −199
#
# −2
(b)
100
80
60
40
20
0
Methylation (%)
333 −
−
331
−271
−254
−244
229 −
−
227
−222
−214
−186
−131
122 −
−
120
−113
−97
−88
−64 −62
−50
−17 −15
+3 + 5
Sp1
Sp1 Sp1
Sp1
Sp1 Sp1
Sp1
c-Myc
CRE-BP1
CREB
Sp1
ER
YY1
AP-1
CP1
CPE bind
CPE bind
CREB
AP-2𝛼
C/EBP𝛼
C/EBP𝛼
# (e) Figure 2: Baseline DNA methylation profile of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 as determined in PBMC
from overweight young women before weight loss treatment. The bars represent methylation levels of each CpG and are numbered according
to the transcription start site. The predicted binding sites for transcription factors that are associated with the CpGs (identified by AliBaba
software with a homology of 75%) are also indicated. Data are mean ± SD, 𝑛= 12. #Not analyzed. Figure 2: Baseline DNA methylation profile of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 as determined in PBMC
from overweight young women before weight loss treatment. The bars represent methylation levels of each CpG and are numbered according
to the transcription start site. The predicted binding sites for transcription factors that are associated with the CpGs (identified by AliBaba
software with a homology of 75%) are also indicated. Data are mean ± SD, 𝑛= 12. #Not analyzed. Statistically significant (although small) changes were
also induced by the hypocaloric diet-induced weight loss in
the promoters of PDK4 and FADS1 genes (CpGs −254 and
−25−22−20, resp., in Figures 3(d) and 3(e)). Furthermore, the
only CpGs that showed significant methylation differences
between the control and the fish oil groups are in these
genes. 3. Results This CpG lies in BioMed Research International 5 CREP
CPE bind
CRE-BP1
CRE-BP
ACE2
100
80
60
40
20
0
Methylation (%)
+95
+167
+477
+498
(a)
CREB-2
CREB
REV-ErbA
ATF
C/EBP𝛼
Sp1
Sp1
Sp1
Sp1
YY1
−146
−96
−53
−42
−18
+33
+77
100
80
60
40
20
0
Methylation (%)
CRE-BP1
ATF
AP-2𝛼
−202 −199
#
#
(b)
+516
+547 +550 +557
+598
+613
+654
+625
+669
+724 +726 +728
+755
+765 +773
+779
+801
+814 +819
+834
+846
+855
+658 +660
100
80
60
40
20
0
Methylation (%)
#
#
#
Sp1
Sp1
Sp1
Adf-1
GAL4
AP-2
USF
Sp1
GABP
NF-𝜅B
C/EBP𝛼
(c)
100
80
60
40
20
0
Methylation (%)
333 −
−
331
−271
−254
−244
229 −
−
227
−222
−214
−186
−131
122 −
−
120
−113
−97
−88
−64 −62
−50
−17 −15
+3 + 5
Sp1
Sp1 Sp1
Sp1
Sp1 Sp1
Sp1
c-Myc
CRE-BP1
CREB
Sp1
ER
YY1
AP-1
CP1
CPE bind
CPE bind
CREB
AP-2𝛼
C/EBP𝛼
C/EBP𝛼
#
(d)
−310
−294
−289
−286
−246
−233
−200 −198
−194 −190
−180
−174
157 −
−
151
−136
−127
−91 −89 −83
−59
−47 −45 −42
−25 −22 −20
−13
−6
+6
+12 +15 +18
+21
+36 +38
+46 +48
100
80
60
40
20
0
Methylation (%)
#
#
CPE bind
Sp1; c-Jun
c-Fos; CREB
C/EBP𝛼
CRE-BP1
RXB-𝛽
E1A 12S
c/EBP𝛼
USF
Sp1
Ap-2𝛼
Egr-1
Represso
Sp1
ENKTF1
AP-2𝛼
AP-2𝛼
YY1
NF1
GR
Ap1
Sp1
Sp1
Sp1
Sp1
Sp1
Sp1
Sp1
Sp1
Sp1
Sp1
Krox-20
Sp1
represso
NF𝜇E1
(e)
Figure 2: Baseline DNA methylation profile of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 as determined in PBMC
from overweight young women before weight loss treatment. The bars represent methylation levels of each CpG and are numbered according
to the transcription start site. The predicted binding sites for transcription factors that are associated with the CpGs (identified by AliBaba
software with a homology of 75%) are also indicated. Data are mean ± SD, 𝑛= 12. #Not analyzed. a putative binding site for the transcription factors CREB
and CRE-BP1 (Figure 2(a), CpG +477). 3. Results 3.2. Weight Loss Treatment and Fish Oil Supplementa-
tion Effects on DNA Methylation Profile. Both experimental
groups (control and fish oil) responded similarly to the weight
loss treatment (Table 2), showing similar reductions in body
weight, BMI, and serum leptin levels (𝑃< 0.05) but no effects
on other metabolic parameters.f 3.1. Baseline DNA Methylation Profile. Recruitment was
undertaken during 2004 and 2005. A total of 12 women
were selected for the present study (Figure 1). Different
patterns of methylation were found in the genes studied in
PBMC (Figure 2). Low methylation levels (less than 25%
[29]) were observed in the genes that encode the superficial
molecule CD14 and the metabolic enzymes PDK4 and FADS1,
although one CpG of PDK4 (−229−227) was highly methy-
lated (more than 75% [29]). CD36 studied region was highly Hypocaloric diet-induced weight loss affected DNA
methylation in the CD36 gene, reducing the percentage of
methylation of CpG +477 (Figure 3(a)). 3. Results Thus, the methylation percentage of PDK4 CpG sites
−222 and −50 and FADS1 CpG −25−22−20 were reduced in
the control group and increased with fish oil, whereas the
reduction observed in PDK4 CpG −254 in the controls was
greater than in the fish oil group. Interestingly, PDK4 CpGs
−254 and −50 lay in putative binding sites for the transcrip-
tion factor Sp1 (Figure 2(d)). Nevertheless, although statis-
tically significant, these differences were so small that they
probably do not influence gene expression. a putative binding site for the transcription factors CREB
and CRE-BP1 (Figure 2(a), CpG +477). However, fish oil
supplementation did not alter the DNA methylation pattern
of CD36 gene, with reductions of 11.8% in the methylation of
CpG +477 in the control group and 7.3% in the fish oil group. In order to control the effect of body weight, methylation
status was adjusted to baseline body weight. In this case, the
methylation of CpG +477 was lower (𝑃< 0.05) in the fish oil
group (6.7%) than in the control group (12.7%).f Energy restriction also affected DNA methylation in
CD14 (Figure 3(c)) but only with a very slight increase of
0.3% and 0.6% at the CpGs +765+773 in the control and the
fish oil groups, respectively. These CpGs are included in a
putative binding site for the transcription factors USF and Sp1
(Figure 2(c)). 3. Results 6 BioMed Research International 100
80
60
40
20
0
Methylation (%)
+95
+167
+477
+498
∗
(a)
−202 −199 −53
−42
−18
+33
+77
100
80
60
40
20
0
Methylation (%)
(b)
+516
+547 +550 +557
+598
+613
+654
+658 +660
+669
+765 +773
+779
+814 +819
+834
+846
+855
∗
100
10
15
20
25
75
0
5
Methylation (%)
(c)
−271
−254
−244
−229 −227
−222
−214
−186
−131
122 −
−
120
−113
−97
−88
−64 −62
−50
−17 −15
+3 + 5
100
10
15
20
25
75
0
5
Methylation (%)
∗
#
#
#
(d)
−310
−294
−286
−246
−233
−200 −198
−194 −190
−180
−157 −151
−136
−127
−91 −89 −83
−59
−47 −45 −42
−25 −22 −20
−13
−6
+6
+12 +15 +18
+21
+36 +38
+46 +48
100
10
15
20
25
75
0
5
Methylation (%)
∗
#
Control (baseline)
Control (endpoint)
Fish oil (baseline)
Fish oil (endpoint)
(e)
ethylation of the CpGs located in the studied regions of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) F
control and fish oil-supplemented women during the 8-week weight loss treatment. Data represent mean ± SD (contr
). DNA methylation was determined at baseline and endpoint samples by MassARRAY EpiTyper in triplicate. A gener
repeated measures was used to assess the impact of oral supplementation on DNA methylation (between subjects) a
reatment (within subjects). ∗𝑃< 0.05, differences due to weight loss (baseline versus endpoint); #𝑃< 0.05, interaction
ffect and oral supplementation. 4. Discussion This notion is supported by the fact that PBMC
from obese women have a proinflammatory state, with
increased expression in PBMC of proinflammatory genes
like tumor necrosis factor-𝛼(TNF-𝛼), interleukin-6 (IL-6),
migration inhibitor factor (MIF), and matrix metallopro-
teinase-9 (MMP9) and an increase in NF-𝜅B binding to DNA
[41]. CD36 CpG +477 lies in a recognition motif for CRE-
BP1 and CREB, members of the leucine zipper family of
DNA binding proteins that bind to cAMP-response elements
(CRE) [42]. Both transcription factors (CREB and CRE-
BP1) also interact with CREB binding protein (CBP)/p300
associating factor, which, as CRE-BP1, is a known HAT or his-
tone acetyltransferase [43, 44] and may promote chromatin
modifications by inducing histone acetylation. If transcrip-
tion factor-DNA binding affinity is affected by cytosine
methylation, the HAT activity might be downregulated and
histone deacetylation increased, which could justify the
underexpression of the target genes, as described in PBMC
from subjects supplemented with fish oil [12]. Besides the
small number of participants included in the present study,
we found a clear effect of weight loss treatment on the
methylation percentage of many CpG sites, especially in the
promoter region of CD36. Our translational research demon-
strates that dietary energy-restriction results in epigenetic
adaptations in PBMC cells. However, as only 12 subjects were
analyzed, the results could not be extrapolated to the whole
population and should be validated in larger and more com-
plex populations. In any case, the results are of very high value
because the individuals have been carefully selected from a
big population and matched trying to minimize other con-
founding factors apart from the dietary intervention (fish oil
capsules or not). The five genes studied have been reported to be downreg-
ulated in PBMC from fish oil-supplemented subjects [11, 12]. Although few studies (all of them in animal models) have
analyzed the effect of fish oil on DNA methylation, it has
been observed that the epigenetic effects of n-3 PUFA depend
on the gene and the tissue and are far more relevant during
pregnancy and lactation than during adult life [14–17]. In the
current study, very small methylation differences have been
found between the control and the fish oil groups. Impor-
tantly, fish oil supplementation did not potentiate the 8-week
hypocaloric diet-induced weight loss in our study. 4. Discussion of PPAR𝛾transcriptional pathways and may also promote
inflammatory response and phagocytosis [37]. Thus, THP-
1 macrophages treated with oleic acid, linoleic acid, EPA,
and DHA showed increased CD36 mRNA expression [38]. Similarly, the expression of CD36 was increased in PBMC
after oral acute intake of MUFA-rich virgin olive oil [39] and
in monocytes after 24 h lipid infusion [40] in humans. On
the other hand, the expression of CD36 was downregulated in
PBMC due to a long-term supplementation with EPA/DHA
[12]. These results indicate that the type of fatty acids (PUFA
or MUFA) regulates CD36 expression in a different manner
depending also on the time (acute versus chronic). In our
8-week long study, the hypocaloric diet-induced weight loss
decreased CD36 gene DNA methylation (in CpG +477) with
less intensity in the fish oil-supplemented group than in the
controls. However, the small decrease observed does not,
probably, influence the regulation of CD36 gene expression.l Although there is strong evidence of the modulatory effects of
n-3 PUFA on gene expression in several cell types in humans,
it is not known if they could act on gene expression by altering
the epigenetic mechanism of DNA methylation. Herein,
we sought to determine the methylation profiles of CD36,
FFAR3, CD14, PDK4, and FADS1 in PBMC and whether this
methylation is affected by a weight loss nutritional interven-
tion (energy-restriction) with or without fish oil supplemen-
tation in young overweight women. As expected, phenotypic
changes due to energy restriction led to a reduction in
body weight. In humans, energy-restricted diets modify DNA
methylation in PBMC [28]. Our results corroborate these
findings, suggesting that weight loss treatment induces small
changes in the methylation profile of specific genes from
blood cells (i.e., CD36, CD14, PDK4, and FADS1). CD14, PDK4, and FADS1 have low methylation percent-
ages (<25%) in PBMC before starting nutritional intervention
(Figure 2). Similar results have been reported for PDK4
(<10%) in human skeletal muscle [30] and for CD14 and
FADS1 in PBMC [31] and murine aorta [32], respectively. On the other hand, CD36 and FFAR3 have been found to
be highly methylated in PBMC. Whereas the methylation of
CD36 has not been previously described, a hypomethylated
region close to FFAR3 has been reported in the adult
hematopoietic compartment [33].hi l
An epigenetic change may influence CD36 gene expres-
sion in blood cells and may contribute to modify inflam-
matory monocyte/macrophage activation during weight loss
treatment. 3. Results 100
80
60
40
20
0
Methylation (%)
+95
+167
+477
+498
∗
(a)
−202 −199 −53
−42
−18
+33
+77
100
80
60
40
20
0
Methylation (%)
(b) Methylation (%) (c)
−271
−254
−244
−229 −227
−222
−214
−186
−131
122 −
−
120
−113
−97
−88
−64 −62
−50
−17 −15
+3 + 5
100
10
15
20
25
75
0
5
Methylation (%)
∗
#
#
#
(d) (d)
−310
−294
−286
−246
−233
−200 −198
−194 −190
−180
−157 −151
−136
−127
−91 −89 −83
−59
−47 −45 −42
−25 −22 −20
−13
−6
+6
+12 +15 +18
+21
+36 +38
+46 +48
100
10
15
20
25
75
0
5
Methylation (%)
∗
#
Control (baseline)
Control (endpoint)
Fish oil (baseline)
Fish oil (endpoint)
(e) (e) Figure 3: Methylation of the CpGs located in the studied regions of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 in
PBMC from control and fish oil-supplemented women during the 8-week weight loss treatment. Data represent mean ± SD (control 𝑛= 5;
fish oil 𝑛= 7). DNA methylation was determined at baseline and endpoint samples by MassARRAY EpiTyper in triplicate. A general linear
model with repeated measures was used to assess the impact of oral supplementation on DNA methylation (between subjects) across the
weight loss treatment (within subjects). ∗𝑃< 0.05, differences due to weight loss (baseline versus endpoint); #𝑃< 0.05, interaction between
weight loss effect and oral supplementation. Figure 3: Methylation of the CpGs located in the studied regions of the genes (a) CD36, (b) FFAR3, (c) CD14, (d) PDK4, and (e) FADS1 in
PBMC from control and fish oil-supplemented women during the 8-week weight loss treatment. Data represent mean ± SD (control 𝑛= 5;
fish oil 𝑛= 7). DNA methylation was determined at baseline and endpoint samples by MassARRAY EpiTyper in triplicate. A general linear
model with repeated measures was used to assess the impact of oral supplementation on DNA methylation (between subjects) across the
weight loss treatment (within subjects). ∗𝑃< 0.05, differences due to weight loss (baseline versus endpoint); #𝑃< 0.05, interaction between
weight loss effect and oral supplementation. BioMed Research International 7 4. Discussion 6, pp. 937–
946, 2009. [5] [5] B. M. Yashodhara, S. Umakanth, J. M. Pappachan, S. K. Bhat, R. Kamath, and B. H. Choo, “Omega-3 fatty acids: a comprehen-
sive review of their role in health and disease,” Postgraduate
Medical Journal, vol. 85, no. 1000, pp. 84–90, 2009. [6] A. H. Lichtenstein, L. J. Appel, M. Brands et al., “Diet and life-
style recommendations revision 2006: a scientific statement
from the American heart association nutrition committee,”
Circulation, vol. 114, no. 1, pp. 82–96, 2006. [7] E. Oliver, F. McGillicuddy, C. Phillips, S. Toomey, and H. M. Roche, “Postgraduate Symposium: the role of inflammation
and macrophage accumulation in the development of obesity-
induced type 2 diabetes mellitus and the possible therapeutic
effects of long-chain 𝑛−6 PUFA,” Proceedings of the Nutrition
Society, vol. 69, no. 2, pp. 232–243, 2010. [8] J. D. Buckley and P. R. C. Howe, “Long-chain omega-3 polyun-
saturated fatty acids may be beneficial for reducing obesity-a
review,” Nutrients, vol. 2, no. 12, pp. 1212–1230, 2010. f
g p
p
p
g
In summary, an 8-week weight-loss nutrition interven-
tion not only reduced body weight and circulating leptin in
overweight women but also modified DNA methylation of
CD36 in PBMC and, very slightly, of CD14, PDK4, and FADS1. Although fish oil oral supplementation did not potentiate the
weight-loss effects of the hypocaloric diet, it modulated DNA
methylation, that is, reducing the decrease in DNA methy-
lation of CD36 CpG +477 (after adjusting by baseline body
weight). These results should be interpreted with care because
the methylation differences are rather small and restricted to
few CpG sites, but it should be highlighted that other nutri-
tional studies, including several ones focused on body weight
loss [29, 48, 49], have found DNA methylation changes of
similar magnitude.if [9] D. B. Jump, D. Botolin, Y. Wang, J. Xu, O. Demeure, and B. Christian, “Docosahexaenoic acid (DHA) and hepatic gene
transcription,” Chemistry and Physics of Lipids, vol. 153, no. 1,
pp. 3–13, 2008. [10] M. J. Moreno-Aliaga, S. Lorente-Cebri´an, and J. A. Mart´ınez,
“Regulation of adipokine secretion by 𝑛−3 fatty acids,” Pro-
ceedings of The Nutrition Society, vol. 69, pp. 324–332, 2010. [11] I. Rudkowska, A. Ponton, H. Jacques et al., “Effects of a
supplementation of n-3 polyunsaturated fatty acids with or
without fish gelatin on gene expression in peripheral blood
mononuclear cells in obese, insulin-resistant subjects,” Journal
of Nutrigenetics and Nutrigenomics, vol. 4. Discussion Although
it has been described that fish oil supplementation could
improve weight loss in men with caloric restriction [18], other
studies have not found an improvement of weight loss in
postmenopausal women with type 2 diabetes [34] or hyper-
insulinemia [35]. This finding is important for approaching
the discussion of the methylation results because the changes
observed in the n-3 PUFA-supplemented group cannot be
attributed to shifts in anthropometric or biochemical param-
eters with the intervention. The most relevant effect due to n-3 PUFA supplemen-
tation was found in CD36 CpG +477 (after adjusting for
baseline body weight). CD36 encodes a membrane glyco-
protein that belongs to the class B scavenger receptor family
that may play an important role in lipid metabolism in
humans and may be involved in obesity-related complica-
tions [36]. In macrophages, it is responsible for binding
and internalization of oxidized LDL while in metabolically
active tissues, especially in adipocytes, heart and skeletal
muscle, CD36 mediates the uptake of long-chain fatty acids
across the plasma membrane [36]. In macrophages and
monocytes, CD36 promotes lipid uptake leading to activation The small differences (<2%) observed in DNA methy-
lation between the control and the fish oil groups in CpGs
located in PDK4 and FADS1, although statistically significant,
probably do not affect the expression of the genes. Both
genes have been previously reported to be regulated by DNA
methylation: physical exercise immediately decreased PDK4
methylation in skeletal muscle [45], whereas subjects with BioMed Research International 8 8 type 2 diabetes presented higher PDK4 expression in skeletal
muscle accompanied by a tendency to reduce promoter DNA
methylation when compared with normal glucose tolerance
subjects [30]. On the other hand, FADS1 expression was
regulated by DNA methylation in a gastric cancer cell line
as demonstrated by treating the cells with the demethylating
agent 5-aza-2-deoxycytidine, which increased by 23-fold
FADS1 mRNA expression [46]. A recent study did not find
modifications in FADS1 methylation in offspring aorta as a
result of changes in the lipid composition of the maternal
diet [32]. Considering the transcription factors associated
with the CpG sites affected, Sp1 is an ubiquitously expressed
transcription factor that participates in the overexpression
of CD14 during monocytic cell differentiation by interacting
with another protein, MEF2D [47]. However, the small
methylation changes observed in this study probably do not
affect the binding properties of Sp1 in the studied genes. prevention,” Biochemical Pharmacology, vol. 77, no. 4. Discussion 4, no. 4, pp. 192–202,
2011. g
In any case, to be sure that the beneficial effects of EPA/
DHA in obesity, type 2 diabetes, and other metabolic diseases
are mediated by changes in the DNA methylation pattern, in
addition to PBMC, other tissues (such as adipose depots, liver,
or skeletal muscle) should be analyzed. Finally, the changes
in DNA methylation should be compared with those in the
expression of the corresponding genes in these tissues. [12] M. Bouwens, O. Van De Rest, N. Dellschaft et al., “Fish-oil
supplementation induces antiinflammatory gene expression
profiles in human blood mononuclear cells,” American Journal
of Clinical Nutrition, vol. 90, no. 2, pp. 415–424, 2009. [13] V. Ceccarelli, S. Racanicchi, M. P. Martelli et al., “Eicosapen-
taenoic acid demethylates a single cpg that mediates expression
of tumor suppressor CCAAT/enhancer-binding protein 𝛿in
U937 leukemia cells,” Journal of Biological Chemistry, vol. 286,
no. 31, pp. 27092–27102, 2011. Conflict of Interests [14] S. P. Hoile, N. A. Irvine, C. J. Kelsall et al., “Maternal fat intake
in rats alters 20:4𝑛−6 and 22:6𝑛−3 status and the epigenetic
regulation of Fads2 in offspring liver,” The Journal of Nutritional
Biochemistry, vol. 24, pp. 1213–1220, 2013. The authors declare that there is no conflict of interests
regarding the publication of this paper. [15] M. D. Niculescu, D. S. Lupu, and C. N. Craciunescu, “Perinatal
manipulation of 𝛼-linolenic acid intake induces epigenetic
changes in maternal and offspring livers,” The FASEB Journal,
vol. 27, pp. 350–358, 2013. References [1] C. L. Relton and D. G. smith, “Is epidemiology ready for epige-
netics?” International Journal of Epidemiology, vol. 41, no. 1, pp. 5–9, 2012. [16] A. Kulkarni, K. Dangat, A. Kale, P. Sable, P. Chavan-Gautam,
and S. Joshi, “Effects of altered maternal folic acid, vitamin B12
and docosahexaenoic acid on placental global DNA methyla-
tion patterns in wistar rats,” PLoS ONE, vol. 6, no. 3, Article ID
e17706, 2011. [2] F. I. Milagro, M. L. Mansego, C. De Miguel, and J. A. Mart´ınez,
“Dietary factors, epigenetic modifications and obesity out-
comes: progresses and perspectives,” Molecular Aspects of
Medicine, vol. 34, pp. 782–812, 2013. [17] C. Fan, X. Liu, W. Shen, R. J. Deckelbaum, and K. Qi, “The
regulation of leptin, leptin receptor and pro-opiomelanocortin
expression by 𝑁−3 PUFAs in diet-induced obese mice is not
related to the methylation of their promoters,” Nutrition and
Metabolism, vol. 8, article 31, 2011. [3] B. A. Swinburn, I. Caterson, J. C. Seidell, and W. P. T. James,
“Diet, nutrition and the prevention of excess weight gain and
obesity,” Public Health Nutrition, vol. 7, no. 1, pp. 123–146, 2004. [4] G. L. Russo, “Dietary 𝑛−6 and 𝑛−3 polyunsaturated fatty acids:
from biochemistry to clinical implications in cardiovascular [18] I. Thorsdottir, H. Tomasson, I. Gunnarsdottir et al., “Random-
ized trial of weight-loss-diets for young adults varying in fish BioMed Research International 9 and fish oil content,” International Journal of Obesity, vol. 31, no. 10, pp. 1560–1566, 2007. accompany lineage specificity in the adult hematopoietic com-
partment,” Molecular Cell, vol. 44, no. 1, pp. 17–28, 2011. [34] M. Kabir, G. Skurnik, N. Naour et al., “Treatment for 2 mo
with n-3 polyunsaturated fatty acids reduces adiposity and some
atherogenic factors but does not improve insulin sensitivity in
women with type 2 diabetes: a randomized controlled study,”
American Journal of Clinical Nutrition, vol. 86, no. 6, pp. 1670–
1679, 2007. [19] A. Ramel, A. Martin´ez, M. Kiely, G. Morais, N. M. Bandarra, and
I. Thorsdottir, “Beneficial effects of long-chain n-3 fatty acids
included in an energy-restricted diet on insulin resistance in
overweight and obese European young adults,” Diabetologia,
vol. 51, no. 7, pp. 1261–1268, 2008. [20] I. Cankayali, K. Demirag, S. Kocabas, and A. R. Moral, “The
effects of standard and branched chain amino acid enriched
solutions on thermogenesis and energy expenditure in uncon-
scious care patients,” Clinical Nutrition, vol. 23, no. 2, pp. 257–
263, 2004. References Dandona, “Circulating mononuclear cells in the obese are in
a proinflammatory state,” Circulation, vol. 110, no. 12, pp. 1564–
1571, 2004. [26] A. B. Crujeiras, D. Parra, E. Goyenechea, and J. A. Mart´ınez,
“Sirtuin gene expression in human mononuclear cells is mod-
ulated by caloric restriction,” European Journal of Clinical
Investigation, vol. 38, no. 9, pp. 672–678, 2008. [42] G. Thiel, J. A. Sarraj, C. Vinson, L. Stefano, and K. Bach, “Role
of basic region leucine zipper transcription factors cyclic AMP
response element binding protein (CREB), CREB2, activating
transcription factor 2 and CAAT/enhancer binding protein 𝛼in
cyclic AMP response element-mediated transcription,” Journal
of Neurochemistry, vol. 92, no. 2, pp. 321–336, 2005. [27] L.-C. Li and R. Dahiya, “MethPrimer: designing primers for
methylation PCRs,” Bioinformatics, vol. 18, no. 11, pp. 1427–1431,
2002. [28] F. I. Milagro, J. Campi´on, P. Cordero et al., “A dual epigenomic
approach for the search of obesity biomarkers: DNA methyla-
tion in relation to diet-induced weight loss,” The FASEB Journal,
vol. 25, no. 4, pp. 1378–1389, 2011. [43] B. Karanam, L. Wang, D. Wang et al., “Multiple roles for acetyla-
tion in the interaction of p300 HAT with ATF-2,” Biochemistry,
vol. 46, no. 28, pp. 8207–8216, 2007. [29] S. C. Jacobsen, C. Brøns, J. Bork-Jensen et al., “Effects of short-
term high-fat overfeeding on genome-wide DNA methylation
in the skeletal muscle of healthy young men,” Diabetologia, vol. 55, pp. 3341–3349, 2012. [44] D. C. Bedford and P. K. Brindle, “Is histone acetylation the most
important physiological function for CBP and p300?” Aging,
vol. 4, pp. 247–255, 2012. [30] S. S. Kulkarni, F. Salehzadeh, T. Fritz, J. R. Zierath, A. Krook, and
M. E. Osler, “Mitochondrial regulators of fatty acid metabolism
reflect metabolic dysfunction in type 2 diabetes mellitus,”
Metabolism, vol. 61, no. 2, pp. 175–185, 2012. [45] R. Barr`es, J. Yan, B. Egan et al., “Acute exercise remodels pro-
moter methylation in human skeletal muscle,” Cell Metabolism,
vol. 15, no. 3, pp. 405–411, 2012. [31] M. C. Munthe-Kaas, T. M. Torjussen, K. Gervin et al., “CD14
polymorphisms and serum CD14 levels through childhood:
a role for gene methylation?” Journal of Allergy and Clinical
Immunology, vol. 125, no. 6, pp. 1361–1368, 2010. [46] S. Yamashita, Y. Tsujino, K. Moriguchi, M. Tatematsu, and
T. Ushijima, “Chemical genomic screening for methylation-
silenced genes in gastric cancer cell lines using 5-aza-2-
deoxycytidine treatment and oligonucleotide microarray,” Can-
cer Science, vol. References [35] J. D. Krebs, L. M. Browning, N. K. McLean et al., “Additive ben-
efits of long-chain 𝑛−3 polyunsaturated fatty acids and weight-
loss in the management of cardiovascular disease risk in over-
weight hyperinsulinaemic women,” International Journal of
Obesity, vol. 30, no. 10, pp. 1535–1544, 2006. [21] R. M. Salvino, R. S. Dechicco, and D. L. Seidner, “Perioperative
nutrition support: who and how,” Cleveland Clinic Journal of
Medicine, vol. 71, no. 4, pp. 345–351, 2004. [36] L. Love-Gregory and N. A. Abumrad, “CD36 genetics and the
metabolic complications of obesity,” Current Opinion in Clinical
Nutrition and Metabolic Care, vol. 14, no. 6, pp. 527–534, 2011. [22] Nordic Nutrition Recommendations, Integrating Nutrition and
Physical Activity, Nordic Council of Ministers, Copenhagen,
Denmark, 4th edition, 2004. [37] R. L. Silverstein and M. Febbraio, “CD36, a scavenger receptor
involved in immunity, metabolism, angiogenesis, and behavior,”
Science Signaling, vol. 2, no. 72, p. re3, 2009. [23] D. Parra, A. Ramel, N. Bandarra, M. Kiely, J. A. Mart´ınez, and
I. Thorsdottir, “A diet rich in long chain omega-3 fatty acids
modulates satiety in overweight and obese volunteers during
weight loss,” Appetite, vol. 51, no. 3, pp. 676–680, 2008. [38] J.-C. Vallv´e, K. Uliaque, J. Girona et al., “Unsaturated fatty acids
and their oxidation products stimulate CD36 gene expression in
human macrophages,” Atherosclerosis, vol. 164, no. 1, pp. 45–56,
2002. [24] A. B. Crujeiras, D. Parra, E. Goyenechea, I. Abete, and J. A. Mart´ınez, “Tachyphylaxis effects on postprandial oxidative
stress and mitochondrial-related gene expression in overweight
subjects after a period of energy restriction,” European Journal
of Nutrition, vol. 48, no. 6, pp. 341–347, 2009. [39] V. Konstantinidou, O. Khymenets, M.-I. Covas et al., “Time
course of changes in the expression of insulin sensitivity-related
genes after an acute load of virgin olive oil,” OMICS A Journal
of Integrative Biology, vol. 13, no. 5, pp. 431–438, 2009. [25] D. R. Matthews, J. P. Hosker, and A. S. Rudenski, “Homeostasis
model assessment: insulin resistance and 𝛽-cell function from
fasting plasma glucose and insulin concentrations in man,”
Diabetologia, vol. 28, no. 7, pp. 412–419, 1985. [40] S. R. Kashyap, A. G. Ioachimescu, H. L. Gornik et al., “Lipid-
induced insulin resistance is associated with increased mono-
cyte expression of scavenger receptor CD36 and internalization
of oxidized LDL,” Obesity, vol. 17, no. 12, pp. 2142–2148, 2009. [41] H. Ghanim, A. Aljada, D. Hofmeyer, T. Syed, P. Mohanty, and
P. References 97, no. 1, pp. 64–71, 2006. [32] C. J. Kelsall, S. P. Hoile, N. A. Irvine et al., “Vascular dysfunction
induced in offspring by maternal dietary fat involves altered
arterial polyunsaturated fatty acid biosynthesis,” PLoS ONE, vol. 7, no. 4, Article ID e34492, 2012. [47] S.-Y. Park, H.-M. Shin, and T.-H. Han, “Synergistic interaction
of MEF2D and Sp1 in activation of the CD14 promoter,”
Molecular Immunology, vol. 39, no. 1-2, pp. 25–30, 2002. [33] E. Hodges, A. Molaro, C. O. Dos Santos et al., “Directional
DNA methylation changes and complex intermediate states [48] F. I. Milagro, P. G´omez-Abell´an, J. Campi´on et al., “CLOCK,
PER2 and BMAL1 DNA methylation: association with obesity BioMed Research International 10 and metabolic syndrome characteristics and monounsaturated
fat intake,” Chronobiology International, vol. 29, pp. 1180–1194,
2012. [49] H. H. Hermsdorff, M. L. Mansego, J. Campi´on et al., “TNF-
alpha promoter methylation in peripheral white blood cells:
relationship with circulating TNF𝛼, truncal fat and 𝑛−6 PUFA
intake in young women,” Cytokine, vol. 64, pp. 265–271, 2013. References Submit your manuscripts at
http://www.hindawi.com
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Anatomy
Research International
Peptides
International Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
International Journal of
Volume 2014
Zoology
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Molecular Biology
International
Hindawi Publishing Corporation
http://www.hindawi.com
Genomics
International Journal of
Volume 2014
The Scientific
World Journal
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Bioinformatics
Advances in
Marine Biology
Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Signal Transduction
Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
BioMed
Research International
Evolutionary Biology
International Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Biochemistry
Research International
Archaea
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Genetics
Research International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Advances in
Virology
Hindawi Publishing Corporation
http://www.hindawi.com
Nucleic Acids
Journal of
Volume 2014
Stem Cells
International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Enzyme
Research
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
International Journal of
Microbiology Submit your manuscripts at
http://www.hindawi.com
Peptides
International Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
International Journal of
Volume 2014
Zoology
Hindawi Publishing Corporation
http://www.hindawi.com
Genomics
International Journal of
Volume 2014i
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
BioMed
Research International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Advances in
Virology
Hindawi Publishing Corporation
http://www.hindawi.com
Nucleic Acids
Journal of
Volume 2014
Stem Cells
International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014 Hindawi Publishing Corporation
http://www.hindawi.com
Genomics
International Journal of
Volume 2014 Hindawi Publishing Corporation
http://www.hindawi.com
Nucleic Acids
Journal of
Volume 2014 The Scientific
World Journal
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014 Submit your manuscripts at
http://www.hindawi.com Submit your manuscripts at
http://www.hindawi.com The Scientific
World Journal
Hindawi Publishing Corporation Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Anatomy
Research International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Molecular Biology
International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Bioinformatics
Advances in
Marine Biology
Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Evolutionary Biology
International Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Biochemistry
Research International
Archaea
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Genetics
Research International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Enzyme
Research
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
International Journal of
Microbiology Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Anatomy
Research International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Molecular Biology
International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Bioinformatics
Advances in
Marine Biology
Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Evolutionary Biology
International Journal of
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Biochemistry
Research International
Archaea
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Genetics
Research International
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
Enzyme
Research
Hindawi Publishing Corporation
http://www.hindawi.com
Volume 2014
International Journal of
Microbiology
|
https://openalex.org/W4361907605
|
https://figshare.com/articles/journal_contribution/Supplementary_Table_4_from_Cumulative_Genetic_Risk_Predicts_Platinum_Taxane-Induced_Neurotoxicity/22449629/1/files/39900695.pdf
|
unk
| null |
Supplementary Table 2 from Cumulative Genetic Risk Predicts Platinum/Taxane-Induced Neurotoxicity
| null | 2,023
|
cc-by
| 3,697
|
Estimate
SE
OR
95% LB 95% UB
Uncorrected P-
value
Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
RS1012018
0.28 0.32
1.32
0.71
2.47
0.383279285
-1.29
0.61
0.27
0.08
0.91
0.0347473
RS1020853
-0.83 0.55
0.43
0.15
1.29
0.132948272
-1.36
0.55
0.26
0.09
0.75
0.01329657
RS10439143
1.56 0.40
4.74
2.17
10.36
9.53E-05
1.13
0.49
3.08
1.18
8.04
0.02149428
RS10821709
0.30 0.31
1.35
0.73
2.47
0.334840791
1.14
0.52
3.13
1.12
8.77
0.02953053
RS10930202
0.71 0.33
2.03
1.05
3.90
0.034335098
0.72
0.81
2.06
0.42
10.14
0.37457799
RS10994148
-0.61 0.31
0.54
0.30
1.00
0.049996067
0.36
0.48
1.43
0.56
3.69
0.45473155
RS11152370
1.13 0.54
3.10
1.09
8.85
0.034344479
0.12
0.23
1.13
0.73
1.76
0.58890588
RS12707484
2.84 1.16 17.09
1.75
166.54
0.014560221
3.17
1.16 23.88
2.47
231.17
0.00615121
RS1340655
-0.20 0.33
0.82
0.43
1.55
0.544166337
-1.14
0.48
0.32
0.13
0.82
0.01690911
RS1381108
0.67 0.33
1.96
1.02
3.75
0.042147941
0.57
0.98
1.77
0.26
12.18
0.56102675
RS139879
0.99 0.49
2.68
1.03
6.95
0.042508641
0.45
0.51
1.57
0.58
4.26
0.37961042
RS139884
0.99 0.49
2.68
1.03
6.95
0.042307257
0.45
0.51
1.56
0.58
4.25
0.38039601
RS139887
0.66 0.33
1.93
1.01
3.68
0.047415376
-0.39
0.51
0.68
0.25
1.85
0.44518087
RS1708403
-0.45 0.34
0.64
0.33
1.24
0.186863682
-0.93
0.44
0.40
0.17
0.93
0.03423555
RS17184707
-1.44 0.64
0.24
0.07
0.82
0.023310651
-1.09
0.61
0.34
0.10
1.10
0.07185108
RS1801243
-0.77 0.34
0.46
0.24
0.91
0.024578561
-0.26
0.39
0.77
0.36
1.65
0.498863
RS1954134
0.89 0.44
2.43
1.03
5.74
0.043290447
1.12
0.47
3.07
1.23
7.69
0.01640529
RS1990071
-0.01 0.33
0.99
0.52
1.88
0.966349218
1.03
0.41
2.81
1.26
6.27
0.01129864
RS2058194
0.53 0.40
1.71
0.77
3.77
0.185712602
0.96
0.43
2.62
1.13
6.07
0.0244136
RS2070720
1.01 0.33
2.74
1.42
5.27
0.002530071
0.29
0.47
1.34
0.53
3.37
0.5341448
RS2236058
0.83 0.34
2.30
1.19
4.47
0.013592513
0.53
0.48
1.71
0.66
4.39
0.26773813
RS2236256
-0.71 0.35
0.49
0.25
0.98
0.042426745
-0.35
0.39
0.71
0.33
1.53
0.38146795
RS224082
-0.97 0.44
0.38
0.16
0.89
0.025823649
-0.65
0.44
0.52
0.22
1.22
0.13461429
RS2295283
-1.37 0.49
0.25
0.10
0.67
0.005508666
-1.66
0.49
0.19
0.07
0.50
0.00073784
RS2299169
0.20 0.31
1.23
0.66
2.27
0.514766275
1.36
0.69
3.91
1.02
14.98
0.04642885
RS230911
-0.73 0.37
0.48
0.24
0.99
0.047459629
-0.54
0.39
0.59
0.27
1.26
0.17119074
RS2336384
0.66 0.32
1.93
1.03
3.61
0.040199514
0.44
0.51
1.55
0.57
4.20
0.38841404
RS2368020
-1.17 0.46
0.31
0.13
0.77
0.011319628
-0.79
0.43
0.45
0.19
1.06
0.06656301
RS252853
3.07 1.15 21.61
2.25
207.65
0.007761875
2.91
1.15 18.42
1.94
175.25
0.01125845
RS2849380
-1.27 0.63
0.28
0.08
0.97
0.043940186
-1.19
0.60
0.30
0.09
1.00
0.04916636
RS3181073
2.71 1.35 15.04
1.07
212.01
0.044651818
2.51
1.33 12.36
0.91
168.33
0.0590566
Heterozygous
Homozygous (Minor Allele)
Discovery
rsID Estimate
SE
OR
95% LB 95% UB
Uncorrected P-
value
Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
RS1012018
0.28 0.32
1.32
0.71
2.47
0.383279285
-1.29
0.61
0.27
0.08
0.91
0.0347473
RS1020853
-0.83 0.55
0.43
0.15
1.29
0.132948272
-1.36
0.55
0.26
0.09
0.75
0.01329657
RS10439143
1.56 0.40
4.74
2.17
10.36
9.53E-05
1.13
0.49
3.08
1.18
8.04
0.02149428
RS10821709
0.30 0.31
1.35
0.73
2.47
0.334840791
1.14
0.52
3.13
1.12
8.77
0.02953053
RS10930202
0.71 0.33
2.03
1.05
3.90
0.034335098
0.72
0.81
2.06
0.42
10.14
0.37457799
RS10994148
-0.61 0.31
0.54
0.30
1.00
0.049996067
0.36
0.48
1.43
0.56
3.69
0.45473155
RS11152370
1.13 0.54
3.10
1.09
8.85
0.034344479
0.12
0.23
1.13
0.73
1.76
0.58890588
RS12707484
2.84 1.16 17.09
1.75
166.54
0.014560221
3.17
1.16 23.88
2.47
231.17
0.00615121
RS1340655
-0.20 0.33
0.82
0.43
1.55
0.544166337
-1.14
0.48
0.32
0.13
0.82
0.01690911
RS1381108
0.67 0.33
1.96
1.02
3.75
0.042147941
0.57
0.98
1.77
0.26
12.18
0.56102675
RS139879
0.99 0.49
2.68
1.03
6.95
0.042508641
0.45
0.51
1.57
0.58
4.26
0.37961042
RS139884
0.99 0.49
2.68
1.03
6.95
0.042307257
0.45
0.51
1.56
0.58
4.25
0.38039601
RS139887
0.66 0.33
1.93
1.01
3.68
0.047415376
-0.39
0.51
0.68
0.25
1.85
0.44518087
RS1708403
-0.45 0.34
0.64
0.33
1.24
0.186863682
-0.93
0.44
0.40
0.17
0.93
0.03423555
RS17184707
-1.44 0.64
0.24
0.07
0.82
0.023310651
-1.09
0.61
0.34
0.10
1.10
0.07185108
RS1801243
-0.77 0.34
0.46
0.24
0.91
0.024578561
-0.26
0.39
0.77
0.36
1.65
0.498863
RS1954134
0.89 0.44
2.43
1.03
5.74
0.043290447
1.12
0.47
3.07
1.23
7.69
0.01640529
RS1990071
-0.01 0.33
0.99
0.52
1.88
0.966349218
1.03
0.41
2.81
1.26
6.27
0.01129864
RS2058194
0.53 0.40
1.71
0.77
3.77
0.185712602
0.96
0.43
2.62
1.13
6.07
0.0244136
RS2070720
1.01 0.33
2.74
1.42
5.27
0.002530071
0.29
0.47
1.34
0.53
3.37
0.5341448
RS2236058
0.83 0.34
2.30
1.19
4.47
0.013592513
0.53
0.48
1.71
0.66
4.39
0.26773813
RS2236256
-0.71 0.35
0.49
0.25
0.98
0.042426745
-0.35
0.39
0.71
0.33
1.53
0.38146795
RS224082
-0.97 0.44
0.38
0.16
0.89
0.025823649
-0.65
0.44
0.52
0.22
1.22
0.13461429
RS2295283
-1.37 0.49
0.25
0.10
0.67
0.005508666
-1.66
0.49
0.19
0.07
0.50
0.00073784
RS2299169
0.20 0.31
1.23
0.66
2.27
0.514766275
1.36
0.69
3.91
1.02
14.98
0.04642885
RS230911
-0.73 0.37
0.48
0.24
0.99
0.047459629
-0.54
0.39
0.59
0.27
1.26
0.17119074
RS2336384
0.66 0.32
1.93
1.03
3.61
0.040199514
0.44
0.51
1.55
0.57
4.20
0.38841404
RS2368020
-1.17 0.46
0.31
0.13
0.77
0.011319628
-0.79
0.43
0.45
0.19
1.06
0.06656301
RS252853
3.07 1.15 21.61
2.25
207.65
0.007761875
2.91
1.15 18.42
1.94
175.25
0.01125845
RS2849380
-1.27 0.63
0.28
0.08
0.97
0.043940186
-1.19
0.60
0.30
0.09
1.00
0.04916636
RS3181073
2.71 1.35 15.04
1.07
212.01
0.044651818
2.51
1.33 12.36
0.91
168.33
0.0590566
Heterozygous
Homozygous (Minor Allele)
Discovery
rsID RS3746166
-0.14 0.37
0.87
0.42
1.80
0.708134321
-0.96
0.43
0.38
0.16
0.90
0.0268559
RS3757630
-0.72 0.36
0.49
0.24
0.99
0.048358494
-0.08
0.41
0.93
0.41
2.08
0.85308597
RS3819437
-0.20 0.38
0.82
0.39
1.72
0.603028618
-0.91
0.43
0.40
0.17
0.93
0.03337483
RS38555
2.94 1.15 18.88
1.97
181.06
0.010862685
2.84
1.15 17.08
1.79
163.36
0.0137503
RS38557
0.03 0.30
1.03
0.57
1.86
0.924059899
-2.96
1.15
0.05
0.01
0.50
0.01020622
RS38564
3.00 1.16 20.16
2.08
195.00
0.009488906
2.91
1.15 18.37
1.91
176.36
0.01166001
RS399413
-0.95 0.48
0.39
0.15
0.98
0.046294411
-1.04
0.47
0.35
0.14
0.89
0.02641439
RS42056
-0.47 0.31
0.63
0.34
1.16
0.136190766
-1.08
0.54
0.34
0.12
0.98
0.04614134
RS4253623
-0.90 0.39
0.41
0.19
0.88
0.022350847
-0.71
1.18
0.49
0.05
4.96
0.54609091
RS4310561
1.23 0.62
3.43
1.01
11.63
0.047320827
1.36
0.62
3.90
1.16
13.13
0.02787364
RS4558416
-0.64 0.32
0.53
0.28
0.99
0.048021071
-0.43
0.45
0.65
0.27
1.57
0.33894885
RS4667485
0.55 0.37
1.74
0.84
3.58
0.133486161
0.90
0.44
2.46
1.04
5.83
0.0414659
RS4987853
0.65 0.30
1.91
1.06
3.46
0.032252274
0.71
0.80
2.04
0.43
9.70
0.37140218
RS5277
0.84 0.31
2.31
1.26
4.25
0.006956005
-0.18
0.97
0.84
0.12
5.64
0.85439155
RS544093
-0.91 0.44
0.40
0.17
0.96
0.040049729
-14.29 #####
0.00
0.00 #NUM! RS9400393
-0.93 0.32
0.40
0.21
0.74
0.003810821
-0.52
0.46
0.59
0.24
1.46
0.25545472
RS9526810
-0.10 0.32
0.91
0.49
1.70
0.76275168
1.16
0.56
3.20
1.08
9.50
0.03645455 Estimate
SE
OR
95% LB 95% UB
Uncorrected P-
value
Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
RS1012018
0.28 0.32
1.32
0.71
2.47
0.383279285
-1.29
0.61
0.27
0.08
0.91
0.0347473
RS1020853
-0.83 0.55
0.43
0.15
1.29
0.132948272
-1.36
0.55
0.26
0.09
0.75
0.01329657
RS10439143
1.56 0.40
4.74
2.17
10.36
9.53E-05
1.13
0.49
3.08
1.18
8.04
0.02149428
RS10821709
0.30 0.31
1.35
0.73
2.47
0.334840791
1.14
0.52
3.13
1.12
8.77
0.02953053
RS10930202
0.71 0.33
2.03
1.05
3.90
0.034335098
0.72
0.81
2.06
0.42
10.14
0.37457799
RS10994148
-0.61 0.31
0.54
0.30
1.00
0.049996067
0.36
0.48
1.43
0.56
3.69
0.45473155
RS11152370
1.13 0.54
3.10
1.09
8.85
0.034344479
0.12
0.23
1.13
0.73
1.76
0.58890588
RS12707484
2.84 1.16 17.09
1.75
166.54
0.014560221
3.17
1.16 23.88
2.47
231.17
0.00615121
RS1340655
-0.20 0.33
0.82
0.43
1.55
0.544166337
-1.14
0.48
0.32
0.13
0.82
0.01690911
RS1381108
0.67 0.33
1.96
1.02
3.75
0.042147941
0.57
0.98
1.77
0.26
12.18
0.56102675
RS139879
0.99 0.49
2.68
1.03
6.95
0.042508641
0.45
0.51
1.57
0.58
4.26
0.37961042
RS139884
0.99 0.49
2.68
1.03
6.95
0.042307257
0.45
0.51
1.56
0.58
4.25
0.38039601
RS139887
0.66 0.33
1.93
1.01
3.68
0.047415376
-0.39
0.51
0.68
0.25
1.85
0.44518087
RS1708403
-0.45 0.34
0.64
0.33
1.24
0.186863682
-0.93
0.44
0.40
0.17
0.93
0.03423555
RS17184707
-1.44 0.64
0.24
0.07
0.82
0.023310651
-1.09
0.61
0.34
0.10
1.10
0.07185108
RS1801243
-0.77 0.34
0.46
0.24
0.91
0.024578561
-0.26
0.39
0.77
0.36
1.65
0.498863
RS1954134
0.89 0.44
2.43
1.03
5.74
0.043290447
1.12
0.47
3.07
1.23
7.69
0.01640529
RS1990071
-0.01 0.33
0.99
0.52
1.88
0.966349218
1.03
0.41
2.81
1.26
6.27
0.01129864
RS2058194
0.53 0.40
1.71
0.77
3.77
0.185712602
0.96
0.43
2.62
1.13
6.07
0.0244136
RS2070720
1.01 0.33
2.74
1.42
5.27
0.002530071
0.29
0.47
1.34
0.53
3.37
0.5341448
RS2236058
0.83 0.34
2.30
1.19
4.47
0.013592513
0.53
0.48
1.71
0.66
4.39
0.26773813
RS2236256
-0.71 0.35
0.49
0.25
0.98
0.042426745
-0.35
0.39
0.71
0.33
1.53
0.38146795
RS224082
-0.97 0.44
0.38
0.16
0.89
0.025823649
-0.65
0.44
0.52
0.22
1.22
0.13461429
RS2295283
-1.37 0.49
0.25
0.10
0.67
0.005508666
-1.66
0.49
0.19
0.07
0.50
0.00073784
RS2299169
0.20 0.31
1.23
0.66
2.27
0.514766275
1.36
0.69
3.91
1.02
14.98
0.04642885
RS230911
-0.73 0.37
0.48
0.24
0.99
0.047459629
-0.54
0.39
0.59
0.27
1.26
0.17119074
RS2336384
0.66 0.32
1.93
1.03
3.61
0.040199514
0.44
0.51
1.55
0.57
4.20
0.38841404
RS2368020
-1.17 0.46
0.31
0.13
0.77
0.011319628
-0.79
0.43
0.45
0.19
1.06
0.06656301
RS252853
3.07 1.15 21.61
2.25
207.65
0.007761875
2.91
1.15 18.42
1.94
175.25
0.01125845
RS2849380
-1.27 0.63
0.28
0.08
0.97
0.043940186
-1.19
0.60
0.30
0.09
1.00
0.04916636
RS3181073
2.71 1.35 15.04
1.07
212.01
0.044651818
2.51
1.33 12.36
0.91
168.33
0.0590566
Heterozygous
Homozygous (Minor Allele)
Discovery
rsID 0.98910638
RS603769
-0.71 0.35
0.49
0.25
0.97
0.041136954
-0.42
0.38
0.66
0.31
1.38
0.26926698
RS603965
-0.48 0.36
0.62
0.30
1.27
0.189474857
-0.86
0.44
0.42
0.18
1.00
0.04985111
RS6532049
1.68 0.88
5.34
0.96
29.84
0.056196793
1.70
0.86
5.47
1.02
29.26
0.0470565
RS6599237
0.45 0.38
1.56
0.74
3.30
0.241386245
2.56
1.05 12.88
1.66
100.02
0.01451712
RS668394
-0.80 0.34
0.45
0.23
0.87
0.01749584
-0.49
0.80
0.61
0.13
2.93
0.53942488
RS689466
-0.81 0.36
0.45
0.22
0.91
0.026479089
-3.06
1.36
0.05
0.00
0.67
0.02407625
RS692995
-2.09 0.94
0.12
0.02
0.79
0.026722607
0.16
0.22
1.18
0.76
1.83
0.46304736
RS6977797
-1.15 0.73
0.32
0.08
1.34
0.1176968
-1.60
0.71
0.20
0.05
0.82
0.02554384
RS728539
-1.56 0.93
0.21
0.03
1.31
0.094573592
-1.86
0.91
0.16
0.03
0.93
0.04107414
RS7548209
-1.30 0.51
0.27
0.10
0.74
0.010362255
-1.26
0.49
0.28
0.11
0.75
0.01094989
RS757228
0.75 0.37
2.11
1.02
4.40
0.044914242
0.95
0.43
2.58
1.12
5.95
0.02653048
RS758000
-1.54 0.93
0.21
0.03
1.34
0.099000653
-1.90
0.91
0.15
0.03
0.89
0.03675825
RS7800456
3.20 1.14 24.58
2.62
230.13
0.005023471
2.95
1.14 19.17
2.06
178.23
0.00941774
RS7802397
-0.96 0.71
0.38
0.09
1.56
0.180379523
-1.44
0.69
0.24
0.06
0.93
0.03834985
RS782054
0.40 0.31
1.50
0.81
2.76
0.194955247
1.73
0.56
5.62
1.88
16.82
0.00203868
RS7858741
-2.70 1.37
0.07
0.00
0.97
0.047787772
-1.22
1.25
0.30
0.03
3.41
0.32957628
RS7907557
1.00 0.42
2.71
1.19
6.17
0.017187502
0.71
0.49
2.03
0.78
5.26
0.14480284
RS876430
1.42 0.70
4.12
1.05
16.22
0.042719243
1.32
0.69
3.73
0.96
14.52
0.057225
RS879207
0.73 0.33
2.09
1.08
4.01
0.027515156
0.29
0.51
1.33
0.49
3.61
0.57177757
RS922116
0.34 0.31
1.40
0.77
2.55
0.273978723
1.15
0.53
3.16
1.13
8.88
0.02855596
RS929351
0.88 0.39
2.42
1.13
5.16
0.022829204
0.71
0.45
2.03
0.84
4.91
0.11479741 Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
RS1012018
0.43
0.34
1.53
0.79
2.98
0.20845159
0.13
0.50
1.14
0.43
3.02
0.78776317
RS1020853
1.66
0.78
5.28
1.14
24.33
0.03295972
1.37
0.77
3.95
0.88
17.73
0.07305785
RS10439143
0.27
0.38
1.31
0.62
2.76
0.47661806
0.09
0.45
1.10
0.46
2.62
0.83664454
RS10821709
0.27
0.32
1.30
0.69
2.45
0.40812524
0.39
0.59
1.47
0.46
4.66
0.51258591
RS10930202
0.51
0.35
1.67
0.83
3.34
0.15038821
0.04
1.10
1.05
0.12
8.97
0.96738016
RS10994148
-0.05
0.33
0.95
0.50
1.80
0.87212348
0.09
0.54
1.10
0.38
3.14
0.86027672
RS11152370
0.73
0.55
2.07
0.71
6.06
0.18227814
-13.16
973.48
0.00
0.00 #NUM! Estimate
SE
OR
95% LB 95% UB
Uncorrected P-
value
Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
RS1012018
0.28 0.32
1.32
0.71
2.47
0.383279285
-1.29
0.61
0.27
0.08
0.91
0.0347473
RS1020853
-0.83 0.55
0.43
0.15
1.29
0.132948272
-1.36
0.55
0.26
0.09
0.75
0.01329657
RS10439143
1.56 0.40
4.74
2.17
10.36
9.53E-05
1.13
0.49
3.08
1.18
8.04
0.02149428
RS10821709
0.30 0.31
1.35
0.73
2.47
0.334840791
1.14
0.52
3.13
1.12
8.77
0.02953053
RS10930202
0.71 0.33
2.03
1.05
3.90
0.034335098
0.72
0.81
2.06
0.42
10.14
0.37457799
RS10994148
-0.61 0.31
0.54
0.30
1.00
0.049996067
0.36
0.48
1.43
0.56
3.69
0.45473155
RS11152370
1.13 0.54
3.10
1.09
8.85
0.034344479
0.12
0.23
1.13
0.73
1.76
0.58890588
RS12707484
2.84 1.16 17.09
1.75
166.54
0.014560221
3.17
1.16 23.88
2.47
231.17
0.00615121
RS1340655
-0.20 0.33
0.82
0.43
1.55
0.544166337
-1.14
0.48
0.32
0.13
0.82
0.01690911
RS1381108
0.67 0.33
1.96
1.02
3.75
0.042147941
0.57
0.98
1.77
0.26
12.18
0.56102675
RS139879
0.99 0.49
2.68
1.03
6.95
0.042508641
0.45
0.51
1.57
0.58
4.26
0.37961042
RS139884
0.99 0.49
2.68
1.03
6.95
0.042307257
0.45
0.51
1.56
0.58
4.25
0.38039601
RS139887
0.66 0.33
1.93
1.01
3.68
0.047415376
-0.39
0.51
0.68
0.25
1.85
0.44518087
RS1708403
-0.45 0.34
0.64
0.33
1.24
0.186863682
-0.93
0.44
0.40
0.17
0.93
0.03423555
RS17184707
-1.44 0.64
0.24
0.07
0.82
0.023310651
-1.09
0.61
0.34
0.10
1.10
0.07185108
RS1801243
-0.77 0.34
0.46
0.24
0.91
0.024578561
-0.26
0.39
0.77
0.36
1.65
0.498863
RS1954134
0.89 0.44
2.43
1.03
5.74
0.043290447
1.12
0.47
3.07
1.23
7.69
0.01640529
RS1990071
-0.01 0.33
0.99
0.52
1.88
0.966349218
1.03
0.41
2.81
1.26
6.27
0.01129864
RS2058194
0.53 0.40
1.71
0.77
3.77
0.185712602
0.96
0.43
2.62
1.13
6.07
0.0244136
RS2070720
1.01 0.33
2.74
1.42
5.27
0.002530071
0.29
0.47
1.34
0.53
3.37
0.5341448
RS2236058
0.83 0.34
2.30
1.19
4.47
0.013592513
0.53
0.48
1.71
0.66
4.39
0.26773813
RS2236256
-0.71 0.35
0.49
0.25
0.98
0.042426745
-0.35
0.39
0.71
0.33
1.53
0.38146795
RS224082
-0.97 0.44
0.38
0.16
0.89
0.025823649
-0.65
0.44
0.52
0.22
1.22
0.13461429
RS2295283
-1.37 0.49
0.25
0.10
0.67
0.005508666
-1.66
0.49
0.19
0.07
0.50
0.00073784
RS2299169
0.20 0.31
1.23
0.66
2.27
0.514766275
1.36
0.69
3.91
1.02
14.98
0.04642885
RS230911
-0.73 0.37
0.48
0.24
0.99
0.047459629
-0.54
0.39
0.59
0.27
1.26
0.17119074
RS2336384
0.66 0.32
1.93
1.03
3.61
0.040199514
0.44
0.51
1.55
0.57
4.20
0.38841404
RS2368020
-1.17 0.46
0.31
0.13
0.77
0.011319628
-0.79
0.43
0.45
0.19
1.06
0.06656301
RS252853
3.07 1.15 21.61
2.25
207.65
0.007761875
2.91
1.15 18.42
1.94
175.25
0.01125845
RS2849380
-1.27 0.63
0.28
0.08
0.97
0.043940186
-1.19
0.60
0.30
0.09
1.00
0.04916636
RS3181073
2.71 1.35 15.04
1.07
212.01
0.044651818
2.51
1.33 12.36
0.91
168.33
0.0590566
Heterozygous
Homozygous (Minor Allele)
Discovery
rsID 0.98921225
RS12707484
-0.31
0.62
0.73
0.22
2.49
0.61971713
-0.18
0.61
0.84
0.26
2.74
0.76725935
RS1340655
-0.59
0.33
0.55
0.29
1.06
0.07463396
-0.76
0.45
0.47
0.19
1.13
0.09076952
RS1381108
0.50
0.35
1.65
0.83
3.29
0.151876
0.22
1.12
1.25
0.14
11.13
0.84225065
RS139879
0.85
0.52
2.35
0.85
6.47
0.0990671
-0.18
0.54
0.83
0.29
2.41
0.73581509
RS139884
0.72
0.50
2.06
0.78
5.46
0.14433551
-0.31
0.52
0.73
0.26
2.04
0.55046873
RS139887
1.06
0.35
2.88
1.45
5.71
0.00245949
0.10
0.53
1.11
0.39
3.15
0.84852489
RS1708403
-0.13
0.35
0.88
0.44
1.74
0.71092542
-0.07
0.42
0.93
0.41
2.11
0.86246051
RS17184707
-0.50
0.88
0.60
0.11
3.38
0.56678564
-0.20
0.85
0.82
0.16
4.28
0.80990606
RS1801243
-0.16
0.37
0.85
0.41
1.75
0.65724932
-0.05
0.44
0.95
0.40
2.24
0.9051277
RS1954134
0.13
0.45
1.14
0.47
2.73
0.77248519
0.74
0.45
2.10
0.88
5.06
0.09653747
RS1990071
-0.05
0.34
0.96
0.49
1.88
0.89605321
-0.03
0.46
0.97
0.40
2.38
0.94631269
RS2058194
0.18
0.40
1.20
0.54
2.66
0.64854762
0.03
0.44
1.03
0.44
2.41
0.95272037
RS2070720
0.07
0.34
1.08
0.55
2.10
0.82751539
0.49
0.44
1.63
0.69
3.86
0.2676911
RS2236058
-0.32
0.32
0.73
0.39
1.35
0.31343683
-0.76
0.54
0.47
0.16
1.35
0.16138036
RS2236256
-0.55
0.36
0.58
0.29
1.17
0.12603794
0.42
0.40
1.53
0.70
3.34
0.28893898
RS224082
-0.18
0.43
0.84
0.36
1.93
0.67758266
-0.18
0.45
0.84
0.35
2.02
0.69133499
RS2295283
0.33
0.71
1.39
0.35
5.55
0.64197702
0.05
0.71
1.05
0.26
4.20
0.94166603
RS2299169
0.05
0.33
1.05
0.55
2.00
0.88742965
0.20
0.79
1.22
0.26
5.70
0.80200092
RS230911
0.51
0.42
1.67
0.74
3.78
0.21847635
0.32
0.47
1.38
0.55
3.45
0.48982306
RS2336384
-0.07
0.32
0.93
0.50
1.74
0.82246174
-0.33
0.52
0.72
0.26
1.99
0.52501563
RS2368020
0.16
0.52
1.18
0.42
3.26
0.7550729
-0.01
0.52
0.99
0.36
2.73
0.97989925
RS252853
-0.07
0.62
0.94
0.28
3.13
0.91529992
0.15
0.59
1.16
0.36
3.71
0.80294711
RS2849380
-1.77
0.85
0.17
0.03
0.91
0.03826817
-1.24
0.82
0.29
0.06
1.44
0.13036906
RS3181073
0.02
0.72
1.02
0.25
4.23
0.97545916
0.25
0.70
1.28
0.33
5.03
0.72073228
rsID
Heterozygous
Homozygous (Minor Allele)
Validation RS3746166
-0.15
0.39
0.86
0.40
1.84
0.6943547
-0.16
0.45
0.86
0.36
2.05
0.72653624
RS3757630
0.58
0.39
1.79
0.83
3.85
0.139081
0.20
0.48
1.22
0.48
3.13
0.674803
RS3819437
0.52
0.45
1.67
0.69
4.06
0.2548468
0.27
0.50
1.30
0.49
3.47
0.5946437
RS38555
-0.10
0.56
0.91
0.30
2.70
0.85984593
-0.06
0.54
0.94
0.33
2.70
0.91208487
RS38557
0.05
0.32
1.05
0.56
1.96
0.88066377
-0.08
0.59
0.92
0.29
2.95
0.89358681
RS38564
-0.06
0.62
0.94
0.28
3.13
0.91672129
0.16
0.59
1.17
0.36
3.74
0.7932836
RS399413
-0.82
0.51
0.44
0.16
1.20
0.1084552
-0.25
0.48
0.78
0.31
1.98
0.60250176
RS42056
-0.09
0.33
0.92
0.48
1.74
0.78909844
0.07
0.48
1.08
0.42
2.78
0.87847263
RS4253623
-0.54
0.39
0.58
0.27
1.25
0.16714391
0.66
0.81
1.93
0.39
9.49
0.42063602
RS4310561
0.31
0.49
1.36
0.52
3.55
0.52564495
0.49
0.48
1.63
0.64
4.13
0.3048888
RS4558416
0.25
0.38
1.29
0.61
2.69
0.50460081
0.30
0.42
1.35
0.59
3.10
0.4745679
RS4667485
-0.57
0.34
0.56
0.29
1.09
0.09026553
-0.27
0.45
0.76
0.31
1.85
0.54749342
RS4987853
0.34
0.33
1.41
0.74
2.67
0.29525533
-0.70
0.72
0.50
0.12
2.01
0.32573009
RS5277
-0.43
0.36
0.65
0.32
1.32
0.23427854
-0.69
1.02
0.50
0.07
3.67
0.49616901
RS544093
-0.89
0.45
0.41
0.17
0.99
0.04823727
0.78
1.14
2.18
0.23
20.55
0.49585914
RS603769
0.17
0.38
1.19
0.56
2.52
0.65512241
0.23
0.45
1.26
0.52
3.06
0.60492393
RS603965
0.75
0.45
2.12
0.88
5.09
0.09336226
0.63
0.49
1.88
0.72
4.90
0.19853734
RS6532049
0.15
0.76
1.17
0.26
5.16
0.84007826
-0.22
0.74
0.80
0.19
3.41
0.76674499
RS6599237
-0.31
0.43
0.73
0.32
1.71
0.4737969
-1.36
1.22
0.26
0.02
2.82
0.26568965
RS668394
-0.09
0.33
0.91
0.48
1.75
0.78586441
-1.15
0.87
0.32
0.06
1.76
0.1887137
RS689466
-0.44
0.35
0.64
0.32
1.28
0.20659109
0.43
0.66
1.54
0.42
5.58
0.51387605
RS692995
-0.08
0.57
0.92
0.30
2.83
0.88476461
0.26
0.23
1.29
0.82
2.04
0.26902005
RS6977797
1.33
1.11
3.79
0.43
33.54
0.23055076
1.42
1.10
4.14
0.48
35.60
0.19560092
RS728539
-0.16
0.89
0.85
0.15
4.84
0.85409095
-0.46
0.86
0.63
0.12
3.40
0.59154494
RS7548209
-0.36
0.51
0.70
0.26
1.89
0.47933999
-0.87
0.51
0.42
0.15
1.14
0.08973089
RS757228
0.04
0.38
1.04
0.50
2.17
0.91428636
0.17
0.45
1.18
0.49
2.86
0.71471662
RS758000
-0.28
0.89
0.76
0.13
4.39
0.75820217
-0.52
0.87
0.60
0.11
3.26
0.55042863
RS7800456
-0.32
0.57
0.72
0.24
2.20
0.56927116
0.00
0.55
1.00
0.34
2.92
0.9973824
RS7802397
1.39
1.11
4.00
0.46
35.07
0.2109721
1.40
1.09
4.04
0.47
34.51
0.20218848
RS782054
-0.06
0.33
0.94
0.49
1.80
0.85050221
0.93
0.64
2.52
0.72
8.86
0.14910961
RS7858741
13.11 ##### ######
0.00 #NUM! RS9400393
0.02
0.34
1.02
0.53
1.96
0.95661096
0.12
0.45
1.13
0.47
2.71
0.78336428
RS9526810
0.39
0.33
1.47
0.77
2.83
0.24507777
0.17
0.61
1.19
0.36
3.91
0.77728723 Estimate
SE
OR
95% LB 95% UB
Uncorrected P-
value
Estimate
SE
OR
95% LB 95% UB
Uncorrected
P-value
RS1012018
0.28 0.32
1.32
0.71
2.47
0.383279285
-1.29
0.61
0.27
0.08
0.91
0.0347473
RS1020853
-0.83 0.55
0.43
0.15
1.29
0.132948272
-1.36
0.55
0.26
0.09
0.75
0.01329657
RS10439143
1.56 0.40
4.74
2.17
10.36
9.53E-05
1.13
0.49
3.08
1.18
8.04
0.02149428
RS10821709
0.30 0.31
1.35
0.73
2.47
0.334840791
1.14
0.52
3.13
1.12
8.77
0.02953053
RS10930202
0.71 0.33
2.03
1.05
3.90
0.034335098
0.72
0.81
2.06
0.42
10.14
0.37457799
RS10994148
-0.61 0.31
0.54
0.30
1.00
0.049996067
0.36
0.48
1.43
0.56
3.69
0.45473155
RS11152370
1.13 0.54
3.10
1.09
8.85
0.034344479
0.12
0.23
1.13
0.73
1.76
0.58890588
RS12707484
2.84 1.16 17.09
1.75
166.54
0.014560221
3.17
1.16 23.88
2.47
231.17
0.00615121
RS1340655
-0.20 0.33
0.82
0.43
1.55
0.544166337
-1.14
0.48
0.32
0.13
0.82
0.01690911
RS1381108
0.67 0.33
1.96
1.02
3.75
0.042147941
0.57
0.98
1.77
0.26
12.18
0.56102675
RS139879
0.99 0.49
2.68
1.03
6.95
0.042508641
0.45
0.51
1.57
0.58
4.26
0.37961042
RS139884
0.99 0.49
2.68
1.03
6.95
0.042307257
0.45
0.51
1.56
0.58
4.25
0.38039601
RS139887
0.66 0.33
1.93
1.01
3.68
0.047415376
-0.39
0.51
0.68
0.25
1.85
0.44518087
RS1708403
-0.45 0.34
0.64
0.33
1.24
0.186863682
-0.93
0.44
0.40
0.17
0.93
0.03423555
RS17184707
-1.44 0.64
0.24
0.07
0.82
0.023310651
-1.09
0.61
0.34
0.10
1.10
0.07185108
RS1801243
-0.77 0.34
0.46
0.24
0.91
0.024578561
-0.26
0.39
0.77
0.36
1.65
0.498863
RS1954134
0.89 0.44
2.43
1.03
5.74
0.043290447
1.12
0.47
3.07
1.23
7.69
0.01640529
RS1990071
-0.01 0.33
0.99
0.52
1.88
0.966349218
1.03
0.41
2.81
1.26
6.27
0.01129864
RS2058194
0.53 0.40
1.71
0.77
3.77
0.185712602
0.96
0.43
2.62
1.13
6.07
0.0244136
RS2070720
1.01 0.33
2.74
1.42
5.27
0.002530071
0.29
0.47
1.34
0.53
3.37
0.5341448
RS2236058
0.83 0.34
2.30
1.19
4.47
0.013592513
0.53
0.48
1.71
0.66
4.39
0.26773813
RS2236256
-0.71 0.35
0.49
0.25
0.98
0.042426745
-0.35
0.39
0.71
0.33
1.53
0.38146795
RS224082
-0.97 0.44
0.38
0.16
0.89
0.025823649
-0.65
0.44
0.52
0.22
1.22
0.13461429
RS2295283
-1.37 0.49
0.25
0.10
0.67
0.005508666
-1.66
0.49
0.19
0.07
0.50
0.00073784
RS2299169
0.20 0.31
1.23
0.66
2.27
0.514766275
1.36
0.69
3.91
1.02
14.98
0.04642885
RS230911
-0.73 0.37
0.48
0.24
0.99
0.047459629
-0.54
0.39
0.59
0.27
1.26
0.17119074
RS2336384
0.66 0.32
1.93
1.03
3.61
0.040199514
0.44
0.51
1.55
0.57
4.20
0.38841404
RS2368020
-1.17 0.46
0.31
0.13
0.77
0.011319628
-0.79
0.43
0.45
0.19
1.06
0.06656301
RS252853
3.07 1.15 21.61
2.25
207.65
0.007761875
2.91
1.15 18.42
1.94
175.25
0.01125845
RS2849380
-1.27 0.63
0.28
0.08
0.97
0.043940186
-1.19
0.60
0.30
0.09
1.00
0.04916636
RS3181073
2.71 1.35 15.04
1.07
212.01
0.044651818
2.51
1.33 12.36
0.91
168.33
0.0590566
Heterozygous
Homozygous (Minor Allele)
Discovery
rsID 0.98980631
13.14 ##### ######
0.00 #NUM! 0.98978245
RS7907557
-0.03
0.37
0.97
0.46
2.01
0.92849632
0.27
0.42
1.31
0.58
3.00
0.51681239
RS876430
1.02
0.78
2.77
0.60
12.70
0.19047693
1.20
0.77
3.31
0.73
15.02
0.12053392
RS879207
0.89
0.34
2.45
1.24
4.81
0.00945894
0.65
0.49
1.91
0.73
4.99
0.18705672
RS922116
0.25
0.32
1.29
0.68
2.41
0.43417341
0.34
0.58
1.41
0.45
4.44
0.55568458
RS929351
0.05
0.36
1.05
0.52
2.11
0.89512458
-0.21
0.46
0.81
0.33
1.98
0.64101902 RS1012018
0.00724313
RS1020853
0.00043825
RS10439143
4.54E-05
RS10821709
0.01205215
RS10930202
0.00516359
RS10994148
0.04301045
RS11152370
0.00626025
RS12707484
0.00381201
RS1340655
0.00126199
RS1381108
0.00640126
RS139879
0.00421121
RS139884
0.00610644
RS139887
0.00011662
RS1708403
0.02433893
RS17184707
0.01321214
RS1801243
0.01615424
RS1954134
0.00158373
RS1990071
0.01012418
RS2058194
0.01583338
RS2070720
0.00067728
RS2236058
0.00219356
RS2236256
0.00534738
RS224082
0.01749766
RS2295283
0.00047367
RS2299169
0.03723598
RS230911
0.01036881
RS2336384
0.02110537
RS2368020
0.00854714
RS252853
0.00623238
RS2849380
0.00168151
RS3181073
0.03218201
rsID
Combined
Uncorrected
P-value RS3746166
0.01864752
RS3757630
0.00672575
RS3819437
0.00850547
RS38555
0.00934024
RS38557
0.00898825
RS38564
0.00752739
RS399413
0.00286478
RS42056
0.03641006
RS4253623
0.00373581
RS4310561
0.00849836
RS4558416
0.02278926
RS4667485
0.00374294
RS4987853
0.00952266
RS5277
0.00162964
RS544093
0.00193189
RS603769
0.02488473
RS603965
0.00465421
RS6532049
0.03608033
RS6599237
0.00385705
RS668394
0.0033017
RS689466
0.00497394
RS692995
0.00718892
RS6977797
0.0049964
RS728539
0.0242972
RS7548209
0.00092981
RS757228
0.01896178
RS758000
0.02023279
RS7800456
0.00285972
RS7802397
0.0077539
RS782054
0.00030399
RS7858741
0.0472995
RS7907557
0.00888271
RS876430
0.00514912
RS879207
0.00026026
RS922116
0.01239824
RS929351
0.01463395 RS9400393
0.00298526
RS9526810
0.0089342
|
https://openalex.org/W4396514299
|
https://fkd.net.ua/index.php/fkd/article/download/4170/4087
|
Russian
| null |
STATE OF ECONOMIC SECURITY AND DIRECTIONS OF RESTORATION SOCIO-ECONOMIC DEVELOPMENT AND FOOD SECURITY IN THE CONDITIONS OF WAR
|
Fìnansovo-kreditna dìâlʹnìstʹ: problemi teorìì̈ ta praktiki
| 2,024
|
cc-by
| 16,106
|
FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 DOI: 10.55643/fcaptp.2.55.2024.4170 DOI: 10.55643/fcaptp.2.55.2024.4170 Zoriana Los D.Sc. in Economics, Associate
Professor of the Department of
Enterprise Economics and International
Business, National University of Water
and Environmental Engineering, Rivne,
Ukraine; Nadiia Burdeina
PhD in Economics, Associate Professor
of the Department of Military Support,
Military Academy, Odesa, Ukraine;
ORCID: 0000-0002-3070-1866 Keywords: economic security, socio-economic development, food security, directions
of economic recovery, influences of war Oksana Kazak
PhD in Economics, Associate Professor
of the Department of Finance, Borys
Grinchenko Kyiv University, Kyiv,
Ukraine;
ORCID: 0000-0003-2088-9022 JEL Classification: E20, E31, J49, M21, O11, O23 JEL Classification: E20, E31, J49, M21, O11, O23 JEL Classification: E20, E31, J49, M21, O11, O23 STATE OF ECONOMIC SECURITY AND
DIRECTIONS OF RESTORATION SOCIO-
ECONOMIC DEVELOPMENT AND FOOD
SECURITY IN THE CONDITIONS OF WAR Andrii Dankevych
D.Sc. in Economics, Professor of the
Department of Economics and Law,
National University of Food
Technology, Kyiv, Ukraine; Professor of
the Department of Economic Security,
Public Administration and
Management, Zhytomyr Polytechnic
State University, Zhytomyr, Ukraine;
e-mail: an.dankevich@gmail.com
ORCID: 0000-0003-1801-7516
(Corresponding author) Olena Polova D.Sc. in Economics, Professor, Acting
the Head of the Department of
Analysis and Audit, Vinnytsia National
Agrarian University, Vinnytsia, Ukraine;
ORCID: 0000-0002-7120-7944 ABSTRACT The purpose of the article is to determine the state of economic security, ways to ensure
its level, and ways to restore socio-economic development under the cumulative impact
of threats. In order to realize this goal, an expert assessment of the components of
economic security provided and the need to take into account the component of mili-
tary-economic security indicated. It indicated that the task of neutralizing threats to
military and economic security opens up new windows of opportunity, in particular op-
portunities in ensuring socio-economic development. Prerequisites for the use of oppor-
tunity windows are defined. The dynamic nature of threats of war that require institu-
tional measures for permanent monitoring of dynamic threats, their operational analyt-
ical assessment and the introduction of tactics to neutralize threats and reduce their
long-term negative impact, are indicated. An analysis of the state economic security
provided, directions for improving this state by components of economic security indi-
cated. The main factors on which the well-being of the country's population depends
are determined, the effects of crises on the indicators of the levels of income and ex-
penditure of the population analyzed, and the drivers of the deterioration of well-being
are established. It noted that the deterioration of the socio-economic situation of house-
holds led to the narrowing of the domestic market, which had a negative impact on the
functioning of SMEs. It indicated that this created a negative inverse multiplier effect on
the well-being of the population. The negative effects of the crisis, which led to a re-
duction in production volumes in the agricultural sector, were identified. It indicated
that this significantly limited the ability of the branch to fulfil food security tasks. Pro-
posed ways to reduce the negative impact of war on agricultural production to ensure
food security. The directions and recommendations for economic and food security and
restoring socio-economic development are specified. Svitlana Stoyanova-Koval
D.Sc. in Economics, Professor of the
Department of Accounting and
Taxation, Odesa State Agrarian
University, Odesa, Ukraine;
ORCID: 0000-0002-1945-0509 LITERATURE REVIEW The study of issues of economic security, and its component - food security and socio-economic development can be
traced in the works of many Ukrainian researchers. General theoretical aspects of the specified problem were investigated
by scientific teams led by Ilchuka (2018), Bobukh (2018) and Vozniak (2021). They raise issues of a theoretical nature,
the solution of which requires national and international joint efforts. In their opinion, in conditions of instability, it is
necessary to introduce an innovation-investment system approach, structural changes in the economy, and the use of new
approaches by institutional structures. Shemayeva et al. (2023) investigated the methodological aspects of ensuring eco-
nomic stability in the conditions of war and indicated that the factors that form negative effects during martial law "partly
arose in the pre-war period (low adaptive capabilities of the Ukrainian economy to the conditions of martial law, institutional
defects and traps that inhibited its reformation and conditioned the existence of disparities in the pre-war period, etc.)."
Antoshkin and others (2022) pointed to the structuring of economic security and defined its "structural blocks: international
politics, world economy, globalization processes; economic, state and public institutions; resources and productivity; ide-
ology, strategies and models of the country's development." Redziuk (2023) indicated the correlation between business
activity and "the quality of state regulation, provision of a wide range of relevant financial and investment instruments"
due to which problems and factors inhibiting the development of business activity in Ukraine were identified, which directly
affects the state of economic security and social - economic development. Maiorova (2013) indicated the importance of
economic security in improving the investment climate of Ukraine and related financial and credit leverage. The same
aspect was also emphasized by Brezhnyeva-Yermolenko et al. (2018), deepening the disclosure of the problem of invest-
ment in the national economy by commercial banks. Summarizing the need not only to ensure the legal basis for regulating
the specified processes, Borshchevskyy et al. (2022) focus research on the identification of various elements of the financial
and investment potential, namely: "... the financial and budgetary capacity of the region, the potential investment capacity
of its market, the ability to attract resources through co-financing and lending." Socio-economic problems of regional
development in Ukraine, according to Martynovych (2023), require the classification of the entire research database into
three separate periods, namely: pre-war, post-war and post-war, with which we agree. INTRODUCTION Martial law conditions have a serious impact on the socio-economic development, eco-
nomic and food security of the country. Military conflicts lead to the destruction of in-
frastructure, a decrease in production and economic activity, loss of life and property,
as well as population displacement and exacerbation of social problems. The dynamic
nature of war threats not only requires institutional measures for their permanent mon-
itoring, operational analytical assessment and the introduction of appropriate institu-
tional measures but also opens windows of opportunity, in particular, in neutralizing
some negative effects on the level of economic security and ensuring socio-economic
development. Restoring the economy and food security requires significant financial resources and
investments. One of the key factors of recovery is the optimal management of budget
resources. The military conflict distorts the country's economic system, leading to a
decrease in income, an increase in the budget deficit, and an increase in the public debt. 441 DOI: 10.55643/fcaptp.2.55.2024.4170 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 For effective recovery, it is necessary to attract external financial resources, such as loans, grants, and investments in
order to support economic reforms, recovery of production and infrastructure. Investment is another important determinant of post-war recovery. Foreign investments can provide the necessary tech-
nological base, new jobs, increase production efficiency and development of new sectors of the economy. The right in-
vestment policy, which is aimed at sustainable development and ensuring recovery, can become a necessary tool for
reforming the economy after the war. Under martial law, the financial system is often opaque, unstable and inefficient. The reforms should be aimed at creating
a stable and transparent financial system that ensures the confidence of investors and entrepreneurs. Food security is also an important aspect of post-war recovery. Economic crises, the COVID-19 pandemic, and military
operations have led to significant difficulties in the production of agricultural products and their supply to consumers,
destruction of agricultural infrastructure, loss of crops and increased dependence on food imports. To ensure food security,
it is important to restore the agricultural sector, provide support to agricultural enterprises, and ensure access to credit
and innovative technologies. LITERATURE REVIEW The full-scale war created new threats not only to economic security, and socio-economic development but also to the
provision of food to the population. The specified conditions and threats were studied by Rebryk et al. (2023) and based
on the results of their analysis indicated the "necessity of modelling and forecasting the dynamics of the economy of
Ukraine in the medium term in order to develop government decisions to ensure the economic security of the state." This
thesis is supplemented and expanded in the presented article. Romanovska and others (2022) indicated that the manage-
ment of socio-economic processes is complicated by "the long-term economic crisis caused by the destruction caused by
the Russian regime and the slowdown of business activity earlier - as a result of the COVID-19 pandemic." The negative
consequences of the crisis are indicated: "unbalance of the national financial system (uncontrolled growth of the budget
deficit, which as a result of military actions crossed a critical line), opacity and corruption schemes in certain sectors of the
economy, which led to significant financial frauds, illogicality and inconsistency of government reforms," etc. This required
a detailed study in the presented article. Mazaraki et al. (2022) analyzed the threats of war to economic security and
indicated that there is a significant dynamic of the "trade balance deficit. The specified dynamics are determined by the
reduction of imports at lower rates than exports." Buriak et al. (2022) pointed to "significant disparities in the achievement
of social and economic development of Ukraine." These disparities have not only a regional but also an industry dimension, DOI: 10.55643/fcaptp.2.55.2024.4170 442 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 as indicated in the presented article. Chernyshova et al. (2022) studied the prospects of investments and obtaining loans
by Ukrainian manufacturers. Ohrenych and others. (2023) analyzed the impact of a decrease in the level of economic
security on the competitiveness of domestic enterprises in war conditions. It is stated that "enterprises will have to take
radical actions to reduce profits." Onyshchenko and others. LITERATURE REVIEW (2023) indicated that the war led to a "socio-economic crisis,
which is characterized by a weakening of the macroeconomic balance, an increase in social tension, and a drop in the
standard of living of the population." The most dangerous threats are: "the fall in the standard of living and the impover-
ishment of the population due to a sharp drop in the purchasing power of Ukrainians; the increase in unemployment due
to the drop-in business activity; the outflow of the population from permanent places of residence and the loss of perma-
nent work due to the migration crisis". The issue of food security of the country's population during the crisis occupies a special place, which was discussed in
the article by Bioko et al. (2022) and indicated that food security is a component of economic security and forms the
prerequisites for socio-economic development. Bioko and others (2022) also indicated the needs of the agrarian industry
for the proper provision of food security, in particular, foreign assistance "in demining and recreation of fertile lands of de-
occupied territories; providing preferential loans to farmers for the restoration of equipment and production facilities dam-
aged or destroyed as a result of hostilities; provision of preferential loans by foreign investors for the restoration of the
infrastructure of storage, transportation and processing of products." Kovalova (2020), note that it is necessary to intro-
duce appropriate changes in the operational management of food safety issues, both normative and methodical. The same
opinion is held by Pashchenko (2022), adding an analysis of factors that can negatively affect the economy of the country,
regions, food producers and the population. Thus, scientists and specialists pay the main attention to separate issues, and
not to a comprehensive study of the financial and investment determinants of the restoration of socio-economic develop-
ment and food security in the conditions of martial law, which served to select the goal and object of research. METHODS In the course of the research, general scientific and special methods of cognition were used: hermeneutic regarding the
analysis of the effects of war on the state of economic security; analysis and synthesis to determine the state of food
security and investment climate in the country; induction and deduction regarding the development of proposals and
clarifications for the purpose of socio-economic development and food security. The method of critical analysis made it
possible to indicate directions for neutralizing threats to economic and food security and to develop recommendations for
the restoration of socio-economic development. AIMS AND OBJECTIVES The purpose of the article is to determine the state of economic security, directions for ensuring its level and directions
for restoring social and economic development under the combined influence of threats. The tasks of the article are to
define: the components of economic security and their state, first of all, the state of food security; the impact of war
threats on economic security by its components; areas of neutralization of threats to economic and food security; devel-
opment of recommendations for the restoration of socio-economic development. RESULTS During the transition of the aggressor to a war of attrition, the impact of military
actions on the state of economic security was supplemented by the bombing of critical infrastructure, in particular infra-
structure for export purposes, tactics of destroying the socio-economic component of national security and promoting the
formation of economic disparities. The aggressor analyzes the actions of the government and military administrations and
applies operational manoeuvring with the tools of hybrid warfare, purposeful development and use of new types of threats
to economic security. The dynamic nature of the threats of war, and changes in their influence by direction, determine the
dynamic nature of changes in previously much more stable economic categories, such as economic security and socio-
economic development. This requires institutional measures to monitor dynamic threats, their operational analytical as-
sessment and the introduction of tactics to neutralize threats and reduce their long-term negative impact (Shevchuk,
Omelchuk, 2023). The National Institute for Strategic Studies compiled a list of threats by components of economic security under martial
law and assessed their relative weight (Table 1). Table 1. Threats by components of economic security and their relative weight. (Source: based on data from the National Institute for Strategic
Studies, 2023)
№
Components of economic security
The relative weight of components of economic security, %
1
Social security
22
2
Financial security
16
3
Macroeconomic security
14
4
Food security
14
5
Foreign economic security
12
6
Investment and innovation security
12
7
Production safety
10 Challenges of war lead to the need to take into account one more aspect of economic security, which was left out of the
attention of the experts of the National Institute of Strategic Studies - military-economic security. This component of
economic security can be defined as a set of institutional measures that ensure urgent and strategic military-economic
needs within the established time limits and at the appropriate level. Indicators of military and economic security can be
defined as the ability of the economy to produce the necessary weapons and supplies; supply the troops with the appro-
priate amount and nomenclature of food supply, seasonal clothing, ammunition, and other necessary resources; the level
of formation of operational reserves and the level of providing military production with labour resources. The availability
and volume of strategic and tactical reserves are also an indicative indicator. RESULTS The analysis was carried out taking into account the refined classification of the research periods. The authors suggest the
following research periods:
2010-2014 – pre-occupation period;
2015-2019 – the period of partial occupation of the territory of Ukraine;
2020-2021 - the period of Covid-19;
2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some
indicators, the calculation was made for 2022.
2010-2014 – pre-occupation period;
2015-2019 – the period of partial occupation of the territory of Ukraine;
2020-2021 - the period of Covid-19;
2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some
indicators, the calculation was made for 2022.
2020-2021 - the period of Covid-19;
2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some
indicators, the calculation was made for 2022.
2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some
indicators, the calculation was made for 2022.
2022 and until now - the period of full-scale hostilities on the territory of Ukraine. In the absence of data on some
indicators, the calculation was made for 2022. The introduction of the third period made it possible to assess the cumulative impact of various threats (COVID-19, military
actions) on the well-being of the population, capital investments, the dynamics of the gross domestic product, etc. The introduction of the third period made it possible to assess the cumulative impact of various threats (COVID-19, military
actions) on the well-being of the population, capital investments, the dynamics of the gross domestic product, etc. The state of economic security in the conditions of war is determined by the ability of the economy to withstand internal
and external challenges, to ensure the appropriate level of competitiveness on the global market and the stable and DOI: 10.55643/fcaptp.2.55.2024.4170 443 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 balanced functioning of all industries. This state at the beginning of a full-scale war was supported by the resources formed
in previous times and international aid. RESULTS The need to produce and supply the army
with everything necessary in wartime can stimulate the economy, solve the problem of unemployment, and ensure the
sustainability of socio-economic development even in conditions of significant threats. At the same time, it should be taken
into account that the economic principles of labour to meet military needs are not identical to the economic principles of
peacetime labour, in particular, given that the result of labour is a public product "military service" (Shemayeva et al.,
2023). This will affect the assessment of budgetary resources for the fulfilment of the specified tasks. This indicates the expediency of implementing a systemic approach in the use of resources for the complex neutralization
of threats in various components of economic security. This also indicates that war not only creates threats but also opens
new windows of opportunity, in particular opportunities in ensuring socio-economic development. The problem with the
use of windows of opportunity is that due to the dynamics of changes in the conditions of the state of war, they are
unstable, therefore, for the effective use of all opportunities, anticipatory analysis, forecasting and operational provision
of measures and the formation of prerequisites for their successful implementation, preparation of resources, etc. must
be implemented. For this purpose, the relevant institutional structures should be assigned the duties of implementing the
specified tasks, given powers and defined responsibilities. Implementation of the specified direction requires the imple-
mentation of relevant political decisions. Today, experts consider the level of the state budget deficit and, accordingly, the growth of external debt, the rate of
which is increasing, as the cost of external borrowings increases, to be one of the most significant risks for the state of
economic security. This is a multiplier of the specified threat to the state of economic security due to the need to repay
and service loans. The situation is complicated by the fact that, according to the forecasts of the National Bank, revenues
from exports will decrease. For example, for one of the main commodity items of export - agricultural products, as a result
of the decrease in world prices. RESULTS Thus, in the 3rd quarter of 2024, according to the forecasts of the National Bank, prices DOI: 10.55643/fcaptp.2.55.2024.4170 444 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 for wheat (Wheat K C Hard National) will decrease to the level of the 3rd quarter of 2021, and for corn (Corn Yellow #2
Del. US Gulf) even to the level of 4 quarter of 2020 (Mazaraki et al., 2022). This requires increasing the efforts of institu-
tional structures to find new ways of obtaining financial resources, optimizing budget expenditures, and forming a rational
structure of the country's debt. A promising way to optimize costs is to abandon the predominant support of export-
oriented industries and direct budgetary resources to the development of small businesses, FOP, and the encouragement
of innovative areas of activity. This is expedient, in particular, given the fact that supporting the export of main products
with low-added value contributes to the rooting of the commodity-based nature of the economy. One of the indicated
ways can also be a purposeful policy on obtaining reparations from the aggressor and attracting his confiscated financial
resources. A component of economic security, as indicated in Table 1, is investment and innovation security. Therefore, it is necessary
to create a state program to attract investments, first of all, in such a reliable direction of investment as the restoration of
infrastructure, in particular, in the construction sector. Restoration of destroyed infrastructure objects: roads, bridges, and
energy enterprises are relevant already today, but in the post-war period, due to the huge volume of work and profits, the
construction sector promises to be significant. Investments in the restoration of infrastructure can contribute to the resto-
ration of sustainability of economic security and socio-economic development in the conditions of war. That is why the
expedient direction of restoring socio-economic development is to increase the efforts of institutional structures to promote
investments, especially in promising sectors of the economy. A necessary direction of investment is also the promotion of
the development of the domestic market, which can become a multiplier in improving the socio-economic component of
the country's economic security. At the same time, the risk of a drop in the standard of living of the population, which is observed according to the main
indicative indicators, is significant. RESULTS The reduction of labour and financial resources and the level of material and technical
support of critical areas of the economy and the military are also significant. There are significant uncertainties in the
challenges of military actions: the time and resources needed to restore economic activity in the liberated territories; the
level of danger in logistical ways; disproportions in production and business activities due to distance from the war zone,
etc. Significant uncertainty is also characterized by a decrease in the level of employment in the industry due to the
occupation of centres of concentration of industrial production, relocation of enterprises, narrowing of sales markets, etc. In particular, the difficulties of employing qualified specialists in connection with the above lead to deformation in the field
of labour resources, an increase in the level of unemployment and the impoverishment of the population, which is a new,
previously unexplored impact of the war. After the start of the full-scale war, unemployment significantly exceeded the
critical level of ~9%, which poses a significant challenge to socio-economic security. The long-term impact of this threat
is due to the war, in particular, because the military actions led to the slowdown and even the shutdown of a significant
number of Ukrainian companies, and ~21% of entrepreneurs were forced to change the type of economic activity. The
decline in the standard of living of the population is also provoked by counter-directed measures of tax policy - for declaring
a reduction in the tax burden, in particular, on labour, reducing tax rates to 10%, etc., new taxes are introduced and
previous tax cancellations are introduced (fuel excise tax, real estate sales tax, etc.). Socio-economic development requires
a predictable tax policy, which also takes into account the social consequences of the decisions of institutional structures. In accordance with the specified goal, we conducted a thorough study of the factors that affected the deterioration of the
country's financial and investment climate and the socio-economic situation of the population by comparing the indicators
of the Inflation Index, the devaluation of the hryvnia against the US dollar (Figure 1), dynamics of capital investments,
property damage received by state, municipal institutions, enterprises and organizations, and the country's population. Figure 1. Comparison of Inflation Index and Growth Rate of Real Wages, %. DOI: 10.55643/fcaptp.2.55.2024.4170 RESULTS Notes: * - all indicators of the Indexes are
calculated until 2010; 1 - according to the data of the State Statistics Service of Ukraine (SSCU); 2 - according to the data of the Pension Fund of Ukraine
(PFU); 3 - https://biz.nv.ua/ukr/economics/zarplata-2023-na-skilki-zrosla-serednya-zarplata-v-ukrajini-50336985.html; 4 - the 2023 indicator for April was
calculated using the data https://index.minfin.com.ua/ua/labour/salary/min/). (Source: based on data from the State Statistics Service of Ukraine and
authors calculated) Table 2. Impacts of crises on indicators of income and expenditure levels of the population, UAH. Notes: * - all indicators of the Indexes are
calculated until 2010; 1 - according to the data of the State Statistics Service of Ukraine (SSCU); 2 - according to the data of the Pension Fund of Ukraine
(PFU); 3 - https://biz.nv.ua/ukr/economics/zarplata-2023-na-skilki-zrosla-serednya-zarplata-v-ukrajini-50336985.html; 4 - the 2023 indicator for April was
calculated using the data https://index.minfin.com.ua/ua/labour/salary/min/). (Source: based on data from the State Statistics Service of Ukraine and
authors calculated)
Indicators*
On average for
Index change
Pre-occu-
pation pe-
riod
The period of par-
tial occupation of
the territory of
Ukraine
The period
of Covid-
19
The period
of full-
scale hos-
tilities on
the terri-
tory of
Ukraine
A
1
2
3
4
5=2/1
6=3/2
7=4/3
8=4/1
Average monthly salary1, UAH
2928.6
7168.7
12802.7
15679.53
2.4
1.8
1.2
5.4
Average monthly salary2, UAH
2647.0
6286.7
11667.0
13399.6
2.4
1.9
1.1
5.1
Minimum salary4, UAH
1099.2
2814.8
5750.0
6700.0
2.6
2.0
1.2
6.1
Average monthly total expenditure per
household, UAH
3598.5
7158.1
10383.5
0.0
2.0
1.5
0.0
0.0
Average monthly total resources per one
household, UAH
4102.6
8331.7
13461.4
0.0
2.0
1.6
0.0
0.0
Consumer price indices for goods and ser-
vices to December 2010
108.9
235.0
301.9
406.9
2.2
1.3
1.3
3.7
including:
Housing, water, electricity, gas and other
fuels
117.1
468.8
643.2
713.6
4.0
1.4
1.1
6.1
Transport
131.0
274.6
337.6
499.4
2.1
1.2
1.5
3.8
Food and non-alcoholic beverages
104.6
206.8
267.1
391.2
2.0
1.3
1.5
3.7
With the beginning of the military aggression of the Russian Federation against Ukraine, more than 8 million people left
for the EU, of which, according to a UN survey, 72% were aged 18-59 and almost half had higher education (BBC News
Ukraine, 2023). Among them, the loss of labour potential amounted to more than 70%. RESULTS The part of the population re-
maining in Ukraine is approximately 28.5 million people, of which 41.1% can be classified as economically active, including
employed - 32.6% and 9.5% are unemployed (Ukrinform, 2023a). With the beginning of the military aggression of the
Russian Federation against Ukraine, households significantly reduced their own incomes - by 65%, as reported by the
United Nations. The share of households whose only source of income is wages decreased by 14% to 53%. The economic
situation of most households in the country is deteriorating, which is confirmed by the UN survey. The share of households
that cannot buy everything they need is 44%, with an insufficient level of food supply - 33%, partially reduced consump-
tion, use credit resources and switch to low-quality (sub)products - 43% of respondents (Ukrinform, 2023b). It should be noted that the main factor in the growth of inflation in Ukraine was a significant mismatch between the value
of the UAH and the USD The USD exchange rate increased more than seven times However without taking into account With the beginning of the military aggression of the Russian Federation against Ukraine, more than 8 million people left
for the EU, of which, according to a UN survey, 72% were aged 18-59 and almost half had higher education (BBC News
Ukraine, 2023). Among them, the loss of labour potential amounted to more than 70%. The part of the population re-
maining in Ukraine is approximately 28.5 million people, of which 41.1% can be classified as economically active, including
employed - 32.6% and 9.5% are unemployed (Ukrinform, 2023a). With the beginning of the military aggression of the
Russian Federation against Ukraine, households significantly reduced their own incomes - by 65%, as reported by the
United Nations. The share of households whose only source of income is wages decreased by 14% to 53%. The economic
situation of most households in the country is deteriorating, which is confirmed by the UN survey. The share of households
that cannot buy everything they need is 44%, with an insufficient level of food supply - 33%, partially reduced consump-
tion, use credit resources and switch to low-quality (sub)products - 43% of respondents (Ukrinform, 2023b). It should be noted that the main factor in the growth of inflation in Ukraine was a significant mismatch between the value
of the UAH and the USD. RESULTS (Source: based on data from the https://index.minfin.com.ua/)
0
20
40
60
80
100
120
140
160
2010
2011
2012
2013
2014
2015
2016
2017
2018
2019
2020
2021
2022
Inflation Index and growth rate of
real wages, %
Inflation Index
Growth rate of real wages DOI: 10.55643/fcaptp.2.55.2024.4170 445 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 Figure 1 shows a deterioration in the financial and economic situation. Comparing the indicators of the Hryvnia Inflation
and Devaluation Index, we note that they increased almost equally and amounted to 7.222 and 7.241 starting from 2007
to March 2023. One of the important factors was the devaluation of the hryvnia against the USD by 4.606 times, especially
starting from 2014 and to this day. That is, all monetary physical accumulations, deposits and bank accounts in the national
currency led to huge irreparable losses. The well-being of the country's population depends on several main factors: the average monthly income per person, and
prices for basic products, goods and services (Table 2). The higher the level of income, the greater the wealth and the
better provision of everyday human needs. On the contrary, the higher the level of prices with an unchanged trend of
income, its decrease or its slight increase, a person cannot fully provide himself with everything he needs. So, only in
2021-2022, the cost of fuel increased by 70%, which became the driver of price growth for almost all types of goods,
including the increase in food prices - by 29.3% (BBC News Ukraine, 2023). Table 2. Impacts of crises on indicators of income and expenditure levels of the population, UAH. Notes: * - all indicators of the Indexes are
calculated until 2010; 1 - according to the data of the State Statistics Service of Ukraine (SSCU); 2 - according to the data of the Pension Fund of Ukraine
(PFU); 3 - https://biz.nv.ua/ukr/economics/zarplata-2023-na-skilki-zrosla-serednya-zarplata-v-ukrajini-50336985.html; 4 - the 2023 indicator for April was
calculated using the data https://index.minfin.com.ua/ua/labour/salary/min/). (Source: based on data from the State Statistics Service of Ukraine and
authors calculated) Table 2. Impacts of crises on indicators of income and expenditure levels of the population, UAH. RESULTS The deterioration of the socio-economic condition of households led to the narrowing of the domestic market, which had
ti
i
t
th
f
ti
i
f SME
d l d t
d
d
ti
f th i fi
d
it l
d
i
th Converting the indicators to the USD, we see that the level of the average salary increased by only 30% against 5.4 times
(in UAH), that is, the distortion of the indicator is 76%. The situation is similar to other indicators of this group. Therefore,
in the future, we will convert all indicators into a liquid international monetary unit - the USD. Converting the indicators to the USD, we see that the level of the average salary increased by only 30% against 5.4 times
(in UAH), that is, the distortion of the indicator is 76%. The situation is similar to other indicators of this group. Therefore,
in the future, we will convert all indicators into a liquid international monetary unit - the USD. The deterioration of the economic situation in the country is evidenced by the situation of small and medium-sized enter-
prises (SMEs) (Figures 2 and 3). The deterioration of the economic situation in the country is evidenced by the situation of small and medium-sized enter-
prises (SMEs) (Figures 2 and 3). The deterioration of the socio-economic condition of households led to the narrowing of the domestic market, which had
a negative impact on the functioning of SMEs and led to a narrowed reproduction of their fixed capital, a decrease in the
economic efficiency of operation, a reduction in personnel or the liquidation of business. This created a negative inverse
multiplier effect on the socio-economic status of the population. According to Figure 2, the percentage of entrepreneurs who were not affected by the hostilities is insignificant (6%), while
88% have different levels of losses, ranging from 10 to 100 and above thousands of dollars. A decrease in the financial
strength of enterprises negatively affected the employment of ordinary people due to a decrease in the ability to pay
wages to their employees. The decrease in employee incomes and the high level of migration abroad of specialists and
ordinary consumers of products led to a decrease in the purchasing power of the population to 43% in 2023 compared to
the previous period and a shortage of specialists by almost a third. RESULTS The USD exchange rate increased more than seven times. However, without taking into account
this factor, when studying the socio-economic development of Ukraine, we have significant distortions, as evidenced by
the data in Table 3. It should be noted that the main factor in the growth of inflation in Ukraine was a significant mismatch between the value
of the UAH and the USD. The USD exchange rate increased more than seven times. However, without taking into account
this factor, when studying the socio-economic development of Ukraine, we have significant distortions, as evidenced by
the data in Table 3. DOI: 10.55643/fcaptp.2.55.2024.4170 446 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 Table 3. Impacts of crises on indicators of income and expenditure levels of the population, USD. Notes: *- all indicators of the Indexes are
calculated until 2010. Indicators*
On average for
Index change
Pre-occupa-
tion period
The period of
partial occu-
pation of the
territory of
Ukraine
The period of
Covid-19
The period of
full-scale hos-
tilities on the
territory of
Ukraine
A
1
2
3
4
5=2/1
6=3/2
7=4/3
8=4/1
The USD exchange
rate for 100 USD, for
the NBU rate
961.5
2659.1
2848.9
3656.9
2.7657
1.0714
1.2836
3.8034
Average monthly sal-
ary (SSCU)
322.8
270.4
449.0
428.8
0.8378
1.6603
0.9549
1.3283
Average monthly sal-
ary (PFU)
291.7
237.1
409.1
366.4
0.8129
1.7252
0.8957
1.2562
Minimum salary
122.3
105.9
201.6
183.2
0.8662
1.9031
0.9089
1.4983
Average monthly to-
tal expenditure per
household
374.3
269.2
364.5
n/d
0.7192
1.3540
х
х
Average monthly to-
tal resources per
household
426.7
313.3
472.5
n/d
0.7343
1.5081
х
х
Converting the indicators to the USD, we see that the level of the average salary increased by only 30% against 5.4 times
(in UAH), that is, the distortion of the indicator is 76%. The situation is similar to other indicators of this group. Therefore,
in the future, we will convert all indicators into a liquid international monetary unit - the USD. The deterioration of the economic situation in the country is evidenced by the situation of small and medium-sized enter-
prises (SMEs) (Figures 2 and 3). RESULTS More than a third of interviewed entrepreneurs reported receiving tax benefits, and 2/3 had a positive experience. A little more than a quarter of managers of SMEs noted a positive experience of attracting loans through the Affordable
Loans 5−7−9% program, of which almost half had a negative experience (Ivanov, 2023). tax pressure
lack of financing and
access to credit
lack of specialists and
problems with booking
employees and traveling
abroad
decrease in the
purchasing power of
the population
Figure 3. The main obstacles to the development of SMEs in the conditions of war. (Source: constructed using Ivanov, 2023) Figure 3. The main obstacles to the development of SMEs in the conditions of war. (Source: constructed using Ivanov, 2023 In conditions of uncertainty, enterprises rely only on their own financial resources. The tension in the economic environ-
ment is quite high, which has affected the financial strength of SMEs, as evidenced by the data in Figure 4. For example,
the share of entrepreneurs who do not have a financial basis at all increased by 7% to 32% in 2022-2023, which affected
the decrease of the share of SMEs that are able to function in the future for more than a year, by 2% and amounted to
12%. In other enterprises, the situation is not better, as 53% of entrepreneurs can function without interruption for 1 to
6 months. This is also confirmed by the data in Table 5, where the gross fixed capital formation indicator decreased by
almost 37%, changes in inventories – by 65%, and acquisitions less disposals of valuables – by 40% over the 4 studied
periods. A quarter of entrepreneurs who took part in a survey conducted by the European Business Association noted the
absence of qualitatively available data or their lack of business support programs at both the national and international
levels. More than a third of interviewed entrepreneurs reported receiving tax benefits, and 2/3 had a positive experience. A little more than a quarter of managers of SMEs noted a positive experience of attracting loans through the Affordable
Loans 5−7−9% program, of which almost half had a negative experience (Ivanov, 2023). In conditions of uncertainty, enterprises rely only on their own financial resources. The tension in the economic environ-
ment is quite high, which has affected the financial strength of SMEs, as evidenced by the data in Figure 4. RESULTS The lack of own working capital and the lack of the
possibility of replenishing the working capital of SMEs with credit resources also have a negative impact. In the conditions
of hostilities, the state should provide tax preferences and activate the activities of SMEs. However, the instability of the
tax field complicates and prevents the stability of their development, as reported by a third of the surveyed entrepreneurs. 18% - over USD 100 thousand
20% - USD 50-100 thousand
26% - USD 10-50 thousand
24% - up to USD 10 thousand
6% - without loss
Figure 2. The specific weight of SMEs that suffered losses as a result of military operations. (Source: constructed using Ivanov, 2023) Figure 2. The specific weight of SMEs that suffered losses as a result of military operations. (Source: constructed DOI: 10.55643/fcaptp.2.55.2024.4170 DOI: 10.55643/fcaptp.2.55.2024.4170 447 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 tax pressure
lack of financing and
access to credit
lack of specialists and
problems with booking
employees and traveling
abroad
decrease in the
purchasing power of
the population
Figure 3. The main obstacles to the development of SMEs in the conditions of war. (Source: constructed using Ivanov, 2023)
In conditions of uncertainty, enterprises rely only on their own financial resources. The tension in the economic environ-
ment is quite high, which has affected the financial strength of SMEs, as evidenced by the data in Figure 4. For example,
the share of entrepreneurs who do not have a financial basis at all increased by 7% to 32% in 2022-2023, which affected
the decrease of the share of SMEs that are able to function in the future for more than a year, by 2% and amounted to
12%. In other enterprises, the situation is not better, as 53% of entrepreneurs can function without interruption for 1 to
6 months. This is also confirmed by the data in Table 5, where the gross fixed capital formation indicator decreased by
almost 37%, changes in inventories – by 65%, and acquisitions less disposals of valuables – by 40% over the 4 studied
periods. A quarter of entrepreneurs who took part in a survey conducted by the European Business Association noted the
absence of qualitatively available data or their lack of business support programs at both the national and international
levels. RESULTS For example,
the share of entrepreneurs who do not have a financial basis at all increased by 7% to 32% in 2022-2023, which affected
the decrease of the share of SMEs that are able to function in the future for more than a year, by 2% and amounted to
12%. In other enterprises, the situation is not better, as 53% of entrepreneurs can function without interruption for 1 to
6 months. This is also confirmed by the data in Table 5, where the gross fixed capital formation indicator decreased by
almost 37%, changes in inventories – by 65%, and acquisitions less disposals of valuables – by 40% over the 4 studied
periods. A quarter of entrepreneurs who took part in a survey conducted by the European Business Association noted the
absence of qualitatively available data or their lack of business support programs at both the national and international
levels. More than a third of interviewed entrepreneurs reported receiving tax benefits, and 2/3 had a positive experience. A little more than a quarter of managers of SMEs noted a positive experience of attracting loans through the Affordable
Loans 5−7−9% program, of which almost half had a negative experience (Ivanov, 2023). 32% - lack of any financial reserves
12% - have financial reserves for a year or more
18% - have financial reserves of six months
31% - have financial reserves of several months
4% - have financial reserves of one month
Figure 4. The specific weight of the financial stability of SMEs in war conditions. (Source: constructed using Ivanov, 2023) Figure 4. The specific weight of the financial stability of SMEs in war conditions. (Source: constructed using Ivanov, 2023) The agricultural sector, the food industry, information and communication technologies and others need investment, de-
spite the hostilities. Capital investments help to restore, expand, improve an existing or create a new business. Since socio-
economic development depends on various spheres of the country's economic life, investments require more thorough
research at the regional level and in terms of types of economic activity (Tables 4, and 5). Table 4. Capital investments by types of economic activity by regions for 2010-2022, USD million. RESULTS (Source: based on data from the State
Statistics Service of Ukraine and authors calculated) DOI: 10.55643/fcaptp.2.55.2024.4170 448 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 Regions of Ukraine
Pre-occu-
pation pe-
riod
The period of par-
tial occupation of
the territory of
Ukraine
The period
of Covid-
19
The period of full-
scale hostilities on
the territory of
Ukraine
Index change
5=2/1
6=3/2
7=4/3
8=4/1
A
1
2
3
4
Ukraine
24221.2
17174.8
20747.3
11202.4
0.7091
1.2080
0.5399
0.4625
Vinnytsya
545.7
457.1
535.7
386.2
0.8376
1.1721
0.7209
0.7077
Volyn
297.8
308.0
365.8
260.7
1.0342
1.1877
0.7129
0.8756
Dnipropetrovsk
2127.7
1724.2
2406.0
1106.9
0.8103
1.3955
0.4601
0.5202
Donetsk
2383.5
714.9
1036.8
152.2
0.2999
1.4503
0.1468
0.0638
Zhytomyr
277.4
259.9
364.3
167.2
0.9369
1.4018
0.4589
0.6027
Zakarpattya
276.2
232.4
250.4
186.4
0.8413
1.0774
0.7447
0.6750
Zaporizhzhya
743.0
491.3
641.2
254.7
0.6613
1.3051
0.3971
0.3427
Ivano-Frankivsk
529.1
345.7
326.8
187.4
0.6534
0.9453
0.5733
0.3541
Kyiv
1866.3
1378.5
1352.3
852.3
0.7386
0.9810
0.6303
0.4567
Kirovohrad
354.4
246.0
270.7
194.1
0.6941
1.1004
0.7169
0.5475
Luhansk
778.8
121.0
136.1
7.4
0.1554
1.1249
0.0544
0.0095
Lviv
1071.0
873.6
967.5
715.4
0.8157
1.1074
0.7394
0.6679
Mykolayiv
461.7
372.7
379.8
137.0
0.8071
1.0192
0.3606
0.2966
Odesa
1142.7
706.1
800.1
370.4
0.6179
1.1331
0.4630
0.3242
Poltava
888.8
610.0
933.7
479.6
0.6863
1.5308
0.5136
0.5395
Rivne
268.7
216.2
476.0
329.3
0.8046
2.2018
0.6919
1.2257
Sumy
282.9
239.6
311.6
150.3
0.8469
1.3005
0.4825
0.5314
Ternopyl
283.0
251.6
315.2
232.5
0.8891
1.2526
0.7377
0.8216
Kharkiv
1106.3
703.8
788.0
262.1
0.6362
1.1195
0.3327
0.2370
Kherson
236.0
272.9
382.9
19.2
1.1561
1.4031
0.0500
0.0811
Khmelnytskiy
368.2
362.8
423.5
266.7
0.9855
1.1673
0.6297
0.7244
Cherkasy
343.5
313.1
375.2
252.3
0.9114
1.1985
0.6725
0.7346
Chernivtsi
201.4
122.4
133.5
91.8
0.6075
1.0915
0.6877
0.4560
Chernihiv
259.8
255.2
320.3
227.1
0.9824
1.2551
0.7091
0.8743
Kyiv city
7127.3
5596.1
6453.8
3913.2
0.7852
1.1533
0.6063
0.5490
The given data indicate a gradual decrease in the growth index of capital investments both in Ukraine as a whole and in
some of its regions. Also, it should be noted that the following regions: Kharkiv and Mykolaiv decreased investment at-
traction more than twice, and Kherson, Luhansk and Donetsk by 15.6 times, 14.3 times and 5.3 times, respectively. The given data indicate a gradual decrease in the growth index of capital investments both in Ukraine as a whole and in
some of its regions. Also, it should be noted that the following regions: Kharkiv and Mykolaiv decreased investment at-
traction more than twice, and Kherson, Luhansk and Donetsk by 15.6 times, 14.3 times and 5.3 times, respectively. DOI: 10.55643/fcaptp.2.55.2024.4170 Table 5 shows that during the period of the study, such types of economic activities as public administration and defence
were the least affected; compulsory social security and Human health and social work activities, where there was even an
increase in capital investment by 8.5% and 2.4 times, while the drop in Agriculture, forestry and fishing did not exceed
20%. RESULTS Table 5 shows that during the period of the study, such types of economic activities as public administration and defence
were the least affected; compulsory social security and Human health and social work activities, where there was even an
i
i
it l i
t
t b
8 5%
d 2 4 ti
hil
th
d
i
A
i
lt
f
t
d fi hi
did
t
d Table 5 shows that during the period of the study, such types of economic activities as public administration and defence
were the least affected; compulsory social security and Human health and social work activities, where there was even an
increase in capital investment by 8.5% and 2.4 times, while the drop in Agriculture, forestry and fishing did not exceed
20%. Table 5 shows that during the period of the study, such types of economic activities as public administration and defence
were the least affected; compulsory social security and Human health and social work activities, where there was even an
increase in capital investment by 8.5% and 2.4 times, while the drop in Agriculture, forestry and fishing did not exceed
20%. 449 DOI: 10.55643/fcaptp.2.55.2024.4170 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 Table 5. Capital investments by types of economic activity for 2010-2022, USD million. RESULTS (Source: based on data from the State Statistics Ser-
authors calculated) In connection with the significant growth of the dollar exchange rate, capital investments decreased in the 4th period in
relation to the 1st in the following sectors of the economy:
no more than 30% of the basic - Construction; Real estate activities; Professional, scientific and technical activities;
Other service activities; no more than 31-40% of the base - Industry; Accommodation and food service activities;
Financial and insurance activities; Education; Arts, entertainment and recreation;
no more than 41-50% of the base - Wholesale and retail trade; repair of motor vehicles and motorcycles; Information
and communication; Administrative and support service activities;
no more than 51-60% of the basic - Transportation and storage.
no more than 30% of the basic - Construction; Real estate activities; Professional, scientific and technical activities;
Other service activities; no more than 31-40% of the base - Industry; Accommodation and food service activities;
Financial and insurance activities; Education; Arts, entertainment and recreation;
no more than 41-50% of the base - Wholesale and retail trade; repair of motor vehicles and motorcycles; Information
and communication; Administrative and support service activities;
no more than 51-60% of the basic - Transportation and storage. This, in turn, is evidence of the dismissal of some or all employees from various enterprises, institutions and organizations,
in connection with their reorganization, partial or complete closure and, accordingly, the deterioration of the socio-eco-
nomic conditions of their life. This, in turn, is evidence of the dismissal of some or all employees from various enterprises, institutions and organizations,
in connection with their reorganization, partial or complete closure and, accordingly, the deterioration of the socio-eco-
nomic conditions of their life. RESULTS (Source: based on data from the State Statistics Ser-
vice of Ukraine and authors calculated)
Types of economic activity
Pre-occu-
pation pe-
riod
The period
of partial
occupation
of the ter-
ritory of
Ukraine
The period
of Covid-
19
The period
of full-
scale hos-
tilities on
the terri-
tory of
Ukraine
Index change
5=2/1
6=3/2
7=4/3
8=4/1
A
1
2
3
4
Total
24221.2
17174.8
20747.3
11202.4
0.7091
1.2080
0.5399
0.4625
Agriculture, forestry and fishing
1743.1
2031.6
2117.2
1406.6
1.1656
1.0421
0.6644
0.8070
Industry
8518.6
6038.1
7432.1
3448.6
0.7088
1.2309
0.4640
0.4048
Construction
3731.1
1943.7
1673.3
892.2
0.5209
0.8609
0.5332
0.2391
Wholesale and retail trade; repair of motor
vehicles and motorcycles
2289.3
1355.9
1763.3
1004.1
0.5923
1.3005
0.5694
0.4386
Transportation and storage
2313.2
1320.9
1383.5
1354.5
0.5710
1.0474
0.9790
0.5856
Accommodation and food service activities
162.9
79.1
81.5
59.7
0.4854
1.0303
0.7330
0.3666
Information and communication
968.6
812.1
811.6
461.3
0.8384
0.9994
0.5684
0.4763
Financial and insurance activities
666.6
331.5
387.5
243.6
0.4973
1.1688
0.6285
0.3654
Real estate activities
1281.5
825.6
888.2
390.5
0.6443
1.0758
0.4396
0.3047
Professional, scientific and technical activi-
ties
645.8
310.8
508.1
164.4
0.4812
1.6349
0.3236
0.2546
Administrative and support service activi-
ties
404.7
397.7
382.4
180.1
0.9826
0.9616
0.4711
0.4451
Public administration and defence; com-
pulsory social security
920.5
1264.1
2392.0
999.0
1.3732
1.8922
0.4176
1.0852
Education
150.3
124.4
133.5
54.9
0.8278
1.0733
0.4114
0.3655
Human health and social work activities
202.0
234.5
642.6
476.2
1.1609
2.7404
0.7410
2.3573
Arts, entertainment and recreation
167.8
86.3
126.3
58.9
0.5143
1.4636
0.4661
0.3509
Other services activities
55.2
18.6
24.2
7.7
0.3366
1.3019
0.3201
0.1403 vestments by types of economic activity for 2010-2022, USD million. RESULTS The result of the above-mentioned destructive changes for 2010-2022 was a drop in GDP in almost all sectors of the
economy (Table 6), with the exception of Electricity, gas, steam and air conditioning supply (42% growth), which is
associated with an increase in tariffs; Information and communication (38% growth) in connection with the adopted large-
scale digitalization measures (for example, the Country in a smartphone, the Diya platform, etc.) and the growth of Public
administration expenses; compulsory social security by 4.4 times; Subsidies on products (for example, for food producers)
by 2.3 times and by final consumer expenses of non-profit organizations (by 2 times) and by the general expenses of the
public sector of management (almost twice). This led to a significant deterioration of the state of economic security. DOI: 10.55643/fcaptp.2.55.2024.4170 450 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 Table 6. Dynamics of gross domestic product in actual prices, USD million. (Source: based on data from the State Statistics Service of Ukraine
and authors calculated)
Indicator
Pre-occu-
pation pe-
riod
The pe-
riod of
partial oc-
cupation
of the ter-
ritory of
Ukraine
The pe-
riod of
Covid-19
The pe-
riod of
full-scale
hostilities
on the
territory
of
Ukraine
Index change
5=2/1
6=3/2
7=4/3
8=4/1
A
1
2
3
4
Gross domestic product
151180.0
112265.7
169562.6
141951.6
0.7426
1.5104
0.8372
0.9390
Composition of gross domestic product
1. RESULTS Production side
Agriculture, forestry and fishing
12654.9
11599.1
17278.4
11671.6
0.9166
1.4896
0.6755
0.9223
Mining and quarrying
8778.2
6316.8
9524.7
8082.0
0.7196
1.5078
0.8485
0.9207
Manufacturing
18349.7
12984.6
17300.4
10755.3
0.7076
1.3324
0.6217
0.5861
Electricity, gas, steam and air conditioning
supply
4467.5
3391.2
5322.4
6330.3
0.7591
1.5695
1.1894
1.4170
Water supply; sewerage, waste management
and remediation activities
797.4
394.2
620.8
432.6
0.4944
1.5749
0.6967
0.5424
Construction
4238.3
2567.3
4729.3
1716.8
0.6057
1.8421
0.3630
0.4051
Wholesale and retail trade; repair of motor
vehicles and motorcycles
21967.2
15066.4
23325.8
17547.7
0.6859
1.5482
0.7523
0.7988
Transportation and storage
11010.8
7352.9
9784.2
5593.5
0.6678
1.3307
0.5717
0.5080
Accommodation and food service activities
1111.8
807.7
1400.9
946.3
0.7265
1.7343
0.6755
0.8511
Information and communication
4740.9
4489.5
8154.2
6524.4
0.9470
1.8163
0.8001
1.3762
Financial and insurance activities
7059.1
3254.7
5152.2
4054.5
0.4611
1.5830
0.7869
0.5744
Real estate activities
8881.9
6703.8
10238.0
6923.2
0.7548
1.5272
0.6762
0.7795
Professional, scientific and technical activities
4276.9
3519.0
5170.2
2629.6
0.8228
1.4692
0.5086
0.6148
Administrative and support service activities
1726.5
1492.9
2241.2
1066.1
0.8647
1.5013
0.4757
0.6175
Public administration; compulsory social se-
curity
6771.0
6506.7
11280.7
30005.1
0.9610
1.7337
2.6599
4.4314
Education
7521.7
4794.3
7382.4
5894.3
0.6374
1.5398
0.7984
0.7836
Human health and social work activities
5030.5
2708.8
4358.4
3470.3
0.5385
1.6090
0.7962
0.6899
Arts, entertainment and recreation
1046.2
662.1
985.9
619.9
0.6329
1.4890
0.6287
0.5925
Other service activities
1302.3
921.2
1446.6
990.0
0.7074
1.5703
0.6843
0.7602
Taxes on products
19734.2
17003.2
24319.6
17352.8
0.8616
1.4303
0.7135
0.8793
Subsidies on products
-287.1
-270.9
-453.9
-654.6
0.9438
1.6753
1.4422
2.2802
2. Income side
2.1. Compensation of employees
73377.6
45503.5
71444.2
71163.3
0.6201
1.5701
0.9961
0.9698
2.2. Net taxes on production and imports
19415.0
17042.9
23429.3
15920.2
0.8778
1.3747
0.6795
0.8200
2.3 Gross operating surplus, mixed-income
58387.3
49719.4
74689.2
54868.1
0.8515
1.5022
0.7346
0.9397
3. Expenditure side
3.1. Final consumption expenditure
131524.6
100249.5
151559.9
147889.2
0.7622
1.5118
0.9758
1.1244
of households
102482.5
77279.8
118743.7
91401.6
0.7541
1.5365
0.7697
0.8919
of non-profit institutions serving house-
holds
1087.2
978.3
1569.3
2212.3
0.8998
1.6041
1.4098
2.0349
of general government
27954.9
21991.3
31246.9
54275.3
0.7867
1.4209
1.7370
1.9415
individual consumption expenditure
18389.1
12365.1
16912.1
14788.6
0.6724
1.3677
0.8744
0.8042
collective consumption expenditure
9565.8
9626.3
14334.8
39486.8
1.0063
1.4891
2.7546
4.1279
3.2. DOI: 10.55643/fcaptp.2.55.2024.4170 RESULTS Gross capital formation
30018.2
20112.8
20386.8
17901.2
0.6700
1.0136
0.8781
0.5963
gross fixed capital formation
26007.8
18370.0
22511.0
16481.6
0.7063
1.2254
0.7322
0.6337
changes in inventories
3961.3
1715.7
-2176.7
1390.1
0.4331
-1.2687
-0.6386
0.3509
acquisitions less disposals of valuables
49.1
27.0
52.5
29.5
0.5504
1.9429
0.5622
0.6012
3.3 Exports of goods and services
71069.4
51999.9
67594.5
50331.2
0.7317
1.2999
0.7446
0.7082
3.4 Imports of goods and services
-81432.2
-60096.4
-69978.6
-74170.1
0.7380
1.1644
1.0599
0.9108 451 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 Characterizing negative trends, let's pay attention to the constant negative trade balance, the peak of which falls in the
last period of the study (USD -23.8 million). These negative trends were deepened by the government's destructive policy
aimed at deindustrialization, raising tariffs for utility services for businesses and the population, taxes and fees, capital
export, etc. With the beginning of full-scale hostilities on the territory of Ukraine, many different objects of socio-economic purpose
(schools, houses, health care facilities and general-purpose roads) were destroyed and damaged (Table 7). Table 7. Damage to social and economic objects in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022)
Regions of Ukraine
Schools, units
Roads, km
Health facilities, units
Housing, mln sq. m
Ukraine
1893
19917.441
748
59.031
Vinnytsya
13
0
5
0.037
Volyn
1
0
0
0
Dnipropetrovsk
22
75
7
0.366
Donetsk
449
2695.2
176
17.324
Zhytomyr
77
49.3
24
0.526
Zakarpattya
83
3872.3
32
0.960
Zaporizhzhya
0
0
0
0.027
Ivano-Frankivsk
0
0
0
0
Kyiv
167
1402.3
122
7.451
Kirovohrad
5
0
0
0
Luhansk
160
2959.4
20
12.021
Lviv
0
0
0
0.026
Mykolayiv
158
1809.4
82
4.048
Odesa
11
0.2
1
0.256
Poltava
1
63
0
0.020
Rivne
2
0
0
0.006
Sumy
46
1584.6
19
1.029
Ternopyl
0
0
0
0.074
Kharkiv
476
3890.8
145
9.578
Kherson
82
3.941
51
0.504
Khmelnytskiy
1
0
0
0
Cherkasy
14
0
1
0.011
Chernivtsi
0
0
0
0
Chernihiv
125
1512
63
4.767 The territories closest to the Ukrainian-Russian border suffered the greatest damage. Thus, schools were most damaged
out of the total number of damaged schools in the following regions of Ukraine: Donetsk region - 23.7%, Kharkiv region -
25.2%, Kyiv region - 8.8%, Luhansk region - 8.5% and Mykolaiv region - 8.4%. RESULTS The highest level of road damage in
Ukraine is observed in Kharkiv Oblast - 19.5%, Zaporizhia Oblast - 19.4%, Luhansk Oblast - 14.9%, Donetsk Oblast -
13.5%, and Mykolaiv Oblast - 9.1% of total road surface damage. A large number of buildings of health care facilities were
damaged in Donetsk - 23.5%, Kharkiv - 19.4%, Kyiv - 16.3%, Mykolaiv - 11% and Chernihiv - 8.4% of the total number
of such buildings damaged. Residents of Donetsk Oblast – 29.4%, Luhansk Oblast – 20.4%, Kharkiv Oblast – 16.2%, Kyiv
Oblast – 12.6%, and Chernihiv Oblast – 8.1% suffered the greatest losses from damage to the total housing stock of
Ukraine. DOI: 10.55643/fcaptp.2.55.2024.4170 452 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 These data are confirmed by the Kyiv School of Economics (KSE), which estimates that the total amount of damage is
137.8 billion dollars, of which almost 40% falls on the housing stock, 26% on the infrastructure and 9.5% on losses of
enterprises of various forms of ownership and types of activity (BBC News Ukraine, 2023). The government and the president of Ukraine are trying to cover the financial and budgetary collapse with new loans,
issuing or extending other government bonds, receiving donor aid, etc. (Figure 5). For 2022-2023, almost 36.9 billion
fortunes were received. The largest contribution to the support of the Ukrainian economy was made by the USA and the
EU, which account for 2/3 of all financial injections. The share of international financial organizations (IMF, European
Investment Bank, World Bank) is 15.5% (BBC News Ukraine, 2023). The National Bank of Ukraine also contributed to
improving the economic situation in the country by buying OVDP bonds for USD 10.9 billion in 2022 (BBC News Ukraine,
2023). Figure 5. Investments in the recovery of the economy of Ukraine. (Source: built using BBC News Ukraine, 2023)
USA
EU
IMF
Canada
European Investment Bank
Germany
United Kingdom
World Bank
Others Figure 5. Investments in the recovery of the economy of Ukraine. (Source: built using BBC News Ukraine, 2023) As can be seen from Table 6 crises due to the combined negative effects of the pandemic and the war resulted in a
decrease in production volumes in the agricultural sector. The war also led to a significant reduction in investments in
agriculture (see Table 5). This significantly limited the ability of the industry to fulfil food security tasks. DOI: 10.55643/fcaptp.2.55.2024.4170 RESULTS As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was
developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in
financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices
and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was
developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in
financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices
and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was
developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in
financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices
and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). Figure 6. Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022)
If we specify the directions of financing under individual National programs to increase the levels of economic and food
security, restore socio-economic development, then according to our research, the following items need to be high-
lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc-
ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. 0
100
200
300
400
500
600
700
Number of projects, units
Financing, USD billion
2023-2025
2026-2032 Figure 6. Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022)
If we specify the directions of financing under individual National programs to increase the levels of economic and food
security, restore socio-economic development, then according to our research, the following items need to be high-
lighted (Figure 7). RESULTS Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022)
If we specify the directions of financing under individual National programs to increase the levels of economic and food
security, restore socio-economic development, then according to our research, the following items need to be high-
lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc-
0
100
200
300
400
500
600
700
Number of projects, units
Financing, USD billion
2023-2025
2026-2032 Table 8. Directions for reducing the negative impact of war on agricultural production to ensure food security. RESULTS Determinants of recovery of financial and investment activity in Ukraine. (Source: built using Ukraine Recovery Plan data, 2022)
If we specify the directions of financing under individual National programs to increase the levels of economic and food
security, restore socio-economic development, then according to our research, the following items need to be high-
lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc-
ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. 0
100
200
300
400
500
600
700
Number of projects, units
Financing, USD billion
2023-2025
2026-2032 Table 8. Directions for reducing the negative impact of war on agricultural production to ensure food security. RESULTS №
Directions
The results
1
Financing of modernization of processing enterprises
Acquisition of greater added value, extension of the term and im-
provement of storage conditions of agricultural products, preservation
of their quality
2
Facilitating the cooperation of small and medium-sized agricultural en-
terprises according to the project approach
Development of the infrastructure of small and medium-sized agricul-
tural enterprises in the processing and storage of products, introduced
by small energy
3
Creation of regional centres for training personnel for the agrarian in-
dustry in scarce specialities with gender parity
Solving the problems of employment and personnel shortage
4
Formation of distribution networks for FOP in the agricultural industry
Improvement of the system of supply of agricultural products to con-
sumers, acquisition of stability of sales of products of FOP of the agri-
cultural industry
5
Involvement of international organizations and donor states in
demining land, restoration of irrigation systems and soil fertility in lib-
erated regions
Increase in the production of agricultural products, restoration of agri-
cultural production in the liberated regions
6
Launch of food support programs for low-income population groups,
regulation and stabilization of prices for the main types of food by the
state
Support of the poor and the acquisition of sustainability in the flow of
finances to agrarian farms in conditions of a lack of working capital
7
Implementation of material and non-material incentives for small en-
terprises and FOPs that keep at least two heads of cattle
Increasing the level of supply of dairy products to the population and
making them cheaper, restoring the cattle population
8
Introduction for small and medium-sized agricultural enterprises of re-
imbursement for loans for the implementation of small capacity instal-
lations for the processing of oil crops and the production of cereals
Increasing the level of supply of oil and cereals to the population. Providing the opportunity to use processing waste directly in agricul-
tural farms
As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was
developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in
financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices
and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). Figure 6. RESULTS In particular, these
opportunities have significantly decreased as a result of the destruction of the infrastructure of agricultural farms in the
South of Ukraine; the destruction of the irrigation system due to their use by the aggressor for fortification; the demining
of agricultural land; significant deterioration of soil fertility; destruction of cattle, robbery of agricultural enterprises. Other
resource potential of farms has also significantly deteriorated. For example, a significant part of the workers was evacuated
or mobilized; agricultural enterprises have a significant shortage of working capital; as a result of the occupation, hostilities,
and dynamic migration of the population, the client base of agrarian enterprises has been distorted. A problem in providing
the population with food is also the fact that due to the cumulative effect of threats, the cost price of agricultural products
is increasing. In particular, due to the lack of qualified personnel, the management of agricultural enterprises is forced to
raise the level of wages for employees, which affects food prices. In conditions of a decrease in the socio-economic level
of the population, this leads to a significant deformation of demand and a decrease in sales of certain types of products,
which is a multiplier for the deterioration of the level of food security. All of the above creates a significant level of risks to the country's food security. These risks are aggravated by a significant
deficit in the country's budget, which, accordingly, leads to a drastic reduction in the state's ability to support agricultural
producers and restore the functioning of destructive farms. This, in the conditions of war, limits the direction of restoration
of an adequate level of food security. Table 8 provides suggestions for ways to ensure food security. DOI: 10.55643/fcaptp.2.55.2024.4170 453 Table 8. Directions for reducing the negative impact of war on agricultural production to ensure food security. RESULTS №
Directions
The results
1
Financing of modernization of processing enterprises
Acquisition of greater added value, extension of the term and im-
provement of storage conditions of agricultural products, preservation
of their quality
2
Facilitating the cooperation of small and medium-sized agricultural en-
terprises according to the project approach
Development of the infrastructure of small and medium-sized agricul-
tural enterprises in the processing and storage of products, introduced
by small energy
3
Creation of regional centres for training personnel for the agrarian in-
dustry in scarce specialities with gender parity
Solving the problems of employment and personnel shortage
4
Formation of distribution networks for FOP in the agricultural industry
Improvement of the system of supply of agricultural products to con-
sumers, acquisition of stability of sales of products of FOP of the agri-
cultural industry
5
Involvement of international organizations and donor states in
demining land, restoration of irrigation systems and soil fertility in lib-
erated regions
Increase in the production of agricultural products, restoration of agri-
cultural production in the liberated regions
6
Launch of food support programs for low-income population groups,
regulation and stabilization of prices for the main types of food by the
state
Support of the poor and the acquisition of sustainability in the flow of
finances to agrarian farms in conditions of a lack of working capital
7
Implementation of material and non-material incentives for small en-
terprises and FOPs that keep at least two heads of cattle
Increasing the level of supply of dairy products to the population and
making them cheaper, restoring the cattle population
8
Introduction for small and medium-sized agricultural enterprises of re-
imbursement for loans for the implementation of small capacity instal-
lations for the processing of oil crops and the production of cereals
Increasing the level of supply of oil and cereals to the population. Providing the opportunity to use processing waste directly in agricul-
tural farms
As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was
developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in
financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices
and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). Figure 6. RESULTS №
Directions
The results
1
Financing of modernization of processing enterprises
Acquisition of greater added value, extension of the term and im-
provement of storage conditions of agricultural products, preservation
of their quality
2
Facilitating the cooperation of small and medium-sized agricultural en-
terprises according to the project approach
Development of the infrastructure of small and medium-sized agricul-
tural enterprises in the processing and storage of products, introduced
by small energy
3
Creation of regional centres for training personnel for the agrarian in-
dustry in scarce specialities with gender parity
Solving the problems of employment and personnel shortage
4
Formation of distribution networks for FOP in the agricultural industry
Improvement of the system of supply of agricultural products to con-
sumers, acquisition of stability of sales of products of FOP of the agri-
cultural industry
5
Involvement of international organizations and donor states in
demining land, restoration of irrigation systems and soil fertility in lib-
erated regions
Increase in the production of agricultural products, restoration of agri-
cultural production in the liberated regions
6
Launch of food support programs for low-income population groups,
regulation and stabilization of prices for the main types of food by the
state
Support of the poor and the acquisition of sustainability in the flow of
finances to agrarian farms in conditions of a lack of working capital
7
Implementation of material and non-material incentives for small en-
terprises and FOPs that keep at least two heads of cattle
Increasing the level of supply of dairy products to the population and
making them cheaper, restoring the cattle population
8
Introduction for small and medium-sized agricultural enterprises of re-
imbursement for loans for the implementation of small capacity instal-
lations for the processing of oil crops and the production of cereals
Increasing the level of supply of oil and cereals to the population. Providing the opportunity to use processing waste directly in agricul-
tural farms
As part of the restoration of socio-economic development and food security in Ukraine, the Recovery Plan of Ukraine was
developed and launched, the main achievements of which should be: GDP growth (about 7% every year), an increase in
financing of the real sector of the economy (by more than UAH 750 billion), an increase in economic complexity indices
and human capital (inclusion in the TOP-25 countries of the world) (Figure 6). RESULTS The issues of restoration of logistics and infrastructure, communal services and regional infrastruc-
ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. 0
100
200
300
400
500
600
700
Number of projects, units
Financing, USD billion
2023-2025
2026-2032 If we specify the directions of financing under individual National programs to increase the levels of economic and food
security, restore socio-economic development, then according to our research, the following items need to be high-
lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc-
ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. If we specify the directions of financing under individual National programs to increase the levels of economic and food
security, restore socio-economic development, then according to our research, the following items need to be high-
lighted (Figure 7). The issues of restoration of logistics and infrastructure, communal services and regional infrastruc-
ture, access to various sources of financing, defence capability and security, etc., require the greatest injection. DOI: 10.55643/fcaptp.2.55.2024.4170 454 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 Figure 7. Volumes of funding of the National Programs of the Recovery Plan of Ukraine. (Source: built using Ukraine Recovery Plan data, 2022)
0
50
100
150
200
250
Strengthening defense and security
Boost business environment
Ensure competitive access to funding
Secure macro-financial stability
Grow value adding sectors of economy
Recovery and upgrade of housing and regions infrastructure
Recovery and modernization of social infrastructure
Improve Education system
Upgrade HealthCare system
Develop Culture and Sport systems
Secure targeted and effective social policy
Energy independence and Green Deal
Logistics de-bottleneck and integration with EU
Volumes of financing, USD billion Figure 7. Volumes of funding of the National Programs of the Recovery Plan of Ukraine. (Source: built using Ukraine Recovery Plan data, 2022) An important driver of increasing the country's investment attractiveness was the signing of an agreement (Memorandum
of Understanding, November 10, 2022) with the company BlackRock Financial Market Advisory, regarding support and
consultation on the creation and development of the Development Fund of Ukraine. The main goal of this project is to
attract private capital to the recovery and further development of the economy of Ukraine. It is also planned to attract
other world-famous financial consulting companies to BlackRock: McKinsey, JP Morgan, etc. (Pylypiv, 2023). RESULTS The well-
known names of the companies in the world will provide an opportunity to attract more private (foreign) capital after the
end of the war. The key investment areas of the Development Fund of Ukraine will be such sectors of the economy as
energy, agriculture, infrastructure facilities, information technologies, and production. According to experts' estimates, the
post-war recovery of Ukraine's economy will require USD 350-750 billion of direct state investments (Kuznyetsova et al.,
2023). The following recommendations are offered for the implementation of the necessary institutional m 1. Reducing the level of corruption, increasing the transparency of management decisions and criminal liability for the
unauthorized and inappropriate use of state financial resources (Omelchuk et al., 2022; Chernyshova et al., 2022;
Oliinyk et al., 2022). 2. Development, approval and implementation of financial aid programs and projects aimed at restoring economic
growth on an innovative basis (Sytnyk et al., 2022; Buriak et al., 2022; Kuznyetsova et al., 2021; Mironova et al.,
2022). 3. Provision of investment-attractive and financially expedient under favourable conditions of attracting private capital,
including on the international capital market (Ukraine Recovery Plan, 2022; Pylypiv, 2023; Kuznyetsova et al., 2023). 4. Implementation of institutional measures for permanent monitoring of dynamic threats, their operational analytical
assessment and introduction of tactics to neutralize threats and reduce their long-term negative impact. 5. For the effective use of all windows of opportunity that are dynamically created in the conditions of war, anticipatory
analysis, forecasting and operational provision of measures and formation of prerequisites for their successful
implementation, preparation of resources, etc., must be implemented. For this purpose, the relevant institutional
structures should be assigned the duties of implementing the specified tasks, given powers and defined
responsibilities. Implementation of the specified direction requires appropriate political decisions. 6. Increasing the efforts of institutional structures to find new ways of obtaining financial resources, optimizing budget
expenditures, and forming a rational structure of the country's debt. One of the specified ways can be the policy of
obtaining reparations from the aggressor and attracting his confiscated financial resources. 7. Reduction of unemployment to a level below the critical level. For this, it is necessary to implement a state program,
which, in particular, will provide for the formation of a projected tax policy that also takes into account the social
consequences of the decisions of institutional structures. 7. Reduction of unemployment to a level below the critical level. DISCUSSION In a number of studies, in particular, Antoshkin et al. (2022), Onyshchenko et al. (2023) specified the structure of economic
security. Antoshkin and others (2022) defined the following structural blocks of economic security: "international politics,
world economy, globalization processes; economic, state and public institutions; resources and productivity; ideology,
strategies and models of the country's development; monitoring, methods of assessment and diagnosis and forecasting". First, in our opinion, as structural blocks of economic security, its components should be considered from the point of view
of security: social, financial, food, investment and innovation security; secondly, the military actions indicated the need to
take into account one more important component, namely military and economic security, which was left out of the
attention of the mentioned researchers. Also, under conditions of war, the reliability of the rear becomes especially im-
portant, one of the directions of its formation is socio-economic security, and this, in our opinion, needs to be taken into
account more than, for example, the globalization processes indicated by Antoshkin et al. (2022) as components of eco-
nomic security. Rebryk and others. (2023) indicated "the need for modelling and forecasting the dynamics of Ukraine's
economy in the medium term". In our opinion, given the dynamic changes in threats, this should be done in real-time and
in the short term. Mazaraki et al. (2022) indicated that during the war, "priorities should be the creation of new modern
industries with the maximum use of modern technologies, the development of the domestic military industry, the restora-
tion of lending to the economy, the support of the agricultural industry and exporters, and in the future, the restriction of
imports and the development of domestic production." All of the above requires resources, first of all, financial resources,
which, as indicated in the presented article, with a budget deficit and a reduction in investments, requires a balanced
budget policy. Ohrenych and others. (2023) indicated the impact of a decrease in the level of economic security on the
competitiveness of domestic enterprises and stated that "in order to reduce profits, enterprises will have to take radical
actions." But Ohrenych et al. (2023) did not indicate that these "radical actions" will serve as a driver of further deterioration
of economic security, which is considered in the presented article and to neutralize which priority areas of state support
are determined. RESULTS Development and approval of a program to stimulate the return of specialists who migrated abroad during the war
(Zayed et al., 2022; Lytvyn et al., 2022; Mulska et al., 2022). 14. Approximation of national legislation to EU requirements, and implementation of Sustainable Development Goals in
regulatory documents (Sumets et al., 2022a; Sumets et al., 2022b; Ahmed et al., 2022). 14. Approximation of national legislation to EU requirements, and implementation of Sustainable Development Goals in
regulatory documents (Sumets et al., 2022a; Sumets et al., 2022b; Ahmed et al., 2022). 14. Approximation of national legislation to EU requirements, and implementation of Sustainable Development Goals in
regulatory documents (Sumets et al., 2022a; Sumets et al., 2022b; Ahmed et al., 2022). RESULTS For this, it is necessary to implement a state program,
which, in particular, will provide for the formation of a projected tax policy that also takes into account the social
consequences of the decisions of institutional structures. DOI: 10.55643/fcaptp.2.55.2024.4170 455 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 8. In order to ensure food security, it is necessary to implement the above-mentioned support measures for the
agricultural industry. 8. In order to ensure food security, it is necessary to implement the above-mentioned support measures for the
agricultural industry. 9. Creation of a state program to attract investments, first of all, in such a reliable direction of investment as the
restoration of infrastructure. A necessary direction of investment is also the promotion of the development of the
domestic market, which can become a multiplier in improving the socio-economic component of the country's
economic security. 10. Implementation of a systematic approach in the use of resources for complex neutralization of threats in various
components of economic security. In particular, the primary need during the war to provide urgent and strategic
military-economic needs for conducting military operations can stimulate the economy, solve the problem of
unemployment, and ensure the sustainability of socio-economic development even in conditions of significant threats. 11. Social support for low-income population groups, regulation and stabilization of prices for the main types of food by
the state. The specified support should be provided primarily through the use of the public works mechanism (with
the exception of persons with health conditions or significant age, respectively). (Pashchenko, 2022; Kovalova, 2020;
Petrychenko et al., 2022). 12. Creation of a state program for energy system restructuring. State funding of up to 50% of programs and projects
for the installation of 5 kW PV systems and batteries for households. Introduction of support for green types of fuels
(Shtunder et al., 2022; Havrysh et al., 2016; Borshchevskyy et al., 2022). 12. Creation of a state program for energy system restructuring. State funding of up to 50% of programs and projects
for the installation of 5 kW PV systems and batteries for households. Introduction of support for green types of fuels
(Shtunder et al., 2022; Havrysh et al., 2016; Borshchevskyy et al., 2022). 13. Development and approval of a program to stimulate the return of specialists who migrated abroad during the war
(Zayed et al., 2022; Lytvyn et al., 2022; Mulska et al., 2022). 13. CONCLUSIONS Since the threats to economic and food security, and socio-economic development of Ukraine are of different natures:
COVID-19, and military actions of different intensity in different periods of time, the analysis in the presented article was
carried out taking into account the refined classification of the studied periods. The genesis of negative effects on the state
of economic security and the sources of its restoration are determined. The dynamic nature of threats of war, changes in
their impact by directions, which requires institutional measures for permanent monitoring of dynamic threats, their oper-
ational analytical assessment and introduction of tactics to neutralize threats and reduce their long-term negative impact,
are indicated. An analysis of the negative effects of the war on the components of economic security is provided, and the
results of an expert assessment of their relative weight are given. The necessity of taking into account one more aspect
of economic security, which was left out of the attention of experts, is indicated in the conditions of war - military-economic
security. Indicators of military and economic security are indicated. The expediency of implementing a systemic approach
in the use of resources for complex neutralization of threats according to various components of economic security is
indicated. It is pointed out that the war not only creates threats but also opens new windows of opportunities, in particular
opportunities in solving some aspects of socio-economic development. The problem with the use of the specified windows
of opportunity is that due to the dynamic changes in the conditions of the state of war, they are unstable, therefore, for
the effective use of all opportunities, anticipatory analysis, forecasting and operational provision of measures and the
formation of prerequisites for their successful implementation, preparation of resources, etc. must be implemented. For
this purpose, the relevant institutional structures should be assigned the duties to implement the specified tasks, given
the authority and defined responsibility. The main factors on which the well-being of the country's population depends are indicated, the effects of crises on the
indicators of the population's income and expenditure levels are analyzed, and the drivers of the deterioration of well-
being are established. The negative effects of the crisis, which led to a reduction in production volumes in the agricultural
sector, were identified. It is indicated that this significantly limited the ability of the branch to fulfil food security tasks. DISCUSSION The issue of "uncontrolled growth of the budget deficit, which as a result of military operations crossed
the critical line" is mentioned in the article by Romanovska et al. (2022) needs to specify directions for neutralizing this
threat. Therefore, in the presented article, it is indicated that such a promising direction is the optimization of costs, first
of all, the refusal to support export-oriented industries and the direction of budget resources for the development of small
businesses, FOP, and the encouragement of innovative areas of activity. This is expedient, in particular, given the fact that
supporting the export of products with a low level of processing contributes to the formation of the raw material character
of the economy. DOI: 10.55643/fcaptp.2.55.2024.4170 456 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 A number of scientists: Borshchevskyy and others (2022), Brezhnyeva-Yermolenko and others (2018), Kuznyetsova et al. (2023) indicate the need to attract investments to improve the state of economic security and to restore socio-economic
development. The presented article emphasizes that the primary direction of investment is primarily the promotion of the
development of the domestic market, as this can become a multiplier in improving the socio-economic component of the
state of the country's economic security. Buriak et al. (2022) indicated "significant disparities in the achievement of socio-
economic development." Not only the regional but also the sectoral dimension of disparities is indicated in the presented
article and proven by the provided statistical data. The presence of debatable questions on the above-mentioned issues indicates the relevance and expediency of the pre-
sented research. CONCLUSIONS Proposed ways to reduce the negative impact of war on agricultural production to ensure food security. The directions of
financing under separate national programs for increasing the level of economic and food security, and restoring socio-
economic development have been specified, and the main tasks of neutralizing threats to economic and food security and
restoring socio-economic development have been defined. ADDITIONAL INFORMATION REFERENCES 439516982000&source=images&cd=vfe&opi=89978449&ve
d=0CAgQr5oMahcKEwjo6seV946FAxUAAAAAHQAAAAAQBA 1. Ahmed, S.F., Zayed, N.M., Islam, K.M.A., & Nitsenko, V. (2022). Investigating the impact of RE consumption on CO2
emissions: evidence from the SAARC countries. Naukovyi
Visnyk Natsionalnoho Hirnychoho Universytetu, 2, 102-107. https://doi.org/10.33271/nvngu/2022-3/107 12. Ilchuk, V.P. et al. (2018). Determinanty sotsialno-
ekonomichnoho rozvytku Ukrainy v umovakh
transformatsiinykh zrushen: kolektyvna monohrafiia. Chernihiv: ChNTU. 432 s. https://nubip.edu.ua/sites/default/files/u295/monografiya_
2018_determinanti.pdf 2. Antoshkin, V., & Antoshkina, L. (2022). Conceptual
provisions for preserving economic security in the
conditions of war and martial law. Economic Bulletin of the
University, 55, 77-83. https://doi.org/10.31470/2306-546X-
2022-55-77-83 13. Ivanov, O. (2023, May 23). Only 6% did not experience
losses. How small and medium-sized businesses survive the
war — research, infographics. https://biz.nv.ua/ukr/economics/yak-perezhivaye-viynu-
maliy-i-seredniy-biznes-v-ukrajini-doslidzhennya-
50326420.html 3. BBC News Ukraine (2023). The year of the great war of
Russia against Ukraine in 10 figures. https://www.bbc.com/ukrainian/articles/ck5ylk3rj0zo 4. Berezyuk, S., Gontaruk, Y., & Yasinska, B. (2023). Ensuring
food security of the state in the conditions of military
operations. Economy and society, 47. https://doi.org/10.32782/2524-0072/2023-47-44 14. Kovalova, O. V. (2020). Derzhavni oriientyry realizatsii
innovatsiinykh provaideriv strukturnoi polityky ahrarnoho
sektora ekonomiky Ukrainy. Biznes Inform, 6, 159–166. https://doi.org/10.32983/2222-4459-2020-6-159-166 5. Bioko, V., & Bioko, L. (2022). Food security and risks for
agricultural production during the war in Ukraine. Economy
and society, 41. https://doi.org/10.32782/2524-0072/2022-
41-27 15. Kuznyetsova, A., Sydorchenko, T., Zadvorna, O.,
Nikonenko, U., & Khalina, O. (2021). Assessment of aspects
of the COVID-19 crisis in the context of ensuring economic
security. International Journal of Safety and Security
Engineering, 11(6), 615-622. https://doi.org/10.18280/ijsse.110601 6. Bobukh, I.M. et al. (2018). National and global
determinants of economic growth of Ukraine: scientific
report; NAS of Ukraine DU "Institute of economics" the
forecast of NAS Ukraine", K., 2018. 390 p. http://ief.org.ua/docs/sr/299.pdf 16. Kuznyetsova, A., Garafonova, O., Yankovoi, R., Zhosan, H.,
& Lomachynska, I. (2023). Development of an International
Marketing Strategy for Domestic Enterprises During a State
of War. Marketing and Management of Innovations, 14(4),
200–211. https://doi.org/10.21272/mmi.2023.4-15 7. Borshchevskyy, V. V., Zasadko, V. V., & Vasylytsya, O. B. (2022). Zakhidnyy rehion Ukrayiny v umovakh suchasnykh
vyklykiv hlobalizatsiyi: stratehichne planuvannya rozvytku v
konteksti nablyzhennya do YeS. Rehional'na ekonomika,
104(2), 25-34. https://doi.org/10.36818/1562-0905-2022-
2-3 17. Lytvyn, N., Andrushchenko, H., Zozulya, Y. V., Nikanorova,
O. V., & Rusal, L. M. (2022). Enforcement of court decisions
as a social guarantee of protection of citizens rights and
freedoms. Prawo i Wiez, 2022(39), 80-102. https://doi.org/10.36128/priw.vi39.351 8. Brezhnyeva-Yermolenko, O.V., Zolotaryova, O.V., &
Moskalenko, K.O. (2018). Determinants Of Investment
Activity of Commercial Banks. FUNDING DOI: 10.55643/fcaptp.2.55.2024.4170 457 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 REFERENCES Methodological aspects of ensuring the economic and
military-economic stability of the state in the conditions of
war. Social Development and Security, 13(4), 137-146. https://doi.org/10.33445/sds.2023.13.4.11 36. Shtunder, I., Kushnir, S., Perevozova, I., Kalinina, S.,
Savchenko, E., & Nitsenko, V. (2022). Sustainable
development of the economy in the conditions of the
energy crisis. Naukovyi Visnyk Natsionalnoho Hirnychoho
Universytetu, 4, 156-161. https://doi.org/10.33271/nvngu/2022-4/156 25. Oliinyk, O. S., Shestopalov, R. M., Zarosylo, V. O.,
Stankovic, M. I., & Golubitsky, S. G. (2022). Economic
security through criminal policies: A comparative study of
Western and European approaches. Revista Cientifica
General Jose Maria Cordova, 20(38), 265-285. https://doi.org/10.21830/19006586.899 37. Sumets, A., Kniaz, S., Heorhiadi, N., Skrynkovskyy, R., &
Matsuk, V. (2022a). Methodological Toolkit for Assessing
the Level of Stability of Agricultural Enterprises. Agricultural
and Resource Economics, 8(1), 235-255. https://doi.org/10.51599/are.2022.08.01.12 26. Omelchuk, O. M., Haiur, I. Y., Kozytska, O. G., Prysiazhna,
A. V., & Khmelevska, N. V. (2022). Analysis of the activities
of law enforcement authorities in the field of combating
crime and corruption offences. Journal of Money Launde
ring Control, 25(3), 700-716. https://doi.org/10.1108/JMLC-
07-2021-0073 38. Sumets, A., Tyrkalo, Y., Popovych, N., Poliakova, J., &
Krupin, V. (2022b). Modeling of the Environmental Risk
Management System of Agroholdings Considering the
Sustainable Development Values. Agricultural and Resource
Economics, 8(4), 244-265. https://doi.org/10.51599/are.2022.08.04.11 27. Onyshchenko, S., Hlushko, A., & Zagorulko, T. (2023). Challenges and threats to the socio-economic security of
Ukraine under martial law. Economy and region, 1(88),
135-143. https://doi.org/10.26906/EiR.2023.1(88).2888 28. Pashchenko, O. M. (2022). Problems of legal enforcement
of food security under martial law. South Ukrainian Law
Journal, 1-2, 283-291. https://doi.org/10.32850/sulj.2022.1-2.50 39. Sytnyk, H. P., Zubchyk, O. A., & Orel, M. H. (2022). Conceptual Understanding of the Peculiarities of Managing
Innovation-Driven Development of the State in the Current
Conditions. Science and Innovation, 18(2), 3-15. https://doi.org/10.15407/scine18.02.003 29. Petrychenko, V., Petrychenko, O., Fedoryshyna, L.,
Kravchuk, O., Korniichuk, O., & Nitsenko, V. (2022). Agricultural Production in Ukraine: Ecological Challenges
and Impact on the Quality of Life. Financial and Credit
Activity Problems of Theory and Practice, 4(45), 374–384. https://doi.org/10.55643/fcaptp.4.45.2022.3782 40. Ukraine Recovery Plan (2022). https://recovery.gov.ua/en 41. Ukrinform (2023a, March 25). Only about 11.7 million
people are economically active in Ukraine. https://www.ukrinform.ua/rubric-economy/3732011-v-
ukraini-ekonomicno-aktivnimi-e-lise-blizko-117-miljona-
ludej.html 30. Pylypiv, I. (2023, May 6). Global investment giant
BlackRock will help the Development Fund of Ukraine. Economic truth. https://www.epravda.com.ua/news/2023/05/6/699839/ 42. Ukrinform (2023b, Jule 19). The UN assessed the
consequences of the Russian invasion for Ukrainians - how
incomes fell. https://www.ukrinform.ua/rubric-
economy/3724982-oon-ocinila-naslidki-rosijskogo-
vtorgnenna-dla-ukrainciv-ak-vpali-dohodi.html 31. REFERENCES Economy and Society, 19,
948-954. https://economyandsociety.in.ua/journals/19_ukr/142.pdf 18. Maiorova, T.V. (2013). Investytsiinyi protses i finansovo-
kredytni vazheli yoho aktyvizatsii v Ukraini: monohrafiia. K.:
KNEU, 332 s. https://core.ac.uk/download/pdf/32610803.pdf 9. Buriak, Y., Redko, K., Chornovol, А., & Orlenko, О. (2022). Socio-economic aspects of the sustainable development of
Ukraine in the conditions of war (European integration
aspects). Scientific Notes of Lviv University of Business and
Law, 34, 135-143. http://dx.doi.org/10.5281/zenodo.7221052 19. Martynovych, N. (2023). Applied imperatives of assessing
the socio-economic efficiency of the post-war development
of the regions of Ukraine. Problems and Prospects of
Economics and Management, 1(33), 98–113. https://doi.org/10.25140/2411-5215-2023-1(33)-98-113 20. Mazaraki, А., & Melnyk, T. (2022). Economic security of
Ukraine under the conditions of Russian aggression. Scientia·fructuosa. Bulletin of the Kyiv National University of
Trade and Economics, 145(5), 4–28. https://doi.org/10.31617/1.2022(145)01 10. Chernyshova, O., Chornovol, А., & Myronchuk, V. (2022). Functioning of the financial sector of Ukraine under
conditions of maritime. Economy and society, 38. https://doi.org/10.32782/2524-0072/2022-38-49 11. Havrysh, V.I., & Nitsenko, V.S. (2016). Current state of
world alternative motor fuels market. Actual problems of
economics, 7(181), 41-52. https://www.google.com/url?sa=i&url=http%3A%2F%2Fds
pace.onu.edu.ua%3A8080%2Fbitstream%2F123456789%2
F20286%2F1%2F41-
52.pdf&psig=AOvVaw0D4bj4SlBT69RmIwjAv3ze&ust=1711 21. Mironova, N., Koptieva, H., Liganenko, I., Sakun, A., &
Chernyak, D. (2022). Modeling the selection of innovative
strategy for development of industrial enterprises. WSEAS
Transactions on Business and Economics, 19, 278-291. https://doi.org/10.37394/23207.2022.19.26 DOI: 10.55643/fcaptp.2.55.2024.4170 458 FINANCIAL AND CREDIT ACTIVITY: PROBLEMS OF THEORY AND PRACTICE
Volume 2 (55), 2024 22. Mulska, O., Vasyltsiv, T., Shushkova, Y., Kloba, L., &
Parfenyuk, Y. (2022). Assessment of the Population's Social
Resilience Environment (The Case of the Carpathian Region
of Ukraine). Problems and Perspectives in Management,
20(1), 407-421. https://doi.org/10.21511/ppm.20(1).2022.33 33. Romanovska, Y., Kozachenko, G., Pogorelov, Y., Pomazun,
O., & Redko, K. (2022). Problems of development of
economic security in Ukraine: challenges and opportunities. Financial and credit activity: problems of theory and
practice, 5(46), 249-257. https://doi.org/10.55643/fcaptp.5.46.2022.3906 23. National institute for strategic studies (2023, May 31). Actual challenges and threats for economic security of
Ukraine in conditions of martial law. https://niss.gov.ua/publikatsiyi/analitychni-
dopovidi/aktualni-vyklyky-ta-zahrozy-ekonomichniy-
bezpetsi-ukrayiny-v 34. Shevchuk, I., & Omelchuk, L. (2023). Systematic analysis of
the sphere of economic security of ukraine in conditions of
limited resources in the context of the policy of sustainable
development. Socio-Economic Relations in the Digital
Society, 3(49), 40-50. https://doi.org/10.55643/ser.3.49.2023.507 24. Ohrenych, Y., & Dibrova, V. (2023). Economic security of
industrial enterprises in Ukraine: state, problems and
directions for improvement. Taurian Scientific Bulletin. Series: Economy, 15, 180-191. https://doi.org/10.32782/2708-0366/2023.15.22 35. Shemayeva, L., Onofriychuk, A., & Onofriychuk, V. (2023). Данкевич А., Стоянова-Коваль С., Польова О., Лось З., Бурдейна Н., Казак О. анкевич А., Стоянова-Коваль С., Польова О., Лось З., Бурдейна Н., Казак О. СТАН ЕКОНОМІЧНОЇ БЕЗПЕКИ ТА НАПРЯМИ ВІДНОВЛЕННЯ СОЦІАЛЬНО-ЕКОНОМІЧНОГО
РОЗВИТКУ Й ПРОДОВОЛЬЧОЇ БЕЗПЕКИ В УМОВАХ ВІЙНИ Ключові слова: економічна безпека, соціально-економічний розвиток, продовольча безпека, напрями
відновлення економіки, впливи війни REFERENCES Rebryk, M., & Haiduchenko, S. (2023). Problem aspects of
ensuring the socio-economic development of the state in
the conditions of war. Current issues in modern science,
10(16), 269-280. https://doi.org/10.52058/2786-6300-
2023-10(16)-269-280 43. Ukrinform (2023d, May 30). The National Bank predicts a
gradual reduction in the unemployment rate. https://www.ukrinform.ua/rubric-economy/3715972-
nacbank-prognozue-postupove-skorocenna-rivna-
bezrobitta.html 32. Redziuk, Y. (2023). State, Problems and Factors Inhibiting
the Development of Business Activity In Ukraine. Strategy
of Economic Development of Ukraine, 51, 35–49. https://doi.org/10.33111/sedu.2022.51.035.049 44. Ukrinform (2023с, Jule 06). Real wages in the private
sector have practically stopped falling - NBU review. DOI: 10.55643/fcaptp.2.55.2024.4170 459 ФІНАНСОВО-КРЕДИТНА ДІЯЛЬНІСТЬ: ПРОБЛЕМИ ТЕОРІЇ ТА ПРАКТИКИ
Том 2 (55), 2024 rehionalnykh doslidzhen imeni M. I. Dolishnoho NAN
Ukrainy». Lviv. http://ird.gov.ua/irdp/p20210037.pdf
46. Zayed, N. M., Edeh, F. O., Darwish, S., Islam, K. M. A.,
Kryshtal, H., Nitsenko, V., & Stanislavyk, O. (2022). Human
resource skill adjustment in service sector: Predicting
dynamic capability in post COVID-19 work environment. Journal of Risk and Financial Management, 15(9), 402. https://doi.org/10.3390/jrfm15090402 https://www.ukrinform.ua/rubric-economy/3719622-realni-
zarplati-u-privatnomu-sektori-prakticno-pripinili-padinna-
oglad-nbu.html 46. Zayed, N. M., Edeh, F. O., Darwish, S., Islam, K. M. A.,
Kryshtal, H., Nitsenko, V., & Stanislavyk, O. (2022). Human
resource skill adjustment in service sector: Predicting
dynamic capability in post COVID-19 work environment. Journal of Risk and Financial Management, 15(9), 402. https://doi.org/10.3390/jrfm15090402 45. Vozniak, H.V. et al. (2021). Finansovi determinanty
ekonomichnoho zrostannia rehioniv i terytorialnykh hromad
Ukrainy v koordynatakh povedinkovoi ekonomiky: naukovo-
analitychna dopovid; NAN Ukrainy. DU «Instytut 45. Vozniak, H.V. et al. (2021). Finansovi determinanty
ekonomichnoho zrostannia rehioniv i terytorialnykh hromad
Ukrainy v koordynatakh povedinkovoi ekonomiky: naukovo-
analitychna dopovid; NAN Ukrainy. DU «Instytut Данкевич А., Стоянова-Коваль С., Польова О., Лось З., Бурдейна Н., Казак О. DOI: 10.55643/fcaptp.2.55.2024.4170 СТАН ЕКОНОМІЧНОЇ БЕЗПЕКИ ТА НАПРЯМИ ВІДНОВЛЕННЯ СОЦІАЛЬНО-ЕКОНОМІЧНОГО
РОЗВИТКУ Й ПРОДОВОЛЬЧОЇ БЕЗПЕКИ В УМОВАХ ВІЙНИ Метою дослідження є визначення стану економічної безпеки, напрямів забезпечення її рівня та напрямів віднов-
лення соціально-економічного розвитку за сукупного впливу загроз. Для реалізації цієї мети наведено експертну
оцінку складових економічної безпеки та вказано на необхідність за умов війни враховувати також складову воєнно-
економічної безпеки. Указано, що завдання нейтралізації загроз воєнно-економічній безпеці відкриває нові вікна
можливостей, зокрема можливості забезпечення соціально-економічного розвитку. Визначені передумови викори-
стання зазначених вікон можливостей. Указано на динамічний характер загроз війни, зміни їхнього впливу за на-
прямами, що вимагає інституційних заходів щодо перманентного моніторингу динамічних загроз, їх оперативної
аналітичної оцінки та запровадження тактики нейтралізації загроз і зменшення їхнього довгострокового негативного
впливу. Надано аналіз стану економічної безпеки, указані напрями покращення цього стану за складовими еконо-
мічної безпеки. Визначені основні фактори, від яких залежить добробут населення країни, проаналізовано впливи
криз на показники рівнів доходів і витрат населення, установлені драйвери погіршення добробуту. Зазначено, що
погіршення соціально-економічного становища домогосподарств обумовило звуження внутрішнього ринку, що не-
гативно вплинуло на функціонування МСП та призвело до звуження відтворення їхнього основного капіталу, зни-
ження економічної ефективності функціонування, скорочення їх кількості чи ліквідації бізнесу. Указано, що це утво-
рило негативний зворотний мультиплікативний вплив на соціально-економічне становище населення. Зазначене
обумовлює необхідність спрямування національних економічних програм на розширення внутрішнього ринку. Ви-
значено негативні впливи криз, які призвели до скорочення обсягів виробництва в аграрній галузі. Указано, що це
значно обмежило можливості виконання галуззю завдань продовольчої безпеки. Запропоновані напрями змен-
шення негативного впливу війни на агровиробництво для забезпечення продовольчої безпеки. Конкретизовано
напрями фінансування за окремими загальнодержавними програмами підвищення рівня економічної та продоволь-
чої безпеки, відновлення соціально-економічного розвитку; надані рекомендації щодо нейтралізації загроз економі-
чній і продовольчій безпеці та відновлення соціально-економічного розвитку. Ключові слова: економічна безпека, соціально-економічний розвиток, продовольча безпека, напрями
відновлення економіки впливи війни Ключові слова: економічна безпека, соціально-економічний розвиток, продовольча безпека, напрями
відновлення економіки, впливи війни JEL Класифікація: E20, E31, J49, M21, O11, O23 DOI: 10.55643/fcaptp.2.55.2024.4170 460
|
https://openalex.org/W4312949111
|
http://real.mtak.hu/155516/1/32_NWS_2022_Csirmazne.pdf
|
Hungarian
| null |
Nemzetközi kiadványazonosítók és kötelespéldányok kezelése az OSZK OKP (Országos Könyvtári Platform) rendszerében
| null | 2,022
|
cc-by
| 4,336
|
Szerkesztette: Tick József, Kokas Károly, Holl András
Tipográfia és tördelés: Vas Viktória
Networkshop
2022. április 20–22. Debreceni Egyetem, konferencia előadásainak közleményei
ISBN 978-615-82243-0-7
DOI: 10.31915/NWS.2022
Kiadja a HUNGARNET Egyesület
az MTA Könyvtár és Információs Központ közreműködésével
Budapest
2022
Borítókép: freepik.com
A kötet megjelenését támogatta az
Energiaügyi Minisztérium NETWORKSHOP 2022 TARTALOMJEGYZÉK Előszó......................................................................................................................................................... 5
Lencsés Ákos: A nyílt tudomány pénzügyi vonatkozásai................................................................ 7
Farkas Katalin: Centenáriumi média-adattár és virtuális kiállítás létrehozásának
tanulságai az SZTE Klebelsberg Könyvtárban...........................................................................13
Bódog András: A nyílt archívumi információs rendszer (OAIS) szabványának
honosítása..........................................................................................................................................20
Perlaki Attila: Oktatást segítő gamifikációs alkalmazások, mint szakdolgozati témák...........27
Csapó Noémi – Dani Erzsébet: APPropó fejlődés – A Bács-Kiskun Megyei
Katona József Könyvtár mobilapplikációja.................................................................................32
Simon András: Integrált könyvtári rendszerek tranzakciós rekordjainak vizsgálata,
a könyvtári állomány digitalizálásának tervezésekor................................................................41
Németh Márton: Az OSZK Webarchívum nemzetközi kapcsolatai �������������������������������������������58
Antal Péter: A mesterséges intelligencia kihívásai a XXI. század társadalmára.......................70
Hajdu Csaba – Szilágyi Zoltán: Modern robotikai technológiai ismeretek oktatása
„Teljes spektrumú” oktatási módszerrel......................................................................................77
T. Nagy László – Boda István Károly – Tóth Erzsébet: E-tananyagfejlesztés virtuális
3D környezetben.............................................................................................................................84
Palencsárné Kasza Marianna: Digitális átállás – Minőség – lehetőségek
az EQAVET terén.............................................................................................................................92
Nagy Gyula: Nemzetközi kitekintés a felsőoktatási könyvtárak világára:
a EUGLOH könyvtári workshopja................................................................................................99
Babocsay Gergely: Az európai természettudományi gyűjtemények digitális integrációja:
határ a csillagos ég........................................................................................................................ 108
Somorjai Noémi: Egyenlőtlenségek a tudományos kutatás területén. Az amatőr kutatók szerepe......................................................................................................... 114
Molnár Dániel – Dani Erzsébet: Robotok a könyvtárban:
Hogyan válhat a robotika a könyvtári mindennapok részévé? ������������������������������������������122
Horváthné Felföldi Helga: Digitalizáció a szakképzésben. A Szakmajegyzékben
szereplő szakmák digitáliskompetencia jártassági szintjeinek felülvizsgálata ����������������130
Kalcsó Gyula: Ne csak útra csomagoljunk! Miért fontos a csomagolás a digitális megőrzésben? ........................................................... 138
Karsa Zoltán István – Szeberényi Imre: A CIRCLE felhő elmúlt évtizede �����������������������������146
Bobák Barbara – Kasza Péter: Az MI lehetőségei a kora újkori filológiában:
Johannes Michael Brutus Rerum Ungaricarum libri kéziratának
digitális kiadása (esettanulmány) .............................................................................................. 154
Egyed-Gergely Júlia – Vajda Róza, Gárdos Judit – Horváth Anna – Meiszterics Enikő –
Micsik András – Martin Dániel – Marx Attila – Pataki Balázs – Siket Melinda:
Szociológia, kutatási adatok, mesterséges intelligencia:
lehetőségek és tapasztalatok..................................................................................................... 161
Szemes Botond – Bajzát Tímea – Fellegi Zsófia – Kundráth Péter – Horváth Péter –
Indig Balázs – Dióssy Anna – Hegedüs Fanni – Pantyelejev Natali – Sziráki Sarolta –
Vida Bence – Kalmár Balázs – Palkó Gábor:
Az ELTE Drámakorpuszának létrehozása és lehetőségei
170 3 Sebestyén Ádám: Az ELTEdata szemantikus adatbázis legújabb fejlesztései........................ 179
Szlamka Erzsébet: Új trendek a tanulási eredmények tanúsításában ������������������������������������185
Tóth Máté – Héjja Balázs: Webshop indítása közkönyvtári környezetben ���������������������������192
Etlinger Mihály – Hernády Judit: A kiadás hagyatéka / a hagyaték kiadása:
A Régi Magyar Költők Tárának hálózati kiadásáról.................................................................. 199
Varga Emese – Makkai T. Csilla: „Ki a fenének kell collstok?”
A digitális szöveg rejtett mértékegységei ............................................................................... Nemzetközi kiadványazonosítók és kötelespéldányok kezelése az OSZK OKP
(Országos Könyvtári Platform) rendszerében NETWORKSHOP 2022 Csirmazné Rezi Éva
Országos Széchényi Könyvtár
rezi.eva@oszk.hu NETWORKSHOP 2 Absztrakt: Régi vágya az Országos Széchényi Könyvtárnak, hogy a nemzeti
könyvtári feladatok ellátására fejlesztetett különböző adatbázisok és
nyilvántartások egy rendszerben legyenek kezelve. Különös tekintettel arra
a törekvésre, hogy a már egyszer valahol rögzített kiadványadat vagy kiadói
információ ne vesszen el, hanem kísérje végig a kiadványt a feldolgozási
munkafolyamaton. ft Az Országos Könyvtári Platform úgynevezett KAPU moduljának azon részét
mutatom be, amely az OSZK Kötelespéldány- és Kiadványazonosító-kezelő
Osztály munkafolyamatait érinti. A KAPU modulnak – többek között – feladata
a nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN) kiutalása és a kapcsolódó
kiadói adatok biztonságos kezelése, a kiadványazonosítók felhasználásának
ellenőrzése, továbbá a kötelespéldányok érkeztetési és szétosztási adatainak
nyilvántartása.f Kulcsszavak: Országos Könyvtári Platform, Országos Széchényi Könyvtár,
nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN), kötelespéldány Kulcsszavak: Országos Könyvtári Platform, Országos Széchényi Könyvtár,
nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN), kötelespéldány Kulcsszavak: Országos Könyvtári Platform, Országos Széchényi Könyvtár,
nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN), kötelespéldány Szerkesztette: Tick József, Kokas Károly, Holl András
Tipográfia és tördelés: Vas Viktória
Networkshop
2022. április 20–22. Debreceni Egyetem, konferencia előadásainak közleményei
ISBN 978-615-82243-0-7
DOI: 10.31915/NWS.2022
Kiadja a HUNGARNET Egyesület
az MTA Könyvtár és Információs Központ közreműködésével
Budapest
2022
Borítókép: freepik.com
A kötet megjelenését támogatta az
Energiaügyi Minisztérium 204
Dobás Kata – Fazekas Júlia: ITIdata – Egy irodalmi adatbázis fejlesztése Wikibase
alapon és ennek hasznosítása Kosztolányi Dezső forrásjegyzékénél ������������������������������211
Sörény Edina: Kézai Simon Program – digitális családi fotóarchívum ������������������������������������219
Fülöp Tiffany – Molnár Tamás – Hoczopán Szabolcs: Open Monograph Press
e-könyvplatform a Szegedi Tudományegyetemen ................................................................ 227
Palkó Gábor: Mesterséges intelligencia, digitális bölcsészet, kulturális örökség:
trendek és eredmények............................................................................................................... 235
Pergéné Szabó Enikő – Bátfai Mária Erika: A tudományos publikálás támogatása
a Debreceni Egyetemi és Nemzeti Könyvtárában ................................................................ 241
Csirmazné Rezi Éva: Nemzetközi kiadványazonosítók és kötelespéldányok kezelése
az OSZK OKP (Országos Könyvtári Platform) rendszerében ���������������������������������������������250
Alföldi István – Dióssy Anna Laura: Digitálisan született kutatási anyagok megőrzése:
a relációs adatbázis mint born-digital objektum ................................................................... 262
Fekete Norbert: HTR-modellépítés és kézírásfelismerés nagyméretű, többszerzős
szövegkorpuszon. A Transkribus alkalmazása az Arany János hivatali iratokon.............. 271
Horváth Péter – Kundráth Péter – Palkó Gábor: ELTE Népdalkorpusz – magyar
népdalok gépileg annotált adatbázisa...................................................................................... 276
Nagy György: IKT eszközök alkalmazása az alsó tagozatos
környezetismeret órákon............................................................................................................ 284
Köpösdi Zsuzsa – Molnár Tamás: Multimédiás, interaktív és adaptív tananyagok
létrehozásának lehetőségei H5P keretrendszerrel................................................................ 289
Jankó Tamás: Munka 4.0 – Ipar 4.0 – Szakképzés 4.0 – :
A digitális kompetencia jövőbeni fejlesztési útjai.................................................................. 296
Békésiné Bognár Noémi Erika – Nagy Andor: Megújuló könyvtári statisztika:
az egységes adatstruktúra és a korszerű megjelenítés kialakításának útján................... 304
Bolya Mátyás: Kéziratos dallamlejegyzések feldolgozása MI-vel támogatott
digitális környezetben.................................................................................................................. 310
Maróthy Szilvia – Seláf Levente – Vigyikán Villő: Régi magyar verskorpusz összeállítása
stilometriai és számítógépes metrikai kutatásokhoz............................................................ 324
Szűcs Kata Ágnes: Kéziratos források transzformációinak lehetőségei
a közgyűjteményekben................................................................................................................ 330
Fellegi Zsófia: A digitális filológia infrastruktúrái. A DigiPhil megújulásáról.......................... 338
Mihály Eszter: Mi az a dHUpla? A Digitális Bölcsészeti Platform bemutatása...................... 345
Nemeskey Dávid Márk – Palkó Gábor: Szemantikus névelem-azonosítás
magyar nyelvű szövegeken (a HuWikifier bemutatása) ....................................................... 359 NETWORKSHOP 2022 4 DOI: 10.31915/NWS.2022.32 DOI: 10.31915/NWS.2022.32 DOI: 10.31915/NWS.2022.32 Bevezető Az Országos Széchényi Könyvtárban már korábban is készültek különböző tervek és
specifikációk arra vonatkozóan, hogy a nemzetközi kiadványazonosítók kezelését,
hogyan lehetne összekapcsolni a kötelespéldányok érkeztetésével, illetve az így létrejött
rekordkezdeményeket, milyen módon lehetne áttölteni a nemzeti könyvtár integrált könyvtári
rendszerébe. Az Országos Könyvtári Platform (a továbbiakban OKP) egy olyan új szemléletű, rugalmas
könyvtári rendszer, amely bővíti az integrált könyvtári rendszerek funkcióit, megvalósítja a
nemzetközi kiadványazonosítók (ISBN, ISMN, ISSN) és kötelespéldányok kezelését. Mi volt a cél a kiadványazonosítók és a kötelespéldányok nyilvántartásának megújításával? Mi volt a cél a kiadványazonosítók és a kötelespéldányok nyilvántartásának megúj Mi volt a cél a kiadványazonosítók és a kötelespéldányok nyilvántartásának megújításával? -
Nyilvántartási rendszereink korszerűsítése (több adat tárolásának lehetősége és azok
több szempontú visszakereshetőségének biztosítása).i -
Partnereink (testületi- és magánkiadók, kötelespéldányból részesülő könyvtárak)
munkájának hatékonyabb támogatása. -
Partnereink (testületi- és magánkiadók, kötelespéldányból részesülő könyvtárak)
munkájának hatékonyabb támogatása. -
A könyvtári feldolgozó munkafolyamatok felgyorsítása.i -
A könyvtári feldolgozó munkafolyamatok felgyorsítása.i -
Az információk (dokumentumok bibliográfiai metaadatai, kiadványok kiadáshoz és
kötelespéldány elosztáshoz kapcsolódó adatok) egyszeri rögzítésének biztosítása és
a párhuzamos nyilvántartások és munkafolyamatok megszüntetése. -
Az információk (dokumentumok bibliográfiai metaadatai, kiadványok kiadáshoz és
kötelespéldány elosztáshoz kapcsolódó adatok) egyszeri rögzítésének biztosítása és
a párhuzamos nyilvántartások és munkafolyamatok megszüntetése. p
y
y
g
-
A különböző nyilvántartások összekapcsolása oly módon, hogy az OSZK integrált
rendszerének is részévé váljanak. -
A különböző nyilvántartások összekapcsolása oly módon, hogy az OSZK integrált
rendszerének is részévé váljanak. 250 Hogyan tudjuk biztosítani az egyszeri adatrögzítést és az információk akadálymentes
továbbítását? Hogyan tudjuk megakadályozni a munkafolyamatok ismétlődését? Legrövidebben a következőképp válaszolhatunk erre: az eddig különálló nyilvántartásainkat
összekapcsoljuk és egy rendszerben kezeljük az adatokat. Ez így nagyon egyszerűen hangzik,
de a megvalósítás során sok problémába ütköztünk. Az 1. számú ábrán nyomon követhető,
hogy az összekapcsolt és újragondolt nyilvántartásunkban mit is jelent az információáramlás
egy adott mű kiadása során. Vagyis, hogyan jutunk el egy kiadói ötlettől a könyvtári
rendszerben létrejövő bibliográfiai rekordhoz? 1. ábra Hogyan lesz egy kiadói ötletből bibliográfiai rekord? 1. ábra Hogyan lesz egy kiadói ötletből bibliográfiai rekord? Természetesen nem csak kiadványadatokat kezelünk az új rendszerben, hanem partneri, pl. kiadói adatokat is, amelyek a szigorú GDPR-szabályozás miatt fokozott figyelmet igényeltek
a rendszer kialakítása során. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
ill tő
? Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? Elsősorban abban, hogy az OSZK integrált rendszerének részeként, egy adatbázisban kezeli
mind a nemzetközi azonosítók számkiutalását, mind a számkiutaláshoz kapcsolódó kiadók
nyilvántartását, illetve a kötelespéldányok érkeztetését és szétosztását is. A kötelespéldány-
érkeztetéskor létrejött bibliográfiai rekordkezdemény pedig jó alapot nyújt a feldolgozó
könyvtáros kollégák számára a teljes bibliográfiai rekord elkészítéséhez. A nemzetközi kiadványazonosító számok (ISBN, ISSN, ISMN) magyarországi bevezetése
különböző időpontokban történt. Ezért is kapcsolódtak különböző nyilvántartások, majd
később adatbázisok a számkiutalásokhoz. Hazánkban 1974-ben kezdték el alkalmazni
az ISBN- (International Standard Book Number), majd 1977-től az ISSN- (International
Standard Serial Number) azonosítókat. A nemzetközi gyakorlatban az ISBN-t már 1970-
től, míg az ISSN-t, illetve annak elődjét, az ISDS-azonosítót 1972-től használták. Az ISMN-
(International Standard Music Number) azonosítók alkalmazása 1993-ban indult el, mely
rendszerhez 2001-ben csatlakozott Magyarország. A kiadványazonosítók használatát
nemzetközi szabványok (lásd 2. ábra) írják elő, ugyanakkor hazánkban jogszabály nem teszi
kötelezővé ezeknek az alkalmazását. 251 2. ábra Nemzetközi kiadványazonosítók 2. ábra Nemzetközi kiadványazonosítók NETWORKSHOP 2022 NETWORKSHOP 2 2. ábra Nemzetközi kiadványazonosítók 2. ábra Nemzetközi kiadványazonosítók 2. ábra Nemzetközi kiadványazonosítók A kiadói partneri nyilvántartás az ISBN-számkiutalásokkal egyidőben kezdett el épülni azoknak
a kiadóknak az adataiból, amelyek bármikor is ISBN-számigényléssel fordultak a Magyar
ISBN Nemzeti Központhoz. A jelenleg hatályos 717/2020. (XII. 30.) Korm. rendeleten1
alapuló kötelespéldányokból való részesülés pedig a nemzeti könyvtár alapításától (1802-től)
fontos eszköze az állománygyarapításnak. Természetesen a kötelespéldányként beküldött
kiadványok nem minden példányát a nemzeti könyvtár őrzi, hiszen a kormányrendelet
alapján más országos szakkönyvtárak és egyes egyetemi könyvtárak is részesülnek a
kötelespéldányokból. Többek között ezért volt fontos, hogy a kötelespéldány-nyilvántartás
is része legyen az OKP Kapu moduljának. Milyen követelményeknek kellett megfelelnie az új rendszernek? t
A fejlesztő munkatársak nem voltak egyszerű helyzetben. Nemcsak az eddig jól működő
számkiutaló rendszereket, a kötelespéldány-érkeztetést és elosztást kellett összekapcsolniuk,
hanem új elvárásoknak is meg kellett felelni. A legtöbb fejtörést a kiadványazonosító számok
nem megfelelő használata és a hiányos impresszumú kiadványok kezelése okozta. Az OKP ISBN/ISMN-kezelő része felé támasztott alapkövetelmények Az OKP ISBN/ISMN-kezelő része felé támasztott alapkövetelmények
Mivel az ISBN- és az ISMN-azonosítók felépítése hasonló, így a számkezelésekhez kapcsolódó
követelmények is szinte teljesen megegyeztek: Mivel az ISBN- és az ISMN-azonosítók felépítése hasonló, így a számkezelésekhez kapcsolódó
követelmények is szinte teljesen megegyeztek: Mivel az ISBN- és az ISMN-azonosítók felépítése hasonló, így a számkezelésekhez kapcsolódó
követelmények is szinte teljesen megegyeztek: -
ISBN/ISMN-számkiutalás kezelése előzetes adatok alapján. 1
717/2020. (XII. 30.) Korm. rendelet a kiadványok kötelespéldányainak szolgáltatásáról, megőrzéséről és
hasznosításáról: https://njt.hu/jogszabaly/2020-717-20-22 (Hozzáféres: 2022.04.20.) Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? A kiadók által megadott
kiadói és kiadvány adatok alapján kiadói rekordok és előzetes kiadványrekordok
létrehozása.t -
ISBN/ISMN-számellenőrzés biztosítása a beérkezett kiadványok alapján. A
kötelespéldányként vagy egyéb forrásból beszerzett kiadványok alapján a felhasznált
ISBN- és ISMN-számok ellenőrzése, jóváhagyása, javítása vagy törlése, az előzetes
rekordok véglegesítése. -
Az ISBN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag (978),
országkód (963) vagy (615), kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző
számjegy. Az új ISBN-azonosító elemeinek automatikus generálása vagy irányított
létrehozása és kezelése. 252 3. ábra ISBN-szám vonalkóddal
-
Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0,
országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása
és kezelése. 3. ábra ISBN-szám vonalkóddal 3. ábra ISBN-szám vonalkóddal -
Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0,
országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása
és kezelése. -
Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0,
országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása
és kezelése. -
Az ISMN-azonosító elemeinek önálló kezelése. Ezek a következők: előtag 979-0,
országkód nincs, kiadói kód vagy gyűjtőszámkód, kiadványelem, ellenőrző számjegy. Az új ISMN-azonosító elemeinek automatikus generálása vagy irányított létrehozása
és kezelése. 4. ábra ISMN-szám vonalkóddal 4. ábra ISMN-szám vonalkóddal -
10 és 13 jegyű ISBN/ISMN-azonosítók párhuzamos kezelése. Az azonosító számok
nagymennyiségű kiutalása miatt 2007-ben a Nemzetközi ISBN Ügynökség, illetve
2008-ban a Nemzetközi ISMN Ügynökség is átállt a 13 számjegyű azonosító számokra. Az új rendszernek mind a 10, mind a 13 jegyű kiadványazonosító számokat kell tudnia
kezelni. -
10 és 13 jegyű ISBN/ISMN-azonosítók párhuzamos kezelése. Az azonosító számok
nagymennyiségű kiutalása miatt 2007-ben a Nemzetközi ISBN Ügynökség, illetve
2008-ban a Nemzetközi ISMN Ügynökség is átállt a 13 számjegyű azonosító számokra. Az új rendszernek mind a 10, mind a 13 jegyű kiadványazonosító számokat kell tudnia
kezelni. -
Többkötetes műveknél az össz-ISBN/ISMN kezelése. Többkötetes műveknél mindig
egy ISBN-nel, illetve ISMN-nel többet utalunk ki a kiadványokra, mint ahány kötetből
áll a mű. Ez a plusz azonosító az úgynevezett össz-ISBN, illetve össz-ISMN, melyet
minden kötetben fel kell tüntetni.itt -
Sorozati művek kezelése. A sorozatok előre meg nem határozott időtartamra tervezett
kiadványok, amelyek egymást követő részegységekből állnak. Lehetnek számozott
vagy számozatlan sorozatok. A könyv- vagy kottasorozatok egésze ISSN-t, míg egyes
kötetei ISBN-t, illetve ISMN-t kapnak. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? A sorozatokat meg kell különböztetni azoktól a
többkötetes könyvektől és többkötetes kottáktól, melyek meghatározott számú kötet
megjelenésével válnak teljessé, így ISSN-szám helyett össz-ISBN-számot kapnak. gj
j
gy
yt
p
-
Közös kiadások kezelése. Ha több kiadó közösen jelentet meg egy könyvet, általában
annak a kiadónak az ISBN-je szerepel a könyvön, amelyik kiadó a terjesztésre jogosult. Lehetőség van arra is, hogy minden résztvevő kiadó feltüntesse a saját ISBN-jét; a
kiadványban, ebben az esetben jelölni kell azt is, hogy melyik szám melyik kiadóhoz
tartozik. 253 Az OKP ISSN-kezelő része felé támasztott alapkövetelmények Az OKP ISSN-kezelő része felé támasztott alapkövetelmények Az OKP ISSN-kezelő része felé támasztott alapkövetelmények NETWORKSHOP 2022 -
ISSN-számigényléshez kapcsolódó adatbekérő felület kialakítása kiadványtípusok
szerint. A bekért kiadványadatok alapján döntést kell hozni, hogy időszaki kiadványnak
vagy folyamatosan frissülő integráló dokumentumnak minősíthető-e egy adott
kiadvány. Ezért olyan adatbekérő felületet kellett kialakítani, amely minden olyan
információt tartalmaz, amely alapján a Magyar ISSN Nemzeti Központ jól minősítheti
a kiadásra szánt dokumentumot. NETWORKSHOP 2 -
ISSN azonosítóra nem jogosult kiadványok kiszűrése. Az időszaki kiadványok és
folytatódó dokumentumok nem minden típusát látja el ISSN-azonosítóval a Magyar
ISSN Nemzeti Központ, ezért a lehető legpontosabb adatbekérő űrlap elkészítésére
volt szükség. -
Előzetes és utólagos ISSN-számkiutalás biztosítása. Az ISSN nyolc számjegyből
álló numerikus kód, amelynek elemei – a könyveket azonosító ISBN-től eltérően -
Előzetes és utólagos ISSN-számkiutalás biztosítása. Az ISSN nyolc számjegyből
álló numerikus kód, amelynek elemei – a könyveket azonosító ISBN-től eltérően
– semmiféle jelentést nem hordoznak, csupán azonosító funkciót töltenek be. A nyolcadik számjegy ellenőrző számjegy, mely az előző hétből számítható ki, és
0-tól 10-ig terjedhet. A 10-es számjegyet római szám helyettesíti, azaz: X. Az ISSN
feltüntetése két, egyenként négy számjegyet tartalmazó adatcsoportban történik,
amelyeket kötőjel kapcsol össze, és az ISSN betűkód előz meg. – semmiféle jelentést nem hordoznak, csupán azonosító funkciót töltenek be. A nyolcadik számjegy ellenőrző számjegy, mely az előző hétből számítható ki, és
0-tól 10-ig terjedhet. A 10-es számjegyet római szám helyettesíti, azaz: X. Az ISSN
feltüntetése két, egyenként négy számjegyet tartalmazó adatcsoportban történik,
amelyeket kötőjel kapcsol össze, és az ISSN betűkód előz meg. 5. ábra ISSN-szám vonalkóddal 5. ábra ISSN-szám vonalkóddal 5. ábra ISSN-szám vonalkóddal 5. ábra ISSN-szám vonalkóddal Az ISBN és ISMN számkiutalással ellentétben ISSN-azonosítót a már korábban
megjelent kiadványra is lehet igényelni, illetve kiutalni. Ezért a fejlesztés során meg
kellett oldani, hogy a modulban a már megjelent és a még megjelenés előtt álló
kiadványra egyaránt lehessen ISSN számot igényelni/kiutalni. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? -
ISSN-számok kiutalásáról értesítés küldése. A kiadóktól, szerkesztőségektől
beérkezett kiadványadatok, illetve a megküldött kiadványtervek alapján megszületik
a döntés az ISSN-szám kiutalásról vagy a kérés elutasításáról. Ez az információ a
modul partneri felületén keresztül jut el az igénylőhöz. -
ISSN-számok kiutalásáról értesítés küldése. A kiadóktól, szerkesztőségektől
beérkezett kiadványadatok, illetve a megküldött kiadványtervek alapján megszületik
a döntés az ISSN-szám kiutalásról vagy a kérés elutasításáról. Ez az információ a
modul partneri felületén keresztül jut el az igénylőhöz. -
Későbbiekben a rendszer közvetlen összekapcsolása a nemzetközi ISSN-regiszterrel. A jelenlegi rendszer úgy lett kialakítva, hogy az ISSN-igényléshez szükséges adatok
bekérése és a számigénylők értesítése nincs közvetlenül összekapcsolva a nemzetközi
ISSN Regiszterrel, ahol az időszaki kiadványok és a folyamatosan frissülő integráló
dokumentumok adatai rögzítésre kerülnek. Ennek oka, hogy az ISSN Regiszter jelenleg
megújítás alatt áll. -
Későbbiekben a rendszer közvetlen összekapcsolása a nemzetközi ISSN-regiszterrel. A jelenlegi rendszer úgy lett kialakítva, hogy az ISSN-igényléshez szükséges adatok
bekérése és a számigénylők értesítése nincs közvetlenül összekapcsolva a nemzetközi
ISSN Regiszterrel, ahol az időszaki kiadványok és a folyamatosan frissülő integráló
dokumentumok adatai rögzítésre kerülnek. Ennek oka, hogy az ISSN Regiszter jelenleg
megújítás alatt áll. 254 Az OKP kötelespéldány-kezelő része felé támasztott alapkövetelmények Az OKP kötelespéldány-kezelő része felé támasztott alapkövetelménye -
Feleljen meg a hatályos kötelespéldányról szóló kormányrendeletnek. 2021. január 1-én lépett hatályba a 717/2020. (XII.30.) Korm. rendelet a kiadványok
kötelespéldányainak szolgáltatásáról, megőrzéséről és használatáról. A hatályos
rendelet a korábbi jogszabálynál részletesebben taglalja az elektronikus formában
megjelent kiadványok kezelését, a kötelespéldányok elosztását, az 50 példányszámnál
kevesebb példányban készült kiadványok beküldését és a nyomtatott kiadvánnyal
megegyező elektronikus változat beküldését. Az új rendszert az eddigi kötelespéldány-
kezelés mellett ezekre az új funkciókra is fel kellett készíteni. -
Kezelje a nyomtatott és elektronikus formában is megjelenő kiadványok
kötelespéldányainak érkeztetését és elosztását. A fejlesztők számára nagy kihívást
jelentett a rendszer kialakítása során, hogy az azonos művek különböző megjelenési
formáira (pl. nyomtatott kötött, nyomtatott fűzött, elektronikus e-pub, elektronikus
mobi, hangoskönyv) kiutalt kiadványazonosító számokat gyakran felcserélik a kiadók és
ezek kötelespéldányai nem is feltétlenül egy időben érkeznek be a nemzeti könyvtárba. -
A kötelespéldányok érkeztetésénél eddig nem használt új adatmezőket is tudjon
kezelni (pl. oldalszám, kötés típusa, illusztráltság, várható megjelenés dátuma, évjelzés
típusa, gerincméret, reklamáció jelzése, melléklet jelölése). -
A kötelespéldányok érkeztetésénél eddig nem használt új adatmezőket is tudjon
kezelni (pl. oldalszám, kötés típusa, illusztráltság, várható megjelenés dátuma, évjelzés
típusa, gerincméret, reklamáció jelzése, melléklet jelölése). -
Egy adott kiadvány többszöri beérkezését is tudja kezelni. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? Naponta találkozunk olyan
kötelespéldányként beérkezett kiadványokkal, amelyekre egészen más előzetes
címen kértek kiadványazonosító számot. Miben jelent újdonságot az OKP rendszer Kapu modulja az osztályunk munkafolyamatait
illetően? Egy kiadványból
utánnyomások készülhetnek, amelyekből beérkeznek a kötelespéldányok, ezeket
újból és újból érkeztetnünk kell. -
Azonos kiadványazonosítóval, de különböző kiadásjelzéssel megjelenő kiadványok
érkeztetése. Sajnos nem minden kiadó jár el szabályszerűen akkor, amikor nem
igényel új kiadványazonosító számot a korábban megjelent kötetek újabb kiadásaira. Így előfordul, hogy azonos ISBN- vagy ISMN-számhoz több kiadás és így több
kötelespéldány beküldés is tartozik. -
Azonos kiadványazonosítóval megjelenő kiadásváltozatok (nyomtatott, elektronikus,
kötött- fűzött stb.) érkeztetése. A különböző kiadásjelzéssel megjelenő kiadványokhoz
hasonlóan néhány kiadó elfelejt a kiadásváltozatokra is külön azonosító számot
igényelni és egy ISBN, ISMN, vagy ISSN számon jelenteti meg a nyomtatott és
elektronikus változatokat is. -
A számkiutaláskor megadott kiadó megváltozásának kezelése. Előfordul, hogy
az előzetes számkiutaláskor más kiadót ad meg a számigénylő, mint ami végül a
kiadványban szerepel. Ez leginkább az ISBN- és ISMN-számkiutalásnál jelent nagyobb
problémát, hiszen egyes kiadók rendelkeznek saját számtartománnyal, amiből történik
részükre a számkiutalás. -
Az előzetes kiadványazonosítóval rendelkező kiadványok, ISBN, illetve ISMN nélküli
megjelenésének kezelése. A kötelespéldány érkeztetés során számos esetben
találkozunk olyan kiadvánnyal, melyhez igényelt a kiadó kiadványazonosító számot,
de végül nem tüntette fel azt a megjelent kiadványban. -
Egy kiadványazonosító két különböző kiadványra történő felhasználásának kezelése. Előfordul, hogy tévedésből egy kiadványazonosító számot két különböző kiadványra
is felhasznál egy kiadó, legtöbbször kiadói, vagy nyomdai adminisztrációs hiba miatt. -
Egy kiadványazonosító két különböző kiadványra történő felhasználásának kezelése. Előfordul, hogy tévedésből egy kiadványazonosító számot két különböző kiadványra
is felhasznál egy kiadó, legtöbbször kiadói, vagy nyomdai adminisztrációs hiba miatt. -
A kiadványban és a vonalkódban feltüntetett eltérő azonosító kezelése. Gyakori hiba,
hogy a kiadványban szereplő ISBN, ISMN vagy ISSN eltér a vonalkódban feltüntetett
azonosítótól. Általában a vonalkódban szerepel a jó azonosító szám. 255 -
Kevesebb vagy több példányban, utólag beérkezett kiadványok kezelése. Sajnos
nagyon ritka az olyan nyomdai vagy kiadói szállítmány, ahol ne lenne probléma a
beküldött példányszámokkal. Szerencsére partnereink mindig megküldik a hiányzó
példányokat, de azok érkeztetése később történik, mint az alappéldányoké. NETWORKSHOP 2022 NETWORKSHOP 2 -
Melléklet nélkül érkezett kiadványok kezelése. Előfordul, hogy a nyomdából érkező
kiadványokból hiányoznak a mellékletek, melyeket a kiadóktól kell utólag bekérnünk. -
Melléklet nélkül érkezett kiadványok kezelése. Előfordul, hogy a nyomdából érkező
kiadványokból hiányoznak a mellékletek, melyeket a kiadóktól kell utólag bekérnünk. -
Az előzetestől eltérő című kiadványok érkeztetése. Naponta találkozunk olyan
kötelespéldányként beérkezett kiadványokkal, amelyekre egészen más előzetes
címen kértek kiadványazonosító számot. -
Az előzetestől eltérő című kiadványok érkeztetése. Partnerek kezelése Mind a kiadványazonosító számok kiutalása során, mind a kötelespéldányok kezelése
folyamán különböző külső partnerekkel kerül kapcsolatba a nemzeti könyvtár. Ezeket a
partnereket három nagyobb csoportba sorolhatjuk: -
kiadók (testületi és magánkiadók) -
kötelespéldány beszolgáltatók (nyomdák, kiadók, szerzők, közreműködők, stb.) kötelespéldány beszolgáltatók (nyomdák, kiadók, szerzők, közreműködők, stb.) -
Az OSZK-nak beszolgáltatandó kötelespéldányokból részesülő könyvtárak (nemzeti
könyvtárak, országos szakkönyvtárak, egyes egyetemi könyvtárak) -
Az OSZK-nak beszolgáltatandó kötelespéldányokból részesülő könyvtárak (nemzet
könyvtárak, országos szakkönyvtárak, egyes egyetemi könyvtárak) Jellemzően egy intézmény csak egy típusba sorolható, de vannak olyan partnereink, akik akár
több szerepkörrel is rendelkeznek. Előfordul például, hogy egy könyvtár saját kiadásában
jelentet meg műveket, amelyeknek kötelespéldányait ő maga szállítja be a nemzeti
könyvtárba, emellett a 717/2020. (XII.30.) Korm. rendelet alapján kötelespéldányválogató-
joggal rendelkező intézmény is. Ebben az esetben az adott könyvtárnál mindhárom szerepkör
teljesül. A partneri rendszer kialakítása során az alábbiakra kellett figyelnünk: A partneri rendszer kialakítása során az alábbiakra kellett figyelnünk: -
Testületi partnerek és magánszemélyek megkülönböztetése. Elsődlegesen a GDPR-
előírások betartása miatt van erre szükség. -
Testületi partnerek és magánszemélyek megkülönböztetése. Elsődlegesen a GDPR-
előírások betartása miatt van erre szükség. -
Több szerepkörben is aktív partnerek definiálása. -
Partneri névváltozatok kezelése. -
Partneri átalakulások (pl. jogutód nélküli megszűnés, jogutódlás, összeolvadás
kezelése) -
Partneri átalakulások (pl. jogutód nélküli megszűnés, jogutódlás, összeolvadás
kezelése) -
Gyűjtőszámos kiadói partnerek kezelése. A saját kiadói azonosítóval nem rendelkező
alkalmi kiadók leválasztása oly módon, hogy az esetlegesen megnövekvő kiadványszám
tükrében önálló, saját kiadói azonosítóval rendelkező kiadóvá válhassanak. -
Gyűjtőszámos kiadói partnerek kezelése. A saját kiadói azonosítóval nem rendelkező
alkalmi kiadók leválasztása oly módon, hogy az esetlegesen megnövekvő kiadványszám
tükrében önálló, saját kiadói azonosítóval rendelkező kiadóvá válhassanak. 256 Mindezek tükrében hogy áll az új rendszer? Hosszas tesztelési időszakot követően jelenleg éles adatokkal dolgozunk mind a partneri
nyilvántartás (6-7. ábra), mind az ISBN és ISMN azonosító kiutalás és ellenőrzés (8-9-10. ábra), mind a kötelespéldány-érkeztetés és szétosztás (11-15. ábra) során. 6. ábra Partnerek keresése/listázása
7. ábra Partneradatok szerkesztése Mindezek tükrében hogy áll az új rendszer? Hosszas tesztelési időszakot követően jelenleg éles adatokkal dolgozunk mind a partneri
nyilvántartás (6-7. ábra), mind az ISBN és ISMN azonosító kiutalás és ellenőrzés (8-9-10. ábra), mind a kötelespéldány-érkeztetés és szétosztás (11-15. ábra) során. Hosszas tesztelési időszakot követően jelenleg éles adatokkal dolgozunk mind a partneri
nyilvántartás (6-7. ábra), mind az ISBN és ISMN azonosító kiutalás és ellenőrzés (8-9-10. ábra), mind a kötelespéldány-érkeztetés és szétosztás (11-15. ábra) során. 6. ábra Partnerek keresése/listázása 6. ábra Partnerek keresése/listázása
7. Partnerek kezelése ábra Partneradatok szerkesztése
8. ábra ISBN-számkiutalás. Alapadatok 6. ábra Partnerek keresése/listázása
7. ábra Partneradatok szerkesztése 6. ábra Partnerek keresése/listázása 7. ábra Partneradatok szerkesztése 7. ábra Partneradatok szerkesztése
8 ábra ISBN számkiutalás Alapadatok 8. ábra ISBN-számkiutalás. Alapadatok 257 NETWORKSHOP 2022
9 áb
ISBN
á ki t lá
S á ki
tá i d t k NETWORKSHOP 2022
9 ábra ISBN-számkiutalás Számkiosztási adatok NETWORKSHOP 2022 NET
9. ábra ISBN-számkiutalás. Számkiosztási adatok
10. ábra Számkiosztási adatok. Dokumentumadatok
11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 9. ábra ISBN-számkiutalás. Számkiosztási adatok 9. ábra ISBN-számkiutalás. Számkiosztási adatok 9. ábra ISBN-számkiutalás. Számkiosztási adatok 9. ábra ISBN számkiutalás. Számkiosztási adatok
10. ábra Számkiosztási adatok. Dokumentumadatok 10. ábra Számkiosztási adatok. Dokumentumadatok 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 11. ábra Kötelespéldány érkeztetés. Kiadvány kiválasztása 258 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai
13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai
13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 12. ábra Kötelespéldány érkeztetés. Kiadvány alapadatai
13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 13. ábra Kötelespéldány érkeztetés. Dokumentumok metaadatai. 259 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai
15. ábra Kötelespéldány-elosztás
Milyen feladatok várnak még ránk? -
Partneri felület indítása. Reményeink szerint a partneri felület elsősorban a 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai NETWORKSHOP 2022 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai 14. ábra Kötelespéldány-érkeztetés. Szállítás alapadatai 15. ábra Kötelespéldány-elosztás 15. ábra Kötelespéldány-elosztás 15. ábra Kötelespéldány-elosztás Milyen feladatok várnak még ránk? -
Partneri felület indítása. Reményeink szerint a partneri felület elsősorban a
kiadók részére fog óriási segítséget nyújtani, hiszen egy felületen keresztül
fognak tudni mind ISBN, ISMN és ISSN azonosítót igényelni és kiadói
adataikat módosítani. Nyomon tudják a jövőben követni az összes részükre
kiutalt nemzetközi azonosító számot és az azokhoz tartozó kiadványok adatait. Ellenőrizhetik, hogy saját kiadványaikból beérkeztek-e a kötelespéldányok. -
Partneri felület indítása. Reményeink szerint a partneri felület elsősorban a
kiadók részére fog óriási segítséget nyújtani, hiszen egy felületen keresztül
fognak tudni mind ISBN, ISMN és ISSN azonosítót igényelni és kiadói
adataikat módosítani. Nyomon tudják a jövőben követni az összes részükre
kiutalt nemzetközi azonosító számot és az azokhoz tartozó kiadványok adatait. Ellenőrizhetik, hogy saját kiadványaikból beérkeztek-e a kötelespéldányok. -
Pályázati igazolások kezelésnek tesztelése. A modul úgy lett kialakítva,
hogy a pályázati támogatás révén megjelent és beszolgáltatásra került
kötelespéldányokról igazolásokat állítson ki a pályázatkezelő részére. -
Pályázati igazolások kezelésnek tesztelése. Partnerek kezelése A modul úgy lett kialakítva,
hogy a pályázati támogatás révén megjelent és beszolgáltatásra került
kötelespéldányokról igazolásokat állítson ki a pályázatkezelő részére. 260 -
Az előforduló adatmigrációs hibák javítása. Az adatmigráció több rendszerből
egy rendszerbe történt, ezért keletkeztek duplikált rekordok, amelyeket ki kell
szűrni néhány egyéb adatmigrációs hiba javítása mellett. -
A katalogizáló és gyarapítási modulhoz kapcsolódás ellenőrzése. Amint az
OKP katalogizáló és gyarapítási modulja is éles adatokkal kezd majd dolgozni,
ellenőrizni kell a kiadványrekordok hibátlan áttöltését. Források Források ágos Könyvtári Platform honlapja. https://okp.oszk.hu/ (Hozzáférés: 2022.04.20.) 1. Országos Könyvtári Platform honlapja. https://okp.oszk.hu/ (Hozzáférés: 202 2. Országos Széchényi Könyvtár honlapja. ISBN, ISMN menüpont. Kapcsolódó
tartalmak
http://www.oszk.hu/sites/default/files/ISBN-utmutato-%2020121220. pdf (Hozzáférés: 2022.04.20.) p
3. Országos Széchényi Könyvtár honlapja. ISBN, ISMN menüpont. Kapcsolódó
tartalmak http://www.oszk.hu/sites/default/files/ISMN_utmutato.pdf (Hozzáférés:
2022.04.20.) 4. Országos Széchényi Könyvtár honlapja. ISSN menüpont. Kapcsolódó tartalmak
http://www.oszk.hu/sites/default/files/ISSN%20utmutato-2012.pdf
(Hozzáférés:
2022.04.20.) 5. Országos Széchényi Könyvtár honlapja. Kötelespéldányok menüpont. Kapcsolódó
tartalmak
http://www.oszk.hu/sites/default/files/magyar-kozlony-koteles-
rendelet-2021.pdf (Hozzáférés: 2022.04.20.) 261
|
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.